Twitter kullanıcılarını korumak (bazen kendilerinden bile)

Del Harvey, Twitter Güven ve Güvenlik Ekibi Başkanı. Dünya çapındaki insanlar için ses verirken, bütün gün en kötü senaryoları nasıl önleyeceği konusunda düşünüyor -- istismar, troller, taciz. Duygusuz mizah anlayışı ile 240 milyon kullanıcıyı nasıl güvende tuttuğunu gösteren bir pencere sunuyor.

Twitter'daki işim

kullanıcıların güvenliğini sağlamak,

kullanıcı haklarını ve
kullanıcıların güvenliğini

birbirinden ve

bazen de kendilerinden korumak.

Twitter'ın nasıl göründüğüne dair
bir ölçekten bahsedeyim.

Ocak 2009'a döndüğümüzde:

Twitter'da günde 2 milyon twit atıldığını

görüyoruz.

Ocak 2014'te ise 500 milyondan fazla.

Yani, 6 dakikadan daha az bir süre içinde

2 milyon twit görüyorduk.

Bu, %24.900'lük bir artış.

Twitter'daki faaliyetin büyük çoğunluğu

kimseyi tehlikeye sokmuyor.

Hiçbir risk yok.

Benim görevim olabilecek riskleri
araştırmak ve engellemek.

Kulağa basit geliyor, değil mi?

Kolay olduğunu bile düşünebilirsiniz.

Söylediğim gibi, Twitter'daki

etkinliklerin çoğu kimseyi
tehlikeye sokmuyor.

Neden zararsız şeylerin içindeki

potansiyel felaketleri araştırmak için

çok fazla zaman harcayalım?

Az önceki ölçeğin bize söylediğine göre

milyonda birlik bir ihtimal, Twitter'da

günde 500 defa oluyor.

Bu ölçek türünde iş yapan

diğer şirketler için de aynı.

Bizim için böylesi ender ve

istenmeyen, normalde
karşılaşılmayan durumlar,

daha çok standart olaylar olur.

Diyelim ki twitlerin %99,999'u

kimse için bir risk değil.

Hiçbir tehdit içermiyor.

Belki insanlar Avustralya'daki ünlü

Heart Reef tatillerini belgeliyorlar,

bir konser hakkında twit atıyorlar

ya da küçük şirin hayvanların
fotoğrafını paylaşıyorlar.

Bütün o 99,999 oranı çıkarttıktan sonra,

geriye kalan twitlerin kabaca küçücük

bir yüzdesi kalıyor.

Ayda 150 bin tane.

Bu, aslında bizim meydan okuma için

gerçekte ne ölçekte
uğraştığımızı gösteriyor.

Benim pozisyonumun başka

ne gibi zorlukları vardır?

İnsanlar garip şeyler yapar.

(Kahkahalar)

Ve ben ne yaptıklarını,
neden yaptıklarını ve

davranışlarının, içerik olarak
veya arka planda

herhangi bir risk içerip içermediğini

anlamak zorundayım.

Twitter'da benim dönemimde gerçekleşen

örneklerden birkaçını göstereceğim.

-- Tamamı gerçek --

İlk başta önceden planlanmış gibiydi

ama aslında gerçekte

tamamen farklıydı.

Masumları ve bazı durumlarda suçluları

korumak için

detaylar değiştirilmiştir.

Kolaydan başlayacağız.

["Seni o..."]

Bir Twit'in sadece bu kısmını görürseniz;

kendinizce şunu düşünebilirsiniz,

"Bu bir taciz gibi görünüyor."

Sonuçta, neden bu mesajı
almak isteyesiniz:

"Seni o..."

Son trend ve internette
komiklik ifadelerinden

olabildiğince haberdar olmaya çalışıyorum.

Yani "Seni o..."'nun,
popüler "Breaking Bad"

kaynaklı olmasının yanı sıra,
arkadaşlar arasında

sık kullanılan bir selamlaşma terimi
olduğunu biliyorum.

İtiraf ediyorum,
dördüncü bir kullanım örneği ile

karşılaşacağımı beklemiyordum.

İnsanlar ayrıca Twitter'da köpek taklidi

yaparken de kullanılıyor.

(Kahkahalar)

Aslında bu durumda,

bu sadece küfürlü değil,

teknik olarak tam bir selamlaşma.

(Kahkahalar)

Peki tamam, bir şeyin içerik olmadan küfür

olup olmadığını belirlemek

kesinlikle zor.

İstenmeyen maillere (Spam) bakalım.

Burada klasik spamci davranışı ile

ilgili bir hesap örneği var,

tam olarak aynı mesajı binlerce

kişiye gönderiyor.

Bu, hesabımı kullanarak
bir araya getirdiğim bir model.

Bunu her zaman yapan hesapları görüyoruz.

Oldukça hilesiz görünüyor.

Bu tarz davranışlarda bulunan hesapları

otomatik olarak askıya almalıyız.

Bu kurala istisna olan bazı durumlar var.

Yukarıdan geçen Uluslararası Uzay
İstasyonu'nun

bildirim listesine katıldıysanız, bu
mesaj bir bildirim olarak da çıkabilir,

çünkü dışarı çıkıp bakmak istediniz,

acaba uzay istasyonunu
görebilecek miydiniz.

Eğer hesabın spam olduğunu düşünüp

yanlışlıkla askıya alırsak,

bu şansı elde edemeyeceksiniz.

Tamam. Hadi bahsi artıralım.

Yine klasik davranış sergileyen

hesabıma geri dönelim.

Bu sefer aynı mesajı ve
bağlantıyı gönderiyor.

Bu sıkça kullanılan kimlik avı adında
bir şeyin göstergesidir,

başka bir internet sitesine yönlendirerek,

başka birinin hesap
bilgilerini çalmaya çalışan biri.

Açıkçası iyi bir şey değil.

Bu tür davranış sergileyen

hesapları askıya almayı istiyoruz.

Peki neden bunun için
bahisler daha yüksek?

Bu da bir polis memurunun
şiddet uygulamayan bir

protestocuyu dövmesini videoya kaydeden

ve ne olduğunu dünyanın öğrenmesini
sağlamaya çalışan

mitingdeki bir görgü tanığı olabilir.

Çok hayati olan bu konuşmayı,
spam olarak

sınıflandırıp potansiyel olarak
askıya alıp

susturacak bir kumar oynamak istemiyoruz.

Bu, hesap davranışlarına bakarken
yüzlerce parametreyi

değerlendirdiğimiz anlamına geliyor

ve yine de hata yapabiliyoruz

ve bunu yeniden değerlendirmek zorundayız.

Karşılaştığım zorluklara bakıldığında,

sadece önceden tahmin etmek değil,

aynı zamanda beklenmedik durumlar için
önlemler tasarlamak da çok önemli.

Bu sadece benim ya da Twitter için
bir sorun değil,

sizin için de bir sorun.

Bu, harika olacağını
düşündüğünüz ve insanların

harika şeyler yapmasını sağlayan şeyleri

yapan veya yaratan herkes için bir sorun.

Peki, ben ne yapıyorum?

Durup düşünüyorum,

bu şeylerin tümü

nasıl korkunç şekilde yanlış gidebilir?

Felaketi görselleştiririm.

Bu zor. Bunu yaparken

bir tür doğal kavramsal uyumsuzluk var.

Aynen evlilik yemininizi yazarken,

aynı zamanda evlilik öncesi
anlaşma yapmak gibi.

(Kahkahalar)

Ama yine de yapmak zorundasınız,

özellikle günde 500 milyon
twitle evleniyorsanız.

Ben, "felaketi görselleştirmek" ile
ne anlatıyorum?

İyi huylu ve zararsız bir kedi resminin

nasıl ölüme yol açabilecek
bir şey olduğunu

ve önlemek için ne yapacağımı

düşünmeye çalışırım.

Bir sonraki örneğim bu olacak.

Bu benim kedim, Eli.

Kullanıcılara twitlerine fotoğraf ekleme

seçeneği vermek istedik.

Bir resim bin kelime değerindedir.

Sadece 140 karakteriniz var.

Twitinize bir fotoğraf ekleyin,

bakın, daha fazla içeriğe sahip oldunuz.

Bir twite fotoğraf ekleyerek
yapabileceğiniz

harika şeyler var.

Benim işim bunu düşünmek değil.

Neyin yanlış gidebileceğini düşünmek.

Bu resim nasıl olur da

ölüme yol açabilir?

Bir olasılık var.

O resimde bir kediden fazlası var.

Konum verisi var.

Akıllı telefon ya da kameranızla

bir fotoğraf çektiğinizde,

görüntüyle birlikte kaydedilen

bir sürü ek bilgi var.

Aslında bu görüntü de

daha özel olarak,

bunun eşdeğerini içeriyor.

Tabii ki kimsenin kedimin fotoğrafıyla

ilişkili görüntü verilerine dayanarak,

beni takip etme ve bana zarar vermeyi

deneme ihtimali pek yok

ama ben en kötü ihtimali
varsayarak başlarım.

Bu yüzden Twitter'da fotoğraf
paylaşımına başladığımızda

konum bilgilerini kapatmaya
karar verdik.

(Alkışlar)

En kötüyü varsayarak ve geriye dönük

çalışmaya başlarsam,

bekleyen ve beklenmeyen durumlar için

kurduğumuz çalışmaların

korunduğuna emin olabilirim.

Gündüzümü, gecemi,
en kötüsünün olabileceğini

hayal ederek geçirdiğim
göz önüne alındığında,

dünya görüşümün kasvetli olması
şaşırtıcı olmazdı.

(Kahkahalar)

Öyle değil.

Gördüğüm etkileşimlerin büyük
çoğunluğu pozitif,

-- büyük bölümü, inanın bana --

insanlara yardımcı olmak,
iletişim kurmak

ya da birbirleriyle bilgi paylaşmak için.

Sadece bu skala ile uğraşan ve

insanları güvende tutmaya görevli bizler,

olabilecek en kötü şeyi
düşünmek zorundayız,

çünkü bizim için milyonda bir şans

gerçekleşmesi oldukça
mümkün bir orandır.

Teşekkür ederim.

(Alkışlar)