Melindungi pengguna Twitter (terkadang dari diri mereka sendiri)

Del Harvey mengepalai Tim Kepercayaan dan Keselamatan di Twitter, dan ia berpikir sepanjang hari bagaimana mencegah skenario terburuk -- penganiayaan, lelucon, penguntitan -- sembari memberikan suara bagi orang di seluruh dunia. Dengan humor datarnya, ia menunjukkan bagaimana ia berusaha melindungi 240 juta pengguna tetap aman.

Pekerjaan saya di Twitter

adalah untuk menjaga kepercayaan pengguna,

melindungi hak mereka dan
menjaga keamanan mereka,

baik dari sesama pengguna,

dan kadang-kadang,
dari diri mereka sendiri.

Mari bicara tentang skalanya di Twitter.

Pada bulan Januari 2009,

kami melihat lebih dari 2 juta
kicauan baru setiap hari

di aplikasi ini.

Januari 2014, lebih dari 500 juta.

Ada 2 juta kicauan baru

dalam kurang dari 6 menit.

Artinya terjadi kenaikan sebesar
24.900 persen.

Nah, sebagian besar aktivitas di Twitter

tidak membahayakan siapapun.

Tidak ada resiko apa pun.

Tugas saya adalah untuk membasmi dan
mencegah aktivitas yang mungkin berbahaya.

Terdengar sederhana, bukan?

Mungkin Anda pikir itu mudah,

mengingat saya baru saja mengatakan

bahwa sebagian besar aktivitas di Twitter
tidak membahayakan siapa pun.

Kenapa menghabiskan banyak waktu

untuk mencari kemungkinan bahaya

dalam aktivitas yang aman-aman saja?

Mengingat skala Twitter saat ini,

satu dari sejuta kemungkinan
bahaya terjadi

500 kali tiap harinya.

Sama seperti perusahaan lain

yang menghadapi skala sebesar ini.

Bagi kami, kasus paling ekstrim,

situasi langka seperti itu
yang tidak mungkin terjadi,

sekarang seakan sudah menjadi norma.

Katakanlah 99,999% kicauan

tidak berbahaya bagi siapapun.

Tidak ada ancaman.

Mungkin orang-orang sedang
mendokumentasikan tempat wisata terkenal

seperti karang
Heart Reef di Australia,

atau berkicau tentang konser
yang mereka datangi,

atau berbagi foto bayi binatang lucu.

Setelah Anda menghilangkan 99,999% itu,

presentase sangat kecil dari
kicauan yang tersisa

jika dihitung kira-kira mencapai

150.000 kicauan per bulan.

Besarnya skala yang kita hadapi sekarang,

merupakan sebuah tantangan.

Anda tahu apa yang membuat pekerjaan saya

cukup menantang?

Orang-orang melakukan hal-hal aneh.

(Tertawa)

Dan saya harus mencari tahu
apa yang mereka lakukan,

kenapa, dan apakah ada resiko didalamnya,

yang seringkali tanpa konteks

atau latar belakang apapun.

Saya akan menunjukkan beberapa contoh

yang saya temukan saat
bekerja di Twitter --

ini semua adalah contoh nyata --

dari situasi yang awalnya
terlihat biasa saja,

namun sebenarnya merupakan sesuatu

yang sama sekali berbeda.

Detailnya sudah diubah

untuk melindungi yang tidak bersalah

dan kadang-kadang yang bersalah sekalipun.

Kita mulai dengan yang mudah.

["Hei Perempuan Jalang"]

Jika Anda melihat kicauan seperti ini,

Anda mungkin berpikir,

"Itu kelihatannya pelecehan."

Lagipula, mengapa Anda mau menerima pesan,

"Hei, Perempuan Jalang."

Nah, sekarang, saya mencoba
untuk tetap mengikuti

tren dan meme terbaru,

jadi saya tahu bahwa
"Hei, perempuan jalang"

seringkali adalah sapaan umum antar teman,

juga sebagai referensi film
"Breaking Bad" yang sedang populer.

Saya mengakui bahwa saya tidak mengira

adanya penggunaan keempat
dari ungkapan tadi.

Ternyata, di Twitter juga
ada hal seperti ini

dimana orang berpura-pura menjadi anjing.

(Tertawa)

Bahkan, untuk kasus tadi,

bukan saja tidak melecehkan,

namun secara teknis kicauan itu
hanyalah sapaan.

(Tertawa)

Oke, untuk menentukan apakah sesuatu

merupakan pelecehan
atau bukan tanpa konteks,

sungguhlah sulit.

Mari kita beralih ke spam.

Ini adalah contoh dari akun yang

memiliki ciri-ciri klasik spam,

yang mengirim pesan yang sama persis

ke ribuan orang.

Meski ini adalah contoh yang saya buat
dengan akun pribadi,

kita melihat akun-akun
seperti ini setiap saat.

Kelihatannya mudah saja.

Kita seharusnya tinggal menutup akun

yang melakukan perilaku seperti ini.

Ternyata, ada pengecualian
dalam peraturan itu.

Ternyata, pesan tersebut bisa saja
sebuah pemberitahuan

Anda mendaftar Stasiun Luar
Angkasa Internasional yang lewat

karena Anda ingin pergi ke luar

dan ingin melihatnya secara langsung

Anda tidak akan mendapat kesempatan itu

jika kami salah menghapus akun

karena berpikir itu spam.

Oke, kita ke contoh yang lebih sulit.

Kembali ke akun saya,

lagi-lagi terkait perilaku klasik.

Kali ini, aku saya mengirim pesan
dan tautan yang sama.

Hal ini seringkali diindikasikan
sebagai phishing,

seseorang mencoba untuk
mencuri informasi akun orang lain

dengan mengarahkan mereka ke suatu laman.

Jelaslah ini bukan hal yang bagus.

Kami ingin, dan akan, menghapus akun

yang berperilaku seperti itu.

Lalu kenapa yang ini lebih sulit?

Ternyata, kicauan ini bisa saja
saksi mata demonstrasi

dan dia berhasil merekam video

dari petugas polisi yang memukul
demonstran damai

dan akun ini memberitahu dunia
apa yang sedang terjadi.

Kami tidak ingin bertaruh

untuk membungkam berita yang krusial itu

dengan menganggapnya sebagai spam
dan menghapusnya.

Artinya, kami harus mengevaluasi
ratusan parameter

ketika melihat perilaku akun,

bahkan dengan itupun,
kami masih bisa salah

dan harus mengevaluasi ulang.

Nah, dengan tantangan-tantangan
yang saya hadapi,

penting diingat bahwa saya
tidak hanya memprediksi

namun juga mendesain proteksi
akan hal tidak terduga.

Dan itu bukan hanya menjadi masalah saya,

atau masalah Twitter,
itu juga masalah Anda.

Menjadi masalah siapapun
yang membangun atau membuat

sesuatu yang Anda pikir luar biasa

dan akan membuat orang
melakukan hal yang luar biasa.

Jadi, apa yang saya lakukan?

Saya berhenti sejenak dan berpikir,

Bagaimana semua ini

bisa menjadi sangat buruk?

Saya memvisualisasikan bencana besar.

Dan itu sulit. Ada semacam

disonansi kognitif yang melekat
untuk melakukannya,

seperti saat kalian menulis
sumpah pernikahan

dan saat yang bersamaan juga
menulis perjanjian pra-nikah.

(Tertawa)

Namun Anda tetap harus melakukannya,

khususnya jika Anda
menikahi 500 juta kicauan per hari.

Apa maksud saya "membayangkan bencana"?

Saya mencoba membayangkan bagaimana hal

yang begitu jinak dan tidak berbahaya
seperti gambar seekor kucing

bisa berujung kematian,

dan bagaimana cara mencegahnya.

Yang kebetulan menjadi
contoh saya berikutnya.

Ini kucing saya, Eli.

Kami ingin memberikan pengguna kemampuan

untuk menambahkan gambar
pada kicauan mereka.

Sebuah gambar bermakna ribuan kata.

Anda hanya punya 140 karakter.

Menambahkan gambar
pada kicauan Anda,

lihatlah banyaknya konten
yang Anda dapat sekarang.

Ada hal-hal hebat yang bisa Anda lakukan

dengan menambahkan gambar
pada kicauan Anda.

Tugas saya bukan untuk memikirkan itu.

Tapi memikirkan bagaimana
hal itu bisa menjadi buruk.

Bagaimana gambar ini

bisa berujung pada kematian saya?

Ada satu kemungkinan.

Gambar ini berisi lebih
dari sekedar kucing.

Tedapat geodata.

Jika Anda mengambil gambar
dengan smartphone Anda

atau kamera digital,

ada banyak informasi tambahan

tersimpan bersamaan di gambar itu.

Bahkan, gambar ini juga berisi

ekuivalen dari ini,

lebih spesifiknya, ini.

Tentu, agak tidak mungkin jika
seseorang mencoba

untuk melacak saya dan mencelakai saya

berdasarkan data gambar tersebut

ketika mengambil gambar kucing saya,

namun saya berimajinasi
hal yang terburuk akan terjadi.

Karena itu, saat kami
meluncurkan fitur gambar pada Twitter,

kami memutuskan untuk
menghapus geodata tersebut.

(Tepuk tangan)

Jika saya mulai dengan
membayangkan hal buruk

dan berpikir ke belakang

saya bisa pastikan perlindungan
yang kami bangun

bekerja untuk hal yang dapat diduga

dan yang tidak terduga.

Karena saya menghabiskan siang dan malam

membayangkan hal buruk terjadi,

tidak mengherankan
jika cara pandang saya suram.

(Tertawa)

Tapi tidak.

Mayoritas besar interaksi
yang saya lihat --

dan percayalah, saya melihat
banyak sekali -- interaksi positif,

orang-orang memberikan pertolongan

atau terhubung atau berbagi
informasi satu sama lain.

Hanya saja bagi kami yang
berurusan dengan skala ini,

dan ditugaskan untuk
menjaga orang-orang tetap aman,

kami harus membayangkan
yang terburuk akan terjadi,

karena bagi kami,
satu dari sejuta kemungkinan

adalah peluang yang besar.

Terima kasih.

(Tepuk tangan)