Pekerjaan saya di Twitter
adalah untuk menjaga kepercayaan pengguna,
melindungi hak mereka dan
menjaga keamanan mereka,
baik dari sesama pengguna,
dan kadang-kadang,
dari diri mereka sendiri.
Mari bicara tentang skalanya di Twitter.
Pada bulan Januari 2009,
kami melihat lebih dari 2 juta
kicauan baru setiap hari
di aplikasi ini.
Januari 2014, lebih dari 500 juta.
Ada 2 juta kicauan baru
dalam kurang dari 6 menit.
Artinya terjadi kenaikan sebesar
24.900 persen.
Nah, sebagian besar aktivitas di Twitter
tidak membahayakan siapapun.
Tidak ada resiko apa pun.
Tugas saya adalah untuk membasmi dan
mencegah aktivitas yang mungkin berbahaya.
Terdengar sederhana, bukan?
Mungkin Anda pikir itu mudah,
mengingat saya baru saja mengatakan
bahwa sebagian besar aktivitas di Twitter
tidak membahayakan siapa pun.
Kenapa menghabiskan banyak waktu
untuk mencari kemungkinan bahaya
dalam aktivitas yang aman-aman saja?
Mengingat skala Twitter saat ini,
satu dari sejuta kemungkinan
bahaya terjadi
500 kali tiap harinya.
Sama seperti perusahaan lain
yang menghadapi skala sebesar ini.
Bagi kami, kasus paling ekstrim,
situasi langka seperti itu
yang tidak mungkin terjadi,
sekarang seakan sudah menjadi norma.
Katakanlah 99,999% kicauan
tidak berbahaya bagi siapapun.
Tidak ada ancaman.
Mungkin orang-orang sedang
mendokumentasikan tempat wisata terkenal
seperti karang
Heart Reef di Australia,
atau berkicau tentang konser
yang mereka datangi,
atau berbagi foto bayi binatang lucu.
Setelah Anda menghilangkan 99,999% itu,
presentase sangat kecil dari
kicauan yang tersisa
jika dihitung kira-kira mencapai
150.000 kicauan per bulan.
Besarnya skala yang kita hadapi sekarang,
merupakan sebuah tantangan.
Anda tahu apa yang membuat pekerjaan saya
cukup menantang?
Orang-orang melakukan hal-hal aneh.
(Tertawa)
Dan saya harus mencari tahu
apa yang mereka lakukan,
kenapa, dan apakah ada resiko didalamnya,
yang seringkali tanpa konteks
atau latar belakang apapun.
Saya akan menunjukkan beberapa contoh
yang saya temukan saat
bekerja di Twitter --
ini semua adalah contoh nyata --
dari situasi yang awalnya
terlihat biasa saja,
namun sebenarnya merupakan sesuatu
yang sama sekali berbeda.
Detailnya sudah diubah
untuk melindungi yang tidak bersalah
dan kadang-kadang yang bersalah sekalipun.
Kita mulai dengan yang mudah.
["Hei Perempuan Jalang"]
Jika Anda melihat kicauan seperti ini,
Anda mungkin berpikir,
"Itu kelihatannya pelecehan."
Lagipula, mengapa Anda mau menerima pesan,
"Hei, Perempuan Jalang."
Nah, sekarang, saya mencoba
untuk tetap mengikuti
tren dan meme terbaru,
jadi saya tahu bahwa
"Hei, perempuan jalang"
seringkali adalah sapaan umum antar teman,
juga sebagai referensi film
"Breaking Bad" yang sedang populer.
Saya mengakui bahwa saya tidak mengira
adanya penggunaan keempat
dari ungkapan tadi.
Ternyata, di Twitter juga
ada hal seperti ini
dimana orang berpura-pura menjadi anjing.
(Tertawa)
Bahkan, untuk kasus tadi,
bukan saja tidak melecehkan,
namun secara teknis kicauan itu
hanyalah sapaan.
(Tertawa)
Oke, untuk menentukan apakah sesuatu
merupakan pelecehan
atau bukan tanpa konteks,
sungguhlah sulit.
Mari kita beralih ke spam.
Ini adalah contoh dari akun yang
memiliki ciri-ciri klasik spam,
yang mengirim pesan yang sama persis
ke ribuan orang.
Meski ini adalah contoh yang saya buat
dengan akun pribadi,
kita melihat akun-akun
seperti ini setiap saat.
Kelihatannya mudah saja.
Kita seharusnya tinggal menutup akun
yang melakukan perilaku seperti ini.
Ternyata, ada pengecualian
dalam peraturan itu.
Ternyata, pesan tersebut bisa saja
sebuah pemberitahuan
Anda mendaftar Stasiun Luar
Angkasa Internasional yang lewat
karena Anda ingin pergi ke luar
dan ingin melihatnya secara langsung
Anda tidak akan mendapat kesempatan itu
jika kami salah menghapus akun
karena berpikir itu spam.
Oke, kita ke contoh yang lebih sulit.
Kembali ke akun saya,
lagi-lagi terkait perilaku klasik.
Kali ini, aku saya mengirim pesan
dan tautan yang sama.
Hal ini seringkali diindikasikan
sebagai phishing,
seseorang mencoba untuk
mencuri informasi akun orang lain
dengan mengarahkan mereka ke suatu laman.
Jelaslah ini bukan hal yang bagus.
Kami ingin, dan akan, menghapus akun
yang berperilaku seperti itu.
Lalu kenapa yang ini lebih sulit?
Ternyata, kicauan ini bisa saja
saksi mata demonstrasi
dan dia berhasil merekam video
dari petugas polisi yang memukul
demonstran damai
dan akun ini memberitahu dunia
apa yang sedang terjadi.
Kami tidak ingin bertaruh
untuk membungkam berita yang krusial itu
dengan menganggapnya sebagai spam
dan menghapusnya.
Artinya, kami harus mengevaluasi
ratusan parameter
ketika melihat perilaku akun,
bahkan dengan itupun,
kami masih bisa salah
dan harus mengevaluasi ulang.
Nah, dengan tantangan-tantangan
yang saya hadapi,
penting diingat bahwa saya
tidak hanya memprediksi
namun juga mendesain proteksi
akan hal tidak terduga.
Dan itu bukan hanya menjadi masalah saya,
atau masalah Twitter,
itu juga masalah Anda.
Menjadi masalah siapapun
yang membangun atau membuat
sesuatu yang Anda pikir luar biasa
dan akan membuat orang
melakukan hal yang luar biasa.
Jadi, apa yang saya lakukan?
Saya berhenti sejenak dan berpikir,
Bagaimana semua ini
bisa menjadi sangat buruk?
Saya memvisualisasikan bencana besar.
Dan itu sulit. Ada semacam
disonansi kognitif yang melekat
untuk melakukannya,
seperti saat kalian menulis
sumpah pernikahan
dan saat yang bersamaan juga
menulis perjanjian pra-nikah.
(Tertawa)
Namun Anda tetap harus melakukannya,
khususnya jika Anda
menikahi 500 juta kicauan per hari.
Apa maksud saya "membayangkan bencana"?
Saya mencoba membayangkan bagaimana hal
yang begitu jinak dan tidak berbahaya
seperti gambar seekor kucing
bisa berujung kematian,
dan bagaimana cara mencegahnya.
Yang kebetulan menjadi
contoh saya berikutnya.
Ini kucing saya, Eli.
Kami ingin memberikan pengguna kemampuan
untuk menambahkan gambar
pada kicauan mereka.
Sebuah gambar bermakna ribuan kata.
Anda hanya punya 140 karakter.
Menambahkan gambar
pada kicauan Anda,
lihatlah banyaknya konten
yang Anda dapat sekarang.
Ada hal-hal hebat yang bisa Anda lakukan
dengan menambahkan gambar
pada kicauan Anda.
Tugas saya bukan untuk memikirkan itu.
Tapi memikirkan bagaimana
hal itu bisa menjadi buruk.
Bagaimana gambar ini
bisa berujung pada kematian saya?
Ada satu kemungkinan.
Gambar ini berisi lebih
dari sekedar kucing.
Tedapat geodata.
Jika Anda mengambil gambar
dengan smartphone Anda
atau kamera digital,
ada banyak informasi tambahan
tersimpan bersamaan di gambar itu.
Bahkan, gambar ini juga berisi
ekuivalen dari ini,
lebih spesifiknya, ini.
Tentu, agak tidak mungkin jika
seseorang mencoba
untuk melacak saya dan mencelakai saya
berdasarkan data gambar tersebut
ketika mengambil gambar kucing saya,
namun saya berimajinasi
hal yang terburuk akan terjadi.
Karena itu, saat kami
meluncurkan fitur gambar pada Twitter,
kami memutuskan untuk
menghapus geodata tersebut.
(Tepuk tangan)
Jika saya mulai dengan
membayangkan hal buruk
dan berpikir ke belakang
saya bisa pastikan perlindungan
yang kami bangun
bekerja untuk hal yang dapat diduga
dan yang tidak terduga.
Karena saya menghabiskan siang dan malam
membayangkan hal buruk terjadi,
tidak mengherankan
jika cara pandang saya suram.
(Tertawa)
Tapi tidak.
Mayoritas besar interaksi
yang saya lihat --
dan percayalah, saya melihat
banyak sekali -- interaksi positif,
orang-orang memberikan pertolongan
atau terhubung atau berbagi
informasi satu sama lain.
Hanya saja bagi kami yang
berurusan dengan skala ini,
dan ditugaskan untuk
menjaga orang-orang tetap aman,
kami harus membayangkan
yang terburuk akan terjadi,
karena bagi kami,
satu dari sejuta kemungkinan
adalah peluang yang besar.
Terima kasih.
(Tepuk tangan)