Pekerjaan saya di Twitter
adalah untuk menjaga kepercayaan pengguna,
melindungi hak mereka dan menjaga keamanan mereka,
baik dari sesama pengguna,
dan kadang-kadang, dari diri mereka sendiri.
Mari bicara tentang skalanya di Twitter.
Pada bulan Januari 2009,
kami melihat lebih dari 2 juta kicauan baru setiap hari
di aplikasi ini.
Januari 2014, lebih dari 500 juta.
Ada 2 juta kicauan baru
dalam kurang dari 6 menit.
Artinya terjadi kenaikan sebesar 24.900 persen.
Nah, sebagian besar aktivitas di Twitter
tidak membahayakan siapapun.
Tidak ada resiko apa pun.
Tugas saya adalah untuk membasmi dan mencegah aktivitas yang mungkin berbahaya.
Terdengar sederhana, bukan?
Mungkin Anda pikir itu mudah,
mengingat saya baru saja mengatakan
bahwa sebagian besar aktivitas di Twitter tidak membahayakan siapa pun.
Kenapa menghabiskan banyak waktu
untuk mencari kemungkinan bahaya
dalam aktivitas yang aman-aman saja?
Mengingat skala Twitter saat ini,
satu dari sejuta kemungkinan bahaya terjadi
500 kali tiap harinya.
Sama seperti perusahaan lain
yang menghadapi skala sebesar ini.
Bagi kami, kasus paling ekstrim,
situasi langka seperti itu yang tidak mungkin terjadi,
sekarang seakan sudah menjadi norma.
Katakanlah 99,999% kicauan
tidak berbahaya bagi siapapun.
Tidak ada ancaman.
Mungkin orang-orang sedang mendokumentasikan tempat wisata terkenal
seperti karang Heart Reef di Australia,
atau berkicau tentang konser yang mereka datangi,
atau berbagi foto bayi binatang lucu.
Setelah Anda menghilangkan 99,999% itu,
presentase sangat kecil dari kicauan yang tersisa
jika dihitung kira-kira mencapai
150.000 kicauan per bulan.
Besarnya skala yang kita hadapi sekarang,
merupakan sebuah tantangan.
Anda tahu apa yang membuat pekerjaan saya
cukup menantang?
Orang-orang melakukan hal-hal aneh.
(Tertawa)
Dan saya harus mencari tahu apa yang mereka lakukan,
kenapa, dan apakah ada resiko didalamnya,
yang seringkali tanpa konteks
atau latar belakang apapun.
Saya akan menunjukkan beberapa contoh
yang saya temukan saat bekerja di Twitter --
ini semua adalah contoh nyata --
dari situasi yang awalnya terlihat biasa saja,
namun sebenarnya merupakan sesuatu
yang sama sekali berbeda.
Detailnya sudah diubah
untuk melindungi yang tidak bersalah
dan kadang-kadang yang bersalah sekalipun.
Kita mulai dengan yang mudah.
["Hei Perempuan Jalang"]
Jika Anda melihat kicauan seperti ini,
Anda mungkin berpikir,
"Itu kelihatannya pelecehan."
Lagipula, mengapa Anda mau menerima pesan,
"Hei, Perempuan Jalang."
Nah, sekarang, saya mencoba untuk tetap mengikuti
tren dan meme terbaru,
jadi saya tahu bahwa "Hei, perempuan jalang"
seringkali adalah sapaan umum antar teman,
juga sebagai referensi film "Breaking Bad" yang sedang populer.
Saya mengakui bahwa saya tidak mengira
adanya penggunaan keempat dari ungkapan tadi.
Ternyata, di Twitter juga ada hal seperti ini
dimana orang berpura-pura menjadi anjing.
(Tertawa)
Bahkan, untuk kasus tadi,
bukan saja tidak melecehkan,
namun secara teknis kicauan itu hanyalah sapaan.
(Tertawa)
Oke, untuk menentukan apakah sesuatu
merupakan pelecehan atau bukan tanpa konteks,
sungguhlah sulit.
Mari kita beralih ke spam.
Ini adalah contoh dari akun yang
memiliki ciri-ciri klasik spam,
yang mengirim pesan yang sama persis
ke ribuan orang.
Meski ini adalah contoh yang saya buat dengan akun pribadi,
kita melihat akun-akun seperti ini setiap saat.
Kelihatannya mudah saja.
Kita seharusnya tinggal menutup akun
yang melakukan perilaku seperti ini.
Ternyata, ada pengecualian dalam peraturan itu.
Ternyata, pesan tersebut bisa saja sebuah pemberitahuan
Anda mendaftar Stasiun Luar Angkasa Internasional yang lewat
karena Anda ingin pergi ke luar
dan ingin melihatnya secara langsung
Anda tidak akan mendapat kesempatan itu
jika kami salah menghapus akun
karena berpikir itu spam.
Oke, kita ke contoh yang lebih sulit.
Kembali ke akun saya,
lagi-lagi terkait perilaku klasik.
Kali ini, aku saya mengirim pesan dan tautan yang sama.
Hal ini seringkali diindikasikan sebagai phishing,
seseorang mencoba untuk mencuri informasi akun orang lain
dengan mengarahkan mereka ke suatu laman.
Jelaslah ini bukan hal yang bagus.
Kami ingin, dan akan, menghapus akun
yang berperilaku seperti itu.
Lalu kenapa yang ini lebih sulit?
Ternyata, kicauan ini bisa saja saksi mata demonstrasi
dan dia berhasil merekam video
dari petugas polisi yang memukul demonstran damai
dan akun ini memberitahu dunia apa yang sedang terjadi.
Kami tidak ingin bertaruh
untuk membungkam berita yang krusial itu
dengan menganggapnya sebagai spam dan menghapusnya.
Artinya, kami harus mengevaluasi ratusan parameter
ketika melihat perilaku akun,
bahkan dengan itupun, kami masih bisa salah
dan harus mengevaluasi ulang.
Nah, dengan tantangan-tantangan yang saya hadapi,
penting diingat bahwa saya tidak hanya memprediksi
namun juga mendesain proteksi akan hal tidak terduga.
Dan itu bukan hanya menjadi masalah saya,
atau masalah Twitter, itu juga masalah Anda.
Menjadi masalah siapapun yang membangun atau membuat
sesuatu yang Anda pikir luar biasa
dan akan membuat orang melakukan hal yang luar biasa.
Jadi, apa yang saya lakukan?
Saya berhenti sejenak dan berpikir,
Bagaimana semua ini
bisa menjadi sangat buruk?
Saya memvisualisasikan bencana besar.
Dan itu sulit. Ada semacam
disonansi kognitif yang melekat untuk melakukannya,
seperti saat kalian menulis sumpah pernikahan
dan saat yang bersamaan juga menulis perjanjian pra-nikah.
(Tertawa)
Namun Anda tetap harus melakukannya,
khususnya jika Anda menikahi 500 juta kicauan per hari.
Apa maksud saya "membayangkan bencana"?
Saya mencoba membayangkan bagaimana hal
yang begitu jinak dan tidak berbahaya seperti gambar seekor kucing
bisa berujung kematian,
dan bagaimana cara mencegahnya.
Yang kebetulan menjadi contoh saya berikutnya.
Ini kucing saya, Eli.
Kami ingin memberikan pengguna kemampuan
untuk menambahkan gambar pada kicauan mereka.
Sebuah gambar bermakna ribuan kata.
Anda hanya punya 140 karakter.
Menambahkan gambar pada kicauan Anda,
lihatlah banyaknya konten yang Anda dapat sekarang.
Ada hal-hal hebat yang bisa Anda lakukan
dengan menambahkan gambar pada kicauan Anda.
Tugas saya bukan untuk memikirkan itu.
Tapi memikirkan bagaimana hal itu bisa menjadi buruk.
Bagaimana gambar ini
bisa berujung pada kematian saya?
Ada satu kemungkinan.
Gambar ini berisi lebih dari sekedar kucing.
Tedapat geodata.
Jika Anda mengambil gambar dengan smartphone Anda
atau kamera digital,
ada banyak informasi tambahan
tersimpan bersamaan di gambar itu.
Bahkan, gambar ini juga berisi
ekuivalen dari ini,
lebih spesifiknya, ini.
Tentu, agak tidak mungkin jika seseorang mencoba
untuk melacak saya dan mencelakai saya
berdasarkan data gambar tersebut
ketika mengambil gambar kucing saya,
namun saya berimajinasi hal yang terburuk akan terjadi.
Karena itu, saat kami meluncurkan fitur gambar pada Twitter,
kami memutuskan untuk menghapus geodata tersebut.
(Tepuk tangan)
Jika saya mulai dengan membayangkan hal buruk
dan berpikir ke belakang
saya bisa pastikan perlindungan yang kami bangun
bekerja untuk hal yang dapat diduga
dan yang tidak terduga.
Karena saya menghabiskan siang dan malam
membayangkan hal buruk terjadi,
tidak mengherankan jika cara pandang saya suram.
(Tertawa)
Tapi tidak.
Mayoritas besar interaksi yang saya lihat --
dan percayalah, saya melihat banyak sekali -- interaksi positif,
orang-orang memberikan pertolongan
atau terhubung atau berbagi informasi satu sama lain.
Hanya saja bagi kami yang berurusan dengan skala ini,
dan ditugaskan untuk menjaga orang-orang tetap aman,
kami harus membayangkan yang terburuk akan terjadi,
karena bagi kami, satu dari sejuta kemungkinan
adalah peluang yang besar.
Terima kasih.
(Tepuk tangan)