Pekerjaan saya di Twitter adalah untuk menjaga kepercayaan pengguna, melindungi hak mereka dan menjaga keamanan mereka, baik dari sesama pengguna, dan kadang-kadang, dari diri mereka sendiri. Mari bicara tentang skalanya di Twitter. Pada bulan Januari 2009, kami melihat lebih dari 2 juta kicauan baru setiap hari di aplikasi ini. Januari 2014, lebih dari 500 juta. Ada 2 juta kicauan baru dalam kurang dari 6 menit. Artinya terjadi kenaikan sebesar 24.900 persen. Nah, sebagian besar aktivitas di Twitter tidak membahayakan siapapun. Tidak ada resiko apa pun. Tugas saya adalah untuk membasmi dan mencegah aktivitas yang mungkin berbahaya. Terdengar sederhana, bukan? Mungkin Anda pikir itu mudah, mengingat saya baru saja mengatakan bahwa sebagian besar aktivitas di Twitter tidak membahayakan siapa pun. Kenapa menghabiskan banyak waktu untuk mencari kemungkinan bahaya dalam aktivitas yang aman-aman saja? Mengingat skala Twitter saat ini, satu dari sejuta kemungkinan bahaya terjadi 500 kali tiap harinya. Sama seperti perusahaan lain yang menghadapi skala sebesar ini. Bagi kami, kasus paling ekstrim, situasi langka seperti itu yang tidak mungkin terjadi, sekarang seakan sudah menjadi norma. Katakanlah 99,999% kicauan tidak berbahaya bagi siapapun. Tidak ada ancaman. Mungkin orang-orang sedang mendokumentasikan tempat wisata terkenal seperti karang Heart Reef di Australia, atau berkicau tentang konser yang mereka datangi, atau berbagi foto bayi binatang lucu. Setelah Anda menghilangkan 99,999% itu, presentase sangat kecil dari kicauan yang tersisa jika dihitung kira-kira mencapai 150.000 kicauan per bulan. Besarnya skala yang kita hadapi sekarang, merupakan sebuah tantangan. Anda tahu apa yang membuat pekerjaan saya cukup menantang? Orang-orang melakukan hal-hal aneh. (Tertawa) Dan saya harus mencari tahu apa yang mereka lakukan, kenapa, dan apakah ada resiko didalamnya, yang seringkali tanpa konteks atau latar belakang apapun. Saya akan menunjukkan beberapa contoh yang saya temukan saat bekerja di Twitter -- ini semua adalah contoh nyata -- dari situasi yang awalnya terlihat biasa saja, namun sebenarnya merupakan sesuatu yang sama sekali berbeda. Detailnya sudah diubah untuk melindungi yang tidak bersalah dan kadang-kadang yang bersalah sekalipun. Kita mulai dengan yang mudah. ["Hei Perempuan Jalang"] Jika Anda melihat kicauan seperti ini, Anda mungkin berpikir, "Itu kelihatannya pelecehan." Lagipula, mengapa Anda mau menerima pesan, "Hei, Perempuan Jalang." Nah, sekarang, saya mencoba untuk tetap mengikuti tren dan meme terbaru, jadi saya tahu bahwa "Hei, perempuan jalang" seringkali adalah sapaan umum antar teman, juga sebagai referensi film "Breaking Bad" yang sedang populer. Saya mengakui bahwa saya tidak mengira adanya penggunaan keempat dari ungkapan tadi. Ternyata, di Twitter juga ada hal seperti ini dimana orang berpura-pura menjadi anjing. (Tertawa) Bahkan, untuk kasus tadi, bukan saja tidak melecehkan, namun secara teknis kicauan itu hanyalah sapaan. (Tertawa) Oke, untuk menentukan apakah sesuatu merupakan pelecehan atau bukan tanpa konteks, sungguhlah sulit. Mari kita beralih ke spam. Ini adalah contoh dari akun yang memiliki ciri-ciri klasik spam, yang mengirim pesan yang sama persis ke ribuan orang. Meski ini adalah contoh yang saya buat dengan akun pribadi, kita melihat akun-akun seperti ini setiap saat. Kelihatannya mudah saja. Kita seharusnya tinggal menutup akun yang melakukan perilaku seperti ini. Ternyata, ada pengecualian dalam peraturan itu. Ternyata, pesan tersebut bisa saja sebuah pemberitahuan Anda mendaftar Stasiun Luar Angkasa Internasional yang lewat karena Anda ingin pergi ke luar dan ingin melihatnya secara langsung Anda tidak akan mendapat kesempatan itu jika kami salah menghapus akun karena berpikir itu spam. Oke, kita ke contoh yang lebih sulit. Kembali ke akun saya, lagi-lagi terkait perilaku klasik. Kali ini, aku saya mengirim pesan dan tautan yang sama. Hal ini seringkali diindikasikan sebagai phishing, seseorang mencoba untuk mencuri informasi akun orang lain dengan mengarahkan mereka ke suatu laman. Jelaslah ini bukan hal yang bagus. Kami ingin, dan akan, menghapus akun yang berperilaku seperti itu. Lalu kenapa yang ini lebih sulit? Ternyata, kicauan ini bisa saja saksi mata demonstrasi dan dia berhasil merekam video dari petugas polisi yang memukul demonstran damai dan akun ini memberitahu dunia apa yang sedang terjadi. Kami tidak ingin bertaruh untuk membungkam berita yang krusial itu dengan menganggapnya sebagai spam dan menghapusnya. Artinya, kami harus mengevaluasi ratusan parameter ketika melihat perilaku akun, bahkan dengan itupun, kami masih bisa salah dan harus mengevaluasi ulang. Nah, dengan tantangan-tantangan yang saya hadapi, penting diingat bahwa saya tidak hanya memprediksi namun juga mendesain proteksi akan hal tidak terduga. Dan itu bukan hanya menjadi masalah saya, atau masalah Twitter, itu juga masalah Anda. Menjadi masalah siapapun yang membangun atau membuat sesuatu yang Anda pikir luar biasa dan akan membuat orang melakukan hal yang luar biasa. Jadi, apa yang saya lakukan? Saya berhenti sejenak dan berpikir, Bagaimana semua ini bisa menjadi sangat buruk? Saya memvisualisasikan bencana besar. Dan itu sulit. Ada semacam disonansi kognitif yang melekat untuk melakukannya, seperti saat kalian menulis sumpah pernikahan dan saat yang bersamaan juga menulis perjanjian pra-nikah. (Tertawa) Namun Anda tetap harus melakukannya, khususnya jika Anda menikahi 500 juta kicauan per hari. Apa maksud saya "membayangkan bencana"? Saya mencoba membayangkan bagaimana hal yang begitu jinak dan tidak berbahaya seperti gambar seekor kucing bisa berujung kematian, dan bagaimana cara mencegahnya. Yang kebetulan menjadi contoh saya berikutnya. Ini kucing saya, Eli. Kami ingin memberikan pengguna kemampuan untuk menambahkan gambar pada kicauan mereka. Sebuah gambar bermakna ribuan kata. Anda hanya punya 140 karakter. Menambahkan gambar pada kicauan Anda, lihatlah banyaknya konten yang Anda dapat sekarang. Ada hal-hal hebat yang bisa Anda lakukan dengan menambahkan gambar pada kicauan Anda. Tugas saya bukan untuk memikirkan itu. Tapi memikirkan bagaimana hal itu bisa menjadi buruk. Bagaimana gambar ini bisa berujung pada kematian saya? Ada satu kemungkinan. Gambar ini berisi lebih dari sekedar kucing. Tedapat geodata. Jika Anda mengambil gambar dengan smartphone Anda atau kamera digital, ada banyak informasi tambahan tersimpan bersamaan di gambar itu. Bahkan, gambar ini juga berisi ekuivalen dari ini, lebih spesifiknya, ini. Tentu, agak tidak mungkin jika seseorang mencoba untuk melacak saya dan mencelakai saya berdasarkan data gambar tersebut ketika mengambil gambar kucing saya, namun saya berimajinasi hal yang terburuk akan terjadi. Karena itu, saat kami meluncurkan fitur gambar pada Twitter, kami memutuskan untuk menghapus geodata tersebut. (Tepuk tangan) Jika saya mulai dengan membayangkan hal buruk dan berpikir ke belakang saya bisa pastikan perlindungan yang kami bangun bekerja untuk hal yang dapat diduga dan yang tidak terduga. Karena saya menghabiskan siang dan malam membayangkan hal buruk terjadi, tidak mengherankan jika cara pandang saya suram. (Tertawa) Tapi tidak. Mayoritas besar interaksi yang saya lihat -- dan percayalah, saya melihat banyak sekali -- interaksi positif, orang-orang memberikan pertolongan atau terhubung atau berbagi informasi satu sama lain. Hanya saja bagi kami yang berurusan dengan skala ini, dan ditugaskan untuk menjaga orang-orang tetap aman, kami harus membayangkan yang terburuk akan terjadi, karena bagi kami, satu dari sejuta kemungkinan adalah peluang yang besar. Terima kasih. (Tepuk tangan)