WEBVTT

00:00:00.984 --> 00:00:02.275
Pekerjaan saya di Twitter

00:00:02.275 --> 00:00:04.343
adalah untuk menjaga kepercayaan pengguna,

00:00:04.343 --> 00:00:07.090
melindungi hak mereka dan
menjaga keamanan mereka,

00:00:07.090 --> 00:00:08.570
baik dari sesama pengguna,

00:00:08.570 --> 00:00:12.249
dan kadang-kadang,
dari diri mereka sendiri.

00:00:12.249 --> 00:00:16.524
Mari bicara tentang skalanya di Twitter.

00:00:16.524 --> 00:00:19.394
Pada bulan Januari 2009,

00:00:19.394 --> 00:00:22.725
kami melihat lebih dari 2 juta 
kicauan baru setiap hari

00:00:22.725 --> 00:00:24.849
di aplikasi ini.

00:00:24.849 --> 00:00:30.397
Januari 2014, lebih dari 500 juta.

00:00:30.397 --> 00:00:32.889
Ada 2 juta kicauan baru

00:00:32.889 --> 00:00:35.065
dalam kurang dari 6 menit.

00:00:35.065 --> 00:00:42.049
Artinya terjadi kenaikan sebesar
24.900 persen.

NOTE Paragraph

00:00:42.049 --> 00:00:45.302
Nah, sebagian besar aktivitas di Twitter

00:00:45.302 --> 00:00:47.035
tidak membahayakan siapapun.

00:00:47.035 --> 00:00:48.740
Tidak ada resiko apa pun.

00:00:48.740 --> 00:00:54.493
Tugas saya adalah untuk membasmi dan
mencegah aktivitas yang mungkin berbahaya.

00:00:54.493 --> 00:00:56.466
Terdengar sederhana, bukan?

00:00:56.466 --> 00:00:58.018
Mungkin Anda pikir itu mudah,

00:00:58.018 --> 00:00:59.788
mengingat saya baru saja mengatakan

00:00:59.788 --> 00:01:03.598
bahwa sebagian besar aktivitas di Twitter
tidak membahayakan siapa pun.

00:01:03.598 --> 00:01:05.767
Kenapa menghabiskan banyak waktu

00:01:05.767 --> 00:01:08.510
untuk mencari kemungkinan bahaya

00:01:08.510 --> 00:01:11.410
dalam aktivitas yang aman-aman saja?

00:01:11.410 --> 00:01:14.350
Mengingat skala Twitter saat ini,

00:01:14.350 --> 00:01:16.707
satu dari sejuta kemungkinan 
bahaya terjadi

00:01:16.707 --> 00:01:21.583
500 kali tiap harinya.

00:01:21.583 --> 00:01:22.938
Sama seperti perusahaan lain

00:01:22.938 --> 00:01:24.589
yang menghadapi skala sebesar ini.

00:01:24.589 --> 00:01:26.207
Bagi kami, kasus paling ekstrim,

00:01:26.207 --> 00:01:29.832
situasi langka seperti itu 
yang tidak mungkin terjadi,

00:01:29.832 --> 00:01:32.454
sekarang seakan sudah menjadi norma.

00:01:32.454 --> 00:01:36.396
Katakanlah 99,999% kicauan

00:01:36.396 --> 00:01:38.224
tidak berbahaya bagi siapapun.

00:01:38.224 --> 00:01:39.380
Tidak ada ancaman.

00:01:39.380 --> 00:01:42.574
Mungkin orang-orang sedang 
mendokumentasikan tempat wisata terkenal

00:01:42.574 --> 00:01:44.457
seperti karang 
Heart Reef di Australia,

00:01:44.457 --> 00:01:47.188
atau berkicau tentang konser 
yang mereka datangi,

00:01:47.188 --> 00:01:51.935
atau berbagi foto bayi binatang lucu.

00:01:51.935 --> 00:01:56.444
Setelah Anda menghilangkan 99,999% itu,

00:01:56.444 --> 00:01:59.973
presentase sangat kecil dari 
kicauan yang tersisa

00:01:59.973 --> 00:02:02.362
jika dihitung kira-kira mencapai

00:02:02.362 --> 00:02:05.837
150.000 kicauan per bulan.

00:02:05.837 --> 00:02:08.293
Besarnya skala yang kita hadapi sekarang,

00:02:08.293 --> 00:02:10.605
merupakan sebuah tantangan.

NOTE Paragraph

00:02:10.605 --> 00:02:12.833
Anda tahu apa yang membuat pekerjaan saya

00:02:12.833 --> 00:02:14.240
cukup menantang?

00:02:14.890 --> 00:02:20.013
Orang-orang melakukan hal-hal aneh.

00:02:20.013 --> 00:02:21.842
(Tertawa)

00:02:21.842 --> 00:02:24.313
Dan saya harus mencari tahu 
apa yang mereka lakukan,

00:02:24.313 --> 00:02:26.482
kenapa, dan apakah ada resiko didalamnya,

00:02:26.482 --> 00:02:28.650
yang seringkali tanpa konteks

00:02:28.650 --> 00:02:30.497
atau latar belakang apapun.

00:02:30.497 --> 00:02:32.504
Saya akan menunjukkan beberapa contoh

00:02:32.504 --> 00:02:34.679
yang saya temukan saat 
bekerja di Twitter --

00:02:34.679 --> 00:02:36.239
ini semua adalah contoh nyata --

00:02:36.239 --> 00:02:38.852
dari situasi yang awalnya 
terlihat biasa saja,

00:02:38.852 --> 00:02:40.495
namun sebenarnya merupakan sesuatu

00:02:40.495 --> 00:02:42.045
yang sama sekali berbeda.

00:02:42.045 --> 00:02:43.532
Detailnya sudah diubah

00:02:43.532 --> 00:02:45.279
untuk melindungi yang tidak bersalah

00:02:45.279 --> 00:02:48.512
dan kadang-kadang yang bersalah sekalipun.

00:02:48.512 --> 00:02:51.517
Kita mulai dengan yang mudah.

NOTE Paragraph

00:02:51.517 --> 00:02:53.310
["Hei Perempuan Jalang"]

NOTE Paragraph

00:02:53.310 --> 00:02:56.538
Jika Anda melihat kicauan seperti ini,

00:02:56.538 --> 00:02:58.232
Anda mungkin berpikir,

00:02:58.232 --> 00:02:59.885
"Itu kelihatannya pelecehan."

00:02:59.885 --> 00:03:02.992
Lagipula, mengapa Anda mau menerima pesan,

00:03:02.992 --> 00:03:05.210
"Hei, Perempuan Jalang."

00:03:05.210 --> 00:03:09.873
Nah, sekarang, saya mencoba 
untuk tetap mengikuti

00:03:09.873 --> 00:03:12.385
tren dan meme terbaru,

00:03:12.385 --> 00:03:15.089
jadi saya tahu bahwa
"Hei, perempuan jalang"

00:03:15.089 --> 00:03:18.243
seringkali adalah sapaan umum antar teman,

00:03:18.243 --> 00:03:22.505
juga sebagai referensi film
"Breaking Bad" yang sedang populer.

00:03:22.505 --> 00:03:24.992
Saya mengakui bahwa saya tidak mengira

00:03:24.992 --> 00:03:27.833
adanya penggunaan keempat 
dari ungkapan tadi.

00:03:27.833 --> 00:03:30.937
Ternyata, di Twitter juga 
ada hal seperti ini

00:03:30.937 --> 00:03:33.999
dimana orang berpura-pura menjadi anjing.

00:03:33.999 --> 00:03:39.278
(Tertawa)

00:03:39.278 --> 00:03:40.944
Bahkan, untuk kasus tadi,

00:03:40.944 --> 00:03:42.553
bukan saja tidak melecehkan,

00:03:42.553 --> 00:03:45.692
namun secara teknis kicauan itu 
hanyalah sapaan.

00:03:45.692 --> 00:03:48.581
(Tertawa)

NOTE Paragraph

00:03:48.581 --> 00:03:50.432
Oke, untuk menentukan apakah sesuatu

00:03:50.432 --> 00:03:52.600
merupakan pelecehan 
atau bukan tanpa konteks,

00:03:52.600 --> 00:03:54.092
sungguhlah sulit.

NOTE Paragraph

00:03:54.092 --> 00:03:56.809
Mari kita beralih ke spam.

00:03:56.809 --> 00:03:58.769
Ini adalah contoh dari akun yang

00:03:58.769 --> 00:04:00.437
memiliki ciri-ciri klasik spam,

00:04:00.437 --> 00:04:02.176
yang mengirim pesan yang sama persis

00:04:02.176 --> 00:04:03.770
ke ribuan orang.

00:04:03.770 --> 00:04:06.593
Meski ini adalah contoh yang saya buat 
dengan akun pribadi,

00:04:06.593 --> 00:04:09.594
kita melihat akun-akun 
seperti ini setiap saat.

00:04:09.594 --> 00:04:11.573
Kelihatannya mudah saja.

00:04:11.573 --> 00:04:13.626
Kita seharusnya tinggal menutup akun

00:04:13.626 --> 00:04:16.933
yang melakukan perilaku seperti ini.

00:04:16.933 --> 00:04:20.143
Ternyata, ada pengecualian 
dalam peraturan itu.

00:04:20.143 --> 00:04:23.026
Ternyata, pesan tersebut bisa saja 
sebuah pemberitahuan

00:04:23.026 --> 00:04:26.915
Anda mendaftar Stasiun Luar 
Angkasa Internasional yang lewat

00:04:26.915 --> 00:04:28.761
karena Anda ingin pergi ke luar

00:04:28.761 --> 00:04:30.509
dan ingin melihatnya secara langsung

00:04:30.509 --> 00:04:32.404
Anda tidak akan mendapat kesempatan itu

00:04:32.404 --> 00:04:33.961
jika kami salah menghapus akun

00:04:33.961 --> 00:04:36.047
karena berpikir itu spam.

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
Oke, kita ke contoh yang lebih sulit.

00:04:39.573 --> 00:04:41.489
Kembali ke akun saya,

00:04:41.489 --> 00:04:44.988
lagi-lagi terkait perilaku klasik.

00:04:44.988 --> 00:04:47.757
Kali ini, aku saya mengirim pesan 
dan tautan yang sama.

00:04:47.757 --> 00:04:50.411
Hal ini seringkali diindikasikan 
sebagai phishing,

00:04:50.411 --> 00:04:53.589
seseorang mencoba untuk 
mencuri informasi akun orang lain

00:04:53.589 --> 00:04:55.792
dengan mengarahkan mereka ke suatu laman.

00:04:55.792 --> 00:04:59.986
Jelaslah ini bukan hal yang bagus.

00:04:59.986 --> 00:05:01.916
Kami ingin, dan akan, menghapus akun

00:05:01.916 --> 00:05:04.540
yang berperilaku seperti itu.

00:05:04.540 --> 00:05:07.787
Lalu kenapa yang ini lebih sulit?

00:05:07.787 --> 00:05:10.786
Ternyata, kicauan ini bisa saja 
saksi mata demonstrasi

00:05:10.786 --> 00:05:12.696
dan dia berhasil merekam video

00:05:12.696 --> 00:05:15.966
dari petugas polisi yang memukul 
demonstran damai

00:05:15.966 --> 00:05:18.941
dan akun ini memberitahu dunia 
apa yang sedang terjadi.

00:05:18.941 --> 00:05:20.584
Kami tidak ingin bertaruh

00:05:20.584 --> 00:05:23.101
untuk membungkam berita yang krusial itu

00:05:23.101 --> 00:05:26.030
dengan menganggapnya sebagai spam 
dan menghapusnya.

00:05:26.030 --> 00:05:28.909
Artinya, kami harus mengevaluasi 
ratusan parameter

00:05:28.909 --> 00:05:30.597
ketika melihat perilaku akun,

00:05:30.597 --> 00:05:32.683
bahkan dengan itupun, 
kami masih bisa salah

00:05:32.683 --> 00:05:34.849
dan harus mengevaluasi ulang.

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
Nah, dengan tantangan-tantangan 
yang saya hadapi,

00:05:38.557 --> 00:05:41.253
penting diingat bahwa saya 
tidak hanya memprediksi

00:05:41.253 --> 00:05:45.037
namun juga mendesain proteksi 
akan hal tidak terduga.

00:05:45.037 --> 00:05:47.379
Dan itu bukan hanya menjadi masalah saya,

00:05:47.379 --> 00:05:49.506
atau masalah Twitter, 
itu juga masalah Anda.

00:05:49.506 --> 00:05:51.972
Menjadi masalah siapapun
yang membangun atau membuat

00:05:51.972 --> 00:05:53.797
sesuatu yang Anda pikir luar biasa

00:05:53.797 --> 00:05:56.586
dan akan membuat orang 
melakukan hal yang luar biasa.

00:05:56.586 --> 00:05:59.452
Jadi, apa yang saya lakukan?

00:05:59.452 --> 00:06:02.770
Saya berhenti sejenak dan berpikir,

00:06:02.770 --> 00:06:04.865
Bagaimana semua ini

00:06:04.865 --> 00:06:08.658
bisa menjadi sangat buruk?

00:06:08.658 --> 00:06:13.111
Saya memvisualisasikan bencana besar.

00:06:13.111 --> 00:06:15.574
Dan itu sulit. Ada semacam

00:06:15.574 --> 00:06:18.282
disonansi kognitif yang melekat 
untuk melakukannya,

00:06:18.282 --> 00:06:20.444
seperti saat kalian menulis 
sumpah pernikahan

00:06:20.444 --> 00:06:23.200
dan saat yang bersamaan juga 
menulis perjanjian pra-nikah.

00:06:23.200 --> 00:06:24.576
(Tertawa)

00:06:24.576 --> 00:06:26.949
Namun Anda tetap harus melakukannya,

00:06:26.949 --> 00:06:31.395
khususnya jika Anda 
menikahi 500 juta kicauan per hari.

00:06:31.395 --> 00:06:34.492
Apa maksud saya "membayangkan bencana"?

00:06:34.492 --> 00:06:37.254
Saya mencoba membayangkan bagaimana hal

00:06:37.254 --> 00:06:40.392
yang begitu jinak dan tidak berbahaya 
seperti gambar seekor kucing

00:06:40.392 --> 00:06:41.676
bisa berujung kematian,

00:06:41.676 --> 00:06:43.912
dan bagaimana cara mencegahnya.

00:06:43.912 --> 00:06:46.295
Yang kebetulan menjadi 
contoh saya berikutnya.

00:06:46.295 --> 00:06:49.405
Ini kucing saya, Eli.

00:06:49.405 --> 00:06:51.386
Kami ingin memberikan pengguna kemampuan

00:06:51.386 --> 00:06:53.589
untuk menambahkan gambar 
pada kicauan mereka.

00:06:53.589 --> 00:06:55.266
Sebuah gambar bermakna ribuan kata.

00:06:55.266 --> 00:06:57.065
Anda hanya punya 140 karakter.

00:06:57.065 --> 00:06:58.835
Menambahkan gambar 
pada kicauan Anda,

00:06:58.835 --> 00:07:01.303
lihatlah banyaknya konten 
yang Anda dapat sekarang.

00:07:01.303 --> 00:07:03.250
Ada hal-hal hebat yang bisa Anda lakukan

00:07:03.250 --> 00:07:05.377
dengan menambahkan gambar 
pada kicauan Anda.

00:07:05.377 --> 00:07:07.267
Tugas saya bukan untuk memikirkan itu.

00:07:07.267 --> 00:07:10.014
Tapi memikirkan bagaimana 
hal itu bisa menjadi buruk.

NOTE Paragraph

00:07:10.014 --> 00:07:11.906
Bagaimana gambar ini

00:07:11.906 --> 00:07:15.445
bisa berujung pada kematian saya?

00:07:15.445 --> 00:07:18.605
Ada satu kemungkinan.

00:07:18.605 --> 00:07:21.691
Gambar ini berisi lebih 
dari sekedar kucing.

00:07:21.691 --> 00:07:23.703
Tedapat geodata.

00:07:23.703 --> 00:07:26.065
Jika Anda mengambil gambar 
dengan smartphone Anda

00:07:26.065 --> 00:07:27.294
atau kamera digital,

00:07:27.294 --> 00:07:28.948
ada banyak informasi tambahan

00:07:28.948 --> 00:07:30.564
tersimpan bersamaan di gambar itu.

00:07:30.564 --> 00:07:32.496
Bahkan, gambar ini juga berisi

00:07:32.496 --> 00:07:34.301
ekuivalen dari ini,

00:07:34.301 --> 00:07:37.190
lebih spesifiknya, ini.

00:07:37.190 --> 00:07:39.526
Tentu, agak tidak mungkin jika 
seseorang mencoba

00:07:39.526 --> 00:07:41.621
untuk melacak saya dan mencelakai saya

00:07:41.621 --> 00:07:43.405
berdasarkan data gambar tersebut

00:07:43.405 --> 00:07:45.353
ketika mengambil gambar kucing saya,

00:07:45.353 --> 00:07:48.674
namun saya berimajinasi 
hal yang terburuk akan terjadi.

00:07:48.674 --> 00:07:51.542
Karena itu, saat kami 
meluncurkan fitur gambar pada Twitter,

00:07:51.542 --> 00:07:55.163
kami memutuskan untuk 
menghapus geodata tersebut.

00:07:55.163 --> 00:08:01.010
(Tepuk tangan)

00:08:01.010 --> 00:08:03.403
Jika saya mulai dengan 
membayangkan hal buruk

00:08:03.403 --> 00:08:04.570
dan berpikir ke belakang

00:08:04.570 --> 00:08:07.123
saya bisa pastikan perlindungan 
yang kami bangun

00:08:07.123 --> 00:08:08.891
bekerja untuk hal yang dapat diduga

00:08:08.891 --> 00:08:10.969
dan yang tidak terduga.

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
Karena saya menghabiskan siang dan malam

00:08:13.914 --> 00:08:16.455
membayangkan hal buruk terjadi,

00:08:16.455 --> 00:08:20.712
tidak mengherankan 
jika cara pandang saya suram.

00:08:20.712 --> 00:08:22.495
(Tertawa)

00:08:22.495 --> 00:08:23.912
Tapi tidak.

00:08:23.912 --> 00:08:27.788
Mayoritas besar interaksi 
yang saya lihat --

00:08:27.788 --> 00:08:31.689
dan percayalah, saya melihat 
banyak sekali -- interaksi positif,

00:08:31.689 --> 00:08:33.613
orang-orang memberikan pertolongan

00:08:33.613 --> 00:08:37.061
atau terhubung atau berbagi 
informasi satu sama lain.

00:08:37.061 --> 00:08:40.384
Hanya saja bagi kami yang 
berurusan dengan skala ini,

00:08:40.384 --> 00:08:44.184
dan ditugaskan untuk 
menjaga orang-orang tetap aman,

00:08:44.184 --> 00:08:46.730
kami harus membayangkan 
yang terburuk akan terjadi,

00:08:46.730 --> 00:08:50.957
karena bagi kami, 
satu dari sejuta kemungkinan

00:08:50.957 --> 00:08:53.706
adalah peluang yang besar.

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
Terima kasih.

NOTE Paragraph

00:08:55.570 --> 00:08:59.570
(Tepuk tangan)