0:00:00.984,0:00:02.275
Pekerjaan saya di Twitter

0:00:02.275,0:00:04.343
adalah untuk menjaga kepercayaan pengguna,

0:00:04.343,0:00:07.090
melindungi hak mereka dan[br]menjaga keamanan mereka,

0:00:07.090,0:00:08.570
baik dari sesama pengguna,

0:00:08.570,0:00:12.249
dan kadang-kadang,[br]dari diri mereka sendiri.

0:00:12.249,0:00:16.524
Mari bicara tentang skalanya di Twitter.

0:00:16.524,0:00:19.394
Pada bulan Januari 2009,

0:00:19.394,0:00:22.725
kami melihat lebih dari 2 juta [br]kicauan baru setiap hari

0:00:22.725,0:00:24.849
di aplikasi ini.

0:00:24.849,0:00:30.397
Januari 2014, lebih dari 500 juta.

0:00:30.397,0:00:32.889
Ada 2 juta kicauan baru

0:00:32.889,0:00:35.065
dalam kurang dari 6 menit.

0:00:35.065,0:00:42.049
Artinya terjadi kenaikan sebesar[br]24.900 persen.

0:00:42.049,0:00:45.302
Nah, sebagian besar aktivitas di Twitter

0:00:45.302,0:00:47.035
tidak membahayakan siapapun.

0:00:47.035,0:00:48.740
Tidak ada resiko apa pun.

0:00:48.740,0:00:54.493
Tugas saya adalah untuk membasmi dan[br]mencegah aktivitas yang mungkin berbahaya.

0:00:54.493,0:00:56.466
Terdengar sederhana, bukan?

0:00:56.466,0:00:58.018
Mungkin Anda pikir itu mudah,

0:00:58.018,0:00:59.788
mengingat saya baru saja mengatakan

0:00:59.788,0:01:03.598
bahwa sebagian besar aktivitas di Twitter[br]tidak membahayakan siapa pun.

0:01:03.598,0:01:05.767
Kenapa menghabiskan banyak waktu

0:01:05.767,0:01:08.510
untuk mencari kemungkinan bahaya

0:01:08.510,0:01:11.410
dalam aktivitas yang aman-aman saja?

0:01:11.410,0:01:14.350
Mengingat skala Twitter saat ini,

0:01:14.350,0:01:16.707
satu dari sejuta kemungkinan [br]bahaya terjadi

0:01:16.707,0:01:21.583
500 kali tiap harinya.

0:01:21.583,0:01:22.938
Sama seperti perusahaan lain

0:01:22.938,0:01:24.589
yang menghadapi skala sebesar ini.

0:01:24.589,0:01:26.207
Bagi kami, kasus paling ekstrim,

0:01:26.207,0:01:29.832
situasi langka seperti itu [br]yang tidak mungkin terjadi,

0:01:29.832,0:01:32.454
sekarang seakan sudah menjadi norma.

0:01:32.454,0:01:36.396
Katakanlah 99,999% kicauan

0:01:36.396,0:01:38.224
tidak berbahaya bagi siapapun.

0:01:38.224,0:01:39.380
Tidak ada ancaman.

0:01:39.380,0:01:42.574
Mungkin orang-orang sedang [br]mendokumentasikan tempat wisata terkenal

0:01:42.574,0:01:44.457
seperti karang [br]Heart Reef di Australia,

0:01:44.457,0:01:47.188
atau berkicau tentang konser [br]yang mereka datangi,

0:01:47.188,0:01:51.935
atau berbagi foto bayi binatang lucu.

0:01:51.935,0:01:56.444
Setelah Anda menghilangkan 99,999% itu,

0:01:56.444,0:01:59.973
presentase sangat kecil dari [br]kicauan yang tersisa

0:01:59.973,0:02:02.362
jika dihitung kira-kira mencapai

0:02:02.362,0:02:05.837
150.000 kicauan per bulan.

0:02:05.837,0:02:08.293
Besarnya skala yang kita hadapi sekarang,

0:02:08.293,0:02:10.605
merupakan sebuah tantangan.

0:02:10.605,0:02:12.833
Anda tahu apa yang membuat pekerjaan saya

0:02:12.833,0:02:14.240
cukup menantang?

0:02:14.890,0:02:20.013
Orang-orang melakukan hal-hal aneh.

0:02:20.013,0:02:21.842
(Tertawa)

0:02:21.842,0:02:24.313
Dan saya harus mencari tahu [br]apa yang mereka lakukan,

0:02:24.313,0:02:26.482
kenapa, dan apakah ada resiko didalamnya,

0:02:26.482,0:02:28.650
yang seringkali tanpa konteks

0:02:28.650,0:02:30.497
atau latar belakang apapun.

0:02:30.497,0:02:32.504
Saya akan menunjukkan beberapa contoh

0:02:32.504,0:02:34.679
yang saya temukan saat [br]bekerja di Twitter --

0:02:34.679,0:02:36.239
ini semua adalah contoh nyata --

0:02:36.239,0:02:38.852
dari situasi yang awalnya [br]terlihat biasa saja,

0:02:38.852,0:02:40.495
namun sebenarnya merupakan sesuatu

0:02:40.495,0:02:42.045
yang sama sekali berbeda.

0:02:42.045,0:02:43.532
Detailnya sudah diubah

0:02:43.532,0:02:45.279
untuk melindungi yang tidak bersalah

0:02:45.279,0:02:48.512
dan kadang-kadang yang bersalah sekalipun.

0:02:48.512,0:02:51.517
Kita mulai dengan yang mudah.

0:02:51.517,0:02:53.310
["Hei Perempuan Jalang"]

0:02:53.310,0:02:56.538
Jika Anda melihat kicauan seperti ini,

0:02:56.538,0:02:58.232
Anda mungkin berpikir,

0:02:58.232,0:02:59.885
"Itu kelihatannya pelecehan."

0:02:59.885,0:03:02.992
Lagipula, mengapa Anda mau menerima pesan,

0:03:02.992,0:03:05.210
"Hei, Perempuan Jalang."

0:03:05.210,0:03:09.873
Nah, sekarang, saya mencoba [br]untuk tetap mengikuti

0:03:09.873,0:03:12.385
tren dan meme terbaru,

0:03:12.385,0:03:15.089
jadi saya tahu bahwa[br]"Hei, perempuan jalang"

0:03:15.089,0:03:18.243
seringkali adalah sapaan umum antar teman,

0:03:18.243,0:03:22.505
juga sebagai referensi film[br]"Breaking Bad" yang sedang populer.

0:03:22.505,0:03:24.992
Saya mengakui bahwa saya tidak mengira

0:03:24.992,0:03:27.833
adanya penggunaan keempat [br]dari ungkapan tadi.

0:03:27.833,0:03:30.937
Ternyata, di Twitter juga [br]ada hal seperti ini

0:03:30.937,0:03:33.999
dimana orang berpura-pura menjadi anjing.

0:03:33.999,0:03:39.278
(Tertawa)

0:03:39.278,0:03:40.944
Bahkan, untuk kasus tadi,

0:03:40.944,0:03:42.553
bukan saja tidak melecehkan,

0:03:42.553,0:03:45.692
namun secara teknis kicauan itu [br]hanyalah sapaan.

0:03:45.692,0:03:48.581
(Tertawa)

0:03:48.581,0:03:50.432
Oke, untuk menentukan apakah sesuatu

0:03:50.432,0:03:52.600
merupakan pelecehan [br]atau bukan tanpa konteks,

0:03:52.600,0:03:54.092
sungguhlah sulit.

0:03:54.092,0:03:56.809
Mari kita beralih ke spam.

0:03:56.809,0:03:58.769
Ini adalah contoh dari akun yang

0:03:58.769,0:04:00.437
memiliki ciri-ciri klasik spam,

0:04:00.437,0:04:02.176
yang mengirim pesan yang sama persis

0:04:02.176,0:04:03.770
ke ribuan orang.

0:04:03.770,0:04:06.593
Meski ini adalah contoh yang saya buat [br]dengan akun pribadi,

0:04:06.593,0:04:09.594
kita melihat akun-akun [br]seperti ini setiap saat.

0:04:09.594,0:04:11.573
Kelihatannya mudah saja.

0:04:11.573,0:04:13.626
Kita seharusnya tinggal menutup akun

0:04:13.626,0:04:16.933
yang melakukan perilaku seperti ini.

0:04:16.933,0:04:20.143
Ternyata, ada pengecualian [br]dalam peraturan itu.

0:04:20.143,0:04:23.026
Ternyata, pesan tersebut bisa saja [br]sebuah pemberitahuan

0:04:23.026,0:04:26.915
Anda mendaftar Stasiun Luar [br]Angkasa Internasional yang lewat

0:04:26.915,0:04:28.761
karena Anda ingin pergi ke luar

0:04:28.761,0:04:30.509
dan ingin melihatnya secara langsung

0:04:30.509,0:04:32.404
Anda tidak akan mendapat kesempatan itu

0:04:32.404,0:04:33.961
jika kami salah menghapus akun

0:04:33.961,0:04:36.047
karena berpikir itu spam.

0:04:36.047,0:04:39.573
Oke, kita ke contoh yang lebih sulit.

0:04:39.573,0:04:41.489
Kembali ke akun saya,

0:04:41.489,0:04:44.988
lagi-lagi terkait perilaku klasik.

0:04:44.988,0:04:47.757
Kali ini, aku saya mengirim pesan [br]dan tautan yang sama.

0:04:47.757,0:04:50.411
Hal ini seringkali diindikasikan [br]sebagai phishing,

0:04:50.411,0:04:53.589
seseorang mencoba untuk [br]mencuri informasi akun orang lain

0:04:53.589,0:04:55.792
dengan mengarahkan mereka ke suatu laman.

0:04:55.792,0:04:59.986
Jelaslah ini bukan hal yang bagus.

0:04:59.986,0:05:01.916
Kami ingin, dan akan, menghapus akun

0:05:01.916,0:05:04.540
yang berperilaku seperti itu.

0:05:04.540,0:05:07.787
Lalu kenapa yang ini lebih sulit?

0:05:07.787,0:05:10.786
Ternyata, kicauan ini bisa saja [br]saksi mata demonstrasi

0:05:10.786,0:05:12.696
dan dia berhasil merekam video

0:05:12.696,0:05:15.966
dari petugas polisi yang memukul [br]demonstran damai

0:05:15.966,0:05:18.941
dan akun ini memberitahu dunia [br]apa yang sedang terjadi.

0:05:18.941,0:05:20.584
Kami tidak ingin bertaruh

0:05:20.584,0:05:23.101
untuk membungkam berita yang krusial itu

0:05:23.101,0:05:26.030
dengan menganggapnya sebagai spam [br]dan menghapusnya.

0:05:26.030,0:05:28.909
Artinya, kami harus mengevaluasi [br]ratusan parameter

0:05:28.909,0:05:30.597
ketika melihat perilaku akun,

0:05:30.597,0:05:32.683
bahkan dengan itupun, [br]kami masih bisa salah

0:05:32.683,0:05:34.849
dan harus mengevaluasi ulang.

0:05:34.849,0:05:38.557
Nah, dengan tantangan-tantangan [br]yang saya hadapi,

0:05:38.557,0:05:41.253
penting diingat bahwa saya [br]tidak hanya memprediksi

0:05:41.253,0:05:45.037
namun juga mendesain proteksi [br]akan hal tidak terduga.

0:05:45.037,0:05:47.379
Dan itu bukan hanya menjadi masalah saya,

0:05:47.379,0:05:49.506
atau masalah Twitter, [br]itu juga masalah Anda.

0:05:49.506,0:05:51.972
Menjadi masalah siapapun[br]yang membangun atau membuat

0:05:51.972,0:05:53.797
sesuatu yang Anda pikir luar biasa

0:05:53.797,0:05:56.586
dan akan membuat orang [br]melakukan hal yang luar biasa.

0:05:56.586,0:05:59.452
Jadi, apa yang saya lakukan?

0:05:59.452,0:06:02.770
Saya berhenti sejenak dan berpikir,

0:06:02.770,0:06:04.865
Bagaimana semua ini

0:06:04.865,0:06:08.658
bisa menjadi sangat buruk?

0:06:08.658,0:06:13.111
Saya memvisualisasikan bencana besar.

0:06:13.111,0:06:15.574
Dan itu sulit. Ada semacam

0:06:15.574,0:06:18.282
disonansi kognitif yang melekat [br]untuk melakukannya,

0:06:18.282,0:06:20.444
seperti saat kalian menulis [br]sumpah pernikahan

0:06:20.444,0:06:23.200
dan saat yang bersamaan juga [br]menulis perjanjian pra-nikah.

0:06:23.200,0:06:24.576
(Tertawa)

0:06:24.576,0:06:26.949
Namun Anda tetap harus melakukannya,

0:06:26.949,0:06:31.395
khususnya jika Anda [br]menikahi 500 juta kicauan per hari.

0:06:31.395,0:06:34.492
Apa maksud saya "membayangkan bencana"?

0:06:34.492,0:06:37.254
Saya mencoba membayangkan bagaimana hal

0:06:37.254,0:06:40.392
yang begitu jinak dan tidak berbahaya [br]seperti gambar seekor kucing

0:06:40.392,0:06:41.676
bisa berujung kematian,

0:06:41.676,0:06:43.912
dan bagaimana cara mencegahnya.

0:06:43.912,0:06:46.295
Yang kebetulan menjadi [br]contoh saya berikutnya.

0:06:46.295,0:06:49.405
Ini kucing saya, Eli.

0:06:49.405,0:06:51.386
Kami ingin memberikan pengguna kemampuan

0:06:51.386,0:06:53.589
untuk menambahkan gambar [br]pada kicauan mereka.

0:06:53.589,0:06:55.266
Sebuah gambar bermakna ribuan kata.

0:06:55.266,0:06:57.065
Anda hanya punya 140 karakter.

0:06:57.065,0:06:58.835
Menambahkan gambar [br]pada kicauan Anda,

0:06:58.835,0:07:01.303
lihatlah banyaknya konten [br]yang Anda dapat sekarang.

0:07:01.303,0:07:03.250
Ada hal-hal hebat yang bisa Anda lakukan

0:07:03.250,0:07:05.377
dengan menambahkan gambar [br]pada kicauan Anda.

0:07:05.377,0:07:07.267
Tugas saya bukan untuk memikirkan itu.

0:07:07.267,0:07:10.014
Tapi memikirkan bagaimana [br]hal itu bisa menjadi buruk.

0:07:10.014,0:07:11.906
Bagaimana gambar ini

0:07:11.906,0:07:15.445
bisa berujung pada kematian saya?

0:07:15.445,0:07:18.605
Ada satu kemungkinan.

0:07:18.605,0:07:21.691
Gambar ini berisi lebih [br]dari sekedar kucing.

0:07:21.691,0:07:23.703
Tedapat geodata.

0:07:23.703,0:07:26.065
Jika Anda mengambil gambar [br]dengan smartphone Anda

0:07:26.065,0:07:27.294
atau kamera digital,

0:07:27.294,0:07:28.948
ada banyak informasi tambahan

0:07:28.948,0:07:30.564
tersimpan bersamaan di gambar itu.

0:07:30.564,0:07:32.496
Bahkan, gambar ini juga berisi

0:07:32.496,0:07:34.301
ekuivalen dari ini,

0:07:34.301,0:07:37.190
lebih spesifiknya, ini.

0:07:37.190,0:07:39.526
Tentu, agak tidak mungkin jika [br]seseorang mencoba

0:07:39.526,0:07:41.621
untuk melacak saya dan mencelakai saya

0:07:41.621,0:07:43.405
berdasarkan data gambar tersebut

0:07:43.405,0:07:45.353
ketika mengambil gambar kucing saya,

0:07:45.353,0:07:48.674
namun saya berimajinasi [br]hal yang terburuk akan terjadi.

0:07:48.674,0:07:51.542
Karena itu, saat kami [br]meluncurkan fitur gambar pada Twitter,

0:07:51.542,0:07:55.163
kami memutuskan untuk [br]menghapus geodata tersebut.

0:07:55.163,0:08:01.010
(Tepuk tangan)

0:08:01.010,0:08:03.403
Jika saya mulai dengan [br]membayangkan hal buruk

0:08:03.403,0:08:04.570
dan berpikir ke belakang

0:08:04.570,0:08:07.123
saya bisa pastikan perlindungan [br]yang kami bangun

0:08:07.123,0:08:08.891
bekerja untuk hal yang dapat diduga

0:08:08.891,0:08:10.969
dan yang tidak terduga.

0:08:10.969,0:08:13.914
Karena saya menghabiskan siang dan malam

0:08:13.914,0:08:16.455
membayangkan hal buruk terjadi,

0:08:16.455,0:08:20.712
tidak mengherankan [br]jika cara pandang saya suram.

0:08:20.712,0:08:22.495
(Tertawa)

0:08:22.495,0:08:23.912
Tapi tidak.

0:08:23.912,0:08:27.788
Mayoritas besar interaksi [br]yang saya lihat --

0:08:27.788,0:08:31.689
dan percayalah, saya melihat [br]banyak sekali -- interaksi positif,

0:08:31.689,0:08:33.613
orang-orang memberikan pertolongan

0:08:33.613,0:08:37.061
atau terhubung atau berbagi [br]informasi satu sama lain.

0:08:37.061,0:08:40.384
Hanya saja bagi kami yang [br]berurusan dengan skala ini,

0:08:40.384,0:08:44.184
dan ditugaskan untuk [br]menjaga orang-orang tetap aman,

0:08:44.184,0:08:46.730
kami harus membayangkan [br]yang terburuk akan terjadi,

0:08:46.730,0:08:50.957
karena bagi kami, [br]satu dari sejuta kemungkinan

0:08:50.957,0:08:53.706
adalah peluang yang besar.

0:08:53.706,0:08:55.570
Terima kasih.

0:08:55.570,0:08:59.570
(Tepuk tangan)