1
00:00:00,984 --> 00:00:02,275
Pekerjaan saya di Twitter

2
00:00:02,275 --> 00:00:04,343
adalah untuk menjaga kepercayaan pengguna,

3
00:00:04,343 --> 00:00:07,090
melindungi hak mereka dan
menjaga keamanan mereka,

4
00:00:07,090 --> 00:00:08,570
baik dari sesama pengguna,

5
00:00:08,570 --> 00:00:12,249
dan kadang-kadang,
dari diri mereka sendiri.

6
00:00:12,249 --> 00:00:16,524
Mari bicara tentang skalanya di Twitter.

7
00:00:16,524 --> 00:00:19,394
Pada bulan Januari 2009,

8
00:00:19,394 --> 00:00:22,725
kami melihat lebih dari 2 juta 
kicauan baru setiap hari

9
00:00:22,725 --> 00:00:24,849
di aplikasi ini.

10
00:00:24,849 --> 00:00:30,397
Januari 2014, lebih dari 500 juta.

11
00:00:30,397 --> 00:00:32,889
Ada 2 juta kicauan baru

12
00:00:32,889 --> 00:00:35,065
dalam kurang dari 6 menit.

13
00:00:35,065 --> 00:00:42,049
Artinya terjadi kenaikan sebesar
24.900 persen.

14
00:00:42,049 --> 00:00:45,302
Nah, sebagian besar aktivitas di Twitter

15
00:00:45,302 --> 00:00:47,035
tidak membahayakan siapapun.

16
00:00:47,035 --> 00:00:48,740
Tidak ada resiko apa pun.

17
00:00:48,740 --> 00:00:54,493
Tugas saya adalah untuk membasmi dan
mencegah aktivitas yang mungkin berbahaya.

18
00:00:54,493 --> 00:00:56,466
Terdengar sederhana, bukan?

19
00:00:56,466 --> 00:00:58,018
Mungkin Anda pikir itu mudah,

20
00:00:58,018 --> 00:00:59,788
mengingat saya baru saja mengatakan

21
00:00:59,788 --> 00:01:03,598
bahwa sebagian besar aktivitas di Twitter
tidak membahayakan siapa pun.

22
00:01:03,598 --> 00:01:05,767
Kenapa menghabiskan banyak waktu

23
00:01:05,767 --> 00:01:08,510
untuk mencari kemungkinan bahaya

24
00:01:08,510 --> 00:01:11,410
dalam aktivitas yang aman-aman saja?

25
00:01:11,410 --> 00:01:14,350
Mengingat skala Twitter saat ini,

26
00:01:14,350 --> 00:01:16,707
satu dari sejuta kemungkinan 
bahaya terjadi

27
00:01:16,707 --> 00:01:21,583
500 kali tiap harinya.

28
00:01:21,583 --> 00:01:22,938
Sama seperti perusahaan lain

29
00:01:22,938 --> 00:01:24,589
yang menghadapi skala sebesar ini.

30
00:01:24,589 --> 00:01:26,207
Bagi kami, kasus paling ekstrim,

31
00:01:26,207 --> 00:01:29,832
situasi langka seperti itu 
yang tidak mungkin terjadi,

32
00:01:29,832 --> 00:01:32,454
sekarang seakan sudah menjadi norma.

33
00:01:32,454 --> 00:01:36,396
Katakanlah 99,999% kicauan

34
00:01:36,396 --> 00:01:38,224
tidak berbahaya bagi siapapun.

35
00:01:38,224 --> 00:01:39,380
Tidak ada ancaman.

36
00:01:39,380 --> 00:01:42,574
Mungkin orang-orang sedang 
mendokumentasikan tempat wisata terkenal

37
00:01:42,574 --> 00:01:44,457
seperti karang 
Heart Reef di Australia,

38
00:01:44,457 --> 00:01:47,188
atau berkicau tentang konser 
yang mereka datangi,

39
00:01:47,188 --> 00:01:51,935
atau berbagi foto bayi binatang lucu.

40
00:01:51,935 --> 00:01:56,444
Setelah Anda menghilangkan 99,999% itu,

41
00:01:56,444 --> 00:01:59,973
presentase sangat kecil dari 
kicauan yang tersisa

42
00:01:59,973 --> 00:02:02,362
jika dihitung kira-kira mencapai

43
00:02:02,362 --> 00:02:05,837
150.000 kicauan per bulan.

44
00:02:05,837 --> 00:02:08,293
Besarnya skala yang kita hadapi sekarang,

45
00:02:08,293 --> 00:02:10,605
merupakan sebuah tantangan.

46
00:02:10,605 --> 00:02:12,833
Anda tahu apa yang membuat pekerjaan saya

47
00:02:12,833 --> 00:02:14,240
cukup menantang?

48
00:02:14,890 --> 00:02:20,013
Orang-orang melakukan hal-hal aneh.

49
00:02:20,013 --> 00:02:21,842
(Tertawa)

50
00:02:21,842 --> 00:02:24,313
Dan saya harus mencari tahu 
apa yang mereka lakukan,

51
00:02:24,313 --> 00:02:26,482
kenapa, dan apakah ada resiko didalamnya,

52
00:02:26,482 --> 00:02:28,650
yang seringkali tanpa konteks

53
00:02:28,650 --> 00:02:30,497
atau latar belakang apapun.

54
00:02:30,497 --> 00:02:32,504
Saya akan menunjukkan beberapa contoh

55
00:02:32,504 --> 00:02:34,679
yang saya temukan saat 
bekerja di Twitter --

56
00:02:34,679 --> 00:02:36,239
ini semua adalah contoh nyata --

57
00:02:36,239 --> 00:02:38,852
dari situasi yang awalnya 
terlihat biasa saja,

58
00:02:38,852 --> 00:02:40,495
namun sebenarnya merupakan sesuatu

59
00:02:40,495 --> 00:02:42,045
yang sama sekali berbeda.

60
00:02:42,045 --> 00:02:43,532
Detailnya sudah diubah

61
00:02:43,532 --> 00:02:45,279
untuk melindungi yang tidak bersalah

62
00:02:45,279 --> 00:02:48,512
dan kadang-kadang yang bersalah sekalipun.

63
00:02:48,512 --> 00:02:51,517
Kita mulai dengan yang mudah.

64
00:02:51,517 --> 00:02:53,310
["Hei Perempuan Jalang"]

65
00:02:53,310 --> 00:02:56,538
Jika Anda melihat kicauan seperti ini,

66
00:02:56,538 --> 00:02:58,232
Anda mungkin berpikir,

67
00:02:58,232 --> 00:02:59,885
"Itu kelihatannya pelecehan."

68
00:02:59,885 --> 00:03:02,992
Lagipula, mengapa Anda mau menerima pesan,

69
00:03:02,992 --> 00:03:05,210
"Hei, Perempuan Jalang."

70
00:03:05,210 --> 00:03:09,873
Nah, sekarang, saya mencoba 
untuk tetap mengikuti

71
00:03:09,873 --> 00:03:12,385
tren dan meme terbaru,

72
00:03:12,385 --> 00:03:15,089
jadi saya tahu bahwa
"Hei, perempuan jalang"

73
00:03:15,089 --> 00:03:18,243
seringkali adalah sapaan umum antar teman,

74
00:03:18,243 --> 00:03:22,505
juga sebagai referensi film
"Breaking Bad" yang sedang populer.

75
00:03:22,505 --> 00:03:24,992
Saya mengakui bahwa saya tidak mengira

76
00:03:24,992 --> 00:03:27,833
adanya penggunaan keempat 
dari ungkapan tadi.

77
00:03:27,833 --> 00:03:30,937
Ternyata, di Twitter juga 
ada hal seperti ini

78
00:03:30,937 --> 00:03:33,999
dimana orang berpura-pura menjadi anjing.

79
00:03:33,999 --> 00:03:39,278
(Tertawa)

80
00:03:39,278 --> 00:03:40,944
Bahkan, untuk kasus tadi,

81
00:03:40,944 --> 00:03:42,553
bukan saja tidak melecehkan,

82
00:03:42,553 --> 00:03:45,692
namun secara teknis kicauan itu 
hanyalah sapaan.

83
00:03:45,692 --> 00:03:48,581
(Tertawa)

84
00:03:48,581 --> 00:03:50,432
Oke, untuk menentukan apakah sesuatu

85
00:03:50,432 --> 00:03:52,600
merupakan pelecehan 
atau bukan tanpa konteks,

86
00:03:52,600 --> 00:03:54,092
sungguhlah sulit.

87
00:03:54,092 --> 00:03:56,809
Mari kita beralih ke spam.

88
00:03:56,809 --> 00:03:58,769
Ini adalah contoh dari akun yang

89
00:03:58,769 --> 00:04:00,437
memiliki ciri-ciri klasik spam,

90
00:04:00,437 --> 00:04:02,176
yang mengirim pesan yang sama persis

91
00:04:02,176 --> 00:04:03,770
ke ribuan orang.

92
00:04:03,770 --> 00:04:06,593
Meski ini adalah contoh yang saya buat 
dengan akun pribadi,

93
00:04:06,593 --> 00:04:09,594
kita melihat akun-akun 
seperti ini setiap saat.

94
00:04:09,594 --> 00:04:11,573
Kelihatannya mudah saja.

95
00:04:11,573 --> 00:04:13,626
Kita seharusnya tinggal menutup akun

96
00:04:13,626 --> 00:04:16,933
yang melakukan perilaku seperti ini.

97
00:04:16,933 --> 00:04:20,143
Ternyata, ada pengecualian 
dalam peraturan itu.

98
00:04:20,143 --> 00:04:23,026
Ternyata, pesan tersebut bisa saja 
sebuah pemberitahuan

99
00:04:23,026 --> 00:04:26,915
Anda mendaftar Stasiun Luar 
Angkasa Internasional yang lewat

100
00:04:26,915 --> 00:04:28,761
karena Anda ingin pergi ke luar

101
00:04:28,761 --> 00:04:30,509
dan ingin melihatnya secara langsung

102
00:04:30,509 --> 00:04:32,404
Anda tidak akan mendapat kesempatan itu

103
00:04:32,404 --> 00:04:33,961
jika kami salah menghapus akun

104
00:04:33,961 --> 00:04:36,047
karena berpikir itu spam.

105
00:04:36,047 --> 00:04:39,573
Oke, kita ke contoh yang lebih sulit.

106
00:04:39,573 --> 00:04:41,489
Kembali ke akun saya,

107
00:04:41,489 --> 00:04:44,988
lagi-lagi terkait perilaku klasik.

108
00:04:44,988 --> 00:04:47,757
Kali ini, aku saya mengirim pesan 
dan tautan yang sama.

109
00:04:47,757 --> 00:04:50,411
Hal ini seringkali diindikasikan 
sebagai phishing,

110
00:04:50,411 --> 00:04:53,589
seseorang mencoba untuk 
mencuri informasi akun orang lain

111
00:04:53,589 --> 00:04:55,792
dengan mengarahkan mereka ke suatu laman.

112
00:04:55,792 --> 00:04:59,986
Jelaslah ini bukan hal yang bagus.

113
00:04:59,986 --> 00:05:01,916
Kami ingin, dan akan, menghapus akun

114
00:05:01,916 --> 00:05:04,540
yang berperilaku seperti itu.

115
00:05:04,540 --> 00:05:07,787
Lalu kenapa yang ini lebih sulit?

116
00:05:07,787 --> 00:05:10,786
Ternyata, kicauan ini bisa saja 
saksi mata demonstrasi

117
00:05:10,786 --> 00:05:12,696
dan dia berhasil merekam video

118
00:05:12,696 --> 00:05:15,966
dari petugas polisi yang memukul 
demonstran damai

119
00:05:15,966 --> 00:05:18,941
dan akun ini memberitahu dunia 
apa yang sedang terjadi.

120
00:05:18,941 --> 00:05:20,584
Kami tidak ingin bertaruh

121
00:05:20,584 --> 00:05:23,101
untuk membungkam berita yang krusial itu

122
00:05:23,101 --> 00:05:26,030
dengan menganggapnya sebagai spam 
dan menghapusnya.

123
00:05:26,030 --> 00:05:28,909
Artinya, kami harus mengevaluasi 
ratusan parameter

124
00:05:28,909 --> 00:05:30,597
ketika melihat perilaku akun,

125
00:05:30,597 --> 00:05:32,683
bahkan dengan itupun, 
kami masih bisa salah

126
00:05:32,683 --> 00:05:34,849
dan harus mengevaluasi ulang.

127
00:05:34,849 --> 00:05:38,557
Nah, dengan tantangan-tantangan 
yang saya hadapi,

128
00:05:38,557 --> 00:05:41,253
penting diingat bahwa saya 
tidak hanya memprediksi

129
00:05:41,253 --> 00:05:45,037
namun juga mendesain proteksi 
akan hal tidak terduga.

130
00:05:45,037 --> 00:05:47,379
Dan itu bukan hanya menjadi masalah saya,

131
00:05:47,379 --> 00:05:49,506
atau masalah Twitter, 
itu juga masalah Anda.

132
00:05:49,506 --> 00:05:51,972
Menjadi masalah siapapun
yang membangun atau membuat

133
00:05:51,972 --> 00:05:53,797
sesuatu yang Anda pikir luar biasa

134
00:05:53,797 --> 00:05:56,586
dan akan membuat orang 
melakukan hal yang luar biasa.

135
00:05:56,586 --> 00:05:59,452
Jadi, apa yang saya lakukan?

136
00:05:59,452 --> 00:06:02,770
Saya berhenti sejenak dan berpikir,

137
00:06:02,770 --> 00:06:04,865
Bagaimana semua ini

138
00:06:04,865 --> 00:06:08,658
bisa menjadi sangat buruk?

139
00:06:08,658 --> 00:06:13,111
Saya memvisualisasikan bencana besar.

140
00:06:13,111 --> 00:06:15,574
Dan itu sulit. Ada semacam

141
00:06:15,574 --> 00:06:18,282
disonansi kognitif yang melekat 
untuk melakukannya,

142
00:06:18,282 --> 00:06:20,444
seperti saat kalian menulis 
sumpah pernikahan

143
00:06:20,444 --> 00:06:23,200
dan saat yang bersamaan juga 
menulis perjanjian pra-nikah.

144
00:06:23,200 --> 00:06:24,576
(Tertawa)

145
00:06:24,576 --> 00:06:26,949
Namun Anda tetap harus melakukannya,

146
00:06:26,949 --> 00:06:31,395
khususnya jika Anda 
menikahi 500 juta kicauan per hari.

147
00:06:31,395 --> 00:06:34,492
Apa maksud saya "membayangkan bencana"?

148
00:06:34,492 --> 00:06:37,254
Saya mencoba membayangkan bagaimana hal

149
00:06:37,254 --> 00:06:40,392
yang begitu jinak dan tidak berbahaya 
seperti gambar seekor kucing

150
00:06:40,392 --> 00:06:41,676
bisa berujung kematian,

151
00:06:41,676 --> 00:06:43,912
dan bagaimana cara mencegahnya.

152
00:06:43,912 --> 00:06:46,295
Yang kebetulan menjadi 
contoh saya berikutnya.

153
00:06:46,295 --> 00:06:49,405
Ini kucing saya, Eli.

154
00:06:49,405 --> 00:06:51,386
Kami ingin memberikan pengguna kemampuan

155
00:06:51,386 --> 00:06:53,589
untuk menambahkan gambar 
pada kicauan mereka.

156
00:06:53,589 --> 00:06:55,266
Sebuah gambar bermakna ribuan kata.

157
00:06:55,266 --> 00:06:57,065
Anda hanya punya 140 karakter.

158
00:06:57,065 --> 00:06:58,835
Menambahkan gambar 
pada kicauan Anda,

159
00:06:58,835 --> 00:07:01,303
lihatlah banyaknya konten 
yang Anda dapat sekarang.

160
00:07:01,303 --> 00:07:03,250
Ada hal-hal hebat yang bisa Anda lakukan

161
00:07:03,250 --> 00:07:05,377
dengan menambahkan gambar 
pada kicauan Anda.

162
00:07:05,377 --> 00:07:07,267
Tugas saya bukan untuk memikirkan itu.

163
00:07:07,267 --> 00:07:10,014
Tapi memikirkan bagaimana 
hal itu bisa menjadi buruk.

164
00:07:10,014 --> 00:07:11,906
Bagaimana gambar ini

165
00:07:11,906 --> 00:07:15,445
bisa berujung pada kematian saya?

166
00:07:15,445 --> 00:07:18,605
Ada satu kemungkinan.

167
00:07:18,605 --> 00:07:21,691
Gambar ini berisi lebih 
dari sekedar kucing.

168
00:07:21,691 --> 00:07:23,703
Tedapat geodata.

169
00:07:23,703 --> 00:07:26,065
Jika Anda mengambil gambar 
dengan smartphone Anda

170
00:07:26,065 --> 00:07:27,294
atau kamera digital,

171
00:07:27,294 --> 00:07:28,948
ada banyak informasi tambahan

172
00:07:28,948 --> 00:07:30,564
tersimpan bersamaan di gambar itu.

173
00:07:30,564 --> 00:07:32,496
Bahkan, gambar ini juga berisi

174
00:07:32,496 --> 00:07:34,301
ekuivalen dari ini,

175
00:07:34,301 --> 00:07:37,190
lebih spesifiknya, ini.

176
00:07:37,190 --> 00:07:39,526
Tentu, agak tidak mungkin jika 
seseorang mencoba

177
00:07:39,526 --> 00:07:41,621
untuk melacak saya dan mencelakai saya

178
00:07:41,621 --> 00:07:43,405
berdasarkan data gambar tersebut

179
00:07:43,405 --> 00:07:45,353
ketika mengambil gambar kucing saya,

180
00:07:45,353 --> 00:07:48,674
namun saya berimajinasi 
hal yang terburuk akan terjadi.

181
00:07:48,674 --> 00:07:51,542
Karena itu, saat kami 
meluncurkan fitur gambar pada Twitter,

182
00:07:51,542 --> 00:07:55,163
kami memutuskan untuk 
menghapus geodata tersebut.

183
00:07:55,163 --> 00:08:01,010
(Tepuk tangan)

184
00:08:01,010 --> 00:08:03,403
Jika saya mulai dengan 
membayangkan hal buruk

185
00:08:03,403 --> 00:08:04,570
dan berpikir ke belakang

186
00:08:04,570 --> 00:08:07,123
saya bisa pastikan perlindungan 
yang kami bangun

187
00:08:07,123 --> 00:08:08,891
bekerja untuk hal yang dapat diduga

188
00:08:08,891 --> 00:08:10,969
dan yang tidak terduga.

189
00:08:10,969 --> 00:08:13,914
Karena saya menghabiskan siang dan malam

190
00:08:13,914 --> 00:08:16,455
membayangkan hal buruk terjadi,

191
00:08:16,455 --> 00:08:20,712
tidak mengherankan 
jika cara pandang saya suram.

192
00:08:20,712 --> 00:08:22,495
(Tertawa)

193
00:08:22,495 --> 00:08:23,912
Tapi tidak.

194
00:08:23,912 --> 00:08:27,788
Mayoritas besar interaksi 
yang saya lihat --

195
00:08:27,788 --> 00:08:31,689
dan percayalah, saya melihat 
banyak sekali -- interaksi positif,

196
00:08:31,689 --> 00:08:33,613
orang-orang memberikan pertolongan

197
00:08:33,613 --> 00:08:37,061
atau terhubung atau berbagi 
informasi satu sama lain.

198
00:08:37,061 --> 00:08:40,384
Hanya saja bagi kami yang 
berurusan dengan skala ini,

199
00:08:40,384 --> 00:08:44,184
dan ditugaskan untuk 
menjaga orang-orang tetap aman,

200
00:08:44,184 --> 00:08:46,730
kami harus membayangkan 
yang terburuk akan terjadi,

201
00:08:46,730 --> 00:08:50,957
karena bagi kami, 
satu dari sejuta kemungkinan

202
00:08:50,957 --> 00:08:53,706
adalah peluang yang besar.

203
00:08:53,706 --> 00:08:55,570
Terima kasih.

204
00:08:55,570 --> 00:08:59,570
(Tepuk tangan)