1
00:00:00,984 --> 00:00:02,275
Moj posao u Twitteru

2
00:00:02,275 --> 00:00:04,253
je osigurati povjerenje korisnika,

3
00:00:04,253 --> 00:00:07,090
zaštiti prava korisnika i očuvati sigurnost korisnika,

4
00:00:07,090 --> 00:00:08,350
jedne od drugih

5
00:00:08,350 --> 00:00:12,249
i, ponekad, od sebe samih.

6
00:00:12,249 --> 00:00:16,524
Pričajmo kako razmjer izgleda u Twitteru.

7
00:00:16,524 --> 00:00:19,394
U siječnju 2009.

8
00:00:19,394 --> 00:00:22,725
vidjeli smo više od dva milijuna novih tweetova svakog dana

9
00:00:22,725 --> 00:00:24,489
na platformi.

10
00:00:24,489 --> 00:00:30,397
Siječanj 2014., više od 500 milijuna.

11
00:00:30,397 --> 00:00:32,889
Vidimo dva milijuna tweetova

12
00:00:32,889 --> 00:00:35,065
u manje od šest minuta.

13
00:00:35,065 --> 00:00:42,049
To je povećanje od 24900 posto.

14
00:00:42,049 --> 00:00:45,302
Sad, velika većina aktivnosti na Twitteru

15
00:00:45,302 --> 00:00:46,805
nikome ne škodi.

16
00:00:46,805 --> 00:00:48,740
Ne postoji rizik.

17
00:00:48,740 --> 00:00:54,493
Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.

18
00:00:54,493 --> 00:00:56,466
Zvuči jednostavno, zar ne?

19
00:00:56,466 --> 00:00:57,618
Možete čak misliti da bi to bilo lako,

20
00:00:57,618 --> 00:00:59,788
s obzirom na to da sam rekla da je velika većina

21
00:00:59,788 --> 00:01:03,598
aktivnosti na Twitteru bezazlena.

22
00:01:03,598 --> 00:01:05,767
Zašto potrošiti toliko vremena

23
00:01:05,767 --> 00:01:08,510
tražeći potencijalne nezgode

24
00:01:08,510 --> 00:01:11,410
u neškodljivim aktivnostima?

25
00:01:11,410 --> 00:01:14,350
Uzimajući u obzir razmjer na kojem je Twitter,

26
00:01:14,350 --> 00:01:16,707
situacija jedan u milijun događa se

27
00:01:16,707 --> 00:01:21,583
500 puta na dan.

28
00:01:21,583 --> 00:01:23,028
To je točno i za druge tvrtke

29
00:01:23,028 --> 00:01:24,499
koje rade na ovom razmjeru.

30
00:01:24,499 --> 00:01:26,207
Za nas, rubni slučajevi,

31
00:01:26,207 --> 00:01:29,832
one rijetke situacije koje su neizgledne da se dogode,

32
00:01:29,832 --> 00:01:32,454
su više kao norma.

33
00:01:32,454 --> 00:01:36,396
Recimo da 99,999 posto tweetova

34
00:01:36,396 --> 00:01:38,284
ne predstavljaju prijetnju nikome.

35
00:01:38,284 --> 00:01:39,350
Ne postoji nikakva prijetnja.

36
00:01:39,350 --> 00:01:42,304
Možda ljudi bilježe putne znamenitosti

37
00:01:42,304 --> 00:01:44,267
Kao što je Australski Heart Reef

38
00:01:44,267 --> 00:01:47,188
ili tweetaju o koncertu na kojem su,

39
00:01:47,188 --> 00:01:51,935
ili dijele slike slatkih životinjskih mladunaca.

40
00:01:51,935 --> 00:01:56,444
Kada oduzmete tih 99,999 posto,

41
00:01:56,444 --> 00:01:59,973
taj mali postotak tweetova koji ostaje

42
00:01:59,973 --> 00:02:02,362
daje otprilike

43
00:02:02,362 --> 00:02:05,837
150,000 mjesečno.

44
00:02:05,837 --> 00:02:08,293
Čisti razmjer onoga čime se bavimo

45
00:02:08,293 --> 00:02:10,605
predstavlja izazov.

46
00:02:10,605 --> 00:02:11,783
Znate što još čini moju ulogu

47
00:02:11,783 --> 00:02:14,890
posebno izazovnom?

48
00:02:14,890 --> 00:02:20,013
Ljudi rade čudne stvari.

49
00:02:20,013 --> 00:02:21,842
(Smijeh)

50
00:02:21,842 --> 00:02:24,233
I moram otkriti što oni to rade,

51
00:02:24,233 --> 00:02:26,482
zašto, i postoji li ili ne rizik,

52
00:02:26,482 --> 00:02:28,650
često bez puno konteksta

53
00:02:28,650 --> 00:02:30,497
ili pozadine.

54
00:02:30,497 --> 00:02:32,574
Pokazat ću vam neke primjere

55
00:02:32,574 --> 00:02:34,579
na koje sam naišla za vrijeme rada u Twitteru --

56
00:02:34,579 --> 00:02:36,199
ovo su sve stvarni primjeri --

57
00:02:36,199 --> 00:02:38,852
situacija koje su se činile jednostavne na početku

58
00:02:38,852 --> 00:02:40,495
ali stvarna priroda stvari bila je nešto

59
00:02:40,495 --> 00:02:42,045
potpuno drugačije,

60
00:02:42,045 --> 00:02:44,022
Detalji su promijenjeni

61
00:02:44,022 --> 00:02:45,279
kako bi zaštitili nevine

62
00:02:45,279 --> 00:02:48,512
i ponekad krivce.

63
00:02:48,512 --> 00:02:51,517
Počet ćemo lagano.

64
00:02:51,517 --> 00:02:53,310
["Hej kujo"]

65
00:02:53,310 --> 00:02:56,538
Kada biste vidjeli Tweet koji kaže samo ovo,

66
00:02:56,538 --> 00:02:58,232
pomislili biste,

67
00:02:58,232 --> 00:02:59,885
"Ovo izgleda kao zlostavljanje."

68
00:02:59,885 --> 00:03:02,992
Na kraju krajeva, zašto biste htjeli primiti poruku.

69
00:03:02,992 --> 00:03:05,210
"Hej, kujo."

70
00:03:05,210 --> 00:03:09,873
Sad, pokušavam ostati relativno u tijeku

71
00:03:09,873 --> 00:03:12,385
sa najnovijim trendovima i memeima,

72
00:03:12,385 --> 00:03:15,089
pa sam znala da "Hej, kujo"

73
00:03:15,089 --> 00:03:18,243
je također učestali pozdrav među prijateljima,

74
00:03:18,243 --> 00:03:22,505
kao i popularna referenca na "Breaking Bad".

75
00:03:22,505 --> 00:03:24,992
Priznat ću da nisam očekivala

76
00:03:24,992 --> 00:03:27,833
susresti četvrti slučaj korištenja.

77
00:03:27,833 --> 00:03:30,937
Ispada da se također koristi na Twitteru

78
00:03:30,937 --> 00:03:33,999
kada ljudi glume pse.

79
00:03:33,999 --> 00:03:39,278
(Smijeh)

80
00:03:39,278 --> 00:03:40,944
I zapravo, u tom slučaju,

81
00:03:40,944 --> 00:03:42,553
ne samo da nije zlostavljanje

82
00:03:42,553 --> 00:03:45,692
nego je to tehnički ispravan pozdrav.

83
00:03:45,692 --> 00:03:48,581
(Smijeh)

84
00:03:48,581 --> 00:03:50,652
Dakle, utvrđivanje je li ili nije

85
00:03:50,652 --> 00:03:52,500
nešto uvredljivo bez konteksta,

86
00:03:52,500 --> 00:03:54,092
definitivno teško.

87
00:03:54,092 --> 00:03:56,809
Pogledajmo spam.

88
00:03:56,809 --> 00:03:58,769
Ovo je primjer računa koji je uključen

89
00:03:58,769 --> 00:04:00,437
u klasično spammersko ponašanje,

90
00:04:00,437 --> 00:04:01,996
šaljući potpuno jednaku poruku

91
00:04:01,996 --> 00:04:03,800
tisućama ljudi.

92
00:04:03,800 --> 00:04:06,593
Iako je ovo samo primjer koji sam napravila koristeći svoj račun,

93
00:04:06,593 --> 00:04:09,594
vidimo račune kako to rade cijelo vrijeme.

94
00:04:09,594 --> 00:04:11,573
Čini se poprilično jednostavno.

95
00:04:11,573 --> 00:04:13,626
Jednostavno bi trebali suspendirati račune

96
00:04:13,626 --> 00:04:16,933
koji se bave ovakvim stvarima.

97
00:04:16,933 --> 00:04:20,143
Ispada da postoje neke iznimke tome pravilu.

98
00:04:20,143 --> 00:04:23,026
Ispada da poruke mogu biti i obavijest

99
00:04:23,026 --> 00:04:26,915
za koju ste se prijavili kako bi znali 
da Međunarodna Svemirska Postaja prolazi

100
00:04:26,915 --> 00:04:28,761
jer ste htjeli izaći van

101
00:04:28,761 --> 00:04:30,709
i pokušati vidjeti je.

102
00:04:30,709 --> 00:04:31,934
Nećete dobiti tu priliku

103
00:04:31,934 --> 00:04:33,781
ako mi greškom suspendiramo račun

104
00:04:33,781 --> 00:04:36,047
misleći da je to spam.

105
00:04:36,047 --> 00:04:39,573
Ok. Povisimo uloge.

106
00:04:39,573 --> 00:04:41,489
Natrag na moj račun,

107
00:04:41,489 --> 00:04:44,994
ponovno prikazuje klasično ponašanje.

108
00:04:44,994 --> 00:04:47,637
Ovoga puta šalje istu poruku i poveznicu.

109
00:04:47,637 --> 00:04:50,411
Ovo je često indikator nečega što se zove "phishing"

110
00:04:50,411 --> 00:04:53,589
odnosno kada netko pokušava ukrasti 
informacije o računu druge osobe

111
00:04:53,589 --> 00:04:55,792
usmjeravajući ih na drugu web stranicu.

112
00:04:55,792 --> 00:04:59,986
To očito nije dobra stvar.

113
00:04:59,986 --> 00:05:01,916
Mi želimo, i to i činimo, suspendirati račune

114
00:05:01,916 --> 00:05:04,540
koji se bave ovakvim stvarima.

115
00:05:04,540 --> 00:05:07,787
Zašto su onda ulozi veći u ovakvim situacijama?

116
00:05:07,787 --> 00:05:10,786
Pa, ovo bi mogao biti promatrač na skupu

117
00:05:10,786 --> 00:05:12,696
koji je uspio snimiti video

118
00:05:12,696 --> 00:05:15,966
policajca koji tuče prosvjednika

119
00:05:15,966 --> 00:05:18,941
koji pokušava svijetu reći što se događa.

120
00:05:18,941 --> 00:05:20,584
Ne želimo se kockati

121
00:05:20,584 --> 00:05:23,101
s tim da nehotično utišamo taj krucijalni govor

122
00:05:23,101 --> 00:05:26,030
klasificirajući ga kao spam i suspendirajući ga.

123
00:05:26,030 --> 00:05:28,909
To znači da procjenjujemo stotine parametara

124
00:05:28,909 --> 00:05:30,597
kada gledamo ponašanja računa,

125
00:05:30,597 --> 00:05:32,613
i čak i tada možemo pogriješiti

126
00:05:32,613 --> 00:05:34,849
i moramo ponovno procjenjivati.

127
00:05:34,849 --> 00:05:38,557
Sad, uzimajući u obzir izazove s kojima se suočavam,

128
00:05:38,557 --> 00:05:41,253
ključno je ne da samo predvidim

129
00:05:41,253 --> 00:05:45,037
nego i dizajniram zaštitu od neočekivanog.

130
00:05:45,037 --> 00:05:47,379
I to nije samo problem za mene,

131
00:05:47,379 --> 00:05:49,466
ili Twitter, to je vaš problem.

132
00:05:49,466 --> 00:05:51,872
To je problem za svakoga tko gradi ili stvara

133
00:05:51,872 --> 00:05:53,797
nešto za što mislite da će biti odlično

134
00:05:53,797 --> 00:05:56,586
i dopustit će ljudima da čine odlične stvari.

135
00:05:56,586 --> 00:05:59,452
Dakle što ja činim?

136
00:05:59,452 --> 00:06:02,770
Zastanem i razmišljam,

137
00:06:02,770 --> 00:06:04,865
kako bi sve ovo moglo

138
00:06:04,865 --> 00:06:08,658
poći strašno po krivu?

139
00:06:08,658 --> 00:06:13,111
Vizualiziram katastrofu.

140
00:06:13,111 --> 00:06:15,574
I to je teško. Postoji određena

141
00:06:15,574 --> 00:06:18,422
svojstvena kognitivna disonanca prilikom činjenja toga,

142
00:06:18,422 --> 00:06:20,234
kao kad pišete svoje svadbene zavjete

143
00:06:20,234 --> 00:06:22,880
u isto vrijeme kada pišete predbračni ugovor.

144
00:06:22,880 --> 00:06:24,576
(Smijeh)

145
00:06:24,576 --> 00:06:26,949
Ali to i dalje morate činiti,

146
00:06:26,949 --> 00:06:31,395
osobito ako se udajete za 500 milijuna tweetova po danu.

147
00:06:31,395 --> 00:06:34,492
Što mislim kada kažem "vizualiziranje katastrofe?"

148
00:06:34,492 --> 00:06:37,254
Pokušavam misliti kako nešto

149
00:06:37,254 --> 00:06:40,482
bezazleno i neškodljivo kao što je slika mačke

150
00:06:40,482 --> 00:06:41,586
može voditi do smrti,

151
00:06:41,586 --> 00:06:43,912
i što učiniti kako bismo to spriječili.

152
00:06:43,912 --> 00:06:46,295
Što je moj sljedeći primjer.

153
00:06:46,295 --> 00:06:49,405
Ovo je moj mačak, Eli.

154
00:06:49,405 --> 00:06:51,386
Htjeli smo dati korisnicima mogućnost

155
00:06:51,386 --> 00:06:53,459
da dodaju slike svojim tweetovima.

156
00:06:53,459 --> 00:06:55,056
Slika vrijedi tisuću riječi.

157
00:06:55,056 --> 00:06:57,065
A imate samo 140 znakova.

158
00:06:57,065 --> 00:06:58,265
Kada dodate sliku svom tweetu,

159
00:06:58,265 --> 00:07:01,303
pogledajte koliko više sadržaja sada imate.

160
00:07:01,303 --> 00:07:02,980
Postoji jako puno super stvari koje možete napraviti

161
00:07:02,980 --> 00:07:04,987
dodajući sliku na tweet.

162
00:07:04,987 --> 00:07:07,267
Moj posao nije misliti na njih,

163
00:07:07,267 --> 00:07:10,014
već misliti na to što bi moglo poći po krivu.

164
00:07:10,014 --> 00:07:11,906
Kako bi ova slika

165
00:07:11,906 --> 00:07:15,445
mogla dovesti do moje smrti?

166
00:07:15,445 --> 00:07:18,605
Pa, evo jedne mogućnosti.

167
00:07:18,605 --> 00:07:21,691
Na ovoj slici nije samo moja mačka.

168
00:07:21,691 --> 00:07:23,783
Postoje geopodatci.

169
00:07:23,783 --> 00:07:25,995
Kada uslikate fotografiju vašim pametnim telefonom

170
00:07:25,995 --> 00:07:27,294
ili digitalnom kamerom,

171
00:07:27,294 --> 00:07:28,948
postoji mnogo dodatnih informacija

172
00:07:28,948 --> 00:07:30,564
koje su spremljene u toj slici.

173
00:07:30,564 --> 00:07:32,496
Zapravo, ova slika također sadrži

174
00:07:32,496 --> 00:07:34,301
ekvivalent ovoga,

175
00:07:34,301 --> 00:07:37,380
točnije ovoga.

176
00:07:37,380 --> 00:07:39,336
Naravno, malo je vjerojatno da će netko pokušati

177
00:07:39,336 --> 00:07:41,621
pronaći me i učiniti mi nešto nažao

178
00:07:41,621 --> 00:07:43,405
na osnovi podataka sa slike povezane

179
00:07:43,405 --> 00:07:45,353
sa fotografijom moje mačke,

180
00:07:45,353 --> 00:07:49,004
ali počnem pretpostavljati da će se dogoditi najgore.

181
00:07:49,004 --> 00:07:51,342
Zato smo, kad smo lansirali fotografije na Twitteru,

182
00:07:51,342 --> 00:07:55,163
odlučili ukloniti sve geopodatke.

183
00:07:55,163 --> 00:08:01,010
(Pljesak)

184
00:08:01,010 --> 00:08:03,623
Ako počnem s najgorom pretpostavkom

185
00:08:03,623 --> 00:08:04,570
i radim unatrag,

186
00:08:04,570 --> 00:08:06,010
mogu biti sigurna da će zaštite koje smo izgradili

187
00:08:07,450 --> 00:08:08,891
raditi za očekivane

188
00:08:08,891 --> 00:08:10,969
i neočekivane slučajeve korištenja.

189
00:08:10,969 --> 00:08:13,914
Uzimajući u obzir da dane i noći provodim

190
00:08:13,914 --> 00:08:16,455
zamišljajući što se najgore može dogoditi

191
00:08:16,455 --> 00:08:20,712
ne bi bilo čudno da mi je pogled na svijet tmuran.

192
00:08:20,712 --> 00:08:22,495
(Smijeh)

193
00:08:22,495 --> 00:08:23,912
Nije.

194
00:08:23,912 --> 00:08:27,788
Velika većina interakcija koje vidim --

195
00:08:27,788 --> 00:08:31,689
i vidim ih puno vjerujte -- su pozitivne,

196
00:08:31,689 --> 00:08:33,613
ljudi pokušavaju pomoći

197
00:08:33,613 --> 00:08:37,061
ili povezati se ili dijeliti informacije jedni s drugima.

198
00:08:37,061 --> 00:08:40,384
Ali stvar je u tome da mi koji se nosimo s razmjerom,

199
00:08:40,384 --> 00:08:44,184
mi koji se brinemo da su ljudi sigurni,

200
00:08:44,184 --> 00:08:46,730
moramo pretpostaviti da će se najgore dogoditi,

201
00:08:46,730 --> 00:08:50,957
jer za nas, šanse jedan naprama milijun

202
00:08:50,957 --> 00:08:53,706
su poprilično dobri izgledi.

203
00:08:53,706 --> 00:08:55,570
Hvala vam.

204
00:08:55,570 --> 00:08:59,570
(Pljesak)