0:00:00.984,0:00:02.275
Moj posao u Twitteru

0:00:02.275,0:00:04.253
je osigurati povjerenje korisnika,

0:00:04.253,0:00:07.090
zaštiti prava korisnika i očuvati sigurnost korisnika,

0:00:07.090,0:00:08.350
jedne od drugih

0:00:08.350,0:00:12.249
i, ponekad, od sebe samih.

0:00:12.249,0:00:16.524
Pričajmo kako razmjer izgleda u Twitteru.

0:00:16.524,0:00:19.394
U siječnju 2009.

0:00:19.394,0:00:22.725
vidjeli smo više od dva milijuna novih tweetova svakog dana

0:00:22.725,0:00:24.489
na platformi.

0:00:24.489,0:00:30.397
Siječanj 2014., više od 500 milijuna.

0:00:30.397,0:00:32.889
Vidimo dva milijuna tweetova

0:00:32.889,0:00:35.065
u manje od šest minuta.

0:00:35.065,0:00:42.049
To je povećanje od 24900 posto.

0:00:42.049,0:00:45.302
Sad, velika većina aktivnosti na Twitteru

0:00:45.302,0:00:46.805
nikome ne škodi.

0:00:46.805,0:00:48.740
Ne postoji rizik.

0:00:48.740,0:00:54.493
Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.

0:00:54.493,0:00:56.466
Zvuči jednostavno, zar ne?

0:00:56.466,0:00:57.618
Možete čak misliti da bi to bilo lako,

0:00:57.618,0:00:59.788
s obzirom na to da sam rekla da je velika većina

0:00:59.788,0:01:03.598
aktivnosti na Twitteru bezazlena.

0:01:03.598,0:01:05.767
Zašto potrošiti toliko vremena

0:01:05.767,0:01:08.510
tražeći potencijalne nezgode

0:01:08.510,0:01:11.410
u neškodljivim aktivnostima?

0:01:11.410,0:01:14.350
Uzimajući u obzir razmjer na kojem je Twitter,

0:01:14.350,0:01:16.707
situacija jedan u milijun događa se

0:01:16.707,0:01:21.583
500 puta na dan.

0:01:21.583,0:01:23.028
To je točno i za druge tvrtke

0:01:23.028,0:01:24.499
koje rade na ovom razmjeru.

0:01:24.499,0:01:26.207
Za nas, rubni slučajevi,

0:01:26.207,0:01:29.832
one rijetke situacije koje su neizgledne da se dogode,

0:01:29.832,0:01:32.454
su više kao norma.

0:01:32.454,0:01:36.396
Recimo da 99,999 posto tweetova

0:01:36.396,0:01:38.284
ne predstavljaju prijetnju nikome.

0:01:38.284,0:01:39.350
Ne postoji nikakva prijetnja.

0:01:39.350,0:01:42.304
Možda ljudi bilježe putne znamenitosti

0:01:42.304,0:01:44.267
Kao što je Australski Heart Reef

0:01:44.267,0:01:47.188
ili tweetaju o koncertu na kojem su,

0:01:47.188,0:01:51.935
ili dijele slike slatkih životinjskih mladunaca.

0:01:51.935,0:01:56.444
Kada oduzmete tih 99,999 posto,

0:01:56.444,0:01:59.973
taj mali postotak tweetova koji ostaje

0:01:59.973,0:02:02.362
daje otprilike

0:02:02.362,0:02:05.837
150,000 mjesečno.

0:02:05.837,0:02:08.293
Čisti razmjer onoga čime se bavimo

0:02:08.293,0:02:10.605
predstavlja izazov.

0:02:10.605,0:02:11.783
Znate što još čini moju ulogu

0:02:11.783,0:02:14.890
posebno izazovnom?

0:02:14.890,0:02:20.013
Ljudi rade čudne stvari.

0:02:20.013,0:02:21.842
(Smijeh)

0:02:21.842,0:02:24.233
I moram otkriti što oni to rade,

0:02:24.233,0:02:26.482
zašto, i postoji li ili ne rizik,

0:02:26.482,0:02:28.650
često bez puno konteksta

0:02:28.650,0:02:30.497
ili pozadine.

0:02:30.497,0:02:32.574
Pokazat ću vam neke primjere

0:02:32.574,0:02:34.579
na koje sam naišla za vrijeme rada u Twitteru --

0:02:34.579,0:02:36.199
ovo su sve stvarni primjeri --

0:02:36.199,0:02:38.852
situacija koje su se činile jednostavne na početku

0:02:38.852,0:02:40.495
ali stvarna priroda stvari bila je nešto

0:02:40.495,0:02:42.045
potpuno drugačije,

0:02:42.045,0:02:44.022
Detalji su promijenjeni

0:02:44.022,0:02:45.279
kako bi zaštitili nevine

0:02:45.279,0:02:48.512
i ponekad krivce.

0:02:48.512,0:02:51.517
Počet ćemo lagano.

0:02:51.517,0:02:53.310
["Hej kujo"]

0:02:53.310,0:02:56.538
Kada biste vidjeli Tweet koji kaže samo ovo,

0:02:56.538,0:02:58.232
pomislili biste,

0:02:58.232,0:02:59.885
"Ovo izgleda kao zlostavljanje."

0:02:59.885,0:03:02.992
Na kraju krajeva, zašto biste htjeli primiti poruku.

0:03:02.992,0:03:05.210
"Hej, kujo."

0:03:05.210,0:03:09.873
Sad, pokušavam ostati relativno u tijeku

0:03:09.873,0:03:12.385
sa najnovijim trendovima i memeima,

0:03:12.385,0:03:15.089
pa sam znala da "Hej, kujo"

0:03:15.089,0:03:18.243
je također učestali pozdrav među prijateljima,

0:03:18.243,0:03:22.505
kao i popularna referenca na "Breaking Bad".

0:03:22.505,0:03:24.992
Priznat ću da nisam očekivala

0:03:24.992,0:03:27.833
susresti četvrti slučaj korištenja.

0:03:27.833,0:03:30.937
Ispada da se također koristi na Twitteru

0:03:30.937,0:03:33.999
kada ljudi glume pse.

0:03:33.999,0:03:39.278
(Smijeh)

0:03:39.278,0:03:40.944
I zapravo, u tom slučaju,

0:03:40.944,0:03:42.553
ne samo da nije zlostavljanje

0:03:42.553,0:03:45.692
nego je to tehnički ispravan pozdrav.

0:03:45.692,0:03:48.581
(Smijeh)

0:03:48.581,0:03:50.652
Dakle, utvrđivanje je li ili nije

0:03:50.652,0:03:52.500
nešto uvredljivo bez konteksta,

0:03:52.500,0:03:54.092
definitivno teško.

0:03:54.092,0:03:56.809
Pogledajmo spam.

0:03:56.809,0:03:58.769
Ovo je primjer računa koji je uključen

0:03:58.769,0:04:00.437
u klasično spammersko ponašanje,

0:04:00.437,0:04:01.996
šaljući potpuno jednaku poruku

0:04:01.996,0:04:03.800
tisućama ljudi.

0:04:03.800,0:04:06.593
Iako je ovo samo primjer koji sam napravila koristeći svoj račun,

0:04:06.593,0:04:09.594
vidimo račune kako to rade cijelo vrijeme.

0:04:09.594,0:04:11.573
Čini se poprilično jednostavno.

0:04:11.573,0:04:13.626
Jednostavno bi trebali suspendirati račune

0:04:13.626,0:04:16.933
koji se bave ovakvim stvarima.

0:04:16.933,0:04:20.143
Ispada da postoje neke iznimke tome pravilu.

0:04:20.143,0:04:23.026
Ispada da poruke mogu biti i obavijest

0:04:23.026,0:04:26.915
za koju ste se prijavili kako bi znali [br]da Međunarodna Svemirska Postaja prolazi

0:04:26.915,0:04:28.761
jer ste htjeli izaći van

0:04:28.761,0:04:30.709
i pokušati vidjeti je.

0:04:30.709,0:04:31.934
Nećete dobiti tu priliku

0:04:31.934,0:04:33.781
ako mi greškom suspendiramo račun

0:04:33.781,0:04:36.047
misleći da je to spam.

0:04:36.047,0:04:39.573
Ok. Povisimo uloge.

0:04:39.573,0:04:41.489
Natrag na moj račun,

0:04:41.489,0:04:44.994
ponovno prikazuje klasično ponašanje.

0:04:44.994,0:04:47.637
Ovoga puta šalje istu poruku i poveznicu.

0:04:47.637,0:04:50.411
Ovo je često indikator nečega što se zove "phishing"

0:04:50.411,0:04:53.589
odnosno kada netko pokušava ukrasti [br]informacije o računu druge osobe

0:04:53.589,0:04:55.792
usmjeravajući ih na drugu web stranicu.

0:04:55.792,0:04:59.986
To očito nije dobra stvar.

0:04:59.986,0:05:01.916
Mi želimo, i to i činimo, suspendirati račune

0:05:01.916,0:05:04.540
koji se bave ovakvim stvarima.

0:05:04.540,0:05:07.787
Zašto su onda ulozi veći u ovakvim situacijama?

0:05:07.787,0:05:10.786
Pa, ovo bi mogao biti promatrač na skupu

0:05:10.786,0:05:12.696
koji je uspio snimiti video

0:05:12.696,0:05:15.966
policajca koji tuče prosvjednika

0:05:15.966,0:05:18.941
koji pokušava svijetu reći što se događa.

0:05:18.941,0:05:20.584
Ne želimo se kockati

0:05:20.584,0:05:23.101
s tim da nehotično utišamo taj krucijalni govor

0:05:23.101,0:05:26.030
klasificirajući ga kao spam i suspendirajući ga.

0:05:26.030,0:05:28.909
To znači da procjenjujemo stotine parametara

0:05:28.909,0:05:30.597
kada gledamo ponašanja računa,

0:05:30.597,0:05:32.613
i čak i tada možemo pogriješiti

0:05:32.613,0:05:34.849
i moramo ponovno procjenjivati.

0:05:34.849,0:05:38.557
Sad, uzimajući u obzir izazove s kojima se suočavam,

0:05:38.557,0:05:41.253
ključno je ne da samo predvidim

0:05:41.253,0:05:45.037
nego i dizajniram zaštitu od neočekivanog.

0:05:45.037,0:05:47.379
I to nije samo problem za mene,

0:05:47.379,0:05:49.466
ili Twitter, to je vaš problem.

0:05:49.466,0:05:51.872
To je problem za svakoga tko gradi ili stvara

0:05:51.872,0:05:53.797
nešto za što mislite da će biti odlično

0:05:53.797,0:05:56.586
i dopustit će ljudima da čine odlične stvari.

0:05:56.586,0:05:59.452
Dakle što ja činim?

0:05:59.452,0:06:02.770
Zastanem i razmišljam,

0:06:02.770,0:06:04.865
kako bi sve ovo moglo

0:06:04.865,0:06:08.658
poći strašno po krivu?

0:06:08.658,0:06:13.111
Vizualiziram katastrofu.

0:06:13.111,0:06:15.574
I to je teško. Postoji određena

0:06:15.574,0:06:18.422
svojstvena kognitivna disonanca prilikom činjenja toga,

0:06:18.422,0:06:20.234
kao kad pišete svoje svadbene zavjete

0:06:20.234,0:06:22.880
u isto vrijeme kada pišete predbračni ugovor.

0:06:22.880,0:06:24.576
(Smijeh)

0:06:24.576,0:06:26.949
Ali to i dalje morate činiti,

0:06:26.949,0:06:31.395
osobito ako se udajete za 500 milijuna tweetova po danu.

0:06:31.395,0:06:34.492
Što mislim kada kažem "vizualiziranje katastrofe?"

0:06:34.492,0:06:37.254
Pokušavam misliti kako nešto

0:06:37.254,0:06:40.482
bezazleno i neškodljivo kao što je slika mačke

0:06:40.482,0:06:41.586
može voditi do smrti,

0:06:41.586,0:06:43.912
i što učiniti kako bismo to spriječili.

0:06:43.912,0:06:46.295
Što je moj sljedeći primjer.

0:06:46.295,0:06:49.405
Ovo je moj mačak, Eli.

0:06:49.405,0:06:51.386
Htjeli smo dati korisnicima mogućnost

0:06:51.386,0:06:53.459
da dodaju slike svojim tweetovima.

0:06:53.459,0:06:55.056
Slika vrijedi tisuću riječi.

0:06:55.056,0:06:57.065
A imate samo 140 znakova.

0:06:57.065,0:06:58.265
Kada dodate sliku svom tweetu,

0:06:58.265,0:07:01.303
pogledajte koliko više sadržaja sada imate.

0:07:01.303,0:07:02.980
Postoji jako puno super stvari koje možete napraviti

0:07:02.980,0:07:04.987
dodajući sliku na tweet.

0:07:04.987,0:07:07.267
Moj posao nije misliti na njih,

0:07:07.267,0:07:10.014
već misliti na to što bi moglo poći po krivu.

0:07:10.014,0:07:11.906
Kako bi ova slika

0:07:11.906,0:07:15.445
mogla dovesti do moje smrti?

0:07:15.445,0:07:18.605
Pa, evo jedne mogućnosti.

0:07:18.605,0:07:21.691
Na ovoj slici nije samo moja mačka.

0:07:21.691,0:07:23.783
Postoje geopodatci.

0:07:23.783,0:07:25.995
Kada uslikate fotografiju vašim pametnim telefonom

0:07:25.995,0:07:27.294
ili digitalnom kamerom,

0:07:27.294,0:07:28.948
postoji mnogo dodatnih informacija

0:07:28.948,0:07:30.564
koje su spremljene u toj slici.

0:07:30.564,0:07:32.496
Zapravo, ova slika također sadrži

0:07:32.496,0:07:34.301
ekvivalent ovoga,

0:07:34.301,0:07:37.380
točnije ovoga.

0:07:37.380,0:07:39.336
Naravno, malo je vjerojatno da će netko pokušati

0:07:39.336,0:07:41.621
pronaći me i učiniti mi nešto nažao

0:07:41.621,0:07:43.405
na osnovi podataka sa slike povezane

0:07:43.405,0:07:45.353
sa fotografijom moje mačke,

0:07:45.353,0:07:49.004
ali počnem pretpostavljati da će se dogoditi najgore.

0:07:49.004,0:07:51.342
Zato smo, kad smo lansirali fotografije na Twitteru,

0:07:51.342,0:07:55.163
odlučili ukloniti sve geopodatke.

0:07:55.163,0:08:01.010
(Pljesak)

0:08:01.010,0:08:03.623
Ako počnem s najgorom pretpostavkom

0:08:03.623,0:08:04.570
i radim unatrag,

0:08:04.570,0:08:06.010
mogu biti sigurna da će zaštite koje smo izgradili

0:08:07.450,0:08:08.891
raditi za očekivane

0:08:08.891,0:08:10.969
i neočekivane slučajeve korištenja.

0:08:10.969,0:08:13.914
Uzimajući u obzir da dane i noći provodim

0:08:13.914,0:08:16.455
zamišljajući što se najgore može dogoditi

0:08:16.455,0:08:20.712
ne bi bilo čudno da mi je pogled na svijet tmuran.

0:08:20.712,0:08:22.495
(Smijeh)

0:08:22.495,0:08:23.912
Nije.

0:08:23.912,0:08:27.788
Velika većina interakcija koje vidim --

0:08:27.788,0:08:31.689
i vidim ih puno vjerujte -- su pozitivne,

0:08:31.689,0:08:33.613
ljudi pokušavaju pomoći

0:08:33.613,0:08:37.061
ili povezati se ili dijeliti informacije jedni s drugima.

0:08:37.061,0:08:40.384
Ali stvar je u tome da mi koji se nosimo s razmjerom,

0:08:40.384,0:08:44.184
mi koji se brinemo da su ljudi sigurni,

0:08:44.184,0:08:46.730
moramo pretpostaviti da će se najgore dogoditi,

0:08:46.730,0:08:50.957
jer za nas, šanse jedan naprama milijun

0:08:50.957,0:08:53.706
su poprilično dobri izgledi.

0:08:53.706,0:08:55.570
Hvala vam.

0:08:55.570,0:08:59.570
(Pljesak)