WEBVTT

00:00:00.984 --> 00:00:02.275
Moj posao u Twitteru

00:00:02.275 --> 00:00:04.253
je osigurati povjerenje korisnika,

00:00:04.253 --> 00:00:07.090
zaštiti prava korisnika i očuvati sigurnost korisnika,

00:00:07.090 --> 00:00:08.350
jedne od drugih

00:00:08.350 --> 00:00:12.249
i, ponekad, od sebe samih.

00:00:12.249 --> 00:00:16.524
Pričajmo kako razmjer izgleda u Twitteru.

00:00:16.524 --> 00:00:19.394
U siječnju 2009.

00:00:19.394 --> 00:00:22.725
vidjeli smo više od dva milijuna novih tweetova svakog dana

00:00:22.725 --> 00:00:24.489
na platformi.

00:00:24.489 --> 00:00:30.397
Siječanj 2014., više od 500 milijuna.

00:00:30.397 --> 00:00:32.889
Vidimo dva milijuna tweetova

00:00:32.889 --> 00:00:35.065
u manje od šest minuta.

00:00:35.065 --> 00:00:42.049
To je povećanje od 24900 posto.

NOTE Paragraph

00:00:42.049 --> 00:00:45.302
Sad, velika većina aktivnosti na Twitteru

00:00:45.302 --> 00:00:46.805
nikome ne škodi.

00:00:46.805 --> 00:00:48.740
Ne postoji rizik.

00:00:48.740 --> 00:00:54.493
Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.

00:00:54.493 --> 00:00:56.466
Zvuči jednostavno, zar ne?

00:00:56.466 --> 00:00:57.618
Možete čak misliti da bi to bilo lako,

00:00:57.618 --> 00:00:59.788
s obzirom na to da sam rekla da je velika većina

00:00:59.788 --> 00:01:03.598
aktivnosti na Twitteru bezazlena.

00:01:03.598 --> 00:01:05.767
Zašto potrošiti toliko vremena

00:01:05.767 --> 00:01:08.510
tražeći potencijalne nezgode

00:01:08.510 --> 00:01:11.410
u neškodljivim aktivnostima?

00:01:11.410 --> 00:01:14.350
Uzimajući u obzir razmjer na kojem je Twitter,

00:01:14.350 --> 00:01:16.707
situacija jedan u milijun događa se

00:01:16.707 --> 00:01:21.583
500 puta na dan.

00:01:21.583 --> 00:01:23.028
To je točno i za druge tvrtke

00:01:23.028 --> 00:01:24.499
koje rade na ovom razmjeru.

00:01:24.499 --> 00:01:26.207
Za nas, rubni slučajevi,

00:01:26.207 --> 00:01:29.832
one rijetke situacije koje su neizgledne da se dogode,

00:01:29.832 --> 00:01:32.454
su više kao norma.

00:01:32.454 --> 00:01:36.396
Recimo da 99,999 posto tweetova

00:01:36.396 --> 00:01:38.284
ne predstavljaju prijetnju nikome.

00:01:38.284 --> 00:01:39.350
Ne postoji nikakva prijetnja.

00:01:39.350 --> 00:01:42.304
Možda ljudi bilježe putne znamenitosti

00:01:42.304 --> 00:01:44.267
Kao što je Australski Heart Reef

00:01:44.267 --> 00:01:47.188
ili tweetaju o koncertu na kojem su,

00:01:47.188 --> 00:01:51.935
ili dijele slike slatkih životinjskih mladunaca.

00:01:51.935 --> 00:01:56.444
Kada oduzmete tih 99,999 posto,

00:01:56.444 --> 00:01:59.973
taj mali postotak tweetova koji ostaje

00:01:59.973 --> 00:02:02.362
daje otprilike

00:02:02.362 --> 00:02:05.837
150,000 mjesečno.

00:02:05.837 --> 00:02:08.293
Čisti razmjer onoga čime se bavimo

00:02:08.293 --> 00:02:10.605
predstavlja izazov.

NOTE Paragraph

00:02:10.605 --> 00:02:11.783
Znate što još čini moju ulogu

00:02:11.783 --> 00:02:14.890
posebno izazovnom?

00:02:14.890 --> 00:02:20.013
Ljudi rade čudne stvari.

00:02:20.013 --> 00:02:21.842
(Smijeh)

00:02:21.842 --> 00:02:24.233
I moram otkriti što oni to rade,

00:02:24.233 --> 00:02:26.482
zašto, i postoji li ili ne rizik,

00:02:26.482 --> 00:02:28.650
često bez puno konteksta

00:02:28.650 --> 00:02:30.497
ili pozadine.

00:02:30.497 --> 00:02:32.574
Pokazat ću vam neke primjere

00:02:32.574 --> 00:02:34.579
na koje sam naišla za vrijeme rada u Twitteru --

00:02:34.579 --> 00:02:36.199
ovo su sve stvarni primjeri --

00:02:36.199 --> 00:02:38.852
situacija koje su se činile jednostavne na početku

00:02:38.852 --> 00:02:40.495
ali stvarna priroda stvari bila je nešto

00:02:40.495 --> 00:02:42.045
potpuno drugačije,

00:02:42.045 --> 00:02:44.022
Detalji su promijenjeni

00:02:44.022 --> 00:02:45.279
kako bi zaštitili nevine

00:02:45.279 --> 00:02:48.512
i ponekad krivce.

00:02:48.512 --> 00:02:51.517
Počet ćemo lagano.

NOTE Paragraph

00:02:51.517 --> 00:02:53.310
["Hej kujo"]

NOTE Paragraph

00:02:53.310 --> 00:02:56.538
Kada biste vidjeli Tweet koji kaže samo ovo,

00:02:56.538 --> 00:02:58.232
pomislili biste,

00:02:58.232 --> 00:02:59.885
"Ovo izgleda kao zlostavljanje."

00:02:59.885 --> 00:03:02.992
Na kraju krajeva, zašto biste htjeli primiti poruku.

00:03:02.992 --> 00:03:05.210
"Hej, kujo."

00:03:05.210 --> 00:03:09.873
Sad, pokušavam ostati relativno u tijeku

00:03:09.873 --> 00:03:12.385
sa najnovijim trendovima i memeima,

00:03:12.385 --> 00:03:15.089
pa sam znala da "Hej, kujo"

00:03:15.089 --> 00:03:18.243
je također učestali pozdrav među prijateljima,

00:03:18.243 --> 00:03:22.505
kao i popularna referenca na "Breaking Bad".

00:03:22.505 --> 00:03:24.992
Priznat ću da nisam očekivala

00:03:24.992 --> 00:03:27.833
susresti četvrti slučaj korištenja.

00:03:27.833 --> 00:03:30.937
Ispada da se također koristi na Twitteru

00:03:30.937 --> 00:03:33.999
kada ljudi glume pse.

00:03:33.999 --> 00:03:39.278
(Smijeh)

00:03:39.278 --> 00:03:40.944
I zapravo, u tom slučaju,

00:03:40.944 --> 00:03:42.553
ne samo da nije zlostavljanje

00:03:42.553 --> 00:03:45.692
nego je to tehnički ispravan pozdrav.

00:03:45.692 --> 00:03:48.581
(Smijeh)

NOTE Paragraph

00:03:48.581 --> 00:03:50.652
Dakle, utvrđivanje je li ili nije

00:03:50.652 --> 00:03:52.500
nešto uvredljivo bez konteksta,

00:03:52.500 --> 00:03:54.092
definitivno teško.

NOTE Paragraph

00:03:54.092 --> 00:03:56.809
Pogledajmo spam.

00:03:56.809 --> 00:03:58.769
Ovo je primjer računa koji je uključen

00:03:58.769 --> 00:04:00.437
u klasično spammersko ponašanje,

00:04:00.437 --> 00:04:01.996
šaljući potpuno jednaku poruku

00:04:01.996 --> 00:04:03.800
tisućama ljudi.

00:04:03.800 --> 00:04:06.593
Iako je ovo samo primjer koji sam napravila koristeći svoj račun,

00:04:06.593 --> 00:04:09.594
vidimo račune kako to rade cijelo vrijeme.

00:04:09.594 --> 00:04:11.573
Čini se poprilično jednostavno.

00:04:11.573 --> 00:04:13.626
Jednostavno bi trebali suspendirati račune

00:04:13.626 --> 00:04:16.933
koji se bave ovakvim stvarima.

00:04:16.933 --> 00:04:20.143
Ispada da postoje neke iznimke tome pravilu.

00:04:20.143 --> 00:04:23.026
Ispada da poruke mogu biti i obavijest

00:04:23.026 --> 00:04:26.915
za koju ste se prijavili kako bi znali 
da Međunarodna Svemirska Postaja prolazi

00:04:26.915 --> 00:04:28.761
jer ste htjeli izaći van

00:04:28.761 --> 00:04:30.709
i pokušati vidjeti je.

00:04:30.709 --> 00:04:31.934
Nećete dobiti tu priliku

00:04:31.934 --> 00:04:33.781
ako mi greškom suspendiramo račun

00:04:33.781 --> 00:04:36.047
misleći da je to spam.

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
Ok. Povisimo uloge.

00:04:39.573 --> 00:04:41.489
Natrag na moj račun,

00:04:41.489 --> 00:04:44.994
ponovno prikazuje klasično ponašanje.

00:04:44.994 --> 00:04:47.637
Ovoga puta šalje istu poruku i poveznicu.

00:04:47.637 --> 00:04:50.411
Ovo je često indikator nečega što se zove "phishing"

00:04:50.411 --> 00:04:53.589
odnosno kada netko pokušava ukrasti 
informacije o računu druge osobe

00:04:53.589 --> 00:04:55.792
usmjeravajući ih na drugu web stranicu.

00:04:55.792 --> 00:04:59.986
To očito nije dobra stvar.

00:04:59.986 --> 00:05:01.916
Mi želimo, i to i činimo, suspendirati račune

00:05:01.916 --> 00:05:04.540
koji se bave ovakvim stvarima.

00:05:04.540 --> 00:05:07.787
Zašto su onda ulozi veći u ovakvim situacijama?

00:05:07.787 --> 00:05:10.786
Pa, ovo bi mogao biti promatrač na skupu

00:05:10.786 --> 00:05:12.696
koji je uspio snimiti video

00:05:12.696 --> 00:05:15.966
policajca koji tuče prosvjednika

00:05:15.966 --> 00:05:18.941
koji pokušava svijetu reći što se događa.

00:05:18.941 --> 00:05:20.584
Ne želimo se kockati

00:05:20.584 --> 00:05:23.101
s tim da nehotično utišamo taj krucijalni govor

00:05:23.101 --> 00:05:26.030
klasificirajući ga kao spam i suspendirajući ga.

00:05:26.030 --> 00:05:28.909
To znači da procjenjujemo stotine parametara

00:05:28.909 --> 00:05:30.597
kada gledamo ponašanja računa,

00:05:30.597 --> 00:05:32.613
i čak i tada možemo pogriješiti

00:05:32.613 --> 00:05:34.849
i moramo ponovno procjenjivati.

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
Sad, uzimajući u obzir izazove s kojima se suočavam,

00:05:38.557 --> 00:05:41.253
ključno je ne da samo predvidim

00:05:41.253 --> 00:05:45.037
nego i dizajniram zaštitu od neočekivanog.

00:05:45.037 --> 00:05:47.379
I to nije samo problem za mene,

00:05:47.379 --> 00:05:49.466
ili Twitter, to je vaš problem.

00:05:49.466 --> 00:05:51.872
To je problem za svakoga tko gradi ili stvara

00:05:51.872 --> 00:05:53.797
nešto za što mislite da će biti odlično

00:05:53.797 --> 00:05:56.586
i dopustit će ljudima da čine odlične stvari.

00:05:56.586 --> 00:05:59.452
Dakle što ja činim?

00:05:59.452 --> 00:06:02.770
Zastanem i razmišljam,

00:06:02.770 --> 00:06:04.865
kako bi sve ovo moglo

00:06:04.865 --> 00:06:08.658
poći strašno po krivu?

00:06:08.658 --> 00:06:13.111
Vizualiziram katastrofu.

00:06:13.111 --> 00:06:15.574
I to je teško. Postoji određena

00:06:15.574 --> 00:06:18.422
svojstvena kognitivna disonanca prilikom činjenja toga,

00:06:18.422 --> 00:06:20.234
kao kad pišete svoje svadbene zavjete

00:06:20.234 --> 00:06:22.880
u isto vrijeme kada pišete predbračni ugovor.

00:06:22.880 --> 00:06:24.576
(Smijeh)

00:06:24.576 --> 00:06:26.949
Ali to i dalje morate činiti,

00:06:26.949 --> 00:06:31.395
osobito ako se udajete za 500 milijuna tweetova po danu.

00:06:31.395 --> 00:06:34.492
Što mislim kada kažem "vizualiziranje katastrofe?"

00:06:34.492 --> 00:06:37.254
Pokušavam misliti kako nešto

00:06:37.254 --> 00:06:40.482
bezazleno i neškodljivo kao što je slika mačke

00:06:40.482 --> 00:06:41.586
može voditi do smrti,

00:06:41.586 --> 00:06:43.912
i što učiniti kako bismo to spriječili.

00:06:43.912 --> 00:06:46.295
Što je moj sljedeći primjer.

00:06:46.295 --> 00:06:49.405
Ovo je moj mačak, Eli.

00:06:49.405 --> 00:06:51.386
Htjeli smo dati korisnicima mogućnost

00:06:51.386 --> 00:06:53.459
da dodaju slike svojim tweetovima.

00:06:53.459 --> 00:06:55.056
Slika vrijedi tisuću riječi.

00:06:55.056 --> 00:06:57.065
A imate samo 140 znakova.

00:06:57.065 --> 00:06:58.265
Kada dodate sliku svom tweetu,

00:06:58.265 --> 00:07:01.303
pogledajte koliko više sadržaja sada imate.

00:07:01.303 --> 00:07:02.980
Postoji jako puno super stvari koje možete napraviti

00:07:02.980 --> 00:07:04.987
dodajući sliku na tweet.

00:07:04.987 --> 00:07:07.267
Moj posao nije misliti na njih,

00:07:07.267 --> 00:07:10.014
već misliti na to što bi moglo poći po krivu.

NOTE Paragraph

00:07:10.014 --> 00:07:11.906
Kako bi ova slika

00:07:11.906 --> 00:07:15.445
mogla dovesti do moje smrti?

00:07:15.445 --> 00:07:18.605
Pa, evo jedne mogućnosti.

00:07:18.605 --> 00:07:21.691
Na ovoj slici nije samo moja mačka.

00:07:21.691 --> 00:07:23.783
Postoje geopodatci.

00:07:23.783 --> 00:07:25.995
Kada uslikate fotografiju vašim pametnim telefonom

00:07:25.995 --> 00:07:27.294
ili digitalnom kamerom,

00:07:27.294 --> 00:07:28.948
postoji mnogo dodatnih informacija

00:07:28.948 --> 00:07:30.564
koje su spremljene u toj slici.

00:07:30.564 --> 00:07:32.496
Zapravo, ova slika također sadrži

00:07:32.496 --> 00:07:34.301
ekvivalent ovoga,

00:07:34.301 --> 00:07:37.380
točnije ovoga.

00:07:37.380 --> 00:07:39.336
Naravno, malo je vjerojatno da će netko pokušati

00:07:39.336 --> 00:07:41.621
pronaći me i učiniti mi nešto nažao

00:07:41.621 --> 00:07:43.405
na osnovi podataka sa slike povezane

00:07:43.405 --> 00:07:45.353
sa fotografijom moje mačke,

00:07:45.353 --> 00:07:49.004
ali počnem pretpostavljati da će se dogoditi najgore.

00:07:49.004 --> 00:07:51.342
Zato smo, kad smo lansirali fotografije na Twitteru,

00:07:51.342 --> 00:07:55.163
odlučili ukloniti sve geopodatke.

00:07:55.163 --> 00:08:01.010
(Pljesak)

00:08:01.010 --> 00:08:03.623
Ako počnem s najgorom pretpostavkom

00:08:03.623 --> 00:08:04.570
i radim unatrag,

00:08:04.570 --> 00:08:06.010
mogu biti sigurna da će zaštite koje smo izgradili

00:08:07.450 --> 00:08:08.891
raditi za očekivane

00:08:08.891 --> 00:08:10.969
i neočekivane slučajeve korištenja.

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
Uzimajući u obzir da dane i noći provodim

00:08:13.914 --> 00:08:16.455
zamišljajući što se najgore može dogoditi

00:08:16.455 --> 00:08:20.712
ne bi bilo čudno da mi je pogled na svijet tmuran.

00:08:20.712 --> 00:08:22.495
(Smijeh)

00:08:22.495 --> 00:08:23.912
Nije.

00:08:23.912 --> 00:08:27.788
Velika većina interakcija koje vidim --

00:08:27.788 --> 00:08:31.689
i vidim ih puno vjerujte -- su pozitivne,

00:08:31.689 --> 00:08:33.613
ljudi pokušavaju pomoći

00:08:33.613 --> 00:08:37.061
ili povezati se ili dijeliti informacije jedni s drugima.

00:08:37.061 --> 00:08:40.384
Ali stvar je u tome da mi koji se nosimo s razmjerom,

00:08:40.384 --> 00:08:44.184
mi koji se brinemo da su ljudi sigurni,

00:08:44.184 --> 00:08:46.730
moramo pretpostaviti da će se najgore dogoditi,

00:08:46.730 --> 00:08:50.957
jer za nas, šanse jedan naprama milijun

00:08:50.957 --> 00:08:53.706
su poprilično dobri izgledi.

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
Hvala vam.

NOTE Paragraph

00:08:55.570 --> 00:08:59.570
(Pljesak)