Moj posao u Twitteru
je osigurati povjerenje korisnika,
zaštiti prava korisnika i očuvati sigurnost korisnika,
jedne od drugih
i, ponekad, od sebe samih.
Pričajmo kako razmjer izgleda u Twitteru.
U siječnju 2009.
vidjeli smo više od dva milijuna novih tweetova svakog dana
na platformi.
Siječanj 2014., više od 500 milijuna.
Vidimo dva milijuna tweetova
u manje od šest minuta.
To je povećanje od 24900 posto.
Sad, velika većina aktivnosti na Twitteru
nikome ne škodi.
Ne postoji rizik.
Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.
Zvuči jednostavno, zar ne?
Možete čak misliti da bi to bilo lako,
s obzirom na to da sam rekla da je velika većina
aktivnosti na Twitteru bezazlena.
Zašto potrošiti toliko vremena
tražeći potencijalne nezgode
u neškodljivim aktivnostima?
Uzimajući u obzir razmjer na kojem je Twitter,
situacija jedan u milijun događa se
500 puta na dan.
To je točno i za druge tvrtke
koje rade na ovom razmjeru.
Za nas, rubni slučajevi,
one rijetke situacije koje su neizgledne da se dogode,
su više kao norma.
Recimo da 99,999 posto tweetova
ne predstavljaju prijetnju nikome.
Ne postoji nikakva prijetnja.
Možda ljudi bilježe putne znamenitosti
Kao što je Australski Heart Reef
ili tweetaju o koncertu na kojem su,
ili dijele slike slatkih životinjskih mladunaca.
Kada oduzmete tih 99,999 posto,
taj mali postotak tweetova koji ostaje
daje otprilike
150,000 mjesečno.
Čisti razmjer onoga čime se bavimo
predstavlja izazov.
Znate što još čini moju ulogu
posebno izazovnom?
Ljudi rade čudne stvari.
(Smijeh)
I moram otkriti što oni to rade,
zašto, i postoji li ili ne rizik,
često bez puno konteksta
ili pozadine.
Pokazat ću vam neke primjere
na koje sam naišla za vrijeme rada u Twitteru --
ovo su sve stvarni primjeri --
situacija koje su se činile jednostavne na početku
ali stvarna priroda stvari bila je nešto
potpuno drugačije,
Detalji su promijenjeni
kako bi zaštitili nevine
i ponekad krivce.
Počet ćemo lagano.
["Hej kujo"]
Kada biste vidjeli Tweet koji kaže samo ovo,
pomislili biste,
"Ovo izgleda kao zlostavljanje."
Na kraju krajeva, zašto biste htjeli primiti poruku.
"Hej, kujo."
Sad, pokušavam ostati relativno u tijeku
sa najnovijim trendovima i memeima,
pa sam znala da "Hej, kujo"
je također učestali pozdrav među prijateljima,
kao i popularna referenca na "Breaking Bad".
Priznat ću da nisam očekivala
susresti četvrti slučaj korištenja.
Ispada da se također koristi na Twitteru
kada ljudi glume pse.
(Smijeh)
I zapravo, u tom slučaju,
ne samo da nije zlostavljanje
nego je to tehnički ispravan pozdrav.
(Smijeh)
Dakle, utvrđivanje je li ili nije
nešto uvredljivo bez konteksta,
definitivno teško.
Pogledajmo spam.
Ovo je primjer računa koji je uključen
u klasično spammersko ponašanje,
šaljući potpuno jednaku poruku
tisućama ljudi.
Iako je ovo samo primjer koji sam napravila koristeći svoj račun,
vidimo račune kako to rade cijelo vrijeme.
Čini se poprilično jednostavno.
Jednostavno bi trebali suspendirati račune
koji se bave ovakvim stvarima.
Ispada da postoje neke iznimke tome pravilu.
Ispada da poruke mogu biti i obavijest
za koju ste se prijavili kako bi znali da Međunarodna Svemirska Postaja prolazi
jer ste htjeli izaći van
i pokušati vidjeti je.
Nećete dobiti tu priliku
ako mi greškom suspendiramo račun
misleći da je to spam.
Ok. Povisimo uloge.
Natrag na moj račun,
ponovno prikazuje klasično ponašanje.
Ovoga puta šalje istu poruku i poveznicu.
Ovo je često indikator nečega što se zove "phishing"
odnosno kada netko pokušava ukrasti informacije o računu druge osobe
usmjeravajući ih na drugu web stranicu.
To očito nije dobra stvar.
Mi želimo, i to i činimo, suspendirati račune
koji se bave ovakvim stvarima.
Zašto su onda ulozi veći u ovakvim situacijama?
Pa, ovo bi mogao biti promatrač na skupu
koji je uspio snimiti video
policajca koji tuče prosvjednika
koji pokušava svijetu reći što se događa.
Ne želimo se kockati
s tim da nehotično utišamo taj krucijalni govor
klasificirajući ga kao spam i suspendirajući ga.
To znači da procjenjujemo stotine parametara
kada gledamo ponašanja računa,
i čak i tada možemo pogriješiti
i moramo ponovno procjenjivati.
Sad, uzimajući u obzir izazove s kojima se suočavam,
ključno je ne da samo predvidim
nego i dizajniram zaštitu od neočekivanog.
I to nije samo problem za mene,
ili Twitter, to je vaš problem.
To je problem za svakoga tko gradi ili stvara
nešto za što mislite da će biti odlično
i dopustit će ljudima da čine odlične stvari.
Dakle što ja činim?
Zastanem i razmišljam,
kako bi sve ovo moglo
poći strašno po krivu?
Vizualiziram katastrofu.
I to je teško. Postoji određena
svojstvena kognitivna disonanca prilikom činjenja toga,
kao kad pišete svoje svadbene zavjete
u isto vrijeme kada pišete predbračni ugovor.
(Smijeh)
Ali to i dalje morate činiti,
osobito ako se udajete za 500 milijuna tweetova po danu.
Što mislim kada kažem "vizualiziranje katastrofe?"
Pokušavam misliti kako nešto
bezazleno i neškodljivo kao što je slika mačke
može voditi do smrti,
i što učiniti kako bismo to spriječili.
Što je moj sljedeći primjer.
Ovo je moj mačak, Eli.
Htjeli smo dati korisnicima mogućnost
da dodaju slike svojim tweetovima.
Slika vrijedi tisuću riječi.
A imate samo 140 znakova.
Kada dodate sliku svom tweetu,
pogledajte koliko više sadržaja sada imate.
Postoji jako puno super stvari koje možete napraviti
dodajući sliku na tweet.
Moj posao nije misliti na njih,
već misliti na to što bi moglo poći po krivu.
Kako bi ova slika
mogla dovesti do moje smrti?
Pa, evo jedne mogućnosti.
Na ovoj slici nije samo moja mačka.
Postoje geopodatci.
Kada uslikate fotografiju vašim pametnim telefonom
ili digitalnom kamerom,
postoji mnogo dodatnih informacija
koje su spremljene u toj slici.
Zapravo, ova slika također sadrži
ekvivalent ovoga,
točnije ovoga.
Naravno, malo je vjerojatno da će netko pokušati
pronaći me i učiniti mi nešto nažao
na osnovi podataka sa slike povezane
sa fotografijom moje mačke,
ali počnem pretpostavljati da će se dogoditi najgore.
Zato smo, kad smo lansirali fotografije na Twitteru,
odlučili ukloniti sve geopodatke.
(Pljesak)
Ako počnem s najgorom pretpostavkom
i radim unatrag,
mogu biti sigurna da će zaštite koje smo izgradili
raditi za očekivane
i neočekivane slučajeve korištenja.
Uzimajući u obzir da dane i noći provodim
zamišljajući što se najgore može dogoditi
ne bi bilo čudno da mi je pogled na svijet tmuran.
(Smijeh)
Nije.
Velika većina interakcija koje vidim --
i vidim ih puno vjerujte -- su pozitivne,
ljudi pokušavaju pomoći
ili povezati se ili dijeliti informacije jedni s drugima.
Ali stvar je u tome da mi koji se nosimo s razmjerom,
mi koji se brinemo da su ljudi sigurni,
moramo pretpostaviti da će se najgore dogoditi,
jer za nas, šanse jedan naprama milijun
su poprilično dobri izgledi.
Hvala vam.
(Pljesak)