Moj posao u Twitteru je osigurati povjerenje korisnika, zaštiti prava korisnika i očuvati sigurnost korisnika, jedne od drugih i, ponekad, od sebe samih. Pričajmo kako razmjer izgleda u Twitteru. U siječnju 2009. vidjeli smo više od dva milijuna novih tweetova svakog dana na platformi. Siječanj 2014., više od 500 milijuna. Vidimo dva milijuna tweetova u manje od šest minuta. To je povećanje od 24900 posto. Sad, velika većina aktivnosti na Twitteru nikome ne škodi. Ne postoji rizik. Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi. Zvuči jednostavno, zar ne? Možete čak misliti da bi to bilo lako, s obzirom na to da sam rekla da je velika većina aktivnosti na Twitteru bezazlena. Zašto potrošiti toliko vremena tražeći potencijalne nezgode u neškodljivim aktivnostima? Uzimajući u obzir razmjer na kojem je Twitter, situacija jedan u milijun događa se 500 puta na dan. To je točno i za druge tvrtke koje rade na ovom razmjeru. Za nas, rubni slučajevi, one rijetke situacije koje su neizgledne da se dogode, su više kao norma. Recimo da 99,999 posto tweetova ne predstavljaju prijetnju nikome. Ne postoji nikakva prijetnja. Možda ljudi bilježe putne znamenitosti Kao što je Australski Heart Reef ili tweetaju o koncertu na kojem su, ili dijele slike slatkih životinjskih mladunaca. Kada oduzmete tih 99,999 posto, taj mali postotak tweetova koji ostaje daje otprilike 150,000 mjesečno. Čisti razmjer onoga čime se bavimo predstavlja izazov. Znate što još čini moju ulogu posebno izazovnom? Ljudi rade čudne stvari. (Smijeh) I moram otkriti što oni to rade, zašto, i postoji li ili ne rizik, često bez puno konteksta ili pozadine. Pokazat ću vam neke primjere na koje sam naišla za vrijeme rada u Twitteru -- ovo su sve stvarni primjeri -- situacija koje su se činile jednostavne na početku ali stvarna priroda stvari bila je nešto potpuno drugačije, Detalji su promijenjeni kako bi zaštitili nevine i ponekad krivce. Počet ćemo lagano. ["Hej kujo"] Kada biste vidjeli Tweet koji kaže samo ovo, pomislili biste, "Ovo izgleda kao zlostavljanje." Na kraju krajeva, zašto biste htjeli primiti poruku. "Hej, kujo." Sad, pokušavam ostati relativno u tijeku sa najnovijim trendovima i memeima, pa sam znala da "Hej, kujo" je također učestali pozdrav među prijateljima, kao i popularna referenca na "Breaking Bad". Priznat ću da nisam očekivala susresti četvrti slučaj korištenja. Ispada da se također koristi na Twitteru kada ljudi glume pse. (Smijeh) I zapravo, u tom slučaju, ne samo da nije zlostavljanje nego je to tehnički ispravan pozdrav. (Smijeh) Dakle, utvrđivanje je li ili nije nešto uvredljivo bez konteksta, definitivno teško. Pogledajmo spam. Ovo je primjer računa koji je uključen u klasično spammersko ponašanje, šaljući potpuno jednaku poruku tisućama ljudi. Iako je ovo samo primjer koji sam napravila koristeći svoj račun, vidimo račune kako to rade cijelo vrijeme. Čini se poprilično jednostavno. Jednostavno bi trebali suspendirati račune koji se bave ovakvim stvarima. Ispada da postoje neke iznimke tome pravilu. Ispada da poruke mogu biti i obavijest za koju ste se prijavili kako bi znali da Međunarodna Svemirska Postaja prolazi jer ste htjeli izaći van i pokušati vidjeti je. Nećete dobiti tu priliku ako mi greškom suspendiramo račun misleći da je to spam. Ok. Povisimo uloge. Natrag na moj račun, ponovno prikazuje klasično ponašanje. Ovoga puta šalje istu poruku i poveznicu. Ovo je često indikator nečega što se zove "phishing" odnosno kada netko pokušava ukrasti informacije o računu druge osobe usmjeravajući ih na drugu web stranicu. To očito nije dobra stvar. Mi želimo, i to i činimo, suspendirati račune koji se bave ovakvim stvarima. Zašto su onda ulozi veći u ovakvim situacijama? Pa, ovo bi mogao biti promatrač na skupu koji je uspio snimiti video policajca koji tuče prosvjednika koji pokušava svijetu reći što se događa. Ne želimo se kockati s tim da nehotično utišamo taj krucijalni govor klasificirajući ga kao spam i suspendirajući ga. To znači da procjenjujemo stotine parametara kada gledamo ponašanja računa, i čak i tada možemo pogriješiti i moramo ponovno procjenjivati. Sad, uzimajući u obzir izazove s kojima se suočavam, ključno je ne da samo predvidim nego i dizajniram zaštitu od neočekivanog. I to nije samo problem za mene, ili Twitter, to je vaš problem. To je problem za svakoga tko gradi ili stvara nešto za što mislite da će biti odlično i dopustit će ljudima da čine odlične stvari. Dakle što ja činim? Zastanem i razmišljam, kako bi sve ovo moglo poći strašno po krivu? Vizualiziram katastrofu. I to je teško. Postoji određena svojstvena kognitivna disonanca prilikom činjenja toga, kao kad pišete svoje svadbene zavjete u isto vrijeme kada pišete predbračni ugovor. (Smijeh) Ali to i dalje morate činiti, osobito ako se udajete za 500 milijuna tweetova po danu. Što mislim kada kažem "vizualiziranje katastrofe?" Pokušavam misliti kako nešto bezazleno i neškodljivo kao što je slika mačke može voditi do smrti, i što učiniti kako bismo to spriječili. Što je moj sljedeći primjer. Ovo je moj mačak, Eli. Htjeli smo dati korisnicima mogućnost da dodaju slike svojim tweetovima. Slika vrijedi tisuću riječi. A imate samo 140 znakova. Kada dodate sliku svom tweetu, pogledajte koliko više sadržaja sada imate. Postoji jako puno super stvari koje možete napraviti dodajući sliku na tweet. Moj posao nije misliti na njih, već misliti na to što bi moglo poći po krivu. Kako bi ova slika mogla dovesti do moje smrti? Pa, evo jedne mogućnosti. Na ovoj slici nije samo moja mačka. Postoje geopodatci. Kada uslikate fotografiju vašim pametnim telefonom ili digitalnom kamerom, postoji mnogo dodatnih informacija koje su spremljene u toj slici. Zapravo, ova slika također sadrži ekvivalent ovoga, točnije ovoga. Naravno, malo je vjerojatno da će netko pokušati pronaći me i učiniti mi nešto nažao na osnovi podataka sa slike povezane sa fotografijom moje mačke, ali počnem pretpostavljati da će se dogoditi najgore. Zato smo, kad smo lansirali fotografije na Twitteru, odlučili ukloniti sve geopodatke. (Pljesak) Ako počnem s najgorom pretpostavkom i radim unatrag, mogu biti sigurna da će zaštite koje smo izgradili raditi za očekivane i neočekivane slučajeve korištenja. Uzimajući u obzir da dane i noći provodim zamišljajući što se najgore može dogoditi ne bi bilo čudno da mi je pogled na svijet tmuran. (Smijeh) Nije. Velika većina interakcija koje vidim -- i vidim ih puno vjerujte -- su pozitivne, ljudi pokušavaju pomoći ili povezati se ili dijeliti informacije jedni s drugima. Ali stvar je u tome da mi koji se nosimo s razmjerom, mi koji se brinemo da su ljudi sigurni, moramo pretpostaviti da će se najgore dogoditi, jer za nas, šanse jedan naprama milijun su poprilično dobri izgledi. Hvala vam. (Pljesak)