Čudnovatost razmjera u Twitteru

Kada se stotine tisuća Tweetova ispaljuje svake sekunde, šanse jedan naprama milijun -- uključujući nevjerojatno zvučećih scenarija koji bi mogli naškoditi korisnicima --događaju se otprilike 500 puta dnevno. Za Del Harvey, koja vodi Twitterov Tim za Sigurnost i Povjerenje, ove šanse nisu dobre. Voditeljica osiguranja provodi dane razmišljajući kako spriječiti najgore moguće scenarije, istovremeno dajući glas ljudima diljem planete. Sa bezizraznim humorom, daje nam prozor u to kako 240 milijuna korisnika održava sigurnima.

Moj posao u Twitteru

je osigurati povjerenje korisnika,

zaštiti prava korisnika i očuvati sigurnost korisnika,

jedne od drugih

i, ponekad, od sebe samih.

Pričajmo kako razmjer izgleda u Twitteru.

U siječnju 2009.

vidjeli smo više od dva milijuna novih tweetova svakog dana

na platformi.

Siječanj 2014., više od 500 milijuna.

Vidimo dva milijuna tweetova

u manje od šest minuta.

To je povećanje od 24900 posto.

Sad, velika većina aktivnosti na Twitteru

nikome ne škodi.

Ne postoji rizik.

Moj posao je pronaći i spriječiti aktivnost koja bi nekom mogla naškoditi.

Zvuči jednostavno, zar ne?

Možete čak misliti da bi to bilo lako,

s obzirom na to da sam rekla da je velika većina

aktivnosti na Twitteru bezazlena.

Zašto potrošiti toliko vremena

tražeći potencijalne nezgode

u neškodljivim aktivnostima?

Uzimajući u obzir razmjer na kojem je Twitter,

situacija jedan u milijun događa se

500 puta na dan.

To je točno i za druge tvrtke

koje rade na ovom razmjeru.

Za nas, rubni slučajevi,

one rijetke situacije koje su neizgledne da se dogode,

su više kao norma.

Recimo da 99,999 posto tweetova

ne predstavljaju prijetnju nikome.

Ne postoji nikakva prijetnja.

Možda ljudi bilježe putne znamenitosti

Kao što je Australski Heart Reef

ili tweetaju o koncertu na kojem su,

ili dijele slike slatkih životinjskih mladunaca.

Kada oduzmete tih 99,999 posto,

taj mali postotak tweetova koji ostaje

daje otprilike

150,000 mjesečno.

Čisti razmjer onoga čime se bavimo

predstavlja izazov.

Znate što još čini moju ulogu

posebno izazovnom?

Ljudi rade čudne stvari.

(Smijeh)

I moram otkriti što oni to rade,

zašto, i postoji li ili ne rizik,

često bez puno konteksta

ili pozadine.

Pokazat ću vam neke primjere

na koje sam naišla za vrijeme rada u Twitteru --

ovo su sve stvarni primjeri --

situacija koje su se činile jednostavne na početku

ali stvarna priroda stvari bila je nešto

potpuno drugačije,

Detalji su promijenjeni

kako bi zaštitili nevine

i ponekad krivce.

Počet ćemo lagano.

["Hej kujo"]

Kada biste vidjeli Tweet koji kaže samo ovo,

pomislili biste,

"Ovo izgleda kao zlostavljanje."

Na kraju krajeva, zašto biste htjeli primiti poruku.

"Hej, kujo."

Sad, pokušavam ostati relativno u tijeku

sa najnovijim trendovima i memeima,

pa sam znala da "Hej, kujo"

je također učestali pozdrav među prijateljima,

kao i popularna referenca na "Breaking Bad".

Priznat ću da nisam očekivala

susresti četvrti slučaj korištenja.

Ispada da se također koristi na Twitteru

kada ljudi glume pse.

(Smijeh)

I zapravo, u tom slučaju,

ne samo da nije zlostavljanje

nego je to tehnički ispravan pozdrav.

(Smijeh)

Dakle, utvrđivanje je li ili nije

nešto uvredljivo bez konteksta,

definitivno teško.

Pogledajmo spam.

Ovo je primjer računa koji je uključen

u klasično spammersko ponašanje,

šaljući potpuno jednaku poruku

tisućama ljudi.

Iako je ovo samo primjer koji sam napravila koristeći svoj račun,

vidimo račune kako to rade cijelo vrijeme.

Čini se poprilično jednostavno.

Jednostavno bi trebali suspendirati račune

koji se bave ovakvim stvarima.

Ispada da postoje neke iznimke tome pravilu.

Ispada da poruke mogu biti i obavijest

za koju ste se prijavili kako bi znali
da Međunarodna Svemirska Postaja prolazi

jer ste htjeli izaći van

i pokušati vidjeti je.

Nećete dobiti tu priliku

ako mi greškom suspendiramo račun

misleći da je to spam.

Ok. Povisimo uloge.

Natrag na moj račun,

ponovno prikazuje klasično ponašanje.

Ovoga puta šalje istu poruku i poveznicu.

Ovo je često indikator nečega što se zove "phishing"

odnosno kada netko pokušava ukrasti
informacije o računu druge osobe

usmjeravajući ih na drugu web stranicu.

To očito nije dobra stvar.

Mi želimo, i to i činimo, suspendirati račune

koji se bave ovakvim stvarima.

Zašto su onda ulozi veći u ovakvim situacijama?

Pa, ovo bi mogao biti promatrač na skupu

koji je uspio snimiti video

policajca koji tuče prosvjednika

koji pokušava svijetu reći što se događa.

Ne želimo se kockati

s tim da nehotično utišamo taj krucijalni govor

klasificirajući ga kao spam i suspendirajući ga.

To znači da procjenjujemo stotine parametara

kada gledamo ponašanja računa,

i čak i tada možemo pogriješiti

i moramo ponovno procjenjivati.

Sad, uzimajući u obzir izazove s kojima se suočavam,

ključno je ne da samo predvidim

nego i dizajniram zaštitu od neočekivanog.

I to nije samo problem za mene,

ili Twitter, to je vaš problem.

To je problem za svakoga tko gradi ili stvara

nešto za što mislite da će biti odlično

i dopustit će ljudima da čine odlične stvari.

Dakle što ja činim?

Zastanem i razmišljam,

kako bi sve ovo moglo

poći strašno po krivu?

Vizualiziram katastrofu.

I to je teško. Postoji određena

svojstvena kognitivna disonanca prilikom činjenja toga,

kao kad pišete svoje svadbene zavjete

u isto vrijeme kada pišete predbračni ugovor.

(Smijeh)

Ali to i dalje morate činiti,

osobito ako se udajete za 500 milijuna tweetova po danu.

Što mislim kada kažem "vizualiziranje katastrofe?"

Pokušavam misliti kako nešto

bezazleno i neškodljivo kao što je slika mačke

može voditi do smrti,

i što učiniti kako bismo to spriječili.

Što je moj sljedeći primjer.

Ovo je moj mačak, Eli.

Htjeli smo dati korisnicima mogućnost

da dodaju slike svojim tweetovima.

Slika vrijedi tisuću riječi.

A imate samo 140 znakova.

Kada dodate sliku svom tweetu,

pogledajte koliko više sadržaja sada imate.

Postoji jako puno super stvari koje možete napraviti

dodajući sliku na tweet.

Moj posao nije misliti na njih,

već misliti na to što bi moglo poći po krivu.

Kako bi ova slika

mogla dovesti do moje smrti?

Pa, evo jedne mogućnosti.

Na ovoj slici nije samo moja mačka.

Postoje geopodatci.

Kada uslikate fotografiju vašim pametnim telefonom

ili digitalnom kamerom,

postoji mnogo dodatnih informacija

koje su spremljene u toj slici.

Zapravo, ova slika također sadrži

ekvivalent ovoga,

točnije ovoga.

Naravno, malo je vjerojatno da će netko pokušati

pronaći me i učiniti mi nešto nažao

na osnovi podataka sa slike povezane

sa fotografijom moje mačke,

ali počnem pretpostavljati da će se dogoditi najgore.

Zato smo, kad smo lansirali fotografije na Twitteru,

odlučili ukloniti sve geopodatke.

(Pljesak)

Ako počnem s najgorom pretpostavkom

i radim unatrag,

mogu biti sigurna da će zaštite koje smo izgradili

raditi za očekivane

i neočekivane slučajeve korištenja.

Uzimajući u obzir da dane i noći provodim

zamišljajući što se najgore može dogoditi

ne bi bilo čudno da mi je pogled na svijet tmuran.

(Smijeh)

Nije.

Velika većina interakcija koje vidim --

i vidim ih puno vjerujte -- su pozitivne,

ljudi pokušavaju pomoći

ili povezati se ili dijeliti informacije jedni s drugima.

Ali stvar je u tome da mi koji se nosimo s razmjerom,

mi koji se brinemo da su ljudi sigurni,

moramo pretpostaviti da će se najgore dogoditi,

jer za nas, šanse jedan naprama milijun

su poprilično dobri izgledi.

Hvala vam.

(Pljesak)