Job-ul meu la Twitter
e să asigur încrederea utilizatorilor,
să protejez drepturile şi siguranţa lor,
atât între ei
şi, uneori, de ei înşişi.
Aşa arată graficul la Twitter.
În ianuarie 2009,
erau peste două milioane de tweets noi în fiecare zi
pe platformă.
Ianuarie 2014, peste 500 de milioane.
Erau două milioane de tweets
în mai puţin de şase minute.
Asta reprezintă o creştere de 24,900%.
Majoritatea activităţii pe Twitter
nu pune pe nimeni în pericol.
Nu e niciun risc implicat.
Meseria mea e să îndepărtez şi să previn activitatea care ar putea.
Sună simplu, nu?
Aţi putea crede că e uşor,
având în vedere că doar ce am spus că majoritatea
activităţii pe Twitter nu prezintă un pericol.
De ce să petrec atât de mult timp
căutând potenţiale calamităţi
în activităţi inofensive?
Având în vedere amploarea Twitter-ului,
o şansă de unu la un milion se întâmplă
de 500 de ori pe zi.
E valabil şi pentru alte companii
de această amploare.
Pentru noi, cazurile izolate,
acele situaţii rare, care sunt puţin probabil să apară,
devin norme.
Să spunem că 99.999% de tweets
nu prezintă niciun risc.
Nu implică nicio ameninţare.
Poate că oamenii se documentează despre obiective turistice,
precum Reciful Inimă din Australia
sau tweet despre un concert la care au fost,
împărtăşesc imagini cu pui de animale drăguţe.
După ce scoţi procentul de 99.999%,
acel procent mic de tweets care rămîne
ajunge la aproximativ
150.000 pe lună.
Scara mare la care lucrăm
reprezintă o provocare.
Stiţi ce altceva face rolul meu
provocator?
Oamenii fac lucruri ciudate.
(Râsete)
Trebuie să-mi dau seama ce fac,
de ce și dacă implică vreun risc,
deseori fără prea mult context
sau fundal.
Vă voi arăta câteva exemple
pe care le-am întâlnit cât am lucrat la Twitter--
toate sunt exemple reale —
situaţii care la început păreau obişnuite,
dar adevărul era ceva
cu totul diferit.
Detaliile au fost schimbate
pentru a proteja pe cei nevinovaţi
şi, uneori, pe cei vinovaţi.
Vom începe uşor.
["Hey, bitch (cățea)"]
Dacă aţi vedea un Tweet care spune doar asta,
aţi putea crede că
"pare un abuz."
La urma urmei, de ce ai vrea să primeşti un mesaj cu
"Hey, bitch."
Încerc să fiu la curent
cu cele mai recente tendinţe şi meme,
aşa că ştiam că "hey, bitch"
era un salut comun între prieteni,
dar şi o referinţă populară pentru o "Despărţire urâtă".
Recunosc că nu mă aşteptam
să întâlnesc un al patrulea caz de utilizare.
Se pare că e folosit pe Twitter
şi când oamenii joacă roluri de câini.
(Râsete)
În acest caz,
nu e doar neabuzivă,
dar, din punct de vedere tehnic, e o formulă de salut corectă.
(Râsete)
Stabilirea dacă sau nu
ceva e abuziv fără context,
e cu siguranţă dificil.
Să ne uităm la spam.
Iată un exemplu de cont angajat
în comportamentul de spammer clasic,
trimiţând exact acelaşi mesaj
la mii de oameni.
Deși e o machetă pe care am creat-o folosind contul meu,
vedem conturi care fac asta tot timpul.
Pare destul de simplu.
Ar trebui doar să suspendăm automat conturile
cu acest tip de comportament.
Se pare că există excepţii de la regulă.
Acel mesaj ar putea fi și o notificare
la care te-ai înscris ca Staţia Spaţială Internaţională să treacă deasupra
pentru că ai vrut să mergi afară
şi să vezi dacă îl poţi vedea.
Nu vei avea acea şansă
dacă suspendăm greşit contul,
crezând că e spam.
Să facem miza mai mare.
Înapoi la contul meu,
din nou prezentând comportamentul clasic.
De data asta, trimite acelaşi mesaj şi link-ul.
Așa arată ce numim phishing,
cineva încercînd să fure informaţiile de cont ale unei persoane,
orientând-o către un alt site.
Clar, nu e un lucru bun.
Vrem să suspendăm conturile
angajate în acest tip de comportament.
De ce e miza mai mare pentru asta?
Asta ar putea fi şi un spectator la un miting
care a reuşit să înregistreze un video
cu un ofiţer de poliţie bătând un protestatar non-violent
şi încearcă să informeze lumea.
Nu vrem să ne hazardăm
să reducem la tăcere acel discurs crucial,
clasificându-l ca spam şi suspendându-l.
Înseamnă că evaluăm sute de parametri
când ne uităm la comportamente de cont
şi, chiar şi atunci, putem greşi
şi trebuie să-l reevaluăm.
Având în vedere provocările la care trebuie să fac față,
e crucial nu doar să prevăd,
ci şi să creez protecţii pentru situaţii neaşteptate.
Nu e o problemă doar pentru mine,
sau pentru Twitter, e o problemă pentru tine.
Pentru oricine construieşte sau creează
ceva care crede că va fi minunat
şi va permite oamenilor să facă lucruri grozave.
Ce fac atunci?
Mă opresc şi mă gândesc
cum ar putea toate astea
să meargă teribil de rău?
Vizualizez catastrofa.
E greu. Există un fel de
disonanţă cognitivă inerentă în a face asta,
ca atunci când scrii jurămintele de nuntă
în acelaşi timp cu contractul prenupţial.
(Râsete)
Dar trebuie s-o faci,
mai ales când te căsătoreşti cu 500 de milioane tweets pe zi.
Ce vreau sa spun prin "vizualizez catastrofa?"
Încerc să mă gândesc cum ceva
benign şi inofensiv ca imaginea unei pisici
ar putea aduce moarte
şi ce să fac pentru a preveni asta.
Asta se întâmplă să fie următorul meu exemplu.
Asta e pisica mea, Eli.
Am vrut să oferim utilizatorilor posibilitatea de
a adăuga fotografii la tweets lor.
O imagine valorează o mie de cuvinte.
Ai doar 140 de caractere.
Adaugi o fotografie la tweet,
uite cât de mult conţinut ai acum.
Există tot felul de lucruri minunate pe care le poţi face
adăugând o fotografie la un tweet.
Job-ul meu nu e să mă gândesc la astea.
E să mă gândesc la ce ar putea merge prost.
Cum ar putea acestă fotografie
să ducă la moartea mea?
Ei bine, iată o posibilitate.
Există mai mult în acea imagine decât o pisică.
Sunt date spaţiale.
Când faci o fotografie cu smartphone-ul
sau camera digitală,
există o mulţime de informaţii suplimentare
salvate în acea imagine.
De fapt, această imagine conţine
echivalentul acestui lucru,
mai exact, asta.
Sigur, nu e probabil ca cineva să încerce
să mă urmărească şi să-mi facă rău
bazându-se pe datele imaginii asociate
cu fotografia pe care am făcut-o pisicii mele,
dar încep prin a presupune ce e mai rău.
De aceea, când am lansat fotografii pe Twitter,
am hotărât să tăiem datele spaţiale.
(Aplauze)
Dacă încep prin a presupune ce e mai rău
şi se întâmplă invers,
pot să asigur că protecţia pe care o construim
funcţionează atât pentru cazurile de utilizare aşteptate,
cât şi neaşteptate.
Având în vedere că petrec zile şi nopţi
imaginându-mi ce e mai rău,
nu ar fi surprinzător ca viziunea mea să fie întunecată.
(Râsete)
Nu este.
Majoritatea interacţiunilor pe care le văd--
şi văd multe, credeţi-mă, sunt pozitive,
oamenii oferindu-se să ajute,
să se conecteze sau să împărtăşească informaţii.
Pentru aceia dintre noi care lucrează la dimensiunea asta,
însărcinaţi să ţină oamenii în siguranţă,
trebuie să presupunem ce e mai rău,
deoarece pentru noi, o şansă la un milion
are şanse destul de mari.
Vă mulţumesc.
(Aplauze)