Partea surprinzătoare a dimensiunii la Twitter

Când sute de mii de Tweets sunt trimişi în fiecare secundă, o şansă de unu la un milion - inclusiv scenarii puţin probabile care ar putea dăuna utilizatorilor - are loc de aproximativ 500 de ori pe zi. Pentru Del Harvey, care conduce Twitter's Trust şi Safety Team, aceste şanse nu sunt bune. Experta în securitate, își petrece zilelele gândindu-se cum să prevină scenariile cele mai grave, în timp ce oferă o voce oamenilor din întreaga lume. Cu umor apatic, ne deschide o portiţă către modul în care ţine 240 milioane de utilizatori în siguranţă.

Job-ul meu la Twitter

e să asigur încrederea utilizatorilor,

să protejez drepturile şi siguranţa lor,

atât între ei

şi, uneori, de ei înşişi.

Aşa arată graficul la Twitter.

În ianuarie 2009,

erau peste două milioane de tweets noi în fiecare zi

pe platformă.

Ianuarie 2014, peste 500 de milioane.

Erau două milioane de tweets

în mai puţin de şase minute.

Asta reprezintă o creştere de 24,900%.

Majoritatea activităţii pe Twitter

nu pune pe nimeni în pericol.

Nu e niciun risc implicat.

Meseria mea e să îndepărtez şi să previn activitatea care ar putea.

Sună simplu, nu?

Aţi putea crede că e uşor,

având în vedere că doar ce am spus că majoritatea

activităţii pe Twitter nu prezintă un pericol.

De ce să petrec atât de mult timp

căutând potenţiale calamităţi

în activităţi inofensive?

Având în vedere amploarea Twitter-ului,

o şansă de unu la un milion se întâmplă

de 500 de ori pe zi.

E valabil şi pentru alte companii

de această amploare.

Pentru noi, cazurile izolate,

acele situaţii rare, care sunt puţin probabil să apară,

devin norme.

Să spunem că 99.999% de tweets

nu prezintă niciun risc.

Nu implică nicio ameninţare.

Poate că oamenii se documentează despre obiective turistice,

precum Reciful Inimă din Australia

sau tweet despre un concert la care au fost,

împărtăşesc imagini cu pui de animale drăguţe.

După ce scoţi procentul de 99.999%,

acel procent mic de tweets care rămîne

ajunge la aproximativ

150.000 pe lună.

Scara mare la care lucrăm

reprezintă o provocare.

Stiţi ce altceva face rolul meu

provocator?

Oamenii fac lucruri ciudate.

(Râsete)

Trebuie să-mi dau seama ce fac,

de ce și dacă implică vreun risc,

deseori fără prea mult context

sau fundal.

Vă voi arăta câteva exemple

pe care le-am întâlnit cât am lucrat la Twitter--

toate sunt exemple reale —

situaţii care la început păreau obişnuite,

dar adevărul era ceva

cu totul diferit.

Detaliile au fost schimbate

pentru a proteja pe cei nevinovaţi

şi, uneori, pe cei vinovaţi.

Vom începe uşor.

["Hey, bitch (cățea)"]

Dacă aţi vedea un Tweet care spune doar asta,

aţi putea crede că

"pare un abuz."

La urma urmei, de ce ai vrea să primeşti un mesaj cu

"Hey, bitch."

Încerc să fiu la curent

cu cele mai recente tendinţe şi meme,

aşa că ştiam că "hey, bitch"

era un salut comun între prieteni,

dar şi o referinţă populară pentru o "Despărţire urâtă".

Recunosc că nu mă aşteptam

să întâlnesc un al patrulea caz de utilizare.

Se pare că e folosit pe Twitter

şi când oamenii joacă roluri de câini.

(Râsete)

În acest caz,

nu e doar neabuzivă,

dar, din punct de vedere tehnic, e o formulă de salut corectă.

(Râsete)

Stabilirea dacă sau nu

ceva e abuziv fără context,

e cu siguranţă dificil.

Să ne uităm la spam.

Iată un exemplu de cont angajat

în comportamentul de spammer clasic,

trimiţând exact acelaşi mesaj

la mii de oameni.

Deși e o machetă pe care am creat-o folosind contul meu,

vedem conturi care fac asta tot timpul.

Pare destul de simplu.

Ar trebui doar să suspendăm automat conturile

cu acest tip de comportament.

Se pare că există excepţii de la regulă.

Acel mesaj ar putea fi și o notificare

la care te-ai înscris ca Staţia Spaţială Internaţională să treacă deasupra

pentru că ai vrut să mergi afară

şi să vezi dacă îl poţi vedea.

Nu vei avea acea şansă

dacă suspendăm greşit contul,

crezând că e spam.

Să facem miza mai mare.

Înapoi la contul meu,

din nou prezentând comportamentul clasic.

De data asta, trimite acelaşi mesaj şi link-ul.

Așa arată ce numim phishing,

cineva încercînd să fure informaţiile de cont ale unei persoane,

orientând-o către un alt site.

Clar, nu e un lucru bun.

Vrem să suspendăm conturile

angajate în acest tip de comportament.

De ce e miza mai mare pentru asta?

Asta ar putea fi şi un spectator la un miting

care a reuşit să înregistreze un video

cu un ofiţer de poliţie bătând un protestatar non-violent

şi încearcă să informeze lumea.

Nu vrem să ne hazardăm

să reducem la tăcere acel discurs crucial,

clasificându-l ca spam şi suspendându-l.

Înseamnă că evaluăm sute de parametri

când ne uităm la comportamente de cont

şi, chiar şi atunci, putem greşi

şi trebuie să-l reevaluăm.

Având în vedere provocările la care trebuie să fac față,

e crucial nu doar să prevăd,

ci şi să creez protecţii pentru situaţii neaşteptate.

Nu e o problemă doar pentru mine,

sau pentru Twitter, e o problemă pentru tine.

Pentru oricine construieşte sau creează

ceva care crede că va fi minunat

şi va permite oamenilor să facă lucruri grozave.

Ce fac atunci?

Mă opresc şi mă gândesc

cum ar putea toate astea

să meargă teribil de rău?

Vizualizez catastrofa.

E greu. Există un fel de

disonanţă cognitivă inerentă în a face asta,

ca atunci când scrii jurămintele de nuntă

în acelaşi timp cu contractul prenupţial.

(Râsete)

Dar trebuie s-o faci,

mai ales când te căsătoreşti cu 500 de milioane tweets pe zi.

Ce vreau sa spun prin "vizualizez catastrofa?"

Încerc să mă gândesc cum ceva

benign şi inofensiv ca imaginea unei pisici

ar putea aduce moarte

şi ce să fac pentru a preveni asta.

Asta se întâmplă să fie următorul meu exemplu.

Asta e pisica mea, Eli.

Am vrut să oferim utilizatorilor posibilitatea de

a adăuga fotografii la tweets lor.

O imagine valorează o mie de cuvinte.

Ai doar 140 de caractere.

Adaugi o fotografie la tweet,

uite cât de mult conţinut ai acum.

Există tot felul de lucruri minunate pe care le poţi face

adăugând o fotografie la un tweet.

Job-ul meu nu e să mă gândesc la astea.

E să mă gândesc la ce ar putea merge prost.

Cum ar putea acestă fotografie

să ducă la moartea mea?

Ei bine, iată o posibilitate.

Există mai mult în acea imagine decât o pisică.

Sunt date spaţiale.

Când faci o fotografie cu smartphone-ul

sau camera digitală,

există o mulţime de informaţii suplimentare

salvate în acea imagine.

De fapt, această imagine conţine

echivalentul acestui lucru,

mai exact, asta.

Sigur, nu e probabil ca cineva să încerce

să mă urmărească şi să-mi facă rău

bazându-se pe datele imaginii asociate

cu fotografia pe care am făcut-o pisicii mele,

dar încep prin a presupune ce e mai rău.

De aceea, când am lansat fotografii pe Twitter,

am hotărât să tăiem datele spaţiale.

(Aplauze)

Dacă încep prin a presupune ce e mai rău

şi se întâmplă invers,

pot să asigur că protecţia pe care o construim

funcţionează atât pentru cazurile de utilizare aşteptate,

cât şi neaşteptate.

Având în vedere că petrec zile şi nopţi

imaginându-mi ce e mai rău,

nu ar fi surprinzător ca viziunea mea să fie întunecată.

(Râsete)

Nu este.

Majoritatea interacţiunilor pe care le văd--

şi văd multe, credeţi-mă, sunt pozitive,

oamenii oferindu-se să ajute,

să se conecteze sau să împărtăşească informaţii.

Pentru aceia dintre noi care lucrează la dimensiunea asta,

însărcinaţi să ţină oamenii în siguranţă,

trebuie să presupunem ce e mai rău,

deoarece pentru noi, o şansă la un milion

are şanse destul de mari.

Vă mulţumesc.

(Aplauze)