La stranezza dei numeri in gioco su Twitter

Quando centinaia di migliaia di "Tweets" vengono lanciati ogni secondo, una possibilità di uno su un milione, includendo scenari apparentemente improbabili che potrebbe nuocere gli utenti, succede circa 500 volte al giorno. Per Del Harvey, che dirige il reparto "Trust and Safety" per Twitter, queste probabilità non sono buone. L'esperto di sicurezza trascorre le proprie giornate pensando a come prevenire gli scenari peggiori e nel contempo a dare uno spazio alle persone di tutto il mondo. Con un umorismo all'inglese, offre uno squarcio su come si mantengono 240 milioni di utenti al sicuro.

Il mio compito in Twitter

è assicurarmi la fiducia degli utenti,

proteggere i loro diritti e proteggerli,

sia uno dall'altro

che, a volte, da loro stessi.

Ora parliamo dei numeri in gioco su Twitter.

Nel gennaio del 2009,

abbiamo visto più di due milioni
di nuovi messaggi al giorno

sulla piattaforma.

Gennaio 2014, più di 500 milioni.

Vedevamo due milioni di messaggi

in meno di sei minuti.

Un incremento del 24 900 percento.

Ora, la stragrande maggioranza
dell'attività su Twitter

non mette nessuno a rischio.

Non c'è alcun rischio.

Il mio lavoro è stanare e prevenire
ogni attività potenzialmente dannosa.

Sembra semplice, vero?

Potreste persino pensare che sia facile,

considerando che ho appena detto
che la stragrande maggioranza

dell'attività su Twitter
non mette nessuno a rischio.

Perché passare così tanto tempo

alla ricerca di possibili calamità

in attività innocue?

Considerando la quantità di messaggi
a cui si è arrivati su Twitter,

un evento con una probabilità
di uno su un milione avviene

500 volte al giorno.

La stessa cosa avviene per altre aziende

che operano con questi numeri.

Da noi, i casi limite,

ovvero quelle rare situazioni
che difficilmente accadono,

sono la norma.

Supponiamo che
il 99,999 percento dei messaggi

non ponga alcun rischio per nessuno.

Non c'è alcun rischio.

Magari delle persone stanno riportando
le tappe di un viaggio

come l'Heart Reef in Australia,

o magari scrivono di un concerto
a cui stanno assistendo

o condividono foto di cuccioli carini.

Dopo aver tolto questo 99,999 percento,

quella minuscola percentuale
di messaggi rimanenti

equivale a circa

150 000 messaggi al mese.

La quantità di messaggi
con cui abbiamo a che fare

è in sé una sfida.

Sapete cos'altro rende il mio lavoro

particolarmente impegnativo?

Le persone fanno cose strane.

(Risate)

Ed io devo capire
cosa stanno facendo e perché

e pure se ci sia o no un rischio connesso

spesso conoscendo poco del contesto

o del retroscena.

Ora vi mostrerò degli esempi

che ho incontrato
durante il mio lavoro per Twitter,

questi sono tutti esempi reali

di situazioni
che inizialmente sembravano ovvie,

ma che in realtà erano qualcosa

di completamente diverso.

I dettagli sono stati cambiati

in modo tale da proteggere l'innocente

ed a volte anche il colpevole.

Cominciamo con qualcosa di semplice.

["Uè cagna"]

Se qualcuno vedesse un messaggio
con scritto solo questo,

potrebbe pensare tra sé e sé,

"Sembra un insulto."

Dopo tutto, perché mai qualcuno
dovrebbe volere ricevere un messaggio come:

"Uè,cagna."

Ora, io provo a stare dietro

alle ultime mode ed ai post ironici,

per cui sapevo che "uè,cagna"

veniva anche usato spesso
come saluto tra amici,

oltre ad essere una citazione famosa
di "Breaking Bad".

Ammetto che non mi sarei aspettata

di incontrare un quarto uso.

Si scopre che si usa anche su Twitter

quando le persone impersonano dei cani.

(Risate)

Ed infatti, in quel caso,

non solo non è offensivo,

ma è tecnicamente il saluto appropriato.

(Risate)

Quindi, determinare
se qualcosa sia o meno offensivo,

senza avere un contesto,

è sicuramente difficile.

Diamo un'occhiata allo spam.

Ora c'è l'esempio di un account intento

a "spammare" nel modo classico,

ovvero inviando lo stesso identico messaggio

a migliaia di persone.

Mentre questo è solo un esempio
che ho creato usando il mio account,

vediamo degli account fare questo di continuo.

Sembra davvero semplice.

Sicuro, dovremmo automaticamente
sospendere gli account

intenti in questo genere di comportamenti.

Pare che ci siano delle eccezioni alla regola.

Pare che quel messaggio potrebbe essere
anche un messaggio di notifica

perché vi siete iscritti per sapere

quando la stazione spaziale internazionale
vi passa sopra la testa,

perché volevate uscire

e riuscire a vederla.

Non avreste questa possibilità

se sospendessimo l'account per errore

pensando che sia dello spam.

Va bene. Alziamo la posta.

Torniamo al mio account,

che ancora una volta esibisce
un comportamento classico.

Questa volta sta mandando
lo stesso messaggio e lo stesso link.

Di solito, questo è indicativo
del cosiddetto "phishing",

ovvero qualcuno che cerca di rubare
le informazioni dell'account di qualcun altro.

indirizzandolo verso un altro sito.

È abbastanza ovvio
che non è una buona cosa.

Noi intendiamo, e lo facciamo,
sospendere gli account

che sono intenti in questa pratica.

Allora perché la posta in gioco
è più alta in questo caso?

Beh, si potrebbe trattare
di un passante ad un corteo

che è riuscito a fare un video

di un poliziotto che malmena
un manifestante pacifico

che sta provando a far sapere
al mondo cosa sta succedendo.

Non vogliamo rischiare

di ridurre potenzialmente
al silenzio quel discorso cruciale

classificandolo come spam e sospendendolo.

Questo significa che valutiamo
centinaia di parametri

quando osserviamo i comportamenti degli account,

e comunque, possiamo ancora sbagliarci

ed essere costretti a riconsiderare.

Considerato il tipo di sfide che affronto,

è fondamentale , non solo che io preveda,

ma anche sviluppi protezioni
per l'imprevedibile.

E questo non è un problema solo mio,

o di Twitter, è un problema anche vostro.

È un problema per chiunque
stia costruendo o creando

qualcosa che si pensa possa essere grandioso

e che darà la possibilità alla gente
di fare cose incredibili.

Allora, io cosa faccio?

Mi fermo un attimo e penso,

come potrebbe tutto questo

andare a rotoli?

Mi immagino una catastrofe.

Ed è difficile. C'è una sorta

di dissociazione cognitiva insita nel farlo,

come quando stai scrivendo
le tue promesse nuziali

ed allo stesso tempo
il contratto prematrimoniale.

(Risate)

Ma comunque devi farlo,

specialmente se stai sposando
500 milioni di messaggi al giorno.

Cosa intendo con "immaginarsi una catastrofe?"

Penso a come qualcosa,

come l'immagine innocua ed inoffensiva di un gatto,

possa causare una morte,

e cosa fare per prevenirlo.

Il che, guarda caso,
è il mio prossimo esempio.

Questo è il mio gatto, Eli.

Volevamo dare agli utenti la capacità

di aggiungere foto ai loro tweet.

Un'immagine vale più di mille parole.

Noi vi diamo solo 140 caratteri.

Aggiungete una foto al vostro tweet

guarda quante parole in più avete ora.

Potete fare ogni genere di grandi cose

aggiungendo una foto ad un tweet.

Il mio lavoro non è pensare a queste cose.

È pensare a cosa può andare storto.

Come potrebbe quest'immagine

portare alla mia morte?

Bene, ecco una possibilità.

Non c'è solo un gatto in quella foto.

Ci sono informazioni geografiche.

Quando fate una foto con lo smartphone

o con la fotocamera digitale,

ci sono molte informazioni aggiuntive

salvate assieme all'immagine.

Infatti, quest'immagine contiene anche

l'equivalente di questo,

più specificatamente, questo.

Sicuramente, è improbabile
che qualcuno provi

a rintracciarmi e farmi del male

basandosi sulle informazioni associate

ad una foto che ho fatto al mio gatto

ma comincio pensando
che il peggio accadrà.

Ecco perché, quando abbiamo introdotto
le foto su Twitter,

abbiamo preso la decisione
di eliminare i dati geografici.

(Applausi)

Se comincio con l'assumere il peggio

e lavoro a ritroso,

posso garantire che le protezioni che ideiamo

funzionino sia per i casi prevedibili

che per quelli imprevedibili.

Dato che trascorro giorno e notte

ad immaginare qual è il peggio
che può accadere,

non sorprenderebbe nessuno
se avessi una visione pessimista del mondo.

(Risate)

Non è così.

La grande maggioranza
delle interazioni che vedo,

e ne vedo tante, credetemi,
sono positive,

persone che entrano in contatto per aiutarsi

o per incontrarsi
o condividere informazioni tra loro.

È solo che per quelli di noi
che trattano questa mole di dati,

quelli su cui ricade il compito
di salvaguardare le persone,

il caso peggiore è da considerarsi
come un evento sicuro,

perché per noi, una probabilità
di uno su un milione

è una probabilità decisamente buona.

Grazie.

(Applausi)