Il mio compito in Twitter
è assicurarmi la fiducia degli utenti,
proteggere i loro diritti e proteggerli,
sia uno dall'altro
che, a volte, da loro stessi.
Ora parliamo dei numeri in gioco su Twitter.
Nel gennaio del 2009,
abbiamo visto più di due milioni di nuovi messaggi al giorno
sulla piattaforma.
Gennaio 2014, più di 500 milioni.
Vedevamo due milioni di messaggi
in meno di sei minuti.
Un incremento del 24 900 percento.
Ora, la stragrande maggioranza dell'attività su Twitter
non mette nessuno a rischio.
Non c'è alcun rischio.
Il mio lavoro è stanare e prevenire ogni attività potenzialmente dannosa.
Sembra semplice, vero?
Potreste persino pensare che sia facile,
considerando che ho appena detto che la stragrande maggioranza
dell'attività su Twitter non mette nessuno a rischio.
Perché passare così tanto tempo
alla ricerca di possibili calamità
in attività innocue?
Considerando la quantità di messaggi a cui si è arrivati su Twitter,
un evento con una probabilità di uno su un milione avviene
500 volte al giorno.
La stessa cosa avviene per altre aziende
che operano con questi numeri.
Da noi, i casi limite,
ovvero quelle rare situazioni che difficilmente accadono,
sono la norma.
Supponiamo che il 99,999 percento dei messaggi
non ponga alcun rischio per nessuno.
Non c'è alcun rischio.
Magari delle persone stanno riportando le tappe di un viaggio
come l'Heart Reef in Australia,
o magari scrivono di un concerto a cui stanno assistendo
o condividono foto di cuccioli carini.
Dopo aver tolto questo 99,999 percento,
quella minuscola percentuale di messaggi rimanenti
equivale a circa
150 000 messaggi al mese.
La quantità di messaggi con cui abbiamo a che fare
è in sé una sfida.
Sapete cos'altro rende il mio lavoro
particolarmente impegnativo?
Le persone fanno cose strane.
(Risate)
Ed io devo capire cosa stanno facendo e perché
e pure se ci sia o no un rischio connesso
spesso conoscendo poco del contesto
o del retroscena.
Ora vi mostrerò degli esempi
che ho incontrato durante il mio lavoro per Twitter,
questi sono tutti esempi reali
di situazioni che inizialmente sembravano ovvie,
ma che in realtà erano qualcosa
di completamente diverso.
I dettagli sono stati cambiati
in modo tale da proteggere l'innocente
ed a volte anche il colpevole.
Cominciamo con qualcosa di semplice.
["Uè cagna"]
Se qualcuno vedesse un messaggio con scritto solo questo,
potrebbe pensare tra sé e sé,
"Sembra un insulto."
Dopo tutto, perché mai qualcuno dovrebbe volere ricevere un messaggio come:
"Uè,cagna."
Ora, io provo a stare dietro
alle ultime mode ed ai post ironici,
per cui sapevo che "uè,cagna"
veniva anche usato spesso come saluto tra amici,
oltre ad essere una citazione famosa di "Breaking Bad".
Ammetto che non mi sarei aspettata
di incontrare un quarto uso.
Si scopre che si usa anche su Twitter
quando le persone impersonano dei cani.
(Risate)
Ed infatti, in quel caso,
non solo non è offensivo,
ma è tecnicamente il saluto appropriato.
(Risate)
Quindi, determinare se qualcosa sia o meno offensivo,
senza avere un contesto,
è sicuramente difficile.
Diamo un'occhiata allo spam.
Ora c'è l'esempio di un account intento
a "spammare" nel modo classico,
ovvero inviando lo stesso identico messaggio
a migliaia di persone.
Mentre questo è solo un esempio che ho creato usando il mio account,
vediamo degli account fare questo di continuo.
Sembra davvero semplice.
Sicuro, dovremmo automaticamente sospendere gli account
intenti in questo genere di comportamenti.
Pare che ci siano delle eccezioni alla regola.
Pare che quel messaggio potrebbe essere anche un messaggio di notifica
perché vi siete iscritti per sapere
quando la stazione spaziale internazionale vi passa sopra la testa,
perché volevate uscire
e riuscire a vederla.
Non avreste questa possibilità
se sospendessimo l'account per errore
pensando che sia dello spam.
Va bene. Alziamo la posta.
Torniamo al mio account,
che ancora una volta esibisce un comportamento classico.
Questa volta sta mandando lo stesso messaggio e lo stesso link.
Di solito, questo è indicativo del cosiddetto "phishing",
ovvero qualcuno che cerca di rubare le informazioni dell'account di qualcun altro.
indirizzandolo verso un altro sito.
È abbastanza ovvio che non è una buona cosa.
Noi intendiamo, e lo facciamo, sospendere gli account
che sono intenti in questa pratica.
Allora perché la posta in gioco è più alta in questo caso?
Beh, si potrebbe trattare di un passante ad un corteo
che è riuscito a fare un video
di un poliziotto che malmena un manifestante pacifico
che sta provando a far sapere al mondo cosa sta succedendo.
Non vogliamo rischiare
di ridurre potenzialmente al silenzio quel discorso cruciale
classificandolo come spam e sospendendolo.
Questo significa che valutiamo centinaia di parametri
quando osserviamo i comportamenti degli account,
e comunque, possiamo ancora sbagliarci
ed essere costretti a riconsiderare.
Considerato il tipo di sfide che affronto,
è fondamentale , non solo che io preveda,
ma anche sviluppi protezioni per l'imprevedibile.
E questo non è un problema solo mio,
o di Twitter, è un problema anche vostro.
È un problema per chiunque stia costruendo o creando
qualcosa che si pensa possa essere grandioso
e che darà la possibilità alla gente di fare cose incredibili.
Allora, io cosa faccio?
Mi fermo un attimo e penso,
come potrebbe tutto questo
andare a rotoli?
Mi immagino una catastrofe.
Ed è difficile. C'è una sorta
di dissociazione cognitiva insita nel farlo,
come quando stai scrivendo le tue promesse nuziali
ed allo stesso tempo il contratto prematrimoniale.
(Risate)
Ma comunque devi farlo,
specialmente se stai sposando 500 milioni di messaggi al giorno.
Cosa intendo con "immaginarsi una catastrofe?"
Penso a come qualcosa,
come l'immagine innocua ed inoffensiva di un gatto,
possa causare una morte,
e cosa fare per prevenirlo.
Il che, guarda caso, è il mio prossimo esempio.
Questo è il mio gatto, Eli.
Volevamo dare agli utenti la capacità
di aggiungere foto ai loro tweet.
Un'immagine vale più di mille parole.
Noi vi diamo solo 140 caratteri.
Aggiungete una foto al vostro tweet
guarda quante parole in più avete ora.
Potete fare ogni genere di grandi cose
aggiungendo una foto ad un tweet.
Il mio lavoro non è pensare a queste cose.
È pensare a cosa può andare storto.
Come potrebbe quest'immagine
portare alla mia morte?
Bene, ecco una possibilità.
Non c'è solo un gatto in quella foto.
Ci sono informazioni geografiche.
Quando fate una foto con lo smartphone
o con la fotocamera digitale,
ci sono molte informazioni aggiuntive
salvate assieme all'immagine.
Infatti, quest'immagine contiene anche
l'equivalente di questo,
più specificatamente, questo.
Sicuramente, è improbabile che qualcuno provi
a rintracciarmi e farmi del male
basandosi sulle informazioni associate
ad una foto che ho fatto al mio gatto
ma comincio pensando che il peggio accadrà.
Ecco perché, quando abbiamo introdotto le foto su Twitter,
abbiamo preso la decisione di eliminare i dati geografici.
(Applausi)
Se comincio con l'assumere il peggio
e lavoro a ritroso,
posso garantire che le protezioni che ideiamo
funzionino sia per i casi prevedibili
che per quelli imprevedibili.
Dato che trascorro giorno e notte
ad immaginare qual è il peggio che può accadere,
non sorprenderebbe nessuno se avessi una visione pessimista del mondo.
(Risate)
Non è così.
La grande maggioranza delle interazioni che vedo,
e ne vedo tante, credetemi, sono positive,
persone che entrano in contatto per aiutarsi
o per incontrarsi o condividere informazioni tra loro.
È solo che per quelli di noi che trattano questa mole di dati,
quelli su cui ricade il compito di salvaguardare le persone,
il caso peggiore è da considerarsi come un evento sicuro,
perché per noi, una probabilità di uno su un milione
è una probabilità decisamente buona.
Grazie.
(Applausi)