Mon travail chez Twitter ?
Donner confiance aux utilisateurs,
protéger leurs droits et garantir leur sécurité.
Les protéger des autres, mais parfois aussi d'eux-mêmes.
Parlons « proportions » et voyons à quelle échelle se situe Twitter.
En janvier 2009,
plus de deux millions de tweets passaient chaque jour
par la plateforme de partage.
En janvier 2014 : plus de 500 millions.
Ce qui fait environ deux millions de tweets
toutes les 6 minutes.
Ça correspond à une augmentation de 24 900%.
L'essentiel de l'activité sur Twitter
est totalement inoffensive. Il n'y a aucun facteur de risque.
Ma tâche consiste à éliminer ou prévenir toute activité potentiellement nuisible.
Ça a l'air évident, non ?
Vous pourriez même penser que c'est facile, puisque
la vaste majorité de l'activité sur Twitter ne met personne en danger.
Pourquoi passer tant de temps
à chercher des catastrophes potentielles
au beau milieu d'activités anodines ?
A l'échelle de Twitter,
une probabilité d'une chance sur un million,
ça correspond à 500 événements par jour.
D'autres entreprises aussi fonctionnent à cette échelle.
Pour nous, les cas limites,
ces situations qui ont peu de chances de se produire,
c'est la norme.
Disons que 99,999 % des tweets
ne présentent aucun risque, aucune menace.
Les gens illustrent leurs voyages, comme par exemple
ce récif australien en forme de cœur
ou ils tweetent à propos d'un concert auquel ils assistent
ou ils partagent des photos d'adorables bébés animaux.
Si l'on écarte ces 99,999%,
le minuscule pourcentage de tweets restant
correspond environ à
150 000 messages par mois.
L'envergure de la chose
en fait un vrai défi de gestion.
Vous savez ce qui rend mon travail encore plus difficile ?
Les gens font des choses vraiment bizarres.
(Rires)
Je dois comprendre ce qu'ils font et pourquoi,
et évaluer la présence de risques.
Souvent en dehors de tout contexte
ou de la moindre information...
Voici quelques exemples
auxquels j'ai été confrontée à Twitter
- des exemples véridiques -
des situations qui avaient l'air claires,
mais qui en fin de compte,
ne l'étaient pas tellement.
Certains détails ont été modifiés
pour garantir l'anonymat des innocents et des coupables.
Commençons doucement.
[« Yo bitch »]
En voyant un tweet qui ne dit que ça,
on se dit : « Ça va trop loin. »
Après tout, qui voudrait recevoir un
« Yo, bitch. »
Mais j'essaie de me tenir au courant
des dernières tendances et expressions virales
donc je sais que « yo, bitch »
est une façon courante de saluer ses amis,
mais aussi une référence à la série « Breaking Bad ».
Je dois admettre que je ne m'attendais pas
à tomber sur une 4ème utilisation.
Il se trouve que les gens l'utilisent aussi sur Twitter
quand ils se prennent pour des chiens.
(Rires)
Et en fait, dans ce cas-là,
il n'y a rien de mal,
techniquement, c'est même tout à fait approprié !
(Rires)
Donc, déterminer le caractère tendancieux
de quelque chose sans contexte,
n'est pas une mince affaire.
Quant au courrier indésirable,
voici l'exemple d'un compte
pratiquant ce type d'envois :
il envoie exactement le même message
à des milliers de personnes.
Ici, c'est un faux, créé à partir de mon compte,
mais on en voit tous les jours.
Plutôt clair, non ?
On devrait automatiquement suspendre
tous les comptes qui adoptent ce type de comportement.
Mais il y a des exceptions à la règle.
Notamment si vous êtes abonné à un service
qui vous informe du passage
de la Station Spatiale Internationale
et qui vous avertit quand sortir
pour tenter de l'apercevoir.
Impossible, si on suspend le compte
en pensant à tort qu'il s'agit d'un message indésirable.
Imaginons pire.
Revenons-en à mon compte
et illustrons un comportement classique.
Cette fois, c'est le même message, mais avec un lien.
C'est souvent un bon indicateur de « hameçonnage » :
quelqu'un essaie d'usurper l'identité d'un autre compte
en les redirigeant vers un autre site.
Ce n'est clairement pas une bonne chose.
Nous tenons à suspendre les comptes
qui font ce genre de choses et nous le faisons.
Pourquoi les enjeux sont-ils plus grands dans ce cas-ci ?
Car il pourrait s'agir d'un spectateur
qui a réussi à filmer
un policier frappant un manifestant pacifique
et qui essaie juste d'en informer le monde.
On ne veut pas prendre le risque
de réduire au silence ce témoignage crucial
en l'identifiant comme indésirable et en le suspendant.
Nous évaluons des centaines de paramètres
liés à l'activité des comptes
mais nous pouvons encore nous tromper
et nous devons tout réévaluer.
Vu les défis auxquels je suis confrontée,
je dois absolument pouvoir prédire l'impensable
et concevoir les protections adaptées à l'inattendu.
Et ce n'est pas qu'un problème pour moi
ou pour Twitter, c'est aussi le vôtre.
C'est un problème pour quiconque
créant quelque chose qui paraît génial
et permettant de faire des choses formidables.
Et moi, qu'est-ce que je fais ?
Je prends le temps de penser.
Je me demande : comment tout ça
pourrait-il complètement dégénérer ?
Je visualise la catastrophe.
Et c'est difficile.
Il y a comme quelque chose qui cloche quand on fait ça.
C'est un peu comme si vous écriviez
à la fois vos vœux et votre contrat de mariage.
(Rires)
Mais vous devez quand même le faire,
en particulier si vous épousez 500 millions de tweets par jour.
Qu'est-ce que j'entends par « visualiser la catastrophe » ?
J'essaie de penser comment quelque chose
d'aussi bénin et inoffensif que la photo d'un chat
pourrait être mortel
et à ce qu'il faut faire pour l'éviter.
C'est justement mon prochain exemple.
Voici mon chat, Eli.
Nous voulions permettre aux utilisateurs
d'ajouter des photos à leurs tweets.
Une image vaut mille mots.
Et vous n'avez droit qu'à 140 caractères.
Un tweet avec une photo
ça augmente considérablement votre création de contenu !
On peut faire plein de choses superbes
en ajoutant une photo à un tweet.
Mon travail, ce n'est pas de penser à ça,
mais à ce qui pourrait déraper.
Comment cette photo
pourrait-elle conduire à ma mort ?
Voici une possibilité.
Cette photo, ce n'est pas juste un chat.
Elle contient des données géographiques.
Une photo prise avec votre téléphone
ou votre appareil photo
contient beaucoup plus d'informations qu'une image.
En fait, cette photo contient aussi
l'équivalent de ceci.
Ou plus précisément, ceci.
Il est fort peu probable qu'on tente
de me retrouver pour me faire du mal
sur la base de données
liées à cette photo de mon chat,
mais je considère toujours que le pire va se produire.
Ainsi, en autorisant les photos sur Twitter,
nous avons décidé d'en effacer toute donnée géographique.
(Applaudissements)
Si je me prépare au pire
et que je travaille à reculons,
je peux m'assurer que les protections mises en place
fonctionnent dans tous les cas :
ceux qu'on avait prévus ou non.
Vu que, jour et nuit, je passe mon temps
à imaginer le pire,
je pourrais tout à fait
avoir une sombre vision du monde.
(Rires)
Mais ce n'est pas le cas.
La grande majorité des interactions que je vois
- et j'en vois beaucoup, croyez-moi - est positive :
des gens demandent de l'aide,
se connectent ou partagent de l'information.
Mais quiconque travaille à cette échelle
ou doit assurer la sécurité des gens
est obligé de se préparer au pire
car pour nous, une chance sur un million
c'est une sacré grande probabilité.
Merci.
(Applaudissements)