L'étrangeté d'échelle chez Twitter

Lorsque des centaines de milliers de Tweets sont envoyés chaque seconde, une chance sur un million - dont ceux qui pourraient nuire à des utilisateurs - se passe environ 500 fois par jour. Pour Del Harvey, qui dirige l'équipe « Confiance et sécurité » de Twitter, ces probabilités ne sont pas rassurantes. Elle passe donc ses journées à réfléchir sur la façon d'en éviter, tout en donnant la parole aux personnes à travers le monde. Avec un humour pince-sans-rire, elle montre sa façon de garder 240 millions d'utilisateurs en sécurité.

Mon travail chez Twitter ?

Donner confiance aux utilisateurs,

protéger leurs droits et
garantir leur sécurité.

Les protéger des autres,
mais parfois aussi d'eux-mêmes.

Parlons « proportions » et voyons
à quelle échelle se situe Twitter.

En janvier 2009,

plus de deux millions de tweets
passaient chaque jour

par la plateforme de partage.

En janvier 2014 :
plus de 500 millions.

Ce qui fait environ
deux millions de tweets

toutes les 6 minutes.

Ça correspond à une augmentation
de 24 900%.

L'essentiel de l'activité sur Twitter

est totalement inoffensive.
Il n'y a aucun facteur de risque.

Ma tâche consiste à éliminer ou prévenir
toute activité potentiellement nuisible.

Ça a l'air évident, non ?

Vous pourriez même penser que
c'est facile, puisque

la vaste majorité de l'activité
sur Twitter ne met personne en danger.

Pourquoi passer tant de temps

à chercher
des catastrophes potentielles

au beau milieu d'activités anodines ?

A l'échelle de Twitter,

une probabilité
d'une chance sur un million,

ça correspond à
500 événements par jour.

D'autres entreprises aussi
fonctionnent à cette échelle.

Pour nous, les cas limites,

ces situations qui ont peu de chances
de se produire,

c'est la norme.

Disons que 99,999 %
des tweets

ne présentent aucun risque,
aucune menace.

Les gens illustrent leurs voyages,
comme par exemple

ce récif australien
en forme de cœur

ou ils tweetent à propos d'un concert
auquel ils assistent

ou ils partagent des photos
d'adorables bébés animaux.

Si l'on écarte ces 99,999%,

le minuscule pourcentage
de tweets restant

correspond environ à

150 000 messages par mois.

L'envergure de la chose

en fait un vrai défi de gestion.

Vous savez ce qui rend mon travail
encore plus difficile ?

Les gens font des choses
vraiment bizarres.

(Rires)

Je dois comprendre ce qu'ils font
et pourquoi,

et évaluer la présence de risques.

Souvent en dehors de tout contexte

ou de la moindre information...

Voici quelques exemples

auxquels j'ai été confrontée à Twitter

- des exemples véridiques -

des situations
qui avaient l'air claires,

mais qui en fin de compte,

ne l'étaient pas tellement.

Certains détails ont été modifiés

pour garantir l'anonymat
des innocents et des coupables.

Commençons doucement.

[« Yo bitch »]

En voyant un tweet
qui ne dit que ça,

on se dit :
« Ça va trop loin. »

Après tout, qui voudrait recevoir un

« Yo, bitch. »

Mais j'essaie de me tenir au courant

des dernières tendances et
expressions virales

donc je sais que « yo, bitch »

est une façon courante
de saluer ses amis,

mais aussi une référence
à la série « Breaking Bad ».

Je dois admettre que
je ne m'attendais pas

à tomber sur une 4ème utilisation.

Il se trouve que les gens
l'utilisent aussi sur Twitter

quand ils se prennent pour des chiens.

(Rires)

Et en fait, dans ce cas-là,

il n'y a rien de mal,

techniquement, c'est même
tout à fait approprié !

(Rires)

Donc, déterminer
le caractère tendancieux

de quelque chose sans contexte,

n'est pas une mince affaire.

Quant au courrier indésirable,

voici l'exemple d'un compte

pratiquant ce type d'envois :

il envoie exactement
le même message

à des milliers de personnes.

Ici, c'est un faux,
créé à partir de mon compte,

mais on en voit tous les jours.

Plutôt clair, non ?

On devrait automatiquement suspendre

tous les comptes qui adoptent
ce type de comportement.

Mais il y a des exceptions à la règle.

Notamment si vous êtes abonné
à un service

qui vous informe du passage

de la Station Spatiale Internationale

et qui vous avertit quand sortir

pour tenter de l'apercevoir.

Impossible, si on suspend le compte

en pensant à tort qu'il s'agit
d'un message indésirable.

Imaginons pire.

Revenons-en à mon compte

et illustrons
un comportement classique.

Cette fois, c'est le même message,
mais avec un lien.

C'est souvent un bon indicateur
de « hameçonnage » :

quelqu'un essaie d'usurper l'identité
d'un autre compte

en les redirigeant vers un autre site.

Ce n'est clairement pas
une bonne chose.

Nous tenons à suspendre les comptes

qui font ce genre de choses
et nous le faisons.

Pourquoi les enjeux sont-ils
plus grands dans ce cas-ci ?

Car il pourrait s'agir d'un spectateur

qui a réussi à filmer

un policier frappant
un manifestant pacifique

et qui essaie juste
d'en informer le monde.

On ne veut pas prendre le risque

de réduire au silence
ce témoignage crucial

en l'identifiant comme indésirable
et en le suspendant.

Nous évaluons
des centaines de paramètres

liés à l'activité des comptes

mais nous pouvons encore
nous tromper

et nous devons tout réévaluer.

Vu les défis
auxquels je suis confrontée,

je dois absolument
pouvoir prédire l'impensable

et concevoir les protections
adaptées à l'inattendu.

Et ce n'est pas
qu'un problème pour moi

ou pour Twitter,
c'est aussi le vôtre.

C'est un problème pour quiconque

créant quelque chose qui paraît génial

et permettant de faire
des choses formidables.

Et moi, qu'est-ce que je fais ?

Je prends le temps de penser.

Je me demande :
comment tout ça

pourrait-il complètement dégénérer ?

Je visualise la catastrophe.

Et c'est difficile.

Il y a comme quelque chose
qui cloche quand on fait ça.

C'est un peu comme si vous écriviez

à la fois vos vœux
et votre contrat de mariage.

(Rires)

Mais vous devez quand même le faire,

en particulier si vous épousez
500 millions de tweets par jour.

Qu'est-ce que j'entends par
« visualiser la catastrophe » ?

J'essaie de penser comment
quelque chose

d'aussi bénin et inoffensif que
la photo d'un chat

pourrait être mortel

et à ce qu'il faut faire pour l'éviter.

C'est justement mon prochain exemple.

Voici mon chat, Eli.

Nous voulions permettre
aux utilisateurs

d'ajouter des photos à leurs tweets.

Une image vaut mille mots.

Et vous n'avez droit qu'à 140 caractères.

Un tweet avec une photo

ça augmente considérablement
votre création de contenu !

On peut faire plein de choses superbes

en ajoutant une photo à un tweet.

Mon travail,
ce n'est pas de penser à ça,

mais à ce qui pourrait déraper.

Comment cette photo

pourrait-elle conduire à ma mort ?

Voici une possibilité.

Cette photo, ce n'est pas juste un chat.

Elle contient des données géographiques.

Une photo prise avec
votre téléphone

ou votre appareil photo

contient beaucoup plus
d'informations qu'une image.

En fait, cette photo contient aussi

l'équivalent de ceci.

Ou plus précisément, ceci.

Il est fort peu probable
qu'on tente

de me retrouver
pour me faire du mal

sur la base de données

liées à cette photo de mon chat,

mais je considère toujours
que le pire va se produire.

Ainsi, en autorisant
les photos sur Twitter,

nous avons décidé d'en effacer
toute donnée géographique.

(Applaudissements)

Si je me prépare au pire

et que je travaille à reculons,

je peux m'assurer
que les protections mises en place

fonctionnent dans tous les cas :

ceux qu'on avait prévus ou non.

Vu que, jour et nuit,
je passe mon temps

à imaginer le pire,

je pourrais tout à fait

avoir une sombre vision du monde.

(Rires)

Mais ce n'est pas le cas.

La grande majorité
des interactions que je vois

- et j'en vois beaucoup, croyez-moi -
est positive :

des gens demandent de l'aide,

se connectent ou
partagent de l'information.

Mais quiconque
travaille à cette échelle

ou doit assurer la sécurité des gens

est obligé de se préparer au pire

car pour nous, une chance sur un million

c'est une sacré grande probabilité.

Merci.

(Applaudissements)