0:00:00.984,0:00:02.275
Mon travail chez Twitter ?

0:00:02.275,0:00:04.253
Donner confiance aux utilisateurs,

0:00:04.253,0:00:07.090
protéger leurs droits et [br]garantir leur sécurité.

0:00:07.090,0:00:12.140
Les protéger des autres,[br]mais parfois aussi d'eux-mêmes.

0:00:12.159,0:00:16.524
Parlons « proportions » et voyons [br]à quelle échelle se situe Twitter.

0:00:16.524,0:00:19.394
En janvier 2009,

0:00:19.394,0:00:22.725
plus de deux millions de tweets [br]passaient chaque jour

0:00:22.725,0:00:24.489
par la plateforme de partage.

0:00:24.489,0:00:30.397
En janvier 2014 : [br]plus de 500 millions.

0:00:30.397,0:00:32.889
Ce qui fait environ [br]deux millions de tweets

0:00:32.889,0:00:35.065
toutes les 6 minutes.

0:00:35.065,0:00:42.049
Ça correspond à une augmentation [br]de 24 900%.

0:00:42.049,0:00:45.302
L'essentiel de l'activité sur Twitter

0:00:45.302,0:00:48.805
est totalement inoffensive.[br]Il n'y a aucun facteur de risque.

0:00:48.805,0:00:54.493
Ma tâche consiste à éliminer ou prévenir[br]toute activité potentiellement nuisible.

0:00:54.493,0:00:56.466
Ça a l'air évident, non ?

0:00:56.466,0:00:59.778
Vous pourriez même penser que[br]c'est facile, puisque

0:00:59.788,0:01:03.598
la vaste majorité de l'activité[br]sur Twitter ne met personne en danger.

0:01:03.598,0:01:05.767
Pourquoi passer tant de temps

0:01:05.767,0:01:08.510
à chercher [br]des catastrophes potentielles

0:01:08.510,0:01:11.410
au beau milieu d'activités anodines ?

0:01:11.410,0:01:14.350
A l'échelle de Twitter,

0:01:14.350,0:01:16.707
une probabilité [br]d'une chance sur un million,

0:01:16.707,0:01:21.583
ça correspond à [br]500 événements par jour.

0:01:21.583,0:01:24.468
D'autres entreprises aussi[br]fonctionnent à cette échelle.

0:01:24.468,0:01:26.207
Pour nous, les cas limites,

0:01:26.207,0:01:29.832
ces situations qui ont peu de chances [br]de se produire,

0:01:29.832,0:01:32.454
c'est la norme.

0:01:32.454,0:01:36.396
Disons que 99,999 %[br]des tweets

0:01:36.396,0:01:39.265
ne présentent aucun risque,[br]aucune menace.

0:01:39.265,0:01:41.964
Les gens illustrent leurs voyages, [br]comme par exemple

0:01:41.964,0:01:44.267
ce récif australien [br]en forme de cœur

0:01:44.267,0:01:47.728
ou ils tweetent à propos d'un concert[br]auquel ils assistent

0:01:47.728,0:01:51.945
ou ils partagent des photos [br]d'adorables bébés animaux.

0:01:51.945,0:01:56.444
Si l'on écarte ces 99,999%,

0:01:56.444,0:01:59.973
le minuscule pourcentage [br]de tweets restant

0:01:59.973,0:02:02.362
correspond environ à

0:02:02.362,0:02:05.837
150 000 messages par mois.

0:02:05.837,0:02:08.293
L'envergure de la chose

0:02:08.293,0:02:10.605
en fait un vrai défi de gestion.

0:02:10.605,0:02:14.751
Vous savez ce qui rend mon travail [br]encore plus difficile ?

0:02:14.751,0:02:19.897
Les gens font des choses[br]vraiment bizarres.

0:02:19.897,0:02:21.732
(Rires)

0:02:21.732,0:02:24.233
Je dois comprendre ce qu'ils font [br]et pourquoi,

0:02:24.233,0:02:26.482
et évaluer la présence de risques.

0:02:26.482,0:02:28.650
Souvent en dehors de tout contexte

0:02:28.650,0:02:30.497
ou de la moindre information...

0:02:30.497,0:02:32.574
Voici quelques exemples

0:02:32.574,0:02:34.579
auxquels j'ai été confrontée à Twitter

0:02:34.579,0:02:36.199
- des exemples véridiques -

0:02:36.199,0:02:38.852
des situations[br]qui avaient l'air claires,

0:02:38.852,0:02:40.495
mais qui en fin de compte,

0:02:40.495,0:02:42.045
ne l'étaient pas tellement.

0:02:42.045,0:02:44.022
Certains détails ont été modifiés

0:02:44.022,0:02:48.529
pour garantir l'anonymat[br]des innocents et des coupables.

0:02:48.529,0:02:51.517
Commençons doucement.

0:02:51.517,0:02:53.310
[« Yo bitch »]

0:02:53.310,0:02:56.538
En voyant un tweet[br]qui ne dit que ça,

0:02:56.538,0:02:59.892
on se dit :[br]« Ça va trop loin. »

0:02:59.892,0:03:02.992
Après tout, qui voudrait recevoir un

0:03:02.992,0:03:05.210
« Yo, bitch. »

0:03:05.210,0:03:09.873
Mais j'essaie de me tenir au courant

0:03:09.873,0:03:12.385
des dernières tendances et [br]expressions virales

0:03:12.385,0:03:15.089
donc je sais que « yo, bitch »

0:03:15.089,0:03:18.243
est une façon courante [br]de saluer ses amis,

0:03:18.243,0:03:22.495
mais aussi une référence [br]à la série « Breaking Bad ».

0:03:22.495,0:03:24.992
Je dois admettre que [br]je ne m'attendais pas

0:03:24.992,0:03:27.833
à tomber sur une 4ème utilisation.

0:03:27.833,0:03:30.937
Il se trouve que les gens [br]l'utilisent aussi sur Twitter

0:03:30.937,0:03:34.049
quand ils se prennent pour des chiens.

0:03:34.049,0:03:39.278
(Rires)

0:03:39.278,0:03:40.944
Et en fait, dans ce cas-là,

0:03:40.944,0:03:42.553
il n'y a rien de mal,

0:03:42.553,0:03:45.692
techniquement, c'est même [br]tout à fait approprié !

0:03:45.692,0:03:48.581
(Rires)

0:03:48.581,0:03:50.652
Donc, déterminer[br]le caractère tendancieux

0:03:50.652,0:03:52.500
de quelque chose sans contexte,

0:03:52.500,0:03:54.092
n'est pas une mince affaire.

0:03:54.092,0:03:56.809
Quant au courrier indésirable,

0:03:56.809,0:03:58.769
voici l'exemple d'un compte

0:03:58.769,0:04:00.437
pratiquant ce type d'envois :

0:04:00.437,0:04:01.996
il envoie exactement[br]le même message

0:04:01.996,0:04:03.800
à des milliers de personnes.

0:04:03.800,0:04:06.593
Ici, c'est un faux, [br]créé à partir de mon compte,

0:04:06.593,0:04:09.594
mais on en voit tous les jours.

0:04:09.594,0:04:11.573
Plutôt clair, non ?

0:04:11.573,0:04:13.626
On devrait automatiquement suspendre

0:04:13.626,0:04:16.933
tous les comptes qui adoptent [br]ce type de comportement.

0:04:16.933,0:04:20.314
Mais il y a des exceptions à la règle.

0:04:20.318,0:04:22.517
Notamment si vous êtes abonné [br]à un service

0:04:22.517,0:04:24.716
qui vous informe du passage [br]

0:04:24.716,0:04:26.915
de la Station Spatiale Internationale

0:04:26.915,0:04:28.761
et qui vous avertit quand sortir

0:04:28.761,0:04:30.709
pour tenter de l'apercevoir.

0:04:30.709,0:04:32.981
Impossible, si on suspend le compte

0:04:32.981,0:04:35.937
en pensant à tort qu'il s'agit[br]d'un message indésirable.

0:04:35.937,0:04:39.573
Imaginons pire.

0:04:39.573,0:04:41.489
Revenons-en à mon compte

0:04:41.489,0:04:44.994
et illustrons[br]un comportement classique.

0:04:44.994,0:04:47.637
Cette fois, c'est le même message, [br]mais avec un lien.

0:04:47.637,0:04:50.411
C'est souvent un bon indicateur[br]de « hameçonnage » :

0:04:50.411,0:04:53.589
quelqu'un essaie d'usurper l'identité [br]d'un autre compte

0:04:53.589,0:04:55.792
en les redirigeant vers un autre site.

0:04:55.792,0:04:59.986
Ce n'est clairement pas[br]une bonne chose.

0:04:59.986,0:05:01.916
Nous tenons à suspendre les comptes

0:05:01.916,0:05:04.540
qui font ce genre de choses [br]et nous le faisons.

0:05:04.540,0:05:07.787
Pourquoi les enjeux sont-ils [br]plus grands dans ce cas-ci ?

0:05:07.787,0:05:10.786
Car il pourrait s'agir d'un spectateur

0:05:10.786,0:05:12.696
qui a réussi à filmer

0:05:12.696,0:05:15.966
un policier frappant [br]un manifestant pacifique

0:05:15.966,0:05:18.941
et qui essaie juste [br]d'en informer le monde.

0:05:18.941,0:05:20.584
On ne veut pas prendre le risque

0:05:20.584,0:05:23.101
de réduire au silence [br]ce témoignage crucial

0:05:23.101,0:05:26.030
en l'identifiant comme indésirable [br]et en le suspendant.

0:05:26.030,0:05:28.909
Nous évaluons [br]des centaines de paramètres

0:05:28.909,0:05:30.597
liés à l'activité des comptes

0:05:30.597,0:05:32.613
mais nous pouvons encore [br]nous tromper

0:05:32.613,0:05:34.849
et nous devons tout réévaluer.

0:05:34.849,0:05:38.557
Vu les défis [br]auxquels je suis confrontée,

0:05:38.557,0:05:41.253
je dois absolument [br]pouvoir prédire l'impensable

0:05:41.253,0:05:45.037
et concevoir les protections [br]adaptées à l'inattendu.

0:05:45.037,0:05:47.379
Et ce n'est pas [br]qu'un problème pour moi

0:05:47.379,0:05:49.466
ou pour Twitter, [br]c'est aussi le vôtre.

0:05:49.466,0:05:51.259
C'est un problème pour quiconque

0:05:51.259,0:05:53.792
créant quelque chose qui paraît génial

0:05:53.797,0:05:56.586
et permettant de faire [br]des choses formidables.

0:05:56.586,0:05:59.452
Et moi, qu'est-ce que je fais ?

0:05:59.452,0:06:02.770
Je prends le temps de penser.

0:06:02.770,0:06:04.865
Je me demande : [br]comment tout ça

0:06:04.865,0:06:08.658
pourrait-il complètement dégénérer ?

0:06:08.658,0:06:13.111
Je visualise la catastrophe.

0:06:13.111,0:06:15.144
Et c'est difficile. [br]

0:06:15.144,0:06:18.422
Il y a comme quelque chose[br]qui cloche quand on fait ça.

0:06:18.422,0:06:20.234
C'est un peu comme si vous écriviez

0:06:20.234,0:06:22.880
à la fois vos vœux [br]et votre contrat de mariage.

0:06:22.880,0:06:24.576
(Rires)

0:06:24.576,0:06:26.949
Mais vous devez quand même le faire,

0:06:26.949,0:06:31.395
en particulier si vous épousez [br]500 millions de tweets par jour.

0:06:31.395,0:06:34.492
Qu'est-ce que j'entends par [br]« visualiser la catastrophe » ?

0:06:34.492,0:06:37.254
J'essaie de penser comment [br]quelque chose

0:06:37.254,0:06:40.482
d'aussi bénin et inoffensif que [br]la photo d'un chat

0:06:40.482,0:06:41.586
pourrait être mortel

0:06:41.586,0:06:43.912
et à ce qu'il faut faire pour l'éviter.

0:06:43.912,0:06:46.295
C'est justement mon prochain exemple.

0:06:46.295,0:06:49.405
Voici mon chat, Eli.

0:06:49.405,0:06:51.386
Nous voulions permettre[br]aux utilisateurs

0:06:51.386,0:06:53.459
d'ajouter des photos à leurs tweets.

0:06:53.459,0:06:55.056
Une image vaut mille mots.

0:06:55.056,0:06:57.065
Et vous n'avez droit qu'à 140 caractères.

0:06:57.065,0:06:58.265
Un tweet avec une photo

0:06:58.265,0:07:01.303
ça augmente considérablement [br]votre création de contenu !

0:07:01.303,0:07:02.980
On peut faire plein de choses superbes

0:07:02.980,0:07:04.987
en ajoutant une photo à un tweet.

0:07:04.987,0:07:07.267
Mon travail, [br]ce n'est pas de penser à ça,

0:07:07.267,0:07:10.014
mais à ce qui pourrait déraper.

0:07:10.014,0:07:11.906
Comment cette photo

0:07:11.906,0:07:15.445
pourrait-elle conduire à ma mort ?

0:07:15.445,0:07:18.605
Voici une possibilité.

0:07:18.605,0:07:21.691
Cette photo, ce n'est pas juste un chat.

0:07:21.691,0:07:23.783
Elle contient des données géographiques.

0:07:23.783,0:07:25.995
Une photo prise avec [br]votre téléphone

0:07:25.995,0:07:27.294
ou votre appareil photo

0:07:27.294,0:07:30.568
contient beaucoup plus[br]d'informations qu'une image.

0:07:30.568,0:07:32.496
En fait, cette photo contient aussi

0:07:32.496,0:07:34.301
l'équivalent de ceci.

0:07:34.301,0:07:37.380
Ou plus précisément, ceci.

0:07:37.380,0:07:39.336
Il est fort peu probable[br]qu'on tente

0:07:39.336,0:07:41.621
de me retrouver[br]pour me faire du mal

0:07:41.621,0:07:43.405
sur la base de données

0:07:43.405,0:07:45.353
liées à cette photo de mon chat,

0:07:45.353,0:07:49.004
mais je considère toujours [br]que le pire va se produire.

0:07:49.004,0:07:51.342
Ainsi, en autorisant [br]les photos sur Twitter,

0:07:51.342,0:07:55.163
nous avons décidé d'en effacer [br]toute donnée géographique.

0:07:55.163,0:08:01.010
(Applaudissements)

0:08:01.010,0:08:03.086
Si je me prépare au pire

0:08:03.086,0:08:05.440
et que je travaille à reculons,

0:08:05.440,0:08:07.123
je peux m'assurer[br]que les protections mises en place

0:08:07.123,0:08:08.891
fonctionnent dans tous les cas :

0:08:08.891,0:08:10.969
ceux qu'on avait prévus ou non.

0:08:10.969,0:08:13.914
Vu que, jour et nuit, [br]je passe mon temps

0:08:13.914,0:08:16.180
à imaginer le pire,

0:08:16.180,0:08:18.446
je pourrais tout à fait

0:08:18.446,0:08:20.712
avoir une sombre vision du monde.

0:08:20.712,0:08:22.495
(Rires)

0:08:22.495,0:08:23.912
Mais ce n'est pas le cas.

0:08:23.912,0:08:27.788
La grande majorité [br]des interactions que je vois

0:08:27.788,0:08:31.689
- et j'en vois beaucoup, croyez-moi - [br]est positive :

0:08:31.689,0:08:33.613
des gens demandent de l'aide,

0:08:33.613,0:08:37.061
se connectent ou [br]partagent de l'information.

0:08:37.061,0:08:40.384
Mais quiconque [br]travaille à cette échelle

0:08:40.384,0:08:44.184
ou doit assurer la sécurité des gens

0:08:44.184,0:08:46.730
est obligé de se préparer au pire

0:08:46.730,0:08:50.957
car pour nous, une chance sur un million

0:08:50.957,0:08:53.706
c'est une sacré grande probabilité.

0:08:53.706,0:08:55.570
Merci.

0:08:55.570,0:08:59.980
(Applaudissements)