1
00:00:00,984 --> 00:00:02,275
Mon travail chez Twitter ?

2
00:00:02,275 --> 00:00:04,253
Donner confiance aux utilisateurs,

3
00:00:04,253 --> 00:00:07,090
protéger leurs droits et 
garantir leur sécurité.

4
00:00:07,090 --> 00:00:12,140
Les protéger des autres,
mais parfois aussi d'eux-mêmes.

5
00:00:12,159 --> 00:00:16,524
Parlons « proportions » et voyons 
à quelle échelle se situe Twitter.

6
00:00:16,524 --> 00:00:19,394
En janvier 2009,

7
00:00:19,394 --> 00:00:22,725
plus de deux millions de tweets 
passaient chaque jour

8
00:00:22,725 --> 00:00:24,489
par la plateforme de partage.

9
00:00:24,489 --> 00:00:30,397
En janvier 2014 : 
plus de 500 millions.

10
00:00:30,397 --> 00:00:32,889
Ce qui fait environ 
deux millions de tweets

11
00:00:32,889 --> 00:00:35,065
toutes les 6 minutes.

12
00:00:35,065 --> 00:00:42,049
Ça correspond à une augmentation 
de 24 900%.

13
00:00:42,049 --> 00:00:45,302
L'essentiel de l'activité sur Twitter

14
00:00:45,302 --> 00:00:48,805
est totalement inoffensive.
Il n'y a aucun facteur de risque.

15
00:00:48,805 --> 00:00:54,493
Ma tâche consiste à éliminer ou prévenir
toute activité potentiellement nuisible.

16
00:00:54,493 --> 00:00:56,466
Ça a l'air évident, non ?

17
00:00:56,466 --> 00:00:59,778
Vous pourriez même penser que
c'est facile, puisque

18
00:00:59,788 --> 00:01:03,598
la vaste majorité de l'activité
sur Twitter ne met personne en danger.

19
00:01:03,598 --> 00:01:05,767
Pourquoi passer tant de temps

20
00:01:05,767 --> 00:01:08,510
à chercher 
des catastrophes potentielles

21
00:01:08,510 --> 00:01:11,410
au beau milieu d'activités anodines ?

22
00:01:11,410 --> 00:01:14,350
A l'échelle de Twitter,

23
00:01:14,350 --> 00:01:16,707
une probabilité 
d'une chance sur un million,

24
00:01:16,707 --> 00:01:21,583
ça correspond à 
500 événements par jour.

25
00:01:21,583 --> 00:01:24,468
D'autres entreprises aussi
fonctionnent à cette échelle.

26
00:01:24,468 --> 00:01:26,207
Pour nous, les cas limites,

27
00:01:26,207 --> 00:01:29,832
ces situations qui ont peu de chances 
de se produire,

28
00:01:29,832 --> 00:01:32,454
c'est la norme.

29
00:01:32,454 --> 00:01:36,396
Disons que 99,999 %
des tweets

30
00:01:36,396 --> 00:01:39,265
ne présentent aucun risque,
aucune menace.

31
00:01:39,265 --> 00:01:41,964
Les gens illustrent leurs voyages, 
comme par exemple

32
00:01:41,964 --> 00:01:44,267
ce récif australien 
en forme de cœur

33
00:01:44,267 --> 00:01:47,728
ou ils tweetent à propos d'un concert
auquel ils assistent

34
00:01:47,728 --> 00:01:51,945
ou ils partagent des photos 
d'adorables bébés animaux.

35
00:01:51,945 --> 00:01:56,444
Si l'on écarte ces 99,999%,

36
00:01:56,444 --> 00:01:59,973
le minuscule pourcentage 
de tweets restant

37
00:01:59,973 --> 00:02:02,362
correspond environ à

38
00:02:02,362 --> 00:02:05,837
150 000 messages par mois.

39
00:02:05,837 --> 00:02:08,293
L'envergure de la chose

40
00:02:08,293 --> 00:02:10,605
en fait un vrai défi de gestion.

41
00:02:10,605 --> 00:02:14,751
Vous savez ce qui rend mon travail 
encore plus difficile ?

42
00:02:14,751 --> 00:02:19,897
Les gens font des choses
vraiment bizarres.

43
00:02:19,897 --> 00:02:21,732
(Rires)

44
00:02:21,732 --> 00:02:24,233
Je dois comprendre ce qu'ils font 
et pourquoi,

45
00:02:24,233 --> 00:02:26,482
et évaluer la présence de risques.

46
00:02:26,482 --> 00:02:28,650
Souvent en dehors de tout contexte

47
00:02:28,650 --> 00:02:30,497
ou de la moindre information...

48
00:02:30,497 --> 00:02:32,574
Voici quelques exemples

49
00:02:32,574 --> 00:02:34,579
auxquels j'ai été confrontée à Twitter

50
00:02:34,579 --> 00:02:36,199
- des exemples véridiques -

51
00:02:36,199 --> 00:02:38,852
des situations
qui avaient l'air claires,

52
00:02:38,852 --> 00:02:40,495
mais qui en fin de compte,

53
00:02:40,495 --> 00:02:42,045
ne l'étaient pas tellement.

54
00:02:42,045 --> 00:02:44,022
Certains détails ont été modifiés

55
00:02:44,022 --> 00:02:48,529
pour garantir l'anonymat
des innocents et des coupables.

56
00:02:48,529 --> 00:02:51,517
Commençons doucement.

57
00:02:51,517 --> 00:02:53,310
[« Yo bitch »]

58
00:02:53,310 --> 00:02:56,538
En voyant un tweet
qui ne dit que ça,

59
00:02:56,538 --> 00:02:59,892
on se dit :
« Ça va trop loin. »

60
00:02:59,892 --> 00:03:02,992
Après tout, qui voudrait recevoir un

61
00:03:02,992 --> 00:03:05,210
« Yo, bitch. »

62
00:03:05,210 --> 00:03:09,873
Mais j'essaie de me tenir au courant

63
00:03:09,873 --> 00:03:12,385
des dernières tendances et 
expressions virales

64
00:03:12,385 --> 00:03:15,089
donc je sais que « yo, bitch »

65
00:03:15,089 --> 00:03:18,243
est une façon courante 
de saluer ses amis,

66
00:03:18,243 --> 00:03:22,495
mais aussi une référence 
à la série « Breaking Bad ».

67
00:03:22,495 --> 00:03:24,992
Je dois admettre que 
je ne m'attendais pas

68
00:03:24,992 --> 00:03:27,833
à tomber sur une 4ème utilisation.

69
00:03:27,833 --> 00:03:30,937
Il se trouve que les gens 
l'utilisent aussi sur Twitter

70
00:03:30,937 --> 00:03:34,049
quand ils se prennent pour des chiens.

71
00:03:34,049 --> 00:03:39,278
(Rires)

72
00:03:39,278 --> 00:03:40,944
Et en fait, dans ce cas-là,

73
00:03:40,944 --> 00:03:42,553
il n'y a rien de mal,

74
00:03:42,553 --> 00:03:45,692
techniquement, c'est même 
tout à fait approprié !

75
00:03:45,692 --> 00:03:48,581
(Rires)

76
00:03:48,581 --> 00:03:50,652
Donc, déterminer
le caractère tendancieux

77
00:03:50,652 --> 00:03:52,500
de quelque chose sans contexte,

78
00:03:52,500 --> 00:03:54,092
n'est pas une mince affaire.

79
00:03:54,092 --> 00:03:56,809
Quant au courrier indésirable,

80
00:03:56,809 --> 00:03:58,769
voici l'exemple d'un compte

81
00:03:58,769 --> 00:04:00,437
pratiquant ce type d'envois :

82
00:04:00,437 --> 00:04:01,996
il envoie exactement
le même message

83
00:04:01,996 --> 00:04:03,800
à des milliers de personnes.

84
00:04:03,800 --> 00:04:06,593
Ici, c'est un faux, 
créé à partir de mon compte,

85
00:04:06,593 --> 00:04:09,594
mais on en voit tous les jours.

86
00:04:09,594 --> 00:04:11,573
Plutôt clair, non ?

87
00:04:11,573 --> 00:04:13,626
On devrait automatiquement suspendre

88
00:04:13,626 --> 00:04:16,933
tous les comptes qui adoptent 
ce type de comportement.

89
00:04:16,933 --> 00:04:20,314
Mais il y a des exceptions à la règle.

90
00:04:20,318 --> 00:04:22,517
Notamment si vous êtes abonné 
à un service

91
00:04:22,517 --> 00:04:24,716
qui vous informe du passage 


92
00:04:24,716 --> 00:04:26,915
de la Station Spatiale Internationale

93
00:04:26,915 --> 00:04:28,761
et qui vous avertit quand sortir

94
00:04:28,761 --> 00:04:30,709
pour tenter de l'apercevoir.

95
00:04:30,709 --> 00:04:32,981
Impossible, si on suspend le compte

96
00:04:32,981 --> 00:04:35,937
en pensant à tort qu'il s'agit
d'un message indésirable.

97
00:04:35,937 --> 00:04:39,573
Imaginons pire.

98
00:04:39,573 --> 00:04:41,489
Revenons-en à mon compte

99
00:04:41,489 --> 00:04:44,994
et illustrons
un comportement classique.

100
00:04:44,994 --> 00:04:47,637
Cette fois, c'est le même message, 
mais avec un lien.

101
00:04:47,637 --> 00:04:50,411
C'est souvent un bon indicateur
de « hameçonnage » :

102
00:04:50,411 --> 00:04:53,589
quelqu'un essaie d'usurper l'identité 
d'un autre compte

103
00:04:53,589 --> 00:04:55,792
en les redirigeant vers un autre site.

104
00:04:55,792 --> 00:04:59,986
Ce n'est clairement pas
une bonne chose.

105
00:04:59,986 --> 00:05:01,916
Nous tenons à suspendre les comptes

106
00:05:01,916 --> 00:05:04,540
qui font ce genre de choses 
et nous le faisons.

107
00:05:04,540 --> 00:05:07,787
Pourquoi les enjeux sont-ils 
plus grands dans ce cas-ci ?

108
00:05:07,787 --> 00:05:10,786
Car il pourrait s'agir d'un spectateur

109
00:05:10,786 --> 00:05:12,696
qui a réussi à filmer

110
00:05:12,696 --> 00:05:15,966
un policier frappant 
un manifestant pacifique

111
00:05:15,966 --> 00:05:18,941
et qui essaie juste 
d'en informer le monde.

112
00:05:18,941 --> 00:05:20,584
On ne veut pas prendre le risque

113
00:05:20,584 --> 00:05:23,101
de réduire au silence 
ce témoignage crucial

114
00:05:23,101 --> 00:05:26,030
en l'identifiant comme indésirable 
et en le suspendant.

115
00:05:26,030 --> 00:05:28,909
Nous évaluons 
des centaines de paramètres

116
00:05:28,909 --> 00:05:30,597
liés à l'activité des comptes

117
00:05:30,597 --> 00:05:32,613
mais nous pouvons encore 
nous tromper

118
00:05:32,613 --> 00:05:34,849
et nous devons tout réévaluer.

119
00:05:34,849 --> 00:05:38,557
Vu les défis 
auxquels je suis confrontée,

120
00:05:38,557 --> 00:05:41,253
je dois absolument 
pouvoir prédire l'impensable

121
00:05:41,253 --> 00:05:45,037
et concevoir les protections 
adaptées à l'inattendu.

122
00:05:45,037 --> 00:05:47,379
Et ce n'est pas 
qu'un problème pour moi

123
00:05:47,379 --> 00:05:49,466
ou pour Twitter, 
c'est aussi le vôtre.

124
00:05:49,466 --> 00:05:51,259
C'est un problème pour quiconque

125
00:05:51,259 --> 00:05:53,792
créant quelque chose qui paraît génial

126
00:05:53,797 --> 00:05:56,586
et permettant de faire 
des choses formidables.

127
00:05:56,586 --> 00:05:59,452
Et moi, qu'est-ce que je fais ?

128
00:05:59,452 --> 00:06:02,770
Je prends le temps de penser.

129
00:06:02,770 --> 00:06:04,865
Je me demande : 
comment tout ça

130
00:06:04,865 --> 00:06:08,658
pourrait-il complètement dégénérer ?

131
00:06:08,658 --> 00:06:13,111
Je visualise la catastrophe.

132
00:06:13,111 --> 00:06:15,144
Et c'est difficile. 


133
00:06:15,144 --> 00:06:18,422
Il y a comme quelque chose
qui cloche quand on fait ça.

134
00:06:18,422 --> 00:06:20,234
C'est un peu comme si vous écriviez

135
00:06:20,234 --> 00:06:22,880
à la fois vos vœux 
et votre contrat de mariage.

136
00:06:22,880 --> 00:06:24,576
(Rires)

137
00:06:24,576 --> 00:06:26,949
Mais vous devez quand même le faire,

138
00:06:26,949 --> 00:06:31,395
en particulier si vous épousez 
500 millions de tweets par jour.

139
00:06:31,395 --> 00:06:34,492
Qu'est-ce que j'entends par 
« visualiser la catastrophe » ?

140
00:06:34,492 --> 00:06:37,254
J'essaie de penser comment 
quelque chose

141
00:06:37,254 --> 00:06:40,482
d'aussi bénin et inoffensif que 
la photo d'un chat

142
00:06:40,482 --> 00:06:41,586
pourrait être mortel

143
00:06:41,586 --> 00:06:43,912
et à ce qu'il faut faire pour l'éviter.

144
00:06:43,912 --> 00:06:46,295
C'est justement mon prochain exemple.

145
00:06:46,295 --> 00:06:49,405
Voici mon chat, Eli.

146
00:06:49,405 --> 00:06:51,386
Nous voulions permettre
aux utilisateurs

147
00:06:51,386 --> 00:06:53,459
d'ajouter des photos à leurs tweets.

148
00:06:53,459 --> 00:06:55,056
Une image vaut mille mots.

149
00:06:55,056 --> 00:06:57,065
Et vous n'avez droit qu'à 140 caractères.

150
00:06:57,065 --> 00:06:58,265
Un tweet avec une photo

151
00:06:58,265 --> 00:07:01,303
ça augmente considérablement 
votre création de contenu !

152
00:07:01,303 --> 00:07:02,980
On peut faire plein de choses superbes

153
00:07:02,980 --> 00:07:04,987
en ajoutant une photo à un tweet.

154
00:07:04,987 --> 00:07:07,267
Mon travail, 
ce n'est pas de penser à ça,

155
00:07:07,267 --> 00:07:10,014
mais à ce qui pourrait déraper.

156
00:07:10,014 --> 00:07:11,906
Comment cette photo

157
00:07:11,906 --> 00:07:15,445
pourrait-elle conduire à ma mort ?

158
00:07:15,445 --> 00:07:18,605
Voici une possibilité.

159
00:07:18,605 --> 00:07:21,691
Cette photo, ce n'est pas juste un chat.

160
00:07:21,691 --> 00:07:23,783
Elle contient des données géographiques.

161
00:07:23,783 --> 00:07:25,995
Une photo prise avec 
votre téléphone

162
00:07:25,995 --> 00:07:27,294
ou votre appareil photo

163
00:07:27,294 --> 00:07:30,568
contient beaucoup plus
d'informations qu'une image.

164
00:07:30,568 --> 00:07:32,496
En fait, cette photo contient aussi

165
00:07:32,496 --> 00:07:34,301
l'équivalent de ceci.

166
00:07:34,301 --> 00:07:37,380
Ou plus précisément, ceci.

167
00:07:37,380 --> 00:07:39,336
Il est fort peu probable
qu'on tente

168
00:07:39,336 --> 00:07:41,621
de me retrouver
pour me faire du mal

169
00:07:41,621 --> 00:07:43,405
sur la base de données

170
00:07:43,405 --> 00:07:45,353
liées à cette photo de mon chat,

171
00:07:45,353 --> 00:07:49,004
mais je considère toujours 
que le pire va se produire.

172
00:07:49,004 --> 00:07:51,342
Ainsi, en autorisant 
les photos sur Twitter,

173
00:07:51,342 --> 00:07:55,163
nous avons décidé d'en effacer 
toute donnée géographique.

174
00:07:55,163 --> 00:08:01,010
(Applaudissements)

175
00:08:01,010 --> 00:08:03,086
Si je me prépare au pire

176
00:08:03,086 --> 00:08:05,440
et que je travaille à reculons,

177
00:08:05,440 --> 00:08:07,123
je peux m'assurer
que les protections mises en place

178
00:08:07,123 --> 00:08:08,891
fonctionnent dans tous les cas :

179
00:08:08,891 --> 00:08:10,969
ceux qu'on avait prévus ou non.

180
00:08:10,969 --> 00:08:13,914
Vu que, jour et nuit, 
je passe mon temps

181
00:08:13,914 --> 00:08:16,180
à imaginer le pire,

182
00:08:16,180 --> 00:08:18,446
je pourrais tout à fait

183
00:08:18,446 --> 00:08:20,712
avoir une sombre vision du monde.

184
00:08:20,712 --> 00:08:22,495
(Rires)

185
00:08:22,495 --> 00:08:23,912
Mais ce n'est pas le cas.

186
00:08:23,912 --> 00:08:27,788
La grande majorité 
des interactions que je vois

187
00:08:27,788 --> 00:08:31,689
- et j'en vois beaucoup, croyez-moi - 
est positive :

188
00:08:31,689 --> 00:08:33,613
des gens demandent de l'aide,

189
00:08:33,613 --> 00:08:37,061
se connectent ou 
partagent de l'information.

190
00:08:37,061 --> 00:08:40,384
Mais quiconque 
travaille à cette échelle

191
00:08:40,384 --> 00:08:44,184
ou doit assurer la sécurité des gens

192
00:08:44,184 --> 00:08:46,730
est obligé de se préparer au pire

193
00:08:46,730 --> 00:08:50,957
car pour nous, une chance sur un million

194
00:08:50,957 --> 00:08:53,706
c'est une sacré grande probabilité.

195
00:08:53,706 --> 00:08:55,570
Merci.

196
00:08:55,570 --> 00:08:59,980
(Applaudissements)