1
00:00:00,984 --> 00:00:02,275
Mijn taak bij Twitter

2
00:00:02,275 --> 00:00:04,513
is het waarborgen 
van gebruikersvertrouwen

3
00:00:04,513 --> 00:00:07,090
en het beschermen van 
gebruikers en hun rechten.

4
00:00:07,090 --> 00:00:08,950
Bescherming tegen elkaar,

5
00:00:08,950 --> 00:00:12,249
en soms ook tegen zichzelf.

6
00:00:12,249 --> 00:00:16,524
Laten we even kijken 
op welke schaal Twitter opereert.

7
00:00:16,524 --> 00:00:19,394
In januari 2009

8
00:00:19,394 --> 00:00:22,725
zagen we dagelijks 
ruim 2 miljoen nieuwe tweets

9
00:00:22,725 --> 00:00:24,489
op het platform.

10
00:00:24,489 --> 00:00:30,397
In januari 2014 meer dan 500 miljoen.

11
00:00:30,397 --> 00:00:32,889
We zagen 2 miljoen nieuwe tweets


12
00:00:32,889 --> 00:00:35,065
in minder dan 6 minuten.

13
00:00:35,065 --> 00:00:42,049
Dat is een stijging met 24.900 procent.

14
00:00:42,049 --> 00:00:45,302
Verreweg de meeste activiteit op Twitter

15
00:00:45,302 --> 00:00:47,155
is voor niemand gevaarlijk.

16
00:00:47,155 --> 00:00:48,740
Niemand loopt risico.

17
00:00:48,740 --> 00:00:54,493
Mijn taak is, om de uitzonderingen 
te bestrijden en voorkomen.

18
00:00:54,493 --> 00:00:56,086
Klinkt eenvoudig, niet?

19
00:00:56,086 --> 00:00:58,568
Je zou zelfs kunnen denken 
dat het makkelijk is,

20
00:00:58,568 --> 00:01:01,378
aangezien ik net zei 
dat de meeste activiteit

21
00:01:01,378 --> 00:01:03,598
op Twitter niemand schaadt.

22
00:01:03,598 --> 00:01:05,887
Waarom sporen we zo naarstig

23
00:01:05,887 --> 00:01:08,510
naar potentiële calamiteiten

24
00:01:08,510 --> 00:01:11,280
in onschuldige activiteiten?

25
00:01:11,280 --> 00:01:14,350
Gezien de huidige schaal van Twitter

26
00:01:14,350 --> 00:01:17,867
gebeurt iets met een kans van 
1 op een miljoen

27
00:01:17,867 --> 00:01:20,973
500 maal per dag.

28
00:01:20,973 --> 00:01:23,028
Dat is hetzelfde voor andere bedrijven

29
00:01:23,028 --> 00:01:24,499
die op deze schaal opereren.

30
00:01:24,499 --> 00:01:26,387
Voor ons zijn randgevallen --

31
00:01:26,387 --> 00:01:29,832
die zeldzame situaties
waarop weinig kans bestaat --

32
00:01:29,832 --> 00:01:32,454
meer de norm.

33
00:01:32,454 --> 00:01:35,906
Stel dat 99,999% van alle tweets

34
00:01:35,906 --> 00:01:38,134
voor niemand schadelijk zijn.

35
00:01:38,134 --> 00:01:39,720
Er dreigt voor niemand gevaar.

36
00:01:39,720 --> 00:01:42,304
Mensen beschrijven wellicht
een reisbestemming

37
00:01:42,304 --> 00:01:44,267
zoals een koraalrif in Australië,

38
00:01:44,267 --> 00:01:47,188
of tweeten over een concert 
dat ze bijwonen,

39
00:01:47,188 --> 00:01:51,185
of delen foto's van 
schattige jonge dieren.

40
00:01:51,935 --> 00:01:56,444
Nadat je die 99,999% weglaat,

41
00:01:56,444 --> 00:01:59,973
blijft er een minuscuul 
percentage aan tweets over.

42
00:01:59,973 --> 00:02:02,362
Dat blijken er per maand

43
00:02:02,362 --> 00:02:05,837
150.000 te zijn.

44
00:02:05,837 --> 00:02:08,293
De schaal waarmee we van doen hebben,

45
00:02:08,293 --> 00:02:10,605
houdt een uitdaging in.

46
00:02:10,605 --> 00:02:12,573
Weet je wat mijn rol 
nog meer

47
00:02:12,573 --> 00:02:14,510
buitengewoon uitdagend maakt?

48
00:02:14,890 --> 00:02:20,013
Mensen .. doen .. gekke .. dingen.

49
00:02:20,013 --> 00:02:21,842
(Gelach)

50
00:02:21,842 --> 00:02:24,233
En ik moet uitvogelen
wat ze aan het doen zijn,

51
00:02:24,233 --> 00:02:26,572
waarom, en of er risico's aan kleven.

52
00:02:26,572 --> 00:02:28,650
Vaak zonder veel context

53
00:02:28,650 --> 00:02:30,497
of achtergrond.

54
00:02:30,497 --> 00:02:32,574
Ik zal wat voorbeelden laten zien

55
00:02:32,574 --> 00:02:34,679
van dingen die ik bij Twitter tegenkwam --

56
00:02:34,679 --> 00:02:36,199
alles waargebeurd --

57
00:02:36,199 --> 00:02:38,972
van situaties die op het eerste oog
zonneklaar leken,

58
00:02:38,972 --> 00:02:41,955
maar waar in feite 
iets heel anders speelde.

59
00:02:41,965 --> 00:02:44,022
De details zijn veranderd

60
00:02:44,022 --> 00:02:45,729
ter bescherming van de onschuldigen

61
00:02:45,729 --> 00:02:48,512
en soms de schuldigen.

62
00:02:48,512 --> 00:02:51,517
We beginnen met een makkelijke.

63
00:02:51,517 --> 00:02:53,310
["Yo Bitch"]

64
00:02:53,310 --> 00:02:56,228
Als je een tweet zag 
met alleen deze inhoud,

65
00:02:56,228 --> 00:02:58,132
zou je kunnen denken

66
00:02:58,132 --> 00:02:59,985
dat hier gescholden wordt.

67
00:02:59,985 --> 00:03:03,322
Immers, waarom zou je 
het bericht willen krijgen:

68
00:03:03,322 --> 00:03:05,210
"Yo Bitch" 
(Hoi, teef).

69
00:03:05,210 --> 00:03:09,873
Welnu, ik probeer 
enigszins de laatste

70
00:03:09,873 --> 00:03:12,385
trends en memes bij te houden,

71
00:03:12,385 --> 00:03:15,089
dus ik wist dat "yo, bitch"

72
00:03:15,089 --> 00:03:18,243
ook een gangbare begroeting 
was onder vrienden,

73
00:03:18,243 --> 00:03:22,505
evenals een populaire referentie
aan de serie 'Breaking Bad'.

74
00:03:22,505 --> 00:03:25,212
Grif geef ik toe 
dat ik niet verwachtte

75
00:03:25,212 --> 00:03:27,833
een vierde betekenis 
tegen te komen.

76
00:03:27,833 --> 00:03:30,937
Het bleek dat het op Twitter 
ook gebruikt wordt

77
00:03:30,937 --> 00:03:33,999
wanneer mensen spelen 
dat ze hond zijn.

78
00:03:33,999 --> 00:03:39,278
(Gelach)

79
00:03:39,278 --> 00:03:40,944
En dan is het in feite

80
00:03:40,944 --> 00:03:42,943
niet alleen geen schelden,

81
00:03:42,943 --> 00:03:45,832
maar technisch gezien 
juist een accurate begroeting.

82
00:03:45,832 --> 00:03:48,581
(Gelach)

83
00:03:48,581 --> 00:03:50,652
Oké, bepalen of iets schelden is

84
00:03:50,652 --> 00:03:52,500
zonder de context,

85
00:03:52,500 --> 00:03:54,092
is behoorlijk moeilijk.

86
00:03:54,092 --> 00:03:56,809
Laten we nu kijken naar spam.

87
00:03:56,809 --> 00:03:58,769
Hier is een voorbeeld van een account

88
00:03:58,769 --> 00:04:00,437
die klassiek spammer-gedrag vertoont:

89
00:04:00,437 --> 00:04:03,716
hetzelfde bericht wordt verstuurd
naar duizenden mensen.

90
00:04:03,800 --> 00:04:06,593
Dit voorbeeld maakte ik zelf
met mijn eigen account,

91
00:04:06,593 --> 00:04:09,594
maar wij zien voortdurend 
accounts die dit doen.

92
00:04:09,594 --> 00:04:11,573
Het lijkt duidelijk.

93
00:04:11,573 --> 00:04:13,626
We zouden accounts
die dit doen

94
00:04:13,626 --> 00:04:16,933
gewoon automatisch moeten opheffen.

95
00:04:16,933 --> 00:04:20,143
Maar er blijken uitzonderingen 
te zijn op die regel.

96
00:04:20,143 --> 00:04:23,026
Die boodschap zou 
ook het bericht kunnen zijn

97
00:04:23,026 --> 00:04:24,745
dat je aangevraagd hebt

98
00:04:24,745 --> 00:04:27,941
om te weten wanneer het 
Internationale Ruimtestation overvliegt

99
00:04:27,941 --> 00:04:30,709
zodat je buiten kan gaan kijken.

100
00:04:30,709 --> 00:04:31,934
Die kans krijg je niet

101
00:04:31,934 --> 00:04:34,131
als wij per abuis 
die account opheffen

102
00:04:34,131 --> 00:04:36,047
omdat het spam lijkt.

103
00:04:36,047 --> 00:04:39,573
Oké. 
Laten we de inzet verhogen.

104
00:04:39,573 --> 00:04:41,489
Terug naar mijn account,

105
00:04:41,489 --> 00:04:44,994
dat klassiek gedrag vertoont.

106
00:04:44,994 --> 00:04:47,637
Deze keer verstuurt het
dezelfde boodschap met link.

107
00:04:47,637 --> 00:04:50,411
Dit is wat vaak gebeurt 
bij het zogenaamde 'phishing'.

108
00:04:50,411 --> 00:04:53,589
Iemand probeert de accountinformatie
van een ander te stelen

109
00:04:53,589 --> 00:04:55,792
door hem naar een andere 
website te sturen.

110
00:04:55,792 --> 00:04:59,986
Dat is duidelijk geen goede zaak.

111
00:04:59,986 --> 00:05:04,416
Dit soort accounts 
heffen we op.

112
00:05:04,420 --> 00:05:07,787
Waarom is de inzet hierbij hoger?

113
00:05:07,787 --> 00:05:10,786
Dit zou ook een toeschouwer
kunnen zijn bij een betoging,

114
00:05:10,786 --> 00:05:12,696
die zojuist een video heeft opgenomen

115
00:05:12,696 --> 00:05:15,966
van een politieagent die 
een geweldloze demonstrant slaat

116
00:05:15,966 --> 00:05:18,941
en dit aan de wereld wil laten zien.

117
00:05:18,941 --> 00:05:20,584
We willen niet per ongeluk

118
00:05:20,584 --> 00:05:23,101
zo'n belangrijke boodschap 
in de kiem smoren

119
00:05:23,101 --> 00:05:26,030
door hem als spam aan te merken 
en op te heffen.

120
00:05:26,030 --> 00:05:28,909
Dit betekent dat we 
honderden kenmerken evalueren

121
00:05:28,909 --> 00:05:30,767
als we naar accountgedrag kijken

122
00:05:30,767 --> 00:05:32,883
en zelfs dan kunnen fout zitten

123
00:05:32,883 --> 00:05:34,849
en bij moeten sturen.

124
00:05:34,849 --> 00:05:38,557
Gezien het soort uitdagingen
die ik tegenkom

125
00:05:38,557 --> 00:05:41,253
is het cruciaal dat ik 
het onverwachte

126
00:05:41,253 --> 00:05:45,037
niet alleen voorspel, 
maar er ook bescherming tegen bied.

127
00:05:45,037 --> 00:05:47,379
En dat is niet alleen een zaak voor mij,

128
00:05:47,379 --> 00:05:49,466
of voor Twitter, 
maar ook voor jou.

129
00:05:49,466 --> 00:05:51,872
Dit speelt voor iedereen
die iets bouwt of maakt

130
00:05:51,872 --> 00:05:53,797
dat geweldig gaat zijn

131
00:05:53,797 --> 00:05:56,586
en mensen tot grote dingen 
in staat stelt.

132
00:05:56,586 --> 00:05:59,452
Dus wat doe ik?

133
00:05:59,452 --> 00:06:02,670
Ik stop en denk na:

134
00:06:02,670 --> 00:06:04,865
hoe zou dit allemaal

135
00:06:04,865 --> 00:06:08,658
volledig fout kunnen gaan?

136
00:06:08,658 --> 00:06:13,111
Ik visualiseer catastrofes.

137
00:06:13,111 --> 00:06:15,444
Dat is moeilijk.
Er is een soort

138
00:06:15,444 --> 00:06:18,422
inherente cognitieve dissonantie 
wanneer je dat doet.

139
00:06:18,422 --> 00:06:20,484
Alsof je je huwelijksbelofte opschrijft,

140
00:06:20,484 --> 00:06:23,080
en tegelijkertijd je 
huwelijkse voorwaarden.

141
00:06:23,080 --> 00:06:24,576
(Gelach)

142
00:06:24,576 --> 00:06:27,069
Maar toch moet je het doen,

143
00:06:27,069 --> 00:06:31,395
vooral als je trouwt 
met 500 miljoen tweets per dag.

144
00:06:31,395 --> 00:06:34,492
Wat bedoel ik met 
'catastrofes visualiseren' ?

145
00:06:34,492 --> 00:06:37,024
Ik probeer me voor te stellen

146
00:06:37,024 --> 00:06:40,282
hoe iets onschuldigs 
als de afbeelding van de kat

147
00:06:40,282 --> 00:06:41,776
dodelijk zou kunnen zijn

148
00:06:41,776 --> 00:06:43,752
en hoe dat te voorkomen.

149
00:06:43,752 --> 00:06:46,458
Dat is toevallig mijn volgende voorbeeld.

150
00:06:46,458 --> 00:06:48,725
Dit is mijn kat, Eli.

151
00:06:48,725 --> 00:06:50,885
We wilden gebruikers 
de mogelijkheid geven

152
00:06:50,885 --> 00:06:53,436
foto's bij hun tweets te voegen.

153
00:06:53,436 --> 00:06:55,139
Een foto zegt meer 
dan 1000 woorden.

154
00:06:55,139 --> 00:06:56,866
Je hebt maar 140 tekens.

155
00:06:56,866 --> 00:06:58,915
Voeg een foto toe aan je tweet

156
00:06:58,915 --> 00:07:01,325
en zie hoeveel meer content je hebt.

157
00:07:01,325 --> 00:07:03,343
Je kan massa's geweldige dingen doen

158
00:07:03,343 --> 00:07:05,270
door een foto bij een tweet te stoppen.

159
00:07:05,270 --> 00:07:07,267
Daar houd ik me niet mee bezig.

160
00:07:07,267 --> 00:07:10,014
Ik moet bedenken wat er mis kan gaan.

161
00:07:10,014 --> 00:07:12,006
Hoe kan deze foto

162
00:07:12,006 --> 00:07:14,785
tot mijn dood leiden?

163
00:07:15,445 --> 00:07:18,505
Nou, hier is één mogelijkheid.

164
00:07:18,505 --> 00:07:21,891
Er zit in die afbeelding 
méér dan alleen een kat.

165
00:07:21,891 --> 00:07:23,783
Er is geodata.

166
00:07:23,783 --> 00:07:26,884
Als je een foto neemt 
met je smartphone of digitale camera

167
00:07:26,884 --> 00:07:29,118
slaat deze een heleboel 
extra informatie op

168
00:07:29,118 --> 00:07:30,564
bij die afbeelding.

169
00:07:30,564 --> 00:07:32,496
In feite bevat deze afbeelding tevens

170
00:07:32,496 --> 00:07:34,301
het equivalent hiervan,

171
00:07:34,301 --> 00:07:36,800
of specifieker: dit.

172
00:07:36,800 --> 00:07:39,336
Zeker, het is onwaarschijnlijk
dat iemand zal trachten

173
00:07:39,336 --> 00:07:41,621
me op te sporen 
en kwaad doen

174
00:07:41,621 --> 00:07:43,575
naar aanleiding van beeldinformatie

175
00:07:43,575 --> 00:07:45,663
uit de foto die ik nam 
van mijn kat,

176
00:07:45,663 --> 00:07:49,004
maar ik ga uit 
van het ergste geval.

177
00:07:49,004 --> 00:07:52,152
Daarom besloten we, 
bij de lancering van foto's op Twitter,

178
00:07:52,152 --> 00:07:55,163
om al die geodata te wissen.

179
00:07:55,163 --> 00:07:58,290
(Applaus)

180
00:08:01,010 --> 00:08:03,623
Als ik begin met 
het ergste te veronderstellen

181
00:08:03,623 --> 00:08:04,570
en dan terugwerk,

182
00:08:04,570 --> 00:08:07,123
kan ik verzekeren
dat de bescherming die we bouwen,

183
00:08:07,123 --> 00:08:08,891
werkt voor zowel verwachte

184
00:08:08,891 --> 00:08:10,969
als onverwachte gevallen.

185
00:08:10,969 --> 00:08:13,914
Gezien het feit 
dat ik me dag en nacht

186
00:08:13,914 --> 00:08:16,455
de ergste scenario's voorstel,

187
00:08:16,455 --> 00:08:20,712
zou het niet verwonderlijk zijn
als mijn wereldbeeld zwart was.

188
00:08:20,712 --> 00:08:22,495
(Gelach)

189
00:08:22,495 --> 00:08:23,912
Dat is het niet.

190
00:08:23,912 --> 00:08:27,788
Het leeuwendeel van 
de interacties die ik zie --

191
00:08:27,788 --> 00:08:31,689
en ik zie een hoop, geloof me --
zijn positief,

192
00:08:31,689 --> 00:08:33,943
mensen die elkaar willen helpen

193
00:08:33,943 --> 00:08:37,061
willen bereiken of 
informatie met elkaar delen.

194
00:08:37,061 --> 00:08:40,384
Maar mensen als ik, 
die op deze schaal werken,

195
00:08:40,384 --> 00:08:44,184
en die tot taak hebben
mensen bescherming te bieden,

196
00:08:44,184 --> 00:08:47,020
moeten ervan uitgaan 
dat het ergste zal gebeuren.

197
00:08:47,020 --> 00:08:50,957
Want voor ons is een kans
van 1 op een miljoen

198
00:08:50,957 --> 00:08:53,706
namelijk heel reëel.

199
00:08:53,706 --> 00:08:55,570
Dank je wel.

200
00:08:55,570 --> 00:09:00,360
(Applaus)