0:00:00.984,0:00:02.275
Mijn taak bij Twitter

0:00:02.275,0:00:04.513
is het waarborgen [br]van gebruikersvertrouwen

0:00:04.513,0:00:07.090
en het beschermen van [br]gebruikers en hun rechten.

0:00:07.090,0:00:08.950
Bescherming tegen elkaar,

0:00:08.950,0:00:12.249
en soms ook tegen zichzelf.

0:00:12.249,0:00:16.524
Laten we even kijken [br]op welke schaal Twitter opereert.

0:00:16.524,0:00:19.394
In januari 2009

0:00:19.394,0:00:22.725
zagen we dagelijks [br]ruim 2 miljoen nieuwe tweets

0:00:22.725,0:00:24.489
op het platform.

0:00:24.489,0:00:30.397
In januari 2014 meer dan 500 miljoen.

0:00:30.397,0:00:32.889
We zagen 2 miljoen nieuwe tweets[br]

0:00:32.889,0:00:35.065
in minder dan 6 minuten.

0:00:35.065,0:00:42.049
Dat is een stijging met 24.900 procent.

0:00:42.049,0:00:45.302
Verreweg de meeste activiteit op Twitter

0:00:45.302,0:00:47.155
is voor niemand gevaarlijk.

0:00:47.155,0:00:48.740
Niemand loopt risico.

0:00:48.740,0:00:54.493
Mijn taak is, om de uitzonderingen [br]te bestrijden en voorkomen.

0:00:54.493,0:00:56.086
Klinkt eenvoudig, niet?

0:00:56.086,0:00:58.568
Je zou zelfs kunnen denken [br]dat het makkelijk is,

0:00:58.568,0:01:01.378
aangezien ik net zei [br]dat de meeste activiteit

0:01:01.378,0:01:03.598
op Twitter niemand schaadt.

0:01:03.598,0:01:05.887
Waarom sporen we zo naarstig

0:01:05.887,0:01:08.510
naar potentiële calamiteiten

0:01:08.510,0:01:11.280
in onschuldige activiteiten?

0:01:11.280,0:01:14.350
Gezien de huidige schaal van Twitter

0:01:14.350,0:01:17.867
gebeurt iets met een kans van [br]1 op een miljoen

0:01:17.867,0:01:20.973
500 maal per dag.

0:01:20.973,0:01:23.028
Dat is hetzelfde voor andere bedrijven

0:01:23.028,0:01:24.499
die op deze schaal opereren.

0:01:24.499,0:01:26.387
Voor ons zijn randgevallen --

0:01:26.387,0:01:29.832
die zeldzame situaties[br]waarop weinig kans bestaat --

0:01:29.832,0:01:32.454
meer de norm.

0:01:32.454,0:01:35.906
Stel dat 99,999% van alle tweets

0:01:35.906,0:01:38.134
voor niemand schadelijk zijn.

0:01:38.134,0:01:39.720
Er dreigt voor niemand gevaar.

0:01:39.720,0:01:42.304
Mensen beschrijven wellicht[br]een reisbestemming

0:01:42.304,0:01:44.267
zoals een koraalrif in Australië,

0:01:44.267,0:01:47.188
of tweeten over een concert [br]dat ze bijwonen,

0:01:47.188,0:01:51.185
of delen foto's van [br]schattige jonge dieren.

0:01:51.935,0:01:56.444
Nadat je die 99,999% weglaat,

0:01:56.444,0:01:59.973
blijft er een minuscuul [br]percentage aan tweets over.

0:01:59.973,0:02:02.362
Dat blijken er per maand

0:02:02.362,0:02:05.837
150.000 te zijn.

0:02:05.837,0:02:08.293
De schaal waarmee we van doen hebben,

0:02:08.293,0:02:10.605
houdt een uitdaging in.

0:02:10.605,0:02:12.573
Weet je wat mijn rol [br]nog meer

0:02:12.573,0:02:14.510
buitengewoon uitdagend maakt?

0:02:14.890,0:02:20.013
Mensen .. doen .. gekke .. dingen.

0:02:20.013,0:02:21.842
(Gelach)

0:02:21.842,0:02:24.233
En ik moet uitvogelen[br]wat ze aan het doen zijn,

0:02:24.233,0:02:26.572
waarom, en of er risico's aan kleven.

0:02:26.572,0:02:28.650
Vaak zonder veel context

0:02:28.650,0:02:30.497
of achtergrond.

0:02:30.497,0:02:32.574
Ik zal wat voorbeelden laten zien

0:02:32.574,0:02:34.679
van dingen die ik bij Twitter tegenkwam --

0:02:34.679,0:02:36.199
alles waargebeurd --

0:02:36.199,0:02:38.972
van situaties die op het eerste oog[br]zonneklaar leken,

0:02:38.972,0:02:41.955
maar waar in feite [br]iets heel anders speelde.

0:02:41.965,0:02:44.022
De details zijn veranderd

0:02:44.022,0:02:45.729
ter bescherming van de onschuldigen

0:02:45.729,0:02:48.512
en soms de schuldigen.

0:02:48.512,0:02:51.517
We beginnen met een makkelijke.

0:02:51.517,0:02:53.310
["Yo Bitch"]

0:02:53.310,0:02:56.228
Als je een tweet zag [br]met alleen deze inhoud,

0:02:56.228,0:02:58.132
zou je kunnen denken

0:02:58.132,0:02:59.985
dat hier gescholden wordt.

0:02:59.985,0:03:03.322
Immers, waarom zou je [br]het bericht willen krijgen:

0:03:03.322,0:03:05.210
"Yo Bitch" [br](Hoi, teef).

0:03:05.210,0:03:09.873
Welnu, ik probeer [br]enigszins de laatste

0:03:09.873,0:03:12.385
trends en memes bij te houden,

0:03:12.385,0:03:15.089
dus ik wist dat "yo, bitch"

0:03:15.089,0:03:18.243
ook een gangbare begroeting [br]was onder vrienden,

0:03:18.243,0:03:22.505
evenals een populaire referentie[br]aan de serie 'Breaking Bad'.

0:03:22.505,0:03:25.212
Grif geef ik toe [br]dat ik niet verwachtte

0:03:25.212,0:03:27.833
een vierde betekenis [br]tegen te komen.

0:03:27.833,0:03:30.937
Het bleek dat het op Twitter [br]ook gebruikt wordt

0:03:30.937,0:03:33.999
wanneer mensen spelen [br]dat ze hond zijn.

0:03:33.999,0:03:39.278
(Gelach)

0:03:39.278,0:03:40.944
En dan is het in feite

0:03:40.944,0:03:42.943
niet alleen geen schelden,

0:03:42.943,0:03:45.832
maar technisch gezien [br]juist een accurate begroeting.

0:03:45.832,0:03:48.581
(Gelach)

0:03:48.581,0:03:50.652
Oké, bepalen of iets schelden is

0:03:50.652,0:03:52.500
zonder de context,

0:03:52.500,0:03:54.092
is behoorlijk moeilijk.

0:03:54.092,0:03:56.809
Laten we nu kijken naar spam.

0:03:56.809,0:03:58.769
Hier is een voorbeeld van een account

0:03:58.769,0:04:00.437
die klassiek spammer-gedrag vertoont:

0:04:00.437,0:04:03.716
hetzelfde bericht wordt verstuurd[br]naar duizenden mensen.

0:04:03.800,0:04:06.593
Dit voorbeeld maakte ik zelf[br]met mijn eigen account,

0:04:06.593,0:04:09.594
maar wij zien voortdurend [br]accounts die dit doen.

0:04:09.594,0:04:11.573
Het lijkt duidelijk.

0:04:11.573,0:04:13.626
We zouden accounts[br]die dit doen

0:04:13.626,0:04:16.933
gewoon automatisch moeten opheffen.

0:04:16.933,0:04:20.143
Maar er blijken uitzonderingen [br]te zijn op die regel.

0:04:20.143,0:04:23.026
Die boodschap zou [br]ook het bericht kunnen zijn

0:04:23.026,0:04:24.745
dat je aangevraagd hebt

0:04:24.745,0:04:27.941
om te weten wanneer het [br]Internationale Ruimtestation overvliegt

0:04:27.941,0:04:30.709
zodat je buiten kan gaan kijken.

0:04:30.709,0:04:31.934
Die kans krijg je niet

0:04:31.934,0:04:34.131
als wij per abuis [br]die account opheffen

0:04:34.131,0:04:36.047
omdat het spam lijkt.

0:04:36.047,0:04:39.573
Oké. [br]Laten we de inzet verhogen.

0:04:39.573,0:04:41.489
Terug naar mijn account,

0:04:41.489,0:04:44.994
dat klassiek gedrag vertoont.

0:04:44.994,0:04:47.637
Deze keer verstuurt het[br]dezelfde boodschap met link.

0:04:47.637,0:04:50.411
Dit is wat vaak gebeurt [br]bij het zogenaamde 'phishing'.

0:04:50.411,0:04:53.589
Iemand probeert de accountinformatie[br]van een ander te stelen

0:04:53.589,0:04:55.792
door hem naar een andere [br]website te sturen.

0:04:55.792,0:04:59.986
Dat is duidelijk geen goede zaak.

0:04:59.986,0:05:04.416
Dit soort accounts [br]heffen we op.

0:05:04.420,0:05:07.787
Waarom is de inzet hierbij hoger?

0:05:07.787,0:05:10.786
Dit zou ook een toeschouwer[br]kunnen zijn bij een betoging,

0:05:10.786,0:05:12.696
die zojuist een video heeft opgenomen

0:05:12.696,0:05:15.966
van een politieagent die [br]een geweldloze demonstrant slaat

0:05:15.966,0:05:18.941
en dit aan de wereld wil laten zien.

0:05:18.941,0:05:20.584
We willen niet per ongeluk

0:05:20.584,0:05:23.101
zo'n belangrijke boodschap [br]in de kiem smoren

0:05:23.101,0:05:26.030
door hem als spam aan te merken [br]en op te heffen.

0:05:26.030,0:05:28.909
Dit betekent dat we [br]honderden kenmerken evalueren

0:05:28.909,0:05:30.767
als we naar accountgedrag kijken

0:05:30.767,0:05:32.883
en zelfs dan kunnen fout zitten

0:05:32.883,0:05:34.849
en bij moeten sturen.

0:05:34.849,0:05:38.557
Gezien het soort uitdagingen[br]die ik tegenkom

0:05:38.557,0:05:41.253
is het cruciaal dat ik [br]het onverwachte

0:05:41.253,0:05:45.037
niet alleen voorspel, [br]maar er ook bescherming tegen bied.

0:05:45.037,0:05:47.379
En dat is niet alleen een zaak voor mij,

0:05:47.379,0:05:49.466
of voor Twitter, [br]maar ook voor jou.

0:05:49.466,0:05:51.872
Dit speelt voor iedereen[br]die iets bouwt of maakt

0:05:51.872,0:05:53.797
dat geweldig gaat zijn

0:05:53.797,0:05:56.586
en mensen tot grote dingen [br]in staat stelt.

0:05:56.586,0:05:59.452
Dus wat doe ik?

0:05:59.452,0:06:02.670
Ik stop en denk na:

0:06:02.670,0:06:04.865
hoe zou dit allemaal

0:06:04.865,0:06:08.658
volledig fout kunnen gaan?

0:06:08.658,0:06:13.111
Ik visualiseer catastrofes.

0:06:13.111,0:06:15.444
Dat is moeilijk.[br]Er is een soort

0:06:15.444,0:06:18.422
inherente cognitieve dissonantie [br]wanneer je dat doet.

0:06:18.422,0:06:20.484
Alsof je je huwelijksbelofte opschrijft,

0:06:20.484,0:06:23.080
en tegelijkertijd je [br]huwelijkse voorwaarden.

0:06:23.080,0:06:24.576
(Gelach)

0:06:24.576,0:06:27.069
Maar toch moet je het doen,

0:06:27.069,0:06:31.395
vooral als je trouwt [br]met 500 miljoen tweets per dag.

0:06:31.395,0:06:34.492
Wat bedoel ik met [br]'catastrofes visualiseren' ?

0:06:34.492,0:06:37.024
Ik probeer me voor te stellen

0:06:37.024,0:06:40.282
hoe iets onschuldigs [br]als de afbeelding van de kat

0:06:40.282,0:06:41.776
dodelijk zou kunnen zijn

0:06:41.776,0:06:43.752
en hoe dat te voorkomen.

0:06:43.752,0:06:46.458
Dat is toevallig mijn volgende voorbeeld.

0:06:46.458,0:06:48.725
Dit is mijn kat, Eli.

0:06:48.725,0:06:50.885
We wilden gebruikers [br]de mogelijkheid geven

0:06:50.885,0:06:53.436
foto's bij hun tweets te voegen.

0:06:53.436,0:06:55.139
Een foto zegt meer [br]dan 1000 woorden.

0:06:55.139,0:06:56.866
Je hebt maar 140 tekens.

0:06:56.866,0:06:58.915
Voeg een foto toe aan je tweet

0:06:58.915,0:07:01.325
en zie hoeveel meer content je hebt.

0:07:01.325,0:07:03.343
Je kan massa's geweldige dingen doen

0:07:03.343,0:07:05.270
door een foto bij een tweet te stoppen.

0:07:05.270,0:07:07.267
Daar houd ik me niet mee bezig.

0:07:07.267,0:07:10.014
Ik moet bedenken wat er mis kan gaan.

0:07:10.014,0:07:12.006
Hoe kan deze foto

0:07:12.006,0:07:14.785
tot mijn dood leiden?

0:07:15.445,0:07:18.505
Nou, hier is één mogelijkheid.

0:07:18.505,0:07:21.891
Er zit in die afbeelding [br]méér dan alleen een kat.

0:07:21.891,0:07:23.783
Er is geodata.

0:07:23.783,0:07:26.884
Als je een foto neemt [br]met je smartphone of digitale camera

0:07:26.884,0:07:29.118
slaat deze een heleboel [br]extra informatie op

0:07:29.118,0:07:30.564
bij die afbeelding.

0:07:30.564,0:07:32.496
In feite bevat deze afbeelding tevens

0:07:32.496,0:07:34.301
het equivalent hiervan,

0:07:34.301,0:07:36.800
of specifieker: dit.

0:07:36.800,0:07:39.336
Zeker, het is onwaarschijnlijk[br]dat iemand zal trachten

0:07:39.336,0:07:41.621
me op te sporen [br]en kwaad doen

0:07:41.621,0:07:43.575
naar aanleiding van beeldinformatie

0:07:43.575,0:07:45.663
uit de foto die ik nam [br]van mijn kat,

0:07:45.663,0:07:49.004
maar ik ga uit [br]van het ergste geval.

0:07:49.004,0:07:52.152
Daarom besloten we, [br]bij de lancering van foto's op Twitter,

0:07:52.152,0:07:55.163
om al die geodata te wissen.

0:07:55.163,0:07:58.290
(Applaus)

0:08:01.010,0:08:03.623
Als ik begin met [br]het ergste te veronderstellen

0:08:03.623,0:08:04.570
en dan terugwerk,

0:08:04.570,0:08:07.123
kan ik verzekeren[br]dat de bescherming die we bouwen,

0:08:07.123,0:08:08.891
werkt voor zowel verwachte

0:08:08.891,0:08:10.969
als onverwachte gevallen.

0:08:10.969,0:08:13.914
Gezien het feit [br]dat ik me dag en nacht

0:08:13.914,0:08:16.455
de ergste scenario's voorstel,

0:08:16.455,0:08:20.712
zou het niet verwonderlijk zijn[br]als mijn wereldbeeld zwart was.

0:08:20.712,0:08:22.495
(Gelach)

0:08:22.495,0:08:23.912
Dat is het niet.

0:08:23.912,0:08:27.788
Het leeuwendeel van [br]de interacties die ik zie --

0:08:27.788,0:08:31.689
en ik zie een hoop, geloof me --[br]zijn positief,

0:08:31.689,0:08:33.943
mensen die elkaar willen helpen

0:08:33.943,0:08:37.061
willen bereiken of [br]informatie met elkaar delen.

0:08:37.061,0:08:40.384
Maar mensen als ik, [br]die op deze schaal werken,

0:08:40.384,0:08:44.184
en die tot taak hebben[br]mensen bescherming te bieden,

0:08:44.184,0:08:47.020
moeten ervan uitgaan [br]dat het ergste zal gebeuren.

0:08:47.020,0:08:50.957
Want voor ons is een kans[br]van 1 op een miljoen

0:08:50.957,0:08:53.706
namelijk heel reëel.

0:08:53.706,0:08:55.570
Dank je wel.

0:08:55.570,0:09:00.360
(Applaus)