WEBVTT

00:00:00.984 --> 00:00:02.275
Mijn taak bij Twitter

00:00:02.275 --> 00:00:04.513
is het waarborgen 
van gebruikersvertrouwen

00:00:04.513 --> 00:00:07.090
en het beschermen van 
gebruikers en hun rechten.

00:00:07.090 --> 00:00:08.950
Bescherming tegen elkaar,

00:00:08.950 --> 00:00:12.249
en soms ook tegen zichzelf.

00:00:12.249 --> 00:00:16.524
Laten we even kijken 
op welke schaal Twitter opereert.

00:00:16.524 --> 00:00:19.394
In januari 2009

00:00:19.394 --> 00:00:22.725
zagen we dagelijks 
ruim 2 miljoen nieuwe tweets

00:00:22.725 --> 00:00:24.489
op het platform.

00:00:24.489 --> 00:00:30.397
In januari 2014 meer dan 500 miljoen.

00:00:30.397 --> 00:00:32.889
We zagen 2 miljoen nieuwe tweets


00:00:32.889 --> 00:00:35.065
in minder dan 6 minuten.

00:00:35.065 --> 00:00:42.049
Dat is een stijging met 24.900 procent.

NOTE Paragraph

00:00:42.049 --> 00:00:45.302
Verreweg de meeste activiteit op Twitter

00:00:45.302 --> 00:00:47.155
is voor niemand gevaarlijk.

00:00:47.155 --> 00:00:48.740
Niemand loopt risico.

00:00:48.740 --> 00:00:54.493
Mijn taak is, om de uitzonderingen 
te bestrijden en voorkomen.

00:00:54.493 --> 00:00:56.086
Klinkt eenvoudig, niet?

00:00:56.086 --> 00:00:58.568
Je zou zelfs kunnen denken 
dat het makkelijk is,

00:00:58.568 --> 00:01:01.378
aangezien ik net zei 
dat de meeste activiteit

00:01:01.378 --> 00:01:03.598
op Twitter niemand schaadt.

00:01:03.598 --> 00:01:05.887
Waarom sporen we zo naarstig

00:01:05.887 --> 00:01:08.510
naar potentiële calamiteiten

00:01:08.510 --> 00:01:11.280
in onschuldige activiteiten?

00:01:11.280 --> 00:01:14.350
Gezien de huidige schaal van Twitter

00:01:14.350 --> 00:01:17.867
gebeurt iets met een kans van 
1 op een miljoen

00:01:17.867 --> 00:01:20.973
500 maal per dag.

00:01:20.973 --> 00:01:23.028
Dat is hetzelfde voor andere bedrijven

00:01:23.028 --> 00:01:24.499
die op deze schaal opereren.

00:01:24.499 --> 00:01:26.387
Voor ons zijn randgevallen --

00:01:26.387 --> 00:01:29.832
die zeldzame situaties
waarop weinig kans bestaat --

00:01:29.832 --> 00:01:32.454
meer de norm.

00:01:32.454 --> 00:01:35.906
Stel dat 99,999% van alle tweets

00:01:35.906 --> 00:01:38.134
voor niemand schadelijk zijn.

00:01:38.134 --> 00:01:39.720
Er dreigt voor niemand gevaar.

00:01:39.720 --> 00:01:42.304
Mensen beschrijven wellicht
een reisbestemming

00:01:42.304 --> 00:01:44.267
zoals een koraalrif in Australië,

00:01:44.267 --> 00:01:47.188
of tweeten over een concert 
dat ze bijwonen,

00:01:47.188 --> 00:01:51.185
of delen foto's van 
schattige jonge dieren.

00:01:51.935 --> 00:01:56.444
Nadat je die 99,999% weglaat,

00:01:56.444 --> 00:01:59.973
blijft er een minuscuul 
percentage aan tweets over.

00:01:59.973 --> 00:02:02.362
Dat blijken er per maand

00:02:02.362 --> 00:02:05.837
150.000 te zijn.

00:02:05.837 --> 00:02:08.293
De schaal waarmee we van doen hebben,

00:02:08.293 --> 00:02:10.605
houdt een uitdaging in.

NOTE Paragraph

00:02:10.605 --> 00:02:12.573
Weet je wat mijn rol 
nog meer

00:02:12.573 --> 00:02:14.510
buitengewoon uitdagend maakt?

00:02:14.890 --> 00:02:20.013
Mensen .. doen .. gekke .. dingen.

00:02:20.013 --> 00:02:21.842
(Gelach)

00:02:21.842 --> 00:02:24.233
En ik moet uitvogelen
wat ze aan het doen zijn,

00:02:24.233 --> 00:02:26.572
waarom, en of er risico's aan kleven.

00:02:26.572 --> 00:02:28.650
Vaak zonder veel context

00:02:28.650 --> 00:02:30.497
of achtergrond.

00:02:30.497 --> 00:02:32.574
Ik zal wat voorbeelden laten zien

00:02:32.574 --> 00:02:34.679
van dingen die ik bij Twitter tegenkwam --

00:02:34.679 --> 00:02:36.199
alles waargebeurd --

00:02:36.199 --> 00:02:38.972
van situaties die op het eerste oog
zonneklaar leken,

00:02:38.972 --> 00:02:41.955
maar waar in feite 
iets heel anders speelde.

00:02:41.965 --> 00:02:44.022
De details zijn veranderd

00:02:44.022 --> 00:02:45.729
ter bescherming van de onschuldigen

00:02:45.729 --> 00:02:48.512
en soms de schuldigen.

00:02:48.512 --> 00:02:51.517
We beginnen met een makkelijke.

NOTE Paragraph

00:02:51.517 --> 00:02:53.310
["Yo Bitch"]

NOTE Paragraph

00:02:53.310 --> 00:02:56.228
Als je een tweet zag 
met alleen deze inhoud,

00:02:56.228 --> 00:02:58.132
zou je kunnen denken

00:02:58.132 --> 00:02:59.985
dat hier gescholden wordt.

00:02:59.985 --> 00:03:03.322
Immers, waarom zou je 
het bericht willen krijgen:

00:03:03.322 --> 00:03:05.210
"Yo Bitch" 
(Hoi, teef).

00:03:05.210 --> 00:03:09.873
Welnu, ik probeer 
enigszins de laatste

00:03:09.873 --> 00:03:12.385
trends en memes bij te houden,

00:03:12.385 --> 00:03:15.089
dus ik wist dat "yo, bitch"

00:03:15.089 --> 00:03:18.243
ook een gangbare begroeting 
was onder vrienden,

00:03:18.243 --> 00:03:22.505
evenals een populaire referentie
aan de serie 'Breaking Bad'.

00:03:22.505 --> 00:03:25.212
Grif geef ik toe 
dat ik niet verwachtte

00:03:25.212 --> 00:03:27.833
een vierde betekenis 
tegen te komen.

00:03:27.833 --> 00:03:30.937
Het bleek dat het op Twitter 
ook gebruikt wordt

00:03:30.937 --> 00:03:33.999
wanneer mensen spelen 
dat ze hond zijn.

00:03:33.999 --> 00:03:39.278
(Gelach)

00:03:39.278 --> 00:03:40.944
En dan is het in feite

00:03:40.944 --> 00:03:42.943
niet alleen geen schelden,

00:03:42.943 --> 00:03:45.832
maar technisch gezien 
juist een accurate begroeting.

00:03:45.832 --> 00:03:48.581
(Gelach)

NOTE Paragraph

00:03:48.581 --> 00:03:50.652
Oké, bepalen of iets schelden is

00:03:50.652 --> 00:03:52.500
zonder de context,

00:03:52.500 --> 00:03:54.092
is behoorlijk moeilijk.

NOTE Paragraph

00:03:54.092 --> 00:03:56.809
Laten we nu kijken naar spam.

00:03:56.809 --> 00:03:58.769
Hier is een voorbeeld van een account

00:03:58.769 --> 00:04:00.437
die klassiek spammer-gedrag vertoont:

00:04:00.437 --> 00:04:03.716
hetzelfde bericht wordt verstuurd
naar duizenden mensen.

00:04:03.800 --> 00:04:06.593
Dit voorbeeld maakte ik zelf
met mijn eigen account,

00:04:06.593 --> 00:04:09.594
maar wij zien voortdurend 
accounts die dit doen.

00:04:09.594 --> 00:04:11.573
Het lijkt duidelijk.

00:04:11.573 --> 00:04:13.626
We zouden accounts
die dit doen

00:04:13.626 --> 00:04:16.933
gewoon automatisch moeten opheffen.

00:04:16.933 --> 00:04:20.143
Maar er blijken uitzonderingen 
te zijn op die regel.

00:04:20.143 --> 00:04:23.026
Die boodschap zou 
ook het bericht kunnen zijn

00:04:23.026 --> 00:04:24.745
dat je aangevraagd hebt

00:04:24.745 --> 00:04:27.941
om te weten wanneer het 
Internationale Ruimtestation overvliegt

00:04:27.941 --> 00:04:30.709
zodat je buiten kan gaan kijken.

00:04:30.709 --> 00:04:31.934
Die kans krijg je niet

00:04:31.934 --> 00:04:34.131
als wij per abuis 
die account opheffen

00:04:34.131 --> 00:04:36.047
omdat het spam lijkt.

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
Oké. 
Laten we de inzet verhogen.

00:04:39.573 --> 00:04:41.489
Terug naar mijn account,

00:04:41.489 --> 00:04:44.994
dat klassiek gedrag vertoont.

00:04:44.994 --> 00:04:47.637
Deze keer verstuurt het
dezelfde boodschap met link.

00:04:47.637 --> 00:04:50.411
Dit is wat vaak gebeurt 
bij het zogenaamde 'phishing'.

00:04:50.411 --> 00:04:53.589
Iemand probeert de accountinformatie
van een ander te stelen

00:04:53.589 --> 00:04:55.792
door hem naar een andere 
website te sturen.

00:04:55.792 --> 00:04:59.986
Dat is duidelijk geen goede zaak.

00:04:59.986 --> 00:05:04.416
Dit soort accounts 
heffen we op.

00:05:04.420 --> 00:05:07.787
Waarom is de inzet hierbij hoger?

00:05:07.787 --> 00:05:10.786
Dit zou ook een toeschouwer
kunnen zijn bij een betoging,

00:05:10.786 --> 00:05:12.696
die zojuist een video heeft opgenomen

00:05:12.696 --> 00:05:15.966
van een politieagent die 
een geweldloze demonstrant slaat

00:05:15.966 --> 00:05:18.941
en dit aan de wereld wil laten zien.

00:05:18.941 --> 00:05:20.584
We willen niet per ongeluk

00:05:20.584 --> 00:05:23.101
zo'n belangrijke boodschap 
in de kiem smoren

00:05:23.101 --> 00:05:26.030
door hem als spam aan te merken 
en op te heffen.

00:05:26.030 --> 00:05:28.909
Dit betekent dat we 
honderden kenmerken evalueren

00:05:28.909 --> 00:05:30.767
als we naar accountgedrag kijken

00:05:30.767 --> 00:05:32.883
en zelfs dan kunnen fout zitten

00:05:32.883 --> 00:05:34.849
en bij moeten sturen.

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
Gezien het soort uitdagingen
die ik tegenkom

00:05:38.557 --> 00:05:41.253
is het cruciaal dat ik 
het onverwachte

00:05:41.253 --> 00:05:45.037
niet alleen voorspel, 
maar er ook bescherming tegen bied.

00:05:45.037 --> 00:05:47.379
En dat is niet alleen een zaak voor mij,

00:05:47.379 --> 00:05:49.466
of voor Twitter, 
maar ook voor jou.

00:05:49.466 --> 00:05:51.872
Dit speelt voor iedereen
die iets bouwt of maakt

00:05:51.872 --> 00:05:53.797
dat geweldig gaat zijn

00:05:53.797 --> 00:05:56.586
en mensen tot grote dingen 
in staat stelt.

00:05:56.586 --> 00:05:59.452
Dus wat doe ik?

00:05:59.452 --> 00:06:02.670
Ik stop en denk na:

00:06:02.670 --> 00:06:04.865
hoe zou dit allemaal

00:06:04.865 --> 00:06:08.658
volledig fout kunnen gaan?

00:06:08.658 --> 00:06:13.111
Ik visualiseer catastrofes.

00:06:13.111 --> 00:06:15.444
Dat is moeilijk.
Er is een soort

00:06:15.444 --> 00:06:18.422
inherente cognitieve dissonantie 
wanneer je dat doet.

00:06:18.422 --> 00:06:20.484
Alsof je je huwelijksbelofte opschrijft,

00:06:20.484 --> 00:06:23.080
en tegelijkertijd je 
huwelijkse voorwaarden.

00:06:23.080 --> 00:06:24.576
(Gelach)

00:06:24.576 --> 00:06:27.069
Maar toch moet je het doen,

00:06:27.069 --> 00:06:31.395
vooral als je trouwt 
met 500 miljoen tweets per dag.

00:06:31.395 --> 00:06:34.492
Wat bedoel ik met 
'catastrofes visualiseren' ?

00:06:34.492 --> 00:06:37.024
Ik probeer me voor te stellen

00:06:37.024 --> 00:06:40.282
hoe iets onschuldigs 
als de afbeelding van de kat

00:06:40.282 --> 00:06:41.776
dodelijk zou kunnen zijn

00:06:41.776 --> 00:06:43.752
en hoe dat te voorkomen.

00:06:43.752 --> 00:06:46.458
Dat is toevallig mijn volgende voorbeeld.

00:06:46.458 --> 00:06:48.725
Dit is mijn kat, Eli.

00:06:48.725 --> 00:06:50.885
We wilden gebruikers 
de mogelijkheid geven

00:06:50.885 --> 00:06:53.436
foto's bij hun tweets te voegen.

00:06:53.436 --> 00:06:55.139
Een foto zegt meer 
dan 1000 woorden.

00:06:55.139 --> 00:06:56.866
Je hebt maar 140 tekens.

00:06:56.866 --> 00:06:58.915
Voeg een foto toe aan je tweet

00:06:58.915 --> 00:07:01.325
en zie hoeveel meer content je hebt.

00:07:01.325 --> 00:07:03.343
Je kan massa's geweldige dingen doen

00:07:03.343 --> 00:07:05.270
door een foto bij een tweet te stoppen.

00:07:05.270 --> 00:07:07.267
Daar houd ik me niet mee bezig.

00:07:07.267 --> 00:07:10.014
Ik moet bedenken wat er mis kan gaan.

NOTE Paragraph

00:07:10.014 --> 00:07:12.006
Hoe kan deze foto

00:07:12.006 --> 00:07:14.785
tot mijn dood leiden?

00:07:15.445 --> 00:07:18.505
Nou, hier is één mogelijkheid.

00:07:18.505 --> 00:07:21.891
Er zit in die afbeelding 
méér dan alleen een kat.

00:07:21.891 --> 00:07:23.783
Er is geodata.

00:07:23.783 --> 00:07:26.884
Als je een foto neemt 
met je smartphone of digitale camera

00:07:26.884 --> 00:07:29.118
slaat deze een heleboel 
extra informatie op

00:07:29.118 --> 00:07:30.564
bij die afbeelding.

00:07:30.564 --> 00:07:32.496
In feite bevat deze afbeelding tevens

00:07:32.496 --> 00:07:34.301
het equivalent hiervan,

00:07:34.301 --> 00:07:36.800
of specifieker: dit.

00:07:36.800 --> 00:07:39.336
Zeker, het is onwaarschijnlijk
dat iemand zal trachten

00:07:39.336 --> 00:07:41.621
me op te sporen 
en kwaad doen

00:07:41.621 --> 00:07:43.575
naar aanleiding van beeldinformatie

00:07:43.575 --> 00:07:45.663
uit de foto die ik nam 
van mijn kat,

00:07:45.663 --> 00:07:49.004
maar ik ga uit 
van het ergste geval.

00:07:49.004 --> 00:07:52.152
Daarom besloten we, 
bij de lancering van foto's op Twitter,

00:07:52.152 --> 00:07:55.163
om al die geodata te wissen.

00:07:55.163 --> 00:07:58.290
(Applaus)

00:08:01.010 --> 00:08:03.623
Als ik begin met 
het ergste te veronderstellen

00:08:03.623 --> 00:08:04.570
en dan terugwerk,

00:08:04.570 --> 00:08:07.123
kan ik verzekeren
dat de bescherming die we bouwen,

00:08:07.123 --> 00:08:08.891
werkt voor zowel verwachte

00:08:08.891 --> 00:08:10.969
als onverwachte gevallen.

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
Gezien het feit 
dat ik me dag en nacht

00:08:13.914 --> 00:08:16.455
de ergste scenario's voorstel,

00:08:16.455 --> 00:08:20.712
zou het niet verwonderlijk zijn
als mijn wereldbeeld zwart was.

00:08:20.712 --> 00:08:22.495
(Gelach)

00:08:22.495 --> 00:08:23.912
Dat is het niet.

00:08:23.912 --> 00:08:27.788
Het leeuwendeel van 
de interacties die ik zie --

00:08:27.788 --> 00:08:31.689
en ik zie een hoop, geloof me --
zijn positief,

00:08:31.689 --> 00:08:33.943
mensen die elkaar willen helpen

00:08:33.943 --> 00:08:37.061
willen bereiken of 
informatie met elkaar delen.

00:08:37.061 --> 00:08:40.384
Maar mensen als ik, 
die op deze schaal werken,

00:08:40.384 --> 00:08:44.184
en die tot taak hebben
mensen bescherming te bieden,

00:08:44.184 --> 00:08:47.020
moeten ervan uitgaan 
dat het ergste zal gebeuren.

00:08:47.020 --> 00:08:50.957
Want voor ons is een kans
van 1 op een miljoen

00:08:50.957 --> 00:08:53.706
namelijk heel reëel.

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
Dank je wel.

NOTE Paragraph

00:08:55.570 --> 00:09:00.360
(Applaus)