Mijn taak bij Twitter
is het waarborgen
van gebruikersvertrouwen
en het beschermen van
gebruikers en hun rechten.
Bescherming tegen elkaar,
en soms ook tegen zichzelf.
Laten we even kijken
op welke schaal Twitter opereert.
In januari 2009
zagen we dagelijks
ruim 2 miljoen nieuwe tweets
op het platform.
In januari 2014 meer dan 500 miljoen.
We zagen 2 miljoen nieuwe tweets
in minder dan 6 minuten.
Dat is een stijging met 24.900 procent.
Verreweg de meeste activiteit op Twitter
is voor niemand gevaarlijk.
Niemand loopt risico.
Mijn taak is, om de uitzonderingen
te bestrijden en voorkomen.
Klinkt eenvoudig, niet?
Je zou zelfs kunnen denken
dat het makkelijk is,
aangezien ik net zei
dat de meeste activiteit
op Twitter niemand schaadt.
Waarom sporen we zo naarstig
naar potentiële calamiteiten
in onschuldige activiteiten?
Gezien de huidige schaal van Twitter
gebeurt iets met een kans van
1 op een miljoen
500 maal per dag.
Dat is hetzelfde voor andere bedrijven
die op deze schaal opereren.
Voor ons zijn randgevallen --
die zeldzame situaties
waarop weinig kans bestaat --
meer de norm.
Stel dat 99,999% van alle tweets
voor niemand schadelijk zijn.
Er dreigt voor niemand gevaar.
Mensen beschrijven wellicht
een reisbestemming
zoals een koraalrif in Australië,
of tweeten over een concert
dat ze bijwonen,
of delen foto's van
schattige jonge dieren.
Nadat je die 99,999% weglaat,
blijft er een minuscuul
percentage aan tweets over.
Dat blijken er per maand
150.000 te zijn.
De schaal waarmee we van doen hebben,
houdt een uitdaging in.
Weet je wat mijn rol
nog meer
buitengewoon uitdagend maakt?
Mensen .. doen .. gekke .. dingen.
(Gelach)
En ik moet uitvogelen
wat ze aan het doen zijn,
waarom, en of er risico's aan kleven.
Vaak zonder veel context
of achtergrond.
Ik zal wat voorbeelden laten zien
van dingen die ik bij Twitter tegenkwam --
alles waargebeurd --
van situaties die op het eerste oog
zonneklaar leken,
maar waar in feite
iets heel anders speelde.
De details zijn veranderd
ter bescherming van de onschuldigen
en soms de schuldigen.
We beginnen met een makkelijke.
["Yo Bitch"]
Als je een tweet zag
met alleen deze inhoud,
zou je kunnen denken
dat hier gescholden wordt.
Immers, waarom zou je
het bericht willen krijgen:
"Yo Bitch"
(Hoi, teef).
Welnu, ik probeer
enigszins de laatste
trends en memes bij te houden,
dus ik wist dat "yo, bitch"
ook een gangbare begroeting
was onder vrienden,
evenals een populaire referentie
aan de serie 'Breaking Bad'.
Grif geef ik toe
dat ik niet verwachtte
een vierde betekenis
tegen te komen.
Het bleek dat het op Twitter
ook gebruikt wordt
wanneer mensen spelen
dat ze hond zijn.
(Gelach)
En dan is het in feite
niet alleen geen schelden,
maar technisch gezien
juist een accurate begroeting.
(Gelach)
Oké, bepalen of iets schelden is
zonder de context,
is behoorlijk moeilijk.
Laten we nu kijken naar spam.
Hier is een voorbeeld van een account
die klassiek spammer-gedrag vertoont:
hetzelfde bericht wordt verstuurd
naar duizenden mensen.
Dit voorbeeld maakte ik zelf
met mijn eigen account,
maar wij zien voortdurend
accounts die dit doen.
Het lijkt duidelijk.
We zouden accounts
die dit doen
gewoon automatisch moeten opheffen.
Maar er blijken uitzonderingen
te zijn op die regel.
Die boodschap zou
ook het bericht kunnen zijn
dat je aangevraagd hebt
om te weten wanneer het
Internationale Ruimtestation overvliegt
zodat je buiten kan gaan kijken.
Die kans krijg je niet
als wij per abuis
die account opheffen
omdat het spam lijkt.
Oké.
Laten we de inzet verhogen.
Terug naar mijn account,
dat klassiek gedrag vertoont.
Deze keer verstuurt het
dezelfde boodschap met link.
Dit is wat vaak gebeurt
bij het zogenaamde 'phishing'.
Iemand probeert de accountinformatie
van een ander te stelen
door hem naar een andere
website te sturen.
Dat is duidelijk geen goede zaak.
Dit soort accounts
heffen we op.
Waarom is de inzet hierbij hoger?
Dit zou ook een toeschouwer
kunnen zijn bij een betoging,
die zojuist een video heeft opgenomen
van een politieagent die
een geweldloze demonstrant slaat
en dit aan de wereld wil laten zien.
We willen niet per ongeluk
zo'n belangrijke boodschap
in de kiem smoren
door hem als spam aan te merken
en op te heffen.
Dit betekent dat we
honderden kenmerken evalueren
als we naar accountgedrag kijken
en zelfs dan kunnen fout zitten
en bij moeten sturen.
Gezien het soort uitdagingen
die ik tegenkom
is het cruciaal dat ik
het onverwachte
niet alleen voorspel,
maar er ook bescherming tegen bied.
En dat is niet alleen een zaak voor mij,
of voor Twitter,
maar ook voor jou.
Dit speelt voor iedereen
die iets bouwt of maakt
dat geweldig gaat zijn
en mensen tot grote dingen
in staat stelt.
Dus wat doe ik?
Ik stop en denk na:
hoe zou dit allemaal
volledig fout kunnen gaan?
Ik visualiseer catastrofes.
Dat is moeilijk.
Er is een soort
inherente cognitieve dissonantie
wanneer je dat doet.
Alsof je je huwelijksbelofte opschrijft,
en tegelijkertijd je
huwelijkse voorwaarden.
(Gelach)
Maar toch moet je het doen,
vooral als je trouwt
met 500 miljoen tweets per dag.
Wat bedoel ik met
'catastrofes visualiseren' ?
Ik probeer me voor te stellen
hoe iets onschuldigs
als de afbeelding van de kat
dodelijk zou kunnen zijn
en hoe dat te voorkomen.
Dat is toevallig mijn volgende voorbeeld.
Dit is mijn kat, Eli.
We wilden gebruikers
de mogelijkheid geven
foto's bij hun tweets te voegen.
Een foto zegt meer
dan 1000 woorden.
Je hebt maar 140 tekens.
Voeg een foto toe aan je tweet
en zie hoeveel meer content je hebt.
Je kan massa's geweldige dingen doen
door een foto bij een tweet te stoppen.
Daar houd ik me niet mee bezig.
Ik moet bedenken wat er mis kan gaan.
Hoe kan deze foto
tot mijn dood leiden?
Nou, hier is één mogelijkheid.
Er zit in die afbeelding
méér dan alleen een kat.
Er is geodata.
Als je een foto neemt
met je smartphone of digitale camera
slaat deze een heleboel
extra informatie op
bij die afbeelding.
In feite bevat deze afbeelding tevens
het equivalent hiervan,
of specifieker: dit.
Zeker, het is onwaarschijnlijk
dat iemand zal trachten
me op te sporen
en kwaad doen
naar aanleiding van beeldinformatie
uit de foto die ik nam
van mijn kat,
maar ik ga uit
van het ergste geval.
Daarom besloten we,
bij de lancering van foto's op Twitter,
om al die geodata te wissen.
(Applaus)
Als ik begin met
het ergste te veronderstellen
en dan terugwerk,
kan ik verzekeren
dat de bescherming die we bouwen,
werkt voor zowel verwachte
als onverwachte gevallen.
Gezien het feit
dat ik me dag en nacht
de ergste scenario's voorstel,
zou het niet verwonderlijk zijn
als mijn wereldbeeld zwart was.
(Gelach)
Dat is het niet.
Het leeuwendeel van
de interacties die ik zie --
en ik zie een hoop, geloof me --
zijn positief,
mensen die elkaar willen helpen
willen bereiken of
informatie met elkaar delen.
Maar mensen als ik,
die op deze schaal werken,
en die tot taak hebben
mensen bescherming te bieden,
moeten ervan uitgaan
dat het ergste zal gebeuren.
Want voor ons is een kans
van 1 op een miljoen
namelijk heel reëel.
Dank je wel.
(Applaus)