Mijn taak bij Twitter
is het waarborgen van gebruikersvertrouwen
en het beschermen van gebruikers en hun rechten.
Bescherming tegen elkaar,
en soms ook tegen zichzelf.
Laten we even kijken op welke schaal Twitter opereert.
In januari 2009
zagen we dagelijks ruim 2 miljoen nieuwe tweets
op het platform.
In januari 2014 meer dan 500 miljoen.
We zagen 2 miljoen nieuwe tweets
in minder dan 6 minuten.
Dat is een stijging met 24.900 procent.
Verreweg de meeste activiteit op Twitter
is voor niemand gevaarlijk.
Niemand loopt risico.
Mijn taak is, om de uitzonderingen te bestrijden en voorkomen.
Klinkt eenvoudig, niet?
Je zou zelfs kunnen denken dat het makkelijk is,
aangezien ik net zei dat de meeste activiteit
op Twitter niemand schaadt.
Waarom sporen we zo naarstig
naar potentiële calamiteiten
in onschuldige activiteiten?
Gezien de huidige schaal van Twitter
gebeurt iets met een kans van 1 op een miljoen
500 maal per dag.
Dat is hetzelfde voor andere bedrijven
die op deze schaal opereren.
Voor ons zijn randgevallen --
die zeldzame situaties waarop weinig kans bestaat --
meer de norm.
Stel dat 99,999% van alle tweets
voor niemand schadelijk zijn.
Er dreigt voor niemand gevaar.
Mensen beschrijven wellicht een reisbestemming
zoals een koraalrif in Australië,
of tweeten over een concert dat ze bijwonen,
of delen foto's van schattige jonge dieren.
Nadat je die 99,999% weglaat,
blijft er een minuscuul percentage aan tweets over.
Dat blijken er per maand
150.000 te zijn.
De schaal waarmee we van doen hebben,
houdt een uitdaging in.
Weet je wat mijn rol nog meer
buitengewoon uitdagend maakt?
Mensen .. doen .. gekke .. dingen.
(Gelach)
En ik moet uitvogelen wat ze aan het doen zijn,
waarom, en of er risico's aan kleven.
Vaak zonder veel context
of achtergrond.
Ik zal wat voorbeelden laten zien
van dingen die ik bij Twitter tegenkwam --
alles waargebeurd --
van situaties die op het eerste oog zonneklaar leken,
maar waar in feite iets heel anders speelde.
De details zijn veranderd
ter bescherming van de onschuldigen
en soms de schuldigen.
We beginnen met een makkelijke.
["Yo Bitch"]
Als je een tweet zag met alleen deze inhoud,
zou je kunnen denken
dat hier gescholden wordt.
Immers, waarom zou je het bericht willen krijgen:
"Yo Bitch" (Hoi, teef).
Welnu, ik probeer enigszins de laatste
trends en memes bij te houden,
dus ik wist dat "yo, bitch"
ook een gangbare begroeting was onder vrienden,
evenals een populaire referentie aan de serie 'Breaking Bad'.
Grif geef ik toe dat ik niet verwachtte
een vierde betekenis tegen te komen.
Het bleek dat het op Twitter ook gebruikt wordt
wanneer mensen spelen dat ze hond zijn.
(Gelach)
En dan is het in feite
niet alleen geen schelden,
maar technisch gezien juist een accurate begroeting.
(Gelach)
Oké, bepalen of iets schelden is
zonder de context,
is behoorlijk moeilijk.
Laten we nu kijken naar spam.
Hier is een voorbeeld van een account
die klassiek spammer-gedrag vertoont:
hetzelfde bericht wordt verstuurd naar duizenden mensen.
Dit voorbeeld maakte ik zelf met mijn eigen account,
maar wij zien voortdurend accounts die dit doen.
Het lijkt duidelijk.
We zouden accounts die dit doen
gewoon automatisch moeten opheffen.
Maar er blijken uitzonderingen te zijn op die regel.
Die boodschap zou ook het bericht kunnen zijn
dat je aangevraagd hebt
om te weten wanneer het Internationale Ruimtestation overvliegt
zodat je buiten kan gaan kijken.
Die kans krijg je niet
als wij per abuis die account opheffen
omdat het spam lijkt.
Oké. Laten we de inzet verhogen.
Terug naar mijn account,
dat klassiek gedrag vertoont.
Deze keer verstuurt het dezelfde boodschap met link.
Dit is wat vaak gebeurt bij het zogenaamde 'phishing'.
Iemand probeert de accountinformatie van een ander te stelen
door hem naar een andere website te sturen.
Dat is duidelijk geen goede zaak.
Dit soort accounts heffen we op.
Waarom is de inzet hierbij hoger?
Dit zou ook een toeschouwer kunnen zijn bij een betoging,
die zojuist een video heeft opgenomen
van een politieagent die een geweldloze demonstrant slaat
en dit aan de wereld wil laten zien.
We willen niet per ongeluk
zo'n belangrijke boodschap in de kiem smoren
door hem als spam aan te merken en op te heffen.
Dit betekent dat we honderden kenmerken evalueren
als we naar accountgedrag kijken
en zelfs dan kunnen fout zitten
en bij moeten sturen.
Gezien het soort uitdagingen die ik tegenkom
is het cruciaal dat ik het onverwachte
niet alleen voorspel, maar er ook bescherming tegen bied.
En dat is niet alleen een zaak voor mij,
of voor Twitter, maar ook voor jou.
Dit speelt voor iedereen die iets bouwt of maakt
dat geweldig gaat zijn
en mensen tot grote dingen in staat stelt.
Dus wat doe ik?
Ik stop en denk na:
hoe zou dit allemaal
volledig fout kunnen gaan?
Ik visualiseer catastrofes.
Dat is moeilijk. Er is een soort
inherente cognitieve dissonantie wanneer je dat doet.
Alsof je je huwelijksbelofte opschrijft,
en tegelijkertijd je huwelijkse voorwaarden.
(Gelach)
Maar toch moet je het doen,
vooral als je trouwt met 500 miljoen tweets per dag.
Wat bedoel ik met 'catastrofes visualiseren' ?
Ik probeer me voor te stellen
hoe iets onschuldigs als de afbeelding van de kat
dodelijk zou kunnen zijn
en hoe dat te voorkomen.
Dat is toevallig mijn volgende voorbeeld.
Dit is mijn kat, Eli.
We wilden gebruikers de mogelijkheid geven
foto's bij hun tweets te voegen.
Een foto zegt meer dan 1000 woorden.
Je hebt maar 140 tekens.
Voeg een foto toe aan je tweet
en zie hoeveel meer content je hebt.
Je kan massa's geweldige dingen doen
door een foto bij een tweet te stoppen.
Daar houd ik me niet mee bezig.
Ik moet bedenken wat er mis kan gaan.
Hoe kan deze foto
tot mijn dood leiden?
Nou, hier is één mogelijkheid.
Er zit in die afbeelding méér dan alleen een kat.
Er is geodata.
Als je een foto neemt met je smartphone of digitale camera
slaat deze een heleboel extra informatie op
bij die afbeelding.
In feite bevat deze afbeelding tevens
het equivalent hiervan,
of specifieker: dit.
Zeker, het is onwaarschijnlijk dat iemand zal trachten
me op te sporen en kwaad doen
naar aanleiding van beeldinformatie
uit de foto die ik nam van mijn kat,
maar ik ga uit van het ergste geval.
Daarom besloten we, bij de lancering van foto's op Twitter,
om al die geodata te wissen.
(Applaus)
Als ik begin met het ergste te veronderstellen
en dan terugwerk,
kan ik verzekeren dat de bescherming die we bouwen,
werkt voor zowel verwachte
als onverwachte gevallen.
Gezien het feit dat ik me dag en nacht
de ergste scenario's voorstel,
zou het niet verwonderlijk zijn als mijn wereldbeeld zwart was.
(Gelach)
Dat is het niet.
Het leeuwendeel van de interacties die ik zie --
en ik zie een hoop, geloof me -- zijn positief,
mensen die elkaar willen helpen
willen bereiken of informatie met elkaar delen.
Maar mensen als ik, die op deze schaal werken,
en die tot taak hebben mensen bescherming te bieden,
moeten ervan uitgaan dat het ergste zal gebeuren.
Want voor ons is een kans van 1 op een miljoen
namelijk heel reëel.
Dank je wel.
(Applaus)