Return to Video

Bevreemdende proporties bij Twitter

  • 0:01 - 0:02
    Mijn taak bij Twitter
  • 0:02 - 0:05
    is het waarborgen
    van gebruikersvertrouwen
  • 0:05 - 0:07
    en het beschermen van
    gebruikers en hun rechten.
  • 0:07 - 0:09
    Bescherming tegen elkaar,
  • 0:09 - 0:12
    en soms ook tegen zichzelf.
  • 0:12 - 0:17
    Laten we even kijken
    op welke schaal Twitter opereert.
  • 0:17 - 0:19
    In januari 2009
  • 0:19 - 0:23
    zagen we dagelijks
    ruim 2 miljoen nieuwe tweets
  • 0:23 - 0:24
    op het platform.
  • 0:24 - 0:30
    In januari 2014 meer dan 500 miljoen.
  • 0:30 - 0:33
    We zagen 2 miljoen nieuwe tweets
  • 0:33 - 0:35
    in minder dan 6 minuten.
  • 0:35 - 0:42
    Dat is een stijging met 24.900 procent.
  • 0:42 - 0:45
    Verreweg de meeste activiteit op Twitter
  • 0:45 - 0:47
    is voor niemand gevaarlijk.
  • 0:47 - 0:49
    Niemand loopt risico.
  • 0:49 - 0:54
    Mijn taak is, om de uitzonderingen
    te bestrijden en voorkomen.
  • 0:54 - 0:56
    Klinkt eenvoudig, niet?
  • 0:56 - 0:59
    Je zou zelfs kunnen denken
    dat het makkelijk is,
  • 0:59 - 1:01
    aangezien ik net zei
    dat de meeste activiteit
  • 1:01 - 1:04
    op Twitter niemand schaadt.
  • 1:04 - 1:06
    Waarom sporen we zo naarstig
  • 1:06 - 1:09
    naar potentiële calamiteiten
  • 1:09 - 1:11
    in onschuldige activiteiten?
  • 1:11 - 1:14
    Gezien de huidige schaal van Twitter
  • 1:14 - 1:18
    gebeurt iets met een kans van
    1 op een miljoen
  • 1:18 - 1:21
    500 maal per dag.
  • 1:21 - 1:23
    Dat is hetzelfde voor andere bedrijven
  • 1:23 - 1:24
    die op deze schaal opereren.
  • 1:24 - 1:26
    Voor ons zijn randgevallen --
  • 1:26 - 1:30
    die zeldzame situaties
    waarop weinig kans bestaat --
  • 1:30 - 1:32
    meer de norm.
  • 1:32 - 1:36
    Stel dat 99,999% van alle tweets
  • 1:36 - 1:38
    voor niemand schadelijk zijn.
  • 1:38 - 1:40
    Er dreigt voor niemand gevaar.
  • 1:40 - 1:42
    Mensen beschrijven wellicht
    een reisbestemming
  • 1:42 - 1:44
    zoals een koraalrif in Australië,
  • 1:44 - 1:47
    of tweeten over een concert
    dat ze bijwonen,
  • 1:47 - 1:51
    of delen foto's van
    schattige jonge dieren.
  • 1:52 - 1:56
    Nadat je die 99,999% weglaat,
  • 1:56 - 2:00
    blijft er een minuscuul
    percentage aan tweets over.
  • 2:00 - 2:02
    Dat blijken er per maand
  • 2:02 - 2:06
    150.000 te zijn.
  • 2:06 - 2:08
    De schaal waarmee we van doen hebben,
  • 2:08 - 2:11
    houdt een uitdaging in.
  • 2:11 - 2:13
    Weet je wat mijn rol
    nog meer
  • 2:13 - 2:15
    buitengewoon uitdagend maakt?
  • 2:15 - 2:20
    Mensen .. doen .. gekke .. dingen.
  • 2:20 - 2:22
    (Gelach)
  • 2:22 - 2:24
    En ik moet uitvogelen
    wat ze aan het doen zijn,
  • 2:24 - 2:27
    waarom, en of er risico's aan kleven.
  • 2:27 - 2:29
    Vaak zonder veel context
  • 2:29 - 2:30
    of achtergrond.
  • 2:30 - 2:33
    Ik zal wat voorbeelden laten zien
  • 2:33 - 2:35
    van dingen die ik bij Twitter tegenkwam --
  • 2:35 - 2:36
    alles waargebeurd --
  • 2:36 - 2:39
    van situaties die op het eerste oog
    zonneklaar leken,
  • 2:39 - 2:42
    maar waar in feite
    iets heel anders speelde.
  • 2:42 - 2:44
    De details zijn veranderd
  • 2:44 - 2:46
    ter bescherming van de onschuldigen
  • 2:46 - 2:49
    en soms de schuldigen.
  • 2:49 - 2:52
    We beginnen met een makkelijke.
  • 2:52 - 2:53
    ["Yo Bitch"]
  • 2:53 - 2:56
    Als je een tweet zag
    met alleen deze inhoud,
  • 2:56 - 2:58
    zou je kunnen denken
  • 2:58 - 3:00
    dat hier gescholden wordt.
  • 3:00 - 3:03
    Immers, waarom zou je
    het bericht willen krijgen:
  • 3:03 - 3:05
    "Yo Bitch"
    (Hoi, teef).
  • 3:05 - 3:10
    Welnu, ik probeer
    enigszins de laatste
  • 3:10 - 3:12
    trends en memes bij te houden,
  • 3:12 - 3:15
    dus ik wist dat "yo, bitch"
  • 3:15 - 3:18
    ook een gangbare begroeting
    was onder vrienden,
  • 3:18 - 3:23
    evenals een populaire referentie
    aan de serie 'Breaking Bad'.
  • 3:23 - 3:25
    Grif geef ik toe
    dat ik niet verwachtte
  • 3:25 - 3:28
    een vierde betekenis
    tegen te komen.
  • 3:28 - 3:31
    Het bleek dat het op Twitter
    ook gebruikt wordt
  • 3:31 - 3:34
    wanneer mensen spelen
    dat ze hond zijn.
  • 3:34 - 3:39
    (Gelach)
  • 3:39 - 3:41
    En dan is het in feite
  • 3:41 - 3:43
    niet alleen geen schelden,
  • 3:43 - 3:46
    maar technisch gezien
    juist een accurate begroeting.
  • 3:46 - 3:49
    (Gelach)
  • 3:49 - 3:51
    Oké, bepalen of iets schelden is
  • 3:51 - 3:52
    zonder de context,
  • 3:52 - 3:54
    is behoorlijk moeilijk.
  • 3:54 - 3:57
    Laten we nu kijken naar spam.
  • 3:57 - 3:59
    Hier is een voorbeeld van een account
  • 3:59 - 4:00
    die klassiek spammer-gedrag vertoont:
  • 4:00 - 4:04
    hetzelfde bericht wordt verstuurd
    naar duizenden mensen.
  • 4:04 - 4:07
    Dit voorbeeld maakte ik zelf
    met mijn eigen account,
  • 4:07 - 4:10
    maar wij zien voortdurend
    accounts die dit doen.
  • 4:10 - 4:12
    Het lijkt duidelijk.
  • 4:12 - 4:14
    We zouden accounts
    die dit doen
  • 4:14 - 4:17
    gewoon automatisch moeten opheffen.
  • 4:17 - 4:20
    Maar er blijken uitzonderingen
    te zijn op die regel.
  • 4:20 - 4:23
    Die boodschap zou
    ook het bericht kunnen zijn
  • 4:23 - 4:25
    dat je aangevraagd hebt
  • 4:25 - 4:28
    om te weten wanneer het
    Internationale Ruimtestation overvliegt
  • 4:28 - 4:31
    zodat je buiten kan gaan kijken.
  • 4:31 - 4:32
    Die kans krijg je niet
  • 4:32 - 4:34
    als wij per abuis
    die account opheffen
  • 4:34 - 4:36
    omdat het spam lijkt.
  • 4:36 - 4:40
    Oké.
    Laten we de inzet verhogen.
  • 4:40 - 4:41
    Terug naar mijn account,
  • 4:41 - 4:45
    dat klassiek gedrag vertoont.
  • 4:45 - 4:48
    Deze keer verstuurt het
    dezelfde boodschap met link.
  • 4:48 - 4:50
    Dit is wat vaak gebeurt
    bij het zogenaamde 'phishing'.
  • 4:50 - 4:54
    Iemand probeert de accountinformatie
    van een ander te stelen
  • 4:54 - 4:56
    door hem naar een andere
    website te sturen.
  • 4:56 - 5:00
    Dat is duidelijk geen goede zaak.
  • 5:00 - 5:04
    Dit soort accounts
    heffen we op.
  • 5:04 - 5:08
    Waarom is de inzet hierbij hoger?
  • 5:08 - 5:11
    Dit zou ook een toeschouwer
    kunnen zijn bij een betoging,
  • 5:11 - 5:13
    die zojuist een video heeft opgenomen
  • 5:13 - 5:16
    van een politieagent die
    een geweldloze demonstrant slaat
  • 5:16 - 5:19
    en dit aan de wereld wil laten zien.
  • 5:19 - 5:21
    We willen niet per ongeluk
  • 5:21 - 5:23
    zo'n belangrijke boodschap
    in de kiem smoren
  • 5:23 - 5:26
    door hem als spam aan te merken
    en op te heffen.
  • 5:26 - 5:29
    Dit betekent dat we
    honderden kenmerken evalueren
  • 5:29 - 5:31
    als we naar accountgedrag kijken
  • 5:31 - 5:33
    en zelfs dan kunnen fout zitten
  • 5:33 - 5:35
    en bij moeten sturen.
  • 5:35 - 5:39
    Gezien het soort uitdagingen
    die ik tegenkom
  • 5:39 - 5:41
    is het cruciaal dat ik
    het onverwachte
  • 5:41 - 5:45
    niet alleen voorspel,
    maar er ook bescherming tegen bied.
  • 5:45 - 5:47
    En dat is niet alleen een zaak voor mij,
  • 5:47 - 5:49
    of voor Twitter,
    maar ook voor jou.
  • 5:49 - 5:52
    Dit speelt voor iedereen
    die iets bouwt of maakt
  • 5:52 - 5:54
    dat geweldig gaat zijn
  • 5:54 - 5:57
    en mensen tot grote dingen
    in staat stelt.
  • 5:57 - 5:59
    Dus wat doe ik?
  • 5:59 - 6:03
    Ik stop en denk na:
  • 6:03 - 6:05
    hoe zou dit allemaal
  • 6:05 - 6:09
    volledig fout kunnen gaan?
  • 6:09 - 6:13
    Ik visualiseer catastrofes.
  • 6:13 - 6:15
    Dat is moeilijk.
    Er is een soort
  • 6:15 - 6:18
    inherente cognitieve dissonantie
    wanneer je dat doet.
  • 6:18 - 6:20
    Alsof je je huwelijksbelofte opschrijft,
  • 6:20 - 6:23
    en tegelijkertijd je
    huwelijkse voorwaarden.
  • 6:23 - 6:25
    (Gelach)
  • 6:25 - 6:27
    Maar toch moet je het doen,
  • 6:27 - 6:31
    vooral als je trouwt
    met 500 miljoen tweets per dag.
  • 6:31 - 6:34
    Wat bedoel ik met
    'catastrofes visualiseren' ?
  • 6:34 - 6:37
    Ik probeer me voor te stellen
  • 6:37 - 6:40
    hoe iets onschuldigs
    als de afbeelding van de kat
  • 6:40 - 6:42
    dodelijk zou kunnen zijn
  • 6:42 - 6:44
    en hoe dat te voorkomen.
  • 6:44 - 6:46
    Dat is toevallig mijn volgende voorbeeld.
  • 6:46 - 6:49
    Dit is mijn kat, Eli.
  • 6:49 - 6:51
    We wilden gebruikers
    de mogelijkheid geven
  • 6:51 - 6:53
    foto's bij hun tweets te voegen.
  • 6:53 - 6:55
    Een foto zegt meer
    dan 1000 woorden.
  • 6:55 - 6:57
    Je hebt maar 140 tekens.
  • 6:57 - 6:59
    Voeg een foto toe aan je tweet
  • 6:59 - 7:01
    en zie hoeveel meer content je hebt.
  • 7:01 - 7:03
    Je kan massa's geweldige dingen doen
  • 7:03 - 7:05
    door een foto bij een tweet te stoppen.
  • 7:05 - 7:07
    Daar houd ik me niet mee bezig.
  • 7:07 - 7:10
    Ik moet bedenken wat er mis kan gaan.
  • 7:10 - 7:12
    Hoe kan deze foto
  • 7:12 - 7:15
    tot mijn dood leiden?
  • 7:15 - 7:19
    Nou, hier is één mogelijkheid.
  • 7:19 - 7:22
    Er zit in die afbeelding
    méér dan alleen een kat.
  • 7:22 - 7:24
    Er is geodata.
  • 7:24 - 7:27
    Als je een foto neemt
    met je smartphone of digitale camera
  • 7:27 - 7:29
    slaat deze een heleboel
    extra informatie op
  • 7:29 - 7:31
    bij die afbeelding.
  • 7:31 - 7:32
    In feite bevat deze afbeelding tevens
  • 7:32 - 7:34
    het equivalent hiervan,
  • 7:34 - 7:37
    of specifieker: dit.
  • 7:37 - 7:39
    Zeker, het is onwaarschijnlijk
    dat iemand zal trachten
  • 7:39 - 7:42
    me op te sporen
    en kwaad doen
  • 7:42 - 7:44
    naar aanleiding van beeldinformatie
  • 7:44 - 7:46
    uit de foto die ik nam
    van mijn kat,
  • 7:46 - 7:49
    maar ik ga uit
    van het ergste geval.
  • 7:49 - 7:52
    Daarom besloten we,
    bij de lancering van foto's op Twitter,
  • 7:52 - 7:55
    om al die geodata te wissen.
  • 7:55 - 7:58
    (Applaus)
  • 8:01 - 8:04
    Als ik begin met
    het ergste te veronderstellen
  • 8:04 - 8:05
    en dan terugwerk,
  • 8:05 - 8:07
    kan ik verzekeren
    dat de bescherming die we bouwen,
  • 8:07 - 8:09
    werkt voor zowel verwachte
  • 8:09 - 8:11
    als onverwachte gevallen.
  • 8:11 - 8:14
    Gezien het feit
    dat ik me dag en nacht
  • 8:14 - 8:16
    de ergste scenario's voorstel,
  • 8:16 - 8:21
    zou het niet verwonderlijk zijn
    als mijn wereldbeeld zwart was.
  • 8:21 - 8:22
    (Gelach)
  • 8:22 - 8:24
    Dat is het niet.
  • 8:24 - 8:28
    Het leeuwendeel van
    de interacties die ik zie --
  • 8:28 - 8:32
    en ik zie een hoop, geloof me --
    zijn positief,
  • 8:32 - 8:34
    mensen die elkaar willen helpen
  • 8:34 - 8:37
    willen bereiken of
    informatie met elkaar delen.
  • 8:37 - 8:40
    Maar mensen als ik,
    die op deze schaal werken,
  • 8:40 - 8:44
    en die tot taak hebben
    mensen bescherming te bieden,
  • 8:44 - 8:47
    moeten ervan uitgaan
    dat het ergste zal gebeuren.
  • 8:47 - 8:51
    Want voor ons is een kans
    van 1 op een miljoen
  • 8:51 - 8:54
    namelijk heel reëel.
  • 8:54 - 8:56
    Dank je wel.
  • 8:56 - 9:00
    (Applaus)
Title:
Bevreemdende proporties bij Twitter
Speaker:
Del Harvey
Description:

Als honderdduizenden Tweets per seconde worden verstuurd, komt een geval van 1 op een miljoen -- bijvoorbeeld een onwaarschijnlijk klinkend scenario dat gebruikers kan schaden -- 500 keer per dag voor. Voor Del Harvey, hoofd van het beveiligingsteam bij Twitter, betekent dit werk aan de winkel. De veiligheidsexpert vraagt zich dagelijks af hoe doemscenario's kunnen worden voorkomen, terwijl mensen wereldwijd zich onbelemmerd kunnen uiten. Met een dosis droge humor beschrijft ze haar taak als hoeder van 240 miljoen gebruikers.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
09:19

  • Els De Keyser

    3:03 Gelet op wat volgt, lijkt het me een goed idee om de letterlijke vertaling toch ook mee te geven.

    'Account' is Engels en dan is het moeilijk om het geslacht te bepalen. Ik zag nog nooit 'het account', altijd 'de account'. Is dat in Nederland anders?

    5:07 Wij gebruiken demonstratie eerder voor het demonstreren van toestellen en dergelijke. Voor 'rally' is 'betoging' meer gangbaar. Is dat verstaanbaar?

    6:18 Huwelijkse voorwaarden begrijpen we wel, ook al zeggen we huwelijkscontract. Maar huwelijkseed, nee, dat is voor ons een belofte.

    Heel interessante talk.

    Ik zet hem bij jou voor goedkeuring, Axel.

  • Axel Saffran

    Hoi Els,

    Dank voor de review.
    Antwoord op je vragen:

    Ik ken alleen HET account, en dit is een van de eensluidende resultaten van Google. (ik begon even te twijfelen of ik het altijd al fout deed) :

    "De account" of "Het account"? | de-of-het.nl
    de-of-het.nl/account/‎
    Bij het woord 'account' kan zowel 'de account' als 'het account' gebruikt worden. Is het die account of dat account? Welke is correct? Bekijk onderstaande om te ...

    'Betoging' is bij ons ook begrijpelijk.

    Groet,

    Axel

Dutch subtitles

Revisions

Our website uses cookies for analysis purposes.