Das Problem der Größenordnung bei Twitter

Wenn mehrere hunderttausend Tweets jede Sekunde abgeschickt werden, ergibt die Wahrscheinlichkeit von eins zu einer Millionen, dass täglich 500-mal User geschädigt werden. Für Del Harvey, Vorsitzende des Trust-and-Safety-Teams bei Twitter, ist das eine schlechte Quote. Die Sicherheitsexpertin verbringt ihre Tage damit, sich zu überlegen, wie man Horrorszenarien verhindert, während Twitter den Menschen auf der Erde eine Stimme gibt. Mit trockenem Humor gibt sie Einblicke, wie sie 240 Millionen User beschützt.

Mein Job bei Twitter ist es,

das Vertrauen der User zu bewahren,

User-Rechte zu sichern
und sie zu beschützen,

sowohl voreinander

als manchmal auch vor sich selbst.

Reden wir über die
Größenordnungen bei Twitter.

Im Januar 2009

gab es auf der Plattform jeden Tag

mehr als 2 Millionen neue Tweets.

Im Januar 2014 waren es
mehr als 500 Millionen.

2 Millionen Tweets geschehen jetzt

innerhalb von weniger als 6 Minuten.

Das ist eine Steigerung um 24 900 %.

Die große Mehrheit
aller Aktivitäten auf Twitter

schadet niemandem.

Da besteht kein Risiko.

Mein Job ist es, jene Aktivitäten
auszumerzen und zu verhindern,

die schädlich sein könnten.

Hört sich wie ein Kinderspiel an.

Vielleicht denken Sie, das wäre einfach,

da ich ja gerade sagte,

dass die große Mehrheit der Aktivitäten
auf Twitter niemandem schadet.

Warum also so viel Zeit damit verbringen,

nach potenziellem Unheil

in harmlosen Aktivitäten zu suchen?

Angesichts der Größe von Twitter

geschehen Dinge mit einer
Wahrscheinlichkeit von 1 : 1 000 000

ganze 500-mal am Tag.

Das Gleiche gilt für andere Unternehmen

ähnlicher Größe.

Für uns sind solche Ausnahmefälle,

seltene, unwahrscheinliche Situationen,

eher der Normfall.

Sagen wir mal, 99,999 % der Tweets

gefährden niemanden.

Von ihnen geht keine Gefahr aus.

Vielleicht dokumentieren
Leute Sehenswürdigkeiten,

so wie das "Heart Reef" in Australien,

oder twittern über ein Konzert,
auf dem sie sind,

oder teilen Bilder von
niedlichen Tierbabys.

Wenn man die 99,999 % ausblendet,

kommt der winzige verbleibende
Prozentsatz von Tweets

noch immer auf nahezu

150 000 im Monat.

Die schiere Größe,
mit der wir es zu tun haben,

macht es zu einer Herausforderung.

Wissen Sie, was für mich noch

eine große Herausforderung darstellt?

Leute machen komisches Zeug.

(Gelächter)

Ich muss herausfinden, was sie machen,

warum, und ob ein Risiko besteht,

oft ohne viel Wissen
über die Zusammenhänge

oder Hintergründe.

Ich zeige Ihnen ein paar Beispiele,

auf die ich bei Twitter gestoßen bin.

Das sind echte Beispiele von Situationen,

die erst ganz klar schienen,

aber in Wahrheit völlig anders waren.

Manche Details wurden verändert,

um Unschuldige zu schützen

-- und manchmal auch die Schuldigen.

Wir beginnen mal ganz einfach.

["Hey, Schlampe"]

Wenn Sie einen solchen Tweet sähen,

würden Sie sich vielleicht sagen:

"Das sieht nach Beleidigung aus."

Denn warum würden Sie
so eine Nachricht erhalten wollen?

"Hey, Schlampe."

Ich versuche,

relativ nahe an den neusten Trends
und Memes zu bleiben.

Also wusste ich, dass "Hey, Schlampe"

sowohl häufig eine Begrüßung
unter Freunden ist

als auch eine gängige Referenz
zu "Breaking Bad".

Ich gebe zu, dass ich nicht
erwartet hatte,

einer vierten Interpretation zu begegnen.

Der Ausdruck wird auf Twitter
auch von Leuten benutzt,

die Hunde-Rollenspiele praktizieren.
[bitch = auch: Hündin]

(Gelächter)

Tatsächlich ist es in diesem Fall

nicht nur nicht beleidigend,

sondern eine völlig korrekte Anrede.

(Gelächter)

Also festzustellen,
ob etwas beleidigend ist,

ohne den Zusammenhang zu kennen,

ist wirklich schwer.

Schauen wir uns mal Spam an.

Hier ein Twitter-Account,

der sich wie ein klassischer
Spam-Account verhält,

indem er denselben Tweet

an Tausende von Leuten schickt.

Dieses Beispiel ist von
meinem Account konstruiert,

aber wir beobachten welche,
die das ständig tun.

Scheint ziemlich eindeutig zu sein.

Wir sollten Accounts,

die sich so verhalten,
einfach automatisch sperren.

Es gibt aber ein paar
Ausnahmen von der Regel.

Vielleicht haben Sie
die Nachricht sogar angefordert,

weil Sie wissen wollen,
wann sich die Internationale Raumstation

über Ihnen befindet, weil Sie raus gehen

und schauen wollen, ob Sie sie entdecken.

Das könnten Sie nicht,

wenn wir versehentlich
den Account sperren würden,

weil wir denken, es ist Spam.

Okay. Legen wir die Latte höher.

Kehren wir zurück zu meinem Account

und zeigen wir wieder
klassisches Verhalten.

Dieses Mal sendet er die
gleiche Nachricht mit gleichem Link,

was oft ein Anzeichen für "Phishing" ist:

Jemand versucht, Account-Infos
einer anderen Person zu stehlen,

indem er sie zu einer
anderen Webseite lotst.

Das ist natürlich nicht besonders nett.

Wir möchten Accounts, die so etwas tun,

sperren und tun das auch.

Also warum liegt hier die Latte höher?

Es könnte auch ein Augenzeuge sein,

dem es gelang,
einen Polizisten zu filmen,

der einen friedlichen
Demonstranten schlägt,

und Ersterer versucht, die Welt über
die Zustände aufzuklären.

Wir wollen nicht riskieren,

so wichtige Nachrichten zu unterdrücken,

indem wir sie als Spam
kennzeichnen und aussortieren.

Deshalb erheben wir Hunderte
von Parametern

beim Beobachten eines Accounts,

und trotzdem können wir uns irren

und müssen Entscheidungen zurücknehmen.

Angesichts der Herausforderungen,
denen ich gegenüberstehe,

ist es wichtig, dass ich Probleme
nicht nur voraussehe,

sondern mich auch gegen
das Unerwartete wappne.

Und das ist nicht nur ein Thema für mich

oder für Twitter,
es ist auch eines für Sie.

Es ist ein Thema für jeden,
der etwas erschafft,

von dem er denkt,
es könnte etwas Wundervolles werden

und Leute könnten tolle Sachen machen.

Also was mache ich?

Ich lege einen Pause ein und denke,

wie könnte all das

schrecklich schief laufen?

Ich stelle mir Katastrophen vor.

Und das ist schwer.

Da entsteht im Kopf eine Art
ständige "kognitive Dissonanz",

so als ob man
beim Schreiben seines Ehegelübdes

gleichzeitig den Ehevertrag aufsetzt.

(Gelächter)

Aber man muss es tun,

besonders, wenn man 500 Millionen
Tweets täglich "heiratet".

Was meine ich mit
"ich stelle mir Katastrophen vor"?

Ich versuche mir auszudenken,

wie etwas so Niedliches und Unschuldiges
wie ein Katzenbild

zum Tode führen könnte

und wie wir das verhindern können.

Das ist also mein nächstes Beispiel.

Das ist meine Katze Eli.

Wir wollten Usern die Möglichkeit bieten,

ihren Tweets Fotos beizufügen.

Ein Bild sagt mehr als 1 000 Worte.

Man hat nur 140 Zeichen.

Wenn man seinem Tweet ein Foto beifügt,

transportiert er wesentlich mehr Inhalt.

Man kann viele tolle Sachen tun,

indem man einem Tweet ein Foto beifügt.

Mein Job ist nicht, darüber nachzudenken.

Ich muss darüber nachdenken,
was schief laufen könnte.

Wie könnte dieses Bild

zu meinem Tod führen?

Hier ist eine Möglichkeit:

Das Bild zeigt mehr als nur eine Katze.

Es beinhaltet auch Geodaten.

Wenn man ein Bild mit dem Smartphone

oder der Digitalkamera aufnimmt,

gibt es eine Menge mehr Informationen,

die mit dem Bild gespeichert werden.

Tatsächlich beinhaltet dieses Bild

ungefähr das.

Genauer gesagt: das.

Es ist unwahrscheinlich,
dass jemand versucht,

mich aufzuspüren und mir weh zu tun,

aufgrund von Bilddaten eines Fotos,

das ich von meiner Katze gemacht habe,

aber ich muss immer
das Schlimmste annehmen.

Deshalb entschieden wir,
als wir damit begannen,

bei Fotos auf Twitter
die Geodaten rauszuziehen.

(Applaus)

Ich gehe vom Schlimmsten aus
und arbeite mich dann rückwärts.

So funktionieren die Sicherheitsmaßnahmen

sowohl für die erwarteten als auch

für die unerwarteten Fälle.

Wenn man sich vorstellt,
dass ich mir Tag und Nacht

die schlimmsten Dinge ausdenke,

wäre es nicht überraschend, wenn ich
ein ziemlich düsteres Weltbild hätte.

(Gelächter)

Aber so ist es nicht.

Die überwältigende Mehrheit
der Interaktionen, die ich sehe,

-- und ich sehe viele, glauben Sie mir --
sind positiv.

Menschen verbinden sich, um zu helfen

oder Informationen miteinander
auszutauschen.

Nur wir, die mit dieser
Größenordnung arbeiten,

die den Auftrag haben,
Menschen zu schützen,

müssen davon ausgehen,
dass das Schlimmste passiert.

Weil für uns eine Wahrscheinlichkeit
von 1 : 1 000 000

eine ziemlich realistische Wette ist.

Vielen Dank.

(Applaus)