WEBVTT

00:00:00.984 --> 00:00:02.385
Mein Job bei Twitter ist es,

00:00:02.385 --> 00:00:04.253
das Vertrauen der User zu bewahren,

00:00:04.253 --> 00:00:07.090
User-Rechte zu sichern 
und sie zu beschützen,

00:00:07.090 --> 00:00:08.350
sowohl voreinander

00:00:08.350 --> 00:00:12.249
als manchmal auch vor sich selbst.

00:00:12.249 --> 00:00:16.524
Reden wir über die 
Größenordnungen bei Twitter.

00:00:16.524 --> 00:00:19.394
Im Januar 2009

00:00:19.394 --> 00:00:21.905
gab es auf der Plattform jeden Tag

00:00:21.905 --> 00:00:24.489
mehr als 2 Millionen neue Tweets.

00:00:24.489 --> 00:00:30.397
Im Januar 2014 waren es
mehr als 500 Millionen.

00:00:30.397 --> 00:00:32.889
2 Millionen Tweets geschehen jetzt

00:00:32.889 --> 00:00:35.065
innerhalb von weniger als 6 Minuten.

00:00:35.065 --> 00:00:42.257
Das ist eine Steigerung um 24 900 %.

00:00:42.257 --> 00:00:45.735
Die große Mehrheit 
aller Aktivitäten auf Twitter

NOTE Paragraph

00:00:45.735 --> 00:00:47.383
schadet niemandem.

00:00:47.383 --> 00:00:48.846
Da besteht kein Risiko.

00:00:48.846 --> 00:00:52.813
Mein Job ist es, jene Aktivitäten 
auszumerzen und zu verhindern,

00:00:52.813 --> 00:00:54.140
die schädlich sein könnten.

00:00:54.140 --> 00:00:56.678
Hört sich wie ein Kinderspiel an.

00:00:56.678 --> 00:00:58.598
Vielleicht denken Sie, das wäre einfach,

00:00:58.598 --> 00:00:59.967
da ich ja gerade sagte,

00:00:59.967 --> 00:01:03.970
dass die große Mehrheit der Aktivitäten 
auf Twitter niemandem schadet.

00:01:03.970 --> 00:01:06.660
Warum also so viel Zeit damit verbringen,

00:01:06.660 --> 00:01:09.350
nach potenziellem Unheil

00:01:09.350 --> 00:01:11.880
in harmlosen Aktivitäten zu suchen?

00:01:11.880 --> 00:01:14.543
Angesichts der Größe von Twitter

00:01:14.543 --> 00:01:17.598
geschehen Dinge mit einer 
Wahrscheinlichkeit von 1 : 1 000 000

00:01:17.598 --> 00:01:20.489
ganze 500-mal am Tag.

00:01:22.029 --> 00:01:24.177
Das Gleiche gilt für andere Unternehmen

00:01:24.177 --> 00:01:25.012
ähnlicher Größe.

00:01:25.012 --> 00:01:27.794
Für uns sind solche Ausnahmefälle,

00:01:27.794 --> 00:01:31.116
seltene, unwahrscheinliche Situationen,

00:01:31.116 --> 00:01:32.594
eher der Normfall.

00:01:32.594 --> 00:01:36.750
Sagen wir mal, 99,999 % der Tweets

00:01:36.750 --> 00:01:38.574
gefährden niemanden.

00:01:38.574 --> 00:01:40.107
Von ihnen geht keine Gefahr aus.

00:01:40.107 --> 00:01:42.958
Vielleicht dokumentieren 
Leute Sehenswürdigkeiten,

00:01:42.958 --> 00:01:44.815
so wie das "Heart Reef" in Australien,

00:01:44.815 --> 00:01:48.014
oder twittern über ein Konzert, 
auf dem sie sind,

00:01:48.014 --> 00:01:52.373
oder teilen Bilder von 
niedlichen Tierbabys.

00:01:52.373 --> 00:01:57.292
Wenn man die 99,999 % ausblendet,

00:01:57.292 --> 00:02:00.407
kommt der winzige verbleibende 
Prozentsatz von Tweets

00:02:00.407 --> 00:02:03.023
noch immer auf nahezu

00:02:03.023 --> 00:02:06.225
150 000 im Monat.

NOTE Paragraph

00:02:06.225 --> 00:02:08.583
Die schiere Größe,
mit der wir es zu tun haben,

00:02:08.583 --> 00:02:10.910
macht es zu einer Herausforderung.

00:02:10.910 --> 00:02:13.023
Wissen Sie, was für mich noch

00:02:13.023 --> 00:02:15.422
eine große Herausforderung darstellt?

00:02:15.422 --> 00:02:19.953
Leute machen komisches Zeug.

00:02:19.953 --> 00:02:22.292
(Gelächter)

00:02:22.292 --> 00:02:24.601
Ich muss herausfinden, was sie machen,

00:02:24.601 --> 00:02:26.840
warum, und ob ein Risiko besteht,

00:02:26.840 --> 00:02:29.034
oft ohne viel Wissen
über die Zusammenhänge

00:02:29.034 --> 00:02:30.979
oder Hintergründe.

00:02:30.979 --> 00:02:32.969
Ich zeige Ihnen ein paar Beispiele,

00:02:32.969 --> 00:02:35.044
auf die ich bei Twitter gestoßen bin.

00:02:35.044 --> 00:02:37.309
Das sind echte Beispiele von Situationen,

00:02:37.309 --> 00:02:39.585
die erst ganz klar schienen,

00:02:39.585 --> 00:02:42.065
aber in Wahrheit völlig anders waren.

00:02:42.076 --> 00:02:43.717
Manche Details wurden verändert,

00:02:43.717 --> 00:02:45.359
um Unschuldige zu schützen

00:02:45.359 --> 00:02:47.823
-- und manchmal auch die Schuldigen.

00:02:47.823 --> 00:02:51.517
Wir beginnen mal ganz einfach.

NOTE Paragraph

00:02:51.517 --> 00:02:53.602
["Hey, Schlampe"]

00:02:53.602 --> 00:02:56.037
Wenn Sie einen solchen Tweet sähen,

NOTE Paragraph

00:02:56.038 --> 00:02:58.232
würden Sie sich vielleicht sagen:

00:02:58.232 --> 00:03:00.005
"Das sieht nach Beleidigung aus."

00:03:00.005 --> 00:03:02.992
Denn warum würden Sie 
so eine Nachricht erhalten wollen?

00:03:02.992 --> 00:03:05.210
"Hey, Schlampe."

00:03:05.210 --> 00:03:07.663
Ich versuche,

00:03:07.663 --> 00:03:12.385
relativ nahe an den neusten Trends 
und Memes zu bleiben.

00:03:12.385 --> 00:03:15.089
Also wusste ich, dass "Hey, Schlampe"

00:03:15.089 --> 00:03:18.243
sowohl häufig eine Begrüßung 
unter Freunden ist

00:03:18.243 --> 00:03:22.505
als auch eine gängige Referenz 
zu "Breaking Bad".

00:03:22.505 --> 00:03:24.992
Ich gebe zu, dass ich nicht 
erwartet hatte,

00:03:24.992 --> 00:03:27.833
einer vierten Interpretation zu begegnen.

00:03:27.833 --> 00:03:30.937
Der Ausdruck wird auf Twitter 
auch von Leuten benutzt,

00:03:30.937 --> 00:03:33.999
die Hunde-Rollenspiele praktizieren. 
[bitch = auch: Hündin]

00:03:33.999 --> 00:03:39.278
(Gelächter)

00:03:39.278 --> 00:03:40.944
Tatsächlich ist es in diesem Fall

00:03:40.944 --> 00:03:42.553
nicht nur nicht beleidigend,

00:03:42.553 --> 00:03:45.692
sondern eine völlig korrekte Anrede.

00:03:45.692 --> 00:03:48.581
(Gelächter)

NOTE Paragraph

00:03:48.581 --> 00:03:50.872
Also festzustellen,
ob etwas beleidigend ist,

00:03:50.872 --> 00:03:52.500
ohne den Zusammenhang zu kennen,

00:03:52.500 --> 00:03:54.092
ist wirklich schwer.

NOTE Paragraph

00:03:54.092 --> 00:03:56.679
Schauen wir uns mal Spam an.

00:03:56.679 --> 00:03:58.376
Hier ein Twitter-Account,

00:03:58.376 --> 00:04:00.847
der sich wie ein klassischer 
Spam-Account verhält,

00:04:00.847 --> 00:04:02.276
indem er denselben Tweet

00:04:02.276 --> 00:04:04.278
an Tausende von Leuten schickt.

00:04:04.280 --> 00:04:06.753
Dieses Beispiel ist von 
meinem Account konstruiert,

00:04:06.753 --> 00:04:09.664
aber wir beobachten welche, 
die das ständig tun.

00:04:09.664 --> 00:04:11.573
Scheint ziemlich eindeutig zu sein.

00:04:11.573 --> 00:04:13.626
Wir sollten Accounts,

00:04:13.626 --> 00:04:16.933
die sich so verhalten, 
einfach automatisch sperren.

00:04:16.933 --> 00:04:20.143
Es gibt aber ein paar 
Ausnahmen von der Regel.

00:04:20.143 --> 00:04:23.106
Vielleicht haben Sie 
die Nachricht sogar angefordert,

00:04:23.106 --> 00:04:26.695
weil Sie wissen wollen, 
wann sich die Internationale Raumstation

00:04:26.695 --> 00:04:28.641
über Ihnen befindet, weil Sie raus gehen

00:04:28.641 --> 00:04:30.659
und schauen wollen, ob Sie sie entdecken.

00:04:30.659 --> 00:04:31.934
Das könnten Sie nicht,

00:04:31.934 --> 00:04:34.321
wenn wir versehentlich
den Account sperren würden,

00:04:34.321 --> 00:04:36.047
weil wir denken, es ist Spam.

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
Okay. Legen wir die Latte höher.

00:04:39.573 --> 00:04:41.489
Kehren wir zurück zu meinem Account

00:04:41.489 --> 00:04:44.994
und zeigen wir wieder 
klassisches Verhalten.

00:04:44.994 --> 00:04:47.937
Dieses Mal sendet er die 
gleiche Nachricht mit gleichem Link,

00:04:47.937 --> 00:04:50.411
was oft ein Anzeichen für "Phishing" ist:

00:04:50.411 --> 00:04:53.589
Jemand versucht, Account-Infos 
einer anderen Person zu stehlen,

00:04:53.589 --> 00:04:55.792
indem er sie zu einer 
anderen Webseite lotst.

00:04:55.792 --> 00:04:59.986
Das ist natürlich nicht besonders nett.

00:04:59.986 --> 00:05:01.916
Wir möchten Accounts, die so etwas tun,

00:05:01.916 --> 00:05:04.540
sperren und tun das auch.

00:05:04.540 --> 00:05:07.787
Also warum liegt hier die Latte höher?

00:05:07.787 --> 00:05:10.666
Es könnte auch ein Augenzeuge sein,

00:05:10.666 --> 00:05:13.236
dem es gelang,
einen Polizisten zu filmen,

00:05:13.236 --> 00:05:15.966
der einen friedlichen 
Demonstranten schlägt,

00:05:15.966 --> 00:05:18.941
und Ersterer versucht, die Welt über 
die Zustände aufzuklären.

00:05:18.941 --> 00:05:20.584
Wir wollen nicht riskieren,

00:05:20.584 --> 00:05:23.101
so wichtige Nachrichten zu unterdrücken,

00:05:23.101 --> 00:05:26.030
indem wir sie als Spam 
kennzeichnen und aussortieren.

00:05:26.030 --> 00:05:28.909
Deshalb erheben wir Hunderte 
von Parametern

00:05:28.909 --> 00:05:30.777
beim Beobachten eines Accounts,

00:05:30.777 --> 00:05:32.613
und trotzdem können wir uns irren

00:05:32.613 --> 00:05:34.849
und müssen Entscheidungen zurücknehmen.

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
Angesichts der Herausforderungen, 
denen ich gegenüberstehe,

00:05:38.557 --> 00:05:41.253
ist es wichtig, dass ich Probleme 
nicht nur voraussehe,

00:05:41.253 --> 00:05:45.037
sondern mich auch gegen 
das Unerwartete wappne.

00:05:45.037 --> 00:05:47.309
Und das ist nicht nur ein Thema für mich

00:05:47.309 --> 00:05:49.466
oder für Twitter,
es ist auch eines für Sie.

00:05:49.466 --> 00:05:51.872
Es ist ein Thema für jeden, 
der etwas erschafft,

00:05:51.872 --> 00:05:54.387
von dem er denkt,
es könnte etwas Wundervolles werden

00:05:54.387 --> 00:05:56.586
und Leute könnten tolle Sachen machen.

00:05:56.586 --> 00:05:59.452
Also was mache ich?

00:05:59.452 --> 00:06:02.770
Ich lege einen Pause ein und denke,

00:06:02.770 --> 00:06:04.865
wie könnte all das

00:06:04.865 --> 00:06:08.658
schrecklich schief laufen?

00:06:08.658 --> 00:06:13.111
Ich stelle mir Katastrophen vor.

00:06:13.111 --> 00:06:15.174
Und das ist schwer.

00:06:15.174 --> 00:06:18.422
Da entsteht im Kopf eine Art 
ständige "kognitive Dissonanz",

00:06:18.422 --> 00:06:20.674
so als ob man
beim Schreiben seines Ehegelübdes

00:06:20.674 --> 00:06:22.880
gleichzeitig den Ehevertrag aufsetzt.

00:06:22.880 --> 00:06:24.576
(Gelächter)

00:06:24.576 --> 00:06:26.949
Aber man muss es tun,

00:06:26.949 --> 00:06:31.395
besonders, wenn man 500 Millionen 
Tweets täglich "heiratet".

00:06:31.395 --> 00:06:34.492
Was meine ich mit 
"ich stelle mir Katastrophen vor"?

00:06:34.492 --> 00:06:37.254
Ich versuche mir auszudenken,

00:06:37.254 --> 00:06:40.482
wie etwas so Niedliches und Unschuldiges 
wie ein Katzenbild

00:06:40.482 --> 00:06:41.586
zum Tode führen könnte

00:06:41.586 --> 00:06:43.912
und wie wir das verhindern können.

00:06:43.912 --> 00:06:46.295
Das ist also mein nächstes Beispiel.

00:06:46.295 --> 00:06:49.225
Das ist meine Katze Eli.

00:06:49.225 --> 00:06:51.556
Wir wollten Usern die Möglichkeit bieten,

00:06:51.556 --> 00:06:53.379
ihren Tweets Fotos beizufügen.

00:06:53.379 --> 00:06:55.056
Ein Bild sagt mehr als 1 000 Worte.

00:06:55.056 --> 00:06:57.065
Man hat nur 140 Zeichen.

00:06:57.065 --> 00:06:58.945
Wenn man seinem Tweet ein Foto beifügt,

00:06:58.945 --> 00:07:01.303
transportiert er wesentlich mehr Inhalt.

00:07:01.303 --> 00:07:02.980
Man kann viele tolle Sachen tun,

00:07:02.980 --> 00:07:04.987
indem man einem Tweet ein Foto beifügt.

00:07:04.987 --> 00:07:07.267
Mein Job ist nicht, darüber nachzudenken.

00:07:07.267 --> 00:07:10.014
Ich muss darüber nachdenken, 
was schief laufen könnte.

NOTE Paragraph

00:07:10.014 --> 00:07:11.906
Wie könnte dieses Bild

00:07:11.906 --> 00:07:15.445
zu meinem Tod führen?

00:07:15.445 --> 00:07:18.605
Hier ist eine Möglichkeit:

00:07:18.605 --> 00:07:21.691
Das Bild zeigt mehr als nur eine Katze.

00:07:21.691 --> 00:07:23.783
Es beinhaltet auch Geodaten.

00:07:23.783 --> 00:07:25.925
Wenn man ein Bild mit dem Smartphone

00:07:25.925 --> 00:07:27.484
oder der Digitalkamera aufnimmt,

00:07:27.484 --> 00:07:29.308
gibt es eine Menge mehr Informationen,

00:07:29.308 --> 00:07:31.054
die mit dem Bild gespeichert werden.

00:07:31.054 --> 00:07:32.736
Tatsächlich beinhaltet dieses Bild

00:07:32.736 --> 00:07:34.301
ungefähr das.

00:07:34.301 --> 00:07:37.380
Genauer gesagt: das.

00:07:37.380 --> 00:07:39.576
Es ist unwahrscheinlich,
dass jemand versucht,

00:07:39.576 --> 00:07:41.621
mich aufzuspüren und mir weh zu tun,

00:07:41.621 --> 00:07:43.405
aufgrund von Bilddaten eines Fotos,

00:07:43.405 --> 00:07:45.353
das ich von meiner Katze gemacht habe,

00:07:45.353 --> 00:07:49.004
aber ich muss immer 
das Schlimmste annehmen.

00:07:49.004 --> 00:07:51.342
Deshalb entschieden wir, 
als wir damit begannen,

00:07:51.342 --> 00:07:55.163
bei Fotos auf Twitter 
die Geodaten rauszuziehen.

00:07:55.163 --> 00:08:00.820
(Applaus)

00:08:00.820 --> 00:08:04.650
Ich gehe vom Schlimmsten aus
und arbeite mich dann rückwärts.

00:08:04.650 --> 00:08:07.123
So funktionieren die Sicherheitsmaßnahmen

00:08:07.123 --> 00:08:08.891
sowohl für die erwarteten als auch

00:08:08.891 --> 00:08:10.969
für die unerwarteten Fälle.

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
Wenn man sich vorstellt, 
dass ich mir Tag und Nacht

00:08:13.914 --> 00:08:16.455
die schlimmsten Dinge ausdenke,

00:08:16.455 --> 00:08:20.712
wäre es nicht überraschend, wenn ich 
ein ziemlich düsteres Weltbild hätte.

00:08:20.712 --> 00:08:22.495
(Gelächter)

00:08:22.495 --> 00:08:23.912
Aber so ist es nicht.

00:08:23.912 --> 00:08:27.788
Die überwältigende Mehrheit 
der Interaktionen, die ich sehe,

00:08:27.788 --> 00:08:31.689
-- und ich sehe viele, glauben Sie mir -- 
sind positiv.

00:08:31.689 --> 00:08:33.613
Menschen verbinden sich, um zu helfen

00:08:33.613 --> 00:08:37.061
oder Informationen miteinander 
auszutauschen.

00:08:37.061 --> 00:08:40.384
Nur wir, die mit dieser 
Größenordnung arbeiten,

00:08:40.384 --> 00:08:44.184
die den Auftrag haben, 
Menschen zu schützen,

00:08:44.184 --> 00:08:46.730
müssen davon ausgehen,
dass das Schlimmste passiert.

00:08:46.730 --> 00:08:50.957
Weil für uns eine Wahrscheinlichkeit 
von 1 : 1 000 000

00:08:50.957 --> 00:08:53.706
eine ziemlich realistische Wette ist.

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
Vielen Dank.

NOTE Paragraph

00:08:55.570 --> 00:08:59.570
(Applaus)