0:00:00.984,0:00:02.385
Mein Job bei Twitter ist es,

0:00:02.385,0:00:04.253
das Vertrauen der User zu bewahren,

0:00:04.253,0:00:07.090
User-Rechte zu sichern [br]und sie zu beschützen,

0:00:07.090,0:00:08.350
sowohl voreinander

0:00:08.350,0:00:12.249
als manchmal auch vor sich selbst.

0:00:12.249,0:00:16.524
Reden wir über die [br]Größenordnungen bei Twitter.

0:00:16.524,0:00:19.394
Im Januar 2009

0:00:19.394,0:00:21.905
gab es auf der Plattform jeden Tag

0:00:21.905,0:00:24.489
mehr als 2 Millionen neue Tweets.

0:00:24.489,0:00:30.397
Im Januar 2014 waren es[br]mehr als 500 Millionen.

0:00:30.397,0:00:32.889
2 Millionen Tweets geschehen jetzt

0:00:32.889,0:00:35.065
innerhalb von weniger als 6 Minuten.

0:00:35.065,0:00:42.257
Das ist eine Steigerung um 24 900 %.

0:00:42.257,0:00:45.735
Die große Mehrheit [br]aller Aktivitäten auf Twitter

0:00:45.735,0:00:47.383
schadet niemandem.

0:00:47.383,0:00:48.846
Da besteht kein Risiko.

0:00:48.846,0:00:52.813
Mein Job ist es, jene Aktivitäten [br]auszumerzen und zu verhindern,

0:00:52.813,0:00:54.140
die schädlich sein könnten.

0:00:54.140,0:00:56.678
Hört sich wie ein Kinderspiel an.

0:00:56.678,0:00:58.598
Vielleicht denken Sie, das wäre einfach,

0:00:58.598,0:00:59.967
da ich ja gerade sagte,

0:00:59.967,0:01:03.970
dass die große Mehrheit der Aktivitäten [br]auf Twitter niemandem schadet.

0:01:03.970,0:01:06.660
Warum also so viel Zeit damit verbringen,

0:01:06.660,0:01:09.350
nach potenziellem Unheil

0:01:09.350,0:01:11.880
in harmlosen Aktivitäten zu suchen?

0:01:11.880,0:01:14.543
Angesichts der Größe von Twitter

0:01:14.543,0:01:17.598
geschehen Dinge mit einer [br]Wahrscheinlichkeit von 1 : 1 000 000

0:01:17.598,0:01:20.489
ganze 500-mal am Tag.

0:01:22.029,0:01:24.177
Das Gleiche gilt für andere Unternehmen

0:01:24.177,0:01:25.012
ähnlicher Größe.

0:01:25.012,0:01:27.794
Für uns sind solche Ausnahmefälle,

0:01:27.794,0:01:31.116
seltene, unwahrscheinliche Situationen,

0:01:31.116,0:01:32.594
eher der Normfall.

0:01:32.594,0:01:36.750
Sagen wir mal, 99,999 % der Tweets

0:01:36.750,0:01:38.574
gefährden niemanden.

0:01:38.574,0:01:40.107
Von ihnen geht keine Gefahr aus.

0:01:40.107,0:01:42.958
Vielleicht dokumentieren [br]Leute Sehenswürdigkeiten,

0:01:42.958,0:01:44.815
so wie das "Heart Reef" in Australien,

0:01:44.815,0:01:48.014
oder twittern über ein Konzert, [br]auf dem sie sind,

0:01:48.014,0:01:52.373
oder teilen Bilder von [br]niedlichen Tierbabys.

0:01:52.373,0:01:57.292
Wenn man die 99,999 % ausblendet,

0:01:57.292,0:02:00.407
kommt der winzige verbleibende [br]Prozentsatz von Tweets

0:02:00.407,0:02:03.023
noch immer auf nahezu

0:02:03.023,0:02:06.225
150 000 im Monat.

0:02:06.225,0:02:08.583
Die schiere Größe,[br]mit der wir es zu tun haben,

0:02:08.583,0:02:10.910
macht es zu einer Herausforderung.

0:02:10.910,0:02:13.023
Wissen Sie, was für mich noch

0:02:13.023,0:02:15.422
eine große Herausforderung darstellt?

0:02:15.422,0:02:19.953
Leute machen komisches Zeug.

0:02:19.953,0:02:22.292
(Gelächter)

0:02:22.292,0:02:24.601
Ich muss herausfinden, was sie machen,

0:02:24.601,0:02:26.840
warum, und ob ein Risiko besteht,

0:02:26.840,0:02:29.034
oft ohne viel Wissen[br]über die Zusammenhänge

0:02:29.034,0:02:30.979
oder Hintergründe.

0:02:30.979,0:02:32.969
Ich zeige Ihnen ein paar Beispiele,

0:02:32.969,0:02:35.044
auf die ich bei Twitter gestoßen bin.

0:02:35.044,0:02:37.309
Das sind echte Beispiele von Situationen,

0:02:37.309,0:02:39.585
die erst ganz klar schienen,

0:02:39.585,0:02:42.065
aber in Wahrheit völlig anders waren.

0:02:42.076,0:02:43.717
Manche Details wurden verändert,

0:02:43.717,0:02:45.359
um Unschuldige zu schützen

0:02:45.359,0:02:47.823
-- und manchmal auch die Schuldigen.

0:02:47.823,0:02:51.517
Wir beginnen mal ganz einfach.

0:02:51.517,0:02:53.602
["Hey, Schlampe"]

0:02:53.602,0:02:56.037
Wenn Sie einen solchen Tweet sähen,

0:02:56.038,0:02:58.232
würden Sie sich vielleicht sagen:

0:02:58.232,0:03:00.005
"Das sieht nach Beleidigung aus."

0:03:00.005,0:03:02.992
Denn warum würden Sie [br]so eine Nachricht erhalten wollen?

0:03:02.992,0:03:05.210
"Hey, Schlampe."

0:03:05.210,0:03:07.663
Ich versuche,

0:03:07.663,0:03:12.385
relativ nahe an den neusten Trends [br]und Memes zu bleiben.

0:03:12.385,0:03:15.089
Also wusste ich, dass "Hey, Schlampe"

0:03:15.089,0:03:18.243
sowohl häufig eine Begrüßung [br]unter Freunden ist

0:03:18.243,0:03:22.505
als auch eine gängige Referenz [br]zu "Breaking Bad".

0:03:22.505,0:03:24.992
Ich gebe zu, dass ich nicht [br]erwartet hatte,

0:03:24.992,0:03:27.833
einer vierten Interpretation zu begegnen.

0:03:27.833,0:03:30.937
Der Ausdruck wird auf Twitter [br]auch von Leuten benutzt,

0:03:30.937,0:03:33.999
die Hunde-Rollenspiele praktizieren. [br][bitch = auch: Hündin]

0:03:33.999,0:03:39.278
(Gelächter)

0:03:39.278,0:03:40.944
Tatsächlich ist es in diesem Fall

0:03:40.944,0:03:42.553
nicht nur nicht beleidigend,

0:03:42.553,0:03:45.692
sondern eine völlig korrekte Anrede.

0:03:45.692,0:03:48.581
(Gelächter)

0:03:48.581,0:03:50.872
Also festzustellen,[br]ob etwas beleidigend ist,

0:03:50.872,0:03:52.500
ohne den Zusammenhang zu kennen,

0:03:52.500,0:03:54.092
ist wirklich schwer.

0:03:54.092,0:03:56.679
Schauen wir uns mal Spam an.

0:03:56.679,0:03:58.376
Hier ein Twitter-Account,

0:03:58.376,0:04:00.847
der sich wie ein klassischer [br]Spam-Account verhält,

0:04:00.847,0:04:02.276
indem er denselben Tweet

0:04:02.276,0:04:04.278
an Tausende von Leuten schickt.

0:04:04.280,0:04:06.753
Dieses Beispiel ist von [br]meinem Account konstruiert,

0:04:06.753,0:04:09.664
aber wir beobachten welche, [br]die das ständig tun.

0:04:09.664,0:04:11.573
Scheint ziemlich eindeutig zu sein.

0:04:11.573,0:04:13.626
Wir sollten Accounts,

0:04:13.626,0:04:16.933
die sich so verhalten, [br]einfach automatisch sperren.

0:04:16.933,0:04:20.143
Es gibt aber ein paar [br]Ausnahmen von der Regel.

0:04:20.143,0:04:23.106
Vielleicht haben Sie [br]die Nachricht sogar angefordert,

0:04:23.106,0:04:26.695
weil Sie wissen wollen, [br]wann sich die Internationale Raumstation

0:04:26.695,0:04:28.641
über Ihnen befindet, weil Sie raus gehen

0:04:28.641,0:04:30.659
und schauen wollen, ob Sie sie entdecken.

0:04:30.659,0:04:31.934
Das könnten Sie nicht,

0:04:31.934,0:04:34.321
wenn wir versehentlich[br]den Account sperren würden,

0:04:34.321,0:04:36.047
weil wir denken, es ist Spam.

0:04:36.047,0:04:39.573
Okay. Legen wir die Latte höher.

0:04:39.573,0:04:41.489
Kehren wir zurück zu meinem Account

0:04:41.489,0:04:44.994
und zeigen wir wieder [br]klassisches Verhalten.

0:04:44.994,0:04:47.937
Dieses Mal sendet er die [br]gleiche Nachricht mit gleichem Link,

0:04:47.937,0:04:50.411
was oft ein Anzeichen für "Phishing" ist:

0:04:50.411,0:04:53.589
Jemand versucht, Account-Infos [br]einer anderen Person zu stehlen,

0:04:53.589,0:04:55.792
indem er sie zu einer [br]anderen Webseite lotst.

0:04:55.792,0:04:59.986
Das ist natürlich nicht besonders nett.

0:04:59.986,0:05:01.916
Wir möchten Accounts, die so etwas tun,

0:05:01.916,0:05:04.540
sperren und tun das auch.

0:05:04.540,0:05:07.787
Also warum liegt hier die Latte höher?

0:05:07.787,0:05:10.666
Es könnte auch ein Augenzeuge sein,

0:05:10.666,0:05:13.236
dem es gelang,[br]einen Polizisten zu filmen,

0:05:13.236,0:05:15.966
der einen friedlichen [br]Demonstranten schlägt,

0:05:15.966,0:05:18.941
und Ersterer versucht, die Welt über [br]die Zustände aufzuklären.

0:05:18.941,0:05:20.584
Wir wollen nicht riskieren,

0:05:20.584,0:05:23.101
so wichtige Nachrichten zu unterdrücken,

0:05:23.101,0:05:26.030
indem wir sie als Spam [br]kennzeichnen und aussortieren.

0:05:26.030,0:05:28.909
Deshalb erheben wir Hunderte [br]von Parametern

0:05:28.909,0:05:30.777
beim Beobachten eines Accounts,

0:05:30.777,0:05:32.613
und trotzdem können wir uns irren

0:05:32.613,0:05:34.849
und müssen Entscheidungen zurücknehmen.

0:05:34.849,0:05:38.557
Angesichts der Herausforderungen, [br]denen ich gegenüberstehe,

0:05:38.557,0:05:41.253
ist es wichtig, dass ich Probleme [br]nicht nur voraussehe,

0:05:41.253,0:05:45.037
sondern mich auch gegen [br]das Unerwartete wappne.

0:05:45.037,0:05:47.309
Und das ist nicht nur ein Thema für mich

0:05:47.309,0:05:49.466
oder für Twitter,[br]es ist auch eines für Sie.

0:05:49.466,0:05:51.872
Es ist ein Thema für jeden, [br]der etwas erschafft,

0:05:51.872,0:05:54.387
von dem er denkt,[br]es könnte etwas Wundervolles werden

0:05:54.387,0:05:56.586
und Leute könnten tolle Sachen machen.

0:05:56.586,0:05:59.452
Also was mache ich?

0:05:59.452,0:06:02.770
Ich lege einen Pause ein und denke,

0:06:02.770,0:06:04.865
wie könnte all das

0:06:04.865,0:06:08.658
schrecklich schief laufen?

0:06:08.658,0:06:13.111
Ich stelle mir Katastrophen vor.

0:06:13.111,0:06:15.174
Und das ist schwer.

0:06:15.174,0:06:18.422
Da entsteht im Kopf eine Art [br]ständige "kognitive Dissonanz",

0:06:18.422,0:06:20.674
so als ob man[br]beim Schreiben seines Ehegelübdes

0:06:20.674,0:06:22.880
gleichzeitig den Ehevertrag aufsetzt.

0:06:22.880,0:06:24.576
(Gelächter)

0:06:24.576,0:06:26.949
Aber man muss es tun,

0:06:26.949,0:06:31.395
besonders, wenn man 500 Millionen [br]Tweets täglich "heiratet".

0:06:31.395,0:06:34.492
Was meine ich mit [br]"ich stelle mir Katastrophen vor"?

0:06:34.492,0:06:37.254
Ich versuche mir auszudenken,

0:06:37.254,0:06:40.482
wie etwas so Niedliches und Unschuldiges [br]wie ein Katzenbild

0:06:40.482,0:06:41.586
zum Tode führen könnte

0:06:41.586,0:06:43.912
und wie wir das verhindern können.

0:06:43.912,0:06:46.295
Das ist also mein nächstes Beispiel.

0:06:46.295,0:06:49.225
Das ist meine Katze Eli.

0:06:49.225,0:06:51.556
Wir wollten Usern die Möglichkeit bieten,

0:06:51.556,0:06:53.379
ihren Tweets Fotos beizufügen.

0:06:53.379,0:06:55.056
Ein Bild sagt mehr als 1 000 Worte.

0:06:55.056,0:06:57.065
Man hat nur 140 Zeichen.

0:06:57.065,0:06:58.945
Wenn man seinem Tweet ein Foto beifügt,

0:06:58.945,0:07:01.303
transportiert er wesentlich mehr Inhalt.

0:07:01.303,0:07:02.980
Man kann viele tolle Sachen tun,

0:07:02.980,0:07:04.987
indem man einem Tweet ein Foto beifügt.

0:07:04.987,0:07:07.267
Mein Job ist nicht, darüber nachzudenken.

0:07:07.267,0:07:10.014
Ich muss darüber nachdenken, [br]was schief laufen könnte.

0:07:10.014,0:07:11.906
Wie könnte dieses Bild

0:07:11.906,0:07:15.445
zu meinem Tod führen?

0:07:15.445,0:07:18.605
Hier ist eine Möglichkeit:

0:07:18.605,0:07:21.691
Das Bild zeigt mehr als nur eine Katze.

0:07:21.691,0:07:23.783
Es beinhaltet auch Geodaten.

0:07:23.783,0:07:25.925
Wenn man ein Bild mit dem Smartphone

0:07:25.925,0:07:27.484
oder der Digitalkamera aufnimmt,

0:07:27.484,0:07:29.308
gibt es eine Menge mehr Informationen,

0:07:29.308,0:07:31.054
die mit dem Bild gespeichert werden.

0:07:31.054,0:07:32.736
Tatsächlich beinhaltet dieses Bild

0:07:32.736,0:07:34.301
ungefähr das.

0:07:34.301,0:07:37.380
Genauer gesagt: das.

0:07:37.380,0:07:39.576
Es ist unwahrscheinlich,[br]dass jemand versucht,

0:07:39.576,0:07:41.621
mich aufzuspüren und mir weh zu tun,

0:07:41.621,0:07:43.405
aufgrund von Bilddaten eines Fotos,

0:07:43.405,0:07:45.353
das ich von meiner Katze gemacht habe,

0:07:45.353,0:07:49.004
aber ich muss immer [br]das Schlimmste annehmen.

0:07:49.004,0:07:51.342
Deshalb entschieden wir, [br]als wir damit begannen,

0:07:51.342,0:07:55.163
bei Fotos auf Twitter [br]die Geodaten rauszuziehen.

0:07:55.163,0:08:00.820
(Applaus)

0:08:00.820,0:08:04.650
Ich gehe vom Schlimmsten aus[br]und arbeite mich dann rückwärts.

0:08:04.650,0:08:07.123
So funktionieren die Sicherheitsmaßnahmen

0:08:07.123,0:08:08.891
sowohl für die erwarteten als auch

0:08:08.891,0:08:10.969
für die unerwarteten Fälle.

0:08:10.969,0:08:13.914
Wenn man sich vorstellt, [br]dass ich mir Tag und Nacht

0:08:13.914,0:08:16.455
die schlimmsten Dinge ausdenke,

0:08:16.455,0:08:20.712
wäre es nicht überraschend, wenn ich [br]ein ziemlich düsteres Weltbild hätte.

0:08:20.712,0:08:22.495
(Gelächter)

0:08:22.495,0:08:23.912
Aber so ist es nicht.

0:08:23.912,0:08:27.788
Die überwältigende Mehrheit [br]der Interaktionen, die ich sehe,

0:08:27.788,0:08:31.689
-- und ich sehe viele, glauben Sie mir -- [br]sind positiv.

0:08:31.689,0:08:33.613
Menschen verbinden sich, um zu helfen

0:08:33.613,0:08:37.061
oder Informationen miteinander [br]auszutauschen.

0:08:37.061,0:08:40.384
Nur wir, die mit dieser [br]Größenordnung arbeiten,

0:08:40.384,0:08:44.184
die den Auftrag haben, [br]Menschen zu schützen,

0:08:44.184,0:08:46.730
müssen davon ausgehen,[br]dass das Schlimmste passiert.

0:08:46.730,0:08:50.957
Weil für uns eine Wahrscheinlichkeit [br]von 1 : 1 000 000

0:08:50.957,0:08:53.706
eine ziemlich realistische Wette ist.

0:08:53.706,0:08:55.570
Vielen Dank.

0:08:55.570,0:08:59.570
(Applaus)