1
00:00:00,984 --> 00:00:02,385
Mein Job bei Twitter ist es,

2
00:00:02,385 --> 00:00:04,253
das Vertrauen der User zu bewahren,

3
00:00:04,253 --> 00:00:07,090
User-Rechte zu sichern 
und sie zu beschützen,

4
00:00:07,090 --> 00:00:08,350
sowohl voreinander

5
00:00:08,350 --> 00:00:12,249
als manchmal auch vor sich selbst.

6
00:00:12,249 --> 00:00:16,524
Reden wir über die 
Größenordnungen bei Twitter.

7
00:00:16,524 --> 00:00:19,394
Im Januar 2009

8
00:00:19,394 --> 00:00:21,905
gab es auf der Plattform jeden Tag

9
00:00:21,905 --> 00:00:24,489
mehr als 2 Millionen neue Tweets.

10
00:00:24,489 --> 00:00:30,397
Im Januar 2014 waren es
mehr als 500 Millionen.

11
00:00:30,397 --> 00:00:32,889
2 Millionen Tweets geschehen jetzt

12
00:00:32,889 --> 00:00:35,065
innerhalb von weniger als 6 Minuten.

13
00:00:35,065 --> 00:00:42,257
Das ist eine Steigerung um 24 900 %.

14
00:00:42,257 --> 00:00:45,735
Die große Mehrheit 
aller Aktivitäten auf Twitter

15
00:00:45,735 --> 00:00:47,383
schadet niemandem.

16
00:00:47,383 --> 00:00:48,846
Da besteht kein Risiko.

17
00:00:48,846 --> 00:00:52,813
Mein Job ist es, jene Aktivitäten 
auszumerzen und zu verhindern,

18
00:00:52,813 --> 00:00:54,140
die schädlich sein könnten.

19
00:00:54,140 --> 00:00:56,678
Hört sich wie ein Kinderspiel an.

20
00:00:56,678 --> 00:00:58,598
Vielleicht denken Sie, das wäre einfach,

21
00:00:58,598 --> 00:00:59,967
da ich ja gerade sagte,

22
00:00:59,967 --> 00:01:03,970
dass die große Mehrheit der Aktivitäten 
auf Twitter niemandem schadet.

23
00:01:03,970 --> 00:01:06,660
Warum also so viel Zeit damit verbringen,

24
00:01:06,660 --> 00:01:09,350
nach potenziellem Unheil

25
00:01:09,350 --> 00:01:11,880
in harmlosen Aktivitäten zu suchen?

26
00:01:11,880 --> 00:01:14,543
Angesichts der Größe von Twitter

27
00:01:14,543 --> 00:01:17,598
geschehen Dinge mit einer 
Wahrscheinlichkeit von 1 : 1 000 000

28
00:01:17,598 --> 00:01:20,489
ganze 500-mal am Tag.

29
00:01:22,029 --> 00:01:24,177
Das Gleiche gilt für andere Unternehmen

30
00:01:24,177 --> 00:01:25,012
ähnlicher Größe.

31
00:01:25,012 --> 00:01:27,794
Für uns sind solche Ausnahmefälle,

32
00:01:27,794 --> 00:01:31,116
seltene, unwahrscheinliche Situationen,

33
00:01:31,116 --> 00:01:32,594
eher der Normfall.

34
00:01:32,594 --> 00:01:36,750
Sagen wir mal, 99,999 % der Tweets

35
00:01:36,750 --> 00:01:38,574
gefährden niemanden.

36
00:01:38,574 --> 00:01:40,107
Von ihnen geht keine Gefahr aus.

37
00:01:40,107 --> 00:01:42,958
Vielleicht dokumentieren 
Leute Sehenswürdigkeiten,

38
00:01:42,958 --> 00:01:44,815
so wie das "Heart Reef" in Australien,

39
00:01:44,815 --> 00:01:48,014
oder twittern über ein Konzert, 
auf dem sie sind,

40
00:01:48,014 --> 00:01:52,373
oder teilen Bilder von 
niedlichen Tierbabys.

41
00:01:52,373 --> 00:01:57,292
Wenn man die 99,999 % ausblendet,

42
00:01:57,292 --> 00:02:00,407
kommt der winzige verbleibende 
Prozentsatz von Tweets

43
00:02:00,407 --> 00:02:03,023
noch immer auf nahezu

44
00:02:03,023 --> 00:02:06,225
150 000 im Monat.

45
00:02:06,225 --> 00:02:08,583
Die schiere Größe,
mit der wir es zu tun haben,

46
00:02:08,583 --> 00:02:10,910
macht es zu einer Herausforderung.

47
00:02:10,910 --> 00:02:13,023
Wissen Sie, was für mich noch

48
00:02:13,023 --> 00:02:15,422
eine große Herausforderung darstellt?

49
00:02:15,422 --> 00:02:19,953
Leute machen komisches Zeug.

50
00:02:19,953 --> 00:02:22,292
(Gelächter)

51
00:02:22,292 --> 00:02:24,601
Ich muss herausfinden, was sie machen,

52
00:02:24,601 --> 00:02:26,840
warum, und ob ein Risiko besteht,

53
00:02:26,840 --> 00:02:29,034
oft ohne viel Wissen
über die Zusammenhänge

54
00:02:29,034 --> 00:02:30,979
oder Hintergründe.

55
00:02:30,979 --> 00:02:32,969
Ich zeige Ihnen ein paar Beispiele,

56
00:02:32,969 --> 00:02:35,044
auf die ich bei Twitter gestoßen bin.

57
00:02:35,044 --> 00:02:37,309
Das sind echte Beispiele von Situationen,

58
00:02:37,309 --> 00:02:39,585
die erst ganz klar schienen,

59
00:02:39,585 --> 00:02:42,065
aber in Wahrheit völlig anders waren.

60
00:02:42,076 --> 00:02:43,717
Manche Details wurden verändert,

61
00:02:43,717 --> 00:02:45,359
um Unschuldige zu schützen

62
00:02:45,359 --> 00:02:47,823
-- und manchmal auch die Schuldigen.

63
00:02:47,823 --> 00:02:51,517
Wir beginnen mal ganz einfach.

64
00:02:51,517 --> 00:02:53,602
["Hey, Schlampe"]

65
00:02:53,602 --> 00:02:56,037
Wenn Sie einen solchen Tweet sähen,

66
00:02:56,038 --> 00:02:58,232
würden Sie sich vielleicht sagen:

67
00:02:58,232 --> 00:03:00,005
"Das sieht nach Beleidigung aus."

68
00:03:00,005 --> 00:03:02,992
Denn warum würden Sie 
so eine Nachricht erhalten wollen?

69
00:03:02,992 --> 00:03:05,210
"Hey, Schlampe."

70
00:03:05,210 --> 00:03:07,663
Ich versuche,

71
00:03:07,663 --> 00:03:12,385
relativ nahe an den neusten Trends 
und Memes zu bleiben.

72
00:03:12,385 --> 00:03:15,089
Also wusste ich, dass "Hey, Schlampe"

73
00:03:15,089 --> 00:03:18,243
sowohl häufig eine Begrüßung 
unter Freunden ist

74
00:03:18,243 --> 00:03:22,505
als auch eine gängige Referenz 
zu "Breaking Bad".

75
00:03:22,505 --> 00:03:24,992
Ich gebe zu, dass ich nicht 
erwartet hatte,

76
00:03:24,992 --> 00:03:27,833
einer vierten Interpretation zu begegnen.

77
00:03:27,833 --> 00:03:30,937
Der Ausdruck wird auf Twitter 
auch von Leuten benutzt,

78
00:03:30,937 --> 00:03:33,999
die Hunde-Rollenspiele praktizieren. 
[bitch = auch: Hündin]

79
00:03:33,999 --> 00:03:39,278
(Gelächter)

80
00:03:39,278 --> 00:03:40,944
Tatsächlich ist es in diesem Fall

81
00:03:40,944 --> 00:03:42,553
nicht nur nicht beleidigend,

82
00:03:42,553 --> 00:03:45,692
sondern eine völlig korrekte Anrede.

83
00:03:45,692 --> 00:03:48,581
(Gelächter)

84
00:03:48,581 --> 00:03:50,872
Also festzustellen,
ob etwas beleidigend ist,

85
00:03:50,872 --> 00:03:52,500
ohne den Zusammenhang zu kennen,

86
00:03:52,500 --> 00:03:54,092
ist wirklich schwer.

87
00:03:54,092 --> 00:03:56,679
Schauen wir uns mal Spam an.

88
00:03:56,679 --> 00:03:58,376
Hier ein Twitter-Account,

89
00:03:58,376 --> 00:04:00,847
der sich wie ein klassischer 
Spam-Account verhält,

90
00:04:00,847 --> 00:04:02,276
indem er denselben Tweet

91
00:04:02,276 --> 00:04:04,278
an Tausende von Leuten schickt.

92
00:04:04,280 --> 00:04:06,753
Dieses Beispiel ist von 
meinem Account konstruiert,

93
00:04:06,753 --> 00:04:09,664
aber wir beobachten welche, 
die das ständig tun.

94
00:04:09,664 --> 00:04:11,573
Scheint ziemlich eindeutig zu sein.

95
00:04:11,573 --> 00:04:13,626
Wir sollten Accounts,

96
00:04:13,626 --> 00:04:16,933
die sich so verhalten, 
einfach automatisch sperren.

97
00:04:16,933 --> 00:04:20,143
Es gibt aber ein paar 
Ausnahmen von der Regel.

98
00:04:20,143 --> 00:04:23,106
Vielleicht haben Sie 
die Nachricht sogar angefordert,

99
00:04:23,106 --> 00:04:26,695
weil Sie wissen wollen, 
wann sich die Internationale Raumstation

100
00:04:26,695 --> 00:04:28,641
über Ihnen befindet, weil Sie raus gehen

101
00:04:28,641 --> 00:04:30,659
und schauen wollen, ob Sie sie entdecken.

102
00:04:30,659 --> 00:04:31,934
Das könnten Sie nicht,

103
00:04:31,934 --> 00:04:34,321
wenn wir versehentlich
den Account sperren würden,

104
00:04:34,321 --> 00:04:36,047
weil wir denken, es ist Spam.

105
00:04:36,047 --> 00:04:39,573
Okay. Legen wir die Latte höher.

106
00:04:39,573 --> 00:04:41,489
Kehren wir zurück zu meinem Account

107
00:04:41,489 --> 00:04:44,994
und zeigen wir wieder 
klassisches Verhalten.

108
00:04:44,994 --> 00:04:47,937
Dieses Mal sendet er die 
gleiche Nachricht mit gleichem Link,

109
00:04:47,937 --> 00:04:50,411
was oft ein Anzeichen für "Phishing" ist:

110
00:04:50,411 --> 00:04:53,589
Jemand versucht, Account-Infos 
einer anderen Person zu stehlen,

111
00:04:53,589 --> 00:04:55,792
indem er sie zu einer 
anderen Webseite lotst.

112
00:04:55,792 --> 00:04:59,986
Das ist natürlich nicht besonders nett.

113
00:04:59,986 --> 00:05:01,916
Wir möchten Accounts, die so etwas tun,

114
00:05:01,916 --> 00:05:04,540
sperren und tun das auch.

115
00:05:04,540 --> 00:05:07,787
Also warum liegt hier die Latte höher?

116
00:05:07,787 --> 00:05:10,666
Es könnte auch ein Augenzeuge sein,

117
00:05:10,666 --> 00:05:13,236
dem es gelang,
einen Polizisten zu filmen,

118
00:05:13,236 --> 00:05:15,966
der einen friedlichen 
Demonstranten schlägt,

119
00:05:15,966 --> 00:05:18,941
und Ersterer versucht, die Welt über 
die Zustände aufzuklären.

120
00:05:18,941 --> 00:05:20,584
Wir wollen nicht riskieren,

121
00:05:20,584 --> 00:05:23,101
so wichtige Nachrichten zu unterdrücken,

122
00:05:23,101 --> 00:05:26,030
indem wir sie als Spam 
kennzeichnen und aussortieren.

123
00:05:26,030 --> 00:05:28,909
Deshalb erheben wir Hunderte 
von Parametern

124
00:05:28,909 --> 00:05:30,777
beim Beobachten eines Accounts,

125
00:05:30,777 --> 00:05:32,613
und trotzdem können wir uns irren

126
00:05:32,613 --> 00:05:34,849
und müssen Entscheidungen zurücknehmen.

127
00:05:34,849 --> 00:05:38,557
Angesichts der Herausforderungen, 
denen ich gegenüberstehe,

128
00:05:38,557 --> 00:05:41,253
ist es wichtig, dass ich Probleme 
nicht nur voraussehe,

129
00:05:41,253 --> 00:05:45,037
sondern mich auch gegen 
das Unerwartete wappne.

130
00:05:45,037 --> 00:05:47,309
Und das ist nicht nur ein Thema für mich

131
00:05:47,309 --> 00:05:49,466
oder für Twitter,
es ist auch eines für Sie.

132
00:05:49,466 --> 00:05:51,872
Es ist ein Thema für jeden, 
der etwas erschafft,

133
00:05:51,872 --> 00:05:54,387
von dem er denkt,
es könnte etwas Wundervolles werden

134
00:05:54,387 --> 00:05:56,586
und Leute könnten tolle Sachen machen.

135
00:05:56,586 --> 00:05:59,452
Also was mache ich?

136
00:05:59,452 --> 00:06:02,770
Ich lege einen Pause ein und denke,

137
00:06:02,770 --> 00:06:04,865
wie könnte all das

138
00:06:04,865 --> 00:06:08,658
schrecklich schief laufen?

139
00:06:08,658 --> 00:06:13,111
Ich stelle mir Katastrophen vor.

140
00:06:13,111 --> 00:06:15,174
Und das ist schwer.

141
00:06:15,174 --> 00:06:18,422
Da entsteht im Kopf eine Art 
ständige "kognitive Dissonanz",

142
00:06:18,422 --> 00:06:20,674
so als ob man
beim Schreiben seines Ehegelübdes

143
00:06:20,674 --> 00:06:22,880
gleichzeitig den Ehevertrag aufsetzt.

144
00:06:22,880 --> 00:06:24,576
(Gelächter)

145
00:06:24,576 --> 00:06:26,949
Aber man muss es tun,

146
00:06:26,949 --> 00:06:31,395
besonders, wenn man 500 Millionen 
Tweets täglich "heiratet".

147
00:06:31,395 --> 00:06:34,492
Was meine ich mit 
"ich stelle mir Katastrophen vor"?

148
00:06:34,492 --> 00:06:37,254
Ich versuche mir auszudenken,

149
00:06:37,254 --> 00:06:40,482
wie etwas so Niedliches und Unschuldiges 
wie ein Katzenbild

150
00:06:40,482 --> 00:06:41,586
zum Tode führen könnte

151
00:06:41,586 --> 00:06:43,912
und wie wir das verhindern können.

152
00:06:43,912 --> 00:06:46,295
Das ist also mein nächstes Beispiel.

153
00:06:46,295 --> 00:06:49,225
Das ist meine Katze Eli.

154
00:06:49,225 --> 00:06:51,556
Wir wollten Usern die Möglichkeit bieten,

155
00:06:51,556 --> 00:06:53,379
ihren Tweets Fotos beizufügen.

156
00:06:53,379 --> 00:06:55,056
Ein Bild sagt mehr als 1 000 Worte.

157
00:06:55,056 --> 00:06:57,065
Man hat nur 140 Zeichen.

158
00:06:57,065 --> 00:06:58,945
Wenn man seinem Tweet ein Foto beifügt,

159
00:06:58,945 --> 00:07:01,303
transportiert er wesentlich mehr Inhalt.

160
00:07:01,303 --> 00:07:02,980
Man kann viele tolle Sachen tun,

161
00:07:02,980 --> 00:07:04,987
indem man einem Tweet ein Foto beifügt.

162
00:07:04,987 --> 00:07:07,267
Mein Job ist nicht, darüber nachzudenken.

163
00:07:07,267 --> 00:07:10,014
Ich muss darüber nachdenken, 
was schief laufen könnte.

164
00:07:10,014 --> 00:07:11,906
Wie könnte dieses Bild

165
00:07:11,906 --> 00:07:15,445
zu meinem Tod führen?

166
00:07:15,445 --> 00:07:18,605
Hier ist eine Möglichkeit:

167
00:07:18,605 --> 00:07:21,691
Das Bild zeigt mehr als nur eine Katze.

168
00:07:21,691 --> 00:07:23,783
Es beinhaltet auch Geodaten.

169
00:07:23,783 --> 00:07:25,925
Wenn man ein Bild mit dem Smartphone

170
00:07:25,925 --> 00:07:27,484
oder der Digitalkamera aufnimmt,

171
00:07:27,484 --> 00:07:29,308
gibt es eine Menge mehr Informationen,

172
00:07:29,308 --> 00:07:31,054
die mit dem Bild gespeichert werden.

173
00:07:31,054 --> 00:07:32,736
Tatsächlich beinhaltet dieses Bild

174
00:07:32,736 --> 00:07:34,301
ungefähr das.

175
00:07:34,301 --> 00:07:37,380
Genauer gesagt: das.

176
00:07:37,380 --> 00:07:39,576
Es ist unwahrscheinlich,
dass jemand versucht,

177
00:07:39,576 --> 00:07:41,621
mich aufzuspüren und mir weh zu tun,

178
00:07:41,621 --> 00:07:43,405
aufgrund von Bilddaten eines Fotos,

179
00:07:43,405 --> 00:07:45,353
das ich von meiner Katze gemacht habe,

180
00:07:45,353 --> 00:07:49,004
aber ich muss immer 
das Schlimmste annehmen.

181
00:07:49,004 --> 00:07:51,342
Deshalb entschieden wir, 
als wir damit begannen,

182
00:07:51,342 --> 00:07:55,163
bei Fotos auf Twitter 
die Geodaten rauszuziehen.

183
00:07:55,163 --> 00:08:00,820
(Applaus)

184
00:08:00,820 --> 00:08:04,650
Ich gehe vom Schlimmsten aus
und arbeite mich dann rückwärts.

185
00:08:04,650 --> 00:08:07,123
So funktionieren die Sicherheitsmaßnahmen

186
00:08:07,123 --> 00:08:08,891
sowohl für die erwarteten als auch

187
00:08:08,891 --> 00:08:10,969
für die unerwarteten Fälle.

188
00:08:10,969 --> 00:08:13,914
Wenn man sich vorstellt, 
dass ich mir Tag und Nacht

189
00:08:13,914 --> 00:08:16,455
die schlimmsten Dinge ausdenke,

190
00:08:16,455 --> 00:08:20,712
wäre es nicht überraschend, wenn ich 
ein ziemlich düsteres Weltbild hätte.

191
00:08:20,712 --> 00:08:22,495
(Gelächter)

192
00:08:22,495 --> 00:08:23,912
Aber so ist es nicht.

193
00:08:23,912 --> 00:08:27,788
Die überwältigende Mehrheit 
der Interaktionen, die ich sehe,

194
00:08:27,788 --> 00:08:31,689
-- und ich sehe viele, glauben Sie mir -- 
sind positiv.

195
00:08:31,689 --> 00:08:33,613
Menschen verbinden sich, um zu helfen

196
00:08:33,613 --> 00:08:37,061
oder Informationen miteinander 
auszutauschen.

197
00:08:37,061 --> 00:08:40,384
Nur wir, die mit dieser 
Größenordnung arbeiten,

198
00:08:40,384 --> 00:08:44,184
die den Auftrag haben, 
Menschen zu schützen,

199
00:08:44,184 --> 00:08:46,730
müssen davon ausgehen,
dass das Schlimmste passiert.

200
00:08:46,730 --> 00:08:50,957
Weil für uns eine Wahrscheinlichkeit 
von 1 : 1 000 000

201
00:08:50,957 --> 00:08:53,706
eine ziemlich realistische Wette ist.

202
00:08:53,706 --> 00:08:55,570
Vielen Dank.

203
00:08:55,570 --> 00:08:59,570
(Applaus)