0:00:00.984,0:00:02.275
我在推特的工作

0:00:02.275,0:00:04.253
就是去确保用户的信赖，

0:00:04.253,0:00:07.090
保护用户之间的

0:00:07.090,0:00:08.350
以及他们自身的

0:00:08.350,0:00:12.249
权利和安全。

0:00:12.249,0:00:16.524
让我们讨论一下在推特，比例是什么样的。

0:00:16.524,0:00:19.394
在2009年1月，

0:00:19.394,0:00:22.725
每天，在推特上我们可以看见

0:00:22.725,0:00:24.489
超过两百万条推特更新。

0:00:24.489,0:00:30.397
2014年1月有超过五亿条。

0:00:30.397,0:00:32.889
我们那时在六分钟之内

0:00:32.889,0:00:35.065
就可以看见两百万条。

0:00:35.065,0:00:42.049
那是一个24,900％的增长。

0:00:42.049,0:00:45.302
现在，推特上绝大多数的活动

0:00:45.302,0:00:46.805
都没有伤害到任何人。

0:00:46.805,0:00:48.740
不涉及任何风险。

0:00:48.740,0:00:54.493
我的工作就是铲除并防止这类事情的发生。

0:00:54.493,0:00:56.466
听起来简单明了，对吧？

0:00:56.466,0:00:57.618
你可能认为这件事很容易，

0:00:57.618,0:00:59.788
因为我刚说过绝大多数

0:00:59.788,0:01:03.598
在推特上的行为都是无害的。

0:01:03.598,0:01:05.767
为什么花这么多时间

0:01:05.767,0:01:08.510
在无害的行为中

0:01:08.510,0:01:11.410
搜寻潜在的危机呢？

0:01:11.410,0:01:14.350
考虑推特的规模，

0:01:14.350,0:01:16.707
百万分之一几率的可能，

0:01:16.707,0:01:21.583
一天会发生五百次。

0:01:21.583,0:01:23.028
对于其它公司来说，

0:01:23.028,0:01:24.499
他们面临的这个比例是一样的。

0:01:24.499,0:01:26.207
对于我们，边缘案例

0:01:26.207,0:01:29.832
那些不常有，也不大可能发生的情况

0:01:29.832,0:01:32.454
更像是家常便饭。

0:01:32.454,0:01:36.396
假设99.999%的推特

0:01:36.396,0:01:38.284
对任何人无害。

0:01:38.284,0:01:39.350
不涉及任何威胁。

0:01:39.350,0:01:42.304
人们可能在记录旅游胜地，

0:01:42.304,0:01:44.267
比如澳大利亚心型礁，

0:01:44.267,0:01:47.188
或者推文他们正在参加的演唱会，

0:01:47.188,0:01:51.935
或者分享可爱动物的图片。

0:01:51.935,0:01:56.444
在你剔除那99.999%之后，

0:01:56.444,0:01:59.973
剩下的那丁点推文

0:01:59.973,0:02:02.362
被计算出

0:02:02.362,0:02:05.837
每月约有15万条。

0:02:05.837,0:02:08.293
我们所应付的这个庞大规模

0:02:08.293,0:02:10.605
是一个挑战。

0:02:10.605,0:02:11.783
你知道还有什么让我的职位

0:02:11.783,0:02:14.890
特别具有挑战性？

0:02:14.890,0:02:20.013
人们做奇怪的事情。

0:02:20.013,0:02:21.842
（笑声）

0:02:21.842,0:02:24.233
我必须弄明白他们在做什么，

0:02:24.233,0:02:26.482
为什么，以及涉及危险与否，

0:02:26.482,0:02:28.650
而这通常是在我没有掌握

0:02:28.650,0:02:30.497
来龙去脉的情况下。

0:02:30.497,0:02:32.574
我将要展示给你们几个例子，

0:02:32.574,0:02:34.579
是我在推特工作中遇到的---

0:02:34.579,0:02:36.199
这些都是真实的例子-

0:02:36.199,0:02:38.852
这些情况乍看似乎直接了当，

0:02:38.852,0:02:40.495
但事情的真相

0:02:40.495,0:02:42.045
是截然不同的。

0:02:42.045,0:02:44.022
例子的细节有所改动

0:02:44.022,0:02:45.518
是为了去保护那些无辜者

0:02:47.014,0:02:48.512
有时也包括有过的那方。

0:02:48.512,0:02:51.517
让我们从简单的开始。

0:02:51.517,0:02:53.310
【“呦，bitch”】（bitch有母狗，婊子，娘们等意思）

0:02:53.310,0:02:56.538
如果你看到一条推文只有这一句话，

0:02:56.538,0:02:58.232
你可能认为

0:02:58.232,0:02:59.885
”那看起来像是在谩骂。“

0:02:59.885,0:03:02.992
毕竟，你为什么会想收到这条信息呢，

0:03:02.992,0:03:05.210
“呦，婊子。”

0:03:05.210,0:03:09.873
现在，我试图与流行用语的

0:03:09.873,0:03:12.385
最新的释义保持同步，

0:03:12.385,0:03:15.089
所以我知道“呦，婊子”

0:03:15.089,0:03:18.243
有时候也是朋友之间常见的问候方式，

0:03:18.243,0:03:22.505
同时也是美剧《绝命毒师》中一个流行说法。

0:03:22.505,0:03:24.992
我要承认，我没有想到

0:03:24.992,0:03:27.833
我会遇到这个词的第四种用法。

0:03:27.833,0:03:30.937
在推特上

0:03:30.937,0:03:33.999
人们角色扮演狗的时候，也用这个词。

0:03:33.999,0:03:39.278
（笑声）

0:03:39.278,0:03:40.944
所以，在那种情况下，

0:03:40.944,0:03:42.553
这不仅不是谩骂，

0:03:42.553,0:03:45.692
严格的来说，那就是一个准确的问候。

0:03:45.692,0:03:48.581
（笑声）

0:03:48.581,0:03:50.652
所以判断一些没有来龙去脉的东西

0:03:50.652,0:03:52.500
是否出于恶意

0:03:52.500,0:03:54.092
确实困难。

0:03:54.092,0:03:56.809
让我们来看一下垃圾邮件。

0:03:56.809,0:03:58.769
这是一个参与传播

0:03:58.769,0:04:00.437
常见垃圾邮件的账户，

0:04:00.437,0:04:01.996
它向数以千计的人

0:04:01.996,0:04:03.800
发送相同的信息。

0:04:03.800,0:04:06.593
虽然这是我用我的账号模仿的，

0:04:06.593,0:04:09.594
但我们总可以看到有账户在传播这样的垃圾信息。

0:04:09.594,0:04:11.573
看起来非常直白简单。

0:04:11.573,0:04:13.626
我们应该就自动暂停

0:04:13.626,0:04:16.933
参与这种行为的账号。

0:04:16.933,0:04:20.143
但结果中总有些例外情况。

0:04:20.143,0:04:23.026
那些信息也可能是公告提醒，

0:04:23.026,0:04:26.915
比如你想目睹国际空间站略过你上空的情形

0:04:26.915,0:04:28.761
而登记了这个信息。

0:04:28.761,0:04:30.709
希望可以收到提醒，尝试目睹它。

0:04:30.709,0:04:31.934
如果我们错误地认为这是垃圾信息，

0:04:31.934,0:04:33.781
并封了那个账号，

0:04:33.781,0:04:36.047
你将失去目睹国际空间站略过上空的机会。

0:04:36.047,0:04:39.573
让我们把赌注加高一些。

0:04:39.573,0:04:41.489
再来看我的帐号，

0:04:41.489,0:04:44.994
还是展现常见的行为。

0:04:44.994,0:04:47.637
这一次是发同样的信息和链接。

0:04:47.637,0:04:50.411
这通常意味着钓鱼式攻击，（注：一种网络诈骗的手段）

0:04:50.411,0:04:53.589
有人通过将一个人导向另一个网站

0:04:53.589,0:04:55.792
去盗取其账户信息。

0:04:55.792,0:04:59.986
很明显那不是什么好事。

0:04:59.986,0:05:01.916
我们想，也确实封了

0:05:01.916,0:05:04.540
从事那种行为的账户。

0:05:04.540,0:05:07.787
但为什么对这种行为的赌注更高呢？

0:05:07.787,0:05:10.786
这也可能是一个身处集会中的旁观者

0:05:10.786,0:05:12.696
录下了一段关于

0:05:12.696,0:05:15.966
警察殴打一个无辜抗议者的视频

0:05:15.966,0:05:18.941
他想让全世界知道发生了什么。

0:05:18.941,0:05:20.584
我们不想

0:05:20.584,0:05:23.101
在把那个关键演说通过分类为垃圾并暂停账号而可能导致的后果

0:05:23.101,0:05:26.030
上做冒险。

0:05:26.030,0:05:28.909
那也就意味着，当我们观察账户行为的时候

0:05:28.909,0:05:30.597
我们评估成百上千的因素

0:05:30.597,0:05:32.613
即使这样，我们仍然会犯错，

0:05:32.613,0:05:34.849
并需要重新评价。

0:05:34.849,0:05:38.557
在这些挑战面前

0:05:38.557,0:05:41.253
关键在于我不仅要预测

0:05:41.253,0:05:45.037
而且防御不可预测的事情。

0:05:45.037,0:05:47.379
那不单是我的问题，

0:05:47.379,0:05:49.466
或者推特的问题，这也是你们的问题。

0:05:49.466,0:05:51.872
对于任何在创建美好事物，

0:05:51.872,0:05:53.797
或者为他人造福的人来说

0:05:53.797,0:05:56.586
都是一个问题。

0:05:56.586,0:05:59.452
那么我能做些什么呢？

0:05:59.452,0:06:02.770
我停下并思考，

0:06:02.770,0:06:04.865
这些事能如何

0:06:04.865,0:06:08.658
变得很糟糕的呢？

0:06:08.658,0:06:13.111
我想象灾难。

0:06:13.111,0:06:15.574
但是那很难。好像有一种

0:06:15.574,0:06:18.422
与生俱来的认知失调在作怪，

0:06:18.422,0:06:20.234
就像你同时写结婚誓言[br]

0:06:20.234,0:06:22.880
和婚前协议一样。[br]

0:06:22.880,0:06:24.576
（笑声）

0:06:24.576,0:06:26.949
但你还是得去做，

0:06:26.949,0:06:31.395
特别是当你一天得处理5亿条推文时。

0:06:31.395,0:06:34.492
我说的“想象灾难”是什么意思呢？

0:06:34.492,0:06:37.254
我试想，像猫的照片一样

0:06:37.254,0:06:40.482
温和并无害的东西

0:06:40.482,0:06:41.586
能如何导致死亡，

0:06:41.586,0:06:43.912
并想办法去阻止其发生。

0:06:43.912,0:06:46.295
这也是我的下一个例子。

0:06:46.295,0:06:49.405
这是我的猫，伊莱。

0:06:49.405,0:06:51.386
我们想要给予用户

0:06:51.386,0:06:53.459
将图片加到他们推文的能力。

0:06:53.459,0:06:55.056
一张图片胜过千言万语。

0:06:55.056,0:06:57.065
（一次推文）你只能输入140个字。

0:06:57.065,0:06:58.265
当你在推文里加一张图片时，

0:06:58.265,0:07:01.303
看看现在你发表的内容有多丰富。

0:07:01.303,0:07:02.980
通过在推文里添加图片，

0:07:02.980,0:07:04.987
你可以做各种各样神奇的事。

0:07:04.987,0:07:07.267
我的工作不是去想那些事情，

0:07:07.267,0:07:10.014
而是去想会发生什么问题。

0:07:10.014,0:07:11.906
这张图片能如何

0:07:11.906,0:07:15.445
导致我的死亡呢？

0:07:15.445,0:07:18.605
有一个可能性。

0:07:18.605,0:07:21.691
除了一只猫以外，这个图片里还有其它信息。

0:07:21.691,0:07:23.783
那里有地理信息。

0:07:23.783,0:07:25.995
当你用你的智能手机或数码相机

0:07:25.995,0:07:27.294
照一张照片时，

0:07:27.294,0:07:28.948
很多额外的信息

0:07:28.948,0:07:30.564
也会随着照片保留下来。

0:07:30.564,0:07:32.496
事实上，这张照图片还

0:07:32.496,0:07:34.301
指明了这个，

0:07:34.301,0:07:37.380
更加具体些，是这个。

0:07:37.380,0:07:39.336
没错，不大可能有人准备

0:07:39.336,0:07:41.621
根据我的猫的照片中数据

0:07:41.621,0:07:43.405
追踪我

0:07:43.405,0:07:45.353
并伤害我，

0:07:45.353,0:07:49.004
但是我开始假设最坏的事情会发生。

0:07:49.004,0:07:51.342
这也是为什么当我们推出加载图片功能的时候，

0:07:51.342,0:07:55.163
我们决定消除那些地理数据。

0:07:55.163,0:08:01.010
（掌声）

0:08:01.010,0:08:03.623
如果我从假设最坏的事开始，

0:08:03.623,0:08:04.570
并反向推理，

0:08:04.570,0:08:07.123
我可以确保我们所设置的保护

0:08:07.123,0:08:08.891
对于可预知与

0:08:08.891,0:08:10.969
不可预知的事件同时有效。

0:08:10.969,0:08:13.914
假设我日夜

0:08:13.914,0:08:16.455
想象可能发生的最坏的事情，

0:08:16.455,0:08:20.712
我的世界观有些阴郁并不令人惊奇。

0:08:20.712,0:08:22.495
（笑声）

0:08:22.495,0:08:23.912
但这并不是事实。

0:08:23.912,0:08:27.788
我看到的绝大多数的（推特）互动

0:08:27.788,0:08:31.689
是积极的，相信我，我看过很多，

0:08:31.689,0:08:33.613
人们伸出援助之手，

0:08:33.613,0:08:37.061
或者相互连接或分享信息。

0:08:37.061,0:08:40.384
因为我们要应付安全风险，

0:08:40.384,0:08:44.184
我们承担着保证大众安全的责任，

0:08:44.184,0:08:46.730
我们必须假设最坏的事情会发生，

0:08:46.730,0:08:50.957
因为对于我们来说百万分之一的几率

0:08:50.957,0:08:53.706
是一个非常大的可能性。

0:08:53.706,0:08:55.570
谢谢

0:08:55.570,0:08:59.570
（掌声）