WEBVTT

00:00:00.984 --> 00:00:02.275
我在推特的工作

00:00:02.275 --> 00:00:04.253
就是去确保用户的信赖，

00:00:04.253 --> 00:00:07.090
保护用户之间的

00:00:07.090 --> 00:00:08.350
以及他们自身的

00:00:08.350 --> 00:00:12.249
权利和安全。

00:00:12.249 --> 00:00:16.524
让我们讨论一下在推特，比例是什么样的。

00:00:16.524 --> 00:00:19.394
在2009年1月，

00:00:19.394 --> 00:00:22.725
每天，在推特上我们可以看见

00:00:22.725 --> 00:00:24.489
超过两百万条推特更新。

00:00:24.489 --> 00:00:30.397
2014年1月有超过五亿条。

00:00:30.397 --> 00:00:32.889
我们那时在六分钟之内

00:00:32.889 --> 00:00:35.065
就可以看见两百万条。

00:00:35.065 --> 00:00:42.049
那是一个24,900％的增长。

NOTE Paragraph

00:00:42.049 --> 00:00:45.302
现在，推特上绝大多数的活动

00:00:45.302 --> 00:00:46.805
都没有伤害到任何人。

00:00:46.805 --> 00:00:48.740
不涉及任何风险。

00:00:48.740 --> 00:00:54.493
我的工作就是铲除并防止这类事情的发生。

00:00:54.493 --> 00:00:56.466
听起来简单明了，对吧？

00:00:56.466 --> 00:00:57.618
你可能认为这件事很容易，

00:00:57.618 --> 00:00:59.788
因为我刚说过绝大多数

00:00:59.788 --> 00:01:03.598
在推特上的行为都是无害的。

00:01:03.598 --> 00:01:05.767
为什么花这么多时间

00:01:05.767 --> 00:01:08.510
在无害的行为中

00:01:08.510 --> 00:01:11.410
搜寻潜在的危机呢？

00:01:11.410 --> 00:01:14.350
考虑推特的规模，

00:01:14.350 --> 00:01:16.707
百万分之一几率的可能，

00:01:16.707 --> 00:01:21.583
一天会发生五百次。

00:01:21.583 --> 00:01:23.028
对于其它公司来说，

00:01:23.028 --> 00:01:24.499
他们面临的这个比例是一样的。

00:01:24.499 --> 00:01:26.207
对于我们，边缘案例

00:01:26.207 --> 00:01:29.832
那些不常有，也不大可能发生的情况

00:01:29.832 --> 00:01:32.454
更像是家常便饭。

00:01:32.454 --> 00:01:36.396
假设99.999%的推特

00:01:36.396 --> 00:01:38.284
对任何人无害。

00:01:38.284 --> 00:01:39.350
不涉及任何威胁。

00:01:39.350 --> 00:01:42.304
人们可能在记录旅游胜地，

00:01:42.304 --> 00:01:44.267
比如澳大利亚心型礁，

00:01:44.267 --> 00:01:47.188
或者推文他们正在参加的演唱会，

00:01:47.188 --> 00:01:51.935
或者分享可爱动物的图片。

00:01:51.935 --> 00:01:56.444
在你剔除那99.999%之后，

00:01:56.444 --> 00:01:59.973
剩下的那丁点推文

00:01:59.973 --> 00:02:02.362
被计算出

00:02:02.362 --> 00:02:05.837
每月约有15万条。

00:02:05.837 --> 00:02:08.293
我们所应付的这个庞大规模

00:02:08.293 --> 00:02:10.605
是一个挑战。

NOTE Paragraph

00:02:10.605 --> 00:02:11.783
你知道还有什么让我的职位

00:02:11.783 --> 00:02:14.890
特别具有挑战性？

00:02:14.890 --> 00:02:20.013
人们做奇怪的事情。

00:02:20.013 --> 00:02:21.842
（笑声）

00:02:21.842 --> 00:02:24.233
我必须弄明白他们在做什么，

00:02:24.233 --> 00:02:26.482
为什么，以及涉及危险与否，

00:02:26.482 --> 00:02:28.650
而这通常是在我没有掌握

00:02:28.650 --> 00:02:30.497
来龙去脉的情况下。

00:02:30.497 --> 00:02:32.574
我将要展示给你们几个例子，

00:02:32.574 --> 00:02:34.579
是我在推特工作中遇到的---

00:02:34.579 --> 00:02:36.199
这些都是真实的例子-

00:02:36.199 --> 00:02:38.852
这些情况乍看似乎直接了当，

00:02:38.852 --> 00:02:40.495
但事情的真相

00:02:40.495 --> 00:02:42.045
是截然不同的。

00:02:42.045 --> 00:02:44.022
例子的细节有所改动

00:02:44.022 --> 00:02:45.518
是为了去保护那些无辜者

00:02:47.014 --> 00:02:48.512
有时也包括有过的那方。

00:02:48.512 --> 00:02:51.517
让我们从简单的开始。

NOTE Paragraph

00:02:51.517 --> 00:02:53.310
【“呦，bitch”】（bitch有母狗，婊子，娘们等意思）

NOTE Paragraph

00:02:53.310 --> 00:02:56.538
如果你看到一条推文只有这一句话，

00:02:56.538 --> 00:02:58.232
你可能认为

00:02:58.232 --> 00:02:59.885
”那看起来像是在谩骂。“

00:02:59.885 --> 00:03:02.992
毕竟，你为什么会想收到这条信息呢，

00:03:02.992 --> 00:03:05.210
“呦，婊子。”

00:03:05.210 --> 00:03:09.873
现在，我试图与流行用语的

00:03:09.873 --> 00:03:12.385
最新的释义保持同步，

00:03:12.385 --> 00:03:15.089
所以我知道“呦，婊子”

00:03:15.089 --> 00:03:18.243
有时候也是朋友之间常见的问候方式，

00:03:18.243 --> 00:03:22.505
同时也是美剧《绝命毒师》中一个流行说法。

00:03:22.505 --> 00:03:24.992
我要承认，我没有想到

00:03:24.992 --> 00:03:27.833
我会遇到这个词的第四种用法。

00:03:27.833 --> 00:03:30.937
在推特上

00:03:30.937 --> 00:03:33.999
人们角色扮演狗的时候，也用这个词。

00:03:33.999 --> 00:03:39.278
（笑声）

00:03:39.278 --> 00:03:40.944
所以，在那种情况下，

00:03:40.944 --> 00:03:42.553
这不仅不是谩骂，

00:03:42.553 --> 00:03:45.692
严格的来说，那就是一个准确的问候。

00:03:45.692 --> 00:03:48.581
（笑声）

NOTE Paragraph

00:03:48.581 --> 00:03:50.652
所以判断一些没有来龙去脉的东西

00:03:50.652 --> 00:03:52.500
是否出于恶意

00:03:52.500 --> 00:03:54.092
确实困难。

NOTE Paragraph

00:03:54.092 --> 00:03:56.809
让我们来看一下垃圾邮件。

00:03:56.809 --> 00:03:58.769
这是一个参与传播

00:03:58.769 --> 00:04:00.437
常见垃圾邮件的账户，

00:04:00.437 --> 00:04:01.996
它向数以千计的人

00:04:01.996 --> 00:04:03.800
发送相同的信息。

00:04:03.800 --> 00:04:06.593
虽然这是我用我的账号模仿的，

00:04:06.593 --> 00:04:09.594
但我们总可以看到有账户在传播这样的垃圾信息。

00:04:09.594 --> 00:04:11.573
看起来非常直白简单。

00:04:11.573 --> 00:04:13.626
我们应该就自动暂停

00:04:13.626 --> 00:04:16.933
参与这种行为的账号。

00:04:16.933 --> 00:04:20.143
但结果中总有些例外情况。

00:04:20.143 --> 00:04:23.026
那些信息也可能是公告提醒，

00:04:23.026 --> 00:04:26.915
比如你想目睹国际空间站略过你上空的情形

00:04:26.915 --> 00:04:28.761
而登记了这个信息。

00:04:28.761 --> 00:04:30.709
希望可以收到提醒，尝试目睹它。

00:04:30.709 --> 00:04:31.934
如果我们错误地认为这是垃圾信息，

00:04:31.934 --> 00:04:33.781
并封了那个账号，

00:04:33.781 --> 00:04:36.047
你将失去目睹国际空间站略过上空的机会。

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
让我们把赌注加高一些。

00:04:39.573 --> 00:04:41.489
再来看我的帐号，

00:04:41.489 --> 00:04:44.994
还是展现常见的行为。

00:04:44.994 --> 00:04:47.637
这一次是发同样的信息和链接。

00:04:47.637 --> 00:04:50.411
这通常意味着钓鱼式攻击，（注：一种网络诈骗的手段）

00:04:50.411 --> 00:04:53.589
有人通过将一个人导向另一个网站

00:04:53.589 --> 00:04:55.792
去盗取其账户信息。

00:04:55.792 --> 00:04:59.986
很明显那不是什么好事。

00:04:59.986 --> 00:05:01.916
我们想，也确实封了

00:05:01.916 --> 00:05:04.540
从事那种行为的账户。

00:05:04.540 --> 00:05:07.787
但为什么对这种行为的赌注更高呢？

00:05:07.787 --> 00:05:10.786
这也可能是一个身处集会中的旁观者

00:05:10.786 --> 00:05:12.696
录下了一段关于

00:05:12.696 --> 00:05:15.966
警察殴打一个无辜抗议者的视频

00:05:15.966 --> 00:05:18.941
他想让全世界知道发生了什么。

00:05:18.941 --> 00:05:20.584
我们不想

00:05:20.584 --> 00:05:23.101
在把那个关键演说通过分类为垃圾并暂停账号而可能导致的后果

00:05:23.101 --> 00:05:26.030
上做冒险。

00:05:26.030 --> 00:05:28.909
那也就意味着，当我们观察账户行为的时候

00:05:28.909 --> 00:05:30.597
我们评估成百上千的因素

00:05:30.597 --> 00:05:32.613
即使这样，我们仍然会犯错，

00:05:32.613 --> 00:05:34.849
并需要重新评价。

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
在这些挑战面前

00:05:38.557 --> 00:05:41.253
关键在于我不仅要预测

00:05:41.253 --> 00:05:45.037
而且防御不可预测的事情。

00:05:45.037 --> 00:05:47.379
那不单是我的问题，

00:05:47.379 --> 00:05:49.466
或者推特的问题，这也是你们的问题。

00:05:49.466 --> 00:05:51.872
对于任何在创建美好事物，

00:05:51.872 --> 00:05:53.797
或者为他人造福的人来说

00:05:53.797 --> 00:05:56.586
都是一个问题。

00:05:56.586 --> 00:05:59.452
那么我能做些什么呢？

00:05:59.452 --> 00:06:02.770
我停下并思考，

00:06:02.770 --> 00:06:04.865
这些事能如何

00:06:04.865 --> 00:06:08.658
变得很糟糕的呢？

00:06:08.658 --> 00:06:13.111
我想象灾难。

00:06:13.111 --> 00:06:15.574
但是那很难。好像有一种

00:06:15.574 --> 00:06:18.422
与生俱来的认知失调在作怪，

00:06:18.422 --> 00:06:20.234
就像你同时写结婚誓言


00:06:20.234 --> 00:06:22.880
和婚前协议一样。


00:06:22.880 --> 00:06:24.576
（笑声）

00:06:24.576 --> 00:06:26.949
但你还是得去做，

00:06:26.949 --> 00:06:31.395
特别是当你一天得处理5亿条推文时。

00:06:31.395 --> 00:06:34.492
我说的“想象灾难”是什么意思呢？

00:06:34.492 --> 00:06:37.254
我试想，像猫的照片一样

00:06:37.254 --> 00:06:40.482
温和并无害的东西

00:06:40.482 --> 00:06:41.586
能如何导致死亡，

00:06:41.586 --> 00:06:43.912
并想办法去阻止其发生。

00:06:43.912 --> 00:06:46.295
这也是我的下一个例子。

00:06:46.295 --> 00:06:49.405
这是我的猫，伊莱。

00:06:49.405 --> 00:06:51.386
我们想要给予用户

00:06:51.386 --> 00:06:53.459
将图片加到他们推文的能力。

00:06:53.459 --> 00:06:55.056
一张图片胜过千言万语。

00:06:55.056 --> 00:06:57.065
（一次推文）你只能输入140个字。

00:06:57.065 --> 00:06:58.265
当你在推文里加一张图片时，

00:06:58.265 --> 00:07:01.303
看看现在你发表的内容有多丰富。

00:07:01.303 --> 00:07:02.980
通过在推文里添加图片，

00:07:02.980 --> 00:07:04.987
你可以做各种各样神奇的事。

00:07:04.987 --> 00:07:07.267
我的工作不是去想那些事情，

00:07:07.267 --> 00:07:10.014
而是去想会发生什么问题。

NOTE Paragraph

00:07:10.014 --> 00:07:11.906
这张图片能如何

00:07:11.906 --> 00:07:15.445
导致我的死亡呢？

00:07:15.445 --> 00:07:18.605
有一个可能性。

00:07:18.605 --> 00:07:21.691
除了一只猫以外，这个图片里还有其它信息。

00:07:21.691 --> 00:07:23.783
那里有地理信息。

00:07:23.783 --> 00:07:25.995
当你用你的智能手机或数码相机

00:07:25.995 --> 00:07:27.294
照一张照片时，

00:07:27.294 --> 00:07:28.948
很多额外的信息

00:07:28.948 --> 00:07:30.564
也会随着照片保留下来。

00:07:30.564 --> 00:07:32.496
事实上，这张照图片还

00:07:32.496 --> 00:07:34.301
指明了这个，

00:07:34.301 --> 00:07:37.380
更加具体些，是这个。

00:07:37.380 --> 00:07:39.336
没错，不大可能有人准备

00:07:39.336 --> 00:07:41.621
根据我的猫的照片中数据

00:07:41.621 --> 00:07:43.405
追踪我

00:07:43.405 --> 00:07:45.353
并伤害我，

00:07:45.353 --> 00:07:49.004
但是我开始假设最坏的事情会发生。

00:07:49.004 --> 00:07:51.342
这也是为什么当我们推出加载图片功能的时候，

00:07:51.342 --> 00:07:55.163
我们决定消除那些地理数据。

00:07:55.163 --> 00:08:01.010
（掌声）

00:08:01.010 --> 00:08:03.623
如果我从假设最坏的事开始，

00:08:03.623 --> 00:08:04.570
并反向推理，

00:08:04.570 --> 00:08:07.123
我可以确保我们所设置的保护

00:08:07.123 --> 00:08:08.891
对于可预知与

00:08:08.891 --> 00:08:10.969
不可预知的事件同时有效。

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
假设我日夜

00:08:13.914 --> 00:08:16.455
想象可能发生的最坏的事情，

00:08:16.455 --> 00:08:20.712
我的世界观有些阴郁并不令人惊奇。

00:08:20.712 --> 00:08:22.495
（笑声）

00:08:22.495 --> 00:08:23.912
但这并不是事实。

00:08:23.912 --> 00:08:27.788
我看到的绝大多数的（推特）互动

00:08:27.788 --> 00:08:31.689
是积极的，相信我，我看过很多，

00:08:31.689 --> 00:08:33.613
人们伸出援助之手，

00:08:33.613 --> 00:08:37.061
或者相互连接或分享信息。

00:08:37.061 --> 00:08:40.384
因为我们要应付安全风险，

00:08:40.384 --> 00:08:44.184
我们承担着保证大众安全的责任，

00:08:44.184 --> 00:08:46.730
我们必须假设最坏的事情会发生，

00:08:46.730 --> 00:08:50.957
因为对于我们来说百万分之一的几率

00:08:50.957 --> 00:08:53.706
是一个非常大的可能性。

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
谢谢

NOTE Paragraph

00:08:55.570 --> 00:08:59.570
（掌声）