[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.86,Default,,0000,0000,0000,,我的第一份工作是程序员，
Dialogue: 0,0:00:04.88,0:00:06.84,Default,,0000,0000,0000,,那是在我刚上大学的时候，
Dialogue: 0,0:00:06.86,0:00:08.37,Default,,0000,0000,0000,,不到二十岁。
Dialogue: 0,0:00:08.89,0:00:10.62,Default,,0000,0000,0000,,我刚开始工作不久，
Dialogue: 0,0:00:10.64,0:00:12.26,Default,,0000,0000,0000,,正当在公司写程序，
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,公司的一位经理来到我旁边，
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,他悄悄的对我说，
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,“他能看出来我在撒谎吗？”
Dialogue: 0,0:00:21.81,0:00:24.66,Default,,0000,0000,0000,,当时屋子里没有别人。
Dialogue: 0,0:00:25.03,0:00:30.13,Default,,0000,0000,0000,,“你是指谁能看出你在撒谎？\N还有，我们干嘛要悄悄地说话？”
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,那个经理指着屋子里的电脑，说：
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,“他能看出我在撒谎吗？”
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,其实，那个经理和前台有一腿。
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,当时我只有十来岁，
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,我低声地回答他，
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,“是的，电脑什么都知道。”
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,我笑了，但其实我是在笑自己，
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,现在，计算机系统已经可以
Dialogue: 0,0:00:59.21,0:01:02.22,Default,,0000,0000,0000,,通过分析人脸来辨别人的情绪，
Dialogue: 0,0:01:02.22,0:01:04.82,Default,,0000,0000,0000,,甚至包括是否在撒谎。
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,广告商，甚至政府\N都对此很感兴趣。
Dialogue: 0,0:01:10.32,0:01:12.18,Default,,0000,0000,0000,,我选择成为电脑程序员，
Dialogue: 0,0:01:12.20,0:01:15.32,Default,,0000,0000,0000,,因为我是那种\N痴迷于数学和科学孩子。
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,其间我也学习过核武器，
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,我也非常关心科学伦理。
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,我曾经很困惑。
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,但是，因为家庭原因，
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,我需要尽快参加工作。
Dialogue: 0,0:01:29.26,0:01:32.56,Default,,0000,0000,0000,,我对自己说，嘿，\N选一个容易找工作
Dialogue: 0,0:01:32.59,0:01:34.38,Default,,0000,0000,0000,,的科技领域吧，
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,并且找个不需要\N操心伦理问题的。
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,所以我选了计算机。
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,哈哈哈，\N我多可笑。
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,如今，计算机科学控制着
Dialogue: 0,0:01:47.92,0:01:52.12,Default,,0000,0000,0000,,十亿人每天能看到的信息，
Dialogue: 0,0:01:53.05,0:01:56.87,Default,,0000,0000,0000,,它们可以控制汽车朝哪里开，
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,它们可以建造机器、武器，
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,那些在战争中\N用于杀人的武器。
Dialogue: 0,0:02:03.25,0:02:06.02,Default,,0000,0000,0000,,说到底，\N都是伦理问题。
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,机器智能来了。
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,我们用计算机来做各种决策，
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,包括人们面临的新决策。
Dialogue: 0,0:02:15.23,0:02:20.40,Default,,0000,0000,0000,,我们向计算机询问多解的、
Dialogue: 0,0:02:20.43,0:02:21.63,Default,,0000,0000,0000,,主观的、
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,开放性的或意义深远的问题。
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,我们会问，
Dialogue: 0,0:02:25.78,0:02:28.01,Default,,0000,0000,0000,,“我们公司应该聘请谁？”
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,“你该关注哪个朋友\N的哪条状态？”
Dialogue: 0,0:02:30.88,0:02:33.14,Default,,0000,0000,0000,,“哪种犯罪更容易再犯？”
Dialogue: 0,0:02:33.51,0:02:36.57,Default,,0000,0000,0000,,“应该给人们推荐\N哪条新闻或是电影？”
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,看，是的，我们使用计算机\N已经有一段时间了，
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,但现在不一样了。
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,这是历史性的转折，
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,因为我们在这些主观决策上\N无法主导计算机，
Dialogue: 0,0:02:48.98,0:02:53.02,Default,,0000,0000,0000,,不像我们在\N管理飞机、建造桥梁、
Dialogue: 0,0:02:53.02,0:02:56.19,Default,,0000,0000,0000,,登月等问题上，\N可以主导它们。
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,飞机会更安全吗？\N桥梁会摇晃或倒塌吗？
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,在这些问题上，我们\N有统一而清晰的判断标准，
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,我们有自然定律来指导。
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,但是在复杂的人类事务上，
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,我们没有这样的客观标准。
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,让问题变得更复杂的，\N是我们的软件正越来越强大，
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,同时也变得更加不透明，\N更加复杂。
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,最近的几十年，
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,复杂算法已\N取得了长足发展，
Dialogue: 0,0:03:27.36,0:03:29.35,Default,,0000,0000,0000,,它们可以识别人脸，
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,它们可以破解笔迹，
Dialogue: 0,0:03:32.44,0:03:34.50,Default,,0000,0000,0000,,它们可以识别信用卡欺诈，
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,可以屏蔽垃圾信息，
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,它们可以翻译语言，
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,他们可以通过\N医学图像识别肿瘤，
Dialogue: 0,0:03:40.40,0:03:43.26,Default,,0000,0000,0000,,它们可以在国际象棋\N和围棋上击败人类。
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,类似的很多发展，\N都来自一种叫“机器学习”的方法。
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,机器学习不像传统程序一样，
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,需要给计算机详细、\N准确的逐条指令。
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,它更像是你给系统\N喂了很多数据，
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,包括非结构化数据，
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,比如我们在数字生活中\N产生的数据。
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,系统扎进这些数据中学习，
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,重要的是，
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,这些系统不再局限单一答案。
Dialogue: 0,0:04:12.62,0:04:15.58,Default,,0000,0000,0000,,他们得出的不是一个\N简单的答案，而是概率性的：
Dialogue: 0,0:04:15.61,0:04:19.09,Default,,0000,0000,0000,,“这个更像是你在寻找的。”
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,它的优势是：\N它真的非常强大。
Dialogue: 0,0:04:23.12,0:04:25.19,Default,,0000,0000,0000,,Google 人工智能系统的\N负责人称它为：
Dialogue: 0,0:04:25.22,0:04:27.41,Default,,0000,0000,0000,,“不可思议的数据效率”。
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,缺点在于，
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,我们无法清楚的了解\N系统学到了什么，
Dialogue: 0,0:04:32.83,0:04:34.96,Default,,0000,0000,0000,,事实上，这也正是\N它的强大之处。
Dialogue: 0,0:04:34.96,0:04:38.74,Default,,0000,0000,0000,,不像是给计算机下达指令，
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,更像是在训练一个机器狗，
Dialogue: 0,0:04:43.29,0:04:46.29,Default,,0000,0000,0000,,我们无法精确的\N了解和控制它。
Dialogue: 0,0:04:46.36,0:04:47.91,Default,,0000,0000,0000,,这就是我们遇到的问题。
Dialogue: 0,0:04:48.43,0:04:52.69,Default,,0000,0000,0000,,人工智能会出错，\N这是一个问题。
Dialogue: 0,0:04:52.71,0:04:56.25,Default,,0000,0000,0000,,但他们得出正确答案，\N又是另一种问题。
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,因为我们面对主观问题，\N是不应该有答案的。
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,我们不知道\N这些机器在想什么。
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,所以，考虑一下招聘算法－
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,通过机器学习构建的招聘系统。
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,这样的系统会用员工\N现有的数据进行自我培训，
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,参照公司的优秀员工
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,来寻找和招聘新人。
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,听起来很好。
Dialogue: 0,0:05:23.99,0:05:25.99,Default,,0000,0000,0000,,有次我参加了一个会议，
Dialogue: 0,0:05:26.01,0:05:29.14,Default,,0000,0000,0000,,会上聚集了很多\N人力资源部的经理和总监，
Dialogue: 0,0:05:29.16,0:05:30.37,Default,,0000,0000,0000,,都是高管，
Dialogue: 0,0:05:30.39,0:05:31.95,Default,,0000,0000,0000,,让他们使用这样的招聘系统。
Dialogue: 0,0:05:31.98,0:05:33.62,Default,,0000,0000,0000,,他们都非常兴奋，
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,认为这可以让招聘变得\N更加客观，从而减少偏见，
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,给女性和少数族裔\N更多的机会，
Dialogue: 0,0:05:41.35,0:05:43.54,Default,,0000,0000,0000,,减少他们自身的偏见。
Dialogue: 0,0:05:43.56,0:05:46.40,Default,,0000,0000,0000,,你知道的，\N招聘是存在偏见的，
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,我也很清楚。
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,在我刚开始做程序员的时候，
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,我的直接主管会来找我，
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,在早晨很早或下午很晚的时候，
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,说，“ 图费, 我们去吃午饭！”
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,我就被这奇怪的时间\N给搞糊涂了，
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,现在是下午4点，吃午饭？
Dialogue: 0,0:06:07.07,0:06:10.16,Default,,0000,0000,0000,,我当时很穷，所以\N不会放过免费的午餐。
Dialogue: 0,0:06:10.62,0:06:12.68,Default,,0000,0000,0000,,后来我才想明白原因，
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,我的主管们没有\N向他们的上级坦白，
Dialogue: 0,0:06:17.28,0:06:20.39,Default,,0000,0000,0000,,他们雇了一个十多岁的小女孩\N来做重要的编程工作，
Dialogue: 0,0:06:20.42,0:06:24.35,Default,,0000,0000,0000,,一个穿着牛仔裤，\N运动鞋工作的女孩。
Dialogue: 0,0:06:25.17,0:06:27.38,Default,,0000,0000,0000,,我的工作做得很好，\N我只是看起来不合适，
Dialogue: 0,0:06:27.40,0:06:29.10,Default,,0000,0000,0000,,年龄和性别也不合适。
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,所以，忽略性别和种族的招聘，
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,听起来很适合我。
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,但是这样的系统会带来更多问题，
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,当前，计算机系统\N能根据零散的数据，
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,推断出关于你的一切，
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,甚至你没有公开的事。
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,它们可以推断你的性取向，
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,你的性格特点，
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,你的政治倾向。
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,它们有高准确度的预测能力，
Dialogue: 0,0:07:01.36,0:07:03.94,Default,,0000,0000,0000,,记住，是你没有公开的事情，
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,这就是推断。
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,我有个朋友\N就是开发这种系统，
Dialogue: 0,0:07:08.86,0:07:11.100,Default,,0000,0000,0000,,从社交媒体的数据中，
Dialogue: 0,0:07:11.100,0:07:14.60,Default,,0000,0000,0000,,推断患临床或\N产后抑郁症的可能性。
Dialogue: 0,0:07:14.68,0:07:16.10,Default,,0000,0000,0000,,结果令人印象深刻，
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,她的系统可以\N在症状出现前几个月
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,成功预测到\N患抑郁的可能性，
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,提前几个月。
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,在有症状之前，\N就可以预测到，
Dialogue: 0,0:07:27.47,0:07:32.28,Default,,0000,0000,0000,,她希望这可以用于\N临床早期干预，这很棒！
Dialogue: 0,0:07:32.91,0:07:34.95,Default,,0000,0000,0000,,现在我们把这项技术\N放到招聘中来看。
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,在那次人力资源管理会议中，
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,我接近了一位大公司的高管，
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,我对她说，“看，如果这个系统\N在不通知你的情况下，
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,就剔除了未来\N有可能抑郁的人，怎么办？
Dialogue: 0,0:07:55.76,0:07:59.14,Default,,0000,0000,0000,,他们现在不抑郁，\N只是未来有可能。
Dialogue: 0,0:07:59.92,0:08:03.33,Default,,0000,0000,0000,,如果它剔除了\N有可能怀孕的女性，怎么办？
Dialogue: 0,0:08:03.35,0:08:05.94,Default,,0000,0000,0000,,她们现在没怀孕，\N但未来一两年有可能。
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,如果因为你的公司文化，\N它只雇佣激进的候选人怎么办？”
Dialogue: 0,0:08:13.17,0:08:15.86,Default,,0000,0000,0000,,只看性别比例，\N你发现不了这些问题，
Dialogue: 0,0:08:15.89,0:08:17.39,Default,,0000,0000,0000,,性别比例是可以被调整的。
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,并且因为这是机器学习，\N不是传统的代码，
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,不会有一个变量来标识\N“高抑郁风险”、
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,“高怀孕风险”、
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,“人员的激进程度”。
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,你不仅无法了解系统\N在选什么样的人，
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,你甚至不知道\N从哪里入手了解。
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,它是个暗箱。
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,它有预测的能力，\N但你不了解它。
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,我问，“你有什么措施\N可以保证，
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,你的暗箱没有\N在做些见不得人的事？”
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,她看着我，就好像\N我刚踩了10只小狗的尾巴。
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,她瞪着我说：
Dialogue: 0,0:08:56.56,0:09:00.89,Default,,0000,0000,0000,,“我不想再听你多说一个字。”
Dialogue: 0,0:09:01.46,0:09:03.49,Default,,0000,0000,0000,,然后她转身走开了。
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,其实，\N她不是无礼，
Dialogue: 0,0:09:05.57,0:09:11.88,Default,,0000,0000,0000,,她想表达的其实是：我不知道，\N这不是我的错，走开，不然我瞪死你。
Dialogue: 0,0:09:11.91,0:09:13.15,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,看，这样的系统\N可能在某些方面
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,比人类高管\N怀有更少偏见，
Dialogue: 0,0:09:19.85,0:09:21.100,Default,,0000,0000,0000,,而且可以创造经济价值。
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,但它也可能
Dialogue: 0,0:09:24.25,0:09:28.40,Default,,0000,0000,0000,,用一种顽固且隐秘的方式，
Dialogue: 0,0:09:28.40,0:09:31.31,Default,,0000,0000,0000,,把高抑郁风险的人清出职场。
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,这是我们想要的未来吗？
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,把决策权给予我们\N并不完全了解的机器，
Dialogue: 0,0:09:36.68,0:09:40.65,Default,,0000,0000,0000,,在我们不知情的状况下\N构建一种新的社会？
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,另一个问题是，
Dialogue: 0,0:09:43.31,0:09:47.29,Default,,0000,0000,0000,,这些系统通常使用
Dialogue: 0,0:09:47.29,0:09:49.61,Default,,0000,0000,0000,,我们真实的\N行为数据来训练。
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,它们可能只是在\N反馈我们的偏见，
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,这些系统会\N继承我们的偏见，
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,并把它们放大，
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,然后反馈给我们。
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,我们骗自己说，
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,“我们只做客观、\N中立的预测。”
Dialogue: 0,0:10:06.31,0:10:10.14,Default,,0000,0000,0000,,研究者发现，在 Google 上，
Dialogue: 0,0:10:10.14,0:10:15.45,Default,,0000,0000,0000,,高收入工作的广告\N更多的被展示给男性用户。
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,搜索非裔美国人的名字，
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,更可能出现\N关于犯罪史的广告，
Dialogue: 0,0:10:23.75,0:10:26.02,Default,,0000,0000,0000,,即使某些根本不存在。
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,这些潜在的偏见\N以及暗箱中的算法，
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,有些会被研究者揭露，\N有些根本不会被发现，
Dialogue: 0,0:10:34.26,0:10:37.42,Default,,0000,0000,0000,,它的后果可能是\N改变一个人的人生。
Dialogue: 0,0:10:37.96,0:10:40.96,Default,,0000,0000,0000,,在威斯康星，一个被告
Dialogue: 0,0:10:40.96,0:10:44.37,Default,,0000,0000,0000,,因逃避警察被判刑六年。
Dialogue: 0,0:10:44.82,0:10:46.01,Default,,0000,0000,0000,,你可能不知道，
Dialogue: 0,0:10:46.03,0:10:50.03,Default,,0000,0000,0000,,但计算机算法正越来越多的\N被应用在假释及量刑裁定上。
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,他想要弄清楚，这个\N得分是怎么算出来的？
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,这是个商业暗箱，
Dialogue: 0,0:10:55.48,0:10:59.69,Default,,0000,0000,0000,,这家公司拒绝在公开法庭上\N讨论他们的算法。
Dialogue: 0,0:11:00.40,0:11:04.79,Default,,0000,0000,0000,,但是一家叫 ProPublica \N的非盈利机构，
Dialogue: 0,0:11:04.79,0:11:07.97,Default,,0000,0000,0000,,根据公开数据，\N对这个算法进行了评估，
Dialogue: 0,0:11:07.99,0:11:10.31,Default,,0000,0000,0000,,他们发现这个算法\N的结论是有偏见的，
Dialogue: 0,0:11:10.33,0:11:13.96,Default,,0000,0000,0000,,它的预测能力很差，\N比碰运气强不了多少，
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,并且它错误的把黑人被告\N未来犯罪的可能性
Dialogue: 0,0:11:18.42,0:11:23.22,Default,,0000,0000,0000,,标记为白人的两倍。
Dialogue: 0,0:11:23.89,0:11:26.08,Default,,0000,0000,0000,,看下这个案例：
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,这个女人急着去佛罗里达州,\N布劳沃德县的一所学校，
Dialogue: 0,0:11:29.98,0:11:32.79,Default,,0000,0000,0000,,去接她的干妹妹。
Dialogue: 0,0:11:32.79,0:11:35.11,Default,,0000,0000,0000,,女人和她的朋友在街上狂奔，
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,她们看到门廊上一辆没上锁的\N儿童自行车，和一辆电瓶车，
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,于是就愚蠢的骑上了车。
Dialogue: 0,0:11:40.92,0:11:43.52,Default,,0000,0000,0000,,正在她们要骑走的时候，\N另一个女人出来，喊道：
Dialogue: 0,0:11:43.54,0:11:45.74,Default,,0000,0000,0000,,“嘿！那是我孩子的自行车！”
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,她们扔掉车走开，\N但还是被抓住了。
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,她做错了，她很愚蠢，\N但她也才刚满18岁，
Dialogue: 0,0:11:52.75,0:11:55.74,Default,,0000,0000,0000,,她之前有不少\N青少年轻罪的记录。
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,与此同时，这个男人\N在连锁超市偷窃被捕了，
Dialogue: 0,0:12:01.02,0:12:04.76,Default,,0000,0000,0000,,偷了价值85美金的东西，\N同样的轻微犯罪，
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,但他有两次持枪抢劫的案底。
Dialogue: 0,0:12:09.96,0:12:14.70,Default,,0000,0000,0000,,这个程序将这位女性判定为\N高风险，而这位男性则不是。
Dialogue: 0,0:12:14.75,0:12:18.62,Default,,0000,0000,0000,,两年后，ProPublica \N发现她没有再次犯罪，
Dialogue: 0,0:12:18.64,0:12:21.19,Default,,0000,0000,0000,,但这个记录\N使她很难找到工作。
Dialogue: 0,0:12:21.22,0:12:23.29,Default,,0000,0000,0000,,而这位男性，却再次犯罪，
Dialogue: 0,0:12:23.32,0:12:27.15,Default,,0000,0000,0000,,并因此被判八年监禁。
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,显然，我们需要\N审查这些暗箱，
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,确保它们不再有这样\N不加限制的权限。
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,（掌声）
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,审查是很重要的，\N但不能解决所有的问题。
Dialogue: 0,0:12:42.35,0:12:45.10,Default,,0000,0000,0000,,拿 Facebook 的强大的\N新闻流算法来说，
Dialogue: 0,0:12:45.12,0:12:49.02,Default,,0000,0000,0000,,就是通过你的朋友圈\N和你浏览过的页面，
Dialogue: 0,0:12:49.02,0:12:52.87,Default,,0000,0000,0000,,决定你的\N“推荐内容”的算法。
Dialogue: 0,0:12:52.90,0:12:55.17,Default,,0000,0000,0000,,它会决定要不要\N再推一张婴儿照片给你，
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,要不要推一条熟人\N的沮丧状态？
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,要不要推一条重要\N但艰涩的新闻？
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,这个问题没有正解。
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Facebook 会根据\N网站的参与度来优化：
Dialogue: 0,0:13:05.52,0:13:07.64,Default,,0000,0000,0000,,喜欢、分享、评论。
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,在2014年8月，
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,密苏里州弗格森市爆发了游行，
Dialogue: 0,0:13:13.57,0:13:16.96,Default,,0000,0000,0000,,一个白人警察在不明状况下
Dialogue: 0,0:13:16.96,0:13:19.58,Default,,0000,0000,0000,,杀害了一位非裔少年。
Dialogue: 0,0:13:19.97,0:13:21.98,Default,,0000,0000,0000,,关于游行的新闻
Dialogue: 0,0:13:22.00,0:13:24.69,Default,,0000,0000,0000,,在我的未经算法过滤的\NTwitter 上大量出现，
Dialogue: 0,0:13:24.71,0:13:27.17,Default,,0000,0000,0000,,但 Facebook 上却没有。
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,是因为我的 Facebook 好友\N不关注这事吗？
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,我禁用了 Facebook 的算法，
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,这是很麻烦的一键事，\N因为 Facebook 希望
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,你一直在它的算法\N控制下使用,
Dialogue: 0,0:13:36.40,0:13:38.64,Default,,0000,0000,0000,,希望我的朋友持续\N地谈论这件事。
Dialogue: 0,0:13:38.67,0:13:41.18,Default,,0000,0000,0000,,只是算法没法\N给我这些信息。
Dialogue: 0,0:13:41.20,0:13:44.24,Default,,0000,0000,0000,,我研究了这个现象，\N发现这是个普遍的问题。
Dialogue: 0,0:13:44.26,0:13:47.47,Default,,0000,0000,0000,,弗格森事件\N对算法是不适用的，
Dialogue: 0,0:13:47.47,0:13:49.27,Default,,0000,0000,0000,,它不是值得“赞”的新闻，
Dialogue: 0,0:13:49.30,0:13:51.46,Default,,0000,0000,0000,,谁会在这样\N的文章下点“赞”呢？
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,甚至这新闻都不好被评论。
Dialogue: 0,0:13:53.73,0:13:55.10,Default,,0000,0000,0000,,因为没有“赞”和评论，
Dialogue: 0,0:13:55.12,0:13:58.42,Default,,0000,0000,0000,,算法会减少\N这些新闻的曝光，
Dialogue: 0,0:13:58.44,0:14:00.80,Default,,0000,0000,0000,,所以我们无法看到。
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,相反的，在同一周，
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,Facebook 的算法热推了
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,ALS 冰桶挑战的信息。
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,这很有意义，倒冰水，\N为慈善捐款，很好。
Dialogue: 0,0:14:10.54,0:14:13.22,Default,,0000,0000,0000,,这个事件对算法是很适用的，
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,机器帮我们做了这个决定。
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,非常重要但艰涩的新闻事件
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,可能会被埋没掉，
Dialogue: 0,0:14:20.96,0:14:24.18,Default,,0000,0000,0000,,因为 Facebook 已经成为\N主要的信息来源。
Dialogue: 0,0:14:24.18,0:14:27.91,Default,,0000,0000,0000,,最后，这些系统\N也可能会在一些
Dialogue: 0,0:14:27.94,0:14:30.67,Default,,0000,0000,0000,,不同于人力系统\N的那些事情上搞错。
Dialogue: 0,0:14:30.70,0:14:34.63,Default,,0000,0000,0000,,你们记得 Watson 吧，\N那个在智力竞赛《危险边缘》中
Dialogue: 0,0:14:34.63,0:14:37.27,Default,,0000,0000,0000,,横扫人类选手的 \NIBM 机器智能系统，
Dialogue: 0,0:14:37.27,0:14:38.56,Default,,0000,0000,0000,,它是个很厉害的选手。
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,但是，在最后一轮比赛中，\NWatson 被问道：
Dialogue: 0,0:14:42.66,0:14:45.59,Default,,0000,0000,0000,,“它最大的机场是以\N二战英雄命名的，
Dialogue: 0,0:14:45.62,0:14:47.87,Default,,0000,0000,0000,,它第二大机场是以\N二战战场命名的。”
Dialogue: 0,0:14:47.89,0:14:49.27,Default,,0000,0000,0000,,（哼唱《危险边缘》插曲）
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,芝加哥。
Dialogue: 0,0:14:50.79,0:14:52.16,Default,,0000,0000,0000,,两位人类选手答对了，
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,但 Watson 答的是，\N“多伦多”，
Dialogue: 0,0:14:57.07,0:14:59.61,Default,,0000,0000,0000,,这是个猜美国城市的环节！
Dialogue: 0,0:14:59.61,0:15:02.50,Default,,0000,0000,0000,,这个厉害的系统也会犯
Dialogue: 0,0:15:02.52,0:15:06.86,Default,,0000,0000,0000,,人类都不会犯的，二年级\N小孩都不会犯的错误。
Dialogue: 0,0:15:06.86,0:15:09.93,Default,,0000,0000,0000,,我们的机器智能系统,
Dialogue: 0,0:15:09.96,0:15:13.06,Default,,0000,0000,0000,,会在一些不符合人类\N出错模式的问题上出错，
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,这些问题都是我们\N无法预料和准备的。
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,丢失一份完全有能力胜任\N的工作时，人们会感到很糟，
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,但如果是因为机器\N子程序的过度堆积，
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,就简直糟透了。
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,在2010年五月，
Dialogue: 0,0:15:29.34,0:15:32.80,Default,,0000,0000,0000,,华尔街出现一次\N股票闪电崩盘，
Dialogue: 0,0:15:32.80,0:15:36.43,Default,,0000,0000,0000,,原因是“卖出”算法\N的反馈回路导致，
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,在36分钟内\N损失了几十亿美金。
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,我甚至不敢想，\N致命的自动化武器
Dialogue: 0,0:15:43.93,0:15:47.52,Default,,0000,0000,0000,,发生“错误”会是什么后果。
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,是的，人类总是会有偏见，
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,法庭上、新闻机构、战争中的，
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,决策者、看门人…
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,他们都会犯错，\N但这恰恰是我要说的。
Dialogue: 0,0:16:02.49,0:16:06.12,Default,,0000,0000,0000,,我们无法抛开\N这些困难的问题，
Dialogue: 0,0:16:06.12,0:16:11.02,Default,,0000,0000,0000,,我们不能把我们自身\N该承担的责任推给机器。
Dialogue: 0,0:16:11.02,0:16:14.88,Default,,0000,0000,0000,,（掌声）
Dialogue: 0,0:16:17.09,0:16:22.70,Default,,0000,0000,0000,,人工智能不会给我们\N一张“伦理免责卡”。
Dialogue: 0,0:16:22.74,0:16:26.12,Default,,0000,0000,0000,,数据科学家 Fred Benenson \N称之为“数学粉饰”。
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,我们需要是相反的东西。
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,我们需要培养算法的\N怀疑、复查和调研能力。
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,我们需要确保\N有人为算法负责，
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,为算法审查，\N并切实的公开透明。
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,我们必须认识到，\N把数学和计算引入
Dialogue: 0,0:16:42.64,0:16:45.61,Default,,0000,0000,0000,,解决复杂的、高价值\N的人类事务中，
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,并不能带来客观性，
Dialogue: 0,0:16:48.04,0:16:51.67,Default,,0000,0000,0000,,相反，人类事务\N的复杂性会扰乱算法。
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,是的，我们可以\N并且需要使用计算机
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,来帮助我们做更好的决策，
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,但我们也需要在判断中\N加入道德义务，
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,在这个框架下使用算法，
Dialogue: 0,0:17:05.90,0:17:09.90,Default,,0000,0000,0000,,而不是像人与人\N之间相互推卸那样，
Dialogue: 0,0:17:09.90,0:17:13.31,Default,,0000,0000,0000,,就把责任转移给机器。
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,人工智能到来了，
Dialogue: 0,0:17:16.44,0:17:19.06,Default,,0000,0000,0000,,这意味着\N我们要格外坚守
Dialogue: 0,0:17:19.06,0:17:22.03,Default,,0000,0000,0000,,人类的价值观和伦理。
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,谢谢。
Dialogue: 0,0:17:23.23,0:17:28.25,Default,,0000,0000,0000,,（掌声）