[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.04,0:00:04.24,Default,,0000,0000,0000,,大家好 我是乔伊\N一位写代码的诗人
Dialogue: 0,0:00:04.24,0:00:09.17,Default,,0000,0000,0000,,我正努力阻止一股\N逐渐凸显的无形力量
Dialogue: 0,0:00:09.17,0:00:12.06,Default,,0000,0000,0000,,一种我称为 代码的凝视 的力量
Dialogue: 0,0:00:12.06,0:00:15.14,Default,,0000,0000,0000,,这是我用来定义算法偏见的术语
Dialogue: 0,0:00:15.43,0:00:19.49,Default,,0000,0000,0000,,正如人类之间的偏见\N算法偏见也会导致不公平
Dialogue: 0,0:00:19.63,0:00:25.81,Default,,0000,0000,0000,,然而算法就像病毒一样\N会以飞快的速度大范围地
Dialogue: 0,0:00:25.81,0:00:27.38,Default,,0000,0000,0000,,扩散偏见
Dialogue: 0,0:00:27.94,0:00:32.34,Default,,0000,0000,0000,,算法也将会导致排他的经历和
Dialogue: 0,0:00:32.34,0:00:34.23,Default,,0000,0000,0000,,歧视性的做法
Dialogue: 0,0:00:34.44,0:00:36.18,Default,,0000,0000,0000,,给大家举个例子
Dialogue: 0,0:00:36.98,0:00:39.34,Default,,0000,0000,0000,,（录像）乔伊·博拉维尼：\N嘿 摄像头 我来了
Dialogue: 0,0:00:40.16,0:00:41.66,Default,,0000,0000,0000,,你可以看到我的脸吗
Dialogue: 0,0:00:42.05,0:00:43.66,Default,,0000,0000,0000,,没有戴眼镜的脸呢
Dialogue: 0,0:00:43.66,0:00:45.48,Default,,0000,0000,0000,,你可以看到她的脸
Dialogue: 0,0:00:46.24,0:00:47.80,Default,,0000,0000,0000,,那么我的脸呢
Dialogue: 0,0:00:51.89,0:00:55.23,Default,,0000,0000,0000,,我戴上了一个面罩\N你可以看到我的面罩吗
Dialogue: 0,0:00:56.47,0:00:58.77,Default,,0000,0000,0000,,乔伊·博拉维尼：\N这是怎么回事呢
Dialogue: 0,0:00:58.77,0:01:01.99,Default,,0000,0000,0000,,为什么我坐在一台电脑前
Dialogue: 0,0:01:01.99,0:01:03.63,Default,,0000,0000,0000,,戴着一个白色的面罩
Dialogue: 0,0:01:03.63,0:01:06.83,Default,,0000,0000,0000,,尝试着被一个廉价的\N网络摄像头检测到
Dialogue: 0,0:01:07.15,0:01:09.61,Default,,0000,0000,0000,,当我的身份不是写代码的诗人
Dialogue: 0,0:01:09.61,0:01:11.04,Default,,0000,0000,0000,,与 代码的凝视 较劲的时候
Dialogue: 0,0:01:11.04,0:01:14.28,Default,,0000,0000,0000,,我是MIT媒体实验室的\N一位硕士生
Dialogue: 0,0:01:14.28,0:01:19.26,Default,,0000,0000,0000,,在那里我有机会参与\N各种不同的项目
Dialogue: 0,0:01:19.26,0:01:21.30,Default,,0000,0000,0000,,包括激励镜子
Dialogue: 0,0:01:21.30,0:01:26.40,Default,,0000,0000,0000,,一个可以将数字面罩\N投射在我的映像上的项目
Dialogue: 0,0:01:26.40,0:01:28.75,Default,,0000,0000,0000,,在早上的时候\N如果我想充满力量
Dialogue: 0,0:01:28.75,0:01:30.24,Default,,0000,0000,0000,,我可以放上一个狮子的图像
Dialogue: 0,0:01:30.24,0:01:33.76,Default,,0000,0000,0000,,如果我想要感到积极向上\N我也许就会放上一句格言
Dialogue: 0,0:01:33.76,0:01:36.81,Default,,0000,0000,0000,,我使用通用的人脸识别软件
Dialogue: 0,0:01:36.81,0:01:38.12,Default,,0000,0000,0000,,来搭建系统
Dialogue: 0,0:01:38.12,0:01:43.35,Default,,0000,0000,0000,,但是我发现除非我戴上白色的面罩\N否则测试很难成功
Dialogue: 0,0:01:44.28,0:01:48.62,Default,,0000,0000,0000,,遗憾的是 我以前\N也曾遇到过这种问题
Dialogue: 0,0:01:48.62,0:01:52.94,Default,,0000,0000,0000,,当我在佐治亚理工学院\N读计算机科学专业本科的时候
Dialogue: 0,0:01:52.94,0:01:55.12,Default,,0000,0000,0000,,我曾经在一个\N社交机器人上进行实验
Dialogue: 0,0:01:55.12,0:01:58.82,Default,,0000,0000,0000,,我的任务之一是\N让机器人玩躲猫猫
Dialogue: 0,0:01:58.82,0:02:00.59,Default,,0000,0000,0000,,一个简单的轮换游戏
Dialogue: 0,0:02:00.59,0:02:04.87,Default,,0000,0000,0000,,在游戏中玩伴盖住他们的脸\N然后掀开说“躲猫猫！“
Dialogue: 0,0:02:04.87,0:02:09.33,Default,,0000,0000,0000,,问题是躲猫猫在我不能\N看见你的时候不起作用
Dialogue: 0,0:02:09.33,0:02:11.83,Default,,0000,0000,0000,,而我的机器人看不见我
Dialogue: 0,0:02:11.83,0:02:15.81,Default,,0000,0000,0000,,我只好借了我室友的脸\N去完成这个项目
Dialogue: 0,0:02:15.81,0:02:17.20,Default,,0000,0000,0000,,递交了作业
Dialogue: 0,0:02:17.20,0:02:21.02,Default,,0000,0000,0000,,寻思着总会有人\N来解决这个问题的把
Dialogue: 0,0:02:21.67,0:02:23.66,Default,,0000,0000,0000,,不久之后
Dialogue: 0,0:02:23.66,0:02:27.86,Default,,0000,0000,0000,,我在香港参加一次创业比赛
Dialogue: 0,0:02:28.34,0:02:31.07,Default,,0000,0000,0000,,组织者决定将各位参与者
Dialogue: 0,0:02:31.07,0:02:33.41,Default,,0000,0000,0000,,带到当地的初创企业参观
Dialogue: 0,0:02:33.41,0:02:36.16,Default,,0000,0000,0000,,其中一个创业公司\N有一个社交机器人
Dialogue: 0,0:02:36.16,0:02:38.09,Default,,0000,0000,0000,,他们决定进行一个项目演示
Dialogue: 0,0:02:38.09,0:02:41.09,Default,,0000,0000,0000,,这个项目演示对除我之外的\N每个人都有效果
Dialogue: 0,0:02:41.09,0:02:43.04,Default,,0000,0000,0000,,你恐怕可以猜到
Dialogue: 0,0:02:43.04,0:02:46.03,Default,,0000,0000,0000,,它不能检测到我的脸
Dialogue: 0,0:02:46.03,0:02:48.46,Default,,0000,0000,0000,,我问开发师到底发生了什么
Dialogue: 0,0:02:48.46,0:02:54.14,Default,,0000,0000,0000,,结果是我们使用了同一款\N通用面部识别软件
Dialogue: 0,0:02:54.14,0:02:55.79,Default,,0000,0000,0000,,在地球的另一边
Dialogue: 0,0:02:55.79,0:02:59.66,Default,,0000,0000,0000,,我意识到算法偏见\N传播得如此之快
Dialogue: 0,0:02:59.66,0:03:02.88,Default,,0000,0000,0000,,只需要从互联网上\N下载一些文件
Dialogue: 0,0:03:03.74,0:03:06.82,Default,,0000,0000,0000,,那么到底发生了什么\N为什么我的脸没有被检测到
Dialogue: 0,0:03:06.82,0:03:10.24,Default,,0000,0000,0000,,我们需要了解我们\N如何教会机器识别
Dialogue: 0,0:03:10.24,0:03:13.62,Default,,0000,0000,0000,,计算机视觉使用机器学习技术
Dialogue: 0,0:03:13.62,0:03:15.59,Default,,0000,0000,0000,,来进行面部识别
Dialogue: 0,0:03:15.59,0:03:19.48,Default,,0000,0000,0000,,所以你要用一系列脸的样本\N创建一个训练体系
Dialogue: 0,0:03:19.48,0:03:22.28,Default,,0000,0000,0000,,这是一张脸 这是一张脸\N而这不是一张脸
Dialogue: 0,0:03:22.28,0:03:26.84,Default,,0000,0000,0000,,慢慢地你可以教电脑\N如何识别其它的脸
Dialogue: 0,0:03:26.84,0:03:30.90,Default,,0000,0000,0000,,然而如果这个训练集\N不是那么的多样化
Dialogue: 0,0:03:30.90,0:03:34.20,Default,,0000,0000,0000,,那些与已建立的标准\N偏差较多的脸
Dialogue: 0,0:03:34.20,0:03:35.97,Default,,0000,0000,0000,,将会难以被检测到
Dialogue: 0,0:03:35.97,0:03:37.88,Default,,0000,0000,0000,,而这正是我遭遇的问题
Dialogue: 0,0:03:37.88,0:03:40.28,Default,,0000,0000,0000,,不过别担心\N我们还有好消息
Dialogue: 0,0:03:40.28,0:03:43.08,Default,,0000,0000,0000,,训练集并不是凭空产生的
Dialogue: 0,0:03:43.08,0:03:44.89,Default,,0000,0000,0000,,实际上我们可以创造它们
Dialogue: 0,0:03:44.89,0:03:49.09,Default,,0000,0000,0000,,现在就有机会去创造\N全波段光谱的训练集
Dialogue: 0,0:03:49.09,0:03:52.95,Default,,0000,0000,0000,,可以反映更加饱满的人类面貌
Dialogue: 0,0:03:52.96,0:03:55.19,Default,,0000,0000,0000,,现在你看到了在我的例子中
Dialogue: 0,0:03:55.19,0:03:57.18,Default,,0000,0000,0000,,社交机器人
Dialogue: 0,0:03:57.18,0:04:01.65,Default,,0000,0000,0000,,使我发现了算法偏见的排他性
Dialogue: 0,0:04:01.65,0:04:06.46,Default,,0000,0000,0000,,不过算法偏见还会导致\N各种歧视性的做法
Dialogue: 0,0:04:07.44,0:04:09.06,Default,,0000,0000,0000,,美国境内的警察局
Dialogue: 0,0:04:09.06,0:04:13.05,Default,,0000,0000,0000,,在打击犯罪的过程中
Dialogue: 0,0:04:13.05,0:04:15.23,Default,,0000,0000,0000,,开始使用面部识别软件
Dialogue: 0,0:04:15.62,0:04:17.73,Default,,0000,0000,0000,,乔治敦大学法学院\N发表了一个报告
Dialogue: 0,0:04:17.73,0:04:24.54,Default,,0000,0000,0000,,表明在全美两个成年人中就有一个\N也就是近1.2亿的人口
Dialogue: 0,0:04:24.54,0:04:27.97,Default,,0000,0000,0000,,他们的面部信息\N被储存在了面部识别网络中\N
Dialogue: 0,0:04:27.97,0:04:32.55,Default,,0000,0000,0000,,警察局如今可以访问\N这些未被规范的
Dialogue: 0,0:04:32.55,0:04:36.92,Default,,0000,0000,0000,,使用着未审核准确性的\N算法的面部识别网络
Dialogue: 0,0:04:36.92,0:04:40.82,Default,,0000,0000,0000,,然而我们知道面部识别\N并非万无一失
Dialogue: 0,0:04:40.82,0:04:44.94,Default,,0000,0000,0000,,而持续地给面部标签\N还是很有挑战性的
Dialogue: 0,0:04:44.94,0:04:46.58,Default,,0000,0000,0000,,你也许在Facebook上见过这个
Dialogue: 0,0:04:46.58,0:04:49.79,Default,,0000,0000,0000,,当我和我的朋友看到其他人\N在我们的照片上被错误标注时
Dialogue: 0,0:04:49.79,0:04:52.21,Default,,0000,0000,0000,,都会捧腹大笑
Dialogue: 0,0:04:52.21,0:04:57.84,Default,,0000,0000,0000,,但是误认一个犯罪嫌疑人\N可不是闹着玩儿的
Dialogue: 0,0:04:57.84,0:05:00.68,Default,,0000,0000,0000,,对公民自由的侵犯也不容忽视
Dialogue: 0,0:05:00.68,0:05:03.88,Default,,0000,0000,0000,,机器学习正被用于面部识别
Dialogue: 0,0:05:03.88,0:05:08.46,Default,,0000,0000,0000,,但也延伸到了计算机视觉领域之外
Dialogue: 0,0:05:09.27,0:05:13.27,Default,,0000,0000,0000,,在数据科学家凯西·欧奈尔在她\N《数学杀伤性武器》一书中
Dialogue: 0,0:05:13.27,0:05:19.94,Default,,0000,0000,0000,,叙述了逐渐严重的\N新型大规模杀伤性武器
Dialogue: 0,0:05:19.94,0:05:24.35,Default,,0000,0000,0000,,即 广泛应用而又神秘的\N具有破坏性的算法
Dialogue: 0,0:05:24.35,0:05:27.40,Default,,0000,0000,0000,,正在被越来越多地\N运用于决策制定上
Dialogue: 0,0:05:27.40,0:05:30.66,Default,,0000,0000,0000,,而这些决策影响着\N我们生活的方方面面
Dialogue: 0,0:05:30.66,0:05:32.54,Default,,0000,0000,0000,,谁被录用\N又有谁被解雇
Dialogue: 0,0:05:32.54,0:05:34.35,Default,,0000,0000,0000,,你得到了贷款吗\N你买到了保险吗
Dialogue: 0,0:05:34.35,0:05:38.11,Default,,0000,0000,0000,,你被心目中的理想大学录取了吗
Dialogue: 0,0:05:38.12,0:05:41.62,Default,,0000,0000,0000,,在同一平台上的同一件产品
Dialogue: 0,0:05:41.62,0:05:44.07,Default,,0000,0000,0000,,你和我是否支付同样的价格
Dialogue: 0,0:05:44.07,0:05:47.78,Default,,0000,0000,0000,,为了实现警情预测\N执法机构也开始
Dialogue: 0,0:05:47.78,0:05:50.17,Default,,0000,0000,0000,,使用起机器学习
Dialogue: 0,0:05:50.17,0:05:53.94,Default,,0000,0000,0000,,一些法官使用机器生成的\N危险评分来决定
Dialogue: 0,0:05:53.94,0:05:58.08,Default,,0000,0000,0000,,囚犯要在监狱里呆多久
Dialogue: 0,0:05:58.08,0:06:00.59,Default,,0000,0000,0000,,我们真的应该\N仔细思考这些决定
Dialogue: 0,0:06:00.59,0:06:01.79,Default,,0000,0000,0000,,它们公平吗
Dialogue: 0,0:06:01.79,0:06:04.87,Default,,0000,0000,0000,,我们已经清楚了 算法偏见
Dialogue: 0,0:06:04.87,0:06:08.11,Default,,0000,0000,0000,,不一定总能带来公平的结果
Dialogue: 0,0:06:08.11,0:06:09.68,Default,,0000,0000,0000,,那我们应该怎么做呢
Dialogue: 0,0:06:10.16,0:06:13.96,Default,,0000,0000,0000,,我们可以开始思考如何\N创造更具有包容性的代码
Dialogue: 0,0:06:13.96,0:06:16.89,Default,,0000,0000,0000,,并且运用有包容性的编程实践
Dialogue: 0,0:06:16.89,0:06:19.18,Default,,0000,0000,0000,,这真的要从人开始
Dialogue: 0,0:06:19.71,0:06:21.70,Default,,0000,0000,0000,,由谁来编程很重要
Dialogue: 0,0:06:21.70,0:06:25.90,Default,,0000,0000,0000,,我们组建的全光谱团队中\N是否包括各种各样的个体
Dialogue: 0,0:06:25.90,0:06:28.29,Default,,0000,0000,0000,,他们可以弥补彼此的盲区吗
Dialogue: 0,0:06:28.29,0:06:31.83,Default,,0000,0000,0000,,在技术层面上\N我们如何编程很重要
Dialogue: 0,0:06:31.84,0:06:35.57,Default,,0000,0000,0000,,我们在研发系统的同时\N有没有也考虑到公平的因素
Dialogue: 0,0:06:35.57,0:06:38.43,Default,,0000,0000,0000,,最后一点 我们为什么编程也很重要
Dialogue: 0,0:06:38.78,0:06:43.85,Default,,0000,0000,0000,,我们用计算机创建的工具\N创造了巨大的财富
Dialogue: 0,0:06:43.85,0:06:48.30,Default,,0000,0000,0000,,现在我们有机会去\N创造进一步的平等
Dialogue: 0,0:06:48.30,0:06:51.34,Default,,0000,0000,0000,,我们应该优先考虑社会变革
Dialogue: 0,0:06:51.34,0:06:53.49,Default,,0000,0000,0000,,而不是想着事后优化
Dialogue: 0,0:06:54.01,0:06:58.52,Default,,0000,0000,0000,,所以这三个宗旨\N将构成“译码”运动
Dialogue: 0,0:06:58.52,0:06:59.88,Default,,0000,0000,0000,,由谁来编程很重要
Dialogue: 0,0:07:00.11,0:07:01.60,Default,,0000,0000,0000,,我们如何编程很重要
Dialogue: 0,0:07:01.80,0:07:03.56,Default,,0000,0000,0000,,以及我们为什么编程很重要
Dialogue: 0,0:07:03.76,0:07:06.80,Default,,0000,0000,0000,,所以就译码来说\N我们可以开始考虑
Dialogue: 0,0:07:06.80,0:07:10.18,Default,,0000,0000,0000,,建立一个我们可以辨识偏见的平台
Dialogue: 0,0:07:10.18,0:07:13.21,Default,,0000,0000,0000,,通过收集人们与我类似的经历
Dialogue: 0,0:07:13.21,0:07:16.31,Default,,0000,0000,0000,,不过也要审查现有的软件
Dialogue: 0,0:07:16.31,0:07:20.11,Default,,0000,0000,0000,,我们也可以创造一些\N更有包容性的训练集
Dialogue: 0,0:07:20.11,0:07:23.03,Default,,0000,0000,0000,,想象一个为了包容性的自拍运动
Dialogue: 0,0:07:23.03,0:07:26.36,Default,,0000,0000,0000,,在那里 你和我可以帮助\N程序员测试以及创造
Dialogue: 0,0:07:26.36,0:07:28.74,Default,,0000,0000,0000,,更具包容性的训练集
Dialogue: 0,0:07:29.30,0:07:32.18,Default,,0000,0000,0000,,我们还可以开始更认真地思考
Dialogue: 0,0:07:32.18,0:07:37.51,Default,,0000,0000,0000,,关于正在发展的科技\N造成的社会影响
Dialogue: 0,0:07:37.51,0:07:40.05,Default,,0000,0000,0000,,为了开启译码运动
Dialogue: 0,0:07:40.05,0:07:42.83,Default,,0000,0000,0000,,我发起了算法正义联盟
Dialogue: 0,0:07:42.83,0:07:48.71,Default,,0000,0000,0000,,在那里任何关心公平的人\N可以出力来对抗 代码的凝视
Dialogue: 0,0:07:48.71,0:07:52.03,Default,,0000,0000,0000,,在codedgaze.com网站\N你可以举报偏见
Dialogue: 0,0:07:52.03,0:07:54.50,Default,,0000,0000,0000,,请求审核 成为测试者
Dialogue: 0,0:07:54.50,0:07:57.30,Default,,0000,0000,0000,,以及加入正在进行的谈话
Dialogue: 0,0:07:57.30,0:07:59.62,Default,,0000,0000,0000,,标签就是 代码的凝视
Dialogue: 0,0:08:00.74,0:08:03.20,Default,,0000,0000,0000,,我在此邀请各位加入我
Dialogue: 0,0:08:03.20,0:08:06.95,Default,,0000,0000,0000,,去创造一个让科技为我们\N所有人服务的世界
Dialogue: 0,0:08:06.95,0:08:08.99,Default,,0000,0000,0000,,而不是只服务于部分人
Dialogue: 0,0:08:08.99,0:08:13.50,Default,,0000,0000,0000,,一个我们珍惜包容和\N聚焦社会变革的世界
Dialogue: 0,0:08:13.50,0:08:14.65,Default,,0000,0000,0000,,谢谢
Dialogue: 0,0:08:14.65,0:08:18.100,Default,,0000,0000,0000,,（掌声）
Dialogue: 0,0:08:20.87,0:08:23.80,Default,,0000,0000,0000,,不过我还有一个问题
Dialogue: 0,0:08:23.80,0:08:25.86,Default,,0000,0000,0000,,你会与我并肩战斗吗
Dialogue: 0,0:08:25.86,0:08:27.24,Default,,0000,0000,0000,,（笑声）
Dialogue: 0,0:08:27.24,0:08:29.65,Default,,0000,0000,0000,,（掌声）