1
00:00:00,739 --> 00:00:06,861
大一時我開始了第一份工作：
程式設計師，

2
00:00:06,865 --> 00:00:08,372
當時我還算是個青少女。

3
00:00:08,889 --> 00:00:12,261
開始為軟體公司寫程式後不久，

4
00:00:12,799 --> 00:00:16,434
公司裡的一個經理走到我身邊，

5
00:00:16,458 --> 00:00:17,726
悄悄地問：

6
00:00:18,229 --> 00:00:21,090
「他能判斷我是否說謊嗎？」

7
00:00:21,806 --> 00:00:23,883
當時房裡沒別人。

8
00:00:24,952 --> 00:00:29,341
「『誰』能不能判斷你說謊與否？
而且，我們為什麼耳語呢？」

9
00:00:30,266 --> 00:00:33,373
經理指著房裡的電腦，問：

10
00:00:33,397 --> 00:00:36,493
「『他』能判斷我是否說謊嗎？」

11
00:00:37,613 --> 00:00:41,975
當時那經理與接待員有曖昧關係。

12
00:00:41,999 --> 00:00:43,111
（笑聲）

13
00:00:43,135 --> 00:00:44,901
那時我仍是個青少女。

14
00:00:45,447 --> 00:00:47,466
所以，我用耳語大聲地回答他：

15
00:00:47,490 --> 00:00:51,114
「能，電腦能判斷你撒謊與否。」

16
00:00:51,138 --> 00:00:52,944
（笑聲）

17
00:00:52,968 --> 00:00:55,891
沒錯，我笑了，但可笑的人是我。

18
00:00:55,939 --> 00:00:59,207
如今，有些計算系統

19
00:00:59,207 --> 00:01:03,039
靠分析、判讀面部表情，
就能判斷出情緒狀態，

20
00:01:03,039 --> 00:01:05,003
甚至判斷是否說謊。

21
00:01:05,608 --> 00:01:09,761
廣告商，甚至政府也對此很感興趣。

22
00:01:10,319 --> 00:01:12,181
我之所以成為程式設計師，

23
00:01:12,205 --> 00:01:15,318
是因為自幼便極為喜愛數學和科學。

24
00:01:15,942 --> 00:01:19,050
過程中我學到核子武器，

25
00:01:19,074 --> 00:01:22,026
因而變得非常關心科學倫理。

26
00:01:22,050 --> 00:01:23,254
我很苦惱。

27
00:01:23,278 --> 00:01:25,919
但由於家庭狀況，

28
00:01:25,943 --> 00:01:29,241
我必須儘早就業。

29
00:01:29,265 --> 00:01:30,868
因此我告訴自己，

30
00:01:30,868 --> 00:01:34,384
選擇一個在科技領域中
能簡單地找到頭路，

31
00:01:34,408 --> 00:01:38,526
又無需處理涉及倫理道德
這類麻煩問題的工作吧。

32
00:01:39,022 --> 00:01:40,551
所以我選擇了電腦。

33
00:01:40,575 --> 00:01:41,679
（笑聲）

34
00:01:41,703 --> 00:01:45,113
是啊，哈哈哈！大家都笑我。

35
00:01:45,137 --> 00:01:47,175
如今，電腦科學家

36
00:01:47,175 --> 00:01:52,124
正建構著可控制數十億人
每天接收訊息的平台。

37
00:01:53,052 --> 00:01:56,874
他們設計的汽車
可以決定要輾過哪些人。

38
00:01:57,707 --> 00:02:03,240
他們甚至建造能殺人的
戰爭機器和武器。

39
00:02:03,253 --> 00:02:06,024
從頭到尾都是倫理的問題。

40
00:02:07,183 --> 00:02:09,241
機器智慧已經在此。

41
00:02:09,847 --> 00:02:13,321
我們利用計算來做各種決策，

42
00:02:13,321 --> 00:02:15,207
同時也是種新形態的決策。

43
00:02:15,231 --> 00:02:20,403
我們以計算來尋求解答，
但問題沒有單一的正解，

44
00:02:20,427 --> 00:02:23,969
而是主觀、開放、具價值觀的答案。

45
00:02:24,002 --> 00:02:25,760
問題像是，

46
00:02:25,784 --> 00:02:27,744
「公司應該聘誰？」

47
00:02:28,096 --> 00:02:30,855
「應該顯示哪個朋友的哪項更新？」

48
00:02:30,879 --> 00:02:33,145
「哪個罪犯更可能再犯？」

49
00:02:33,514 --> 00:02:36,568
「應該推薦哪項新聞或哪部電影？」

50
00:02:36,592 --> 00:02:39,964
我們使用電腦雖有一段時間了，

51
00:02:39,988 --> 00:02:41,505
但這是不同的。

52
00:02:41,529 --> 00:02:43,596
這是歷史性的轉折，

53
00:02:43,620 --> 00:02:48,957
因我們不能主導計算機
如何去做這樣的主觀決定，

54
00:02:48,981 --> 00:02:54,401
無法像主導計算機去開飛機、造橋樑

55
00:02:54,401 --> 00:02:55,660
或登陸月球那樣。

56
00:02:56,449 --> 00:02:59,708
飛機會更安全嗎？
橋樑會搖擺或倒塌嗎？

57
00:02:59,732 --> 00:03:04,230
那兒已有相當明確的基準共識，

58
00:03:04,254 --> 00:03:06,493
有自然的法則指引著我們。

59
00:03:06,517 --> 00:03:08,235
但我們沒有

60
00:03:08,235 --> 00:03:13,898
判斷凌亂人事的錨點或基準。

61
00:03:14,032 --> 00:03:18,159
使事情變得更為複雜的是，
因軟體越來越強大，

62
00:03:18,183 --> 00:03:21,956
但也越來越不透明，越複雜難懂。

63
00:03:22,542 --> 00:03:24,582
過去十年

64
00:03:24,606 --> 00:03:27,335
複雜的演算法有長足的進步：

65
00:03:27,359 --> 00:03:29,349
能辨識人臉，

66
00:03:29,985 --> 00:03:32,040
能解讀手寫的字，

67
00:03:32,436 --> 00:03:34,502
能檢測信用卡欺詐，

68
00:03:34,526 --> 00:03:35,715
阻擋垃圾郵件，

69
00:03:35,739 --> 00:03:37,776
能翻譯不同的語言，

70
00:03:37,800 --> 00:03:40,374
能判讀醫學影像查出腫瘤，

71
00:03:40,398 --> 00:03:42,733
能在西洋棋和圍棋賽中
擊敗人類棋手。

72
00:03:43,264 --> 00:03:47,768
這些進步主要來自所謂的
「機器學習」法。

73
00:03:48,175 --> 00:03:51,362
機器學習不同於傳統的程式編寫。

74
00:03:51,386 --> 00:03:54,971
編寫程式是下詳細、精確、
齊全的計算機指令；

75
00:03:55,378 --> 00:03:59,560
機器學習更像是
餵大量的數據給系統，

76
00:03:59,584 --> 00:04:01,240
包括非結構化的數據，

77
00:04:01,264 --> 00:04:03,542
像我們數位生活產生的數據；

78
00:04:03,566 --> 00:04:06,296
系統翻撈這些數據來學習。

79
00:04:06,669 --> 00:04:08,195
至關重要的是，

80
00:04:08,219 --> 00:04:12,599
這些系統不在產生
單一答案的邏輯系統下運作；

81
00:04:12,623 --> 00:04:14,333
它們不會給出一個簡單的答案，

82
00:04:14,333 --> 00:04:16,236
而是以更接近機率的形式呈現：

83
00:04:16,236 --> 00:04:19,089
「這可能更接近你所要找的。」

84
00:04:20,023 --> 00:04:23,093
好處是：這方法強而有力。

85
00:04:23,117 --> 00:04:25,193
谷歌的人工智慧系統負責人稱之為：

86
00:04:25,217 --> 00:04:27,414
「不合理的數據有效性。」

87
00:04:27,791 --> 00:04:29,144
缺點是，

88
00:04:29,738 --> 00:04:32,809
我們未能真正明白
系統學到了什麼。

89
00:04:32,833 --> 00:04:34,420
事實上，這就是它的力量。

90
00:04:34,946 --> 00:04:38,744
這不像下指令給計算機；

91
00:04:39,200 --> 00:04:41,648
而更像是訓練

92
00:04:41,648 --> 00:04:45,659
我們未能真正了解
或無法控制的機器寵物狗。

93
00:04:46,362 --> 00:04:47,913
這是我們的問題。

94
00:04:48,427 --> 00:04:52,689
人工智慧系統出錯時會是個問題；

95
00:04:52,713 --> 00:04:56,253
即使它弄對了還是個問題，

96
00:04:56,277 --> 00:04:59,905
因碰到主觀問題時，
我們不知哪個是哪個。

97
00:04:59,929 --> 00:05:02,478
我們不知道系統在想什麼。

98
00:05:03,493 --> 00:05:07,176
就拿招募人員的演算法來說，

99
00:05:08,123 --> 00:05:12,434
亦即以機器學習來僱用人的系統，

100
00:05:13,052 --> 00:05:16,671
這樣的系統用
已有的員工數據來訓練機器，

101
00:05:16,671 --> 00:05:19,246
指示它尋找和僱用那些

102
00:05:19,270 --> 00:05:22,308
類似公司現有的高績效員工的人。

103
00:05:22,814 --> 00:05:23,967
聽起來不錯。

104
00:05:23,991 --> 00:05:25,990
我曾參加某會議，

105
00:05:26,014 --> 00:05:29,139
聚集人資經理和高階主管，

106
00:05:29,163 --> 00:05:30,369
高層人士，

107
00:05:30,393 --> 00:05:31,952
使用這種系統招聘。

108
00:05:31,976 --> 00:05:33,622
他們超級興奮，

109
00:05:33,646 --> 00:05:37,053
認為這種系統會使招聘更為客觀，

110
00:05:37,053 --> 00:05:38,323
較少偏見，

111
00:05:38,323 --> 00:05:41,323
有利於婦女和少數民族

112
00:05:41,347 --> 00:05:43,535
避開有偏見的管理人。

113
00:05:43,559 --> 00:05:46,402
看哪！靠人類僱用是有偏見的。

114
00:05:47,099 --> 00:05:48,284
我知道。

115
00:05:48,308 --> 00:05:51,313
我的意思是，
在早期某個編寫程式的工作，

116
00:05:51,337 --> 00:05:55,339
有時候我的直屬主管會在

117
00:05:55,339 --> 00:05:58,982
大清早或下午很晚時來到我身旁，

118
00:05:59,006 --> 00:06:02,068
說：「日娜，走，吃午飯！」

119
00:06:02,724 --> 00:06:04,891
我被奇怪的時間點所困惑。

120
00:06:04,915 --> 00:06:07,044
下午 4 點。吃午餐？

121
00:06:07,068 --> 00:06:08,508
我很窮，

122
00:06:08,508 --> 00:06:10,618
因為是免費的午餐，所以總是會去。

123
00:06:10,618 --> 00:06:12,685
後來我明白到底是怎麼回事。

124
00:06:12,709 --> 00:06:17,255
我的直屬主管沒讓她的主管知道，

125
00:06:17,279 --> 00:06:20,259
他們僱來做重要職務的程式設計師，

126
00:06:20,259 --> 00:06:21,766
是個穿牛仔褲和運動鞋

127
00:06:21,766 --> 00:06:24,346
來上班的十幾歲女孩。

128
00:06:25,174 --> 00:06:27,416
我工作做得很好，
只是外表形象看起來不符，

129
00:06:27,416 --> 00:06:29,099
年齡和性別不對。

130
00:06:29,123 --> 00:06:32,469
因此，性別和種族
不列入考慮的僱用系統

131
00:06:32,493 --> 00:06:34,358
對我而言當然不錯。

132
00:06:35,031 --> 00:06:38,372
但使用這些系統會更複雜，原因是：

133
00:06:38,968 --> 00:06:41,143
目前的計算系統

134
00:06:41,143 --> 00:06:46,655
可從你零散的數位足跡
推斷出關於你的各種事物，

135
00:06:46,679 --> 00:06:49,012
即使你未曾披露過。

136
00:06:49,506 --> 00:06:52,433
他們能推斷你的性取向，

137
00:06:52,994 --> 00:06:54,300
個性的特質，

138
00:06:54,859 --> 00:06:56,232
政治的傾向。

139
00:06:56,830 --> 00:07:00,515
他們的預測能力相當精準。

140
00:07:01,362 --> 00:07:03,940
請記住：知道你未曾公開的事情

141
00:07:03,964 --> 00:07:05,555
是推理。

142
00:07:05,579 --> 00:07:08,840
我有個朋友開發這樣的計算系統：

143
00:07:08,864 --> 00:07:13,955
從社交媒體數據來預測
臨床或產後抑鬱症的可能性。

144
00:07:14,676 --> 00:07:16,103
結果非常優異。

145
00:07:16,492 --> 00:07:17,543
她的系統

146
00:07:17,543 --> 00:07:23,776
能在出現任何症狀的幾個月前
預測出抑鬱的可能性，

147
00:07:23,800 --> 00:07:25,173
是好幾個月前。

148
00:07:25,197 --> 00:07:27,443
雖沒有症狀，已預測出來。

149
00:07:27,467 --> 00:07:31,521
她希望它被用來早期干預處理。

150
00:07:31,521 --> 00:07:32,911
很好！

151
00:07:32,911 --> 00:07:35,321
但是，設想若把這系統
用在僱人的情況下。

152
00:07:36,027 --> 00:07:39,073
在這人資經理會議中，

153
00:07:39,097 --> 00:07:43,740
我走向一間大公司的高階經理，

154
00:07:43,740 --> 00:07:44,560
對她說：

155
00:07:44,560 --> 00:07:48,408
「假設在你不知道的情形下，

156
00:07:48,432 --> 00:07:54,981
那個系統被用來排除
未來極有可能抑鬱的人呢？

157
00:07:55,761 --> 00:07:59,137
他們現在不抑鬱，
只是未來『比較有可能』抑鬱。

158
00:07:59,923 --> 00:08:03,329
如果它被用來排除
在未來一兩年比較有可能懷孕，

159
00:08:03,353 --> 00:08:06,009
但現在沒懷孕的婦女呢？

160
00:08:06,844 --> 00:08:12,480
如果它被用來招募激進性格者，
以符合你的職場文化呢？」

161
00:08:13,173 --> 00:08:15,864
透過性別比例無法看到這些問題，

162
00:08:15,888 --> 00:08:17,390
因比例可能是均衡的。

163
00:08:17,414 --> 00:08:20,971
而且由於這是機器學習，
不是傳統編碼，

164
00:08:20,995 --> 00:08:25,902
沒有標記為「更高抑鬱症風險」、

165
00:08:25,926 --> 00:08:27,759
「更高懷孕風險」、

166
00:08:27,783 --> 00:08:29,517
「侵略性格者」的變數；

167
00:08:29,995 --> 00:08:33,674
你不僅不知道系統在選什麼，

168
00:08:33,698 --> 00:08:36,021
甚至不知道要從何找起。

169
00:08:36,045 --> 00:08:37,291
它就是個黑盒子，

170
00:08:37,315 --> 00:08:40,122
具有預測能力，但你不了解它。

171
00:08:40,486 --> 00:08:43,565
我問：「你有什麼能確保

172
00:08:43,565 --> 00:08:46,812
你的黑盒子沒在暗地裡
做了什麼不可告人之事？

173
00:08:48,863 --> 00:08:52,741
她看著我，彷彿我剛踩了
十隻小狗的尾巴。

174
00:08:52,765 --> 00:08:54,013
（笑聲）

175
00:08:54,037 --> 00:08:56,078
她盯著我，說：

176
00:08:56,556 --> 00:09:00,889
「關於這事，我不想
再聽妳多說一個字。」

177
00:09:01,458 --> 00:09:03,492
然後她就轉身走開了。

178
00:09:04,064 --> 00:09:05,550
提醒你們，她不是粗魯。

179
00:09:05,574 --> 00:09:07,036
她的意思很明顯：

180
00:09:07,036 --> 00:09:09,906
我不知道的事不是我的問題。

181
00:09:09,906 --> 00:09:11,906
走開。惡狠狠盯著。

182
00:09:11,906 --> 00:09:13,152
（笑聲）

183
00:09:13,862 --> 00:09:19,761
這樣的系統可能比人類經理
在某些方面更沒有偏見，

184
00:09:19,852 --> 00:09:21,998
可能也省錢；

185
00:09:22,573 --> 00:09:27,269
但也可能在不知不覺中逐步導致

186
00:09:27,269 --> 00:09:31,442
抑鬱症風險較高的人
在就業市場裡吃到閉門羹。

187
00:09:31,753 --> 00:09:36,659
我們要在不自覺的情形下
建立這種社會嗎？

188
00:09:36,682 --> 00:09:40,646
僅僅因我們讓給
我們不完全理解的機器做決策？

189
00:09:41,265 --> 00:09:44,263
另一個問題是：這些系統通常由

190
00:09:44,263 --> 00:09:49,656
我們行動產生的數據，
即人類的印記所訓練。

191
00:09:50,188 --> 00:09:53,996
它們可能只是反映我們的偏見，

192
00:09:54,020 --> 00:09:57,613
學習了我們的偏見

193
00:09:57,637 --> 00:09:58,950
並且放大，

194
00:09:58,974 --> 00:10:00,392
然後回饋給我們；

195
00:10:00,416 --> 00:10:01,878
而我們卻告訴自己：

196
00:10:01,902 --> 00:10:05,019
「這樣做是客觀、不偏頗的計算。」

197
00:10:06,314 --> 00:10:08,991
研究人員在谷歌上發現，

198
00:10:10,134 --> 00:10:15,447
女性比男性更不易看到
高薪工作招聘的廣告。

199
00:10:16,463 --> 00:10:18,993
蒐索非裔美國人的名字

200
00:10:19,017 --> 00:10:23,723
比較可能帶出暗示犯罪史的廣告，

201
00:10:23,747 --> 00:10:25,564
即使那人並無犯罪史。

202
00:10:26,693 --> 00:10:30,242
這種隱藏偏見和黑箱的演算法，

203
00:10:30,266 --> 00:10:34,239
有時被研究人員發現了，
但有時我們毫無所知，

204
00:10:34,263 --> 00:10:37,124
很可能產生改變生命的後果。

205
00:10:37,958 --> 00:10:43,537
在威斯康辛州，某個被告
因逃避警察而被判處六年監禁。

206
00:10:44,824 --> 00:10:46,010
你可能不知道

207
00:10:46,034 --> 00:10:48,296
演算法越來越頻繁地被用在

208
00:10:48,296 --> 00:10:50,056
假釋和量刑的決定上。

209
00:10:50,056 --> 00:10:53,011
想知道分數如何計算出來的嗎？

210
00:10:53,795 --> 00:10:55,460
這是個商業的黑盒子，

211
00:10:55,484 --> 00:10:56,766
開發它的公司

212
00:10:56,766 --> 00:11:00,396
拒絕讓演算法在公開法庭上受盤問。

213
00:11:00,396 --> 00:11:05,928
但是 ProPublica 這家
非營利機構評估該演算法，

214
00:11:05,952 --> 00:11:07,968
使用找得到的公共數據，

215
00:11:07,992 --> 00:11:10,308
發現其結果偏頗，

216
00:11:10,332 --> 00:11:13,961
預測能力相當差，僅比碰運氣稍強，

217
00:11:13,985 --> 00:11:19,875
並錯誤地標記黑人被告
成為未來罪犯的機率，

218
00:11:19,875 --> 00:11:22,630
是白人被告的兩倍。

219
00:11:23,891 --> 00:11:25,455
考慮這個情況：

220
00:11:26,103 --> 00:11:32,345
這女人因來不及去佛州布勞沃德郡的
學校接她的乾妹妹，

221
00:11:32,345 --> 00:11:34,954
而與朋友狂奔趕赴學校。

222
00:11:34,954 --> 00:11:39,236
他們看到門廊上有一輛未上鎖的
兒童腳踏車和一台滑板車，

223
00:11:39,260 --> 00:11:40,892
愚蠢地跳上去，

224
00:11:40,916 --> 00:11:42,469
當他們趕時間快速離去時，

225
00:11:42,469 --> 00:11:45,744
一個女人出來說：
「嘿！那是我孩子的腳踏車！」

226
00:11:45,768 --> 00:11:49,062
雖然他們留下車子走開，
但被逮捕了。

227
00:11:49,086 --> 00:11:52,723
她錯了，她很蠢，但她只有十八歲。

228
00:11:52,747 --> 00:11:55,291
曾觸犯兩次少年輕罪。

229
00:11:55,808 --> 00:11:56,867
同時，

230
00:11:56,867 --> 00:12:02,716
那個男人因在家得寶商店
偷竊八十五美元的東西而被捕，

231
00:12:02,716 --> 00:12:04,766
類似的小罪，

232
00:12:04,766 --> 00:12:09,545
但他曾兩次因武裝搶劫而被定罪。

233
00:12:09,915 --> 00:12:12,756
演算法認定她有再犯的高風險，

234
00:12:12,756 --> 00:12:14,316
而他卻不然。

235
00:12:14,746 --> 00:12:18,620
兩年後，ProPublica
發現她未曾再犯；

236
00:12:18,644 --> 00:12:21,194
但因有過犯罪紀錄而難以找到工作。

237
00:12:21,218 --> 00:12:23,294
另一方面，他再犯了，

238
00:12:23,318 --> 00:12:27,154
現正因再犯之罪而入監服刑八年。

239
00:12:28,088 --> 00:12:31,457
很顯然，我們必需審核黑盒子，

240
00:12:31,481 --> 00:12:34,326
並且不賦予它們
這類未經檢查的權力。

241
00:12:34,430 --> 00:12:36,999
（掌聲）

242
00:12:38,087 --> 00:12:42,329
審核極其重要，
但不足以解決所有的問題。

243
00:12:42,353 --> 00:12:45,101
拿臉書強大的動態消息演算法來說，

244
00:12:45,125 --> 00:12:48,428
就是通過你的朋友圈
和瀏覽過的頁面，

245
00:12:48,428 --> 00:12:52,678
排序並決定推薦
什麼給你看的演算法。

246
00:12:52,898 --> 00:12:55,173
應該再讓你看一張嬰兒照片嗎？

247
00:12:55,197 --> 00:12:56,393
（笑聲）

248
00:12:56,417 --> 00:12:59,013
或者一個熟人的哀傷筆記？

249
00:12:59,449 --> 00:13:01,305
還是一則重要但艱澀的新聞？

250
00:13:01,329 --> 00:13:02,811
沒有正確的答案。

251
00:13:02,835 --> 00:13:05,494
臉書根據在網站上的參與度來優化：

252
00:13:05,518 --> 00:13:07,183
喜歡，分享，評論。

253
00:13:08,168 --> 00:13:10,864
2014 年八月，

254
00:13:10,888 --> 00:13:13,550
在密蘇里州弗格森市
爆發了抗議遊行，

255
00:13:13,574 --> 00:13:19,601
抗議一位白人警察在不明的狀況下
殺害一個非裔美國少年，

256
00:13:19,974 --> 00:13:21,981
抗議的消息充斥在

257
00:13:22,005 --> 00:13:24,690
我未經演算法篩選過的推特頁面上，

258
00:13:24,714 --> 00:13:26,784
但我的臉書上卻一則也沒有。

259
00:13:27,182 --> 00:13:28,996
是我的臉書好友不關注這事嗎？

260
00:13:28,996 --> 00:13:30,972
我關閉了臉書的演算法，

261
00:13:31,472 --> 00:13:32,604
但很麻煩惱人，

262
00:13:32,604 --> 00:13:36,380
因為臉書不斷地
想讓你回到演算法的控制下，

263
00:13:36,404 --> 00:13:38,642
臉書的朋友有在談論弗格森這事，

264
00:13:38,666 --> 00:13:41,045
只是臉書的演算法沒有顯示給我看。

265
00:13:41,045 --> 00:13:43,767
研究後，我發現這問題普遍存在。

266
00:13:44,265 --> 00:13:48,078
弗格森一事和演算法不合，

267
00:13:48,102 --> 00:13:49,273
它不討喜；

268
00:13:49,297 --> 00:13:50,849
誰會點擊「讚」呢？

269
00:13:51,500 --> 00:13:53,706
它甚至不易被評論。

270
00:13:53,730 --> 00:13:55,101
越是沒有讚、沒評論，

271
00:13:55,125 --> 00:13:58,417
演算法就顯示給越少人看，

272
00:13:58,421 --> 00:14:00,143
所以我們看不到這則新聞。

273
00:14:00,946 --> 00:14:01,978
相反地，

274
00:14:01,978 --> 00:14:06,666
臉書的演算法在那星期特別突顯
為漸凍人募款的冰桶挑戰這事。

275
00:14:06,770 --> 00:14:09,240
崇高的目標；傾倒冰水，捐贈慈善，

276
00:14:09,240 --> 00:14:10,536
有意義，很好；

277
00:14:10,536 --> 00:14:12,620
這事與演算法超級速配，

278
00:14:13,219 --> 00:14:15,832
機器已為我們決定了。

279
00:14:15,856 --> 00:14:21,003
非常重要但艱澀的
新聞事件可能被埋沒掉，

280
00:14:21,003 --> 00:14:23,742
倘若臉書是唯一的新聞渠道。

281
00:14:24,117 --> 00:14:26,668
最後，這些系統

282
00:14:26,668 --> 00:14:30,674
也可能以不像人類犯錯的方式出錯。

283
00:14:30,698 --> 00:14:33,620
大家可還記得 IBM 的
機器智慧系統華生

284
00:14:33,644 --> 00:14:36,902
在 Jeopardy 智力問答比賽中
橫掃人類的對手？

285
00:14:37,131 --> 00:14:38,559
它是個厲害的選手。

286
00:14:38,583 --> 00:14:40,669
在 Final Jeopardy 節目中

287
00:14:40,669 --> 00:14:42,659
華生被問到：

288
00:14:42,659 --> 00:14:45,591
「它的最大機場以二戰英雄命名，

289
00:14:45,615 --> 00:14:47,867
第二大機場以二戰戰場為名。」

290
00:14:47,891 --> 00:14:49,269
（哼 Jeopardy 的音樂）

291
00:14:49,582 --> 00:14:50,764
「芝加哥，」

292
00:14:50,788 --> 00:14:52,158
兩個人類選手的答案正確；

293
00:14:52,697 --> 00:14:57,045
華生則回答「多倫多」。

294
00:14:57,069 --> 00:14:59,237
這是個猜「美國」城市的問題啊！

295
00:14:59,596 --> 00:15:02,497
這個厲害的系統也犯了

296
00:15:02,521 --> 00:15:04,783
人類永遠不會犯，

297
00:15:04,783 --> 00:15:06,823
即使二年級學生也不會犯的錯誤。

298
00:15:06,823 --> 00:15:09,932
我們的機器智慧可能敗在

299
00:15:09,956 --> 00:15:13,056
與人類犯錯模式迥異之處，

300
00:15:13,080 --> 00:15:16,030
在我們完全想不到、
沒準備的地方出錯。

301
00:15:16,054 --> 00:15:19,692
得不到一份可勝任的
工作確實很糟糕，

302
00:15:19,716 --> 00:15:24,913
但若起因是機器的子程式漫溢，
會是三倍的糟糕。

303
00:15:24,923 --> 00:15:26,502
（笑聲）

304
00:15:26,526 --> 00:15:29,312
2010 年五月，

305
00:15:29,336 --> 00:15:36,210
華爾街「賣出」演算法的
回饋迴路觸發了股市的急速崩盤，

306
00:15:36,456 --> 00:15:40,640
數萬億美元的市值
在 36 分鐘內蒸發掉了。

307
00:15:41,722 --> 00:15:43,093
我甚至不敢想

308
00:15:43,093 --> 00:15:47,872
若「錯誤」發生在致命的
自動武器上會是何種情況。

309
00:15:49,894 --> 00:15:53,684
是啊，人類總是有偏見。

310
00:15:53,708 --> 00:15:55,884
決策者和守門人

311
00:15:55,908 --> 00:15:59,521
在法庭、新聞中、戰爭裡……


312
00:15:59,521 --> 00:16:02,463
都會犯錯；但這正是我的觀點：

313
00:16:02,487 --> 00:16:06,008
我們不能逃避這些困難的問題。

314
00:16:06,596 --> 00:16:10,112
我們不能把責任外包給機器。

315
00:16:10,676 --> 00:16:14,884
（掌聲）

316
00:16:17,089 --> 00:16:21,536
人工智慧不會給我們
「倫理免責卡」。

317
00:16:22,742 --> 00:16:26,123
數據科學家費德·本森
稱之為「數學粉飾」。

318
00:16:26,147 --> 00:16:27,536
我們需要相反的東西。

319
00:16:27,560 --> 00:16:32,948
我們需要培養懷疑、審視
和調查演算法的能力。

320
00:16:33,380 --> 00:16:36,578
我們需確保演算法有人負責，

321
00:16:36,602 --> 00:16:39,047
能被審查，並且確實公開透明。

322
00:16:39,380 --> 00:16:40,718
我們必須體認，

323
00:16:40,718 --> 00:16:45,608
把數學和演算法帶入凌亂、
具價值觀的人類事務

324
00:16:45,632 --> 00:16:48,016
不能帶來客觀性；

325
00:16:48,040 --> 00:16:51,673
相反地，人類事務的
複雜性侵入演算法。

326
00:16:52,148 --> 00:16:55,635
是啊，我們可以、也應該用演算法

327
00:16:55,659 --> 00:16:57,673
來幫助我們做出更好的決定。

328
00:16:57,697 --> 00:17:03,029
但我們也需要在判斷中
加入道德義務，

329
00:17:03,053 --> 00:17:05,871
並在該框架內使用演算法，

330
00:17:05,895 --> 00:17:10,830
而不是像人與人間相互推卸那樣，

331
00:17:10,854 --> 00:17:13,308
就把責任轉移給機器。

332
00:17:13,807 --> 00:17:16,416
機器智慧已經到來，

333
00:17:16,440 --> 00:17:19,825
這意味著我們必須更堅守

334
00:17:19,825 --> 00:17:22,032
人類價值觀和人類倫理。

335
00:17:22,056 --> 00:17:23,210
謝謝。

336
00:17:23,234 --> 00:17:26,874
（掌聲）