你好 我叫玖伊 是個寫媒體程式的詩人 我的使命是 終止一個隱形力量的崛起 我稱這種力量為「數碼凝視」 是我替偏差演算法取的名稱 偏差的演算法跟人的偏見一樣 會導致不公平的結果 然而演算法更像病毒 它傳播的偏見 大量而迅速 演算法偏差讓人 體驗到什麼叫做被排擠 也會導致差別對待 讓我告訴你我的意思 嗨 相機 我有一張臉 你能看見我的臉嗎？ 不戴眼鏡呢？ 你看得見她啊 那麼我的臉呢？ 戴上面具 你看得見戴上面具嗎？ 到底是怎麽回事？ 我為什麽要坐在電腦前 戴著白色面具 好讓這台廉價的攝影機能看得見我 如果我沒有忙著對抗數碼凝視 當個媒體程式詩人 我就是麻省理工媒體實驗室的研究生 我在那裡從事一些稀奇古怪的計劃 包括照妖鏡 照妖鏡計劃 讓我能把數位面具投射在自己臉上 早上起來如果我需要強大的力量 我就投上一個獅子面具 如果我缺乏鬥志 我就放一段名人名言 因為我使用一般的臉部辨識軟體 來測試這個系統 結果竟然發現 電腦無法偵測到我 除非我戴上白色面具 很不幸我之前就碰過這種問題 先前我在喬治亞理工學院 攻讀電腦科學學士學位時 我研究社交機器人 其中的一個實驗 就是和機器人玩躲貓貓 這個簡單的互動遊戲 讓對手先遮住臉再放開 同時要說 peek-a-boo 問題是如果看不到對方 遊戲就玩不下去了 我的機器人就是看不到我 最後我只好借我室友的臉來完成 做完實驗時我想 總有一天會有別人解決這個問題 不久之後 我去香港參加一個 業界舉辦的競技比賽 主辦單位先帶每位參賽者 去參觀當地的新創市場 其中一項就是社交機器人 當他們用社交機器人展示成果時 社交機器人對每個參賽者都有反應 直到遇到了我 接下來的情形你應該能想像 社交機器人怎樣都偵測不到我的臉 我問軟體開發人員是怎麼一回事 才驚覺當年通用的 人臉辨識軟體 竟然飄洋過海到了香港 偏差的演算邏輯快速散播 只要從網路下載幾個檔案就搞定了 為什麼機器人就是看不見我的臉？ 得先知道我們如何賦予機器視力 電腦使用機器學習的技術 來辨識人臉 你必須用許多實作測試來訓練他們 這是人臉這是人臉這是人臉 這不是人臉 一而再再而三你就能教機器人 辨識其他的人臉 但是如果實作測試不夠多樣化 當出現的人臉 與既定規範相去太遠時 電腦就很難判斷了 我的親身經驗就是這樣 但別慌張 有好消息 實作測試並不是無中生有 事實上我們能夠建的 我們可以有一套更周詳的測試樣本 涵蓋人種的多樣性 我的實驗說明了 社交機器人 產生排他現象 因為偏差的演算邏輯 偏差的演算邏輯 也可能讓偏見成為一種習慣 美國各地的警方 正開始使用這套人臉辨識軟體 來建立警方的打擊犯罪系統 喬治城大學法律中心的報告指出 每兩個美國成年人就有一個人 也就是一億一千七百萬筆臉部資料 在美國警方這套系統裡 警方這套系統既缺乏規範 也缺乏正確合法的演算邏輯 你要知道人臉辨識並非萬無一失 要一貫正確地標註人臉 往往不是那麼容易 或許你在臉書上看過 朋友和我常覺得很好笑 看見有人標註朋友卻標錯了 如果標錯的是犯人的臉呢 那就讓人笑不出來了 侵害公民自由也同樣讓人笑不出來 不僅辨識人臉倚賴機器學習的技術 許多領域其實都要用到機器學習 《大數據的傲慢與偏見》 這本書的作者 數據科學家凱西 歐尼爾 談到新 WMD 勢力的崛起 WMD 是廣泛 神秘和具破壞性的算法 演算法漸漸取代我們做決定 影響我們生活的更多層面 例如誰升了官？誰丟了飯碗？ 你借到錢了嗎？你買保險了嗎？ 你進入心目中理想的大學了嗎？ 我們花同樣多的錢在同樣的平台上 買到同樣的產品嗎？ 警方也開始使用機器學習 來防範犯罪 法官根據電腦顯示的危險因子數據 來決定一個人要在監獄待幾年 我們得仔細想想這些判定 它們真的公平嗎？ 我們親眼看見偏差的演算邏輯 未必做出正確的判斷 我們該怎麽辦呢？ 我們要先確定程式碼是否具多樣性 以及寫程式的過程是否周詳 事實上全都始於人 程式是誰寫的有關係 寫程式的團隊是否由 多元的個體組成呢？ 這樣才能互補並找出彼此的盲點 從技術面而言 我們如何寫程式很重要 我們是否對公平這項要素 在系統開發階段就考量到呢？ 最後 我們為什麼寫程式也重要 我們使用計算創造工具 開啟了巨額財富之門 我們現在有機會實現更大的平等 如果我們將社會變革作為優先事項 而不是事後的想法 這裡有改革程式的三元素 程式是誰寫的重要 如何寫程式重要 以及為何寫程式重要 要成功改革程式 我們可以先從建立能夠 找出偏差的分析平台開始 作法是收集人們的親身經歷 像是我剛才分享的經歷 也檢視現存的軟體 我們可以著手建立 更具包容性的測試樣本 想像「包容的自拍」活動 我們可以幫助開發人員測試和創建 更具包容性的測試樣本 我們也要更自省 我們發展的科技帶給社會的衝擊 為了著手程式改革 我發起了「演算邏輯正義聯盟」 只要你贊同公平 就可以加入打擊數碼凝視的行列 只要上 codedgaze.com 網路 可以舉報你發現的偏差演算邏輯 可以申請測試 可以成為受測者 也可以加入論壇 只要搜尋 #codedgaze 我在此邀請大家加入我的行列 創造一個技術適用於 我們所有人的世界 而不是只適用於某些人 一個重視包容性 和以社會變革為中心的世界 謝謝 （掌聲） 我還有一個問題 你要和我並肩作戰嗎？ （笑聲） （掌聲）