[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.86,Default,,0000,0000,0000,,私はコンピュータ・プログラマー\Nとしての最初の仕事を
Dialogue: 0,0:00:04.88,0:00:06.84,Default,,0000,0000,0000,,大学１年生で始めました
Dialogue: 0,0:00:06.86,0:00:08.37,Default,,0000,0000,0000,,まあ 10代だったんですね
Dialogue: 0,0:00:08.89,0:00:10.62,Default,,0000,0000,0000,,ある会社で ソフトウェアを
Dialogue: 0,0:00:10.64,0:00:12.26,Default,,0000,0000,0000,,書くという仕事を 始めてまもなく
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,会社のマネージャーが\N私のところに来て
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,こうささやきました
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,「僕の嘘 彼にばれてる？」
Dialogue: 0,0:00:21.81,0:00:23.88,Default,,0000,0000,0000,,部屋には他に誰もいません
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,「誰にばれてるって言うんです？\Nそれにどうしてひそひそ声で？」
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,マネージャーは\N室内のコンピュータを指さして
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,「僕の嘘 彼にばれてる？」
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,実はこのマネージャー \N受付係と浮気してたんです
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,私はまだ10代でした
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,だからささやき声で\N彼に叫び返しました
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,「ええ コンピュータには\Nお見通しですよ」って
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,笑っちゃいましたが 実は\Nその笑いは自分に返ってきました
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,今日 コンピュータ・システムは
Dialogue: 0,0:00:59.21,0:01:02.76,Default,,0000,0000,0000,,人間の顔画像を処理することによって
Dialogue: 0,0:01:02.78,0:01:04.82,Default,,0000,0000,0000,,感情や 嘘まで見抜けるんです
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,広告主や 政府までもが\N非常に関心を寄せています
Dialogue: 0,0:01:10.32,0:01:12.18,Default,,0000,0000,0000,,コンピュータプログラマーに\N私がなったのは
Dialogue: 0,0:01:12.20,0:01:15.32,Default,,0000,0000,0000,,子どもの頃から数学と科学が\N熱狂的に好きだったからです
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,しかしその過程で\N核兵器についても学び
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,科学の倫理について\N非常に懸念するようになりました
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,悩みました
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,しかし 家庭の事情で
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,私はできるだけ早く\N働き始めなければなりませんでした
Dialogue: 0,0:01:29.26,0:01:32.56,Default,,0000,0000,0000,,それでひそかに考えました\N技術者として
Dialogue: 0,0:01:32.59,0:01:34.38,Default,,0000,0000,0000,,簡単に職が得られて
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,倫理という厄介な問題を何も\N考えなくていい分野の仕事はないかと
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,それで選んだのがコンピュータです
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,ハハ 笑っちゃう\N自分のことを笑ってるんです
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,近頃 コンピュータ科学者は
Dialogue: 0,0:01:47.92,0:01:52.12,Default,,0000,0000,0000,,10億人が毎日見ているものを制御する\Nプラットフォームを作っています
Dialogue: 0,0:01:53.05,0:01:56.87,Default,,0000,0000,0000,,誰をひき殺すか決定できる\N車を開発しています
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,戦争で人間を殺すかもしれないような
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,機械や兵器さえも作っています
Dialogue: 0,0:02:03.25,0:02:06.02,Default,,0000,0000,0000,,全てにおいて重要になるのが倫理です
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,機械知能は もう存在しています
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,私たちは今や コンピュータを使って\Nあらゆる種類の決定を下し
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,さらに新しい類の決定も下します
Dialogue: 0,0:02:15.23,0:02:20.40,Default,,0000,0000,0000,,私たちは 単一の正答がない問題の答えを\Nコンピュータに尋ねています
Dialogue: 0,0:02:20.43,0:02:21.63,Default,,0000,0000,0000,,その問題とは 主観的で
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,オープンエンドで\N価値観にかかわるものです
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,私たちがする質問はこんなふうです
Dialogue: 0,0:02:25.78,0:02:27.43,Default,,0000,0000,0000,,「誰を社員に採用すべきか？」
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,「どの友達からの新着情報を\N表示すべきか？」
Dialogue: 0,0:02:30.88,0:02:33.14,Default,,0000,0000,0000,,「再犯する可能性の高い受刑者は誰か？」
Dialogue: 0,0:02:33.51,0:02:36.57,Default,,0000,0000,0000,,「人々に勧めるべき \Nニュースや映画はどれか？」
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,確かに私たちは しばらくの間\Nコンピュータを使ってきました
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,しかしこれは違います
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,これは歴史的なひずみです
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,なぜならそのような主観的な決定を\Nコンピュータには頼れないからです
Dialogue: 0,0:02:48.98,0:02:54.40,Default,,0000,0000,0000,,飛行機を飛ばしたり 建物を建てたり
Dialogue: 0,0:02:54.42,0:02:55.68,Default,,0000,0000,0000,,月に行く場合とは違うんです
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,飛行機の方が安全か？\Nその橋は揺れたり落ちたりしたか？
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,そこでは合意された\Nかなり明確な基準があり
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,自然の法則が私たちを導いてくれます
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,私たちがそのような\N支えや基準を何も持っていないのが
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,人間くさい事柄における\N厄介な決定についてです
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,もっと複雑なことに\Nソフトウェアは強力になりつつあります
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,その一方で 透明性を減らし\N複雑さを増してもいるのです
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,ここ10年のあいだ
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,複雑なアルゴリズムは\N大きく前進しました
Dialogue: 0,0:03:27.36,0:03:29.35,Default,,0000,0000,0000,,人間の顔を認識できます
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,手書き文字を読み取れます
Dialogue: 0,0:03:32.44,0:03:34.50,Default,,0000,0000,0000,,クレジットカードの不正使用を探知し
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,スパムをブロックし
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,言語の翻訳もできます
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,医用イメージングで\N腫瘍を探しあてることもできます
Dialogue: 0,0:03:40.40,0:03:42.60,Default,,0000,0000,0000,,チェスや碁で人間を \N打ち負かすこともできます
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,この進歩の多くは 「機械学習」と\N呼ばれる方法から成り立っています
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,機械学習は コンピュータに\N詳細で正確、綿密な指示を与える―
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,伝統的なプログラミングとは異なります
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,機械学習は システムに 大量のデータを\Nしこたま詰め込むやり方です
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,そこには非構造化データという
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,人間がデジタルライフで\N生成する類のものも含まれます
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,そしてシステムはこのデータを\N組み合わせながら学習します
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,そしてまた重要なことに
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,これらのシステムは\N答が単一になる論理で動いてはいません
Dialogue: 0,0:04:12.62,0:04:15.58,Default,,0000,0000,0000,,単純に回答を与えるのではなく\Nもっと確率論的です
Dialogue: 0,0:04:15.61,0:04:19.09,Default,,0000,0000,0000,,「これはおそらくあなたが\N探しているものにより近いでしょう」
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,これの良い面は\Nこの方法が非常に強力であることです
Dialogue: 0,0:04:23.12,0:04:25.19,Default,,0000,0000,0000,,GoogleのAIシステムのトップはこれを
Dialogue: 0,0:04:25.22,0:04:27.41,Default,,0000,0000,0000,,「データの理不尽なほどの強力さ」\Nと呼んでいます
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,このシステムの悪い面は
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,これが何を学習しているのか\N私たちはそれほど理解していないことです
Dialogue: 0,0:04:32.83,0:04:34.42,Default,,0000,0000,0000,,実際 その強力さが問題なのです
Dialogue: 0,0:04:34.95,0:04:38.74,Default,,0000,0000,0000,,これはコンピュータに\N指示を与えるというよりは
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,むしろ子犬のような生き物として\N訓練するようなものです
Dialogue: 0,0:04:43.29,0:04:45.66,Default,,0000,0000,0000,,その機械をそれほど\N理解も制御もできていないのにです
Dialogue: 0,0:04:46.36,0:04:47.91,Default,,0000,0000,0000,,これは問題です
Dialogue: 0,0:04:48.43,0:04:52.69,Default,,0000,0000,0000,,この人工知能システムが\N誤りを犯したときだけでなく
Dialogue: 0,0:04:52.71,0:04:56.25,Default,,0000,0000,0000,,正しいことをした場合にも\N問題が生じます
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,なぜなら主観的な問題の場合\N私たちには正誤さえも分からないからです
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,私たちはこの物体が\N何を考えているか知りません
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,ですから たとえば雇用アルゴリズムを\N考えてみましょう
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,社員を雇う際に使われるシステムで\N機械学習システムを使っています
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,そのようなシステムは過去の従業員の\Nデータに基づいて訓練されています
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,そしてそのシステムが指示するのは
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,その会社に在籍する業績優秀者に似た\N人材を探し雇うことです
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,良さそうですね
Dialogue: 0,0:05:23.99,0:05:25.99,Default,,0000,0000,0000,,以前ある会議に\N出席した折のことですが
Dialogue: 0,0:05:26.01,0:05:29.14,Default,,0000,0000,0000,,そこには人事部のマネージャーと\N執行役が集まっていました
Dialogue: 0,0:05:29.16,0:05:30.37,Default,,0000,0000,0000,,高い職位の人たちで
Dialogue: 0,0:05:30.39,0:05:31.95,Default,,0000,0000,0000,,そのようなシステムを\N雇用に活用しています
Dialogue: 0,0:05:31.98,0:05:33.62,Default,,0000,0000,0000,,彼らは非常にワクワクしていました
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,彼らの考えでは このシステムは\Nより客観的で偏見の少ない雇用を行い
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,マネージャーの偏見に対して\N女性や少数派の人々に
Dialogue: 0,0:05:41.35,0:05:43.54,Default,,0000,0000,0000,,より良い機会を与えるものでした
Dialogue: 0,0:05:43.56,0:05:46.40,Default,,0000,0000,0000,,そうです　\N雇用には偏見が混じるのです
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,私は知っています
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,ある職場で プログラマーとして\N働きだした頃
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,直属のマネージャーが\N時々私のところに来ました
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,それも早朝とか夕方にです
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,そして彼女はこう言うんです\N「ゼイナップ ランチ行きましょ」
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,おかしなタイミングで\N全く訳が分かりませんでした
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,午後４時にランチ？
Dialogue: 0,0:06:07.07,0:06:10.16,Default,,0000,0000,0000,,私はお金がなかったので おごりでした\Nいつも行きました
Dialogue: 0,0:06:10.62,0:06:12.68,Default,,0000,0000,0000,,後で何が起こっていたのか悟りました
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,直属のマネージャーは上層部に
Dialogue: 0,0:06:17.28,0:06:20.39,Default,,0000,0000,0000,,重要な仕事のために雇ったのが
Dialogue: 0,0:06:20.42,0:06:24.35,Default,,0000,0000,0000,,ジーンズとスニーカーで仕事をする\N10代女子だと言ってなかったんです
Dialogue: 0,0:06:25.17,0:06:27.38,Default,,0000,0000,0000,,私は良い仕事ぶりだったのに\N体裁が悪くて
Dialogue: 0,0:06:27.40,0:06:29.10,Default,,0000,0000,0000,,年齢や性別の点でも\N良くなかったんです
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,ですから性別や人種に\N惑わされない形での雇用は
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,非常に良いことだと\N私には思えます
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,でもこのシステムを用いると\N事態はより複雑になります なぜなら
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,現在コンピュータシステムは\Nあなたに関するあらゆる類のことを
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,デジタル情報の断片から\N推測できるからです
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,自分が開示していなくてもです
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,システムはあなたの性的志向や
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,性格特徴や
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,政治的傾向を推測できます
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,システムは高水準の正確さで\N予測する力を持っています
Dialogue: 0,0:07:01.36,0:07:03.94,Default,,0000,0000,0000,,思い出してください \N開示さえしていない事柄をですよ
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,これが推測です
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,ある友達は \Nそのようなコンピュータシステムを
Dialogue: 0,0:07:08.86,0:07:12.50,Default,,0000,0000,0000,,病的な あるいは産後の 抑うつの可能性を\N予測するために開発しています
Dialogue: 0,0:07:12.53,0:07:13.94,Default,,0000,0000,0000,,SNSのデータを用いるんです
Dialogue: 0,0:07:14.68,0:07:16.10,Default,,0000,0000,0000,,結果は素晴らしいです
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,彼女のシステムは\Nうつ罹患の可能性を
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,症状が現れる数か月前に\N予測できるのです
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,数か月も前ですよ
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,症状が全くない段階での予測です
Dialogue: 0,0:07:27.47,0:07:32.28,Default,,0000,0000,0000,,彼女はこれを早期介入のために\N活用したがっています 素晴らしい！
Dialogue: 0,0:07:32.91,0:07:34.95,Default,,0000,0000,0000,,でもこれを雇用の文脈で\N考えてみましょう
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,例の 人事マネージャーの会議では
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,私はある非常に大きな企業の\N高職位のマネージャーに近づき
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,こう言いました\N「まだご存じないこととは思いますが
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,もしそのシステムが 将来うつになる可能性が\N高い人を排除しているとしたらどうでしょう？
Dialogue: 0,0:07:55.76,0:07:59.14,Default,,0000,0000,0000,,今ではなく　\N将来そうなる可能性が高い人です
Dialogue: 0,0:07:59.92,0:08:03.33,Default,,0000,0000,0000,,妊娠する可能性の\N高い女性を排除しているとしたら？
Dialogue: 0,0:08:03.35,0:08:05.94,Default,,0000,0000,0000,,来年か再来年のことで \N今は妊娠していない場合ですよ？
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,もし職場の文化に合っているからと\N攻撃的な人が雇われたらどうします？」
Dialogue: 0,0:08:13.17,0:08:15.86,Default,,0000,0000,0000,,性別の構成からは\Nそのことを読み取れません
Dialogue: 0,0:08:15.89,0:08:17.39,Default,,0000,0000,0000,,構成比はバランスが取れています
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,これは機械学習で \N伝統的なプログラムではないので
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,たとえば「うつハイリスク」とか\N「妊娠ハイリスク」
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,「攻撃的な人物度」
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,などの変数は登場しません
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,システムが何に基づいて選択しているのか\N分からないばかりか
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,どうすれば分かるのかの\N手がかりもありません
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,ブラックボックスなんです
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,システムには予測力がありますが\N人間には理解できない代物です
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,「どんな安全対策をしていますか？
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,あなたのブラックボックスが\Nやましいことをしないようにです」
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,彼女は子犬の尻尾を10匹分も踏みつけた\N人でなしを見るかのような顔になりました
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,彼女は私をじっと見て言いました
Dialogue: 0,0:08:56.56,0:09:00.89,Default,,0000,0000,0000,,「これについては\Nもう何も聞きたくない」
Dialogue: 0,0:09:01.46,0:09:03.49,Default,,0000,0000,0000,,そして彼女は踵を返して\N行ってしまいました
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,彼女が失礼なわけではありません
Dialogue: 0,0:09:05.57,0:09:11.88,Default,,0000,0000,0000,,明らかに 聞かなかったことにしたい\Nあっち行ってという憎悪の眼差しでした
Dialogue: 0,0:09:11.91,0:09:13.15,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,いいですか そのようなシステムは\Nある意味 偏見の程度は
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,人間のマネージャーよりは\N少ないかもしれません
Dialogue: 0,0:09:19.85,0:09:21.100,Default,,0000,0000,0000,,費用の面でも\N理にかなっているでしょう
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,でもそれはまた
Dialogue: 0,0:09:24.25,0:09:28.100,Default,,0000,0000,0000,,ひそやかながら確実に\N労働市場からの
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,うつハイリスク者の締め出しに\Nつながりかねません
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,これが私たちの築きたい\N社会の姿でしょうか？
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,こんなことをしていることさえ\N私たちは知らないんです
Dialogue: 0,0:09:36.68,0:09:40.65,Default,,0000,0000,0000,,完全には理解していない機械に\N意思決定をさせているんですからね
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,もう１つの問題はこれです
Dialogue: 0,0:09:43.31,0:09:47.77,Default,,0000,0000,0000,,このようなシステムの訓練は往々にして\N人間の行動データに基づいています
Dialogue: 0,0:09:47.79,0:09:49.61,Default,,0000,0000,0000,,人間らしさが刻み込まれています
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,それらは私たちの偏見を\N反映している可能性があり
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,これらのシステムは\N私たちの偏見を拾い上げ
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,それを増幅して
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,私たちに示し返しかねません
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,私たちはこんな言いっぷりなのにですよ
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,「私たちはまさしく客観的です\N中立的なコンピューティングですから」
Dialogue: 0,0:10:06.31,0:10:08.99,Default,,0000,0000,0000,,研究者たちは Googleにおいて
Dialogue: 0,0:10:10.13,0:10:15.45,Default,,0000,0000,0000,,女性には 高給の求人広告が\N表示されにくいことを見出しました
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,また アフリカ系アメリカ人の\N名前を検索すると
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,犯罪歴をほのめかす広告が\N高確率で表示されます
Dialogue: 0,0:10:23.75,0:10:25.31,Default,,0000,0000,0000,,犯罪歴がない人の場合でもそうです
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,そのような隠れた偏見と\Nブラックボックスのアルゴリズムを
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,研究者が暴くこともありますが\N知られない場合もあります
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,それらは人生を\N変える結果になりうるのです
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,ウィスコンシンで ある被告が\N刑期６年の判決を受けました
Dialogue: 0,0:10:42.14,0:10:43.50,Default,,0000,0000,0000,,警察官から逃げたためです
Dialogue: 0,0:10:44.82,0:10:46.01,Default,,0000,0000,0000,,ご存知ないかもしれませんが
Dialogue: 0,0:10:46.03,0:10:50.03,Default,,0000,0000,0000,,仮釈放や判決の決定においても\Nアルゴリズムの使用が増えています
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,彼はこのスコアが計算される仕組みを\N知りたいと思いました
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,それは商用のブラックボックスです
Dialogue: 0,0:10:55.48,0:10:59.69,Default,,0000,0000,0000,,企業はアルゴリズムが\N公開の法廷で検証されるのを拒みました
Dialogue: 0,0:11:00.40,0:11:05.93,Default,,0000,0000,0000,,でもProPublicaという非営利の調査団体が\Nそのアルゴリズムを監査しました
Dialogue: 0,0:11:05.95,0:11:07.97,Default,,0000,0000,0000,,入手可能だった\N公開データを用いてです
Dialogue: 0,0:11:07.99,0:11:10.31,Default,,0000,0000,0000,,そして分かったのは\N結果には偏見が影響しており
Dialogue: 0,0:11:10.33,0:11:13.96,Default,,0000,0000,0000,,予測力はひどいものでした\N偶然よりわずかにましな程度です
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,黒人の被告は 白人の被告に比べて\N将来犯罪を起こす確率が
Dialogue: 0,0:11:18.42,0:11:22.32,Default,,0000,0000,0000,,２倍高いと\N誤ってラベリングされていました
Dialogue: 0,0:11:23.89,0:11:25.46,Default,,0000,0000,0000,,ではこのケースを考えてみましょう
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,女性のほうは予定より遅れて\N親友を迎えに行くため
Dialogue: 0,0:11:29.98,0:11:32.05,Default,,0000,0000,0000,,フロリダ州ブロワード郡の\Nある学校に向かって
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,友達と一緒に道を走っていました
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,ふたりはある家の玄関で 無施錠の\N子ども用の自転車とキックスケーターを見つけ
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,愚かにもそれに飛び乗りました
Dialogue: 0,0:11:40.92,0:11:43.52,Default,,0000,0000,0000,,走り去ろうとしたところ\N女性が出てきて言いました
Dialogue: 0,0:11:43.54,0:11:45.74,Default,,0000,0000,0000,,「ちょっと！\Nそれはうちの子の自転車よ！」
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,ふたりは降りて 歩き去りましたが\N逮捕されました
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,彼女は間違っていたし愚かでした\Nでもまだ18歳です
Dialogue: 0,0:11:52.75,0:11:55.29,Default,,0000,0000,0000,,彼女は２回の非行歴がありました
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,一方 男性のほうは Home Depoで\N万引きをして捕まりました
Dialogue: 0,0:12:01.02,0:12:03.94,Default,,0000,0000,0000,,彼が万引きしたのは85ドル相当で\N同じく軽犯罪ですが
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,彼は強盗で前科２犯でした
Dialogue: 0,0:12:09.96,0:12:13.44,Default,,0000,0000,0000,,でもアルゴリズムは 男性ではなく\N女性の方をハイリスクと評価しました
Dialogue: 0,0:12:14.75,0:12:18.62,Default,,0000,0000,0000,,その女性が２年後に再犯していないことを\NProPiblicaは明らかにしています
Dialogue: 0,0:12:18.64,0:12:21.19,Default,,0000,0000,0000,,犯罪記録をもつ彼女が\N職を得るのは実に困難でした
Dialogue: 0,0:12:21.22,0:12:23.29,Default,,0000,0000,0000,,一方 男性の方は再犯し
Dialogue: 0,0:12:23.32,0:12:27.15,Default,,0000,0000,0000,,２つ目の犯罪のために\N現在は８年間の収監中です
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,ブラックボックスに対して\N監査が必要なのは明白です
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,チェックしないままこの種の権力を\N与えてはいけないのです
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,監査は偉大で重要ですが\Nそれで全ての問題を解決できはしません
Dialogue: 0,0:12:42.35,0:12:45.10,Default,,0000,0000,0000,,Facebookのニュース・フィードの\N強力なアルゴリズムの場合
Dialogue: 0,0:12:45.12,0:12:49.97,Default,,0000,0000,0000,,全てをランク付けし\N全ての友達やフォロー中のページのなかで
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,何を見るべきか決定する仕組みですね
Dialogue: 0,0:12:52.90,0:12:55.17,Default,,0000,0000,0000,,赤ちゃんの写真をもう１枚見るべきか？
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,知り合いからの ご機嫌斜めのコメントは？
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,重要だけど難解なニュース記事は？
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,正答はありません
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Facebookはサイト上での\Nやりとりに応じて最適化します
Dialogue: 0,0:13:05.52,0:13:06.93,Default,,0000,0000,0000,,「いいね」やシェア コメント\Nといったものです
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,2014年8月
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,ミズーリ州ファーガソンで\N抗議運動が勃発しました
Dialogue: 0,0:13:13.57,0:13:17.99,Default,,0000,0000,0000,,アフリカ系アメリカ人の10代が\N白人の警察官に殺され
Dialogue: 0,0:13:18.02,0:13:19.58,Default,,0000,0000,0000,,その状況が不審だったのです
Dialogue: 0,0:13:19.97,0:13:21.98,Default,,0000,0000,0000,,抗議運動のニュースは
Dialogue: 0,0:13:22.00,0:13:24.69,Default,,0000,0000,0000,,フィルタリングされない\NTwitterフィードを埋め尽くしました
Dialogue: 0,0:13:24.71,0:13:26.66,Default,,0000,0000,0000,,でもFacebookには何ら\N表示されませんでした
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,Facebook上の友達との\N関連でしょうか？
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,私はFacebookのアルゴリズムを\N無効にしました
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,Facebookはアルゴリズムの\N管理下に置きたがるので
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,難しかったですけどね
Dialogue: 0,0:13:36.40,0:13:38.64,Default,,0000,0000,0000,,すると友達が 抗議運動のことを\N話しているのが分かりました
Dialogue: 0,0:13:38.67,0:13:41.18,Default,,0000,0000,0000,,アルゴリズムが私に\N見せなかっただけなんです
Dialogue: 0,0:13:41.20,0:13:44.24,Default,,0000,0000,0000,,調査して分かりましたが\Nこれは広範囲にわたる問題でした
Dialogue: 0,0:13:44.26,0:13:48.08,Default,,0000,0000,0000,,ファーガソンの話題は\Nアルゴリズムに馴染まなかったんです
Dialogue: 0,0:13:48.10,0:13:49.27,Default,,0000,0000,0000,,「いいね」しにくいのです
Dialogue: 0,0:13:49.30,0:13:50.85,Default,,0000,0000,0000,,誰が「いいね」します？
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,コメントをするのさえ\N容易じゃありません
Dialogue: 0,0:13:53.73,0:13:55.10,Default,,0000,0000,0000,,「いいね」もコメントもないので
Dialogue: 0,0:13:55.12,0:13:58.42,Default,,0000,0000,0000,,アルゴリズムは少数の人にしか\Nそれを表示しません
Dialogue: 0,0:13:58.44,0:13:59.98,Default,,0000,0000,0000,,だから目にすることがなかったんです
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,そのかわり その週
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,Facebookのアルゴリズムが\Nハイライトしたのは
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,ALSアイス・バケツ・チャレンジでした
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,価値のある目的で氷水をかぶり\Nチャリティに寄付 良いですね
Dialogue: 0,0:14:10.54,0:14:12.44,Default,,0000,0000,0000,,でも極めてよく\Nアルゴリズムに馴染みます
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,機械が私たちのために\Nこれを決定したんです
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,非常に重要だけれど難解な会話は
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,Facebookが唯一の経路の場合
Dialogue: 0,0:14:20.96,0:14:23.65,Default,,0000,0000,0000,,抑え込まれてきたのかもしれません
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,さて最後にこれらのシステムは
Dialogue: 0,0:14:27.94,0:14:30.67,Default,,0000,0000,0000,,人間のシステムとは似つかない誤りを\N犯しうるのです
Dialogue: 0,0:14:30.70,0:14:33.62,Default,,0000,0000,0000,,皆さんはワトソンを覚えていますか\NIBMの機械知能システムで
Dialogue: 0,0:14:33.64,0:14:36.77,Default,,0000,0000,0000,,クイズ番組『ジェパディ！』で\N対戦相手の人間を打ち負かしました
Dialogue: 0,0:14:37.13,0:14:38.56,Default,,0000,0000,0000,,すごい選手だったんです
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,しかし最終問題で\Nワトソンは こんな質問をされました
Dialogue: 0,0:14:42.66,0:14:45.59,Default,,0000,0000,0000,,「その地域最大の空港の名は\N第二次世界大戦の英雄に由来し
Dialogue: 0,0:14:45.62,0:14:47.87,Default,,0000,0000,0000,,２番目の空港の名の由来は\N第二次世界大戦中の戦いです」
Dialogue: 0,0:14:47.89,0:14:49.27,Default,,0000,0000,0000,,（最終問題の音楽をハミング）
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,「シカゴ」
Dialogue: 0,0:14:50.79,0:14:52.16,Default,,0000,0000,0000,,人間ふたりは正答でした
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,一方ワトソンの答えは\N「トロント」
Dialogue: 0,0:14:57.07,0:14:58.89,Default,,0000,0000,0000,,米国の都市についての\N問題だったのに！
Dialogue: 0,0:14:59.60,0:15:02.50,Default,,0000,0000,0000,,この素晴らしいシステムも\Nエラーをするんです
Dialogue: 0,0:15:02.52,0:15:06.17,Default,,0000,0000,0000,,人間はしないようなエラーです\N２年生の子どもでもしません
Dialogue: 0,0:15:06.82,0:15:09.93,Default,,0000,0000,0000,,機械知能は失敗を犯すこともあるんです
Dialogue: 0,0:15:09.96,0:15:13.06,Default,,0000,0000,0000,,人間のエラーパターンとは\N異なります
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,予想外であり 備えもできないような方法です
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,資質のある人が仕事を得られないのも\Nひどい話ですが
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,もしそれがプログラムのサブルーチンに伴う\Nスタックオーバーフローが原因なら
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,３倍ひどい話です
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,2010年5月
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,ウォールストリートの\N「売り」アルゴリズムでの
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,フィードバックループによって\N瞬間暴落が起き
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,36分間で１兆ドル相当の\N損失が出ました
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,「エラー」の意味を\N考えたくもないのが
Dialogue: 0,0:15:43.93,0:15:47.52,Default,,0000,0000,0000,,無人攻撃機の場合です
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,ええ人間には 偏見がつきものです
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,意思決定者やゲートキーパー
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,法廷、ニュース、戦争・・・
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,そこではミスが生じますが\Nこれこそ私の言いたいことです
Dialogue: 0,0:16:02.49,0:16:06.01,Default,,0000,0000,0000,,これらの難問から\N私たちは逃れられません
Dialogue: 0,0:16:06.60,0:16:10.11,Default,,0000,0000,0000,,私たちは責任を\N機械に外部委託することはできないのです
Dialogue: 0,0:16:10.68,0:16:14.88,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:16:17.09,0:16:21.54,Default,,0000,0000,0000,,人工知能は「倫理問題からの解放」カードを\N私たちにくれたりしません
Dialogue: 0,0:16:22.74,0:16:26.12,Default,,0000,0000,0000,,データ科学者のフレッド・ベネンソンは\Nこれを数学による洗脳だと呼びました
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,私たちに必要なのは逆のものです
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,私たちはアルゴリズムを疑い \N精査するようにならねばなりません
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,私たちは アルゴリズムについての\N説明責任を持ち
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,監査や意味のある透明化を\N求めなければなりません
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,私たちは厄介で価値観にかかわる\N人間くさい事柄に対して
Dialogue: 0,0:16:42.64,0:16:45.61,Default,,0000,0000,0000,,数学や計算機は\N客観性をもたらしえないことを
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,受け入れなければなりません
Dialogue: 0,0:16:48.89,0:16:51.67,Default,,0000,0000,0000,,むしろ人間くささのもつ複雑さが\Nアルゴリズムを管理するのです
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,確かに私たちは コンピュータを\N良い決断を下す助けとして
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,使いうるし そうすべきです
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,でも私たちは判断を下すことへの\N自分の道徳的な責任を認め
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,そしてアルゴリズムを\Nその枠内で用いなければなりません
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,自分の責任を放棄して\N別の人間へ委ねることとは
Dialogue: 0,0:17:10.85,0:17:13.31,Default,,0000,0000,0000,,異なるのです
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,機械知能はもう存在しています
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,つまり私たちは\N人間としての価値観や倫理感を
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,よりしっかり持たねばなりません
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,ありがとうございました
Dialogue: 0,0:17:23.23,0:17:28.25,Default,,0000,0000,0000,,（拍手）