[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.86,Default,,0000,0000,0000,,アルゴリズムは どこにでもあります
Dialogue: 0,0:00:04.11,0:00:07.47,Default,,0000,0000,0000,,アルゴリズムが勝者と敗者を分けます
Dialogue: 0,0:00:08.02,0:00:10.17,Default,,0000,0000,0000,,勝者は仕事を手に入れ
Dialogue: 0,0:00:10.17,0:00:12.08,Default,,0000,0000,0000,,有利なクレジットカードを\N申し込めます
Dialogue: 0,0:00:12.08,0:00:15.10,Default,,0000,0000,0000,,一方 敗者は就職面接すら受けられず
Dialogue: 0,0:00:15.59,0:00:17.74,Default,,0000,0000,0000,,保険料は より高くなります
Dialogue: 0,0:00:18.20,0:00:21.95,Default,,0000,0000,0000,,私たちは 理解できない上に\N不服申し立ての機会もない—
Dialogue: 0,0:00:22.68,0:00:26.00,Default,,0000,0000,0000,,秘密の数式によって\N格付けされているのです
Dialogue: 0,0:00:27.18,0:00:28.54,Default,,0000,0000,0000,,そこで疑問が湧いてきます
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,もしアルゴリズムが間違っていたら？
Dialogue: 0,0:00:32.99,0:00:34.72,Default,,0000,0000,0000,,アルゴリズムを作る時\N必要なものが２つあります
Dialogue: 0,0:00:34.72,0:00:37.07,Default,,0000,0000,0000,,データ つまり過去の出来事の記録と
Dialogue: 0,0:00:37.07,0:00:38.76,Default,,0000,0000,0000,,人が追い求める「成功」を\N定義する基準です
Dialogue: 0,0:00:38.76,0:00:41.16,Default,,0000,0000,0000,,人が追い求める「成功」を\N定義する基準です
Dialogue: 0,0:00:41.16,0:00:46.06,Default,,0000,0000,0000,,そして観察と理解を通して\Nアルゴリズムを訓練します
Dialogue: 0,0:00:46.06,0:00:49.59,Default,,0000,0000,0000,,アルゴリズムに 成功と関係する要素を\N理解させるためです
Dialogue: 0,0:00:49.59,0:00:52.55,Default,,0000,0000,0000,,どんな状況が 成功に繋がるのでしょう？
Dialogue: 0,0:00:52.80,0:00:54.64,Default,,0000,0000,0000,,実は アルゴリズムは\N誰でも使っています
Dialogue: 0,0:00:54.67,0:00:57.23,Default,,0000,0000,0000,,プログラムに書かないだけです
Dialogue: 0,0:00:57.23,0:00:58.57,Default,,0000,0000,0000,,１つ例を挙げましょう
Dialogue: 0,0:00:58.57,0:01:02.02,Default,,0000,0000,0000,,私は毎日アルゴリズムを使って\N家族の食事を用意します
Dialogue: 0,0:01:02.02,0:01:04.27,Default,,0000,0000,0000,,私が利用するデータは
Dialogue: 0,0:01:04.27,0:01:06.05,Default,,0000,0000,0000,,台所にどんな材料があるか
Dialogue: 0,0:01:06.05,0:01:07.60,Default,,0000,0000,0000,,どれだけ時間をかけられるか
Dialogue: 0,0:01:07.60,0:01:08.91,Default,,0000,0000,0000,,どれだけ料理に凝るかで
Dialogue: 0,0:01:08.91,0:01:10.61,Default,,0000,0000,0000,,私はそのデータをまとめます
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,ちなみにインスタントラーメンは\N食べ物とは認めません
Dialogue: 0,0:01:14.88,0:01:16.76,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,私にとって成功の基準は
Dialogue: 0,0:01:18.66,0:01:21.55,Default,,0000,0000,0000,,子供たちが野菜を食べることです
Dialogue: 0,0:01:22.10,0:01:24.69,Default,,0000,0000,0000,,もし下の息子が決めるなら\N基準はガラッと変わり
Dialogue: 0,0:01:24.69,0:01:28.05,Default,,0000,0000,0000,,「いっぱいチョコナッツクリームを\N食べられれば成功」と言うでしょう
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,でも基準を決めるのは私です
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,責任者は私で\N私の意見が重要なんですから
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,これがアルゴリズムの第１のルールです
Dialogue: 0,0:01:36.86,0:01:40.30,Default,,0000,0000,0000,,アルゴリズムとはプログラムに\N埋め込まれた意見なのです
Dialogue: 0,0:01:41.48,0:01:45.22,Default,,0000,0000,0000,,これは ほとんどの人が持つ\Nアルゴリズムのイメージとはかけ離れています
Dialogue: 0,0:01:45.25,0:01:50.17,Default,,0000,0000,0000,,人々はアルゴリズムが客観的で正しく\N科学的なものと思っていますが
Dialogue: 0,0:01:50.17,0:01:52.61,Default,,0000,0000,0000,,それはマーケティング上のトリックです
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,アルゴリズムで人を怯ませるのも
Dialogue: 0,0:01:55.42,0:01:58.49,Default,,0000,0000,0000,,マーケティングのトリックですし
Dialogue: 0,0:01:58.49,0:02:02.22,Default,,0000,0000,0000,,アルゴリズムを信用させたり\N恐れさせたりするのもそう
Dialogue: 0,0:02:02.22,0:02:05.03,Default,,0000,0000,0000,,皆 数学を恐れつつ信用していますから
Dialogue: 0,0:02:05.57,0:02:10.73,Default,,0000,0000,0000,,ビッグデータを盲信すると\Nいろいろな問題が生じかねません
Dialogue: 0,0:02:11.60,0:02:15.06,Default,,0000,0000,0000,,彼女はキリ・ソアーズ\Nブルックリンの高校で校長をしています
Dialogue: 0,0:02:15.08,0:02:17.67,Default,,0000,0000,0000,,2011年に彼女が教えてくれたのですが\N彼女の学校では
Dialogue: 0,0:02:17.69,0:02:20.42,Default,,0000,0000,0000,,「付加価値モデル」という\N複雑な秘密のアルゴリズムで
Dialogue: 0,0:02:20.42,0:02:22.50,Default,,0000,0000,0000,,教員が評価されている\Nということでした
Dialogue: 0,0:02:22.50,0:02:25.11,Default,,0000,0000,0000,,私は こう伝えました\N「数式を調べてみましょう
Dialogue: 0,0:02:25.11,0:02:27.16,Default,,0000,0000,0000,,見せてくれれば説明しますよ」
Dialogue: 0,0:02:27.16,0:02:29.26,Default,,0000,0000,0000,,すると彼女は\N「数式を入手しようとしたら
Dialogue: 0,0:02:29.26,0:02:32.17,Default,,0000,0000,0000,,市教育局の担当者に『これは数学ですよ\N理解できないでしょう』と
Dialogue: 0,0:02:32.17,0:02:33.76,Default,,0000,0000,0000,,言われたんです」
Dialogue: 0,0:02:35.27,0:02:36.60,Default,,0000,0000,0000,,事態はさらに深刻化します
Dialogue: 0,0:02:36.63,0:02:40.16,Default,,0000,0000,0000,,ニューヨーク・ポスト紙が\N情報自由法に基づく開示請求をして
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,ニューヨーク市の全教員の\N名前とスコアを手に入れ
Dialogue: 0,0:02:43.16,0:02:46.51,Default,,0000,0000,0000,,教員を辱めるような\Nデータを公表しました
Dialogue: 0,0:02:47.08,0:02:50.91,Default,,0000,0000,0000,,一方 私がソース・コードを\N同じ方法で手に入れようとしたところ
Dialogue: 0,0:02:50.91,0:02:53.12,Default,,0000,0000,0000,,無理だと言われました
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,却下されたのです
Dialogue: 0,0:02:54.40,0:02:55.58,Default,,0000,0000,0000,,後にわかったことですが
Dialogue: 0,0:02:55.60,0:02:58.44,Default,,0000,0000,0000,,ニューヨーク市で その数式を\N見られる人は誰もおらず
Dialogue: 0,0:02:58.44,0:03:00.48,Default,,0000,0000,0000,,誰も理解していなかったのです
Dialogue: 0,0:03:01.87,0:03:05.10,Default,,0000,0000,0000,,その後 ゲイリー・ルービンスタインという\N頭のキレる人物が登場します
Dialogue: 0,0:03:05.10,0:03:07.13,Default,,0000,0000,0000,,彼はニューヨーク・ポスト紙のデータから
Dialogue: 0,0:03:07.13,0:03:10.63,Default,,0000,0000,0000,,２種類のスコアを持っている\N教員665名を見つけ出しました
Dialogue: 0,0:03:10.63,0:03:12.59,Default,,0000,0000,0000,,それに該当するのは 例えば
Dialogue: 0,0:03:12.62,0:03:15.02,Default,,0000,0000,0000,,数学を７年生と８年生で\N教えている場合です
Dialogue: 0,0:03:15.02,0:03:16.73,Default,,0000,0000,0000,,彼は２種類のスコアを散布図にしました
Dialogue: 0,0:03:16.73,0:03:18.98,Default,,0000,0000,0000,,点はそれぞれ 先生を表します
Dialogue: 0,0:03:19.06,0:03:21.48,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:03:21.51,0:03:23.32,Default,,0000,0000,0000,,これは どういうことでしょう？
Dialogue: 0,0:03:23.32,0:03:24.33,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:03:24.35,0:03:27.74,Default,,0000,0000,0000,,こんなものを教員の個人評価に\N使ってはいけません
Dialogue: 0,0:03:27.74,0:03:29.92,Default,,0000,0000,0000,,まるで乱数発生器じゃないですか
Dialogue: 0,0:03:29.92,0:03:32.49,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:03:32.49,0:03:33.87,Default,,0000,0000,0000,,でも実際に使われたんです
Dialogue: 0,0:03:33.87,0:03:35.01,Default,,0000,0000,0000,,彼女はサラ・ワイサキ
Dialogue: 0,0:03:35.01,0:03:38.22,Default,,0000,0000,0000,,他の205人のワシントンD.C.学区の\N先生たちと共に
Dialogue: 0,0:03:38.22,0:03:39.88,Default,,0000,0000,0000,,解雇されました
Dialogue: 0,0:03:39.88,0:03:42.91,Default,,0000,0000,0000,,校長や保護者からの評価は\N非常に高かったのにです
Dialogue: 0,0:03:42.91,0:03:44.56,Default,,0000,0000,0000,,校長や保護者からの評価は\N非常に高かったのにです
Dialogue: 0,0:03:45.39,0:03:47.37,Default,,0000,0000,0000,,皆さんが今 考えていることは\Nわかります
Dialogue: 0,0:03:47.37,0:03:50.01,Default,,0000,0000,0000,,特にデータサイエンティストや\NAIの専門家なら思うでしょう
Dialogue: 0,0:03:50.01,0:03:54.33,Default,,0000,0000,0000,,「自分なら そんなデタラメな\Nアルゴリズムは作らない」って
Dialogue: 0,0:03:54.78,0:03:56.60,Default,,0000,0000,0000,,でもアルゴリズムは誤ることもあれば
Dialogue: 0,0:03:56.60,0:04:01.56,Default,,0000,0000,0000,,善意に基づいていても\N破壊的な影響を及ぼすことだってあります
Dialogue: 0,0:04:02.53,0:04:04.87,Default,,0000,0000,0000,,飛行機なら 設計がまずければ
Dialogue: 0,0:04:04.87,0:04:06.94,Default,,0000,0000,0000,,墜落しますし\Nその様子が見えますが
Dialogue: 0,0:04:06.96,0:04:09.33,Default,,0000,0000,0000,,アルゴリズムだと設計がまずくても
Dialogue: 0,0:04:10.18,0:04:14.82,Default,,0000,0000,0000,,長期間に渡って 音もなく\N大惨事をもたらし続けかねないんです
Dialogue: 0,0:04:15.75,0:04:17.58,Default,,0000,0000,0000,,彼はロジャー・エイルズ
Dialogue: 0,0:04:17.58,0:04:19.34,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:04:20.52,0:04:23.14,Default,,0000,0000,0000,,1996年にFOXニュースを創設しました
Dialogue: 0,0:04:23.44,0:04:26.02,Default,,0000,0000,0000,,20人以上の女性が\Nセクハラ被害を訴えました
Dialogue: 0,0:04:26.04,0:04:29.24,Default,,0000,0000,0000,,またキャリアアップを\N妨害されたそうです
Dialogue: 0,0:04:29.24,0:04:31.82,Default,,0000,0000,0000,,彼自身は2016年に地位を追われましたが
Dialogue: 0,0:04:31.84,0:04:34.95,Default,,0000,0000,0000,,最近のニュースにある通り\N問題は依然残っています
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,ここで疑問が湧いてきます
Dialogue: 0,0:04:37.08,0:04:40.22,Default,,0000,0000,0000,,再起をはかるために\NFOXニュースは何をすべきか？
Dialogue: 0,0:04:41.24,0:04:44.29,Default,,0000,0000,0000,,人材採用プロセスを\N機械学習アルゴリズムに
Dialogue: 0,0:04:44.31,0:04:45.96,Default,,0000,0000,0000,,替えるのはどうでしょう？
Dialogue: 0,0:04:45.99,0:04:47.58,Default,,0000,0000,0000,,いいアイデアでしょう？
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,検討してみましょう
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,まずデータには\N何が使えるでしょう？
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,過去21年間に FOXニュースに送られた\N履歴書がいいでしょう
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,妥当なデータです
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,では成功の基準は？
Dialogue: 0,0:04:59.92,0:05:01.24,Default,,0000,0000,0000,,妥当な基準は…
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,どんな人がFOXニュースで\N成功するんでしょう？
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,例えば ４年在職して\N最低１回は昇進していれば
Dialogue: 0,0:05:06.68,0:05:08.65,Default,,0000,0000,0000,,成功と言えそうです
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,妥当な基準です
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,それをアルゴリズムに学習させます
Dialogue: 0,0:05:12.78,0:05:16.98,Default,,0000,0000,0000,,人々を探って\N何が成功につながるか—
Dialogue: 0,0:05:17.22,0:05:20.72,Default,,0000,0000,0000,,これまで どんな履歴書が\N成功に繋がってきたのかを
Dialogue: 0,0:05:20.72,0:05:23.60,Default,,0000,0000,0000,,この基準に従って学習させるのです
Dialogue: 0,0:05:24.20,0:05:25.83,Default,,0000,0000,0000,,さて このアルゴリズムを
Dialogue: 0,0:05:25.83,0:05:28.71,Default,,0000,0000,0000,,現在の就職希望者に\N当てはめると どうなるでしょう？
Dialogue: 0,0:05:29.12,0:05:31.32,Default,,0000,0000,0000,,まず女性は除外されるでしょう
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,過去に成功してきたようには\N見えないからです
Dialogue: 0,0:05:39.64,0:05:42.29,Default,,0000,0000,0000,,配慮もなく やみくもに\Nアルゴリズムを適用しても
Dialogue: 0,0:05:42.31,0:05:44.98,Default,,0000,0000,0000,,物事は公平にはならないんです
Dialogue: 0,0:05:44.98,0:05:46.51,Default,,0000,0000,0000,,アルゴリズムは公平を生みません
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,過去の行為や行動パターンを
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,繰り返し
Dialogue: 0,0:05:49.90,0:05:52.22,Default,,0000,0000,0000,,自動的に現状を維持するだけです
Dialogue: 0,0:05:52.72,0:05:55.32,Default,,0000,0000,0000,,この世界が完璧なら\Nそれでいいんでしょうが
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,そうではありません
Dialogue: 0,0:05:57.24,0:06:01.91,Default,,0000,0000,0000,,さらに付け加えると ほとんどの企業は\Nみっともない裁判を抱えている訳ではありませんが
Dialogue: 0,0:06:02.45,0:06:04.93,Default,,0000,0000,0000,,こういった企業にいる\Nデータサイエンティストは
Dialogue: 0,0:06:04.93,0:06:06.85,Default,,0000,0000,0000,,正確性に焦点を当て
Dialogue: 0,0:06:06.85,0:06:09.68,Default,,0000,0000,0000,,データに従うよう指示されています
Dialogue: 0,0:06:10.27,0:06:11.65,Default,,0000,0000,0000,,その意味を考えてみましょう
Dialogue: 0,0:06:11.68,0:06:13.53,Default,,0000,0000,0000,,誰でもバイアスを持っているので
Dialogue: 0,0:06:13.53,0:06:18.36,Default,,0000,0000,0000,,アルゴリズムに性差別や その他の偏見が\Nコード化されている可能性があります
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,思考実験をしてみましょう
Dialogue: 0,0:06:20.93,0:06:22.68,Default,,0000,0000,0000,,私は思考実験が好きなので
Dialogue: 0,0:06:23.57,0:06:27.05,Default,,0000,0000,0000,,人種を完全に隔離した\N社会があるとします
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,どの街でも どの地域でも\N人種は隔離され
Dialogue: 0,0:06:31.60,0:06:33.98,Default,,0000,0000,0000,,犯罪を見つけるために\N警察を送り込むのは
Dialogue: 0,0:06:33.98,0:06:36.37,Default,,0000,0000,0000,,マイノリティーが住む地域だけです
Dialogue: 0,0:06:36.39,0:06:39.45,Default,,0000,0000,0000,,すると逮捕者のデータは\Nかなり偏ったものになるでしょう
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,さらに データサイエンティストを\N探してきて
Dialogue: 0,0:06:42.45,0:06:46.91,Default,,0000,0000,0000,,報酬を払い 次の犯罪が起こる場所を\N予測させたらどうなるでしょう？
Dialogue: 0,0:06:47.20,0:06:48.99,Default,,0000,0000,0000,,マイノリティーの地域になります
Dialogue: 0,0:06:49.28,0:06:52.82,Default,,0000,0000,0000,,あるいは 次に犯罪を犯しそうな人を\N予測させたら？
Dialogue: 0,0:06:52.89,0:06:54.62,Default,,0000,0000,0000,,マイノリティーでしょうね
Dialogue: 0,0:06:55.95,0:06:59.39,Default,,0000,0000,0000,,データサイエンティストは\Nモデルの素晴らしさと正確さを
Dialogue: 0,0:06:59.39,0:07:00.81,Default,,0000,0000,0000,,自慢するでしょうし
Dialogue: 0,0:07:00.84,0:07:02.56,Default,,0000,0000,0000,,確かにその通りでしょう
Dialogue: 0,0:07:03.95,0:07:07.61,Default,,0000,0000,0000,,さて 現実はそこまで極端ではありませんが
Dialogue: 0,0:07:07.61,0:07:09.88,Default,,0000,0000,0000,,実際に多くの市や町で\N深刻な人種差別があり
Dialogue: 0,0:07:09.90,0:07:12.81,Default,,0000,0000,0000,,警察の活動や司法制度のデータが\N偏っているという
Dialogue: 0,0:07:12.81,0:07:14.81,Default,,0000,0000,0000,,証拠が揃っています
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,実際にホットスポットと呼ばれる\N犯罪多発地域を
Dialogue: 0,0:07:18.47,0:07:20.33,Default,,0000,0000,0000,,予測しています
Dialogue: 0,0:07:20.40,0:07:23.79,Default,,0000,0000,0000,,さらには個々人の犯罪傾向を
Dialogue: 0,0:07:23.79,0:07:26.22,Default,,0000,0000,0000,,実際に予測しています
Dialogue: 0,0:07:26.97,0:07:30.94,Default,,0000,0000,0000,,報道組織プロパブリカが最近\Nいわゆる「再犯リスク」アルゴリズムの
Dialogue: 0,0:07:30.96,0:07:32.96,Default,,0000,0000,0000,,１つを取り上げ調査しました
Dialogue: 0,0:07:32.96,0:07:34.07,Default,,0000,0000,0000,,１つを取り上げ調査しました
Dialogue: 0,0:07:34.07,0:07:37.97,Default,,0000,0000,0000,,フロリダ州で 判事による\N量刑手続に使われているものです
Dialogue: 0,0:07:38.41,0:07:42.29,Default,,0000,0000,0000,,左側の黒人男性バーナードのスコアは\N10点満点の10点で
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,右の白人ディランは３点でした
Dialogue: 0,0:07:45.21,0:07:48.22,Default,,0000,0000,0000,,10点中10点はハイリスクで\N3点はローリスクです
Dialogue: 0,0:07:48.60,0:07:50.89,Default,,0000,0000,0000,,２人とも麻薬所持で逮捕され
Dialogue: 0,0:07:50.89,0:07:52.31,Default,,0000,0000,0000,,どちらも前科はありましたが
Dialogue: 0,0:07:52.31,0:07:54.70,Default,,0000,0000,0000,,３点のディランには重罪の前科があり
Dialogue: 0,0:07:54.70,0:07:57.20,Default,,0000,0000,0000,,10点のバーナードにはありませんでした
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,これが重要な理由は\Nスコアが高ければ高いほど
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,刑期が長くなる\N傾向があるからです
Dialogue: 0,0:08:06.23,0:08:07.89,Default,,0000,0000,0000,,どうなっているのでしょう？
Dialogue: 0,0:08:08.53,0:08:10.48,Default,,0000,0000,0000,,これは「データ・ロンダリング」です
Dialogue: 0,0:08:10.93,0:08:15.36,Default,,0000,0000,0000,,このプロセスを通して 技術者が\Nブラックボックスのようなアルゴリズムの内部に
Dialogue: 0,0:08:15.38,0:08:17.20,Default,,0000,0000,0000,,醜い現実を隠し
Dialogue: 0,0:08:17.23,0:08:19.21,Default,,0000,0000,0000,,「客観的」とか
Dialogue: 0,0:08:19.21,0:08:21.54,Default,,0000,0000,0000,,「能力主義」と称しているんです
Dialogue: 0,0:08:23.12,0:08:25.80,Default,,0000,0000,0000,,秘密にされている\N重要で破壊的なアルゴリズムを
Dialogue: 0,0:08:25.80,0:08:28.01,Default,,0000,0000,0000,,私はこんな名前で呼んでいます
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,「大量破壊数学」です
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,（笑）
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:08:34.73,0:08:37.66,Default,,0000,0000,0000,,それは間違いなく\Nどこにでも存在します
Dialogue: 0,0:08:37.66,0:08:41.42,Default,,0000,0000,0000,,民間企業が 私的なアルゴリズムを\N私的な目的で
Dialogue: 0,0:08:41.44,0:08:43.01,Default,,0000,0000,0000,,作っているんです
Dialogue: 0,0:08:43.21,0:08:46.35,Default,,0000,0000,0000,,先程お話しした\N教員や警察向けのアルゴリズムでさえ
Dialogue: 0,0:08:46.35,0:08:48.20,Default,,0000,0000,0000,,民間企業が制作し
Dialogue: 0,0:08:48.20,0:08:50.58,Default,,0000,0000,0000,,政府機関に販売したものです
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,アルゴリズムは\N「秘伝のタレ」だから
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,公開できないと\N企業側は主張します
Dialogue: 0,0:08:54.65,0:08:57.44,Default,,0000,0000,0000,,また アルゴリズムは私的な権力です
Dialogue: 0,0:08:57.92,0:09:03.12,Default,,0000,0000,0000,,この謎めいた存在が持つ権威を振りかざして\N企業は利益を得ています
Dialogue: 0,0:09:05.04,0:09:08.05,Default,,0000,0000,0000,,ただ こう思うかもしれません\Nアルゴリズムが民間のものなら
Dialogue: 0,0:09:08.07,0:09:09.23,Default,,0000,0000,0000,,競争があるので
Dialogue: 0,0:09:09.25,0:09:11.56,Default,,0000,0000,0000,,自由市場の力が\N問題を解決するのではないか…
Dialogue: 0,0:09:11.58,0:09:12.83,Default,,0000,0000,0000,,でも そうはいきません
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,不公平は大きな利益を\N生み出しますから
Dialogue: 0,0:09:17.13,0:09:21.03,Default,,0000,0000,0000,,それに我々人間は\N合理的経済人ではなく
Dialogue: 0,0:09:21.03,0:09:22.61,Default,,0000,0000,0000,,誰もがバイアスを持っています
Dialogue: 0,0:09:22.96,0:09:26.19,Default,,0000,0000,0000,,私たちは 自分が望みも\N気づきもしない形で
Dialogue: 0,0:09:26.19,0:09:28.89,Default,,0000,0000,0000,,差別や偏見を持っているのです
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,全体を俯瞰して見ると\Nそのことがわかります
Dialogue: 0,0:09:32.46,0:09:35.23,Default,,0000,0000,0000,,なぜなら社会学者が\N考案した実験を通して
Dialogue: 0,0:09:35.23,0:09:37.37,Default,,0000,0000,0000,,一貫して実証されてきたからです
Dialogue: 0,0:09:37.39,0:09:39.96,Default,,0000,0000,0000,,その実験では研究者が\N履歴書を大量に送付しました
Dialogue: 0,0:09:39.98,0:09:42.33,Default,,0000,0000,0000,,同じように資格は満たしていますが\N一部は白人っぽい名前で
Dialogue: 0,0:09:42.33,0:09:43.96,Default,,0000,0000,0000,,一部は黒人っぽい名前
Dialogue: 0,0:09:43.96,0:09:47.13,Default,,0000,0000,0000,,そして結果は\N常にがっかりするものでした
Dialogue: 0,0:09:47.51,0:09:49.28,Default,,0000,0000,0000,,つまりバイアスがあるのは私たちで
Dialogue: 0,0:09:49.30,0:09:51.50,Default,,0000,0000,0000,,どんなデータを集め選ぶかによって
Dialogue: 0,0:09:51.50,0:09:54.57,Default,,0000,0000,0000,,そのバイアスをアルゴリズムに\N注入しているんです
Dialogue: 0,0:09:54.59,0:09:57.31,Default,,0000,0000,0000,,これは私がインスタントラーメンを\N含めないのと同じで
Dialogue: 0,0:09:57.31,0:09:59.11,Default,,0000,0000,0000,,不適切だと決めたのは\N私なんです
Dialogue: 0,0:09:59.11,0:10:04.53,Default,,0000,0000,0000,,しかし実際に過去の行動を元にした\Nデータを信頼し
Dialogue: 0,0:10:04.53,0:10:06.73,Default,,0000,0000,0000,,成功の基準を恣意的に選びながら
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,どうして欠陥のないアルゴリズムを\N期待できるのでしょう？
Dialogue: 0,0:10:10.76,0:10:13.47,Default,,0000,0000,0000,,それは無理です\Nチェックが必要なんです
Dialogue: 0,0:10:14.04,0:10:15.87,Default,,0000,0000,0000,,公平性を確かめる必要があるんです
Dialogue: 0,0:10:15.90,0:10:18.40,Default,,0000,0000,0000,,幸い公正性は確認できます
Dialogue: 0,0:10:18.40,0:10:21.78,Default,,0000,0000,0000,,アルゴリズムに問いただせば
Dialogue: 0,0:10:21.78,0:10:24.04,Default,,0000,0000,0000,,常に本当のことしか\N答えないので
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,修正を加え より良いものに\N作り替えられます
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,私は これを\Nアルゴリズム監査と呼んでいます
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,その手順を説明しましょう
Dialogue: 0,0:10:30.69,0:10:33.07,Default,,0000,0000,0000,,まずはデータ完全性チェックです
Dialogue: 0,0:10:34.13,0:10:36.79,Default,,0000,0000,0000,,先ほど登場した\N再犯リスク・アルゴリズムの場合—
Dialogue: 0,0:10:37.58,0:10:41.16,Default,,0000,0000,0000,,データ完全性チェックとは\N事実を直視するという意味になるでしょう
Dialogue: 0,0:10:41.18,0:10:44.70,Default,,0000,0000,0000,,例えばアメリカでは 大麻の使用率は\N白人と黒人で同じなのに
Dialogue: 0,0:10:44.73,0:10:47.21,Default,,0000,0000,0000,,逮捕される割合は\N黒人の方がはるかに高く
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,地域によっては\N４〜５倍になるという事実があります
Dialogue: 0,0:10:51.32,0:10:54.11,Default,,0000,0000,0000,,このようなバイアスは\N他の犯罪では どんな形で表れ
Dialogue: 0,0:10:54.11,0:10:56.12,Default,,0000,0000,0000,,私たちは それを\Nどう説明したらいいでしょうか？
Dialogue: 0,0:10:56.12,0:10:59.20,Default,,0000,0000,0000,,次に 私たちは成功の基準について\N考えなければなりません
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,その基準を監査するのです
Dialogue: 0,0:11:00.63,0:11:03.21,Default,,0000,0000,0000,,採用アルゴリズムを\N思い出してください
Dialogue: 0,0:11:03.21,0:11:06.52,Default,,0000,0000,0000,,勤続年数が４年で\N昇進１回の人はどうだったでしょう
Dialogue: 0,0:11:06.52,0:11:08.36,Default,,0000,0000,0000,,その人は成功した社員でしょうが
Dialogue: 0,0:11:08.39,0:11:11.65,Default,,0000,0000,0000,,同時に その会社の文化に\N支持されたとも言えます
Dialogue: 0,0:11:12.02,0:11:14.02,Default,,0000,0000,0000,,ただ その文化に\Nバイアスがあるかもしれないので
Dialogue: 0,0:11:14.04,0:11:16.10,Default,,0000,0000,0000,,この２つは分けて考える必要があります
Dialogue: 0,0:11:16.13,0:11:18.55,Default,,0000,0000,0000,,一つの例として オーケストラの\Nブラインド・オーディションを見るべきでしょう
Dialogue: 0,0:11:18.58,0:11:19.77,Default,,0000,0000,0000,,一つの例として オーケストラの\Nブラインド・オーディションを見るべきでしょう
Dialogue: 0,0:11:19.80,0:11:22.86,Default,,0000,0000,0000,,オーディションを受ける人は\N衝立の向こうにいます
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,ここで注目したいのは
Dialogue: 0,0:11:24.90,0:11:28.26,Default,,0000,0000,0000,,審査員は 何が重要で\N何が重要でないかを
Dialogue: 0,0:11:28.26,0:11:30.22,Default,,0000,0000,0000,,あらかじめ決めて
Dialogue: 0,0:11:30.22,0:11:32.93,Default,,0000,0000,0000,,重要でないものに\N惑わされないようにしている点です
Dialogue: 0,0:11:32.94,0:11:35.71,Default,,0000,0000,0000,,ブラインド・オーディションを\Nするようになって
Dialogue: 0,0:11:35.73,0:11:39.50,Default,,0000,0000,0000,,女性がオーケストラに占める割合は\N５倍に増えました
Dialogue: 0,0:11:40.25,0:11:42.66,Default,,0000,0000,0000,,次に正確性を吟味しなければなりません
Dialogue: 0,0:11:43.23,0:11:47.29,Default,,0000,0000,0000,,教員向けの付加価値モデルなら\Nすぐ落第になる項目です
Dialogue: 0,0:11:47.58,0:11:50.40,Default,,0000,0000,0000,,当然 完璧なアルゴリズムなどないので
Dialogue: 0,0:11:50.62,0:11:54.52,Default,,0000,0000,0000,,あらゆるアルゴリズムの\N誤りを検討する必要があります
Dialogue: 0,0:11:54.84,0:11:59.76,Default,,0000,0000,0000,,誤りを起こす頻度は？\Nどんな相手だと そのモデルは機能しないのか？
Dialogue: 0,0:11:59.85,0:12:02.32,Default,,0000,0000,0000,,失敗した時の損失規模は？
Dialogue: 0,0:12:02.43,0:12:04.89,Default,,0000,0000,0000,,そして最後に考えなければならないのは
Dialogue: 0,0:12:05.97,0:12:08.87,Default,,0000,0000,0000,,アルゴリズムの長期的影響 つまり
Dialogue: 0,0:12:08.87,0:12:11.35,Default,,0000,0000,0000,,それによって生じる\Nフィードバック・ループです
Dialogue: 0,0:12:11.35,0:12:13.49,Default,,0000,0000,0000,,抽象的な話に\N聞こえるかもしれませんが
Dialogue: 0,0:12:13.49,0:12:16.08,Default,,0000,0000,0000,,もしFacebookのエンジニアが\N友人の投稿だけを表示する前に
Dialogue: 0,0:12:16.08,0:12:21.34,Default,,0000,0000,0000,,フィードバック・ループの影響を\N考慮していたらと考えてみてください
Dialogue: 0,0:12:21.76,0:12:25.30,Default,,0000,0000,0000,,伝えたいことは あと２つ\N１つはデータサイエンティストに向けたものです
Dialogue: 0,0:12:25.45,0:12:29.18,Default,,0000,0000,0000,,私たちデータサイエンティストが\N真実を決めるべきではありません
Dialogue: 0,0:12:29.52,0:12:33.06,Default,,0000,0000,0000,,私たちは もっと広い社会に生じる\N倫理的な議論を
Dialogue: 0,0:12:33.06,0:12:35.11,Default,,0000,0000,0000,,解釈する存在であるべきです
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:12:37.74,0:12:40.02,Default,,0000,0000,0000,,そしてデータサイエンティスト以外の\N皆さん—
Dialogue: 0,0:12:40.02,0:12:41.41,Default,,0000,0000,0000,,そしてデータサイエンティスト以外の\N皆さん—
Dialogue: 0,0:12:41.43,0:12:43.62,Default,,0000,0000,0000,,この状況は数学のテストではなく
Dialogue: 0,0:12:43.63,0:12:45.76,Default,,0000,0000,0000,,政治闘争なのです
Dialogue: 0,0:12:46.59,0:12:50.93,Default,,0000,0000,0000,,専制君主のようなアルゴリズムに対して\N私たちは説明を求める必要があります
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,（拍手）
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,ビッグデータを盲信する時代は\N終わらせるべきです
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,ありがとうございました
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,（拍手）