[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.57,Default,,0000,0000,0000,,Алгоритмы повсюду.
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,Они сортируют людей, отделяя\Nпобедителей от проигравших.
Dialogue: 0,0:00:08.02,0:00:10.28,Default,,0000,0000,0000,,Победители получают желаемую работу
Dialogue: 0,0:00:10.31,0:00:12.05,Default,,0000,0000,0000,,или выгодное кредитное предложение.
Dialogue: 0,0:00:12.07,0:00:14.72,Default,,0000,0000,0000,,Неудачники даже не получают\Nшанса на собеседование
Dialogue: 0,0:00:15.59,0:00:17.37,Default,,0000,0000,0000,,или платят больше за страхование.
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,Нас «считывают» по секретным формулам,\Nкоторые мы зачастую не понимаем,
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,без возможности обжалования решения.
Dialogue: 0,0:00:27.24,0:00:28.54,Default,,0000,0000,0000,,Назревает вопрос:
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,что, если эти алгоритмы ошибочны?
Dialogue: 0,0:00:33.09,0:00:35.14,Default,,0000,0000,0000,,Для построения алгоритма\Nвам нужны две вещи:
Dialogue: 0,0:00:35.16,0:00:37.14,Default,,0000,0000,0000,,вам нужны данные о прошлых событиях
Dialogue: 0,0:00:37.17,0:00:38.73,Default,,0000,0000,0000,,и определение понятия «успех» —
Dialogue: 0,0:00:38.75,0:00:41.21,Default,,0000,0000,0000,,того, к чему вы стремитесь\Nи на что надеетесь.
Dialogue: 0,0:00:41.24,0:00:46.27,Default,,0000,0000,0000,,Вы обучаете алгоритм,\Nнаблюдая за результатом.
Dialogue: 0,0:00:46.30,0:00:49.72,Default,,0000,0000,0000,,Алгоритм вычисляет всё то,\Nчто связано с успехом.
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,Какая ситуация приводит к успеху?
Dialogue: 0,0:00:52.88,0:00:54.64,Default,,0000,0000,0000,,Каждый из нас использует алгоритмы.
Dialogue: 0,0:00:54.67,0:00:57.38,Default,,0000,0000,0000,,Мы просто не записываем их\Nв виде формул и кодов.
Dialogue: 0,0:00:57.41,0:00:58.76,Default,,0000,0000,0000,,Приведу пример.
Dialogue: 0,0:00:58.78,0:01:02.10,Default,,0000,0000,0000,,Я использую алгоритм каждый день,\Nкогда готовлю еду для своей семьи.
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,Данные, которые я использую, —
Dialogue: 0,0:01:04.39,0:01:06.05,Default,,0000,0000,0000,,это ингредиенты у меня на кухне,
Dialogue: 0,0:01:06.08,0:01:07.60,Default,,0000,0000,0000,,моё время,
Dialogue: 0,0:01:07.63,0:01:08.86,Default,,0000,0000,0000,,мои цели,
Dialogue: 0,0:01:08.88,0:01:10.59,Default,,0000,0000,0000,,и я организовываю эти данные.
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,Я не считаю эти пакетики лапши пищей.\N
Dialogue: 0,0:01:14.89,0:01:16.76,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,Вот моё определение успеха:
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,блюдо удалось, если мои дети едят овощи.
Dialogue: 0,0:01:22.18,0:01:25.04,Default,,0000,0000,0000,,Мой младший сын думает по-другому.
Dialogue: 0,0:01:25.06,0:01:27.85,Default,,0000,0000,0000,,Для него успех — это если он\Nполучит много Нутеллы.
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,Но определяю успех я.
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,Я главная. Именно моё мнение \Nимеет значение.
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,Это первое правило алгоритмов.
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,Алгоритмы — это мнения, встроенные в код.
Dialogue: 0,0:01:41.56,0:01:45.22,Default,,0000,0000,0000,,Это отличается от того, как большинство\Nлюдей воспринимают алгоритмы.
Dialogue: 0,0:01:45.25,0:01:49.75,Default,,0000,0000,0000,,Алгоритмы для них объективны,\Nистинны и научны.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,Это маркетинговый трюк.
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,Этот трюк используют
Dialogue: 0,0:01:55.42,0:01:58.57,Default,,0000,0000,0000,,для того, чтобы запугать вас алгоритмами,
Dialogue: 0,0:01:58.60,0:02:02.26,Default,,0000,0000,0000,,чтобы вы доверяли им и боялись их,
Dialogue: 0,0:02:02.28,0:02:04.30,Default,,0000,0000,0000,,как вы доверяете математике и боитесь еë.
Dialogue: 0,0:02:05.57,0:02:10.40,Default,,0000,0000,0000,,Опасно вкладывать слепую веру \Nв «большие данные».
Dialogue: 0,0:02:11.68,0:02:15.06,Default,,0000,0000,0000,,Это Кири Соареш.\NОна директор средней школы в Бруклине.
Dialogue: 0,0:02:15.08,0:02:17.67,Default,,0000,0000,0000,,В 2011 году она рассказала,\Nчто её учителей оценивали
Dialogue: 0,0:02:17.69,0:02:20.42,Default,,0000,0000,0000,,с помощью сложного секретного алгоритма —
Dialogue: 0,0:02:20.44,0:02:21.93,Default,,0000,0000,0000,,«модели добавленной стоимости».
Dialogue: 0,0:02:22.50,0:02:25.60,Default,,0000,0000,0000,,Я сказала ей: «Выясни-ка,\Nчто это за формула и покажи мне,
Dialogue: 0,0:02:25.62,0:02:27.16,Default,,0000,0000,0000,,я попробую объяснить еë тебе».
Dialogue: 0,0:02:27.19,0:02:29.33,Default,,0000,0000,0000,,Она сказала: «Ну, я хотела\Nполучить формулу,
Dialogue: 0,0:02:29.35,0:02:32.12,Default,,0000,0000,0000,,но в отделе образования мне сказали,\Nчто это математика,
Dialogue: 0,0:02:32.15,0:02:33.69,Default,,0000,0000,0000,,и я не ничего пойму».
Dialogue: 0,0:02:35.27,0:02:36.60,Default,,0000,0000,0000,,Ситуация ухудшается.
Dialogue: 0,0:02:36.63,0:02:40.16,Default,,0000,0000,0000,,Газета «Нью-Йорк Пост», согласно\NЗакона о свободе информации,
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,опубликовала инфо с именами\Nвсех учителей и их баллами
Dialogue: 0,0:02:43.16,0:02:45.95,Default,,0000,0000,0000,,в попытке пристыдить их.
Dialogue: 0,0:02:47.08,0:02:50.94,Default,,0000,0000,0000,,Когда я сама попыталась получить формулы\Nи исходный код,
Dialogue: 0,0:02:50.97,0:02:53.12,Default,,0000,0000,0000,,мне их не дали.
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,Мне отказали.
Dialogue: 0,0:02:54.40,0:02:55.58,Default,,0000,0000,0000,,Позже я узнала,
Dialogue: 0,0:02:55.60,0:02:58.46,Default,,0000,0000,0000,,что никто в Нью-Йорке\Nне имеет доступа к этой формуле.
Dialogue: 0,0:02:58.49,0:02:59.79,Default,,0000,0000,0000,,Никто её не понимал.
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,Пока за дело не взялся кто-то \Nумный — Гари Рубинштейн.
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,Он обнаружил, что 665 учителей\Nв базе данных Нью-Йорка
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,имели две оценки.
Dialogue: 0,0:03:10.71,0:03:12.59,Default,,0000,0000,0000,,Это могло бы быть, если они преподают
Dialogue: 0,0:03:12.62,0:03:15.06,Default,,0000,0000,0000,,математику в седьмом и восьмом классах.
Dialogue: 0,0:03:15.08,0:03:16.62,Default,,0000,0000,0000,,Он решил создать график.
Dialogue: 0,0:03:16.64,0:03:18.64,Default,,0000,0000,0000,,Каждая точка представляет собой учителя.\N
Dialogue: 0,0:03:19.10,0:03:21.48,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:03:21.51,0:03:23.03,Default,,0000,0000,0000,,Что это?
Dialogue: 0,0:03:23.05,0:03:24.33,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:03:24.35,0:03:27.80,Default,,0000,0000,0000,,Это нельзя было использовать\Nдля индивидуального оценивания.
Dialogue: 0,0:03:27.82,0:03:29.75,Default,,0000,0000,0000,,Это почти что генератор случайных чисел.
Dialogue: 0,0:03:29.77,0:03:32.72,Default,,0000,0000,0000,,(Аплодисменты)
Dialogue: 0,0:03:32.74,0:03:33.90,Default,,0000,0000,0000,,Однако так и было.
Dialogue: 0,0:03:33.93,0:03:35.10,Default,,0000,0000,0000,,Это Сара Высоцки.
Dialogue: 0,0:03:35.13,0:03:37.30,Default,,0000,0000,0000,,Её уволили вместе с 205 другими учителями
Dialogue: 0,0:03:37.33,0:03:39.99,Default,,0000,0000,0000,,из школы в Вашингтоне округа Колумбия,
Dialogue: 0,0:03:40.01,0:03:42.92,Default,,0000,0000,0000,,даже не смотря на отличные рекомендации\Nот директора её школы
Dialogue: 0,0:03:42.95,0:03:44.38,Default,,0000,0000,0000,,и родителей учеников.
Dialogue: 0,0:03:45.39,0:03:47.42,Default,,0000,0000,0000,,Я знаю, о чём думают многие из вас,
Dialogue: 0,0:03:47.45,0:03:49.93,Default,,0000,0000,0000,,особенно специалисты ИТ, ИИ-эксперты.
Dialogue: 0,0:03:49.96,0:03:54.18,Default,,0000,0000,0000,,Вы думаете: «Ну, я бы никогда не создал\Nтакой непоследовательный алгоритм».
Dialogue: 0,0:03:54.85,0:03:56.54,Default,,0000,0000,0000,,Но алгоритм может не сработать,
Dialogue: 0,0:03:56.56,0:04:01.16,Default,,0000,0000,0000,,и даже благие намерения могут иметь\Nглубоко разрушительный эффект.
Dialogue: 0,0:04:02.53,0:04:04.91,Default,,0000,0000,0000,,И в то время как самолёт\Nс ошибками в проекте
Dialogue: 0,0:04:04.93,0:04:06.94,Default,,0000,0000,0000,,упадëт на землю, и все это увидят,
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,алгоритм с ошибками
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,может работать долгое время,\Nбесшумно давая волю хаосу.
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,Это Роджер Айлз.\N
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,Он основал Fox News в 1996 году.
Dialogue: 0,0:04:23.35,0:04:26.02,Default,,0000,0000,0000,,Более 20 женщин жаловались\Nна сексуальные домогательства.
Dialogue: 0,0:04:26.04,0:04:29.28,Default,,0000,0000,0000,,Они сказали, что им не дали возможности\Nпреуспеть в Fox News.
Dialogue: 0,0:04:29.30,0:04:31.82,Default,,0000,0000,0000,,Его сняли и в прошлом году, но понятно,
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,что проблемы так и остались нерешёнными.
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,Это вызывает вопрос:
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,что должны делать Fox News,\Nчтобы начать всё сначала?
Dialogue: 0,0:04:41.24,0:04:44.29,Default,,0000,0000,0000,,Что, если бы они заменили процесс найма
Dialogue: 0,0:04:44.31,0:04:45.96,Default,,0000,0000,0000,,машинным алгоритмом?
Dialogue: 0,0:04:45.99,0:04:47.58,Default,,0000,0000,0000,,Неплохо, не так ли?
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,Подумайте об этом.
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,Данные, какими будут данные?
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,Разумно было бы проанализировать 21 год\Nопыта приёма на работу в Fox News.
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,Разумно.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,Как насчёт определения успеха?
Dialogue: 0,0:04:59.92,0:05:01.24,Default,,0000,0000,0000,,Разумным было бы выбрать
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,тех, кто преуспевает в Fox News?
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,Я думаю, тех, кто скажем,\Nпроработал там четыре года
Dialogue: 0,0:05:06.68,0:05:08.33,Default,,0000,0000,0000,,и получил продвижение хотя бы один раз.
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,Звучит разумно.
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,А затем алгоритм\Nможно было бы натренировать.
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,Он мог бы искать людей,\Nкоторые способны достичь успеха,
Dialogue: 0,0:05:17.22,0:05:21.54,Default,,0000,0000,0000,,узнать, какие из претендентов на должность\Nбыли успешными в прошлом.
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,По этому определению.
Dialogue: 0,0:05:24.20,0:05:25.98,Default,,0000,0000,0000,,Подумайте о том, что произошло бы,
Dialogue: 0,0:05:25.100,0:05:28.55,Default,,0000,0000,0000,,если применить эту формулу\Nко всем претендентам.
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,Женщин можно сразу исключить,
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,потому что среди них немного тех,\Nкто достиг успеха в прошлом.
Dialogue: 0,0:05:39.75,0:05:42.29,Default,,0000,0000,0000,,Алгоритмы не обеспечивают справедливости.
Dialogue: 0,0:05:42.31,0:05:45.01,Default,,0000,0000,0000,,Если вы безропотно,\Nслепо применяете алгоритмы,
Dialogue: 0,0:05:45.03,0:05:46.51,Default,,0000,0000,0000,,они не обеспечат честность.
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,Они повторяют наш прошлый опыт,
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,наши шаблоны.
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,Они автоматизируют статус-кво.
Dialogue: 0,0:05:52.72,0:05:55.11,Default,,0000,0000,0000,,Было бы здорово, если бы\Nу нас был идеальный мир,
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,но у нас его нет.
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,Кстати, большинство компаний\Nобошлись без судебных процессов,
Dialogue: 0,0:06:02.45,0:06:05.03,Default,,0000,0000,0000,,но учёным в данных компаниях
Dialogue: 0,0:06:05.06,0:06:07.25,Default,,0000,0000,0000,,велено следить за данными,
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,чтобы сосредоточиться на их точности.
Dialogue: 0,0:06:10.27,0:06:11.65,Default,,0000,0000,0000,,Подумайте, что это значит.
Dialogue: 0,0:06:11.68,0:06:15.70,Default,,0000,0000,0000,,Поскольку все мы не лишены предвзятости, \Nданные могут кодифицировать сексизм
Dialogue: 0,0:06:15.73,0:06:17.56,Default,,0000,0000,0000,,или другие формы дискриминации.
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,Вот мысленный эксперимент,
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,потому что мне они нравятся:
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,общество с полной сегрегацией —
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,расовое разделение во всех \Nгородах, всех районах.
Dialogue: 0,0:06:31.60,0:06:34.64,Default,,0000,0000,0000,,Мы отправляем полицию только\Nв окрестности меньшинств
Dialogue: 0,0:06:34.66,0:06:36.05,Default,,0000,0000,0000,,расследовать преступления.
Dialogue: 0,0:06:36.45,0:06:38.67,Default,,0000,0000,0000,,Данные об аресте будут очень предвзятыми.
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,А что, если, мы нашли бы специалистов
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,и заплатили им за прогноз\Nместа следующего преступления?
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,Окрестность меньшинств.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Или же за прогнозирование\Nследующего преступника?
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,Кто-то из меньшинств.
Dialogue: 0,0:06:55.95,0:06:59.49,Default,,0000,0000,0000,,Специалисты обработки данных хвалятся тем,\Nнасколько гениальны и точны
Dialogue: 0,0:06:59.51,0:07:00.81,Default,,0000,0000,0000,,их модели,
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,и они правы.
Dialogue: 0,0:07:03.95,0:07:08.57,Default,,0000,0000,0000,,Теперь реальность не настолько радикальна,\Nно у нас есть серьёзное разделение
Dialogue: 0,0:07:08.59,0:07:09.88,Default,,0000,0000,0000,,во многих городах,
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,и у нас есть много доказательств
Dialogue: 0,0:07:11.82,0:07:14.51,Default,,0000,0000,0000,,предвзятости\Nв политической и судебной системах.
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,И мы прогнозируем горячие точки —
Dialogue: 0,0:07:18.47,0:07:20.00,Default,,0000,0000,0000,,места преступлений.
Dialogue: 0,0:07:20.40,0:07:24.27,Default,,0000,0000,0000,,И мы на самом деле предсказываем\Nпреступления отдельных лиц,
Dialogue: 0,0:07:24.29,0:07:26.06,Default,,0000,0000,0000,,преступные действия индивидов.
Dialogue: 0,0:07:26.97,0:07:30.94,Default,,0000,0000,0000,,Новостной ресурс ProPublica\Nнедавно рассмотрел
Dialogue: 0,0:07:30.96,0:07:32.98,Default,,0000,0000,0000,,один из алгоритмов — «риск рецидива»,
Dialogue: 0,0:07:33.01,0:07:34.17,Default,,0000,0000,0000,,как его называют,
Dialogue: 0,0:07:34.19,0:07:37.39,Default,,0000,0000,0000,,который используется во Флориде\Nпри вынесения приговора судьями.
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,Бернар, чернокожий человек слева, \Nполучил 10 из 10.
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,Дилан, справа, — 3 из 10.
Dialogue: 0,0:07:45.21,0:07:47.71,Default,,0000,0000,0000,,10 из 10 — это высокий риск.\N3 из 10 — низкий риск.
Dialogue: 0,0:07:48.60,0:07:50.98,Default,,0000,0000,0000,,Они оба были привлечены\Nза хранение наркотиков.
Dialogue: 0,0:07:51.01,0:07:52.16,Default,,0000,0000,0000,,Они оба имели аресты,
Dialogue: 0,0:07:52.18,0:07:54.99,Default,,0000,0000,0000,,но у Дилана было уголовное преступление,
Dialogue: 0,0:07:55.02,0:07:56.19,Default,,0000,0000,0000,,а у Бернарда нет.
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,Это имеет значение, потому\Nчто чем выше оценка,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,тем больше вероятность того, что вам\Nдадут более длительный срок.
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,Что происходит?
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,«Отмывание» данных. \N
Dialogue: 0,0:08:10.93,0:08:15.36,Default,,0000,0000,0000,,Это процесс сокрытия правды
Dialogue: 0,0:08:15.38,0:08:17.20,Default,,0000,0000,0000,,в «чёрном ящике» алгоритмов,
Dialogue: 0,0:08:17.23,0:08:18.52,Default,,0000,0000,0000,,алгоритмов объективных
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,и заслуживающих одобрения. \N
Dialogue: 0,0:08:23.12,0:08:25.50,Default,,0000,0000,0000,,Они секретны, важны и разрушительны.
Dialogue: 0,0:08:25.53,0:08:28.01,Default,,0000,0000,0000,,Я придумала термин для них:
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,«оружие математического уничтожения».
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,(Смех)
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,(Аплодисменты)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Они повсюду, и это не ошибка.
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,Частные компании строят
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,частные алгоритмы для себя.
Dialogue: 0,0:08:43.21,0:08:46.43,Default,,0000,0000,0000,,Даже алгоритмы для учителей и полиции
Dialogue: 0,0:08:46.45,0:08:48.32,Default,,0000,0000,0000,,были построены частными компаниями
Dialogue: 0,0:08:48.34,0:08:50.58,Default,,0000,0000,0000,,и проданы государственным учреждениям.
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,Они называют это своим «секретом» —
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,вот почему они не рассказывают ничего.
Dialogue: 0,0:08:54.65,0:08:56.87,Default,,0000,0000,0000,,Это также частная власть.
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,Они пользуются преимуществом,\Nобеспеченным секретностью.
Dialogue: 0,0:09:05.11,0:09:07.93,Default,,0000,0000,0000,,Так как всё частное
Dialogue: 0,0:09:07.96,0:09:09.26,Default,,0000,0000,0000,,и присутствует конкуренция,
Dialogue: 0,0:09:09.28,0:09:11.56,Default,,0000,0000,0000,,свободный рынок — это выход.
Dialogue: 0,0:09:11.58,0:09:12.83,Default,,0000,0000,0000,,Но это не так.
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,В этой несправедливости — куча денег.
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,И мы не рациональны\Nс точки зрения экономики.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,Мы все предвзяты.
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,Мы все расисты и фанатики, к сожалению,
Dialogue: 0,0:09:26.36,0:09:28.38,Default,,0000,0000,0000,,часто подсознательно.
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,Мы это знаем, но, в совокупности,
Dialogue: 0,0:09:32.46,0:09:35.68,Default,,0000,0000,0000,,социологи демонстрируют это
Dialogue: 0,0:09:35.70,0:09:37.37,Default,,0000,0000,0000,,своими экспериментами.
Dialogue: 0,0:09:37.39,0:09:39.96,Default,,0000,0000,0000,,Они рассылают заявки\Nквалифицированных работников,
Dialogue: 0,0:09:39.98,0:09:42.48,Default,,0000,0000,0000,,и по их именам можно понять,
Dialogue: 0,0:09:42.51,0:09:44.21,Default,,0000,0000,0000,,белые они или чернокожие.
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,И результаты всегда разочаровывают.
Dialogue: 0,0:09:47.51,0:09:49.28,Default,,0000,0000,0000,,Мы предвзяты
Dialogue: 0,0:09:49.30,0:09:52.73,Default,,0000,0000,0000,,и внедряем предубеждения в алгоритмы,
Dialogue: 0,0:09:52.76,0:09:54.57,Default,,0000,0000,0000,,отбирая данные.
Dialogue: 0,0:09:54.59,0:09:57.34,Default,,0000,0000,0000,,Вот я решила не думать о лапше,
Dialogue: 0,0:09:57.36,0:09:58.99,Default,,0000,0000,0000,,я решила, что это неприемлемо.
Dialogue: 0,0:09:59.01,0:10:04.69,Default,,0000,0000,0000,,Но, доверяя собранным ранее данным
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,и выбирая своё определение успеха,
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,можно ли ожидать, что алгоритмы\Nокажутся непредвзятыми?
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,Нет. Мы должны их проверять.
Dialogue: 0,0:10:14.02,0:10:15.96,Default,,0000,0000,0000,,Мы должны проверять их на справедливость.
Dialogue: 0,0:10:15.98,0:10:18.61,Default,,0000,0000,0000,,Хорошей новостью является то,\Nчто мы можем это сделать.
Dialogue: 0,0:10:18.63,0:10:21.98,Default,,0000,0000,0000,,Алгоритмы можно допросить,
Dialogue: 0,0:10:22.01,0:10:24.04,Default,,0000,0000,0000,,и они всегда скажут нам правду.
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,И мы можем их исправить.\NМы можем их улучшить.
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,Это алгоритмический аудит,
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,и я вам сейчас объясню.
Dialogue: 0,0:10:30.69,0:10:32.88,Default,,0000,0000,0000,,Во-первых — проверка целостности данных.
Dialogue: 0,0:10:34.13,0:10:37.54,Default,,0000,0000,0000,,Для алгоритма определения риска\Nрецидива, о котором я говорила ранее,
Dialogue: 0,0:10:37.58,0:10:41.16,Default,,0000,0000,0000,,проверка целостности данных\Nозначает принятие факта о том,
Dialogue: 0,0:10:41.18,0:10:44.70,Default,,0000,0000,0000,,что в США белые и чёрные курят\Nмарихуану одинаково,
Dialogue: 0,0:10:44.73,0:10:47.21,Default,,0000,0000,0000,,но чернокожих чаще задерживают.
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,Вероятность ареста в 4–5 раз выше,\Nв зависимости от района.
Dialogue: 0,0:10:51.32,0:10:54.14,Default,,0000,0000,0000,,Как это выглядит в других сферах права,
Dialogue: 0,0:10:54.17,0:10:55.62,Default,,0000,0000,0000,,и как это можно объяснить?
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,Во-вторых — успех,
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,проверьте его.
Dialogue: 0,0:11:00.63,0:11:03.38,Default,,0000,0000,0000,,Помните? Алгоритм принятия на работу?
Dialogue: 0,0:11:03.41,0:11:06.57,Default,,0000,0000,0000,,У кого стаж четыре года\Nи одно продвижение?
Dialogue: 0,0:11:06.60,0:11:08.36,Default,,0000,0000,0000,,Это — успешный сотрудник,
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,но это и тот, кого поддерживает\Nкультура компании.
Dialogue: 0,0:11:12.09,0:11:14.02,Default,,0000,0000,0000,,И это может быть довольно предвзятым.
Dialogue: 0,0:11:14.04,0:11:16.10,Default,,0000,0000,0000,,Нам нужно разделять эти две вещи.
Dialogue: 0,0:11:16.13,0:11:18.55,Default,,0000,0000,0000,,Вот слепое cобеседование
Dialogue: 0,0:11:18.58,0:11:19.77,Default,,0000,0000,0000,,для примера.
Dialogue: 0,0:11:19.80,0:11:22.55,Default,,0000,0000,0000,,Прослушивают людей, не видя их.
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,Я думаю о том,
Dialogue: 0,0:11:24.90,0:11:28.32,Default,,0000,0000,0000,,что прослушивающие люди решили, что важно
Dialogue: 0,0:11:28.34,0:11:30.37,Default,,0000,0000,0000,,для них, а что нет.
Dialogue: 0,0:11:30.40,0:11:32.45,Default,,0000,0000,0000,,И больше они не отвлекаются на эту тему.
Dialogue: 0,0:11:32.96,0:11:35.71,Default,,0000,0000,0000,,Когда начались «слепые оркестровые\Nпрослушивания»,
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,число женщин в оркестрах\Nвыросло в пять раз.
Dialogue: 0,0:11:40.25,0:11:42.27,Default,,0000,0000,0000,,Затем мы должны учитывать точность.
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,Тут модель добавленной стоимости\Nдля учителей провалилась бы сразу.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Конечно, нет идеальных алгоритмов,
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,поэтому мы должны учитывать\Nошибки всех алгоритмов.
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,Когда бывают ошибки,\Nк кому эта модель не подходит?
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,Какова цена этой неудачи?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,И, наконец, мы должны рассмотреть
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,долгосрочные эффекты алгоритмов,
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,петли обратной связи.
Dialogue: 0,0:12:11.59,0:12:12.82,Default,,0000,0000,0000,,Это звучит абстрактно,
Dialogue: 0,0:12:12.85,0:12:15.51,Default,,0000,0000,0000,,но представьте, если бы об этом\Nподумали творцы Facebook,
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,прежде чем они решили показать нам\Nпубликации наших друзей.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,У меня есть ещё два сообщения,\Nодно для ИТ специалистов.
Dialogue: 0,0:12:25.45,0:12:28.86,Default,,0000,0000,0000,,Ребята, мы не должны быть судьями правды,
Dialogue: 0,0:12:29.52,0:12:33.30,Default,,0000,0000,0000,,мы должны передавать этику
Dialogue: 0,0:12:33.33,0:12:34.62,Default,,0000,0000,0000,,широкой общественности.\N
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,(Аплодисменты)\N
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,А для остальных, \N
Dialogue: 0,0:12:40.01,0:12:41.41,Default,,0000,0000,0000,,не специалистов ИТ:
Dialogue: 0,0:12:41.43,0:12:42.93,Default,,0000,0000,0000,,это не математический тест.
Dialogue: 0,0:12:43.63,0:12:44.98,Default,,0000,0000,0000,,Это политическая борьба.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,Нужна отчётность собственников алгоритмов.
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,(Аплодисменты)
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,Эре слепой веры в «большие данные» конец!
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,Спасибо большое.
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,(Аплодисменты)