[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.57,Default,,0000,0000,0000,,Алгоритми є повсюди.
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,Вони сортують і відрізняють\Nпереможців від переможених.
Dialogue: 0,0:00:08.02,0:00:10.28,Default,,0000,0000,0000,,Переможці отримують роботу
Dialogue: 0,0:00:10.31,0:00:12.05,Default,,0000,0000,0000,,чи вигідні умови\Nоформлення кредитки.
Dialogue: 0,0:00:12.07,0:00:14.72,Default,,0000,0000,0000,,Переможені не доходять \Nнавіть до співбесіди,
Dialogue: 0,0:00:15.59,0:00:17.37,Default,,0000,0000,0000,,або платять більше за страхування.
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,Нас обчислюють секретними формулами,\Nякі ми не розуміємо,
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,і до яких часто не можна подати \Nапеляційні скарги.
Dialogue: 0,0:00:27.24,0:00:28.54,Default,,0000,0000,0000,,Тому виникає питання:
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,а якщо припустити, \Nщо алгоритми неправильні?
Dialogue: 0,0:00:33.10,0:00:35.14,Default,,0000,0000,0000,,Для побудови алгоритму потрібні дві речі:
Dialogue: 0,0:00:35.16,0:00:37.14,Default,,0000,0000,0000,,потрібні дані про те, \Nщо сталося у минулому,
Dialogue: 0,0:00:37.17,0:00:38.73,Default,,0000,0000,0000,,і визначення успіху,
Dialogue: 0,0:00:38.75,0:00:41.21,Default,,0000,0000,0000,,те, чого ви прагнете \Nі на що часто сподіваєтеся.
Dialogue: 0,0:00:41.24,0:00:46.27,Default,,0000,0000,0000,,Ви навчаєте алгоритм,\Nрозмірковуючи, з'ясовуючи.
Dialogue: 0,0:00:46.30,0:00:49.72,Default,,0000,0000,0000,,Алгоритм з'ясовує,\Nщо асоціюється із успіхом.
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,Яка ситуація призводить до успіху?
Dialogue: 0,0:00:52.88,0:00:54.64,Default,,0000,0000,0000,,Усі люди вживають алгоритми.
Dialogue: 0,0:00:54.67,0:00:57.38,Default,,0000,0000,0000,,Вони просто не записують їх \Nу вигляді коду.
Dialogue: 0,0:00:57.41,0:00:58.76,Default,,0000,0000,0000,,Я наведу вам приклад.
Dialogue: 0,0:00:58.78,0:01:02.10,Default,,0000,0000,0000,,Я щодня вживаю алгоритм,\Nщоб приготувати їсти для сім'ї.
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,Дані, що я використовую,
Dialogue: 0,0:01:04.39,0:01:06.05,Default,,0000,0000,0000,,це інгредієнти в мене на кухні,
Dialogue: 0,0:01:06.08,0:01:07.60,Default,,0000,0000,0000,,скільки часу я маю,
Dialogue: 0,0:01:07.63,0:01:08.86,Default,,0000,0000,0000,,наскільки я захоплена,
Dialogue: 0,0:01:08.88,0:01:10.59,Default,,0000,0000,0000,,і я - куратор цих даних.
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,Я не зараховую маленькі пакетики \Nлокшини рамен до їжі.
Dialogue: 0,0:01:14.89,0:01:16.76,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,Ось моє визначення успіху:
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,страва успішна,\Nякщо мої діти їдять овочі.
Dialogue: 0,0:01:22.18,0:01:25.04,Default,,0000,0000,0000,,Дайте вирішувати моєму молодшому \Nсинові, і все буде інакше.
Dialogue: 0,0:01:25.06,0:01:27.85,Default,,0000,0000,0000,,Для нього успіх - це якщо вдається \Nз'їсти багато Нутелли.
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,Але я визначаю, що таке успіх.
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,Я вирішую. Моя точка зору має значення.
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,Ось таким є перше правило алгоритмів.
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,Алгоритми - це точки зору, \Nвбудовані у код.
Dialogue: 0,0:01:41.56,0:01:45.22,Default,,0000,0000,0000,,Це дуже відрізняється від того, що \Nбільшість людей думає про алгоритми.
Dialogue: 0,0:01:45.25,0:01:49.75,Default,,0000,0000,0000,,Вони думають, що алгоритми об'єктивні,\Nправдиві і науково обґрунтовані.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,Це маркетингові хитрощі.
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,Це також будуть маркетингові хитрощі,
Dialogue: 0,0:01:55.42,0:01:58.57,Default,,0000,0000,0000,,якщо вам будуть погрожувати алгоритмами,
Dialogue: 0,0:01:58.60,0:02:02.26,Default,,0000,0000,0000,,будуть примушувати вас довіряти \Nалгоритмам та боятися їх,
Dialogue: 0,0:02:02.28,0:02:04.30,Default,,0000,0000,0000,,бо ви довіряєте математиці та боїтеся її.
Dialogue: 0,0:02:05.57,0:02:10.40,Default,,0000,0000,0000,,Чимало речей може піти не так, як треба, \Nколи ми сліпо довіряємо великим даним.
Dialogue: 0,0:02:11.68,0:02:15.06,Default,,0000,0000,0000,,Це Кірі Соарс. Вона - директор \Nшколи старших класів у Брукліні.
Dialogue: 0,0:02:15.08,0:02:17.67,Default,,0000,0000,0000,,У 2011 р. вона розповіла мені,\Nщо її вчителів оцінювали
Dialogue: 0,0:02:17.69,0:02:20.34,Default,,0000,0000,0000,,за складним секретним алгоритмом
Dialogue: 0,0:02:20.44,0:02:22.51,Default,,0000,0000,0000,,під назвою \N"модель з розширеними функціями".
Dialogue: 0,0:02:22.51,0:02:25.60,Default,,0000,0000,0000,,Я сказала їй: "З'ясуй, що це за формула,\Nпокажи її мені.
Dialogue: 0,0:02:25.62,0:02:27.16,Default,,0000,0000,0000,,Я тобі її поясню".
Dialogue: 0,0:02:27.19,0:02:29.33,Default,,0000,0000,0000,,Вона сказала: "Я намагалася\Nотримати формулу,
Dialogue: 0,0:02:29.35,0:02:32.12,Default,,0000,0000,0000,,але моя знайома у міносвіти\Nсказала мені, що то математика,
Dialogue: 0,0:02:32.15,0:02:33.69,Default,,0000,0000,0000,,і що мені цього не зрозуміти".
Dialogue: 0,0:02:35.27,0:02:36.60,Default,,0000,0000,0000,,Далі буде гірше.
Dialogue: 0,0:02:36.63,0:02:40.16,Default,,0000,0000,0000,,"Нью-Йорк Пост" надіслала запит згідно \Nіз Законом про свободу інформації,
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,отримала імена усіх вчителів \Nта усі їх оцінки,
Dialogue: 0,0:02:43.16,0:02:45.95,Default,,0000,0000,0000,,і потім вони опублікували це\Nзадля присоромлення вчителів.
Dialogue: 0,0:02:47.08,0:02:50.94,Default,,0000,0000,0000,,Коли я намагалася тими ж методами \Nодержати формули, початковий код,
Dialogue: 0,0:02:50.97,0:02:53.12,Default,,0000,0000,0000,,мені сказали, що я не можу цього зробити.
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,Мені відмовили.
Dialogue: 0,0:02:54.40,0:02:55.58,Default,,0000,0000,0000,,Пізніше я дізналася,
Dialogue: 0,0:02:55.60,0:02:58.46,Default,,0000,0000,0000,,що ніхто у місті Нью-Йорк\Nне мав доступу до цієї формули.
Dialogue: 0,0:02:58.49,0:02:59.79,Default,,0000,0000,0000,,Ніхто її не розумів.
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,Потім до цього долучилася \Nодна мудра людина, Гері Рубінштейн.
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,Він знайшов 665 вчителів з тої статті\Nу "Нью-Йорк Пост",
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,вчителів, що, власне, мали дві оцінки.
Dialogue: 0,0:03:10.71,0:03:12.59,Default,,0000,0000,0000,,Так могло статися, якщо вони викладали
Dialogue: 0,0:03:12.62,0:03:15.06,Default,,0000,0000,0000,,математику у сьомому класі \Nі математику у восьмому.
Dialogue: 0,0:03:15.08,0:03:16.62,Default,,0000,0000,0000,,Він вирішив відобразити їх дані.
Dialogue: 0,0:03:16.64,0:03:18.64,Default,,0000,0000,0000,,Кожна крапка репрезентує вчителя.
Dialogue: 0,0:03:19.10,0:03:21.48,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:03:21.51,0:03:23.03,Default,,0000,0000,0000,,Що це таке?
Dialogue: 0,0:03:23.05,0:03:24.33,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:03:24.35,0:03:27.80,Default,,0000,0000,0000,,Це ніколи не слід було використовувати \Nдля індивідуальної оцінки.
Dialogue: 0,0:03:27.82,0:03:29.75,Default,,0000,0000,0000,,Це майже як генератор випадкових чисел.
Dialogue: 0,0:03:29.77,0:03:32.72,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:03:32.74,0:03:33.90,Default,,0000,0000,0000,,Але це було використано.
Dialogue: 0,0:03:33.93,0:03:35.10,Default,,0000,0000,0000,,Це - Сара Висоцкі.
Dialogue: 0,0:03:35.13,0:03:37.30,Default,,0000,0000,0000,,Її звільнили, разом із \N205 іншими вчителями,
Dialogue: 0,0:03:37.33,0:03:39.99,Default,,0000,0000,0000,,зі шкільного району м.Вашингтон \Nв окрузі Колумбія,
Dialogue: 0,0:03:40.01,0:03:42.92,Default,,0000,0000,0000,,хоча вона мала прекрасні рекомендації\Nвід її директора
Dialogue: 0,0:03:42.95,0:03:44.38,Default,,0000,0000,0000,,та батьків її дітей.
Dialogue: 0,0:03:45.39,0:03:47.42,Default,,0000,0000,0000,,Я знаю, про що зараз думає\Nбагато із вас,
Dialogue: 0,0:03:47.45,0:03:49.93,Default,,0000,0000,0000,,зокрема фахівці з обробки даних\Nі штучного інтелекту.
Dialogue: 0,0:03:49.96,0:03:54.18,Default,,0000,0000,0000,,Ви думаєте: "Ну, я б ніколи не створив \Nалгоритм з такими протиріччями".
Dialogue: 0,0:03:54.79,0:03:56.54,Default,,0000,0000,0000,,Але алгоритми можуть піти не за планом,
Dialogue: 0,0:03:56.56,0:04:01.16,Default,,0000,0000,0000,,навіть мати надзвичайно нищівні наслідки,\Nнезважаючи на добрі наміри.
Dialogue: 0,0:04:02.53,0:04:04.91,Default,,0000,0000,0000,,В той час, як літак,\Nщо був погано спроектований,
Dialogue: 0,0:04:04.93,0:04:06.94,Default,,0000,0000,0000,,врізається у землю, і всі це бачать,
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,алгоритм, що був погано розроблений,
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,може довго функціонувати \Nі тихенько завдавати шкоди.
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,Це - Роджер Ейлс.
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,Він заснував Fox News у 1996 р.
Dialogue: 0,0:04:23.44,0:04:26.02,Default,,0000,0000,0000,,Понад 20 жінок поскаржилися \Nна сексуальні домагання.
Dialogue: 0,0:04:26.04,0:04:29.28,Default,,0000,0000,0000,,Вони казали, що їм не дозволяли\Nдосягати успіхів у Fox News.
Dialogue: 0,0:04:29.30,0:04:31.82,Default,,0000,0000,0000,,Минулого року його вигнали,\Nале ми нещодавно побачили,
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,що проблеми все одно існують.
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,Виникає питання:
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,що повинна зробити Fox News,\Nщоб почати нову сторінку?
Dialogue: 0,0:04:41.24,0:04:44.31,Default,,0000,0000,0000,,А якщо б вони замість свого процесу\Nнайму працівників вживали
Dialogue: 0,0:04:44.31,0:04:45.96,Default,,0000,0000,0000,,алгоритм машинного навчання?
Dialogue: 0,0:04:45.99,0:04:47.58,Default,,0000,0000,0000,,Непогана ідея, правда?
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,Подумайте про це.
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,Дані, які в нас були б дані?
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,Резонно розглянути відгуки на вакансії\Nу Fox News за останній 21 рік.
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,Резонно.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,А як ми визначимо успіх?
Dialogue: 0,0:04:59.92,0:05:01.24,Default,,0000,0000,0000,,Резонно було б обрати,
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,ну, хто є успішним у Fox News?
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,Скажімо, та людина,\Nщо пробула там чотири роки,
Dialogue: 0,0:05:06.68,0:05:08.33,Default,,0000,0000,0000,,і яка хоч раз отримала підвищення.
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,Резонне визначення.
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,А потім ми б навчали алгоритм.
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,Його б навчали шукати людей, вивчати, \Nщо призвело до успіху,
Dialogue: 0,0:05:17.22,0:05:21.54,Default,,0000,0000,0000,,якого роду відгуки про вакансії\Nпризводили до успіху
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,за цим визначенням.
Dialogue: 0,0:05:24.12,0:05:25.98,Default,,0000,0000,0000,,Подумайте, що сталося би \Nпо відношенню
Dialogue: 0,0:05:25.100,0:05:28.55,Default,,0000,0000,0000,,до теперішнього \Nбанку даних про кандидатів.
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,Алгоритм відфільтрував би жінок,
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,бо вони не виглядають, як люди,\Nщо були успішними у минулому.
Dialogue: 0,0:05:39.75,0:05:42.29,Default,,0000,0000,0000,,Алгоритми не забезпечують справедливість,
Dialogue: 0,0:05:42.31,0:05:45.01,Default,,0000,0000,0000,,якщо ви застосовуєте алгоритми\Nбезтурботно і всліпу.
Dialogue: 0,0:05:45.03,0:05:46.51,Default,,0000,0000,0000,,Це не гарантія справедливості.
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,Вони повторюють наші минулі\Nметодики роботи,
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,наші шаблони.
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,Вони автоматизують статус-кво.
Dialogue: 0,0:05:52.72,0:05:55.11,Default,,0000,0000,0000,,Як було б добре, якщо б\Nми жили в ідеальному світі,
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,але ми в ньому не живемо.
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,Додам, що більшість компаній не має\Nприкрих правових спорів,
Dialogue: 0,0:06:02.45,0:06:05.03,Default,,0000,0000,0000,,але науковцям з даних у тих компаніях
Dialogue: 0,0:06:05.06,0:06:07.25,Default,,0000,0000,0000,,кажуть слідкувати за даними,
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,концентруватися на точності.
Dialogue: 0,0:06:10.27,0:06:11.65,Default,,0000,0000,0000,,Подумайте, що це означає.
Dialogue: 0,0:06:11.68,0:06:15.70,Default,,0000,0000,0000,,Оскільки усі ми маємо упередження,\Nвони можуть кодувати сексизм
Dialogue: 0,0:06:15.73,0:06:17.56,Default,,0000,0000,0000,,чи інший вид нетерпимості.
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,Інтелектуальний експеримент,
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,бо вони мені подобаються:
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,повністю сегреговане суспільство -
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,расова сегрегація в усіх містах,\Nусіх кварталах,
Dialogue: 0,0:06:31.60,0:06:34.64,Default,,0000,0000,0000,,і поліцію посилають лиш до\Nкварталів, де проживає меншість,
Dialogue: 0,0:06:34.66,0:06:35.85,Default,,0000,0000,0000,,щоб шукати там злочинців.
Dialogue: 0,0:06:36.45,0:06:38.67,Default,,0000,0000,0000,,Дані про арешти були б дуже упередженими.
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,А якщо, окрім того, \Nми знайшли б науковців з даних
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,і платили б науковцям за передбачення,\Nде буде скоєно наступний злочин?
Dialogue: 0,0:06:47.28,0:06:48.94,Default,,0000,0000,0000,,У кварталі, де проживає меншість.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Чи передбачити, хто буде \Nнаступним злочинцем?
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,Людина з меншості.
Dialogue: 0,0:06:55.95,0:06:59.49,Default,,0000,0000,0000,,Науковці хвалилися б про те,\Nнаскільки чудовою і точною
Dialogue: 0,0:06:59.51,0:07:00.81,Default,,0000,0000,0000,,є їх модель,
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,і вони були б праві.
Dialogue: 0,0:07:03.95,0:07:08.59,Default,,0000,0000,0000,,В реальному житті немає таких крайнощів,\Nале ми маємо суттєву сегрегацію
Dialogue: 0,0:07:08.59,0:07:09.88,Default,,0000,0000,0000,,у великих і малих містах,
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,і маємо досить доказів
Dialogue: 0,0:07:11.82,0:07:14.51,Default,,0000,0000,0000,,щодо упередженості поліції \Nі судової системи.
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,І ми справді передбачаємо гарячі точки,
Dialogue: 0,0:07:18.47,0:07:20.00,Default,,0000,0000,0000,,місця, де буде скоєно злочини.
Dialogue: 0,0:07:20.40,0:07:24.27,Default,,0000,0000,0000,,І це факт, що ми передбачаємо \Nіндивідуальні злочинні дії,
Dialogue: 0,0:07:24.29,0:07:26.06,Default,,0000,0000,0000,,злочинність окремих людей.
Dialogue: 0,0:07:26.97,0:07:30.94,Default,,0000,0000,0000,,Інформагентство ProPublica нещодавно \Nпровело розслідування щодо
Dialogue: 0,0:07:30.96,0:07:32.98,Default,,0000,0000,0000,,одного з алгоритмів \N"ризику рецидивізму",
Dialogue: 0,0:07:33.01,0:07:34.17,Default,,0000,0000,0000,,так вони називаються,
Dialogue: 0,0:07:34.19,0:07:37.39,Default,,0000,0000,0000,,що використовують судді у Флориді,\Nколи виносять вирок.
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,Бернард, зліва, темношкірий,\Nотримав рейтинг 10 з 10.
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,Ділан, справа, 3 з 10.
Dialogue: 0,0:07:45.21,0:07:47.71,Default,,0000,0000,0000,,10 з 10, високий ризик.\N3 з 10, низький ризик.
Dialogue: 0,0:07:48.60,0:07:50.98,Default,,0000,0000,0000,,Їх обох заарештували за\Nзберігання наркотиків.
Dialogue: 0,0:07:50.99,0:07:52.19,Default,,0000,0000,0000,,В них кримінальне минуле,
Dialogue: 0,0:07:52.19,0:07:54.99,Default,,0000,0000,0000,,але Ділан скоїв тяжкий злочин,
Dialogue: 0,0:07:55.02,0:07:56.19,Default,,0000,0000,0000,,а Бернард - ні.
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,Це має значення, бо\Nчим вищий в тебе ризик,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,тим ймовірніше, що ти отримаєш \Nдовший термін покарання.
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,Що ж відбувається?
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,Відмивання даних.
Dialogue: 0,0:08:10.93,0:08:15.35,Default,,0000,0000,0000,,Це процес, коли технологи ховають\Nнеприємну правду
Dialogue: 0,0:08:15.35,0:08:17.21,Default,,0000,0000,0000,,всередині алгоритмів типу "чорний ящик"
Dialogue: 0,0:08:17.23,0:08:18.57,Default,,0000,0000,0000,,і називають їх об'єктивними;
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,називають їх меритократичними.
Dialogue: 0,0:08:23.12,0:08:25.50,Default,,0000,0000,0000,,Коли ці алгоритми секретні,\Nважливі та нищівні,
Dialogue: 0,0:08:25.53,0:08:28.01,Default,,0000,0000,0000,,я створила для них термін:
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,"зброя математичного знищення".
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Вони повсюди,\Nі це не помилково.
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,Це приватні компанії,\Nщо будують приватні алгоритми
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,для приватного зиску.
Dialogue: 0,0:08:43.21,0:08:46.43,Default,,0000,0000,0000,,Навіть приклади, що я навела,\Nдля вчителів і державної поліції,
Dialogue: 0,0:08:46.45,0:08:48.32,Default,,0000,0000,0000,,приватні компанії побудували їх
Dialogue: 0,0:08:48.34,0:08:50.58,Default,,0000,0000,0000,,і продали державним установам.
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,Вони кажуть, що це їх \N"секретний соус",
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,тому вони не можуть\Nрозповісти нам про нього.
Dialogue: 0,0:08:54.65,0:08:56.87,Default,,0000,0000,0000,,Це також вплив приватних інтересів.
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,Вони отримують зиск, маючи владу\Nнад незбагненним.
Dialogue: 0,0:09:05.11,0:09:08.05,Default,,0000,0000,0000,,Позаяк це все приватні компанії,\Nви можете припустити,\N
Dialogue: 0,0:09:08.07,0:09:09.23,Default,,0000,0000,0000,,що існує конкуренція,
Dialogue: 0,0:09:09.25,0:09:11.56,Default,,0000,0000,0000,,можливо, вільний ринок\Nвирішить цю проблему.
Dialogue: 0,0:09:11.58,0:09:12.83,Default,,0000,0000,0000,,Ні, не вирішить.
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,На несправедливості можна заробити\Nчимало грошей.
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,До того ж, ми не є\Nекономічними раціональними агентами.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,У нас у всіх є упередження.
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,Ми всі до певної міри нетерпимі расисти, \Nхоч нам це і не подобається,
Dialogue: 0,0:09:26.36,0:09:28.38,Default,,0000,0000,0000,,ми самі не знаємо, до якої міри.
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,Однак ми знаємо, що так\Nзагалом і є,
Dialogue: 0,0:09:32.46,0:09:35.68,Default,,0000,0000,0000,,бо соціологи систематично\Nдемонструють це
Dialogue: 0,0:09:35.70,0:09:37.37,Default,,0000,0000,0000,,у експериментах, що вони проводять,
Dialogue: 0,0:09:37.39,0:09:39.96,Default,,0000,0000,0000,,коли вони надсилають низку \Nвідгуків на вакансії,
Dialogue: 0,0:09:39.98,0:09:42.48,Default,,0000,0000,0000,,однакові кваліфікації, але у деяких \N"білі" імена,
Dialogue: 0,0:09:42.51,0:09:44.21,Default,,0000,0000,0000,,а в інших імена, як у темношкірих,
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,і результати завжди невтішні, \Nзавжди.
Dialogue: 0,0:09:47.51,0:09:49.28,Default,,0000,0000,0000,,Отже, ми маємо упередження,
Dialogue: 0,0:09:49.30,0:09:52.73,Default,,0000,0000,0000,,і ми вбудовуємо ці упередження\Nв алгоритми,
Dialogue: 0,0:09:52.76,0:09:54.57,Default,,0000,0000,0000,,обираючи, які дани потрібно збирати,
Dialogue: 0,0:09:54.59,0:09:57.34,Default,,0000,0000,0000,,так само, як я вирішила\Nне думати про локшину рамен -
Dialogue: 0,0:09:57.36,0:09:58.99,Default,,0000,0000,0000,,я вирішила, що це малозначуще.
Dialogue: 0,0:09:59.01,0:10:04.69,Default,,0000,0000,0000,,Але коли ми довіряємо даним,\Nщо вловлюють практику, що склалася,
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,і обираємо визначення успіху,
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,як ми можемо очікувати, що алгоритми\Nбудуть без несправностей?
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,Не можемо. Ми повинні перевіряти їх.
Dialogue: 0,0:10:14.16,0:10:15.87,Default,,0000,0000,0000,,Перевіряти їх на справедливість.
Dialogue: 0,0:10:15.90,0:10:18.61,Default,,0000,0000,0000,,На щастя, ми можемо \Nперевіряти їх на справедливість.
Dialogue: 0,0:10:18.63,0:10:21.98,Default,,0000,0000,0000,,Алгоритми можна розпитувати,
Dialogue: 0,0:10:22.01,0:10:24.04,Default,,0000,0000,0000,,і вони щоразу казатимуть\Nнам правду.
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,І ми можемо виправити їх.\NМи можемо покращити їх.
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,Я називаю це "алгоритмічним аудитом",
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,і я вам зараз його поясню.
Dialogue: 0,0:10:30.69,0:10:32.88,Default,,0000,0000,0000,,По-перше, перевірка цілісності даних.
Dialogue: 0,0:10:34.13,0:10:36.79,Default,,0000,0000,0000,,Повертаючись до алгоритму\Nриску рецидивізму,
Dialogue: 0,0:10:37.52,0:10:41.16,Default,,0000,0000,0000,,перевірка цілісності даних означала б,\Nщо нам довелося б змиритися із фактом,
Dialogue: 0,0:10:41.18,0:10:44.70,Default,,0000,0000,0000,,що у США білі і темношкірі \Nобкурені однаково,
Dialogue: 0,0:10:44.73,0:10:47.21,Default,,0000,0000,0000,,однак темношкірих заарештовують\Nнабагато частіше -
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,у чотири-п'ять разів частіше,\Nзалежно від району.
Dialogue: 0,0:10:51.29,0:10:54.14,Default,,0000,0000,0000,,Як ця упередженість виглядає\Nв інших кримінальних категоріях,
Dialogue: 0,0:10:54.17,0:10:55.62,Default,,0000,0000,0000,,і як ми приймаємо її до уваги?
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,По-друге, нам слід подумати про\Nвизначення успіху,
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,проводити аудит визначення.
Dialogue: 0,0:11:00.63,0:11:03.38,Default,,0000,0000,0000,,Пригадуєте алгоритм\Nщодо прийняття на роботу?
Dialogue: 0,0:11:03.39,0:11:06.57,Default,,0000,0000,0000,,Той, хто утримується на роботі чотири роки\Nі раз отримує підвищення?
Dialogue: 0,0:11:06.60,0:11:08.36,Default,,0000,0000,0000,,Ну так, це успішний працівник,
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,але це також працівник, котрого підтримує\Nорганізаційна культура.
Dialogue: 0,0:11:12.09,0:11:14.02,Default,,0000,0000,0000,,Однак і тут може бути\Nбагато упередження.
Dialogue: 0,0:11:14.04,0:11:16.10,Default,,0000,0000,0000,,Нам треба розрізняти тих дві речі.
Dialogue: 0,0:11:16.13,0:11:18.55,Default,,0000,0000,0000,,Давайте брати приклад \Nз прослуховування всліпу
Dialogue: 0,0:11:18.58,0:11:19.77,Default,,0000,0000,0000,,на роль в окрестрі,
Dialogue: 0,0:11:19.80,0:11:22.55,Default,,0000,0000,0000,,Це коли люди на прослуховуванні\Nє за листом паперу.
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,На чому я хочу тут зосередитись:
Dialogue: 0,0:11:24.90,0:11:28.32,Default,,0000,0000,0000,,люди, котрі прослуховують кандидатів,\Nвирішили, що важливе,
Dialogue: 0,0:11:28.34,0:11:30.37,Default,,0000,0000,0000,,і вирішили, що неважливе,
Dialogue: 0,0:11:30.40,0:11:32.45,Default,,0000,0000,0000,,і їх це не відволікає.
Dialogue: 0,0:11:32.96,0:11:35.71,Default,,0000,0000,0000,,Коли розпочалися прослуховування вліпу,
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,кількість жінок в оркестрах\Nзросла у п'ять разів.
Dialogue: 0,0:11:40.25,0:11:42.27,Default,,0000,0000,0000,,Потім нам потрібно розглянути точність.
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,Ось тут модель з розширеними функціями\Nдля вчителів одразу б провалилася.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Звісно, що не існує ідеальних алгоритмів,
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,тому нам треба приймати до уваги помилки\Nу кожному алгоритмі.
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,Як часто там трапляються помилки,\Nі кого підведе ця модель?
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,Якою є ціна цього провалу?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,І наприкінці, нам потрібно \Nприйняти до уваги
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,довготермінові ефекти алгоритмів,
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,ланцюги зворотного зв'язку, що виникають.
Dialogue: 0,0:12:11.59,0:12:12.82,Default,,0000,0000,0000,,Звучить абстрактно,
Dialogue: 0,0:12:12.85,0:12:15.51,Default,,0000,0000,0000,,але уявіть, якщо інженери Facebook\Nприйняли б це до уваги,
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,перш ніж вони вирішили показувати нам\Nлише те, що постять наші друзі.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,В мене є ще дві думки, що я хочу донести,\Nодна для науковців з даних.
Dialogue: 0,0:12:25.45,0:12:28.86,Default,,0000,0000,0000,,Науковці з даних: нам не слід бути\Nарбітрами правди.
Dialogue: 0,0:12:29.52,0:12:33.30,Default,,0000,0000,0000,,Нам слід бути перекладачами\Nетичних дискусій, що відбуваються
Dialogue: 0,0:12:33.33,0:12:34.62,Default,,0000,0000,0000,,у ширшому суспільстві.
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,А щодо решти з вас,
Dialogue: 0,0:12:40.01,0:12:41.41,Default,,0000,0000,0000,,не-науковців з даних:
Dialogue: 0,0:12:41.43,0:12:42.93,Default,,0000,0000,0000,,це не тест з математики.
Dialogue: 0,0:12:43.63,0:12:44.98,Default,,0000,0000,0000,,Це політична боротьба.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,Ми повинні вимагати підзвітності\Nвід наших алгоритмічних можновладців.
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,Епоха сліпої віри у великі дані\Nмає підійти до кінця.
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,Дуже вам дякую.
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,(Оплески)