[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.86,Default,,0000,0000,0000,,Отже, я почала працювати\Nпрограмісткою,
Dialogue: 0,0:00:04.88,0:00:06.84,Default,,0000,0000,0000,,коли навчалась на першому курсі коледжу
Dialogue: 0,0:00:06.86,0:00:08.37,Default,,0000,0000,0000,,і була, по суті, ще тінейджеркою.
Dialogue: 0,0:00:08.89,0:00:10.62,Default,,0000,0000,0000,,Після того, як я почала працювати,
Dialogue: 0,0:00:10.64,0:00:12.26,Default,,0000,0000,0000,,пишучи програмне забезпечення,
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,менеджер, який теж там працював,\Nпідійшов до мене
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,і прошепотів:
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,"Чи може він сказати, що я брешу?"
Dialogue: 0,0:00:21.81,0:00:23.88,Default,,0000,0000,0000,,У кабінеті крім нас нікого не було.
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,"Хто може сказати, що ти брешеш?\NІ чому ми говоримо пошепки?"
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,Менеджер показав пальцем \Nна комп'ютер.
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,"Чи може він сказати, що я брешу?"
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,Річ у тім, що в мого колеги був \Nроман із секретаркою.
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,А я все ще була тінейджеркою.
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,Тому голосно прошепотіла:
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,"Так, комп'ютер може сказати,\Nщо ти брешеш".
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,Ну, я сміялась, але насправді\Nсміялась над собою.
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,Сьогодні існують комп'ютерні системи,
Dialogue: 0,0:00:59.21,0:01:02.76,Default,,0000,0000,0000,,які можуть розпізнати емоції\Nі навіть брехню,
Dialogue: 0,0:01:02.78,0:01:04.82,Default,,0000,0000,0000,,опрацювавши обличчя людини.
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,Рекламодавці і навіть влада\Nв цьому дуже зацікавлені.
Dialogue: 0,0:01:10.32,0:01:12.18,Default,,0000,0000,0000,,Я стала програмісткою,
Dialogue: 0,0:01:12.20,0:01:15.32,Default,,0000,0000,0000,,тому, що була однією з тих дітей,\Nякі шаленіли від точних наук.
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,Але десь у процесі я дізналась\Nпро ядерну зброю,
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,і мене справді схвилювало \Nпитання наукової етики.
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,Я була стривожена.
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,Однак через сімейні обставини
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,мені також треба було \Nпочати працювати якнайшвидше.
Dialogue: 0,0:01:29.26,0:01:32.56,Default,,0000,0000,0000,,Тому я подумала: "Ей, обирай\Nтехнічну сферу,
Dialogue: 0,0:01:32.59,0:01:34.38,Default,,0000,0000,0000,,де можна легко знайти роботу
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,і де не треба мати справу з \Nболісними етичними проблемами".
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,Тому я обрала комп'ютери.
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,Ха-ха-ха!\NВсі наді мною сміялися.
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,Сьогодні програмісти будують платформи,
Dialogue: 0,0:01:47.92,0:01:52.12,Default,,0000,0000,0000,,які регулюють те, що мільйони людей\Nщодня бачать.
Dialogue: 0,0:01:53.05,0:01:56.87,Default,,0000,0000,0000,,Вони удосконалюють автомобілі,\Nякі можуть вирішити, кого переїхати.
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,Вони навіть конструюють машини і зброю,
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,які можуть вбивати людей на війні.
Dialogue: 0,0:02:03.25,0:02:06.02,Default,,0000,0000,0000,,Це все одно проблема моралі.
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,Це машинний інтелект.
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,Сьогодні ми використовуємо комп'ютеризацію,\Nщоб ухвалювати будь-які рішення,
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,а також для нових рішень.
Dialogue: 0,0:02:15.23,0:02:20.40,Default,,0000,0000,0000,,Ми ставимо запитання машинам,\Nякі не мають чітких правильних відповідей,
Dialogue: 0,0:02:20.43,0:02:21.63,Default,,0000,0000,0000,,суб'єктивних,
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,відкритих і заснованих\Nна ідеях цінностей.
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,Ми ставимо запитання на кшталт:
Dialogue: 0,0:02:25.78,0:02:27.43,Default,,0000,0000,0000,,"Кого компанії варто найняти?"
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,"Новини якого друга потрібно показати?"
Dialogue: 0,0:02:30.88,0:02:33.14,Default,,0000,0000,0000,,"Який злочинець може\Nзнову порушити закон?"
Dialogue: 0,0:02:33.51,0:02:36.57,Default,,0000,0000,0000,,"Яку новину або фільм\Nслід рекомендувати людям?"
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,Так, ми постійно \Nвикористовували комп'ютери,
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,але це інше.
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,Це історичний поворот,
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,адже не можна передати комп'ютерам\Nвідповідальність за такі суб'єктивні рішення,
Dialogue: 0,0:02:48.98,0:02:54.40,Default,,0000,0000,0000,,так як передаємо за управління літаками,\Nбудування мостів,
Dialogue: 0,0:02:54.42,0:02:55.68,Default,,0000,0000,0000,,польоти на Місяць.
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,Хіба літаки безпечніші?\NМости не хиталися і не падали?
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,У нас є загальноприйняті, \Nцілком зрозумілі критерії порівняння,
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,і є закони природи, які нами керують.
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,У нас немає таких підстав та критеріїв,
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,щоб ухвалювати рішення стосовно\Nбрудних людських справ.
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,Програмне забезпечення стає потужнішим,\Nщоб зробити деякі речі складнішими,
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,але водночас стає прозорішим \Nі заплутанішим.
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,За останніх десять років
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,заплутані алгоритми досягли\Nвеликого успіху.
Dialogue: 0,0:03:27.36,0:03:29.35,Default,,0000,0000,0000,,Вони можуть розпізнавати обличчя людей.
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,Можуть розшифрувати почерк.
Dialogue: 0,0:03:32.44,0:03:34.50,Default,,0000,0000,0000,,Можуть знайти кредитних шахраїв,
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,блокувати спам,
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,перекладати з мови на мову.
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,Вони можуть виявити пухлини на рентгені.
Dialogue: 0,0:03:40.40,0:03:42.60,Default,,0000,0000,0000,,Обіграти людей в шахи чи "Ґо".
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,Велика частина цього прогресу\Nприйшла з методу "машинного навчання".
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,Машинне навчання відрізняється від \Nтрадиційного програмування,
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,коли ви даєте комп'ютеру детальні,\Nточні, досконалі інструкції.
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,Це більше схоже на те, коли ви берете\Nсистему і наповнюєте її інформацією,
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,зокрема неструктурованою,
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,схожою на ту, що ми генеруємо\Nу цифровому житті.
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,І система вчиться на обробці \Nцієї інформації.
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,Також важливо,
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,що системи не виконують завдання, пов'язані\Nіз необхідністю знайти єдину відповідь.
Dialogue: 0,0:04:12.62,0:04:15.58,Default,,0000,0000,0000,,Вони не дають просту відповідь,\Nвиходячи з теорії імовірностей.
Dialogue: 0,0:04:15.61,0:04:19.09,Default,,0000,0000,0000,,"Ось щось схоже на те,\Nщо ви шукаєте".
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,Тепер позитивний аспект:\Nцей метод справді потужний.
Dialogue: 0,0:04:23.12,0:04:25.19,Default,,0000,0000,0000,,Директор Google's AI systems називає його
Dialogue: 0,0:04:25.22,0:04:27.41,Default,,0000,0000,0000,,"ірраціональною ефективністю даних".
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,Мінусом є те,
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,що ми насправді не розуміємо,\Nпро що дізнається система.
Dialogue: 0,0:04:32.83,0:04:34.42,Default,,0000,0000,0000,,Насправді, в цьому сила системи.
Dialogue: 0,0:04:34.95,0:04:38.74,Default,,0000,0000,0000,,Це не схоже на ситуацію, коли\Nми даємо комп'ютеру інструкції,
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,а, скоріше, на формування\Nмаленької машинної істоти,
Dialogue: 0,0:04:43.29,0:04:45.66,Default,,0000,0000,0000,,яку ми насправді не розуміємо і \Nне контролюємо.
Dialogue: 0,0:04:46.36,0:04:47.91,Default,,0000,0000,0000,,Тому це наша проблема.
Dialogue: 0,0:04:48.43,0:04:52.69,Default,,0000,0000,0000,,Проблемно, коли система штучного \Nінтелекту засвоює інформацію неправильно.
Dialogue: 0,0:04:52.71,0:04:56.25,Default,,0000,0000,0000,,Також проблемно, коли вона засвоює\Nінформацію правильно,
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,тому що ми не знаємо, хто є хто,\Nколи це суб'єктивна проблема.
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,Ми не знаємо, про що ця річ думає.
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,Розглянемо алгоритм найму на роботу -
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,система, яку застосовують для найму людей,\Nвикористовує системи машинного навчання.
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,Така система підготовлена\Nна даних попередніх працівників
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,і навчена шукати і наймати
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,людей, подібних до найкращих\Nпрацівників компанії.
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,Звучить добре.
Dialogue: 0,0:05:23.99,0:05:25.99,Default,,0000,0000,0000,,Одного разу я відвідала конференцію,
Dialogue: 0,0:05:26.01,0:05:29.14,Default,,0000,0000,0000,,яку проводили керівники відділів кадрів\Nта члени правління,
Dialogue: 0,0:05:29.16,0:05:30.37,Default,,0000,0000,0000,,люди на високих посадах,
Dialogue: 0,0:05:30.39,0:05:31.95,Default,,0000,0000,0000,,які використовують такі системи.
Dialogue: 0,0:05:31.98,0:05:33.62,Default,,0000,0000,0000,,Вони були в захопленні.
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,Вони думали, що це зробить прийом на\Nроботу більш об'єктивним, менш упередженим,
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,і дасть жінкам і представникам меншин\Nбільше шансів,
Dialogue: 0,0:05:41.35,0:05:43.54,Default,,0000,0000,0000,,ніж упереджені менеджери.
Dialogue: 0,0:05:43.56,0:05:46.40,Default,,0000,0000,0000,,Найм людей на роботу - \Nсправа упереджена.
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,Я знаю.
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,На одній із перших компаній,\Nде я програмувала,
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,моя безпосередня керівничка \Nдеколи підходила до мене
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,рано-вранці або пізно ввечері,
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,і казала: "Зейнеп, ідемо обідати!"
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,Я була здивована дивним вибором часу.
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,16:00. Обід?
Dialogue: 0,0:06:07.07,0:06:10.16,Default,,0000,0000,0000,,Ці сумнівні обіди мене ледь не розорили.\NАле я завжди йшла.
Dialogue: 0,0:06:10.62,0:06:12.68,Default,,0000,0000,0000,,Пізніше я усвідомила, що відбувалося.
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,Мої безпосередні начальники не могли\Nзізнатися вищому керівництву,
Dialogue: 0,0:06:17.28,0:06:20.39,Default,,0000,0000,0000,,що найняли для серйозної роботи \Nдівчинку-підлітка,
Dialogue: 0,0:06:20.42,0:06:24.35,Default,,0000,0000,0000,,яка на роботу ходить у джинсах і кедах.
Dialogue: 0,0:06:25.17,0:06:27.38,Default,,0000,0000,0000,,Я добре працювала, \Nале виглядала неправильно
Dialogue: 0,0:06:27.40,0:06:29.10,Default,,0000,0000,0000,,і була неправильного віку і статі.
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,Тому найм без врахування статі і раси
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,безсумнівно мені підходив.
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,Але з такими системами цей процес \Nще заплутаніший, і ось чому:
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,останнім часом комп'ютерні системи можуть\Nзробити будь-які висновки про вас,
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,враховуючи цифрові дрібниці,
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,навіть якщо ви про ці висновки\Nне підозрюєте.
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,Вони можуть робити висновки про \Nсексуальну орієнтацію,
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,персональні якості,
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,політичні погляди.
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,Вони можуть передбачати\Nз високим рівнем точності.
Dialogue: 0,0:07:01.36,0:07:03.94,Default,,0000,0000,0000,,Пам'ятайте - речі, про які\Nви навіть не підозрюєте.
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,Це припущення.
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,У мене є подруга, яка удосконалює\Nтакі системи,
Dialogue: 0,0:07:08.86,0:07:12.50,Default,,0000,0000,0000,,щоб передбачити ймовірність\Nклінічної чи післяпологової депресії,
Dialogue: 0,0:07:12.53,0:07:13.94,Default,,0000,0000,0000,,аналізуючи соціальні мережі.
Dialogue: 0,0:07:14.68,0:07:16.10,Default,,0000,0000,0000,,Результати вражаючі.
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,ЇЇ система може передбачити\Nймовірність депресії
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,за місяці перед проявом симптомів -
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,за місяці.
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,Передбачення без симптомів.
Dialogue: 0,0:07:27.47,0:07:32.28,Default,,0000,0000,0000,,Вона сподівається, що систему застосують\Nдля втручання на ранній стадії. Чудово!
Dialogue: 0,0:07:32.91,0:07:34.95,Default,,0000,0000,0000,,Розгляньте це в контексті найму на роботу.
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,На конференції керівників кадрових служб
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,я спілкувалася з топ-менеджеркою\Nдуже великої компанії
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,і сказала їй: "А якщо без вашого відома
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,система видаляє людей з високою\Nймовірністю появи депресії?
Dialogue: 0,0:07:55.76,0:07:59.14,Default,,0000,0000,0000,,Наразі вони не пригнічені, але можливо\Nстануть такими в майбутньому.
Dialogue: 0,0:07:59.92,0:08:03.33,Default,,0000,0000,0000,,Що як вона видаляє жінок, які, \Nможливо, завагітніють
Dialogue: 0,0:08:03.35,0:08:05.94,Default,,0000,0000,0000,,за кілька наступних років,\Nале не вагітні зараз?
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,Що як вона наймає на роботу агресивних \Nлюдей через корпоративну культуру?"
Dialogue: 0,0:08:13.17,0:08:15.86,Default,,0000,0000,0000,,Ви не можете цього сказати, дивлячись на \Nгендерний баланс.
Dialogue: 0,0:08:15.89,0:08:17.39,Default,,0000,0000,0000,,Їх можна врівноважити.
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,І так як це машинне навчання,\Nа не традиційне програмування,
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,немає змінних ярликів на кшталт:\N"високий ризик депресії",
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,"високий ризик вагітності"
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,чи "шкала агресивності".
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,Ви не тільки не знаєте, що саме система\Nвізьме до уваги,
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,ви навіть не знаєте,\Nде це починати шукати.
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,Це чорна скринька.
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,Система має силу передбачення,\Nале ви її не розумієте.
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,Я запитала: \N"Які запобіжні заходи у вас є,
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,щоб упевнитись, що ця чорна скринька\Nне робить нічого підозрілого?"
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,Вона подивилась на мене так, ніби\Nя наступила щеняті на хвіст.
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,Пильно подивилася на мене і сказала:
Dialogue: 0,0:08:56.56,0:09:00.89,Default,,0000,0000,0000,,"Я більше не хочу нічого про це чути".
Dialogue: 0,0:09:01.46,0:09:03.49,Default,,0000,0000,0000,,А тоді повернулася і пішла геть.
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,Зауважте - вона була вихована.
Dialogue: 0,0:09:05.57,0:09:11.88,Default,,0000,0000,0000,,Було зрозуміло: те, чого я не знаю -\Nне моя проблема. Іди геть; вбивчий погляд.
Dialogue: 0,0:09:11.91,0:09:13.15,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,Деколи такі системи можуть бути \Nменш упереджені,
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,ніж керівники відділів кадрів.
Dialogue: 0,0:09:19.85,0:09:21.100,Default,,0000,0000,0000,,І це може бути матеріально виправдано.
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,Але також це може призвести
Dialogue: 0,0:09:24.25,0:09:28.100,Default,,0000,0000,0000,,до постійного і приховуваного виштовхування\Nз ринку праці
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,людей з високим ризиком розвитку\Nдепресії.
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,Це таке суспільство,\Nяке ми хочемо будувати,
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,навіть не знаючи, що ми це зробили,
Dialogue: 0,0:09:36.68,0:09:40.65,Default,,0000,0000,0000,,тому що ми доручили ухвалення рішень\Nмашинам, яких повністю не розуміємо.
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,Є й інша проблема:
Dialogue: 0,0:09:43.31,0:09:47.77,Default,,0000,0000,0000,,часто ці програми базуються на\Nінформації, пов'язаній з нашими діями,
Dialogue: 0,0:09:47.79,0:09:49.61,Default,,0000,0000,0000,,на людських враженнях.
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,Вони можуть відображати\Nнаші упередження,
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,можуть їх засвоїти
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,і підсилити
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,і повернути їх проти нас,
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,тоді як ми кажемо:
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,"Ми робимо об'єктивний,\Nнейтральний розрахунок".
Dialogue: 0,0:10:06.31,0:10:08.99,Default,,0000,0000,0000,,Дослідники виявили, що в Google
Dialogue: 0,0:10:10.13,0:10:15.45,Default,,0000,0000,0000,,жінкам рідше пропонують оголошення\Nпро високооплачувану роботу.
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,І під час пошуку афро-американських імен
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,частіше з'являються рекламні оголошення\Nпро кримінальні історії,
Dialogue: 0,0:10:23.75,0:10:25.31,Default,,0000,0000,0000,,які навіть не стосуються пошуку.
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,Такі приховані упередження\Nі алгоритми "чорної скриньки",
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,що їх дослідники деколи виявляють,\Nа деколи ми про них навіть не знаємо,
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,можуть мати життєвоважливі наслідки.
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,У Вісконсині підсудний був засуджений\Nдо шести років у в'язниці
Dialogue: 0,0:10:42.14,0:10:43.50,Default,,0000,0000,0000,,за непокору поліції.
Dialogue: 0,0:10:44.82,0:10:46.01,Default,,0000,0000,0000,,Можливо, ви цього не знаєте,
Dialogue: 0,0:10:46.03,0:10:50.03,Default,,0000,0000,0000,,але алгоритми все частіше використовують \Nдля визначення міри покарання.
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,Він хотів знати,\Nяк визначили цей показник.
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,Вигідна "чорна скринька".
Dialogue: 0,0:10:55.48,0:10:59.69,Default,,0000,0000,0000,,Компанію, яка відмовилась від цього \Nалгоритму, викликали на судове засідання.
Dialogue: 0,0:11:00.40,0:11:05.93,Default,,0000,0000,0000,,Некомерційна слідча компанія ProPublica\Nперевірила той самий алгоритм
Dialogue: 0,0:11:05.95,0:11:07.97,Default,,0000,0000,0000,,з публічними даними, які вони могли знайти,
Dialogue: 0,0:11:07.99,0:11:10.31,Default,,0000,0000,0000,,і з'ясувала, що такі висновки\Nбули необ'єктивні,
Dialogue: 0,0:11:10.33,0:11:13.96,Default,,0000,0000,0000,,а здатність передбачення була мізерна,\Nмало відрізнялася від випадковості
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,і помилково маркувала чорношкірих\Nобвинувачуваних, як майбутніх злочинців,
Dialogue: 0,0:11:18.42,0:11:22.32,Default,,0000,0000,0000,,в двічі частіше, ніж білих \Nобвинувачуваних.
Dialogue: 0,0:11:23.89,0:11:25.46,Default,,0000,0000,0000,,Розглянемо такий випадок:
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,ця дівчина трохи запізно приїхала \Nзабирати свою сестру
Dialogue: 0,0:11:29.98,0:11:32.05,Default,,0000,0000,0000,,зі школи в окрузі Бровард, Флорида,
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,і бігла по вулиці\Nзі своїми друзями.
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,Вони помітили неприщіпнутий на замок \Nдитячий велосипед і самокат на терасі
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,і здуру стрибнули на нього.
Dialogue: 0,0:11:40.92,0:11:43.52,Default,,0000,0000,0000,,Коли вони втікали, вийшла жінка\Nі сказала:
Dialogue: 0,0:11:43.54,0:11:45.74,Default,,0000,0000,0000,,"Ей! Це велосипед моєї дитини!"
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,Вони кинули велосипед і втікли,\Nале їх арештували.
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,Дівчина вчинила неправильно і нерозважливо,\Nале ж їй було всього 18.
Dialogue: 0,0:11:52.75,0:11:55.29,Default,,0000,0000,0000,,Вона скоїла декілька \Nнезначних правопорушень.
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,Тим часом цього чоловіка арештували за\Nкрадіжку в магазині Home Depot -
Dialogue: 0,0:12:01.02,0:12:03.94,Default,,0000,0000,0000,,він вкрав речей на 85 доларів,\Nтакий же маленький злочин.
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,Але до цього його двічі засудили\Nза збройні напади.
Dialogue: 0,0:12:09.96,0:12:13.44,Default,,0000,0000,0000,,Однак алгоритм визначив, що вона \Nнебезпечніша за нього.
Dialogue: 0,0:12:14.75,0:12:18.62,Default,,0000,0000,0000,,Через два роки ProPublica з'ясувала,\Nщо вона знову порушила закон.
Dialogue: 0,0:12:18.64,0:12:21.19,Default,,0000,0000,0000,,І з такими даними їй було важко\Nотримати роботу.
Dialogue: 0,0:12:21.22,0:12:23.29,Default,,0000,0000,0000,,З іншого боку, той чоловік \Nзнову порушив закон
Dialogue: 0,0:12:23.32,0:12:27.15,Default,,0000,0000,0000,,і тепер відбуває восьмирічний термін\Nза останній злочин.
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,Нам треба перевірити ці "чорні скриньки"
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,і не наділяти їх такою\Nнеперевіреною силою.
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,Перевірки - це дуже важливо,\Nале вони не розв'язують всіх наших проблем.
Dialogue: 0,0:12:42.35,0:12:45.10,Default,,0000,0000,0000,,Розглянемо потужний алгоритм\Nстрічки новин у Фейсбуці -
Dialogue: 0,0:12:45.12,0:12:49.97,Default,,0000,0000,0000,,той, що упорядковує все і вирішує,\Nщо вам показати
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,з усіх сторінок, на які ви підписані.
Dialogue: 0,0:12:52.90,0:12:55.17,Default,,0000,0000,0000,,Розказати про ще одну "дитячу картину"?
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,Сумний пост знайомого?
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,Важлива, але неприємна новина?
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,Немає правильної відповіді.
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Фейсбук враховує активність на сайті:
Dialogue: 0,0:13:05.52,0:13:06.93,Default,,0000,0000,0000,,лайки, репости, коментарі.
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,У серпні 2014
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,почалися протести у місті Ферґюсон,\Nштат Міссуррі,
Dialogue: 0,0:13:13.57,0:13:17.99,Default,,0000,0000,0000,,після того. як білий поліцейський вбив\Nафро-американського підлітка
Dialogue: 0,0:13:18.02,0:13:19.58,Default,,0000,0000,0000,,за незрозумілих обставин.
Dialogue: 0,0:13:19.97,0:13:21.98,Default,,0000,0000,0000,,Новини про ці протести заполонили
Dialogue: 0,0:13:22.00,0:13:24.69,Default,,0000,0000,0000,,мою невідфільтровану стрічку\Nновин у Твіттері,
Dialogue: 0,0:13:24.71,0:13:26.66,Default,,0000,0000,0000,,але їх не було на моєму Фейсбуці.
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,Справа у моїх друзях на Фейсбуці?
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,Алгоритм Фейсбука вибив мене з колії,
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,він складний, тому що Фейсбук підтримує\Nбажання
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,знаходитися під контролем алгоритму,
Dialogue: 0,0:13:36.40,0:13:38.64,Default,,0000,0000,0000,,і бачити, що мої друзі говорили про це.
Dialogue: 0,0:13:38.67,0:13:41.18,Default,,0000,0000,0000,,Це саме те, що алгоритм не показав мені.
Dialogue: 0,0:13:41.20,0:13:44.24,Default,,0000,0000,0000,,Я досліджувала цю проблему, і виявилось, що\Nвона досить поширена.
Dialogue: 0,0:13:44.26,0:13:48.08,Default,,0000,0000,0000,,Історія про Ферґюсон не подобалась\Nалгоритму.
Dialogue: 0,0:13:48.10,0:13:49.27,Default,,0000,0000,0000,,Її не "лайкали".
Dialogue: 0,0:13:49.30,0:13:50.85,Default,,0000,0000,0000,,Хто вподобає такий запис?
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,Її навіть непросто прокоментувати.
Dialogue: 0,0:13:53.73,0:13:55.10,Default,,0000,0000,0000,,Без вподобань і коментарів
Dialogue: 0,0:13:55.12,0:13:58.42,Default,,0000,0000,0000,,алгоритм показував цей запис\Nжменьці людей,
Dialogue: 0,0:13:58.44,0:13:59.98,Default,,0000,0000,0000,,тому ми його не побачили.
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,Навпаки, того тижня
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,алгоритм Фейсбука виділяв те,
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,що називають Ice Bucket Challenge.
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,Суспільно значуща справа: обливаєш себе \Nхолодною водою заради благодійності.
Dialogue: 0,0:14:10.54,0:14:12.44,Default,,0000,0000,0000,,Але це дуже подобалось алгоритму.
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,За нас це рішення прийняла машина.
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,Дуже важливе, але заплутане обговорення
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,могло бути придушене,
Dialogue: 0,0:14:20.96,0:14:23.65,Default,,0000,0000,0000,,якби Фейсбук мав лише одну стрічку новин.
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,Зрештою, ці системи \Nможуть помилятися
Dialogue: 0,0:14:27.94,0:14:30.67,Default,,0000,0000,0000,,так, як цього не допустить \Nлюдський ресурс.
Dialogue: 0,0:14:30.70,0:14:33.62,Default,,0000,0000,0000,,Пам'ятаєте систему штучного \Nінтелекту Watson,
Dialogue: 0,0:14:33.64,0:14:36.77,Default,,0000,0000,0000,,що витирала підлогу, змагаючись з\Nлюдьми на телегрі Jeopardy?
Dialogue: 0,0:14:37.13,0:14:38.56,Default,,0000,0000,0000,,Вона була чудовим гравцем.
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,Але у фіналі Watson запитали:
Dialogue: 0,0:14:42.66,0:14:45.59,Default,,0000,0000,0000,,"Його найбільший аеропорт назвали\Nна честь героя Другої світової війни,
Dialogue: 0,0:14:45.62,0:14:47.87,Default,,0000,0000,0000,,а другий за розміром - на честь\Nбитви Другої світової війни".
Dialogue: 0,0:14:47.89,0:14:49.27,Default,,0000,0000,0000,,(Музика з фіналу Jeopardy)
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,Чикаго.
Dialogue: 0,0:14:50.79,0:14:52.16,Default,,0000,0000,0000,,Дві людини відповіли правильно.
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,Натомість Watson відповів\N"Торонто" -
Dialogue: 0,0:14:57.07,0:14:58.89,Default,,0000,0000,0000,,і це в категорії міст США!
Dialogue: 0,0:14:59.60,0:15:02.50,Default,,0000,0000,0000,,Вражаючі системи також робили помилки,
Dialogue: 0,0:15:02.52,0:15:06.17,Default,,0000,0000,0000,,яких людина ніколи не допустила б,\Nяких не зробив би навіть другокласник.
Dialogue: 0,0:15:06.82,0:15:09.93,Default,,0000,0000,0000,,Штучний інтелект може провалитися так,
Dialogue: 0,0:15:09.96,0:15:13.06,Default,,0000,0000,0000,,як люди зазвичай не помиляються,
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,так, як ми не будемо сподіватися\Nі не будемо до цього готові.
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,Кепсько не отримати роботу,\Nдо якої підходить твоя кваліфікація,
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,але ще гірше не отримати її через\Nпереповнення стека
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,в якійсь програмі.
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,У травні 2010
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,різкий обвал на Волл-Стріт, спричинений\Nциклом зворотнього зв'язку
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,в "торговому" алгоритмі,
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,знищив трильйон доларів\Nза 36 хвилин.
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,Я навіть не хочу думати,\Nщо "помилка" означає
Dialogue: 0,0:15:43.93,0:15:47.52,Default,,0000,0000,0000,,в контексті атомної системи\Nлетального озброєння.
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,Так, люди завжди досить упереджені.
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,Ті, хто ухвалює рішення і цензори
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,в судах, у новинах, на війні...
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,вони помиляються;\Nале у цьому й річ.
Dialogue: 0,0:16:02.49,0:16:06.01,Default,,0000,0000,0000,,Ми не можемо уникнути цих\Nзаплутаних питань.
Dialogue: 0,0:16:06.60,0:16:10.11,Default,,0000,0000,0000,,Ми не можемо перекладати відповідальність\Nна машини.
Dialogue: 0,0:16:10.68,0:16:14.88,Default,,0000,0000,0000,,(Оплески)
Dialogue: 0,0:16:17.09,0:16:21.54,Default,,0000,0000,0000,,Штучний інтелект не дає нам\Nкартку "звільнення від моральних норм".
Dialogue: 0,0:16:22.74,0:16:26.12,Default,,0000,0000,0000,,Фахівець з обробки даних Фред Бененсон\Nназиває це математичною чисткою.
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,Нам треба щось протилежне.
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,Нам треба удосконалювати підозри,\Nвивчення і дослідження алгоритмів.
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,Треба впевнитись, що у нас є\Nалгоритмічна звітність,
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,перевірка і повноцінна прозорість.
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,Треба прийняти те, що залучення\Nкомп'ютерів до безладних
Dialogue: 0,0:16:42.64,0:16:45.61,Default,,0000,0000,0000,,людських справ, заснованих на цінностях,
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,не гарантують об'єктивності;
Dialogue: 0,0:16:48.04,0:16:51.67,Default,,0000,0000,0000,,алгоритмам, навпаки, передалася \Nзаплутаність людських справ.
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,Так, нам можна і треба використовувати\Nкомп'ютери,
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,щоб ухвалювати кращі рішення.
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,Але ми маємо підкорятися моральній\Nвідповідальності за вироки суду
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,і використовувати алгоритми \Nмаксимум як структуру,
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,а не як засіб відмовитися і перекласти\Nвідповідальність
Dialogue: 0,0:17:10.85,0:17:13.31,Default,,0000,0000,0000,,на когось ще, як людина на людину.
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,Штучний інтелект тут.
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,І це означає, що ми мусимо триматись\Nще сильніше
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,за людські цінності і людську мораль.
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,Дякую.
Dialogue: 0,0:17:23.23,0:17:28.25,Default,,0000,0000,0000,,(Оплески)