[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.10,0:00:03.48,Default,,0000,0000,0000,,Сьогодні я розповім \Nпро нездатність до інтуїції,
Dialogue: 0,0:00:03.48,0:00:05.28,Default,,0000,0000,0000,,від якої страждають багато з нас.
Dialogue: 0,0:00:05.28,0:00:09.38,Default,,0000,0000,0000,,Це дійсно нездатність визначати\Nпевний вид небезпеки.
Dialogue: 0,0:00:09.41,0:00:10.95,Default,,0000,0000,0000,,Я опишу сценарій,
Dialogue: 0,0:00:10.96,0:00:14.09,Default,,0000,0000,0000,,що, на мою думку, є водночас жахливий
Dialogue: 0,0:00:14.31,0:00:16.31,Default,,0000,0000,0000,,та дуже ймовірний
Dialogue: 0,0:00:16.76,0:00:18.40,Default,,0000,0000,0000,,і не є гарною комбінацією,
Dialogue: 0,0:00:18.40,0:00:19.72,Default,,0000,0000,0000,,як виявляється.
Dialogue: 0,0:00:19.99,0:00:22.72,Default,,0000,0000,0000,,Та все одно, замість того, щоб злякатися,\Nбільшість з вас відчують,
Dialogue: 0,0:00:22.80,0:00:25.12,Default,,0000,0000,0000,,що те, про що я веду мову,\Nскоріше прикольне.
Dialogue: 0,0:00:25.55,0:00:27.58,Default,,0000,0000,0000,,Я розповім, як прибутки,
Dialogue: 0,0:00:27.58,0:00:29.55,Default,,0000,0000,0000,,що ми отримуємо від штучного інтелекту,
Dialogue: 0,0:00:29.55,0:00:31.46,Default,,0000,0000,0000,,можуть, врешті-решт, знищити нас.
Dialogue: 0,0:00:31.46,0:00:34.57,Default,,0000,0000,0000,,Насправді, я думаю, дуже важко\Nзрозуміти, як вони НЕ знищать нас
Dialogue: 0,0:00:34.57,0:00:36.88,Default,,0000,0000,0000,,або не надихнуть нас знищити самих себе.
Dialogue: 0,0:00:37.25,0:00:39.05,Default,,0000,0000,0000,,Та якщо ви такий як я,
Dialogue: 0,0:00:39.05,0:00:41.58,Default,,0000,0000,0000,,вам здасться, що думати \Nпро такі речі - весело,
Dialogue: 0,0:00:41.86,0:00:45.19,Default,,0000,0000,0000,,І така реакція є частиною проблеми.
Dialogue: 0,0:00:45.19,0:00:47.47,Default,,0000,0000,0000,,Ця реакція має хвилювати вас.
Dialogue: 0,0:00:48.04,0:00:50.72,Default,,0000,0000,0000,,І якщо б я хотів запевнити \Nвас у цій промові,
Dialogue: 0,0:00:50.79,0:00:53.100,Default,,0000,0000,0000,,що нам, скоріше за все, доведеться \Nстраждати від глобального голоду
Dialogue: 0,0:00:54.03,0:00:56.56,Default,,0000,0000,0000,,через кліматичні зміни\Nабо якусь іншу катастрофу,
Dialogue: 0,0:00:57.44,0:01:00.39,Default,,0000,0000,0000,,та що ваші онуки та їхні онуки
Dialogue: 0,0:01:00.47,0:01:02.45,Default,,0000,0000,0000,,будуть ймовірно жити саме так,
Dialogue: 0,0:01:03.10,0:01:04.58,Default,,0000,0000,0000,,ви б не подумали:
Dialogue: 0,0:01:05.41,0:01:06.51,Default,,0000,0000,0000,,"Цікаво.
Dialogue: 0,0:01:06.66,0:01:08.43,Default,,0000,0000,0000,,Мені подобається цей виступ на ТED".
Dialogue: 0,0:01:09.51,0:01:11.31,Default,,0000,0000,0000,,Голод - це не весело.
Dialogue: 0,0:01:11.76,0:01:14.94,Default,,0000,0000,0000,,А от смерть у науковій фантастиці,\Nз іншого боку - це весело,
Dialogue: 0,0:01:14.94,0:01:18.61,Default,,0000,0000,0000,,та одна з речей, що мене найбільше турбує\Nщодо розвитку штучного інтелекту -
Dialogue: 0,0:01:18.61,0:01:23.26,Default,,0000,0000,0000,,це наша нездатність мати відповідну \Nемоційну реакцію
Dialogue: 0,0:01:23.26,0:01:25.30,Default,,0000,0000,0000,,щодо небезпек, що чигають на нас попереду.
Dialogue: 0,0:01:25.39,0:01:28.77,Default,,0000,0000,0000,,Я не здатний осягнути цю реакцію\Nі саме тому виступаю на цій сцені.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,Це так, наче ми стоїмо \Nнавпроти двох дверей.
Dialogue: 0,0:01:32.84,0:01:34.10,Default,,0000,0000,0000,,За дверима номер 1
Dialogue: 0,0:01:34.12,0:01:37.42,Default,,0000,0000,0000,,ми припиняємо прогрес\Nу створенні розумних машин.
Dialogue: 0,0:01:37.44,0:01:41.46,Default,,0000,0000,0000,,Технічне та програмне забезпечення\Nперестає покращуватись через якісь обставини.
Dialogue: 0,0:01:41.48,0:01:44.48,Default,,0000,0000,0000,,А тепер поміркуймо,\Nчому б це могло трапитися.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Знаючи, якими цінними є\Nінтелект та автоматизація,
Dialogue: 0,0:01:48.76,0:01:52.28,Default,,0000,0000,0000,,ми продовжимо удосконалювати\Nнаші технології, якщо матимемо можливість.
Dialogue: 0,0:01:53.20,0:01:54.87,Default,,0000,0000,0000,,Що нас може зупинити від цього?
Dialogue: 0,0:01:55.80,0:01:57.60,Default,,0000,0000,0000,,Широкомасштабна ядерна війна?
Dialogue: 0,0:01:59.00,0:02:00.56,Default,,0000,0000,0000,,Глобальна пандемія?
Dialogue: 0,0:02:02.32,0:02:03.64,Default,,0000,0000,0000,,Падіння астероїду?
Dialogue: 0,0:02:05.64,0:02:08.22,Default,,0000,0000,0000,,Джастін Бібер, що став \Nпрезидентом Сполучених Штатів?
Dialogue: 0,0:02:08.24,0:02:10.52,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:02:12.76,0:02:16.68,Default,,0000,0000,0000,,Суть у тому, що щось має знищити \Nцивілізацію у знайомому нас вигляді.
Dialogue: 0,0:02:17.36,0:02:21.66,Default,,0000,0000,0000,,Уявіть собі, яке страхіття має статися,
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,щоб завадити нам удосконалювати\Nнаші технології
Dialogue: 0,0:02:25.04,0:02:26.26,Default,,0000,0000,0000,,постійно,
Dialogue: 0,0:02:26.28,0:02:28.30,Default,,0000,0000,0000,,покоління за поколінням.
Dialogue: 0,0:02:28.32,0:02:30.46,Default,,0000,0000,0000,,Майже за визначенням,\Nце найгірше,
Dialogue: 0,0:02:30.48,0:02:32.50,Default,,0000,0000,0000,,що траплялося в історії людства.
Dialogue: 0,0:02:32.52,0:02:33.82,Default,,0000,0000,0000,,Тому єдиною альтернативою,
Dialogue: 0,0:02:33.84,0:02:36.18,Default,,0000,0000,0000,,а саме вона знаходиться\Nза дверима номер два,
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,є подальше удосконалення \Nрозумних машин
Dialogue: 0,0:02:39.36,0:02:40.96,Default,,0000,0000,0000,,рік за роком, рік за роком.
Dialogue: 0,0:02:41.72,0:02:45.36,Default,,0000,0000,0000,,Та в певний момент ми збудуємо\Nмашини, розумніші за нас,
Dialogue: 0,0:02:46.08,0:02:48.70,Default,,0000,0000,0000,,та щойно з'являться машини,\Nщо розумніші за нас,
Dialogue: 0,0:02:48.72,0:02:50.70,Default,,0000,0000,0000,,вони почнуть самі себе удосконалювати.
Dialogue: 0,0:02:50.72,0:02:53.46,Default,,0000,0000,0000,,А тоді ми ризикуємо тим, \Nщо математик І.Дж. Ґуд назвав
Dialogue: 0,0:02:53.48,0:02:55.26,Default,,0000,0000,0000,,"інтелектуальним вибухом",
Dialogue: 0,0:02:55.54,0:02:57.84,Default,,0000,0000,0000,,тим, що цей процес може вийти \Nз-під нашого контролю.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,Тепер це часто висміюють,\Nяк ось на цьому зображенні,
Dialogue: 0,0:03:00.96,0:03:04.18,Default,,0000,0000,0000,,як страх, що армії злісних роботів
Dialogue: 0,0:03:04.20,0:03:05.46,Default,,0000,0000,0000,,нас атакують.
Dialogue: 0,0:03:05.48,0:03:08.18,Default,,0000,0000,0000,,Та це не найімовірніший сценарій.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,Йдеться не про те, що наші машини\Nзненацька зробляться злими.
Dialogue: 0,0:03:13.08,0:03:15.70,Default,,0000,0000,0000,,Викликає тривогу те,\Nщо ми збудуємо машини,
Dialogue: 0,0:03:15.72,0:03:17.78,Default,,0000,0000,0000,,які будуть настільки компетентніші\Nза нас,
Dialogue: 0,0:03:17.80,0:03:21.58,Default,,0000,0000,0000,,що найменші відхилення \Nміж нашими та їхніми цілями
Dialogue: 0,0:03:21.60,0:03:22.80,Default,,0000,0000,0000,,зможуть нас знищити.
Dialogue: 0,0:03:23.73,0:03:26.43,Default,,0000,0000,0000,,Лише поміркуйте, як ми поводимося\Nз мурахами.
Dialogue: 0,0:03:26.60,0:03:28.26,Default,,0000,0000,0000,,Ми не ненавидимо їх.
Dialogue: 0,0:03:28.28,0:03:30.34,Default,,0000,0000,0000,,Ми не звертаємо зі шляху,\Nщоб нашкодити їм.
Dialogue: 0,0:03:30.36,0:03:32.74,Default,,0000,0000,0000,,Насправді іноді ми намагаємося \Nне нашкодити їм.
Dialogue: 0,0:03:32.76,0:03:34.78,Default,,0000,0000,0000,,Ми переступаємо через них на стежці.
Dialogue: 0,0:03:34.80,0:03:36.94,Default,,0000,0000,0000,,Та коли їхня присутність
Dialogue: 0,0:03:36.96,0:03:39.42,Default,,0000,0000,0000,,відчутно конфліктує \Nз будь-якою нашою метою,
Dialogue: 0,0:03:39.42,0:03:41.95,Default,,0000,0000,0000,,скажімо, коли ми будуємо\Nтаку споруду, як на зображенні,
Dialogue: 0,0:03:41.98,0:03:43.94,Default,,0000,0000,0000,,ми знищуємо їх без сумнівів.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,Тривога полягає в тому,\Nщо одного дня ми збудуємо машини,
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,які, свідомі чи ні,
Dialogue: 0,0:03:50.20,0:03:52.69,Default,,0000,0000,0000,,можуть поставитися до нас\Nтак само байдуже.
Dialogue: 0,0:03:53.76,0:03:56.72,Default,,0000,0000,0000,,Гадаю, що це здається\Nбагатьом з вас малоймовірним.
Dialogue: 0,0:03:57.36,0:04:03.70,Default,,0000,0000,0000,,Я впевнений, серед вас є ті, хто сумнівається,\Nщо надрозумні машини можливі,
Dialogue: 0,0:04:03.72,0:04:05.38,Default,,0000,0000,0000,,що й казати про неминучість.
Dialogue: 0,0:04:05.40,0:04:09.02,Default,,0000,0000,0000,,Тоді ви засумніваєтеся у правильності\Nодного з таких припущень.
Dialogue: 0,0:04:09.04,0:04:10.62,Default,,0000,0000,0000,,А їх лише три.
Dialogue: 0,0:04:11.80,0:04:16.52,Default,,0000,0000,0000,,Інтелект - це обробка інформації\Nу фізичних системах.
Dialogue: 0,0:04:17.32,0:04:19.94,Default,,0000,0000,0000,,Насправді, це трохи більше,\Nніж припущення.
Dialogue: 0,0:04:19.96,0:04:23.42,Default,,0000,0000,0000,,Ми вже вбудували певний інтелект\Nв наші машини,
Dialogue: 0,0:04:23.44,0:04:25.46,Default,,0000,0000,0000,,і багато з цих машин видають результати
Dialogue: 0,0:04:25.48,0:04:28.12,Default,,0000,0000,0000,,на рівні надлюдського інтелекту \Nвже сьогодні.
Dialogue: 0,0:04:28.84,0:04:31.42,Default,,0000,0000,0000,,Та ми знаємо, що найменший привід
Dialogue: 0,0:04:31.44,0:04:34.06,Default,,0000,0000,0000,,може призвести до так званого\N"інтелектуального вибуху",
Dialogue: 0,0:04:34.08,0:04:37.74,Default,,0000,0000,0000,,спроможності гнучко мислити\Nу багатьох сферах,
Dialogue: 0,0:04:37.76,0:04:40.90,Default,,0000,0000,0000,,адже наш мозок вже зміг це зробити.\NЧи не так?
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,Я маю на увазі, що тут є лише атоми,
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,та допоки ми продовжуємо\Nбудувати системи з атомів,
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,що демонструють все більш\Nінтелектуальну поведінку,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,ми поступово,\Nякщо нас не зупинять,
Dialogue: 0,0:04:54.68,0:04:58.06,Default,,0000,0000,0000,,поступово вбудуємо\Nзагальний інтелект
Dialogue: 0,0:04:58.08,0:04:59.38,Default,,0000,0000,0000,,в наші машини.
Dialogue: 0,0:04:59.40,0:05:02.84,Default,,0000,0000,0000,,Важливо зрозуміти,\Nщо рівень прогресу не має значення,
Dialogue: 0,0:05:02.87,0:05:06.26,Default,,0000,0000,0000,,тому що будь-який прогрес здатний\Nпризвести нас до фінального пункту.
Dialogue: 0,0:05:06.28,0:05:10.15,Default,,0000,0000,0000,,Нам не треба закону Мура, щоб продовжувати.\NНам не потрібний експоненційний прогрес.
Dialogue: 0,0:05:10.15,0:05:11.68,Default,,0000,0000,0000,,Нам лише треба не зупинятися.
Dialogue: 0,0:05:13.48,0:05:16.40,Default,,0000,0000,0000,,Друге припущення полягає в тому,\Nщо ми не зупинимося.
Dialogue: 0,0:05:17.00,0:05:19.76,Default,,0000,0000,0000,,Будемо далі удосконалювати\Nнаші розумні машини.
Dialogue: 0,0:05:21.00,0:05:25.38,Default,,0000,0000,0000,,Та враховуючи цінність інтелекту--
Dialogue: 0,0:05:25.40,0:05:28.94,Default,,0000,0000,0000,,Я маю на увазі, інтелект є або\Nджерелом всього, що ми цінуємо,
Dialogue: 0,0:05:28.96,0:05:31.74,Default,,0000,0000,0000,,або він нам потрібен, щоб зберегти\Nвсе, що ми цінуємо.
Dialogue: 0,0:05:31.76,0:05:34.02,Default,,0000,0000,0000,,Це наш найцінніший ресурс.
Dialogue: 0,0:05:34.04,0:05:35.58,Default,,0000,0000,0000,,Тому ми хочемо це робити.
Dialogue: 0,0:05:35.60,0:05:38.94,Default,,0000,0000,0000,,В нас є проблеми,\Nщо їх нам вкрай необхідно залагодити.
Dialogue: 0,0:05:38.96,0:05:42.16,Default,,0000,0000,0000,,Ми хочемо лікувати такі захворювання,\Nяк Альцгеймер та рак.
Dialogue: 0,0:05:42.96,0:05:46.90,Default,,0000,0000,0000,,Ми хочемо зрозуміти економічні системи.\NМи хочемо покращити нашу кліматичну науку.
Dialogue: 0,0:05:46.92,0:05:49.18,Default,,0000,0000,0000,,Тому ми будемо це робити,\Nякщо зможемо.
Dialogue: 0,0:05:49.20,0:05:52.49,Default,,0000,0000,0000,,Потяг вже поїхав зі станції,\Nі немає гальма, щоб його зупинити.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,Нарешті, ми не стоїмо\Nна вершині інтелекту,
Dialogue: 0,0:05:59.36,0:06:01.16,Default,,0000,0000,0000,,і навряд чи десь поблизу.
Dialogue: 0,0:06:01.64,0:06:03.54,Default,,0000,0000,0000,,І це насправді ключовий факт.
Dialogue: 0,0:06:03.56,0:06:05.98,Default,,0000,0000,0000,,Це те, що робить нашу ситуацію\Nтакою небезпечною,
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,і це те, що робить нашу інтуїцію \Nщодо ризику настільки ненадійною.
Dialogue: 0,0:06:11.12,0:06:14.13,Default,,0000,0000,0000,,Тепер подумайте про найрозумнішу людину,\Nяка будь-коли існувала.
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,Майже у всіх у списку є Джон фон Нейман.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,Я гадаю, що враження, яке фон Нейман\Nсправляв на людей довкола,
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,до яких входили найвидатніші математики\Nта фізики його часу,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,достатньо добре задокументоване.
Dialogue: 0,0:06:27.48,0:06:31.26,Default,,0000,0000,0000,,Якщо лише половина історій про нього \Nбодай наполовину правдива,
Dialogue: 0,0:06:31.28,0:06:32.50,Default,,0000,0000,0000,,немає сумнівів, що
Dialogue: 0,0:06:32.52,0:06:34.98,Default,,0000,0000,0000,,він один із найрозумніших людей,\Nякі коли-небудь існували.
Dialogue: 0,0:06:35.00,0:06:37.52,Default,,0000,0000,0000,,Тож обміркуємо спектр інтелекту.
Dialogue: 0,0:06:38.32,0:06:39.75,Default,,0000,0000,0000,,Ось тут у нас Джон фон Нейман.
Dialogue: 0,0:06:41.56,0:06:42.89,Default,,0000,0000,0000,,А ось тут ми з вами.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,А ось тут курка.
Dialogue: 0,0:06:45.44,0:06:47.38,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,Вибачте, курка.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:06:49.92,0:06:53.82,Default,,0000,0000,0000,,Мені нема чого робити цю промову\Nгнітючішою, аніж вона має бути.
Dialogue: 0,0:06:53.82,0:06:55.28,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:06:56.34,0:06:59.82,Default,,0000,0000,0000,,Здається надзвичайно ймовірним,\Nщо спектр інтелекту
Dialogue: 0,0:06:59.84,0:07:02.96,Default,,0000,0000,0000,,простягається набагато далі,\Nніж ми сьогодні уявляємо,
Dialogue: 0,0:07:03.88,0:07:07.10,Default,,0000,0000,0000,,і якщо ми збудуємо машини,\Nщо розумніші за нас,
Dialogue: 0,0:07:07.12,0:07:09.42,Default,,0000,0000,0000,,вони, дуже ймовірно,\Nрозвідають цей спектр
Dialogue: 0,0:07:09.44,0:07:11.30,Default,,0000,0000,0000,,шляхами, які ми не можемо уявити,
Dialogue: 0,0:07:11.32,0:07:13.84,Default,,0000,0000,0000,,та перевершать нас так,\Nяк ми не можемо уявити.
Dialogue: 0,0:07:15.00,0:07:19.34,Default,,0000,0000,0000,,Та важливо визнати, що\Nце правда вже з огляду на саму силу швидкості.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,Правильно? Тож уявіть, що ми збудували\Nнадрозумний штучний інтелект,
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,такий же розумний, як ваша\Nсередньостатистична команда дослідників
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,у Стенфорді чи МТІ.
Dialogue: 0,0:07:30.24,0:07:32.95,Default,,0000,0000,0000,,Електронні ланцюги\Nфункціюють у мільйон разів швидше
Dialogue: 0,0:07:32.99,0:07:34.50,Default,,0000,0000,0000,,за біохемічні,
Dialogue: 0,0:07:34.52,0:07:37.66,Default,,0000,0000,0000,,тож ці машини мають думати\Nв мільйон разів швидше,
Dialogue: 0,0:07:37.68,0:07:39.48,Default,,0000,0000,0000,,ніж розуми, що їх сконструювали.
Dialogue: 0,0:07:39.48,0:07:41.34,Default,,0000,0000,0000,,Тож ви запускаєте її на тиждень,
Dialogue: 0,0:07:41.34,0:07:45.76,Default,,0000,0000,0000,,і вона демонструє 20 000 років\Nінтелектуальної роботи людського рівня,
Dialogue: 0,0:07:46.40,0:07:48.36,Default,,0000,0000,0000,,тиждень за тижнем, тиждень за тижнем.
Dialogue: 0,0:07:49.64,0:07:52.74,Default,,0000,0000,0000,,Як ми можемо зрозуміти,\Nтим паче стримати
Dialogue: 0,0:07:52.76,0:07:55.61,Default,,0000,0000,0000,,інтелект, що так прогресує?
Dialogue: 0,0:07:56.84,0:07:58.98,Default,,0000,0000,0000,,Тривогу викликає ще одна річ:
Dialogue: 0,0:07:59.00,0:08:03.98,Default,,0000,0000,0000,,це, уявіть собі, найкращий сценарій.
Dialogue: 0,0:08:04.00,0:08:08.18,Default,,0000,0000,0000,,А тепер уявіть, ми створюємо надрозумний\Nштучний інтелект,
Dialogue: 0,0:08:08.21,0:08:09.59,Default,,0000,0000,0000,,не зважаючи на жодні\Nміркування безпеки.
Dialogue: 0,0:08:09.60,0:08:12.86,Default,,0000,0000,0000,,В нас уперше з'являється \Nбездоганний проект.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,Так наче ми отримали оракула,
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,що поводиться саме так, як планувалося.
Dialogue: 0,0:08:17.16,0:08:20.88,Default,,0000,0000,0000,,Тож така машина була б\Nідеальним пристроєм з економії праці.
Dialogue: 0,0:08:21.44,0:08:24.11,Default,,0000,0000,0000,,Вона може проектувати машини,\Nщо можуть будувати машини,
Dialogue: 0,0:08:24.13,0:08:25.90,Default,,0000,0000,0000,,що можуть робити будь-яку фізичну роботу,
Dialogue: 0,0:08:25.92,0:08:27.48,Default,,0000,0000,0000,,працюватимуть на сонячній енергії,
Dialogue: 0,0:08:27.48,0:08:30.10,Default,,0000,0000,0000,,більш-менш за ціною сировини.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,Тож ми говоримо про кінець\Nважкої людської праці.
Dialogue: 0,0:08:33.40,0:08:36.58,Default,,0000,0000,0000,,Ми також говоримо про кінець\Nнайбільш інтелектуальної праці.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,То що ж такі мавпи, як ми, \Nбудуть робити за цих обставин?
Dialogue: 0,0:08:40.28,0:08:44.36,Default,,0000,0000,0000,,Ми зможемо вільно грати в Фрізбі\Nта робити одне одному масаж.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,Додайте трохи ЛСД та трохи\Nсумнівного гардеробу,
Dialogue: 0,0:08:48.72,0:08:50.90,Default,,0000,0000,0000,,і весь світ буде\Nяк фестиваль Burning Man.
Dialogue: 0,0:08:50.92,0:08:52.56,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:08:54.32,0:08:56.32,Default,,0000,0000,0000,,Непогано звучить,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,але запитайте себе, що станеться
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,з нашим теперішнім економічним\Nта політичним ладом?
Dialogue: 0,0:09:02.44,0:09:04.86,Default,,0000,0000,0000,,Ймовірно, ми станемо свідками
Dialogue: 0,0:09:04.88,0:09:09.02,Default,,0000,0000,0000,,такої нерівності розподілу багатства\Nта безробіття,
Dialogue: 0,0:09:09.04,0:09:10.54,Default,,0000,0000,0000,,яких ми ніколи не бачили.
Dialogue: 0,0:09:10.56,0:09:13.18,Default,,0000,0000,0000,,Не бажаючи одразу\Nвикористовувати це нове багатство
Dialogue: 0,0:09:13.20,0:09:14.68,Default,,0000,0000,0000,,на користь всього людства,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,декілька мільярдерів прикрасять \Nобкладинки наших бізнес-журналів,
Dialogue: 0,0:09:19.28,0:09:21.72,Default,,0000,0000,0000,,тоді як решта світу\Nголодуватиме.
Dialogue: 0,0:09:22.32,0:09:24.62,Default,,0000,0000,0000,,А що робитимуть росіяни та китайці,
Dialogue: 0,0:09:24.64,0:09:27.26,Default,,0000,0000,0000,,якщо вони почують, що якась компанія\Nу Кремнієвій долині
Dialogue: 0,0:09:27.28,0:09:30.02,Default,,0000,0000,0000,,збирається ввести в дію \Nнадрозумний штучний інтелект?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,Ця машина зможе вести війну,
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,наземну або кібер,
Dialogue: 0,0:09:35.16,0:09:36.84,Default,,0000,0000,0000,,з безпрецедентною могутністю.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,Це сценарій, де переможець отримує все.
Dialogue: 0,0:09:40.00,0:09:43.14,Default,,0000,0000,0000,,Бути на шість місяців попереду\Nу цьому змаганні,
Dialogue: 0,0:09:43.16,0:09:45.94,Default,,0000,0000,0000,,це бути на 500 000 років попереду,
Dialogue: 0,0:09:45.96,0:09:47.46,Default,,0000,0000,0000,,як мінімум.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Тож здається, що навіть незначні чутки\Nпро такі досягнення
Dialogue: 0,0:09:52.24,0:09:54.62,Default,,0000,0000,0000,,можуть спричинити \Nлюту ненависть між людьми.
Dialogue: 0,0:09:54.64,0:09:57.54,Default,,0000,0000,0000,,Але одна з найжахливіших речей,
Dialogue: 0,0:09:57.56,0:10:00.34,Default,,0000,0000,0000,,на мою думку, на цей час -
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,це те, що кажуть розробники\Nштучного інтелекту,
Dialogue: 0,0:10:04.68,0:10:06.75,Default,,0000,0000,0000,,коли хочуть заспокоїти нас.
Dialogue: 0,0:10:07.00,0:10:10.46,Default,,0000,0000,0000,,Найпоширенішою підставою\Nне турбуватися, кажуть вони, є час.
Dialogue: 0,0:10:10.48,0:10:12.54,Default,,0000,0000,0000,,Це ще так далеко, \Nхіба ви не знаєте.
Dialogue: 0,0:10:12.56,0:10:15.00,Default,,0000,0000,0000,,Це ще може тривати 50 або 100 років.
Dialogue: 0,0:10:15.72,0:10:16.98,Default,,0000,0000,0000,,Один із дослідників сказав:
Dialogue: 0,0:10:17.00,0:10:18.58,Default,,0000,0000,0000,,"Хвилюватися через безпеку \Nштучного інтелекту -
Dialogue: 0,0:10:18.60,0:10:20.88,Default,,0000,0000,0000,,те ж саме, що перейматися\Nперенаселенням на Марсі".
Dialogue: 0,0:10:22.12,0:10:23.74,Default,,0000,0000,0000,,Це така версія Кремнієвої долини
Dialogue: 0,0:10:23.76,0:10:26.14,Default,,0000,0000,0000,,фрази: "Не забивай цим\Nсвою гарненьку голівку".
Dialogue: 0,0:10:26.16,0:10:27.50,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,Здається, ніхто не помічає,
Dialogue: 0,0:10:29.44,0:10:32.06,Default,,0000,0000,0000,,що посилатися на часову віддаленість -
Dialogue: 0,0:10:32.08,0:10:34.66,Default,,0000,0000,0000,,хибно.
Dialogue: 0,0:10:34.68,0:10:37.94,Default,,0000,0000,0000,,Якщо інтелект - це питання\Nобробки інформації,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,і ми далі удосконалюватимемо наші машини,
Dialogue: 0,0:10:40.64,0:10:43.52,Default,,0000,0000,0000,,то ми створимо\Nякусь форму супер-інтелекту.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,І ми не уявляємо,\Nскільки часу нам потрібно,
Dialogue: 0,0:10:48.00,0:10:50.40,Default,,0000,0000,0000,,щоб створити умови,\Nде це буде безпечно.
Dialogue: 0,0:10:51.98,0:10:53.50,Default,,0000,0000,0000,,Повторюю ще раз.
Dialogue: 0,0:10:53.52,0:10:57.34,Default,,0000,0000,0000,,Ми не уявляємо, \Nскільки часу нам потрібно,
Dialogue: 0,0:10:57.36,0:11:00.25,Default,,0000,0000,0000,,щоб створити умови,\Nде це буде безпечно.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,І якщо ви не помітили,\N50 років - вже не ті, що раніше.
Dialogue: 0,0:11:04.40,0:11:06.86,Default,,0000,0000,0000,,Це 50 років у місяцях.
Dialogue: 0,0:11:06.88,0:11:08.87,Default,,0000,0000,0000,,Стільки часу в нас уже є iPhone.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,Стільки часу "Сімпсони" вже\Nіснують на телебаченні.
Dialogue: 0,0:11:12.55,0:11:15.06,Default,,0000,0000,0000,,П'ятдесят років -\Nце не так вже й багато часу,
Dialogue: 0,0:11:15.08,0:11:18.78,Default,,0000,0000,0000,,щоб прийняти найбільший виклик,\Nз яким зіткнеться людський рід.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,Повторюю: ми, здається, не маємо\Nвідповідної емоційної реакції
Dialogue: 0,0:11:23.68,0:11:26.38,Default,,0000,0000,0000,,на те, що точно до нас наближається.
Dialogue: 0,0:11:26.40,0:11:30.38,Default,,0000,0000,0000,,Комп'ютерний експерт Стюарт Рассел\Nнаводить гарну аналогію.
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,Він сказав: "Уявіть, що ми отримали\Nповідомлення від інопланетної цивілізації,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,в якому йдеться:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"Земляни,
Dialogue: 0,0:11:38.60,0:11:40.96,Default,,0000,0000,0000,,ми прибудемо на вашу планету через 50 років.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,,Готуйтеся".
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,І тепер ми лише рахуємо місяці, що\Nлишилися до прибуття космічного корабля?
Dialogue: 0,0:11:47.68,0:11:50.68,Default,,0000,0000,0000,,Ми б відчули тоді трохи більше терміновості,\Nніж ми відчуваємо тепер.
Dialogue: 0,0:11:52.47,0:11:54.58,Default,,0000,0000,0000,,Інша причина, чому нам кажуть\Nне хвилюватися, полягає в тому,
Dialogue: 0,0:11:54.58,0:11:57.58,Default,,0000,0000,0000,,що ці машини\Nмуситимуть поділяти наші цінності,
Dialogue: 0,0:11:57.60,0:12:00.22,Default,,0000,0000,0000,,адже вони будуть фактично\Nпродовженням нас самих.
Dialogue: 0,0:12:00.24,0:12:02.06,Default,,0000,0000,0000,,Їх трансплантують у наші мізки,
Dialogue: 0,0:12:02.08,0:12:04.44,Default,,0000,0000,0000,,і ми, по суті,\Nстанемо їхньою лімбічною системою.
Dialogue: 0,0:12:05.12,0:12:06.54,Default,,0000,0000,0000,,Але задумаймось:
Dialogue: 0,0:12:06.56,0:12:09.74,Default,,0000,0000,0000,,найбезпечніший\Nта єдиний розважливий шлях уперед,
Dialogue: 0,0:12:09.76,0:12:11.10,Default,,0000,0000,0000,,що його нам рекомендують -
Dialogue: 0,0:12:11.12,0:12:13.92,Default,,0000,0000,0000,,це імплантація цієї технології\Nпрямо у мозок.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Так, це може бути найбезпечнішим\Nта єдиним розважливим шляхом уперед,
Dialogue: 0,0:12:18.00,0:12:21.06,Default,,0000,0000,0000,,але зазвичай усі проблеми з безпекою
Dialogue: 0,0:12:21.08,0:12:24.74,Default,,0000,0000,0000,,мають бути розв'язані до того,\Nяк технологію вставлять у вашу голову.
Dialogue: 0,0:12:24.76,0:12:26.78,Default,,0000,0000,0000,,(Сміх)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,Глибшою проблемою є те, що створення\Nлише надрозумного штучного інтелекту
Dialogue: 0,0:12:32.16,0:12:33.90,Default,,0000,0000,0000,,здається легшим,
Dialogue: 0,0:12:33.92,0:12:35.78,Default,,0000,0000,0000,,ніж створення надрозумного\Nштучного інтелекту
Dialogue: 0,0:12:35.80,0:12:37.58,Default,,0000,0000,0000,,та володіння повноцінною неврологією,
Dialogue: 0,0:12:37.60,0:12:40.57,Default,,0000,0000,0000,,яка б дала нам змогу ефективно\Nінтегрувати наш розум із ним.
Dialogue: 0,0:12:40.80,0:12:43.98,Default,,0000,0000,0000,,І, знаючи це, компанії та \Nуряди, що займаються цією розробкою,
Dialogue: 0,0:12:44.00,0:12:47.66,Default,,0000,0000,0000,,сприймають себе наче у перегонах\Nпроти всіх інших,
Dialogue: 0,0:12:47.68,0:12:50.94,Default,,0000,0000,0000,,тому що виграти ці перегони - \Nце виграти світ,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,якщо звісно його не буде знищено\Nнаступної хвилини,
Dialogue: 0,0:12:53.44,0:12:56.06,Default,,0000,0000,0000,,отже, здається, що те, \Nщо зробити найлегше,
Dialogue: 0,0:12:56.08,0:12:57.28,Default,,0000,0000,0000,,зроблять у першу чергу.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,На жаль, у мене немає \Nрозв'язку цієї проблеми,
Dialogue: 0,0:13:01.44,0:13:04.06,Default,,0000,0000,0000,,окрім як порадити,\Nщоб більшість із нас думала про це.
Dialogue: 0,0:13:04.08,0:13:06.46,Default,,0000,0000,0000,,Гадаю, нам потрібно, щось\Nна кшталт "Проекту Мангеттен"
Dialogue: 0,0:13:06.48,0:13:08.50,Default,,0000,0000,0000,,на тему штучного інтелекту.
Dialogue: 0,0:13:08.52,0:13:11.26,Default,,0000,0000,0000,,Не для того, щоб створити його, адже\Nя думаю, ми неминуче це зробимо,
Dialogue: 0,0:13:11.28,0:13:14.62,Default,,0000,0000,0000,,а щоб зрозуміти,\Nяк уникнути збройних перегонів
Dialogue: 0,0:13:14.64,0:13:18.14,Default,,0000,0000,0000,,та створити його так, щоб він\Nвідповідав нашим інтересам.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,Коли ми розмовляємо про\Nнадрозумний штучний інтелект,
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,що може самозмінюватися,
Dialogue: 0,0:13:22.60,0:13:27.22,Default,,0000,0000,0000,,здається, в нас є лише один шанс\Nотримати правильні початкові умови,
Dialogue: 0,0:13:27.24,0:13:29.30,Default,,0000,0000,0000,,і навіть тоді нам доведеться пережити
Dialogue: 0,0:13:29.32,0:13:32.36,Default,,0000,0000,0000,,економічні та політичні наслідки\Nотримання правильних умов.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Та в той момент. коли ми визнаємо,
Dialogue: 0,0:13:35.84,0:13:39.84,Default,,0000,0000,0000,,що оброблення інформації\Nє джерелом інтелекту,
Dialogue: 0,0:13:40.72,0:13:45.52,Default,,0000,0000,0000,,що деякі відповідні обчислювальні системи\Nє базою інтелекту,
Dialogue: 0,0:13:46.36,0:13:50.12,Default,,0000,0000,0000,,і визнаємо, що ми будемо удосконалювати\Nці системи беззупинно,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,а також те, що горизонт пізнання,\Nскоріш за все, простягається набагато далі,
Dialogue: 0,0:13:55.76,0:13:57.40,Default,,0000,0000,0000,,ніж ми на цей час розуміємо,
Dialogue: 0,0:13:57.86,0:13:59.34,Default,,0000,0000,0000,,тоді нам доведеться визнати,
Dialogue: 0,0:13:59.36,0:14:02.00,Default,,0000,0000,0000,,що ми в процесі створення\Nсвоєрідного бога.
Dialogue: 0,0:14:03.40,0:14:04.98,Default,,0000,0000,0000,,І настав час переконатися,
Dialogue: 0,0:14:05.00,0:14:06.95,Default,,0000,0000,0000,,що з цим богом ми зможемо жити.
Dialogue: 0,0:14:08.12,0:14:09.66,Default,,0000,0000,0000,,Дуже вам дякую.
Dialogue: 0,0:14:09.68,0:14:14.77,Default,,0000,0000,0000,,(Оплески)