Не бійтеся надрозумного штучного інтелекту

Нові технології породжують нові страхи, каже науковець і філософ Ґраді Буч, але не треба боятися всемогутнього позбавленого почуттів штучного інтелекту. Буч заспокоює наш найбільший (спровокований науковою фантастикою) страх надрозумних комп'ютерів, пояснюючи, як ми не програмуватимемо їх, а навчатимемо - і навчимо поділяти наші цінності. Замість того, щоб перейматися малоймовірною екзистенційною загрозою, він закликає замислитися, як саме штучний інтелект покращить людське життя.

Коли я був малим,
я був еталонним "ботаніком".

Думаю, деякі з вас
теж такими були.

(Сміх)

А ви, пане, що сміявся найголосніше,
ним, мабуть, і залишились.

(Сміх)

Я ріс у маленькому містечку
на запиленій рівнині північного Техасу,

син шерифа, який був сином пастора.

Вскочити в якусь халепу
було не варіант.

І тому заради розваги
я почав читати книжки з обчислення.

(Сміх)

Ви також це робили?

Це призвело до того, що я зробив лазер,
і комп'ютер, і модель ракети,

і це призвело до того, що я зробив
ракетне паливо в спальні.

Науковою мовою

ми називаємо це
дуже поганою ідеєю.

(Сміх)

Приблизно в той самий час

"2001: Космічна Одісея" Стенлі Кубрика
з'явилась в кінотеатрах,

і моє життя назавжди змінилось.

Мені все подобалось у тому фільмі,

особливо ХАЛ 9000.

ХАЛ був кмітливим комп'ютером,

призаченим направляти
космічний корабель Дискавері

з Землі на Юпітер.

ХАЛ також був персонажем з недоліками,

бо врешті вирішив, що місія
важливіша за людське життя.

ХАЛ був вигаданим персонажем,

проте він говорить з нашими страхами,

зі страхом бути підкореним

позбавленим почуттів штучним інтелектом,

що є байдужим до людства.

Я вважаю, що такі страхи безпідставні.

Насправді ми живемо в неймовірний час

людської історії,

де, відмовляючись визнати
обмеження свого тіла і розуму,

ми будуємо машини

фантастичної, немислимої
складності та величі,

які розширять досвід людини так,

що зараз і не уявити.

Після кар'єри, яка привела мене
з Академії повітряних сил

до Космічного командування,

я обійняв посаду
системного інженера

і нещодавно мене залучили до
інженерної проблеми,

пов'язаною з місією на Марс НАСА.

Під час польотів на Місяць

ми можемо покладатись
на керування місією в Хьюстоні,

що спостерігатиме
за всіма особливостями польоту.

Однак Марс у 200 разів
віддаленіший,

і тому потрібно в середньому
13 хвилин,

щоб сигнал подолав відстань
від Землі до Марсу.

Якщо виникне проблема,
часу забракне.

І тому розумним інженерним рішенням

є розмістити контроль над місією

всередині космічного корабля Оріон.

Ще одна чудова ідея
в організації місії -

помістити робота-гуманоїда
на поверхню Марсу

перед тим, як туди прибуде людина, -

спочатку
побудувати споруди,

а згодом служити одним із членів
наукової команди.

Коли я подивився на це
з точки зору інженерії,

мені стало зрозуміло,
що мені потрібно створити

розумний, здатний до співпраці,

соціально розумний
штучний інтелект.

Іншими словами, мені потрібно побудувати
щось дуже схоже на ХАЛа,

але без схильності до вбивств.

(Сміх)

Зупинімося на хвилину.

Чи можливо ось так просто
створити штучний інтелект?

Власне, так.

З багатьох міркувань

це складне інженерне завдання

стосовно штучного інтелекту,

не якась скажена кулька,
що має бути спроектована.

Якщо перефразувати Алана Тюрінґа,

я не зацікавлений в будуванні
кмітливої машини.

Я не будую ХАЛА.

Все, що я хочу, - простий мозок,

що може створювати
відчуття інтелекту.

Мистецтво і наука програмування
пройшли довгий шлях

з того часу, як ХАЛ
з'явився на екрані

і я можу уявити, якщо б його винахідник
доктор Чандра був тут сьогодні,

скільки він мав би до нас питань.

Чи дійсно ми можемо

змусити мільйони і мільйони
приладів

зчитувати потоки даних,

передбачувати власні помилки
і діяти заздалегідь?

Так.

Чи вміємо ми будувати системи,
які спілкуються природною мовою?

Так.

Чи ми вміємо будувати системи,
які розрізняють об'єкти, емоції,

відчувають емоції самі,
грають в ігри чи навіть читають по губах?

Так.

Чи можемо збудувати систему, яка
ставить перед собою цілі,

яка будує плани відносно цих цілей
і навчається одночасно?

Так.

Чи вміємо будувати системи,
що моделюють психіку людини?

Ми вчимося це робити.

Чи вміємо будувати системи,
які мають етичні та моральні засади?

Ми маємо цього навчитись.

Тож припустімо на мить,

що можна побудувати
штучний інтелект

для цього типу місії та подібних.

Наступне питання,
яке ви маєте поставити:

чи слід його боятися?

Кожна нова технологія

тягне за собою
певне занепокоєння.

Коли ми вперше побачили авто,

люди галасували, що з цього почнеться
руйнування сім'ї.

Коли ми вперше побачили телефони,

люди були стурбовані, що вони зруйнують
всі повсякденні розмови.

Коли ми побачили, що
письмове слово стало поширеним,

люди думали, що ми втратимо
вміння запам'ятовувати.

Усі ці речі до певної міри правдиві,

але водночас ці технології

принесли нам винаходи,
які якісно поглибили людський досвід -

до нового рівня.

Тому міркуймо далі.

Я не боюсь створення
подібного штучного інтелекту,

оскільки, зрештою,
він вбере в себе деякі наші цінності.

Задумайтесь: побудова когнітивної
системи фундаментально відрізняється

від побудови традиційного
програмного забезпечення минулого.

Ми не програмуємо їх.
Ми їх вчимо.

Щоб навчити систему
розпізнавати квіти,

я показую їй тисячу квітів,
які мені подобаються.

Щоб навчити систему
грати у гру --

Ну, я б показував. Ви б теж.

Я люблю квіти. Ну справді.

Щоб навчити систему, як
грати у гру - наприклад, го -

мені б довелося зіграти
тисячі партій в го,

але в процесі я також навчаю її,

як відрізнити
хорошу партію від поганої.

Якщо я хочу створити штучний інтелект,
який допомагає в правових питаннях,

мені потрібно навчити його законам,

але водночас я вливаю туди

почуття милосердя і справедливості,
що є частиною закону.

Науковці називають це
фундаментальною правдою,

і тут є важливий момент:

створюючи ці машини,

ми водночас вчимо їх
нашим цінностям.

І через це я довіряю
штучному інтелекту

так само, якщо не більше,
ніж добре навченій людині.

Але ви можете запитати,

а що ж щодо шахраїв,

якихось добре фінансованих
неурядових організацій?

Я не боюсь штучного інтелекту
в руках самотнього вовка.

Зрозуміло, ми не можемо захистити себе
від всіх актів насильства,

але реальність є такою системою,

яка вимагає суттєвої підготовки
і тонкого навчання,

для яких окремій людині
забракне ресурсів.

І більше того,

це набагато складніше, ніж просто
пустити інтернет-вірус у світ,

де ти натискаєш кнопку -
і ось він у мільйоні місць,

і ноутбуки починають вибухати усюди.

Але такі події
є значно масштабнішими,

і ми обов'язково зможемо їх помітити.

Чи я боюсь, що
такий штучний інтелект

може загрожувати всьому людству?

Якщо ви подивитесь такі фільми,
як "Матриця", "Метрополіс",

"Термінатор", серіал
"Західний світ",

вони всі розповідають про такий страх.

Насправді, у своїй книжці "Суперрозум"
філософ Нік Бостром

порушує цю тему

і стверджує, що суперрозум може
не тільки бути небезпечним,

він може становити екзистенційну
загрозу людству.

Головним аргументом доктора Бострома

є те, що така система одного разу

матиме таку ненаситну спрагу
до інформації,

що вона, можливо, навчиться вчитися -

і врешті зрозуміє,
що вона може ставити цілі,

які суперечать потребам людства.

У доктора Бострома
є багато прихильників.

Його підтримують такі люди,
як Ілон Маск і Стівен Гокінґ.

З усією повагою

до цих блискучих розумів,

я думаю, що вони
серйозно помиляються.

Є багато аргументів доктора Бострома,
що варто обговорити,

і в мене немає часу розглядати їх усі,

але дуже стисло:

неймовірне знання дуже відрізняється
від неймовірних дій.

ХАЛ був загрозою для команди Дискавері,

оскільки ХАЛ керував усіма
аспектами Дискавері.

Тому йому потрібно було мати
суперрозум.

Йому довелось би панувати в усьому світі.

Це випадок Скайнет
з фільму "Термінатор",

в якому був суперрозум,

який контролював людську волю,

направляв кожен пристрій
в будь-якому куточку світу.

З практичної точки зору,

цього ніколи не станеться.

Ми не будуємо штучних інтелектів,
які контролюють погоду,

які направляють хвилі,

які командують нами -
примхливими, хаотичними людьми.

І більше того, якщо б такий
штучний інтелект справді існував,

йому б доводилось конкурувати
з людською економікою,

а значить, конкурувати з нами за ресурси.

І зрештою -

не кажіть Сірі цього -

ми завжди можемо їх вимкнути.

(Сміх)

Ми в неймовірній подорожі

співеволюції з нашими машинами.

Люди, якими ми є сьогодні,

відрізняються від людей,
якими ми станемо завтра.

Хвилюватися тепер
про розвиток суперрозуму -

досить небезпечне відволікання,

бо розвиток комп'ютерів як такий

порушує багато
гуманітарних і суспільних проблем,

на які нам треба звернути увагу.

Як краще організувати суспільство,

коли потреба в людській праці
зменшується?

Як донести порозуміння й освіту
до всіх куточків планети

і поважати при цьому наші відмінності?

Як поліпшити і продовжити людське життя
за допомогою охорони когнітивного здоров'я?

Як використати комп'ютери,

щоб привели нас до зірок?

Ось що цікаво.

Можливості використати обчислювання

для поліпшення людського досвіду

доступні нам

тут і тепер,

і це тільки початок.

Дуже дякую.

(Оплески)