Як комп'ютери вчаться творчості

Ми підійшли до нових меж мистецтва і творчих здібностей -- і вони не людські. Блейз Аґуера-і-Аркас, головний науковець компанії Ґугл, працює з глибокими нейронними мережами для машинного сприйняття та розподіленого навчання. В захоплюючій демонстрації він показує як нейронні мережі, треновані впізнавати зображення, можуть працювати в зворотньому напрямку і створювати їх. Результат -- видовищні колажі, схожі на галюцинації (і вірші!), що не піддаються класифікації. "Сприйняття і творчість тісно пов'язані, -- стверджує Аґуера-і-Аркас. -- Будь-яка істота, здатна до сприйняття, також здатна до творчості".

Я керую групою в Ґуґлі,
яка працює над машинним інтелектом;

іншими словами, над дисципліною,
що робить комп'ютери і пристрої

здатними робити деякі речі,
які робить мозок.

Тому ми цікавимось реальним мозком

і неврологією також,

і зокрема речами, які робить наш мозок,

які досі перевершують
продуктивність комп'ютера.

Історично, одна з таких галузей -
це сприйняття,

процес, який дає змогу перетворити
речі з реального світу --

звуки й зображення --

у концепції в свідомості.

Це важливо для нашого власного мозку

і це також дуже корисно для комп'ютера.

Алгоритми машинного сприйняття,
наприклад, ті, які створює наша група, --

це те, що уможливлює пошук ваших
світлин на Google Photos

за змістом світлин.

Інший бік сприйняття --
це творча здатність:

перетворення концепції у
щось реальне.

Отже, протягом останнього року,
наша робота над машинним сприйняттям

також несподівано пов'язалася
зі світом машинної творчої здібності

і машинного мистецтва.

Я гадаю, Мікеланджело
проник у сутність

взаємовідносин між
сприйняттям і творчою здібністю.

Ось його відома цитата:

"У кожному куску каменя
схована скульптура,

і завдання скульптора --
її відкрити".

Отже, я гадаю,
Мікеланджело мав на увазі,

що творчість здійснюється
через сприйняття,

і що сприйняття само по собі --
це акт уяви,

що є сутністю творчості.

Орган, який думає,
сприймає і уявляє,

це, звичайно, мозок.

І я би хотів почати з короткої історії

того, що ми знаємо про мозок.

Тому що на відміну від,
скажімо, серця чи кишечника,

дуже мало можна сказати про мозок
просто дивлячись на нього,

принаймні неозброєним оком.

Ранні анатомісти, які дивилися на мозок,

давали його поверхневим структурам
різні примхливі імена,

як-от "гіпокамп", що означає
"маленька креветка".

Але, звичайно, ці імена нам
дуже мало говорять

про те, що відбувається всередині.

Першою людиною, яка, на мою думку,
справді зазирнула у суть

того, що відбувається в мозку

був великий іспанський нейроанатом
Сантьяґо Рамон-і-Кахаль

у 19-му сторіччі,

який використовував мікроскопію
і спеціальні забарвники,

що могли вибірково заповнювати
чи надавати дуже високого контрасту

індивідуальним клітинам в мозку,

щоб зрозуміти їхню морфологію.

Ось які він зробив малюнки нейронів

у 19-му сторіччі.

Це зроблено з мозку пташки.

І ви бачите величезне розмаїття
різних видів клітин,

навіть сама клітинна теорія
була ще дуже новою.

І ці структури,

ці клітини, що мають ці розгалуження,

ці гілки, що можуть іти
дуже, дуже далеко --

це було дуже новим у той час.

Вони, звичайно, нагадують дроти.

Це, можливо, було очевидним
для декого у 19-му сторіччі;

революція поширення дротів і електрики
якраз починалася.

Але у багатьох змістах,

ці мікроанатомічні малюнки
Рамона-і-Кахаля, як оцей,

досі неперевершені у багатьох речах.

Досі, більш як сторіччя пізніше,

ми намагаємося завершити роботу,
яку почав Рамон-і-Кахаль.

Це - необроблені дані наших колег

з Неврологічного інституту
імені Макса Планка.

Наші колеги створили

зображення малих шматочків
мозкової тканини.

Весь зразок тут завбільшки
в один кубічний міліметр,

і я показую вам тут його
дуже, дуже малу частину.

Ця риска зліва - один мікрон.

Структури, які ви бачите --
це мітохондрії

завбільшки з бактерію.

І це -- послідовні перерізи

цього малесенького
шматочка тканини.

Лише для порівняння,

діаметр середньої волосини --
приблизно 100 мікронів.

Отже, ми дивимось на щось
набагато менше

ніж переріз однієї волосини.

І з такого ряду електронно-
мікроскопічних перерізів

можна почати відтворювати
трьохмірні зображення нейронів, як оці.

Ці зображення дуже подібні до
зображень Рамона-і-Кахаля.

Лише кілька нейронів показано,

тому що інкаше ми би
не змогли побачити нічого.

Було б перенасичення

деталями структури

і зв'язків між нейронами.

Отже, Рамон-і-Кахаль
дещо випереджав свій час,

і прогрес розуміння мозку

просувався повільно
у наступні десятиліття.

Але ми знали, що нейрони
використовують електрику,

і до Другої світової наша технологія
просунулася достатньо,

щоб робити електричні
експерименти над живими нейронами

для кращого розуміння, як вони працюють.

Це був той самий час, коли було
винайдено комп'ютери,

здебільшого, на основі ідеї
моделювання мозку --

"інтелектуальної техніки",
як назвав її Алан Тюринґ,

один із засновників комп'ютерної науки.

Воррен МакКалок і Волтер Пітс
подивилися на зроблений Рамоном-і-Кахалєм

малюнок зорової кори,

показаний тут.

Це кора, що обробляє зображення,
які надходять від очей.

І для них він виглядав як
електрична схема.

В електричній схемі МакКалока і Пітса
багато деталей,

що не є цілком правильними.

Але основна ідея

що зорова кора працює як ряд
обчислювальних елементів,

які передають інформацію
один до одного каскадом,

є, в принципі, правильною.

Давайте трохи поговоримо про те,

що повинна робити модель для обробки
візуальної інформації.

Головна задача сприйняття --

це взяти зображення, як оце, і сказати:

"Це птах",

що є дуже просто для нас
з нашим мозком.

Але всім варто розуміти,
що для комп'ютера

це було практично неможливо
лише кілька років тому.

В класичній обчислювальній парадигмі

це завдання нелегко виконати.

Отже, що відбувається між пікселями,

між зображенням птаха,
і словом "птах" --

це, по суті, ряд нейронів пов'язаних
один з одним

у нейронну мережу,

як на цій діаграмі.

Ця нейронна мережа може бути
біологічною всередині зорової кори,

або ж сьогодні ми
отримуємо здатність

моделювати ці нейронні мережі
на комп'ютері.

І я зараз покажу, як це
насправді виглядає.

Отже, можна вважати пікселі
першим шаром нейронів,

як це фактично і є в оці --

це нейрони сітківки.

Вони передають інформацію

від шару до шару
і до іншого шару нейронів,

які усі пов'язані синапсами
різної ваги.

Поведінка цієї мережі

характеризується силою усіх цих синапсів.

Вони характеризують обчислювальні
властивості мережі.

Наприкінці,

у вас є нейрон
або мала група нейронів,

що висвітлюється словом "птах".

Тепер я представлю ці три речі --

пікселі на вході, синапси
в нейронній мережі,

і птаха, що на виході,

трьома змінними: x, w і y.

Існують, напевно, мільйони x-ів --

у цьому зображенні мільйон пікселів.

Є мільярди чи трильйони w,

що представляють вагу усіх синапсів
в нейронній мережі.

І є мала кількість y,

виходів, що має мережа.

"Птах" має лише чотири літери.

Отже, уявімо просту формулу,

X "x" W = Y.

Я взяв "помножити" в лапки,

тому що те, що тут відбувається,
звичайно,

є дуже складним рядом
математичних операцій.

Це одне рівняння.

Є три змінні.

Ми знаємо, що коли ми
маємо одне рівняння,

можна знайти одну змінну,
якщо знати дві інші.

Отже, проблема висновку,

тобто, з'ясування, що
зображення птаха - це птах,

полягає ось у чому:

y є невідомим, тоді як
w і x відомі.

Нейронна мережа і пікселі є відомими.

Як бачите, проблема
відносно проста.

Ви помножуєте два на три -- і готово.

Я покажу вам штучну нейронну мережу,

яку ми нещодавно створили
якраз у такий спосіб.

Це працює в реальному часі
на мобільному телефоні,

і це неймовірно само по собі,

що мобільні телефони можуть
здійснювати мільярди і трильйони операцій

за секунду.

Ви бачите телефон,

який дивиться на одне зображення
птаха за іншим

і не лише говорить:
"Так, це птах,"

а й визначає вид птаха
за допомогою цієї мережі.

Отже, в цьому зображенні

x і w відомі,
а y - невідома.

Звичайно, я пропускаю
дуже складну частину:

яким чином ми визначаємо w,

тобто мозок, що це робить.

Як можна навчитися такій моделі?

Цей процес навчання,
тобто розв'язку по w,

якщо робити це з простим рівнянням,

в якому ми вважаємо ці змінні числами,

ми точно знаємо, як це зробити: 6 = 2 x w,

отже ми ділимо на два -- і все.

Проблема -- з цим оператором.

Отже, ділення --

ми використали ділення,
бо ділення є зворотнім до множення,

але, як я щойно сказав,

"множення" тут трохи брехлива назва.

Це дуже, дуже складна нелінійна операція;

у неї нема зворотньої операції.

Отже, нам треба з'ясувати, як
розв'язати це рівняння

без оператора ділення.

І це можна зробити досить просто.

Можна сказати:
"давайте зробимо алгебраїчний фокус

і перенесемо шість у правий
бік рівняння".

Ми все ще використовуємо множення.

А цей нуль -- вважаймо його помилкою.

Іншими словами, якщо ми знайдемо
w правильно,

помилка буде нульовою.

А якщо не зовсім правильно,

помилка буде ненульовою.

Отже тепер ми можемо просто
вгадувати, намагаючись зменшити помилку,

і комп'ютери роблять це чудово.

Ви робите початкову спробу:

що як w = 0?

Тоді помилка - 6.

Що як w = 1?
Тоді помилка - 4.

Тоді комп'ютер грає в Марко Поло,

наближуючи помилку до нуля.

Роблячи це, комп'ютер послідовно
наближається до w.

Зазвичай, він ніколи не доходить до нього,
але після десятка спроб,

ми отримуємо w = 2,999,
що достатньо близько.

Це і є процесом навчання.

Отже, запам'ятайте, що ми тут робили.

Ми брали багато відомих x і відомих y

і розв'язували рівняння по w
за допомогою ітерацій.

Точно так само ми самі навчаємося.

В дитинстві ми переглядаємо
багато картинок,

і нам говорять: "Це - птах; це - не птах".

З часом, через ітерації,

ми розв'язуємо w, ми отримуємо
ці нейронні зв'язки.

Отже, тепер ми маємо
відомі x і w, щоб розв'язати y;

це -- щоденне, швидке сприйняття.

Ми знаємо, як визначити w,

тобто навчання, що є набагато складніше,

оскільки ми повинні зменшувати помилку

багатьма навчальними прикладами.

Приблизно рік тому
Алекс Мордвінцев з нашої групи

вирішив подивитися, що станеться,
якщо спробувати розв'язати по x,

знаючи w і y.

Іншими словами,

ви знаєте, що таке птах,

і у вас уже є нейронна мережа,
натренована на птахів,

але що є зображенням птаха?

Виявляється, за допомогою
цієї процедури зменшення помилки

можна це зробити з мережею,
натренованою на розпізнавання птахів,

і результатом буде...

зображення птахів.

Отже, це -- зображення птахів,
цілком створене нейронною мережею,

натренованою на розпізнавання птахів,

просто розв'язанням рівняння по x
замість розв'язання по y,

за допомогою ітерацій.

Ось ще один приклад.

Це робота Майка Тайки з нашої групи,

яку він називає "парадом тварин".

Це трохи нагадує мені мистецтво
Вільяма Кентріджа,

де він робить нариси, витирає їх,

робить нариси, витирає їх,

і таким чином створює фільм.

У цьому випадку

Майк змінює значення y
у просторі різних тварин

у мережі, натренованій
впізнавати і відрізняти

різних тварин одна від одної.

Виходить таке дивовижне перетворення
однієї тварини в іншу, в стилі Ешера.

Тут він і Алекс разом
спробували обмежити

y до лише двохмірного простору,

таким чином створивши карту
простору всіх речей,

які може розпізнавати мережа.

За допомогою такого синтезу

або створення зображень
на всій площині,

змінюючи y по площині,
створюється своєрідна карта --

візуальна карта усіх речей,
які може розпізнавати мережа.

Тут є всі тварини;
ось тут -- броненосець.

Це можна зробити
з іншими типами мереж також.

Ось мережа, натренована
розпізнавати обличчя,

розрізняти одне обличчя від іншого.

А тут, ми задаємо y
значення "я",

параметри мого власного обличчя.

І коли мережа розв'язує x,

створюється трохи божевільне,

кубічне, сюрреалістичне, психоделічне
зображення мене

з багатьох точок зору відразу.

З багатьох точок зору відразу,

тому що ця мережа натренована
уникати неоднозначності,

коли обличчя є в одному
чи іншому ракурсі,

в одному чи іншому освітленні.

Коли ви робите таку реконструкцію,

якщо не мати якогось
орієнтовного зображення

або статистики,

то ви отримаєте суміш
різних точок зору,

через невизначеність.

Ось що відбувається, коли Алекс
використовує власне обличчя як орієнтир

під час процесу оптимізації
для відтворення мого обличчя.

Ви бачите, процес недосконалий.

Ще є багато роботи

з оптимізації цього процесу оптимізації.

Але ми починаємо отримувати
щось подібне на чітке обличчя,

створене з мого обличчя в якості орієнтира.

Не обов'язково починати з чистого полотна

чи з білого шуму.

Коли ви розв'язуєте по x,

можна починати з x,
що вже має якесь зображення.

Це і робиться в наступній демонстрації.

Це мережа, що класифікує

усілякі предмети --
споруди, тварин ...

Тут ми починаємо
з зображення хмар,

і в міру оптимізації,

по суті, мережа, з'ясовує,
що вона бачить у цих хмарах.

Що більше часу дивитись на це,

то більше речей ви помічаєте
в цих хмарах.

Можна також використовувати мережу
для обличь для цих галюцинацій,

виходять досить навіжені речі.

(Сміх)

Або ж Майк робив інші експерименти,

в яких він брав це зображення хмар,

галюцинував, збільшував,
галюцинував, збільшував.

І таким чином

виходить мережева маячня, я б сказав,

або такі собі вільні асоціації,

в яких мережа доганяє власний хвіст.

Кожне зображення є основою для

"Що ж я бачу тепер?"

"Що ж я бачу тепер?"
"Що ж я бачу тепер?"

Вперше публічно я це показав

групі на лекції в Сіетлі під назвою
"Вища освіта" --

це було якраз після легалізації маріхуани.

(Сміх)

Хочу швидко закінчити

зауваженням, що ця технологія
необмежена.

Я показав вам чисто візуальні приклади,
тому що на них цікаво дивитися.

Це не лише візуальна технологія.

Наш колега-художник, Рос Ґудвін,

експериментував із камерою,
що знімала зображення,

а потім комп'ютер в його рюкзаку
писав вірш за допомогою нейронних мереж,

на основі змісту зображень.

І ця поетична нейронна мережа
була натренована

на величезній базі поезії 20-го сторіччя.

І поезія, знаєте,

гадаю, вийшла непогана.

(Сміх)

І на закінчення.

Думаю, Мікеланджело

мав рацію;

сприйняття і творчість
дуже тісно пов'язані.

Ми щойно бачили, як нейронні мережі,

натреновані відрізняти

або впізнавати різні речі,

можуть працювати в зворотньому напрямку
і творити.

Мені видається,

що не лише Мікеланджело
справді бачив

скульптуру в уламку каменя,

але що будь-яка істота,
будь-який інопланетянин,

здатний до сприйняття,

також здатний до творчості,

тому що в обидвох випадках
використовується один механізм.

Я також думаю, що сприйняття
і творча здатність не є

лише людськими якостями.

У нас з'являються комп'ютерні моделі,
які роблять якраз ці речі.

І це не має бути несподіваним;
мозок є обчислювальним органом.

І, нарешті,

машинне обчислення почалося як спроба
створити розумні машини.

Воно було здебільшого побудоване на ідеї

як зробити машини розумними.

І ми нарешті зараз починаємо виконувати

деякі обіцянки ранніх застрільників,

Тюринґа і фон Неймана,

МакКалока й Піттса.

Я думаю, машинне обчислення --
це не лише бухгалтерія

чи гра у Кенді Краш.

Від початку комп'ютери
моделювалися за нашим розумом.

І вони дають нам змогу
краще зрозуміти можливості нашого розуму

і розширити їх одночасно.

Щиро дякую.

(Оплески)