Hogyan tanulnak a számítógépek alkotókészséget

A művészet és az alkotókészség újabb határmezsgyéjén járunk, ez pedig nem emberi jellegű. Blaise Agüera y Arcas, a Google vezető kutatója a gépi észlelésre és elosztott tanulásra szolgáló mély neurális hálózatokkal foglalkozik. Lebilincselő előadásában bemutatja, hogy a neurális hálózatok miként tanulják meg képek fölismerését és az ellenkező irányú folyamatot: létrehozásukat. Az eredmény: látványos, hallucinációs kollázsok, sőt, versek is, amelyek dacolnak a műfaji osztályba sorolással. "Az észlelés és az alkotókészség szorosan összefügg" – mondja Agüera y Arcas. "Bármely teremtmény, lény, Földön kívüli, amely észlelésre képes, képes alkotásra is",

A Google-nál a gépi intelligenciával
foglalkozó részleget vezetem.

Ez a mérnöki terület számítógépeket
és készülékeket tesz alkalmassá arra,

hogy az emberi agyéhoz hasonló
tevékenységet végezzenek.

Ez sarkall bennünket arra,
hogy az aggyal

és az idegtudománnyal foglalkozzunk,

különösen azzal, amiben agyunk egyelőre

jócskán fölülmúlja a számítógépet.

Történetileg az egyik ilyen terület
az érzékelés folyamata,

amelyben a környezetünkben lévő dolgok

– hangok és képek –

agyunkban fogalommá alakulnak.

Tudatunk számára ez nélkülözhetetlen,

de igen hasznos a számítógépeknek is.

A gépi érzékelés algoritmusai
– csoportunk ezen dolgozik –

teszik az önök Google Photoson
lévő fotóit kereshetővé annak alapján,

hogy mi látható rajtuk.

Az érzékelés másik oldala
az alkotókészség:

az elképzelések valóra váltása.

A gépi érzékeléssel végzett munkánk
2015-ben váratlanul

hozzákapcsolódott a gépi alkotókészséghez

és a gépi művészethez.

Az hiszem, Michelangelo
nagyon is beleérzett

az érzékelés és az alkotókészség
közötti kettős viszonyba.

Van egy híres mondása:

"Minden kőtömb szobrot rejt a belsejében,

és a szobrász dolga, hogy kiszabadítsa."

Azt hiszem, Michelangelo ezen azt értette,

hogy érzékelés útján alkotunk,

és az érzékelés nem más,
mint a képzelet folyamata

és az alkotókészség terméke.

A gondolkodás, az érzékelés
és a képzelet irányítója

természetesen az agy.

Egy történeti áttekintéssel
szeretném kezdeni,

hogy mit tudunk az agyunkról.

Mert eltérően a szívtől és a belektől,

ránézésre nem sokat mondhatunk az agyról,

ha csupán szabad szemmel nézzük.

Az agyat vizsgáló első anatómusok

a felszíni képleteknek
furcsa neveket adtak,

pl. a hippokampusz csikóhalat jelent.

Persze a nevek nem sokat
árulnak el arról,

hogy mi zajlik belül.

Az első, aki valóban sokat tett azért,

hogy megtudjuk, mi történik az agyban,

Santiago Ramón y Cajal,
a nagy spanyol ideganatómus volt

a 19. században.

Mikroszkópot használt,
és különleges eljárást alkalmazott,

amellyel szelektíven tudta
megfesteni az egyes idegsejteket,

jó kontrasztot érve el a megjelenítésben,

hogy alaktanuk érthetőbb legyen.

Ilyesféle képeket készített
az idegsejtekről

a 19. században:

Ezt egy madár agyáról készült.

Látják, milyen hihetetlenül
változatosak a különféle sejtek;

ekkor még maga
a sejtelmélet is vadonatúj volt.

Ezek a képletek,

ezek a dendritnyúlványok a sejteken,

ezek az ágacskák, amelyek igen
messze ki tudnak nyúlni,

akkoriban újdonságnak számítottak.

Vezetékekre emlékeztetnek.

Ez a 19. században némelyeknek
kézenfekvőnek tűnt:

éppen folyamatban volt a vezetékek
és a villamosság forradalma.

De több vonatkozásban

Ramón y Cajal mikroanatómiai rajzai,

mint ez is, fölülmúlhatatlanok.

Még most, egy bő évszázaddal később is

csak törekszünk bevégezni
a Cajal által megkezdett munkát.

Ezek a nyers adatok itt partnereinktől,

a Max Planck Idegtudományi
Intézetből származnak.

Partnereink képet készítettek

az agyszövet pirinyó részeiről.

Az itt látható minta
összességében is csupán 1 mm³,

én pedig ennek is
csak egy pici részét mutatom.

A bal oldali vonás kb. 1 mikron.

Az itt látható képletek a mitokondriumok,

ezek baktériumméretűek.

Ezek pedig a nagyon parányi szövetdarab

folytatólagos metszetei.

Csak összevetésül:

egy átlagos hajszál átmérője
kb. 100 mikron.

Ami szemünk előtt van,
az sokkal-sokkal kisebb,

mint a hajszál vastagsága.

Ha ezeknek az elektronmikroszkópos
metszeteknek a sorozatából

3D-ben rekonstruáljuk az idegsejteket,
valami ilyet kapunk.

Ezek jellegükben hasonlítanak
Ramón y Cajal képeire.

Csak pár idegsejt van megvilágítva,

különben nem látnánk semmit,

olyan zsúfolt lenne a kép

az egy-egy idegsejtet

a többivel összekötő vezetékgubanctól.

Ramón y Cajal egy kissé megelőzte korát;

az agy megértésének folyamata
csak lassan haladt

a következő évtizedek során.

Tudtuk, hogy az idegsejtek az
elektromosságot használják,

és a II. világháború idejére
technológiánk elég fejlett volt ahhoz,

hogy élő idegsejteken valódi
kísérleteket végezzünk

villamos árammal,
hogy működésüket megértsük.

Ugyanebben az időben találták föl -
az agy működését alapul véve -

a számítógépet, avagy
az "értelmes szerkezetet",

ahogy Alan Turing,

a számítástechnika egyik atyja nevezte,

Warren McCulloch és Walter Pitts
megvizsgálta

Cajalnak a látókéregről készített,

itt látható rajzát.

Ez az agykéreg dolgozza föl
a szemünkből érkező képeket.

Számukra ez olyan volt,
mint egy kapcsolási rajz.

Sok részlet McCulloch
és Pitts kapcsolási rajzán

nem teljesen pontos.

De az alapelv,

hogy a látókéreg úgy működik,
mint számítási egységek sorozata,

amelyek egymásnak adják
tovább az információt,

alapvetően helyes.

Beszéljünk egy kicsit arról,

hogy mit kéne csinálnia egy képi
információt földolgozó modellnek.

Az érzékelés fő feladata,

hogy rögzítse az ilyen képet,
és jelentse ki:

"ez egy madár",

ami agyunknak gyerekjáték.

De mindannyiuknak tudnunk kell,
hogy a számítógép számára ez

néhány éve megoldhatatlan feladat volt.

A klasszikus számítási paradigma alapján

ez nem egykönnyen megoldható feladat.

Ami a pixelek között történik,

a madár képe és a "madár" szó között,
lényegében annyi,

hogy az idegsejtek egy halmaza

összekapcsolódott egy ideghálózatban,

ahogy itt fölvázolom.

Ez lehet egy élő sejtekből álló
neuronhálózat a látókéregben,

vagy annak egy számítógépe modellje,

aminek elkészítésére ma már
kezdünk képesek lenni.

Megmutatom, hogy néz ez ki.

A képpontok fölfoghatók
az idegsejtek első rétegeként,

és valóban így működik ez a szemben;

ezek a recehártyán lévő idegsejtek.

Aztán továbbadják a következő rétegnek,

egyik a másiknak, egymás után,
mindegyik a következőnek,

ezek mind különböző súllyal szereplő
szinapszissal vannak összekötve.

A hálózat viselkedését

a szinapszisok erőssége jellemzi.

Ezek írják le a hálózat
számítási tulajdonságait.

A végeredmény

egy idegsejt, vagy sejtek kis csoportja,

amelyek fölvillannak,
és azt mondják: madár.

Ezt a három dolgot mutatom meg:

a bemeneti képpontokat,
az ideghálózat szinapszisait,

és a madarat, a kimenetet,

Három változó, az x, w és y segítségével.

Talán milliónyi x,

milliónyi képpont van ezen a képen.

Milliárdnyi vagy billiónyi w létezik,

ami az ideghálózatban lévő
szinapszisok súlyát jellemzi.

Az y-ok - a hálózati kimenetek - száma

viszont egy elég kis szám.

A "madár" csak öt betű, ugye?

Tegyünk úgy, mintha ez
az egyszerű képlet létezne:

x "*" w = y

Idézőjelbe tettem a szorzásjelet,

mert persze ott egy sor

nagyon bonyolult matematikai művelet áll.

Ez egy egyenlet.

Három változója van.

Tudjuk, hogy ha van egy egyenletünk,

megoldhatjuk az egyik változóra,
ha ismerjük a másik kettőt.

A levezetés problémája,

azaz hogy kiderítsük,
hogy a madár képe egy madáré,

így foglalható össze:

az y az ismeretlen, w és x ismert.

Ismerjük az ideghálózatot
és a képpontokat.

Látható, hogy a feladat
viszonylag egyszerű.

Összeszorozzuk a kettőt
a hárommal, és kész.

Mutatok egy mesterséges ideghálózatot,

amit mostanában építettünk,
és ami pontosan ezt csinálja.

Valós időben működik mobilon,

és az már önmagában is csodálatos,

hogy a mobiltelefonok másodpercenként
milliárdnyi vagy billiónyi

műveletre képesek.

Előttünk egy telefon,

amely folyamatosan madárképeket pörget,

és nemcsak azt mondja,
hogy: "Igen, ez madár",

hanem a hálózat segítségével
a madárfajt is fölismeri.

A képen

x és w ismert, y az ismeretlen.

Átsiklok a legbonyolultabb
részeken, nevezetesen:

hogy a pokolba számoljuk ki w-t,

és hogyan képes erre az agy?

Hogyan hozhatunk létre ilyen modellt?

Tehát ez tanulási folyamat:
megoldás keresése w-re.

Ha ezt egy egyszerű egyenletre tesszük,

ahol az ismeretleneket számnak tekintjük,

akkor pontosan tudjuk,
miként kell a 6 = 2 * w -t megoldani.,

mindkét oldalt 2-vel kell osztani.

A bökkenő ezzel az operátorral van.

Osztás...

Azért osztást alkalmaztunk,
mert ez a szorzás inverze,

de ahogy már mondtam,

itt nem igazi szorzásról van szó.

Ez itt egy igen kacifántos,
nemlineáris művelet;

és nincs inverze.

Rá kell jönnünk, milyen módszerrel
oldható meg az egyenlet

osztási művelet nélkül.

A módszer elég egyszerű.

Alkalmazzunk egy kis algebrai trükköt,

és vigyük át a 6-ost
az egyenlet jobb oldalára.

A szorzás továbbra is megvan.

A nullát meg tekintsük a hiba mértékének.

Azaz, ha w-re helyesen
oldjuk meg az egyenletet,

a hiba nulla lesz.

Ha a megoldás nem teljesen helyes,

a hiba nullánál nagyobb lesz.

Most a hiba minimalizálása végett
próbálgatnunk kell,

ebben pedig a számítógép igen jó.

Kiinduló becslésnek ezt vettük:

mi a helyzet, ha w = 0?

Akkor a hiba 6-tal egyenlő.

És ha w = 1? Akkor a hiba 4.

Akkor a gép játszhatja
a Marco Polo-játékot,

és a hibát nullához közelítheti.

Így w fokozatos közelítéseit kapjuk.

Általában nem kapunk pontos eredményt,
de tucatnyi lépés után

w = 2,999-et kapunk,
ami elég jó közelítés.

Ez tanulási folyamat.

Ne feledjük, hogy az történt,

hogy vettünk egy csomó
ismert x-et és ismert y-t,

és iterációs úton kerestünk
w-re egy megoldást.

Pontosan ilyen módszerrel
tanulunk mi magunk is.

Kisbabakorunkban sok képet látunk,

és valaki azt mondja:
"Ez madár, ez nem madár."

Idővel iteráció révén

megoldjuk w-re, megtaláljuk
az idegi kapcsolatokat.

Most az y kiszámolásához
ismert az x és a w;

ez a mindennapi, gyors érzékelés.

Megoldást találni w-re,

ez tanulás, ami jóval nehezebb,

mert a hibát minimalizálni kell,

sok gyakorlópélda segítségével.

Alex Mordvintsev kollégánk kb. egy éve
elhatározta, hogy kipróbálja,

mi van, ha x-re
próbálunk megoldást keresni

w és y ismeretében.

Másként fogalmazva,

tudjuk, hogy ez egy madár,

és ideghálózatunk már
be van tanítva madarakra,

de milyen is egy madár képe?

Kiderül, hogy ez is működik, ha ugyanazt
a hibaminimalizáló eljárást alkalmazzuk

a madarak fölismerésére
betanított hálózatra,

és az eredménye egy kép,

amelyen madarak láthatók.

Ezt a képet a madarak
fölismerésére betanított

neurális hálózat
hozta létre egyszerűen úgy,

hogy x-re, nem pedig y-ra
kerestük a megoldást

közelítő eljárással.

Ez pedig egy másik érdekes példa.

Ezt egyik kollégánk, Mike Tyka csinálta,

és az állatok fölvonulásának nevezte el.

Engem William Kentridge
műalkotásaira emlékeztet:

vázlatokat készít, kitörli őket,

vázlatokat készít, kitörli,

és így készít filmet.

Ebben az esetben Mike

y-t futtatja végig különféle állatokon,

egy állatok fölismerésére

és megkülönböztetésére
tervezett hálózaton.

Így ilyen furcsán, Escher-szerűen
tűnik át egyik állat a másikba.

Itt Mike és Alex megpróbált
az összes y alapján

egyetlen kétdimenziós képet létrehozni,

a hálózat által felismert
valamennyi tárgyat

a síkba leképezve.

Efféle szintézist elvégezve,

a teljes felületet használva,

y variálásával ilyesféle
leképezést készítünk:

a vizuális megjelenítését mindannak,
amit a hálózat felismer.

Minden állat itt van;
ez itt az armadillo, azaz a tatu.

Ugyanez megtehető
másfajta hálózatokkal is.

Ezt a hálózatot
arcfölismerésre hozták létre,

hogy képes legyen arcokat
megkülönböztetni egymástól.

Itt az y jelentése: "én",

az én arcom paraméterei.

Amikor ez megoldást keres x-re,

az eredmény az én idétlen, kubista,

szürreális és pszichedelikus képem,

egyidejűleg különböző nézőpontokból.

Az egyidejű különböző nézőpontok indoka:

a hálózatot úgy tervezték,
hogy megszabaduljon a félreértésektől,

amelyek az arc eltérő helyzeteiből

vagy az eltérő megvilágításból adódhatnak.

Ha ilyen rekonstrukciót végzünk,

és nem használunk támpontul
valamilyen képet

vagy statisztikát,

akkor a különféle nézőpontok
valami káosza keletkezik,

mert félreérthető.

Ez az eredmény, ha Alex támpontul
tulajdon arcát használja

az optimalizálás folyamán
az én arcom rekonstruálásához.

Láthatóan nem tökéletes.

Még sok a teendőnk

a folyamat optimalizálásában.

De a kapott arc már kivehetőbb,

ha a támpontul az én arcom szolgált.

Nem szükséges

nulláról kezdenünk.

Ha x-et keressük,

kezdhetjük egy másik képhez
tartozó x-szel,

ahogy ezen a kis bemutatón is látható.

E hálózat különféle tárgyak -
pl. állatok, ember alkotta struktúrák -

osztályba sorolására készült.

Itt egyszerűen felhők képével kezdünk,

és ahogy optimalizálunk,

a hálózat eldönti,
hogy mit lát bele a felhőkbe.

Minél tovább nézzük,

annál több dolgot látunk beléjük.

Használhatjuk az arcfölismerő hálózatot,
hogy arcokat lássunk bele,

és eléggé észbontó dolgokhoz jutunk.

(Nevetés)

Mike végzett egy másik kísérletet:

vette ezt a felhős képet,

értelmeztette, zoomolt, értelmeztette,
zoomolt, értelmeztette, zoomolt...

Ily módon

szerintem a hálózatnak amolyan
disszociatív fugaállapotához jutunk,

vagy valamiféle szabad asszociációkhoz,

amelyben a hálózat saját farkába harap.

Mindegyik kép láttán az jár az eszünkben,

hogy vajon mit látok majd a következőn,

és a következőn, és a következőn.

Ezt nyilvánosan először Seattle-ben

egy Felsőoktatás c. előadáson mutattam be,

rögtön a marihuána legalizálása után.

(Nevetés)

Azzal a megjegyzéssel zárnám gyorsan,

hogy a technológia lehetőségei
beláthatatlanok.

Csupán vizuális példákat hoztam föl,
mert ezek nagyon mutatósak.

Nemcsak képi technológia létezik.

Művész munkatársunk, Ross Goodwin,

kísérleteihez fényképezőgépet használ,
amely készít egy fölvételt,

majd a hátizsákjában lévő számítógép

e fénykép tartalmából
ihletet merítve verset ír.

E költői neurális hálózatot
a 20.századi költészet

egy terjedelmes gyűjteménye
alapján hozták létre.

Szerintem az így készült versek

nem is olyan rosszak.

(Nevetés)

Végezetül,

ami Michelangelót illeti,

úgy vélem, igaza volt:

az észlelés és az alkotókészség
szorosan összefügg.

Amiket láttunk, azok olyan
neurális hálózatok,

amelyeket arra tanítottak,
hogy megkülönböztessenek

és fölismerjenek különböző tárgyakat,

és amelyek fordított irányú működésre,
generálásra is képesek.

Nemcsak azért gondolom ezt,

mert Michelangelo tényleg látta

a szobrot a kőtömb belsejében,

hanem mert bármely teremtmény,
lény, Földön kívüli,

amely ilyen észlelésre képes,

képes alkotni is,

mert ezek mindkét esetben
pontosan ugyanazon műveletek.

Azt hiszem, hogy az észlelés
és az alkotás semmi esetre sem

korlátozódik az emberre.

Kezdenek megjelenni olyan számítógépes
modellek, amelyek képesek ugyanerre.

Ez nem meglepő, hiszen az agy is
egy sajátságos számítógép.

Végül, az informatika

a mesterséges értelem létrehozására
tett kísérletként indult.

Jórészt azt modellezte le,

hogy miként tehetjük a gépeket okossá.

Most kezdjük lassacskán beváltani

az útkeresők bizonyos ígéreteit:

Turingét, Neumann Jánosét,

McCullochét és Pittsét.

Azt hiszem, az informatika
nem korlátozódik a könyvelésre,

a Candy Crush játékra vagy ilyesmikre.

A kezdetektől fogva agyunk
alapján modelleztük.

Hozzájárul agyunk jobb megértéséhez,

és képességei kiterjesztéséhez.

Köszönöm szépen.

(Taps)