Kiskoromban a végletekig kocka voltam.
Szerintem páran önök közül is.
(Nevetés)
Maga, uram, aki a leghangosabban nevetett, talán még mindig az.
(Nevetés)
Észak-Texas poros pusztai kisvárosában nőttem föl,
egy sheriff fiaként, akinek lelkész volt az apja.
Rosszalkodni nem volt lehetőségem.
Szórakozásból differenciál- és integrálszámítás-könyvet kezdtem olvasni.
(Nevetés)
Maguk is.
Így kezdtem lézert, számítógépet és rakétamodellt építeni.
Aztán rákaptam arra, hogy a hálószobámban rakéta-hajtóanyagot kontyvasszak..
Tudományos értelemben
ez nagyon rossz ötlet.
(Nevetés)
Akkortájt kezdték játszani
Stanley Kubrick 2001: Űrodüsszeia c. filmjét a mozikban,
s életem mindörökre megváltozott.
Minden rettentően tetszett a filmben,
különösen a HAL 9000.
A HAL tudományos számítógép volt,
amelyet a Discovery űrhajó Föld–Jupiter közötti útjának
irányítására terveztek.
A HAL ráadásul romlott jellemű volt,
mert végül az emberi életnél többre értékelte a küldetést.
A HAL kitalált szereplő volt,
de azért hangot ad félelmünknek,
azon félelmünknek, hogy alá vagyunk vetve
bizonyos érzéketlen mesterséges intelligenciának (MI),
aki közömbös emberi mivoltunk iránt.
Ezek a félelmek alaptalanok.
Olyan nevezetes időket élünk
most történelmünkben,
amelyben testünk és lelkünk korlátait vagy tagadva vagy elfogadva
kiváló, gyönyörűen bonyolult
és kecses gépeket építünk,
amelyek képzeletünket túlszárnyalva
kibővítik emberi élményeinket.
Pályafutásom során, amely a Légierő Akadémiától
az Űrparancsnokságig ívelt,
rendszermérnök lettem.
Nemrég a NASA Mars-expedíciójával kapcsolatos
egyik mérnöki feladatba vontak be.
A holdutazáskor támaszkodhatunk
az expedíció Houstonból történő irányítására,
amellyel leshetjük az út minden mozzanatát.
De a Mars 200-szor messzebb van,
ezért a jelek átlag 13 perc alatt
jutnak el a Földről a Marsra.
Ha baj történik, szűk az idő.
Ezért az észszerű mérnöki megoldás
azt diktálja, hogy az utazás irányítását
az Orion űrhajón belül oldjuk meg.
Az utazáshoz kapcsolódik egy másik elragadó ötlet:
vigyünk a Mars felszínére humanoid robotokat,
még az ember odaérkezése előtt,
előbb a berendezések megépítésére,
majd hogy hasznos tagjai legyenek a tudóscsoportnak.
Mérnöki szemszögből nézve
világossá vált számomra,
hogy okos, együttműködő,
szociálisan intelligens mesterséges értelmet kell alkotnom.
Azaz, a HAL-hoz valami nagyon hasonlót kell építenem,
de olyant, ami gyilkos hajlamoktól mentes.
(Nevetés)
Egy pillanat.
Tényleg lehetséges ilyen mesterséges értelmet létrehozni?
A válasz: igen.
Ez több szempontból is
nehéz mérnöki feladat,
de az MI elemeivel
nem olyan, amit ne lehetne megoldani.
Alan Turing után szabadon:
Nem érdekel érző gép megépítése.
Nem építek HAL-t.
Csupán egyszerű agyat akarok,
ami az intelligencia illúzióját kelti.
A számítástechnika művészete és tudománya hosszú utat tett meg
a HAL képernyőre kerüléséig,
és elképzelem, ha feltalálója, dr. Chandra most itt lenne,
lenne hozzánk jó pár kérdése.
Meg tudjuk-e valósítani,
hogy milliók rendszerét milliónyi gépre telepítve
elolvassuk az adatfolyamukat,
hogy előre megtippeljük hibáikat és tetteiket?
Igen.
Képesek vagyunk-e emberi nyelven beszélő gépeket építeni?
Igen.
Képesek vagyunk-e tárgyfölismerő, érzelmeket azonosító,
érzelmüket kifejező, játékot játszó és szájról olvasó gépeket építeni?
Igen.
Képesek vagyunk-e célokat kitűző,
célokat megvalósító és menet közben tanuló gépeket építeni?
Igen.
Képesek vagyunk-e tudatelmélettel bíró rendszereket építeni?
Ezt most tanuljuk.
Képesek vagyunk-e etikai és erkölcsi alapokon álló gépeket építeni?
Ezt még meg kell tanulnunk.
Egyelőre fogadjuk el,
hogy űrutazásokra képesek vagyunk megépíteni
ilyen mesterséges értelmet.
A következő kérdés:
kell-e félnünk tőle?
Minden új technológia
bizonyos mértékű felbolydulást okoz.
Az első kocsik megpillantásakor
az emberek azon siránkoztak, hogy tönkremennek a családok.
Az első telefonok megjelenésekor
az emberek attól tartottak, hogy kipusztul az emberi beszéd.
Amikor elterjedt a nyomtatott írás,
az emberek azt hitték, elvész az emlékezőtehetségünk.
Bizonyos fokig ez mind igaz,
de az is tény, hogy az új technológiák
alapvetően az emberi élmények
kibővítését eredményezték.
Gondolkodjunk el ezen egy kicsit.
Nem félek az MI létrehozásától,
mert meg fogja testesíteni némely értékünket.
Vegyük tekintetbe, hogy kognitív rendszert építeni teljesen más,
mint hagyományos szoftveres rendszert.
Az MI-ket nem programozzuk, hanem tanítjuk.
Hogy megtanítsam a virág fölismerését,
a rendszernek ezernyi ilyesféle virágot mutatok.
Hogy megtanítsam játékot játszani...
Megtenném. Önök is.
Szeretem a virágokat. Tényleg.
Hogy megtanítsam a gépnek a go játékot játszani,
ezernyi játszmát kell vele játszanom,
de közben tanítom is,
hogyan különböztesse meg a jó játszmát a rossztól.
Ha mesterségesen intelligens jogi segéderőt akarnék csinálni,
betanítanék neki néhány törvénykönyvet,
de egyben beleplántálnám
az irgalom s az igazságosság érzését, amelyek hozzátartoznak a joghoz.
Tudományosan ezt hívjuk alapigazságnak,
s ez a fontos, ez a lényeg:
a gépek készítésekor
ezért tanítjuk nekik az értékeink iránti fogékonyságot.
Ezért ugyanúgy bízom, ha nem jobban,
a mesterséges értelemben, mint a jól képzett emberben.
De kérdezhetik, mi a helyzet
a gazemberekkel,
a gazdag civil szervezetekkel?
Nem tartok attól, hogy a MI egy magányos farkas kezébe kerül.
Tény, hogy nem tudjuk magunkat megvédeni a spontán erőszakos cselekedetektől,
de az a helyzet, hogy egy ilyen rendszer
alapos, kifinomult kiképzést igényel,
ami jócskán meghaladja egy egyén erőforrásait.
Továbbá,
ez sokkal több, mint egy internetvírust kibocsátani a világba;
ott csak leütünk egy billentyűt, és hirtelen milliónyi helyen
és laptopon működésbe lépnek.
Ezek az állományok sokkal nagyobbak,
és biztos eljön az idejük.
Féljek-e, hogy ilyen mesterséges értelem
az egész emberiséget veszélyeztetheti?
Ha megnézzük a Mátrix, a Metropolis,
a Terminátor c. filmeket, a Westworld c. filmsorozatot,
mind az efféle félelemről szólnak.
Nick Bostrom filozófus a Szuperintelligencia c. könyvében
foglalkozik a témával:
figyelmeztet, hogy a szuper-intelligencia nemcsak veszélyes lehet,
hanem az emberiség létét is fenyegetheti.
Dr. Bostrom fő érve,
hogy az ilyen rendszereknek végül
olyan telhetetlen információéhségük lehet,
hogy talán azt is megtanulják, hogyan kell tanulni,
és végső fokon rájönnek, hogy olyan céljaik lehetnek,
amelyek ellentétesek az emberi szükségletekkel.
Dr. Bostromnak sok követője van.
Elon Musk és Stephen Hawking is támogatja például.
E ragyogó elmék iránti
minden kötelező tiszteletem ellenére,
úgy vélem, hogy alapvetően tévednek.
Dr. Bostromnak számos, megvizsgálásra érdemes érve van,
de most itt nincs időnk mindegyikre.
Dióhéjban, gondoljuk át a következőket:
a szuper tudás egészen más, mint a szuper cselekedet.
A HAL akkor jelentett fenyegetést a Discovery személyzetére,
amikor a Discoveryt teljesen ő irányította.
Ehhez szuper intelligensnek kell lennie.
Ez világuralmat jelentene.
Aztán itt van a Skynet a Terminátorból,
amelyben szuper intelligencia van,
amely az emberi akaratot irányítja;
az egész világon minden készüléket a Skynet irányít.
Ilyen a gyakorlatban
nem történhet meg.
Nem építünk olyan MI-t, amely az időjárást
vagy a dagályt irányítja,
vagy nekünk, szeszélyes, zűrös embereknek parancsol.
Továbbá, ha létezne is ilyen mesterséges értelem,
meg kellene küzdenie az emberi takarékoskodással,
és ezért harcolnia kellene velünk az erőforrásokért.
Végül...
– meg ne mondják Sirinek –,
bármikor kikapcsolhatjuk őket.
(Nevetés)
A gépeinkkel közös
hihetetlen fejlődési úton járunk.
Ma emberekként nem olyanok vagyunk,
mint amilyenek egykor leszünk.
A szuper intelligencia megjelenése miatti mai aggodalmak
több szempontból veszélyes figyelemelterelés,
mert a számítástechnika fejlődése már önmagában is
egy csomó emberi és társadalmi kérdést vet föl,
amelyekbe be kell kapcsolódnunk.
Hogyan szervezzem a legjobban a társadalmat,
ha a munkaerő-szükséglet csökken?
Hogyan érhető el megértés és végezhető oktatás a Földön,
a különbségek tiszteletben tartásával?
Hogyan hosszabbítható meg és javítható az élet kognitív egészségügy révén?
Hogyan használhatom a számítástechnikát,
hogy eljussunk a csillagokba?
Ez itt az izgató kérdés.
A számítástechnikában rejlő lehetőségek kihasználása
az emberi élmények javítására
jelenleg csak
karnyújtásnyira van,
és ez csupán a kezdet.
Köszönöm szépen.
(Taps)