Kiskoromban a végletekig kocka voltam.
Szerintem páran önök közül is.
(Nevetés)
Maga, uram, aki a leghangosabban
nevetett, talán még mindig az.
(Nevetés)
Észak-Texas poros pusztai
kisvárosában nőttem föl,
egy sheriff fiaként,
akinek lelkész volt az apja.
Rosszalkodni nem volt lehetőségem.
Szórakozásból differenciál- és
integrálszámítás-könyvet kezdtem olvasni.
(Nevetés)
Maguk is.
Így kezdtem lézert, számítógépet
és rakétamodellt építeni.
Aztán rákaptam arra, hogy a hálószobámban
rakéta-hajtóanyagot kontyvasszak..
Tudományos értelemben
ez nagyon rossz ötlet.
(Nevetés)
Akkortájt kezdték játszani
Stanley Kubrick 2001: Űrodüsszeia
c. filmjét a mozikban,
s életem mindörökre megváltozott.
Minden rettentően tetszett a filmben,
különösen a HAL 9000.
A HAL tudományos számítógép volt,
amelyet a Discovery űrhajó
Föld–Jupiter közötti útjának
irányítására terveztek.
A HAL ráadásul romlott jellemű volt,
mert végül az emberi életnél
többre értékelte a küldetést.
A HAL kitalált szereplő volt,
de azért hangot ad félelmünknek,
azon félelmünknek, hogy alá vagyunk vetve
bizonyos érzéketlen
mesterséges intelligenciának (MI),
aki közömbös emberi mivoltunk iránt.
Ezek a félelmek alaptalanok.
Olyan nevezetes időket élünk
most történelmünkben,
amelyben testünk és lelkünk korlátait
vagy tagadva vagy elfogadva
kiváló, gyönyörűen bonyolult
és kecses gépeket építünk,
amelyek képzeletünket túlszárnyalva
kibővítik emberi élményeinket.
Pályafutásom során,
amely a Légierő Akadémiától
az Űrparancsnokságig ívelt,
rendszermérnök lettem.
Nemrég a NASA
Mars-expedíciójával kapcsolatos
egyik mérnöki feladatba vontak be.
A holdutazáskor támaszkodhatunk
az expedíció Houstonból
történő irányítására,
amellyel leshetjük
az út minden mozzanatát.
De a Mars 200-szor messzebb van,
ezért a jelek átlag 13 perc alatt
jutnak el a Földről a Marsra.
Ha baj történik, szűk az idő.
Ezért az észszerű mérnöki megoldás
azt diktálja, hogy az utazás irányítását
az Orion űrhajón belül oldjuk meg.
Az utazáshoz kapcsolódik
egy másik elragadó ötlet:
vigyünk a Mars felszínére
humanoid robotokat,
még az ember odaérkezése előtt,
előbb a berendezések megépítésére,
majd hogy hasznos tagjai
legyenek a tudóscsoportnak.
Mérnöki szemszögből nézve
világossá vált számomra,
hogy okos, együttműködő,
szociálisan intelligens
mesterséges értelmet kell alkotnom.
Azaz, a HAL-hoz valami
nagyon hasonlót kell építenem,
de olyant, ami gyilkos hajlamoktól mentes.
(Nevetés)
Egy pillanat.
Tényleg lehetséges ilyen
mesterséges értelmet létrehozni?
A válasz: igen.
Ez több szempontból is
nehéz mérnöki feladat,
de az MI elemeivel
nem olyan, amit ne lehetne megoldani.
Alan Turing után szabadon:
Nem érdekel érző gép megépítése.
Nem építek HAL-t.
Csupán egyszerű agyat akarok,
ami az intelligencia illúzióját kelti.
A számítástechnika művészete
és tudománya hosszú utat tett meg
a HAL képernyőre kerüléséig,
és elképzelem, ha feltalálója,
dr. Chandra most itt lenne,
lenne hozzánk jó pár kérdése.
Meg tudjuk-e valósítani,
hogy milliók rendszerét
milliónyi gépre telepítve
elolvassuk az adatfolyamukat,
hogy előre megtippeljük
hibáikat és tetteiket?
Igen.
Képesek vagyunk-e emberi nyelven
beszélő gépeket építeni?
Igen.
Képesek vagyunk-e tárgyfölismerő,
érzelmeket azonosító,
érzelmüket kifejező, játékot játszó
és szájról olvasó gépeket építeni?
Igen.
Képesek vagyunk-e célokat kitűző,
célokat megvalósító és menet
közben tanuló gépeket építeni?
Igen.
Képesek vagyunk-e tudatelmélettel
bíró rendszereket építeni?
Ezt most tanuljuk.
Képesek vagyunk-e etikai és erkölcsi
alapokon álló gépeket építeni?
Ezt még meg kell tanulnunk.
Egyelőre fogadjuk el,
hogy űrutazásokra képesek
vagyunk megépíteni
ilyen mesterséges értelmet.
A következő kérdés:
kell-e félnünk tőle?
Minden új technológia
bizonyos mértékű felbolydulást okoz.
Az első kocsik megpillantásakor
az emberek azon siránkoztak,
hogy tönkremennek a családok.
Az első telefonok megjelenésekor
az emberek attól tartottak,
hogy kipusztul az emberi beszéd.
Amikor elterjedt a nyomtatott írás,
az emberek azt hitték,
elvész az emlékezőtehetségünk.
Bizonyos fokig ez mind igaz,
de az is tény, hogy az új technológiák
alapvetően az emberi élmények
kibővítését eredményezték.
Gondolkodjunk el ezen egy kicsit.
Nem félek az MI létrehozásától,
mert meg fogja testesíteni
némely értékünket.
Vegyük tekintetbe, hogy kognitív rendszert
építeni teljesen más,
mint hagyományos szoftveres rendszert.
Az MI-ket nem programozzuk,
hanem tanítjuk.
Hogy megtanítsam a virág fölismerését,
a rendszernek ezernyi
ilyesféle virágot mutatok.
Hogy megtanítsam játékot játszani...
Megtenném. Önök is.
Szeretem a virágokat. Tényleg.
Hogy megtanítsam a gépnek
a go játékot játszani,
ezernyi játszmát kell vele játszanom,
de közben tanítom is,
hogyan különböztesse meg
a jó játszmát a rossztól.
Ha mesterségesen intelligens
jogi segéderőt akarnék csinálni,
betanítanék neki néhány törvénykönyvet,
de egyben beleplántálnám
az irgalom s az igazságosság érzését,
amelyek hozzátartoznak a joghoz.
Tudományosan ezt hívjuk alapigazságnak,
s ez a fontos, ez a lényeg:
a gépek készítésekor
ezért tanítjuk nekik
az értékeink iránti fogékonyságot.
Ezért ugyanúgy bízom, ha nem jobban,
a mesterséges értelemben,
mint a jól képzett emberben.
De kérdezhetik, mi a helyzet
a gazemberekkel,
a gazdag civil szervezetekkel?
Nem tartok attól, hogy a MI
egy magányos farkas kezébe kerül.
Tény, hogy nem tudjuk magunkat megvédeni
a spontán erőszakos cselekedetektől,
de az a helyzet, hogy egy ilyen rendszer
alapos, kifinomult kiképzést igényel,
ami jócskán meghaladja
egy egyén erőforrásait.
Továbbá,
ez sokkal több, mint egy internetvírust
kibocsátani a világba;
ott csak leütünk egy billentyűt,
és hirtelen milliónyi helyen
és laptopon működésbe lépnek.
Ezek az állományok sokkal nagyobbak,
és biztos eljön az idejük.
Féljek-e, hogy ilyen mesterséges értelem
az egész emberiséget veszélyeztetheti?
Ha megnézzük a Mátrix, a Metropolis,
a Terminátor c. filmeket,
a Westworld c. filmsorozatot,
mind az efféle félelemről szólnak.
Nick Bostrom filozófus
a Szuperintelligencia c. könyvében
foglalkozik a témával:
figyelmeztet, hogy a szuper-intelligencia
nemcsak veszélyes lehet,
hanem az emberiség létét is fenyegetheti.
Dr. Bostrom fő érve,
hogy az ilyen rendszereknek végül
olyan telhetetlen információéhségük lehet,
hogy talán azt is megtanulják,
hogyan kell tanulni,
és végső fokon rájönnek,
hogy olyan céljaik lehetnek,
amelyek ellentétesek
az emberi szükségletekkel.
Dr. Bostromnak sok követője van.
Elon Musk
és Stephen Hawking is támogatja például.
E ragyogó elmék iránti
minden kötelező tiszteletem ellenére,
úgy vélem, hogy alapvetően tévednek.
Dr. Bostromnak számos,
megvizsgálásra érdemes érve van,
de most itt nincs időnk mindegyikre.
Dióhéjban, gondoljuk át a következőket:
a szuper tudás egészen más,
mint a szuper cselekedet.
A HAL akkor jelentett fenyegetést
a Discovery személyzetére,
amikor a Discoveryt
teljesen ő irányította.
Ehhez szuper intelligensnek kell lennie.
Ez világuralmat jelentene.
Aztán itt van a Skynet a Terminátorból,
amelyben szuper intelligencia van,
amely az emberi akaratot irányítja;
az egész világon minden készüléket
a Skynet irányít.
Ilyen a gyakorlatban
nem történhet meg.
Nem építünk olyan MI-t,
amely az időjárást
vagy a dagályt irányítja,
vagy nekünk, szeszélyes,
zűrös embereknek parancsol.
Továbbá, ha létezne is
ilyen mesterséges értelem,
meg kellene küzdenie
az emberi takarékoskodással,
és ezért harcolnia kellene
velünk az erőforrásokért.
Végül...
– meg ne mondják Sirinek –,
bármikor kikapcsolhatjuk őket.
(Nevetés)
A gépeinkkel közös
hihetetlen fejlődési úton járunk.
Ma emberekként nem olyanok vagyunk,
mint amilyenek egykor leszünk.
A szuper intelligencia megjelenése
miatti mai aggodalmak
több szempontból
veszélyes figyelemelterelés,
mert a számítástechnika fejlődése
már önmagában is
egy csomó emberi
és társadalmi kérdést vet föl,
amelyekbe be kell kapcsolódnunk.
Hogyan szervezzem
a legjobban a társadalmat,
ha a munkaerő-szükséglet csökken?
Hogyan érhető el megértés
és végezhető oktatás a Földön,
a különbségek tiszteletben tartásával?
Hogyan hosszabbítható meg és javítható
az élet kognitív egészségügy révén?
Hogyan használhatom a számítástechnikát,
hogy eljussunk a csillagokba?
Ez itt az izgató kérdés.
A számítástechnikában rejlő
lehetőségek kihasználása
az emberi élmények javítására
jelenleg csak
karnyújtásnyira van,
és ez csupán a kezdet.
Köszönöm szépen.
(Taps)