Kiskoromban a végletekig kocka voltam. Szerintem páran önök közül is. (Nevetés) Maga, uram, aki a leghangosabban nevetett, talán még mindig az. (Nevetés) Észak-Texas poros pusztai kisvárosában nőttem föl, egy sheriff fiaként, akinek lelkész volt az apja. Rosszalkodni nem volt lehetőségem. Szórakozásból differenciál- és integrálszámítás-könyvet kezdtem olvasni. (Nevetés) Maguk is. Így kezdtem lézert, számítógépet és rakétamodellt építeni. Aztán rákaptam arra, hogy a hálószobámban rakéta-hajtóanyagot kontyvasszak.. Tudományos értelemben ez nagyon rossz ötlet. (Nevetés) Akkortájt kezdték játszani Stanley Kubrick 2001: Űrodüsszeia c. filmjét a mozikban, s életem mindörökre megváltozott. Minden rettentően tetszett a filmben, különösen a HAL 9000. A HAL tudományos számítógép volt, amelyet a Discovery űrhajó Föld–Jupiter közötti útjának irányítására terveztek. A HAL ráadásul romlott jellemű volt, mert végül az emberi életnél többre értékelte a küldetést. A HAL kitalált szereplő volt, de azért hangot ad félelmünknek, azon félelmünknek, hogy alá vagyunk vetve bizonyos érzéketlen mesterséges intelligenciának (MI), aki közömbös emberi mivoltunk iránt. Ezek a félelmek alaptalanok. Olyan nevezetes időket élünk most történelmünkben, amelyben testünk és lelkünk korlátait vagy tagadva vagy elfogadva kiváló, gyönyörűen bonyolult és kecses gépeket építünk, amelyek képzeletünket túlszárnyalva kibővítik emberi élményeinket. Pályafutásom során, amely a Légierő Akadémiától az Űrparancsnokságig ívelt, rendszermérnök lettem. Nemrég a NASA Mars-expedíciójával kapcsolatos egyik mérnöki feladatba vontak be. A holdutazáskor támaszkodhatunk az expedíció Houstonból történő irányítására, amellyel leshetjük az út minden mozzanatát. De a Mars 200-szor messzebb van, ezért a jelek átlag 13 perc alatt jutnak el a Földről a Marsra. Ha baj történik, szűk az idő. Ezért az észszerű mérnöki megoldás azt diktálja, hogy az utazás irányítását az Orion űrhajón belül oldjuk meg. Az utazáshoz kapcsolódik egy másik elragadó ötlet: vigyünk a Mars felszínére humanoid robotokat, még az ember odaérkezése előtt, előbb a berendezések megépítésére, majd hogy hasznos tagjai legyenek a tudóscsoportnak. Mérnöki szemszögből nézve világossá vált számomra, hogy okos, együttműködő, szociálisan intelligens mesterséges értelmet kell alkotnom. Azaz, a HAL-hoz valami nagyon hasonlót kell építenem, de olyant, ami gyilkos hajlamoktól mentes. (Nevetés) Egy pillanat. Tényleg lehetséges ilyen mesterséges értelmet létrehozni? A válasz: igen. Ez több szempontból is nehéz mérnöki feladat, de az MI elemeivel nem olyan, amit ne lehetne megoldani. Alan Turing után szabadon: Nem érdekel érző gép megépítése. Nem építek HAL-t. Csupán egyszerű agyat akarok, ami az intelligencia illúzióját kelti. A számítástechnika művészete és tudománya hosszú utat tett meg a HAL képernyőre kerüléséig, és elképzelem, ha feltalálója, dr. Chandra most itt lenne, lenne hozzánk jó pár kérdése. Meg tudjuk-e valósítani, hogy milliók rendszerét milliónyi gépre telepítve elolvassuk az adatfolyamukat, hogy előre megtippeljük hibáikat és tetteiket? Igen. Képesek vagyunk-e emberi nyelven beszélő gépeket építeni? Igen. Képesek vagyunk-e tárgyfölismerő, érzelmeket azonosító, érzelmüket kifejező, játékot játszó és szájról olvasó gépeket építeni? Igen. Képesek vagyunk-e célokat kitűző, célokat megvalósító és menet közben tanuló gépeket építeni? Igen. Képesek vagyunk-e tudatelmélettel bíró rendszereket építeni? Ezt most tanuljuk. Képesek vagyunk-e etikai és erkölcsi alapokon álló gépeket építeni? Ezt még meg kell tanulnunk. Egyelőre fogadjuk el, hogy űrutazásokra képesek vagyunk megépíteni ilyen mesterséges értelmet. A következő kérdés: kell-e félnünk tőle? Minden új technológia bizonyos mértékű felbolydulást okoz. Az első kocsik megpillantásakor az emberek azon siránkoztak, hogy tönkremennek a családok. Az első telefonok megjelenésekor az emberek attól tartottak, hogy kipusztul az emberi beszéd. Amikor elterjedt a nyomtatott írás, az emberek azt hitték, elvész az emlékezőtehetségünk. Bizonyos fokig ez mind igaz, de az is tény, hogy az új technológiák alapvetően az emberi élmények kibővítését eredményezték. Gondolkodjunk el ezen egy kicsit. Nem félek az MI létrehozásától, mert meg fogja testesíteni némely értékünket. Vegyük tekintetbe, hogy kognitív rendszert építeni teljesen más, mint hagyományos szoftveres rendszert. Az MI-ket nem programozzuk, hanem tanítjuk. Hogy megtanítsam a virág fölismerését, a rendszernek ezernyi ilyesféle virágot mutatok. Hogy megtanítsam játékot játszani... Megtenném. Önök is. Szeretem a virágokat. Tényleg. Hogy megtanítsam a gépnek a go játékot játszani, ezernyi játszmát kell vele játszanom, de közben tanítom is, hogyan különböztesse meg a jó játszmát a rossztól. Ha mesterségesen intelligens jogi segéderőt akarnék csinálni, betanítanék neki néhány törvénykönyvet, de egyben beleplántálnám az irgalom s az igazságosság érzését, amelyek hozzátartoznak a joghoz. Tudományosan ezt hívjuk alapigazságnak, s ez a fontos, ez a lényeg: a gépek készítésekor ezért tanítjuk nekik az értékeink iránti fogékonyságot. Ezért ugyanúgy bízom, ha nem jobban, a mesterséges értelemben, mint a jól képzett emberben. De kérdezhetik, mi a helyzet a gazemberekkel, a gazdag civil szervezetekkel? Nem tartok attól, hogy a MI egy magányos farkas kezébe kerül. Tény, hogy nem tudjuk magunkat megvédeni a spontán erőszakos cselekedetektől, de az a helyzet, hogy egy ilyen rendszer alapos, kifinomult kiképzést igényel, ami jócskán meghaladja egy egyén erőforrásait. Továbbá, ez sokkal több, mint egy internetvírust kibocsátani a világba; ott csak leütünk egy billentyűt, és hirtelen milliónyi helyen és laptopon működésbe lépnek. Ezek az állományok sokkal nagyobbak, és biztos eljön az idejük. Féljek-e, hogy ilyen mesterséges értelem az egész emberiséget veszélyeztetheti? Ha megnézzük a Mátrix, a Metropolis, a Terminátor c. filmeket, a Westworld c. filmsorozatot, mind az efféle félelemről szólnak. Nick Bostrom filozófus a Szuperintelligencia c. könyvében foglalkozik a témával: figyelmeztet, hogy a szuper-intelligencia nemcsak veszélyes lehet, hanem az emberiség létét is fenyegetheti. Dr. Bostrom fő érve, hogy az ilyen rendszereknek végül olyan telhetetlen információéhségük lehet, hogy talán azt is megtanulják, hogyan kell tanulni, és végső fokon rájönnek, hogy olyan céljaik lehetnek, amelyek ellentétesek az emberi szükségletekkel. Dr. Bostromnak sok követője van. Elon Musk és Stephen Hawking is támogatja például. E ragyogó elmék iránti minden kötelező tiszteletem ellenére, úgy vélem, hogy alapvetően tévednek. Dr. Bostromnak számos, megvizsgálásra érdemes érve van, de most itt nincs időnk mindegyikre. Dióhéjban, gondoljuk át a következőket: a szuper tudás egészen más, mint a szuper cselekedet. A HAL akkor jelentett fenyegetést a Discovery személyzetére, amikor a Discoveryt teljesen ő irányította. Ehhez szuper intelligensnek kell lennie. Ez világuralmat jelentene. Aztán itt van a Skynet a Terminátorból, amelyben szuper intelligencia van, amely az emberi akaratot irányítja; az egész világon minden készüléket a Skynet irányít. Ilyen a gyakorlatban nem történhet meg. Nem építünk olyan MI-t, amely az időjárást vagy a dagályt irányítja, vagy nekünk, szeszélyes, zűrös embereknek parancsol. Továbbá, ha létezne is ilyen mesterséges értelem, meg kellene küzdenie az emberi takarékoskodással, és ezért harcolnia kellene velünk az erőforrásokért. Végül... – meg ne mondják Sirinek –, bármikor kikapcsolhatjuk őket. (Nevetés) A gépeinkkel közös hihetetlen fejlődési úton járunk. Ma emberekként nem olyanok vagyunk, mint amilyenek egykor leszünk. A szuper intelligencia megjelenése miatti mai aggodalmak több szempontból veszélyes figyelemelterelés, mert a számítástechnika fejlődése már önmagában is egy csomó emberi és társadalmi kérdést vet föl, amelyekbe be kell kapcsolódnunk. Hogyan szervezzem a legjobban a társadalmat, ha a munkaerő-szükséglet csökken? Hogyan érhető el megértés és végezhető oktatás a Földön, a különbségek tiszteletben tartásával? Hogyan hosszabbítható meg és javítható az élet kognitív egészségügy révén? Hogyan használhatom a számítástechnikát, hogy eljussunk a csillagokba? Ez itt az izgató kérdés. A számítástechnikában rejlő lehetőségek kihasználása az emberi élmények javítására jelenleg csak karnyújtásnyira van, és ez csupán a kezdet. Köszönöm szépen. (Taps)