Létrehozhatunk olyan mesterséges intelligenciát [MI], amely felett nem veszítjük el az irányítást?

Rettegsz a szuperintelligens MI-tól? Jól teszed, állítja Sam Harris neurológus és filozófus -- és nem csupán elméleti síkon gondolja. Harris szerint olyan emberfeletti képességekkel rendelkező gépeket fogunk létrehozni, amik úgy bánnak majd velünk, ahogy mi bánunk a hangyákkal, az ebből fakadó aggályokra azonban még nem találtunk megoldást.

A hibás előérzetekről fogok beszélni,

amitől oly sokan szenvedünk.

Valóban hibás egy bizonyos fajta
veszély felismerése.

Felvázolok egy forgatókönyvet,

amelyről úgy gondolom egyszerre ijesztő,

és bekövetkezése egyben valószínűsíthető,

és ez a kettő együtt nem jó kombináció,

ahogy az bebizonyosodik majd.

Ennek ellenére a többségetek
az ijedtség helyett úgy érzi majd,

hogy amiről beszélek, egy menő dolog.

El fogom magyarázni,

hogy a mesterséges intelligencia fejlődése

miként semmisíthet meg bennünket.

Úgy vélem, nehezebb felismerni,
hogyan nem pusztítanak el minket,

vagy buzdítanak minket
önmagunk elpusztítására.

De ha kicsit is hasonlítasz rám,

rájössz majd, mennyire vicces dolog
ezeken elmélkedni.

És ez a fajta reakció
szintén a probléma része.

Értitek ugye? A reakció miatt
aggódnotok kellene.

Ha az előadással meg tudlak
győzni benneteket,

hogy a globális éhínség várhatóan
bekövetkezik majd,

klímaváltozás vagy
más katasztrófa hatására,

és hogy az unokátokra, vagy az ő unokáikra

nagy valószínűséggel hasonló élet vár,

magatokban nem gondolnátok:

"Érdekes.

Tetszik ez a TED előadás."

Az éhínség nem vicc.

A tudományos-fantasztikum általi halál
ezzel ellentétben vicces,

de ami engem aggaszt leginkább,
a MI jelenlegi állapotát illetően,

hogy képtelenek vagyunk
az előttünk álló veszélyekhez

megfelelő érzelmi reakciót párosítani.

Képtelen vagyok irányítani a reakciót,
pedig én tartom az előadást.

Olyan, mintha két ajtó előtt állnánk.

Az egyes számú ajtó mögött

leállunk az intelligens gépek
fejlesztésével.

Valamilyen okból a hardverek és
szoftverek fejlesztése leáll.

Egy percre kérlek, gondoljatok bele,
miért történne ilyesmi.

Tudván, mekkora érték rejlik
az intelligenciában és automatizálásban,

ha mód van rá, folytatni fogjuk
a technológiai fejlesztéseket.

Mi állhatna az utunkba?

Egy mindent elsöprő nukleáris háború?

Egy globális járvány?

Egy aszteroida becsapódása?

Justin Biebert megválasztják elnöknek?

(Nevetés)

Bármi legyen is, az általunk ismert
civilizációt kellene megsemmisítse.

Képzeld el, mennyire borzasztónak
kellene lennie ahhoz,

hogy leálljunk a technológiai
fejlesztésekkel,

egyik nemzedék a másik után,

mindörökre.

Fogalmazhatnánk úgy is,
hogy ez a legrosszabb,

ami valaha történhet
az emberiség történelmében.

Így az egyetlen alternatíva,

és ez rejlik a kettes számú ajtó mögött,

hogy folytatjuk
az intelligens gépek fejlesztését,

egyik évről a másikra.

És elérkezünk a ponthoz, amikor nálunk
okosabb gépeket hozunk létre.

És amint létrehoztuk
a minket meghaladó okos gépeket,

megkezdik majd önmaguk fejlesztését.

És ezzel megkockáztatjuk azt,
amit IJ Good matematikus

úgy hívott: "intelligencia-robbanás".

Amikor a fejlődésük
kicsúszik a kezünk közül.

Sokszor kifigurázzák, mint én is itt,

miként rettegünk a rosszindulatú robotok

támadásától.

De nem ez a legvalószínűbb forgatókönyv.

A gépek nem fognak egyik pillanatról
a másikra gonosszá válni.

A valós aggály abban rejlik,
hogy olyan gépeket hozunk létre,

melyek meghaladják a mi képességeinket,

és a legapróbb összeférhetetlenség
az ő és saját céljaink között

a végünket jelentheti.

Csak gondoljatok bele, mi hogyan
viszonyulunk a hangyákhoz.

Nem utáljuk őket.

Nem akarjuk szándékosan bántalmazni őket.

Sőt, néha megóvásukra
áldozatokat is hozunk értük.

Kikerüljük őket a járdán.

De amint összeütközik a jelenlétük

a céljaink megvalósításával,

mint például egy ilyen
épület felhúzásakor,

szemrebbenés nélkül kiírtjuk valamennyit.

A gond az, hogy egy napon
olyan gépeket hozunk létre,

amelyek, akár tudatosak akár nem,

hasonlóképpen viszonyulnak majd hozzánk.

Gondolom, ez sokatok számára,
elképzelhetetlennek tűnik.

Fogadni mernék, hogy egyesek a MI
lehetőségét is megkérdőjelezik,

mintsem elkerülhetetlennek véljék.

De akkor valami mégsem stimmel
a következő feltevésekkel.

Amiből mindössze csak három van.

Az intelligencia a fizikai rendszerekben
feldolgozott információból származik.

Tulajdonképpen, ez kicsivel
több puszta feltevésnél.

A közvetlen intelligenciát
már beépítettük a gépeinkbe,

mely gépek többsége már most

emberfeletti teljesítményekre képes.

Azt is tudjuk, hogy az anyag önmagában

életre tudja hívni az úgynevezett
"alap intelligenciát,"

a különböző tartományokon belüli
rugalmas gondolkodás képességét,

hiszen saját agyunk is
képes volt rá, nem igaz?

Mivel itt legbelül csak atomok vannak,

és amíg atomokból álló
rendszereket építünk,

melyek egyre intelligensebb
viselkedést mutatnak,

akkor egyszer, hacsak nem lépünk közbe,

akkor egyszer megépítjük
az alap intelligenciával

rendelkező gépeket.

Mindennél fontosabb azonban felismerni,
hogy a fejlődés üteme lényegtelen,

mert a fejlődés önmagában
elegendő ahhoz, hogy célba érjünk.

Nincs szükségünk Moore-törvényre,
sem exponenciális növekedésre.

Csak haladnunk kell tovább.

A második feltevés, hogy haladunk tovább.

Egyre intelligensebb gépeket hozunk létre.

És ami az intelligencia értékét illeti --

az intelligencia, vagy a forrása
a számunkra értékesnek,

vagy megóvja számunkra mindazt,
amit értékesnek tartunk.

Az egyik legértékesebb erőforrásunk.

Szóval megakarjuk alkotni.

Vannak problémák, melyeket
haladéktalanul meg kell oldanunk.

Meg akarjuk gyógyítani az Alzheimert,
a rákot és hasonló betegségeket.

Érteni akarjuk a gazdasági rendszereket.
Javítani akarjuk a klímaismereteinket.

Amint mód van rá, megtesszük ezeket.

A vonat már elhagyta az állomást,
és nincs fék, amit behúzhatnánk.

Végül is nem vagyunk
az intelligencia tetőfokán,

de még csak a közelében sem járunk.

És ez itt a lényeges momentum.

Ez teszi a helyzetünket
különösen bizonytalanná,

és pont ezért megbízhatatlanok
a veszélyhez fűződő előérzeteink.

Képzeljük el a valaha élt
legokosabb embert.

Minden bizonnyal Neumann János
szerepel mindenki listáján.

Ahogy Neumann hatni tudott
a körülötte lévő emberekre,

többek között minden idők legjobb
matematikusaira és fizikusaira,

annak bárki utánajárhat.

Ha a róla szóló történeteknek
csak a fele is igaz,

akkor kétségkívül

ő a világon valaha élt legokosabb ember.

Képzeljük el az intelligencia tartományát.

Itt van Neumann János.

És itt vagytok ti és én.

Itt pedig egy csirke.

(Nevetés)

Elnézést, egy kiscsirke.

(Nevetés)

Nem akarom ezt a beszédet
még lesújtóbbá tenni.

(Nevetés)

Valószínűsíthető,
hogy az intelligencia tartománya

sokkalta tágabb,
mint ahogy azt gondolnánk,

és ha magunknál intelligensebb
gépeket építünk,

akkor azok valószínűleg olyan
területeket tárnak fel,

melyeket elképzelni sem tudunk,

és ott múlnak felül minket,
ahol nem is sejtjük.

Fontos belátni, hogy ez pusztán
a sebességet tekintve már igaz.

Ugye? Mi lenne, ha olyan
szuperintelligens MI-t hoznánk létre,

ami semmivel sem okosabb
egy hétköznapi kutatócsoportnál

az MIT-n vagy a Stanford Egyetemen.

Az elektronikus áramkörök
milliószor gyorsabban működnek,

mint a biokémiaiak,

ezért ez a gép milliószor gyorsabb
gondolkodásra lesz képes,

mind azok az elmék, akik ezt létrehozták.

Szóval életre kelted,
és alig egy hét alatt

20 000 évnyi emberi
szellemi munkát végez el.

És ezt hétről hétre megismétli.

Képtelenség felfogni,
nemhogy kordában tartani

egy elmét, ami ilyen mértékű
fejlődésre képes.

A másik, ami aggodalomra ad okot,
őszintén szólva,

ez a legjobb, ami megtörténhet velünk.

Képzeljük el, hogy olyan
szuperintelligens MI-t alkotunk,

ami nem rejt biztonsági kockázatokat.

Rögtön, elsőre létrehozzuk
a legtökéletesebb változatát.

Mintha kezünkbe kapnánk a mindentudást,

ami pont úgy működik, ahogy kell.

Ez a gép lenne a leghatékonyabb
munkaerő-helyettesítő berendezés.

Létrehozná a gépet,
amely létrehozná azt a gépet,

amely bármilyen fizikai munkát elvégez,

napenergia hajtja,

és költségét csak az anyagköltség okozza.

Az emberi robotolás végéről beszélünk.

De ez egyben a szellemi
munka végét is jelenti.

Vajon ilyen esetben mit tennének
a hozzánk hasonló emberszabásúak?

Nos, bármikor frizbizhetnénk,
vagy masszírozhatnánk egymást.

Jöhet egy kis LSD,
pár extravagáns ruhadarab,

és az egész világ
Burning Manné változhatna.

(Nevetés)

Ez tényleg jó mókának hangzik,

de tegyétek fel magatoknak a kérdést,

hogy mi történne a jelenlegi
gazdasági és politika rendszerekkel.

Azt hiszem, szemtanúi lehetnénk

egy soha nem látott mértékű

jóléti aránytalanságnak
és munkanélküliségnek.

Hacsak nem állítanánk
ezt az újfajta jólétet

az emberiség szolgálatába,

akkor pár milliárdos villogna
az üzleti magazinok címlapján,

miközben a világ többi
része éhen pusztulna.

Vajon mit tennének
az oroszok vagy a kínaiak,

ha megtudnák, hogy az egyik
Szilícium-völgyben lévő cég

bevetni készül a szuperintelligens MI-t?

Ez a gép a hadviselésre is képes lenne,

akár földön, akár a kibertérben,

soha nem tapasztalt erőfölénnyel.

Ez a győztes-mindent-visz forgatókönyv.

Ezt a versenyt hat hónappal beelőzni,

minimum

500 000 év szükséges.

Ezért már az ilyen áttörésről
szóló leghalványabb pletyka is

fajunk totális megvadulásába torkollhat.

A legijesztőbb dolog azonban

- az én meglátásom szerint -
jelen pillanatban az,

amit az MI-kutatók mondogatnak,

amikor meg akarnak nyugtatni minket.

Az aggodalmakra adott
leggyakoribb válaszuk az idő.

Annyira messze van még,
hát nem tudjátok.

50 vagy 100 év is eltelik addig.

Az egyik kutató szerint:

"A MI biztonsága miatt aggódni olyan,

mintha a túlnépesedés
miatt aggódnánk a Marson."

Ez a szilícium-völgyi változata annak,

hogy "ne törd ezen a szép kis buksidat".

(Nevetés)

Senkinek nem tűnik fel,

hogy az időhorizontra való hivatkozás,

totál nem passzol a képbe.

Ha az intelligencia csupán
az információ feldolgozásából áll,

és mi folytatjuk a gépek fejlesztését,

akkor létre fogunk hozni
valamiféle szuperintelligenciát.

És fogalmunk sincs mennyi
időbe telik majd megteremteni

a biztonságos kivitelezés feltételeit.

Hadd ismételjem meg:

Fogalmunk sincs mennyi
időbe telik majd megteremteni

a biztonságos kivitelezés feltételeit.

Ha nem tűnt volna fel, az elmúlt
50 év sem olyan, mint az előzőek.

Ez az 50 év hónapokra bontva.

Ilyen régóta létezik az iPhone.

Ilyen régóta megy a tévében a
"Simpson család".

50 év nem egy hosszú idő,

hogy elérkezzünk fajunk egyik
legnagyobb kihívásához.

Ismétlem: képtelenek vagyunk
megfelelő érzelmi reakcióval kezelni,

ami minden kétséget kizáróan előttünk áll.

Stuart Russell számítógéptudósnak
van egy szép analógiája.

Azt mondta: Képzeljük el, hogy kapunk
egy üzenetet egy idegen civilizációtól,

amiben ez áll:

"Földi népség,

50 év múlva érkezünk.

Készüljetek fel!"

Elkezdenénk visszaszámlálni,
amíg meg nem érkezik az anyahajó?

Sokkal sürgetőbbnek éreznénk, mint most.

Az aggodalmakra adott másik válasz,

hogy ezek a gépek
osztják a mi nézeteinket,

mivel ők a mi saját kiterjesztéseink.

Az agyunkba lesznek ültetve,

aminek folytán limbikus
rendszerükké válunk.

Egyetlen pillanatra gondoljunk csak bele,

azt javasolják,

hogy az egyetlen biztonságos
és megbízható módszer az,

ha ezt a technológiát közvetlenül
az agyunkba ültetjük be.

Nos, lehet, hogy az egyetlen
biztonságos és megbízható módszer,

de a technológiák biztonsági kockázatait

alaposan tesztelni kéne,
mielőtt bármit bárki fejébe ültetnék.

(Nevetés)

A mélyebb probléma az, hogy egy
szuperintelligens MI létrehozása,

már önmagában is egyszerűbbnek bizonyul,

mint létrehozni a szuperintelligens MI-t,

és megalkotni hozzá
a szükséges idegtudományt,

amely lehetővé teszi a saját elménkkel
való gond nélküli összekapcsolását.

És mivel az ezen dolgozó
vállalatok és kormányok

vetélytársként tekintenek egymásra,

mondván, hogy a verseny győzelme
egyben a világ feletti győzelem is,

hacsak nem rombolják le
a következő pillanatban,

akkor valószínűleg a könnyebb megoldás

fog előbb megvalósulni.

Nos, sajnos a problémára
nem tudom a megoldást.

Csak javasolni tudom, hogy minél
többen gondolkodjunk el ezen.

Úgy vélem, szükségünk lenne
a mesterséges intelligencia

Manhattan-projektjére.

Nem a megépítéséhez, mert azt hiszem,
ez elkerülhetetlen,

hanem hogy megértsük, hogyan kerüljük el
a fegyverkezési versenyt,

és hozzuk létre úgy, hogy összhangban
legyen az érdekeinkkel.

Ha szuperintelligens MI-ról beszélünk,

amely önmaga megváltoztatására is képes,

akkor egyetlen esélyünk van a kezdeti
feltételek helyes meghatározására,

és még akkor is szükség lesz az ezzel járó

gazdasági és politikai
következmények elfogadására.

És amint elfogadjuk,

hogy az intelligencia forrása az
információ feldolgozásában rejlik,

és hogy az intelligencia alapja
egy megfelelő számítógépes rendszer,

és elfogadjuk, hogy ezeket a rendszereket
folyamatosan fejleszteni fogjuk,

és hogy a megismerés horizontja
messze meghaladja

jelenlegi tudásunkat,

akkor be kell majd látnunk,

hogy valamiféle isten
megalkotása felé haladunk.

Most van itt a pillanat,

hogy olyan istent alkossunk,
amellyel együtt is tudunk élni.

Nagyon köszönöm.

(Taps)