Ne plašite se superinteligentne veštačke inteligencije

Nova tehnologija stvara nove nespokoje, kaže naučnik i filozof Grejdi Buč, ali ne bi trebalo da strepimo od svemoćne, bezosećajne veštačke inteligencije. Buč ublažava naše najgore strahove (uzrokovane naučnom fantastikom) o superinteligentnim kompjuterima tako što nam objašnjava kako ćemo ih podučavati, a ne programirati, da dele naše vrednosti. Umesto da se plašimo malo verovatne egzistencijalne pretnje, tera nas da razmislimo kako će veštačka inteligencija da unapredi ljudski život.

Kad sam bio dete,
bio sam štreber do koske.

Mislim da su i neki od vas to bili.

(Smeh)

A vi, gospodine, koji se najglasnije
smejete, verovatno ste to i dalje.

(Smeh)

Odrastao sam u gradiću
u prašnjavim ravnicama severnog Teksasa

kao sin šerifa koji je sin pastora.

Upadanje u nevolju nije dolazilo u obzir.

Te sam iz zabave počeo da čitam
knjige o proračunu.

(Smeh)

I vi ste.

Zbog toga sam sagradio laser,
kompjuter i modele raketa,

a to me je navelo da napravim
raketno gorivo u spavaćoj sobi.

Sad, u naučnom smislu,

ovo nazivamo veoma lošom idejom.

(Smeh)

Otprilike u to vreme,

u bioskope je stigla "Odiseja u svemiru:
2001" Stenlija Kjubrika,

i moj život je izmenjen zauvek.

Sve mi se sviđalo kod tog filma,

naročito HAL 9000.

Sad, HAL je bio svesni kompjuter

osmišljen da vodi kosmički brod Diskaveri

od Zemlje do Jupitera.

HAL je takođe bio faličan lik

jer je na kraju odabrao
vrednost misije umesto ljudskog života.

Sad, HAL je bio fiktivan lik,

ali bez obzira na to,
obraća se našim strahovima,

našim strahovima da ćemo pasti pod uticaj

nekakve bezosećajne,
veštačke inteligencije

koja je ravnodušna prema našoj ljudskosti.

Verujem da su takvi strahovi neosnovani.

Uistinu se nalazimo u izvanrednom vremenu

u ljudskoj istoriji,

u kom, pokrenuti odbijanjem da prihvatimo
granice naših tela i naših umova,

gradimo mašine

izuzetne, prelepe složenosti i stila

koje će da prošire ljudsko iskustvo

na nezamislive načine.

Nakon karijere koja seže
od akademije ratnog vazduhoplovstva

preko svemirskog zapovednika do sada,

postao sam inženjer za sisteme,

a nedavno me je privukao
inženjerski problem

u vezi sa NASA-inom misijom na Marsu.

Sad, tokom svemirskih letova na Mesec

možemo da se oslonimo
na kontrolu misije u Hjustonu

da će da prati sve aspekte leta.

Međutim, Mars je 200 puta dalje,

i zbog toga je potrebno
u proseku 13 minuta

za signal da putuje od Zemlje do Marsa.

Ako imamo problem, nema dovoljno vremena.

Pa razumno inženjeresko rešenje

iziskuje od nas da smestimo
kontrolu misije

unutar zidova kosmičkog broda Orion.

Još jedna fantastična ideja
u profilu misije

smešta humanoidne robote
na površinu Marsa

pre nego što ljudi lično stignu,

prvo da bi gradili objekte

i kasnije da služe kao saradnici
u naučnoj ekipi.

Sad, dok sam ovo posmatrao
sa inženjerske tačke gledišta,

bilo mi je veoma jasno
da je potrebno da projektujem

pametnu, sarađivačku,

društveno inteligentnu
veštačku inteligenciju.

Drugim rečima, trebalo je da sagradim
nešto prilično slično HAL-u,

ali bez ubilačkih tendencija.

(Smeh)

Zastanimo na trenutak.

Da li je zaista moguće sagraditi
takvu veštačku inteligenciju?

Zapravo jeste.

Na razne načine,

ovo je težak inženjerski problem

sa elementima VI,

a ne nekakav neprijatan problem VI
koji je potrebno projektovati.

Da parafraziram Alana Tjuringa:

ne zanima me izgradnja svesne mašine.

Ne pravim HAL-a.

Ja tragam za prostim mozgom,

nečim što pruža iluziju inteligencije.

Umetnost nauke i računarstva
su prešle dug put

od vremena prikazivanja HAL-a,

i pretpostavljam da je njegov tvorac
dr Čandra ovde danas,

imao bi gomilu pitanja za nas.

Da li je zaista moguće da mi

uzmemo sistem od miliona
i miliona uređaja,

koji učitava dotok podataka,

i da predvidimo njihove kvarove
i delamo unapred?

Da.

Možemo li sagraditi sisteme koji
pričaju s ljudima na prirodnom jeziku?

Da.

Možemo li sagraditi sisteme
koji prepoznaju predmete, osećanja,

ispoljavaju emocije,
igraju igrice, čak i čitaju sa usana?

Da.

Možemo li sagraditi sistem
koji postavlja ciljeve,

koji pravi planove za te ciljeve
i usput uči?

Da.

Možemo li sagraditi sisteme
koji sadrže teoriju uma?

Ovo učimo da radimo.

Možemo li sagraditi sisteme
koji imaju etičke i moralne osnove?

Ovo moramo da naučimo da radimo.

Zato, prihvatimo za trenutak

da je moguće sagraditi
takvu veštačku inteligenciju

za ovakvu i slične misije.

Sledeće pitanje
koje morate postaviti sebi je:

da li treba da je se plašimo?

Sad, svaka nova tehnologija

sa sobom nosi izvesnu dozu strepnje.

Kada smo prvi put videli automobile,

ljudi su se žalili da ćemo biti svedoci
uništenja porodice.

Kada smo prvi put videli telefon,

ljudi su bili zabrinuti
da će da uništi učtiv razgovor.

U jednom trenutku smo videli
kako pisana reč počinje da preovlađuje,

ljudi su smatrali da ćemo izgubiti
sposobnost pamćenja.

Sve ovo je donekle tačno,

ali je takođe tačno
da nam je ova tehnologija

donela stvari koje su proširile
ljudsko iskustvo

na izvesne suštinske načine.

Stoga, pođimo malo dalje s ovim.

Ne strahujem od stvaranja VI na ovaj način

jer će vremenom
otelotvoriti neke od naših vrednosti.

Razmotrite sledeće: izgradnja kognitivnog
sistema je temeljno različita

od izgradnje tradicionalnog
softverskog sistema iz prošlosti.

Ne programiramo ih. Podučavamo ih.

Kako bih naučio sistem
da raspoznaje cveće,

pokazujem mu na hiljade cvetova
koji se meni sviđaju.

Kako bih naučio sistem da igra igru -

Pa, bih. I vi biste.

Volim cveće. Pa šta.

Kako bih naučio sistem
da igra igru poput goa,

morao bih da odigram
na hiljade partija goa,

ali bih ga usput naučio

kako da razlikuje dobru od loše partije.

Ako bih želeo da stvorim pravnog
asistenta sa veštačkom inteligencijom,

podučio bih ga zakonskim pravilncima,

ali bih mu istovremeno s tim mešao

osećanja milosti i pravde
koja su delovi tog zakona.

U naučnom smislu, ovo je nešto
što nazivamo temeljnom istinom,

a ovo je važna tačka:

stvarajući ove mašine,

sledi da ih učimo svesti
o našim vrednostima.

U tom smislu, verujem
veštačkoj inteligenciji

isto, ako ne i više,
kao i dobro obučenim ljudima.

Međutim, možda se pitate,

šta je sa odmetnicima,

nekim dobro finansiranim
nevladinim organizacijama?

Ne plašim se veštačke inteligencije
u rukama vukova samotnjaka.

Očito se ne možemo zaštititi
od svih nasumičnih činova nasilja,

ali u stvarnosti sličan sistem

zahteva značajanu i prefinjenu obuku

koja prevazilazi resurse pojedinaca.

A zatim,

to je daleko više od pukog ubrizgavanja
internet virusa u svet,

gde pritisnete dugme
i iznenada se nalazi na milion mesta

i laptopovi počinju svuda da eksplodiraju.

Sad, ovakve materije su daleko veće,

i sigurno ćemo ih doživeti.

Da li me je strah da će takva
veštačka inteligencija

možda ugroziti čitavo čovečanstvo?

Ako pogledate filmove,
poput "Matriksa", "Metropolisa",

"Terminatora",
serije poput "Zapadnog sveta",

svi se oni bave tim strahom.

Zaista, u knjizi "Superinteligencija"
filozofa Nika Bostroma,

on se bavi ovom tematikom

i razmatra da bi superinteligencija
mogla ne samo da bude opasna,

već bi mogla predstavljati egzistencijalnu
pretnju čitavom čovečanstvu.

Osnovni argument dr Bostroma

je da bi slični sistemi vremenom

imali takavu nezasitu žudnju
za informacijama

da bi možda naučili kako da uče

i vremenom bi otkrili
da možda imaju ciljeve

koji su suprotni ljudskim potrebama.

Dr Bostrom ima brojne pratioce.

Podržavaju ga ljudi poput
Ilona Maska i Stivena Hokinga.

Uz dužno poštovanje

tim briljantnim umovima,

verujem da suštinski greše.

Sad, argument dr Bostroma
je suviše složen za razlaganje,

i ja nemam vremena
da ga u potpunosti razložim,

ali veoma kratko, razmotrite sledeće:

superznanje je veoma različito
od superdelanja.

HAL je bio pretnja za posadu Diskaverija,

samo zato što je HAL zapovedao
svim aspektima Diskaverija.

Dakle, moralo bi da se radi
o superinteligenciji.

Morala bi da ima vlast
u čitavom našem svetu.

Tako je u slučaju Skajneta
iz filma "Terminator"

u kom smo imali superinteligenciju

koja je zapovedala ljudskom voljom,

koja je upravljala svakim uređajem
u svakom kutku sveta.

Prosto govoreći,

to se neće desiti.

Ne pravimo VI
koja kontroliše vremenske prilike,

koja upravlja plimama,

koja zapoveda nama,
hirovitim, haotičnim ljudima.

Potom, kad bi postojala
slična veštačka inteligencija,

morala bi da se takmiči
sa ljudskim ekonomijama,

a time i sa nama zbog resursa.

I na kraju -

nemojte ovo reći Siri -

možemo uvek da ih isključimo.

(Smeh)

Na neverovatnom smo putu

koevolucije sa našim mašinama.

Ljudi kakvi smo danas,

nećemo biti ljudi sutrašnjice.

Briga zbog uspona superinteligencije

je na razne načine
opasno odvraćanje pažnje

jer uspon samog računarstva

nam donosi brojna
ljudska i društvena pitanja

kojima se odmah moramo baviti.

Kako da organizujemo društvo
na najbolji način

kada se smanji potreba
za ljudskom radnom snagom?

Kako da donesemo razumevanje
i obrazovanje širom sveta,

a da i dalje poštujemo naše razlike?

Kako bismo mogli da proširimo i unapredimo
ljudski život kroz kognitivno zdravstvo?

Kako da koristimo računare

da nas odvedu do zvezda?

A to je uzbudljivo.

Šansa da se koriste računari

da bismo unapredili ljudsko iskustvo

su nam na dohvat ruke,

ovde i sad,

a tek smo počeli.

Mnogo vam hvala.

(Aplauz)