Nemojte se bojati superinteligentne UI

Nova tehnologija rađa nove strahove, kaže znanstvenik i filozof Grady Booch, ali ne moramo se bojati svemoćne bezosjećajne umjetne inteligencije (UI). Booch ublažuje naše najgore strahove (uzrokovane ZF-om) o superinteligentnim računalima objašnjavajući nam kako ćemo ih učiti, ne programirati, kako dijeliti naše vrijednosti. Umjesto da se brinemo oko nevjerojatne egzistencijalne prijetnje, potiče nas razmisliti kako će umjetna inteligencija poboljšati ljudski život.

Kad sam bio klinac,
bio sam onaj pravi štreber.

MIslim kako su i neki od vas bili,
također.

(Smijeh)

A vi, gospodine, koji ste se najglasnije
nasmijali,vjerojatno to i dalje jeste.

(Smijeh)

Odrastao sam u malenom gradu
na prašnjavim ravnicama sjevernog Teksasa,

sin šerifa
koji je bio sin pastora.

Upadanje u nevolje nije bila mogućnost.

I tako sam počeo čitati
knjige iz (*infinitezimalnog) računa za zabavu.

(Smijeh)

I vi ste, također.

To me dovelo do izgradnje lasera
i računala i modelarskih raketa,

a to me dovelo do izrade
raketnog goriva u mojoj spavaćoj sobi.

Sad, u znanstvenim terminima,

to nazivamo vrlo lošom idejom.

(Smijeh)

Nekako oko tog doba,

Kubrick-ova "2001: Odiseja u Svemiru"
je došla u kina,

i moj se život zauvijek promijenio.

Volio sam sve oko tog filma,

posebno HAL 9000.

Sad, HAL je bio svjesno računalo

osmišljeno da vodi svemirsku
letjelicu Discovery

od Zemlje do Jupitera.

HAL je također bio manjkav lik,

jer je na kraju birao vrednovati
misiju više od ljudskog života.

Sad, HAL je bio izmišljeni lik,

ali ipak se obraćao našim strahovima,

našim strahovima o bivanju podčinjenim

od strane neke
bezosjećajne, umjetne inteligencije

koja je ravnodušna spram naše ljudskosti.

Vjerujem kako su takvi strahovi
neutemeljeni.

Zbilja, stojimo na upečatljivom mjestu

u ljudskoj povijesti,

gdje, potaknuti odbijanjem prihvaćanja
granica naših tijela i naših umova,

gradimo strojeve,

fine, prekrasne
složenosti i ljepote

koji će proširiti ljudsko iskustvo

na načine onkraj naše mašte.

Nakon karijere koja me vodila
od Akademije zračnih snaga

preko Svemirskog zapovjedništva do sada,

postao sam sistemski inženjer,

i nedavno sam uvučen
u inženjerski problem

vezan uz NASA-inu misiju na Mars.

Sad, u svemirskim letovima do Mjeseca,

možemo se osloniti
na kontrolu misije u Houstonu

kako će paziti na sve aspekte leta.

Međutim, Mars je 200 puta udaljeniji,

te kao rezultat treba
prosječno 13 minuta

signalu da otputuje
od Zemlje do Marsa.

Ako ima nevolje,
nema dovoljno vremena.

I tako razumno inženjersko rješenje

kaže nam neka stavimo kontrolu misije

unutar zidova svemirske letjelice Orion.

Druga očaravajuća ideja
u profilu misije

stavlja humanoidne robote
na površinu Marsa

prije nego sami ljudi doputuju,

prvo kako bi sagradili postrojenja

a kasnije kako bi služili kao
pomoćni članovi znanstvenog tima.

Sad, kad sam gledao na ovo
iz inženjerskog kuta,

postalo mi je vrlo jasno
kako je ono što trebam osmisliti

bila pametna, uslužna,

društveno inteligentna
umjetna inteligencija.

Drugim riječima, trebao sam složiti
nešto vrlo slično HAL-u

ali bez ubilačkih sklonosti.

(Smijeh)

Zaustavimo se na trenutak.

Je li stvarno moguće sagraditi
umjetnu inteligenciju poput ove?

Zapravo, jest.

Na puno načina,

ovo je tvrdi inženjerski problem

s elementima UI,

ne neki UI problem mokre lopte kose
kojeg treba osmisliti.

Da parafraziram Alana Turinga:

Ne zanima me
izgradnja svjesnog stroja.

Ne gradim HAL-a.

Sve za čime idem je
jednostavan mozak,

nešto što nudi privid inteligencije.

Umjetnost i znanost računarstva
je prošla dalek put

otkad je HAL bio na ekranu,

i mogu zamisliti kad bi njegov izumitelj
dr. Chandra bio ovdje danas,

imao bi cijeli niz pitanja za nas.

Je li nam zbilja moguće

uzeti sustav od milijuna
i milijuna uređaja,

čitati njihove tokove podataka,

predviđati njihove kvarove
te djelovati unaprijed?

Da.

Možemo li graditi sustave koji
razgovaraju s ljudima prirodnim jezikom?

Da.

Možemo li graditi sustave
koji prepoznaju objekte, identificiraju osjećaje,

sami izražavaju emocije,
igraju igre i čak čitaju s usana?

Da.

Možemo li sagraditi sustav
koji postavlja ciljeve,

potom izvršava planove
prema tim ciljevima te usput uči?

Da.

Možemo li sagraditi sustave
koji imaju teoriju uma?

To upravo učimo.

Možemo li sagraditi sustave
koji imaju etičke i moralne temelje?

Ovo moramo naučiti kako.

Pa prihvatimo na trenutak

kako je moguće sagraditi
takvu umjetnu inteligenciju

za ovu vrstu misije i slično.

Slijedeće pitanje
koje biste se trebali pitati je,

bismo li je se trebali bojati?

Sad, svaka nova tehnologija

sa sobom donosi
neku mjeru strepnje.

Kad smo prvo vidjeli aute,

ljudi su se žalili kako ćemo vidjeti
uništenje obitelji.

Kad smo prvo vidjeli telefone kako dolaze,

ljudi su brinuli kako će uništiti
sav uljudan razgovor.

U točci vremena kad smo vidjeli
kako pisana riječ sve više prožima,

ljudi su mislili kako ćemo izgubiti
našu sposobnost pamćenja.

Sve su te stvari točne do nekog stupnja,

ali je također slučaj
kako su nam te tehnologije

dovele stvari koje su
proširile ljudsko iskustvo

na neke duboke načine.

Pa hajdemo s ovim još malo dalje.

Ne bojim se
stvaranje UI poput ove,

jer će s vremenom
utjeloviti neke od naših vrijednosti.

Uzmite u obzir ovo: izgradnja
spoznajnog sustava je iz temelja različita

od izgradnje tradicionalnog softverski
intenzivnog sustava u prošlosti.

Ne programiramo ih. Učimo ih.

Kako bismo sustav naučili
prepoznavati cvijeće,

pokazujem mu tisuće vrsta cvjetova
koje mi se sviđaju.

Kako bismo sustav naučili
igrati igru --

Dobro, ja bih. I vi bi.

Sviđa mi se cvijeće. Hajde.

Naučiti sustav kako
igrati igru kakva je Go,

pustit ću ga neka odigra
tisuće partija Go-a,

ali ću ga u postupku
također naučiti i

kako razaznati
dobru partiju od loše partije.

Ako želim stvoriti umjetno
inteligentnog pravnog savjetnika,

naučit ću ga neki korpus zakona

ali ću u isto vrijeme spojiti s njim

osjećaj milosti i pravde
koji je dio tog zakona.

Znanstvenim rječnikom, to je
ono što zovemo neposredna informacija,

a evo važnog momenta:

u stvaranju svih tih strojeva,

mi ih dakle učimo
smislu naših vrijednosti.

Stoga, vjerujem
umjetnoj inteligenciji

isto, ako ne i više,
koliko i čovjeku koji je dobro obučen.

Ali, možete pitati,

što sa nevaljalim igračima,

nekom dobro financiranom
nevladinom organizacijom?

Ne bojim se umjetne inteligencije
u rukama vuka samotnjaka.

Jasno, ne možemo se zaštititi
od svih nasumičnih činova nasilja,

ali stvarnost je da takav sustav

traži znatnu obuku
i finu obuku

daleko onkraj resursa pojedinca.

I nadalje,

to je daleko više nego
samo ubaciti internetski virus u svijet,

gdje pritisnete tipku,
odjednom je na milijun mjesta

i laptopi posvuda
krenu eksplodirati.

Sad, ove su vrste stvari
puno veće,

i sigurno ćemo ih vidjeti kako dolaze.

Bojim li se kako bi takva
umjetna inteligencija

mogla zaprijetiti cijelom čovječanstvu?

Ako pogledate filmove
kao što su "Matrix" ili "Metropolis,"

"Terminator,"
serije kao što je "Westworld,"

svi oni pričaju o ovom tipu straha.

Zbilja, u knjizi "Superinteligencija"
filozofa Nicka Bostroma,

on polazi od ove teme

te uočava kako superinteligencija
može biti ne samo opasna,

mogla bi predstavljati egzistencijalnu
opasnost svom čovječanstvu.

Dr. Bostromov temeljni argument

je kako će takvi sustavi s vremenom

imati tako neutaživu žeđ
za informacijom

da će možda naučiti kako učiti

te s vremenom otkriti
kako mogu imati ciljeve

koji su suprotni ljudskim potrebama.

Dr. Bostrom ima neki broj sljedbenika.

Podržavaju ga ljudi
poput Elona Muska i Stephena Hawkinga.

Sa svim dužnim poštovanjem

prema tim briljantnim umovima,

vjerujem kako su oni
iz temelja u krivu.

Sad, ima puno dijelova
dr. Bostromovog argumenta za maknuti,

a nemam vremena kako bih ih maknuo sve,

ali vrlo kratko, razmislite o ovome:

super znanje je vrlo različito
od super djelovanja.

HAL je bio prijetnja posadi Discoveryja

samo stoga što je HAL
upravljao svime u Discoveryju.

Tako bi trebalo biti
i sa superinteligencijom.

Morala bi imati vlast
nad cijelim našim svijetom.

Tako je sastavljen Skynet
iz filma "Terminator"

u kojem smo imali superinteligenciju

koja je upravljala ljudskom voljom,

koja je vodila svaki uređaj
koji je bio u svakom kutku svijeta.

Praktično govoreći,

to se neće dogoditi.

Ne gradimo UI-e
koji kontroliraju vrijeme,

koji upravljaju plimom,

koji upravljaju nama
jogunastima, kaotičnim ljudima.

I nadalje, ako bi takva
umjetna superinteligencija postojala,

morala bi se nadmetati
sa ljudskim ekonomijama,

i time se nadmetati za resurse sa nama.

I na kraju --

nemojte reći Siri ovo --

uvijek ih možemo ištekati.

(Smijeh)

Mi smo na nevjerojatnom putovanju

koevolucije sa našim strojevima.

Ljudi koji smo danas

nisu ljudi koji ćemo biti tada.

Brinuti sada o usponu
superinteligencije

je na puno načina
opasno odvraćanje pažnje

stoga što nam već uspon računarstva sam

donosi brojna
ljudska i društvena pitanja

kojima se moramo pozabaviti sada.

Kako ću najbolje organizirati društvo

kad se potreba za radom smanji?

Kako mogu donijeti razumijevanje
i obrazovanje širom svijeta

a i dalje uvažavati razlike?

Kako mogu produljiti i poboljšati ljudski
život kroz kognitivnu zdravstvenu skrb?

Kako mogu koristiti računarstvo

za pomoć kako bi došli do zvijezda?

A to je uzbudljiva stvar.

Prilike za korištenje računarstva

kako bi unaprijedili ljudsko iskustvo

su nam unutar dosega,

sada i ovdje,

a tek smo na početku.

Hvala vam puno.

(Pljesak)