Putem crea Inteligență Artificială fără să o scăpăm de sub control?

Vă e teamă de Inteligența Artificială? Ar trebui, spune cercetătorul în neuroștiințe și filosoful Sam Harris -- nu doar teoretic. Vom construi mașinării supraumane, spune Harris, dar încă nu am realizat problemele asociate cu crearea unui obiect care ne-ar trata așa cum tratăm noi furnicile.

Voi vorbi despre o greșeală de intuiție

de care mulți dintre noi suferim.

E greșeala de a detecta
un anumit tip de pericol.

Voi descrie un scenariu

care cred că e înfricoșător

și probabil să se întâmple,

iar asta nu e o combinație bună

după cum se pare.

Totuși, în loc să fiți speriați,
majoritatea dintre voi

vor considera că e interesant.

Voi descrie cum progresele
pe care le facem

în inteligența artificială (IA)

ne-ar putea distruge în final.

De fapt, cred că e foarte greu
să vedem cum nu ne vor distruge

sau să ne inspire să ne distrugem.

Dar dacă sunteți ca mine,

veți crede că e amuzant
să te gândești la astfel de lucruri.

Acest răspuns e parte din problemă.

Această reacție
ar trebui să vă îngrijoreze.

Dacă v-aș convinge cu discursul meu

că ar fi probabil
să suferim o foamete globală,

fie din cauza schimbării climatice
ori a altei catastrofe,

și că nepoții voștri sau nepoții lor

foarte probabil vor trăi așa,

nu v-ați gândi:

„Interesant.

Îmi place discursul ăsta.”

Foametea nu e amuzantă.

Moartea cauzată de science-fiction,
pe de altă parte, e amuzantă,

iar ce mă îngrijorează cel mai mult
despre dezvoltarea IA în prezent

e că părem incapabili să avem
o reacție emoțională adecvată

pentru pericolului din fața noastră.

Eu nu pot avea un răspuns adecvat,
și țin acest discurs.

E ca și cum am avea două uși în față.

În spatele primei uși

încetăm să progresăm
în construirea mașinăriilor inteligente.

Software-ul și hardware-ul
nu se mai îmbunătățesc.

Acum gândiți-vă de ce s-ar întâmpla asta.

Știind cât de importante sunt
inteligența și automatizarea,

vom continua să îmbunătățim
tehnologia cât putem.

Ce ne-ar opri să facem asta?

Un război nuclear la scară mare?

O pandemie globală?

Un impact cu un asteroid?

Justin Bieber devenind președintele SUA?

(Râsete)

Ideea e că ceva ar trebui să distrugă
civilizația pe care o știm noi.

Imaginați-vă cât de rău ar trebui să fie

încât să ne împiedice să mai facem
îmbunătățiri în tehnologie

permanent,

generație după generație.

Aproape prin definiție,
ăsta e cel mai rău lucru

care s-a întâmplat în istoria umană.

Deci singura alternativă,

și asta e după a doua ușă,

e să îmbunătățim în continuare
mașinăriile inteligente

an după an după an.

La un moment dat, vom construi
mașinării mai inteligente decât noi

și odată ce avem mașinării
mai inteligente decât noi,

ele vor începe să se îmbunătățească.

Apoi există riscul
numit de matematicianul IJ Good

o „explozie de inteligență”,

procesul ne-ar putea scăpa de sub control.

Scenariul ăsta e caricaturizat adesea

ca o frică față de o armată
de roboți răzbunători

care ne vor ataca.

Dar nu ăsta e scenariul cel mai probabil.

Mașinăriile noastre
nu vor deveni brusc răzbunătoare.

Îngrijorarea e că vom construi mașinării

care sunt mult mai competente decât noi

astfel că cea mai mică divergență
între scopurile lor și ale noastre

ne-ar putea distruge.

Gândiți-vă cum ne purtăm cu furnicile.

Nu le urâm.

Nu ne străduim să le rănim.

De fapt, uneori ne străduim
să nu le rănim.

Le ocolim pe trotuar.

Dar oricând prezența lor

intră în conflict cu un scop de-al nostru,

să zicem să construim o clădire ca asta,

le anihilăm fără remușcări.

Îngrijorarea e că într-o zi
vom construi mașinării

care, conștiente sau nu,

ne-ar putea trata
cu o nepăsare asemănătoare.

Cred că asta vi se pare exagerat,

pariez că unii dintre voi se îndoiesc
că IA superinteligentă e posibilă,

cu atât mai puțin inevitabilă.

Dar atunci trebuie să găsiți ceva greșit
în una din următoarele presupuneri.

Sunt doar trei.

Inteligența e o problemă de procesare
a informației în sisteme fizice.

De fapt, asta e mai mult
decât o presupunere.

Deja am construit inteligență îngustă
în mașinăriile noastre

și multe dintre ele funcționează deja

la un nivel de inteligență suprauman.

Știm că simpla materie

poate da naștere așa-numitei
„inteligență generală”,

o abilitate de a gândi flexibil
în diverse domenii

deoarece creierele noastre
sunt capabile de asta. Corect?

Sunt doar atomi aici

și atâta vreme cât continuăm
să construim sisteme de atomi

care prezintă comportament
din ce în ce mai inteligent,

într-un final, dacă nu suntem întrerupți,

vom construi inteligență generală

în mașinăriile noastre.

E crucial să realizăm
că rata progresului nu contează

deoarece orice progres e îndeajuns
să ne aducă la capăt de drum.

Nu ne trebuie legea lui Moore
să continuăm, nici progres exponențial.

Trebuie doar să continuăm.

A doua presupunere e că vom continua.

Vom continua să îmbunătățim
mașinăriile inteligente.

Dată fiind valoarea inteligenței --

inteligența fie e sursa
a tot ce valorăm,

fie ne trebuie
ca să protejăm tot ce prețuim.

E resursa noastră cea mai prețioasă.

Deci asta vrem să facem.

Avem probleme pe care trebuie
să le rezolvăm urgent.

Vrem să vindecăm boli
ca Alzheimer și cancer.

Vrem să înțelegem sisteme economice.
Vrem să îmbunătățim știința climatică.

Vom face asta dacă putem.

Trenul a plecat deja din stație
și nu are frâne.

În final, nu stăm în vârful inteligenței

sau oriunde lângă el.

Asta e o informație crucială.

Asta ne face situația atât de precară

și de aceea nu ne putem baza
pe intuițiile noastre despre risc.

Acum gândiți-vă la persoana
cea mai deșteaptă.

În topul tuturor e John von Neumann.

Impresia pe care a lăsat-o
von Neumann celor din jurul său,

inclusiv celor mai mari
matematicieni și fizicieni,

e bine documentată.

Dacă doar jumătate din poveștile
despre el sunt pe jumătate adevărate,

nu încape îndoială

că e unul din cei mai deștepți
oameni vreodată.

Gândiți-vă la spectrul inteligenței.

Îl avem pe John von Neumann,

apoi suntem eu și voi,

apoi o găină.

(Râsete)

Scuze, o găină.

(Râsete)

Nu e nevoie să fac discursul
mai deprimant decât e deja.

(Râsete)

E copleșitor de probabil
că spectrul inteligenței

se extinde mult după cât putem noi percepe

și dacă construim mașinării
mai inteligente decât noi,

probabil vor explora acest spectru

în moduri pe care nu le putem imagina

și ne depășesc în moduri inimaginabile.

E important să recunoaștem
că e adevărat în virtutea vitezei.

Imaginați-vă dacă am construi
o IA superinteligentă

care n-ar fi mai inteligentă
decât echipa medie de cercetători

de la Stanford sau MIT.

Circuitele electronice funcționează
de un milion de ori mai rapid

decât cele biochimice,

deci mașinăria ar trebui să gândească
de un milion de ori mai rapid

decât mințile care au construit-o.

Dacă o pornești pentru o săptămână

va face 20.000 de ani
de muncă intelectuală la nivel uman,

săptămână după săptămână.

Cum am putea să înțelegem,
darămite să constrângem

o minte care face astfel de progrese?

Celălalt lucru îngrijorător e următorul:

imaginați-vă cel mai bun scenariu posibil.

Imaginați-vă că dăm peste un design
de IA superinteligentă

care nu are probleme de siguranță.

Avem designul perfect din prima încercare.

E ca și cum ne-ar fi dat un oracol

care se comportă așa cum vrem.

Această mașinărie ar fi aparatul perfect
de economisire a forței de muncă.

Poate crea mașinăria
care poate construi mașinăria

care poate face orice muncă fizică,

folosind energie solară,

aproape la costul materiilor prime.

Vorbim despre sfârșitul corvoadei umane.

E și despre sfârșitul
majorității muncii intelectuale.

Ce ar face maimuțe ca noi
în aceste circumstanțe?

Am fi liberi să jucăm frisbee
și să ne facem masaje.

Adăugați niște LSD și niște haine ciudate

și toată lumea ar putea fi
ca la Burning Man.

(Râsete)

Asta sună destul de bine,

dar întrebați-vă ce s-ar întâmpla

în ordinea economică și politică actuală?

Pare probabil că vom fi martorii

unui nivel de inegalitate de avere
și șomaj nemaivăzut.

Fără voința de a pune această nouă avere

în serviciul umanității,

câțiva miliardari ar zâmbi
pe copertele revistelor de afaceri

în timp ce restul lumii ar muri de foame.

Și ce ar face rușii sau chinezii

dacă ar auzi
că o companie din Silicon Valley

ar fi pe cale să lanseze
o IA superinteligentă?

Această mașinărie ar fi capabilă
să ducă un război,

terestru sau cibernetic,

cu o putere nemaivăzută.

E un scenariu
în care câștigătorul ia tot.

Să fii cu șase luni înaintea competiției

înseamnă să fii cu 500.000 de ani înainte,

cel puțin.

Se pare că doar zvonurile
despre acest fel de descoperire

ar putea să înnebunească specia noastră.

Unul din cele mai înfricoșătoare lucruri

în acest moment, după părerea mea,

sunt lucrurile
pe care le spun cercetătorii IA

când vor să ne liniștească.

Cel mai comun motiv
să nu ne îngrijorăm e timpul.

Se va întâmpla peste mult timp.

Probabil peste 50 sau 100 de ani.

Un cercetător a spus:

„Să vă îngrijorați din cauza IA

e ca și cum v-ați îngrijora
de suprapopulare pe Marte.”

Asta e versiunea de Silicon Valley

de „nu-ți bate căpșorul cu asta”.

(Râsete)

Nimeni nu pare să observe

că referința la acea perioadă de timp

nu e logică.

Dacă inteligența e doar o problemă
de procesare a informației

și noi continuăm
să îmbunătățim mașinăriile,

vom produce o formă de superinteligență.

Nu avem idee cât ne va lua

să creăm condițiile de siguranță
pentru asta.

Lăsați-mă să repet.

Nu avem idee cât ne va lua

să creăm condițiile de siguranță
pentru asta.

Dacă nu ați observat,
50 de ani nu mai sunt ce-au fost.

Iată 50 de ani în luni.

De atâta timp avem iPhone.

De atâta timp The Simpsons
rulează la televizor.

50 de ani nu e un timp lung

pentru a rezolva una din cele mai mari
provocări ale speciei noastre.

Încă o dată, se pare că eșuăm
să avem o reacție emoțională adecvată

la ce va veni, foarte probabil.

Informaticianul Stuart Russell
are o analogie bună.

A spus: să ne imaginăm că am primit
un mesaj de la o civilizație extraterestră

care zice:

„Oameni de pe Pământ,

vom veni pe planeta voastră în 50 de ani.

Pregătiți-vă.”

Acum rămânem să numărăm lunile
până aterizează nava?

Am simți nevoia să facem ceva mai urgent.

Alt motiv pentru care
ni se spune să nu ne îngrijorăm

e că aceste mașinării pot să aibă
doar aceleași valori ca noi

deoarece vor fi practic
extensiile noastre.

Vor fi în creierele noastre

și noi vom deveni practic
sistemele lor limbice.

Să ne gândim un moment

la calea de viitor
cea mai sigură și prudentă,

recomandată,

e să implantăm tehnologia
direct în creierele noastre.

Asta ar fi calea de viitor
cea mai sigură și prudentă,

dar de obicei măsurile de siguranță
ale unei tehnologii

trebuie să fie clarificate
înainte de a ți-o pune în creier.

(Râsete)

Problema mai delicată e că
construcția unei IA superinteligente

pare mai ușoară

decât a unei IA superinteligente

și neuroștiința completă

care ne ajută să ne integrăm
mintea cu aceasta.

Dat fiind că guvernele și companiile
care lucrează la asta

probabil se cred într-o cursă
împotriva tuturor,

și câștigarea cursei
înseamnă câștigarea lumii,

dacă nu o distrugem în clipa următoare,

pare probabil că ce e mai ușor de făcut

va fi făcut mai întâi.

Din păcate, nu am o soluție
la această problemă,

alta decât să vă recomand
să vă gândiți la asta.

Cred că ne trebuie
un fel de Manhattan Project

pe subiectul IA.

Nu s-o construim, deoarece
cred că inevitabil o vom face,

ci să înțelegem
cum să evităm cursa înarmărilor

și să o construim într-un fel
corespunzător valorilor noastre.

Când vorbiți despre IA superinteligentă,

care se poate schimba pe sine,

se pare că avem doar o șansă
să alegem condițiile inițiale corecte

și chiar și atunci va trebui să absorbim

consecințele economice și politice
ale alegerii corecte.

Dar momentul în care admitem

că procesarea informației
e sursa inteligenței,

că un sistem computațional adecvat
e baza inteligenței,

și admitem că vom îmbunătăți
continuu aceste sisteme

și admitem că orizontul cogniției
foarte probabil depășește

ce știm noi acum,

atunci trebuie să admitem

că suntem în procesul
de creare a unui fel de zeu.

Acum ar fi momentul potrivit

să ne asigurăm că e un zeu
cu care putem trăi.

Vă mulțumesc mult.

(Aplauze)