Non temamos a superintelixente IA

Novas creacións tecnolóxicas, novas ansiedades, di o filósofo Grady Booch, pero non temos por que temer unha IA todopoderosa e sen sentimentos. Booch calma os nosos peores medos (inducidos pola ciencia ficción) acerca dos ordenadores superintelixentes explicando como lles aprenderemos, e non programaremos, para que compartan os nosos valores. En vez de preocuparnos por unha, pouco probable, ameaza existencial, anímanos a que nos preguntemos como a intelixencia artificial pode mellorar a vida humana.

Cando era un neno,
era o típico friqui.

Creo que algúns de vostedes tamén.

(risos)

E vostede, señor, o que ri máis alto,
pode que aínda o sexa.

(risos)

Medrei nunha cidade pequena
nas poirentas chairas do norte de Texas,

son fillo dun sheriff
que era fillo dun pastor.

así que mellor non meterme en problemas.

Por tanto comecei a ler libros
de cálculo por divertimento.

(risos)

Vostede tamén.

Iso levoume a construir un láser,
un computador, cohetes,

e a facer combustible
para foguetes no meu cuarto.

Agora, en termos científicos,

a iso chámamoslle: unha moi mala idea.

(risos)

Ao mesmo tempo, estreábase

2001, unha odisea no espazo
de Stanley Kubrick,

e a miña vida cambiaba para sempre.

Encantoume todo desa película,

sobre todo HAL 9000.

HAL era un computador consciente

deseñado para guiar o Discovery

da Terra a Xúpiter.

HAL era ademais un personaxe con defectos,

xa que ao final lle deu máis importancia
á misión ca á vida humana.

Agora, HAL pertence á ficción

pero aínda así fala dos nosos medos

a sermos dominados

por unha intelixencia artificial (IA)
sen sentimentos

que é indiferente á nosa humanidade.

Creo que eses medos non teñen fundamento.

De feito, estamos nunha importante época

para a historia humana

na que, por negarnos a aceptar
os límites dos nosos corpos e mentes,

estamos construíndo máquinas

de exquisita beleza, complexidade e graza

que ampliarán a experiencia humana

de formas que nin imaxinamos.

Despois de pasar
da Academia da Forza Aérea

ao Mando Espacial da Forza Aérea,

pasei a enxeñeiro de sistemas

e hai pouco metéronme
nun problema de enxeñaría

relacionado coa misión da NASA a Marte.

Agora, nos voos espaciais á Lúa,

dependemos do control
de Houston para vixiar

todos os aspectos do voo.

Porén Marte está 200 veces máis lonxe

e por tanto un sinal tarda
arredor de 13 minutos

en viaxar dende a Terra ata alí.

Se hai algún problema, é demasiado tempo.

Unha solución razoable

pasa por incluír o control da misión

dentro das paredes da nave espacial Orión.

Outra idea fascinante do perfil da misión

sitúa a robots humanoides
na superficie de Marte

antes ca os propios humanos,

primeiro para construír infraestruturas

e despois para serviren
como colaboradores do equipo científico.

Desde a perspectiva da enxeñaría,

quedoume moi claro
que o que necesitaba deseñar

era unha intelixencia artificial

esperta, colaborativa
e socialmente intelixente.

É dicir, precisaba construír
algo moi parecido a HAL

pero sen as súas tendencias homicidas.

(risos)

Deteñámonos un momento.

É posible construírmos
unha intelixencia artificial coma esa?

Pois, si.

Por moitas razóns,

este é un difícil problema de enxeñaría

cos elementos da lA,

non só unhas pedriñas no camiño
que deben ser tratadas pola enxeñaría.

Parafraseando a Alan Turing,

Non quero construír
unha máquina con sentimentos.

Non constrúo un HAL.

Só busco un cerebro simple,

algo que ofrece a ilusión da intelixencia.

A arte e a ciencia informática
percorreron un longo camiño

dende que vimos a HAL,

e creo que se o Dr. Chandra,
o seu inventor, estivese aquí hoxe,

tería moitas preguntas que facernos.

Énos posible coller un sistema

de millóns e millóns de dispositivos,

medir os seus datos,

predicir os seus fallos e anticiparnos?

É.

Podemos crear sistemas
que falen nunha linguaxe natural?

Podemos.

Podemos crear sistemas
que recoñezan obxectos,

identifiquen e expresen emocións,
xoguen, lean os beizos?

Podemos.

Podemos crear un sistema que fixe metas,

cree plans para acadalas
e de paso aprenda?

Podemos.

Podemos construír sistemas
que teñan unha teoría da mente?

Isto é o que estamos a aprender a facer.

Podemos construír un sistema
que teña principios éticos e morais?

Isto é o que debemos aprender.

Aceptemos por un momento

que podemos construír
esta intelixencia artificial

para este e outro tipo de misións.

A seguinte pregunta que se deben facer é:

deberiamos de lle ter medo?

Todas as novas tecnoloxías

traen consigo certo grao de inquietude.

A primeira vez que a xente viu un coche,

queixábase de que ía destruír as familias.

Cando vimos por primeira vez os teléfonos,

preocupábanos que acabasen
coas conversas civilizadas.

Nalgún momento cremos
que a escritura se volvería ubicua,

que se perdería a capacidade de memorizar.

Todo isto é verdade ata certo punto,

pero tamén o é que estas tecnoloxías

nos brindaron avances
que ampliaron a experiencia humana

de formas moi profundas.

Así que sigamos un pouco máis.

Non me dá medo a creación
dunha IA coma esta,

xa que, co tempo, encarnará
algúns dos nosos valores.

Tendo isto en conta: construír
un sistema cognitivo é distinto

a crear un anticuado sistema
baseado en software intensivo.

Non os programamos, aprendémoslles.

Para lles aprendermos
a como recoñeceren as flores,

amosaríalles moitas flores
das miñas variedades preferidas.

Para aprenderlles como xogar a un xogo...

Eu faríao, e vós tamén.

De verdade que me gustan as flores.

Para ensinarlle a un sistema
a xogar a un xogo coma Go

faríao xogar milleiros de partidas.

E no proceso aprenderíalle

a distinguir unha boa partida dunha mala.

Se quixese crear unha IA
coa función de asistente legal

aprenderíalle un corpus legal

ao mesmo tempo que lle introduciría

o sentido da misericordia
e xustiza que é parte da lei.

En termos científicos
chámaselles verdades fundamentais

e o máis importante:

ao producirmos estas máquinas

estámoslles inculcando os nosos valores.

Chegados a este punto, confío nunha IA

tanto, se non máis,
ca nun humano ben adestrado.

Preguntarédesvos

que pasa cos axentes corruptos,

con algunhas ONG ben financiadas?

Unha IA en mans dun lobo solitario
non me pon medo.

Non nos podemos autoprotexer
de todo acto aleatorio de violencia

pero a realidade é que tal sistema

precisa dun adestramento
substancial e sutil

moi por riba das capacidades
dun único individuo.

E ademais é máis complicado

ca inxectarmos un virus informático
en todo o mundo.

Premendo un botón
o virus chega a milleiros de lugares

e os portátiles empezan a estoupar.

Agora, este tipo de contidos
son moito máis grandes

e vémolos vir.

Teño medo a que unha IA deste tipo

poida ameazar a toda a humanidade?

Se ves películas como Matrix, Metrópolis,

Terminator, series como Westworld

todas tratan este tipo de medos.

De feito, no libro Superintelixencia
do filósofo Nick Bostrom

este trata o mesmo tema

e opina que unha superintelixencia
non só podería ser perigosa

podería representar unha ameaza
para toda a humanidade.

O argumento do Dr. Bostrom

é que estes sistemas
van chegar a ter nun momento

tal insaciable fame de información

que pode que aprendan a como aprender

e poden chegar a descubrir
que teñen obxectivos

contrarios ás necesidades humanas.

O Dr. Bostrom ten seguidores.

É apoiado por xente
como Elon Musk ou Stephen Hawking.

Con todo o meu respecto

por estas mentes prodixiosas,

creo que se equivocan.

Hai moitas partes da argumentación
do Dr. Bostrom que analizar

e agora non teño tempo

pero de forma moi breve, direi isto:

a supersabedoría é moi diferente
da superrealización.

HAL era unha ameaza

para a tripulación do Discovery
só se tomaba o control de toda a nave.

O mesmo pasaría cunha superintelixencia.

Tería que ter o dominio de todo o mundo.

Isto é o que pasa coa Skynet
de Terminator

onde temos unha superintelixencia

que dirixe a vontade humana

e cada dispositivo situado
en calquera recuncho do mundo.

Falando dende a práctica

isto non vai pasar.

Non estamos deseñando IA
que controlen o clima,

que dirixan as mareas,

nin a nós, os caprichosos
e caóticos humanos.

Ademais, de existir
unha intelixencia artificial así

tería que competir coas economías humanas

e competir con nós polos recursos.

E á fin e ao cabo

(non llo digan a Siri)

podemos desconectalos.

(risos)

Estamos nunha incrible viaxe
de coevolución

xunto coas nosas máquinas.

Os humanos que somos agora

non somos os que seremos daquela.

Preocuparse agora
polo auxe dunha superintelixencia

é unha distracción perigosa

xa que o auxe da informática en si

xa dá lugar a algúns asuntos
humanos e sociais

aos que temos que atender.

Como se pode organizar a sociedade

cando diminúe
a necesidade de capital humano?

Como podo achegarlle
compresión e educación a todo o mundo

respectando as nosas diferenzas?

Como podo mellorar a vida das persoas
a través da medicina cognitiva?

Como podo utilizar a informática

para que cheguemos ás estrelas?

E iso é o excitante.

As oportunidades de usar a informática

para que progrese a experiencia humana

están ao noso alcance

aquí e agora

e isto é só o comezo.

Moitas grazas.

(Aplausos)