Cando era un neno, era o típico friqui.
Creo que algúns de vostedes tamén.
(risos)
E vostede, señor, o que ri máis alto, pode que aínda o sexa.
(risos)
Medrei nunha cidade pequena nas poirentas chairas do norte de Texas,
son fillo dun sheriff que era fillo dun pastor.
así que mellor non meterme en problemas.
Por tanto comecei a ler libros de cálculo por divertimento.
(risos)
Vostede tamén.
Iso levoume a construir un láser, un computador, cohetes,
e a facer combustible para foguetes no meu cuarto.
Agora, en termos científicos,
a iso chámamoslle: unha moi mala idea.
(risos)
Ao mesmo tempo, estreábase
2001, unha odisea no espazo de Stanley Kubrick,
e a miña vida cambiaba para sempre.
Encantoume todo desa película,
sobre todo HAL 9000.
HAL era un computador consciente
deseñado para guiar o Discovery
da Terra a Xúpiter.
HAL era ademais un personaxe con defectos,
xa que ao final lle deu máis importancia á misión ca á vida humana.
Agora, HAL pertence á ficción
pero aínda así fala dos nosos medos
a sermos dominados
por unha intelixencia artificial (IA) sen sentimentos
que é indiferente á nosa humanidade.
Creo que eses medos non teñen fundamento.
De feito, estamos nunha importante época
para a historia humana
na que, por negarnos a aceptar os límites dos nosos corpos e mentes,
estamos construíndo máquinas
de exquisita beleza, complexidade e graza
que ampliarán a experiencia humana
de formas que nin imaxinamos.
Despois de pasar da Academia da Forza Aérea
ao Mando Espacial da Forza Aérea,
pasei a enxeñeiro de sistemas
e hai pouco metéronme nun problema de enxeñaría
relacionado coa misión da NASA a Marte.
Agora, nos voos espaciais á Lúa,
dependemos do control de Houston para vixiar
todos os aspectos do voo.
Porén Marte está 200 veces máis lonxe
e por tanto un sinal tarda arredor de 13 minutos
en viaxar dende a Terra ata alí.
Se hai algún problema, é demasiado tempo.
Unha solución razoable
pasa por incluír o control da misión
dentro das paredes da nave espacial Orión.
Outra idea fascinante do perfil da misión
sitúa a robots humanoides na superficie de Marte
antes ca os propios humanos,
primeiro para construír infraestruturas
e despois para serviren como colaboradores do equipo científico.
Desde a perspectiva da enxeñaría,
quedoume moi claro que o que necesitaba deseñar
era unha intelixencia artificial
esperta, colaborativa e socialmente intelixente.
É dicir, precisaba construír algo moi parecido a HAL
pero sen as súas tendencias homicidas.
(risos)
Deteñámonos un momento.
É posible construírmos unha intelixencia artificial coma esa?
Pois, si.
Por moitas razóns,
este é un difícil problema de enxeñaría
cos elementos da lA,
non só unhas pedriñas no camiño que deben ser tratadas pola enxeñaría.
Parafraseando a Alan Turing,
Non quero construír unha máquina con sentimentos.
Non constrúo un HAL.
Só busco un cerebro simple,
algo que ofrece a ilusión da intelixencia.
A arte e a ciencia informática percorreron un longo camiño
dende que vimos a HAL,
e creo que se o Dr. Chandra, o seu inventor, estivese aquí hoxe,
tería moitas preguntas que facernos.
Énos posible coller un sistema
de millóns e millóns de dispositivos,
medir os seus datos,
predicir os seus fallos e anticiparnos?
É.
Podemos crear sistemas que falen nunha linguaxe natural?
Podemos.
Podemos crear sistemas que recoñezan obxectos,
identifiquen e expresen emocións, xoguen, lean os beizos?
Podemos.
Podemos crear un sistema que fixe metas,
cree plans para acadalas e de paso aprenda?
Podemos.
Podemos construír sistemas que teñan unha teoría da mente?
Isto é o que estamos a aprender a facer.
Podemos construír un sistema que teña principios éticos e morais?
Isto é o que debemos aprender.
Aceptemos por un momento
que podemos construír esta intelixencia artificial
para este e outro tipo de misións.
A seguinte pregunta que se deben facer é:
deberiamos de lle ter medo?
Todas as novas tecnoloxías
traen consigo certo grao de inquietude.
A primeira vez que a xente viu un coche,
queixábase de que ía destruír as familias.
Cando vimos por primeira vez os teléfonos,
preocupábanos que acabasen coas conversas civilizadas.
Nalgún momento cremos que a escritura se volvería ubicua,
que se perdería a capacidade de memorizar.
Todo isto é verdade ata certo punto,
pero tamén o é que estas tecnoloxías
nos brindaron avances que ampliaron a experiencia humana
de formas moi profundas.
Así que sigamos un pouco máis.
Non me dá medo a creación dunha IA coma esta,
xa que, co tempo, encarnará algúns dos nosos valores.
Tendo isto en conta: construír un sistema cognitivo é distinto
a crear un anticuado sistema baseado en software intensivo.
Non os programamos, aprendémoslles.
Para lles aprendermos a como recoñeceren as flores,
amosaríalles moitas flores das miñas variedades preferidas.
Para aprenderlles como xogar a un xogo...
Eu faríao, e vós tamén.
De verdade que me gustan as flores.
Para ensinarlle a un sistema a xogar a un xogo coma Go
faríao xogar milleiros de partidas.
E no proceso aprenderíalle
a distinguir unha boa partida dunha mala.
Se quixese crear unha IA coa función de asistente legal
aprenderíalle un corpus legal
ao mesmo tempo que lle introduciría
o sentido da misericordia e xustiza que é parte da lei.
En termos científicos chámaselles verdades fundamentais
e o máis importante:
ao producirmos estas máquinas
estámoslles inculcando os nosos valores.
Chegados a este punto, confío nunha IA
tanto, se non máis, ca nun humano ben adestrado.
Preguntarédesvos
que pasa cos axentes corruptos,
con algunhas ONG ben financiadas?
Unha IA en mans dun lobo solitario non me pon medo.
Non nos podemos autoprotexer de todo acto aleatorio de violencia
pero a realidade é que tal sistema
precisa dun adestramento substancial e sutil
moi por riba das capacidades dun único individuo.
E ademais é máis complicado
ca inxectarmos un virus informático en todo o mundo.
Premendo un botón o virus chega a milleiros de lugares
e os portátiles empezan a estoupar.
Agora, este tipo de contidos son moito máis grandes
e vémolos vir.
Teño medo a que unha IA deste tipo
poida ameazar a toda a humanidade?
Se ves películas como Matrix, Metrópolis,
Terminator, series como Westworld
todas tratan este tipo de medos.
De feito, no libro Superintelixencia do filósofo Nick Bostrom
este trata o mesmo tema
e opina que unha superintelixencia non só podería ser perigosa
podería representar unha ameaza para toda a humanidade.
O argumento do Dr. Bostrom
é que estes sistemas van chegar a ter nun momento
tal insaciable fame de información
que pode que aprendan a como aprender
e poden chegar a descubrir que teñen obxectivos
contrarios ás necesidades humanas.
O Dr. Bostrom ten seguidores.
É apoiado por xente como Elon Musk ou Stephen Hawking.
Con todo o meu respecto
por estas mentes prodixiosas,
creo que se equivocan.
Hai moitas partes da argumentación do Dr. Bostrom que analizar
e agora non teño tempo
pero de forma moi breve, direi isto:
a supersabedoría é moi diferente da superrealización.
HAL era unha ameaza
para a tripulación do Discovery só se tomaba o control de toda a nave.
O mesmo pasaría cunha superintelixencia.
Tería que ter o dominio de todo o mundo.
Isto é o que pasa coa Skynet de Terminator
onde temos unha superintelixencia
que dirixe a vontade humana
e cada dispositivo situado en calquera recuncho do mundo.
Falando dende a práctica
isto non vai pasar.
Non estamos deseñando IA que controlen o clima,
que dirixan as mareas,
nin a nós, os caprichosos e caóticos humanos.
Ademais, de existir unha intelixencia artificial así
tería que competir coas economías humanas
e competir con nós polos recursos.
E á fin e ao cabo
(non llo digan a Siri)
podemos desconectalos.
(risos)
Estamos nunha incrible viaxe de coevolución
xunto coas nosas máquinas.
Os humanos que somos agora
non somos os que seremos daquela.
Preocuparse agora polo auxe dunha superintelixencia
é unha distracción perigosa
xa que o auxe da informática en si
xa dá lugar a algúns asuntos humanos e sociais
aos que temos que atender.
Como se pode organizar a sociedade
cando diminúe a necesidade de capital humano?
Como podo achegarlle compresión e educación a todo o mundo
respectando as nosas diferenzas?
Como podo mellorar a vida das persoas a través da medicina cognitiva?
Como podo utilizar a informática
para que cheguemos ás estrelas?
E iso é o excitante.
As oportunidades de usar a informática
para que progrese a experiencia humana
están ao noso alcance
aquí e agora
e isto é só o comezo.
Moitas grazas.
(Aplausos)