É possível construir inteligência artificial sem perder o controle?

Tem medo de inteligências artificiais? Pois deveria, diz o filósofo e neurocientista Sam Harris; e não apenas na teoria. Vamos construir máquinas sobre-humanas, afirma Harris, mas ainda não sabemos lidar com os problemas associados à criação de algo que vai nos exterminar, assim como nós exterminamos formigas.

Vou falar sobre uma falha intuitiva

que afeta muitos de nós.

É a falha de reconhecer certo perigo.

Eu vou descrever uma situação

que considero aterrorizante

e provável de acontecer,

e não é uma boa combinação,

ao que parece.

Mesmo assim, em vez de sentir medo,

a maioria vai achar legal o que vou falar.

Vou descrever como nossas conquistas

na área da inteligência artificial

poderão nos destruir.

Na verdade, acho muito difícil ver
como elas não vão nos destruir,

ou nos inspirar a nos destruirmos.

E se você é como eu,

vai descobrir que é divertido
pensar sobre essas coisas.

E essa resposta é parte do problema.

OK? Essa resposta deve te preocupar.

Se eu quisesse te convencer nessa palestra

de que a fome mundial é provável,

por causa do aquecimento global
ou qualquer outra catástrofe,

e de que seus netos
e os netos dos seus netos

provavelmente viverão assim,

você não pensaria:

"Interessante.

Gostei dessa Palestra TED."

Fome não é divertido.

Morte por ficção científica,
por outro lado, é divertida,

e uma das coisas que mais me preocupa
no desenvolvimento de IA nesse ponto

é que somos incapazes de organizar
uma resposta emocional apropriada

para os perigos que estão à frente.

Eu sou incapaz de ordenar essa resposta,
e estou dando esta palestra.

É como se estivéssemos
diante de duas portas.

Na porta de número 1,

paramos de progredir na área de IA.

Nossos softwares e hardwares param
de melhorar por algum motivo.

Pare um pouco para refletir
por que isso pode acontecer.

Dado que automação
e inteligência são valiosos,

continuaremos a melhorar
nossa tecnologia, se isso for possível.

O que poderia nos impedir de fazer isso?

Uma guerra nuclear em grande escala?

Uma pandemia global?

A colisão de um asteroide?

Justin Bieber como presidente
dos Estado Unidos?

(Risadas)

A questão é que algo teria que destruir
a civilização que nós conhecemos.

Você precisa imaginar
o quão ruim teria que ser

para impedir os avanços
da nossa tecnologia

permanentemente,

geração após geração.

Quase que por definição,
essa é a pior coisa

que já aconteceu na história humana.

A única alternativa,

e é o que está atrás
da porta de número 2,

é que continuemos a aprimorar
nossas máquinas inteligentes,

ano após ano.

Em algum ponto, construiremos máquinas
mais inteligentes que nós,

e uma vez que isso acontecer,

elas aperfeiçoarão a si mesmas.

E nós arriscamos o que o matemático
I. J. Good chamou

de "explosão de inteligência",

que o processo poderia fugir do controle.

Isso é frequentemente
caricaturado, desse jeito aqui,

como medo de que exércitos
de robôs malignos

nos ataquem.

Mas essa não é a situação mais provável.

Não é que nossas máquinas
se tornarão espontaneamente más.

A preocupação é que
construiremos máquinas

que são muito mais competentes do que nós,

e que a menor das divergências
entre nosso propósito e o delas

possa nos destruir.

Pense na nossa relação com as formigas.

Nós não as odiamos.

Nós não as machucamos de propósito.

Na verdade, nós tentamos
não machucar elas.

Evitamos pisá-las na calçada.

Mas sempre que a presença delas

colide com um dos nossos objetivos,

digamos que ao construirmos
um prédio como este,

nós exterminamos elas
sem a menor cerimônia.

A preocupação é que um dia
vamos construir máquinas

que, conscientes ou não,

poderão nos tratar com o mesmo desprezo.

Eu suspeito que isso pareça difícil
de acreditar para vocês.

Aposto que alguns de vocês duvidam
que uma IA superinteligente seja possível,

muito menos inevitável.

Mas então você precisar achar algo
de errado com as seguintes suposições.

E existem apenas três.

Inteligência é uma questão
de processamento de informação

em sistemas físicos.

Na verdade, isso é mais
do que uma suposição.

Nós já construímos inteligência limitada
em nossas máquinas,

e muitas delas já trabalham num nível
de inteligência sobre-humano.

E sabemos que matéria comum

pode dar origem ao que é chamado
de "inteligência geral",

a habilidade de pensar de forma flexível
em vários domínios,

porque nossos cérebros
conseguiram isso. Certo?

Existem apenas átomos aqui,

e desde que continuemos a construir
sistemas de átomos

que mostrem mais e mais
comportamento inteligente,

a não ser que nos interrompam,

vamos acabar construindo
inteligência geral

dentro de nossas máquinas.

É crucial perceber que a taxa
de progresso não importa,

porque qualquer progresso é suficiente
para nos levar até a zona final.

Não precisamos da Lei de Moore
para continuar,

Não precisamos de progresso exponencial,
só precisamos continuar.

A segunda suposição é
que vamos continuar.

Continuaremos a melhorar
nossas máquinas inteligentes.

E dado o valor da inteligência...

Inteligência ou é a fonte de tudo
aquilo que valorizamos

ou precisamos dela para que proteja
aquilo que valorizamos.

É a nossa fonte mais valiosa.

Então nós queremos fazer isso.

Temos problemas que precisamos
resolver urgentemente.

Queremos curar doenças
como Alzheimer e câncer.

Queremos entender sistemas econômicos.
Queremos aprimorar a ciência climática.

Nós faremos isso, se pudermos.

O trem já saiu da estação,
e não há freio para puxar.

Finalmente, não estamos
em um pico de inteligência,

não estamos nem perto disso.

E essa é a percepção crucial.

Isso é o que faz a nossa situação
ser tão precária

e a nossa intuição sobre riscos
não ser confiável.

Pense na pessoa mais
inteligente que já existiu.

Na lista de quase todos aqui
está John von Neumann.

A impressão que ele causou
nas pessoas ao seu redor,

e isso inclui os melhores matemáticos
e físicos de seu tempo,

está muito bem documentada.

Se apenas metade das histórias
sobre ele forem meio verdadeiras,

não há dúvida de que ele foi uma das
pessoas mais inteligentes que já existiu.

Considere o espectro da inteligência.

Aqui temos John von Neumann.

E aqui temos eu e você.

E aqui temos uma galinha.

(Risadas)

Perdão, uma galinha.

(Risadas)

Não existe razão pra que eu torne isso
mais depressivo do que precisa ser.

(Risadas)

Parece extremamente provável, no entanto,
que esse espectro da inteligência

se estenda muito além do que pensamos,

e se construirmos máquinas
mais inteligentes do que nós,

elas provavelmente
vão explorar esse espectro

de maneiras que não podemos imaginar,

e vão nos ultrapassar
de formas inimagináveis.

E é importante reconhecer que isso é
verdade apenas pela velocidade.

Imagine se construíssemos
uma IA superinteligente

que não fosse mais inteligente do que
seu time mediano de pesquisadores

em Stanford ou no MIT.

Circuitos eletrônicos funcionam quase
1 milhão de vezes mais rápido

do que os biológicos,

então essa máquina deve pensar
1 milhão de vezes mais rápido

do que a mente que a criou.

Você deixa ela funcionando
por uma semana,

e ela vai realizar 20 mil anos humanos
de trabalho intelectual,

semana após semana.

Como poderíamos entender,
muito menos restringir,

uma mente progredindo dessa maneira?

Outra coisa que é
preocupante, francamente,

é... imagine o melhor cenário possível.

Imagine que nos deparamos
com o design de uma IA superinteligente

que não tem problemas de segurança.

Temos o design perfeito pela primeira vez.

É como se tivéssemos recebido um oráculo

que se comporta como deve.

Essa máquina seria o perfeito
dispositivo de economia de trabalho.

Pode desenvolver a máquina
que pode construir a máquina

que pode executar
qualquer trabalho físico,

movido à luz solar,

por mais ou menos
o custo da matéria-prima.

Estamos falando do fim
do esforço físico humano.

Também estamos falando do fim
da maior parte do trabalho intelectual.

O que símios como nós fariam
nessas circunstâncias?

Estaríamos livres para jogar Frisbee
e massagear uns aos outros.

Adicione LSD e escolhas
de roupas questionáveis,

e o mundo inteiro seria
como o Festival Burning Man.

(Risadas)

Pode até parecer muito bom,

mas se pergunte: o que aconteceria

sob a atual economia e ordem política?

Possivelmente, iríamos presenciar

um nível de desigualdade
de riqueza e desemprego

nunca visto antes.

Sem a vontade de colocar
imediatamente essa riqueza

a serviço da humanidade,

alguns poucos trilionários apareceriam
nas capas das revistas de negócios,

enquanto o resto do mundo passaria fome.

E o que os russos e os chineses fariam

se soubessem que uma empresa
no Vale do Silício

estivesse pronta para implantar
uma IA superinteligente?

Essa máquina seria capaz
de travar uma guerra,

terrestre ou cibernética,

com poder sem precedente.

É um cenário onde o vencedor leva tudo.

Estar seis meses à frente da competição

é como estar 500 mil anos adiantado,

no mínimo.

Parece que mesmo os meros
rumores desse tipo de avanço

poderiam causar fúria em nossa espécie.

Uma das coisas mais assustadoras,

na minha opinião, nesse momento,

são os tipos de coisas
que os pesquisadores de IA dizem

quando querem nos tranquilizar.

E eles nos dizem para não
nos preocuparmos com o tempo.

Esse é um caminho longo,
se você não sabe.

Provavelmente está
a 50, 100 anos de distância.

Um pesquisador disse:

"Se preocupar com a segurança de IA

é como se preocupar
com a superpopulação em Marte."

Essa é a versão do Vale do Silício

para que você "não esquente
sua cabecinha linda."

(Risadas)

Ninguém parece perceber

que fazer referência ao tempo

é um argumento inválido.

Se inteligência é questão
de processamento de informação,

e se continuarmos a aperfeiçoar
nossas máquinas,

produziremos alguma forma
de superinteligência.

E não temos ideia de quanto
tempo vai demorar

para fazer isso de forma segura.

Vou dizer novamente.

Não temos ideia de quanto tempo vai levar

para fazer isso de forma segura.

E se você não percebeu, 50 anos não
são mais o que costumavam ser.

Isso são 50 anos em meses.

Esta é a idade que tem o iPhone.

Este é o tempo que Os Simpsons
está na televisão.

Cinquenta anos não é muito tempo

para conhecer um dos maiores desafios
que nossa espécie enfrentará.

Novamente, parece que estamos falhando
em uma reação emocional adequada

a algo que, com certeza, está vindo.

O cientista de computação Stuart Russell
possui uma bela analogia:

imagine que recebamos uma mensagem
de uma civilização alienígena,

que diz:

"Pessoas da Terra,

chegaremos ao seu planeta em 50 anos.

Se preparem."

E agora estamos contando os meses
até a chegada da nave-mãe?

Nós teríamos mais urgência
do que temos agora.

Outro motivo dito
para não nos preocuparmos

é que essas máquinas não podem evitar
compartilhar nossos valores

porque eles serão literalmente
extensões de nós mesmos.

Eles serão transplantados
em nossos cérebros

e nos tornaremos parte
de seus sistemas límbicos.

Reserve um momento para considerar

que o único caminho prudente
e seguro recomendado,

é implantar essa tecnologia
diretamente em nossos cérebros.

Esse pode ser o caminho
mais seguro e prudente,

mas, normalmente, os problemas
de segurança da tecnologia

precisam ser resolvidos antes de ser
implantado dentro da sua cabeça.

(Risadas)

O maior problema é que construir
uma IA superinteligente por si só

parece ser mais fácil

do que construir IA superinteligente

e ter a neurociência completa

que nos permita integrar
perfeitamente nossas mentes.

E dado que empresas e governos
que estão trabalhando nisso

se encontram numa corrida
uns contra os outros,

dado que vencer essa corrida é
conquistar o mundo,

supondo que você não o destrua
no momento seguinte,

então parece que o que for
mais fácil de se fazer

será feito primeiro.

Infelizmente, eu não tenho
a solução para esse problema,

a não ser recomendar
que outros pensem sobre isso.

Acho que precisamos de algo
como o Projeto Manhattan

na área de inteligência artificial.

Não para construir uma IA,
porque vamos inevitavelmente fazer isso,

mas para entender como evitar
uma corrida armamentista

e construir uma IA que esteja
alinhada aos nossos interesses.

Quando se fala de uma IA superinteligente

que pode modificar a si mesma,

parece que temos apenas uma chance
para acertar as condições primárias

e, mesmo assim, teremos que assimilar

as consequências econômicas
e políticas desse acerto.

Mas no momento em que admitirmos

que o processamento de informação
é a fonte da inteligência,

que um sistema computacional apropriado
é a base do que é a inteligência,

e admitirmos que continuaremos
a aprimorar esse sistema,

e que o horizonte do conhecimento
provavelmente ultrapassa

tudo o que sabemos agora,

então teremos que admitir

que estamos no processo de criação
de algum tipo de deus.

Agora seria um ótimo momento
de ter a certeza

de que é um deus
com o qual podemos viver.

Muito obrigado.

(Aplausos)