[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.70,Default,,0000,0000,0000,,Meu primeiro emprego na vida foi\Ncomo programadora de computador
Dialogue: 0,0:00:04.74,0:00:06.84,Default,,0000,0000,0000,,já no primeiro ano de faculdade,
Dialogue: 0,0:00:06.86,0:00:08.37,Default,,0000,0000,0000,,praticamente uma adolescente.
Dialogue: 0,0:00:08.89,0:00:10.62,Default,,0000,0000,0000,,Logo que comecei a trabalhar,
Dialogue: 0,0:00:10.64,0:00:12.26,Default,,0000,0000,0000,,escrevendo software numa empresa,
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,um gerente que trabalhava lá\Nse aproximou de mim
Dialogue: 0,0:00:16.46,0:00:17.93,Default,,0000,0000,0000,,e começou a sussurrar:
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,"Ele consegue dizer se estou mentindo?"
Dialogue: 0,0:00:21.81,0:00:23.95,Default,,0000,0000,0000,,Não havia mais ninguém na sala.
Dialogue: 0,0:00:23.95,0:00:25.03,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,"Quem consegue dizer se você está\Nmentindo? E por que estamos sussurrando?"
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,O gerente apontou\Npara o computador na sala.
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,"Ele consegue dizer se estou mentindo?"
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,Bem, aquele gerente estava tendo \Num caso com a recepcionista.
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:00:43.14,0:00:45.28,Default,,0000,0000,0000,,E eu ainda era uma adolescente.
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,Assim, gritei sussurrando de volta:
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,"Sim, o computador sabe\Nse você está mentindo".
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,Eu ri, mas, na verdade,\Nestava rindo de mim mesma.
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,Atualmente, há sistemas computacionais
Dialogue: 0,0:00:59.21,0:01:02.76,Default,,0000,0000,0000,,que conseguem perceber\Nestados emocionais e até mentiras
Dialogue: 0,0:01:02.78,0:01:04.82,Default,,0000,0000,0000,,ao processar rostos humanos.
Dialogue: 0,0:01:05.25,0:01:09.59,Default,,0000,0000,0000,,Anunciantes e até governos\Nestão muito interessados nisso.
Dialogue: 0,0:01:10.32,0:01:12.18,Default,,0000,0000,0000,,Tornei-me programadora de computador,
Dialogue: 0,0:01:12.20,0:01:15.32,Default,,0000,0000,0000,,pois era uma dessas crianças\Nloucas por matemática e ciências.
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,Mas, a uma certa altura,\Ndescobri as armas nucleares
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,e passei a me preocupar\Ncom a ética da ciência.
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,Aquilo me perturbou.
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,No entanto, devido\Na circunstâncias familiares,
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,eu também precisava começar\Na trabalhar o mais rápido possível.
Dialogue: 0,0:01:29.26,0:01:32.32,Default,,0000,0000,0000,,Assim, pensei comigo mesma:\N"Ei, vou escolher a área técnica,
Dialogue: 0,0:01:32.32,0:01:34.38,Default,,0000,0000,0000,,onde posso conseguir\Num emprego facilmente
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,e não tenho de lidar com quaisquer\Nquestões éticas perturbadoras".
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,Então escolhi os computadores.
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,Bem, ha, ha, ha! Eu virei a piada.
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,Hoje, os cientistas da computação\Nconstroem plataformas
Dialogue: 0,0:01:47.92,0:01:52.45,Default,,0000,0000,0000,,que controlam o que um bilhão\Nde pessoas veem todos os dias.
Dialogue: 0,0:01:53.05,0:01:56.83,Default,,0000,0000,0000,,Eles estão desenvolvendo carros\Nque poderiam decidir quem atropelar.
Dialogue: 0,0:01:56.83,0:01:57.71,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,Estão construindo até mesmo\Nmáquinas e armas
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,que podem matar seres humanos na guerra.
Dialogue: 0,0:02:03.25,0:02:06.30,Default,,0000,0000,0000,,É ética o tempo todo.
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,A inteligência de máquina chegou.
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,Hoje em dia usamos a computação\Npara tomar todo tipo de decisão,
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,mas também novos tipos de decisão.
Dialogue: 0,0:02:15.23,0:02:20.40,Default,,0000,0000,0000,,Perguntamos aos computadores coisas\Nque não têm apenas uma resposta correta,
Dialogue: 0,0:02:20.43,0:02:23.93,Default,,0000,0000,0000,,que são subjetivas, abertas\Ne que envolvem julgamento de valor.
Dialogue: 0,0:02:24.00,0:02:27.24,Default,,0000,0000,0000,,Perguntamos coisas do tipo:\N"Quem a empresa deve contratar?"
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,"Que atualização de qual amigo\Ndeve ser mostrada?"
Dialogue: 0,0:02:30.88,0:02:33.54,Default,,0000,0000,0000,,"Qual condenado tem mais chance\Nde reincidir num crime?"
Dialogue: 0,0:02:33.54,0:02:36.57,Default,,0000,0000,0000,,"Quais notícias ou filmes devem\Nser recomendados às pessoas?"
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,Sim, temos usado os computadores\Njá faz um bom tempo,
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,mas isso é diferente.
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,Essa é uma virada histórica,
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,pois não podemos confiar na computação\Npara essas decisões subjetivas
Dialogue: 0,0:02:48.98,0:02:53.28,Default,,0000,0000,0000,,da mesma forma que podemos confiar\Nna computação para pilotar aviões,
Dialogue: 0,0:02:53.28,0:02:55.68,Default,,0000,0000,0000,,construir pontes, ir à Lua.
Dialogue: 0,0:02:56.13,0:02:59.71,Default,,0000,0000,0000,,Os aviões estão mais seguros?\NA ponte balançou e caiu?
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,Nesses casos, concordamos de forma\Nbem clara com os parâmetros,
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,e temos as leis da natureza como baliza.
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,Nós não temos tais âncoras ou marcos
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,para a tomada de decisões\Nem negócios humanos confusos.
Dialogue: 0,0:03:14.26,0:03:18.16,Default,,0000,0000,0000,,Para complicar ainda mais as coisas,\Nnosso software está ficando mais poderoso,
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,mas também menos transparente\Ne mais complexo.
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,Recentemente, na década passada,
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,algoritmos complexos deram passos enormes.
Dialogue: 0,0:03:27.36,0:03:29.66,Default,,0000,0000,0000,,Eles conseguem reconhecer rostos humanos.
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,Eles conseguem decifrar caligrafia.
Dialogue: 0,0:03:32.44,0:03:35.72,Default,,0000,0000,0000,,Eles conseguem detectar fraude\Nde cartão de crédito, bloquear spam,
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,conseguem traduzir línguas
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,e detectar tumores em exames de imagem.
Dialogue: 0,0:03:40.40,0:03:43.16,Default,,0000,0000,0000,,Conseguem vencer humanos\Nem jogos de xadrez e Go.
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,Muito desse progresso vem de um método\Nchamado "aprendizado de máquina".
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,O aprendizado de máquina é diferente\Nda programação tradicional
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,em que instruções detalhadas, exatas\Ne meticulosas são dadas ao computador.
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,É mais como pegar um sistema\Ne alimentá-lo com montes de dados,
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,incluindo dados não estruturados,
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,como os que geramos\Nem nossas vidas digitais.
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,E o sistema aprende revirando esses dados.
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,Além disso, fundamentalmente,
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,esses sistemas não operam\Nsob a lógica de uma resposta única.
Dialogue: 0,0:04:12.62,0:04:15.58,Default,,0000,0000,0000,,Eles não produzem uma resposta\Nsimples; é mais probabilidade:
Dialogue: 0,0:04:15.61,0:04:19.38,Default,,0000,0000,0000,,"É provável que isto aqui seja\No que você está procurando".
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,Bem, a vantagem é que esse método\Né realmente poderoso.
Dialogue: 0,0:04:23.12,0:04:25.19,Default,,0000,0000,0000,,O responsável pela IA do Google o chamou
Dialogue: 0,0:04:25.22,0:04:27.41,Default,,0000,0000,0000,,de "a eficácia irracional dos dados".
Dialogue: 0,0:04:27.79,0:04:29.25,Default,,0000,0000,0000,,O lado negativo é
Dialogue: 0,0:04:29.74,0:04:32.70,Default,,0000,0000,0000,,não sabermos realmente\No que o sistema aprendeu.
Dialogue: 0,0:04:32.70,0:04:35.01,Default,,0000,0000,0000,,Na realidade, é aí que está seu poder.
Dialogue: 0,0:04:35.01,0:04:38.74,Default,,0000,0000,0000,,Isso tem pouco a ver com dar\Ninstruções a um computador;
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,é mais como adestrar uma máquina-filhote
Dialogue: 0,0:04:43.29,0:04:45.61,Default,,0000,0000,0000,,que não controlamos\Nou conhecemos de verdade.
Dialogue: 0,0:04:45.61,0:04:46.36,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:04:46.36,0:04:48.12,Default,,0000,0000,0000,,Então, este é o nosso problema.
Dialogue: 0,0:04:48.43,0:04:49.43,Default,,0000,0000,0000,,É um problema
Dialogue: 0,0:04:49.43,0:04:52.81,Default,,0000,0000,0000,,quando esse sistema de inteligência\Nartificial entende as coisas errado.
Dialogue: 0,0:04:52.81,0:04:56.25,Default,,0000,0000,0000,,Também é um problema\Nquando ele entende certo,
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,pois não sabemos distinguir os dois\Nquando se trata de um problema subjetivo.
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,Não sabemos o que esta coisa\Nestá pensando.
Dialogue: 0,0:05:03.49,0:05:07.46,Default,,0000,0000,0000,,Por exemplo, vamos imaginar\Num algoritmo de contratação,
Dialogue: 0,0:05:08.12,0:05:10.54,Default,,0000,0000,0000,,um sistema usado para contratar pessoas,
Dialogue: 0,0:05:10.54,0:05:13.05,Default,,0000,0000,0000,,usando o aprendizado de máquina.
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,Tal sistema teria sido treinado\Nem dados prévios dos empregados
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,e treinado para encontrar e contratar
Dialogue: 0,0:05:19.27,0:05:22.50,Default,,0000,0000,0000,,pessoas como os atuais empregados\Ncom alto desempenho na empresa.
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,Parece uma coisa boa.
Dialogue: 0,0:05:23.99,0:05:25.99,Default,,0000,0000,0000,,Uma vez, fui a um seminário
Dialogue: 0,0:05:26.01,0:05:29.14,Default,,0000,0000,0000,,que reuniu gerentes e executivos\Nda área de recursos humanos,
Dialogue: 0,0:05:29.16,0:05:32.06,Default,,0000,0000,0000,,pessoas de alto nível,\Nusando tais sistemas para contratar.
Dialogue: 0,0:05:32.06,0:05:33.62,Default,,0000,0000,0000,,Eles estavam muito empolgados.
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,Achavam que isso tornaria a contratação\Nmais objetiva, menos parcial,
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,e daria a mulheres e minorias\Numa melhor oportunidade
Dialogue: 0,0:05:41.35,0:05:43.54,Default,,0000,0000,0000,,versus gerentes humanos tendenciosos.
Dialogue: 0,0:05:43.56,0:05:46.40,Default,,0000,0000,0000,,Pois vejam: a contratação\Nhumana é tendenciosa.
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,Sei bem disso.
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,Quero dizer, num dos meus primeiros\Nempregos como programadora,
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,minha gerente imediata\Nàs vezes vinha ao meu setor
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,bem cedinho pela manhã\Nou bem no final da tarde,
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,e me chamava: "Zeynep, vamos almoçar!"
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,Eu ficava atônita com o horário estranho.
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,Eram quatro da tarde. Almoço?
Dialogue: 0,0:06:07.07,0:06:10.16,Default,,0000,0000,0000,,Eu não tinha grana, então,\Nalmoço grátis, eu sempre ia.
Dialogue: 0,0:06:10.36,0:06:12.68,Default,,0000,0000,0000,,Só mais tarde percebi\No que estava acontecendo.
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,Meus gerentes imediatos não tinham\Nconfessado a seus superiores
Dialogue: 0,0:06:17.28,0:06:21.40,Default,,0000,0000,0000,,que a programadora que tinham contratado\Npara um emprego sério era uma adolescente
Dialogue: 0,0:06:21.93,0:06:24.78,Default,,0000,0000,0000,,que vinha trabalhar de jeans e tênis.
Dialogue: 0,0:06:25.07,0:06:27.38,Default,,0000,0000,0000,,Eu trabalhava direito, só parecia errada,
Dialogue: 0,0:06:27.40,0:06:29.10,Default,,0000,0000,0000,,e tinha a idade e o gênero errados.
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,Assim, contratar independente\Nda raça e do gênero
Dialogue: 0,0:06:32.49,0:06:34.82,Default,,0000,0000,0000,,certamente me parece uma coisa boa.
Dialogue: 0,0:06:35.03,0:06:38.62,Default,,0000,0000,0000,,Mas, com esses sistemas,\Né mais complicado, e eis a razão:
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,hoje, sistemas de computador podem\Ninferir todo tipo de coisas sobre nós
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,por meio de nossas pegadas digitais,
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,mesmo coisas que não tivermos revelado.
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,Eles podem inferir\Nnossa orientação sexual,
Dialogue: 0,0:06:52.99,0:06:54.70,Default,,0000,0000,0000,,os traços de nossa personalidade,
Dialogue: 0,0:06:54.86,0:06:56.36,Default,,0000,0000,0000,,nossas tendências políticas.
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,Eles têm poder preditivo\Ncom altos níveis de precisão.
Dialogue: 0,0:07:01.36,0:07:05.50,Default,,0000,0000,0000,,Vejam bem, para coisas\Nque não revelamos: isso é inferência.
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,Tenho uma amiga que desenvolveu\Num sistema de computador
Dialogue: 0,0:07:08.86,0:07:12.50,Default,,0000,0000,0000,,para predizer a probabilidade\Nde depressão clínica pós-parto
Dialogue: 0,0:07:12.53,0:07:14.20,Default,,0000,0000,0000,,com base em dados de mídia social.
Dialogue: 0,0:07:14.68,0:07:16.42,Default,,0000,0000,0000,,Os resultados são impressionantes.
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,O sistema dela prevê\Na probabilidade de depressão
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,meses antes do surgimento\Nde quaisquer sintomas,
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,meses antes.
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,Mesmo sem sintomas, ele prevê.
Dialogue: 0,0:07:27.47,0:07:31.49,Default,,0000,0000,0000,,Ela espera que isso seja usado\Npara intervenção precoce.
Dialogue: 0,0:07:31.49,0:07:32.48,Default,,0000,0000,0000,,Ótimo!
Dialogue: 0,0:07:32.91,0:07:35.32,Default,,0000,0000,0000,,Mas coloque isso\Nno contexto da contratação.
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,Então, nesse seminário\Nde gerentes de recursos humanos,
Dialogue: 0,0:07:39.10,0:07:43.47,Default,,0000,0000,0000,,eu me aproximei de uma gerente\Ncom alto cargo numa grande empresa,
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,e perguntei a ela: "Olhe,\Ne se, sem seu conhecimento,
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,seu sistema estiver cortando pessoas\Ncom probabilidade de depressão futura?
Dialogue: 0,0:07:55.76,0:07:59.59,Default,,0000,0000,0000,,Elas não estão deprimidas agora,\Nmas, no futuro, bem provavelmente.
Dialogue: 0,0:07:59.92,0:08:03.33,Default,,0000,0000,0000,,E se estiver cortando mulheres\Ncom maior probabilidade de engravidar
Dialogue: 0,0:08:03.35,0:08:06.33,Default,,0000,0000,0000,,dentro de um ou dois anos,\Nmas que não estejam grávidas agora?
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,E se contratar pessoas agressivas\Npor causa da cultura da empresa?
Dialogue: 0,0:08:13.17,0:08:15.85,Default,,0000,0000,0000,,Não se pode saber isso\Ncom análises de gênero.
Dialogue: 0,0:08:15.85,0:08:17.39,Default,,0000,0000,0000,,Isso pode estar equacionado.
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,E, como isso é aprendizado de máquina, \Nnão é codificação tradicional,
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,não há uma variável chamada\N'alto risco de depressão',
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,'maior risco de gravidez',
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,'pessoa altamente agressiva'.
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,Não só você não sabe o que\Nseu sistema está selecionando,
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,como também não sabe onde começar a olhar.
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,É uma caixa-preta.
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,Ele tem poder preditivo,\Nmas você não o entende.
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,Que salvaguardas", perguntei, "você teria
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,para se assegurar de que sua caixa-preta\Nnão está fazendo algo suspeito?"
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,Ela olhou para mim como se eu tivesse\Npisado no rabo de dez cachorrinhos.
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:54.04,0:08:56.31,Default,,0000,0000,0000,,Ela olhou bem pra mim e falou:
Dialogue: 0,0:08:56.56,0:09:01.07,Default,,0000,0000,0000,,"Eu não quero ouvir\Nnem mais uma palavra sobre isso".
Dialogue: 0,0:09:01.46,0:09:03.75,Default,,0000,0000,0000,,E virou as costas e foi embora.
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,Vejam bem, ela não foi rude.
Dialogue: 0,0:09:05.57,0:09:06.80,Default,,0000,0000,0000,,Era claramente:
Dialogue: 0,0:09:06.97,0:09:11.91,Default,,0000,0000,0000,,"O que eu não sei não é problema meu,\Nvai embora, agourenta".
Dialogue: 0,0:09:11.91,0:09:13.48,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,Vejam, tal sistema pode até\Nser menos tendencioso
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,do que gerentes humanos de alguma forma.
Dialogue: 0,0:09:19.85,0:09:22.40,Default,,0000,0000,0000,,E poderia fazer sentido financeiramente.
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,Mas também poderia levar
Dialogue: 0,0:09:24.25,0:09:28.100,Default,,0000,0000,0000,,a um constante mas sorrateiro\Nfechamento do mercado de trabalho
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,para pessoas com alto risco de depressão.
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,É esse tipo de sociedade\Nque queremos construir,
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,sem nem sequer saber que fizemos isso,
Dialogue: 0,0:09:36.68,0:09:40.65,Default,,0000,0000,0000,,por termos dado às máquinas um poder\Nde decisão que não entendemos totalmente?
Dialogue: 0,0:09:41.26,0:09:42.89,Default,,0000,0000,0000,,Outro problema é o seguinte:
Dialogue: 0,0:09:43.31,0:09:47.54,Default,,0000,0000,0000,,esses sistemas normalmente são treinados\Ncom dados gerados pelas nossas ações,
Dialogue: 0,0:09:47.79,0:09:49.57,Default,,0000,0000,0000,,vestígios humanos.
Dialogue: 0,0:09:50.19,0:09:53.80,Default,,0000,0000,0000,,Bem, eles poderiam estar apenas\Nrefletindo nossas tendências,
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,e esses sistemas poderiam\Nestar pegando nossas tendências,
Dialogue: 0,0:09:57.64,0:10:01.56,Default,,0000,0000,0000,,amplificando-as e devolvendo-as para nós,\Nenquanto dizemos a nós mesmos:
Dialogue: 0,0:10:01.56,0:10:04.83,Default,,0000,0000,0000,,"Estamos fazendo apenas\Ncomputação objetiva e neutra".
Dialogue: 0,0:10:06.31,0:10:09.12,Default,,0000,0000,0000,,Pesquisadores descobriram que, no Google,
Dialogue: 0,0:10:10.13,0:10:15.45,Default,,0000,0000,0000,,são mostrados menos anúncios de empregos\Nbem pagos às mulheres do que aos homens.
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,E, numa pesquisa de nomes afro-americanos,
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,é provável que nos sejam mostrados\Nanúncios sugerindo história criminal,
Dialogue: 0,0:10:23.75,0:10:25.62,Default,,0000,0000,0000,,mesmo quando não há nenhuma.
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,Tais tendências escondidas\Ne algoritmos caixas-pretas,
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,que os pesquisadores às vezes revelam,\Nmas às vezes desconhecemos,
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,podem afetar a vida das pessoas.
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,Em Wisconsin, um réu foi sentenciado\Na seis anos de prisão
Dialogue: 0,0:10:42.14,0:10:44.03,Default,,0000,0000,0000,,por fugir da polícia.
Dialogue: 0,0:10:44.73,0:10:46.01,Default,,0000,0000,0000,,Talvez não saibam disso,
Dialogue: 0,0:10:46.03,0:10:50.03,Default,,0000,0000,0000,,mas os algoritmos estão sendo cada vez\Nmais usados em decisões judiciais.
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,E o réu quis saber:\Ncomo esse número foi calculado?
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,É uma caixa-preta comercial.
Dialogue: 0,0:10:55.48,0:11:00.05,Default,,0000,0000,0000,,A empresa se recusou a ter\Nseu algoritmo exposto no tribunal.
Dialogue: 0,0:11:00.40,0:11:04.45,Default,,0000,0000,0000,,Mas a ProPublica, uma organização\Ninvestigativa sem fins lucrativos,
Dialogue: 0,0:11:04.45,0:11:07.97,Default,,0000,0000,0000,,auditou esse algoritmo com os dados\Npúblicos que conseguiu encontrar
Dialogue: 0,0:11:07.99,0:11:10.31,Default,,0000,0000,0000,,e descobriu que os resultados\Neram tendenciosos,
Dialogue: 0,0:11:10.33,0:11:13.96,Default,,0000,0000,0000,,e seu poder preditivo era deplorável,\Napenas um pouco melhor do que o acaso,
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,e estava rotulando erroneamente\Nréus negros como futuros criminosos
Dialogue: 0,0:11:18.42,0:11:22.48,Default,,0000,0000,0000,,duas vezes mais do que os réus brancos.
Dialogue: 0,0:11:23.89,0:11:25.58,Default,,0000,0000,0000,,Vejam por exemplo este caso:
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,esta mulher se atrasou\Npara buscar sua parente
Dialogue: 0,0:11:29.98,0:11:32.32,Default,,0000,0000,0000,,numa escola no Condado\Nde Broward, na Flórida.
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,Correndo pela rua com uma amiga,
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,elas viram uma bicicleta sem cadeado\Ne uma lambreta numa varanda
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,e, impensadamente, pularam nela.
Dialogue: 0,0:11:40.92,0:11:43.39,Default,,0000,0000,0000,,Quando estavam indo embora,\Numa mulher saiu e falou:
Dialogue: 0,0:11:43.39,0:11:45.74,Default,,0000,0000,0000,,"Ei! Esta é a bicicleta do meu filho!"
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,Elas largaram a bicicleta,\Nfugiram, mas foram presas.
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,Ela errou, foi infantil,\Nmas tinha apenas 18 anos.
Dialogue: 0,0:11:52.75,0:11:55.50,Default,,0000,0000,0000,,Ela tinha algumas contravenções juvenis.
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,Enquanto isso, aquele homem\Ntinha sido preso por furtar na Home Depot
Dialogue: 0,0:12:01.02,0:12:04.17,Default,,0000,0000,0000,,bens no valor de US$ 85,\Num crime pequeno similar.
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,Mas ele tinha duas condenações\Nprévias por roubo à mão armada.
Dialogue: 0,0:12:09.72,0:12:13.65,Default,,0000,0000,0000,,No entanto, o algoritmo a classificou\Ncomo sendo de alto risco, e ele não.
Dialogue: 0,0:12:14.59,0:12:18.48,Default,,0000,0000,0000,,Dois anos depois, a ProPublica descobriu\Nque ela não tinha reincidido em crime.
Dialogue: 0,0:12:18.48,0:12:21.36,Default,,0000,0000,0000,,E foi muito difícil conseguir\Num emprego com esse histórico.
Dialogue: 0,0:12:21.36,0:12:23.29,Default,,0000,0000,0000,,Ele, por outro lado, reincidiu no crime
Dialogue: 0,0:12:23.32,0:12:27.45,Default,,0000,0000,0000,,e agora está cumprindo oito anos\Nde prisão por um crime posterior.
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,Claramente, precisamos\Nauditar nossas caixas-pretas
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,e não deixá-las ter esse tipo\Nde poder sem controle.
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,Auditorias são ótimas e importantes,\Nmas não resolvem todos os problemas.
Dialogue: 0,0:12:42.35,0:12:45.10,Default,,0000,0000,0000,,Peguem o poderoso algoritmo do Facebook.
Dialogue: 0,0:12:45.12,0:12:49.97,Default,,0000,0000,0000,,Sabe aquele que escolhe o que nos mostrar
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,entre todos os amigos\Ne páginas que seguimos?
Dialogue: 0,0:12:52.68,0:12:55.17,Default,,0000,0000,0000,,Será que deveriam lhe mostrar\Numa outra foto de bebê?
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,Um comentário estranho de um conhecido?
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,Uma notícia importante, mas difícil?
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,Não existe resposta certa.
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,O Facebook o aperfeiçoa pelo uso do site:
Dialogue: 0,0:13:05.52,0:13:07.63,Default,,0000,0000,0000,,curtidas, compartilhamentos, comentários.
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,Em agosto de 2014,
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,houve uma onda de protestos\Nem Ferguson, no Missouri,
Dialogue: 0,0:13:13.57,0:13:17.99,Default,,0000,0000,0000,,depois do assassinato de um adolescente\Nafro-americano por um policial branco,
Dialogue: 0,0:13:18.02,0:13:19.84,Default,,0000,0000,0000,,sob circunstâncias nebulosas.
Dialogue: 0,0:13:19.84,0:13:22.20,Default,,0000,0000,0000,,Notícias sobre os protestos\Nestavam por toda parte
Dialogue: 0,0:13:22.22,0:13:24.69,Default,,0000,0000,0000,,no "feed" do meu Twitter\Nsem algoritmo de filtragem,
Dialogue: 0,0:13:24.71,0:13:26.91,Default,,0000,0000,0000,,mas em nenhum lugar no meu Facebook.
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,Seriam meus amigos no Facebook?
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,Eu desabilitei o algoritmo do Facebook,
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,o que é difícil,\Npois o Facebook espera que nós
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,fiquemos sob o controle do algoritmo,
Dialogue: 0,0:13:36.40,0:13:38.88,Default,,0000,0000,0000,,e vi que meus amigos\Nestavam falando sobre o assunto.
Dialogue: 0,0:13:38.88,0:13:41.02,Default,,0000,0000,0000,,Mas o algoritmo\Nsimplesmente não mostrava.
Dialogue: 0,0:13:41.02,0:13:44.24,Default,,0000,0000,0000,,Fui pesquisar e descobri\Nque era um problema geral.
Dialogue: 0,0:13:44.26,0:13:48.08,Default,,0000,0000,0000,,A história de Ferguson não\Nera compatível com o algoritmo.
Dialogue: 0,0:13:48.10,0:13:50.81,Default,,0000,0000,0000,,Não era "curtível";\Nquem ia "curtir" aquilo?
Dialogue: 0,0:13:51.50,0:13:53.81,Default,,0000,0000,0000,,Não era fácil nem mesmo\Ncomentar sobre o assunto.
Dialogue: 0,0:13:53.81,0:13:55.10,Default,,0000,0000,0000,,Sem curtidas e comentários,
Dialogue: 0,0:13:55.12,0:13:58.56,Default,,0000,0000,0000,,era provável que o algoritmo mostrasse\Nisso para cada vez menos pessoas,
Dialogue: 0,0:13:58.56,0:14:00.64,Default,,0000,0000,0000,,assim, não pudemos ver isto.
Dialogue: 0,0:14:00.95,0:14:04.19,Default,,0000,0000,0000,,Em seu lugar, naquela semana,\No algoritmo do Facebook priorizou isto:
Dialogue: 0,0:14:04.19,0:14:06.89,Default,,0000,0000,0000,,o desafio do balde da ELA,\Nesclerose lateral amiotrófica.
Dialogue: 0,0:14:06.89,0:14:10.51,Default,,0000,0000,0000,,Causa importante: jogar água gelada,\Ndoar para caridade, tudo bem.
Dialogue: 0,0:14:10.54,0:14:12.65,Default,,0000,0000,0000,,Mas era supercompatível com o algoritmo.
Dialogue: 0,0:14:13.12,0:14:15.83,Default,,0000,0000,0000,,A máquina tomou essa decisão por nós.
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,Uma conversa muito importante,\Nmas muito difícil,
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,teria sido atenuada,
Dialogue: 0,0:14:20.96,0:14:23.65,Default,,0000,0000,0000,,caso o Facebook fosse o único canal.
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,Finalmente, esses sistemas\Ntambém podem errar
Dialogue: 0,0:14:27.94,0:14:30.49,Default,,0000,0000,0000,,de maneiras diferentes\Ndos sistemas humanos.
Dialogue: 0,0:14:30.49,0:14:33.62,Default,,0000,0000,0000,,Lembram-se do Watson, o sistema\Nde inteligência de máquina da IBM
Dialogue: 0,0:14:33.64,0:14:36.77,Default,,0000,0000,0000,,que sempre ganhava, competindo\Ncom seres humanos num show de TV?
Dialogue: 0,0:14:37.13,0:14:38.56,Default,,0000,0000,0000,,Ele era um ótimo jogador.
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,Mas então, na final, foi feita\Na seguinte pergunta a Watson:
Dialogue: 0,0:14:42.39,0:14:45.59,Default,,0000,0000,0000,,"Seu maior aeroporto possui o nome\Nde um herói da Segunda Guerra,
Dialogue: 0,0:14:45.62,0:14:47.87,Default,,0000,0000,0000,,a maior grande batalha da Segunda Guerra".
Dialogue: 0,0:14:47.89,0:14:49.27,Default,,0000,0000,0000,,(Cantarola música do show)
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,"Chicago."
Dialogue: 0,0:14:50.79,0:14:52.67,Default,,0000,0000,0000,,Os dois seres humanos acertaram.
Dialogue: 0,0:14:52.70,0:14:56.74,Default,,0000,0000,0000,,Watson, por sua vez, respondeu "Toronto"
Dialogue: 0,0:14:56.94,0:14:58.89,Default,,0000,0000,0000,,na categoria "cidade dos EUA"!
Dialogue: 0,0:14:59.60,0:15:02.50,Default,,0000,0000,0000,,O incrível sistema também cometeu um erro
Dialogue: 0,0:15:02.52,0:15:06.57,Default,,0000,0000,0000,,que um humano jamais faria,\Numa criança não cometeria.
Dialogue: 0,0:15:06.69,0:15:09.93,Default,,0000,0000,0000,,Nossa inteligência artifical pode falhar
Dialogue: 0,0:15:09.96,0:15:12.82,Default,,0000,0000,0000,,de formas que não se encaixam\Nnos padrões de erros humanos,\N
Dialogue: 0,0:15:12.82,0:15:16.03,Default,,0000,0000,0000,,de formas que não esperamos\Ne para as quais não estamos preparados.
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,Seria péssimo não conseguir um emprego\Npara o qual se está qualificado,
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,mas seria triplamente péssimo\Nse fosse por causa de um "stack overflow"
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,em alguma sub-rotina.
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,Em maio de 2010,
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,uma baixa repentina em Wall Street,\Nalimentada pelo sistema de autoajuste
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,do algoritmo de "venda",
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,varreu US$ 1 trilhão em 36 minutos.
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,Não quero nem pensar\Nno que significaria "erro"
Dialogue: 0,0:15:43.93,0:15:47.52,Default,,0000,0000,0000,,no contexto de armas letais autônomas.
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,Então, sim, os seres humanos\Nsempre foram tendenciosos.
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,Tomadores de decisão e controladores,
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,em tribunais, na mídia, na guerra...
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,eles cometem erros;\Nmas esse é exatamente meu ponto.
Dialogue: 0,0:16:02.49,0:16:06.01,Default,,0000,0000,0000,,Não podemos fugir\Ndessas questões difíceis.
Dialogue: 0,0:16:06.60,0:16:10.11,Default,,0000,0000,0000,,Não podemos terceirizar\Nnossas responsabilidades para as máquinas.
Dialogue: 0,0:16:10.68,0:16:13.55,Default,,0000,0000,0000,,(Aplausos) (Vivas)
Dialogue: 0,0:16:17.09,0:16:21.54,Default,,0000,0000,0000,,A inteligência artificial não nos dá\Num passe para a "zona livre de ética".
Dialogue: 0,0:16:22.74,0:16:26.12,Default,,0000,0000,0000,,O cientista de dados Fred Benenson\Nchama isso de "mathwashing".
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,Precisamos fazer o contrário.
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,Precisamos cultivar o escrutínio,\Na suspeita e investigação dos algoritmos.
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,Precisamos nos assegurar de que temos\Nresponsabilidade algorítmica,
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,auditoria e transparência relevante.
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,Precisamos aceitar que trazer\Na matemática e a computação
Dialogue: 0,0:16:42.64,0:16:45.61,Default,,0000,0000,0000,,para negócios humanos confusos,\Nenvolvendo julgamento de valor,
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,não traz objetividade;
Dialogue: 0,0:16:48.04,0:16:51.90,Default,,0000,0000,0000,,mas que, ao contrário, a complexidade\Ndos negócios humanos invade os algoritmos.
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,Sim, podemos e devemos usar a computação
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,para nos ajudar a tomar decisões melhores.
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,Mas temos de reconhecer\Nnossa responsabilidade moral para julgar,
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,e usar os algoritmos\Ndentro desse espectro,
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,não como uma forma de abdicar de nossas\Nresponsabilidades ou terceirizá-las,
Dialogue: 0,0:17:10.85,0:17:13.56,Default,,0000,0000,0000,,como se fosse de um ser humano para outro.
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,A inteligência artificial está aí.
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,Isso significa que vamos\Nter de nos agarrar firmemente
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,aos valores e à ética humanos.
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,Obrigada.
Dialogue: 0,0:17:23.23,0:17:26.32,Default,,0000,0000,0000,,(Aplausos) (Vivas)