[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:03.07,Default,,0000,0000,0000,,Os algoritmos estão em todo o lado.
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,Eles classificam e separam\Nos vencedores dos perdedores.
Dialogue: 0,0:00:08.02,0:00:10.28,Default,,0000,0000,0000,,Os vencedores ficam com o emprego
Dialogue: 0,0:00:10.28,0:00:12.31,Default,,0000,0000,0000,,ou uma boa oferta\Npara o cartão de crédito.
Dialogue: 0,0:00:12.31,0:00:14.70,Default,,0000,0000,0000,,Os que perdem nem sequer vão à entrevista
Dialogue: 0,0:00:15.59,0:00:17.37,Default,,0000,0000,0000,,mas pagam mais pelo seguro.
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,Estamos a ser marcados\Ncom fórmulas secretas que não entendemos
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,e que, muitas vezes,\Nnão têm sistemas de recurso.
Dialogue: 0,0:00:27.24,0:00:28.54,Default,,0000,0000,0000,,Isto traz-nos a pergunta:
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,E se os algoritmos estão errados?
Dialogue: 0,0:00:33.10,0:00:35.14,Default,,0000,0000,0000,,Para criar um algoritmo é preciso:
Dialogue: 0,0:00:35.16,0:00:37.14,Default,,0000,0000,0000,,dados — o que aconteceu no passado;
Dialogue: 0,0:00:37.17,0:00:38.73,Default,,0000,0000,0000,,e uma definição de sucesso,
Dialogue: 0,0:00:38.75,0:00:41.37,Default,,0000,0000,0000,,aquilo de que estamos à procura\Ne que queremos atingir.
Dialogue: 0,0:00:41.41,0:00:46.27,Default,,0000,0000,0000,,Um algoritmo treina-se\Ncom a procura, com a descoberta.
Dialogue: 0,0:00:46.30,0:00:49.72,Default,,0000,0000,0000,,O algoritmo descobre\No que está associado ao sucesso.
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,Qual a situação que leva ao sucesso?
Dialogue: 0,0:00:52.88,0:00:54.64,Default,,0000,0000,0000,,Na verdade, todos usam algoritmos.
Dialogue: 0,0:00:54.67,0:00:57.38,Default,,0000,0000,0000,,Só que as pessoas não os formalizam\Nem código escrito.
Dialogue: 0,0:00:57.41,0:00:58.76,Default,,0000,0000,0000,,Deixem-me dar um exemplo.
Dialogue: 0,0:00:58.78,0:01:02.10,Default,,0000,0000,0000,,Eu uso um algoritmo todos os dias\Npara cozinhar para a minha família.
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,Os dados que eu uso
Dialogue: 0,0:01:04.39,0:01:06.05,Default,,0000,0000,0000,,são os ingredientes que tenho,
Dialogue: 0,0:01:06.08,0:01:07.60,Default,,0000,0000,0000,,o tempo disponível,
Dialogue: 0,0:01:07.63,0:01:08.86,Default,,0000,0000,0000,,a minha ambição,
Dialogue: 0,0:01:08.88,0:01:10.59,Default,,0000,0000,0000,,e junto esses dados todos.
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,Não contabilizo aqueles pacotes pequenos\Nde "noodles" como comida.
Dialogue: 0,0:01:14.89,0:01:16.76,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,A minha definição de sucesso é:
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,a refeição é conseguida\Nse os filhos comerem vegetais.
Dialogue: 0,0:01:22.18,0:01:25.04,Default,,0000,0000,0000,,Seria diferente se o meu filho\Nmais novo fosse o responsável.
Dialogue: 0,0:01:25.06,0:01:27.85,Default,,0000,0000,0000,,Ele diria que o sucesso\Nseria ele comer muita Nutella.
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,Mas eu posso escolher o sucesso.
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,Sou eu a responsável.\NA minha opinião conta.
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,Essa é a primeira regra\Ndos algoritmos.
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,Os algoritmos são opiniões\Nembutidas em código.
Dialogue: 0,0:01:41.56,0:01:45.22,Default,,0000,0000,0000,,É muito diferente daquilo que muitos\Npensam sobre este assunto.
Dialogue: 0,0:01:45.25,0:01:49.75,Default,,0000,0000,0000,,As pessoas pensam que os algoritmos\Nsão objetivos, verdadeiros e científicos.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,Isso é um truque de "marketing".
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,O que também é um truque
Dialogue: 0,0:01:55.42,0:01:58.57,Default,,0000,0000,0000,,é o facto de os algoritmos\Nnos intimidarem,
Dialogue: 0,0:01:58.60,0:02:02.26,Default,,0000,0000,0000,,para nos fazer ter confiança\Ne medo deles,
Dialogue: 0,0:02:02.28,0:02:04.30,Default,,0000,0000,0000,,porque confiamos\Ne receamos a matemática.
Dialogue: 0,0:02:05.57,0:02:10.40,Default,,0000,0000,0000,,Muita coisa pode correr mal\Nse confiarmos cegamente nos "big data".
Dialogue: 0,0:02:11.68,0:02:15.06,Default,,0000,0000,0000,,Esta é Kiri Soares e é diretora\Nde uma escola secundária em Brooklyn.
Dialogue: 0,0:02:15.08,0:02:17.67,Default,,0000,0000,0000,,Em 2011, ela disse-me que\Nos professores eram avaliados
Dialogue: 0,0:02:17.69,0:02:20.42,Default,,0000,0000,0000,,com um algoritmo secreto e complexo
Dialogue: 0,0:02:20.44,0:02:22.33,Default,,0000,0000,0000,,chamado "modelo de valor acrescentado".
Dialogue: 0,0:02:22.50,0:02:25.60,Default,,0000,0000,0000,,Eu disse-lhe:\N"Bem, se descobrir a fórmula, mostre-ma".
Dialogue: 0,0:02:25.62,0:02:27.16,Default,,0000,0000,0000,,"Eu explico-lha".
Dialogue: 0,0:02:27.19,0:02:29.33,Default,,0000,0000,0000,,Ela respondeu: "Bom, eu tentei obtê-la"
Dialogue: 0,0:02:29.35,0:02:32.12,Default,,0000,0000,0000,,"mas o Departamento de Educação\Ndisse que era matemática"
Dialogue: 0,0:02:32.15,0:02:33.69,Default,,0000,0000,0000,,"e que eu não iria entendê-la".
Dialogue: 0,0:02:35.27,0:02:36.60,Default,,0000,0000,0000,,E ainda é pior.
Dialogue: 0,0:02:36.63,0:02:40.16,Default,,0000,0000,0000,,O jornal "The New York Post" invocou\Na lei da Liberdade de Informação,
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,reuniu os nomes de todos os professores\Ne os seus resultados
Dialogue: 0,0:02:43.16,0:02:46.86,Default,,0000,0000,0000,,e publicou todas essas informações\Ncomo forma de envergonhar os professores.
Dialogue: 0,0:02:47.08,0:02:50.94,Default,,0000,0000,0000,,Quando tentei aceder às fórmulas,\Nao código-fonte, através dos mesmos meios,
Dialogue: 0,0:02:50.97,0:02:53.12,Default,,0000,0000,0000,,disseram-me que não podia fazê-lo.
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,Foi-me negado.
Dialogue: 0,0:02:54.40,0:02:55.58,Default,,0000,0000,0000,,Mais tarde, descobri
Dialogue: 0,0:02:55.60,0:02:58.46,Default,,0000,0000,0000,,que ninguém em Nova Iorque\Nteve acesso a essa fórmula.
Dialogue: 0,0:02:58.49,0:02:59.79,Default,,0000,0000,0000,,Ninguém a percebia.
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,Então, envolveu-se um tipo\Nmuito inteligente: Gary Rubenstein.
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,Ele descobriu 665 professores,\Natravés dos dados publicados no jornal,
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,que tiveram dois resultados diferentes.
Dialogue: 0,0:03:10.71,0:03:12.59,Default,,0000,0000,0000,,Podia acontecer\Nse estivessem a lecionar
Dialogue: 0,0:03:12.62,0:03:15.06,Default,,0000,0000,0000,,matemática de sétimo\Ne matemática de oitavo ano.
Dialogue: 0,0:03:15.08,0:03:16.100,Default,,0000,0000,0000,,Decidiu representá-los graficamente
Dialogue: 0,0:03:17.01,0:03:18.100,Default,,0000,0000,0000,,em que cada ponto representa\Num professor.
Dialogue: 0,0:03:19.10,0:03:21.16,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:03:21.51,0:03:22.99,Default,,0000,0000,0000,,O que é isto?
Dialogue: 0,0:03:23.05,0:03:24.33,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:03:24.35,0:03:27.80,Default,,0000,0000,0000,,Isto nunca poderia ter sido usado\Npara uma avaliação individual.
Dialogue: 0,0:03:27.82,0:03:29.75,Default,,0000,0000,0000,,É como um gerador\Nde números aleatórios.
Dialogue: 0,0:03:29.77,0:03:32.72,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:03:32.74,0:03:33.90,Default,,0000,0000,0000,,Mas foi utilizado.
Dialogue: 0,0:03:33.93,0:03:35.10,Default,,0000,0000,0000,,Esta é Sarah Wysocki.
Dialogue: 0,0:03:35.13,0:03:37.30,Default,,0000,0000,0000,,Foi despedida,\Njuntamente com 205 professores
Dialogue: 0,0:03:37.33,0:03:39.99,Default,,0000,0000,0000,,de escolas do distrito de Washington, DC,
Dialogue: 0,0:03:40.01,0:03:42.92,Default,,0000,0000,0000,,embora tivesse excelentes\Nrecomendações do seu diretor
Dialogue: 0,0:03:42.95,0:03:44.38,Default,,0000,0000,0000,,e dos pais dos seus alunos.
Dialogue: 0,0:03:44.93,0:03:46.48,Default,,0000,0000,0000,,Sei o que muitos estão a pensar,
Dialogue: 0,0:03:46.48,0:03:50.01,Default,,0000,0000,0000,,sobretudo os cientistas de dados\Nespecialistas em Inteligência Artificial.
Dialogue: 0,0:03:50.01,0:03:54.18,Default,,0000,0000,0000,,Estão a pensar: "Eu nunca faria\Num algoritmo tão inconsistente".
Dialogue: 0,0:03:54.85,0:03:56.54,Default,,0000,0000,0000,,Mas os algoritmos podem correr mal,
Dialogue: 0,0:03:56.56,0:04:01.16,Default,,0000,0000,0000,,chegando a ter efeitos profundamente\Ndestrutivos, cheios de boas intenções.
Dialogue: 0,0:04:02.53,0:04:04.91,Default,,0000,0000,0000,,Enquanto que um avião\Nque é mal arquitetado
Dialogue: 0,0:04:04.93,0:04:06.94,Default,,0000,0000,0000,,se despenha e todos veem,
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,um algoritmo mal projetado
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,pode ser utilizado durante muito tempo,\Ncausando estragos silenciosamente.
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,Este é Roger Ailes.
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,Fundou a Fox News em 1996.
Dialogue: 0,0:04:23.44,0:04:26.02,Default,,0000,0000,0000,,Mais de 20 mulheres\Nqueixaram-se de assédio sexual.
Dialogue: 0,0:04:26.04,0:04:29.28,Default,,0000,0000,0000,,Diziam que, na Fox News,\Nnão lhes era permitido terem sucesso.
Dialogue: 0,0:04:29.30,0:04:31.82,Default,,0000,0000,0000,,Ailes foi despedido no ano passado,\Nmas, recentemente,
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,temos visto que os problemas persistem.
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,Isto leva-nos a perguntar:
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,O que é que a Fox News deveria fazer\Npara virar a página?
Dialogue: 0,0:04:41.24,0:04:44.29,Default,,0000,0000,0000,,E se tivessem substituído\No seu processo de recrutamento
Dialogue: 0,0:04:44.29,0:04:46.35,Default,,0000,0000,0000,,por um algoritmo\Nde aprendizagem automática?
Dialogue: 0,0:04:46.38,0:04:47.58,Default,,0000,0000,0000,,Parece-vos bem, não é?
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,Pensem nisso.
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,Que dados poderiam ser?
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,Uma escolha razoável seriam os currículos\Nrecebidos nos últimos 21 anos.
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,Razoável.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,E qual seria a definição de sucesso?
Dialogue: 0,0:04:59.92,0:05:01.24,Default,,0000,0000,0000,,A escolha razoável seria...
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,Bem, quem tem sucesso na Fox News?
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,Eu diria alguém que lá trabalhou\Ndurante quatro anos
Dialogue: 0,0:05:06.68,0:05:08.81,Default,,0000,0000,0000,,e que foi promovido, pelo menos, uma vez.
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,Parece razoável.
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,E aí, o algoritmo seria treinado.
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,Seria treinado para procurar pessoas\Ne perceber o que levava ao sucesso,
Dialogue: 0,0:05:17.22,0:05:21.54,Default,,0000,0000,0000,,que tipo de currículos\Neram propícios a isso,
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,seguindo essa definição.
Dialogue: 0,0:05:24.20,0:05:25.98,Default,,0000,0000,0000,,Pensem no que poderia acontecer
Dialogue: 0,0:05:25.100,0:05:28.55,Default,,0000,0000,0000,,se o aplicássemos\Nao conjunto atual de candidaturas.
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,Filtraria as mulheres,
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,porque não foram as pessoas\Nque tiveram sucesso no passado.
Dialogue: 0,0:05:39.75,0:05:42.29,Default,,0000,0000,0000,,Os algoritmos não são justos,
Dialogue: 0,0:05:42.31,0:05:45.01,Default,,0000,0000,0000,,se os aplicarmos\Nde ânimo leve e às cegas.
Dialogue: 0,0:05:45.03,0:05:46.51,Default,,0000,0000,0000,,Eles não agem com justiça.
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,Eles repetem o que fizemos no passado,
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,os nossos padrões.
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,Eles automatizam o "status quo".
Dialogue: 0,0:05:52.72,0:05:55.11,Default,,0000,0000,0000,,Isso seria incrível\Nse o mundo fosse perfeito.
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,Mas não é.
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,E digo-vos mais: a maioria das empresas\Nnão têm processos legais em curso,
Dialogue: 0,0:06:02.45,0:06:05.03,Default,,0000,0000,0000,,mas essas empresas dizem\Naos seus cientistas de dados
Dialogue: 0,0:06:05.06,0:06:07.25,Default,,0000,0000,0000,,para seguirem os dados,
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,para se focarem na precisão.
Dialogue: 0,0:06:10.27,0:06:11.65,Default,,0000,0000,0000,,Pensem no que isso significa.
Dialogue: 0,0:06:11.68,0:06:15.70,Default,,0000,0000,0000,,Como todos temos preconceitos,\Neles podiam codificar o sexismo
Dialogue: 0,0:06:15.73,0:06:17.56,Default,,0000,0000,0000,,ou qualquer outro tipo de sectarismo.
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,Um exercício intelectual,
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,porque gosto de fazer isso:
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,uma sociedade inteiramente segregada
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,— todas as cidades, os bairros,\Ntudo segregado racialmente —
Dialogue: 0,0:06:31.60,0:06:34.64,Default,,0000,0000,0000,,e onde só enviamos a polícia\Na bairros minoritários
Dialogue: 0,0:06:34.66,0:06:35.85,Default,,0000,0000,0000,,para combater o crime.
Dialogue: 0,0:06:36.45,0:06:38.67,Default,,0000,0000,0000,,Os dados sobre os detidos\Nseriam tendenciosos.
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,E se tivéssemos cientistas de dados\Npara esta situação
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,e lhes pagássemos para preverem\Nonde iria ocorrer o crime seguinte?
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,Num bairro minoritário.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Ou para preverem quem seria\No criminoso seguinte?
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,Alguém da minoria.
Dialogue: 0,0:06:55.95,0:07:00.49,Default,,0000,0000,0000,,Os cientistas de dados iriam vangloriar-se\Nda eficiência e precisão do seu modelo
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,e teriam razão.
Dialogue: 0,0:07:03.95,0:07:08.57,Default,,0000,0000,0000,,A realidade não é tão drástica,\Nmas temos segregações graves
Dialogue: 0,0:07:08.59,0:07:09.88,Default,,0000,0000,0000,,em várias cidades e vilas,
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,e existem inúmeras provas
Dialogue: 0,0:07:11.82,0:07:14.51,Default,,0000,0000,0000,,de que os dados do sistema de justiça\Nsão tendenciosos.
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,E nós prevemos lugares críticos,
Dialogue: 0,0:07:18.47,0:07:20.00,Default,,0000,0000,0000,,locais onde irão ocorrer crimes.
Dialogue: 0,0:07:20.40,0:07:24.27,Default,,0000,0000,0000,,E prevemos a criminalidade individual,
Dialogue: 0,0:07:24.29,0:07:26.06,Default,,0000,0000,0000,,a criminalidade de indivíduos.
Dialogue: 0,0:07:26.97,0:07:30.94,Default,,0000,0000,0000,,A agência de notícias ProPublica\Nanalisou recentemente
Dialogue: 0,0:07:30.96,0:07:32.98,Default,,0000,0000,0000,,um algoritmo de "risco de reincidência",
Dialogue: 0,0:07:33.01,0:07:34.17,Default,,0000,0000,0000,,como lhe chamam,
Dialogue: 0,0:07:34.19,0:07:37.39,Default,,0000,0000,0000,,que os júris usam na Flórida,\Ndurante os julgamentos.
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,À esquerda, temos Bernard, de cor negra,\Nque teve uma pontuação de 10 em 10.
Dialogue: 0,0:07:43.12,0:07:45.49,Default,,0000,0000,0000,,Dylan, à direita,\Nteve uma pontuação de 3 em 10.
Dialogue: 0,0:07:45.53,0:07:48.02,Default,,0000,0000,0000,,10 em 10 é risco elevado. \N3 em 10 é risco reduzido.
Dialogue: 0,0:07:48.60,0:07:50.98,Default,,0000,0000,0000,,Foram ambos a julgamento\Npor posse de droga.
Dialogue: 0,0:07:51.01,0:07:52.16,Default,,0000,0000,0000,,Ambos tinham cadastro,
Dialogue: 0,0:07:52.18,0:07:54.99,Default,,0000,0000,0000,,mas Dylan já tinha cometido\Num assalto à mão armada
Dialogue: 0,0:07:55.02,0:07:56.19,Default,,0000,0000,0000,,e o Bernard não.
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,Isto é importante, porque,\Nquanto mais alta é a pontuação,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,maior a probabilidade\Nde a sentença ser mais longa.
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,O que está a acontecer?
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,Lavagem de dados.
Dialogue: 0,0:08:10.93,0:08:15.36,Default,,0000,0000,0000,,É um processo em que os tecnólogos\Nescondem verdades muito graves
Dialogue: 0,0:08:15.38,0:08:17.20,Default,,0000,0000,0000,,dentro de algoritmos de caixa negra
Dialogue: 0,0:08:17.23,0:08:18.52,Default,,0000,0000,0000,,e chamam-lhes objetivos;
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,chamam-lhes meritocráticos.
Dialogue: 0,0:08:23.12,0:08:25.50,Default,,0000,0000,0000,,Quando são secretos,\Nimportantes e destrutivos
Dialogue: 0,0:08:25.53,0:08:28.01,Default,,0000,0000,0000,,eu chamo-lhes da seguinte maneira:
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,"armas de destruição maciça".
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,(Risos)
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Estão por todo o lado\Ne não são um erro.
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,São empresas privadas que estão\Na criar algoritmos privados
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,para objetivos privados.
Dialogue: 0,0:08:43.21,0:08:46.43,Default,,0000,0000,0000,,Mesmo os que mencionei aqui\Npara os professores e a polícia,
Dialogue: 0,0:08:46.45,0:08:48.32,Default,,0000,0000,0000,,foram criados por empresas privadas
Dialogue: 0,0:08:48.34,0:08:50.58,Default,,0000,0000,0000,,e vendidos a instituições governamentais.
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,Chamam-lhes o seu "molho secreto"
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,— é por isso que não nos podem contar.
Dialogue: 0,0:08:54.65,0:08:56.87,Default,,0000,0000,0000,,Trata-se, também, de poder privado.
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,Estão a lucrar para dominarem\Na autoridade do inescrutável.
Dialogue: 0,0:09:05.11,0:09:06.65,Default,,0000,0000,0000,,Agora, vocês podem pensar:
Dialogue: 0,0:09:06.68,0:09:09.23,Default,,0000,0000,0000,,se tudo isto é privado\Ne existe concorrência,
Dialogue: 0,0:09:09.25,0:09:11.56,Default,,0000,0000,0000,,talvez o mercado livre\Ncorrija este problema.
Dialogue: 0,0:09:11.58,0:09:12.83,Default,,0000,0000,0000,,Não, não o fará.
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,Pode fazer-se muito dinheiro\Ncom a injustiça.
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,Além disso, nós não somos\Nagentes económicos racionais.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,Somos todos tendenciosos.
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,Somos racistas e intolerantes\Nem proporções horríveis,
Dialogue: 0,0:09:26.36,0:09:28.38,Default,,0000,0000,0000,,em proporções que nem nós sabemos.
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,Mas sabemos que isto acontece\Nem níveis agregados,
Dialogue: 0,0:09:32.46,0:09:35.50,Default,,0000,0000,0000,,porque os sociólogos\Ntêm vindo a demonstrá-lo,
Dialogue: 0,0:09:35.50,0:09:37.16,Default,,0000,0000,0000,,através de experiências,
Dialogue: 0,0:09:37.16,0:09:39.89,Default,,0000,0000,0000,,em que se enviam vários currículos\Nem resposta a anúncios,
Dialogue: 0,0:09:39.89,0:09:42.58,Default,,0000,0000,0000,,igualmente qualificados,\Nmas alguns com nomes caucasianos
Dialogue: 0,0:09:42.58,0:09:44.21,Default,,0000,0000,0000,,e outros com nomes de raça negra,
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,e os resultados são sempre\Ndesconcertantes... Sempre!
Dialogue: 0,0:09:47.51,0:09:49.28,Default,,0000,0000,0000,,Somos nós que somos tendenciosos
Dialogue: 0,0:09:49.30,0:09:52.73,Default,,0000,0000,0000,,e estamos a colocar\Nesses preconceitos nos algoritmos,
Dialogue: 0,0:09:52.76,0:09:54.57,Default,,0000,0000,0000,,ao escolhermos os dados,
Dialogue: 0,0:09:54.59,0:09:57.34,Default,,0000,0000,0000,,tal como eu decidi\Nem relação aos "noodles"
Dialogue: 0,0:09:57.36,0:09:58.99,Default,,0000,0000,0000,,— decidi que eram irrelevantes.
Dialogue: 0,0:09:59.01,0:10:04.69,Default,,0000,0000,0000,,Mas, ao confiarmos em dados\Nque têm, por base, acontecimentos passados
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,e ao escolhermos a definição de sucesso,
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,como é que podemos esperar\Nque os algoritmos saiam ilesos?
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,Não podemos. Temos de os verificar.
Dialogue: 0,0:10:14.16,0:10:15.87,Default,,0000,0000,0000,,Temos de ver o nível de justiça.
Dialogue: 0,0:10:15.90,0:10:18.61,Default,,0000,0000,0000,,A boa notícia é que podemos fazer isso.
Dialogue: 0,0:10:18.63,0:10:21.98,Default,,0000,0000,0000,,Os algoritmos podem ser questionados
Dialogue: 0,0:10:22.01,0:10:24.04,Default,,0000,0000,0000,,e as respostas são sempre verdadeiras.
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,Podemos corrigi-los.\NPodemos torná-los melhores.
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,Posso chamar-lhe "auditoria algorítmica"
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,e explico-vos em que consiste.
Dialogue: 0,0:10:30.69,0:10:32.88,Default,,0000,0000,0000,,Primeiro, verificar\Na integridade dos dados.
Dialogue: 0,0:10:34.13,0:10:36.79,Default,,0000,0000,0000,,Em relação ao risco de reincidência\Nde que já vos falei,
Dialogue: 0,0:10:37.58,0:10:41.16,Default,,0000,0000,0000,,verificar a integridade dos dados\Nsignifica que concordamos com o facto
Dialogue: 0,0:10:41.18,0:10:44.70,Default,,0000,0000,0000,,de que, nos EUA, tanto os brancos\Ncomo os negros fumam erva,
Dialogue: 0,0:10:44.71,0:10:47.21,Default,,0000,0000,0000,,mas os negros têm\Nmaior probabilidade de ser detidos
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,— quatro ou cinco vezes mais\Nprobabilidades, dependendo da zona.
Dialogue: 0,0:10:51.32,0:10:54.14,Default,,0000,0000,0000,,Como é que se comporta\Nesta tendência, noutros crimes
Dialogue: 0,0:10:54.17,0:10:55.62,Default,,0000,0000,0000,,e como é que lidamos com isso?
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,Segundo, devemos pensar\Nna definição de sucesso,
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,rever esse conceito.
Dialogue: 0,0:11:00.63,0:11:03.38,Default,,0000,0000,0000,,Lembrem-se do algoritmo\Nde contratação de que já falámos.
Dialogue: 0,0:11:03.39,0:11:06.65,Default,,0000,0000,0000,,Alguém que fica na empresa\Ndurante quatro anos e é promovido uma vez?
Dialogue: 0,0:11:06.65,0:11:08.36,Default,,0000,0000,0000,,É um trabalhador bem-sucedido,
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,mas também é alguém\Nque apoia a cultura da empresa.
Dialogue: 0,0:11:11.93,0:11:13.98,Default,,0000,0000,0000,,Assim, vemos que também\Né muito tendencioso.
Dialogue: 0,0:11:13.98,0:11:16.10,Default,,0000,0000,0000,,É necessário separar estas duas coisas.
Dialogue: 0,0:11:16.13,0:11:17.94,Default,,0000,0000,0000,,Tomemos como exemplo
Dialogue: 0,0:11:17.97,0:11:19.77,Default,,0000,0000,0000,,uma audição às cegas\Nde uma orquestra
Dialogue: 0,0:11:19.80,0:11:22.79,Default,,0000,0000,0000,,As pessoas que fazem a audição\Nescondem-se atrás duma cortina.
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,O que é importante reter
Dialogue: 0,0:11:24.90,0:11:28.32,Default,,0000,0000,0000,,é que as pessoas que estão a ouvir\Ndecidiram o que é importante
Dialogue: 0,0:11:28.34,0:11:30.37,Default,,0000,0000,0000,,e o que não é importante,
Dialogue: 0,0:11:30.40,0:11:32.45,Default,,0000,0000,0000,,e não se deixam distrair.
Dialogue: 0,0:11:32.96,0:11:35.71,Default,,0000,0000,0000,,Quando as audições às cegas começaram,\N
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,o número de mulheres em orquestras\Naumentou cinco vezes.
Dialogue: 0,0:11:40.25,0:11:42.27,Default,,0000,0000,0000,,Em seguida, temos de considerar\Na precisão.
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,É aqui que falharia o "modelo de valor\Nacrescentado" dos professores.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Claro que nenhum algoritmo é perfeito,
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,é por isso que temos de considerar\Nos erros de cada um.
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,Com que frequência existem erros\Ne com quem é que este modelo falha?
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,Qual é o custo desta falha?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,Por último, temos de considerar
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,os efeitos a longo prazo dos algoritmos,
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,o "feedback" que está programado.
Dialogue: 0,0:12:11.59,0:12:12.82,Default,,0000,0000,0000,,Isto parece abstrato,
Dialogue: 0,0:12:12.85,0:12:15.51,Default,,0000,0000,0000,,mas imaginem se os engenheiros\Ndo Facebook consideravam
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,mostrar-nos apenas\No que os nossos amigos publicam.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,Tenho mais duas mensagens,\Numa delas para os cientistas de dados.
Dialogue: 0,0:12:25.45,0:12:28.86,Default,,0000,0000,0000,,Cientistas de dados: nós não\Ndevemos ser os árbitros da verdade.
Dialogue: 0,0:12:29.52,0:12:32.45,Default,,0000,0000,0000,,Devemos ser tradutores\Nde discussões éticas
Dialogue: 0,0:12:32.48,0:12:34.88,Default,,0000,0000,0000,,que acontecem em sociedades mais amplas.
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,E aos restantes,
Dialogue: 0,0:12:39.84,0:12:41.62,Default,,0000,0000,0000,,aos que não são cientistas de dados:
Dialogue: 0,0:12:41.65,0:12:43.37,Default,,0000,0000,0000,,isto não é um teste matemático.
Dialogue: 0,0:12:43.63,0:12:45.17,Default,,0000,0000,0000,,É uma luta política.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,Precisamos de exigir a responsabilização\Ndos soberanos dos nossos algoritmos.
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,A era da fé cega nos "big data"\Ntem de acabar.
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,Muito obrigada.
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,(Aplausos)