[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.86,Default,,0000,0000,0000,,Empecé mi primer trabajo \Ncomo programadora informática
Dialogue: 0,0:00:04.88,0:00:06.70,Default,,0000,0000,0000,,en mi primer año de universidad,
Dialogue: 0,0:00:06.70,0:00:08.63,Default,,0000,0000,0000,,básicamente, siendo aún adolescente.
Dialogue: 0,0:00:08.89,0:00:10.58,Default,,0000,0000,0000,,Poco después de empezar a trabajar,
Dialogue: 0,0:00:10.58,0:00:12.38,Default,,0000,0000,0000,,programando software en una empresa,
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,un gerente que trabajaba en la compañía \Nvino allí donde estaba yo,
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,y me dijo al oído:
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,"¿Puede decir ella si estoy mintiendo?"
Dialogue: 0,0:00:21.81,0:00:23.88,Default,,0000,0000,0000,,No había nadie más en la habitación.
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,"¿Puede "quién" decir si está mintiendo? \N¿Y por qué estamos susurrando?"
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,El gerente señaló la computadora \Nde la habitación.
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,"¿Puede ella decir si estoy mintiendo?"
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,Bueno, el gerente tenía \Nuna aventura con la recepcionista.
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,Y yo todavía era adolescente.
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,Por lo tanto, le susurro yo a él:
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,"Sí, la computadora puede determinar \Nsi Ud. está mintiendo".
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,Bueno, me reí, pero, \Nen realidad, me reía de mí.
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,Hoy en día, existen sistemas informáticos
Dialogue: 0,0:00:59.21,0:01:02.67,Default,,0000,0000,0000,,que pueden detectar \Nestados emocionales e incluso mentir
Dialogue: 0,0:01:02.67,0:01:05.08,Default,,0000,0000,0000,,a partir del procesamiento \Nde rostros humanos.
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,Los anunciantes, e incluso \Nhay gobiernos muy interesados.
Dialogue: 0,0:01:09.86,0:01:12.23,Default,,0000,0000,0000,,Me había convertido en \Nprogramadora informática
Dialogue: 0,0:01:12.23,0:01:15.81,Default,,0000,0000,0000,,porque yo era una de esas chicas \Nlocas por las matemáticas y la ciencia.
Dialogue: 0,0:01:15.81,0:01:19.22,Default,,0000,0000,0000,,Pero también me había \Ninteresado por las armas nucleares,
Dialogue: 0,0:01:19.22,0:01:22.65,Default,,0000,0000,0000,,y había empezado a realmente a \Npreocuparme por la ética de la ciencia.
Dialogue: 0,0:01:22.65,0:01:24.23,Default,,0000,0000,0000,,Yo estaba preocupada.
Dialogue: 0,0:01:24.23,0:01:26.48,Default,,0000,0000,0000,,Sin embargo, \Npor circunstancias familiares,
Dialogue: 0,0:01:26.48,0:01:29.24,Default,,0000,0000,0000,,también debía empezar \Na trabajar lo antes posible.
Dialogue: 0,0:01:29.26,0:01:32.48,Default,,0000,0000,0000,,Así que me dije, bueno, \Nvamos a elegir un campo técnico
Dialogue: 0,0:01:32.48,0:01:34.38,Default,,0000,0000,0000,,donde poder conseguir un trabajo fácil
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,y donde no tenga que lidiar \Ncon preguntas molestas sobre ética.
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,Así que elegí las computadoras.
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,Bueno, ¡ja, ja, ja! \NTodas las risas a mi costa.
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,Hoy en día, los informáticos \Nconstruyen plataformas
Dialogue: 0,0:01:47.92,0:01:52.12,Default,,0000,0000,0000,,que controlan lo que millones \Nde personas ven todos los días.
Dialogue: 0,0:01:53.05,0:01:56.87,Default,,0000,0000,0000,,Están desarrollando automóviles que \Npodrían decidir a quién atropellar.
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,Es más, están construyendo \Nmáquinas, armas,
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,que podrían matar \Na seres humanos en la guerra.
Dialogue: 0,0:02:03.25,0:02:06.02,Default,,0000,0000,0000,,Esto es ética a fondo.
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,La inteligencia artificial está aquí.
Dialogue: 0,0:02:09.82,0:02:12.95,Default,,0000,0000,0000,,Estamos usando la computación \Npara tomar todo tipo de decisiones,
Dialogue: 0,0:02:12.95,0:02:15.10,Default,,0000,0000,0000,,además de nuevos tipos de decisiones.
Dialogue: 0,0:02:15.10,0:02:19.56,Default,,0000,0000,0000,,Planteamos preguntas a las computadoras \Nque no tienen respuestas
Dialogue: 0,0:02:19.56,0:02:21.63,Default,,0000,0000,0000,,correctas individuales, \Npor ser subjetivas
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,e indefinidas y cargadas de valores.
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,Planteamos preguntas como:
Dialogue: 0,0:02:25.78,0:02:27.78,Default,,0000,0000,0000,,"¿A quién debe contratar la empresa?"
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,"¿Qué actualización de qué amigo \Ndebe mostrarse?"
Dialogue: 0,0:02:30.88,0:02:33.54,Default,,0000,0000,0000,,"¿Qué convicto tiene \Nmás probabilidades de reincidir?"
Dialogue: 0,0:02:33.54,0:02:36.97,Default,,0000,0000,0000,,"¿Qué artículo de noticias o película \Nse deben recomendar a la gente?"
Dialogue: 0,0:02:36.97,0:02:39.96,Default,,0000,0000,0000,,Miren, sí, hemos venido usando \Ncomputadoras hace tiempo,
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,pero esto es diferente.
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,Se trata de un giro histórico,
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,porque no podemos anclar el cálculo \Npara este tipo de decisiones subjetivas
Dialogue: 0,0:02:48.98,0:02:54.40,Default,,0000,0000,0000,,como anclamos el cálculo para \Npilotar aviones, construir puentes
Dialogue: 0,0:02:54.42,0:02:55.68,Default,,0000,0000,0000,,o ir a la luna.
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,¿Son los aviones más seguros? \N¿Se balanceó el puente y cayó?
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,Ahí, hemos acordado puntos \Nde referencia bastante claros,
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,y tenemos leyes de \Nla naturaleza que nos guían.
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,Nosotros no tenemos tales anclas \Ny puntos de referencia
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,para las decisiones sobre cuestiones\Nhumanas desordenadas.
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,Para complicar más las cosas, \Nnuestro software es cada vez más potente,
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,pero también es cada vez \Nmenos transparente y más complejo.
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,Recientemente, en la última década,
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,algunos algoritmos complejos \Nhan hecho grandes progresos.
Dialogue: 0,0:03:27.36,0:03:29.35,Default,,0000,0000,0000,,Pueden reconocer rostros humanos.
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,Pueden descifrar la letra.
Dialogue: 0,0:03:32.12,0:03:34.50,Default,,0000,0000,0000,,Pueden detectar \Nel fraude de tarjetas de crédito
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,y bloquear el spam
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,y pueden traducir a otros idiomas.
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,Pueden detectar tumores \Nen imágenes médicas.
Dialogue: 0,0:03:40.37,0:03:42.100,Default,,0000,0000,0000,,Puede vencer a los humanos \Nen el ajedrez y en el Go.
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,Gran parte de este progreso viene de un \Nmétodo llamado "aprendizaje automático".
Dialogue: 0,0:03:47.90,0:03:51.36,Default,,0000,0000,0000,,El aprendizaje automático es \Ndiferente a la programación tradicional,
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,donde se da al equipo instrucciones \Nexactas, detalladas y meticulosas.
Dialogue: 0,0:03:55.38,0:03:59.34,Default,,0000,0000,0000,,Es como si uno alimentara el sistema \Ncon una gran cantidad de datos,
Dialogue: 0,0:03:59.34,0:04:01.24,Default,,0000,0000,0000,,incluyendo los datos no estructurados,
Dialogue: 0,0:04:01.26,0:04:03.78,Default,,0000,0000,0000,,como los que generamos \Nen nuestras vidas digitales.
Dialogue: 0,0:04:03.78,0:04:06.30,Default,,0000,0000,0000,,Y el sistema aprende de esos datos.
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,Y también, de manera crucial,
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,estos sistemas no funcionan \Nbajo una lógica de una sola respuesta.
Dialogue: 0,0:04:12.62,0:04:15.58,Default,,0000,0000,0000,,No producen una respuesta sencilla; \Nes más probabilístico:
Dialogue: 0,0:04:15.61,0:04:19.09,Default,,0000,0000,0000,,"Esto es probablemente parecido \Na lo que estás buscando".
Dialogue: 0,0:04:19.83,0:04:22.44,Default,,0000,0000,0000,,La ventaja es que \Neste método es muy potente.
Dialogue: 0,0:04:22.44,0:04:25.66,Default,,0000,0000,0000,,El jefe de sistemas de inteligencia \Nartificial de Google lo llama:
Dialogue: 0,0:04:25.66,0:04:27.53,Default,,0000,0000,0000,,"la eficacia irrazonable de los datos".
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,La desventaja es que
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,realmente no entendemos \Nlo que aprendió el sistema.
Dialogue: 0,0:04:32.83,0:04:34.42,Default,,0000,0000,0000,,De hecho, ese es su poder.
Dialogue: 0,0:04:34.95,0:04:38.74,Default,,0000,0000,0000,,Esto no se parece a dar instrucciones \Na una computadora;
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,se parece más a la formación \Nde una criatura cachorro máquina
Dialogue: 0,0:04:43.29,0:04:45.66,Default,,0000,0000,0000,,que realmente no entendemos o controlamos.
Dialogue: 0,0:04:46.05,0:04:49.67,Default,,0000,0000,0000,,Así que este es nuestro problema;\Nun problema cuando el sistema
Dialogue: 0,0:04:49.75,0:04:52.69,Default,,0000,0000,0000,,de inteligencia artificial \Nhace cosas erróneas.
Dialogue: 0,0:04:52.71,0:04:56.04,Default,,0000,0000,0000,,Es también un problema \Ncuando hace bien las cosas,
Dialogue: 0,0:04:56.04,0:04:59.90,Default,,0000,0000,0000,,porque ni siquiera sabemos qué es qué \Ncuando se trata de un problema subjetivo.
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,No sabemos qué está pensando esta cosa.
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,Por lo tanto, piensen en \Nun algoritmo de contratación,
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,un sistema usado para contratar, \Nusa sistemas de aprendizaje automático.
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,un sistema así habría sido entrenado \Ncon anteriores datos de empleados
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,y tiene la instrucción \Nde encontrar y contratar
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,personas como las de alto rendimiento \Nexistentes en la empresa.
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,Suena bien.
Dialogue: 0,0:05:23.99,0:05:25.88,Default,,0000,0000,0000,,Una vez asistí a una conferencia
Dialogue: 0,0:05:25.88,0:05:28.92,Default,,0000,0000,0000,,que reunió a los responsables \Nde recursos humanos y ejecutivos,
Dialogue: 0,0:05:28.92,0:05:30.30,Default,,0000,0000,0000,,las personas de alto nivel,
Dialogue: 0,0:05:30.30,0:05:32.45,Default,,0000,0000,0000,,que usaban estos sistemas \Nen la contratación.
Dialogue: 0,0:05:32.45,0:05:33.62,Default,,0000,0000,0000,,Estaban muy emocionados.
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,Pensaban que esto haría la contratación \Nmás objetiva, menos tendenciosa,
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,para dar a las mujeres y a las minorías \Nmejores oportunidades
Dialogue: 0,0:05:41.35,0:05:43.72,Default,,0000,0000,0000,,contra los administradores \Nhumanos tendenciosos.
Dialogue: 0,0:05:43.72,0:05:46.40,Default,,0000,0000,0000,,La contratación humana es tendenciosa.
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,Lo sé.
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,Es decir, en uno de mis primeros \Ntrabajos como programadora,
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,mi jefa a veces venía \Nallí donde yo estaba
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,muy temprano en la mañana \No muy tarde por la tarde,
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,y decía: "Zeynep, ¡vayamos a comer!"
Dialogue: 0,0:06:02.17,0:06:05.15,Default,,0000,0000,0000,,Me dejaba perpleja por el \Nmomento extraño de preguntar.
Dialogue: 0,0:06:05.15,0:06:07.04,Default,,0000,0000,0000,,Son las 16. ¿Almuerzo?
Dialogue: 0,0:06:07.07,0:06:10.33,Default,,0000,0000,0000,,Estaba en la ruina, así que, \Nante un almuerzo gratis, siempre fui.
Dialogue: 0,0:06:10.43,0:06:12.98,Default,,0000,0000,0000,,Más tarde me di cuenta \Nde lo que estaba ocurriendo.
Dialogue: 0,0:06:12.98,0:06:16.97,Default,,0000,0000,0000,,Mis jefes inmediatos no habían \Nconfesado a sus altos mandos
Dialogue: 0,0:06:16.97,0:06:20.39,Default,,0000,0000,0000,,que el programador contratado para \Nun trabajo serio era una adolescente
Dialogue: 0,0:06:20.42,0:06:24.35,Default,,0000,0000,0000,,que llevaba pantalones vaqueros \Ny zapatillas de deporte en el trabajo.
Dialogue: 0,0:06:24.62,0:06:27.23,Default,,0000,0000,0000,,Yo hacía un buen trabajo, \Nsolo que no encajaba
Dialogue: 0,0:06:27.23,0:06:29.10,Default,,0000,0000,0000,,por la edad y por el sexo equivocado.
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,Así que contratar a ciegas \Nindependiente del género y de la raza
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,ciertamente me parece bien.
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,Sin embargo, con estos sistemas, \Nes más complicado, y he aquí por qué:
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,Hoy los sistemas informáticos pueden \Ndeducir todo tipo de cosas sobre Uds.
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,a partir de sus pistas digitales,
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,incluso si no las han dado a conocer.
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,Pueden inferir su orientación sexual,
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,sus rasgos de personalidad,
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,sus inclinaciones políticas.
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,Tienen poder predictivo \Ncon altos niveles de precisión.
Dialogue: 0,0:07:01.08,0:07:03.94,Default,,0000,0000,0000,,Recuerden, por cosas que \Nni siquiera han dado a conocer.
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,Esta es la inferencia.
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,Tengo una amiga que desarrolló \Neste tipo de sistemas informáticos
Dialogue: 0,0:07:08.86,0:07:12.50,Default,,0000,0000,0000,,para predecir la probabilidad \Nde depresión clínica o posparto
Dialogue: 0,0:07:12.53,0:07:14.44,Default,,0000,0000,0000,,a partir de datos de medios sociales.
Dialogue: 0,0:07:14.68,0:07:16.36,Default,,0000,0000,0000,,Los resultados son impresionantes.
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,Su sistema puede predecir \Nla probabilidad de depresión
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,meses antes de la aparición \Nde cualquier síntoma,
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,meses antes.
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,No hay síntomas, sí hay predicción.
Dialogue: 0,0:07:27.47,0:07:32.28,Default,,0000,0000,0000,,Ella espera que se use para \Nla intervención temprana. ¡Estupendo!
Dialogue: 0,0:07:32.72,0:07:35.43,Default,,0000,0000,0000,,Pero ahora pongan esto en el \Ncontexto de la contratación.
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,Así que en esa conferencia \Nde recursos humanos,
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,me acerqué a una gerenta de alto nivel \Nde una empresa muy grande,
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,y le dije: "Mira, ¿qué pasaría si, \Nsin su conocimiento,
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,el sistema elimina a las personas con \Nalta probabilidad futura de la depresión?
Dialogue: 0,0:07:55.76,0:07:59.14,Default,,0000,0000,0000,,No están deprimidos ahora, solo \Nquizá en el futuro, sea probable.
Dialogue: 0,0:07:59.85,0:08:03.29,Default,,0000,0000,0000,,¿Y si elimina a las mujeres con más \Nprobabilidades de estar embarazadas
Dialogue: 0,0:08:03.29,0:08:06.18,Default,,0000,0000,0000,,en el próximo año o dos, \Npero no está embarazada ahora?
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,¿Y si contratamos a personas agresivas, \Nporque esa es su cultura de trabajo?"
Dialogue: 0,0:08:13.17,0:08:15.80,Default,,0000,0000,0000,,No se puede saber esto \Nmirando un desglose por sexos.
Dialogue: 0,0:08:15.80,0:08:17.28,Default,,0000,0000,0000,,Estos pueden ser equilibrados.
Dialogue: 0,0:08:17.28,0:08:21.52,Default,,0000,0000,0000,,Y como esto es aprendizaje automático, \Nno la programación tradicional,
Dialogue: 0,0:08:21.52,0:08:25.90,Default,,0000,0000,0000,,no hay una variable etiquetada \Ncomo "mayor riesgo de depresión",
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,"mayor riesgo de embarazo",
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,"escala de chico agresivo".
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,Ud. no solo no sabe lo que \Nsu sistema selecciona,
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,sino que ni siquiera sabe \Npor dónde empezar a buscar.
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,Es una caja negra.
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,Tiene capacidad de predicción, \Npero uno no lo entiende.
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,"¿Qué salvaguardia", pregunté,
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,"puede asegurar que la caja negra \Nno hace algo perjudicial?"
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,Ella me miró como si acabara \Nde romper algo valioso.
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,Me miró y dijo:
Dialogue: 0,0:08:56.56,0:09:00.89,Default,,0000,0000,0000,,"No quiero oír ni una palabra de esto".
Dialogue: 0,0:09:01.46,0:09:03.49,Default,,0000,0000,0000,,Dio la vuelta y se alejó.
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,Eso sí, ella no fue grosera.
Dialogue: 0,0:09:05.57,0:09:11.88,Default,,0000,0000,0000,,Era claramente: lo que no sé, no es \Nmi problema, vete, encara la muerte.
Dialogue: 0,0:09:11.91,0:09:13.15,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:09:13.65,0:09:17.32,Default,,0000,0000,0000,,Un sistema de este tipo \Npuede ser incluso menos sesgado
Dialogue: 0,0:09:17.32,0:09:19.89,Default,,0000,0000,0000,,que los administradores humanos \Nen algunos aspectos.
Dialogue: 0,0:09:19.89,0:09:21.100,Default,,0000,0000,0000,,Y podría tener sentido monetario.
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,Pero también podría llevar
Dialogue: 0,0:09:24.25,0:09:28.100,Default,,0000,0000,0000,,a un cierre constante pero sigiloso \Ndel mercado de trabajo
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,a las personas \Ncon mayor riesgo de depresión.
Dialogue: 0,0:09:31.55,0:09:34.35,Default,,0000,0000,0000,,¿Es este el tipo de sociedad \Nla que queremos construir,
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,sin siquiera saber que lo hemos hecho,
Dialogue: 0,0:09:36.68,0:09:40.65,Default,,0000,0000,0000,,porque nos movemos en torno a decisiones \Nde máquinas que no entendemos totalmente?
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,Otro problema es el siguiente:
Dialogue: 0,0:09:43.31,0:09:47.56,Default,,0000,0000,0000,,estos sistemas son a menudo \Nentrenados con datos generados
Dialogue: 0,0:09:47.56,0:09:49.88,Default,,0000,0000,0000,,por nuestras acciones, \Npor huellas humanas.
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,Podrían pues estar reflejando \Nnuestros prejuicios,
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,y estos sistemas podrían dar cuenta \Nde nuestros prejuicios
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,y la amplificación de ellos
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,volviendo a nosotros,
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,mientras que decimos:
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,"Somos objetivos, es el cómputo neutral".
Dialogue: 0,0:10:06.31,0:10:09.54,Default,,0000,0000,0000,,Los investigadores encontraron \Nque en Google las mujeres tienen
Dialogue: 0,0:10:10.13,0:10:13.46,Default,,0000,0000,0000,,menos probabilidades que los hombres
Dialogue: 0,0:10:13.46,0:10:16.46,Default,,0000,0000,0000,,de que les aparezcan anuncios \Nde trabajo bien remunerados.
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,Y buscando nombres afroestadounidenses
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,es más probable que aparezcan anuncios \Nque sugieren antecedentes penales,
Dialogue: 0,0:10:23.75,0:10:25.31,Default,,0000,0000,0000,,incluso cuando no existan.
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,Estos sesgos ocultos \Ny algoritmos de la caja negra
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,que descubren los investigadores \Na veces, pero a veces no,
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,pueden tener consecuencias \Nque cambian la vida.
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,En Wisconsin, un acusado \Nfue condenado a seis años de prisión
Dialogue: 0,0:10:42.14,0:10:43.50,Default,,0000,0000,0000,,por escaparse de la policía.
Dialogue: 0,0:10:43.90,0:10:46.97,Default,,0000,0000,0000,,Quizá no lo sepan, pero los algoritmos \Nse usan cada vez más
Dialogue: 0,0:10:46.97,0:10:50.03,Default,,0000,0000,0000,,en las decisiones de \Nlibertad condicional y de sentencia.
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,El acusado quiso saber: \N¿Cómo se calcula la puntuación?
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,Es una caja negra comercial.
Dialogue: 0,0:10:55.48,0:10:59.69,Default,,0000,0000,0000,,La empresa se negó a que se cuestionara \Nsu algoritmo en audiencia pública.
Dialogue: 0,0:11:00.21,0:11:04.99,Default,,0000,0000,0000,,Pero ProPublica, organización \Nno lucrativa de investigación,
Dialogue: 0,0:11:04.99,0:11:08.18,Default,,0000,0000,0000,,auditó precisamente ese algoritmo\Ncon los datos públicos que encontró,
Dialogue: 0,0:11:08.18,0:11:10.60,Default,,0000,0000,0000,,y descubrió que sus resultados \Nestaban sesgados
Dialogue: 0,0:11:10.60,0:11:13.96,Default,,0000,0000,0000,,y su capacidad de predicción era pésima, \Napenas mejor que el azar,
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,y se etiquetaban erróneamente \Nacusados negros como futuros criminales
Dialogue: 0,0:11:18.42,0:11:22.32,Default,,0000,0000,0000,,con una tasa del doble \Nque a los acusados blancos.
Dialogue: 0,0:11:23.64,0:11:25.56,Default,,0000,0000,0000,,Piensen en este caso:
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,Esta mujer llegó tarde a \Nrecoger a la hija de su madrina
Dialogue: 0,0:11:29.98,0:11:32.43,Default,,0000,0000,0000,,de una escuela en \Nel condado de Broward, Florida,
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,iba corriendo por la calle con una amiga.
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,Vieron la bicicleta de un niño sin candado\Ny una moto en un porche
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,y tontamente saltó sobre ella.
Dialogue: 0,0:11:40.92,0:11:43.52,Default,,0000,0000,0000,,A medida que aceleraban, \Nuna mujer salió y dijo,
Dialogue: 0,0:11:43.54,0:11:45.74,Default,,0000,0000,0000,,"¡Eh, esa es la bicicleta de mi hijo!"
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,Se bajaron, se alejaron, \Npero fueron detenidas.
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,Estaba equivocada, fue una tontería, \Npero también tenía solo 18 años.
Dialogue: 0,0:11:52.75,0:11:55.29,Default,,0000,0000,0000,,Tenía un par de faltas menores.
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,Mientras tanto, detenían al hombre \Npor hurto en Home Depot,
Dialogue: 0,0:12:01.02,0:12:03.94,Default,,0000,0000,0000,,por un valor de USD 85, \Nun delito menor similar.
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,Pero él tenía dos condenas anteriores\Npor robo a mano armada.
Dialogue: 0,0:12:09.96,0:12:13.44,Default,,0000,0000,0000,,Sin embargo, el algoritmo la anotó \Na ella como de alto riesgo, y no a él.
Dialogue: 0,0:12:14.39,0:12:17.86,Default,,0000,0000,0000,,Dos años más tarde, ProPublica descubrió \Nque ella no había vuelto a delinquir.
Dialogue: 0,0:12:17.86,0:12:21.53,Default,,0000,0000,0000,,Pero le era difícil conseguir un trabajo \Ncon sus antecedentes registrados.
Dialogue: 0,0:12:21.53,0:12:23.46,Default,,0000,0000,0000,,Él, por el contrario, era reincidente
Dialogue: 0,0:12:23.46,0:12:27.41,Default,,0000,0000,0000,,y ahora cumple una pena de ocho años \Nde prisión por un delito posterior.
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,Es evidente que necesitamos \Nauditar nuestras cajas negras
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,para no tener \Neste tipo de poder sin control.
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,Las auditorías son grandes e importantes, \Npero no resuelven todos los problemas.
Dialogue: 0,0:12:42.35,0:12:45.10,Default,,0000,0000,0000,,Tomemos el potente algoritmo \Nde noticias de Facebook,
Dialogue: 0,0:12:45.12,0:12:49.97,Default,,0000,0000,0000,,ese que sabe todo y decide qué mostrarles
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,de las páginas de los amigos que siguen.
Dialogue: 0,0:12:52.90,0:12:55.17,Default,,0000,0000,0000,,¿Debería mostrarles otra imagen de bebé?
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,¿Una nota deprimente de un conocido?
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,¿Una noticia importante pero difícil?
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,No hay una respuesta correcta.
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Facebook optimiza para \Nque se participe en el sitio:
Dialogue: 0,0:13:05.52,0:13:06.93,Default,,0000,0000,0000,,con Me gusta, Compartir \Ny con Comentarios.
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,En agosto de 2014,
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,estallaron protestas \Nen Ferguson, Missouri,
Dialogue: 0,0:13:13.57,0:13:17.99,Default,,0000,0000,0000,,tras la muerte de un adolescente \Nafroestadounidense por un policía blanco,
Dialogue: 0,0:13:18.02,0:13:19.58,Default,,0000,0000,0000,,en circunstancias turbias.
Dialogue: 0,0:13:19.97,0:13:21.98,Default,,0000,0000,0000,,La noticia de las protestas llegaron
Dialogue: 0,0:13:22.00,0:13:24.69,Default,,0000,0000,0000,,en mi cuenta de Twitter \Nalgorítmicamente sin filtrar
Dialogue: 0,0:13:24.71,0:13:26.66,Default,,0000,0000,0000,,pero en ninguna parte en mi Facebook.
Dialogue: 0,0:13:26.78,0:13:28.92,Default,,0000,0000,0000,,¿Y qué pasaba con mis amigos de Facebook?
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,Desactivé el algoritmo de Facebook,
Dialogue: 0,0:13:31.13,0:13:34.32,Default,,0000,0000,0000,,lo cual es difícil ya que Facebook \Nquiere seguir manteniéndonos
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,bajo el control del algoritmo,
Dialogue: 0,0:13:36.40,0:13:38.64,Default,,0000,0000,0000,,y vi que mis amigos \Nestaban hablando de ello.
Dialogue: 0,0:13:38.67,0:13:41.18,Default,,0000,0000,0000,,Pero el algoritmo no me lo mostraba.
Dialogue: 0,0:13:41.20,0:13:44.24,Default,,0000,0000,0000,,He investigado esto y encontré \Nque era un problema generalizado.
Dialogue: 0,0:13:44.26,0:13:48.08,Default,,0000,0000,0000,,La historia de Ferguson no era \Ncompatible con el algoritmo.
Dialogue: 0,0:13:48.10,0:13:49.27,Default,,0000,0000,0000,,No es "gustable".
Dialogue: 0,0:13:49.30,0:13:51.25,Default,,0000,0000,0000,,¿Quién va a hacer clic en "Me gusta"?
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,Ni siquiera es fácil de comentar.
Dialogue: 0,0:13:53.73,0:13:55.40,Default,,0000,0000,0000,,Sin Me gusta y sin comentarios,
Dialogue: 0,0:13:55.40,0:13:58.33,Default,,0000,0000,0000,,el algoritmo era probable de \Nmostrarse a aún menos personas,
Dialogue: 0,0:13:58.33,0:14:00.39,Default,,0000,0000,0000,,así que no tuvimos \Noportunidad de ver esto.
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,En cambio, esa semana,
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,el algoritmo de Facebook destacó esto,
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,el ALS que era \Nel desafío del cubo de hielo.
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,Noble causa; verter agua con hielo, \Ndonar a la caridad, bien.
Dialogue: 0,0:14:10.54,0:14:12.83,Default,,0000,0000,0000,,Esa causa era súper compatible \Ncon el algoritmo.
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,La máquina tomó \Nesta decisión por nosotros.
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,Una conversación \Nmuy importante pero difícil
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,podría haber sido silenciada
Dialogue: 0,0:14:20.96,0:14:23.65,Default,,0000,0000,0000,,si Facebook hubiese sido el único canal.
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,Ahora, por fin, estos sistemas \Npueden también equivocarse
Dialogue: 0,0:14:27.94,0:14:30.40,Default,,0000,0000,0000,,de formas que no se parecen a los humanos.
Dialogue: 0,0:14:30.40,0:14:33.78,Default,,0000,0000,0000,,¿Se acuerdan de Watson, el sistema \Nde inteligencia artificial de IBM
Dialogue: 0,0:14:33.78,0:14:36.77,Default,,0000,0000,0000,,que arrasó con los concursantes \Nhumanos en Jeopardy?
Dialogue: 0,0:14:37.13,0:14:38.41,Default,,0000,0000,0000,,Fue un gran jugador.
Dialogue: 0,0:14:38.41,0:14:42.08,Default,,0000,0000,0000,,Pero entonces, para la final de Jeopardy, \Na Watson se le hizo esta pregunta:
Dialogue: 0,0:14:42.08,0:14:45.59,Default,,0000,0000,0000,,"Su mayor aeropuerto lleva el nombre \Nde un héroe de la 2ª Guerra Mundial,
Dialogue: 0,0:14:45.62,0:14:48.17,Default,,0000,0000,0000,,la 2ª batalla más grande \Nde la 2ª Guerra Mundial".
Dialogue: 0,0:14:48.17,0:14:49.54,Default,,0000,0000,0000,,(Música final de Jeopardy)
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,Chicago.
Dialogue: 0,0:14:50.79,0:14:52.57,Default,,0000,0000,0000,,Los dos humanos lo hicieron bien.
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,Watson, por otra parte, \Nrespondió "Toronto"
Dialogue: 0,0:14:57.07,0:14:59.36,Default,,0000,0000,0000,,para una categoría de ciudad de EE.UU.
Dialogue: 0,0:14:59.60,0:15:02.50,Default,,0000,0000,0000,,El impresionante sistema \Ntambién cometió un error
Dialogue: 0,0:15:02.52,0:15:06.17,Default,,0000,0000,0000,,que un humano nunca cometería, que\Nun estudiante de segundo grado tampoco.
Dialogue: 0,0:15:06.82,0:15:09.64,Default,,0000,0000,0000,,La inteligencia artificial puede fallar
Dialogue: 0,0:15:09.64,0:15:13.06,Default,,0000,0000,0000,,en formas que no se ajustan a \Nlos patrones de error de los humanos,
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,de maneras que no esperamos\Ny para las que no estamos preparados.
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,Sería pésimo no conseguir trabajo, \Nuna vez que uno se cualifica para ello,
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,pero sería el triple de pésimo \Nsi fue por un desbordamiento de pila
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,en algunas subrutinas.
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,(Risas)
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,En mayo del 2010
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,un flash crash de Wall Street alimentado \Npor un circuito de retroalimentación
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,por el algoritmo de "venta" de Wall Street
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,borró un billón de dólares en 36 minutos.
Dialogue: 0,0:15:41.41,0:15:43.91,Default,,0000,0000,0000,,Yo no quiero ni pensar \Nlo que significa "error"
Dialogue: 0,0:15:43.93,0:15:48.08,Default,,0000,0000,0000,,en el contexto de \Nlas armas autónomas letales.
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,Los humanos siempre \Nhemos tenido prejuicios.
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,Los que toman decisiones y los guardias,
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,en los tribunales, \Nen la actualidad, en la guerra...
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,cometen errores; pero ese \Nes exactamente mi tema.
Dialogue: 0,0:16:02.49,0:16:06.01,Default,,0000,0000,0000,,No podemos escapar \Na estas preguntas difíciles.
Dialogue: 0,0:16:06.60,0:16:10.11,Default,,0000,0000,0000,,No podemos delegar nuestra\Nresponsabilidad a las máquinas.
Dialogue: 0,0:16:10.68,0:16:14.88,Default,,0000,0000,0000,,(Aplausos)
Dialogue: 0,0:16:17.09,0:16:21.54,Default,,0000,0000,0000,,La inteligencia artificial \Nno nos da una tarjeta libre de ética.
Dialogue: 0,0:16:22.10,0:16:26.12,Default,,0000,0000,0000,,El experto en datos Fred Benenson lo \Nllama "mathwashing" o lavado matemático.
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,Necesitamos lo contrario.
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,Necesitamos fomentar un algoritmo \Nde sospecha, escrutinio e investigación.
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,Tenemos que asegurarnos de tener \Nresponsabilidad algorítmica,
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,auditoría y transparencia significativa.
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,Tenemos que aceptar que llevar \Nlas matemáticas y la computación
Dialogue: 0,0:16:42.64,0:16:45.61,Default,,0000,0000,0000,,a los asuntos humanos, \Ndesordenados y cargados de valores
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,no conlleva a la objetividad;
Dialogue: 0,0:16:48.04,0:16:51.67,Default,,0000,0000,0000,,más bien, la complejidad de los asuntos \Nhumanos invaden los algoritmos.
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,Sí, podemos y debemos \Nusar la computación
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,para ayudar a tomar mejores decisiones.
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,Pero tenemos que apropiarnos de \Nnuestra responsabilidad moral de juicio,
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,y usar algoritmos dentro de ese marco,
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,no como un medio para abdicar \Ny delegar nuestras responsabilidades
Dialogue: 0,0:17:10.85,0:17:13.31,Default,,0000,0000,0000,,el uno al otro, como de humano a humano.
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,La inteligencia artificial está aquí.
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,Eso significa que hay que \Najustarla cada vez más
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,a los valores humanos y a la ética humana.
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,Gracias.
Dialogue: 0,0:17:23.23,0:17:28.25,Default,,0000,0000,0000,,(Aplausos)