[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.64,Default,,0000,0000,0000,,Mon premier travail\Nétait programmeuse informatique
Dialogue: 0,0:00:04.64,0:00:06.88,Default,,0000,0000,0000,,durant ma première année à l'université --
Dialogue: 0,0:00:06.88,0:00:08.37,Default,,0000,0000,0000,,quand j'étais adolescente.
Dialogue: 0,0:00:08.89,0:00:12.29,Default,,0000,0000,0000,,Peu après avoir commencé\Nà écrire des programmes en entreprise,
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,un responsable de l'entreprise\Nest venu me voir
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,et m'a murmuré :
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,« Peut-il dire si je mens ? »
Dialogue: 0,0:00:21.81,0:00:23.88,Default,,0000,0000,0000,,Il n'y avait personne d'autre\Ndans la pièce.
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,« Qui peut dire si vous mentez ?\NEt pourquoi chuchotez-vous ? »
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,Le responsable a pointé du doigt\Nl'ordinateur dans la pièce.
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,« Peut-il dire si je mens ? »
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,Ce responsable avait une aventure\Navec la réceptionniste.
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,J'étais toujours adolescente.
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,J'ai lui ai murmuré-crié :
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,« Oui, l'ordinateur peut dire\Nsi vous mentez. »
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,J'ai rigolé, mais c'est de moi\Nqu'on peut se moquer.
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,Il y a aujourd'hui\Ndes systèmes informatiques
Dialogue: 0,0:00:59.21,0:01:02.76,Default,,0000,0000,0000,,qui peuvent repérer\Nles états émotionnels et les mensonges
Dialogue: 0,0:01:02.78,0:01:04.98,Default,,0000,0000,0000,,en traitant les informations\Ndu visage humain.
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,Les publicitaires et les gouvernements\Nsont très intéressés.
Dialogue: 0,0:01:10.32,0:01:12.32,Default,,0000,0000,0000,,J'étais devenue programmeuse informatique
Dialogue: 0,0:01:12.32,0:01:15.32,Default,,0000,0000,0000,,car j'étais l'une de ces gamines\Nfolles de maths et de sciences.
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,Mais, en chemin, j'avais découvert\Nles armes nucléaires
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,et je me sentais très concernée\Npar l'éthique de la science.
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,J'étais troublée.
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,Cependant, du fait\Nde circonstances familiales,
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,je devais aussi commencer à travailler\Naussi vite que possible.
Dialogue: 0,0:01:29.26,0:01:32.56,Default,,0000,0000,0000,,Je me suis dit :\N« Choisis un domaine technique
Dialogue: 0,0:01:32.59,0:01:34.38,Default,,0000,0000,0000,,où tu peux avoir un emploi facilement
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,et où je n'ai pas à gérer\Ndes questions d'éthique difficiles. »
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,J'ai donc choisi l'informatique.
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,Eh bien, ah ah ah !\NOn peut se moquer de moi.
Dialogue: 0,0:01:45.14,0:01:47.95,Default,,0000,0000,0000,,Aujourd'hui, les informaticiens\Nconstruisent des plateformes
Dialogue: 0,0:01:47.95,0:01:52.12,Default,,0000,0000,0000,,qui contrôlent chaque jour\Nce que voient un milliard de personnes.
Dialogue: 0,0:01:53.05,0:01:56.87,Default,,0000,0000,0000,,Ils développent des voitures\Npouvant décider qui écraser.
Dialogue: 0,0:01:57.71,0:02:00.90,Default,,0000,0000,0000,,Ils construisent même\Ndes machines, des armes
Dialogue: 0,0:02:00.90,0:02:03.45,Default,,0000,0000,0000,,qui pourraient tuer\Ndes êtres humains dans une guerre.
Dialogue: 0,0:02:03.45,0:02:06.02,Default,,0000,0000,0000,,Il y a de l'éthique partout.
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,L'intelligence artificielle est arrivée.
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,Nous utilisons l'informatique\Npour prendre toutes sortes de décisions,
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,y compris de nouvelles décisions.
Dialogue: 0,0:02:15.23,0:02:17.43,Default,,0000,0000,0000,,Nous posons à l'informatique
Dialogue: 0,0:02:17.43,0:02:20.43,Default,,0000,0000,0000,,des questions auxquelles\Nil n'y a pas d'unique bonne réponse,
Dialogue: 0,0:02:20.43,0:02:21.63,Default,,0000,0000,0000,,qui sont subjectives,
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,ouvertes et reposent sur des valeurs.
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,Nous posons des questions comme :
Dialogue: 0,0:02:25.78,0:02:27.43,Default,,0000,0000,0000,,« Qui devrait-on embaucher ? »
Dialogue: 0,0:02:28.10,0:02:30.86,Default,,0000,0000,0000,,« Quelles nouvelles de quel ami\Ndevrait-on vous montrer ? »
Dialogue: 0,0:02:30.88,0:02:33.14,Default,,0000,0000,0000,,« Quel prisonnier\Nva probablement récidiver ? »
Dialogue: 0,0:02:33.51,0:02:36.57,Default,,0000,0000,0000,,« Quel nouvel objet ou film\Ndevrait être recommandé aux gens ? »
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,Cela fait un certain temps\Nque nous utilisons des ordinateurs
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,mais c'est différent.
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,C'est un changement historique :
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,car on ne peut pas utiliser l'informatique\Npour des décisions si subjectives
Dialogue: 0,0:02:48.98,0:02:54.40,Default,,0000,0000,0000,,comme on utilise l'informatique\Npour piloter un avion, construire un pont,
Dialogue: 0,0:02:54.42,0:02:55.68,Default,,0000,0000,0000,,aller sur la Lune.
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,Les avions sont-ils plus sûrs ?\NUn pont a-t-il bougé et est tombé ?
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,Là, nous nous accordons\Nsur des repères assez clairs
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,et les lois de la nature nous guident.
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,Nous n'avons pas de tels ancres et repères
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,pour les décisions\Ndes affaires complexes humaines.
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,Pour compliquer encore les choses,\Nnos logiciels gagnent en puissance
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,mais sont aussi moins transparents\Net plus complexes.
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,Récemment, les dix dernières années,
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,les algorithmes complexes\Nont fait de grandes avancées.
Dialogue: 0,0:03:27.36,0:03:29.48,Default,,0000,0000,0000,,Ils peuvent reconnaître\Nles visages humains,
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,déchiffrer l'écriture,
Dialogue: 0,0:03:32.44,0:03:34.50,Default,,0000,0000,0000,,détecter la fraude à la carte bancaire,
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,bloquer le spam,
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,traduire d'une langue à une autre,
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,détecter les tumeurs en imagerie médicale,
Dialogue: 0,0:03:40.40,0:03:42.60,Default,,0000,0000,0000,,battre les humains aux échecs et au go.
Dialogue: 0,0:03:43.26,0:03:46.32,Default,,0000,0000,0000,,Beaucoup de ces progrès\Ndécoulent d'une méthode :
Dialogue: 0,0:03:46.32,0:03:48.18,Default,,0000,0000,0000,,« l'apprentissage de la machine ».
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,Cette méthode est différente\Nde la programmation traditionnelle
Dialogue: 0,0:03:51.39,0:03:55.19,Default,,0000,0000,0000,,où l'on donne des instructions détaillées,\Nexactes, méticuleuses à l'ordinateur.
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,Cela ressemble plus\Nà un système nourri de données,
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,dont des données non structurées,
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,comme celles générées\Npar notre vie numérique.
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,Le système apprend\Nen parcourant ces données.
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,Et aussi, c'est crucial,
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,ces systèmes n'utilisent pas la logique\Nde la réponse unique.
Dialogue: 0,0:04:12.62,0:04:15.71,Default,,0000,0000,0000,,Ils ne produisent pas une seule réponse,\Nc'est plus probabiliste :
Dialogue: 0,0:04:15.71,0:04:19.09,Default,,0000,0000,0000,,« Celle-ci est probablement\Nplus proche de ce que vous cherchez. »
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,L'avantage est que cette méthode\Nest très puissante.
Dialogue: 0,0:04:23.12,0:04:25.19,Default,,0000,0000,0000,,Le chef de l'IA chez Google l'a appelée :
Dialogue: 0,0:04:25.22,0:04:27.41,Default,,0000,0000,0000,,« l'efficacité irraisonnable\Ndes données ».
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,L'inconvénient est :
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,nous ne comprenons pas vraiment\Nce que le système a appris.
Dialogue: 0,0:04:32.83,0:04:34.42,Default,,0000,0000,0000,,En fait, c'est sa force.
Dialogue: 0,0:04:34.95,0:04:38.74,Default,,0000,0000,0000,,C'est moins comme donner\Ndes instructions à un ordinateur ;
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,plus comme entraîner\Nune machine-chiot-créature
Dialogue: 0,0:04:43.29,0:04:45.81,Default,,0000,0000,0000,,que nous ne comprenons\Nni ne contrôlons vraiment.
Dialogue: 0,0:04:46.36,0:04:47.91,Default,,0000,0000,0000,,Voilà notre problème.
Dialogue: 0,0:04:48.43,0:04:52.69,Default,,0000,0000,0000,,C'est un problème quand cette intelligence\Nartificielle comprend mal les choses.
Dialogue: 0,0:04:52.71,0:04:56.25,Default,,0000,0000,0000,,C'est aussi un problème\Nquand elle comprend les choses
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,car on ne sait pas différencier\Nces situations pour un problème subjectif.
Dialogue: 0,0:04:59.93,0:05:02.27,Default,,0000,0000,0000,,Nous ignorons ce que pense cette chose.
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,Considérez un algorithme d'embauche --
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,un système utilisé pour embaucher des gens\Nen utilisant l'apprentissage des machines.
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,Un tel système aurait été entraîné\Nsur les données des employés
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,et chargé de trouver et embaucher
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,des gens similaires à ceux\Nles plus performants de l'entreprise.
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,Cela semble bien.
Dialogue: 0,0:05:23.99,0:05:25.92,Default,,0000,0000,0000,,Une fois, j'ai assisté à une conférence
Dialogue: 0,0:05:25.92,0:05:29.21,Default,,0000,0000,0000,,qui réunissait responsables\Ndes ressources humaines et des dirigeants,
Dialogue: 0,0:05:29.21,0:05:30.37,Default,,0000,0000,0000,,des gens de haut niveau,
Dialogue: 0,0:05:30.39,0:05:31.98,Default,,0000,0000,0000,,avec de tels systèmes d'embauche.
Dialogue: 0,0:05:31.98,0:05:33.62,Default,,0000,0000,0000,,Ils étaient très excités.
Dialogue: 0,0:05:33.65,0:05:38.30,Default,,0000,0000,0000,,Ils pensaient que cela rendrait l'embauche\Nplus objective, moins biaisée
Dialogue: 0,0:05:38.32,0:05:41.32,Default,,0000,0000,0000,,et donnerait plus de chances\Naux femmes et minorités
Dialogue: 0,0:05:41.35,0:05:43.54,Default,,0000,0000,0000,,face à des responsables RH partiaux.
Dialogue: 0,0:05:43.56,0:05:46.40,Default,,0000,0000,0000,,L'embauche humaine est partiale.
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,Je sais.
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,Dans l'un de mes premiers postes\Nen tant que programmeuse,
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,ma responsable directe\Nvenait parfois me voir
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,très tôt le matin\Nou très tard l'après-midi
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,et elle disait : « Zeinep,\Nallons déjeuner ! »
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,L'heure étrange me laissait perplexe.
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,Il est 16h, déjeuner ?
Dialogue: 0,0:06:07.07,0:06:10.29,Default,,0000,0000,0000,,J'étais fauchée, le déjeuner était gratuit\Ndonc j'y allais toujours.
Dialogue: 0,0:06:10.62,0:06:12.68,Default,,0000,0000,0000,,Plus tard, j'ai réalisé\Nce qu'il se passait.
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,Mes responsables directs\Nn'avaient pas dit à leurs responsables
Dialogue: 0,0:06:17.28,0:06:20.39,Default,,0000,0000,0000,,qu'ils avaient embauché\Npour un travail sérieux une adolescente
Dialogue: 0,0:06:20.42,0:06:24.35,Default,,0000,0000,0000,,qui portait un jeans\Net des baskets au travail.
Dialogue: 0,0:06:25.17,0:06:27.61,Default,,0000,0000,0000,,Je faisais du bon travail\Nmais mon allure clochait,
Dialogue: 0,0:06:27.61,0:06:29.14,Default,,0000,0000,0000,,j'avais les mauvais âge et sexe.
Dialogue: 0,0:06:29.14,0:06:32.47,Default,,0000,0000,0000,,Embaucher d'une manière\Naveugle à la couleur et au sexe
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,me semble très bien.
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,Mais avec ces systèmes,\Nc'est plus compliqué, voici pourquoi :
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,actuellement, les systèmes informatiques\Npeuvent déduire beaucoup vous concernant
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,grâce à vos miettes numériques,
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,même si vous n'avez rien révélé.
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,Ils peuvent déduire\Nvotre orientation sexuelle,
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,vos traits de personnalité,
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,vos tendances politiques.
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,Ils ont des pouvoirs prédictifs\Nayant une exactitude élevée.
Dialogue: 0,0:07:01.36,0:07:03.94,Default,,0000,0000,0000,,Pour des choses\Nque vous n'avez pas révélées.
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,C'est de la déduction.
Dialogue: 0,0:07:05.58,0:07:08.84,Default,,0000,0000,0000,,J'ai une amie qui a développé\Nde tels systèmes informatiques
Dialogue: 0,0:07:08.86,0:07:12.50,Default,,0000,0000,0000,,pour prévoir la probabilité\Nd'une dépression clinique ou post-partum
Dialogue: 0,0:07:12.53,0:07:13.94,Default,,0000,0000,0000,,grâce à vos médias sociaux.
Dialogue: 0,0:07:14.68,0:07:16.37,Default,,0000,0000,0000,,Les résultats sont impressionnants.
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,Son système peut prévoir\Nles risques de dépression
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,des mois avant l'apparition\Nde tout symptôme --
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,des mois avant.
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,Aucun symptôme mais une prédiction.
Dialogue: 0,0:07:27.47,0:07:32.28,Default,,0000,0000,0000,,Elle espère que cela sera utilisé\Npour des interventions précoces, super !
Dialogue: 0,0:07:32.91,0:07:35.26,Default,,0000,0000,0000,,Mais mettez cela\Ndans le contexte de l'embauche.
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,Lors de cette conférence\Nde responsables des ressources humaines,
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,j'ai approché une responsable\Nd'une très grande entreprise
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,et lui ai dit : « Et si, à votre insu,
Dialogue: 0,0:07:48.43,0:07:54.98,Default,,0000,0000,0000,,votre système éliminait les gens\Navec de forts risques de dépression ?
Dialogue: 0,0:07:55.76,0:07:59.14,Default,,0000,0000,0000,,Ils ne sont pas en dépression\Nmais ont plus de risques pour l'avenir.
Dialogue: 0,0:07:59.92,0:08:03.33,Default,,0000,0000,0000,,Et s'il éliminait les femmes\Nayant plus de chances d'être enceintes
Dialogue: 0,0:08:03.35,0:08:05.94,Default,,0000,0000,0000,,dans un ou deux ans\Nmais ne le sont pas actuellement ?
Dialogue: 0,0:08:06.84,0:08:12.48,Default,,0000,0000,0000,,Et s'il embauchait des gens agressifs\Ncar c'est la culture de l'entreprise ? »
Dialogue: 0,0:08:13.17,0:08:15.99,Default,,0000,0000,0000,,On ne peut pas le dire en regardant\Nla répartition par sexe.
Dialogue: 0,0:08:15.99,0:08:17.39,Default,,0000,0000,0000,,Cela peut être équilibré.
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,Puisque c'est de l'apprentissage\Nde la machine, non du code traditionnel,
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,il n'y a pas de variables appelées\N« plus de risques de dépression »,
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,« plus de risques d'être enceinte »,
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,« échelle d'agressivité d'un mec ».
Dialogue: 0,0:08:29.100,0:08:33.67,Default,,0000,0000,0000,,Non seulement vous ignorez\Nce que votre système utilise pour choisir,
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,mais vous ignorez où chercher.
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,C'est une boîte noire.
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,Elle a un pouvoir prédictif\Nmais vous ne le comprenez pas.
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,J'ai demandé : « Quelle garantie avez-vous
Dialogue: 0,0:08:42.88,0:08:46.55,Default,,0000,0000,0000,,pour vous assurer que votre boîte noire\Nne fait rien de louche ? »
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,Elle m'a regardée comme\Nsi je venais de l'insulter.
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,Elle m'a fixée et m'a dit :
Dialogue: 0,0:08:56.56,0:09:00.89,Default,,0000,0000,0000,,« Je ne veux rien entendre de plus. »
Dialogue: 0,0:09:01.46,0:09:03.49,Default,,0000,0000,0000,,Puis elle s'est tournée et est partie.
Dialogue: 0,0:09:04.06,0:09:05.55,Default,,0000,0000,0000,,Elle n'était pas impolie.
Dialogue: 0,0:09:05.57,0:09:06.91,Default,,0000,0000,0000,,C'était clairement du :
Dialogue: 0,0:09:06.91,0:09:11.95,Default,,0000,0000,0000,,« ce que j'ignore n'est pas mon problème,\Nallez-vous en, regard meurtrier ».
Dialogue: 0,0:09:11.95,0:09:13.15,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,Un tel système pourrait être moins biaisé
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,que les responsables humains.
Dialogue: 0,0:09:19.85,0:09:21.100,Default,,0000,0000,0000,,Et il pourrait être monétairement censé.
Dialogue: 0,0:09:22.57,0:09:24.22,Default,,0000,0000,0000,,Mais il pourrait aussi mener
Dialogue: 0,0:09:24.25,0:09:28.100,Default,,0000,0000,0000,,à une fermeture du marché du travail\Nstable mais dissimulée
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,pour les gens avec\Nplus de risques de dépression.
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,Est-ce le genre de société\Nque nous voulons bâtir,
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,sans même savoir que nous l'avons fait,
Dialogue: 0,0:09:36.68,0:09:39.40,Default,,0000,0000,0000,,car nous avons confié\Nla prise de décisions à des machines
Dialogue: 0,0:09:39.40,0:09:41.26,Default,,0000,0000,0000,,que nous ne comprenons pas vraiment ?
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,Un autre problème :
Dialogue: 0,0:09:43.31,0:09:47.77,Default,,0000,0000,0000,,ces systèmes sont souvent entraînés\Nsur des données générées par nos actions,
Dialogue: 0,0:09:47.79,0:09:49.61,Default,,0000,0000,0000,,des empreintes humaines.
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,Elles pourraient refléter nos préjugés
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,et ces systèmes pourraient\Napprendre nos préjugés,
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,les amplifier
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,et nous les retourner
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,alors que nous nous disons :
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,« Nous ne faisons que de l'informatique\Nneutre et objective. »
Dialogue: 0,0:10:06.31,0:10:08.99,Default,,0000,0000,0000,,Des chercheurs chez Google ont découvert
Dialogue: 0,0:10:10.13,0:10:13.46,Default,,0000,0000,0000,,qu'on a moins de chances de montrer\Naux femmes plutôt qu'aux hommes
Dialogue: 0,0:10:13.46,0:10:16.46,Default,,0000,0000,0000,,des offres d'emploi avec un salaire élevé.
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,Et chercher des noms afro-américains
Dialogue: 0,0:10:19.02,0:10:20.75,Default,,0000,0000,0000,,a plus de chances de retourner
Dialogue: 0,0:10:20.75,0:10:23.75,Default,,0000,0000,0000,,des publicités suggérant\Nun historique criminel,
Dialogue: 0,0:10:23.75,0:10:25.31,Default,,0000,0000,0000,,même quand il n'y en a pas.
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,De tels préjugés cachés\Net des algorithmes boîte noire
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,qui sont parfois découverts\Npar les chercheurs, parfois non,
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,peuvent avoir des conséquences\Nqui changent la vie.
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,Dans le Wisconsin, un prévenu\Na été condamné à 6 ans de prison
Dialogue: 0,0:10:42.14,0:10:43.74,Default,,0000,0000,0000,,pour avoir échappé à la police.
Dialogue: 0,0:10:44.82,0:10:46.01,Default,,0000,0000,0000,,Vous l'ignorez peut-être
Dialogue: 0,0:10:46.03,0:10:50.03,Default,,0000,0000,0000,,mais des algorithmes sont utilisés\Npour les probations et les condamnations.
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,Nous voulions savoir\Ncomment ce score était calculé.
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,C'est une boîte noire commerciale.
Dialogue: 0,0:10:55.48,0:10:59.69,Default,,0000,0000,0000,,L'entreprise a refusé que l'on conteste\Nson algorithme en audience publique.
Dialogue: 0,0:11:00.40,0:11:05.93,Default,,0000,0000,0000,,Mais ProPublica, une organisation\Nd'enquête, a audité cet algorithme
Dialogue: 0,0:11:05.95,0:11:07.97,Default,,0000,0000,0000,,avec des données publiques
Dialogue: 0,0:11:07.99,0:11:10.31,Default,,0000,0000,0000,,et a découvert\Nque les résultats étaient biaisés,
Dialogue: 0,0:11:10.33,0:11:13.96,Default,,0000,0000,0000,,que son pouvoir prédictif était mauvais,\Nà peine meilleur que la chance,
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,et qu'il étiquetait les prévenus noirs\Ncomme de futurs criminels
Dialogue: 0,0:11:18.42,0:11:22.32,Default,,0000,0000,0000,,avec un taux deux fois plus élevé\Nque pour les prévenus blancs.
Dialogue: 0,0:11:23.89,0:11:25.46,Default,,0000,0000,0000,,Considérez ce cas :
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,cette femme était en retard\Npour récupérer sa filleule
Dialogue: 0,0:11:29.98,0:11:32.08,Default,,0000,0000,0000,,à une école du comté de Broward,\Nen Floride,
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,elle courait dans la rue\Navec une amie à elle.
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,Elles ont repéré une bécane et un vélo\Nnon attachés sur un porche
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,et ont bêtement sauté dessus.
Dialogue: 0,0:11:40.92,0:11:43.58,Default,,0000,0000,0000,,Alors qu'elles partaient,\Nune femme est sortie et a dit :
Dialogue: 0,0:11:43.58,0:11:45.74,Default,,0000,0000,0000,,« Hey ! C'est la bécane de mon fils ! »
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,Elles l'ont lâchée, sont parties\Nmais ont été arrêtées.
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,Elle avait tort, elle a été idiote\Nmais elle n'avait que 18 ans.
Dialogue: 0,0:11:52.75,0:11:55.29,Default,,0000,0000,0000,,Adolescente, elle avait commis\Nquelques méfaits.
Dialogue: 0,0:11:55.81,0:12:00.99,Default,,0000,0000,0000,,Pendant ce temps, cet homme a été arrêté\Npour vol chez Home Depot --
Dialogue: 0,0:12:01.02,0:12:03.94,Default,,0000,0000,0000,,pour une valeur de 85$,\Nun crime mineur similaire.
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,Mais il avait deux condamnations\Npour vol à main armée.
Dialogue: 0,0:12:09.96,0:12:13.58,Default,,0000,0000,0000,,L'algorithme l'a considérée elle,\Ncomme étant un risque important, pas lui.
Dialogue: 0,0:12:14.75,0:12:18.58,Default,,0000,0000,0000,,Deux ans plus tard, ProPublica a découvert\Nqu'elle n'avait pas récidivé.
Dialogue: 0,0:12:18.58,0:12:21.23,Default,,0000,0000,0000,,Son casier judiciaire compliquait\Nsa recherche d'emploi.
Dialogue: 0,0:12:21.23,0:12:23.29,Default,,0000,0000,0000,,Lui, d'un autre côté, avait récidivé
Dialogue: 0,0:12:23.32,0:12:27.15,Default,,0000,0000,0000,,et avait été condamné à 8 ans\Npour un autre crime.
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,Clairement, nous devons\Nauditer nos boîtes noires
Dialogue: 0,0:12:31.48,0:12:34.10,Default,,0000,0000,0000,,et ne pas leur laisser\Nce genre de pouvoir incontrôlé.
Dialogue: 0,0:12:34.12,0:12:36.100,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:12:38.09,0:12:39.38,Default,,0000,0000,0000,,Les audits sont importants,
Dialogue: 0,0:12:39.38,0:12:42.35,Default,,0000,0000,0000,,mais ils ne résolvent pas\Ntous nos problèmes.
Dialogue: 0,0:12:42.35,0:12:45.15,Default,,0000,0000,0000,,Prenez le puissant algorithme\Ndu fil d'actualités Facebook,
Dialogue: 0,0:12:45.15,0:12:49.97,Default,,0000,0000,0000,,celui qui classe tout\Net décide quoi vous montrer
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,des amis et des pages que vous suivez.
Dialogue: 0,0:12:52.90,0:12:55.24,Default,,0000,0000,0000,,Devrait-on vous montrer\Nune autre photo de bébé ?
Dialogue: 0,0:12:55.24,0:12:56.39,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,Une note maussade d'une connaissance ?
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,Une actualité importante mais dure ?
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,Il n'y a pas de bonne réponse.
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Facebook optimise\Npour vous engager envers le site :
Dialogue: 0,0:13:05.52,0:13:07.24,Default,,0000,0000,0000,,les j'aime, partages, commentaires.
Dialogue: 0,0:13:08.17,0:13:10.82,Default,,0000,0000,0000,,En août 2014,
Dialogue: 0,0:13:10.82,0:13:13.60,Default,,0000,0000,0000,,des manifestations ont éclaté\Nà Ferguson, dans le Missouri,
Dialogue: 0,0:13:13.60,0:13:17.99,Default,,0000,0000,0000,,après qu'un adolescent afro-américain\Na été tué par un officier de police blanc
Dialogue: 0,0:13:18.02,0:13:19.58,Default,,0000,0000,0000,,dans des circonstances douteuses.
Dialogue: 0,0:13:19.97,0:13:24.69,Default,,0000,0000,0000,,La nouvelle des manifestations remplissait\Nmon fil d'actualité Twitter non filtré
Dialogue: 0,0:13:24.71,0:13:26.66,Default,,0000,0000,0000,,mais n'était pas sur mon Facebook.
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,Était-ce mes amis Facebook ?
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,J'ai désactivé l'algorithme Facebook,
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,ce qui est difficile car Facebook\Nveut vous faire passer
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,sous le contrôle de l'algorithme,
Dialogue: 0,0:13:36.40,0:13:38.64,Default,,0000,0000,0000,,et j'ai vu que mes amis en parlaient.
Dialogue: 0,0:13:38.67,0:13:41.18,Default,,0000,0000,0000,,C'est juste que l'algorithme\Nne me le montrait pas.
Dialogue: 0,0:13:41.20,0:13:44.35,Default,,0000,0000,0000,,Après des recherches, j'ai découvert\Nque le problème est répandu.
Dialogue: 0,0:13:44.35,0:13:48.08,Default,,0000,0000,0000,,L'histoire de Ferguson\Nne plaisait pas à l'algorithme.
Dialogue: 0,0:13:48.10,0:13:51.20,Default,,0000,0000,0000,,Ce n'était pas « aimable »,\Nqui allait cliquer sur « j'aime » ?
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,Ce n'est même pas facile à commenter.
Dialogue: 0,0:13:53.73,0:13:55.10,Default,,0000,0000,0000,,Sans j'aime et commentaires,
Dialogue: 0,0:13:55.12,0:13:58.42,Default,,0000,0000,0000,,l'algorithme allait le montrer\Nà un nombre décroissant de gens,
Dialogue: 0,0:13:58.44,0:13:59.98,Default,,0000,0000,0000,,donc nous ne pouvions le voir.
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,Cette semaine-là,
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,Facebook a plutôt souligné ceci,
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,le Ice Bucket Challenge.
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,Cause méritante, lâcher d'eau glacée,\Ndonner à une charité, très bien.
Dialogue: 0,0:14:10.54,0:14:12.44,Default,,0000,0000,0000,,Cela plaisait beaucoup à l'algorithme.
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,La machine a pris\Ncette décision pour nous.
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,Une conversation\Ntrès importante mais difficile
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,aurait pu être étouffée
Dialogue: 0,0:14:20.96,0:14:23.65,Default,,0000,0000,0000,,si Facebook avait été le seul canal.
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,Finalement, ces systèmes\Npeuvent aussi avoir tort
Dialogue: 0,0:14:27.94,0:14:30.67,Default,,0000,0000,0000,,de façons qui ne ressemblent pas\Naux systèmes humains.
Dialogue: 0,0:14:30.70,0:14:33.62,Default,,0000,0000,0000,,Vous souvenez-vous de Watson,\Nle système d'IA d'IBM
Dialogue: 0,0:14:33.64,0:14:36.77,Default,,0000,0000,0000,,qui a éliminé les participants humains\Ndans Jeopardy ?
Dialogue: 0,0:14:37.13,0:14:38.56,Default,,0000,0000,0000,,C'était un super joueur.
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,Mais, pour la finale de Jeopardy,\Non a posé cette question à Watson :
Dialogue: 0,0:14:42.66,0:14:45.56,Default,,0000,0000,0000,,« Le plus grand aéroport\Nayant le nom d'un héros de 39-45,
Dialogue: 0,0:14:45.56,0:14:47.90,Default,,0000,0000,0000,,le second plus grand\Npour une bataille de 39-45. »
Dialogue: 0,0:14:47.90,0:14:49.27,Default,,0000,0000,0000,,(Signal sonore de fin)
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,Chicago.
Dialogue: 0,0:14:50.79,0:14:52.44,Default,,0000,0000,0000,,Les deux humains avaient raison.
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,Watson, par contre,\Na répondu « Toronto » --
Dialogue: 0,0:14:57.07,0:14:59.56,Default,,0000,0000,0000,,à une question\Nsur les villes des États-Unis !
Dialogue: 0,0:14:59.60,0:15:02.50,Default,,0000,0000,0000,,L'impressionnant système\Na aussi fait une erreur
Dialogue: 0,0:15:02.52,0:15:06.17,Default,,0000,0000,0000,,qu'un humain ne ferait jamais,\Nqu'un CE1 ne ferait jamais.
Dialogue: 0,0:15:06.82,0:15:09.93,Default,,0000,0000,0000,,Notre intelligence artificielle\Npeut échouer
Dialogue: 0,0:15:09.96,0:15:13.06,Default,,0000,0000,0000,,de façons ne correspondant pas\Naux schémas d'erreurs humaines,
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,de façons inattendues et imprévues.
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,Il serait lamentable de ne pas obtenir\Nun emploi pour lequel on est qualifié
Dialogue: 0,0:15:19.72,0:15:23.44,Default,,0000,0000,0000,,mais ce serait pire si c'était à cause\Nd'un dépassement de pile
Dialogue: 0,0:15:23.47,0:15:24.90,Default,,0000,0000,0000,,dans une sous-routine.
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,En mai 2010,
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,un crash éclair sur Wall Street\Nalimenté par une boucle de rétroaction
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,dans un algorithme de vente de Wall Street
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,a fait perdre mille milliards de dollars\Nen 36 minutes.
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,Je refuse de penser\Nau sens du mot « erreur »
Dialogue: 0,0:15:43.93,0:15:47.52,Default,,0000,0000,0000,,dans le contexte des armes\Nmortelles autonomes.
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,Oui, les humains\Nont toujours été partiaux.
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,Les preneurs de décision et gardiens,
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,dans les tribunaux,\Nles actualités, en guerre...
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,Ils font des erreurs ;\Nmais c'est de cela dont je parle.
Dialogue: 0,0:16:02.49,0:16:06.01,Default,,0000,0000,0000,,Nous ne pouvons pas échapper\Nà ces questions difficiles.
Dialogue: 0,0:16:06.60,0:16:10.11,Default,,0000,0000,0000,,Nous ne pouvons pas sous-traiter\Nnos responsabilités aux machines.
Dialogue: 0,0:16:10.68,0:16:14.88,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:16:17.09,0:16:21.54,Default,,0000,0000,0000,,L'intelligence artificielle n'offre pas\Nune carte « sortie de l'éthique ».
Dialogue: 0,0:16:22.74,0:16:26.37,Default,,0000,0000,0000,,Le scientifique des données Fred Benenson\Nqualifie cela de lavage des maths.
Dialogue: 0,0:16:26.37,0:16:27.54,Default,,0000,0000,0000,,Il nous faut l'opposé.
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,Nous devons cultiver la suspicion,\Nle contrôle et l'enquête de l'algorithme.
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,Nous devons nous assurer\Nde la responsabilité des algorithmes,
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,les auditer et avoir\Nune transparence significative.
Dialogue: 0,0:16:39.38,0:16:42.61,Default,,0000,0000,0000,,Nous devons accepter\Nqu'apporter les maths et l'informatique
Dialogue: 0,0:16:42.64,0:16:45.69,Default,,0000,0000,0000,,dans les affaires humaines\Ndésordonnées et basées sur des valeurs
Dialogue: 0,0:16:45.69,0:16:48.02,Default,,0000,0000,0000,,n'apporte pas l'objectivité
Dialogue: 0,0:16:48.04,0:16:50.45,Default,,0000,0000,0000,,mais plutôt que la complexité\Ndes affaires humaines
Dialogue: 0,0:16:50.45,0:16:52.15,Default,,0000,0000,0000,,envahit les algorithmes.
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,Nous devrions utiliser l'informatique
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,pour prendre de meilleures décisions.
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,Mais nous devons assumer\Nnotre responsabilité morale de jugement
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,et utiliser les algorithmes dans ce cadre,
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,pas comme un moyen d'abdiquer\Net sous-traiter nos responsabilités
Dialogue: 0,0:17:10.85,0:17:13.31,Default,,0000,0000,0000,,d'un humain à un autre.
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,L'intelligence artificielle est arrivée.
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,Cela signifie que nous devons\Nnous accrocher encore plus
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,aux valeurs et éthiques humaines.
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,Merci.
Dialogue: 0,0:17:23.23,0:17:28.25,Default,,0000,0000,0000,,(Applaudissements)