[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.57,Default,,0000,0000,0000,,Les algorithmes sont partout.
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,Ils trient et séparent\Nles vainqueurs des perdants.
Dialogue: 0,0:00:08.02,0:00:10.27,Default,,0000,0000,0000,,Les vainqueurs obtiennent le poste
Dialogue: 0,0:00:10.27,0:00:12.09,Default,,0000,0000,0000,,ou une bonne offre de carte de crédit.
Dialogue: 0,0:00:12.09,0:00:14.72,Default,,0000,0000,0000,,Les perdants n'obtiennent\Nmême pas un entretien
Dialogue: 0,0:00:15.59,0:00:17.37,Default,,0000,0000,0000,,ou paient leur assurance plus cher.
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,On nous classe avec des formules secrètes \Nque nous ne comprenons pas
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,qui n'offrent pas souvent \Nde systèmes de recours.
Dialogue: 0,0:00:27.24,0:00:28.54,Default,,0000,0000,0000,,La question se pose donc :
Dialogue: 0,0:00:28.56,0:00:31.47,Default,,0000,0000,0000,,et si les algorithmes sont faux ?
Dialogue: 0,0:00:33.10,0:00:35.14,Default,,0000,0000,0000,,Deux choses constituent un algorithme :
Dialogue: 0,0:00:35.16,0:00:37.14,Default,,0000,0000,0000,,des données historiques,
Dialogue: 0,0:00:37.17,0:00:38.73,Default,,0000,0000,0000,,et une définition du succès,
Dialogue: 0,0:00:38.75,0:00:40.41,Default,,0000,0000,0000,,ce que l'on espère trouver.
Dialogue: 0,0:00:41.24,0:00:46.27,Default,,0000,0000,0000,,On forme un algorithme \Nen observant, en comprenant,
Dialogue: 0,0:00:46.30,0:00:49.72,Default,,0000,0000,0000,,l'algorithme trouve ce que\Nl'on associe au succès,
Dialogue: 0,0:00:49.74,0:00:52.15,Default,,0000,0000,0000,,la situation qui mène au succès.
Dialogue: 0,0:00:52.27,0:00:54.52,Default,,0000,0000,0000,,En fait,\Ntout le monde utilise des algorithmes
Dialogue: 0,0:00:54.66,0:00:56.88,Default,,0000,0000,0000,,sans forcément les formaliser\Nen les écrivant.
Dialogue: 0,0:00:57.53,0:00:58.41,Default,,0000,0000,0000,,Voici un exemple :
Dialogue: 0,0:00:58.41,0:01:00.90,Default,,0000,0000,0000,,chaque jour, en cuisinant\Nje me sers d'un algorithme.
Dialogue: 0,0:01:01.82,0:01:03.14,Default,,0000,0000,0000,,Les données que j'utilise
Dialogue: 0,0:01:03.66,0:01:05.69,Default,,0000,0000,0000,,sont les ingrédients à disposition,
Dialogue: 0,0:01:05.72,0:01:07.00,Default,,0000,0000,0000,,le temps dont je dispose,
Dialogue: 0,0:01:07.25,0:01:08.30,Default,,0000,0000,0000,,l'ambition que j'ai,
Dialogue: 0,0:01:08.91,0:01:10.24,Default,,0000,0000,0000,,et je conserve ces données.
Dialogue: 0,0:01:10.47,0:01:14.46,Default,,0000,0000,0000,,Je ne considère pas les paquets\Nde ramen comme de la nourriture.
Dialogue: 0,0:01:14.46,0:01:16.05,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:01:16.79,0:01:18.63,Default,,0000,0000,0000,,Ma définition du succès est :
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,un repas est réussi si mes enfants\Nmangent des légumes.
Dialogue: 0,0:01:21.95,0:01:24.80,Default,,0000,0000,0000,,Si mon fils était aux commandes,\Nce serait différent.
Dialogue: 0,0:01:25.06,0:01:27.85,Default,,0000,0000,0000,,Pour lui, le succès serait\Nde manger plein de Nutella.
Dialogue: 0,0:01:29.03,0:01:31.40,Default,,0000,0000,0000,,Mais c'est moi qui choisis \Nce qu'est le succès.
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,Je commande. C'est mon avis qui compte.
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,C'est la première règle des algorithmes.
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,Les algorithmes sont des opinions\Nintégrées dans du code.
Dialogue: 0,0:01:41.56,0:01:45.22,Default,,0000,0000,0000,,C'est très différent de ce que \Nles gens pensent des algorithmes.
Dialogue: 0,0:01:45.25,0:01:49.75,Default,,0000,0000,0000,,Ils pensent que les algorithmes sont\Nobjectifs, vrais et scientifiques.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,C'est une astuce marketing.
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,C'en est une autre
Dialogue: 0,0:01:55.42,0:01:58.58,Default,,0000,0000,0000,,de vous intimider avec des algorithmes,
Dialogue: 0,0:01:58.58,0:02:01.98,Default,,0000,0000,0000,,de vous faire croire et craindre\Nles algorithmes,
Dialogue: 0,0:02:01.98,0:02:04.30,Default,,0000,0000,0000,,car vous croyez et craignez \Nles mathématiques.
Dialogue: 0,0:02:05.57,0:02:10.13,Default,,0000,0000,0000,,Tout peut mal tourner quand on a\Nune foi aveugle dans le Big Data.
Dialogue: 0,0:02:10.92,0:02:14.64,Default,,0000,0000,0000,,Voici Kiri Soares. Elle est directrice \Nd'un lycée à Brooklyn.
Dialogue: 0,0:02:14.74,0:02:17.92,Default,,0000,0000,0000,,En 2011, elle m'a dit que ses \Nprofesseurs étaient classés
Dialogue: 0,0:02:17.92,0:02:20.43,Default,,0000,0000,0000,,par un algorithme complexe et secret
Dialogue: 0,0:02:20.44,0:02:22.37,Default,,0000,0000,0000,,appelé le « modèle de valeur ajoutée ».
Dialogue: 0,0:02:22.60,0:02:25.06,Default,,0000,0000,0000,,Je lui ai dit : « Trouve la formule, \Nmontre-la moi,
Dialogue: 0,0:02:25.06,0:02:27.19,Default,,0000,0000,0000,,et je vais te l'expliquer. »
Dialogue: 0,0:02:27.19,0:02:29.26,Default,,0000,0000,0000,,Elle m'a dit : \N« J'ai essayé de la trouver,
Dialogue: 0,0:02:29.26,0:02:32.26,Default,,0000,0000,0000,,mais le Ministère de l'éducation\Nm'a dit que c'était des "maths"
Dialogue: 0,0:02:32.27,0:02:33.81,Default,,0000,0000,0000,,et que je ne comprendrais pas. »
Dialogue: 0,0:02:34.88,0:02:36.21,Default,,0000,0000,0000,,Il y a pire.
Dialogue: 0,0:02:36.34,0:02:40.16,Default,,0000,0000,0000,,Le New York Post a invoqué la loi\Nsur la liberté d'information,
Dialogue: 0,0:02:40.18,0:02:43.14,Default,,0000,0000,0000,,a obtenu les noms des enseignants\Nainsi que leur classement,
Dialogue: 0,0:02:43.16,0:02:45.95,Default,,0000,0000,0000,,et les ont publiés \Npour humilier les enseignants.
Dialogue: 0,0:02:47.08,0:02:50.94,Default,,0000,0000,0000,,Quand j'ai tenté d'avoir les formules,\Nle code source, par les mêmes moyens,
Dialogue: 0,0:02:50.97,0:02:53.12,Default,,0000,0000,0000,,on m'a dit que je ne pouvais pas.
Dialogue: 0,0:02:53.14,0:02:54.38,Default,,0000,0000,0000,,On me les a refusés.
Dialogue: 0,0:02:54.40,0:02:55.62,Default,,0000,0000,0000,,Plus tard, j'ai découvert
Dialogue: 0,0:02:55.62,0:02:58.46,Default,,0000,0000,0000,,que personne à New York n'avait\Naccès à cette formule.
Dialogue: 0,0:02:58.49,0:02:59.79,Default,,0000,0000,0000,,Personne ne la comprenait.
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,Puis quelqu'un de très malin\Ns'en est mêlé, Gary Rubinstein.
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,Il a trouvé 665 enseignants\Ndes données du New York Post
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,qui avaient deux notes.
Dialogue: 0,0:03:10.71,0:03:12.59,Default,,0000,0000,0000,,Cela peut arriver s'ils enseignaient
Dialogue: 0,0:03:12.62,0:03:15.06,Default,,0000,0000,0000,,les maths en cinquième et en quatrième.
Dialogue: 0,0:03:15.08,0:03:16.81,Default,,0000,0000,0000,,Il a décidé d'en faire un graphique.
Dialogue: 0,0:03:16.81,0:03:18.64,Default,,0000,0000,0000,,Chaque point représente un enseignant.
Dialogue: 0,0:03:19.10,0:03:21.48,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:03:21.51,0:03:23.03,Default,,0000,0000,0000,,Qu'est-ce que c'est ?
Dialogue: 0,0:03:23.05,0:03:24.33,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:03:24.35,0:03:27.80,Default,,0000,0000,0000,,Ça n'aurait jamais dû être utilisé\Npour des évaluations individuelles.
Dialogue: 0,0:03:27.82,0:03:29.91,Default,,0000,0000,0000,,On dirait presque un générateur aléatoire.
Dialogue: 0,0:03:29.91,0:03:32.72,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:03:32.74,0:03:33.78,Default,,0000,0000,0000,,Mais ça l'a été.
Dialogue: 0,0:03:33.78,0:03:35.10,Default,,0000,0000,0000,,Voici Sarah Wysocki.
Dialogue: 0,0:03:35.13,0:03:37.30,Default,,0000,0000,0000,,Elle a été virée\Navec 205 autres enseignants
Dialogue: 0,0:03:37.33,0:03:39.99,Default,,0000,0000,0000,,du secteur scolaire de Washington,
Dialogue: 0,0:03:40.01,0:03:42.92,Default,,0000,0000,0000,,malgré les excellentes\Nrecommandations de son directeur
Dialogue: 0,0:03:42.95,0:03:44.38,Default,,0000,0000,0000,,et des parents de ses élèves.
Dialogue: 0,0:03:45.31,0:03:47.52,Default,,0000,0000,0000,,Je sais ce que bon nombre\Nd'entre vous pensent,
Dialogue: 0,0:03:47.52,0:03:49.65,Default,,0000,0000,0000,,surtout les scientifiques de données,
Dialogue: 0,0:03:49.65,0:03:54.18,Default,,0000,0000,0000,,vous vous dites que vous ne feriez jamais\Nun algorithme aussi incohérent.
Dialogue: 0,0:03:54.60,0:03:56.65,Default,,0000,0000,0000,,Mais les algorithmes peuvent mal tourner,
Dialogue: 0,0:03:56.65,0:04:01.16,Default,,0000,0000,0000,,voire avoir des effets destructeurs\Navec de bonnes intentions.
Dialogue: 0,0:04:02.53,0:04:05.78,Default,,0000,0000,0000,,Alors que quand un avion\Nmal conçu s'écrase,
Dialogue: 0,0:04:05.78,0:04:06.94,Default,,0000,0000,0000,,tout le monde le voit,
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,un algorithme mal conçu, lui,
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,peut continuer longtemps \Nà faire des ravages en silence.
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,Voici Roger Ailes.
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,Il a fondé Fox News en 1996.
Dialogue: 0,0:04:23.44,0:04:26.10,Default,,0000,0000,0000,,Plus de 20 femmes se sont plaintes\Nde harcèlement sexuel,
Dialogue: 0,0:04:26.10,0:04:29.28,Default,,0000,0000,0000,,elles ont dit ne pas avoir eu le droit\Nde réussir chez Fox News.
Dialogue: 0,0:04:29.30,0:04:31.82,Default,,0000,0000,0000,,Il a été viré l'an dernier,\Nmais on a vu récemment
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,que ces problèmes persistent.
Dialogue: 0,0:04:35.65,0:04:37.05,Default,,0000,0000,0000,,On peut se demander :
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,que devrait faire Fox News\Npour tourner la page ?
Dialogue: 0,0:04:41.24,0:04:44.29,Default,,0000,0000,0000,,Et s'ils remplaçaient leur procédure\Nde recrutement
Dialogue: 0,0:04:44.31,0:04:45.96,Default,,0000,0000,0000,,par un algorithme ?
Dialogue: 0,0:04:45.99,0:04:47.58,Default,,0000,0000,0000,,Ça a l'air bien, non ?
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,Pensez-y.
Dialogue: 0,0:04:48.93,0:04:51.04,Default,,0000,0000,0000,,Les données,\Nquelles seraient les données ?
Dialogue: 0,0:04:51.06,0:04:56.01,Default,,0000,0000,0000,,Un choix raisonnable serait les\Ncandidatures des 21 dernières années.
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,Raisonnable.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,Et la définition du succès ?
Dialogue: 0,0:04:59.91,0:05:01.24,Default,,0000,0000,0000,,Le choix raisonnable serait,
Dialogue: 0,0:05:01.27,0:05:03.05,Default,,0000,0000,0000,,mais qui a du succès chez Fox News ?
Dialogue: 0,0:05:03.07,0:05:06.65,Default,,0000,0000,0000,,À mon avis, quelqu'un qui y est resté\Nau moins quatre ans,
Dialogue: 0,0:05:06.68,0:05:08.33,Default,,0000,0000,0000,,qui a été promu au moins une fois.
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,Ça m'a l'air raisonnable.
Dialogue: 0,0:05:10.40,0:05:12.76,Default,,0000,0000,0000,,Et puis l'algorithme serait mis au point.
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,Mis au point pour sonder les gens,\Napprendre ce qui les a conduits au succès,
Dialogue: 0,0:05:17.22,0:05:21.54,Default,,0000,0000,0000,,quels types de candidatures ont\Nhistoriquement mené au succès
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,par cette définition.
Dialogue: 0,0:05:24.20,0:05:25.98,Default,,0000,0000,0000,,Pensez à ce qu'il pourrait se passer
Dialogue: 0,0:05:25.100,0:05:28.55,Default,,0000,0000,0000,,si on appliquait cela\Nà un groupe actuel de candidats.
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,Le filtrage éliminerait les femmes
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,car elles ne ressemblent pas aux gens\Nqui ont eu du succès dans le passé.
Dialogue: 0,0:05:39.75,0:05:42.29,Default,,0000,0000,0000,,Les algorithmes ne rendent pas\Nles choses équitables
Dialogue: 0,0:05:42.31,0:05:45.01,Default,,0000,0000,0000,,si on les applique aveuglément,\Navec négligence.
Dialogue: 0,0:05:45.03,0:05:46.51,Default,,0000,0000,0000,,Ils n'instaurent pas l'équité.
Dialogue: 0,0:05:46.54,0:05:48.66,Default,,0000,0000,0000,,Ils reproduisent nos pratiques du passé,
Dialogue: 0,0:05:48.69,0:05:49.87,Default,,0000,0000,0000,,nos habitudes.
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,Ils automatisent le statu quo.
Dialogue: 0,0:05:52.72,0:05:55.26,Default,,0000,0000,0000,,Cela aurait été bien \Nsi nous avions un monde parfait,
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,mais ce n'est pas le cas.
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,De plus, la plupart des sociétés ne\Nfont pas l'objet de poursuites honteuses
Dialogue: 0,0:06:02.45,0:06:05.03,Default,,0000,0000,0000,,mais les scientifiques de données \Ndans ces sociétés
Dialogue: 0,0:06:05.06,0:06:07.25,Default,,0000,0000,0000,,sont invités à suivre les données,
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,à se concentrer sur la précision.
Dialogue: 0,0:06:10.22,0:06:11.65,Default,,0000,0000,0000,,Imaginez ce que ça veut dire :
Dialogue: 0,0:06:11.68,0:06:15.40,Default,,0000,0000,0000,,parce que nous avons tous un parti pris,\Ncela veut dire qu'ils pourraient coder
Dialogue: 0,0:06:15.40,0:06:17.56,Default,,0000,0000,0000,,des idées sexistes, entre autres.
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,Petit exercice de réflexion
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,parce que j'aime en faire :
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,une société entièrement en proie\Nà la ségrégation --
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,à la ségrégation raciale, dans toutes \Nles villes, tous les voisinages
Dialogue: 0,0:06:31.60,0:06:34.64,Default,,0000,0000,0000,,et où la police va seulement\Ndans les quartiers de minorité
Dialogue: 0,0:06:34.66,0:06:35.85,Default,,0000,0000,0000,,à la recherche de crimes.
Dialogue: 0,0:06:36.45,0:06:39.01,Default,,0000,0000,0000,,Les données policières seraient\Ncomplètement biaisées.
Dialogue: 0,0:06:39.85,0:06:42.43,Default,,0000,0000,0000,,Et si, en plus, on trouvait\Ndes experts en données
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,et qu'on les payait pour qu'ils nous\Nprédisent le lieu du prochain crime ?
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,Le quartier des minorités.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Ou encore qu'ils prédisent qui serait\Nle prochain criminel ?
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,Un membre d'une minorité.
Dialogue: 0,0:06:55.95,0:06:59.50,Default,,0000,0000,0000,,Les experts en données se vanteraient\Nde l'excellence et de l'exactitude
Dialogue: 0,0:06:59.50,0:07:00.80,Default,,0000,0000,0000,,de leur modèle,
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,et ils auraient raison.
Dialogue: 0,0:07:03.95,0:07:08.57,Default,,0000,0000,0000,,Bien sûr, la réalité n'est pas comme ça,\Nmais la ségrégation existe tout de même
Dialogue: 0,0:07:08.59,0:07:09.88,Default,,0000,0000,0000,,dans beaucoup d'endroits,
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,et nous avons assez de preuves
Dialogue: 0,0:07:11.82,0:07:14.51,Default,,0000,0000,0000,,que les données policières et judiciaires\Nsont biaisées.
Dialogue: 0,0:07:15.63,0:07:18.45,Default,,0000,0000,0000,,Et nous prédisons vraiment\Nles zones sensibles,
Dialogue: 0,0:07:18.47,0:07:20.00,Default,,0000,0000,0000,,là où les crimes seront commis,
Dialogue: 0,0:07:20.40,0:07:24.27,Default,,0000,0000,0000,,et nous prédisons aussi, en fait, \Nles infractions individuelles,
Dialogue: 0,0:07:24.27,0:07:26.04,Default,,0000,0000,0000,,commises par un seul individu.
Dialogue: 0,0:07:27.18,0:07:30.12,Default,,0000,0000,0000,,L'agence de presse « ProPublica »\Ns'est récemment penchée
Dialogue: 0,0:07:30.12,0:07:32.73,Default,,0000,0000,0000,,sur l'un de ces algorithmes\Nde « risque de récidive »,
Dialogue: 0,0:07:32.73,0:07:33.89,Default,,0000,0000,0000,,comme on les appelle,
Dialogue: 0,0:07:33.93,0:07:37.39,Default,,0000,0000,0000,,utilisé par les juges en Floride \Npendant la détermination de la peine.
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,Bernard, à gauche, l'homme noir,\Na obtenu un 10 sur 10.
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,Dylan, à droite, 3 sur 10.
Dialogue: 0,0:07:45.21,0:07:47.71,Default,,0000,0000,0000,,10 sur 10 risque élevé,\N3 sur 10, risque faible.
Dialogue: 0,0:07:48.60,0:07:50.98,Default,,0000,0000,0000,,Tous deux ont été jugés pour\Npossession de drogue.
Dialogue: 0,0:07:51.01,0:07:52.40,Default,,0000,0000,0000,,Tous deux avaient un casier,
Dialogue: 0,0:07:52.40,0:07:54.99,Default,,0000,0000,0000,,mais Dylan avait déjà commis un crime,
Dialogue: 0,0:07:55.02,0:07:56.95,Default,,0000,0000,0000,,ce qui n'était pas le cas de Bernard.
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,C'est important, car plus le score\Nest élevé,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,plus il est probable que la sentence \Nsoit longue.
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,Qu'est-ce qu'il se passe ?
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,Un blanchiment de données.
Dialogue: 0,0:08:10.93,0:08:15.36,Default,,0000,0000,0000,,C'est un processus de technologues\Npour cacher des vérités gênantes
Dialogue: 0,0:08:15.38,0:08:17.20,Default,,0000,0000,0000,,dans des algorithmes « boîte noire »
Dialogue: 0,0:08:17.23,0:08:18.52,Default,,0000,0000,0000,,soi-disant objectifs,
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,soi-disant méritocratiques.
Dialogue: 0,0:08:23.12,0:08:26.19,Default,,0000,0000,0000,,Quand ces algorithmes sont secrets, \Nimportants et destructifs,
Dialogue: 0,0:08:26.19,0:08:28.01,Default,,0000,0000,0000,,je leur ai inventé un nom :
Dialogue: 0,0:08:28.04,0:08:30.04,Default,,0000,0000,0000,,« armes de destruction math-ive ».
Dialogue: 0,0:08:30.06,0:08:31.62,Default,,0000,0000,0000,,(Rires)
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Ils sont partout, et ce n'est pas\Nune erreur !
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,Il s'agit de compagnie privées, \Nqui créent des algorithmes privés,
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,à des fins privées.
Dialogue: 0,0:08:43.21,0:08:46.43,Default,,0000,0000,0000,,Même ceux dont j'ai parlé, \Npour les professeurs et la police,
Dialogue: 0,0:08:46.45,0:08:48.64,Default,,0000,0000,0000,,ont été mis au point \Npar des sociétés privées
Dialogue: 0,0:08:48.64,0:08:50.45,Default,,0000,0000,0000,,et vendus au gouvernement.
Dialogue: 0,0:08:50.45,0:08:52.54,Default,,0000,0000,0000,,Ils appellent ça \Nleur « recette secrète »,
Dialogue: 0,0:08:52.54,0:08:54.62,Default,,0000,0000,0000,,et donc ne peuvent pas \Nnous en parler.
Dialogue: 0,0:08:54.65,0:08:56.87,Default,,0000,0000,0000,,C'est aussi du pouvoir privé.
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,Ils tirent profit en donnant de \Nl'autorité à ce qu'on ne comprend pas.
Dialogue: 0,0:09:05.11,0:09:07.82,Default,,0000,0000,0000,,Vous pourriez penser,\Npuisque tout ceci est privé,
Dialogue: 0,0:09:07.82,0:09:09.23,Default,,0000,0000,0000,,et qu'il y a concurrence,
Dialogue: 0,0:09:09.25,0:09:11.59,Default,,0000,0000,0000,,que le marché libre pourrait\Nrésoudre ce problème.
Dialogue: 0,0:09:11.59,0:09:12.83,Default,,0000,0000,0000,,Eh bien non.
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,Il y a beaucoup d'argent à gagner\Ngrâce à l'injustice.
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,De plus, nous ne sommes pas \Ndes acteurs économiques rationnels.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,Nous sommes tous partiaux.
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,Nous sommes tous racistes et intolérants\Nsans le vouloir,
Dialogue: 0,0:09:26.36,0:09:28.38,Default,,0000,0000,0000,,sans parfois même le savoir.
Dialogue: 0,0:09:29.35,0:09:32.43,Default,,0000,0000,0000,,Globalement, pourtant, nous le savons,
Dialogue: 0,0:09:32.46,0:09:35.68,Default,,0000,0000,0000,,car les sociologues l'ont \Nsans cesse démontré
Dialogue: 0,0:09:35.70,0:09:37.37,Default,,0000,0000,0000,,avec ces expériences
Dialogue: 0,0:09:37.39,0:09:40.14,Default,,0000,0000,0000,,où ils envoient des candidatures\Nà qualifications égales
Dialogue: 0,0:09:40.14,0:09:42.41,Default,,0000,0000,0000,,mais certaines avec des noms « blancs »
Dialogue: 0,0:09:42.41,0:09:44.21,Default,,0000,0000,0000,,et d'autres avec des noms « noirs » :
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,les résultats sont toujours décevants. \NToujours.
Dialogue: 0,0:09:47.40,0:09:49.28,Default,,0000,0000,0000,,Donc, nous sommes \Nporteurs de préjugés,
Dialogue: 0,0:09:49.30,0:09:52.73,Default,,0000,0000,0000,,et nous les injectons dans les algorithmes
Dialogue: 0,0:09:52.76,0:09:54.57,Default,,0000,0000,0000,,en choisissant \Nles données à collecter
Dialogue: 0,0:09:54.59,0:09:57.25,Default,,0000,0000,0000,,comme quand j'ai choisi\Nde mettre les ramen de côté,
Dialogue: 0,0:09:57.25,0:09:58.99,Default,,0000,0000,0000,,car ce n'était pas pertinent.
Dialogue: 0,0:09:59.01,0:10:04.69,Default,,0000,0000,0000,,Mais en se basant sur des données \Nqui reprennent des pratiques passées
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,et en définissant soi-même la réussite,
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,comment peut-on s'attendre à ce que\Nles algorithmes en sortent indemnes ?
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,On ne peut pas. On doit les contrôler.
Dialogue: 0,0:10:13.100,0:10:15.87,Default,,0000,0000,0000,,On doit contrôler leur équité.
Dialogue: 0,0:10:15.90,0:10:18.61,Default,,0000,0000,0000,,La bonne nouvelle, c'est qu'on peut\Ncontrôler leur équité.
Dialogue: 0,0:10:18.63,0:10:21.98,Default,,0000,0000,0000,,Les algorithmes peuvent être interrogés,
Dialogue: 0,0:10:22.01,0:10:24.04,Default,,0000,0000,0000,,et ils diront la vérité à chaque fois.
Dialogue: 0,0:10:24.07,0:10:26.56,Default,,0000,0000,0000,,Et on peut les corriger, \Nles améliorer.
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,J'appelle ça \Nun « audit algorithmique »,
Dialogue: 0,0:10:28.98,0:10:30.66,Default,,0000,0000,0000,,et je vais vous l'expliquer.
Dialogue: 0,0:10:30.69,0:10:32.99,Default,,0000,0000,0000,,D'abord, vérification\Nde l'intégrité des données.
Dialogue: 0,0:10:34.13,0:10:37.05,Default,,0000,0000,0000,,Pour l'algorithme « risque de récidive »\Ndont j'ai parlé,
Dialogue: 0,0:10:37.58,0:10:41.16,Default,,0000,0000,0000,,cette vérification impliquera qu'il\Nfaudra se rendre compte du fait
Dialogue: 0,0:10:41.18,0:10:44.68,Default,,0000,0000,0000,,qu'aux États-Unis, blancs et noirs \Nfument la même quantité de joints,
Dialogue: 0,0:10:44.68,0:10:47.53,Default,,0000,0000,0000,,mais que les noirs ont bien plus de \Nchance d'être arrêtés,
Dialogue: 0,0:10:47.53,0:10:50.42,Default,,0000,0000,0000,,quatre ou cinq fois plus selon la région.
Dialogue: 0,0:10:51.17,0:10:54.16,Default,,0000,0000,0000,,A quoi ressemble ce préjugé\Ndans les autres catégories de crime,
Dialogue: 0,0:10:54.16,0:10:55.65,Default,,0000,0000,0000,,et comment en tient-on compte ?
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,Ensuite, on doit réfléchir \Nà la définition du succès,
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,la contrôler.
Dialogue: 0,0:11:00.63,0:11:03.37,Default,,0000,0000,0000,,Vous vous souvenez,\Nl'algorithme de recrutement ?
Dialogue: 0,0:11:03.37,0:11:06.61,Default,,0000,0000,0000,,Quelqu'un qui reste plus de quatre ans \Net est promu une fois ?
Dialogue: 0,0:11:06.61,0:11:08.36,Default,,0000,0000,0000,,Eh bien, cet employé est performant,
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,mais cet aussi un employé soutenu\Npar sa culture.
Dialogue: 0,0:11:12.09,0:11:14.02,Default,,0000,0000,0000,,Cela peut donc aussi être biaisé.
Dialogue: 0,0:11:14.04,0:11:16.10,Default,,0000,0000,0000,,Nous devons séparer ces deux idées.
Dialogue: 0,0:11:16.13,0:11:18.55,Default,,0000,0000,0000,,Nous devrions prendre\Nles auditions à l'aveugle
Dialogue: 0,0:11:18.58,0:11:19.77,Default,,0000,0000,0000,,comme exemple.
Dialogue: 0,0:11:19.80,0:11:22.55,Default,,0000,0000,0000,,Celles où les gens auditionnent \Nderrière un drap.
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,Ce à quoi je pense ici,
Dialogue: 0,0:11:24.90,0:11:28.32,Default,,0000,0000,0000,,c'est que les gens qui écoutent\Nont décidé de ce qui est important,
Dialogue: 0,0:11:28.34,0:11:29.94,Default,,0000,0000,0000,,et de ce qui ne l'est pas,
Dialogue: 0,0:11:29.94,0:11:32.46,Default,,0000,0000,0000,,et ils ne se laissent pas distraire\Npar cela.
Dialogue: 0,0:11:32.96,0:11:35.73,Default,,0000,0000,0000,,Quand les auditions d'orchestre \Nà l'aveugle ont commencé,
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,le nombre de femmes dans les orchestres\Ns'est multiplié par 5.
Dialogue: 0,0:11:40.01,0:11:42.53,Default,,0000,0000,0000,,Ensuite, nous devons tenir compte\Nde la précision.
Dialogue: 0,0:11:43.18,0:11:47.15,Default,,0000,0000,0000,,Le modèle de « valeur-ajoutée » pour\Nprofesseurs échouerait dans ce cas-là.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Aucun algorithme n'est parfait,\Névidemment,
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,donc nous devons examiner les \Nerreurs de tous les algorithmes.
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,Reviennent-elles souvent, \Net pour qui est-ce que le modèle échoue ?
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,Quel est le coût de cet échec ?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,Enfin, nous devons prendre en compte
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,l'effet à long terme des algorithmes,
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,les boucles de réactions\Nqu'ils engendrent.
Dialogue: 0,0:12:11.59,0:12:12.82,Default,,0000,0000,0000,,Cela semble abstrait,
Dialogue: 0,0:12:12.85,0:12:15.73,Default,,0000,0000,0000,,mais imaginez, si les ingénieurs \Nde Facebook y avaient pensé
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,avant de décider de nous montrer\Nseulement les publications de nos amis.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,J'ai encore deux messages, un pour \Nles scientifiques de données ici.
Dialogue: 0,0:12:25.45,0:12:28.86,Default,,0000,0000,0000,,Nous ne devrions pas être\Nles arbitres de la vérité.
Dialogue: 0,0:12:29.52,0:12:33.30,Default,,0000,0000,0000,,Nous devrions être les traducteurs \Ndes discussions d'ordre éthique
Dialogue: 0,0:12:33.33,0:12:34.62,Default,,0000,0000,0000,,de la société en général.
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,Et pour le reste d'entre vous,
Dialogue: 0,0:12:40.01,0:12:41.41,Default,,0000,0000,0000,,qui n'êtes pas du milieu,
Dialogue: 0,0:12:41.43,0:12:42.93,Default,,0000,0000,0000,,ceci n'est pas un test de math.
Dialogue: 0,0:12:43.63,0:12:45.09,Default,,0000,0000,0000,,C'est une bataille politique.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,Nous devons réclamer des comptes \Nà nos souverains algorithmiques.
Dialogue: 0,0:12:52.12,0:12:53.62,Default,,0000,0000,0000,,(Applaudissements)
Dialogue: 0,0:12:53.64,0:12:57.87,Default,,0000,0000,0000,,L'ère de la confiance absolue \Ndans le Big Data doit prendre fin.
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,Merci beaucoup.
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,(Applaudissements)