[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.99,Default,,0000,0000,0000,,Algoritmes zijn overal.
Dialogue: 0,0:00:04.07,0:00:07.44,Default,,0000,0000,0000,,Ze scheiden de winnaars van de verliezers.
Dialogue: 0,0:00:08.02,0:00:10.13,Default,,0000,0000,0000,,De winnaars krijgen de baan
Dialogue: 0,0:00:10.13,0:00:12.05,Default,,0000,0000,0000,,of een goede creditcard-aanbieding.
Dialogue: 0,0:00:12.05,0:00:15.02,Default,,0000,0000,0000,,De verliezers mogen niet eens \Nop gesprek komen
Dialogue: 0,0:00:15.47,0:00:17.37,Default,,0000,0000,0000,,of betalen meer voor hun verzekering.
Dialogue: 0,0:00:18.20,0:00:22.62,Default,,0000,0000,0000,,Onze score wordt berekend\Nmet geheime formules die we niet begrijpen
Dialogue: 0,0:00:22.62,0:00:26.26,Default,,0000,0000,0000,,en waar je vaak niet \Ntegen in beroep kan gaan.
Dialogue: 0,0:00:27.24,0:00:28.45,Default,,0000,0000,0000,,Hierdoor rijst de vraag:
Dialogue: 0,0:00:28.45,0:00:31.76,Default,,0000,0000,0000,,wat als algoritmes fouten maken?
Dialogue: 0,0:00:32.92,0:00:34.65,Default,,0000,0000,0000,,Een algoritme vraagt om twee dingen:
Dialogue: 0,0:00:34.65,0:00:36.89,Default,,0000,0000,0000,,data, wat in het verleden gebeurd is,
Dialogue: 0,0:00:36.89,0:00:38.34,Default,,0000,0000,0000,,en een definitie voor succes,
Dialogue: 0,0:00:38.34,0:00:41.08,Default,,0000,0000,0000,,dat wat je hoopt te vinden.
Dialogue: 0,0:00:41.08,0:00:45.86,Default,,0000,0000,0000,,Je laat een algoritme data bestuderen
Dialogue: 0,0:00:45.86,0:00:49.72,Default,,0000,0000,0000,,om te ontcijferen wat leidt tot succes.
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,Welke factoren spelen daarin mee?
Dialogue: 0,0:00:52.88,0:00:54.43,Default,,0000,0000,0000,,Iedereen gebruikt algoritmes.
Dialogue: 0,0:00:54.43,0:00:57.12,Default,,0000,0000,0000,,Alleen zetten ze het niet om \Nin computercode.
Dialogue: 0,0:00:57.12,0:00:58.15,Default,,0000,0000,0000,,Een voorbeeld.
Dialogue: 0,0:00:58.15,0:01:01.71,Default,,0000,0000,0000,,Ik gebruik elke dag een algoritme \Nom een maaltijd te koken voor mijn gezin.
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,De gegevens die ik gebruik
Dialogue: 0,0:01:04.39,0:01:07.63,Default,,0000,0000,0000,,zijn de ingrediënten in huis,\Nde hoeveelheid tijd die ik heb,
Dialogue: 0,0:01:07.63,0:01:08.72,Default,,0000,0000,0000,,de gewenste inspanning,
Dialogue: 0,0:01:08.72,0:01:10.59,Default,,0000,0000,0000,,en daarna orden ik die data.
Dialogue: 0,0:01:10.62,0:01:14.87,Default,,0000,0000,0000,,Kleine pakjes ramen noedels\Nreken ik niet mee als voedsel.
Dialogue: 0,0:01:14.89,0:01:16.76,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:01:16.79,0:01:18.56,Default,,0000,0000,0000,,Mijn definitie voor succes is:
Dialogue: 0,0:01:18.56,0:01:21.88,Default,,0000,0000,0000,,een maaltijd is succesvol \Nals mijn kinderen groenten eten.
Dialogue: 0,0:01:21.88,0:01:24.90,Default,,0000,0000,0000,,Als mijn zoontje de baas was, \Nzou hij iets heel anders zeggen.
Dialogue: 0,0:01:24.90,0:01:27.76,Default,,0000,0000,0000,,Voor hem is succes als hij \Nonbeperkt Nutella mag eten.
Dialogue: 0,0:01:27.76,0:01:29.01,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:01:29.18,0:01:31.40,Default,,0000,0000,0000,,Maar ik bepaal wat succes is.
Dialogue: 0,0:01:31.43,0:01:34.14,Default,,0000,0000,0000,,Ik ben de baas. Mijn mening is belangrijk.
Dialogue: 0,0:01:34.16,0:01:36.84,Default,,0000,0000,0000,,Dat is de eerste regel van algoritmes.
Dialogue: 0,0:01:36.86,0:01:40.56,Default,,0000,0000,0000,,Algoritmes zijn meningen \Nvastgelegd in code.
Dialogue: 0,0:01:41.51,0:01:45.22,Default,,0000,0000,0000,,Dat is heel iets anders dan\Nwat de meeste mensen denken dat het zijn.
Dialogue: 0,0:01:45.22,0:01:49.89,Default,,0000,0000,0000,,Zij denken dat algoritmes objectief, \Nwaar en wetenschappelijk zijn.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,Dat is een marketingtruc.
Dialogue: 0,0:01:52.18,0:01:53.18,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:01:53.27,0:01:55.39,Default,,0000,0000,0000,,Het is ook een marketingtruc
Dialogue: 0,0:01:55.39,0:01:58.57,Default,,0000,0000,0000,,om je te intimideren met algoritmes,
Dialogue: 0,0:01:58.60,0:02:02.26,Default,,0000,0000,0000,,om te zorgen dat je algoritmes vertrouwt \Nén er bang voor bent,
Dialogue: 0,0:02:02.28,0:02:05.38,Default,,0000,0000,0000,,net zoals je op wiskunde vertrouwt\Nen er bang voor bent.
Dialogue: 0,0:02:05.57,0:02:10.57,Default,,0000,0000,0000,,Het kan flink misgaan \Nals we blind vertrouwen op Big Data.
Dialogue: 0,0:02:11.51,0:02:15.13,Default,,0000,0000,0000,,Dit is Kiri Soares. Ze is directrice \Nvan een middelbare school in Brooklyn.
Dialogue: 0,0:02:15.13,0:02:17.53,Default,,0000,0000,0000,,In 2011 werden haar docenten beoordeeld
Dialogue: 0,0:02:17.53,0:02:20.39,Default,,0000,0000,0000,,met behulp van een complex,\Ngeheim algoritme,
Dialogue: 0,0:02:20.39,0:02:22.50,Default,,0000,0000,0000,,het zogeheten 'meerwaardemodel'.
Dialogue: 0,0:02:22.50,0:02:26.30,Default,,0000,0000,0000,,Ik zei: "Probeer achter de formule \Nte komen, dan leg ik het je uit."
Dialogue: 0,0:02:26.93,0:02:28.52,Default,,0000,0000,0000,,Ze zei: "Dat heb ik geprobeerd,
Dialogue: 0,0:02:28.52,0:02:31.84,Default,,0000,0000,0000,,maar op het Ministerie van Onderwijs\Nzeiden ze het wiskunde was
Dialogue: 0,0:02:31.84,0:02:33.80,Default,,0000,0000,0000,,en dat ik dat toch niet zou begrijpen."
Dialogue: 0,0:02:33.80,0:02:35.17,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:02:35.27,0:02:36.42,Default,,0000,0000,0000,,Het wordt nog erger.
Dialogue: 0,0:02:36.56,0:02:40.06,Default,,0000,0000,0000,,De New York Post deed een beroep\Nop de vrijheid van informatie,
Dialogue: 0,0:02:40.06,0:02:42.99,Default,,0000,0000,0000,,verzamelde alle namen \Nvan docenten en hun scores
Dialogue: 0,0:02:42.99,0:02:46.07,Default,,0000,0000,0000,,en publiceerde die \Nom ze publiekelijk terecht te wijzen.
Dialogue: 0,0:02:47.08,0:02:50.78,Default,,0000,0000,0000,,Toen ik zelf probeerde de formules, \Nde broncode, te bemachtigen,
Dialogue: 0,0:02:50.78,0:02:52.91,Default,,0000,0000,0000,,werd gezegd dat dat onmogelijk was.
Dialogue: 0,0:02:52.91,0:02:53.95,Default,,0000,0000,0000,,Ik werd geweigerd.
Dialogue: 0,0:02:53.95,0:02:55.58,Default,,0000,0000,0000,,Pas later kwam ik erachter
Dialogue: 0,0:02:55.60,0:02:58.46,Default,,0000,0000,0000,,dat niemand in New York \Ntoegang had tot de formule.
Dialogue: 0,0:02:58.49,0:03:00.00,Default,,0000,0000,0000,,Niemand begreep het.
Dialogue: 0,0:03:01.93,0:03:05.15,Default,,0000,0000,0000,,Toen raakte de intelligente \NGary Rubinstein bij de zaak betrokken.
Dialogue: 0,0:03:05.18,0:03:08.80,Default,,0000,0000,0000,,In de gegevens van de New York Post \Nvond hij 665 docenten
Dialogue: 0,0:03:08.82,0:03:10.69,Default,,0000,0000,0000,,die twee scores bleken te hebben.
Dialogue: 0,0:03:10.71,0:03:14.71,Default,,0000,0000,0000,,Dat gebeurde als ze wiskunde gaven\Naan de brugklas en de tweede klas.
Dialogue: 0,0:03:14.95,0:03:16.72,Default,,0000,0000,0000,,Hij besloot ze in kaart te brengen.
Dialogue: 0,0:03:16.72,0:03:18.64,Default,,0000,0000,0000,,Elke stip is een docent.
Dialogue: 0,0:03:18.64,0:03:21.48,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:03:21.51,0:03:23.03,Default,,0000,0000,0000,,Wat is dat?
Dialogue: 0,0:03:23.03,0:03:24.33,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:03:24.35,0:03:27.52,Default,,0000,0000,0000,,Dat hadden ze nooit mogen gebruiken \Nvoor individuele beoordeling.
Dialogue: 0,0:03:27.52,0:03:29.42,Default,,0000,0000,0000,,Het lijkt meer op een toevalsgenerator.
Dialogue: 0,0:03:29.42,0:03:32.46,Default,,0000,0000,0000,,(Applaus)
Dialogue: 0,0:03:32.46,0:03:33.48,Default,,0000,0000,0000,,En dat was ook zo.
Dialogue: 0,0:03:33.48,0:03:34.52,Default,,0000,0000,0000,,Dit is Sarah Wysocki.
Dialogue: 0,0:03:34.52,0:03:37.02,Default,,0000,0000,0000,,Samen met 205 andere docenten \Nwerd ze ontslagen
Dialogue: 0,0:03:37.02,0:03:39.89,Default,,0000,0000,0000,,in het schooldistrict van Washington,
Dialogue: 0,0:03:40.01,0:03:42.84,Default,,0000,0000,0000,,ondanks de lovende aanbevelingen \Nvan de schoolleiding
Dialogue: 0,0:03:42.84,0:03:44.56,Default,,0000,0000,0000,,en de ouders van haar leerlingen.
Dialogue: 0,0:03:45.23,0:03:46.75,Default,,0000,0000,0000,,Ik hoor jullie al denken,
Dialogue: 0,0:03:46.75,0:03:49.43,Default,,0000,0000,0000,,vooral de datawetenschappers,\Nde KI-experts hier:
Dialogue: 0,0:03:49.43,0:03:54.29,Default,,0000,0000,0000,,zo'n onbetrouwbaar algoritme \Nzou ik nooit maken.
Dialogue: 0,0:03:54.63,0:03:56.46,Default,,0000,0000,0000,,Maar het kan fout gaan met algoritmes,
Dialogue: 0,0:03:56.46,0:04:01.75,Default,,0000,0000,0000,,soms zelfs met desastreuze gevolgen, \Nondanks goede bedoelingen.
Dialogue: 0,0:04:02.53,0:04:06.66,Default,,0000,0000,0000,,Maar als een slecht ontworpen vliegtuig\Nneerstort, dan ziet iedereen dat,
Dialogue: 0,0:04:06.94,0:04:09.17,Default,,0000,0000,0000,,maar een slecht ontworpen algoritme
Dialogue: 0,0:04:10.24,0:04:14.56,Default,,0000,0000,0000,,kan lange tijd \Nongemerkt schade aanrichten.
Dialogue: 0,0:04:15.75,0:04:17.32,Default,,0000,0000,0000,,Dit is Roger Ailes.
Dialogue: 0,0:04:17.34,0:04:19.98,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,Hij richtte in 1996 Fox News op.
Dialogue: 0,0:04:23.40,0:04:26.01,Default,,0000,0000,0000,,Meer dan 20 vrouwen klaagden \Nover seksuele intimidatie.
Dialogue: 0,0:04:26.01,0:04:29.28,Default,,0000,0000,0000,,Ze zeiden dat ze \Ngeen promotie kregen bij Fox News.
Dialogue: 0,0:04:29.28,0:04:31.82,Default,,0000,0000,0000,,Hij is vorig jaar afgezet,\Nmaar het blijkt nu
Dialogue: 0,0:04:31.84,0:04:34.56,Default,,0000,0000,0000,,dat het probleem \Nnog steeds niet is opgelost.
Dialogue: 0,0:04:35.61,0:04:37.05,Default,,0000,0000,0000,,Dan rijst de vraag:
Dialogue: 0,0:04:37.05,0:04:40.10,Default,,0000,0000,0000,,wat moet Fox News doen \Nom dit te veranderen?
Dialogue: 0,0:04:41.24,0:04:45.71,Default,,0000,0000,0000,,Wat als ze voortaan mensen zouden werven\Nmet behulp van een zelflerend algoritme?
Dialogue: 0,0:04:45.71,0:04:47.44,Default,,0000,0000,0000,,Klinkt goed, toch?
Dialogue: 0,0:04:47.61,0:04:48.91,Default,,0000,0000,0000,,Maar wat houdt dat in?
Dialogue: 0,0:04:48.91,0:04:50.88,Default,,0000,0000,0000,,Welke data ga je gebruiken?
Dialogue: 0,0:04:50.88,0:04:56.01,Default,,0000,0000,0000,,De sollicitaties van de afgelopen \N21 jaar zou redelijk zijn.
Dialogue: 0,0:04:56.03,0:04:57.53,Default,,0000,0000,0000,,Redelijk.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,En wanneer is het een succes?
Dialogue: 0,0:04:59.86,0:05:01.30,Default,,0000,0000,0000,,Een redelijke keuze zou zijn:
Dialogue: 0,0:05:01.30,0:05:02.86,Default,,0000,0000,0000,,wie is succesvol bij Fox News?
Dialogue: 0,0:05:02.86,0:05:06.54,Default,,0000,0000,0000,,Iemand die er al vier jaar werkt
Dialogue: 0,0:05:06.54,0:05:08.82,Default,,0000,0000,0000,,en minstens een keer \Npromotie heeft gemaakt.
Dialogue: 0,0:05:08.82,0:05:10.38,Default,,0000,0000,0000,,Klinkt redelijk.
Dialogue: 0,0:05:10.40,0:05:12.66,Default,,0000,0000,0000,,En dan wordt het algoritme getraind.
Dialogue: 0,0:05:12.66,0:05:16.66,Default,,0000,0000,0000,,Het leert zoeken naar mensen\Nom te weten wat tot succes leidt,
Dialogue: 0,0:05:17.19,0:05:21.54,Default,,0000,0000,0000,,welke sollicitaties \Nin het verleden succesvol waren
Dialogue: 0,0:05:21.54,0:05:23.09,Default,,0000,0000,0000,,volgens die definitie.
Dialogue: 0,0:05:24.20,0:05:25.76,Default,,0000,0000,0000,,Wat zou er gebeuren
Dialogue: 0,0:05:25.76,0:05:28.74,Default,,0000,0000,0000,,als we dit zouden toepassen \Nop de huidige kandidaten?
Dialogue: 0,0:05:29.12,0:05:31.08,Default,,0000,0000,0000,,Het zou vrouwen eruit filteren,
Dialogue: 0,0:05:31.66,0:05:35.98,Default,,0000,0000,0000,,want zo te zien waren zij \Nniet succesvol in het verleden.
Dialogue: 0,0:05:39.75,0:05:42.29,Default,,0000,0000,0000,,Algoritmes maken dingen niet eerlijker
Dialogue: 0,0:05:42.29,0:05:44.73,Default,,0000,0000,0000,,als je ze klakkeloos toepast.
Dialogue: 0,0:05:44.73,0:05:46.32,Default,,0000,0000,0000,,Ze maken het niet eerlijker.
Dialogue: 0,0:05:46.32,0:05:48.66,Default,,0000,0000,0000,,Ze herhalen onze eerdere ervaringen,
Dialogue: 0,0:05:48.66,0:05:49.67,Default,,0000,0000,0000,,onze patronen.
Dialogue: 0,0:05:49.67,0:05:52.28,Default,,0000,0000,0000,,Ze automatiseren de status quo.
Dialogue: 0,0:05:52.72,0:05:55.47,Default,,0000,0000,0000,,Dat werkt goed \Nals de wereld perfect zou zijn,
Dialogue: 0,0:05:55.90,0:05:57.22,Default,,0000,0000,0000,,maar dat is niet zo.
Dialogue: 0,0:05:57.24,0:06:01.77,Default,,0000,0000,0000,,Ook hebben de meeste bedrijven \Ngeen pijnlijke rechtszaken lopen,
Dialogue: 0,0:06:02.45,0:06:04.89,Default,,0000,0000,0000,,maar hun datawetenschappers
Dialogue: 0,0:06:04.89,0:06:07.25,Default,,0000,0000,0000,,worden gedwongen de data te volgen,
Dialogue: 0,0:06:07.25,0:06:09.41,Default,,0000,0000,0000,,met nadruk op nauwkeurigheid.
Dialogue: 0,0:06:10.27,0:06:11.26,Default,,0000,0000,0000,,En wat betekent dat?
Dialogue: 0,0:06:11.26,0:06:15.70,Default,,0000,0000,0000,,Want onze vooroordelen zorgen ervoor \Ndat seksisme het systeem binnendringt,
Dialogue: 0,0:06:15.70,0:06:17.98,Default,,0000,0000,0000,,net als andere vormen\Nvan onverdraagzaamheid.
Dialogue: 0,0:06:19.49,0:06:20.91,Default,,0000,0000,0000,,Even een gedachte-experiment,
Dialogue: 0,0:06:20.91,0:06:22.44,Default,,0000,0000,0000,,want die zijn leuk:
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,een volledig gesegregeerde samenleving --
Dialogue: 0,0:06:28.25,0:06:31.58,Default,,0000,0000,0000,,naar ras gescheiden, \Nalle steden, alle wijken --
Dialogue: 0,0:06:31.60,0:06:34.42,Default,,0000,0000,0000,,waar we de politie alleen\Nop wijken met minderheden afsturen
Dialogue: 0,0:06:34.42,0:06:36.18,Default,,0000,0000,0000,,om criminaliteit op te sporen.
Dialogue: 0,0:06:36.35,0:06:39.04,Default,,0000,0000,0000,,De arrestatiedata zouden \Nsterk bevooroordeeld zijn.
Dialogue: 0,0:06:39.85,0:06:42.46,Default,,0000,0000,0000,,Wat zou er gebeuren\Nals we datawetenschappers betaalden
Dialogue: 0,0:06:42.46,0:06:46.61,Default,,0000,0000,0000,,om te voorspellen waar\Nde volgende misdaad zou plaatsvinden?
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,In de wijk met minderheden.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Of wie de volgende crimineel zou zijn?
Dialogue: 0,0:06:52.89,0:06:54.47,Default,,0000,0000,0000,,Iemand uit een minderheidsgroep.
Dialogue: 0,0:06:55.75,0:06:57.68,Default,,0000,0000,0000,,De datawetenschappers zouden opscheppen
Dialogue: 0,0:06:57.68,0:07:00.81,Default,,0000,0000,0000,,over hoe geweldig\Nen nauwkeurig hun model was
Dialogue: 0,0:07:00.81,0:07:02.56,Default,,0000,0000,0000,,en ze zouden gelijk hebben.
Dialogue: 0,0:07:03.95,0:07:05.41,Default,,0000,0000,0000,,Zo erg is het nog niet,
Dialogue: 0,0:07:05.41,0:07:09.88,Default,,0000,0000,0000,,maar ernstige segregatie \Nvindt in de meeste steden plaats
Dialogue: 0,0:07:09.90,0:07:11.79,Default,,0000,0000,0000,,en we hebben genoeg bewijzen
Dialogue: 0,0:07:11.82,0:07:14.82,Default,,0000,0000,0000,,van bevooroordeelde politie\Nen rechtssysteem.
Dialogue: 0,0:07:15.63,0:07:20.40,Default,,0000,0000,0000,,We voorspellen daadwerkelijk gebieden\Nwaar zich criminaliteit zal voordoen.
Dialogue: 0,0:07:20.40,0:07:25.96,Default,,0000,0000,0000,,En ook waar criminele \Neenmansacties zullen plaatsvinden.
Dialogue: 0,0:07:26.97,0:07:29.36,Default,,0000,0000,0000,,De nieuwsorganisatie ProPublica
Dialogue: 0,0:07:29.36,0:07:33.39,Default,,0000,0000,0000,,onderzocht onlangs zo'n zogeheten \N'recidive risico'-algoritme
Dialogue: 0,0:07:33.39,0:07:37.39,Default,,0000,0000,0000,,dat in Florida wordt gebruikt \Ntijdens de veroordeling door de rechter.
Dialogue: 0,0:07:38.41,0:07:42.25,Default,,0000,0000,0000,,Bernard, links, de zwarte man, \Nscoorde tien uit tien.
Dialogue: 0,0:07:43.18,0:07:45.19,Default,,0000,0000,0000,,Dylan, rechts, drie uit tien.
Dialogue: 0,0:07:45.21,0:07:47.84,Default,,0000,0000,0000,,Tien uit tien, hoog risico.\NDrie uit tien, laag risico.
Dialogue: 0,0:07:48.60,0:07:50.82,Default,,0000,0000,0000,,Ze werden allebei opgepakt \Nvoor drugsbezit.
Dialogue: 0,0:07:50.82,0:07:52.36,Default,,0000,0000,0000,,Ze hadden allebei een strafblad,
Dialogue: 0,0:07:52.36,0:07:54.99,Default,,0000,0000,0000,,maar Dylan voor een misdrijf
Dialogue: 0,0:07:54.99,0:07:56.19,Default,,0000,0000,0000,,en Bernard niet.
Dialogue: 0,0:07:57.82,0:08:00.88,Default,,0000,0000,0000,,Dat maakt uit, want hoe hoger de score,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,des te zwaarder je gestraft wordt.
Dialogue: 0,0:08:06.29,0:08:07.83,Default,,0000,0000,0000,,Hoe kan dit?
Dialogue: 0,0:08:08.53,0:08:10.24,Default,,0000,0000,0000,,Door het witwassen van data.
Dialogue: 0,0:08:10.93,0:08:15.21,Default,,0000,0000,0000,,Dit gebeurt als technologen \Nde lelijke waarheid
Dialogue: 0,0:08:15.21,0:08:17.28,Default,,0000,0000,0000,,in een zwarte doos \Nvan algoritmes verbergen
Dialogue: 0,0:08:17.28,0:08:18.84,Default,,0000,0000,0000,,en ze objectief noemen,
Dialogue: 0,0:08:19.32,0:08:21.04,Default,,0000,0000,0000,,ze meritocratisch noemen.
Dialogue: 0,0:08:22.100,0:08:25.47,Default,,0000,0000,0000,,Geheime, essentiële \Nen destructieve algoritmes
Dialogue: 0,0:08:25.47,0:08:27.90,Default,,0000,0000,0000,,krijgen van mij de naam
Dialogue: 0,0:08:27.90,0:08:30.04,Default,,0000,0000,0000,,'datavernietigingswapens'.
Dialogue: 0,0:08:30.04,0:08:31.65,Default,,0000,0000,0000,,(Gelach)
Dialogue: 0,0:08:31.65,0:08:34.70,Default,,0000,0000,0000,,(Applaus)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Ze zijn overal, echt waar.
Dialogue: 0,0:08:37.70,0:08:41.42,Default,,0000,0000,0000,,Dit zijn particuliere bedrijven \Ndie eigen algoritmes maken
Dialogue: 0,0:08:41.42,0:08:42.83,Default,,0000,0000,0000,,voor eigen gebruik.
Dialogue: 0,0:08:43.21,0:08:46.31,Default,,0000,0000,0000,,Zelfs die waar ik het over had\Nvoor docenten en politie,
Dialogue: 0,0:08:46.31,0:08:47.90,Default,,0000,0000,0000,,kwamen van particuliere bedrijven
Dialogue: 0,0:08:47.90,0:08:50.58,Default,,0000,0000,0000,,en werden verkocht \Naan overheidsinstellingen.
Dialogue: 0,0:08:50.60,0:08:52.47,Default,,0000,0000,0000,,Ze noemen het hun 'geheime recept' --
Dialogue: 0,0:08:52.50,0:08:54.62,Default,,0000,0000,0000,,daarom willen ze er niets over zeggen.
Dialogue: 0,0:08:54.65,0:08:57.27,Default,,0000,0000,0000,,Het gaat ook om private macht.
Dialogue: 0,0:08:57.92,0:09:02.78,Default,,0000,0000,0000,,Ze maken handig gebruik van hun gezag\Nover dingen die onbegrijpelijk zijn.
Dialogue: 0,0:09:05.11,0:09:07.80,Default,,0000,0000,0000,,Omdat alles in particuliere handen is
Dialogue: 0,0:09:07.80,0:09:08.84,Default,,0000,0000,0000,,en er concurrentie is,
Dialogue: 0,0:09:08.84,0:09:11.72,Default,,0000,0000,0000,,denk je wellicht dat de vrije markt \Ndit probleem wel oplost.
Dialogue: 0,0:09:11.72,0:09:12.61,Default,,0000,0000,0000,,Onjuist.
Dialogue: 0,0:09:12.61,0:09:16.64,Default,,0000,0000,0000,,Er wordt grof geld verdiend \Nmet oneerlijke praktijken.
Dialogue: 0,0:09:17.13,0:09:20.59,Default,,0000,0000,0000,,Ook zijn wij geen \Neconomisch rationele wezens.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,We zijn bevooroordeeld.
Dialogue: 0,0:09:22.96,0:09:26.34,Default,,0000,0000,0000,,We zijn racistisch en onverdraagzaam,\Nerger dan we willen toegeven
Dialogue: 0,0:09:26.34,0:09:28.77,Default,,0000,0000,0000,,en vaak zonder dat we het doorhebben.
Dialogue: 0,0:09:29.35,0:09:31.35,Default,,0000,0000,0000,,Dit weten we
Dialogue: 0,0:09:32.35,0:09:36.84,Default,,0000,0000,0000,,doordat sociologen keer op keer\Nmet hun onderzoeken hebben bewezen
Dialogue: 0,0:09:37.18,0:09:40.92,Default,,0000,0000,0000,,dat als je sollicitaties verstuurt\Nmet dezelfde opleiding,
Dialogue: 0,0:09:40.92,0:09:43.35,Default,,0000,0000,0000,,maar met deels 'witte' namen \Ndeels 'zwarte' namen,
Dialogue: 0,0:09:43.35,0:09:47.12,Default,,0000,0000,0000,,dat de resultaten \Naltijd zullen tegenvallen.
Dialogue: 0,0:09:47.50,0:09:49.18,Default,,0000,0000,0000,,Wij zijn degenen met vooroordelen
Dialogue: 0,0:09:49.18,0:09:52.50,Default,,0000,0000,0000,,en daar injecteren we de algoritmes mee
Dialogue: 0,0:09:52.50,0:09:54.57,Default,,0000,0000,0000,,door te kiezen welke data \Nworden verzameld,
Dialogue: 0,0:09:54.57,0:09:57.34,Default,,0000,0000,0000,,zoals ik besloot \Nramen noedels uit te sluiten --
Dialogue: 0,0:09:57.34,0:09:58.99,Default,,0000,0000,0000,,omdat ik het niet relevant vond.
Dialogue: 0,0:09:58.99,0:10:04.69,Default,,0000,0000,0000,,Maar als we vertrouwen op data \Ndie uitgaan van eerder gedrag
Dialogue: 0,0:10:04.72,0:10:06.73,Default,,0000,0000,0000,,en een definitie voor succes hanteren,
Dialogue: 0,0:10:06.76,0:10:10.74,Default,,0000,0000,0000,,waarom denken we dan dat de algoritmes \Ndaar ongeschonden uitkomen?
Dialogue: 0,0:10:10.76,0:10:11.81,Default,,0000,0000,0000,,Onmogelijk.
Dialogue: 0,0:10:11.81,0:10:15.63,Default,,0000,0000,0000,,We moeten controleren of ze redelijk zijn.
Dialogue: 0,0:10:15.82,0:10:18.61,Default,,0000,0000,0000,,Gelukkig is het mogelijk \Nze op redelijkheid te testen.
Dialogue: 0,0:10:18.63,0:10:22.01,Default,,0000,0000,0000,,Algoritmes kan je ondervragen
Dialogue: 0,0:10:22.01,0:10:24.06,Default,,0000,0000,0000,,en ze zullen steeds \Neerlijk antwoord geven.
Dialogue: 0,0:10:24.06,0:10:26.58,Default,,0000,0000,0000,,We kunnen ze herstellen.\NWe kunnen ze verbeteren.
Dialogue: 0,0:10:26.58,0:10:28.96,Default,,0000,0000,0000,,Dit noem ik een algoritme-inspectie
Dialogue: 0,0:10:28.98,0:10:30.58,Default,,0000,0000,0000,,en ik leg even uit hoe dat werkt.
Dialogue: 0,0:10:30.69,0:10:33.20,Default,,0000,0000,0000,,Allereerst, een data-integriteitscontrole.
Dialogue: 0,0:10:34.13,0:10:36.95,Default,,0000,0000,0000,,Voor het 'recidive risico'-algoritme \Ndat ik eerder noemde,
Dialogue: 0,0:10:37.58,0:10:40.64,Default,,0000,0000,0000,,betekent een data-integriteitscontrole \Ndat we moeten accepteren
Dialogue: 0,0:10:40.64,0:10:41.78,Default,,0000,0000,0000,,dat in de VS
Dialogue: 0,0:10:41.78,0:10:44.64,Default,,0000,0000,0000,,de witte en de zwarte bevolking \Nnet zoveel marihuana roken
Dialogue: 0,0:10:44.64,0:10:47.26,Default,,0000,0000,0000,,maar de zwarte bevolking \Nvaker wordt gearresteerd --
Dialogue: 0,0:10:47.26,0:10:50.48,Default,,0000,0000,0000,,vier tot vijf keer vaker zelfs, \Nafhankelijk van de buurt.
Dialogue: 0,0:10:51.25,0:10:54.30,Default,,0000,0000,0000,,Hoe ziet die vertekening eruit \Nin andere misdrijfcategorieën
Dialogue: 0,0:10:54.30,0:10:55.99,Default,,0000,0000,0000,,en hoe verantwoorden we dat?
Dialogue: 0,0:10:56.16,0:10:59.20,Default,,0000,0000,0000,,Ten tweede, we moeten kijken \Nnaar onze definitie voor succes
Dialogue: 0,0:10:59.22,0:11:00.61,Default,,0000,0000,0000,,en dat checken.
Dialogue: 0,0:11:00.63,0:11:03.39,Default,,0000,0000,0000,,Weet je nog het wervingsalgoritme \Nwaar we het over hadden?
Dialogue: 0,0:11:03.39,0:11:06.30,Default,,0000,0000,0000,,Iemand die vier jaar in dienst is \Nen één keer promotie maakt?
Dialogue: 0,0:11:06.30,0:11:07.91,Default,,0000,0000,0000,,Dat is een succesvolle werknemer,
Dialogue: 0,0:11:07.91,0:11:09.33,Default,,0000,0000,0000,,maar het is ook een werknemer
Dialogue: 0,0:11:09.33,0:11:11.80,Default,,0000,0000,0000,,die de goedkeuring krijgt\Nvan de bedrijfscultuur.
Dialogue: 0,0:11:12.03,0:11:13.58,Default,,0000,0000,0000,,Kortom, vooroordelen.
Dialogue: 0,0:11:13.58,0:11:16.13,Default,,0000,0000,0000,,We moeten die twee dingen \Nuit elkaar houden.
Dialogue: 0,0:11:16.13,0:11:19.55,Default,,0000,0000,0000,,Laten we het voorbeeld nemen\Nvan de blinde orkestauditie.
Dialogue: 0,0:11:19.55,0:11:22.71,Default,,0000,0000,0000,,De mensen die auditie doen,\Nzitten daarbij achter een laken.
Dialogue: 0,0:11:22.95,0:11:24.88,Default,,0000,0000,0000,,Wat volgens mij relevant is,
Dialogue: 0,0:11:24.88,0:11:28.32,Default,,0000,0000,0000,,is dat de toehoorders \Nhebben besloten wat belangrijk is
Dialogue: 0,0:11:28.50,0:11:32.30,Default,,0000,0000,0000,,en daar zullen ze niet vanaf wijken.
Dialogue: 0,0:11:32.96,0:11:35.71,Default,,0000,0000,0000,,Toen de blinde orkestaudities begonnen,
Dialogue: 0,0:11:35.73,0:11:39.34,Default,,0000,0000,0000,,schoot het aantal vrouwen \Nin orkesten met factor vijf omhoog.
Dialogue: 0,0:11:40.25,0:11:42.58,Default,,0000,0000,0000,,Ook moeten we kijken naar nauwkeurigheid.
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,Hier zou het meerwaardemodel \Nvoor docenten direct falen.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Geen enkel algoritme is perfect,
Dialogue: 0,0:11:50.62,0:11:54.38,Default,,0000,0000,0000,,dus we moeten rekening houden \Nmet de fouten van ieder algoritme.
Dialogue: 0,0:11:54.84,0:11:59.22,Default,,0000,0000,0000,,Hoe vaak worden fouten gemaakt\Nen wie is daar het slachtoffer van?
Dialogue: 0,0:11:59.85,0:12:01.72,Default,,0000,0000,0000,,Wat zijn de gevolgen?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,En tot slot moeten we stilstaan
Dialogue: 0,0:12:05.97,0:12:08.47,Default,,0000,0000,0000,,bij de gevolgen van algoritmes \Nop de lange termijn,
Dialogue: 0,0:12:08.87,0:12:11.59,Default,,0000,0000,0000,,de terugkoppeling \Ndie het met zich meebrengt.
Dialogue: 0,0:12:11.59,0:12:12.66,Default,,0000,0000,0000,,Dat klinkt vaag,
Dialogue: 0,0:12:12.66,0:12:15.74,Default,,0000,0000,0000,,maar stel dat de Facebookontwerpers \Ndaar aan hadden gedacht
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,voordat ze besloten ons alleen te laten \Nzien wat onze vrienden hadden gepost.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,Ik wil nog twee dingen kwijt. \NAllereerst aan de datawetenschappers:
Dialogue: 0,0:12:25.45,0:12:29.52,Default,,0000,0000,0000,,wij zijn niet de scheidsrechters \Ndie bepalen wat waar is.
Dialogue: 0,0:12:29.52,0:12:32.49,Default,,0000,0000,0000,,Wij moeten de ethische discussies\Ndie zich voordoen,
Dialogue: 0,0:12:32.49,0:12:34.81,Default,,0000,0000,0000,,begrijpelijk maken\Nvoor de hele samenleving.
Dialogue: 0,0:12:35.58,0:12:37.71,Default,,0000,0000,0000,,(Applaus)
Dialogue: 0,0:12:37.74,0:12:41.12,Default,,0000,0000,0000,,En tegen alle \Nniet-datawetenschappers zeg ik:
Dialogue: 0,0:12:41.12,0:12:43.14,Default,,0000,0000,0000,,dit is geen wiskundetest.
Dialogue: 0,0:12:43.46,0:12:45.32,Default,,0000,0000,0000,,Dit is een politiek gevecht.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,We moeten onze algoritmebazen\Nter verantwoording roepen.
Dialogue: 0,0:12:51.38,0:12:53.54,Default,,0000,0000,0000,,(Applaus)
Dialogue: 0,0:12:53.54,0:12:57.87,Default,,0000,0000,0000,,Het wordt tijd dat er een eind komt \Naan het blinde vertrouwen in Big Data.
Dialogue: 0,0:12:57.89,0:12:59.06,Default,,0000,0000,0000,,Dank jullie wel.
Dialogue: 0,0:12:59.06,0:13:04.38,Default,,0000,0000,0000,,(Applaus)