[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.74,0:00:04.86,Default,,0000,0000,0000,,Mitt första jobb var som dataprogrammerare
Dialogue: 0,0:00:04.88,0:00:06.84,Default,,0000,0000,0000,,under mitt första år på högskolan -
Dialogue: 0,0:00:06.86,0:00:08.37,Default,,0000,0000,0000,,jag var tonåring då.
Dialogue: 0,0:00:08.89,0:00:10.62,Default,,0000,0000,0000,,Strax efter att jag börjat jobba,
Dialogue: 0,0:00:10.64,0:00:12.26,Default,,0000,0000,0000,,med att utveckla programvara,
Dialogue: 0,0:00:12.80,0:00:16.43,Default,,0000,0000,0000,,kom en chef på företaget ner där jag satt,
Dialogue: 0,0:00:16.46,0:00:17.73,Default,,0000,0000,0000,,och viskade till mig,
Dialogue: 0,0:00:18.23,0:00:21.09,Default,,0000,0000,0000,,"Kan han se om jag ljuger?"
Dialogue: 0,0:00:21.81,0:00:23.88,Default,,0000,0000,0000,,Där fanns ingen annan i rummet.
Dialogue: 0,0:00:25.03,0:00:29.42,Default,,0000,0000,0000,,"Kan vem se om du ljuger?\NOch varför viskar vi?"
Dialogue: 0,0:00:30.27,0:00:33.37,Default,,0000,0000,0000,,Chefen pekade på datorn som stod i rummet.
Dialogue: 0,0:00:33.40,0:00:36.49,Default,,0000,0000,0000,,"Kan han se om jag ljuger?"
Dialogue: 0,0:00:37.61,0:00:41.98,Default,,0000,0000,0000,,Den här chefen hade en affär\Nmed receptionisten.
Dialogue: 0,0:00:41.100,0:00:43.11,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:00:43.14,0:00:44.90,Default,,0000,0000,0000,,Och jag var fortfarande tonåring.
Dialogue: 0,0:00:45.45,0:00:47.47,Default,,0000,0000,0000,,Så jag visk-skrek tillbaka,
Dialogue: 0,0:00:47.49,0:00:51.11,Default,,0000,0000,0000,,"Ja, datorn kan se om du ljuger."
Dialogue: 0,0:00:51.14,0:00:52.94,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:00:52.97,0:00:55.89,Default,,0000,0000,0000,,Jag skrattade, men egentligen\När det jag som är skämtet.
Dialogue: 0,0:00:55.92,0:00:59.18,Default,,0000,0000,0000,,Idag finns det beräkningssystem
Dialogue: 0,0:00:59.21,0:01:02.76,Default,,0000,0000,0000,,som kan sortera ut känslor och även lögner
Dialogue: 0,0:01:02.78,0:01:04.82,Default,,0000,0000,0000,,genom att processa data från ansikten.
Dialogue: 0,0:01:05.25,0:01:09.40,Default,,0000,0000,0000,,Annonsörer och till och med regeringar\När mycket intresserade.
Dialogue: 0,0:01:10.32,0:01:12.18,Default,,0000,0000,0000,,Jag blev programmerare
Dialogue: 0,0:01:12.20,0:01:15.32,Default,,0000,0000,0000,,för som barn var jag som tokig\Ni matematik och vetenskap.
Dialogue: 0,0:01:15.94,0:01:19.05,Default,,0000,0000,0000,,Men någonstans längs vägen\Nfick jag vetskap om kärnvapen,
Dialogue: 0,0:01:19.07,0:01:22.03,Default,,0000,0000,0000,,och blev mycket oroad\Növer etiken i forskningen.
Dialogue: 0,0:01:22.05,0:01:23.25,Default,,0000,0000,0000,,Jag var bekymrad.
Dialogue: 0,0:01:23.28,0:01:25.92,Default,,0000,0000,0000,,Emellertid, på grund av\Nfamiljeomständigheter,
Dialogue: 0,0:01:25.94,0:01:29.24,Default,,0000,0000,0000,,var jag också tvungen\Natt börja arbeta tidigt.
Dialogue: 0,0:01:29.26,0:01:32.56,Default,,0000,0000,0000,,Jag tänkte för mig själv;\Njag väljer ett tekniskt område
Dialogue: 0,0:01:32.59,0:01:34.38,Default,,0000,0000,0000,,där jag lätt kan få arbete och där
Dialogue: 0,0:01:34.41,0:01:38.43,Default,,0000,0000,0000,,jag inte behöver bekymra mig om\Nnågra svårlösta etiska frågor.
Dialogue: 0,0:01:39.02,0:01:40.55,Default,,0000,0000,0000,,Så jag valde datorer.
Dialogue: 0,0:01:40.58,0:01:41.68,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:01:41.70,0:01:45.11,Default,,0000,0000,0000,,Ja, ha, ha, ha!\NSkratta gärna åt mig.
Dialogue: 0,0:01:45.14,0:01:47.89,Default,,0000,0000,0000,,Idag bygger datorforskare plattformar
Dialogue: 0,0:01:47.92,0:01:52.12,Default,,0000,0000,0000,,som kontrollerar vad som visas\Nför miljarder människor varje dag.
Dialogue: 0,0:01:53.05,0:01:54.71,Default,,0000,0000,0000,,De utvecklar bilar
Dialogue: 0,0:01:54.71,0:01:57.22,Default,,0000,0000,0000,,som skulle kunna bestämma\Nvem de ska köra över.
Dialogue: 0,0:01:57.71,0:02:00.92,Default,,0000,0000,0000,,De bygger till och med maskiner, vapen,
Dialogue: 0,0:02:00.94,0:02:03.23,Default,,0000,0000,0000,,som kan döda människor i krig.
Dialogue: 0,0:02:03.25,0:02:06.02,Default,,0000,0000,0000,,Det handlar om etik i hela ledet.
Dialogue: 0,0:02:07.18,0:02:09.24,Default,,0000,0000,0000,,De intelligenta maskinerna är här.
Dialogue: 0,0:02:09.82,0:02:13.30,Default,,0000,0000,0000,,Idag använder vi beräkningssystem\Nför alla sorters beslut,
Dialogue: 0,0:02:13.32,0:02:15.21,Default,,0000,0000,0000,,men också för nya typer av beslut.
Dialogue: 0,0:02:15.23,0:02:20.40,Default,,0000,0000,0000,,Vi ställer frågor till algoritmerna\Nsom inte har ett entydigt korrekt svar,
Dialogue: 0,0:02:20.43,0:02:21.63,Default,,0000,0000,0000,,frågor som är subjektiva,
Dialogue: 0,0:02:21.65,0:02:23.98,Default,,0000,0000,0000,,öppna och värdeladdade.
Dialogue: 0,0:02:24.00,0:02:25.76,Default,,0000,0000,0000,,Vi ställer frågor som,
Dialogue: 0,0:02:25.78,0:02:27.43,Default,,0000,0000,0000,,"Vem ska företaget anställa?"
Dialogue: 0,0:02:27.72,0:02:29.55,Default,,0000,0000,0000,,"Vilken av dina vänners uppdateringar
Dialogue: 0,0:02:29.55,0:02:30.88,Default,,0000,0000,0000,,ska du kunna se?"
Dialogue: 0,0:02:30.88,0:02:33.14,Default,,0000,0000,0000,,"Vem återfaller troligast i brott?"
Dialogue: 0,0:02:33.51,0:02:36.57,Default,,0000,0000,0000,,"Vilka nyheter eller filmer\Nska rekommenderas till folk?"
Dialogue: 0,0:02:36.59,0:02:39.96,Default,,0000,0000,0000,,Visst, vi har använt datorer ett tag,
Dialogue: 0,0:02:39.99,0:02:41.50,Default,,0000,0000,0000,,men det här är annorlunda.
Dialogue: 0,0:02:41.53,0:02:43.60,Default,,0000,0000,0000,,Det är en historisk vridning,
Dialogue: 0,0:02:43.62,0:02:48.96,Default,,0000,0000,0000,,för vi kan inte verifiera beräkningarna\Nför sådana subjektiva beslut
Dialogue: 0,0:02:48.98,0:02:54.40,Default,,0000,0000,0000,,på samma sätt som vi kan verifiera dem\Nvi gör för flygplan, brokonstruktioner,
Dialogue: 0,0:02:54.42,0:02:55.68,Default,,0000,0000,0000,,eller månfärder.
Dialogue: 0,0:02:56.45,0:02:59.71,Default,,0000,0000,0000,,Är flygplan säkrare?\NBörjade bron självsvänga och rasa?
Dialogue: 0,0:02:59.73,0:03:04.23,Default,,0000,0000,0000,,Där har vi kommit överens om\Nganska tydliga ramverk,
Dialogue: 0,0:03:04.25,0:03:06.49,Default,,0000,0000,0000,,och vi har lagar som vägleder oss.
Dialogue: 0,0:03:06.52,0:03:09.91,Default,,0000,0000,0000,,Såna ramverk eller normer finns inte
Dialogue: 0,0:03:09.94,0:03:13.90,Default,,0000,0000,0000,,för beslut gällande\Nkrångliga mänskliga relationer.
Dialogue: 0,0:03:13.92,0:03:18.16,Default,,0000,0000,0000,,För att göra det än mer komplicerat,\Nblir vår mjukvara kraftfullare,
Dialogue: 0,0:03:18.18,0:03:21.96,Default,,0000,0000,0000,,samtidigt som den blir\Nbåde mindre transparent och mer komplex.
Dialogue: 0,0:03:22.54,0:03:24.58,Default,,0000,0000,0000,,Under det senaste årtiondet,
Dialogue: 0,0:03:24.61,0:03:27.34,Default,,0000,0000,0000,,har komplexa algoritmer\Ngjort enorma framsteg.
Dialogue: 0,0:03:27.36,0:03:29.35,Default,,0000,0000,0000,,De kan känna igen ansikten.
Dialogue: 0,0:03:29.98,0:03:32.04,Default,,0000,0000,0000,,De kan tolka handskriven text.
Dialogue: 0,0:03:32.44,0:03:34.50,Default,,0000,0000,0000,,De kan upptäcka kontokortsbedrägerier,
Dialogue: 0,0:03:34.53,0:03:35.72,Default,,0000,0000,0000,,blockera spam
Dialogue: 0,0:03:35.74,0:03:37.78,Default,,0000,0000,0000,,och de kan översätta språk.
Dialogue: 0,0:03:37.80,0:03:40.37,Default,,0000,0000,0000,,De kan upptäcka tumörer\Ngenom medicinsk bildteknik.
Dialogue: 0,0:03:40.40,0:03:42.60,Default,,0000,0000,0000,,De kan slå människor i schack och Go.
Dialogue: 0,0:03:43.26,0:03:47.77,Default,,0000,0000,0000,,Många av de här framstegen härrör från\Nen metod som kallas "maskininlärning."
Dialogue: 0,0:03:48.18,0:03:51.36,Default,,0000,0000,0000,,Maskininlärning skiljer sig\Nfrån traditionell programmering,
Dialogue: 0,0:03:51.39,0:03:54.97,Default,,0000,0000,0000,,där du ger datorn detaljerade,\Nexakta, noggranna instruktioner.
Dialogue: 0,0:03:55.38,0:03:59.56,Default,,0000,0000,0000,,Det här är mer som att du\Nmatar systemet med en massa data,
Dialogue: 0,0:03:59.58,0:04:01.24,Default,,0000,0000,0000,,inkluderat ostrukturerad data,
Dialogue: 0,0:04:01.26,0:04:03.54,Default,,0000,0000,0000,,till exempel från våra digitala liv.
Dialogue: 0,0:04:03.57,0:04:06.30,Default,,0000,0000,0000,,Systemet lär sig genom att\Nbearbeta datamängderna.
Dialogue: 0,0:04:06.67,0:04:08.20,Default,,0000,0000,0000,,Avgörande är också,
Dialogue: 0,0:04:08.22,0:04:12.60,Default,,0000,0000,0000,,att systemen inte kommer fram till\Nnågot entydigt svar.
Dialogue: 0,0:04:12.62,0:04:16.00,Default,,0000,0000,0000,,Du får inte ett enkelt svar,\Nutan en sannolikhetsbedömning;
Dialogue: 0,0:04:16.00,0:04:19.09,Default,,0000,0000,0000,,"Det här är sannolikt det du letar efter."
Dialogue: 0,0:04:20.02,0:04:23.09,Default,,0000,0000,0000,,Fördelen är att metoden är kraftfull.
Dialogue: 0,0:04:23.12,0:04:25.40,Default,,0000,0000,0000,,Chefen för Googles AI-system kallade det
Dialogue: 0,0:04:25.40,0:04:27.56,Default,,0000,0000,0000,,"datas orimliga effektivitet."
Dialogue: 0,0:04:27.79,0:04:29.14,Default,,0000,0000,0000,,Nackdelen är
Dialogue: 0,0:04:29.74,0:04:32.81,Default,,0000,0000,0000,,att vi inte förstår vad systemet lär sig.
Dialogue: 0,0:04:32.83,0:04:34.82,Default,,0000,0000,0000,,Faktum är att det är dess makt.
Dialogue: 0,0:04:34.95,0:04:38.74,Default,,0000,0000,0000,,Det är mindre av\Natt ge en dator instruktioner,
Dialogue: 0,0:04:39.20,0:04:43.26,Default,,0000,0000,0000,,och mer som att träna en Tamagotschi
Dialogue: 0,0:04:43.29,0:04:45.66,Default,,0000,0000,0000,,som vi varken förstår eller kontrollerar.
Dialogue: 0,0:04:46.36,0:04:47.91,Default,,0000,0000,0000,,Det är vårt stora problem.
Dialogue: 0,0:04:48.43,0:04:52.69,Default,,0000,0000,0000,,Det är problematiskt när såna här system\Nfår saker och ting om bakfoten.
Dialogue: 0,0:04:52.71,0:04:56.25,Default,,0000,0000,0000,,Det är också ett problem\Nnär de får till det rätt,
Dialogue: 0,0:04:56.28,0:04:59.90,Default,,0000,0000,0000,,för vi vet inte vad som är vad,\Nnär frågeställningen är subjektiv.
Dialogue: 0,0:04:59.93,0:05:02.65,Default,,0000,0000,0000,,Vi vet inte vad den här tingesten tänker.
Dialogue: 0,0:05:03.49,0:05:07.18,Default,,0000,0000,0000,,Föreställ er en algoritm\Nför anställning -
Dialogue: 0,0:05:08.12,0:05:12.43,Default,,0000,0000,0000,,ett maskininlärningssystem\Nsom används för att anställa människor.
Dialogue: 0,0:05:13.05,0:05:16.63,Default,,0000,0000,0000,,Ett sådant system har lärt sig\Nav data över tidigare anställda
Dialogue: 0,0:05:16.66,0:05:19.25,Default,,0000,0000,0000,,och instruerats att hitta och anställa
Dialogue: 0,0:05:19.27,0:05:22.31,Default,,0000,0000,0000,,likadana högpresterare\Nsom redan är anställda i företaget.
Dialogue: 0,0:05:22.81,0:05:23.97,Default,,0000,0000,0000,,Det låter ju bra.
Dialogue: 0,0:05:23.99,0:05:25.99,Default,,0000,0000,0000,,Jag deltog en gång i en konferens
Dialogue: 0,0:05:26.01,0:05:29.14,Default,,0000,0000,0000,,med personalchefer och chefer,
Dialogue: 0,0:05:29.16,0:05:30.37,Default,,0000,0000,0000,,högt uppsatta människor,
Dialogue: 0,0:05:30.39,0:05:31.95,Default,,0000,0000,0000,,som använder såna system.
Dialogue: 0,0:05:31.98,0:05:33.62,Default,,0000,0000,0000,,De var otroligt entusiastiska.
Dialogue: 0,0:05:33.65,0:05:37.06,Default,,0000,0000,0000,,De trodde att det här skulle göra\Nanställningsprocessen objektiv,
Dialogue: 0,0:05:37.06,0:05:38.43,Default,,0000,0000,0000,,och mindre fördomsfull,
Dialogue: 0,0:05:38.43,0:05:41.32,Default,,0000,0000,0000,,och ge kvinnor och minoriteter\Nen bättre chans
Dialogue: 0,0:05:41.35,0:05:43.76,Default,,0000,0000,0000,,mot fördomsfulla, partiska\Npersonalchefer.
Dialogue: 0,0:05:43.76,0:05:46.58,Default,,0000,0000,0000,,Men lyssna här -\Nanställningar är fördomsfulla.
Dialogue: 0,0:05:47.10,0:05:48.28,Default,,0000,0000,0000,,Jag vet.
Dialogue: 0,0:05:48.31,0:05:51.31,Default,,0000,0000,0000,,Jag menar, under mitt första jobb\Nsom programmerare,
Dialogue: 0,0:05:51.34,0:05:55.20,Default,,0000,0000,0000,,kom ibland min närmsta chef förbi
Dialogue: 0,0:05:55.23,0:05:58.98,Default,,0000,0000,0000,,antingen väldigt tidigt på morgonen\Neller mycket sent på eftermiddagen,
Dialogue: 0,0:05:59.01,0:06:02.07,Default,,0000,0000,0000,,och sade; "Zeynep, nu går vi på lunch!"
Dialogue: 0,0:06:02.72,0:06:04.89,Default,,0000,0000,0000,,Jag var brydd av den märkliga tajmingen.
Dialogue: 0,0:06:04.92,0:06:07.04,Default,,0000,0000,0000,,Klockan är fyra på eftermiddagen. Lunch?
Dialogue: 0,0:06:07.07,0:06:10.16,Default,,0000,0000,0000,,Jag var pank, så gratis lunch.\NJag följde alltid med.
Dialogue: 0,0:06:10.62,0:06:12.68,Default,,0000,0000,0000,,Senare förstod jag vad som hände.
Dialogue: 0,0:06:12.71,0:06:17.26,Default,,0000,0000,0000,,Min närmaste chef hade inte erkänt\Nför de högre cheferna
Dialogue: 0,0:06:17.28,0:06:21.63,Default,,0000,0000,0000,,att programmeraren de anställt\Nvar en tonårstjej
Dialogue: 0,0:06:21.65,0:06:24.71,Default,,0000,0000,0000,,i jeans och gymnastikskor.
Dialogue: 0,0:06:25.17,0:06:27.49,Default,,0000,0000,0000,,Jag gjorde ett bra jobb,\Njag såg bara fel ut
Dialogue: 0,0:06:27.49,0:06:29.10,Default,,0000,0000,0000,,och var ung och kvinna.
Dialogue: 0,0:06:29.12,0:06:32.47,Default,,0000,0000,0000,,Så att anställa utan att\Nta hänsyn till kön och ras
Dialogue: 0,0:06:32.49,0:06:34.36,Default,,0000,0000,0000,,låter verkligen bra i mina öron.
Dialogue: 0,0:06:35.03,0:06:38.37,Default,,0000,0000,0000,,Men med de här systemen\Nblir det mer komplicerat;
Dialogue: 0,0:06:38.97,0:06:44.76,Default,,0000,0000,0000,,Idag kan beräkningssystem\Ndra alla möjliga slutsatser om dig
Dialogue: 0,0:06:44.78,0:06:46.66,Default,,0000,0000,0000,,utifrån dina digitala avtryck,
Dialogue: 0,0:06:46.68,0:06:49.01,Default,,0000,0000,0000,,även om du inte har avslöjat dem.
Dialogue: 0,0:06:49.51,0:06:52.43,Default,,0000,0000,0000,,De kan dra slutsatser\Nom din sexuella läggning,
Dialogue: 0,0:06:52.99,0:06:54.30,Default,,0000,0000,0000,,dina karaktärsdrag,
Dialogue: 0,0:06:54.86,0:06:56.23,Default,,0000,0000,0000,,dina politiska böjelser.
Dialogue: 0,0:06:56.83,0:07:00.52,Default,,0000,0000,0000,,De kan prognostisera med hög noggrannhet.
Dialogue: 0,0:07:01.36,0:07:03.94,Default,,0000,0000,0000,,Kom ihåg - kring saker du inte avslöjat.
Dialogue: 0,0:07:03.96,0:07:05.56,Default,,0000,0000,0000,,Det är slutledningsförmåga.
Dialogue: 0,0:07:05.58,0:07:08.98,Default,,0000,0000,0000,,Jag har en vän som utvecklat\Nett beräkningssystem
Dialogue: 0,0:07:08.98,0:07:12.50,Default,,0000,0000,0000,,för att beräkna sannolikheten\Nför klinisk- eller förlossningsdepression
Dialogue: 0,0:07:12.53,0:07:13.94,Default,,0000,0000,0000,,utifrån digitala avtryck.
Dialogue: 0,0:07:14.68,0:07:16.10,Default,,0000,0000,0000,,Resultaten är imponerande.
Dialogue: 0,0:07:16.49,0:07:19.85,Default,,0000,0000,0000,,Hennes system kan beräkna\Nsannolikheten för depression
Dialogue: 0,0:07:19.87,0:07:23.78,Default,,0000,0000,0000,,månader innan symtomen visar sig -
Dialogue: 0,0:07:23.80,0:07:25.17,Default,,0000,0000,0000,,månader i förväg.
Dialogue: 0,0:07:25.20,0:07:27.44,Default,,0000,0000,0000,,Inga symtom, bara förutsägelse.
Dialogue: 0,0:07:27.47,0:07:31.32,Default,,0000,0000,0000,,Hon hoppas att det ska användas\Nför behandling i ett tidigt stadium.
Dialogue: 0,0:07:31.34,0:07:32.91,Default,,0000,0000,0000,,Jättebra!
Dialogue: 0,0:07:32.91,0:07:35.67,Default,,0000,0000,0000,,Men sätt in det\Ni ett anställningssammanhang.
Dialogue: 0,0:07:36.03,0:07:39.07,Default,,0000,0000,0000,,På den här personalchefskonferensen,
Dialogue: 0,0:07:39.10,0:07:43.81,Default,,0000,0000,0000,,frågade jag en högt uppsatt chef\Ni ett mycket stort företag,
Dialogue: 0,0:07:43.83,0:07:48.41,Default,,0000,0000,0000,,"Du, tänk om, utan att du vet,
Dialogue: 0,0:07:48.43,0:07:51.05,Default,,0000,0000,0000,,ert system gallrar ut
Dialogue: 0,0:07:51.05,0:07:55.31,Default,,0000,0000,0000,,personer med hög sannolikhet\Natt drabbas av depression?
Dialogue: 0,0:07:55.76,0:07:59.37,Default,,0000,0000,0000,,De är inte deprimerade nu,\Nmen kanske blir någon gång i framtiden.
Dialogue: 0,0:07:59.92,0:08:03.60,Default,,0000,0000,0000,,Tänk om det gallrar ut kvinnor\Nsom kan komma att bli gravida
Dialogue: 0,0:08:03.60,0:08:06.19,Default,,0000,0000,0000,,inom ett till två år\Nmen som inte är gravida nu?
Dialogue: 0,0:08:06.84,0:08:12.70,Default,,0000,0000,0000,,Tänk om aggressiva människor anställs för\Natt det är en del av er företagskultur?"
Dialogue: 0,0:08:13.17,0:08:15.86,Default,,0000,0000,0000,,Du kan inte bedöma det\Nutifrån könsfördelningen.
Dialogue: 0,0:08:15.89,0:08:17.39,Default,,0000,0000,0000,,De kan vara i balans.
Dialogue: 0,0:08:17.41,0:08:20.97,Default,,0000,0000,0000,,Eftersom detta gäller maskininlärning,\Noch inte traditionell kodning,
Dialogue: 0,0:08:20.100,0:08:25.90,Default,,0000,0000,0000,,finns det ingen variabel som säger\N"högre risk för depression,"
Dialogue: 0,0:08:25.93,0:08:27.76,Default,,0000,0000,0000,,"högre risk för graviditet,"
Dialogue: 0,0:08:27.78,0:08:29.52,Default,,0000,0000,0000,,"macho-tendenser."
Dialogue: 0,0:08:29.100,0:08:31.56,Default,,0000,0000,0000,,Du vet varken
Dialogue: 0,0:08:31.56,0:08:33.70,Default,,0000,0000,0000,,vad ditt system selekterar på,
Dialogue: 0,0:08:33.70,0:08:36.02,Default,,0000,0000,0000,,eller var du ska börja titta.
Dialogue: 0,0:08:36.04,0:08:37.29,Default,,0000,0000,0000,,Det är en svart låda.
Dialogue: 0,0:08:37.32,0:08:40.12,Default,,0000,0000,0000,,Det har en förutsägbar kraft,\Nmen du förstår inte det.
Dialogue: 0,0:08:40.49,0:08:42.86,Default,,0000,0000,0000,,"Vilka garantier, frågade jag, har du
Dialogue: 0,0:08:42.89,0:08:46.55,Default,,0000,0000,0000,,för att försäkra dig om\Natt din svarta låda inte gör något skumt?"
Dialogue: 0,0:08:48.86,0:08:52.74,Default,,0000,0000,0000,,Hon tittade på mig som om jag\Njust trampat på hennes hund.
Dialogue: 0,0:08:52.76,0:08:54.01,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:08:54.04,0:08:56.08,Default,,0000,0000,0000,,Hon stirrade på mig och sade,
Dialogue: 0,0:08:56.40,0:09:00.89,Default,,0000,0000,0000,,"Jag vill inte höra ett enda ord till."
Dialogue: 0,0:09:01.46,0:09:03.53,Default,,0000,0000,0000,,Hon vände sig om och gick.
Dialogue: 0,0:09:03.72,0:09:06.02,Default,,0000,0000,0000,,Kom ihåg - hon var inte oförskämd.
Dialogue: 0,0:09:06.02,0:09:11.88,Default,,0000,0000,0000,,Det var tydligt: Det jag inte vet\När inte mitt problem, stick iväg.
Dialogue: 0,0:09:11.91,0:09:13.15,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:09:13.86,0:09:17.70,Default,,0000,0000,0000,,Ett sånt system kan vara mindre subjektivt
Dialogue: 0,0:09:17.72,0:09:19.83,Default,,0000,0000,0000,,än personalchefer på vissa sätt.
Dialogue: 0,0:09:19.85,0:09:21.100,Default,,0000,0000,0000,,Och det kan vara ekonomiskt rimligt.
Dialogue: 0,0:09:22.57,0:09:24.65,Default,,0000,0000,0000,,Men det kan också leda till
Dialogue: 0,0:09:24.68,0:09:28.100,Default,,0000,0000,0000,,ett smygande utestängande\Nfrån arbetsmarknaden
Dialogue: 0,0:09:29.02,0:09:31.31,Default,,0000,0000,0000,,av människor med högre risk\Nför psykisk ohälsa.
Dialogue: 0,0:09:31.75,0:09:34.35,Default,,0000,0000,0000,,Vill vi bygga den sortens samhälle,
Dialogue: 0,0:09:34.37,0:09:36.66,Default,,0000,0000,0000,,utan att ens märka att vi gör det,
Dialogue: 0,0:09:36.68,0:09:38.82,Default,,0000,0000,0000,,för att vi låter maskiner ta besluten?
Dialogue: 0,0:09:38.82,0:09:41.26,Default,,0000,0000,0000,,Maskiner som vi inte begriper oss på?
Dialogue: 0,0:09:41.26,0:09:42.72,Default,,0000,0000,0000,,Ett annat problem är att
Dialogue: 0,0:09:43.31,0:09:47.77,Default,,0000,0000,0000,,dessa system ofta reagerar på data\Nsom genererats av våra aktiviteter,
Dialogue: 0,0:09:47.79,0:09:49.61,Default,,0000,0000,0000,,våra digitala avtryck.
Dialogue: 0,0:09:50.19,0:09:53.100,Default,,0000,0000,0000,,De kan ju bara reflektera våra fördomar,
Dialogue: 0,0:09:54.02,0:09:57.61,Default,,0000,0000,0000,,och dessa system\Nkan plocka upp fördomarna,
Dialogue: 0,0:09:57.64,0:09:58.95,Default,,0000,0000,0000,,förstärka dem
Dialogue: 0,0:09:58.97,0:10:00.39,Default,,0000,0000,0000,,och återspegla dem för oss,
Dialogue: 0,0:10:00.42,0:10:01.88,Default,,0000,0000,0000,,alltmedan vi intalar oss,
Dialogue: 0,0:10:01.90,0:10:05.02,Default,,0000,0000,0000,,att "Vi gör bara objektiva\Nneutrala beräkningar."
Dialogue: 0,0:10:06.31,0:10:08.99,Default,,0000,0000,0000,,Forskare fann att på Google,
Dialogue: 0,0:10:10.13,0:10:15.45,Default,,0000,0000,0000,,är det mindre troligt att kvinnor får se\Nannonser för välbetalda jobb än män.
Dialogue: 0,0:10:16.46,0:10:18.99,Default,,0000,0000,0000,,Söker man på afro-amerikanska namn
Dialogue: 0,0:10:19.02,0:10:23.72,Default,,0000,0000,0000,,är det mer troligt att man får annonser\Nsom antyder kriminell bakgrund,
Dialogue: 0,0:10:23.75,0:10:26.05,Default,,0000,0000,0000,,även när det inte finns någon koppling.
Dialogue: 0,0:10:26.69,0:10:30.24,Default,,0000,0000,0000,,Sådana dolda fördomar\Noch svarta lådor-algoritmer
Dialogue: 0,0:10:30.27,0:10:34.24,Default,,0000,0000,0000,,som forskare ibland upptäcker,\Noch ibland inte,
Dialogue: 0,0:10:34.26,0:10:36.92,Default,,0000,0000,0000,,kan få livsavgörande konsekvenser.
Dialogue: 0,0:10:37.96,0:10:42.12,Default,,0000,0000,0000,,I Wisconsin dömdes en åtalad\Ntill sex års fängelse
Dialogue: 0,0:10:42.14,0:10:43.89,Default,,0000,0000,0000,,för att ha kört från polisen.
Dialogue: 0,0:10:44.82,0:10:46.01,Default,,0000,0000,0000,,Du vet det kanske inte,
Dialogue: 0,0:10:46.03,0:10:50.06,Default,,0000,0000,0000,,men algoritmer används mer och mer\Nvid förelägganden och villkorliga straff.
Dialogue: 0,0:10:50.06,0:10:53.01,Default,,0000,0000,0000,,Han ville veta:\NHur beräknades straffsatsen?
Dialogue: 0,0:10:53.80,0:10:55.46,Default,,0000,0000,0000,,Av en kommersiell svart låda.
Dialogue: 0,0:10:55.48,0:10:58.50,Default,,0000,0000,0000,,Företaget vägrade\Natt få sin algoritm bedömd
Dialogue: 0,0:10:58.54,0:11:00.40,Default,,0000,0000,0000,,i en offentlig rättegång.
Dialogue: 0,0:11:00.40,0:11:05.93,Default,,0000,0000,0000,,Men det granskande, icke-vinstdrivande\Nföretaget Pro-Publica, jämförde den
Dialogue: 0,0:11:05.95,0:11:08.46,Default,,0000,0000,0000,,med den offentliga data\Nde kunde hitta, och fann
Dialogue: 0,0:11:08.48,0:11:10.43,Default,,0000,0000,0000,,att algoritmens utfall var partiskt
Dialogue: 0,0:11:10.44,0:11:13.96,Default,,0000,0000,0000,,och dess kraftfulla beräkningar usla,\Nknappt bättre än slumpen,
Dialogue: 0,0:11:13.98,0:11:18.40,Default,,0000,0000,0000,,och att den felaktigt pekade ut\Nsvarta åtalade som presumtiva brottslingar
Dialogue: 0,0:11:18.42,0:11:22.65,Default,,0000,0000,0000,,dubbelt så ofta som vita åtalade.
Dialogue: 0,0:11:23.89,0:11:25.46,Default,,0000,0000,0000,,Så, tänk över det här fallet:
Dialogue: 0,0:11:26.10,0:11:29.96,Default,,0000,0000,0000,,Den här kvinnan var sen\Nnär hon skulle hämta sitt gudbarn
Dialogue: 0,0:11:29.98,0:11:32.05,Default,,0000,0000,0000,,på en skola i Broward County i Florida,
Dialogue: 0,0:11:32.76,0:11:35.11,Default,,0000,0000,0000,,hon och hennes vänner sprang nerför gatan.
Dialogue: 0,0:11:35.14,0:11:39.24,Default,,0000,0000,0000,,De fick syn på en olåst barncykel\Noch en sparkcykel på en veranda
Dialogue: 0,0:11:39.26,0:11:40.89,Default,,0000,0000,0000,,och tog dem dumt nog.
Dialogue: 0,0:11:40.92,0:11:43.52,Default,,0000,0000,0000,,När de stack iväg,\Nkom en kvinna ut och sade,
Dialogue: 0,0:11:43.54,0:11:45.74,Default,,0000,0000,0000,,"Hallå! Det där är mitt barns prylar."
Dialogue: 0,0:11:45.77,0:11:49.06,Default,,0000,0000,0000,,De släppte dem, gick därifrån,\Nmen blev anhållna.
Dialogue: 0,0:11:49.09,0:11:52.72,Default,,0000,0000,0000,,Hon gjorde fel, hon betedde sig dumt,\Nmen hon var också bara arton år.
Dialogue: 0,0:11:52.75,0:11:54.80,Default,,0000,0000,0000,,Hon hade några ungsdomsförseelser
Dialogue: 0,0:11:54.80,0:11:56.03,Default,,0000,0000,0000,,sedan tidigare.
Dialogue: 0,0:11:56.03,0:12:01.00,Default,,0000,0000,0000,,Samtidigt hade den här mannen\Nblivit anhållen för snatteri i Home Depot,
Dialogue: 0,0:12:01.02,0:12:04.13,Default,,0000,0000,0000,,prylar för 85 dollar,\Nett ganska litet brott.
Dialogue: 0,0:12:04.77,0:12:09.32,Default,,0000,0000,0000,,Men han hade tidigare blivit dömd\Nför två väpnade rån.
Dialogue: 0,0:12:09.96,0:12:13.66,Default,,0000,0000,0000,,Men algoritmen bedömde henne\Nsom en högre risk än honom.
Dialogue: 0,0:12:14.75,0:12:18.62,Default,,0000,0000,0000,,Två år senare fann ProPublica\Natt hon inte återfallit i brott.
Dialogue: 0,0:12:18.64,0:12:21.19,Default,,0000,0000,0000,,Hon hade bara svårt\Natt få jobb med sin bakgrund.
Dialogue: 0,0:12:21.22,0:12:23.29,Default,,0000,0000,0000,,Han, å andra sidan,\Nåterföll i brottslighet
Dialogue: 0,0:12:23.32,0:12:25.97,Default,,0000,0000,0000,,och avtjänar nu\Nett åttaårigt fängelsestraff
Dialogue: 0,0:12:25.97,0:12:28.09,Default,,0000,0000,0000,,för ett nytt brott.
Dialogue: 0,0:12:28.09,0:12:31.46,Default,,0000,0000,0000,,Det är tydligt att vi måste revidera\Nvåra svarta lådor
Dialogue: 0,0:12:31.48,0:12:34.35,Default,,0000,0000,0000,,och inte låta dem få\Nsådan här okontrollerad makt.
Dialogue: 0,0:12:34.35,0:12:36.100,Default,,0000,0000,0000,,(Applåder)
Dialogue: 0,0:12:38.09,0:12:42.33,Default,,0000,0000,0000,,Kontroller är bra och viktiga,\Nmen de löser inte alla våra problem.
Dialogue: 0,0:12:42.35,0:12:45.25,Default,,0000,0000,0000,,Ta Facebooks kraftfulla algoritm\Nför vårt nyhetsflöde -
Dialogue: 0,0:12:45.25,0:12:49.97,Default,,0000,0000,0000,,ni vet, den som rangordnar allt\Noch bestämmer vad som ska visas för dig
Dialogue: 0,0:12:49.99,0:12:52.28,Default,,0000,0000,0000,,från alla vänner och sidor du följer.
Dialogue: 0,0:12:52.90,0:12:55.17,Default,,0000,0000,0000,,Ska du få se ännu en spädbarnsbild?
Dialogue: 0,0:12:55.20,0:12:56.39,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:12:56.42,0:12:59.01,Default,,0000,0000,0000,,En vresig kommentar från en bekant?
Dialogue: 0,0:12:59.45,0:13:01.30,Default,,0000,0000,0000,,En viktig men svår nyhetsnotis?
Dialogue: 0,0:13:01.33,0:13:02.81,Default,,0000,0000,0000,,Det finns inget rätt svar.
Dialogue: 0,0:13:02.84,0:13:05.49,Default,,0000,0000,0000,,Facebook optimerar flödet\Nför att få engagemang:
Dialogue: 0,0:13:05.52,0:13:07.26,Default,,0000,0000,0000,,gilla, dela, kommentera.
Dialogue: 0,0:13:08.17,0:13:10.86,Default,,0000,0000,0000,,I augusti 2014
Dialogue: 0,0:13:10.89,0:13:13.55,Default,,0000,0000,0000,,bröt protester ut i Ferguson, Missouri,
Dialogue: 0,0:13:13.57,0:13:17.99,Default,,0000,0000,0000,,efter att en vit polis dödat\Nen afro-amerikansk tonåring,
Dialogue: 0,0:13:18.02,0:13:19.58,Default,,0000,0000,0000,,under märkliga omständigheter.
Dialogue: 0,0:13:19.97,0:13:21.98,Default,,0000,0000,0000,,Nyheten om protesterna fanns överallt
Dialogue: 0,0:13:22.00,0:13:24.69,Default,,0000,0000,0000,,i mitt i stort sett\Nalgoritmfria Twitter-flöde,
Dialogue: 0,0:13:24.71,0:13:26.66,Default,,0000,0000,0000,,men inte alls på min Facebook.
Dialogue: 0,0:13:27.18,0:13:28.92,Default,,0000,0000,0000,,Berodde det på mina Facebook-vänner?
Dialogue: 0,0:13:28.94,0:13:30.97,Default,,0000,0000,0000,,Jag inaktiverade Facebooks algoritm,
Dialogue: 0,0:13:31.47,0:13:34.32,Default,,0000,0000,0000,,vilket är svårt för de vill ha dig
Dialogue: 0,0:13:34.34,0:13:36.38,Default,,0000,0000,0000,,under algoritmens kontroll,
Dialogue: 0,0:13:36.40,0:13:38.52,Default,,0000,0000,0000,,och såg att mina vänner\Npratade om händelsen.
Dialogue: 0,0:13:38.53,0:13:40.84,Default,,0000,0000,0000,,Det var bara det att algoritmen\Ninte visade det.
Dialogue: 0,0:13:40.84,0:13:44.63,Default,,0000,0000,0000,,Jag undersökte saken och fann\Natt det är ett vanligt problem.
Dialogue: 0,0:13:44.63,0:13:48.08,Default,,0000,0000,0000,,Händelsen i Ferguson\Nvar inte algoritm-vänlig.
Dialogue: 0,0:13:48.10,0:13:49.41,Default,,0000,0000,0000,,Den var inte "sympatisk."
Dialogue: 0,0:13:49.43,0:13:50.85,Default,,0000,0000,0000,,Vem skulle klicka på "gilla?"
Dialogue: 0,0:13:51.50,0:13:53.71,Default,,0000,0000,0000,,Den är inte ens lätt att kommentera.
Dialogue: 0,0:13:53.73,0:13:55.30,Default,,0000,0000,0000,,Utan gillanden och kommentarer
Dialogue: 0,0:13:55.32,0:13:58.42,Default,,0000,0000,0000,,skulle algoritmen troligen visa den\Nför ännu färre människor,
Dialogue: 0,0:13:58.44,0:14:00.19,Default,,0000,0000,0000,,så därför fick vi inte se den.
Dialogue: 0,0:14:00.95,0:14:02.17,Default,,0000,0000,0000,,Istället, den veckan,
Dialogue: 0,0:14:02.20,0:14:04.50,Default,,0000,0000,0000,,lyfte Facebooks algoritm fram det här,
Dialogue: 0,0:14:04.52,0:14:06.75,Default,,0000,0000,0000,,ALS Ice Bucket Challenge.
Dialogue: 0,0:14:06.77,0:14:10.51,Default,,0000,0000,0000,,Häll iskallt vatten över dig,\Noch skänk pengar för ett gott syfte.
Dialogue: 0,0:14:10.54,0:14:12.87,Default,,0000,0000,0000,,Den var superalgoritmvänlig.
Dialogue: 0,0:14:13.22,0:14:15.83,Default,,0000,0000,0000,,Maskinen tog beslutet åt oss.
Dialogue: 0,0:14:15.86,0:14:19.35,Default,,0000,0000,0000,,En mycket viktig men svår diskussion
Dialogue: 0,0:14:19.38,0:14:20.93,Default,,0000,0000,0000,,skulle förmodligen kvävts
Dialogue: 0,0:14:20.96,0:14:23.79,Default,,0000,0000,0000,,om Facebook hade varit \Nden enda nyhetskällan.
Dialogue: 0,0:14:24.12,0:14:27.91,Default,,0000,0000,0000,,Till sist, de här systemen\Nkan också göra fel
Dialogue: 0,0:14:27.94,0:14:30.67,Default,,0000,0000,0000,,på sätt som människor inte skulle göra.
Dialogue: 0,0:14:30.70,0:14:33.62,Default,,0000,0000,0000,,Kommer ni ihåg Watson,\NIBMs intelligenta dator
Dialogue: 0,0:14:33.64,0:14:36.77,Default,,0000,0000,0000,,som sopade mattan\Nmed deltagarna i Jeopardy?
Dialogue: 0,0:14:36.84,0:14:38.56,Default,,0000,0000,0000,,Den var en duktig motståndare.
Dialogue: 0,0:14:38.58,0:14:42.15,Default,,0000,0000,0000,,Men sen, som sista fråga i Jeopardy,\Nfick Watson följande fråga:
Dialogue: 0,0:14:42.52,0:14:45.77,Default,,0000,0000,0000,,"Största flygplatsen är döpt\Nefter en hjälte i 2:a världskriget,
Dialogue: 0,0:14:45.78,0:14:48.14,Default,,0000,0000,0000,,den andra största,\Nfrån ett slag i samma krig."
Dialogue: 0,0:14:48.15,0:14:49.58,Default,,0000,0000,0000,,(Nynnar Jeopardy-vinjetten)
Dialogue: 0,0:14:49.58,0:14:50.76,Default,,0000,0000,0000,,Chicago.
Dialogue: 0,0:14:50.78,0:14:52.67,Default,,0000,0000,0000,,De två människorna svarade rätt.
Dialogue: 0,0:14:52.70,0:14:57.04,Default,,0000,0000,0000,,Watson, å sin sida, svarade "Toronto" -
Dialogue: 0,0:14:57.07,0:14:58.89,Default,,0000,0000,0000,,i kategorin amerikanska städer!
Dialogue: 0,0:14:59.34,0:15:02.31,Default,,0000,0000,0000,,Den imponerande maskinen\Ngjorde också fel
Dialogue: 0,0:15:02.34,0:15:06.45,Default,,0000,0000,0000,,som en människa aldrig skulle göra,\Nen lågstadieelev aldrig skulle göra.
Dialogue: 0,0:15:06.82,0:15:09.93,Default,,0000,0000,0000,,Våra intelligenta maskiner kan misslyckas
Dialogue: 0,0:15:09.96,0:15:13.06,Default,,0000,0000,0000,,på sätt som inte följer\Nmänskliga mönster,
Dialogue: 0,0:15:13.08,0:15:16.03,Default,,0000,0000,0000,,på sätt som vi inte förväntar oss\Noch är förberedda för.
Dialogue: 0,0:15:16.05,0:15:19.69,Default,,0000,0000,0000,,Det är botten att inte få\Nett jobb man är kvalificerad för,
Dialogue: 0,0:15:19.72,0:15:23.30,Default,,0000,0000,0000,,men det skulle suga om det\Nberodde på minneshanteringen
Dialogue: 0,0:15:23.32,0:15:24.90,Default,,0000,0000,0000,,i någon subrutin.
Dialogue: 0,0:15:24.92,0:15:26.50,Default,,0000,0000,0000,,(Skratt)
Dialogue: 0,0:15:26.53,0:15:29.31,Default,,0000,0000,0000,,I maj 2010
Dialogue: 0,0:15:29.34,0:15:33.38,Default,,0000,0000,0000,,drabbades Wall Street av en "blixtkrasch"\Nsom förstärktes av en loop
Dialogue: 0,0:15:33.40,0:15:36.43,Default,,0000,0000,0000,,i Wall Streets sälj-algoritm
Dialogue: 0,0:15:36.46,0:15:40.64,Default,,0000,0000,0000,,som på 36 minuter\Nraderade en miljard dollar.
Dialogue: 0,0:15:41.72,0:15:43.91,Default,,0000,0000,0000,,Jag vill inte tänka på vad "error" betyder
Dialogue: 0,0:15:43.93,0:15:47.85,Default,,0000,0000,0000,,i samband med automatiserade vapensystem.
Dialogue: 0,0:15:49.89,0:15:53.68,Default,,0000,0000,0000,,Visst, människor har alltid\Ngjort partiska antaganden.
Dialogue: 0,0:15:53.71,0:15:55.88,Default,,0000,0000,0000,,Beslutsfattare och andra grindvakter,
Dialogue: 0,0:15:55.91,0:15:59.40,Default,,0000,0000,0000,,i domstolar, i nyheter, i krig ...
Dialogue: 0,0:15:59.42,0:16:02.46,Default,,0000,0000,0000,,de gör misstag;\Noch det är det här jag menar.
Dialogue: 0,0:16:02.49,0:16:06.20,Default,,0000,0000,0000,,Vi kan inte rymma från\Nde här svåra frågeställningarna.
Dialogue: 0,0:16:06.60,0:16:07.68,Default,,0000,0000,0000,,Vi kan inte
Dialogue: 0,0:16:07.68,0:16:10.44,Default,,0000,0000,0000,,lämna över ansvaret till maskiner.
Dialogue: 0,0:16:10.68,0:16:13.67,Default,,0000,0000,0000,,(Applåder)
Dialogue: 0,0:16:17.09,0:16:21.81,Default,,0000,0000,0000,,Artificiell intelligens ger oss inte\Nett frikort när det gäller etik.
Dialogue: 0,0:16:22.74,0:16:26.12,Default,,0000,0000,0000,,Dataanalytikern Fred Benenson\Nkallar det för matematik-tvätt.
Dialogue: 0,0:16:26.15,0:16:27.54,Default,,0000,0000,0000,,Vi behöver motsatsen.
Dialogue: 0,0:16:27.56,0:16:32.95,Default,,0000,0000,0000,,Vi måste förfina algoritmerna,\Ngranska och kontrollera dem.
Dialogue: 0,0:16:33.38,0:16:36.58,Default,,0000,0000,0000,,Vi måste se till att ha\Nansvarsfulla algoritmer,
Dialogue: 0,0:16:36.60,0:16:39.05,Default,,0000,0000,0000,,revideringar och meningsfull transparens.
Dialogue: 0,0:16:39.23,0:16:42.86,Default,,0000,0000,0000,,Vi måste förstå att användande av\Nmatematik och maskinberäkningar
Dialogue: 0,0:16:42.87,0:16:45.61,Default,,0000,0000,0000,,i krångliga, värdeladdade\Nmänskliga relationer
Dialogue: 0,0:16:45.63,0:16:48.02,Default,,0000,0000,0000,,inte skapar objektivitet;
Dialogue: 0,0:16:48.04,0:16:51.67,Default,,0000,0000,0000,,utan snarare, att komplexa handlingar\Npåverkar algoritmerna.
Dialogue: 0,0:16:52.15,0:16:55.64,Default,,0000,0000,0000,,Ja, vi kan och vi bör\Nanvända maskinberäkningar
Dialogue: 0,0:16:55.66,0:16:57.67,Default,,0000,0000,0000,,som en hjälp för att ta bättre beslut.
Dialogue: 0,0:16:57.70,0:17:03.03,Default,,0000,0000,0000,,Men vi måste ta vårt moraliska ansvar\Ni beaktande i bedömningarna
Dialogue: 0,0:17:03.05,0:17:05.87,Default,,0000,0000,0000,,och använda algoritmerna i det ramverket,
Dialogue: 0,0:17:05.90,0:17:10.83,Default,,0000,0000,0000,,och inte som ett sätt att frånsäga oss\Neller outsourca vårt ansvar
Dialogue: 0,0:17:10.85,0:17:13.31,Default,,0000,0000,0000,,till varandra som människa till människa.
Dialogue: 0,0:17:13.81,0:17:16.42,Default,,0000,0000,0000,,Maskinintelligens är här för att stanna.
Dialogue: 0,0:17:16.44,0:17:19.86,Default,,0000,0000,0000,,Det betyder att vi måste\Nhålla ännu hårdare
Dialogue: 0,0:17:19.88,0:17:22.03,Default,,0000,0000,0000,,i våra värderingar och vår etik.
Dialogue: 0,0:17:22.06,0:17:23.21,Default,,0000,0000,0000,,Tack.
Dialogue: 0,0:17:23.23,0:17:26.21,Default,,0000,0000,0000,,(Applåder)