[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.98,0:00:02.57,Default,,0000,0000,0000,,Algoritmii sunt pretutindeni.
Dialogue: 0,0:00:04.11,0:00:07.24,Default,,0000,0000,0000,,Sortează și separă\Nînvingătorii de învinși.
Dialogue: 0,0:00:08.02,0:00:10.22,Default,,0000,0000,0000,,Învingătorii obțin locul de muncă
Dialogue: 0,0:00:10.22,0:00:12.14,Default,,0000,0000,0000,,sau oferta bună pentru cardul de credit.
Dialogue: 0,0:00:12.14,0:00:14.72,Default,,0000,0000,0000,,Învinșii n-au parte nici măcar de interviu
Dialogue: 0,0:00:15.59,0:00:17.49,Default,,0000,0000,0000,,sau plătesc mai mult pentru asigurare.
Dialogue: 0,0:00:18.20,0:00:21.75,Default,,0000,0000,0000,,Suntem evaluați cu formule secrete\Npe care nu le înțelegem
Dialogue: 0,0:00:22.68,0:00:25.89,Default,,0000,0000,0000,,și care, adesea, nu pot fi contestate.
Dialogue: 0,0:00:27.24,0:00:31.11,Default,,0000,0000,0000,,Asta impune întrebarea:\Nși dacă algoritmii conțin erori?
Dialogue: 0,0:00:33.10,0:00:37.16,Default,,0000,0000,0000,,E nevoie de două lucruri pentru algoritmi:\Ndate, ce s-a întâmplat în trecut,
Dialogue: 0,0:00:37.16,0:00:41.24,Default,,0000,0000,0000,,și o definiție a succesului,\Na ceea ce cauți și speri să obții.
Dialogue: 0,0:00:41.24,0:00:46.30,Default,,0000,0000,0000,,Algoritmul se formează\Nobservând, descifrând.
Dialogue: 0,0:00:46.30,0:00:49.74,Default,,0000,0000,0000,,Algoritmul deduce\Nce se asociază cu succesul,
Dialogue: 0,0:00:49.74,0:00:52.20,Default,,0000,0000,0000,,care situație conduce către succes.
Dialogue: 0,0:00:52.88,0:00:57.40,Default,,0000,0000,0000,,De fapt, toată lumea folosește algoritmi,\Ndar nu formalizați în scris.
Dialogue: 0,0:00:57.40,0:00:58.31,Default,,0000,0000,0000,,Vă dau un exemplu.
Dialogue: 0,0:00:58.31,0:01:02.12,Default,,0000,0000,0000,,Folosesc zilnic un algoritm\Nca să pregătesc masa pentru familia mea.
Dialogue: 0,0:01:02.12,0:01:03.60,Default,,0000,0000,0000,,Datele pe care le folosesc
Dialogue: 0,0:01:04.39,0:01:07.63,Default,,0000,0000,0000,,sunt ingredientele din bucătărie,\Ntimpul disponibil,
Dialogue: 0,0:01:07.63,0:01:10.62,Default,,0000,0000,0000,,ambiția pe care o am,\Napoi organizez datele.
Dialogue: 0,0:01:10.62,0:01:14.89,Default,,0000,0000,0000,,Nu consider mâncare\Npachețelele de tăieței ramen.
Dialogue: 0,0:01:14.89,0:01:16.79,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:01:16.79,0:01:18.66,Default,,0000,0000,0000,,Definiția mea a succesului e:
Dialogue: 0,0:01:18.66,0:01:21.31,Default,,0000,0000,0000,,o masă e reușită\Ncând copiii mei mănâncă legume.
Dialogue: 0,0:01:22.12,0:01:25.10,Default,,0000,0000,0000,,E foarte diferită de a mezinului meu\Ncare, dacă ar fi după el,
Dialogue: 0,0:01:25.10,0:01:27.85,Default,,0000,0000,0000,,ar zice că succesul înseamnă\Nsă mănânce multă Nutella.
Dialogue: 0,0:01:29.18,0:01:31.42,Default,,0000,0000,0000,,Dar eu sunt cea care alege succesul.
Dialogue: 0,0:01:31.42,0:01:34.16,Default,,0000,0000,0000,,Eu conduc. Părerea mea contează.
Dialogue: 0,0:01:34.16,0:01:36.86,Default,,0000,0000,0000,,Asta e prima regulă a algoritmilor.
Dialogue: 0,0:01:36.86,0:01:40.04,Default,,0000,0000,0000,,Algoritmii sunt păreri încorporate în cod.
Dialogue: 0,0:01:41.56,0:01:45.24,Default,,0000,0000,0000,,E foarte diferit de ce credeți voi\Ncă majoritatea crede despre algoritmi.
Dialogue: 0,0:01:45.24,0:01:49.75,Default,,0000,0000,0000,,Ei cred că algoritmii\Nsunt obiectivi, adevărați și științifici.
Dialogue: 0,0:01:50.39,0:01:52.09,Default,,0000,0000,0000,,Ăsta e un truc de marketing.
Dialogue: 0,0:01:53.27,0:01:55.42,Default,,0000,0000,0000,,Și tot un truc al marketingului
Dialogue: 0,0:01:55.42,0:01:58.60,Default,,0000,0000,0000,,e să vă intimideze cu algoritmi,
Dialogue: 0,0:01:58.60,0:02:02.28,Default,,0000,0000,0000,,să vă încredeți\Nși să vă temeți de algoritmi,
Dialogue: 0,0:02:02.28,0:02:04.62,Default,,0000,0000,0000,,pentru că vă încredeți\Nși vă temeți de matematică.
Dialogue: 0,0:02:05.57,0:02:10.40,Default,,0000,0000,0000,,Pot apărea multe probleme când avem\Nîncredere oarbă în volume mari de date.
Dialogue: 0,0:02:11.68,0:02:15.08,Default,,0000,0000,0000,,Ea e Kiri Soares, directoarea\Nunui liceu din Brooklyn.
Dialogue: 0,0:02:15.08,0:02:17.69,Default,,0000,0000,0000,,În 2011 mi-a zis că profesorii ei\Nerau evaluați\N
Dialogue: 0,0:02:17.69,0:02:20.44,Default,,0000,0000,0000,,cu un algoritm complex și secret,
Dialogue: 0,0:02:20.44,0:02:22.01,Default,,0000,0000,0000,,numit „modelul valoare adăugată”.
Dialogue: 0,0:02:22.50,0:02:27.19,Default,,0000,0000,0000,,I-am zis: „Află care e formula,\Narată-mi-o și ți-o explic.”
Dialogue: 0,0:02:27.19,0:02:30.76,Default,,0000,0000,0000,,Ea a zis: „Am încercat să obțin formula,\Ndar la Departamentul de Educație
Dialogue: 0,0:02:30.76,0:02:33.69,Default,,0000,0000,0000,,mi s-a zis că e matematică\Nși n-o să înțeleg.”
Dialogue: 0,0:02:35.27,0:02:36.63,Default,,0000,0000,0000,,Se poate și mai rău.
Dialogue: 0,0:02:36.63,0:02:40.18,Default,,0000,0000,0000,,New York Post a solicitat, conform\NLegii privind libertatea de informare,
Dialogue: 0,0:02:40.18,0:02:43.17,Default,,0000,0000,0000,,și a obținut numele\Ntuturor profesorilor și punctajele lor
Dialogue: 0,0:02:43.17,0:02:45.95,Default,,0000,0000,0000,,și le-a publicat pentru a-i blama public.
Dialogue: 0,0:02:47.08,0:02:50.97,Default,,0000,0000,0000,,Când am încercat să obțin formula,\Ncodul sursă, cu aceleași mijloace,
Dialogue: 0,0:02:50.97,0:02:53.14,Default,,0000,0000,0000,,mi s-a zis că nu se poate.
Dialogue: 0,0:02:53.14,0:02:54.40,Default,,0000,0000,0000,,Mi s-a refuzat.
Dialogue: 0,0:02:54.40,0:02:55.60,Default,,0000,0000,0000,,Mai târziu am aflat
Dialogue: 0,0:02:55.60,0:02:58.48,Default,,0000,0000,0000,,că nimeni din New York\Nn-avea acces la acea formulă.
Dialogue: 0,0:02:58.48,0:02:59.79,Default,,0000,0000,0000,,Nimeni n-o înțelegea.
Dialogue: 0,0:03:01.93,0:03:05.18,Default,,0000,0000,0000,,Apoi s-a implicat cineva\Nfoarte inteligent: Gary Rubinstein.
Dialogue: 0,0:03:05.18,0:03:08.82,Default,,0000,0000,0000,,A descoperit că 665 de profesori\Ndin datele de la New York Post
Dialogue: 0,0:03:08.82,0:03:10.71,Default,,0000,0000,0000,,aveau, de fapt, două punctaje.
Dialogue: 0,0:03:10.71,0:03:12.62,Default,,0000,0000,0000,,Asta se putea întâmpla dacă predau
Dialogue: 0,0:03:12.62,0:03:15.08,Default,,0000,0000,0000,,matematică de clasa a șaptea și a opta.
Dialogue: 0,0:03:15.08,0:03:16.67,Default,,0000,0000,0000,,A decis să facă un grafic.
Dialogue: 0,0:03:16.67,0:03:18.64,Default,,0000,0000,0000,,Fiecare punct reprezintă un profesor.
Dialogue: 0,0:03:19.10,0:03:21.51,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:03:21.51,0:03:23.05,Default,,0000,0000,0000,,Ce-i asta?
Dialogue: 0,0:03:23.05,0:03:24.35,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:03:24.35,0:03:27.57,Default,,0000,0000,0000,,N-ar fi trebuit să fie niciodată\Nfolosit pentru evaluare personală.
Dialogue: 0,0:03:27.57,0:03:29.77,Default,,0000,0000,0000,,E mai degrabă un generator\Nde numere aleatorii.
Dialogue: 0,0:03:29.77,0:03:32.74,Default,,0000,0000,0000,,(Aplauze)
Dialogue: 0,0:03:32.74,0:03:33.52,Default,,0000,0000,0000,,Dar a fost.
Dialogue: 0,0:03:33.52,0:03:34.53,Default,,0000,0000,0000,,Ea e Sarah Wysocki.
Dialogue: 0,0:03:34.53,0:03:37.26,Default,,0000,0000,0000,,A fost concediată,\Nîmpreună cu alți 205 profesori,
Dialogue: 0,0:03:37.26,0:03:40.01,Default,,0000,0000,0000,,din districtul școlar al Washington DC,
Dialogue: 0,0:03:40.01,0:03:44.35,Default,,0000,0000,0000,,deși avea recomandări excelente\Nde la director și părinții copiilor.
Dialogue: 0,0:03:45.39,0:03:46.97,Default,,0000,0000,0000,,Știu ce gândesc mulți dintre voi,
Dialogue: 0,0:03:46.97,0:03:49.53,Default,,0000,0000,0000,,mai ales experții în date\Nși inteligență artificială.
Dialogue: 0,0:03:49.53,0:03:54.18,Default,,0000,0000,0000,,Vă ziceți: „N-aș face niciodată\Nun algoritm așa de inconsecvent.”
Dialogue: 0,0:03:54.85,0:03:56.56,Default,,0000,0000,0000,,Dar algoritmii pot da greș,
Dialogue: 0,0:03:56.56,0:04:01.16,Default,,0000,0000,0000,,pot avea chiar efecte profund distructive\Nîn ciuda bunelor intenții.
Dialogue: 0,0:04:02.53,0:04:04.93,Default,,0000,0000,0000,,Dar în timp ce un avion\Ncare e prost conceput
Dialogue: 0,0:04:04.93,0:04:06.96,Default,,0000,0000,0000,,se prăbușește și poate fi văzut de toți,
Dialogue: 0,0:04:06.96,0:04:08.81,Default,,0000,0000,0000,,un algoritm prost conceput
Dialogue: 0,0:04:10.24,0:04:14.11,Default,,0000,0000,0000,,poate să funcționeze mult timp\Nfăcând ravagii pe ascuns.
Dialogue: 0,0:04:15.75,0:04:17.34,Default,,0000,0000,0000,,El e Roger Ailes.
Dialogue: 0,0:04:17.34,0:04:19.34,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:04:20.52,0:04:22.91,Default,,0000,0000,0000,,A fondat Fox News în 1996.
Dialogue: 0,0:04:23.44,0:04:26.04,Default,,0000,0000,0000,,Peste 20 de femei\Ns-au plâns de hărțuire sexuală.
Dialogue: 0,0:04:26.04,0:04:29.30,Default,,0000,0000,0000,,Au zis că nu li s-a permis\Nsă aibă succes la Fox News.
Dialogue: 0,0:04:29.30,0:04:31.84,Default,,0000,0000,0000,,A fost demis anul trecut,\Ndar am văzut recent
Dialogue: 0,0:04:31.84,0:04:34.51,Default,,0000,0000,0000,,că problemele au persistat.
Dialogue: 0,0:04:35.65,0:04:37.08,Default,,0000,0000,0000,,Asta impune întrebarea:
Dialogue: 0,0:04:37.08,0:04:39.96,Default,,0000,0000,0000,,ce ar trebui să facă Fox News\Npentru a întoarce pagina?
Dialogue: 0,0:04:41.24,0:04:44.19,Default,,0000,0000,0000,,Cum ar fi dacă ar înlocui\Nprocesul de recrutare
Dialogue: 0,0:04:44.19,0:04:45.99,Default,,0000,0000,0000,,cu algoritmi de învățare automatizată?
Dialogue: 0,0:04:45.99,0:04:47.61,Default,,0000,0000,0000,,Sună bine, nu?
Dialogue: 0,0:04:47.61,0:04:48.93,Default,,0000,0000,0000,,Gândiți-vă la asta.
Dialogue: 0,0:04:48.93,0:04:51.06,Default,,0000,0000,0000,,Care ar fi datele?
Dialogue: 0,0:04:51.06,0:04:56.03,Default,,0000,0000,0000,,O alegere rezonabilă ar fi cererile\Nde angajare din ultimii 21 de ani.
Dialogue: 0,0:04:56.03,0:04:57.56,Default,,0000,0000,0000,,Rezonabilă.
Dialogue: 0,0:04:57.56,0:04:59.50,Default,,0000,0000,0000,,Dar definiția succesului?
Dialogue: 0,0:04:59.92,0:05:01.26,Default,,0000,0000,0000,,Alegerea rezonabilă ar fi...
Dialogue: 0,0:05:01.26,0:05:03.07,Default,,0000,0000,0000,,păi, cine are succes la Fox News?
Dialogue: 0,0:05:03.07,0:05:06.68,Default,,0000,0000,0000,,Presupun că cineva care, să zicem,\Na lucrat acolo patru ani
Dialogue: 0,0:05:06.68,0:05:08.54,Default,,0000,0000,0000,,și a fost promovat cel puțin o dată.
Dialogue: 0,0:05:08.82,0:05:10.40,Default,,0000,0000,0000,,Sună rezonabil.
Dialogue: 0,0:05:10.40,0:05:12.78,Default,,0000,0000,0000,,Apoi algoritmul ar fi instruit.
Dialogue: 0,0:05:12.78,0:05:16.66,Default,,0000,0000,0000,,Va fi instruit să caute oameni,\Nca să înțeleagă ce a condus la succes,
Dialogue: 0,0:05:17.22,0:05:21.56,Default,,0000,0000,0000,,ce fel de cereri de angajare\Nau condus de-a lungul timpului la succes,
Dialogue: 0,0:05:21.56,0:05:22.86,Default,,0000,0000,0000,,conform definiției.
Dialogue: 0,0:05:24.20,0:05:26.02,Default,,0000,0000,0000,,Acum gândiți-vă ce s-ar întâmpla
Dialogue: 0,0:05:26.02,0:05:28.55,Default,,0000,0000,0000,,dacă am aplica asta\Nunui grup actual de candidați.
Dialogue: 0,0:05:29.12,0:05:30.75,Default,,0000,0000,0000,,Ar filtra femeile,
Dialogue: 0,0:05:31.66,0:05:35.59,Default,,0000,0000,0000,,pentru că ele nu par genul\Ncare să fi avut succes în trecut.
Dialogue: 0,0:05:39.75,0:05:42.31,Default,,0000,0000,0000,,Algoritmii nu fac lucrurile echitabile,
Dialogue: 0,0:05:42.31,0:05:45.03,Default,,0000,0000,0000,,dacă-i aplici fără griji și discernământ.
Dialogue: 0,0:05:45.03,0:05:46.54,Default,,0000,0000,0000,,Nu fac lucrurile echitabile.
Dialogue: 0,0:05:46.54,0:05:48.68,Default,,0000,0000,0000,,Ei repetă procedeele noastre din trecut,
Dialogue: 0,0:05:48.68,0:05:49.90,Default,,0000,0000,0000,,tiparele noastre.
Dialogue: 0,0:05:49.90,0:05:51.84,Default,,0000,0000,0000,,Automatizează status quo-ul.
Dialogue: 0,0:05:52.72,0:05:55.51,Default,,0000,0000,0000,,Asta ar fi minunat\Ndacă am trăi într-o lume perfectă,
Dialogue: 0,0:05:55.90,0:05:57.24,Default,,0000,0000,0000,,dar nu trăim.
Dialogue: 0,0:05:57.24,0:06:01.34,Default,,0000,0000,0000,,Adaug că majoritatea companiilor\Nn-au procese de judecată jenante,
Dialogue: 0,0:06:02.45,0:06:05.06,Default,,0000,0000,0000,,dar specialiștilor în date\Ndin acele companii
Dialogue: 0,0:06:05.06,0:06:07.27,Default,,0000,0000,0000,,li se spune să urmărească datele,
Dialogue: 0,0:06:07.27,0:06:09.41,Default,,0000,0000,0000,,să se concentreze pe acuratețe.
Dialogue: 0,0:06:10.27,0:06:11.68,Default,,0000,0000,0000,,Gândiți-vă ce înseamnă asta.
Dialogue: 0,0:06:11.68,0:06:14.60,Default,,0000,0000,0000,,Pentru că toți avem prejudecăți,\Nînseamnă că ar putea codifica
Dialogue: 0,0:06:14.60,0:06:17.54,Default,,0000,0000,0000,,discriminarea sexuală\Nsau orice alt fel de intoleranță.
Dialogue: 0,0:06:19.49,0:06:20.93,Default,,0000,0000,0000,,Un experiment de gândire,
Dialogue: 0,0:06:20.93,0:06:22.44,Default,,0000,0000,0000,,pentru că-mi plac:
Dialogue: 0,0:06:23.57,0:06:26.55,Default,,0000,0000,0000,,o societate complet scindată,
Dialogue: 0,0:06:28.25,0:06:31.60,Default,,0000,0000,0000,,divizată religios, toate orașele,\Ntoate cartierele,
Dialogue: 0,0:06:31.60,0:06:34.66,Default,,0000,0000,0000,,și în care trimitem poliția\Ndoar în cartierele cu minorități
Dialogue: 0,0:06:34.66,0:06:36.08,Default,,0000,0000,0000,,pentru a cerceta delicte.
Dialogue: 0,0:06:36.45,0:06:38.67,Default,,0000,0000,0000,,Datele arestărilor\Nar fi foarte părtinitoare.
Dialogue: 0,0:06:39.85,0:06:42.45,Default,,0000,0000,0000,,Ce-ar fi dacă, în plus,\Nam găsi specialiștii în date
Dialogue: 0,0:06:42.45,0:06:46.61,Default,,0000,0000,0000,,și i-am plăti ca să prezică\Nunde ar avea loc următoarea infracțiune?
Dialogue: 0,0:06:47.28,0:06:48.76,Default,,0000,0000,0000,,Cartierul cu minorități.
Dialogue: 0,0:06:49.28,0:06:52.41,Default,,0000,0000,0000,,Sau să prezică cine ar fi\Nurmătorul infractor?
Dialogue: 0,0:06:52.89,0:06:54.28,Default,,0000,0000,0000,,Un cetățean minoritar.
Dialogue: 0,0:06:55.95,0:06:59.51,Default,,0000,0000,0000,,Specialiștii în date s-ar lăuda\Ncu cât de grozav și precis
Dialogue: 0,0:06:59.51,0:07:00.84,Default,,0000,0000,0000,,ar fi modelul lor
Dialogue: 0,0:07:00.84,0:07:02.13,Default,,0000,0000,0000,,și ar avea dreptate.
Dialogue: 0,0:07:03.95,0:07:08.59,Default,,0000,0000,0000,,Realitatea nu-i așa de drastică,\Ndar avem diviziuni profunde
Dialogue: 0,0:07:08.59,0:07:09.90,Default,,0000,0000,0000,,în multe orașe și comune,
Dialogue: 0,0:07:09.90,0:07:11.77,Default,,0000,0000,0000,,și avem destule dovezi
Dialogue: 0,0:07:11.77,0:07:15.03,Default,,0000,0000,0000,,în acțiunile părtinitoare ale poliției\Nși datele sistemului judiciar.
Dialogue: 0,0:07:15.63,0:07:18.46,Default,,0000,0000,0000,,Și chiar prezicem punctele critice,
Dialogue: 0,0:07:18.46,0:07:20.46,Default,,0000,0000,0000,,locurile unde se desfășoară infracțiunile.
Dialogue: 0,0:07:20.46,0:07:24.29,Default,,0000,0000,0000,,Și chiar prezicem, de fapt,\Ninfracțiunile individuale,
Dialogue: 0,0:07:24.29,0:07:26.06,Default,,0000,0000,0000,,infracțiunile indivizilor.
Dialogue: 0,0:07:26.97,0:07:30.76,Default,,0000,0000,0000,,Organizația de știri ProPublica\Na analizat recent
Dialogue: 0,0:07:30.76,0:07:33.75,Default,,0000,0000,0000,,unul din algoritmii\N„riscului de recidivă”, cum li se zice,
Dialogue: 0,0:07:33.75,0:07:37.39,Default,,0000,0000,0000,,folosiți în Florida\Nîn sentințele judecătorești.
Dialogue: 0,0:07:38.41,0:07:41.100,Default,,0000,0000,0000,,Bernard, în stânga, bărbatul de culoare,\Na obținut zece puncte din zece.
Dialogue: 0,0:07:43.18,0:07:45.21,Default,,0000,0000,0000,,Dylan, în dreapta, trei din zece.
Dialogue: 0,0:07:45.21,0:07:47.89,Default,,0000,0000,0000,,Zece din zece, risc ridicat.\NTrei din zece, risc scăzut.
Dialogue: 0,0:07:48.60,0:07:51.01,Default,,0000,0000,0000,,Au fost acuzați de posesie de droguri.
Dialogue: 0,0:07:51.01,0:07:52.24,Default,,0000,0000,0000,,Amândoi cu antecedente,
Dialogue: 0,0:07:52.24,0:07:54.96,Default,,0000,0000,0000,,dar Dylan comisese o crimă,
Dialogue: 0,0:07:54.96,0:07:56.19,Default,,0000,0000,0000,,iar Bernard nu.
Dialogue: 0,0:07:57.82,0:08:00.91,Default,,0000,0000,0000,,Asta contează,\Ndeoarece cu cât ai scorul mai mare,
Dialogue: 0,0:08:00.91,0:08:04.38,Default,,0000,0000,0000,,cu atât ai mai multe șanse\Nsă primești o sentință mai lungă.
Dialogue: 0,0:08:06.29,0:08:07.59,Default,,0000,0000,0000,,Ce se întâmplă?
Dialogue: 0,0:08:08.53,0:08:09.86,Default,,0000,0000,0000,,Spălare de date.
Dialogue: 0,0:08:10.93,0:08:15.38,Default,,0000,0000,0000,,E un proces prin care tehnologii\Nascund adevăruri neplăcute
Dialogue: 0,0:08:15.38,0:08:17.23,Default,,0000,0000,0000,,în algoritmi de tip cutie neagră,
Dialogue: 0,0:08:17.23,0:08:18.52,Default,,0000,0000,0000,,pe care-i numesc obiectivi
Dialogue: 0,0:08:19.32,0:08:20.89,Default,,0000,0000,0000,,și meritocratici.
Dialogue: 0,0:08:23.12,0:08:25.53,Default,,0000,0000,0000,,Când sunt secreți,\Nimportanți și distructivi,
Dialogue: 0,0:08:25.53,0:08:28.04,Default,,0000,0000,0000,,am inventat o denumire\Npentru algoritmii ăștia:
Dialogue: 0,0:08:28.04,0:08:30.06,Default,,0000,0000,0000,,„arme de distrugere matematică”.
Dialogue: 0,0:08:30.06,0:08:31.64,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:08:31.64,0:08:34.73,Default,,0000,0000,0000,,(Aplauze)
Dialogue: 0,0:08:34.73,0:08:37.08,Default,,0000,0000,0000,,Sunt peste tot și nu din greșeală.
Dialogue: 0,0:08:37.70,0:08:41.44,Default,,0000,0000,0000,,Sunt companii private\Ncare construiesc algoritmi privați
Dialogue: 0,0:08:41.44,0:08:42.83,Default,,0000,0000,0000,,pentru scopuri private.
Dialogue: 0,0:08:43.21,0:08:46.45,Default,,0000,0000,0000,,Chiar și cei de care am vorbit,\Npentru profesori și poliție,
Dialogue: 0,0:08:46.45,0:08:50.60,Default,,0000,0000,0000,,au fost construiți de companii private\Nși vânduți instituțiilor guvernamentale.
Dialogue: 0,0:08:50.60,0:08:52.50,Default,,0000,0000,0000,,Ei numesc asta „sosul lor secret”,
Dialogue: 0,0:08:52.50,0:08:54.64,Default,,0000,0000,0000,,de asta nu ni-l pot dezvălui.
Dialogue: 0,0:08:54.64,0:08:56.87,Default,,0000,0000,0000,,E și o putere privată.
Dialogue: 0,0:08:57.92,0:09:02.62,Default,,0000,0000,0000,,Profită de faptul că exercită \Nautoritatea impenetrabilă.
Dialogue: 0,0:09:05.11,0:09:08.07,Default,,0000,0000,0000,,Acum o să vă gândiți\Ncă, din moment ce totul e privat,
Dialogue: 0,0:09:08.07,0:09:09.25,Default,,0000,0000,0000,,și există concurență,
Dialogue: 0,0:09:09.25,0:09:11.58,Default,,0000,0000,0000,,poate că piața liberă\No să rezolve problema.
Dialogue: 0,0:09:11.58,0:09:12.86,Default,,0000,0000,0000,,N-o s-o facă.
Dialogue: 0,0:09:12.86,0:09:15.98,Default,,0000,0000,0000,,Sunt mulți bani de câștigat\Ndin inechitate.
Dialogue: 0,0:09:17.13,0:09:20.50,Default,,0000,0000,0000,,În plus, nu suntem\Nagenți economici raționali.
Dialogue: 0,0:09:21.03,0:09:22.32,Default,,0000,0000,0000,,Toți suntem părtinitori.
Dialogue: 0,0:09:22.96,0:09:24.60,Default,,0000,0000,0000,,Toți suntem rasiști și intoleranți
Dialogue: 0,0:09:24.60,0:09:28.38,Default,,0000,0000,0000,,într-un fel în care ne dorim să nu fi fost\Nși de care nici nu ne dăm seama.
Dialogue: 0,0:09:29.35,0:09:32.46,Default,,0000,0000,0000,,Dar știm asta, în ansamblu,
Dialogue: 0,0:09:32.46,0:09:35.43,Default,,0000,0000,0000,,pentru că sociologii\Nau demonstrat-o constant
Dialogue: 0,0:09:35.43,0:09:37.32,Default,,0000,0000,0000,,cu experimentele pe care le-au creat,
Dialogue: 0,0:09:37.32,0:09:39.99,Default,,0000,0000,0000,,când trimit mai multe cereri\Nla anunțurile de angajare,
Dialogue: 0,0:09:39.99,0:09:44.24,Default,,0000,0000,0000,,cu aceleași calificări, dar unele\Nau nume ca de albi și altele ca de negri,
Dialogue: 0,0:09:44.24,0:09:46.93,Default,,0000,0000,0000,,iar rezultatele sunt mereu dezamăgitoare.
Dialogue: 0,0:09:47.51,0:09:49.35,Default,,0000,0000,0000,,Deci noi suntem cei părtinitori,
Dialogue: 0,0:09:49.35,0:09:52.76,Default,,0000,0000,0000,,și introducem acele prejudecăți\Nîn algoritmi,
Dialogue: 0,0:09:52.76,0:09:54.59,Default,,0000,0000,0000,,alegând ce date să fie selectate,
Dialogue: 0,0:09:54.59,0:09:57.36,Default,,0000,0000,0000,,așa cum aleg eu să nu mă gândesc\Nla tăiețeii ramen,
Dialogue: 0,0:09:57.36,0:09:59.01,Default,,0000,0000,0000,,am decis că nu-i relevant.
Dialogue: 0,0:09:59.01,0:10:04.72,Default,,0000,0000,0000,,Dar având încredere în datele\Ncare reiau practicile din trecut
Dialogue: 0,0:10:04.72,0:10:06.76,Default,,0000,0000,0000,,și alegând definiția succesului,
Dialogue: 0,0:10:06.76,0:10:10.76,Default,,0000,0000,0000,,cum să ne putem aștepta\Nca algoritmii să fie neafectați?
Dialogue: 0,0:10:10.76,0:10:13.12,Default,,0000,0000,0000,,Nu putem. Trebuie să-i verificăm.
Dialogue: 0,0:10:14.16,0:10:15.90,Default,,0000,0000,0000,,Trebuie să le verificăm echitatea.
Dialogue: 0,0:10:15.90,0:10:18.63,Default,,0000,0000,0000,,Vestea bună e\Ncă le putem verifica echitatea.
Dialogue: 0,0:10:18.63,0:10:22.00,Default,,0000,0000,0000,,Algoritmii pot fi interogați
Dialogue: 0,0:10:22.00,0:10:24.07,Default,,0000,0000,0000,,și ne vor spune adevărul de fiecare dată.
Dialogue: 0,0:10:24.07,0:10:26.58,Default,,0000,0000,0000,,Și putem să-i reparăm.\NPutem să-i îmbunătățim.
Dialogue: 0,0:10:26.58,0:10:28.98,Default,,0000,0000,0000,,Eu numesc asta un audit algoritmic
Dialogue: 0,0:10:28.98,0:10:30.69,Default,,0000,0000,0000,,și o să vă explic ce presupune.
Dialogue: 0,0:10:30.69,0:10:32.88,Default,,0000,0000,0000,,Mai întâi,\Nverificarea integrității datelor.
Dialogue: 0,0:10:34.13,0:10:36.82,Default,,0000,0000,0000,,Pentru algoritmul riscului de recidivă\Nde care am vorbit,
Dialogue: 0,0:10:37.58,0:10:41.18,Default,,0000,0000,0000,,o verificare a integrității datelor\Nar însemna să acceptăm faptul
Dialogue: 0,0:10:41.18,0:10:44.72,Default,,0000,0000,0000,,că în SUA, albii și cei de culoare\Nfumează canabis în egală măsură,
Dialogue: 0,0:10:44.72,0:10:47.24,Default,,0000,0000,0000,,dar cei de culoare\Nau mai multe șanse să fie arestați,
Dialogue: 0,0:10:47.24,0:10:50.42,Default,,0000,0000,0000,,de patru sau cinci ori mai des,\Nîn funcție de regiune.
Dialogue: 0,0:10:51.32,0:10:54.17,Default,,0000,0000,0000,,Cum arată prejudecata asta\Nîn alte categorii de infracțiuni
Dialogue: 0,0:10:54.17,0:10:55.62,Default,,0000,0000,0000,,și cum o justificăm?
Dialogue: 0,0:10:56.16,0:11:00.63,Default,,0000,0000,0000,,În al doilea rând, ar trebui să ne gândim\Nla definiția succesului, să audităm asta.
Dialogue: 0,0:11:00.63,0:11:03.41,Default,,0000,0000,0000,,Vă amintiți algoritmul pentru angajare?\NAm vorbit de el.
Dialogue: 0,0:11:03.41,0:11:06.60,Default,,0000,0000,0000,,Cineva care lucrează patru ani\Nși e promovat o dată?
Dialogue: 0,0:11:06.60,0:11:08.39,Default,,0000,0000,0000,,Ăsta e un angajat de succes,
Dialogue: 0,0:11:08.39,0:11:11.47,Default,,0000,0000,0000,,dar și unul\Ncare e susținut de cultura lor.
Dialogue: 0,0:11:12.09,0:11:14.04,Default,,0000,0000,0000,,Dar și asta poate fi părtinitor.
Dialogue: 0,0:11:14.04,0:11:16.13,Default,,0000,0000,0000,,Trebuie să separăm aceste două aspecte.
Dialogue: 0,0:11:16.13,0:11:19.80,Default,,0000,0000,0000,,Ar trebui să luăm audiția pe nevăzute\Ndrept exemplu.
Dialogue: 0,0:11:19.80,0:11:22.55,Default,,0000,0000,0000,,Presupune că cei care sunt audiați\Nstau după un paravan.
Dialogue: 0,0:11:22.95,0:11:24.90,Default,,0000,0000,0000,,În cazul ăsta vreau să mă gândesc
Dialogue: 0,0:11:24.90,0:11:30.40,Default,,0000,0000,0000,,că cei care ascultă au decis\Nce-i important și ce nu
Dialogue: 0,0:11:30.40,0:11:32.45,Default,,0000,0000,0000,,și nu li se distrage atenția de la asta.
Dialogue: 0,0:11:32.96,0:11:35.73,Default,,0000,0000,0000,,Când s-a început cu audițiile pe nevăzute,
Dialogue: 0,0:11:35.73,0:11:39.18,Default,,0000,0000,0000,,numărul femeilor în orchestre\Na crescut de cinci ori.
Dialogue: 0,0:11:40.25,0:11:42.33,Default,,0000,0000,0000,,Mai departe,\Ntrebuie să examinăm acuratețea.
Dialogue: 0,0:11:43.23,0:11:46.97,Default,,0000,0000,0000,,În cazul ăsta, modelul valorii adăugate\Npentru profesori ar eșua imediat.
Dialogue: 0,0:11:47.58,0:11:49.74,Default,,0000,0000,0000,,Niciun algoritm nu e perfect, desigur,
Dialogue: 0,0:11:50.62,0:11:54.22,Default,,0000,0000,0000,,deci trebuie să ne gândim\Nla erorile fiecărui algoritm.
Dialogue: 0,0:11:54.84,0:11:59.20,Default,,0000,0000,0000,,Cât de des apar erori\Nși pentru cine nu funcționează modelul?
Dialogue: 0,0:11:59.85,0:12:01.57,Default,,0000,0000,0000,,Care e costul acestui eșec?
Dialogue: 0,0:12:02.43,0:12:04.64,Default,,0000,0000,0000,,Și, în sfârșit, trebuie să analizăm
Dialogue: 0,0:12:05.97,0:12:08.16,Default,,0000,0000,0000,,efectele pe termen lung ale algoritmilor,
Dialogue: 0,0:12:08.87,0:12:11.07,Default,,0000,0000,0000,,buclele de feedback care se generează.
Dialogue: 0,0:12:11.59,0:12:12.85,Default,,0000,0000,0000,,Sună abstract,
Dialogue: 0,0:12:12.85,0:12:15.80,Default,,0000,0000,0000,,dar imaginați-vă că tehnicienii Facebook\Ns-ar fi gândit la asta
Dialogue: 0,0:12:16.27,0:12:21.12,Default,,0000,0000,0000,,înainte să decidă să ne arate\Ndoar ce au publicat prietenii noștri.
Dialogue: 0,0:12:21.76,0:12:24.100,Default,,0000,0000,0000,,Mai am două mesaje, unul e\Npentru specialiștii în date dintre voi.
Dialogue: 0,0:12:25.45,0:12:28.86,Default,,0000,0000,0000,,Specialiști în date,\Nnu trebuie să fim arbitrii adevărului.
Dialogue: 0,0:12:29.52,0:12:33.33,Default,,0000,0000,0000,,Ar trebui să fim traducătorii\Ndiscuțiilor etice care au loc
Dialogue: 0,0:12:33.33,0:12:34.72,Default,,0000,0000,0000,,în societate la scară largă.
Dialogue: 0,0:12:35.58,0:12:37.74,Default,,0000,0000,0000,,(Aplauze)
Dialogue: 0,0:12:37.74,0:12:39.29,Default,,0000,0000,0000,,Iar pentru voi, ceilalți,
Dialogue: 0,0:12:40.01,0:12:41.28,Default,,0000,0000,0000,,nespecializați în date:
Dialogue: 0,0:12:41.28,0:12:42.93,Default,,0000,0000,0000,,ăsta nu-i un test de matematică.
Dialogue: 0,0:12:43.63,0:12:44.98,Default,,0000,0000,0000,,E o luptă politică.
Dialogue: 0,0:12:46.59,0:12:50.49,Default,,0000,0000,0000,,Trebuie să pretindem responsabilizarea\Nsuzeranilor noștri algoritmici.
Dialogue: 0,0:12:52.12,0:12:53.64,Default,,0000,0000,0000,,(Aplauze)
Dialogue: 0,0:12:53.64,0:12:57.89,Default,,0000,0000,0000,,Vremea încrederii oarbe în volumele mari \Nde date trebuie să ia sfârșit.
Dialogue: 0,0:12:57.89,0:12:59.08,Default,,0000,0000,0000,,Mulțumesc mult.
Dialogue: 0,0:12:59.08,0:13:04.38,Default,,0000,0000,0000,,(Aplauze)