[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:06.33,Default,,0000,0000,0000,,Lucrez cu matematicieni, \Nfilozofi și cercetători IT
Dialogue: 0,0:00:06.33,0:00:08.56,Default,,0000,0000,0000,,și ne gândim
Dialogue: 0,0:00:08.56,0:00:11.54,Default,,0000,0000,0000,,la viitorul inteligenței artificiale,\Nprintre altele.
Dialogue: 0,0:00:12.03,0:00:16.60,Default,,0000,0000,0000,,Unii cred că unele dintre aceste lucruri \Nsunt științifico-fantastice,
Dialogue: 0,0:00:16.60,0:00:18.90,Default,,0000,0000,0000,,departe de noi, nebunești.
Dialogue: 0,0:00:19.76,0:00:21.33,Default,,0000,0000,0000,,Dar mie îmi place să zic:
Dialogue: 0,0:00:21.33,0:00:24.93,Default,,0000,0000,0000,,OK, hai să vedem condiția omului modern.
Dialogue: 0,0:00:24.93,0:00:26.62,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:00:26.62,0:00:28.62,Default,,0000,0000,0000,,Asta e normalul.
Dialogue: 0,0:00:30.07,0:00:31.31,Default,,0000,0000,0000,,Dar de fapt
Dialogue: 0,0:00:31.31,0:00:34.60,Default,,0000,0000,0000,,suntem niște oaspeți\Nrelativ recenți pe această planetă
Dialogue: 0,0:00:34.60,0:00:36.04,Default,,0000,0000,0000,,ca specie umană.
Dialogue: 0,0:00:37.58,0:00:41.29,Default,,0000,0000,0000,,Gândiți-vă, dacă Pământul \Na fi fost creat în urmă cu un an,
Dialogue: 0,0:00:41.29,0:00:44.34,Default,,0000,0000,0000,,specia umană ar fi existat \Nde doar 10 minute.
Dialogue: 0,0:00:44.98,0:00:47.83,Default,,0000,0000,0000,,Epoca Industrială ar fi început \Nde doar două secunde.
Dialogue: 0,0:00:49.28,0:00:54.28,Default,,0000,0000,0000,,Am putea analiza aceasta și din prisma \NPIB-ului global din ultimii 10 000 de ani.
Dialogue: 0,0:00:54.28,0:00:57.31,Default,,0000,0000,0000,,V-am făcut și un grafic.
Dialogue: 0,0:00:58.07,0:00:59.22,Default,,0000,0000,0000,,Arată așa.
Dialogue: 0,0:00:59.22,0:01:00.67,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:01:00.67,0:01:03.08,Default,,0000,0000,0000,,Are o formă ciudată \Npentru o situație normală.
Dialogue: 0,0:01:03.08,0:01:05.08,Default,,0000,0000,0000,,Eu unul nu m-aș așeza pe el.
Dialogue: 0,0:01:05.08,0:01:06.60,Default,,0000,0000,0000,,(Râsete)
Dialogue: 0,0:01:06.60,0:01:11.66,Default,,0000,0000,0000,,Hai să ne punem întrebarea: \Ncare ar fi cauza acestei anomalii?
Dialogue: 0,0:01:11.84,0:01:14.39,Default,,0000,0000,0000,,Unii ar zice că ar fi tehnologia.
Dialogue: 0,0:01:14.39,0:01:19.06,Default,,0000,0000,0000,,Adevărat, în decursul istoriei, \Numanitatea a acumulat multă tehnologie
Dialogue: 0,0:01:19.06,0:01:23.29,Default,,0000,0000,0000,,și, în acest moment, tehnologia \Navansează extrem de rapid.
Dialogue: 0,0:01:23.65,0:01:25.28,Default,,0000,0000,0000,,Aceasta e cauza imediată,
Dialogue: 0,0:01:25.28,0:01:27.84,Default,,0000,0000,0000,,de aceea suntem atât de productivi.
Dialogue: 0,0:01:28.62,0:01:33.13,Default,,0000,0000,0000,,Dar îmi place să gândesc mai departe,\Nla cauza primară.
Dialogue: 0,0:01:33.13,0:01:35.90,Default,,0000,0000,0000,,Priviți-i pe acești domni distinși.
Dialogue: 0,0:01:36.72,0:01:38.48,Default,,0000,0000,0000,,Îl avem pe Kanzi,
Dialogue: 0,0:01:38.48,0:01:42.57,Default,,0000,0000,0000,,el a stăpânit 200 de semne lexicale,\No ispravă nemaipomenită.
Dialogue: 0,0:01:42.97,0:01:46.59,Default,,0000,0000,0000,,Și pe Ed Witten care a declanșat \Na doua revoluție a superstringurilor.
Dialogue: 0,0:01:46.82,0:01:49.14,Default,,0000,0000,0000,,Dacă „deschidem capota”, iată ce găsim:
Dialogue: 0,0:01:49.14,0:01:50.71,Default,,0000,0000,0000,,în esență același lucru.
Dialogue: 0,0:01:50.71,0:01:52.37,Default,,0000,0000,0000,,Unul dintre ele e ceva mai mare,
Dialogue: 0,0:01:52.37,0:01:55.60,Default,,0000,0000,0000,,posibil cu câteva trucuri în plus\Nîn privința modului de montare.
Dialogue: 0,0:01:55.60,0:01:59.09,Default,,0000,0000,0000,,Aceste diferențe invizibile, totuși, \Nnu pot fi prea complicate
Dialogue: 0,0:01:59.09,0:02:03.38,Default,,0000,0000,0000,,pentru că s-au perindat \Ndoar 250 000 de generații
Dialogue: 0,0:02:03.38,0:02:05.42,Default,,0000,0000,0000,,de la ultimul nostru strămoș comun
Dialogue: 0,0:02:05.42,0:02:09.13,Default,,0000,0000,0000,,și știm că mecanismele complicate \Ndurează mult până evoluează.
Dialogue: 0,0:02:09.83,0:02:12.93,Default,,0000,0000,0000,,Așa că o mână de schimbări minore
Dialogue: 0,0:02:12.93,0:02:15.79,Default,,0000,0000,0000,,ne-au dus de la Kanzi la Witten,
Dialogue: 0,0:02:15.79,0:02:20.11,Default,,0000,0000,0000,,de la crengi rupte\Nla rachete balistice intercontinentale.
Dialogue: 0,0:02:20.84,0:02:24.77,Default,,0000,0000,0000,,Atunci pare destul de evident\Ncă tot ce am realizat
Dialogue: 0,0:02:24.77,0:02:27.80,Default,,0000,0000,0000,,și toate cele de care ne pasă \Ndepind radical
Dialogue: 0,0:02:27.80,0:02:31.56,Default,,0000,0000,0000,,de schimbări relativ minore \Nfăcute de mintea umană.
Dialogue: 0,0:02:32.57,0:02:36.31,Default,,0000,0000,0000,,Iar corolarul este, desigur,\Ncă orice viitoare schimbare
Dialogue: 0,0:02:36.31,0:02:39.65,Default,,0000,0000,0000,,ce ar putea schimba substanțial\Nsubstratul gândirii
Dialogue: 0,0:02:39.65,0:02:42.57,Default,,0000,0000,0000,,ar putea avea consecințe uriașe.
Dialogue: 0,0:02:44.77,0:02:47.23,Default,,0000,0000,0000,,Unii colegi cred că suntem pe cale
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,de a produce ceva ce ar putea cauza\No schimbare profundă a acestui substrat,
Dialogue: 0,0:02:51.13,0:02:53.80,Default,,0000,0000,0000,,aceasta fiind \Nsuperinteligența artificială.
Dialogue: 0,0:02:54.35,0:02:58.95,Default,,0000,0000,0000,,Inteligența artificială era desemnată\Nca fiind o cutie în care se pun comenzi.
Dialogue: 0,0:02:58.95,0:03:01.34,Default,,0000,0000,0000,,Trebuiau să existe programatori umani
Dialogue: 0,0:03:01.34,0:03:04.78,Default,,0000,0000,0000,,care să modeleze din greu \Npărțile de cunoaștere.
Dialogue: 0,0:03:04.78,0:03:06.44,Default,,0000,0000,0000,,Se realizează niște sisteme expert
Dialogue: 0,0:03:06.44,0:03:08.30,Default,,0000,0000,0000,,care vor fi de folos în anumit scop,
Dialogue: 0,0:03:08.30,0:03:10.83,Default,,0000,0000,0000,,dar care sunt foarte firave,\Nnu se pot extinde.
Dialogue: 0,0:03:10.83,0:03:13.69,Default,,0000,0000,0000,,În principiu, primești de la ele\Ndoar ce ai programat.
Dialogue: 0,0:03:14.41,0:03:15.63,Default,,0000,0000,0000,,De atunci, însă,
Dialogue: 0,0:03:15.63,0:03:18.87,Default,,0000,0000,0000,,s-a produs o schimbare în paradigmă\Nîn inteligența artificială.
Dialogue: 0,0:03:18.87,0:03:22.42,Default,,0000,0000,0000,,Acum acțiunea se petrece în jurul\Nînvățării sistemelor artificiale.
Dialogue: 0,0:03:22.42,0:03:28.55,Default,,0000,0000,0000,,În loc să realizăm reprezentări și \Ncaracteristici ale cunoașterii,
Dialogue: 0,0:03:28.55,0:03:33.78,Default,,0000,0000,0000,,creăm algoritmi de învățare adesea \Npe bază de date perceptuale brute.
Dialogue: 0,0:03:34.68,0:03:38.25,Default,,0000,0000,0000,,În principiu, lucru similar \Ncu ceea ce face un copil.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,Rezultatul este o I.A. \Nce nu se limitează la un domeniu,
Dialogue: 0,0:03:43.27,0:03:47.70,Default,,0000,0000,0000,,același sistem putând să învețe \Nsă traducă între oricare două limbi
Dialogue: 0,0:03:47.70,0:03:53.09,Default,,0000,0000,0000,,sau să învețe să joace orice joc\Npe calculator pe o consolă Atari.
Dialogue: 0,0:03:53.94,0:03:55.12,Default,,0000,0000,0000,,Desigur,
Dialogue: 0,0:03:55.12,0:03:58.94,Default,,0000,0000,0000,,I.A. nu are nici pe departe puterea,
Dialogue: 0,0:03:58.94,0:04:02.06,Default,,0000,0000,0000,,abilitatea transdisciplinară a omului\Nde a planifica și învăța.
Dialogue: 0,0:04:02.06,0:04:04.60,Default,,0000,0000,0000,,Cortexul are încă \Nniște trucuri de algoritm
Dialogue: 0,0:04:04.60,0:04:07.24,Default,,0000,0000,0000,,pe care încă nu știm cum \Nsă le transpunem în mecanisme.
Dialogue: 0,0:04:07.89,0:04:09.74,Default,,0000,0000,0000,,Se pune deci întrebarea
Dialogue: 0,0:04:09.74,0:04:12.82,Default,,0000,0000,0000,,cât de de departe suntem de momentul \Nîn care putem face asta.
Dialogue: 0,0:04:14.26,0:04:15.33,Default,,0000,0000,0000,,Cu câțiva ani în urmă,
Dialogue: 0,0:04:15.33,0:04:18.15,Default,,0000,0000,0000,,am făcut un sondaj printre \Ncei mai de seamă experți în I.A.
Dialogue: 0,0:04:18.15,0:04:21.44,Default,,0000,0000,0000,,pentru a vedea ce cred ei \Nși una din întrebări a fost:
Dialogue: 0,0:04:21.44,0:04:24.79,Default,,0000,0000,0000,,„Până în ce an credeți că vom ajunge \Nla probabilitatea de 50%
Dialogue: 0,0:04:24.79,0:04:28.26,Default,,0000,0000,0000,,de a realizare inteligența artificiala\Nla nivelul omului?”
Dialogue: 0,0:04:29.12,0:04:33.15,Default,,0000,0000,0000,,Prin „nivelul omului” am înțeles \Ncapacitatea de a presta
Dialogue: 0,0:04:33.15,0:04:35.84,Default,,0000,0000,0000,,aproape orice sarcină\Ncel puțin la nivelul unui adult,
Dialogue: 0,0:04:35.84,0:04:39.20,Default,,0000,0000,0000,,deci nivel uman general, \Nnu doar limitat la un domeniu restrâns.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,Răspunsul mediu a fost 2040 sau 2050,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,în funcție de\Ngrupul de experți chestionați.
Dialogue: 0,0:04:47.52,0:04:50.34,Default,,0000,0000,0000,,S-ar putea întâmpla \Nmult mai târziu sau mai devreme,
Dialogue: 0,0:04:50.34,0:04:52.28,Default,,0000,0000,0000,,adevărul e că nimeni nu știe.
Dialogue: 0,0:04:53.18,0:04:57.67,Default,,0000,0000,0000,,Ceea ce știm e că limita superioară \Na procesării informației
Dialogue: 0,0:04:57.67,0:05:02.54,Default,,0000,0000,0000,,într-un mediu artificial e mult \Nmai departe de limitele noastre biologice.
Dialogue: 0,0:05:03.24,0:05:05.45,Default,,0000,0000,0000,,Totul se reduce la fizică.
Dialogue: 0,0:05:05.45,0:05:10.18,Default,,0000,0000,0000,,Neuronul transmite la vreo 200 de herți, \Nde 200 de ori pe secundă.
Dialogue: 0,0:05:10.18,0:05:13.56,Default,,0000,0000,0000,,Dar chiar și acum, un tranzistor \Noperează în gigaherți.
Dialogue: 0,0:05:13.88,0:05:17.14,Default,,0000,0000,0000,,Impulsurile se propagă prin axoni încet, \N
Dialogue: 0,0:05:17.14,0:05:19.40,Default,,0000,0000,0000,,cu cel mult 100 de metri pe secundă.
Dialogue: 0,0:05:19.40,0:05:22.34,Default,,0000,0000,0000,,Dar în calculatoare semnalele \Npot circula cu viteza luminii.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,Există și limitări date de volum,
Dialogue: 0,0:05:24.95,0:05:28.20,Default,,0000,0000,0000,,creierul uman trebuie \Nsă încapă în cutia craniană,
Dialogue: 0,0:05:28.20,0:05:31.77,Default,,0000,0000,0000,,dar un calculator poate fi mare \Ncât un depozit sau mai mare.
Dialogue: 0,0:05:32.74,0:05:38.50,Default,,0000,0000,0000,,Deci potențialul de superinteligență\Ne în stare latentă în materie,
Dialogue: 0,0:05:38.50,0:05:42.19,Default,,0000,0000,0000,,la fel ca puterea atomului \Ncare a fost în stare latentă
Dialogue: 0,0:05:42.19,0:05:43.91,Default,,0000,0000,0000,,în toată istoria umanității,
Dialogue: 0,0:05:43.91,0:05:47.26,Default,,0000,0000,0000,,așteptând cu răbdare până în 1945.
Dialogue: 0,0:05:48.26,0:05:49.15,Default,,0000,0000,0000,,În acest secol,
Dialogue: 0,0:05:49.15,0:05:53.82,Default,,0000,0000,0000,,oamenii de știință ar putea să trezească \Nputerea inteligenței artificiale.
Dialogue: 0,0:05:53.82,0:05:57.60,Default,,0000,0000,0000,,Și cred că atunci am putea fi martorii \Nunei explozii de inteligență.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,Majoritatea oamenilor, gândindu-se \Nla cine e deștept și cine prost,
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,cred că au în cap ceva de genul acesta.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,La o extremitate avem prostul satului,
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,departe, la cealaltă extremitate,
Dialogue: 0,0:06:10.47,0:06:14.94,Default,,0000,0000,0000,,pe Ed Witten, sau Albert Einstein, \Nsau oricine altcineva ar fi favoritul.
Dialogue: 0,0:06:15.40,0:06:19.80,Default,,0000,0000,0000,,Dar eu zic că, din punctul de vedere \Nal inteligenței artificiale,
Dialogue: 0,0:06:19.80,0:06:22.74,Default,,0000,0000,0000,,schema este, de fapt, mai mult așa:
Dialogue: 0,0:06:23.26,0:06:26.64,Default,,0000,0000,0000,,I.A. începe în acest punct,\Nla inteligență zero,
Dialogue: 0,0:06:26.64,0:06:29.65,Default,,0000,0000,0000,,apoi, după foarte mulți ani \Nde muncă asiduă,
Dialogue: 0,0:06:29.65,0:06:33.60,Default,,0000,0000,0000,,poată că inteligența artificială \Najunge la nivelul șoarecelui,
Dialogue: 0,0:06:33.60,0:06:37.75,Default,,0000,0000,0000,,ceva ce poate naviga într-un mediu haotic\Nla fel de bine cum poate un șoarece.
Dialogue: 0,0:06:37.75,0:06:42.22,Default,,0000,0000,0000,,Iar apoi, după alți mulți ani \Nde muncă asiduă, cu multe investiții,
Dialogue: 0,0:06:42.22,0:06:46.13,Default,,0000,0000,0000,,poate că inteligența artificială \Najunge la nivelul cimpanzeului.
Dialogue: 0,0:06:46.86,0:06:49.96,Default,,0000,0000,0000,,Iar apoi, după și mai mulți ani \Nde muncă asiduă,
Dialogue: 0,0:06:49.96,0:06:52.82,Default,,0000,0000,0000,,ajungem la inteligența artificială \Na prostului satului.
Dialogue: 0,0:06:52.82,0:06:56.06,Default,,0000,0000,0000,,Și după câteva momente \Nsuntem dincolo de Ed Witten.
Dialogue: 0,0:06:56.06,0:06:58.96,Default,,0000,0000,0000,,Trenul nu oprește la „Gara Omului”.
Dialogue: 0,0:06:58.96,0:07:01.72,Default,,0000,0000,0000,,Din contră, probabil va trece în viteză.
Dialogue: 0,0:07:02.25,0:07:04.62,Default,,0000,0000,0000,,Aceasta are implicații serioase,
Dialogue: 0,0:07:04.62,0:07:07.76,Default,,0000,0000,0000,,mai ales când vine vorba \Nde probleme de putere.
Dialogue: 0,0:07:08.09,0:07:09.99,Default,,0000,0000,0000,,De exemplu, cimpanzeii sunt puternici:
Dialogue: 0,0:07:09.99,0:07:14.85,Default,,0000,0000,0000,,la kilograme, cimpanzeul e de vreo 2 ori \Nmai puternic decât un bărbat sănătos.
Dialogue: 0,0:07:15.21,0:07:20.25,Default,,0000,0000,0000,,Totuși, soarta lui Kanzi și a celor ca el\Ndepinde cu mult mai mult
Dialogue: 0,0:07:20.25,0:07:23.97,Default,,0000,0000,0000,,de ce facem noi, oamenii, \Ndecât de ce fac semenii cimpanzei.
Dialogue: 0,0:07:25.53,0:07:27.54,Default,,0000,0000,0000,,Cu apariția superinteligenței,
Dialogue: 0,0:07:27.54,0:07:31.38,Default,,0000,0000,0000,,soarta umanității poate depinde \Nde ce face superinteligența.
Dialogue: 0,0:07:32.45,0:07:33.98,Default,,0000,0000,0000,,Gândiți-vă:
Dialogue: 0,0:07:33.98,0:07:38.01,Default,,0000,0000,0000,,inteligența artificială e ultima invenție\Npe care va trebui s-o facă umanitatea.
Dialogue: 0,0:07:38.38,0:07:41.30,Default,,0000,0000,0000,,Căci după aceea mașinile \Nvor fi mai bune la inventat decât noi
Dialogue: 0,0:07:41.30,0:07:44.30,Default,,0000,0000,0000,,și vor face asta la scară digitală.
Dialogue: 0,0:07:44.30,0:07:48.35,Default,,0000,0000,0000,,Aceasta înseamnă, de fapt, \Ntelescopizarea viitorului.
Dialogue: 0,0:07:48.97,0:07:52.52,Default,,0000,0000,0000,,Luați toate tehnologiile nebunești \Npe care vi le-ați putea imagina,
Dialogue: 0,0:07:52.52,0:07:55.32,Default,,0000,0000,0000,,pe care oamenii \Nle-ar putea realiza în timp:
Dialogue: 0,0:07:55.32,0:07:58.58,Default,,0000,0000,0000,,oprirea îmbătrânirii, \Ncolonizarea spațiului cosmic,
Dialogue: 0,0:07:58.58,0:08:02.31,Default,,0000,0000,0000,,nanoroboți auto-replicativi \Nsau încărcarea minții în calculator,
Dialogue: 0,0:08:02.31,0:08:04.47,Default,,0000,0000,0000,,tot felul de chestii SF
Dialogue: 0,0:08:04.47,0:08:06.94,Default,,0000,0000,0000,,care sunt totuși în concordanță \Ncu legile fizicii.
Dialogue: 0,0:08:06.94,0:08:11.42,Default,,0000,0000,0000,,Pe toate astea superinteligența\Nle poate realiza, și încă foarte repede.
Dialogue: 0,0:08:12.45,0:08:15.89,Default,,0000,0000,0000,,Superinteligența de o astfel de \Nmaturitate tehnologică
Dialogue: 0,0:08:15.89,0:08:18.21,Default,,0000,0000,0000,,ar fi extrem de puternică
Dialogue: 0,0:08:18.21,0:08:22.41,Default,,0000,0000,0000,,și, cel puțin în unele scenarii,\Nar putea obține ce vrea.
Dialogue: 0,0:08:23.01,0:08:27.71,Default,,0000,0000,0000,,Atunci am avea viitorul\Nmodelat de preferințele acesteia.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,O întrebare bună este:\Ncare ar fi aceste preferințe?
Dialogue: 0,0:08:34.24,0:08:36.01,Default,,0000,0000,0000,,Aici e mai cu schepsis.
Dialogue: 0,0:08:36.01,0:08:37.45,Default,,0000,0000,0000,,Pentru a avansa cu acest gând,
Dialogue: 0,0:08:37.45,0:08:40.72,Default,,0000,0000,0000,,în primul rând trebuie \Nsă evităm antropomorfizarea.
Dialogue: 0,0:08:41.93,0:08:45.24,Default,,0000,0000,0000,,Iar asta e ironic pentru că \Norice articol de ziar
Dialogue: 0,0:08:45.24,0:08:48.20,Default,,0000,0000,0000,,despre viitorul I.A. are o poză ca asta:
Dialogue: 0,0:08:50.61,0:08:54.41,Default,,0000,0000,0000,,Cred că trebuie să concepem \Nchestiunea mai abstract,
Dialogue: 0,0:08:54.41,0:08:56.95,Default,,0000,0000,0000,,nu în termenii colorați\Nai scenariilor hollywoodiene.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,Trebuie să ne gândim la inteligență\Nca un proces de optimizare,
Dialogue: 0,0:09:00.82,0:09:05.86,Default,,0000,0000,0000,,un proces ce îndreaptă viitorul\Nîntr-un anumit set de configurații.
Dialogue: 0,0:09:06.47,0:09:09.98,Default,,0000,0000,0000,,Superinteligența ca proces \Nde optimizare foarte puternic.
Dialogue: 0,0:09:09.98,0:09:12.72,Default,,0000,0000,0000,,Extrem de bună pentru a folosi \Nmijloacele existente
Dialogue: 0,0:09:12.72,0:09:15.69,Default,,0000,0000,0000,,pentru a realiza o stare \Nîn care obiectivele ei sunt atinse.
Dialogue: 0,0:09:16.45,0:09:18.74,Default,,0000,0000,0000,,Aceasta înseamnă \Ncă nu există neapărat legătură
Dialogue: 0,0:09:18.74,0:09:21.71,Default,,0000,0000,0000,,între a fi foarte inteligent în acest sens
Dialogue: 0,0:09:21.71,0:09:26.32,Default,,0000,0000,0000,,și a avea un obiectiv pe care noi, \Noamenii, l-am considera util și cu sens.
Dialogue: 0,0:09:27.32,0:09:30.88,Default,,0000,0000,0000,,Să zicem că îi dăm unei I.A. ca obiectiv \Nsă-i facă pe oameni să zâmbească.
Dialogue: 0,0:09:31.12,0:09:34.10,Default,,0000,0000,0000,,Când I.A. e slabă, acționează \Nutil sau amuzant
Dialogue: 0,0:09:34.10,0:09:36.15,Default,,0000,0000,0000,,ceea ce îl face pe utilizator \Nsă zâmbească.
Dialogue: 0,0:09:36.61,0:09:39.03,Default,,0000,0000,0000,,Când I.A. devine superinteligentă,
Dialogue: 0,0:09:39.03,0:09:42.55,Default,,0000,0000,0000,,își dă seama că există o cale \Nmai eficientă pentru a atinge acest scop:
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,preia controlul asupra lumii
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,și implantează electrozi \Nîn mușchii faciali ai oamenilor
Dialogue: 0,0:09:47.64,0:09:50.18,Default,,0000,0000,0000,,pentru a obține rânjete \Nstrălucitoare constante.
Dialogue: 0,0:09:50.45,0:09:51.41,Default,,0000,0000,0000,,Alt exemplu:
Dialogue: 0,0:09:51.41,0:09:54.100,Default,,0000,0000,0000,,dăm I.A. ca obiectiv să rezolve \No problemă de matematică grea.
Dialogue: 0,0:09:54.100,0:09:56.93,Default,,0000,0000,0000,,Când I.A. devine superinteligentă,
Dialogue: 0,0:09:56.93,0:10:00.62,Default,,0000,0000,0000,,își dă seama că modul cel mai eficient \Npentru a găsi soluția problemei
Dialogue: 0,0:10:00.62,0:10:04.04,Default,,0000,0000,0000,,este transformarea planetei\Nîntr-un calculator gigant
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,pentru a-i crește capacitatea de gândire.
Dialogue: 0,0:10:06.28,0:10:09.04,Default,,0000,0000,0000,,Luați seamă că aceasta dă I.A.-ului \Nrațiunea instrumentală
Dialogue: 0,0:10:09.04,0:10:11.56,Default,,0000,0000,0000,,pentru a ne face lucruri \Ncu care nu suntem de acord.
Dialogue: 0,0:10:11.56,0:10:13.50,Default,,0000,0000,0000,,În acest caz, oamenii sunt o amenințare,
Dialogue: 0,0:10:13.50,0:10:16.29,Default,,0000,0000,0000,,am putea să împiedicăm rezolvarea \Nproblemei de matematică.
Dialogue: 0,0:10:17.07,0:10:20.12,Default,,0000,0000,0000,,Desigur, se vede că lucrurile \Nnu vor degenera chiar astfel;
Dialogue: 0,0:10:20.12,0:10:22.18,Default,,0000,0000,0000,,acestea sunt exemple exagerate.
Dialogue: 0,0:10:22.45,0:10:24.39,Default,,0000,0000,0000,,Dar esența lor e importantă:
Dialogue: 0,0:10:24.39,0:10:27.27,Default,,0000,0000,0000,,dacă vrei să realizezi \Nun proces de optimizare puternic
Dialogue: 0,0:10:27.27,0:10:29.50,Default,,0000,0000,0000,,pentru a maximiza \Natingerea obiectivului x,
Dialogue: 0,0:10:29.50,0:10:31.78,Default,,0000,0000,0000,,ar fi bine să te asiguri \Ncă definiția acelui x
Dialogue: 0,0:10:31.78,0:10:34.16,Default,,0000,0000,0000,,încorporează tot ce contează pentru tine.
Dialogue: 0,0:10:34.84,0:10:38.49,Default,,0000,0000,0000,,E un motiv ce apare și în multe legende.
Dialogue: 0,0:10:39.22,0:10:43.81,Default,,0000,0000,0000,,Regele Midas vroia ca tot ce atinge \Nsă se transforme în aur.
Dialogue: 0,0:10:44.52,0:10:47.03,Default,,0000,0000,0000,,Și-a atins fiica, s-a transformat în aur.
Dialogue: 0,0:10:47.38,0:10:49.62,Default,,0000,0000,0000,,S-a atins de mâncare, \Ns-a transformat în aur.
Dialogue: 0,0:10:49.93,0:10:52.46,Default,,0000,0000,0000,,Aceasta poate fi relevant în practică,
Dialogue: 0,0:10:52.46,0:10:54.59,Default,,0000,0000,0000,,nu doar ca o metaforă a lăcomiei,
Dialogue: 0,0:10:54.59,0:10:56.48,Default,,0000,0000,0000,,ci și pentru a ilustra ce se întâmplă
Dialogue: 0,0:10:56.48,0:10:59.17,Default,,0000,0000,0000,,dacă realizezi \Nun proces de optimizare puternic,
Dialogue: 0,0:10:59.17,0:11:03.37,Default,,0000,0000,0000,,cu obiectivele concepute eronat \Nsau insuficient de detaliate.
Dialogue: 0,0:11:04.28,0:11:09.30,Default,,0000,0000,0000,,Ați putea zice că dacă un calculator \Nîncepe să implanteze electrozi în oameni
Dialogue: 0,0:11:09.30,0:11:11.16,Default,,0000,0000,0000,,nu avem decât să îl închidem.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,A, poate să nu fie chiar așa de ușor \Ndacă suntem dependenți de sistem –
Dialogue: 0,0:11:17.90,0:11:19.94,Default,,0000,0000,0000,,de unde se poate stinge Internetul?
Dialogue: 0,0:11:20.63,0:11:25.39,Default,,0000,0000,0000,,B, de ce nu au apăsat cimpanzeii \Npe întrerupătorul umanității?
Dialogue: 0,0:11:25.98,0:11:27.30,Default,,0000,0000,0000,,Sau neanderthalienii?
Dialogue: 0,0:11:27.30,0:11:29.14,Default,,0000,0000,0000,,Cu siguranță aveau motive să o facă.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,Avem un întrerupător, de exemplu aici.
Dialogue: 0,0:11:32.76,0:11:34.31,Default,,0000,0000,0000,,(Se sugrumă)
Dialogue: 0,0:11:34.31,0:11:37.24,Default,,0000,0000,0000,,Motivul e că suntem \Nun adversar inteligent;
Dialogue: 0,0:11:37.24,0:11:39.97,Default,,0000,0000,0000,,putem anticipa pericolul\Nși putem să-l preîntâmpinăm.
Dialogue: 0,0:11:39.97,0:11:42.47,Default,,0000,0000,0000,,Dar la fel ar fi \Nși un agent superinteligent
Dialogue: 0,0:11:42.47,0:11:44.86,Default,,0000,0000,0000,,și ar fi mult mai bun decât noi.
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,Faza e că nu ar trebui să credem\Ncă deținem controlul aici.
Dialogue: 0,0:11:52.91,0:11:56.36,Default,,0000,0000,0000,,Am putea încerca, \Npentru a ne ușura un pic treaba,
Dialogue: 0,0:11:56.36,0:11:58.08,Default,,0000,0000,0000,,să zicem să punem I.A. într-o cutie,
Dialogue: 0,0:11:58.08,0:11:59.80,Default,,0000,0000,0000,,de pildă un mediu de soft securizat,
Dialogue: 0,0:11:59.80,0:12:02.77,Default,,0000,0000,0000,,o simulare de realitate virtuală\Ndin care nu poate scăpa.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,Dar cât de siguri putem fi\Ncă I.A. nu găsește un virus.
Dialogue: 0,0:12:06.91,0:12:10.08,Default,,0000,0000,0000,,Dat fiind că simplii hackeri umani \Ngăsesc tot timpul viruși,
Dialogue: 0,0:12:10.08,0:12:12.48,Default,,0000,0000,0000,,aș zice că, probabil, nu foarte siguri.
Dialogue: 0,0:12:14.24,0:12:18.16,Default,,0000,0000,0000,,Sau deconectăm cablul ethernet \Npentru a crea o întrerupere.
Dialogue: 0,0:12:18.78,0:12:20.89,Default,,0000,0000,0000,,Dar, la fel, simplii hackeri umani
Dialogue: 0,0:12:20.89,0:12:24.83,Default,,0000,0000,0000,,trec adesea peste întreruperi,\Nprin inginerie socială.
Dialogue: 0,0:12:24.83,0:12:26.09,Default,,0000,0000,0000,,Chiar în acest moment,
Dialogue: 0,0:12:26.09,0:12:28.48,Default,,0000,0000,0000,,sunt sigur că există un angajat pe undeva
Dialogue: 0,0:12:28.48,0:12:31.20,Default,,0000,0000,0000,,care este păcălit\Nsă-și dea datele de cont
Dialogue: 0,0:12:31.20,0:12:34.41,Default,,0000,0000,0000,,de către cineva care se dă drept \Nfuncționar la departamentul I.T.
Dialogue: 0,0:12:34.69,0:12:36.70,Default,,0000,0000,0000,,Există și alte scenarii creative posibile
Dialogue: 0,0:12:36.70,0:12:38.02,Default,,0000,0000,0000,,cum ar fi: dacă ești I.A.
Dialogue: 0,0:12:38.02,0:12:41.60,Default,,0000,0000,0000,,ți-ai putea imagina să-ți pui \Nelectrozi în circuitul intern propriu
Dialogue: 0,0:12:41.60,0:12:44.98,Default,,0000,0000,0000,,pentru a crea unde radio \Npe care să le folosești pentru comunicare.
Dialogue: 0,0:12:44.98,0:12:47.60,Default,,0000,0000,0000,,Sau poate te-ai putea preface \Ncă nu funcționezi corect
Dialogue: 0,0:12:47.60,0:12:50.93,Default,,0000,0000,0000,,și apoi, când programatorii te deschid \Nsă vadă care-i baiul cu tine,
Dialogue: 0,0:12:50.93,0:12:52.57,Default,,0000,0000,0000,,se uită la codul-sursă – pac! –
Dialogue: 0,0:12:52.57,0:12:54.40,Default,,0000,0000,0000,,poate avea loc manipularea.
Dialogue: 0,0:12:55.13,0:12:58.74,Default,,0000,0000,0000,,Sau ar putea produce planul\Nunei tehnologii mișto
Dialogue: 0,0:12:58.74,0:13:00.14,Default,,0000,0000,0000,,și, când să o implementăm,
Dialogue: 0,0:13:00.14,0:13:04.37,Default,,0000,0000,0000,,ea are niște efecte secundare ascunse\Npe care le-a gândit I.A.
Dialogue: 0,0:13:05.02,0:13:08.00,Default,,0000,0000,0000,,Concluzia este că nu ar trebui \Nsă avem prea mare încredere
Dialogue: 0,0:13:08.00,0:13:11.53,Default,,0000,0000,0000,,că putem ține duhul superinteligent \Nînchis în sticla sa pentru totdeauna.
Dialogue: 0,0:13:11.81,0:13:13.85,Default,,0000,0000,0000,,Mai degrabă sau mai târziu, va ieși.
Dialogue: 0,0:13:15.03,0:13:18.14,Default,,0000,0000,0000,,Cred că aici răspunsul este\Nsă găsim modalitatea
Dialogue: 0,0:13:18.14,0:13:23.09,Default,,0000,0000,0000,,de a crea o I.A. superinteligentă\Ncare, chiar și după ce scapă,
Dialogue: 0,0:13:23.09,0:13:26.44,Default,,0000,0000,0000,,e totuși sigură, pentru că\Nîn mod fundamental e de partea noastră,
Dialogue: 0,0:13:26.44,0:13:28.34,Default,,0000,0000,0000,,pentru că are valorile noastre.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,Nu văd altă cale de rezolvare\Na acestei probleme dificile.
Dialogue: 0,0:13:33.58,0:13:36.39,Default,,0000,0000,0000,,Sunt încrezător că putem rezolva\Naceastă problemă.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,Nu ar trebui să facem o listă lungă\Ncu toate lucrurile la care ținem
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,sau, mai rău, să le traducem \Nîntr-un limbaj mașină
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,ca C++ sau Python.
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,Asta ar fi o sarcină absolut imposibilă.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,În loc de asta, ar trebui să creăm o I.A.\Nce-și folosește propria inteligență
Dialogue: 0,0:13:52.46,0:13:55.07,Default,,0000,0000,0000,,pentru a ne învăța valorile,
Dialogue: 0,0:13:55.07,0:13:58.56,Default,,0000,0000,0000,,iar sistemul ei de motivare \Nsă fie construit astfel încât
Dialogue: 0,0:13:58.56,0:14:01.44,Default,,0000,0000,0000,,să fie motivată să ne urmeze valorile\N
Dialogue: 0,0:14:01.44,0:14:05.36,Default,,0000,0000,0000,,sau să facă acțiuni la care se poate\Naștepta să aibă aprobarea noastră.
Dialogue: 0,0:14:06.21,0:14:09.15,Default,,0000,0000,0000,,Astfel am avea, pe cât posibil, \No pârghie asupra inteligenței
Dialogue: 0,0:14:09.15,0:14:11.90,Default,,0000,0000,0000,,în rezolvarea problemei \Nvalorilor încărcate.
Dialogue: 0,0:14:12.57,0:14:14.08,Default,,0000,0000,0000,,Se poate realiza,
Dialogue: 0,0:14:14.08,0:14:17.02,Default,,0000,0000,0000,,iar rezultatul ar fi foarte bun \Npentru umanitate.
Dialogue: 0,0:14:17.84,0:14:21.25,Default,,0000,0000,0000,,Dar asta nu se întâmplă automat.
Dialogue: 0,0:14:21.79,0:14:24.69,Default,,0000,0000,0000,,Condițiile inițiale \Npentru explozia de inteligență
Dialogue: 0,0:14:24.69,0:14:27.58,Default,,0000,0000,0000,,ar trebui setate corespunzător
Dialogue: 0,0:14:27.58,0:14:30.28,Default,,0000,0000,0000,,dacă vrem să avem o explozie controlată.
Dialogue: 0,0:14:31.18,0:14:33.80,Default,,0000,0000,0000,,Valorile I.A. trebuie să fie \Npotrivite cu ale noastre,
Dialogue: 0,0:14:33.80,0:14:35.92,Default,,0000,0000,0000,,nu doar în contextul obișnuit,
Dialogue: 0,0:14:35.92,0:14:38.18,Default,,0000,0000,0000,,când putem verifica ușor \Ncomportamentul I.A.
Dialogue: 0,0:14:38.18,0:14:41.23,Default,,0000,0000,0000,,ci și în situațiile noi \Nîn care se va putea afla I.A.
Dialogue: 0,0:14:41.23,0:14:42.55,Default,,0000,0000,0000,,într-un viitor nedefinit.
Dialogue: 0,0:14:42.55,0:14:47.52,Default,,0000,0000,0000,,Există și aspecte ezoterice\Nce vor trebui rezolvate, clarificate:
Dialogue: 0,0:14:47.52,0:14:49.62,Default,,0000,0000,0000,,detaliile exacte ale teoriei deciziilor,
Dialogue: 0,0:14:49.62,0:14:51.99,Default,,0000,0000,0000,,cum să trateze incertitudinea logică etc.
Dialogue: 0,0:14:53.30,0:14:56.26,Default,,0000,0000,0000,,Problemele tehnice de rezolvat\Npentru ca aceasta să funcționeze
Dialogue: 0,0:14:56.26,0:14:57.46,Default,,0000,0000,0000,,par destul de dificile.
Dialogue: 0,0:14:57.46,0:15:00.80,Default,,0000,0000,0000,,Nu chiar așa de dificile\Nca realizarea I.A. superinteligente,
Dialogue: 0,0:15:00.80,0:15:02.47,Default,,0000,0000,0000,,dar destul de dificile.
Dialogue: 0,0:15:03.79,0:15:05.53,Default,,0000,0000,0000,,Iată ce mă îngrijorează:
Dialogue: 0,0:15:05.53,0:15:09.16,Default,,0000,0000,0000,,realizarea I.A. superinteligente\Ne o mare provocare.
Dialogue: 0,0:15:10.17,0:15:12.72,Default,,0000,0000,0000,,Realizarea I.A. superinteligente\Ncare este sigură
Dialogue: 0,0:15:12.72,0:15:15.14,Default,,0000,0000,0000,,implică probleme suplimentare.
Dialogue: 0,0:15:16.39,0:15:19.49,Default,,0000,0000,0000,,Riscul e ca cineva să reușească \Nsă rezolve prima provocare
Dialogue: 0,0:15:19.49,0:15:22.70,Default,,0000,0000,0000,,fără a găsi calea rezolvării \Nproblemelor suplimentare
Dialogue: 0,0:15:22.70,0:15:24.60,Default,,0000,0000,0000,,de asigurare a unei siguranțe perfecte.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,Cred că ar trebui să găsim o soluție
Dialogue: 0,0:15:28.71,0:15:31.38,Default,,0000,0000,0000,,pentru a controla problema în avans,
Dialogue: 0,0:15:31.38,0:15:33.91,Default,,0000,0000,0000,,pentru a o avea când va fi nevoie.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,S-ar putea să nu putem rezolva \Nproblema controlului total în avans
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,pentru că poate unele elemente\Npot fi puse la locul lor
Dialogue: 0,0:15:41.30,0:15:45.04,Default,,0000,0000,0000,,doar cunoscând detaliile arhitecturii\Nlocului de implementare.
Dialogue: 0,0:15:45.04,0:15:48.95,Default,,0000,0000,0000,,Dar cu cât rezolvăm mai mult \Nîn avans problema controlului,
Dialogue: 0,0:15:48.95,0:15:52.55,Default,,0000,0000,0000,,cu atât sunt mai mari șansele ca trecerea \Nla era inteligenței artificiale
Dialogue: 0,0:15:52.55,0:15:53.79,Default,,0000,0000,0000,,să decurgă lin.
Dialogue: 0,0:15:54.31,0:15:58.88,Default,,0000,0000,0000,,Mi se pare un lucru ce merită făcut
Dialogue: 0,0:15:58.88,0:16:03.41,Default,,0000,0000,0000,,și pot să îmi imaginez că, dacă iese bine,
Dialogue: 0,0:16:03.41,0:16:06.94,Default,,0000,0000,0000,,oamenii, peste un milion de ani,\Nprivind înapoi la acest secol,
Dialogue: 0,0:16:06.94,0:16:10.77,Default,,0000,0000,0000,,ar putea foarte bine zice\Ncă singurul lucru important făcut de noi
Dialogue: 0,0:16:10.77,0:16:12.33,Default,,0000,0000,0000,,a fost că am făcut aceasta bine.
Dialogue: 0,0:16:12.33,0:16:13.44,Default,,0000,0000,0000,,Mulțumesc.
Dialogue: 0,0:16:13.44,0:16:17.01,Default,,0000,0000,0000,,(Aplauze)