[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:05.08,Default,,0000,0000,0000,,Budu mluvit o selhání intuice,\Nkterým trpí mnozí z nás.
Dialogue: 0,0:00:05.37,0:00:08.70,Default,,0000,0000,0000,,Vlastně jde o neschopnost \Nodhalit určitý typ nebezpečí.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,Popíšu vám situaci,
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,kterou považuji za děsivou
Dialogue: 0,0:00:14.40,0:00:16.48,Default,,0000,0000,0000,,a zároveň pravděpodobnou.
Dialogue: 0,0:00:16.78,0:00:19.70,Default,,0000,0000,0000,,A jak se ukazuje,\Ntohle není dobrá kombinace.
Dialogue: 0,0:00:20.08,0:00:22.40,Default,,0000,0000,0000,,Ovšem i přesto si bude\Nvětšina z vás myslet,
Dialogue: 0,0:00:22.42,0:00:24.87,Default,,0000,0000,0000,,že mluvím spíš o zajímavých\Nnež o děsivých věcech.
Dialogue: 0,0:00:25.12,0:00:28.18,Default,,0000,0000,0000,,Popíšu vám, jak nás pokroky
Dialogue: 0,0:00:28.20,0:00:29.98,Default,,0000,0000,0000,,v umělé inteligenci
Dialogue: 0,0:00:30.00,0:00:31.72,Default,,0000,0000,0000,,mohou nakonec úplně vyhubit.
Dialogue: 0,0:00:31.76,0:00:34.56,Default,,0000,0000,0000,,Vlastně myslím, že lze jen\Nstěží nevidět, že nás vyhubí
Dialogue: 0,0:00:34.81,0:00:36.98,Default,,0000,0000,0000,,nebo že nás k sebezničení navedou.
Dialogue: 0,0:00:37.27,0:00:39.26,Default,,0000,0000,0000,,A pokud jste na tom podobně jako já,
Dialogue: 0,0:00:39.28,0:00:41.89,Default,,0000,0000,0000,,bude vám připadat zábavné \No těchto věcech přemýšlet.
Dialogue: 0,0:00:42.13,0:00:45.08,Default,,0000,0000,0000,,Naše reakce je součástí toho problému.
Dialogue: 0,0:00:45.36,0:00:47.70,Default,,0000,0000,0000,,Tahle reakce by nás měla znepokojovat.
Dialogue: 0,0:00:47.99,0:00:50.34,Default,,0000,0000,0000,,Kdybych vás teď přesvědčoval,
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,že lidstvo pravděpodobně\Nzasáhne globální hladomor,
Dialogue: 0,0:00:54.04,0:00:56.84,Default,,0000,0000,0000,,buď kvůli klimatickým změnám\Nnebo kvůli jiné katastrofě,
Dialogue: 0,0:00:57.12,0:01:00.33,Default,,0000,0000,0000,,a že vaše vnoučata\Nči jejich vnoučata
Dialogue: 0,0:01:00.66,0:01:02.52,Default,,0000,0000,0000,,budou nejspíš žít takhle,
Dialogue: 0,0:01:03.20,0:01:04.69,Default,,0000,0000,0000,,určitě si neřeknete:
Dialogue: 0,0:01:05.44,0:01:08.71,Default,,0000,0000,0000,,„Zajímavé! To je ale hezká přednáška.“
Dialogue: 0,0:01:09.25,0:01:11.08,Default,,0000,0000,0000,,Hladomor není legrace.
Dialogue: 0,0:01:11.80,0:01:14.76,Default,,0000,0000,0000,,Na druhou stranu,\Nsmrt ve sci-fi zábavná je.
Dialogue: 0,0:01:15.20,0:01:18.97,Default,,0000,0000,0000,,Jednou z věcí, které se teď na vývoji\Numělé inteligence nejvíc obávám,
Dialogue: 0,0:01:19.01,0:01:23.15,Default,,0000,0000,0000,,je to, že zřejmě nejsme schopní\Npřiměřeně emocionálně reagovat
Dialogue: 0,0:01:23.32,0:01:25.06,Default,,0000,0000,0000,,na nebezpečí ležící před námi.
Dialogue: 0,0:01:25.29,0:01:28.70,Default,,0000,0000,0000,,Já sám toho nejsem schopný,\Ni když o tom právě přednáším.
Dialogue: 0,0:01:30.12,0:01:32.59,Default,,0000,0000,0000,,Je to jako volit cestu na rozcestí.
Dialogue: 0,0:01:32.84,0:01:37.26,Default,,0000,0000,0000,,Vstoupit prvními dveřmi znamená\Nzastavit rozvoj inteligentních strojů.
Dialogue: 0,0:01:37.52,0:01:41.26,Default,,0000,0000,0000,,Počítačový software a hardware se prostě\Nz nějakého důvodu přestane rozvíjet.
Dialogue: 0,0:01:41.58,0:01:44.84,Default,,0000,0000,0000,,Zastavme se chvilku nad tím,\Nkdy by taková situace mohla nastat.
Dialogue: 0,0:01:45.11,0:01:48.62,Default,,0000,0000,0000,,S ohledem na to, jakým jsou pro nás\Ninteligence a automatizace přínosem,
Dialogue: 0,0:01:48.76,0:01:52.40,Default,,0000,0000,0000,,budeme technologie stále zlepšovat,\Npokud toho vůbec budeme schopni.
Dialogue: 0,0:01:53.20,0:01:54.100,Default,,0000,0000,0000,,Co by nás mohlo zastavit?
Dialogue: 0,0:01:55.80,0:01:57.84,Default,,0000,0000,0000,,Celosvětová nukleární válka?
Dialogue: 0,0:01:59.07,0:02:00.73,Default,,0000,0000,0000,,Globální pandemie?
Dialogue: 0,0:02:02.32,0:02:04.01,Default,,0000,0000,0000,,Dopad asteroidu?
Dialogue: 0,0:02:05.64,0:02:07.91,Default,,0000,0000,0000,,Justin Bieber prezidentem USA?
Dialogue: 0,0:02:07.93,0:02:10.74,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:02:12.76,0:02:16.80,Default,,0000,0000,0000,,Jde o to, že by naši současnou\Ncivilizaci muselo něco zničit.
Dialogue: 0,0:02:17.36,0:02:21.40,Default,,0000,0000,0000,,Představte si, \Nco hrozného by se muselo stát,
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,abychom nebyli schopni dále\Nzdokonalovat naše technologie,
Dialogue: 0,0:02:25.04,0:02:27.98,Default,,0000,0000,0000,,neustále, generaci za generací.
Dialogue: 0,0:02:28.32,0:02:31.80,Default,,0000,0000,0000,,V podstatě je to ta nejhorší věc,\Njaká by v dějinách mohla nastat.
Dialogue: 0,0:02:32.52,0:02:36.02,Default,,0000,0000,0000,,Čili jedinou alternativou, tou,\Nkterá nás čeká za druhými dveřmi,
Dialogue: 0,0:02:36.20,0:02:39.03,Default,,0000,0000,0000,,je postupně každým rokem\Npokračovat ve zdokonalování
Dialogue: 0,0:02:39.27,0:02:41.25,Default,,0000,0000,0000,,inteligentních strojů.
Dialogue: 0,0:02:41.72,0:02:45.60,Default,,0000,0000,0000,,V určitém okamžiku vytvoříme stroje,\Nkteré budou chytřejší než my,
Dialogue: 0,0:02:46.08,0:02:48.35,Default,,0000,0000,0000,,a až budeme mít stroje,\Nkteré budou chytřejší,
Dialogue: 0,0:02:48.39,0:02:50.10,Default,,0000,0000,0000,,začnou se zdokonalovat samy.
Dialogue: 0,0:02:50.70,0:02:53.63,Default,,0000,0000,0000,,A potom nám hrozí situace,\Nkterou matematik I. J. Good nazval
Dialogue: 0,0:02:53.68,0:02:55.05,Default,,0000,0000,0000,,„inteligenční explozí“,
Dialogue: 0,0:02:55.10,0:02:57.59,Default,,0000,0000,0000,,tedy, že by se nám to\Nmohlo vymknout z rukou.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,Jak vidíte třeba tady,\Ntoto téma se často zpodobňuje
Dialogue: 0,0:03:00.96,0:03:05.16,Default,,0000,0000,0000,,jako obava z armád zlovolných robotů,\Nkteří na nás zaútočí.
Dialogue: 0,0:03:05.48,0:03:07.77,Default,,0000,0000,0000,,Ale to není moc pravděpodobný scénář.
Dialogue: 0,0:03:08.09,0:03:12.75,Default,,0000,0000,0000,,Není to tak, že by stroje\Nnajednou začaly být zlé.
Dialogue: 0,0:03:13.08,0:03:17.76,Default,,0000,0000,0000,,Problém je v tom, že vytvoříme stroje,\Nkteré budou o tolik schopnější než my,
Dialogue: 0,0:03:17.80,0:03:22.76,Default,,0000,0000,0000,,že i ta nejjemnější odchylka mezi\Njejich a našimi cíli by nás mohla zničit.
Dialogue: 0,0:03:23.89,0:03:26.34,Default,,0000,0000,0000,,Vezměte si, jak se chováme k mravencům.
Dialogue: 0,0:03:26.60,0:03:28.07,Default,,0000,0000,0000,,Nic proti nim nemáme.
Dialogue: 0,0:03:28.28,0:03:30.27,Default,,0000,0000,0000,,Nechceme jim cíleně ubližovat.
Dialogue: 0,0:03:30.31,0:03:32.58,Default,,0000,0000,0000,,Necháme se i poštípat,\Nabychom jim neublížili.
Dialogue: 0,0:03:32.62,0:03:34.25,Default,,0000,0000,0000,,Na chodníku je překračujeme.
Dialogue: 0,0:03:34.80,0:03:36.62,Default,,0000,0000,0000,,Ale kdykoliv jejich přítomnost
Dialogue: 0,0:03:36.81,0:03:39.30,Default,,0000,0000,0000,,vážně narušuje naše zájmy,
Dialogue: 0,0:03:39.48,0:03:41.69,Default,,0000,0000,0000,,například při stavbě budov, jako je tahle,
Dialogue: 0,0:03:41.79,0:03:44.09,Default,,0000,0000,0000,,bez mrknutí oka je zlikvidujeme.
Dialogue: 0,0:03:44.48,0:03:47.33,Default,,0000,0000,0000,,Panuje obava, že jednou vytvoříme stroje,
Dialogue: 0,0:03:47.37,0:03:50.19,Default,,0000,0000,0000,,které by s námi mohly, vědomě či nevědomě,
Dialogue: 0,0:03:50.23,0:03:52.43,Default,,0000,0000,0000,,zacházet podobně lhostejně.
Dialogue: 0,0:03:53.76,0:03:56.69,Default,,0000,0000,0000,,Mnohým z vás to nejspíš\Npřijde přitažené za vlasy.
Dialogue: 0,0:03:57.36,0:03:59.77,Default,,0000,0000,0000,,Vsadím se, že někteří\Nz vás určitě pochybují,
Dialogue: 0,0:03:59.80,0:04:03.42,Default,,0000,0000,0000,,že je možné superinteligentní AI vytvořit,
Dialogue: 0,0:04:03.67,0:04:05.37,Default,,0000,0000,0000,,natož, že to nevyhnutelně nastane.
Dialogue: 0,0:04:05.41,0:04:08.64,Default,,0000,0000,0000,,Pak ale musíte v následujících\Npředpokladech najít nějaký omyl.
Dialogue: 0,0:04:09.04,0:04:10.74,Default,,0000,0000,0000,,Ty předpoklady jsou jen tři.
Dialogue: 0,0:04:12.12,0:04:16.71,Default,,0000,0000,0000,,Inteligence je výsledkem zpracování\Ninformací ve hmotných systémech.
Dialogue: 0,0:04:17.18,0:04:19.55,Default,,0000,0000,0000,,Toto je vlastně víc než předpoklad.
Dialogue: 0,0:04:19.58,0:04:23.42,Default,,0000,0000,0000,,Do našich strojů jsme už\Nomezenou inteligenci zabudovali
Dialogue: 0,0:04:23.44,0:04:28.38,Default,,0000,0000,0000,,a mnohé z nich už operují\Nna úrovni superinteligentních lidí.
Dialogue: 0,0:04:28.84,0:04:31.16,Default,,0000,0000,0000,,A víme, že pouhá hmota
Dialogue: 0,0:04:31.44,0:04:34.06,Default,,0000,0000,0000,,může dát vzniknout\Ntakzvané „všeobecné inteligenci“,
Dialogue: 0,0:04:34.08,0:04:37.49,Default,,0000,0000,0000,,tedy schopnosti flexibilně\Nse orientovat v různých oblastech.
Dialogue: 0,0:04:37.76,0:04:40.69,Default,,0000,0000,0000,,Protože náš mozek už to zvládl, že?
Dialogue: 0,0:04:42.67,0:04:44.86,Default,,0000,0000,0000,,Mozek se skládá jenom z atomů,
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,a pokud budeme pokračovat\Nv budování systémů z atomů,
Dialogue: 0,0:04:49.42,0:04:53.36,Default,,0000,0000,0000,,které budou vykazovat čím dál\Ninteligentnější chování, tak nakonec,
Dialogue: 0,0:04:53.59,0:04:56.06,Default,,0000,0000,0000,,pokud nás něco nezastaví,
Dialogue: 0,0:04:56.12,0:04:59.07,Default,,0000,0000,0000,,zabudujeme do našich strojů\Nvšeobecnou inteligenci.
Dialogue: 0,0:04:59.18,0:05:02.84,Default,,0000,0000,0000,,Klíčové je uvědomit si,\Nže na rychlosti pokroku nezáleží,
Dialogue: 0,0:05:03.08,0:05:06.26,Default,,0000,0000,0000,,protože k dosažení cílové pásky\Nstačí jakékoli tempo.
Dialogue: 0,0:05:06.28,0:05:09.95,Default,,0000,0000,0000,,Nepotřebujeme Mooreův zákon,\Nnení zapotřebí exponenciální vývoj.
Dialogue: 0,0:05:10.20,0:05:11.88,Default,,0000,0000,0000,,Prostě stačí pokračovat.
Dialogue: 0,0:05:13.48,0:05:16.41,Default,,0000,0000,0000,,Druhým předpokladem je,\Nže budeme pokračovat.
Dialogue: 0,0:05:16.85,0:05:19.89,Default,,0000,0000,0000,,Budeme naše inteligentní stroje\Nnadále zdokonalovat.
Dialogue: 0,0:05:21.00,0:05:25.12,Default,,0000,0000,0000,,Protože inteligence je důležitá –
Dialogue: 0,0:05:25.40,0:05:28.74,Default,,0000,0000,0000,,myslím tím to, že inteligence je buď\Nzdrojem všeho, čeho si ceníme,
Dialogue: 0,0:05:28.78,0:05:31.99,Default,,0000,0000,0000,,nebo že ji potřebujeme\Nk zabezpečení všeho, čeho si ceníme.
Dialogue: 0,0:05:32.02,0:05:33.87,Default,,0000,0000,0000,,Je to náš nejcennější zdroj.
Dialogue: 0,0:05:34.05,0:05:35.58,Default,,0000,0000,0000,,Takže v tom chceme pokračovat.
Dialogue: 0,0:05:35.60,0:05:38.77,Default,,0000,0000,0000,,Máme problémy, které zoufale\Npotřebujeme vyřešit.
Dialogue: 0,0:05:39.01,0:05:42.44,Default,,0000,0000,0000,,Chceme například vyléčit\NAlzheimerovu chorobu nebo rakovinu.
Dialogue: 0,0:05:42.96,0:05:46.52,Default,,0000,0000,0000,,Chceme rozumět ekonomickým systémům.\NChceme zlepšit výzkum klimatu.
Dialogue: 0,0:05:46.86,0:05:49.21,Default,,0000,0000,0000,,Takže budeme pokračovat,\Npokud to půjde.
Dialogue: 0,0:05:49.39,0:05:52.49,Default,,0000,0000,0000,,Je to rozjetý vlak, který nejde zastavit.
Dialogue: 0,0:05:53.88,0:05:58.100,Default,,0000,0000,0000,,Posledním předpokladem je,\Nže lidé nestojí na vrcholu inteligence
Dialogue: 0,0:05:59.31,0:06:01.44,Default,,0000,0000,0000,,a pravděpodobně nejsou ani pod vrcholem.
Dialogue: 0,0:06:01.75,0:06:05.74,Default,,0000,0000,0000,,To je opravdu zásadní pohled.\NKvůli tomu jsme v tak prekérní situaci.
Dialogue: 0,0:06:06.00,0:06:10.15,Default,,0000,0000,0000,,Kvůli tomu je naše intuice\Npři posuzování rizik tak nespolehlivá.
Dialogue: 0,0:06:11.11,0:06:13.94,Default,,0000,0000,0000,,Vezměte si třeba\Nnejchytřejší lidi v dějinách.
Dialogue: 0,0:06:14.64,0:06:17.89,Default,,0000,0000,0000,,Do užšího výběru by téměř každý\Nzařadil Johna von Neumanna.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,To, jakým dojmem von Neumann\Npůsobil na lidi kolem sebe,
Dialogue: 0,0:06:21.44,0:06:25.33,Default,,0000,0000,0000,,mezi něž patřili nejlepší\Nmatematici a fyzici té doby,
Dialogue: 0,0:06:25.52,0:06:27.31,Default,,0000,0000,0000,,je celkem dobře zdokumentováno.
Dialogue: 0,0:06:27.48,0:06:31.17,Default,,0000,0000,0000,,Kdyby jen polovina historek o něm\Nbyla aspoň z poloviny pravdivá,
Dialogue: 0,0:06:31.22,0:06:34.37,Default,,0000,0000,0000,,tak není pochyb,\Nže patřil mezi nejchytřejší lidi historie.
Dialogue: 0,0:06:35.00,0:06:37.73,Default,,0000,0000,0000,,Pojďme se teď zamyslet\Nnad rozsahem inteligence.
Dialogue: 0,0:06:38.32,0:06:40.14,Default,,0000,0000,0000,,Tady je John von Neumann.
Dialogue: 0,0:06:41.56,0:06:43.40,Default,,0000,0000,0000,,Tady jsou lidé jako vy a já.
Dialogue: 0,0:06:44.08,0:06:45.49,Default,,0000,0000,0000,,A tady máme kuře.
Dialogue: 0,0:06:45.54,0:06:47.38,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,Pardon, kuře.
Dialogue: 0,0:06:48.64,0:06:49.83,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:06:49.85,0:06:53.10,Default,,0000,0000,0000,,Není důvod, aby tahle přednáška\Nbyla víc depresivní, než je potřeba.
Dialogue: 0,0:06:53.14,0:06:55.08,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:06:56.34,0:07:01.56,Default,,0000,0000,0000,,Ovšem zdá se navýsost pravděpodobné,\Nže rozsah inteligence je mnohem širší,
Dialogue: 0,0:07:01.59,0:07:03.43,Default,,0000,0000,0000,,než jak ho v současnosti vnímáme.
Dialogue: 0,0:07:03.88,0:07:06.73,Default,,0000,0000,0000,,A pokud vytvoříme stroje\Ninteligentnější než jsme my,
Dialogue: 0,0:07:06.95,0:07:09.96,Default,,0000,0000,0000,,tak budou velmi pravděpodobně\Nzkoumat toto spektrum způsobem,
Dialogue: 0,0:07:09.100,0:07:11.45,Default,,0000,0000,0000,,který si neumíme představit,
Dialogue: 0,0:07:11.50,0:07:14.41,Default,,0000,0000,0000,,a předčí nás způsobem,\Nkterý si neumíme představit.
Dialogue: 0,0:07:15.00,0:07:19.17,Default,,0000,0000,0000,,A je důležité připustit,\Nže je tomu tak už díky samotné rychlosti.
Dialogue: 0,0:07:19.42,0:07:24.24,Default,,0000,0000,0000,,Představte si, že jsme\Nvytvořili superinteligentní AI,
Dialogue: 0,0:07:24.44,0:07:29.88,Default,,0000,0000,0000,,která je stejně chytrá jako průměrný\Ntým vědců na Stanfordu nebo MIT.
Dialogue: 0,0:07:30.24,0:07:34.29,Default,,0000,0000,0000,,Víme, že elektronické obvody pracují\Nasi milionkrát rychleji než biochemické,
Dialogue: 0,0:07:34.50,0:07:37.66,Default,,0000,0000,0000,,takže takový stroj\Nby přemýšlel milionkrát rychleji
Dialogue: 0,0:07:37.68,0:07:39.34,Default,,0000,0000,0000,,než lidé, kteří ho postavili.
Dialogue: 0,0:07:39.52,0:07:41.09,Default,,0000,0000,0000,,Takže ho na týden pustíte
Dialogue: 0,0:07:41.12,0:07:45.91,Default,,0000,0000,0000,,a on vykoná stejnou intelektuální práci,\Njaká by lidem trvala 20 000 let.
Dialogue: 0,0:07:46.40,0:07:48.62,Default,,0000,0000,0000,,Týden za týdnem, pořád dokola.
Dialogue: 0,0:07:49.64,0:07:52.72,Default,,0000,0000,0000,,Jak bychom vůbec mohli pochopit,\Ntím spíš nějak omezovat,
Dialogue: 0,0:07:52.77,0:07:55.29,Default,,0000,0000,0000,,inteligenci schopnou takového pokroku?
Dialogue: 0,0:07:56.84,0:07:59.75,Default,,0000,0000,0000,,Je tu i další znepokojivá věc –
Dialogue: 0,0:08:00.08,0:08:03.96,Default,,0000,0000,0000,,představte si optimální situaci.
Dialogue: 0,0:08:04.00,0:08:07.91,Default,,0000,0000,0000,,Představte si, že se nám podaří\Nnavrhnout superinteligentní AI,
Dialogue: 0,0:08:08.09,0:08:09.81,Default,,0000,0000,0000,,která nebude dbát na bezpečnost.
Dialogue: 0,0:08:09.84,0:08:12.46,Default,,0000,0000,0000,,Hned napoprvé budeme mít dokonalou verzi.
Dialogue: 0,0:08:12.84,0:08:16.96,Default,,0000,0000,0000,,Jako kdyby se naplnila nějaká věštba,\Nkterá by fungovala tak, jak bylo určeno.
Dialogue: 0,0:08:17.16,0:08:21.08,Default,,0000,0000,0000,,Takový stroj by lidem\Ndokonale usnadňoval práci.
Dialogue: 0,0:08:21.58,0:08:24.20,Default,,0000,0000,0000,,Dokázal by navrhnout stroj,\Nkterý by uměl stavět stroje
Dialogue: 0,0:08:24.23,0:08:25.89,Default,,0000,0000,0000,,schopné jakékoli manuální práce,
Dialogue: 0,0:08:25.92,0:08:29.50,Default,,0000,0000,0000,,napájené sluneční energií,\Nvíceméně za cenu surovin.
Dialogue: 0,0:08:30.67,0:08:33.06,Default,,0000,0000,0000,,Takže mluvíme o konci lidské dřiny.
Dialogue: 0,0:08:33.38,0:08:36.31,Default,,0000,0000,0000,,Mluvíme také o konci\Nvětšiny intelektuální práce.
Dialogue: 0,0:08:37.20,0:08:40.26,Default,,0000,0000,0000,,Ale co by takové opice jako my\Nv téhle situaci dělaly?
Dialogue: 0,0:08:40.70,0:08:44.61,Default,,0000,0000,0000,,No, měli bychom čas hrát frisbee\Na vzájemně se masírovat.
Dialogue: 0,0:08:45.84,0:08:48.84,Default,,0000,0000,0000,,Přidali bychom nějaké to LSD\Na kontroverzní oblečení
Dialogue: 0,0:08:48.90,0:08:51.04,Default,,0000,0000,0000,,a svět by mohl vypadat jako „Burning Man“.
Dialogue: 0,0:08:51.08,0:08:53.52,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:08:54.32,0:08:56.53,Default,,0000,0000,0000,,Asi to zní krásně.
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,Ale zeptejte se sami sebe, co by se stalo,
Dialogue: 0,0:08:59.68,0:09:02.17,Default,,0000,0000,0000,,kdyby ekonomika a politika\Nfungovaly tak jako dnes.
Dialogue: 0,0:09:02.44,0:09:04.60,Default,,0000,0000,0000,,Pravděpodobně bychom zažili
Dialogue: 0,0:09:05.07,0:09:09.02,Default,,0000,0000,0000,,takovou sociální nerovnost\Na nezaměstnanost
Dialogue: 0,0:09:09.04,0:09:10.54,Default,,0000,0000,0000,,jako nikdy předtím.
Dialogue: 0,0:09:10.56,0:09:14.81,Default,,0000,0000,0000,,Zavládla by neochota dát okamžitě\Ntoto bohatství do služeb lidstvu.
Dialogue: 0,0:09:15.81,0:09:19.26,Default,,0000,0000,0000,,Několik bilionářů by zdobilo\Nobálky obchodních časopisů,
Dialogue: 0,0:09:19.28,0:09:21.73,Default,,0000,0000,0000,,zatímco zbytek světa\Nby mohl v klidu hladovět.
Dialogue: 0,0:09:22.32,0:09:24.45,Default,,0000,0000,0000,,A co by udělali Rusové nebo Číňani,
Dialogue: 0,0:09:24.64,0:09:27.26,Default,,0000,0000,0000,,kdyby se doslechli, že se v Silicon Valley
Dialogue: 0,0:09:27.28,0:09:30.02,Default,,0000,0000,0000,,někdo chystá zapojit superinteligentní AI?
Dialogue: 0,0:09:30.04,0:09:32.38,Default,,0000,0000,0000,,Takový stroj by byl schopný vést válku,
Dialogue: 0,0:09:32.59,0:09:34.79,Default,,0000,0000,0000,,ať už pozemní nebo kybernetickou,
Dialogue: 0,0:09:35.03,0:09:36.98,Default,,0000,0000,0000,,s nebývalou silou.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,V této situaci by „vítěz bral vše“.
Dialogue: 0,0:09:40.00,0:09:42.93,Default,,0000,0000,0000,,Šestiměsíční náskok před konkurencí
Dialogue: 0,0:09:43.16,0:09:47.28,Default,,0000,0000,0000,,by znamenal náskok minimálně 500 000 let,
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Zdá se, že i pouhé fámy\No průlomu v této oblasti
Dialogue: 0,0:09:52.24,0:09:54.37,Default,,0000,0000,0000,,by mohly náš druh dovést k nepříčetnosti.
Dialogue: 0,0:09:54.52,0:09:57.35,Default,,0000,0000,0000,,Myslím si, že jednou z nejděsivějších věcí
Dialogue: 0,0:09:57.56,0:09:59.65,Default,,0000,0000,0000,,je momentálně to,
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,co vědci zabývající se\Nvývojem umělé inteligence říkají,
Dialogue: 0,0:10:04.68,0:10:06.49,Default,,0000,0000,0000,,když nás chtějí uklidnit.
Dialogue: 0,0:10:07.00,0:10:10.28,Default,,0000,0000,0000,,Nejčastěji uváděným důvodem,\Nproč se prý nemáme obávat, je čas.
Dialogue: 0,0:10:10.48,0:10:12.54,Default,,0000,0000,0000,,Všechno je to ještě daleko, nemyslíte?
Dialogue: 0,0:10:12.56,0:10:15.31,Default,,0000,0000,0000,,Přijde to až tak za 50 nebo 100 let.
Dialogue: 0,0:10:15.72,0:10:18.74,Default,,0000,0000,0000,,Jeden vědec řekl:\N„Bát se o bezpečnost umělé inteligence
Dialogue: 0,0:10:18.80,0:10:21.10,Default,,0000,0000,0000,,je stejné, jako bát se přelidnění Marsu.“
Dialogue: 0,0:10:22.08,0:10:24.10,Default,,0000,0000,0000,,Pro Silicon Valley je to jen jiná verze:
Dialogue: 0,0:10:24.14,0:10:26.09,Default,,0000,0000,0000,,„Nech to koňovi, ten má větší hlavu.“
Dialogue: 0,0:10:26.13,0:10:27.50,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:10:27.52,0:10:29.26,Default,,0000,0000,0000,,Nikdo si nejspíš nevšímá toho,
Dialogue: 0,0:10:29.45,0:10:33.96,Default,,0000,0000,0000,,že odvolávat se na časový horizont\Nje naprosto nelogické.
Dialogue: 0,0:10:34.35,0:10:37.73,Default,,0000,0000,0000,,Pokud inteligence spočívá\Npouze ve zpracování informací
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,a pokud budeme dál zlepšovat své stroje,
Dialogue: 0,0:10:40.64,0:10:43.52,Default,,0000,0000,0000,,tak nějakou formu\Nsuperinteligence vytvoříme.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,Ale nemáme ani ponětí,\Njak dlouho nám bude trvat,
Dialogue: 0,0:10:48.00,0:10:50.69,Default,,0000,0000,0000,,abychom ji vytvořili\Nza bezpečných podmínek.
Dialogue: 0,0:10:52.07,0:10:53.41,Default,,0000,0000,0000,,Řeknu to ještě jednou.
Dialogue: 0,0:10:53.58,0:10:57.34,Default,,0000,0000,0000,,Nemáme ani ponětí,\Njak dlouho nám bude trvat,
Dialogue: 0,0:10:57.36,0:11:00.05,Default,,0000,0000,0000,,abychom ji vytvořili\Nza bezpečných podmínek.
Dialogue: 0,0:11:00.92,0:11:04.61,Default,,0000,0000,0000,,A možná jste si nevšimli,\Nže 50 let už není, co bývalo.
Dialogue: 0,0:11:04.64,0:11:06.61,Default,,0000,0000,0000,,Tohle je 50 let v měsících.
Dialogue: 0,0:11:06.88,0:11:08.93,Default,,0000,0000,0000,,Takhle dlouho máme iPhone.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,A takhle dlouho se vysílají Simpsonovi.
Dialogue: 0,0:11:12.68,0:11:15.06,Default,,0000,0000,0000,,Padesát let není moc času na to,
Dialogue: 0,0:11:15.08,0:11:18.37,Default,,0000,0000,0000,,aby se náš druh vypořádal s jedním\Nz nejtěžších úkolů všech dob.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,Ještě jednou – zdá se, že nejsme schopni\Nadekvátní emocionální reakce na to,
Dialogue: 0,0:11:23.68,0:11:26.17,Default,,0000,0000,0000,,co podle všeho nepochybně nastane.
Dialogue: 0,0:11:26.40,0:11:30.47,Default,,0000,0000,0000,,Odborník na počítače, Stuart Russell,\Nmá pro tuto situaci hezké přirovnání.
Dialogue: 0,0:11:30.53,0:11:35.07,Default,,0000,0000,0000,,Máme si představit, že dostaneme\Nzprávu od mimozemské civilizace,
Dialogue: 0,0:11:35.32,0:11:36.64,Default,,0000,0000,0000,,ve které stojí:
Dialogue: 0,0:11:37.04,0:11:38.42,Default,,0000,0000,0000,,„Pozemšťané,
Dialogue: 0,0:11:38.60,0:11:41.17,Default,,0000,0000,0000,,za 50 let dorazíme na vaši planetu.
Dialogue: 0,0:11:41.80,0:11:43.20,Default,,0000,0000,0000,,Připravte se.“
Dialogue: 0,0:11:43.40,0:11:47.05,Default,,0000,0000,0000,,To bychom jen počítali, kolik měsíců\Nzbývá do přistání vlajkové lodi?
Dialogue: 0,0:11:47.68,0:11:50.86,Default,,0000,0000,0000,,Cítili bychom o něco\Nnaléhavější potřebu než teď.
Dialogue: 0,0:11:52.57,0:11:54.70,Default,,0000,0000,0000,,Dalším důvodem, proč se prý nemáme bát,
Dialogue: 0,0:11:54.72,0:11:58.08,Default,,0000,0000,0000,,je, že těmto strojům nezbude než\Nse držet našich hodnot,
Dialogue: 0,0:11:58.12,0:12:00.23,Default,,0000,0000,0000,,protože se stanou doslova naší nadstavbou.
Dialogue: 0,0:12:00.26,0:12:02.04,Default,,0000,0000,0000,,Budou implantované do našich mozků
Dialogue: 0,0:12:02.08,0:12:04.61,Default,,0000,0000,0000,,a my se v podstatě staneme\Njejich limbickým systémem.
Dialogue: 0,0:12:05.06,0:12:06.47,Default,,0000,0000,0000,,Chvilku se zamyslete nad tím,
Dialogue: 0,0:12:06.49,0:12:09.33,Default,,0000,0000,0000,,že tou nejbezpečnější\Na nejuváženější cestou,
Dialogue: 0,0:12:09.63,0:12:11.17,Default,,0000,0000,0000,,která se doporučuje,
Dialogue: 0,0:12:11.20,0:12:14.26,Default,,0000,0000,0000,,by měla být implantace této\Ntechnologie do našich mozků.
Dialogue: 0,0:12:14.60,0:12:18.01,Default,,0000,0000,0000,,Ona to vskutku může být\Nnejbezpečnější a nejuváženější cesta,
Dialogue: 0,0:12:18.05,0:12:20.98,Default,,0000,0000,0000,,ale obvykle se všichni obávají\No bezpečnost technologií,
Dialogue: 0,0:12:21.01,0:12:24.96,Default,,0000,0000,0000,,protože když máte nosit něco natrvalo,\Nmusí to být dost dobře vyladěné.
Dialogue: 0,0:12:24.99,0:12:26.78,Default,,0000,0000,0000,,(smích)
Dialogue: 0,0:12:26.80,0:12:31.93,Default,,0000,0000,0000,,Hlubším problémem je to,\Nže vytvořit samotnou superinteligentní AI
Dialogue: 0,0:12:32.16,0:12:35.81,Default,,0000,0000,0000,,je pravděpodobně snazší,\Nnež vytvářet takovou inteligenci
Dialogue: 0,0:12:35.96,0:12:37.67,Default,,0000,0000,0000,,společně s kompletní neurobiologií,
Dialogue: 0,0:12:37.71,0:12:40.37,Default,,0000,0000,0000,,která umožní bezproblémovou\Nintegraci do naší mysli.
Dialogue: 0,0:12:40.80,0:12:43.87,Default,,0000,0000,0000,,A jelikož firmy a vlády budou tuto práci
Dialogue: 0,0:12:44.10,0:12:47.42,Default,,0000,0000,0000,,nejspíše vnímat jako\Nzávod se všem ostatními,
Dialogue: 0,0:12:47.68,0:12:50.72,Default,,0000,0000,0000,,protože vyhrát tenhle závod\Nznamená dobýt svět ‒
Dialogue: 0,0:12:50.96,0:12:53.35,Default,,0000,0000,0000,,tedy za předpokladu,\Nže ho hned nato nezničíte ‒
Dialogue: 0,0:12:53.51,0:12:57.72,Default,,0000,0000,0000,,tak se dá čekat, že jako první se\Nudělá to, co bude nejjednodušší.
Dialogue: 0,0:12:58.67,0:13:01.19,Default,,0000,0000,0000,,Já bohužel nevidím\Npro tento problém žádné řešení,
Dialogue: 0,0:13:01.36,0:13:03.73,Default,,0000,0000,0000,,kromě doporučení,\Nabychom o tom více přemýšleli.
Dialogue: 0,0:13:03.84,0:13:06.34,Default,,0000,0000,0000,,Myslím, že potřebujeme\Nněco jako projekt Manhattan
Dialogue: 0,0:13:06.36,0:13:08.24,Default,,0000,0000,0000,,na téma umělé inteligence.
Dialogue: 0,0:13:08.52,0:13:11.34,Default,,0000,0000,0000,,Ne kvůli jejímu vytvoření,\Nprotože to nevyhnutelně nastane,
Dialogue: 0,0:13:11.36,0:13:14.45,Default,,0000,0000,0000,,ale abychom přišli na to,\Njak se vyhnout závodům ve zbrojení
Dialogue: 0,0:13:14.64,0:13:17.66,Default,,0000,0000,0000,,a jak ji vytvořit způsobem,\Nkterý vyhoví našim zájmům.
Dialogue: 0,0:13:18.10,0:13:22.32,Default,,0000,0000,0000,,Když se bavíme o superinteligentní AI,\Nkterá se dokáže sama měnit,
Dialogue: 0,0:13:22.60,0:13:27.22,Default,,0000,0000,0000,,vypadá to, že máme jen jednu šanci,\Njak správně nastavit výchozí podmínky,
Dialogue: 0,0:13:27.23,0:13:29.56,Default,,0000,0000,0000,,i když budeme muset tlumit
Dialogue: 0,0:13:29.59,0:13:32.74,Default,,0000,0000,0000,,ekonomické a politické důsledky\Ntakto nastavených podmínek.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Nicméně ve chvíli, kdy si přiznáme,
Dialogue: 0,0:13:35.84,0:13:39.72,Default,,0000,0000,0000,,že inteligence pramení\Nze zpracování informací,
Dialogue: 0,0:13:41.09,0:13:45.52,Default,,0000,0000,0000,,že vhodně navržený počítačový systém\Nje podstatou inteligence,
Dialogue: 0,0:13:46.36,0:13:50.26,Default,,0000,0000,0000,,a až přistoupíme na to, že budeme\Ntyto systémy neustále vylepšovat
Dialogue: 0,0:13:51.28,0:13:57.12,Default,,0000,0000,0000,,a že horizont poznání nejspíš daleko\Npřesahuje vše, co v současnosti známe,
Dialogue: 0,0:13:58.12,0:14:02.34,Default,,0000,0000,0000,,pak si musíme přiznat, že jsme uprostřed\Nprocesu vytváření jakéhosi boha.
Dialogue: 0,0:14:03.40,0:14:07.07,Default,,0000,0000,0000,,Teď by bylo dobré se ujistit,\Nže s tímto bohem budeme moci žít.
Dialogue: 0,0:14:08.09,0:14:09.38,Default,,0000,0000,0000,,Díky moc.
Dialogue: 0,0:14:09.40,0:14:13.32,Default,,0000,0000,0000,,(potlesk)