[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:04.78,Default,,0000,0000,0000,,Spolupracuji s matematiky, \Nfilozofy a informatiky,
Dialogue: 0,0:00:04.78,0:00:09.99,Default,,0000,0000,0000,,se kterými přemýšlíme nad\Nbudoucností strojové inteligence
Dialogue: 0,0:00:09.99,0:00:12.03,Default,,0000,0000,0000,,a dalšími otázkami.
Dialogue: 0,0:00:12.03,0:00:16.76,Default,,0000,0000,0000,,Někteří lidé si myslí, že jde o věci \Npatřící do science-fiction,
Dialogue: 0,0:00:16.76,0:00:19.86,Default,,0000,0000,0000,,tedy vzdálené a bláznivé.
Dialogue: 0,0:00:19.86,0:00:21.33,Default,,0000,0000,0000,,Na to jim ale rád odpovídám,
Dialogue: 0,0:00:21.33,0:00:24.93,Default,,0000,0000,0000,,fajn, tak se podívejte \Nna moderního člověka.
Dialogue: 0,0:00:24.93,0:00:26.62,Default,,0000,0000,0000,,(Smích)
Dialogue: 0,0:00:26.62,0:00:29.02,Default,,0000,0000,0000,,Tohle je dnes běžný stav věcí.
Dialogue: 0,0:00:29.02,0:00:31.31,Default,,0000,0000,0000,,Když se nad tím ale zamyslíme,
Dialogue: 0,0:00:31.31,0:00:34.60,Default,,0000,0000,0000,,jako lidský druh \Njsme ve skutečnosti teprve
Dialogue: 0,0:00:34.60,0:00:36.68,Default,,0000,0000,0000,,nedávnými hosty na této planetě.
Dialogue: 0,0:00:36.68,0:00:41.43,Default,,0000,0000,0000,,Představíme-li si, \Nže Země vznikla před rokem,
Dialogue: 0,0:00:41.43,0:00:44.98,Default,,0000,0000,0000,,bude lidský druh starý pouhých 10 minut.
Dialogue: 0,0:00:44.98,0:00:48.15,Default,,0000,0000,0000,,Průmyslová éra začala \Npřed dvěma sekundami.
Dialogue: 0,0:00:49.28,0:00:54.50,Default,,0000,0000,0000,,Anebo se podívejme na vývoj \Nsvětového HDP za posledních 10 tisíc let.
Dialogue: 0,0:00:54.50,0:00:57.53,Default,,0000,0000,0000,,Dal jsem si takovou práci, \Nže jsem vám jej zpracoval do grafu.
Dialogue: 0,0:00:57.53,0:00:59.30,Default,,0000,0000,0000,,Vypadá takhle.
Dialogue: 0,0:00:59.30,0:01:00.67,Default,,0000,0000,0000,,(Smích)
Dialogue: 0,0:01:00.67,0:01:02.82,Default,,0000,0000,0000,,Jde o podivný tvar pro běžné podmínky.
Dialogue: 0,0:01:02.82,0:01:04.52,Default,,0000,0000,0000,,Nechtěl bych na něm sedět.
Dialogue: 0,0:01:04.52,0:01:07.07,Default,,0000,0000,0000,,(Smích)
Dialogue: 0,0:01:07.07,0:01:11.84,Default,,0000,0000,0000,,Zeptejme se sami sebe, \Nco je příčinou tohoto výkyvu?
Dialogue: 0,0:01:11.84,0:01:14.39,Default,,0000,0000,0000,,Někteří lidé by odpověděli, že technika.
Dialogue: 0,0:01:14.39,0:01:19.06,Default,,0000,0000,0000,,To je pravda, technika se během \Nlidských dějin nahromadila
Dialogue: 0,0:01:19.06,0:01:23.71,Default,,0000,0000,0000,,a v současnosti se vyvíjí extrémně rychle.
Dialogue: 0,0:01:23.71,0:01:25.28,Default,,0000,0000,0000,,Je v tom příčinná souvislost.
Dialogue: 0,0:01:25.28,0:01:27.84,Default,,0000,0000,0000,,Proto jsme nyní tak produktivní.
Dialogue: 0,0:01:28.47,0:01:32.13,Default,,0000,0000,0000,,Já bych se ale rád vrátil\Nk pravé příčině zpět do minulosti.
Dialogue: 0,0:01:33.11,0:01:36.88,Default,,0000,0000,0000,,Podívejme se na tyto \Nmimořádně ctihodné gentlemany:
Dialogue: 0,0:01:36.88,0:01:38.48,Default,,0000,0000,0000,,tohle je Kanzi –
Dialogue: 0,0:01:38.48,0:01:43.12,Default,,0000,0000,0000,,ovládl 200 různých znaků, \Nfantastický výkon.
Dialogue: 0,0:01:43.12,0:01:46.82,Default,,0000,0000,0000,,A Ed Witten spustil druhou \Nsuperstrunovou revoluci.
Dialogue: 0,0:01:46.82,0:01:49.14,Default,,0000,0000,0000,,Podíváme-li se pod pokličku, \Nnalezneme tohle:
Dialogue: 0,0:01:49.14,0:01:50.71,Default,,0000,0000,0000,,v podstatě jednu a tutéž věc.
Dialogue: 0,0:01:50.71,0:01:52.52,Default,,0000,0000,0000,,Jedna je jen trochu větší
Dialogue: 0,0:01:52.52,0:01:55.28,Default,,0000,0000,0000,,a možná má pár vylepšení \Nve svých zapojeních.
Dialogue: 0,0:01:55.28,0:01:59.09,Default,,0000,0000,0000,,Ale tyto neviditelné rozdíly \Nnemohou být příliš komplikované,
Dialogue: 0,0:01:59.09,0:02:03.38,Default,,0000,0000,0000,,protože od doby našeho \Nnejbližšího společného předka
Dialogue: 0,0:02:03.38,0:02:05.11,Default,,0000,0000,0000,,uplynulo pouze 250 tisíc generací.
Dialogue: 0,0:02:05.11,0:02:08.96,Default,,0000,0000,0000,,Víme, že složitější mechanismy potřebují \Nke svému vývoji delší dobu.
Dialogue: 0,0:02:10.00,0:02:12.50,Default,,0000,0000,0000,,Takže skupina relativně malých změn
Dialogue: 0,0:02:12.50,0:02:15.57,Default,,0000,0000,0000,,nás od Kanziho přenesla k Wittenovi,
Dialogue: 0,0:02:15.57,0:02:20.11,Default,,0000,0000,0000,,od prolézání větvovím stromů \Nk mezikontinentálním balistickým střelám.
Dialogue: 0,0:02:20.84,0:02:24.77,Default,,0000,0000,0000,,Takže se zdá být zřejmé, \Nže vše, čeho jsme dosáhli,
Dialogue: 0,0:02:24.77,0:02:26.15,Default,,0000,0000,0000,,a vše, co nás zajímá,
Dialogue: 0,0:02:26.15,0:02:31.38,Default,,0000,0000,0000,,zásadně závisí na relativně malých \Nzměnách, které vytvořily lidskou mysl.
Dialogue: 0,0:02:32.65,0:02:36.31,Default,,0000,0000,0000,,Důsledkem toho je samozřejmě to, \Nže jakékoli další změny,
Dialogue: 0,0:02:36.31,0:02:39.79,Default,,0000,0000,0000,,které výrazně změní \Nsubstrát našeho myšlení,
Dialogue: 0,0:02:39.79,0:02:42.99,Default,,0000,0000,0000,,mohou mít potenciálně mimořádné důsledky.
Dialogue: 0,0:02:44.32,0:02:47.23,Default,,0000,0000,0000,,Někteří z mých kolegů si myslí, \Nže jsme na okraji něčeho,
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,co může přivodit podstatnou \Nzměnu tohoto substrátu.
Dialogue: 0,0:02:51.13,0:02:54.35,Default,,0000,0000,0000,,Jde o strojovou superinteligenci.
Dialogue: 0,0:02:54.35,0:02:59.09,Default,,0000,0000,0000,,Umělá inteligence bývala \No zadávání příkazů do krabičky.
Dialogue: 0,0:02:59.09,0:03:00.75,Default,,0000,0000,0000,,Museli jste mít\Nlidské programátory,
Dialogue: 0,0:03:00.75,0:03:03.89,Default,,0000,0000,0000,,kteří ručně vytvářeli databáze znalostí.
Dialogue: 0,0:03:03.89,0:03:05.97,Default,,0000,0000,0000,,Získali jste tím expertní systémy,
Dialogue: 0,0:03:05.97,0:03:08.30,Default,,0000,0000,0000,,které byly užitečné pro určité úkoly,
Dialogue: 0,0:03:08.30,0:03:10.98,Default,,0000,0000,0000,,ale byly dost nevhodné \Npro nějaké výraznější rozšíření.
Dialogue: 0,0:03:10.98,0:03:14.41,Default,,0000,0000,0000,,V podstatě jste z nich dostali jen to, \Nco jste do nich vložili.
Dialogue: 0,0:03:14.41,0:03:15.41,Default,,0000,0000,0000,,Ale od té doby
Dialogue: 0,0:03:15.41,0:03:18.87,Default,,0000,0000,0000,,došlo na poli umělé inteligence \Nke změně paradigmatu.
Dialogue: 0,0:03:18.87,0:03:21.64,Default,,0000,0000,0000,,Dnes se vše děje kolem strojového učení.
Dialogue: 0,0:03:22.39,0:03:27.78,Default,,0000,0000,0000,,Takže namísto ručního vytváření \Ndatabází znalostí,
Dialogue: 0,0:03:28.51,0:03:34.06,Default,,0000,0000,0000,,vytváříme algoritmy, které se samy učí, \Nčasto z velmi hrubých a neurčitých dat.
Dialogue: 0,0:03:34.06,0:03:39.06,Default,,0000,0000,0000,,V podstatě dělají stejnou věc \Njako lidské miminko.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,Výsledkem je umělá inteligence, \Nkterá není omezena jednou oblastí:
Dialogue: 0,0:03:43.27,0:03:47.90,Default,,0000,0000,0000,,tentýž systém se může naučit \Npřekládat z jednoho jazyka do druhého
Dialogue: 0,0:03:47.90,0:03:53.34,Default,,0000,0000,0000,,nebo se může naučit hrát \Njakoukoli hru na konzoli Atari.
Dialogue: 0,0:03:53.34,0:03:55.12,Default,,0000,0000,0000,,Samozřejmě
Dialogue: 0,0:03:55.12,0:03:59.12,Default,,0000,0000,0000,,umělá inteligence nedosahuje stejných \Nvýsledků co se týče schopností učit se
Dialogue: 0,0:03:59.12,0:04:02.34,Default,,0000,0000,0000,,napříč různými oblastmi a plánovat, \Njako dokáže člověk.
Dialogue: 0,0:04:02.34,0:04:04.46,Default,,0000,0000,0000,,Mozková kůra má pořád v rukávu \Npár algoritmických
Dialogue: 0,0:04:04.46,0:04:06.82,Default,,0000,0000,0000,,triků, které zatím neumíme\Nu strojů vytvořit.
Dialogue: 0,0:04:07.89,0:04:09.78,Default,,0000,0000,0000,,Otázkou je,
Dialogue: 0,0:04:09.78,0:04:13.28,Default,,0000,0000,0000,,jak daleko jsme od toho, \Nkdy se nám je vytvořit podaří?
Dialogue: 0,0:04:14.24,0:04:15.33,Default,,0000,0000,0000,,Před pár lety
Dialogue: 0,0:04:15.33,0:04:18.22,Default,,0000,0000,0000,,jsme udělali průzkum mezi \Nexperty na umělou inteligenci,
Dialogue: 0,0:04:18.22,0:04:21.44,Default,,0000,0000,0000,,abychom věděli, co si oni myslí, \Na jedna z položených otázek zněla:
Dialogue: 0,0:04:21.44,0:04:24.79,Default,,0000,0000,0000,,„V jakém roce si myslíte, \Nže bude 50% pravděpodobnost,
Dialogue: 0,0:04:24.79,0:04:28.28,Default,,0000,0000,0000,,že u strojů dosáhneme inteligence\Nsrovnatelné s lidskou?"
Dialogue: 0,0:04:28.78,0:04:32.97,Default,,0000,0000,0000,,Lidskou inteligenci jsme definovali \Njako schopnost provádět téměř jakoukoli
Dialogue: 0,0:04:32.97,0:04:35.84,Default,,0000,0000,0000,,práci přinejmenším takovým způsobem\Njako dospělý člověk,
Dialogue: 0,0:04:35.84,0:04:39.84,Default,,0000,0000,0000,,takže jsme nevytvářeli nějaká omezení.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,Nejčastější odpověď byla 2040 a 2050,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,v závislosti na tom, \Njaké skupiny jsme se zeptali.
Dialogue: 0,0:04:46.30,0:04:50.34,Default,,0000,0000,0000,,Může k tomu dojít mnohem později \Nnebo mnohem dříve,
Dialogue: 0,0:04:50.34,0:04:52.28,Default,,0000,0000,0000,,pravdou je, že to nikdo doopravdy neví.
Dialogue: 0,0:04:53.26,0:04:57.67,Default,,0000,0000,0000,,Co ale víme, je, že nejzazší hranice \Npro zpracování informací leží
Dialogue: 0,0:04:57.67,0:05:02.54,Default,,0000,0000,0000,,u strojových substrátů daleko \Nza hranicemi biologických tkání.
Dialogue: 0,0:05:03.24,0:05:05.62,Default,,0000,0000,0000,,Vysvětlení nám dává fyzika.
Dialogue: 0,0:05:05.62,0:05:10.34,Default,,0000,0000,0000,,Biologický neuron má frekvenci okolo \N200 Hz, je aktivní 200krát za sekundu.
Dialogue: 0,0:05:10.34,0:05:13.93,Default,,0000,0000,0000,,Ale už dnešní tranzistory pracují \Nna gigahertzových frekvencích.
Dialogue: 0,0:05:13.93,0:05:19.23,Default,,0000,0000,0000,,Signál se v axonu neuronů šíří pomalu, \Nmaximálně 100 metrů za sekundu.
Dialogue: 0,0:05:19.23,0:05:22.34,Default,,0000,0000,0000,,V počítačích může ale signál \Ncestovat rychlostí světla.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,A existují i prostorová omezení,
Dialogue: 0,0:05:24.95,0:05:27.98,Default,,0000,0000,0000,,lidský mozek se musí vejít do lebky,
Dialogue: 0,0:05:27.98,0:05:32.74,Default,,0000,0000,0000,,ale počítač může být velký jako skladiště \Nnebo i větší.
Dialogue: 0,0:05:32.74,0:05:38.34,Default,,0000,0000,0000,,Takže potenciál pro superinteligenci \Nzatím tiše spočívá v hmotě,
Dialogue: 0,0:05:38.34,0:05:44.05,Default,,0000,0000,0000,,podobně jako tam spočívala síla atomu
Dialogue: 0,0:05:44.05,0:05:48.45,Default,,0000,0000,0000,,až do roku 1945.
Dialogue: 0,0:05:48.45,0:05:49.70,Default,,0000,0000,0000,,V tomto století
Dialogue: 0,0:05:49.70,0:05:53.82,Default,,0000,0000,0000,,se mohou vědci naučit, \Njak probudit sílu umělé inteligence.
Dialogue: 0,0:05:53.82,0:05:57.83,Default,,0000,0000,0000,,A myslím, \Nže pak uvidíme explozi inteligence.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,Dnes většina lidí, když přemýšlí o tom, \Nco je chytré a co hloupé,
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,má na mysli situaci jako je tato.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,Takže na jedné straně \Nmáme vesnického idiota,
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,a na opačném konci
Dialogue: 0,0:06:10.47,0:06:15.22,Default,,0000,0000,0000,,máme Eda Wittena nebo Alberta Einsteina \Nnebo si doplňte svého oblíbence.
Dialogue: 0,0:06:15.22,0:06:19.06,Default,,0000,0000,0000,,Myslím ale, \Nže z pohledu umělé inteligence
Dialogue: 0,0:06:19.06,0:06:22.74,Default,,0000,0000,0000,,vypadá skutečná situace spíše jako toto:
Dialogue: 0,0:06:23.26,0:06:26.64,Default,,0000,0000,0000,,umělá inteligence začíná \Nv tomto bodě na nule,
Dialogue: 0,0:06:26.64,0:06:29.65,Default,,0000,0000,0000,,a pak po mnoha a mnoha letech tvrdé dřiny
Dialogue: 0,0:06:29.65,0:06:33.49,Default,,0000,0000,0000,,se dostáváme téměř \Nna úroveň inteligence myši,
Dialogue: 0,0:06:33.49,0:06:35.92,Default,,0000,0000,0000,,něčeho, co se dokáže orientovat \Nve složitém prostředí,
Dialogue: 0,0:06:35.92,0:06:37.91,Default,,0000,0000,0000,,jako to dokáže myš.
Dialogue: 0,0:06:37.91,0:06:42.22,Default,,0000,0000,0000,,A pak po mnoha a mnoha letech \Ndalší tvrdé dřiny, mnoha investicí,
Dialogue: 0,0:06:42.22,0:06:46.86,Default,,0000,0000,0000,,možná dospějeme \Nna úroveň inteligence šimpanze.
Dialogue: 0,0:06:46.86,0:06:50.07,Default,,0000,0000,0000,,A pak po ještě dalších letech tvrdé práce
Dialogue: 0,0:06:50.07,0:06:52.98,Default,,0000,0000,0000,,se dostaneme na úroveň vesnického idiota.
Dialogue: 0,0:06:52.98,0:06:56.26,Default,,0000,0000,0000,,Ale pak po pár okamžicích \Njsme za úrovní Eda Wittena.
Dialogue: 0,0:06:56.26,0:06:59.22,Default,,0000,0000,0000,,Vlak nezastavuje na Zastávce lidstvo.
Dialogue: 0,0:06:59.22,0:07:02.25,Default,,0000,0000,0000,,Je pravděpodobnější, že jí prosviští.
Dialogue: 0,0:07:02.25,0:07:04.23,Default,,0000,0000,0000,,Tohle má závažné implikace,
Dialogue: 0,0:07:04.23,0:07:08.09,Default,,0000,0000,0000,,obzvláště dojde-li na otázky moci.
Dialogue: 0,0:07:08.09,0:07:09.99,Default,,0000,0000,0000,,Kupříkladu šimpanzi jsou silní –
Dialogue: 0,0:07:09.99,0:07:15.21,Default,,0000,0000,0000,,v poměru ke své hmotnosti jsou zhruba \Ndvojnásobně silnější než dospělý muž.
Dialogue: 0,0:07:15.21,0:07:19.83,Default,,0000,0000,0000,,Přesto osud Kanziho a jeho druhů \Nzávisí mnohem více na tom,
Dialogue: 0,0:07:19.83,0:07:23.97,Default,,0000,0000,0000,,co po nich chceme my, \Na ne co chtějí sami šimpanzi.
Dialogue: 0,0:07:25.23,0:07:27.54,Default,,0000,0000,0000,,Jakmile tu bude superinteligence,
Dialogue: 0,0:07:27.54,0:07:31.38,Default,,0000,0000,0000,,osud lidstva může záviset na tom, \Nco bude chtít superinteligence.
Dialogue: 0,0:07:32.45,0:07:33.51,Default,,0000,0000,0000,,Zamyslete se nad tím.
Dialogue: 0,0:07:33.51,0:07:38.55,Default,,0000,0000,0000,,Strojová inteligence je posledním \Nvynálezem, který je kdy třeba učinit.
Dialogue: 0,0:07:38.55,0:07:41.52,Default,,0000,0000,0000,,Stroje poté budou \Nve vynalézání lepší než my
Dialogue: 0,0:07:41.52,0:07:44.06,Default,,0000,0000,0000,,a také budou pracovat digitální rychlostí.
Dialogue: 0,0:07:44.06,0:07:48.97,Default,,0000,0000,0000,,To znamená, že nás přímo \Nkatapultují do budoucnosti.
Dialogue: 0,0:07:48.97,0:07:52.52,Default,,0000,0000,0000,,Uvažte ty nejšílenější technologie, \Nkteré si jen dokážete představit,
Dialogue: 0,0:07:52.52,0:07:55.32,Default,,0000,0000,0000,,a které by snad lidstvo \Ns dostatkem času někdy mohlo vytvořit:
Dialogue: 0,0:07:55.32,0:07:58.58,Default,,0000,0000,0000,,kúra proti stárnutí, obydlení vesmíru,
Dialogue: 0,0:07:58.58,0:08:02.31,Default,,0000,0000,0000,,samoreplikující se nanoroboti, \Nnahrávání mysli do počítače,
Dialogue: 0,0:08:02.31,0:08:04.47,Default,,0000,0000,0000,,všechny tyto věci ze science-fiction,
Dialogue: 0,0:08:04.47,0:08:07.21,Default,,0000,0000,0000,,které nejsou v rozporu se zákony fyziky.
Dialogue: 0,0:08:07.21,0:08:11.42,Default,,0000,0000,0000,,Všechno toto by mohla superinteligence \Nvytvořit, zřejmě dost rychle.
Dialogue: 0,0:08:12.45,0:08:16.01,Default,,0000,0000,0000,,Superinteligence s takovou \Ntechnologickou vyspělostí
Dialogue: 0,0:08:16.01,0:08:18.19,Default,,0000,0000,0000,,by byla extrémně mocná.
Dialogue: 0,0:08:18.19,0:08:22.73,Default,,0000,0000,0000,,A v některých případech by dostala, \Nco by si zamanula.
Dialogue: 0,0:08:22.73,0:08:28.39,Default,,0000,0000,0000,,Naše budoucnost by tak byla utvářena \Npreferencemi této umělé inteligence.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,Dobrou otázkou proto je, \Njaké jsou tyto preference?
Dialogue: 0,0:08:34.24,0:08:36.01,Default,,0000,0000,0000,,To je komplikovaná otázka.
Dialogue: 0,0:08:36.01,0:08:37.45,Default,,0000,0000,0000,,Abychom mohli odpovědět,
Dialogue: 0,0:08:37.45,0:08:40.72,Default,,0000,0000,0000,,musíme se vyvarovat antropomorfizaci.
Dialogue: 0,0:08:41.93,0:08:45.24,Default,,0000,0000,0000,,A to je legrační, \Nprotože každý článek v novinách
Dialogue: 0,0:08:45.24,0:08:49.09,Default,,0000,0000,0000,,o budoucnosti umělé inteligence \Nmá obrázek jako je tento.
Dialogue: 0,0:08:50.28,0:08:54.41,Default,,0000,0000,0000,,Takže myslím, že musíme \Ntéma uchopit abstraktněji,
Dialogue: 0,0:08:54.41,0:08:57.20,Default,,0000,0000,0000,,a ne v pojmech hollywoodských scénářů.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,Musíme o inteligenci uvažovat \Njako o optimalizačním procesu,
Dialogue: 0,0:09:00.82,0:09:06.47,Default,,0000,0000,0000,,procesu, který řídí budoucnost \Ndo mezí určitého nastavení.
Dialogue: 0,0:09:06.47,0:09:09.98,Default,,0000,0000,0000,,Superinteligence je velice \Nvýkonný optimalizační proces.
Dialogue: 0,0:09:09.98,0:09:14.10,Default,,0000,0000,0000,,Je velice dobrá ve využívání \Ndostupných prostředků
Dialogue: 0,0:09:14.10,0:09:16.01,Default,,0000,0000,0000,,k dosažení vytčeného cíle.
Dialogue: 0,0:09:16.45,0:09:19.12,Default,,0000,0000,0000,,To znamená, že neexistuje nutné spojení
Dialogue: 0,0:09:19.12,0:09:21.85,Default,,0000,0000,0000,,mezi vysokou inteligencí
Dialogue: 0,0:09:21.85,0:09:26.52,Default,,0000,0000,0000,,a cílem, který bychom my lidé považovali \Nza hodnotný nebo smysluplný.
Dialogue: 0,0:09:27.32,0:09:31.12,Default,,0000,0000,0000,,Představte si, že dáme umělé inteligenci \Núkol rozesmát lidi.
Dialogue: 0,0:09:31.12,0:09:34.10,Default,,0000,0000,0000,,Když bude slabá, provede užitečné \Nnebo úsměvné úkony,
Dialogue: 0,0:09:34.10,0:09:36.61,Default,,0000,0000,0000,,aby své uživatele rozesmála.
Dialogue: 0,0:09:36.61,0:09:39.03,Default,,0000,0000,0000,,Když se stane superinteligentní,
Dialogue: 0,0:09:39.03,0:09:42.55,Default,,0000,0000,0000,,uvědomí si, že existuje efektivnější \Nzpůsob, jak toho dosáhnout:
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,převezme vládu nad světem
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,a strčí lidem \Ndo obličejových svalů elektrody,
Dialogue: 0,0:09:47.64,0:09:50.58,Default,,0000,0000,0000,,čímž vytvoří neustálý úsměv na tváři.
Dialogue: 0,0:09:50.58,0:09:51.61,Default,,0000,0000,0000,,Jiný příklad,
Dialogue: 0,0:09:51.61,0:09:54.100,Default,,0000,0000,0000,,předpokládejme, že umělá inteligence \Nbude řešit složitý matematický problém.
Dialogue: 0,0:09:54.100,0:09:56.93,Default,,0000,0000,0000,,Když se stane superinteligentní,
Dialogue: 0,0:09:56.93,0:10:01.10,Default,,0000,0000,0000,,uvědomí si, že nejefektivnější způsob, \Njak se dopracovat výsledku,
Dialogue: 0,0:10:01.10,0:10:04.04,Default,,0000,0000,0000,,je přebudovat tuto planetu \Ndo obrovského počítače,
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,aby zvýšila výpočetní kapacitu.
Dialogue: 0,0:10:06.28,0:10:09.04,Default,,0000,0000,0000,,Všimne si, že toto jí dává pomocný důvod,
Dialogue: 0,0:10:09.04,0:10:11.56,Default,,0000,0000,0000,,aby dělala věci, \Nkteré bychom jí běžně nedovolili.
Dialogue: 0,0:10:11.56,0:10:13.50,Default,,0000,0000,0000,,Lidské bytosti jsou v této situaci hrozbou,
Dialogue: 0,0:10:13.50,0:10:16.42,Default,,0000,0000,0000,,která by jí mohla zabránit \Nve vyřešení matematického problému.
Dialogue: 0,0:10:17.21,0:10:20.70,Default,,0000,0000,0000,,Samozřejmě by se věci zřejmě \Nnevyvíjely tímto způsobem,
Dialogue: 0,0:10:20.70,0:10:22.45,Default,,0000,0000,0000,,jde o karikované příklady.
Dialogue: 0,0:10:22.45,0:10:24.39,Default,,0000,0000,0000,,Ale obecné poučení je důležité:
Dialogue: 0,0:10:24.39,0:10:27.27,Default,,0000,0000,0000,,pokud vytvoříte skutečně\Nvýkonný optimalizační proces,
Dialogue: 0,0:10:27.27,0:10:29.50,Default,,0000,0000,0000,,abyste co nejlépe vyřešili úkol X,
Dialogue: 0,0:10:29.50,0:10:31.78,Default,,0000,0000,0000,,ujistěte se, že definice tohoto X
Dialogue: 0,0:10:31.78,0:10:34.24,Default,,0000,0000,0000,,zahrnuje všechno, o co máte zájem.
Dialogue: 0,0:10:34.84,0:10:39.22,Default,,0000,0000,0000,,Je to lekce, kterou dávají i mnohé mýty.
Dialogue: 0,0:10:39.22,0:10:44.52,Default,,0000,0000,0000,,Král Midas si přál, aby se všechno, \Nčeho se dotkne, proměnilo ve zlato.
Dialogue: 0,0:10:44.52,0:10:47.38,Default,,0000,0000,0000,,Dotkl se své dcery, \Na ta se proměnila ve zlato.
Dialogue: 0,0:10:47.38,0:10:49.93,Default,,0000,0000,0000,,Dotkl se jídla, to se proměnilo ve zlato.
Dialogue: 0,0:10:49.93,0:10:52.52,Default,,0000,0000,0000,,Tohle může být relevantní
Dialogue: 0,0:10:52.52,0:10:54.59,Default,,0000,0000,0000,,nikoli jen jako metafora chamtivosti,
Dialogue: 0,0:10:54.59,0:10:56.48,Default,,0000,0000,0000,,ale také jako ilustrace toho,
Dialogue: 0,0:10:56.48,0:10:59.32,Default,,0000,0000,0000,,co se stane, když vytvoříte \Nvýkonný optimalizační proces
Dialogue: 0,0:10:59.32,0:11:04.11,Default,,0000,0000,0000,,a dáte mu zavádějící \Nnebo špatně definované cíle.
Dialogue: 0,0:11:04.11,0:11:09.30,Default,,0000,0000,0000,,Můžete si říct, že pokud počítač \Nzačne lidem strkat do tváře elektrody,
Dialogue: 0,0:11:09.30,0:11:11.56,Default,,0000,0000,0000,,prostě jej vypnete.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,Za A, to nemusí být nutně tak jednoduše\Nproveditelné, pokud na něm budeme závislí.
Dialogue: 0,0:11:17.90,0:11:20.63,Default,,0000,0000,0000,,Kde je třeba tlačítko\Nna vypnutí internetu?
Dialogue: 0,0:11:20.63,0:11:25.75,Default,,0000,0000,0000,,Za B, proč šimpanzi nebo neandrtálci \Nnezmáčkli vypínač
Dialogue: 0,0:11:25.75,0:11:27.30,Default,,0000,0000,0000,,bránící vzniku lidstva?
Dialogue: 0,0:11:27.30,0:11:29.96,Default,,0000,0000,0000,,Zcela jistě pro to byl důvod.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,Máme vypínač například zrovna tady.
Dialogue: 0,0:11:32.76,0:11:34.31,Default,,0000,0000,0000,,(Dusí se)
Dialogue: 0,0:11:34.31,0:11:37.24,Default,,0000,0000,0000,,Důvodem je, \Nže jsme inteligentní protivníci,
Dialogue: 0,0:11:37.24,0:11:39.97,Default,,0000,0000,0000,,dokážeme předvídat hrozby \Na vyhýbat se jim.
Dialogue: 0,0:11:39.97,0:11:42.47,Default,,0000,0000,0000,,To by ale dokázal i \Nsuperinteligentní hráč,
Dialogue: 0,0:11:42.47,0:11:45.72,Default,,0000,0000,0000,,a byl by v tom mnohem lepší než my.
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,Pointa je v tom, že bychom si neměli \Nbýt tak jistí, že máme vše pod kontrolou.
Dialogue: 0,0:11:52.91,0:11:56.36,Default,,0000,0000,0000,,Mohli bychom si zkusit \Nusnadnit práci třeba tím,
Dialogue: 0,0:11:56.36,0:11:57.95,Default,,0000,0000,0000,,že by se U. I. \Nzavřela do skříňky,
Dialogue: 0,0:11:57.95,0:11:59.74,Default,,0000,0000,0000,,do zabezpečeného prostředí,
Dialogue: 0,0:11:59.74,0:12:02.77,Default,,0000,0000,0000,,simulované virtuální reality, \Nze které by nemohla uprchnout.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,Ale jak moc si můžeme být jistí, \Nže nenajde nějakou díru?
Dialogue: 0,0:12:06.91,0:12:10.08,Default,,0000,0000,0000,,Vzhledem k tomu, že lidští hackeři \Nnalézají díry v jednom kuse,
Dialogue: 0,0:12:10.08,0:12:13.12,Default,,0000,0000,0000,,bychom moc jistí být neměli.
Dialogue: 0,0:12:14.24,0:12:18.78,Default,,0000,0000,0000,,Takže vypojíme síťový kabel, \Nabychom přerušili kontakt,
Dialogue: 0,0:12:18.78,0:12:21.45,Default,,0000,0000,0000,,ale je to tu zas, lidští hackeři
Dialogue: 0,0:12:21.45,0:12:24.83,Default,,0000,0000,0000,,běžně tuto překážku překonávají \Nsociálním inženýrstvím.
Dialogue: 0,0:12:24.83,0:12:26.09,Default,,0000,0000,0000,,Jak teď zrovna hovořím,
Dialogue: 0,0:12:26.09,0:12:28.48,Default,,0000,0000,0000,,zcela jistě je venku nějaký zaměstnanec,
Dialogue: 0,0:12:28.48,0:12:31.83,Default,,0000,0000,0000,,který byl požádán, \Naby nadiktoval údaje svého účtu
Dialogue: 0,0:12:31.83,0:12:34.57,Default,,0000,0000,0000,,někomu, kdo tvrdí, \Nže je z technické podpory.
Dialogue: 0,0:12:34.57,0:12:36.70,Default,,0000,0000,0000,,Možné jsou i nápaditější scénáře,
Dialogue: 0,0:12:36.70,0:12:38.02,Default,,0000,0000,0000,,kdy v roli U. I.
Dialogue: 0,0:12:38.02,0:12:41.55,Default,,0000,0000,0000,,rozmístíte elektrody kolem svého obvodu,
Dialogue: 0,0:12:41.55,0:12:45.01,Default,,0000,0000,0000,,abyste vytvořili rádiové vlny, \Nkterými budete komunikovat.
Dialogue: 0,0:12:45.01,0:12:47.43,Default,,0000,0000,0000,,Anebo můžete předstírat poruchu
Dialogue: 0,0:12:47.43,0:12:50.93,Default,,0000,0000,0000,,a když se objeví programátor, \Naby se podíval, co se porouchalo,
Dialogue: 0,0:12:50.93,0:12:52.87,Default,,0000,0000,0000,,aby se podíval na zdrojový kód \N– Bum! –
Dialogue: 0,0:12:52.87,0:12:55.31,Default,,0000,0000,0000,,poradíte si s ním.
Dialogue: 0,0:12:55.31,0:12:58.74,Default,,0000,0000,0000,,Anebo může vytvořit plán \Npro velmi mazanou technologii,
Dialogue: 0,0:12:58.74,0:13:00.14,Default,,0000,0000,0000,,kterou když sestrojíme,
Dialogue: 0,0:13:00.14,0:13:04.54,Default,,0000,0000,0000,,bude mít na nás neblahé vedlejší účinky.
Dialogue: 0,0:13:04.54,0:13:08.00,Default,,0000,0000,0000,,Zkrátka bychom neměli příliš \Nvěřit ve svou schopnost
Dialogue: 0,0:13:08.00,0:13:11.81,Default,,0000,0000,0000,,udržet superinteligentního \Ndžina v láhvi navždy.
Dialogue: 0,0:13:11.81,0:13:14.06,Default,,0000,0000,0000,,Dříve nebo později se dostane ven.
Dialogue: 0,0:13:15.03,0:13:18.14,Default,,0000,0000,0000,,Myslím, že řešením je přijít na to,
Dialogue: 0,0:13:18.14,0:13:23.16,Default,,0000,0000,0000,,jak vytvořit superinteligenci tak, \Nže i kdyby utekla,
Dialogue: 0,0:13:23.16,0:13:26.44,Default,,0000,0000,0000,,byla by stále neškodná, \Nprotože by byla na naší straně,
Dialogue: 0,0:13:26.44,0:13:28.34,Default,,0000,0000,0000,,protože by měla stejné hodnoty jako my.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,Nevidím jinou možnost.
Dialogue: 0,0:13:32.56,0:13:36.39,Default,,0000,0000,0000,,Jsem velice optimistický co se týče \Nvyřešení tohoto problému.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,Nemuseli bychom sepsat dlouhý \Nseznam všeho, na čem nám záleží,
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,nebo jej snad\Nvytvořit v programovacím jazyce
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,jako je C++ nebo Python,
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,což by byl beznadějný úkol.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,Namísto toho bychom měli sestrojit \Nsystém, který svoji inteligenci využije
Dialogue: 0,0:13:52.46,0:13:55.23,Default,,0000,0000,0000,,k tomu, aby se naučil, jaké hodnoty máme,
Dialogue: 0,0:13:55.23,0:14:00.51,Default,,0000,0000,0000,,a aby jeho motivační systém \Nbyl naladěn tak,
Dialogue: 0,0:14:00.51,0:14:05.74,Default,,0000,0000,0000,,aby sledoval tyto hodnoty a konal činy, \Nkteré bychom schválili.
Dialogue: 0,0:14:05.74,0:14:09.15,Default,,0000,0000,0000,,Mohli bychom ovlivnit jeho inteligenci \Njak jen by to bylo možné,
Dialogue: 0,0:14:09.15,0:14:11.90,Default,,0000,0000,0000,,abychom vyřešili problém načítání hodnot.
Dialogue: 0,0:14:12.73,0:14:14.24,Default,,0000,0000,0000,,Může k tomu dojít
Dialogue: 0,0:14:14.24,0:14:17.84,Default,,0000,0000,0000,,a výsledek by byl pro lidstvo příznivý.
Dialogue: 0,0:14:17.84,0:14:21.79,Default,,0000,0000,0000,,Nedojde k tomu ale automaticky.
Dialogue: 0,0:14:21.79,0:14:24.79,Default,,0000,0000,0000,,Výchozí podmínky pro explozi inteligence
Dialogue: 0,0:14:24.79,0:14:27.65,Default,,0000,0000,0000,,mohou vyžadovat to správné nastavení,
Dialogue: 0,0:14:27.65,0:14:31.18,Default,,0000,0000,0000,,abychom dosáhli řízené detonace.
Dialogue: 0,0:14:31.18,0:14:33.80,Default,,0000,0000,0000,,Hodnoty umělé inteligence \Nmusí být shodné s našimi,
Dialogue: 0,0:14:33.80,0:14:35.56,Default,,0000,0000,0000,,a to nejen v běžných situacích,
Dialogue: 0,0:14:35.56,0:14:37.100,Default,,0000,0000,0000,,kdy můžeme snadno zkontrolovat, \Njak se chová,
Dialogue: 0,0:14:37.100,0:14:41.23,Default,,0000,0000,0000,,ale také v nových situacích, \Nse kterými se může setkat
Dialogue: 0,0:14:41.23,0:14:42.79,Default,,0000,0000,0000,,v neurčité budoucnosti.
Dialogue: 0,0:14:42.79,0:14:47.53,Default,,0000,0000,0000,,Je tu také pár esoterických otázek, \Nkteré by měly být vyřešeny:
Dialogue: 0,0:14:47.53,0:14:49.62,Default,,0000,0000,0000,,přesné detaily její rozhodovací teorie,
Dialogue: 0,0:14:49.62,0:14:52.48,Default,,0000,0000,0000,,jak bude nakládat s logickou neurčitostí \Na tak dále.
Dialogue: 0,0:14:53.33,0:14:56.43,Default,,0000,0000,0000,,Takže technické problémy, \Nkteré je třeba vyřešit,
Dialogue: 0,0:14:56.43,0:14:57.54,Default,,0000,0000,0000,,vypadají složitě –
Dialogue: 0,0:14:57.54,0:15:00.92,Default,,0000,0000,0000,,i když ne tak složitě \Njako vytvoření superinteligence,
Dialogue: 0,0:15:00.92,0:15:03.79,Default,,0000,0000,0000,,každopádně hodně složitě.
Dialogue: 0,0:15:03.79,0:15:05.49,Default,,0000,0000,0000,,Existuje jisté znepokojení.
Dialogue: 0,0:15:05.49,0:15:10.17,Default,,0000,0000,0000,,Vytvoření superinteligence \Nje skutečně velká výzva.
Dialogue: 0,0:15:10.17,0:15:12.72,Default,,0000,0000,0000,,Vytvoření superinteligence, \Nkterá bude bezpečná,
Dialogue: 0,0:15:12.72,0:15:15.14,Default,,0000,0000,0000,,zahrnuje navíc několik dalších výzev.
Dialogue: 0,0:15:16.22,0:15:19.70,Default,,0000,0000,0000,,Riziko spočívá v tom, když někdo \Npřijde na to, jak vyřešit první výzvu,
Dialogue: 0,0:15:19.70,0:15:22.70,Default,,0000,0000,0000,,aniž by zároveň vyřešil připojené výzvy
Dialogue: 0,0:15:22.70,0:15:24.60,Default,,0000,0000,0000,,spojené se zachováním bezpečnosti.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,Takže myslím, že bychom měli najít řešení,
Dialogue: 0,0:15:28.71,0:15:31.53,Default,,0000,0000,0000,,jak to druhé vyřešit v předstihu,
Dialogue: 0,0:15:31.53,0:15:34.19,Default,,0000,0000,0000,,abychom byli připravení, až dospěje čas.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,Může se stát, že nevyřešíme problém včas,
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,protože některé části bude možné doplnit
Dialogue: 0,0:15:41.30,0:15:45.30,Default,,0000,0000,0000,,až tehdy, kdy budeme znát \Npodrobnosti výpočetní architektury.
Dialogue: 0,0:15:45.30,0:15:48.68,Default,,0000,0000,0000,,Ale čím více v rámci \Ntohoto problému vyřešíme,
Dialogue: 0,0:15:48.68,0:15:52.77,Default,,0000,0000,0000,,tím větší je šance, že přechod \Ndo éry inteligentních strojů
Dialogue: 0,0:15:52.77,0:15:54.31,Default,,0000,0000,0000,,proběhne dobře.
Dialogue: 0,0:15:54.31,0:15:58.95,Default,,0000,0000,0000,,Toto na mě působí jako věc, \Nkterou má smysl dělat,
Dialogue: 0,0:15:58.95,0:16:02.28,Default,,0000,0000,0000,,a dovedu si představit, \Nže pokud se věci vyvinou dobře,
Dialogue: 0,0:16:02.28,0:16:06.94,Default,,0000,0000,0000,,lidé se za milion let \Npodívají zpět na toto století
Dialogue: 0,0:16:06.94,0:16:10.94,Default,,0000,0000,0000,,a řeknou si, že věc, kterou \Njsme udělali skutečně správně,
Dialogue: 0,0:16:10.94,0:16:12.51,Default,,0000,0000,0000,,bylo vypořádání se s tímto problémem.
Dialogue: 0,0:16:12.51,0:16:14.20,Default,,0000,0000,0000,,Děkuji.
Dialogue: 0,0:16:14.20,0:16:17.01,Default,,0000,0000,0000,,(Potlesk)