V dětství jsem byl typickým nerdem,
myslím, že pár z vás taky.
(smích)
A vy, pane, který se smějete nejhlasitěji,
jím ještě možná jste.
(smích)
Vyrůstal jsem v malém městě
na prašných pláních severního Texasu,
syn šerifa, který byl synem kněze.
Moc rošťáren jsem provádět nemohl.
A tak jsem si z nudy
začal číst o integrálech.
(smích)
Vy také, že?
To mě dovedlo k postavení modelu
laseru a počítače a rakety
a to zase k vytvoření raketového paliva
v mé ložnici.
Ve vědeckých termínech tomu říkáme
velmi špatný nápad.
(smích)
Ve stejném čase se do kin dostala
"2001: Vesmírná odysea" Stanleyho Kubricka
a můj život se navždy změnil.
Miloval jsem vše o tom filmu,
zejména Hala 9000.
HAL byl cítícím počítačem,
navrženým k navádění
vesmírné lodě Discovery
ze Země na Jupiter.
HAL měl také charakterovou vadu,
protože na konci si cenil více mise
než lidského života.
HAL byl fiktivní postavou,
nicméně hovoří k našemu strachu,
strachu z podřízení se
nějaké necítící, umělé inteligenci,
která je lhostejná k našemu lidství.
Věřím, že tento strach je neopodstatněný.
Nalézáme se vskutku
v pozoruhodném období,
odmítnutí omezení našich těl a mysli
nás vede ke stavbě výjimečných
nádherně komplexních a půvabných strojů,
které rozšíří lidskou zkušenost
způsoby přesahujícími naši představivost.
Po kariéře, která mne zavedla
z letecké akademie
přes Vesmírné velení až do dnešního dne,
jsem se stal systémovým inženýrem
a nedávno se nechal vtáhnout
do inženýrského problému,
souvisejícího s misí NASA na Mars.
Ve vesmírných letech na Měsíc,
můžeme spoléhat
na řídicí středisko v Houstonu,
které dohlíží na všechny aspekty letu.
Nicméně Mars je 200krát dále
a signálu průměrně trvá 13 minut
cestovat ze Země na Mars.
Pokud se objeví problém,
není zde dost času.
A rozumné inženýrské řešení
nám navrhuje umístit kontrolu mise
mezi stěny vesmírné lodi Orion.
Další fascinující myšlenka v profilu mise
umisťuje humanoidní roboty na povrch Marsu
před příletem samotných lidí,
aby nejprve postavili zařízení
a později sloužili jako členové
vědeckého týmu.
Když se na to dívám pohledem inženýra,
zdálo se mi jasné, že potřebuji navrhnout
malou, spolupracující,
sociálně inteligentní umělou inteligenci.
Jinými slovy jsem potřeboval postavit
něco velmi podobného HALovi,
ale bez vražedných tendencí.
(smích)
Zastavme se na chvilku.
Je možné postavit
takovou umělou inteligenci?
Vlastně ano.
Z mnoha pohledů
je to složitý inženýrský problém
s prvky AI,
není to žádný otravný AI problém,
který potřebuje být vyřešen.
Abych parafrázoval Alana Turinga,
nezajímá mne postavení
cítícího stroje.
Nestavím HALa.
Chci jen jednoduchý mozek,
který poskytuje iluzi inteligence.
Umění a věda o počítačích
podstoupila dlouhou cestu
od doby, kdy se HAL objevil
na obrazovce
a kdyby zde byl jeho tvůrce, Dr. Chandra,
měl by pro nás mnoho otázek.
Je pro nás opravdu možné
číst datové toky v systému
s miliony zařízení,
předvídat jejich selhání
a jednat v předstihu?
Ano.
Můžeme postavit systém, který
komunikuje s lidmi přirozeným jazykem?
Ano.
Můžeme postavit systém, který
rozlišuje objekty, identifikuje emoce,
emoce samotné, hraje hry
a dokonce odečítá ze rtů?
Ano.
Můžeme postavit systém,
který stanovuje cíle,
provádí plány ve vztahu k těm cílům
a průběžně se učí?
Ano.
Můžeme postavit systémy,
které mají teorii mysli?
Toto se učíme udělat.
Můžeme postavit systémy, které
mají etické a morální základy?
To se musíme naučit.
Přijměme na okamžik to,
že je možné postavit takovou
umělou inteligenci
pro tento typ mise a další.
Další otázka, kterou si musíme položit,
zní, měli bychom se jí bát?
Každá technologie sebou přináší
určitou míru očekávání.
Když jsme poprvé spatřili auta,
lidé lamentovali, že uvidíme
rozpad rodiny.
Když se objevily telefony,
lidé se obávali, že to zničí
obyčejnou konverzaci.
V určitém období jsme viděli
všudypřítomné psané slovo,
lidé se obávali ztráty
schopnosti pamatovat si.
Vše v sobě má zrnko pravdy,
ale je také pravdou, že tyto technologie
nám přinesly věci významným způsobem
rozšiřující lidskou zkušenost.
Pokročme trochu dále.
Nebojím se vytvoření takové AI,
protože bude ztělesňovat naše hodnoty.
Zvažte: vytvoření kognitivního systému
je zcela odlišné
od vytvoření tradičního softwarového
systému minulosti.
Neprogramujeme je.
Učíme je.
Aby se systém naučil rozpoznávat květiny,
ukážeme mu tisíce květin, které máme rádi.
Abychom naučili systém hrát hru --
Já bych to udělal. Vy taky.
Mám rád květiny. No tak.
Abychom naučili hrát systém hru jako Go,
musel bych hrát tisíce her Go,
ale v průběhu je také učím,
jak rozpoznat dobrou hru od špatné.
Pokud chci stvořit uměle inteligentního
právního asistenta,
naučím jej část práva,
ale současně mu dávám
smysl pro soucit a spravedlnost,
které jsou součástí práva.
Terminologií vědy to nazýváme
základní pravda
a zde je to důležité:
při vytváření těchto strojů
jim učením dáváme smysl pro hodnoty.
Věřím umělé inteligenci stejně,
ne-li více, jako dobře vyškolené osobě.
Můžete se ale zeptat,
a co nezávislí agenti,
třeba dobře financované
nevládní organizace?
Nebojím se umělé inteligence
v rukou osamělého vlka.
Je zřejmé, že se nemůžeme chránit
proti všem náhodným násilným činům,
ale realita je systém, vyžadující
hodně a přesný trénink,
který je mimo možnosti jednotlivců.
A navíc,
je to mnohem více než jen vypustit
do světa internetový virus,
který se stisknutím tlačítka ihned
objeví na milionech míst
a laptopy začnou všude vybuchovat.
Tento typ prostředků je mnohem větší
a určitě je uvidíme přicházet.
Bojím se, že by takováto umělá inteligence
mohla ohrozit celé lidstvo?
Když shlédnete filmy
jako "Matrix", "Metropolis"
"Terminátor", seriály jako "Westworld,"
všechny hovoří o tomto typu strachu.
V knize "Superinteligence"
filozofa Nicka Bostroma
vyzvedává toto téma
a poznamenává, že superinteligence
může být nejenom nebezpečná,
ale může znamenat existenční hrozbu
celému lidstvu.
Základním argumentem Dr. Bostroma je,
že takový systém bude nakonec mít
neukojitelný hlad po informacích,
že se nakonec naučí jak se učit
a zjistí, že mohou mít cíle,
které jsou v protikladu
s potřebami člověka.
Dr. Bostrom má mnoho následovníků.
Podporují jej lidé jako
Elon Musk a Stephen Hawking.
Se vší úctou
k těmto brilantním mozkům věřím,
že se zásadně mýlí.
Je zde mnoho částí argumentů
dr. Bostroma k diskusi
a já nemám čas se jim všem věnovat,
ale jen stručně zvažte toto:
super vědění je velmi odlišné
od super konání.
HAL byl hrozbou posádce Discovery
jen dokud ovládal všechny části Discovery.
Tak by to mohlo být i se superinteligencí.
Musel by to být vládce
celého našeho světa.
To je Skynet z filmu "Terminátor",
ve kterém byla superinteligence,
která velela lidské vůli,
která řídila každé zařízení,
v každém koutku světa.
Prakticky,
to se prostě nestane.
Nestavíme AI, které ovládají počasí,
řídí vlny,
které řídí nás, rozmarné, chaotické lidi.
Navíc pokud by taková
umělá inteligence existovala,
bude muset soupeřit
s lidskými ekonomikami
a soupeřit s námi o zdroje.
Nakonec --
neříkejte to Siri --
vždycky je můžeme
odpojit ze zásuvky.
(smích)
Jsme na neuvěřitelné cestě
koevoluce s našimi stroji.
Lidé dneška
nejsou lidé, kteří budou v budoucnu.
Obávat se nyní vzestupu superinteligence
je v mnoha ohledech nebezpečné rozptýlení,
protože sám vzestup počítačů
sebou přináší mnohé
lidské a společenské otázky,
kterým se nyní musíme věnovat.
Jak nejlépe zorganizovat společnost,
když se zmenší potřeba lidské práce?
Jak mohu přinést porozumění
a vzdělávání napříč zeměkoulí
a stále respektovat naše odlišnosti?
Jak mohu rozšířit a podpořit lidský život
pomocí kognitivní zdravotní péče?
Jak mohu použít počítače,
aby nám pomohly dostat se ke hvězdám?
A to je vzrušující.
Příležitosti využít počítače
k lidskému pokroku
jsou v našem dosahu,
zde a nyní,
a to jsme teprve na začátku.
Děkuji.
(potlesk)