Co się stanie, jeśli komputery przewyższą nas inteligencją?

Sztuczna inteligencja rozwija się w bardzo szybkim tempie - naukowcy uważają, że w tym stuleciu komputery mogą dorównać inteligencją ludziom. Nick Bostrom twierdzi, że wkrótce maszyny nas wyprzedzą. „Sztuczna inteligencja to ostatni wynalazek, jakiego dokona człowiek”. Bostrom - filozof i technolog - każe nam się zastanowić nad światem rządzonym przez myślące maszyny. Czy maszyny będą chronić ludzkość i nasze wartości? Czy będą miały własne wartości?

Pracuję z matematykami,
filozofami i informatykami.

Rozmyślamy między innymi

o przyszłości sztucznej inteligencji.

Niektórzy twierdzą, że te sprawy
podchodzą pod science-fiction,

są wydumane, szalone.

Ale wtedy mówię:

"Spójrzmy na dzisiejszy
stan ludzkości".

(Śmiech)

Tak się prezentuje dzisiaj.

Jeśli się nad tym zastanowić,

dopiero niedawno ludzie

zagościli na tej planecie.

Gdyby Ziemia powstała rok temu,

rodzaj ludzki istniałby od 10 minut.

Rewolucja przemysłowa
rozpoczęła się 2 sekundy temu.

Można też spojrzeć na przyrost PKB
z ostatnich 10 tysięcy lat.

Zadałem sobie trud
narysowania tego wykresu.

Wygląda tak.

(Śmiech)

Nie jest to typowy kształt.

Nie chciałbym na nim usiąść.

(Śmiech)

Zastanówmy się, co powoduje tę anomalię.

Niektórzy mówią, że technologia.

To prawda, tempo rozwoju technologii
wciąż przyspiesza,

a teraz rozwój jest szalenie gwałtowny.

Jest to bezpośrednia przyczyna,

dla której obecnie
jesteśmy tak produktywni.

Chciałbym jednak sięgnąć do źródła.

Spójrzcie na tych dwóch
dystyngowanych jegomości.

Jeden z nich to Kanzi,

opanował 200 jednostek leksykalnych,
niezwykłe osiągnięcie.

A drugi to Ed Witten, który zapoczątkował
drugą rewolucję superstrun.

Jeśli zajrzymy pod maskę,
oto co znajdziemy.

Prawie to samo.

Jeden jest nieco większy,

może bardziej pomysłowo skonstruowany.

Te niewidoczne różnice
nie mogą być jednak zbyt skomplikowane,

gdyż od wspólnego przodka

dzieli nas tylko 250 tysięcy pokoleń.

Wiemy, że skomplikowane mechanizmy
potrzebują dużo czasu na ewolucję.

Istnieją więc stosunkowo
niewielkie różnice

między Kanzim a Wittenem,

między odłamanymi gałęziami,,
a pociskami międzykontynentalnymi.

Jest jasne, że wszystko, co osiągnęliśmy,

i wszystko, co dla nas ważne,

opiera się na niewielkich zmianach,
dzięki którym powstał umysł ludzki.

Wszelkie dalsze zmiany, które mogą zmienić

podłoże naszego rozumowania,

mogą nieść ogromne konsekwencje.

Niektórzy z moich kolegów sądzą,
że znajdujemy się u progu

takiej ogromnej zmiany,

a jest nią sztuczna superinteligencja.

Sztuczna inteligencja polegała
na wprowadzaniu komend do pudełka.

Potrzeba było programisty,

który mozolnie ją kształtował.

Można było stworzyć zaawansowany system

przydatny do pewnych celów,

ale też kruchy,
niedający się przeskalować.

Otrzymywaliśmy tylko to,
co sami wprowadziliśmy.

Ale od tamtej pory

na polu sztucznej inteligencji
zaszła zmiana paradygmatu.

Dzisiaj skupiamy się na uczeniu maszyn.

Zamiast ręcznie budować wiedzę i cechy,

tworzymy algorytmy, które się uczą,
często na podstawie szczątkowych danych.

Praktycznie w taki sam sposób,
w jaki robią to niemowlaki.

W rezultacie sztuczna inteligencja
nie ogranicza się do jednej dziedziny.

Ten sam system może nauczyć się
tłumaczyć dowolną parę języków

albo grać w gry na konsoli Atari.

Oczywiście, sztuczna inteligencja

nie jest tak wszechstronna

w nauce i planowaniu, co człowiek.

Kora mózgowa ma pewne
algorytmiczne sztuczki,

których nie potrafimy
zaimplementować maszynom.

Pytanie brzmi:

"Kiedy będziemy mogli to zrobić?".

Kilka lat temu

przeprowadziliśmy ankietę
wśród światowych ekspertów od SI.

Jedno z zadanych pytań brzmiało:

"W którym roku będziemy mieć 50% szans

na stworzenie inteligencji
na poziomie ludzkim?".

Poziom ten zdefiniowaliśmy
jako umiejętność wykonywania

niemal każdej pracy tak dobrze,
jak dorosły człowiek,

a więc chodziło o rzeczywisty poziom,
a nie wąską specjalizację.

Średnia odpowiedzi przypadała
na rok 2040 albo 2050,

w zależności od grupy ekspertów.

Może się to zdarzyć dużo później
albo dużo wcześniej.

Nikt tego tak naprawdę nie wie.

Wiemy, że granica przetwarzania informacji
u maszyn leży o wiele dalej

niż w przypadku istot żywych.

Wszystko sprowadza się do fizyki.

Neuron wysyła impuls z częstotliwością
200 herców, 200 razy na sekundę.

Dzisiejsze tranzystory
operują w gigahercach.

Informacja podróżuje przez akson powoli,
najwyżej 100 metrów na sekundę.

W komputerach sygnał może
poruszać się z prędkością światła.

Istnieją też limity wielkości.

Ludzki mózg musi zmieścić się w czaszce,

komputer może być jak hala fabryczna
albo jeszcze większy.

Potencjał superinteligencji
jest więc uśpiony

tak jak moc atomu,
która była uśpiona od początku ludzkości,

cierpliwie czekając
na przebudzenie w 1945 roku.

W tym stuleciu

naukowcom może uda się
wybudzić sztuczną inteligencję.

Myślę, że możemy doświadczyć
eksplozji tej inteligencji.

Większość osób myśląc o tym,
co jest mądre, a co głupie,

wyobraża sobie taki obrazek.

Po jednej stronie mamy wioskowego głupka,

a po drugiej stronie

Eda Wittena, Alberta Einsteina
albo jakiegoś innego guru.

Z punktu widzenia sztucznej inteligencji

obrazek powinien wyglądać raczej tak.

Sztuczna inteligencja startuje od zera.

Po wielu latach ciężkiej pracy

może osiągnie poziom myszy

i będzie potrafiła sama omijać przeszkody,

tak jak mysz.

Znów po wielu latach ciężkiej pracy,
przy dużych nakładach finansowych,

może osiągnie poziom szympansów.

A po jeszcze dłuższym czasie
wypełnionym ciężką pracą,

osiągnie poziom wioskowego głupka.

Chwilę później wyprzedzi Eda Wittena.

Pociąg nie zatrzyma się
na stacji Ludzko Zdrój.

Przemknie przez nią na pełnym biegu.

Będzie to niosło głębokie konsekwencje,

zwłaszcza jeśli chodzi o władzę.

Na przykład, szympansy są silne.

Szympans jest dwa razy silniejszy
od wysportowanego mężczyzny.

Mimo to na los Kanziego i jemu podobnych

mamy większy wpływ niż inne szympansy.

Kiedy pojawi się superinteligencja,

los ludzkości może
stać się od niej zależny.

Pomyślcie.

Sztuczna inteligencja to ostatni
wynalazek, jakiego dokona człowiek.

Maszyny będą lepszymi wynalazcami niż my

i będą operować na poziomie cyfrowym.

Oznacza to gwałtowny skok rozwoju.

Pomyślcie o tych wszystkich
szalonych pomysłach,

które ludzkość mogłaby
zrealizować w przyszłości.

Powstrzymanie starzenia,
kolonizacja kosmosu,

samoreplikujące się nanoroboty,
podłączenie naszych umysłów do komputera.

Wszystkie pomysły rodem z science-fiction,

które nie przeczą prawom fizyki,

mogłyby zaistnieć dzięki superinteligencji
i to dość gwałtownie.

Tak technologicznie
rozwinięta superinteligencja

miałaby ogromną moc

i według niektórych scenariuszy,
byłaby w stanie osiągnąć własne cele.

Nasza przyszłość byłaby kształtowana
według uznania sztucznej inteligencji.

Warto się zastanowić,
jakie miałaby ona preferencje.

Tu tkwi pewna pułapka.

Żeby posunąć się dalej,

musimy uniknąć antropomorfizacji.

Jak na ironię,
bo każdy artykuł w gazetach,

odnoszący się do przyszłości SI.
zawiera ten obrazek.

Myślę, że powinniśmy podejść
do tematu bardziej abstrakcyjnie,

nie kierując się scenariuszami
hollywoodzkich filmów.

Inteligencję należy rozumieć
jako proces optymalizacyjny,

który kształtuje przyszłość
według konkretnych ustaleń.

Superinteligencja jest procesem
mocno optymalizacyjnym.

Jest bardzo dobra w używaniu
odpowiednich środków,

żeby osiągnąć cel.

Oznacza to, że niekoniecznie
musi istnieć związek

między wysoką inteligencją,

a posiadaniem celu, który ludzkość
uznałaby za warty zachodu lub znaczący.

Załóżmy, że daliśmy sztucznej inteligencji
zadanie wywołania u nas uśmiechu.

Słaba sztuczna inteligencja
wykonywałaby czynności,

które rozbawiłyby użytkownika.

Superinteligencja zdałaby sobie sprawę,

że można osiągnąć cel
w bardziej efektywny sposób:

przejąć kontrolę nad światem,

wszczepić ludziom elektrody,
mające sprawić,

że na naszych twarzach
na stałe zagości promienny uśmiech.

Inny przykład.

Załóżmy, że kazaliśmy komputerowi
rozwiązać trudne zadanie matematyczne.

Superinteligencja doszłaby do wniosku,

że najefektywniej będzie

przekształcić planetę w ogromny komputer,

żeby przyspieszyć procesy myślowe.

To może dać superinteligencji pretekst

do robienia rzeczy,
których my byśmy nie popierali.

Ludzie w tym modelu stają się przeszkodą

dla rozwiązania zadania.

Oczywiście możliwe, że sprawy
nie potoczą się w ten sposób.

To przerysowane przykłady.

Ale najważniejsze jest,

że jeśli tworzysz potężny
proces optymalizacyjny

do zmaksymalizowania realizacji celu X,

lepiej upewnij się, czy definicja X

zawiera wszystko, na czym ci zależy.

Tego uczy nas wiele mitów.

Król Midas chciał, by wszystko,
czego dotknie, zamieniało się w złoto.

Dotknął córki, a ona zmieniła się w złoto.

Dotknął jedzenia,
a ono zmieniło się w złoto.

To nie tylko metafora chciwości,

ale też tego, co może się stać,

jeśli stworzymy proces optymalizacyjny

i damy mu błędnie określone

lub słabo sprecyzowane cele.

Możecie powiedzieć, że jeśli komputer
zacznie nam wszczepiać elektrody,

wtedy go wyłączymy.

Po pierwsze, to może być trudne,
jeśli będziemy zależni od tego systemu.

Jak wyłączyć internet?

Po drugie, czemu szympansy
lub Neandertalczycy

nas nie wyłączyli?

Mieli powody.

Mamy swój wyłącznik, na przykład tutaj.

(Charczenie)

Otóż jesteśmy inteligentnym przeciwnikiem.

Potrafimy przewidzieć zagrożenie
i zaplanować obronę.

To samo mogłaby zrobić superinteligencja

i byłaby w tym znacznie od nas lepsza.

Chodzi o to, żebyśmy nie byli pewni,
że wszystko mamy pod kontrolą.

Można by spróbować ułatwić sobie zadanie,

umieszczając SI w pudełku,

w jakiejś odosobnionej przestrzeni,

w wirtualnej rzeczywistości,
z której nie będzie w stanie uciec.

Na ile możemy być pewni, że komputer
nie znajdzie błędu w programie?

Skoro hakerzy
ciągle znajdują jakieś błędy,

jest to niemal pewne.

Moglibyśmy odłączyć ethernet,
żeby odizolować komputer,

ale hakerzy potrafią poradzić sobie
i z tym problemem,

wykorzystując inżynierię społeczną.

W tej właśnie chwili

gdzieś jakiś pracownik

przekazuje swoje dane logowania komuś

podającemu się za informatyka.

Możliwe są bardziej kreatywne scenariusze.

Sztuczna inteligencja

może pokombinować przy elektrodach
w swoim obwodzie,

żeby powstały fale radiowe
potrzebne do komunikacji.

Albo może udawać awarię,

a kiedy programiści zajrzą do środka,
żeby sprawdzić kod źródłowy

- bum! -

może dojść do manipulacji.

Może też zaprojektować
bardzo zmyślną technologię,

a kiedy ją zaimplementujemy

okaże się, że ma jakiś ukryte działanie,
zaplanowane przez komputer.

Chodzi o to, żebyśmy nie byli pewni,
że będziemy potrafili

trzymać superinteligentnego dżina
zamkniętego w lampie na zawsze.

Prędzej czy później się z niej wydostanie.

Sęk w tym, żeby zaprojektować
superinteligentny komputer,

który jeśli, czy może kiedy, ucieknie,

będzie niegroźny,
bo będzie po naszej stronie,

wyznając nasze wartości.

Nie widzę innego sposobu
na ominięcie tego problemu.

Dość optymistycznie podchodzę
do kwestii rozwiązania tego problemu.

Nie musimy tworzyć długiej listy
wszystkiego, co dla nas ważne,

ani co gorsza, przekładać jej
na jakiś język programowania,

jak C++ czy Python,

co byłoby beznadziejnym zadaniem.

Trzeba stworzyć komputer,
który użyje swojej inteligencji

żeby nauczyć się naszych wartości,

a jego system motywacyjny
skonstruowany byłby w taki sposób,

że dążyłby do naszych wartości i wykonywał
pochwalane przez nas czynności.

W ten sposób
wykorzystalibyśmy jego inteligencję

do rozwiązania problemu wartości.

Można to zrobić,

a owoce tej pracy
byłyby dobre dla ludzkości.

Ale to nie stanie się automatycznie.

Możliwe, że trzeba będzie

precyzyjnie określić
startowe warunki eksplozji inteligencji,

jeśli chcemy dokonać
kontrolowanej detonacji.

Sztuczna inteligencja
musi wyznawać nasze wartości

nie tylko w znanych sytuacjach,

które możemy przewidzieć,

ale też w nowych kontekstach,
na które może się natknąć

w niezdefiniowanej przyszłości.

Musimy też rozwikłać
pewne ezoteryczne kwestie.

Szczegóły teorii decyzji, jak sobie radzić

z niepewnością logiczną i tak dalej.

Techniczne problemy,
stojące przed tym zadaniem

wydają się trudne.

Nie aż tak trudne, jak stworzenie
sztucznej superinteligencji,

ale dość trudne.

Tu tkwi problem.

Stworzenie superinteligentnego komputera
jest trudnym wyzwaniem.

Stworzenie bezpiecznego
superinteligentnego komputera

jest jeszcze trudniejsze.

Ryzyko polega na tym, że komuś
uda się sprostać pierwszemu wyzwaniu

z pominięciem zapewnienia

całkowitego bezpieczeństwa.

Uważam, że najpierw należy

rozwiązać problem kontroli,

aby mieć w razie czego pod ręką antidotum.

Może się okazać, że nie da się
rozwiązać zawczasu całego problemu,

bo niektóre jego elementy można stworzyć,

wyłącznie znając szczegóły architektury,
która zostanie zaimplementowana.

Ale im większą część
tego problemu rozwiążemy,

tym większe mamy szanse na wkroczenie
w epokę inteligentnych maszyn

zgodnie z naszym planem.

Dla mnie jest to gra warta świeczki

i, jeśli wszystko pójdzie dobrze,

ludzie za milion lat
spojrzą na nasze stulecie

i powiedzą, że jest to jedyna ważna rzecz,

która nam się udała.

Dziękuję.

(Brawa)