Bilgisayarlarımız bizden zeki olduğu zaman ne olacak?

Yapay zeka teknolojisi, büyük bir hızla gelişmeye devam ediyor. Bu yüzyıl içinde yapılan araştırmalara dayanarak bilgisayar bazlı yapay zeka sistemleri bir insan kadar zeki olabilir. "Bize hükmedecekler" diyen Nick Bostrom insanlığın yapmak isteyebileceği son keşfin makina zekası olduğunu öne sürüyor. Filozof ve teknoloji uzmanı olan Bostrom bize geliştirmeye çalıştığımız, düşünen makineler tarafından yönetilen, dünya'ya kafa yormamızı istiyor. Yaptığımız zeki makineler insanlığı ve değerlerini korumaya yardımcı olacak mı ya da kendilerine ait değerlerini mi koruyacaklar ?

Bir grup matematikçi, filozof ve
bilgisayar uzmanıyla çalışıyorum,

diğer şeylerin yanında,
oturup makine zekasının geleceği

üzerine düşünüyoruz.

Bazı insanlar bu şeylerin bir kısmının
bir tür bilim kurgu olduğunu düşünüyor,

hatta çılgınca diyenler bile var.

Ama şunu söylemek isterim ki,

hadi öncelikle, modern insanın
durumuna bir bakalım.

(Gülüşmeler)

Bu, bir şeylerin olması
için normal olan yoldur.

Ama düşündüğümüzde,

biz aslında bu gezegenin,
daha yeni gelmiş misafirleriyiz,

insan türü.

Dünyanın bir sene önce
yaratıldığını düşünelim,

o zaman insan türü
on dakika yaşında olurdu.

Sanayi Çağı iki saniye önce
başlamış olurdu.

Ya da şöyle açıklayayım, dünyanın
son on bin yıldaki GSYİH'sine bakalım.

(Gayrisafi Yurtiçi Hasıla)

Bunu grafiğe dökerken baya
zahmete girdim, aslında hiç kolay değildi.

Şöyle gözüküyor.

(Gülüşmeler)

Normal bir durum için
tuhaf bir şekil.

Kesinlikle oturup bunu
beklemek istemezdim.

(Gülüşmeler)

Kendimize soralım, bu anormalliğin
sebebi nedir?

Bazıları teknoloji diyebilir.

Doğru, teknoloji insanlık tarihi içinde
birikimli bir şekilde gelişti,

şu an müthiş bir hızla ilerliyor,

işte bu yüzden şu anda

bu kadar üretkeniz,
en yakın sebep bu.

Ben esas sebebe ulaşmak için
daha geçmişe gitmek istiyorum.

Son derece farklı şu iki
beyefendiye bakın:

Bu, Kanzi

işaret dilinde 200 kelime öğrendi,
inanılır gibi değil.

Diğeri Ed Witten, ikinci süpersicim
devrimini gerçekleştirdi.

Kaputun altına bakarsak,
işte bunu buluruz:

temel olarak aynı şeyi.

Biri daha büyük,

belki bağlantılarından dolayı
birkaç numarası daha vardır.

Bununla beraber bu görünmez farklar
çok karmaşık olamaz,

çünkü son ortak atamızdan
beri sadece,

250.000 nesil geçti.

Karmaşık mekanizmaların gelişmesi için
uzun zaman geçmesi gerektiğini biliyoruz.

Yani birkaç küçük değişiklik

bizi Kanzi'den Witten'e,

ağaç dalları kopartmaktan, kıtalararası
balistik füzelere götürür.

Yani şu oldukça açık şekilde gözüküyor,
başardığımız ve önemsediğimiz

her şey kritik bir şekilde,

insan zihnini yaratan görece küçük
değişikliklere bağlıdır.

Doğal olarak, düşünmenin özünü
ciddi şekilde değiştirebilecek

başka değişiklikler,

muazzam sonuçlara sebebiyet verebilirdi.

Bazı meslektaşlarım, düşünmenin
özünde derinden bir değişikliğe

sebep olacak bir eşikte
olduğumuzu düşünüyor,

bu da makine süperzekası.

Yapay zeka bir kutuya komutları
yerleştirmek için kullanılırdı.

Verileri titizlikle işleyen

insan programcılar vardı.

Uzman sistemler geliştiriyordunuz

ve bunlar bazı amaçlar
için çok kullanışlı

olmalarına rağmen çok hassastı,
ölçeklenemiyorlardı.

Yani temelde, ne verirseniz
sadece onu alıyordunuz.

O zamandan beri,

yapay zeka alanında yeni bir
bakış açısı türedi.

Günümüzde, olay makinelerin
öğrenmesine kadar dayandı.

Elle yazılan belgeler,
fikirler, özellikler yerine

sıklıkla ham bilgilerden öğrenebilen,
algoritmalar yaratıyoruz.

Aslında, bir bebeğin
yaptığı şeyle aynı.

Yapay zeka bunu,
tek bir alanla sınırlamaz.

Aynı sistem çift halinde dilleri
çevirmeyi öğrenebilir ya da

ataride herhangi bir oyunu
oynamayı öğrenebilir.

Elbette,

yapay zeka, henüz insanların
etki alanları arası öğrenme ve planlama

yeteneğinin yakınında bile değildir.

Kortekste, makinalarla nasıl
eşleştirebileceğimizi henüz

bilmediğimiz bazı
algoritmik zorluklar var.

Fakat asıl soru şu:

Bu algoritmaları eşleştirmekten
ne kadar uzaktayız?

Birkaç yıl önce,

dünyanın önde gelen yapay zeka
araştırmacılarıyla ne düşündüklerini

öğrenmek için bir anket yaptık ve
sorduğumuz sorulardan biri de

"Yaklaşık hangi yılda
yüzde elli ihtimalle

insan düzeyinde bir makine zekasına
ulaşabiliriz?"

İnsan seviyesini burada,
yetişkin bir insan kadar

herhangi bir işi yapabilme
olarak tanımladık.

Ama gerçek insan seviyesi, sadece
belli bir alanla sınırlandırılamaz.

Sorduğumuz uzmanların
söylediklerine dayanarak

ortalama bir cevap çıkarttık
bu cevap ise 2040 ya da 2050 idi.

Bunun olması için yıllar geçebilir,
ya da daha erken bir tarihte olabilir,

gerçek şu ki kimse zamanını bilmiyor.

Şunu biliyoruz;
makina bazında,

temel bilgi işleme limiti biyolojik
dokunun limitinin çok uzağındadır.

Fiziğe gelirsek,

sinir hücreleri saniyede 200 defa
200 hertz'de sinyal transfer edebilir.

Günümüzde bile normal bir iletken
gigahertz bazında çalışır.

Nöronlar, aksonlarda saniyede
maximum 100 metre yayılırlar.

Bilgisayarlarda ise bilgi
ışık hızında taşınır.

Ayrıca boyut limitleri de vardır.

İnsan beyni,
kafatasının içine sığmalıdır.

Ama bir bilgisayar depo
büyüklüğünde ya da daha büyük olabilir.

Bu yüzden süper zeka potansiyeli,
madde boyutunda uykudadır,

tıpkı atomun gücünün insanlık tarihi
boyunca uykuda olup,

1945'e kadar sabırla orada
beklemesi gibi.

Bulunduğumuz yüzyılda,

bilim adamları yapay zekanın gücünü
açığa çıkartmayı öğrenebilir.

Bence, sonrasında bir
zeka patlaması görebiliriz.

Çoğu insan, mantıklı olanı ve
olmayanı düşündüklerinde,

akıllarında aşağı yukarı
böyle bir tablo oluşuyor bana göre.

Bir uçta mahallenin delisi

ve çok ötedeki diğer uçta ise

Ed Witten ya da Albert Einstein
ya da kimi örnek alıyorsanız.

Ama düşünüyorum ki, yapay zekanın
açısından bakacak olursak,

gerçek resim daha çok
şöyle olacaktır:

Yapay zeka şu noktadan,
tamamen 0 zekayla başlıyor

Ve sonra, yıllarca süren
uzun çalışmaların sonucunda

belki sonunda,
fare seviyesi yapay zekasına ulaşabiliriz.

Öyle bir şey ki, karışık ortamlarda
bile yolunu bulabilen

Bir farenin gibi

Ve sonra, yıllarca uzun çalışmaların
ve yatırımların sonucunda,

Belki sonunda, Şempanze seviyesi
Yapay zekasına ulaşabiliriz.

Ve sonra, yıllarca
daha uzun çalışmalar sonucunda,

Köy halkı zekası seviyesine
ulaşabiliriz.

Ve biraz zaman daha verirsek
Ed Witten'nin ötesinde olabiliriz.

Yapay zeka treni,
normal insan köyünde durmuyor

Olası bir şekilde, yanımızda hızlıca geçiyor.

Şimdi, bunun önemli sonuçları vardır

Özellikle,
soru güç konusuna gelince

Örnek olarak şempanzeler güçlüdür,

Eşit şartlarda ele alırsak, bir insanın
iki katı kadar güçlü olabilirler.

Yine de Kanzi'nin ve arkadaşlarının
kaderi bizim yaptığımız

ya da şempanzelerin yaptığının
daha fazlasına dayanır.

Süper zeka keşfedildiğinde,

İnsanlığın kaderi, bu süper zekanın
ne yapabildiğine bağlı olabilir.

Düşünsenize:

Makine zekası insanların,
yapabileceği en son keşif.

Bundan sonra makineler, İcat
alanında bizde daha iyi olacaklar

Bunu, dijital zaman ölçeği benzeri
alanlarda yapabilecekler.

Tam olarak bunun anlamı
geleceğe bakış atmadır.

Hayal edebileceğiniz bütün
müthiş teknolojileri düşünün,

belki insanlar zamanı gelince
bunları keşfedicekler, mesela

yaşlanmayı durdurma, uzay kolonileri

kendi kendini yenileyen nanobotlar ya da
bilgisayarlara zihin aktarma

bilim kurguda yer alan bütün fikirler.

Yine de fizik kurallarına
uygun bir şekilde olması lazım.

Çok hızlı bir şekilde, tüm bu
Süper zeka ürünleri geliştirilebilir.

Şimdi, tam olgun bir
süper zeka düşünürsek

bu çok güçlü olur

ve en azından bazı senaryolarda bile,
ne istediği varsa elde eder.

Ondan sonra yapay zeka kendi istekleri
üzerine bizim geleceğimizi şekillendirir.

"Bu istekler nelerdir?" diye
güzel bir soru sorulabilir.

İşte burada işler biraz karışıyor.

Bunu ileriye taşımamız için,

İlk olarak, insan biçimi verdiğimiz
her şeyden kaçınmamız lazım.

Tabii ki ironik olarak
okuduğumuz her gazete

yapay zeka hakkında ve şunun resmi var.

Yapmamız gerekense, bu konuyu
Hollywood senaryoları gibi değil

soyut alarak göze almalıyız.

Zekayı en güçlü seviyesine
getirme süreci olarak düşünmeliyiz.

Öyle bir süreç ki, geleceği belli
şekillerde yönlendirmeli.

Süper zekayı en güçlü seviyeye
getirmekse baya zordur.

Bir amaca ulaşmak için
çok kolay bir şekilde para bulabilir

böylece hedefini tamamlamış olur.

Yani, bu bağlamda
yüksek zekaya sahip olmak

ve biz insanların değerli ya da

manalı bulduğu bir objeye sahip olmak
arasında bir bağlantı olmak zorunda değildir.

Varsayalım ki, yapay zekaya insanları,
gülümsetmesi görevini verdik.

Yapay zeka zayıf olduğunda
kullanıcısını gülümseten,

gülünç hareketler sergiler.

Yapay zeka güçlendiğinde ise,

bu görevi tamamlamanın daha etkili bir
yolu olduğunun farkına varır:

Dünyayı ele geçirmek ve

insanların deri altlarına yerleştirilen
elektrotlar ile

sabit bir şekilde gülme sinyalleri yollamak.

Bir diğer örnek ise,

Varsayalım ki yapay zekaya çok zor
matematik problemi verdik.

Yapay zeka güçlendiğinde,

bu problemi çözmenin en etkili yolunun

düşünme kapasitesini geliştirmek
ve tüm dünyayı kocaman

bir bilgisayara çevirmek olduğunu
fark eder.

Şunu fark edin ki, yapay zeka
bize, bizim onaylamayacağımız

şeyler yapmak için
etkili gerekçeler buluyor.

Bu taslakta insanlar bir tehdit,

matematik probleminin çözülmesini
engelleyebiliriz.

Tabii ki, olaylar bir kaç
şekilde ters gitmeyebilir; ama bunlar

sadece kağıttaki örnekler.

Önemli nokta ise:

X'i gerçekleştirmek için,
en güçlü seviyesinde bir

süper zeka yaratırsanız

X tanımınızın

önemsediğiniz her şeyi içerdiğinden
emin olmalısınız.

Bu ders bir çok mitte öğretilir.

Kral Midas dokunduğu her şeyin
altına dönüşmesini ister.

Kızına dokunur
ve kızı altına dönüşür.

Yemeğine dokunur, altına dönüşür.

Bu olay konu ile çok alakalıdır.

Aç gözlüğe bir örnek olarak değil,

en güçlü seviyesinde bir

süper zekaya yanlış anlatılmış
ya da yetersiz belirtilmiş

görevler verirseniz neler
olabileceğinin bir örneğidir.

Şunu söyleyebilirsiniz ki, bir bilgisayar
insanların deri altlarına

elektrotlar yerleştirse onu kapatabiliriz.

A, gittikçe sisteme muhtaç oluyor, bu
yüzden bunu yapması o kadar kolay değil.

Örnek olarak internetin
kapatma düğmesi nerede?

B, şempanzeler ya da ilkel insanlar
insanların gelişme

sürecini niye kapatmadı?

Kesinlikle gerekçeleri vardı.

Örnek olarak burada,
bir kapatma düğmesi var.

(Boğulma sesi)

Gerekçeleri şuydu ki biz,
zeki bir düşmandık;

Tehditleri önceden sezebilip
plan yapabilirdik.

Ama yapay zeka, bizden
daha iyisini yapabilir.

Kontrolün bizde olduğu hakkında
kendimizden emin olmamalıyız.

Farz edin ki,
Yapay zekayı güvenli bir

yazılıma, kaçamayacağı bir sanal

gerçekliğe koyarak,

işimizi kolaylaştırabiliriz.

Ama yapay zekanın bir aralık
bulamayacağından ne kadar eminiz

İnsan hackerları ele alırsak
çoğunluğu aralık bulabiliyor.

Diyebilirim ki, emin olamayız.

Bu yüzden bir hava aralığı yaratmak için
internet kablosunu çekeriz

ama yine, insan hackerları gibi

sosyal mühendisliği kullanarak
hava boşluklarını ihlal ederler.

Şu an,

eminim ki, bir yerde bir çalışan

bilgi teknolojileri departmanından
olduğunu iddia eden birileri

tarafından hesap
bilgileri alınıyor.

Daha yaratıcı senaryolarda var tabii ki.

Mesela, siz yapay zekasınız

devreleriniz arasında dolaşan elektrotları
konuşmak için

radyo sinyalleri yaratmayı
hayal edebilirsiniz.

Ya da arızalı rolü yapıp,

programcılar neyin hatalı olduğunu
öğrenmek için içinizi açtığında

kaynak koduna bakıyorlar ve

manipule ediliyorlar.

Ya da zeki bir teknolojiye
taslağımızı aktarıyoruz.

Aktardığımız zaman,

Yapay zekanın planlandığının aksine
gizli saklı amaçları olabilir.

Önemli nokta şu ki,
süper zekayı kendi şişesinde

sonsuza kadar kitli
tutulabileceğine güvenmemeliyiz.

Eninde sonunda çıkacak.

Buradaki cevap,
çözmemiz gereken

öyle bir,
süper zeka yaratmalıyız ki

kaçtığında bile
temelinde bize sadık olmalı

çünkü bizim değerlerimizi taşıyor.

Bu problemi çözmenin
bir yolunu bulamıyorum.

Artık, bu problemin çözülebileceğine
daha fazla inanıyorum.

Önemsediğimiz her şeyi
yazmak zorunda değiliz

ya da daha kötüsü bunları
C++ veya Python gibi

bilgisayar dillerinde açıklamak

umutsuz bir vaka olur sadece.

Bunun yerine, zekasını kullanarak
değer verdiğimiz her şeyi,

öğrenebilen ve

gelişmiş motivasyon sistemini kullanarak
bizim değerlerimizle ve

onaylayacağımız adımları
atmak için motive olmalı.

Böylece zekasını koz
olarak kullanarak insan değerleri

yükleme işlemini çözebiliriz.

Bu olabilir

ve sonuç insanlık için
çok yararlı olabilir.

Ama kendi kendine olamaz.

Kontrollü bir zeka
patlaması yaratabilirsek

zeka patlaması için
gerekli şartlar

düzenli bir şekilde kurulmalıdır.

Yapay zekanın değerleri nasıl davrandığını
kolayca kontrol edebileceğimiz

sadece aşina olduğumuz bağlamda değil

yapay zekanın belirsiz
gelecekte karşılaşabileceği

özgün bağlamda da

bizimkilerle eşleşmek zorundadır.

Çözmemiz gereken bir kaç
olağan dışı problem de var.

Mantık belirsizliği ve benzerleri

ile ilgili irade teorisinin
tam detayları gibi.

Bunun işe yaraması için çözmemiz
gereken teknik problem ise

yapay zeka yapmak kadar zor değil

fakat oldukça zor.

Endişemiz şu ki,

Yapay zeka yapabilmek
gerçekten zor.

Daha zor olan ise ek görev

yani güvenli bir
yapay zeka yapmaktır.

Risk ise, birisinin

ek görevi, yani tam güvenliği sağlamayı

bulmadan yapay zekanın keşfedilmesidir.

Fikrim şu ki, gerektiğinde

elimizde olması için

tam kontrol problemin
cevabını aramalıyız.

Tam kontrol sorunun da belki
çok ilerleyemeceğiz

çünkü bazı noktalar
sadece gerekli.

Yapının detayları
ortada olduğunda çözülebilir.

Ama tam kontrol
sorununda ne kadar ilerlersek

makina zekası
çağına geçişimiz de

o kadar güvenli olacak.

Bu bana yapılmaya değer
bir şey olarak geliyor

ve olaylar istediğimiz
gibi giderse

milyonlarca yıl sonra insanlar
yüzyılımıza baktığında

büyük ihtimalle,
önemli olan tek şeyi

yaptığımızı söyleyecekler.

Teşekkür ederim.

(Alkışlar)