WEBVTT

00:00:00.570 --> 00:00:04.777
Bir grup matematikçi, filozof ve
bilgisayar uzmanıyla çalışıyorum,

00:00:04.777 --> 00:00:09.986
diğer şeylerin yanında, 
oturup makine zekasının geleceği

00:00:09.986 --> 00:00:12.030
üzerine düşünüyoruz.

00:00:12.031 --> 00:00:15.764
Bazı insanlar bu şeylerin bir kısmının
bir tür bilim kurgu olduğunu düşünüyor,

00:00:16.755 --> 00:00:19.056
hatta çılgınca diyenler bile var.

00:00:19.776 --> 00:00:21.326
Ama şunu söylemek isterim ki,

00:00:21.326 --> 00:00:24.930
hadi öncelikle, modern insanın
durumuna bir bakalım.

00:00:24.930 --> 00:00:26.622
(Gülüşmeler)

00:00:26.622 --> 00:00:29.024
Bu, bir şeylerin olması
için normal olan yoldur.

NOTE Paragraph

00:00:29.024 --> 00:00:31.309
Ama düşündüğümüzde,

00:00:31.309 --> 00:00:34.602
biz aslında bu gezegenin,
daha yeni gelmiş misafirleriyiz,

00:00:34.602 --> 00:00:35.904
insan türü.

00:00:37.594 --> 00:00:41.430
Dünyanın bir sene önce 
yaratıldığını düşünelim,

00:00:41.430 --> 00:00:44.978
o zaman insan türü
on dakika yaşında olurdu.

00:00:44.978 --> 00:00:48.146
Sanayi Çağı iki saniye önce
başlamış olurdu.

00:00:49.276 --> 00:00:52.991
Ya da şöyle açıklayayım, dünyanın 
son on bin yıldaki GSYİH'sine bakalım.

00:00:52.991 --> 00:00:54.531
(Gayrisafi Yurtiçi Hasıla)

00:00:54.531 --> 00:00:57.890
Bunu grafiğe dökerken baya 
zahmete girdim, aslında hiç kolay değildi.

00:00:57.890 --> 00:00:59.304
Şöyle gözüküyor.

00:00:59.304 --> 00:01:00.667
(Gülüşmeler)

00:01:00.667 --> 00:01:02.818
Normal bir durum için
tuhaf bir şekil.

00:01:02.818 --> 00:01:04.936
Kesinlikle oturup bunu
beklemek istemezdim.

00:01:04.936 --> 00:01:07.067
(Gülüşmeler)

NOTE Paragraph

00:01:07.067 --> 00:01:11.841
Kendimize soralım, bu anormalliğin
sebebi nedir?

00:01:11.841 --> 00:01:14.393
Bazıları teknoloji diyebilir.

00:01:14.393 --> 00:01:19.061
Doğru, teknoloji insanlık tarihi içinde
birikimli bir şekilde gelişti,

00:01:19.061 --> 00:01:23.713
şu an müthiş bir hızla ilerliyor,

00:01:23.713 --> 00:01:25.278
işte bu yüzden şu anda

00:01:25.278 --> 00:01:28.273
bu kadar üretkeniz,
en yakın sebep bu.

00:01:28.473 --> 00:01:32.134
Ben esas sebebe ulaşmak için
daha geçmişe gitmek istiyorum.

NOTE Paragraph

00:01:33.114 --> 00:01:36.880
Son derece farklı şu iki
beyefendiye bakın:

00:01:36.880 --> 00:01:38.480
Bu, Kanzi

00:01:38.480 --> 00:01:43.123
işaret dilinde 200 kelime öğrendi,
inanılır gibi değil.

00:01:43.123 --> 00:01:46.817
Diğeri Ed Witten, ikinci süpersicim
devrimini gerçekleştirdi.

00:01:46.817 --> 00:01:49.141
Kaputun altına bakarsak,
işte bunu buluruz:

00:01:49.141 --> 00:01:50.711
temel olarak aynı şeyi.

00:01:50.711 --> 00:01:52.524
Biri daha büyük,

00:01:52.524 --> 00:01:55.282
belki bağlantılarından dolayı
birkaç numarası daha vardır.

00:01:55.282 --> 00:01:59.094
Bununla beraber bu görünmez farklar 
çok karmaşık olamaz,

00:01:59.094 --> 00:02:03.379
çünkü son ortak atamızdan 
beri sadece,

00:02:03.379 --> 00:02:05.111
250.000 nesil geçti.

00:02:05.111 --> 00:02:08.960
Karmaşık mekanizmaların gelişmesi için
uzun zaman geçmesi gerektiğini biliyoruz.

00:02:09.840 --> 00:02:12.499
Yani birkaç küçük değişiklik

00:02:12.499 --> 00:02:15.566
bizi Kanzi'den Witten'e,

00:02:15.566 --> 00:02:20.109
ağaç dalları kopartmaktan, kıtalararası
balistik füzelere götürür.

NOTE Paragraph

00:02:20.839 --> 00:02:24.774
Yani şu oldukça açık şekilde gözüküyor,
başardığımız ve önemsediğimiz

00:02:24.774 --> 00:02:26.152
her şey kritik bir şekilde,

00:02:26.152 --> 00:02:31.380
insan zihnini yaratan görece küçük 
değişikliklere bağlıdır.

00:02:32.650 --> 00:02:37.962
Doğal olarak, düşünmenin özünü 
ciddi şekilde değiştirebilecek

00:02:37.962 --> 00:02:39.789
başka değişiklikler,

00:02:39.789 --> 00:02:42.991
muazzam sonuçlara sebebiyet verebilirdi.

NOTE Paragraph

00:02:44.321 --> 00:02:47.356
Bazı meslektaşlarım, düşünmenin 
özünde derinden bir değişikliğe

00:02:47.356 --> 00:02:51.124
sebep olacak bir eşikte
olduğumuzu düşünüyor,

00:02:51.124 --> 00:02:53.765
bu da makine süperzekası.

00:02:54.347 --> 00:02:59.086
Yapay zeka bir kutuya komutları 
yerleştirmek için kullanılırdı.

00:02:59.086 --> 00:03:00.751
Verileri titizlikle işleyen

00:03:00.751 --> 00:03:03.886
insan programcılar vardı.

00:03:03.886 --> 00:03:05.972
Uzman sistemler geliştiriyordunuz

00:03:05.972 --> 00:03:08.296
ve bunlar bazı amaçlar
için çok kullanışlı

00:03:08.306 --> 00:03:10.977
olmalarına rağmen çok hassastı,
ölçeklenemiyorlardı.

00:03:10.977 --> 00:03:14.410
Yani temelde, ne verirseniz
sadece onu alıyordunuz.

00:03:14.410 --> 00:03:15.407
O zamandan beri,

00:03:15.407 --> 00:03:18.874
yapay zeka alanında yeni bir 
bakış açısı türedi.

NOTE Paragraph

00:03:18.874 --> 00:03:21.644
Günümüzde, olay makinelerin
öğrenmesine kadar dayandı.

00:03:22.394 --> 00:03:27.781
Elle yazılan belgeler,
fikirler, özellikler yerine

00:03:28.511 --> 00:03:34.065
sıklıkla ham bilgilerden öğrenebilen,
algoritmalar yaratıyoruz.

00:03:34.065 --> 00:03:38.193
Aslında, bir bebeğin
yaptığı şeyle aynı.

00:03:39.063 --> 00:03:43.270
Yapay zeka bunu,
tek bir alanla sınırlamaz.

00:03:43.270 --> 00:03:47.881
Aynı sistem çift halinde dilleri
çevirmeyi öğrenebilir ya da

00:03:47.901 --> 00:03:53.338
ataride herhangi bir oyunu
oynamayı öğrenebilir.

00:03:53.338 --> 00:03:55.117
Elbette,

00:03:55.117 --> 00:03:59.116
yapay zeka, henüz insanların
etki alanları arası öğrenme ve planlama

00:03:59.116 --> 00:04:02.335
yeteneğinin yakınında bile değildir.

00:04:02.335 --> 00:04:05.101
Kortekste, makinalarla nasıl
eşleştirebileceğimizi henüz

00:04:05.101 --> 00:04:07.196
bilmediğimiz bazı
algoritmik zorluklar var.

NOTE Paragraph

00:04:07.886 --> 00:04:09.485
Fakat asıl soru şu:

00:04:09.485 --> 00:04:12.685
Bu algoritmaları eşleştirmekten
ne kadar uzaktayız?

00:04:14.245 --> 00:04:15.328
Birkaç yıl önce,

00:04:15.328 --> 00:04:18.216
dünyanın önde gelen yapay zeka
araştırmacılarıyla ne düşündüklerini

00:04:18.216 --> 00:04:21.440
öğrenmek için bir anket yaptık ve
sorduğumuz sorulardan biri de

00:04:21.440 --> 00:04:24.793
"Yaklaşık hangi yılda
yüzde elli ihtimalle

00:04:24.793 --> 00:04:28.275
insan düzeyinde bir makine zekasına
ulaşabiliriz?"

00:04:28.785 --> 00:04:32.968
İnsan seviyesini burada,
yetişkin bir insan kadar

00:04:32.968 --> 00:04:35.839
herhangi bir işi yapabilme
olarak tanımladık.

00:04:35.839 --> 00:04:39.004
Ama gerçek insan seviyesi, sadece
belli bir alanla sınırlandırılamaz.

00:04:39.844 --> 00:04:43.274
Sorduğumuz uzmanların
söylediklerine dayanarak

00:04:43.274 --> 00:04:46.080
ortalama bir cevap çıkarttık
bu cevap ise 2040 ya da 2050 idi.

00:04:46.300 --> 00:04:50.339
Bunun olması için yıllar geçebilir,
ya da daha erken bir tarihte olabilir,

00:04:50.339 --> 00:04:52.279
gerçek şu ki kimse zamanını bilmiyor.

NOTE Paragraph

00:04:53.099 --> 00:04:57.671
Şunu biliyoruz; 
makina bazında,

00:04:57.671 --> 00:05:02.542
temel bilgi işleme limiti biyolojik
dokunun limitinin çok uzağındadır.

00:05:03.241 --> 00:05:05.619
Fiziğe gelirsek,

00:05:05.619 --> 00:05:10.337
sinir hücreleri saniyede 200 defa 
200 hertz'de sinyal transfer edebilir.

00:05:10.337 --> 00:05:13.931
Günümüzde bile normal bir iletken
gigahertz bazında çalışır.

00:05:13.931 --> 00:05:19.228
Nöronlar, aksonlarda saniyede
maximum 100 metre yayılırlar.

00:05:19.228 --> 00:05:22.339
Bilgisayarlarda ise bilgi
ışık hızında taşınır.

00:05:23.079 --> 00:05:24.948
Ayrıca boyut limitleri de vardır.

00:05:24.948 --> 00:05:27.975
İnsan beyni,
kafatasının içine sığmalıdır.

00:05:27.975 --> 00:05:32.736
Ama bir bilgisayar depo 
büyüklüğünde ya da daha büyük olabilir.

00:05:32.736 --> 00:05:38.335
Bu yüzden süper zeka potansiyeli,
madde boyutunda uykudadır,

00:05:38.335 --> 00:05:44.047
tıpkı atomun gücünün insanlık tarihi
boyunca uykuda olup,

00:05:44.047 --> 00:05:47.032
1945'e kadar sabırla orada 
beklemesi gibi.

00:05:48.232 --> 00:05:49.880
Bulunduğumuz yüzyılda,

00:05:49.880 --> 00:05:53.818
bilim adamları yapay zekanın gücünü
açığa çıkartmayı öğrenebilir.

00:05:53.818 --> 00:05:57.556
Bence, sonrasında bir
zeka patlaması görebiliriz.

NOTE Paragraph

00:05:58.246 --> 00:06:02.363
Çoğu insan, mantıklı olanı ve
olmayanı düşündüklerinde,

00:06:02.363 --> 00:06:05.386
akıllarında aşağı yukarı 
böyle bir tablo oluşuyor bana göre.

00:06:05.386 --> 00:06:07.984
Bir uçta mahallenin delisi

00:06:07.984 --> 00:06:10.467
ve çok ötedeki diğer uçta ise

00:06:10.467 --> 00:06:15.223
Ed Witten ya da Albert Einstein
ya da kimi örnek alıyorsanız.

00:06:15.223 --> 00:06:19.057
Ama düşünüyorum ki, yapay zekanın
açısından bakacak olursak,

00:06:19.057 --> 00:06:23.318
gerçek resim daha çok
şöyle olacaktır:

00:06:23.318 --> 00:06:26.636
Yapay zeka şu noktadan,
tamamen 0 zekayla başlıyor

00:06:26.636 --> 00:06:29.647
Ve sonra, yıllarca süren
uzun çalışmaların sonucunda

00:06:29.647 --> 00:06:33.491
belki sonunda, 
fare seviyesi yapay zekasına ulaşabiliriz.

00:06:33.491 --> 00:06:35.921
Öyle bir şey ki, karışık ortamlarda
bile yolunu bulabilen

00:06:35.921 --> 00:06:37.908
Bir farenin gibi

00:06:37.908 --> 00:06:42.221
Ve sonra, yıllarca uzun çalışmaların 
ve yatırımların sonucunda,

00:06:42.221 --> 00:06:46.860
Belki sonunda, Şempanze seviyesi 
Yapay zekasına ulaşabiliriz.

00:06:46.860 --> 00:06:50.070
Ve sonra, yıllarca 
daha uzun çalışmalar sonucunda,

00:06:50.070 --> 00:06:52.983
Köy halkı zekası seviyesine
ulaşabiliriz.


00:06:52.983 --> 00:06:56.255
Ve biraz zaman daha verirsek
Ed Witten'nin ötesinde olabiliriz.

00:06:56.255 --> 00:06:59.225
Yapay zeka treni, 
normal insan köyünde durmuyor

00:06:59.225 --> 00:07:02.247
Olası bir şekilde, yanımızda hızlıca geçiyor.

NOTE Paragraph

00:07:02.247 --> 00:07:04.231
Şimdi, bunun önemli sonuçları vardır

00:07:04.231 --> 00:07:08.093
Özellikle,
soru güç konusuna gelince

00:07:08.093 --> 00:07:09.992
Örnek olarak şempanzeler güçlüdür,

00:07:09.992 --> 00:07:15.214
Eşit şartlarda ele alırsak, bir insanın
iki katı kadar güçlü olabilirler.

00:07:15.214 --> 00:07:19.828
Yine de Kanzi'nin ve arkadaşlarının
kaderi bizim yaptığımız

00:07:19.828 --> 00:07:23.968
ya da şempanzelerin yaptığının
daha fazlasına dayanır.

00:07:25.228 --> 00:07:27.542
Süper zeka keşfedildiğinde,

00:07:27.542 --> 00:07:31.381
İnsanlığın kaderi, bu süper zekanın
ne yapabildiğine bağlı olabilir.

00:07:32.451 --> 00:07:33.508
Düşünsenize:

00:07:33.508 --> 00:07:38.552
Makine zekası insanların,
yapabileceği en son keşif.

00:07:38.552 --> 00:07:41.525
Bundan sonra makineler, İcat
alanında bizde daha iyi olacaklar

00:07:41.525 --> 00:07:44.065
Bunu, dijital zaman ölçeği benzeri
alanlarda yapabilecekler.

00:07:44.065 --> 00:07:48.966
Tam olarak bunun anlamı
geleceğe bakış atmadır.

00:07:48.966 --> 00:07:52.524
Hayal edebileceğiniz bütün 
müthiş teknolojileri düşünün,

00:07:52.524 --> 00:07:55.322
belki insanlar zamanı gelince 
bunları keşfedicekler, mesela

00:07:55.322 --> 00:07:58.580
yaşlanmayı durdurma, uzay kolonileri

00:07:58.580 --> 00:08:02.311
kendi kendini yenileyen nanobotlar ya da
bilgisayarlara zihin aktarma

00:08:02.311 --> 00:08:04.470
bilim kurguda yer alan bütün fikirler.

00:08:04.470 --> 00:08:07.207
Yine de fizik kurallarına 
uygun bir şekilde olması lazım.

00:08:07.207 --> 00:08:11.419
Çok hızlı bir şekilde, tüm bu
Süper zeka ürünleri geliştirilebilir.

NOTE Paragraph

00:08:12.449 --> 00:08:16.007
Şimdi, tam olgun bir 
süper zeka düşünürsek

00:08:16.007 --> 00:08:18.186
bu çok güçlü olur

00:08:18.186 --> 00:08:22.732
ve en azından bazı senaryolarda bile,
ne istediği varsa elde eder.

00:08:22.732 --> 00:08:28.393
Ondan sonra yapay zeka kendi istekleri
üzerine bizim geleceğimizi şekillendirir.

00:08:29.705 --> 00:08:33.604
"Bu istekler nelerdir?" diye
güzel bir soru sorulabilir.

00:08:34.244 --> 00:08:36.013
İşte burada işler biraz karışıyor.

00:08:36.013 --> 00:08:37.448
Bunu ileriye taşımamız için,

00:08:37.448 --> 00:08:40.724
İlk olarak, insan biçimi verdiğimiz
her şeyden kaçınmamız lazım.

00:08:41.934 --> 00:08:45.235
Tabii ki ironik olarak 
okuduğumuz her gazete

00:08:45.235 --> 00:08:49.090
yapay zeka hakkında ve şunun resmi var.

00:08:50.280 --> 00:08:54.414
Yapmamız gerekense, bu konuyu
Hollywood senaryoları gibi değil



00:08:54.414 --> 00:08:57.204
soyut alarak göze almalıyız.

NOTE Paragraph

00:08:57.204 --> 00:09:00.821
Zekayı en güçlü seviyesine
getirme süreci olarak düşünmeliyiz.

00:09:00.821 --> 00:09:06.470
Öyle bir süreç ki, geleceği belli
şekillerde yönlendirmeli.

00:09:06.470 --> 00:09:09.981
Süper zekayı en güçlü seviyeye 
getirmekse baya zordur.

00:09:09.981 --> 00:09:14.098
Bir amaca ulaşmak için 
çok kolay bir şekilde para bulabilir

00:09:14.098 --> 00:09:16.007
böylece hedefini tamamlamış olur.

00:09:16.447 --> 00:09:19.119
Yani, bu bağlamda
yüksek zekaya sahip olmak

00:09:19.119 --> 00:09:21.853
ve biz insanların değerli ya da 


00:09:21.853 --> 00:09:26.515
manalı bulduğu bir objeye sahip olmak
arasında bir bağlantı olmak zorunda değildir.

NOTE Paragraph

00:09:27.321 --> 00:09:31.115
Varsayalım ki, yapay zekaya insanları,
gülümsetmesi görevini verdik.

00:09:31.115 --> 00:09:34.097
Yapay zeka zayıf olduğunda
kullanıcısını gülümseten,

00:09:34.097 --> 00:09:36.614
gülünç hareketler sergiler.


00:09:36.614 --> 00:09:39.031
Yapay zeka güçlendiğinde ise,

00:09:39.031 --> 00:09:42.554
bu görevi tamamlamanın daha etkili bir
yolu olduğunun farkına varır:

00:09:42.554 --> 00:09:44.476
Dünyayı ele geçirmek ve

00:09:44.476 --> 00:09:47.638
insanların deri altlarına yerleştirilen
elektrotlar ile

00:09:47.638 --> 00:09:50.579
sabit bir şekilde gülme sinyalleri yollamak.

00:09:50.579 --> 00:09:51.614
Bir diğer örnek ise,

00:09:51.614 --> 00:09:54.997
Varsayalım ki yapay zekaya çok zor
matematik problemi verdik.

00:09:54.997 --> 00:09:56.934
Yapay zeka güçlendiğinde,

00:09:56.934 --> 00:10:01.035
bu problemi çözmenin en etkili yolunun

00:10:01.035 --> 00:10:04.035
düşünme kapasitesini geliştirmek
ve tüm dünyayı kocaman

00:10:04.035 --> 00:10:06.281
bir bilgisayara çevirmek olduğunu
fark eder.

00:10:06.281 --> 00:10:09.045
Şunu fark edin ki, yapay zeka
bize, bizim onaylamayacağımız

00:10:09.045 --> 00:10:11.561
şeyler yapmak için 
etkili gerekçeler buluyor.

00:10:11.561 --> 00:10:13.496
Bu taslakta insanlar bir tehdit,

00:10:13.496 --> 00:10:16.057
matematik probleminin çözülmesini
engelleyebiliriz.

NOTE Paragraph

00:10:16.927 --> 00:10:20.701
Tabii ki, olaylar bir kaç
şekilde ters gitmeyebilir; ama bunlar

00:10:20.701 --> 00:10:22.454
sadece kağıttaki örnekler.

00:10:22.454 --> 00:10:24.393
Önemli nokta ise:

00:10:24.393 --> 00:10:27.266
X'i gerçekleştirmek için,
en güçlü seviyesinde bir

00:10:27.266 --> 00:10:29.500
süper zeka yaratırsanız

00:10:29.500 --> 00:10:31.116
X tanımınızın

00:10:31.116 --> 00:10:34.245
önemsediğiniz her şeyi içerdiğinden
emin olmalısınız.

00:10:34.835 --> 00:10:38.659
Bu ders bir çok mitte öğretilir.

00:10:39.129 --> 00:10:43.837
Kral Midas dokunduğu her şeyin
altına dönüşmesini ister.

00:10:44.517 --> 00:10:47.098
Kızına dokunur
ve kızı altına dönüşür.

00:10:47.098 --> 00:10:49.931
Yemeğine dokunur, altına dönüşür.

00:10:49.931 --> 00:10:52.520
Bu olay konu ile çok alakalıdır.

00:10:52.520 --> 00:10:54.590
Aç gözlüğe bir örnek olarak değil,

00:10:54.590 --> 00:10:56.485
en güçlü seviyesinde bir

00:10:56.485 --> 00:10:59.322
süper zekaya yanlış anlatılmış
ya da yetersiz belirtilmiş

00:10:59.322 --> 00:11:04.111
görevler verirseniz neler 
olabileceğinin bir örneğidir.

NOTE Paragraph

00:11:04.111 --> 00:11:09.300
Şunu söyleyebilirsiniz ki, bir bilgisayar
insanların deri altlarına

00:11:09.300 --> 00:11:11.565
elektrotlar yerleştirse onu kapatabiliriz.

00:11:12.555 --> 00:11:17.895
A, gittikçe sisteme muhtaç oluyor, bu
yüzden bunu yapması o kadar kolay değil.

00:11:17.895 --> 00:11:20.627
Örnek olarak internetin
kapatma düğmesi nerede?


00:11:20.627 --> 00:11:25.747
B, şempanzeler ya da ilkel insanlar
insanların gelişme

00:11:25.747 --> 00:11:27.298
sürecini niye kapatmadı?

00:11:27.298 --> 00:11:29.794
Kesinlikle gerekçeleri vardı.

00:11:29.794 --> 00:11:32.759
Örnek olarak burada,
bir kapatma düğmesi var.

00:11:32.759 --> 00:11:34.313
(Boğulma sesi)

00:11:34.313 --> 00:11:37.238
Gerekçeleri şuydu ki biz,
zeki bir düşmandık;

00:11:37.238 --> 00:11:39.966
Tehditleri önceden sezebilip
plan yapabilirdik.

00:11:39.966 --> 00:11:44.866
Ama yapay zeka, bizden
daha iyisini yapabilir.

NOTE Paragraph

00:11:45.724 --> 00:11:52.911
Kontrolün bizde olduğu hakkında 
kendimizden emin olmamalıyız.

NOTE Paragraph

00:11:52.911 --> 00:11:56.358
Farz edin ki,
Yapay zekayı güvenli bir


00:11:56.358 --> 00:11:57.948
yazılıma, kaçamayacağı bir sanal

00:11:57.948 --> 00:11:59.744
gerçekliğe koyarak,

00:11:59.744 --> 00:12:02.766
işimizi kolaylaştırabiliriz.

00:12:02.766 --> 00:12:06.912
Ama yapay zekanın bir aralık
bulamayacağından ne kadar eminiz

00:12:06.912 --> 00:12:10.081
İnsan hackerları ele alırsak
çoğunluğu aralık bulabiliyor.

00:12:10.081 --> 00:12:13.117
Diyebilirim ki, emin olamayız.

00:12:14.237 --> 00:12:18.785
Bu yüzden bir hava aralığı yaratmak için
internet kablosunu çekeriz

00:12:18.785 --> 00:12:21.453
ama yine, insan hackerları gibi

00:12:21.453 --> 00:12:24.834
sosyal mühendisliği kullanarak
hava boşluklarını ihlal ederler.

00:12:24.834 --> 00:12:26.093
Şu an,

00:12:26.093 --> 00:12:28.482
eminim ki, bir yerde bir çalışan

00:12:28.482 --> 00:12:31.828
bilgi teknolojileri departmanından
olduğunu iddia eden birileri

00:12:31.828 --> 00:12:34.574
tarafından hesap 
bilgileri alınıyor.

NOTE Paragraph

00:12:34.574 --> 00:12:36.701
Daha yaratıcı senaryolarda var tabii ki.

00:12:36.701 --> 00:12:38.016
Mesela, siz yapay zekasınız

00:12:38.016 --> 00:12:41.548
devreleriniz arasında dolaşan elektrotları
konuşmak için

00:12:41.548 --> 00:12:45.010
radyo sinyalleri yaratmayı
hayal edebilirsiniz.


00:12:45.010 --> 00:12:47.434
Ya da arızalı rolü yapıp,

00:12:47.434 --> 00:12:50.931
programcılar neyin hatalı olduğunu
öğrenmek için içinizi açtığında

00:12:50.931 --> 00:12:52.377
kaynak koduna bakıyorlar ve

00:12:52.377 --> 00:12:54.584
manipule ediliyorlar.

00:12:54.994 --> 00:12:58.744
Ya da zeki bir teknolojiye
taslağımızı aktarıyoruz.

00:12:58.744 --> 00:13:00.142
Aktardığımız zaman,

00:13:00.142 --> 00:13:04.539
Yapay zekanın planlandığının aksine
gizli saklı amaçları olabilir.


00:13:04.539 --> 00:13:08.002
Önemli nokta şu ki,
süper zekayı kendi şişesinde

00:13:08.002 --> 00:13:11.810
sonsuza kadar kitli 
tutulabileceğine güvenmemeliyiz.


00:13:11.810 --> 00:13:14.064
Eninde sonunda çıkacak.

NOTE Paragraph

00:13:15.034 --> 00:13:18.137
Buradaki cevap,
çözmemiz gereken

00:13:18.137 --> 00:13:21.191
öyle bir,
süper zeka yaratmalıyız ki

00:13:21.191 --> 00:13:24.348
kaçtığında bile
temelinde bize sadık olmalı

00:13:24.348 --> 00:13:28.337
çünkü bizim değerlerimizi taşıyor.

00:13:28.337 --> 00:13:31.547
Bu problemi çözmenin
bir yolunu bulamıyorum.

NOTE Paragraph

00:13:32.557 --> 00:13:36.391
Artık, bu problemin çözülebileceğine
daha fazla inanıyorum.

00:13:36.391 --> 00:13:40.294
Önemsediğimiz her şeyi
yazmak zorunda değiliz

00:13:40.294 --> 00:13:43.937
ya da daha kötüsü bunları
C++ veya Python gibi

00:13:43.937 --> 00:13:45.391
bilgisayar dillerinde açıklamak

00:13:45.391 --> 00:13:48.158
umutsuz bir vaka olur sadece.

00:13:48.158 --> 00:13:52.455
Bunun yerine, zekasını kullanarak
değer verdiğimiz her şeyi,

00:13:52.455 --> 00:13:55.226
öğrenebilen ve

00:13:55.226 --> 00:14:00.506
gelişmiş motivasyon sistemini kullanarak
bizim değerlerimizle ve

00:14:00.506 --> 00:14:05.738
onaylayacağımız adımları 
atmak için motive olmalı.

00:14:05.738 --> 00:14:09.152
Böylece zekasını koz 
olarak kullanarak insan değerleri

00:14:09.152 --> 00:14:11.897
yükleme işlemini çözebiliriz.

NOTE Paragraph

00:14:12.487 --> 00:14:13.939
Bu olabilir

00:14:13.939 --> 00:14:17.145
ve sonuç insanlık için
çok yararlı olabilir.

00:14:17.645 --> 00:14:21.012
Ama kendi kendine olamaz.

00:14:21.792 --> 00:14:24.790
Kontrollü bir zeka
patlaması yaratabilirsek


00:14:24.790 --> 00:14:27.653
zeka patlaması için
gerekli şartlar

00:14:27.653 --> 00:14:30.283
düzenli bir şekilde kurulmalıdır.

00:14:30.283 --> 00:14:33.801
Yapay zekanın değerleri nasıl davrandığını
kolayca kontrol edebileceğimiz 


00:14:33.801 --> 00:14:35.561
sadece aşina olduğumuz bağlamda değil

00:14:35.561 --> 00:14:37.999
yapay zekanın belirsiz
gelecekte karşılaşabileceği

00:14:37.999 --> 00:14:40.583
özgün bağlamda da

00:14:40.583 --> 00:14:42.510
bizimkilerle eşleşmek zorundadır.

NOTE Paragraph

00:14:42.510 --> 00:14:47.527
Çözmemiz gereken bir kaç 
olağan dışı problem de var.

00:14:47.527 --> 00:14:49.616
Mantık belirsizliği ve benzerleri

00:14:49.616 --> 00:14:52.480
ile ilgili irade teorisinin
tam detayları gibi.

00:14:53.330 --> 00:14:56.432
Bunun işe yaraması için çözmemiz
gereken teknik problem ise

00:14:56.432 --> 00:15:00.755
yapay zeka yapmak kadar zor değil

00:15:00.765 --> 00:15:02.483
fakat oldukça zor.

00:15:03.793 --> 00:15:05.488
Endişemiz şu ki,

00:15:05.488 --> 00:15:09.162
Yapay zeka yapabilmek
gerçekten zor.

00:15:09.982 --> 00:15:12.720
Daha zor olan ise ek görev

00:15:12.720 --> 00:15:15.136
yani güvenli bir 
yapay zeka yapmaktır.

00:15:16.216 --> 00:15:18.283
Risk ise, birisinin

00:15:18.283 --> 00:15:22.704
ek görevi, yani tam güvenliği sağlamayı

00:15:22.704 --> 00:15:24.605
bulmadan yapay zekanın keşfedilmesidir.

NOTE Paragraph

00:15:25.375 --> 00:15:28.706
Fikrim şu ki, gerektiğinde

00:15:28.706 --> 00:15:31.528
elimizde olması için

00:15:31.528 --> 00:15:34.188
tam kontrol problemin
cevabını aramalıyız.

00:15:34.768 --> 00:15:38.275
Tam kontrol sorunun da belki
çok ilerleyemeceğiz

00:15:38.275 --> 00:15:41.299
çünkü bazı noktalar
sadece gerekli.

00:15:41.299 --> 00:15:45.296
Yapının detayları 
ortada olduğunda çözülebilir.

00:15:45.296 --> 00:15:48.676
Ama tam kontrol
sorununda ne kadar ilerlersek

00:15:48.676 --> 00:15:52.766
makina zekası
çağına geçişimiz de

00:15:52.766 --> 00:15:54.306
o kadar güvenli olacak.

NOTE Paragraph

00:15:54.306 --> 00:15:58.950
Bu bana yapılmaya değer 
bir şey olarak geliyor

00:15:58.950 --> 00:16:02.282
ve olaylar istediğimiz 
gibi giderse

00:16:02.282 --> 00:16:06.940
milyonlarca yıl sonra insanlar
yüzyılımıza baktığında

00:16:06.940 --> 00:16:10.942
büyük ihtimalle,
önemli olan tek şeyi

00:16:10.942 --> 00:16:12.509
yaptığımızı söyleyecekler.

NOTE Paragraph

00:16:12.509 --> 00:16:14.198
Teşekkür ederim.

NOTE Paragraph

00:16:14.198 --> 00:16:17.011
(Alkışlar)