WEBVTT

00:00:00.739 --> 00:00:04.861
Bilgisayar programcısı olarak 
ilk çalışmaya başladığımda

00:00:04.885 --> 00:00:06.841
üniversite birinci sınıftaydım,

00:00:06.865 --> 00:00:08.372
yani yeni yetme sayılırdım.

NOTE Paragraph

00:00:08.889 --> 00:00:10.621
Bir şirkette program yazma göreviyle

00:00:10.645 --> 00:00:12.255
işe girdikten kısa süre sonra

00:00:12.799 --> 00:00:16.434
şirkette çalışan bir müdür yanıma geldi

00:00:16.458 --> 00:00:17.726
ve fısıltıyla sordu:

00:00:18.229 --> 00:00:21.090
"Yalan söylediğimi anlayabilir mi?"

00:00:21.806 --> 00:00:23.883
Odada başka kimse yoktu.

NOTE Paragraph

00:00:25.032 --> 00:00:29.421
"Yalanı kim anlayabilir mi?
Ayrıca neden fısıldaşıyoruz?" dedim.

NOTE Paragraph

00:00:30.266 --> 00:00:33.373
Müdür, odada bulunan bilgisayarı gösterdi.

00:00:33.397 --> 00:00:36.493
"Yalan söyleyip söylemediğimi anlar mı?"

00:00:37.613 --> 00:00:41.975
Bu müdür danışmada çalışan 
biriyle ilişki yaşıyordu.

NOTE Paragraph

00:00:41.999 --> 00:00:43.111
(Gülüşmeler)

NOTE Paragraph

00:00:43.135 --> 00:00:44.901
Ben de yeni yetmeyim tabii.

00:00:45.447 --> 00:00:47.466
Fısıltıyla bağırır gibi cevap verdim:

00:00:47.490 --> 00:00:51.114
"Evet, yalan söylerseniz
bilgisayar anlar." dedim.

NOTE Paragraph

00:00:51.138 --> 00:00:52.944
(Gülüşmeler)

NOTE Paragraph

00:00:52.968 --> 00:00:55.891
Gülüyordum ama aslında
gülünmesi gereken bendim.

00:00:55.915 --> 00:00:59.183
Günümüzde insan yüzlerini

00:00:59.207 --> 00:01:02.755
işlemden geçirerek ruh hâlini 
ve hatta yalan söylediğini

00:01:02.779 --> 00:01:04.823
tespit eden bilgisayar programları var.

00:01:05.248 --> 00:01:09.401
Reklamcılar, hatta devletler de
çok ilgi duyuyor.

NOTE Paragraph

00:01:10.319 --> 00:01:12.181
Matematik ve fen bilgisini çok seven

00:01:12.205 --> 00:01:15.318
bir çocuk olduğum için
bilgisayar programcısı olmuştum.

00:01:15.942 --> 00:01:19.050
Fakat o sıralarda
nükleer silahlara dair bilgi edinmiş

00:01:19.074 --> 00:01:22.026
ve bilim etiğine de
çok ilgi duymaya başlamıştım.

00:01:22.050 --> 00:01:23.254
Sorunlarım vardı.

00:01:23.278 --> 00:01:25.919
Ne yazık ki ailevi durumlar yüzünden

00:01:25.943 --> 00:01:29.241
mümkün olduğu kadar çabuk
işe girmem gerekiyordu.

00:01:29.265 --> 00:01:32.564
Kendi kendime düşündüm;
kolaylıkla iş bulabileceğim

00:01:32.588 --> 00:01:34.384
teknik bir alan seçeyim ki

00:01:34.408 --> 00:01:38.426
sıkıcı etik problemlerle
uğraşmak zorunda kalmayayım dedim.

00:01:39.022 --> 00:01:40.551
Böylelikle bilgisayarı seçtim.

NOTE Paragraph

00:01:40.575 --> 00:01:41.679
(Gülüşmeler)

NOTE Paragraph

00:01:41.703 --> 00:01:45.113
Ha, ha, ha!
Herkes bana gülüyordur.

00:01:45.137 --> 00:01:47.891
Günümüzde bilgisayar uzmanları
her gün milyarlarca insanın

00:01:47.915 --> 00:01:52.124
göreceği şeyleri kontrol eden
programlar kuruyor.

00:01:53.052 --> 00:01:56.874
Kime çarpacağına karar verebilecek
arabalar geliştiriyorlar.

00:01:57.707 --> 00:02:00.920
Savaşta insanları öldürecek türden

00:02:00.944 --> 00:02:03.229
makineler, silahlar bile geliştiriyorlar.

00:02:03.253 --> 00:02:06.024
Etik tamamen ortadan kalkıyor.

NOTE Paragraph

00:02:07.183 --> 00:02:09.241
Makine zekâsı işin içinde.

00:02:09.823 --> 00:02:13.297
Artık herhangi bir karar verirken
bilgisayar kullanıyoruz,

00:02:13.321 --> 00:02:15.207
üstelik yeni kararlar alırken bile.

00:02:15.231 --> 00:02:20.403
Bilgisayara tek bir doğru 
cevabı olmayan, öznel,

00:02:20.427 --> 00:02:21.629
açık uçlu ve değer yüklü

00:02:21.653 --> 00:02:23.978
sorular soruyoruz.

NOTE Paragraph

00:02:24.002 --> 00:02:25.760
Mesela şu gibi sorular:

00:02:25.784 --> 00:02:27.434
"Şirket kimi işe almalı?"

00:02:28.096 --> 00:02:30.855
"Hangi arkadaştan
hangi güncellemeyi görmelisiniz?"

00:02:30.879 --> 00:02:33.145
"Hangi mahkûm tekrar suç işlemeye yatkın?"

00:02:33.514 --> 00:02:36.568
"İnsanlara hangi haber ya da film 
tavsiye edilmeli?"

NOTE Paragraph

00:02:36.592 --> 00:02:39.964
Bakın, evet bir süredir bilgisayar
kullanıyoruz,

00:02:39.988 --> 00:02:41.505
ama bu farklı bir durum.

00:02:41.529 --> 00:02:43.596
Bu tarihi bir hata,

00:02:43.620 --> 00:02:48.957
çünkü böyle öznel kararlarda
bilgisayara güvenemeyiz,

00:02:48.981 --> 00:02:54.361
bilgisayara uçak uçurmada, 
köprü inşa etmede, aya gitmede

00:02:54.431 --> 00:02:55.874
güvendiğimiz gibi güvenemeyiz.

00:02:56.449 --> 00:02:59.708
Uçaklar daha güvenli mi?
Köprü sallanıp çöker miydi?

00:02:59.732 --> 00:03:04.230
Burada üzerinde anlaşılan, açık ölçütler 
ve bize yol gösteren doğa kanunları

00:03:04.254 --> 00:03:06.493
olduğu konusunda hemfikiriz.

00:03:06.517 --> 00:03:09.911
Karmaşık insan ilişkilerinde
karar verirken

00:03:09.935 --> 00:03:13.898
bu tür dayanak ve ölçütler yok.

NOTE Paragraph

00:03:13.922 --> 00:03:18.159
İşleri daha çetrefilli hâle getirmek için
yazılımımız gittikçe güçleniyor,

00:03:18.183 --> 00:03:21.956
fakat aynı zamanda daha az şeffaflaşıp
daha karmaşık oluyor.

00:03:22.542 --> 00:03:24.582
Son on yıl içerisinde,

00:03:24.606 --> 00:03:27.335
kompleks algoritmalar
büyük aşamalar katetti.

00:03:27.359 --> 00:03:29.349
İnsan yüzlerini tanıyabiliyorlar.

00:03:29.985 --> 00:03:32.040
El yazılarını çözebiliyorlar.

00:03:32.436 --> 00:03:34.502
Kredi kartı dolandırıcılığını 
tespit edip

00:03:34.526 --> 00:03:35.715
spam postaları engelliyor

00:03:35.739 --> 00:03:37.776
ve diller arası çeviri yapabiliyorlar.

00:03:37.800 --> 00:03:40.374
Tıbbi görüntülemelerde tümörleri
teşhis edebiliyorlar.

00:03:40.398 --> 00:03:42.603
Go ve satrançta insanları yenebiliyorlar.

NOTE Paragraph

00:03:43.264 --> 00:03:47.768
Bu gelişmelerin çoğu "makine öğrenimi"
denilen bir yöntemden geliyor.

00:03:48.175 --> 00:03:51.362
Makine öğrenimi, bilgisayara 
detaylı, doğru ve itinalı

00:03:51.386 --> 00:03:54.971
talimatlar verdiğiniz
geleneksel programlamadan farklıdır.

00:03:55.378 --> 00:03:59.560
Daha çok sistemi kavrayıp onu
dijital yaşamlarımızda ürettiğimiz türden

00:03:59.584 --> 00:04:01.240
yapısal olmayan veri dahil

00:04:01.264 --> 00:04:03.542
bir sürü veriyle desteklemeniz gibidir.

00:04:03.566 --> 00:04:06.296
Sistem bu bilgileri baştan sona
karıştırarak öğrenir.

00:04:06.669 --> 00:04:08.195
Ayrıca en önemlisi

00:04:08.219 --> 00:04:12.599
bu sistemlerin tek cevaplı 
mantıkla çalışmadığıdır.

00:04:12.623 --> 00:04:15.582
Tek bir cevap üretmezler,
daha çok olasılık vardır:

00:04:15.606 --> 00:04:19.089
"Belki de aradığınız şey bu olabilir."

NOTE Paragraph

00:04:20.023 --> 00:04:23.093
Şimdi avantajı şu:
Bu yöntem gerçekten çok güçlüdür.

00:04:23.117 --> 00:04:25.193
Google'ın Yapay Zeka'sının dediği gibi

00:04:25.217 --> 00:04:27.414
"verinin akıl almaz etkinliği"dir.

00:04:27.791 --> 00:04:29.144
Dezavantajı ise,

00:04:29.738 --> 00:04:32.809
sistemin ne öğrendiğini
tam olarak anlamıyor olmamızdır.

00:04:32.833 --> 00:04:34.420
Aslında bu onun gücü.

00:04:34.946 --> 00:04:38.744
Bu, bir bilgisayara
talimat vermek gibi değildir;

00:04:39.200 --> 00:04:43.264
nasıl kontrol edeceğimizi bilmediğimiz
bir içecek sıkma makinesini

00:04:43.288 --> 00:04:45.659
çalıştırmak gibidir.

00:04:46.362 --> 00:04:47.913
Yani sorunumuz bu.

00:04:48.427 --> 00:04:52.689
Yapay zeka sistemi bir şeyleri
yanlış anladığında problem olur.

00:04:52.713 --> 00:04:56.253
Aynı zamanda doğru anladığında da
problem olur,

00:04:56.277 --> 00:04:59.905
çünkü öznel bir problem olduğunda
hangisinin hangisi olduğunu bilmiyoruz.

00:04:59.929 --> 00:05:02.268
Bu şeyin ne düşündüğünü bile bilmiyoruz.

NOTE Paragraph

00:05:03.493 --> 00:05:07.176
Şimdi, insanları işe almak için kullanılan

00:05:08.123 --> 00:05:12.434
makine öğrenimi sistemlerinden yararlanan
bir işe alım algoritma sistemi düşünün.

00:05:13.052 --> 00:05:16.631
Böyle bir sistem önceki 
çalışanların verilerine ayarlı

00:05:16.655 --> 00:05:19.246
ve şirketteki yüksek performansı olan

00:05:19.270 --> 00:05:22.308
çalışanlar gibi insanlar bulmaya ve 
işe almaya kurulmuş olmalı.

00:05:22.814 --> 00:05:23.967
İyi fikir.

00:05:23.991 --> 00:05:25.990
Bir keresinde bir konferansa katıldım,

00:05:26.014 --> 00:05:29.139
işe alımda bu sistemi kullanan
insan kaynakları uzmanları ile

00:05:29.163 --> 00:05:30.369
yöneticileri,

00:05:30.393 --> 00:05:32.082
üst düzey insanları buluşturuyordu.

00:05:32.082 --> 00:05:33.622
Çok heyecanlıydılar.

00:05:33.646 --> 00:05:38.299
Bu yöntemin işe alımı daha nesnel,
daha az ön yargılı yapacağını

00:05:38.323 --> 00:05:41.323
ve kadın ve azınlıkları ön yargılı 
insan kaynakları karşısında

00:05:41.347 --> 00:05:43.535
daha şanslı hâle getireceğini
düşünüyorlardı.

NOTE Paragraph

00:05:43.559 --> 00:05:46.402
İşe alımda ön yargılı davranılır.

00:05:47.099 --> 00:05:48.284
Biliyorum.

00:05:48.308 --> 00:05:51.313
Yani, programcı olarak çalıştığım ilk
işlerimden birinde

00:05:51.337 --> 00:05:55.205
ilk patronum bazen sabah çok erken ya da

00:05:55.229 --> 00:05:58.982
öğleden sonra çok geç saatlerde
yanıma gelir

00:05:59.006 --> 00:06:02.068
ve "Zeynep, hadi yemeğe çıkalım!" derdi.

00:06:02.724 --> 00:06:04.891
Garip zamanlamasına şaşırırdım.

00:06:04.915 --> 00:06:07.044
Saat dört. Öğle yemeği mi?

00:06:07.068 --> 00:06:10.162
Param yoktu, bedava öğle yemeği vardı.
Her zaman giderdim.

00:06:10.618 --> 00:06:12.685
Neler olduğunu daha sonraları anladım.

00:06:12.709 --> 00:06:17.255
Amirlerim kendi üst düzey müdürlerine
çok ciddi bir iş için

00:06:17.279 --> 00:06:20.392
işe aldıkları programcının 
kot pantolon ve spor ayakkabı giyen

00:06:20.416 --> 00:06:24.346
yeni yetme bir kız olduğunu
söylememişlerdi.

00:06:25.174 --> 00:06:27.376
İyi iş çıkarıyordum,
ama yanlış görünüyordum,

00:06:27.400 --> 00:06:29.099
yanlış yaşta ve cinsiyetteydim.

NOTE Paragraph

00:06:29.123 --> 00:06:32.469
Dolayısıyla cinsiyet ve ırk 
gözetilmeksizin işe alım

00:06:32.493 --> 00:06:34.358
bence kesinlikle iyi fikir.

00:06:35.031 --> 00:06:38.372
Ancak bu sistemlerle konu 
daha karmaşık oluyor, nedeni şu:

00:06:38.968 --> 00:06:44.759
Şimdilerde bilgisayar sistemleri
paylaşmadığınız şeyler bile olsa

00:06:44.783 --> 00:06:46.655
dijital kırıntılarınızdan

00:06:46.679 --> 00:06:49.012
hakkınızda birçok çıkarım yapabilir.

00:06:49.506 --> 00:06:52.433
Cinsel yöneliminizi,

00:06:52.994 --> 00:06:54.300
kişilik özelliklerinizi,

00:06:54.859 --> 00:06:56.392
siyasi görüşünüzü anlayabiliyor.

00:06:56.830 --> 00:07:00.515
Yüksek doğruluk oranlı öngörü güçleri var.

00:07:01.362 --> 00:07:03.940
Unutmayın - paylaşmadığınız
şeyleri bile.

00:07:03.964 --> 00:07:05.555
Bu, çıkarımda bulunmaktır.

NOTE Paragraph

00:07:05.579 --> 00:07:08.840
Sosyal medya verilerinden
klinik depresyon veya

00:07:08.864 --> 00:07:12.505
doğum sonrası depresyon ihtimalini
öngören sayısal sistemler geliştiren

00:07:12.529 --> 00:07:13.945
bir arkadaşım var.

00:07:14.676 --> 00:07:16.103
Sonuçlar etkileyici.

00:07:16.492 --> 00:07:19.849
Sistem depresyon ihtimalini
semptomların başlamasından

00:07:19.873 --> 00:07:23.776
aylar öncesinden öngörebiliyor,

00:07:23.800 --> 00:07:25.173
aylar öncesinden.

00:07:25.197 --> 00:07:27.443
Hiçbir semptom yok, ama öngörü var.

00:07:27.467 --> 00:07:32.279
Erken müdahalede
kullanılacağını umuyor. Muhteşem!

00:07:32.911 --> 00:07:34.951
Şimdi de bunu
işe alım kavramına uygulayın.

NOTE Paragraph

00:07:36.027 --> 00:07:39.073
Bu insan kaynakları
yöneticileri konferansında

00:07:39.097 --> 00:07:43.806
büyük bir şirketin 
üst düzey bir yöneticisiyle görüştüm.

00:07:43.830 --> 00:07:48.408
Ona, "Peki sisteminiz size bildirmeden

00:07:48.432 --> 00:07:54.981
gelecekte yüksek depresyon ihtimali olan
insanları ayıklıyorsa?

00:07:55.761 --> 00:07:59.137
Şu an psikolojik bozuklukları yok,
ancak belki ileride olabilir.

00:07:59.923 --> 00:08:03.329
Peki şu an hamile olmayan ancak
gelecek bir ya da iki yıl içinde

00:08:03.353 --> 00:08:05.939
hamile kalma ihtimali olan 
kadınları ayıklıyorsa?

00:08:06.844 --> 00:08:12.480
İş yeri kültürünüz öyle olduğu için
agresif insanları işe alıyorsa?" dedim.

00:08:13.173 --> 00:08:15.864
Bunu cinsiyet analizlerine bakarak 
anlayamazsınız.

00:08:15.888 --> 00:08:17.390
Dengelenmiş olabilirler.

00:08:17.414 --> 00:08:20.971
Ayrıca bu geleneksel kodlama değil
makine öğrenimi olduğu için

00:08:20.995 --> 00:08:25.902
"yüksek depresyon riski",
"yüksek hamilelik riski",

00:08:25.926 --> 00:08:27.759
"agresiflik ölçümü" gibi

00:08:27.783 --> 00:08:29.517
etiket taşıyan değişkenler yok.

00:08:29.995 --> 00:08:33.674
Sadece sisteminizin neyi seçtiğini değil,

00:08:33.698 --> 00:08:36.101
nereden bakmaya başlayacağınızı
bile bilmiyorsunuz.

00:08:36.101 --> 00:08:37.291
Bir kara kutu.

00:08:37.315 --> 00:08:40.122
Tahmin gücüne sahip ancak
onu anlamıyorsunuz.

NOTE Paragraph

00:08:40.486 --> 00:08:42.855
"Ne güvenlikleri var?" diye sordum,
"kara kutunuzun

00:08:42.879 --> 00:08:46.552
gizli bir şey yapmadığından
emin olmak için?"

00:08:48.863 --> 00:08:52.741
Kuyruğuna basmışım gibi bakakaldı.

NOTE Paragraph

00:08:52.765 --> 00:08:54.013
(Gülüşmeler)

NOTE Paragraph

00:08:54.037 --> 00:08:56.078
Dik dik baktı ve

00:08:56.556 --> 00:09:00.889
"buna dair başka bir şey 
duymak istemiyorum." dedi.

00:09:01.458 --> 00:09:03.492
Arkasını dönüp gitti.

00:09:04.064 --> 00:09:05.550
Gerçi kaba değildi.

00:09:05.574 --> 00:09:11.882
Açıklaması şu: Bilmediğim şey benim
sorunum değil, bas git, öldürücü bakış.

NOTE Paragraph

00:09:11.906 --> 00:09:13.152
(Gülüşmeler)

NOTE Paragraph

00:09:13.862 --> 00:09:17.701
Bakın böyle bir sistem bazı açılardan
insan yöneticilerden

00:09:17.725 --> 00:09:19.828
daha az ön yargılı olabilir.

00:09:19.852 --> 00:09:21.998
Parasal anlam taşıyabilir.

00:09:22.573 --> 00:09:24.223
Ancak depresyon riski

00:09:24.247 --> 00:09:28.995
yüksek olan insanların iş piyasasına
istikrarlı ve gizli olarak girmesini

00:09:29.019 --> 00:09:31.312
engellemeye sebep olabilir.

00:09:31.753 --> 00:09:34.349
Ne yapmış olduğumuzu bile bilmeden 


00:09:34.373 --> 00:09:36.658
kurmak istediğimiz toplum modeli bu mu?

00:09:36.682 --> 00:09:40.646
Çünkü karar verme işini tam olarak
anlamadığımız makinelere bırakıyoruz.

NOTE Paragraph

00:09:41.265 --> 00:09:42.723
Diğer bir problemse şu:

00:09:43.314 --> 00:09:47.766
Bu sistemler çoğunlukla bizim 
davranışlarımızla; insan izleri tarafından

00:09:47.790 --> 00:09:49.606
üretilen bilgilerle test edilir.

00:09:50.188 --> 00:09:53.996
Ön yargılarımızı yansıtıyor olabilirler.

00:09:54.020 --> 00:09:57.613
Bu sistemler ön yargılarımıza dönüp

00:09:57.637 --> 00:09:58.950
onları büyütüp

00:09:58.974 --> 00:10:00.522
bize tekrar gösteriyor olabilir,

00:10:00.522 --> 00:10:01.878
biz ise bu arada kendimize

00:10:01.902 --> 00:10:05.019
"Sadece nesnel, tarafsız hesap
yapıyoruz." diyoruz.

NOTE Paragraph

00:10:06.314 --> 00:10:08.991
Araştırmacılar Google'da
yüksek maaşlı iş ilanlarını

00:10:10.134 --> 00:10:15.447
kadınların görme ihtimalinin 
erkeklerden daha az olduğunu tespit etti.

00:10:16.463 --> 00:10:18.993
Afro-Amerikan isimleri araştırırken

00:10:19.017 --> 00:10:23.723
alakası olmasa bile 
sabıka geçmişi ile ilgili ilanları

00:10:23.747 --> 00:10:25.314
öne sürmesi daha muhtemeldir.

00:10:26.693 --> 00:10:30.242
Araştırmacıların bazen ortaya çıkardığı
ancak bazen bizim bilmediğimiz

00:10:30.266 --> 00:10:34.239
bu tür gizli ön yargıların ve
kara kutu algoritmalarının

00:10:34.263 --> 00:10:36.924
hayat değiştiren sonuçları var.

NOTE Paragraph

00:10:37.958 --> 00:10:42.117
Wisconsin'de bir sanık,
altı yıl hapse mahkûm edildi,

00:10:42.141 --> 00:10:43.496
polisten kaçtığı için.

00:10:44.824 --> 00:10:46.010
Belki bilmiyorsunuzdur,

00:10:46.034 --> 00:10:50.032
algoritmaların şartlı tahliye ve ceza
kararlarında kullanımı giderek artıyor.

00:10:50.056 --> 00:10:53.011
Şunu öğrenmek istiyordu:
Bu sonuç nasıl hesaplanmıştı?

00:10:53.795 --> 00:10:55.460
Ticari bir kara kutu.

00:10:55.484 --> 00:10:59.689
Şirket, halka açık duruşmada
işlemlerinin sorgulanmasını reddetmişti.

00:11:00.396 --> 00:11:05.928
Kâr amacı gütmeyen araştırmacı kurum 
ProPublica, bu algoritmayı

00:11:05.952 --> 00:11:07.968
bulabildiği kamusal verilerle inceledi

00:11:07.992 --> 00:11:10.308
ve sonuçlarının ön yargılı olduğunu,

00:11:10.332 --> 00:11:13.961
öngörü gücününse kötü, olasılıktan
biraz iyi olduğunu

00:11:13.985 --> 00:11:18.401
ve siyahi sanıkları haksız yere 
beyaz sanıklardan iki kat fazla bir oranla

00:11:18.425 --> 00:11:22.320
geleceğin suçluları olarak 
etiketlediğini bulguladı.

NOTE Paragraph

00:11:23.891 --> 00:11:25.455
Şu olayı göz önüne alın:

00:11:26.103 --> 00:11:29.955
Bu kadın, vaftiz kardeşini Florida'nın 
Broward bölgesindeki bir okuldan

00:11:29.979 --> 00:11:32.054
almaya geç kalmış,

00:11:32.757 --> 00:11:35.113
bir arkadaşıyla caddede ilerliyorlar.

00:11:35.137 --> 00:11:39.236
Verandada duran kilitsiz bir 
çocuk bisikleti ve bir kaydırak görüyor

00:11:39.260 --> 00:11:40.892
ve düşünmeden biniyorlar.

00:11:40.916 --> 00:11:43.515
Tam yola koyulacakken 
kadının biri çıkıyor ve

00:11:43.539 --> 00:11:45.744
"Hey! Bu benim çocuğumun 
bisikleti!" diyor.

00:11:45.768 --> 00:11:49.062
Bırakıp gidiyorlar, ancak tutuklanıyorlar.

NOTE Paragraph

00:11:49.086 --> 00:11:52.723
Haksızdı, aptalca davranmıştı,
ama henüz 18 yaşındaydı.

00:11:52.747 --> 00:11:55.291
Çocukken ciddi olmayan bir iki suç işlemişti.

00:11:55.808 --> 00:12:00.993
Bu arada, adam da Home Depot'da
hırsızlık yapmaktan tutuklanmıştı.

00:12:01.017 --> 00:12:03.941
85 dolar değerinde,
benzeri bir hafif suç.

00:12:04.766 --> 00:12:09.325
Ama öncesinde iki silahlı
soygun sabıkası vardı.

00:12:09.955 --> 00:12:13.437
Ancak algoritma, adamı değil
kadını yüksek riskli olarak işaretledi.

00:12:14.746 --> 00:12:18.620
İki yıl sonra ProPublica kadının
tekrar suç işlemediğini tespit etti.

00:12:18.644 --> 00:12:21.194
Sabıka puanıyla iş bulması çok zordu.

00:12:21.218 --> 00:12:23.294
Öte yandan adam tekrar suç işlemişti

00:12:23.318 --> 00:12:27.154
ve şimdi daha sonra işlediği bir suç
yüzünden sekiz yıllık hapis cezasında.

00:12:28.088 --> 00:12:31.457
Belli ki kara kutularımızı
kontrol etmemiz

00:12:31.481 --> 00:12:34.096
ve onlara böyle kontrolsüz güç
vermememiz gerekiyor.

NOTE Paragraph

00:12:34.120 --> 00:12:36.999
(Alkışlar)

NOTE Paragraph

00:12:38.087 --> 00:12:42.329
Kontroller önemli ve etkili,
ancak tüm sorunlarımızı çözmüyorlar.

00:12:42.353 --> 00:12:45.101
Facebook'un muhteşem
haber akışı algoritmasına bakın,

00:12:45.125 --> 00:12:49.968
yani takip ettiğiniz tüm arkadaşlarınız
ve sayfalardan her şeyi sıralayıp

00:12:49.992 --> 00:12:52.276
size ne göstereceğine 
karar veren algoritma.

00:12:52.898 --> 00:12:55.173
Başka bir bebek fotoğrafı görmeli misiniz?

NOTE Paragraph

00:12:55.197 --> 00:12:56.393
(Gülüşmeler)

NOTE Paragraph

00:12:56.417 --> 00:12:59.013
Bir tanıdıktan somurtkan bir not?

00:12:59.449 --> 00:13:01.305
Önemli ama üzücü haberler?

00:13:01.329 --> 00:13:02.811
Doğru bir cevap yok.

00:13:02.835 --> 00:13:05.494
Facebook meşgul olacaklarınızı
en uygun hâle getiriyor:

00:13:05.518 --> 00:13:07.113
Beğeniler, paylaşımlar, yorumlar.

NOTE Paragraph

00:13:08.168 --> 00:13:10.864
Ağustos 2014'te,

00:13:10.888 --> 00:13:13.550
Missouri, Ferguson'da
Afro-Amerikan bir gencin

00:13:13.574 --> 00:13:17.991
beyaz bir polis tarafından şüpheli 
bir şekilde öldürülmesi sonrası

00:13:18.015 --> 00:13:19.585
protestolar başladı.

00:13:19.974 --> 00:13:21.981
Protesto haberleri

00:13:22.005 --> 00:13:24.690
algoritmik olarak filtrelenmeyen
Twitter akışımda vardı

00:13:24.714 --> 00:13:26.664
ancak Facebook'ta hiçbir yerde yoktu.

00:13:27.182 --> 00:13:28.916
Facebook arkadaşlarım ne hâldeydi?

00:13:28.940 --> 00:13:31.142
Facebook'un algoritmasını 
devre dışı bıraktım,

00:13:31.472 --> 00:13:34.320
ki bu çok zordur, çünkü Facebook 
sizi algoritmanın

00:13:34.344 --> 00:13:36.380
kontrolü altında tutmak ister.

00:13:36.404 --> 00:13:38.642
Baktım ki arkadaşlarım da
bunu konuşuyor.

00:13:38.666 --> 00:13:41.175
Bunu bana göstermeyen
algoritmanın ta kendisiydi.

00:13:41.199 --> 00:13:44.241
Bunu araştırdım ve 
yaygın bir problem olduğunu gördüm.

NOTE Paragraph

00:13:44.265 --> 00:13:48.078
Ferguson haberi algoritma dostu değildi.

00:13:48.102 --> 00:13:49.273
"Beğenilebilir" değildi.

00:13:49.297 --> 00:13:50.849
Kim "beğen"e tıklayacaktı?

00:13:51.500 --> 00:13:53.706
Yorum yapılması bile kolay değildi.

00:13:53.730 --> 00:13:55.211
Beğeniler ve yorumlar olmayınca

00:13:55.221 --> 00:13:58.417
algoritma bunu daha az insana
gösteriyor olmalıydı,

00:13:58.441 --> 00:13:59.983
dolayısıyla görmüyorduk.

00:14:00.946 --> 00:14:02.174
Onun yerine, o hafta

00:14:02.198 --> 00:14:04.496
Facebook'un algoritması 
şunu ön plana çıkardı:

00:14:04.520 --> 00:14:06.746
ALS Buz Kovası Düellosu.

00:14:06.770 --> 00:14:10.512
İyi bir sebep; buzlu su dök,
bağış yap, tamam.

00:14:10.536 --> 00:14:12.440
Fakat süper algoritma dostuydu.

00:14:13.219 --> 00:14:15.832
Makine bu kararı bizim için almıştı.

00:14:15.856 --> 00:14:19.353
Facebook tek kanal olsaydı
çok önemli ancak

00:14:19.377 --> 00:14:20.932
etkili bir sohbet

00:14:20.956 --> 00:14:23.652
engellenmiş olabilirdi.

NOTE Paragraph

00:14:24.117 --> 00:14:27.914
Şimdi sonuç olarak bu sistemler
insan sistemlerine

00:14:27.938 --> 00:14:30.674
benzememesi bakımından da
yanlış olabilir.

00:14:30.698 --> 00:14:33.620
Watson'ı hatırlıyor musunuz?
IBM'in Riziko'da

00:14:33.644 --> 00:14:36.772
insan rakiplerini yenilgiye uğratan 
makine zekâsı sistemini?

00:14:37.131 --> 00:14:38.559
Harika bir oyuncuydu.

00:14:38.583 --> 00:14:42.152
Ancak o zaman, Riziko'nun finalinde
Watson'a şu soru soruldu:

00:14:42.659 --> 00:14:45.761
"En büyük havaalanı adını İkinci
Dünya Savaşı kahramanından alır,

00:14:45.761 --> 00:14:47.707
ikincisi İkinci Dünya Savaşı savaşından.

NOTE Paragraph

00:14:47.887 --> 00:14:49.269
(Final Riziko müziği çalar)

NOTE Paragraph

00:14:49.582 --> 00:14:50.764
Chicago.

00:14:50.788 --> 00:14:52.218
İki insan soruyu doğru anladı.

00:14:52.697 --> 00:14:57.045
Buna karşın Watson,
Birleşik Devletler şehri olarak

00:14:57.069 --> 00:14:58.887
"Toronto" cevabını verdi.

00:14:59.596 --> 00:15:02.497
Bu etkileyici sistem

00:15:02.521 --> 00:15:06.172
bir insanın, ikinci sınıfa giden birinin
asla yapmayacağı bir hata yapmıştı.

NOTE Paragraph

00:15:06.823 --> 00:15:09.932
Makine zekâmız

00:15:09.956 --> 00:15:13.056
insanların hata şekline
uymayan şekilde,

00:15:13.080 --> 00:15:16.030
beklemediğimiz ve hazırlıksız olduğumuz
şekilde hata yapabilir.

00:15:16.054 --> 00:15:19.692
Kalifiye biri için işe alınmamak
kötü olabilirdi,

00:15:19.716 --> 00:15:23.443
fakat bu, bazı alt programlarda 
bellek dolu dediği için oluyorsa

00:15:23.467 --> 00:15:24.899
üç kat daha kötü olurdu.

NOTE Paragraph

00:15:24.923 --> 00:15:26.502
(Gülüşmeler)

NOTE Paragraph

00:15:26.526 --> 00:15:29.312
Mayıs 2010'da

00:15:29.336 --> 00:15:33.380
Wall Steet'te olan Wall Street'in
"satış" algoritmalarını

00:15:33.404 --> 00:15:36.432
bir geri bildirim döngüsünün
körüklediği ani bir düşüş

00:15:36.456 --> 00:15:40.640
36 dakika içinde trilyon dolarları sildi.

00:15:41.722 --> 00:15:43.909
Ölümcül otonom silahlar bağlamında

00:15:43.933 --> 00:15:47.522
"hata yapmak" ne demek bunu
düşünmek bile istemiyorum.

NOTE Paragraph

00:15:49.894 --> 00:15:53.684
Evet, insanlar her zaman 
ön yargıda bulunur.

00:15:53.708 --> 00:15:55.884
Karar vericiler ve geçit deneticiler

00:15:55.908 --> 00:15:59.401
mahkemelerde, haberlerde, savaşlarda...

00:15:59.425 --> 00:16:02.463
Hata yaparlar; işte benim 
asıl dikkat çekmek istediğim bu.

00:16:02.487 --> 00:16:06.008
Bu zor sorulardan kaçamayız.

00:16:06.596 --> 00:16:10.112
Kendi sorumluluklarımızı 
makinelere yaptıramayız.

NOTE Paragraph

00:16:10.676 --> 00:16:14.884
(Alkışlar)

NOTE Paragraph

00:16:17.089 --> 00:16:21.536
Yapay zekâ bize "etikten kurtul geç"
kartı vermiyor.

NOTE Paragraph

00:16:22.742 --> 00:16:26.123
Veri uzmanı Fred Benenson 
buna matematiksel yıkama diyor.

00:16:26.147 --> 00:16:27.536
Tam tersine ihtiyacımız var.

00:16:27.560 --> 00:16:32.948
Algoritmayı şüphe, gözlem ve 
inceleme ile desteklemeliyiz.

00:16:33.380 --> 00:16:36.578
Algoritmik izlenebilirlik, denetim ve

00:16:36.602 --> 00:16:39.047
anlamlı şeffaflığımız olduğundan
emin olmamız gerek.

00:16:39.380 --> 00:16:42.614
Matematik ve programlamayı 
karmaşık, değer yüklü

00:16:42.638 --> 00:16:45.608
insani ilişkilere uygulamanın

00:16:45.632 --> 00:16:48.016
nesnellik getirmeyeceğini 
kabul etmemiz gerekiyor;

00:16:48.040 --> 00:16:51.673
aksine, insan ilişkilerinin karmaşıklığı
algoritmaları ele geçiriyor.

00:16:52.148 --> 00:16:55.635
Tabii ki daha iyi kararlar almamız için
bilgisayar kullanabiliriz,

00:16:55.659 --> 00:16:57.673
kullanmalıyız da.

00:16:57.697 --> 00:17:03.029
Ancak doğru karar vermek için, 
ahlaki sorumluluk alıp

00:17:03.053 --> 00:17:05.871
algoritmaları bu çerçevede 
kullanmak zorundayız,

00:17:05.895 --> 00:17:10.830
insan olarak birbirimize karşı olan
sorumluluklarımızı üstümüzden atıp

00:17:10.854 --> 00:17:13.528
dış kaynaktan temin etmenin 
bir yolu gibi görmemeliyiz.

NOTE Paragraph

00:17:13.807 --> 00:17:16.416
Makine zekâsı işte böyledir.

00:17:16.440 --> 00:17:19.861
Bu demektir ki, insani değerlere ve etiğe

00:17:19.885 --> 00:17:22.032
hiç olmadığı kadar
sıkı sarılmamız gerekiyor.

NOTE Paragraph

00:17:22.056 --> 00:17:23.210
Teşekkür ederim.

NOTE Paragraph

00:17:23.234 --> 00:17:28.254
(Alkışlar)