WEBVTT

00:00:00.975 --> 00:00:02.571
Algoritmalar her yerde.

00:00:04.111 --> 00:00:07.236
Kazananları kaybedenlerden ayırıyor.

00:00:08.019 --> 00:00:10.283
Kazananlar ya işi alıyor

00:00:10.307 --> 00:00:12.050
ya da iyi bir kredi kartı teklifi.

00:00:12.074 --> 00:00:14.700
Kaybedenler iş görüşmesine bile çağrılmaz

00:00:15.610 --> 00:00:18.107
veya sigorta primi için
daha fazla ödeme yaparlar.

00:00:18.227 --> 00:00:21.746
Doğrulama sistemi olmayan,
anlamadığımız

00:00:22.675 --> 00:00:25.892
gizli formülasyonlar ile puanlanıyoruz.

00:00:26.730 --> 00:00:28.536
Burada şu soru akla geliyor:

00:00:28.560 --> 00:00:31.473
Peki ya algoritmalar hatalıysa?

NOTE Paragraph

00:00:33.100 --> 00:00:35.140
Algoritma oluşturmak için 2 şey gerekli:

00:00:35.164 --> 00:00:37.145
Geçmişte ne olduğunu gösteren veri,

00:00:37.169 --> 00:00:38.730
o her zaman aradığınız

00:00:38.754 --> 00:00:41.211
ve bulmayı umduğunuz başarı tanımına.

00:00:41.235 --> 00:00:46.272
Sonuca ulaşmak için 
algoritma çalıştırırsınız.

00:00:46.296 --> 00:00:49.715
Algoritma başarı ile nelerin
bağlantılı olduğunu keşfeder.



00:00:49.739 --> 00:00:52.202
Hangi durum başarıya ulaştırır?

NOTE Paragraph

00:00:52.881 --> 00:00:54.643
Aslında herkes algoritma kullanır.

00:00:54.667 --> 00:00:57.385
Sadece yazılı olarak formüle etmezler.

00:00:57.409 --> 00:00:58.757
Size bir örnek vereyim.

00:00:58.781 --> 00:01:02.097
Aileme yemek yapmak için
her gün algoritma kullanırım.

00:01:02.121 --> 00:01:03.597
Kullandığım veri

00:01:04.394 --> 00:01:06.053
mutfağımdaki malzemeler,

00:01:06.077 --> 00:01:07.604
zaman,

00:01:07.628 --> 00:01:08.861
tutkudur

00:01:08.885 --> 00:01:10.594
ve bu verileri düzene koyarım.

00:01:10.618 --> 00:01:14.869
Bu arada, Japon erişte paketlerini
yemekten saymıyorum.

NOTE Paragraph

00:01:14.893 --> 00:01:16.762
(Kahkahalar)

NOTE Paragraph

00:01:16.786 --> 00:01:18.631
Başarı tanımım şudur:

00:01:18.655 --> 00:01:21.314
Çocuklarım sebzeleri yerse
yemeğim başarılıdır.

00:01:22.181 --> 00:01:25.035
En küçük oğluma sorulsaydı
bu tanım farklı olurdu.

00:01:25.059 --> 00:01:27.847
Onun başarı tanımı 
çok miktarda Nutella yemek.

00:01:29.179 --> 00:01:31.405
Ama başarıya ben ulaşmalıyım.

00:01:31.429 --> 00:01:34.076
Bu iş benim sorumluluğumda.
Görüşüm önemli.

00:01:34.166 --> 00:01:36.835
Bu, algoritmaların ilk kuralı.

NOTE Paragraph

00:01:36.835 --> 00:01:40.015
Algoritmalar, 
kodların içine gömülmüş fikirlerdir.

00:01:41.562 --> 00:01:45.225
İnsanların algoritmalar hakkındaki
görüşlerinden farklı bir şey bu.

00:01:45.249 --> 00:01:49.753
İnsanlar algoritmaların tarafsız, 
doğru ve bilimsel olduğunu düşünür.

00:01:50.387 --> 00:01:52.086
Bu bir pazarlama hilesi.

00:01:53.269 --> 00:01:55.394
Algoritmalara güvenmeniz

00:01:55.418 --> 00:01:58.572
ve onlardan korkmanız için

00:01:58.596 --> 00:02:02.257
bir pazarlama hilesidir 
çünkü matematikten de korkarsınız

00:02:02.281 --> 00:02:04.299
ama sayılara güvenirsiniz.

00:02:05.567 --> 00:02:10.397
Büyük veriye körü körüne inanırsak
çok şey yanlış gidebilir.

NOTE Paragraph

00:02:11.684 --> 00:02:15.057
Bu Kiri Soares.
Brooklyn'de okul müdürü.

00:02:15.081 --> 00:02:17.667
2011'de öğretmenlerin 
'katma değer modeli' adında

00:02:17.691 --> 00:02:20.418
gizli, karışık bir algoritma ile

00:02:20.442 --> 00:02:21.931
puanlandıklarını söyledi.

00:02:22.505 --> 00:02:25.597
"Formülasyonu bana göster,
sana içeriğini açıklayayım" dedim.

00:02:26.656 --> 00:02:29.327
Cevap verdi: 
"Doğrusu formülasyonu almaya çalıştım

00:02:29.351 --> 00:02:31.833
fakat eğitim birimi bana
bunun matematiksel olduğunu

00:02:31.867 --> 00:02:33.723
ve içeriğini anlamayacağımı söyledi".

NOTE Paragraph

00:02:35.266 --> 00:02:36.604
Daha kötüye gidiyor.

00:02:36.628 --> 00:02:40.158
The New York Post, 
"Bilgiye Özgürlük Hareketi" kapsamındaki

00:02:40.182 --> 00:02:43.141
talebi sonucu öğretmenlerin 
isim ve puanlarını temin edip

00:02:43.165 --> 00:02:45.947
adeta öğretmen ayıplama
eylemi olarak sonuçları yayımladı.

00:02:47.084 --> 00:02:50.944
Aynı yollarla formül ve kaynak kodunu
almaya çalıştığımda

00:02:50.968 --> 00:02:53.557
bunu alamayacağım söylendi.
Talebim reddedildi.

00:02:54.061 --> 00:02:55.575
Sonra New York'ta hiç kimsenin

00:02:55.599 --> 00:02:58.465
bu formüle erişimi olmadığını öğrendim.

00:02:58.489 --> 00:03:00.224
Kimse içeriğini bilmiyor, anlamıyor.

00:03:01.929 --> 00:03:05.153
Sonra Gary Rubinstein adında 
zeki biri olaya dâhil oldu.

00:03:05.177 --> 00:03:08.798
Rubinstein, New York Post verisindeki
665 öğretmenin aslında iki tane

00:03:08.822 --> 00:03:10.688
yani mükerrer puanı olduğunu keşfetti.

00:03:10.712 --> 00:03:13.043
Bu ancak, öğretmenler 
7 ve 8'inci sınıflara

00:03:13.043 --> 00:03:15.056
ders veriyor olsaydı oluşabilirdi.

00:03:15.080 --> 00:03:16.948
Rubinstein, sonuçların grafiğini çizdi.

00:03:16.948 --> 00:03:18.805
Her nokta bir öğretmeni temsil ediyor.

NOTE Paragraph

00:03:19.104 --> 00:03:21.483
(Kahkahalar)

NOTE Paragraph

00:03:21.507 --> 00:03:23.028
Nedir bu?

NOTE Paragraph

00:03:23.052 --> 00:03:24.329
(Kahkahalar)

NOTE Paragraph

00:03:24.353 --> 00:03:27.799
Bu asla kişileri değerlendirmek için
kullanılmamalıydı.

00:03:27.823 --> 00:03:29.749
Tıpkı rasgele bir sayı üreticisi gibi.

NOTE Paragraph

00:03:29.773 --> 00:03:32.719
(Alkışlar)

NOTE Paragraph

00:03:32.743 --> 00:03:33.905
Ama kullanıldı.

00:03:33.929 --> 00:03:35.105
Bu Sarah Wysocki.

00:03:35.129 --> 00:03:37.304
Diğer 205 öğretmen ile birlikte

00:03:37.328 --> 00:03:39.990
Washington'ta görevine son verildi.

00:03:40.014 --> 00:03:42.923
Oysa okul müdürü ve veliler

00:03:42.947 --> 00:03:44.375
kendisinden çok memnundu.

NOTE Paragraph

00:03:45.034 --> 00:03:47.106
Burada başta yapay zeka uzmanları

00:03:47.106 --> 00:03:49.933
ve veri bilimciler olmak üzere
ne düşündüğünüzü biliyorum.

00:03:49.957 --> 00:03:54.183
Muhtemelen "Böyle tutarsız bir
algoritma oluşturmazdım" diyorsunuz.

00:03:54.673 --> 00:03:56.536
Oysa algoritmalar hatalı kurulabilir

00:03:56.560 --> 00:04:01.158
ve kötü niyetle oluşturulmasalar da
yıkıcı sonuçları olabilir.

00:04:02.531 --> 00:04:04.910
Kötü tasarlanmış bir uçak

00:04:04.934 --> 00:04:06.935
kaza yapar ve herkes hatayı görür,

00:04:06.959 --> 00:04:08.809
oysa algoritma kötü tasarlandığında

00:04:10.245 --> 00:04:14.110
zarar vermeye sessizce,
uzun süre devam edebilir.

NOTE Paragraph

00:04:15.748 --> 00:04:17.318
Bu Roger Ailes.

NOTE Paragraph

00:04:17.342 --> 00:04:19.342
(Kahkahalar)

NOTE Paragraph

00:04:20.524 --> 00:04:22.912
Fox News kanalını 1996'da kurdu.

00:04:23.126 --> 00:04:26.017
Kanalda 20'den fazla kadın 
taciz iddiasıyla şikayetçi oldu.

00:04:26.041 --> 00:04:29.276
Haber kanalında başarıya ulaşmalarının
engellendiğini söylediler.

00:04:29.300 --> 00:04:31.820
Görevi geçen sene sonlandırıldı

00:04:31.844 --> 00:04:34.514
ama problemlerin devam ettiğini öğrendik.

00:04:35.654 --> 00:04:37.054
Bu, şu soruyu akla getiriyor:

00:04:37.078 --> 00:04:39.962
Fox News, temiz bir sayfa açmak
için ne yapmalı?

NOTE Paragraph

00:04:40.475 --> 00:04:43.806
İşe alım süreçlerini 
makine öğrenmesine dayalı

00:04:43.950 --> 00:04:45.964
bir algoritma ile değiştirseler ne olur?

00:04:45.988 --> 00:04:47.583
Kulağa iyi geliyor, değil mi?

00:04:47.607 --> 00:04:48.907
Bir düşünün.

00:04:48.931 --> 00:04:51.036
Veri ne olurdu?

00:04:51.060 --> 00:04:56.007
Son 21 yılda kanala yapılan
iş başvuruları veri seçimi için

00:04:56.031 --> 00:04:57.533
mantıklı olur.

00:04:57.557 --> 00:04:59.695
Peki ya buradaki 'başarının tanımı' nedir?

00:04:59.771 --> 00:05:01.245
Makul bir karar şöyle olurdu;

00:05:01.269 --> 00:05:03.047
Fox News'da kim başarılı?

00:05:03.071 --> 00:05:06.651
Diyelim ki 4 sene orada kalmış,

00:05:06.675 --> 00:05:08.329
en az 1 kez terfi almış kişiler.

00:05:08.816 --> 00:05:10.377
Kulağa mantıklı geliyor.

00:05:10.401 --> 00:05:12.755
Sonra algoritma oluşturulurdu.

00:05:12.779 --> 00:05:16.656
Kimlerin başarıya ulaştığını öğrenmek,

00:05:17.219 --> 00:05:21.537
geçmişte ne tür başvuruların
başarıya ulaştığını görmek için

00:05:21.561 --> 00:05:23.025
algoritma oluşturulurdu.

00:05:23.460 --> 00:05:25.485
Mevcut iş başvurularının bulunduğu havuza

00:05:25.649 --> 00:05:28.554
bu yöntem uygulansa ne olabilirdi,
düşünün.

00:05:29.119 --> 00:05:31.208
Geçmişte başarılı olanlar gibi görünmeyen

00:05:31.663 --> 00:05:35.593
kadınları filtreleyebilirdi.

NOTE Paragraph

00:05:39.752 --> 00:05:42.289
Eğer sadece umarsızca

00:05:42.313 --> 00:05:44.201
kör bir şekilde kullanırsanız

00:05:44.201 --> 00:05:46.513
algoritmalar
süreçleri daha adil hale getirmez.

00:05:46.537 --> 00:05:48.665
Geçmişteki uygulamalarımızı,

00:05:48.689 --> 00:05:50.202
kalıplarımızı tekrarlar durur.

00:05:50.266 --> 00:05:51.835
Otomatikmen kalıcı hale gelir.

00:05:52.718 --> 00:05:55.107
Mükemmel bir dünyada yaşasaydık
bu iyi olurdu

00:05:55.905 --> 00:05:57.217
fakat dünya mükemmel değil.

00:05:57.241 --> 00:06:01.343
Şunu da söyleyeyim, pek çok şirketin
yüz kızartıcı davası yoktur

00:06:02.446 --> 00:06:05.034
fakat veriyi takip etmeleri

00:06:05.058 --> 00:06:07.247
ve veriye odaklanmaları söylenen

00:06:07.271 --> 00:06:09.414
veri bilimcileri vardır.

00:06:09.993 --> 00:06:11.654
Bunun ne anlama geldiğini düşünün.

00:06:11.678 --> 00:06:15.705
Çünkü hepimizin ön yargıları var,
ki bu cinsiyetçiliği veya başka bir

00:06:15.729 --> 00:06:17.995
ayrımcılığın kodlanabileceği
anlamına gelebilir.

NOTE Paragraph

00:06:19.488 --> 00:06:20.909
Düşünce deneyi yapalım

00:06:20.933 --> 00:06:22.442
çünkü bunu seviyorum:

00:06:23.574 --> 00:06:26.549
Tüm şehirler ve mahallelerinin
ırk bakımından

00:06:28.247 --> 00:06:31.575
ötekileştirildiği bir toplumda

00:06:31.599 --> 00:06:34.636
polisler suç aramak için

00:06:34.660 --> 00:06:36.523
sadece azınlık mahallelerine gidiyor.

00:06:36.523 --> 00:06:38.670
Yakalamalar epey taraflı olurdu.

00:06:39.261 --> 00:06:42.426
Bu sürecin yönetiminde
gelecek suçların nerede olacağını öngören

00:06:42.450 --> 00:06:46.611
ve maaş ödenen 
veri bilimcileri olsa ne olurdu?

00:06:47.275 --> 00:06:48.762
Azınlık mahalleleri.

00:06:49.285 --> 00:06:52.410
Veya bir sonraki suçlunun kim
olacağını öngörmek için?

00:06:52.888 --> 00:06:54.283
Bir azınlık.

00:06:55.949 --> 00:06:58.870
Veri bilimcileri, modellerinin ne kadar

00:06:58.894 --> 00:07:00.811
iyi ve uygulanabilir olduğu konusunda

00:07:00.835 --> 00:07:02.814
övünürlerdi
ve haklı olurlardı da.

NOTE Paragraph

00:07:03.951 --> 00:07:08.280
Şu an gerçeklik bu kadar keskin değil,
ama pek çok bölgede

00:07:08.280 --> 00:07:09.877
taraflı davranıldığını gösteren


00:07:09.901 --> 00:07:11.794
polis ve hukuk sistemi verisi

00:07:11.818 --> 00:07:14.506
ayrımcılık yapıldığını gösteriyor.

00:07:15.632 --> 00:07:18.447
Aslına bakılırsa suçların meydana geleceği

00:07:18.471 --> 00:07:20.001
sıcak bölgeleri öngörüyoruz.

00:07:20.401 --> 00:07:24.267
Hatta bireysel suçluluk konusunda da

00:07:24.291 --> 00:07:26.061
öngörü yapıyoruz.

00:07:26.972 --> 00:07:30.115
ProPublica isimli organizasyon

00:07:30.169 --> 00:07:32.467
Florida'da hakimlerce kullanılan,

00:07:32.467 --> 00:07:34.380
'suçun tekrarlama riski' adı verilen

00:07:34.380 --> 00:07:36.908
algoritmaya baktılar.

00:07:38.411 --> 00:07:41.996
Algoritmada Bernard, soldaki siyah kişi,
10 üzerinden 10 puan aldı.

00:07:42.879 --> 00:07:45.186
Dylan, sağdaki kişi, 
10 üzerinden 3 puan.

00:07:45.210 --> 00:07:47.961
10 üzerinden 10 yüksek risk.
10 üzerinden 3 düşük risk.

00:07:47.978 --> 00:07:50.677
Her ikisi de uyuşturucu bulundurmaktan
göz altına alındı.

00:07:50.677 --> 00:07:52.301
Her ikisinin de sabıka kaydı var.

00:07:52.301 --> 00:07:54.991
Ama Dylan'ın ağır suçu varken

00:07:55.015 --> 00:07:56.191
Bernard'ın yoktu.

00:07:57.818 --> 00:08:00.884
Bu önemli çünkü puan yükseldikçe

00:08:00.908 --> 00:08:04.381
uzun süreli ceza alma ihtimali artıyor.

NOTE Paragraph

00:08:06.294 --> 00:08:07.588
Neler oluyor?

00:08:08.526 --> 00:08:09.858
Veri manipülasyonu.

00:08:10.930 --> 00:08:15.251
Bu, teknoloji uzmanlarının çirkin
gerçekleri kara kutulu algoritmalarla

00:08:15.251 --> 00:08:17.202
gizledikleri bir süreç.

00:08:17.226 --> 00:08:18.516
Bunun objektif

00:08:19.320 --> 00:08:20.888
ve ideal olduğunu söylüyorlar.

00:08:23.118 --> 00:08:25.503
Gizli, önemli ve yıkıcı sonuçları olan

00:08:25.527 --> 00:08:28.014
algoritmalar için bir deyim türettim:

00:08:28.038 --> 00:08:30.037
"Matematiksel yıkım silahları"

NOTE Paragraph

00:08:30.061 --> 00:08:31.625
(Kahkahalar)

NOTE Paragraph

00:08:31.649 --> 00:08:34.223
(Alkışlar)

NOTE Paragraph

00:08:34.267 --> 00:08:37.561
Bunlar her yerdeler
ve her yerde olmaları hata sonucu değil.

00:08:37.695 --> 00:08:41.418
Bunlar özel amaç için
özel algoritmalar üreten

00:08:41.442 --> 00:08:42.834
özel şirketler.

00:08:43.214 --> 00:08:46.428
Öğretmenler ve polisler ile ilgili
söylediklerim bile

00:08:46.452 --> 00:08:48.321
özel şirketler tarafından üretilip

00:08:48.345 --> 00:08:50.576
kamu kurumlarına satıldı.

00:08:50.600 --> 00:08:52.473
Buna onların "özel tarifi" diyorlar

00:08:52.497 --> 00:08:54.705
ve bu yüzden içeriği ile
ilgili konuşmuyorlar.

00:08:54.725 --> 00:08:56.869
Bu bir tür özel güç.

00:08:57.924 --> 00:09:02.619
Kamu otoritesini kullanarak kar ediyorlar.

00:09:05.114 --> 00:09:07.268
Tüm bunların özel sektörde olduğu

00:09:07.302 --> 00:09:09.640
ve sektörde rekabet olduğu için
serbest piyasanın

00:09:09.640 --> 00:09:11.500
bu sorunu çözeceğini düşünüyorsanız

00:09:11.610 --> 00:09:12.833
sorunu çözmeyecek.

00:09:12.857 --> 00:09:15.977
Adaletsizlik ile elde edilen
önemli miktarda para var.

NOTE Paragraph

00:09:17.127 --> 00:09:20.496
Ayrıca ekonomik olarak 
rasyonel karar alıcılar değiliz.

00:09:20.921 --> 00:09:22.843
Farkında olmadığımız
ön yargılarımız var.

00:09:22.960 --> 00:09:26.337
Farkında olmasak 
ve öyle olmayı dilemesek bile

00:09:26.361 --> 00:09:28.380
kafa tasçı ve dar kafalıyız.

00:09:29.352 --> 00:09:32.433
Bunun böyle olduğunuz biliyoruz,

00:09:32.457 --> 00:09:35.677
çünkü sosyologlar yaptıkları deneyler ile

00:09:35.701 --> 00:09:37.366
öyle olduğumuzu gösterdiler.

00:09:37.390 --> 00:09:39.958
Deneyde aynı yeteneklere sahip insanların

00:09:39.982 --> 00:09:42.483
çok sayıda iş başvurusu vardı.
Kimi başvurular siyah,

00:09:42.517 --> 00:09:45.243
kimi başvurular beyaz insanı
andıran isimlerle yapıldı.

00:09:45.243 --> 00:09:47.131
Sonuç her zaman hayal kırıklığıydı.

NOTE Paragraph

00:09:47.280 --> 00:09:49.281
Bizler farkında olmasak da taraflıyız

00:09:49.305 --> 00:09:52.734
ve taraflılığımızı, 
seçtiğimiz veriler ile

00:09:52.758 --> 00:09:54.570
algoritmalara dahil ediyoruz.

00:09:54.594 --> 00:09:57.337
Mesela ben erişteleri es geçtim.

00:09:57.361 --> 00:09:58.986
Onların yemek olmadığını düşündüm.

00:09:59.010 --> 00:10:03.668
Ancak geçmiş deneyimleri

00:10:03.668 --> 00:10:06.732
ve başarı tanımlarını 
baz alarak seçtiğimiz veriye

00:10:06.756 --> 00:10:10.739
nasıl güvenebiliriz ve algoritmaların
sağlıklı olacağını nasıl bekleyebiliriz?

00:10:10.763 --> 00:10:13.459
Bunu yapamayız. 
Algoritmaları test etmemiz gerekir.

00:10:13.545 --> 00:10:15.874
Algoritmaların doğruluklarını
test etmeliyiz.

NOTE Paragraph

00:10:15.898 --> 00:10:18.609
İyi haber şu ki bunu yapabiliriz.

00:10:18.633 --> 00:10:21.985
Algoritmalar kontrol edilebilir

00:10:22.009 --> 00:10:24.043
ve kontroller bize gerçeği söyleyebilir.

00:10:24.067 --> 00:10:26.560
Algoritmaların hatalarını giderebiliriz.

00:10:26.584 --> 00:10:28.959
Ben buna, 'algoritma denetimi'
adını veriyorum

00:10:28.983 --> 00:10:30.662
ve size bundan bahsedeyim.

NOTE Paragraph

00:10:30.686 --> 00:10:32.882
Öncelikle verinin doğruluğu testi.

00:10:34.132 --> 00:10:36.789
Bahsettiğim suçun tekrarlama
riski algoritmasında

00:10:37.582 --> 00:10:39.699
verinin doğruluğu testi şu anlama gelir:

00:10:39.699 --> 00:10:44.705
Amerika'da beyaz ve siyahlar arasında
esrar tüketimi aynı ölçüde yaygın,

00:10:44.729 --> 00:10:47.214
oysa siyahların tutuklanma ihtimalleri

00:10:47.238 --> 00:10:50.422
bölgeye bağlı olarak 
dört veya beş kat fazla.

00:10:51.317 --> 00:10:54.143
Diğer suçlarda 
bu tür bir taraflılık nasıldır

00:10:54.167 --> 00:10:55.618
ve bunu nasıl inceleriz?

NOTE Paragraph

00:10:56.162 --> 00:10:59.201
İkincisi başarının tanımı hakkında düşünüp

00:10:59.225 --> 00:11:00.606
onu gözden geçirmeliyiz.

00:11:00.630 --> 00:11:03.382
İşe alım algoritmasından
bahsetmiştim, hatırlayın.

00:11:03.406 --> 00:11:06.571
Şirkette 4 yıl kalıp 
en az bir kez terfi alan kişi.

00:11:06.595 --> 00:11:08.364
Kendisini başarılı tanımlamıştık

00:11:08.388 --> 00:11:11.467
ama kendisi ayrıca kültürlerince
desteklenen bir kişi.

00:11:12.089 --> 00:11:14.015
Bu da aslında bir taraflılık olabilir.

00:11:14.039 --> 00:11:16.104
Bu iki şeyi ayırmamız gerekiyor.

00:11:16.128 --> 00:11:18.224
Mesela orkestralara yönelik 'kör seçim'

00:11:18.228 --> 00:11:19.774
adı verilen seçimlere bakalım.

00:11:19.798 --> 00:11:22.464
Bu uygulamada ses sınavında olan kişiler

00:11:22.646 --> 00:11:24.877
perdenin arkasında
bulunduğundan görünmüyor.

00:11:24.901 --> 00:11:28.318
Sadece dinlediği konusunda

00:11:28.342 --> 00:11:30.371
bir sonuca ulaşan insanları düşünün.

00:11:30.395 --> 00:11:32.454
Herhangi bir şeyden dikkatleri dağılmıyor.

00:11:32.771 --> 00:11:35.710
Orkestra için 'kör seçim' 
başladığından beri

00:11:35.734 --> 00:11:39.178
orkestralardaki kadın sayısı 5 kat arttı.

NOTE Paragraph

00:11:39.643 --> 00:11:42.658
Sonra kesinliği göz önünde
bulundurmalıyız.

00:11:42.953 --> 00:11:46.967
Bu öğretmenlere için katma değer modelinin
anında başarısız olacağı aşama olurdu.

00:11:47.578 --> 00:11:49.740
Elbette hiçbir algoritma mükemmel değil,

00:11:50.620 --> 00:11:54.225
bu yüzden her algoritmanın
hatalarını dikkate almalıyız.

00:11:54.836 --> 00:11:59.195
Bu hatalar ne sıklıkla oluşuyor,
hangileri modeli başarısız kılıyor?

00:11:59.850 --> 00:12:01.568
Başarısızlığın maliyeti ne?

NOTE Paragraph

00:12:02.434 --> 00:12:04.641
Son aşamada

00:12:05.973 --> 00:12:08.159
algoritmaların uzun dönemli etkilerini,

00:12:08.166 --> 00:12:10.626
geri besleme döngülerini
göz önünde bulundurmalıyız.

00:12:10.626 --> 00:12:12.822
Kulağa soyut geliyor
ama Facebook yazılımcıları

00:12:12.846 --> 00:12:16.220
sadece arkadaşlarımızın paylaşımını
görmemize karar vermeden önce

00:12:16.270 --> 00:12:21.125
bunun üzerinde düşünseydi
nasıl olurdu, hayal edin.

NOTE Paragraph

00:12:21.501 --> 00:12:24.995
İki mesajım var. 
Birincisi veri bilimciler için:

00:12:25.450 --> 00:12:28.859
Bizler neyin doğru olduğuna
karar verenler olmamalıyız.

00:12:29.520 --> 00:12:33.303
Bizler toplumlarda meydana gelen 
etik tartışmaların

00:12:33.327 --> 00:12:34.621
tercümanları olmalıyız.

NOTE Paragraph

00:12:35.579 --> 00:12:37.712
(Alkışlar)

NOTE Paragraph

00:12:37.736 --> 00:12:39.292
Ve geri kalanlar,

00:12:40.011 --> 00:12:41.407
veri bilimci olmayanlar:

00:12:41.431 --> 00:12:43.349
Bu herhangi bir matematik testi değil.

00:12:43.632 --> 00:12:44.980
Bu bir politik mücadele.

00:12:46.587 --> 00:12:50.494
Bizler algoritma amirlerinden
sorumluluk talep etmeliyiz.

NOTE Paragraph

00:12:52.118 --> 00:12:53.617
(Alkışlar)

NOTE Paragraph

00:12:53.641 --> 00:12:57.866
Büyük verideki kör inanç dönemi bitmeli.

NOTE Paragraph

00:12:57.890 --> 00:12:59.057
Teşekkür ederim.

NOTE Paragraph

00:12:59.081 --> 00:13:04.384
(Alkışlar)