Merhaba ben kodlar şairi Joy
görünmez bir gücün yükselişini durdurma görevindeyim,
algoritmik yanlılık için kullandığım
"kodlu bakış" adını verdiğim bir güç.
Algoritmik yanlılık, insan yanlılığı gibi, adaletsizlikle sonuçlanır.
Ama algoritmalar virüsler gibi büyük çapta
ve hızda yanlılığı yayabilirler.
Algoritmik yanlılık dışlayıcı deneyimlere
ve ayrımcı uygulamalara yol açabilir.
Ne demek istediğimi göstereyim.
(Video) Joy Boulamwini: Selam kamera. Bir yüzüm var.
Yüzümü görebiliyor musunuz?
Gözlüksüz yüzüm?
Onun yüzünü görebilirsin.
Ya benimkini?
Maskem var. Maskemi görebiliyor musun?
Joy Boulamwini: Bu nasıl oldu?
Neden bilgisayarın önünde bir beyaz maske
ile oturuyor ve ucuz bir kamera
tarafından algılanmaya çalışıyorum?
Kod şairi olarak kodlu bakış ile
savaşmadığımda
MIT Medya Lab'ında lisanüstü öğrencisiyim
ve her tür garip projede çalışma şansım var.
Buna yaptığım Aspire Mirror da dâhil.
Sayesinde yansımamın üzerine dijital maskeler tasarlayabilirim.
Sabah eğer güçlü hissetmek istersem,
bir aslanı takabilirim.
Sevinçli olmak istiyorsam, bir alıntı yapabilirim.
Sistemi oluşturmak için genel yüz tanıma
yazılımını kullandım.
Ama beyaz bir maske takmadıkça sistemi test etmek gerçekten zordu.
Maalesef bu sorunla daha önce karşılaştım.
Georgia Tech de bilgisayar bilimleri okurken,
sosyal robotlar üzerinde çalıştım
ve görevlerimden biri ce-ee oynayan bir robot yapmaktı.
Partnerlerinizin yüzlerini kapayıp
sonra açıp ce-ee dedikleri bir oyun.
Problem şu ki sizi göremezsem ce-ee işe yaramaz
ve robotum beni göremiyordu.
Projeyi tamamlamak için arkadaşımın yüzünü ödünç aldım,
ödevimi sundum ve bu sorunu
başkasının çözeceğini varsaydım.
Daha sonra Hong Kong'da
bir girişimcilik yarışmasına katıldım.
Organizatörler yarışmacıların başlangıç
turuna katılmasına karar verdi.
Yarışmacılardan birinin sosyal robotu vardı
ve demo yapmaya karar verdi.
Demo bana gelene kadar işe yaradı
ve ne olduğunu tahmin edebilirsiniz.
Robot yüzümü algılayamadı.
Geliştiricisine ne olduğunu sordum
ve fark ettik ki aynı genel yüz tanıma yazılımını kullanıyormuşuz.
Dünyanın öbür ucunda
algoritmik yanlılığın internetten dosya indirmek kadar
hızlı yolculuk yaptığını öğrendim.
Yani ne oluyor? Neden beni algılamıyor?
Makinelere nasıl görme yetisi verdiğimize göz atmalıyız.
Bilgisayar görüşü yüzü tanımlamak için
makine öğrenme tekniklerini kullanır.
Bunun çalışma şekli sizin yüz örnekleriyle eğitim seti oluşturmanızdır.
Bu bir yüz. Bu bir yüz. Bu bir yüz değil.
Zamanla bilgisayara diğer yüzleri nasıl tanımlayacağını öğretirsiniz.
Fakat eğitim seti kapsamlı değilse
sabit normdan çok fazla sapan bir yüzü
tanımlamak zor olacaktır.
Bana olduğu gibi.
Ama merak etmeyin - iyi haberlerim var.
Eğitim setleri bir anda ortaya çıkmaz.
Aslında biz onları yaratabiliriz.
Yani insanlığın daha zengin portresini
çıkaran tam spektrumlu eğitim seti oluşturabiliriz.
Şimdi örneklerimde sosyal robotlar
sayesinde algoritmik dışlanmayı
nasıl ortaya çıkardığımı gördünüz.
Ama algoritmik yanlılık ayrımcı uygulamalara da yol açabilir.
ABD çapında, polis merkezleri
suçla mücadele cephaneliklerinde
yüz tanıma yazılımını kullanmaya başladı.
Georgetown Yasası ABD'de iki yetişkinden
birinin - 117 milyon insanın- yüz tanıma
ağında yüzlerinin bulunduğunu açıkladı.
Polis merkezleri doğrulukları denetlenmemiş
algoritmalar kullanarak bu ağları izinsiz görebilir.
Biliyoruz ki yüz tanıma yanılmaz değil
ve yüzlerin tutarlı etiketlenmesi hâlâ bir sorun.
Bunu Facebook da görmüş olabilirsiniz.
Arkadaşlarımla diğer insanların yanlış
etiketlendiğini gördüğümüzde gülüyoruz.
Şüpheli bir suçluyu yanlış tanımlamak gülünç bir mesele
veya sivil özgürlükleri ihlal değil.
Makine öğrenme yüz tanımada kullanılır
ama bilgisayar görüş alanının ötesine de uzanıyor.
Veri bilimcisi Cathy O'Neil
"Matemetiksel İmha Silahları" kitabında, hayatımızın
daha çok boyutunu etkileyen kararlar
almak için kullanılan yaygın, gizemli ve yıkıcı
algoritmalarla KİS'lerden bahsediyor.
Peki işe alınan ya da kovulan kim?
O krediyi alıyor musun? Sigortan var mı?
Girmek istediğin üniversiteye kabul edildin mi?
Aynı platformda satın alınan aynı ürün için
sen ve ben aynı fiyatı mı ödüyoruz?
Güvenlik polisi öngörücü polislik için
otomatik öğrenmeyi kullanmaya başlıyor.
Bazı hakimler hapis cezasını
belirlemek için makine üretimli risk puanlarını kullanıyor.
Bu kararları gerçekten düşünmek zorundayız.
Adiller mi?
Gördük ki algoritmik yanlılık her zaman
adil sonuçlar getirmez.
Peki biz ne yapabiliriz?
Daha kapsamlı kod oluşturup kapsamlı kod uygulamalarını
nasıl kullandığımızı düşünebiliriz.
Bu, insanlarla başlar.
Yani kimin kodladığı önemlidir.
Birbirlerinin kör noktalarını görebilen farklı kişilerle tam spektrumlu
takımlar oluşturabiliyor muyuz?
Teknik olarak, nasıl kodladığımız önemli.
Sistemi geliştirirken adaletle mi oluşturuyoruz?
Son olarak niçin kodladığımız önemlidir.
Harika zenginliğin kilidini açmak için işlemsel yaratma araçlarını kullandık.
Sosyal değişimi sonraki düşünce değil,
öncelik hâline getirirsek daha geniş
eşitliği açma fırsatımız olur.
"Incoding" hareketini oluşturan gerekli üç ilke var:
Kimin kodladığı,
nasıl kodladığı
ve niçin kodladığı.
Incoding'e yönelmek için benim paylaştıklarım
gibi insanların deneyimlerini toplayarak
yanlılığı belirleyen ve var olan yazılımı
denetleyen platformlar oluşturmayı düşünmeye başlayabiliriz.
Ayrıca daha kapsamlı eğitim setleri hazırlayabiliriz.
Geliştiricilerin daha kapsamlı eğitim setleri oluşturmasına
ve deneyebilmesine yardım ettiğimiz "Kaynaşmak için Özçekimler"
kampanyasını düşünün.
Ve şu an geliştirdiğimiz teknolojinin toplumsal etkileri
konusunda daha vicdani düşünmeye başlayabiliriz.
Incoding hareketini başlatmak için
adaletle ilgilenen birinin kodlu bakışla savaşabileceği
Algoritmik Adalet Ligi'ni başlattım.
codedgaze.com'da yanlılığı bildirebilir,
denetleme isteyebilir, deneyen olabilir,
süren tartışmalara katılabilirsiniz,
#codedgaze
Sizi dâhil olmaya ve merkez sosyal değişime
değer verdiğimiz ve teknolojinin sadece bir kısım için değil,
herkes için işe yaradığı
bir dünyaya davet ediyorum.
Teşekkürler.
(Alkış)
Bir sorum var.
Bu savaşta benimle misiniz?
(Gülüşmeler)
(Alkış)