Sztuczna inteligencja podkreśla wagę ludzkiej moralności

Sztuczna inteligencja jest faktem, już z niej korzystamy, dokonując subiektywnych wyborów. Lecz skomplikowany sposób rozwoju sztucznej inteligencji sprawia, że trudno ją zrozumieć i kontrolować. W tej ostrzegawczej prelekcji techno-socjolog Zeynep Tufekci wyjaśnia, jak sztuczna inteligencja może zawieść w sposób nie przypominający ludzkich błędów, którego nie będziemy się spodziewać i na który nie będziemy przygotowani. "Nie możemy zrzucić naszej odpowiedzialności na maszyny. Musimy coraz mocniej trzymać się ludzkich wartości i etyki".

Zaczęłam pracować jako programistka
na pierwszym roku studiów,

jeszcze jako nastolatka.

Niedługo później zaczęłam pracować
dla firmy tworzącej oprogramowania.

Pewnego razu jeden z managerów
podszedł do mnie i wyszeptał:

"Czy on wie kiedy kłamię?".

Byliśmy sami w pokoju.

"Niby kto ma wiedzieć kiedy kłamiesz?

I dlaczego szepczemy?"

Manager wskazał na komputer.

"Czy on wie kiedy kłamię?"

Ten menadżer miał romans z recepcjonistką.

(Śmiech)

Byłam nastolatką,
więc odkrzyknęłam szeptem:

"Tak, komputer wie kiedy kłamiesz!".

(Śmiech)

Wtedy się z tego śmiałam,
ale teraz można śmiać się ze mnie.

Obecnie istnieją programy,
które potrafią ropoznawać

stany emocjonalne i kłamstwo
na podstawie zdjęć twarzy.

Spece od marketingu i organy rządowe
wyrażają zainteresowanie.

Zostałam programistką, bo od dziecka
uwielbiałam matematykę i naukę.

Dowiedziawszy się o broni jądrowej,
przejęłam się kwestią etyki w nauce.

Byłam w kropce.

Ze względu na sytuację rodzinną
musiałam jak najszybciej zacząć pracować.

Pomyślałam, że wybiorę dziedzinę,
w której łatwo znajdę pracę

i nie będę musiała myśleć
o zawiłych kwestiach etycznych.

Wybrałam informatykę.

(Śmiech)

Ha, ha, ha. Można się ze mnie nabijać.

Programiści tworzą platformy,
które kontrolują to,

co każdego dnia widzą miliardy ludzi.

Tworzą samochody,
mogące zdecydować, kogo przejechać.

Tworzą nawet broń mechaniczną,
która mogłaby być użyta w czasie wojny.

To są od początku do końca
kwestie etyczne.

Sztuczna inteligencja to rzeczywistość.

Korzystamy z obliczeń komputerowych
do podejmowania różnych decyzji,

również decyzji nowego rodzaju.

Próbujemy z pomocą komputerów,
uzyskać odpowiedzi na pytania,

na które nie ma jednej dobrej odpowiedzi,

które są subiektywne,
otwarte i wartościujące.

Pytamy: "Kogo powinno się zatrudnić?

Który i czyj post dana osoba
powinna zobaczyć?

Który skazaniec prawdopodobnie
popełni kolejne przestępstwo?

Jaka informacja lub film powinny być
zarekomendowane widowni?".

Używamy komputerów od lat,
ale to są kwestie innego rodzaju.

To jest historyczna zmiana,

bo nie możemy powiązać obliczeń
z tak subiektywnymi kwestiami,

w taki sam sposób gdy w grę wchodzi

latanie samolotami,
budowa mostów i wyprawy na Księżyc.

Czy samoloty są bezpieczniejsze?

Czy mosty chwieją się i walą?

Dla takich spraw mamy jasne standardy
i prawa natury, które wskazują drogę.

Nie mamy takich standardów dla decyzji
w pogmatwanych ludzkich sprawach.

Tymczasem, oprogramowanie
staje się coraz potężniejsze,

ale również coraz mniej
przejrzyste i bardziej złożone.

W ciągu ostatnich dziesięcioleci
skomplikowane algorytmy

dokonały milowego kroku do przodu.

Potrafią rozpoznawać twarze,

odczytywać odręczne pismo,

wykrywać kradzieże
na kartach kredytowych,

blokować spam, tłumaczyć teksty,

wykryć guz w obrazowaniu medycznym

i pokonać człowieka w szachy.

Większą część tego postępu
zawdzięczamy metodzie

zwanej "samouczeniem maszyn".

Samouczenie maszyn różni się
od klasycznego programowania,

w którym wydaje się komputerowi
dokładną i szczegółową instrunkcję.

Polega bardziej na wprowadzaniu
dużej ilości danych do systemu,

również danych przypadkowych,
takich jakie generujemy w sieci.

System uczy się,
przedzierając się przez te dane.

Najistotniejszy jest fakt, że te systemy

nie pracują zgodnie z logiką
jednoznacznych odpowiedzi.

Nie dają prostej odpowiedzi,
tylko określają prawdopodobieństwo:

"To jest być może bardziej podobne,
do tego czego szukasz".

Plusem jest to, że ta metoda
ma bardzo duży potencjał.

Szef systemów
sztucznej inteligencji Google

nazwał tę metodę
"nieuzasadnioną skutecznością danych".

Minusem jest to, że nie rozumiemy,
czego nauczył się system

i to właśnie stanowi jego siłę.

To nie przypomina
wydawania instrukcji komputerowi.

Przypomina raczej trenowanie
mechanicznego szczeniaczka,

którego nie rozumiemy
i nie potrafimy kontrolować.

I to jest problem.

Problem pojawia się,
gdy ta sztuczna inteligencja się myli.

Problem pojawia się
również wtedy, gdy ma rację,

ponieważ nie umiemy tego rozróżnić
w przypadku subiektywnej kwestii.

Nie mamy pojęcia,
co ten system sobie myśli.

Rozważmy algorytm odpowiedzialny
za rekrutację pracowników.

Algorytm rekrutujący oparty
na metodzie samouczenia się maszyn.

Taki system byłby oparty na danych
pracowników danej firmy

i miałby zatrudniać ludzi o takim profilu
jak obecni najwydajniejsi pracownicy.

Brzmi nieźle.

Byłam raz na konferencji,
na której obecne były także osoby

zajmujące się rekrutacją, managerowie
i dyrektorzy używający takich systemów.

Wszyscy byli zachwyceni.

Sądzili, że dzięki temu zatrudnianie
stanie się bardziej obiektywne,

mniej tendencyjne i gwarantujące kobietom
i przedstawicielom mniejszości

większe szanse zatrudnienia
wobec tendencyjnych decyzji managerów.

Ludzkie decyzje dotyczące
zatrudnienia są stronnicze.

W jednej z moich pierwszych prac,
moja bezpośrednia przełożona

czasem przychodziła do mnie
bardzo wcześnie rano

lub bardzo późnym popołudniem
i mówiła: "Chodźmy na lunch!".

Byłam zaskoczona dziwną porą,

ale byłam też spłukana,
więc zawsze się zgadzałam.

Później zorientowałam się o co chodziło.

Moi bezpośredni przełożeni
nie przyznali się swoim szefom,

że do poważnej roboty
zatrudnili programistę-nastolatkę,

noszącą jeansy i trampki do pracy.

Robiłam dobrą robotę,
ale wyglądałam nie tak,

byłam w nieodpowiednim wieku
i nieodpowiedniej płci.

Popieram zatrudnianie
bez uwzględniania płci czy rasy.

Ale w przypadku tych systemów
to wszystko jest bardziej skomplikowane.

Obecnie, te systemy mogą
wyciągnąć wiele wniosków

na podstawie strzępów
elektronicznej informacji,

nawet jeśli te informacje nie są jawne.

Mogą wnioskować na temat
orientacji seksualnej,

cech osobowości,
przekonań politycznych.

Te przewidywania są niezwykle trafne.

Pamiętajcie - te przewidywania dotyczą
spraw, których nawet nie ujawniliście.

Moja przyjaciółka stworzyła system
tego rodzaju, aby przewidywać

prawdopodobieństwo zapadnięcia na
depresję kliniczną lub poporodową

na podstawie danych zaczerpniętych
z serwisów społecznościowych.

Wyniki są imponujące.

Jej system potrafi
przewidzieć prawdopodobieństwo

wystąpienia depresji miesiące przed
wystąpieniem jakichkolwiek objawów.

Miesiące przed.
Nie ma objawów, jest przewidywanie.

Moja przyjaciółka ma nadzieję,
że system posłuży wczesnemu leczeniu.

Wspaniale.

Ale spójrzmy na to
w kontekście zatrudniania.

Na tamtej konferencji podeszłam
do jednej wysokopostawionej managerki

pracującej dla jednej z wielkich firm
i powiedziałam:

"Co jeśli twój system
za twoimi plecami wyklucza osoby

o większym prawdopodobieństwie
zachorowania na depresję?

Nie mają depresji teraz,
ale być może w przyszłości.

Co jeśli wyklucza kobiety,
które prawdopodobnie za rok lub dwa

mogą być w ciąży, ale teraz nie są?

Co jeśli zatrudnia osoby agresywne,

bo to odpowiada kulturze pracy
w waszej firmie?".

Nie można tego stwierdzić
patrząc na zestawienia pracowników

pod względem płci;
te mogą się równoważyć.

Ponieważ to jest uczenie maszynowe
a nie klasyczne programowanie,

nie ma zmiennych podpisanych: "depresja"
"ciąża" lub "wysoki poziom agresji".

Nie znasz kryteriów, na podstawie których
twój system dokonuje wyboru.

Nie wiesz nawet gdzie zacząć ich szukać.

To jest technologia czarnej skrzynki.

Potrafi przewidywać,
ale nie rozumiesz jak działa.

"Jakie masz zabezpieczenia,
żeby upewnić się,

że twoja czarna skrzynka
nie robi czegoś podejrzanego?"

Spojrzała na mnie jakbym
nadepnęła na ogon szczeniaczkowi.

(Śmiech)

Popatrzyła na mnie i powiedziała:
"Ani słowa więcej".

Odwróciła się i odeszła.

Uwaga - nie była niegrzeczna.

Ewidentnie chciała powiedzieć:

"Jeśli o czymś nie wiem,
to nie jest mój problem, odejdź".

Na odchodne rzuciła mordercze spojrzenie.

(Śmiech)

Takie systemy mogą być mniej
stronnicze niż managerowie.

Mogą być również opłacalne.

Ale mogą też prowadzić do stopniowego
i niepostrzeżonego zamykania

rynku pracy dla osób z większym
ryzykiem zachorowań na depresję.

Czy takie społeczeństwo chcemy budować,
nie wiedząc nawet o tym, że to robimy,

bo powierzamy proces decyzyjny systemom,

których do końca nie rozumiemy?

Kolejny problem: te systemy pracują
na danych opartych na ludzkich działaniach

Mogą po prostu odzwierciedlać
nasze własne uprzedzenia,

wzmacniać je i zwracać w postaci wyniku,

który będziemy interpretować jako
obiektywne i neutralne obliczenia.

Udowodniono, że wyszukiwarka Google

rzadziej pokazuje kobietom
dobrze płatne oferty pracy.

A wyszukiwanie afroamerykańskich nazwisk

jest skorelowane z ogłoszeniami
sugerującymi kryminalną przeszłość,

nawet jeśli takowej nie ma.

Tego typu ukryte uprzedzenia
i algorytmy typu czarnej skrzynki,

które czasem odkrywamy, a czasem nie,

mogą diametralnie wpływać
na ludzkie życie.

Pewien pozwany został skazany na 6 lat
więzienia za ucieczkę przed policją.

Algorytmy są coraz częściej stosowane
przy wydawaniu wyroków.

Mężczyzna chciał wiedzieć,
jak ten wynik jest obliczany.

Używano komercyjnej czarnej skrzynki.

Firma, która ją sprzedaje,

sprzeciwiła się zweryfikowaniu
algorytmu podczas otwartej rozprawy.

Śledcza organizacja non-profit,
ProPublica, zweryfikowała ten algorytm

na podstawie publicznie
dostępnych danych i dowiodła,

że generowane przez niego wyniki
były stronnicze,

a jego moc przewidywania niewielka,
niewiele lepsza od losowej,

a algorytm bezzasadnie wskazywał
czarnoskórych oskarżonych

jako możliwych przyszłych przestępców
dwukrotnie częściej niż białych.

Kolejna sprawa: ta kobieta była spóźniona
po odbiór chrześnicy ze szkoły.

Biegła ulicą w towarzystwie przyjaciela
i na jednym z ganków zauważyli

niezapięty rowerek dziecięcy i hulajnogę,
na które bezmyślnie wskoczyli.

Gdy odjeżdżali, z domu wybiegła kobieta
krzycząc: "To rowerek mojego dziecka!".

Zostawili rower i hulajnogę i odeszli,
ale zostali aresztowani.

Dziewczyna postąpiła głupio i źle,
ale miała tylko 18 lat.

Miała już na koncie
kilka młodzieńczych wykroczeń.

W tym samym czasie aresztowano mężczyznę
za kradzież towarów o wartości 85 dolarów,

równie niewielkie wykroczenie.

Ale on już wcześniej był
dwukrotnie skazany za napad z bronią.

Algorytm przypisał jej większe ryzyko
ponownego popełnienia przestępstwa.

Dwa lata później, ProPublica odkryła,
że kobieta nie popełniła więcej wykroczeń,

miała tylko problemy ze znalezieniem
pracy z taką historią wykroczeń.

Mężczyzna natomiast
odsiadywał ośmioletni wyrok

za przestępstwo,
którego dopuścił się ponownie.

Jest jasne, że musimy
dokonywać rewizji czarnych skrzynek

i ograniczać ich niekontrolowaną władzę.

(Brawa)

Rewizje są dobre i potrzebne,
ale nie rozwiążą wszystkich problemów.

Spójrzmy na algorytm Facebooka,
który nadaje wszystkiemu jakąś wagę

i decyduje o tym, co powinniście zobaczyć

spośród tego wszystkiego,
co publikują wasi znajomi.

Czy trzeba zobaczyć
kolejne zdjęcie bobasa?

(Śmiech)

Ponury post jednego ze znajomych?

Ważną i trudną informację?

Nie ma jednej dobrej odpowiedzi.

Facebook ocenia liczbę reakcji:
komentarze, udostępnienia, polubienia.

W sierpniu 2014 roku w Missouri
wybuchł protest po śmierci

afroamerykańskiego nastolatka
zabitego przez białego policjanta

w niejasnych okolicznościach.

Wiadomości na ten temat zalały
mój niefiltrowany profil na Tweeterze,

ale nie było ich na moim Facebooku.

Czyżby moi znajomi o tym nie rozmawiali?

Zablokowałam algorytm Facebooka,
co jest trudne,

bo Facebook dąży do tego,
żeby nas kontrolować

i zobaczyłam, że przyjaciele
rozmawiali o tej sprawie.

Po prostu ja tego nie widziałam,
bo Facebook mi tego nie pokazywał.

Okazało się, że to rozległy problem.

Ta historia nie była
wysoko oceniona przez algorytm.

Niełatwo ją "polubić".

Nie jest nawet łatwo ją skomentować.

Bez lajków i komentarzy algorytm
prawdopodobnie pokazywał

tę informację coraz mniejszej ilości osób
i dlatego jej nie widzieliśmy.

Równocześnie algorytm Facebooka
wypromował Ice Bucket Challenge.

Szlachetna sprawa: oblej się zimną wodą,
ofiaruj pieniądze, super.

To było wysoko ocenione przez algorytm.

Maszyna podjęła za nas decyzję.

Bardzo ważna lecz trudna dyskusja
mogła zostać wyciszona,

gdyby Facebook był jedynym medium.

Te systemy mogą się też mylić w sposób,

który nie przypomina ludzkich błędów.

Pamiętacie Watsona,
system sztucznej inteligencji IBM,

który zmiażdżył uczestników
konkursu wiedzy Jeopardy?

To był świetny gracz.

Ale w finałowym odcinku padło pytanie:

"Największe lotnisko tego miasta
nosi nazwę bohatera

drugiej co do wielkości bitwy
podczas II wojny światowej".

Chicago.

Dwóch uczestników-ludzi
odpowiedziało poprawnie.

Watson odpowiedział "Toronto"
w kategorii dotyczącej miast w USA.

Ten imponujący system zrobił błąd,

którego żaden człowiek by nie popełnił,
nawet drugoklasista.

Sztuczna inteligencja
może zawieść w sposób,

który nie przypomina ludzkich pomyłek,

którego się nie spodziewamy,
i na który nie będziemy gotowi.

Byłoby głupio nie dostać pracy,
na którą się zasługuje,

ale byłoby potrójnie beznadziejnie,
gdyby to się stało

z powodu nadmiaru danych
w jakimś podprogramie.

(Śmiech)

W maju 2010 roku
krach giełdy na Wall Street

wzmocniony sprzężeniem
zwrotnym algorytmu "sprzedaży"

doprowadził do zniknięcia
trylionów dolarów w 36 minut.

Nie chcę nawet myśleć,
co taka "pomyłka" oznaczałaby

w przypadku automatycznej
broni śmiercionośnej.

Tak, ludzie są stronniczy.

Ludzie podejmujący decyzje w sądach,
mediach, na wojnie... popełniają błędy.

Ale o tym właśnie mówię.

Nie możemy uciec od tych trudnych kwestii.

Nie możemy zrzucić naszej
odpowiedzialności na maszyny.

(Brawa)

Sztuczna inteligencja
nie zwalnia nas z myślenia etycznego.

Fred Benenson, specjalista od danych,
nazywał to "matematycznym praniem mózgu".

Potrzebujemy czegoś odwrotnego.

Musimy rozwijać w sobie
sceptycyzm wobec algorytmów

i daleko posuniętą ostrożność
oraz dokładność w ich badaniu.

Musimy mieć pewność, że mamy
algorytmiczną odpowiedzialność,

rewizję i sensowną przejrzystość.

Musimy zaakceptować,
że wprowadzenie matematyki i obliczeń

do zawikłanych i wymagających
wartościowania ludzkich spraw

nie wprowadza obiektywizacji.

Przeciwnie: komplikacja ludzkich spraw

najedzie algorytmy.

Można i trzeba korzystać z obliczeń,

aby móc podejmować lepsze decyzje.

Ale trzeba uznać moralną odpowiedzialność

za podejmowanie decyzji
i używać algorytmów w jej granicach,

a nie jako środek do zrzeczenia się
i odrzucenia tej odpowiedzialności.

Sztuczna inteligencja jest faktem.

To oznacza, że tym mocniej musimy
trzymać się ludzkich wartości i etyki.

Dziękuję

(Brawa)