[Script Info] Title: [Events] Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text Dialogue: 0,0:00:01.04,0:00:04.18,Default,,0000,0000,0000,,Hallo, ich bin Joy, eine Poetin des Codes, Dialogue: 0,0:00:04.20,0:00:09.19,Default,,0000,0000,0000,,auf einer Mission, eine unbemerkte,\Naufstrebende Macht aufzuhalten. Dialogue: 0,0:00:09.22,0:00:12.07,Default,,0000,0000,0000,,Diese Macht nannte ich \Nden "programmierten Blick". Dialogue: 0,0:00:12.10,0:00:15.40,Default,,0000,0000,0000,,Das ist mein Begriff\Nfür algorithmische Vorurteile. Dialogue: 0,0:00:15.40,0:00:19.68,Default,,0000,0000,0000,,Algorithmische sowie menschliche\NVorurteile führen zu Ungerechtigkeit. Dialogue: 0,0:00:19.72,0:00:25.28,Default,,0000,0000,0000,,Trotzdem können Algorithmen,\Nwie Viren, Vorurteile massiv verbreiten, Dialogue: 0,0:00:25.33,0:00:27.38,Default,,0000,0000,0000,,mit rasanter Geschwindigkeit. Dialogue: 0,0:00:27.94,0:00:32.33,Default,,0000,0000,0000,,Algorithmische Vorurteile können\Nauch zu Erfahrungen des Ausschlusses Dialogue: 0,0:00:32.35,0:00:34.48,Default,,0000,0000,0000,,und diskriminierendem Verhalten führen. Dialogue: 0,0:00:34.51,0:00:36.92,Default,,0000,0000,0000,,Ich zeige Ihnen, was ich meine. Dialogue: 0,0:00:36.98,0:00:39.88,Default,,0000,0000,0000,,(Video) Joy Buolamwini:\NHi, Kamera. Ich habe ein Gesicht. Dialogue: 0,0:00:40.16,0:00:42.03,Default,,0000,0000,0000,,Kannst du mein Gesicht sehen? Dialogue: 0,0:00:42.05,0:00:43.68,Default,,0000,0000,0000,,Mein Gesicht ohne Brille? Dialogue: 0,0:00:43.70,0:00:45.92,Default,,0000,0000,0000,,Du kannst ihr Gesicht sehen. Dialogue: 0,0:00:46.24,0:00:48.48,Default,,0000,0000,0000,,Was ist mit meinem Gesicht? Dialogue: 0,0:00:51.89,0:00:55.64,Default,,0000,0000,0000,,Ich habe eine Maske. \NKannst du meine Maske sehen? Dialogue: 0,0:00:56.47,0:00:58.84,Default,,0000,0000,0000,,JB: Wie konnte das passieren? Dialogue: 0,0:00:58.86,0:01:01.60,Default,,0000,0000,0000,,Wieso sitze ich vor einem Computer, Dialogue: 0,0:01:01.67,0:01:03.73,Default,,0000,0000,0000,,trage eine weiße Maske und versuche, Dialogue: 0,0:01:03.76,0:01:07.12,Default,,0000,0000,0000,,von einer billigen Webcam \Nerkannt zu werden? Dialogue: 0,0:01:07.16,0:01:09.51,Default,,0000,0000,0000,,Wenn ich nicht gerade \Nden programmierten Blick Dialogue: 0,0:01:09.52,0:01:10.98,Default,,0000,0000,0000,,als Poetin des Codes bekämpfe, Dialogue: 0,0:01:11.01,0:01:14.28,Default,,0000,0000,0000,,dann bin ich Masterstudentin\Nam MIT Media Lab Dialogue: 0,0:01:14.30,0:01:18.99,Default,,0000,0000,0000,,und habe dort die Möglichkeit, an\Nverschiedensten, wunderlichen Projekten, Dialogue: 0,0:01:19.04,0:01:21.27,Default,,0000,0000,0000,,u. a. dem "Aspire Mirror", zu arbeiten, Dialogue: 0,0:01:21.30,0:01:26.02,Default,,0000,0000,0000,,einem Projekt, das digitale Masken \Nauf mein Spiegelbild projiziert. Dialogue: 0,0:01:26.04,0:01:28.92,Default,,0000,0000,0000,,Wenn ich mich in der Früh \Nmächtig fühlen wollte, Dialogue: 0,0:01:28.96,0:01:30.32,Default,,0000,0000,0000,,projizierte ich einen Löwen. Dialogue: 0,0:01:30.32,0:01:33.61,Default,,0000,0000,0000,,Wenn ich aufgemuntert werden wollte,\Nerschien vielleicht ein Zitat. Dialogue: 0,0:01:33.63,0:01:36.97,Default,,0000,0000,0000,,Deshalb verwendete ich eine gewöhnliche\NSoftware für Gesichtserkennung, Dialogue: 0,0:01:37.00,0:01:38.30,Default,,0000,0000,0000,,um das System zu erstellen. Dialogue: 0,0:01:38.34,0:01:43.30,Default,,0000,0000,0000,,Es war aber sehr schwierig zu testen, \Naußer wenn ich eine weiße Maske trug. Dialogue: 0,0:01:44.28,0:01:48.63,Default,,0000,0000,0000,,Unglücklicherweise ist mir\Ndieses Problem schon einmal begegnet. Dialogue: 0,0:01:48.65,0:01:52.96,Default,,0000,0000,0000,,Als ich Informatik im Bachelor\Nan der Georgia Tech studierte, Dialogue: 0,0:01:52.98,0:01:55.03,Default,,0000,0000,0000,,arbeitete ich mit sozialen Robotern. Dialogue: 0,0:01:55.06,0:01:58.84,Default,,0000,0000,0000,,Eine meiner Aufgaben war es, \Nmit einem Roboter Kuckuck zu spielen. Dialogue: 0,0:01:58.86,0:02:00.54,Default,,0000,0000,0000,,Das ist ein einfaches Wechselspiel, Dialogue: 0,0:02:00.57,0:02:04.89,Default,,0000,0000,0000,,bei dem man das Gesicht zudeckt\Nund beim Aufdecken "Kuckuck!" sagt. Dialogue: 0,0:02:04.91,0:02:09.34,Default,,0000,0000,0000,,Allerdings funktioniert das Kuckuckspiel\Nnicht, wenn man sich nicht sieht, Dialogue: 0,0:02:09.36,0:02:11.86,Default,,0000,0000,0000,,und mein Roboter konnte mich nicht sehen. Dialogue: 0,0:02:11.89,0:02:15.84,Default,,0000,0000,0000,,Um das Projekt abzuschließen, verwendete\Nich das Gesicht meines Mitbewohners, Dialogue: 0,0:02:15.86,0:02:17.24,Default,,0000,0000,0000,,schickte die Aufgabe ab Dialogue: 0,0:02:17.26,0:02:21.02,Default,,0000,0000,0000,,und dachte mir: "Weißt du was, \Njemand anderes wird das Problem lösen." Dialogue: 0,0:02:21.67,0:02:23.67,Default,,0000,0000,0000,,Relativ kurz danach Dialogue: 0,0:02:23.70,0:02:27.86,Default,,0000,0000,0000,,war ich in Hongkong für einen\NUnternehmer-Wettbewerb. Dialogue: 0,0:02:28.34,0:02:30.54,Default,,0000,0000,0000,,Die Organisatoren beschlossen, Dialogue: 0,0:02:30.54,0:02:33.43,Default,,0000,0000,0000,,den Teilnehmenden\Nörtliche Start-ups zu zeigen. Dialogue: 0,0:02:33.45,0:02:36.17,Default,,0000,0000,0000,,Eines dieser Start-ups\Nhatte einen sozialen Roboter, Dialogue: 0,0:02:36.19,0:02:38.10,Default,,0000,0000,0000,,den sie demonstrieren wollten. Dialogue: 0,0:02:38.13,0:02:41.11,Default,,0000,0000,0000,,Die Demonstration funktionierte\Nbei jedem bis auf mich. Dialogue: 0,0:02:41.13,0:02:43.06,Default,,0000,0000,0000,,Sie können wahrscheinlich erraten wieso. Dialogue: 0,0:02:43.08,0:02:46.04,Default,,0000,0000,0000,,Er konnte mein Gesicht nicht erkennen. Dialogue: 0,0:02:46.07,0:02:48.58,Default,,0000,0000,0000,,Ich fragte die Entwickler, was los sei. Dialogue: 0,0:02:48.60,0:02:54.14,Default,,0000,0000,0000,,Es zeigte sich, dass wir dieselbe Software\Nzur Gesichtserkennung benutzt hatten. Dialogue: 0,0:02:54.16,0:02:56.27,Default,,0000,0000,0000,,Auf der anderen Seite\Nder Welt erkannte ich, Dialogue: 0,0:02:56.27,0:02:59.69,Default,,0000,0000,0000,,dass sich algorithmische \NVoreingenommenheit Dialogue: 0,0:02:59.71,0:03:02.88,Default,,0000,0000,0000,,bereits während eines simplen\NDownloads verbreiten kann. Dialogue: 0,0:03:03.74,0:03:06.82,Default,,0000,0000,0000,,Also was ist da los?\NWarum wird mein Gesicht nicht erkannt? Dialogue: 0,0:03:06.84,0:03:10.20,Default,,0000,0000,0000,,Wir müssen uns anschauen,\Nwie wir Maschinen das Sehen beibringen. Dialogue: 0,0:03:10.22,0:03:13.63,Default,,0000,0000,0000,,Computergestütztes Sehen\Nverwendet maschinelles Lernen, Dialogue: 0,0:03:13.66,0:03:15.54,Default,,0000,0000,0000,,um Gesichter zu erkennen. Dialogue: 0,0:03:15.56,0:03:19.46,Default,,0000,0000,0000,,Dabei erstellt man ein Trainingsset\Nmit Gesichterbeispielen. Dialogue: 0,0:03:19.48,0:03:22.30,Default,,0000,0000,0000,,Das ist ein Gesicht. Das auch.\NDas ist kein Gesicht. Dialogue: 0,0:03:22.32,0:03:26.84,Default,,0000,0000,0000,,Im Laufe der Zeit kann man einem Computer\Nbeibringen, andere Gesichter zu erkennen. Dialogue: 0,0:03:26.87,0:03:30.86,Default,,0000,0000,0000,,Wenn die Trainingssets allerdings\Nnicht sehr diversifiziert sind, Dialogue: 0,0:03:30.88,0:03:34.23,Default,,0000,0000,0000,,dann sind Gesichter, die zu stark\Nvon der erstellten Norm abweichen, Dialogue: 0,0:03:34.25,0:03:35.90,Default,,0000,0000,0000,,schwieriger zu erkennen. Dialogue: 0,0:03:35.93,0:03:37.87,Default,,0000,0000,0000,,Das ist genau das, was mir passiert ist. Dialogue: 0,0:03:37.88,0:03:40.81,Default,,0000,0000,0000,,Aber machen Sie sich keine Sorgen --\Nes gibt gute Nachrichten. Dialogue: 0,0:03:40.84,0:03:43.09,Default,,0000,0000,0000,,Trainingssets tauchen nicht\Naus dem Nichts auf. Dialogue: 0,0:03:43.12,0:03:44.90,Default,,0000,0000,0000,,Wir erstellen sie. Dialogue: 0,0:03:44.93,0:03:49.10,Default,,0000,0000,0000,,Also gibt es die Möglichkeit, \Ninklusive Trainingssets zu erstellen, Dialogue: 0,0:03:49.13,0:03:52.68,Default,,0000,0000,0000,,die ein breitgefächerteres Bild\Nder Menschheit widerspiegeln. Dialogue: 0,0:03:52.72,0:03:55.06,Default,,0000,0000,0000,,Jetzt haben Sie anhand \Nmeiner Beispiele gesehen, Dialogue: 0,0:03:55.09,0:03:56.99,Default,,0000,0000,0000,,wie soziale Roboter dazu geführt haben, Dialogue: 0,0:03:57.01,0:04:01.62,Default,,0000,0000,0000,,dass ich von der Exklusion \Ndurch algorithmische Vorurteile erfuhr. Dialogue: 0,0:04:01.65,0:04:07.41,Default,,0000,0000,0000,,Algorithmische Vorurteile können\Nzu diskriminierendem Verhalten führen. Dialogue: 0,0:04:07.44,0:04:13.13,Default,,0000,0000,0000,,Überall in den USA beginnt die Polizei,\Nals Teil ihrer Kriminalitätsbekäpfung Dialogue: 0,0:04:13.14,0:04:15.60,Default,,0000,0000,0000,,Software zur Gesichtserkennung\Nzu verwenden. Dialogue: 0,0:04:15.62,0:04:17.63,Default,,0000,0000,0000,,Georgetown Law zeigte in einem Bericht, Dialogue: 0,0:04:17.66,0:04:24.42,Default,,0000,0000,0000,,dass einer von zwei erwachsenen US-Bürgern\N-- das sind 117 Mio. Menschen -- Dialogue: 0,0:04:24.44,0:04:27.98,Default,,0000,0000,0000,,bereits in Datenbanken \Nzur Gesichtserkennung erfasst ist. Dialogue: 0,0:04:28.00,0:04:32.55,Default,,0000,0000,0000,,Polizeikommissariate können zurzeit\Nuneingeschränkt auf diese zugreifen Dialogue: 0,0:04:32.58,0:04:36.86,Default,,0000,0000,0000,,und benutzen dabei Algorithmen, die\Nnicht auf Genauigkeit überprüft wurden. Dialogue: 0,0:04:36.89,0:04:40.75,Default,,0000,0000,0000,,Dennoch wissen wir, dass \NGesichtserkennung nicht fehlerfrei ist Dialogue: 0,0:04:40.78,0:04:44.57,Default,,0000,0000,0000,,und dass Gesichter zuzuordnen \Nimmer noch eine Herausforderung ist. Dialogue: 0,0:04:44.62,0:04:46.83,Default,,0000,0000,0000,,Vielleicht haben Sie das \Nauf Facebook gesehen. Dialogue: 0,0:04:46.85,0:04:50.21,Default,,0000,0000,0000,,Meine Freund und ich lachen immer,\Nwenn andere Leute Dialogue: 0,0:04:50.24,0:04:52.66,Default,,0000,0000,0000,,fälschlicherweise auf unseren\NFotos markiert werden. Dialogue: 0,0:04:52.67,0:04:57.85,Default,,0000,0000,0000,,Aber jemanden fälschlicherweise\Nzu verdächtigen, ist nicht zum Lachen, Dialogue: 0,0:04:57.87,0:05:00.70,Default,,0000,0000,0000,,sondern verstößt gegen Bürgerrechte. Dialogue: 0,0:05:00.72,0:05:03.93,Default,,0000,0000,0000,,Maschinelles Lernen \Nwird für Gesichtserkennung, Dialogue: 0,0:05:03.95,0:05:08.46,Default,,0000,0000,0000,,aber auch über den Bereich von\Ncomputergestütztem Sehen hinaus verwendet. Dialogue: 0,0:05:09.27,0:05:13.28,Default,,0000,0000,0000,,In ihrem Buch "Waffen der Mathezerstörung" Dialogue: 0,0:05:13.31,0:05:19.99,Default,,0000,0000,0000,,schreibt Datenforscherin Cathy O'Neil\Nüber neue Massenvernichtungswaffen -- Dialogue: 0,0:05:20.01,0:05:24.36,Default,,0000,0000,0000,,verbreitete, mysteriöse\Nund zerstörerische Algorithmen, Dialogue: 0,0:05:24.39,0:05:27.35,Default,,0000,0000,0000,,die zunehmend dazu verwendet werden,\NEntscheidungen zu treffen, Dialogue: 0,0:05:27.38,0:05:30.11,Default,,0000,0000,0000,,die viele Teile unseres Lebens betreffen. Dialogue: 0,0:05:30.16,0:05:32.45,Default,,0000,0000,0000,,Etwa wer eingestellt oder gefeuert wird. Dialogue: 0,0:05:32.49,0:05:34.83,Default,,0000,0000,0000,,Bekommen Sie einen Kredit?\NOder eine Versicherung? Dialogue: 0,0:05:34.85,0:05:38.11,Default,,0000,0000,0000,,Werden Sie an der Uni, an der Sie\Nstudieren wollen, angenommen? Dialogue: 0,0:05:38.13,0:05:41.64,Default,,0000,0000,0000,,Bezahlen Sie und ich denselben Preis\Nfür dasselbe Produkt, Dialogue: 0,0:05:41.67,0:05:44.11,Default,,0000,0000,0000,,das wir auf derselben Website \Ngekauft haben? Dialogue: 0,0:05:44.13,0:05:47.28,Default,,0000,0000,0000,,Die Strafverfolgung beginnt auch, \Nmaschinelles Lernen Dialogue: 0,0:05:47.28,0:05:49.88,Default,,0000,0000,0000,,für Predictive Policing einzusetzen. Dialogue: 0,0:05:49.92,0:05:53.72,Default,,0000,0000,0000,,Manche Richter benutzen maschinell\Ngenerierte Risikoraten, um festzusetzen, Dialogue: 0,0:05:53.75,0:05:57.34,Default,,0000,0000,0000,,wie lange eine bestimmte Person\Nim Gefängnis bleiben wird. Dialogue: 0,0:05:57.51,0:06:00.63,Default,,0000,0000,0000,,Deshalb müssen wir wirklich\Nüber diese Entscheidungen nachdenken. Dialogue: 0,0:06:00.65,0:06:01.83,Default,,0000,0000,0000,,Sind sie fair? Dialogue: 0,0:06:01.86,0:06:04.75,Default,,0000,0000,0000,,Wir haben gesehen,\Ndass algorithmische Vorurteile Dialogue: 0,0:06:04.77,0:06:08.14,Default,,0000,0000,0000,,nicht unbedingt\Nzu fairen Ergebnissen führen. Dialogue: 0,0:06:08.17,0:06:10.13,Default,,0000,0000,0000,,Was können wir dagegen tun? Dialogue: 0,0:06:10.16,0:06:13.70,Default,,0000,0000,0000,,Wir können darüber nachdenken, \Nwie man inklusiveren Code schreibt Dialogue: 0,0:06:13.72,0:06:16.94,Default,,0000,0000,0000,,und Programmiertechniken nutzt,\Ndie inklusiver sind. Dialogue: 0,0:06:17.00,0:06:19.18,Default,,0000,0000,0000,,Es fängt bei den Menschen an. Dialogue: 0,0:06:19.71,0:06:21.67,Default,,0000,0000,0000,,Es spielt eine Rolle, wer programmiert. Dialogue: 0,0:06:21.69,0:06:25.59,Default,,0000,0000,0000,,Erstellen wir inklusive Teams\Naus diversifizierten Individuen, Dialogue: 0,0:06:25.65,0:06:28.25,Default,,0000,0000,0000,,die gegenseitig ihre toten Winkel \Nüberprüfen können? Dialogue: 0,0:06:28.27,0:06:31.82,Default,,0000,0000,0000,,In Hinblick auf die Technik spielt es\Neine Rolle, wie programmiert wird. Dialogue: 0,0:06:31.84,0:06:35.49,Default,,0000,0000,0000,,Berücksichtigen wir Fairness\Nbeim Entwickeln von Systemen? Dialogue: 0,0:06:35.52,0:06:38.43,Default,,0000,0000,0000,,"Warum" wir programmieren, \Nspielt auch eine Rolle. Dialogue: 0,0:06:38.78,0:06:43.87,Default,,0000,0000,0000,,Wir haben durch computergestütztes Design\Nenormen Wohlstand geschaffen. Dialogue: 0,0:06:43.89,0:06:48.34,Default,,0000,0000,0000,,Nun haben wir die Möglichkeit, \Nnoch größere Gleichheit zu schaffen, Dialogue: 0,0:06:48.36,0:06:51.02,Default,,0000,0000,0000,,wenn wir sozialen Wandel als Priorität Dialogue: 0,0:06:51.02,0:06:53.96,Default,,0000,0000,0000,,und nicht als Nachtrag behandeln. Dialogue: 0,0:06:54.01,0:06:58.53,Default,,0000,0000,0000,,Das sind also die drei Grundsätze\Nder "Incoding"-Bewegung. Dialogue: 0,0:06:58.55,0:07:00.21,Default,,0000,0000,0000,,Es ist wichtig, wer programmiert, Dialogue: 0,0:07:00.23,0:07:01.77,Default,,0000,0000,0000,,wie programmiert wird, Dialogue: 0,0:07:01.80,0:07:03.82,Default,,0000,0000,0000,,und warum wir programmieren. Dialogue: 0,0:07:03.84,0:07:06.94,Default,,0000,0000,0000,,Auf dem Weg zu "Incoding"\Nmüssen wir darüber nachdenken, Dialogue: 0,0:07:06.97,0:07:09.81,Default,,0000,0000,0000,,Plattformen, die Vorurteile\Nerkennen können, zu schaffen, Dialogue: 0,0:07:09.84,0:07:13.23,Default,,0000,0000,0000,,mit Hilfe von Erfahrungen, \Nwie z. B. meinen, Dialogue: 0,0:07:13.26,0:07:16.33,Default,,0000,0000,0000,,aber auch bereits existierende \NSoftware zu überprüfen. Dialogue: 0,0:07:16.35,0:07:19.80,Default,,0000,0000,0000,,Wir können auch damit beginnen,\Ninklusivere Trainingssets zu erstellen. Dialogue: 0,0:07:19.85,0:07:22.94,Default,,0000,0000,0000,,Stellen Sie sich etwa eine Kampagne\N"Selfies für Inklusion" vor, Dialogue: 0,0:07:22.97,0:07:26.42,Default,,0000,0000,0000,,bei der Sie und ich den Entwicklern\Nbeim Testen und Entwickeln Dialogue: 0,0:07:26.42,0:07:29.27,Default,,0000,0000,0000,,inklusiverer Trainingssets helfen können. Dialogue: 0,0:07:29.30,0:07:32.13,Default,,0000,0000,0000,,Wir können auch bewusster\Nüber die sozialen Auswirkungen Dialogue: 0,0:07:32.15,0:07:36.88,Default,,0000,0000,0000,,der Technologien, die wir \Nentwickeln, nachdenken. Dialogue: 0,0:07:36.88,0:07:40.26,Default,,0000,0000,0000,,Um die "Incoding"-Bewegung zu starten, Dialogue: 0,0:07:40.26,0:07:43.54,Default,,0000,0000,0000,,gründete ich die\N"Algorithmic Justice Leage". Dialogue: 0,0:07:43.54,0:07:48.73,Default,,0000,0000,0000,,Jeder kann dabei helfen,\Nden programmierten Blick zu bekämpfen. Dialogue: 0,0:07:48.75,0:07:51.72,Default,,0000,0000,0000,,Auf codedgaze.com können Sie\Nüber Voreingenommenheit berichten, Dialogue: 0,0:07:51.72,0:07:54.52,Default,,0000,0000,0000,,Überprüfungen verlangen, zum Tester werden Dialogue: 0,0:07:54.54,0:07:57.31,Default,,0000,0000,0000,,und bei laufenden Debatten mitreden, Dialogue: 0,0:07:57.34,0:08:00.64,Default,,0000,0000,0000,,#codedgaze. Dialogue: 0,0:08:00.74,0:08:03.23,Default,,0000,0000,0000,,Ich lade Sie dazu ein, \Nsich mir anzuschließen Dialogue: 0,0:08:03.25,0:08:06.97,Default,,0000,0000,0000,,und eine Welt zu schaffen,\Nin der Technologie für uns alle, Dialogue: 0,0:08:06.100,0:08:08.89,Default,,0000,0000,0000,,und nicht nur für manche, funktioniert, Dialogue: 0,0:08:08.92,0:08:13.50,Default,,0000,0000,0000,,eine Welt, in der Inklusion wertgeschätzt\Nund soziale Veränderung im Zentrum steht. Dialogue: 0,0:08:13.53,0:08:14.70,Default,,0000,0000,0000,,Danke. Dialogue: 0,0:08:14.73,0:08:18.100,Default,,0000,0000,0000,,(Applaus) Dialogue: 0,0:08:20.87,0:08:23.73,Default,,0000,0000,0000,,Ich habe eine Frage: Dialogue: 0,0:08:23.75,0:08:25.81,Default,,0000,0000,0000,,Werden Sie sich mir anschließen? Dialogue: 0,0:08:25.83,0:08:27.12,Default,,0000,0000,0000,,(Gelächter) Dialogue: 0,0:08:27.14,0:08:30.83,Default,,0000,0000,0000,,(Applaus)