Wenn Algorithmen diskriminieren

Publikation zum Fachgespräch „Diskriminierungsrisiken durch Verwendung von Algorithmen“ der Antidiskriminierungsstelle des Bundes erschienen

Algorithmen können diskriminieren. Dieser Aspekt ist bekannt – müsse jedoch zukünftig – so Bernhard Franke, der kommissarische Leiter der Antidiskriminierungsstelle des Bundes noch stärker in den Blick genommen werden. Ein wichtiger Grund, weshalb die Antidiskriminierungsstelle sich zunehmend in die Debatte zu den gesellschaftlichen Herausforderungen durch Big Data und KI einbringen möchte.

Ein erster Aufschlag hierzu war das Fachgespräch „Diskriminierungsrisiken durch Verwendung von Algorithmen“, das am 16. September 2019 in Berlin stattgefunden hat und an dem auch das Zentrum für Ethik der Medien und der digitalen Gesellschaft beteiligt war. „Es ist wichtig, gerade die ethische Perspektive hinsichtlich daten – und algorithmenbasierter Analysemethoden miteinzubringen“, erklärt Cindy-Ricarda Roberts, die für das zem::dg an der Veranstaltung teilgenommen hat.

Dass algorithmische Diskriminierungen keine fiktiven Schreckgespenster sind, sondern bereits jetzt nahezu jedem im Alltag begegnen können, macht die Studie „Diskriminierungsrisiken durch Verwendung von Algorithmen“, die am Institut für Technikfolgenabschätzung und Systemanalyse am Karlsruher Institut für Technologie entstanden ist, deutlich. Sie war Ausgangspunkt für die anschließenden Gespräche und Diskussionen im Rahmen des Fachgesprächs. Die Studie analysiert eine Reihe von Einsatzszenarien von Algorithmen, etwa zur Einschätzung des Kreditausfall- oder Mitausfallrisikos oder zur Leistungsfähigkeit von Bewerberinnen und Bewerbern und kommt zum Schluss, dass bereits heute in nahezu allen Lebensbereichen Diskriminierungsrisiken durch Algorithmen bestehen. Doch wie sollte man mit dieser Feststellung umgehen und welche Gegenmaßnahmen können ergriffen werden? Ausgehend von den Vorschlägen, die im Rahmen der Studie vorgestellt wurden, dominierten diese Fragestellungen die anschließende Diskussion der Teilnehmenden.

„Diverse Fachbereiche waren vertreten und so konnten die Möglichkeiten sowie die Herausforderungen durch Daten- und algorithmenbasierter Analysemethoden umfassend diskutiert werden. Dabei waren sich zwar nicht immer alle einig, allerdings entstand gerade hierdurch ein intensiver und produktiver Austausch, der am Ende zu guten Ergebnissen führte”, fasst Cindy-Ricarda Roberts die wichtigsten Impulse der Diskussion zusammen. Ihr ist es wichtig, dass klar wird, dass sich mit algorithmenbasierten Analyse- und Entscheidungssystemen Diskriminierung eigentlich nicht vermeiden lässt und sich so unmittelbar die Frage nach einer angemessenen Abwägung sowie Rechtfertigung der daraus hervorgehenden Diskriminierung stellt. Dies ist wiederum eine gesellschaftliche Frage. Diese Frage könne wiederum nur durch einen öffentlichen Austausch beantwortet werden, der derzeit leider noch nicht tiefgreifend genug stattfinde.

Die Ergebnisse des Fachgesprächs sind ein erster wichtiger Schritt in Richtung ethische und vertrauenswürdige KI (Daten- und algorithmenbasierter Analysemethoden). Es wurde viel Handlungsbedarf ausgemacht. Hier gilt es nun konkrete Handlungsmöglichkeiten zur Vermeidung illegitimer Diskriminierung weiter auszuloten um die positiven Einsatzmöglichkeiten von KI stärken zu können.

Genau hierin sieht Cindy-Ricarda Roberts auch den zentralen Gewinn des Fachgesprächs: „Die technischen Möglichkeiten zur Erkennung und Vermeidung von Diskriminierung und ähnliche Ansätze anzuregen, das stellt in meinen Augen ein wesentliches zukunftsträchtiges Vorhaben und Ergebnis des Fachgesprächs dar. Schließlich wird der Zweck solcher Systeme von Menschen und Unternehmen oder Staaten vorgegeben und die Systeme handeln danach.“

Dass das Thema „Diskriminierungsrisiken durch Algorithmen“ zunehmend auch in der Politik an Bedeutung gewinnt, erscheint aus medienethischer Perspektive als zentraler Schritt hin zu einer ethisch-verantwortungsvoll gestalteten digitalen Gesellschaft. Neben den konkreten Ergebnissen, die zentrale und wichtige Impulse für die praktische politische Arbeit geben, erscheint jedoch auch die Möglichkeit des Austauschs der Teilnehmerinnen und Teilnehmer untereinander als ein wichtiger Gewinn der Veranstaltung: Fächerübergreifend miteinander sprechen und unterschiedliche Perspektiven miteinander austauschen befruchtet den Diskurs, stärkt das gegenseitige Verständnis und überwindet sowohl naive Technikgläubigkeit als auch übertriebene Zukunftsangst.

Zentrale Ergebnisse des Fachgesprächs wurden in einer Publikation zur Veranstaltung veröffentlicht, die kostenfrei online als PDF abrufbar ist.

Cindy-Ricarda Roberts ist assoziierte Mitarbeiterin am zem::dg und war für uns beim Fachgespräch dabei.

Download-Tipp:

Die Dokumentation zum Fachgespräch ist kostenfrei über die Internetseite der Antidiskriminierungsstelle des Bundes erhältlich:

Bildnachweis: Alle Fotos auf dieser Seite: Cindy-Ricarda Roberts/zem::dg

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.