Die Antidiskriminierungsstelle des Bundes hat Indra Spiecker gen. Döhmann und Emanuel V. Towfigh nach einem kompetitiven Ausschreibungsverfahren mit der Erstattung eines Rechtsgutachtens betraut: “Das Allgemeine Gleichbehandlungsgesetz und der Schutz vor Diskriminierung durch algorithmische Entscheidungssysteme”.
Zentrales Gesetzeswerk zum Schutz vor Diskriminierung in Deutschland ist das Allgemeine Gleichbehandlungsgesetz (AGG). Es hat die Verhinderung bzw. Beseitigung von Benachteiligungen aus Gründen der Rasse, der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität zum Ziel (§ 1 AGG). Insbesondere sieht es Beschwerdemöglichkeiten für von Benachteiligung Betroffene (§ 13 AGG) und Ersatzansprüche bei Diskriminierung (§ 15 AGG) vor.
Eine Hürde für von Diskriminierung Betroffene stellt der Nachweis einer Diskriminierung dar, weswegen das AGG Beweiserleichterungen vorsieht. Mit der wachsenden Bedeutung algorithmischer Entscheidungsprozesse und der damit auftretenden neuartigen Mechanismen wird dieser Regelungsrahmen auf die Probe gestellt. Der Nachweis einer Diskriminierung durch algorithmische Entscheidungssysteme bringt neuartige Herausforderungen mit sich. Denn es ist etwa nicht nur der einer Entscheidung zugrunde liegende Algorithmus in der Regel intransparent und für Betroffene und konkrete Verwender gar nicht verständlich, sondern häufig ist schon nicht offenkundig, dass einer Entscheidung ein algorithmischer Entscheidungsprozess zu Grunde lag. Daher müssen mit Blick auf die Verantwortlichkeit für eine solche Diskriminierung zunehmend neue Akteure in den Blick genommen werden – etwa die Produzenten von algorithmischen Entscheidungssystemen bis hin zu den Unternehmen, die über jene Datensätze verfügen, welche Entscheidungsalgorithmen zu Grunde liegen.
Das Rechtsgutachten untersucht, inwieweit das vorhandene Regelungsregime (AGG und mit Blick auf den Entwurf einer EU-KI-Verordnung) geeignet ist, mit den Herausforderungen der Diskriminierung durch algorithmische Systeme insbesondere für die Rechtsdurchsetzung umzugehen.
Autor*innen:
Prof. Dr. iur. Indra Spiecker gen. Döhmann, LL.M. (Georgetown Univ.)
und Prof. Dr. Emanuel V. Towfigh, im Auftrag der Antidiskriminierungsstelle des Bundes (ADS)
Erscheinungsjahr: Ende 2022
Weitere Informationen: Webseite der Antidiskriminierungsstelle des Bundes