{"id":25019,"date":"2023-08-30T13:25:56","date_gmt":"2023-08-30T11:25:56","guid":{"rendered":"https:\/\/www.towfigh.net\/de\/?p=25019"},"modified":"2024-08-05T08:58:24","modified_gmt":"2024-08-05T06:58:24","slug":"gutachten-algorithmen-agg","status":"publish","type":"post","link":"https:\/\/www.towfigh.net\/de\/forschung\/gutachten-algorithmen-agg.html","title":{"rendered":"Gutachten \u00bbDas Allgemeine Gleichbehandlungsgesetz und der Schutz vor Diskriminierung durch algorithmische Entscheidungssysteme\u00ab"},"content":{"rendered":"

Das Allgemeine Gleichbehandlungsgesetz und der Schutz vor Diskriminierung durch algorithmische <\/strong>Entscheidungssysteme <\/strong>(mit I. Spiecker gen. D\u00f6hmann<\/em>)
\nBaden-Baden 2023 (Nomos), 114 Druckseiten<\/p>\n

zugleich Rechtsgutachten im Auftrag der Antidiskriminierungsstelle des Bundes <\/a><\/p>\n

Vorgelegt von<\/strong>
\nProf. Dr. iur. Indra Spiecker gen. D\u00f6hmann, LL.M. (Georgetown Univ.)<\/em><\/a>
\nProf. Dr. iur. Emanuel V. Towfigh<\/em><\/p>\n

Download bei der ADS<\/a>\u00a0\u2022 Datei lokal (0,8 MB)<\/a><\/div>\n
\n <\/p>\n

Zusammenfassung der Ergebnisse<\/strong><\/div>\n

Der Einsatz von ADM-Systemen stellt das Antidiskriminierungsrecht, allen voran das Allgemeine Gleichbehandlungsgesetz (AGG), vor Herausforderungen, denen es in seiner jetzigen Ausgestaltung nur bedingt gewachsen ist.<\/p>\n

Die Hauptaufgabe dieser Systeme besteht darin, mithilfe statistischer Methoden eine Vielzahl von Korrelationen zu identifizieren, um Beziehungen zwischen Variablen herzustellen. Mit ADM-Systemen wird trotz ihres unumstrittenen Diskriminierungspotenzials die Vorstellung verbunden, objektive und neutrale, von menschlichen Vorurteilen unbeeinflusste sowie effizientere und bessere Entscheidungen treffen zu k\u00f6nnen, nicht zuletzt deshalb, weil menschliche Fehlleistungen, Vorurteile und kognitive Beschr\u00e4nkungen ausgeschlossen oder wenigstens verringert werden k\u00f6nnten (Abschnitt 1 des Gutachtens).<\/p>\n

Der Einsatz solcher Systeme erfasst nahezu alle Bereiche des privaten und \u00f6ffentlichen Lebens: Preisbildung, Zugang zu und Teilhabe an \u00f6ffentlichen und privaten Leistungen, Marketing, Vertragsbedingungen, Diagnostik- und Therapieentscheidungen oder Verteilungsentscheidungen bei knappen Ressourcen.<\/p>\n

Die Funktionsweise von ADM-Systemen erm\u00f6glicht unter anderem Wahrscheinlichkeitsaussagen \u00fcber Personen. Durch die Zuschreibung von Gruppenmerkmalen werden in gro\u00dfer Zahl automatisierte (Auswahl-)Entscheidungen getroffen oder mithilfe massenhafter Individualisierung Vertragsabschl\u00fcsse optimiert, effizienter gestaltet. Unter antidiskriminierungsrechtlichen Gesichtspunkten ist gerade diese Gruppenzuschreibung problematisch.<\/p>\n

Diskriminierung durch Statistik ist das Resultat einer mit statistischen Mitteln gewonnenen Zuschreibung von Merkmalen, die auf (tats\u00e4chlichen oder angenommenen) Durchschnittswerten einer Gruppe beruhen. Der Bezug auf diese durchschnittlichen Gruppenmerkmale soll \u00fcber Unsicherheiten bez\u00fcglich der individuellen Merkmalsauspr\u00e4gungen einer einzelnen Person hinwegverhelfen. Der einer solchen Einsch\u00e4tzung zugrunde liegende soziale Mechanismus interessiert dabei nicht, eine Kausalit\u00e4t wird nicht behauptet oder nachgewiesen. Dadurch werden (historische) strukturelle Ungleichheiten perpetuiert und neue geschaffen.<\/p>\n

Die Qualit\u00e4t der Entscheidung eines ADM-Systems ist wesentlich abh\u00e4ngig von der Menge, Qualit\u00e4t, Modellierung und Bewertung der verwendeten Daten. Dadurch kann das Diskriminierungspotenzial von ADM-Systemen bereits im System selbst angelegt sein. Zudem ist ADM-Systemen Intransparenz in ihrer Funktionsweise inh\u00e4rent. Die Bestimmung der Verantwortlichkeit f\u00fcr diskriminierende Elemente in ADM-Systemen ist aufgrund der Vielfalt der Beteiligten an ihrer Programmierung, Fortentwicklung, Verwendung und weiteren Nutzung, zum Beispiel in Netzwerkstrukturen und individuell variierten Standardalgorithmen, problematisch. Faktisch k\u00f6nnen sich die potenziell Verantwortlichen oftmals exkulpieren. Der technologische Fortschritt digitaler Auswertungsmethoden und -technologien setzt dem Teilen, der Weiterverwendung und dem Zusammenf\u00fchren von gro\u00dfen Datenmengen praktisch keine technischen Grenzen mehr und macht damit diskriminierende Datens\u00e4tze unkontrollierbar in der Weitergabe und Verwendung. Es kann nicht davon ausgegangen werden, dass Diskriminierung einzelfallspezifisch identifiziert werden kann.<\/p>\n

Die gr\u00f6\u00dfte Herausforderung f\u00fcr einen rechtlich gepr\u00e4gten effektiven Schutz vor Diskriminierung durch ADM-Systeme stellen die Defizite des AGG bei der Rechtsdurchsetzung dar. Diese grunds\u00e4tzlichen Defizite sind bekannt und zun\u00e4chst kein spezifisches Problem der Diskriminierung gerade durch ADM-Systeme. Durch die besonders ausgepr\u00e4gte Macht- und Informationsasymmetrie potenzieren sich diese Wirkungen aber: Unter anderem der h\u00e4ufig anzutreffende Black-Box-Charakter der ADM-Systeme und die Unf\u00e4higkeit, von den Entscheidungen auf den Einsatz solcher Systeme und ihre Funktionalit\u00e4ten zur\u00fcckzuschlie\u00dfen, machen es f\u00fcr Betroffene praktisch mangels Ressourcen unm\u00f6glich, den Ursachen einer Benachteiligung auf die Spur zu kommen (Abschnitt 2 des Gutachtens).<\/p>\n

Es fehlen:<\/p>\n