Algorithmenbasierte Diskriminierung – Warum Antidiskriminierungsgesetze jetzt angepasst werden müssen

Im fünften Digital Autonomy Policy-Brief beschreiben wir die Besonderheiten algorithmenbasierter Diskriminierung. Wir zeigen, dass gegenwärtige Antidiskriminierungsgesetze rund um ADM-Systeme Rechtslücken aufweisen und skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.
Max Gruber | Better Images of AI | Clickworker 3d-printed | CC-BY 4.0

Systeme des automatisierten Entscheidens können diskriminieren. Viele Menschen können davon im Alltag betroffen sein – beim Ausfüllen von Online-Formularen, beim Online-Shopping oder als Nutzer·in von sozialen Medien. Die Antidiskriminierungsgesetze in Deutschland, insbesondere das Allgemeine Gleichbehandlungsgesetz (AGG), bieten bisher keinen lückenlosen Rechtsrahmen, um gegen diese algorithmenbasierte Diskriminierung vorzugehen. Wir skizzieren, welche Anpassungen es geben muss, damit Betroffene ihr Recht auf Nichtdiskriminierung auch im digitalen Raum durchsetzen können.

Mehr über das Digital Autonomy Hub und weitere Policy Briefs finden Sie hier.

Der Policy Brief des Digital Autonomy Hubs erscheint vierteljährlich, mit dem Ziel, Impulse und Denkanstöße zu geben, aber auch Wissen und Erkenntnisse aus diesem Netzwerk abzubilden und aktuelle Regulierungs-Ansätze einzuordnen. Zielgruppen sind die (Fach-)Öffentlichkeit, politische Entscheidungsträger·innen, Zivilgesellschaft und Wissenschaft.

Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zum Digital Autonomy Hub.

Anne Mollen (sie/ihr)

Senior Policy & Advocacy Managerin

Photo: Julia Bornkessel, CC BY 4.0

Als Senior Policy & Advocacy Manager widmet sich Anne bei AlgorithmWatch schwerpunktmäßig den Bereichen ADM und Nachhaltigkeit, ADM am Arbeitsplatz sowie ADM im öffentlichen Sektor – Letzteres mit einem Fokus auf unsere Arbeit auf deutscher Ebene. Sie hat an der Universität Bremen zu Technologien und Medienpraktiken in zunehmend digitalen Demokratien promoviert und in verschiedenen Projekten zum Zusammenhang von digitalen Medientechnologien, Gesellschaft und Demokratie geforscht.

Anna Lena Schiller

Projektmanagerin Unding

Foto: Julia Bornkessel, CC BY 4.0

Anna Lena ist bei AlgorithmWatch Projektmanagerin für die Meldeplattform Unding. Ihren Abschluss machte sie an der Business-Uni „KaosPilots“ in Aarhus, Dänemark mit dem Schwerpunkt soziales Unternehmertum. Bei AlgorithmWatch liegt ihr Arbeitsschwerpunkt im Bereich Auswirkungen automatisierter Entscheidungen und Diskriminierung durch Algorithmen. Zuvor hat Anna Lena zehn Jahre lang eine Designagentur für Informationsvisualisierung geführt und datenjournalistische Projekte umgesetzt.

Jessica Wulf (sie/ihr)

Projektmanagerin AutoCheck

Foto: Julia Bornkessel, CC BY 4.0
Deutsch, Englisch, Spanisch, Portugiesisch wulf@algorithmwatch.org 2 Beiträge von Jessica Wulf

Jessica Wulf ist Projektmanagerin für das Projekt AutoCheck – Handlungsanleitung für den Umgang mit Automatisierten Entscheidungssystemen für Antidiskriminierungsstellen. In dem Projekt suchen wir nach Fallbeispielen von Diskriminierungserfahrungen durch automatisierte Entscheidungssysteme (ADMS) im deutschen Kontext. Darüber hinaus erarbeiten wir konkrete und verständliche Anleitungen und Werkzeuge für Antidiskriminierungsberatungsstellen und konzipieren Fortbildungen zum Thema ADMS und Diskriminierungsrisiken. Jessica Wulf hat Psychologie mit einem Schwerpunkt auf Arbeit und Bildung sowie Internationale Entwicklung studiert. Im Zuge ihres Studiums hat Jessica sich mit (unbewussten) Vorurteilen sowie gesellschaftlichen und globalen Machtverhältnissen beschäftigt. Vor AlgorithmWatch hat Jessica als Gender und Diversitätsbeauftragte der Wirtschaftsuniversität Wien sowie als Trainerin für internationale Freiwillige gearbeitet.