Offener Brief: Jetzt algorithmenbasierte Diskriminierung anerkennen und Schutzlücken schließen!

Das Allgemeine Gleichbehandlungsgesetz (AGG) weist in seiner heutigen Form wesentliche Schutzlücken auf. AlgorithmWatch und 20 weitere zivilgesellschaftliche Organisationen fordern die Bundesregierung auf, diese Lücken zu schließen und die Bevölkerung zukünftig vor algorithmenbasierter Diskriminierung zuverlässig zu schützen.

Photo by John Cameron on Unsplash

Sehr geehrte Mitglieder der deutschen Bundesregierung,
sehr geehrter Herr Marco Buschmann, Bundesminister der Justiz,

vor 15 Jahren wurde das Allgemeine Gleichbehandlungsgesetz (AGG) eingeführt, um Menschen in Deutschland vor und bei Diskriminierungserfahrungen rechtlich zu schützen. Heute jedoch ist unsere Lebenswelt eine andere als damals: In viele gesellschaftliche Lebensbereiche haben automatisierte, algorithmenbasierte Entscheidungssysteme Einzug gehalten. Diesen wird oft zugeschrieben, dass sie Entscheidungen neutraler oder objektiver treffen. Es zeigt sich aber, dass sie im Gegenteil oft diskriminierend wirken und bestehende Ungerechtigkeiten zementieren oder gar verstärken können, wie verschiedene Beispiele illustrieren. Eine Studie von AlgorithmWatch zeigte, dass Facebook grobe geschlechterspezifische Stereotypen verwendet, um zu optimieren, wie Anzeigen geschaltet werden. In den Niederlanden wurden aufgrund eines diskriminierenden Algorithmus tausende Familien mit geringerem Einkommen oder mit Migrationshintergrund fälschlicherweise aufgefordert, Kindergeld zurückzuzahlen. Viele von ihnen wurden damit in den Ruin getrieben und Eltern mitunter das Sorgerecht für ihre Kinder entzogen.

Das Allgemeine Gleichbehandlungsgesetz weist in seiner heutigen Form wesentliche Schutzlücken auf. Im Namen von 21 Organisationen fordern wir Sie auf, die Reform des AGG zum Anlass zu nehmen, um diese Lücken zu schließen und die Bevölkerung auch vor algorithmenbasierter Diskriminierung zuverlässig zu schützen.

Konkret richten wir die folgenden Forderungen an die Bundesregierung: 

Wir fordern Sie auf, den Koalitionsvertrag umzusetzen und mittels der oben aufgeführten Maßnahmen das Recht aller Menschen, keine Diskriminierung erleiden zu müssen, durch eine umfassende Revision des Allgemeinen Gleichbehandlungsgesetzes und weitere politische Maßnahmen wirksam und nachhaltig zu schützen. Um dies sicherzustellen, müssen wir auch rechtlich anerkennen, dass heute algorithmische Entscheidungssysteme das persönliche und gesellschaftliche Leben in vielen Bereichen und mit vielschichtigen Auswirkungen prägen. Nur dann werden wir einen effektiven Schutz vor algorithmenbasierter Diskriminierung erreichen ­– und den Menschen die Möglichkeit bieten, ihr Recht auf Gleichbehandlung auf Basis eines effektiven Rechtsschutzes geltend zu machen.   

Wir danken Ihnen für Ihre Bemühungen.

Mit freundlichen Grüßen


AlgorithmWatch

AlgorithmWatch CH

Antidiskriminierungsverband Deutschland (advd)

AWO Bundesverband e.V.

Berliner Fachstelle gegen Diskriminierung auf dem Wohnungsmarkt, Fair mieten – Fair wohnen

Bundeskonferenz der Migrantenorganisationen

CLAIM - Allianz gegen Islam - und Muslimfeindlichkeit

D64 – Zentrum für Digitalen Fortschritt e.V.

Deutscher Juristinnenbund e.V. (djb)

Deutscher Paritätischer Wohlfahrtsverband - Gesamtverband e. V.

Digitale Freiheit

FrauenComputerZentrum Berlin e.V. 

korientation. Netzwerk für Asiatisch-Deutsche Perspektiven e.V.

LSVD-Bundesverband

Migrations- und Integrationsrat Land Brandenburg e.V.

Netzforma* e.V.

Neue deutsche Medienmacher*innen

Open Knowledge Foundation Deutschland e.V.

Türkische Gemeinde Deutschland e.V.

Türkischer Bund in Berlin-Brandenburg e.V. (TBB)

Wikimedia Deutschland e.V.

Abonniere jetzt unseren Community Newsletter!


Mehr Informationen findest du in unserer Datenschutzerklärung.