AutoCheck – Welche Diskriminierungsrisiken stecken in automatisierten Entscheidungssystemen?
Neue Publikation: Was tun, wenn Algorithmen diskriminieren? Unsere Handreichung hilft dabei, Fälle zu erkennen und zu bekämpfen. Jetzt lesen
Prozesse automatisierter Entscheidungsfindung (automated decision-making, ADM) begegnen uns in immer mehr Bereichen unseres Lebens – sie beurteilen unsere Kreditwürdigkeit oder legen individualisierte Preise im Onlinehandel fest. Ihr Einsatz führt jedoch nicht unbedingt zu objektiveren oder neutraleren Entscheidungen. So zeigte eine Studie von AlgorithmWatch, dass auf Facebook veröffentlichte Stellenausschreibungen durch die Auswahl der verschiedenen Zielgruppen grobe Vorurteile bedienten. Zum Beispiel wurde eine Stellenausschreibung für eine*n Lastwagenfahrer*in zehn Mal häufiger Männern als Frauen angezeigt und eine Stellenausschreibung für eine*n Erzieher*in 20 Mal häufiger Frauen als Männern. Wenn ADM-Systeme diskriminierende Entscheidungen treffen, sind potenziell viele Menschen davon betroffen, denn alle Entscheidungen folgen dem gleichen Muster. Die Risiken sind demnach systematisch und die gesamtgesellschaftlichen Auswirkungen können groß sein.
„Es steht für mich außer Frage, dass das Diskriminierungsrisiko durch automatisierte Entscheidungssysteme alle Lebensbereiche umfassen und in der Antidiskriminierungsarbeit eines der relevantesten Themen sein wird.“ (Antidiskriminierungsexpertin)
In unserem Projekt AutoCheck – Handlungsanleitung für den Umgang mit Automatisierten Entscheidungssystemen für Antidiskriminierungsstellen haben wir von Februar 2021 bis Juli 2022 konkrete und verständliche Anleitungen und Werkzeuge erarbeitet, die helfen, Diskriminierungsrisiken besser einschätzen zu können. Dazu haben wir außerdem Fortbildungen konzipiert. Die Ergebnisse basieren auf Fallbeispielrecherchen und Interviews mit Antidiskriminierungsexpert*innen. Wir geben Antworten auf die wichtigsten Fragen: Was sind automatisierte Entscheidungssysteme? Wie kommt es zu Diskriminierung? Wie kann ich diese Form der Diskriminierung erkennen und was kann dagegen getan werden? In den Publikationen finden Sie Fallbeispiele und konkrete Hilfestellung in Form von Hinweisen, Checklisten, Quellen und Kontaktinformationen zu Anlaufstellen.
Die Veröffentlichungen im Rahmen des Projekts richten sich in erster Linie an Mitarbeitende von Antidiskriminierungsstellen in Deutschland. Durch Kompetenzaufbau in diesem immer wichtiger werdenden Themenfeld sollen sie in die Lage versetzt werden, Risiken besser zu erkennen und einzuschätzen und dadurch in konkreten Diskriminierungsfällen Betroffene besser unterstützen zu können. Darüber hinaus sollen die Publikationen auch den von Diskriminierung Betroffenen die Möglichkeit geben, sich über das Thema zu informieren.
Den Ratgeber „Automatisierte Entscheidungssysteme und Diskriminierung: Ursachen verstehen, Fälle erkennen, Betroffene unterstützen“ finden Sie hier.
Die vollständigen Workshop-Unterlagen finden Sie hier. Sie sind so gestaltet, dass Workshops mit etwas Vorwissen eigenständig umgesetzt werden können. Sollten Sie Interesse daran haben, dass wir für Sie oder Ihre Organisation einen Workshop anbieten, dann melden Sie sich gerne bei Jessica Wulf.
Gefördert von
