Jetzt online: ‘Atlas der Automatisierung’ – ADM und Teilhabe in Deutschland’
Automatisierte Entscheidungen durchdringen unseren Alltag und prägen maßgeblich unser Zusammenleben – oft ohne, dass es uns bewusst ist. Wo diese Systeme in Deutschland zum Einsatz kommen und welchen Einfluss sie auf die gesellschaftliche Teilhabe haben, zeigt der ‘Atlas der Automatisierung‘, den AlgorithmWatch am 2. April in Berlin vorgestellt hat.
Automatisierung ist längst ein fester Bestandteil unseres Lebens. In den vergangenen zehn Jahren haben wir einen Zuwachs an softwarebasierter Automatisierung erlebt wie nie zuvor. Systeme automatisierter Entscheidungsfindung („automated decision-making“, kurz: ADM) steigern unsere Lebensqualität und sind ein Motor gesellschaftlichen Fortschritts. Doch sie bestimmen auch, in welchem Maße soziale Teilhabe ermöglicht oder verwehrt wird.
Der ‘Atlas der Automatisierung‘ von AlgorithmWatch liefert einen Überblick über teilhaberelevante ADM-Systeme, die in Deutschland im Einsatz sind. Er ist eine Sammlung – in diesem Fall nicht von Landkarten und Grafiken, sondern von Themen, die relevant sind für die Beantwortung der Frage, inwiefern diese Systeme den Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung eigener Rechte erschweren – vor allem für Menschen, die ohnehin bereits nicht besonders gut situiert sind oder als benachteiligt gelten können. Dabei verweist der Atlas immer wieder nicht nur auf Diskriminierungspotenziale, die durch die Automatisierung von Entscheidungen entstehen, sondern auch auf Chancen und Vorteile, die durch den Einsatz von automatisierten Entscheidungen ermöglicht werden oder denkbar sind.
Der Report bietet zudem eine Übersicht über die Akteure, die den Diskurs über ADM maßgeblich prägen: Behörden, Forschungseinrichtungen, Interessenverbände und Nichtregierungsorganisationen. Darüber hinaus fasst er bereits bestehende Regulierungsansätze und Verbraucherschutzaspekte von teilhaberelevanten ADM-Systemen zusammen. Einzelne Kapitel widmen sich dem Einsatz von ADM-Systemen in konkreten gesellschaftlichen Feldern: Gesundheit und Medizin, Arbeit, Internet, Sicherheit, Bildung und mehr.
Der ‘Atlas der Automatisierung’ möchte die dringend notwendige gesellschaftliche Auseinandersetzung über die Folgen von ADM-Systemen anstoßen und präsentiert eine Reihe von Handlungsempfehlungen für Politiker*innen und Entscheider*innen in Behörden und Firmen sowie in zivilgesellschaftlichen Organisationen. Zwei der insgesamt neun Empfehlungen lauten:
- Nachvollziehbarkeit sicherstellen
Anstatt in erster Linie Transparenz zu fordern sollte der Fokus auf der Nachvollziehbarkeit von ADM-Systemen liegen: Transparenz alleine hilft bei komplexen Softwareprogrammen und großen Datenmengen wenig; es müssen auch die verarbeiteten Daten offen gelegt und die Verfahren dokumentiert werden. - Aufsicht gewährleisten
Es gibt bereits zahlreiche Regulierungen, die den Einsatz von ADM-Systemen adressieren und ihn steuern sollen. Es muss sichergestellt sein, dass diese Regulierungen auch überprüft und durchgesetzt werden. Dafür müssen die Aufsichtsbehörden angemessen ausgestattet und qualifiziert sein und diese Aufgabe proaktiv verfolgen.
Teil des Atlas-Projekts ist eine frei zugängliche Online-Datenbank, in der rund 150 Akteure, Regulierungen, Softwaresysteme und Technologien beschrieben werden. Die Datenbank lässt sich nach Produkten, Typ/Methoden, Akteuren sowie Regulierungen durchsuchen. Suchergebnisse können nach Themen und Schlagworten gefiltert werden. Diese Datenbank teilhaberelevanter ADM-Systeme wird fortlaufend erweitert.
Der ‘Atlas der Automatisierung’ ist ab sofort verfügbar unter www.atlas-der-automatisierung.de
Gefördert durch:
