Polen: Regierung schafft umstrittenes Scoring-System für Arbeitslose ab

Im Jahr 2014 hat die polnische Regierung eine komplexe Reform der öffentlichen Arbeitsvermittlung Publiczne Służby Zatrudnienia (PSZ) eingeleitet, die in fast 350 Städten Jobcenter betreibt.

In diesen lokalen Zweigstellen registrieren sich die Menschen, wenn sie arbeitslos werden. Hier erhalten sie finanzielle Unterstützung und Hilfe, um wieder in den Arbeitsmarkt zu kommen. Doch wie in vielen Bereichen des Sozialwesens sind die Ressourcen der PSZ begrenzt und nicht alle Betroffenen können unterstützt werden. Um dieses Problem zu bewältigen, hat die Regierung einen Profiling-Mechanismus eingeführt, der es ermöglichen sollte, die Unterstützung auf die individuellen Bedürfnisse zuzuschneiden, bürokratische Ineffizienz zu reduzieren und ein besseres Preis-Leistungs-Verhältnis zu erzielen.

Wie funktioniert das Scoring?

Die Idee war einfach: Arbeitslose werden abhängig von ihren Chancen bei der Arbeitssuche in drei Gruppen eingeteilt. Jede Gruppe erhält die Art von Unterstützung, die ihrer Situation angepasst ist. Diese Kategorisierung erfolgt halb-automatisiert mithilfe eines Scoring-Systems. Das System ordnet dafür jede Person auf der Basis von 24 Datenpunkten einem der drei Profile zu.

Acht Datenpunkte werden bei der Anmeldung beim Jobcenter erhoben, darunter Alter, Geschlecht, Behinderung und Dauer der Arbeitslosigkeit. Weitere Daten werden während eines computerbasierten Interviews gesammelt. Dabei handelt es sich um einen Katalog scheinbar offener Fragen - die Antworten werden jedoch mithilfe einer Liste von festgelegten Antworten erfasst. So müssen die PSZ-Mitarbeiter*innen beispielsweise die frei formulierte Antwort auf die Frage „Was ist das Haupthindernis für die Rückkehr in den Arbeitsmarkt?“ einer von 22 vordefinierten Wahlmöglichkeiten zuweisen. Anhand des daraus gebildeten Scores entscheidet ein Algorithmus, welcher Kategorie der oder die Arbeitslose zugeordnet wird. Daraus ergibt sich der Umfang der Unterstützung, den die Person beantragen kann.

Jedes Profil enthält Gruppen mit unterschiedlichen demografischen Eigenschaften und Problemen. Das erste Profil umfasst beispielsweise Menschen mit hohem Bildungsniveau, die engagiert sind und über genügend berufliche Qualifikationen verfügen, um relativ schnell einen Arbeitsplatz zu finden. Die Annahme ist, dass Personen dieser Gruppe seitens der PSZ nicht viel Aufmerksamkeit erfordern - dennoch könnten sie Mittel erhalten, um ein Unternehmen zu gründen oder Gutscheine für Schulungen bekommen. Laut offizieller Statistik sind zwischen 2% und 5% der Arbeitslosen diesem Profil zugeordnet.

Dem zweiten Profil sind Personen zugewiesen, von denen angenommen wird, dass sie größere Schwierigkeiten beim Wiedereintritt in den Arbeitsmarkt haben – etwa weil ihnen dazu Fähigkeiten oder die Ausbildung fehlten. Sie gelten jedoch als vielversprechend, weshalb die PSZ die größten Ressourcen für diese Gruppe bereitstellt. Zwei Drittel der Menschen sind dieser Kategorie zugeordnet und können sich für eine Vielzahl unterschiedlicher Hilfeleistungen bewerben.

Und dann gibt es die dritte Kategorie, die etwa 30 % der Arbeitslosen umfasst – darunter diejenigen, die schwerwiegende Probleme wie chronische Erkrankungen, Behinderungen oder Sucht zu bewältigen haben. Theoretisch sollte es ihnen auch möglich sein, bestimmte Hilfeleistungen zu beantragen. Tatsächlich führen finanzielle und organisatorische Probleme jedoch dazu, dass die örtlichen Jobcenter den Personen dieser Kategorie nur wenig anbieten. Sie werden als hoffnungslose Gruppe abgeschrieben, in die es sich nicht zu investieren lohnt.

Der Algorithmus in einer komplexen Umgebung

Der Profiling-Mechanismus war ursprünglich als Beratungsinstrument gedacht. Die Mitarbeiter*innen der PSZ sollten das letzte Wort darüber haben, in welche Gruppe Betroffene eingeordnet werden. Gleichzeitig wollte das Arbeitsministerium eine bessere Standardisierung der Entscheidungsverfahren an der Basis erreichen.

Dieser Widerspruch hat das Design des Systems und der Entscheidungsregeln beeinflusst. Nach der Berechnung des Profils einer Person erlaubt das System den Sachbearbeitern, die vom Computer getroffene Entscheidung zu akzeptieren oder abzulehnen. Doch frühe Statistiken haben gezeigt, dass sich die Sachbearbeiter sich in weniger als einem von 100 Fällen entschieden haben, dem errechneten Ergebnis zu widersprechen. Den Mitarbeitern fehlte meist die Zeit, Entscheidungen im Detail zu prüfen, aber sie befürchteten auch Konsequenzen vonseiten ihrer Vorgesetzten, wenn eine Entscheidung später infrage gestellt würde.

Diese gegensätzlichen Ziele und Erwartungen an den Profiling-Mechanismus schaffen eine Situation, in der die Sachbearbeiter das System abhängig von der lokalen Organisationskultur auf sehr unterschiedliche Weise nutzen. In vielen Gegenden war der Computer der ultimative Entscheidungsträger, in anderen war er bloß ein Teil des umfassenderen Diagnoseprozesses und in einigen Fällen können Entscheidungen an die Erwartungen der oder des Arbeitslosen angepasst werden.

In der Praxis hängt die Art und Weise, wie das System eingesetzt wird, also von verschiedenen Faktoren ab – organisatorischen Problemen, individuellen Vorlieben und dem Design des Instruments selbst. Aus diesem Grund hat das Profiling-System das Ziel seiner Hersteller nicht erreicht, als zentrale Kategorisierungsmaschine zu dienen.

Algorithmische Kämpfe

Die organisatorischen Mängel innerhalb der PSZ sind nicht die einzigen Probleme in Bezug auf das Profiling-System. Schon vor seiner Einführung wurde das System von der Zivilgesellschaft und der polnischen Datenschutzbehörde kritisiert. Die größten Bedenken betrafen Probleme bei der Verarbeitung personenbezogener Daten und die mangelnde Transparenz bei der Entscheidungsfindung.

Unter dem neuen Gesetz, mit dem das automatische Profiling eingeführt wurde, haben Arbeitslose kein Anrecht auf Informationen darüber, wie das Computersystem ihre Situation festgestellt hat (z.B. die Logik dahinter, welche Daten genau verwendet wurden und wie sich dies auf die Entscheidung ausgewirkt hat). Ebenso wenig konnten sie die Entscheidung, die der Computer getroffen hatte, anfechten oder ein menschliches Eingreifen einfordern.

Die Stiftung Panoptykon (Fundacja Panoptykon), eine führende Organisation für digitale Rechte in Polen, nutzte die Bestimmungen zur Informationsfreiheit, um einige wesentliche Details des Profiling-Mechanismus anzufordern. Nach einigen Auseinandersetzungen mit dem Arbeitsministerium - darunter eine, die erst vor Gericht entschieden wurde - konnte Panoptykon die Fragen des computerbasierten Interviews sowie die Bewertungsregeln veröffentlichen. Diese Intervention ermöglichte es Arbeitslosen, das System besser zu verstehen (und in manchen Fällen wohl auch die Endergebnisse zu beeinflussen). Darüber hinaus wurde ein Präzedenzfall geschaffen, computergestützte Interviews als öffentliche Informationen zu behandeln.

Unterdessen führte der Oberste Rechnungshof (Najwyższa Izba Kontroli), der für den Staatshaushalt, die öffentlichen Ausgaben und die Verwaltung des öffentlichen Eigentums zuständig ist, eine allgemeine Überprüfung der PSZ durch, die sich unter anderem mit dem Profiling-Mechanismus befasste. Die Untersuchung ergab, dass das System unwirksam ist und zu Diskriminierung führen kann. Nach den Bewertungsregeln werden Frauen anders bewertet als Männer. Menschen aus benachteiligten Bevölkerungsgruppen (alleinerziehende Mütter, Menschen mit Behinderungen und Landbewohner) haben eine höhere Wahrscheinlichkeit, dem dritten Profil zugeordnet zu werden. In der Praxis verringern sich somit ihre Chancen, Hilfe von der PSZ zu bekommen.

Auch die Mitarbeiter*innen der PSZ sind mit dem Profiling-System unzufrieden. Laut offizieller Bewertung der Regierung bestätigen 44 % der lokalen Jobcenter, dass Profiling für  ihre tägliche Arbeit nutzlos ist. Und 80 % kommen zu dem Schluss, dass das System verändert werden sollte. Zudem haben viele Arbeitslose Beschwerden eingereicht und die Ergebnisse des Profilings auf Grundlage des Verwaltungsrechts angefochten.

Ein weiterer maßgeblicher Kritiker des Profiling-Systems war der Kommissar für Menschenrechte, der den Profiling-Fall an das polnische Verfassungsgericht verwiesen hat. Der Haupteinwand des Gerichts war eher formal: Der Umfang der beim Profiling genutzten Daten hätte in dem vom Parlament verabschiedeten Gesetz festgelegt werden müssen und hätte nicht durch die Regierung beschlossen werden dürfen. Ende 2018 entschied das Gericht, dass es sich um einen Verstoß gegen die polnische Verfassung handelte.

Nach dieser Kritik und dem Urteil des Gerichts hat die Regierung beschlossen, das Experiment mit dem Profiling von Arbeitslosen zu beenden. Sie hat eine Gesetzesänderung eingebracht, die das Bewertungssystem bis Dezember 2019 abschaffen wird.

Dieser Fall liefert zwei interessante Erkenntnisse über die Entwicklung von Systemen zur automatisierten Entscheidungsfindung.

Erstens: Demokratische Institutionen können erfolgreich öffentliche Diskussionen über Technologie führen und deren Einsatz in Frage stellen. Gerichte, Menschenrechtskommissare, zivilgesellschaftliche Organisationen und Bürger*innen verfügen über die rechtliche und politische Macht und die Werkzeuge, um den durch Algorithmen geschaffenen Herausforderungen begegnen zu können. Allerdings erfordert es oft ein hohes Maß an Kreativität im Umgang mit bestehenden Gesetzen, wenn man verstehen will wie die Automatisierung von Entscheidungsprozessen durch unterschiedliche Rechtssysteme geregelt werden kann. Im polnischen Beispiel waren die Bestimmungen über den Zugang zu öffentlichen Informationen, das Sozial- und das Verwaltungsrecht entscheidende Elemente für den Schutz von Grundrechten gegenüber Algorithmen.

Zweitens: Das organisatorische Umfeld und die alltägliche Einsatz automatisierter Systeme sind entscheidende Faktoren, die von Designern und Kritikern gleichermaßen berücksichtigt werden sollten. Es kann eine große Kluft entstehen zwischen der Art und Weise, wie die Interaktion von Menschen mit Technologie konzipiert wird und wie sie tatsächlich genutzt wird. Die Geschichte algorithmischer Systeme in der Praxis ist komplexer und nuancierter, als wir erwarten.

Weitere Informationen über das Profiling-System der PSZ finden Sie im Report der Stiftung Panoptykon (PDF).

Übersetzung: AlgorithmWatch

---

Jedrzej Niklas arbeitet zu der Schnittstelle von datenbasierter Technologie, Staat und Menschenrechten. Seine Forschungsschwerpunkte sind die Nutzung von Daten und neuen Technologien durch öffentliche Verwaltungen und die sozialen und rechtlichen Auswirkungen digitaler Innovationen, insbesondere in Hinblick auf die Rechte marginalisierter Gruppen und auf soziale Gerechtigkeit. Er ist Postdoctoral Researcher an der University of Leeds und Visiting Fellow an der London School of Economics and Political Science.