Schweden: Fehlerhafter Algorithmus stoppt Zahlungen für über 70.000 Arbeitslose
Automatisierte Entscheidungsfindung ist in Schweden zum nationalen Gesprächsthema geworden, nachdem ein Bericht des staatlichen Senders aufgedeckt hat, dass Tausenden Arbeitslosen durch einen blindwütigen Verwaltungscomputer zu Unrecht die Auszahlung ihrer Sozialleistungen verweigert wurde.
Die Sprecher des schwedischen Arbeitsamtes (Arbetsförmedlingen) fingen an, das System zu untersuchen, nachdem sie bemerkt hatten, dass es Briefe an Antragsteller nicht wie erwartet erstellt hatte. Laut SVT-Bericht hatten sie am Ende dieser Prüfung im vergangenen Jahr erhebliche Mängel festgestellt; 10 -15% der Entscheidungen des Computers waren falsch.
Noch ist unklar, wann genau das Problem begonnen hat und ob es möglich sein wird, die irrtümlichen Entscheidungen zu identifizieren und zu berichtigen.
Die Regierung hatte das Computersystem eingeführt, um den Prozess zu automatisieren, in dem geprüft wird, ob Menschen, die eine bestimmte Form der Arbeitslosenunterstützung erhalten, ihre Verpflichtungen erfüllen – und um Verwarnungen zu versenden oder die Zahlungen zurückzuhalten, wenn sie es nicht tun. Dies sollte die Effizienz steigern, aber seit dem vergangenen Herbst ist das System abgeschaltet und es wurden wieder menschliche Mitarbeiter eingesetzt, um den Schaden zu beheben/ den Schlamassel zu beseitigen.
Obwohl Insider wussten, dass möglicherweise Tausende Entscheidungen falsch waren, hat die Behörde die Öffentlichkeit nicht über das Problem informiert.
Der Forschungsbeauftragte des schwedischen Gewerkschaftsbundes (Landsorganisationen i Sverige) Adnan Habibija sagte: „Es ist bedauerlich, dass ein Computerfehler im Arbeitsamt für viele Menschen zu falschen Zahlungsentscheidungen geführt hat. Dies könnte für viele Bezugsberechtigte, deren wirtschaftliche Situation von den Zahlungen der Arbeitslosenversicherung abhängt, zu Ungewissheit geführt haben.
Fehler können passieren, aber wir waren überrascht, dass die Behörde so lange damit gewartet hat, die Bezieher von Arbeitslosengeld, aber auch die eigenen Mitarbeiter, die Regierung und andere Beteiligte zu informieren.”
In einem Artikel in der schwedischen Tageszeitung Dagens Nyheter schrieben die Forscherinnen Anne Kaun und Julia Velkova, die zum kürzlich von AlgorithmWatch veröffentlichten Report über die Nutzung automatisierter Entscheidungsfindung in Europa beigetragen haben, dass die Lage die Risiken eines wachsenden Trends verdeutlicht.
„Die öffentliche Verwaltung in Schweden hat damit begonnen, beim Treffen von Entscheidungen Menschen durch Algorithmen zu ersetzen; von der Zahlung von Sozialleistungen bis hin zu Kindergeld und Krankengeld“, schreiben sie. „Bürgerinnen und Bürger wissen nicht, ob ihre Entscheidung von einem Algorithmus oder von Beamten getroffen wurde.“
Im Report von AlgorithmWatch erörtern Kaun und Velkova die Bearbeitung von Sozialhilfeanträgen im südschwedischen Trelleborg. Die Kommune nutzt Maschinen, um die Daten der Antragssteller mit anderen Behörden wie z. B. dem Finanzamt abzugleichen. Dies ist ein Beispiel für automatisierte Entscheidungsfindungen, die derzeit aus unterschiedlichen Gründen in Europa eingeführt werden. Der Report betont die mangelnde Aufsicht über einer Automatisierung, die dafür genutzt wird, über Millionen von Bürgerinnen und Bürger zu urteilen.
Eine Bekanntmachung, die das schwedische Arbeitsamt als Reaktion auf die SVT-Recherchen auf seiner Webseite veröffentlicht hat, besagt, dass im Bezug auf Verwarnungen oder Sanktionen 500.000 automatisierte Entscheidungen durch das fehlerhafte System getroffen wurden.
Schweden, die an bestimmten Regierungsprogrammen für Arbeitslose teilnehmen, müssen monatlich einen Aktivitätsbericht. Dies kann durch Einloggen auf einer Webseite, mit einem Smartphone oder über das Ausfüllen eines Papierformulars erledigt werden. Die Behörde teilte mit, Probleme mit der Webseite und mit der Registrierung von manuell eingereichten Aktivitätsberichten seien unter anderem Faktoren gewesen, die dazu geführt hätten, dass der Computer fehlerhafte Sanktionen erteilt habe.
Die Webseite des Arbeitsamtes besagte dazu: „Alle Personen, die von der Fehlfunktion betroffen waren, werden ihre Fallentscheidungen berichtigt bekommen, sofern sie mit dem Arbeitsamt im Kontakt stehen.”
In derselben Woche, in der die Probleme mit dem Algorithmus bekannt wurden, hat die Behörde angekündigt, sie habe ein zweites System automatisierter Entscheidungsfindung in Betrieb genommen. Dieser neue Algorithmus wird darüber entscheiden, wer ein Recht auf staatlich geförderte Beschäftigung hat, die manchen Langzeitarbeitslosen und kürzlich Eingewanderten zustehen. Innerhalb der nächsten zwei Jahre soll die Verwaltung zwei weitere Dienste automatisieren, berichtete der Sender SVT.
Diese Nachricht kommt nur drei Wochen nachdem das Arbeitsamt angekündigt hat, dass bis zu 4.500 seiner 13.500 Angestellten gekündigt werden sollen. Die Behörde berief sich dabei auf eine Budgetkürzung von 800 Millionen Schwedischen Kronen (75 Millionen €) zwischen 2018 und 2019. Generaldirektor Mikael Sjöberg wurde in einer Presseerklärung mit den Worten zitiert: „Die Erneuerung der Behörde und die Digitalisierung, die wir durchgeführt haben, haben eine gute Grundlage dafür gelegt, weiter auf einem hohen Niveau Leistungen zu erbringen.“
Übersetzung: Maike Majewkski
Hat dir diese Story gefallen?
Alle zwei Wochen untersucht „Die automatisierte Gesellschaft“ die Auswirkungen automatisierter Systeme auf die Gesellschaft und die Welt um dich herum. Melde dich jetzt an und verpasse keine Story mehr!