Explainer
Der Algorithmus als Boss: Wie KI die Arbeitswelt verändert
Automatisierte Entscheidungssysteme steuern unsere Arbeit, ob in Unternehmen oder über Plattformen, die Aufträge vermitteln. Die Unternehmen können damit ihre Effizienz steigern, aber diese Systeme können auch die Überwachung von Mitarbeiter*innen unangemessen ausweiten. Hinter ihnen versteckt sich außerdem oft die Ausbeutung von Mensch und Umwelt.
Wenn Sie mehr über das Thema erfahren möchten, wenden Sie sich bitte an:
Algorithmische Systeme und KI gehören im Arbeitsleben längst zum Alltag. Viele Unternehmen setzen im Personalmanagement Software ein, um auf Daten von Mitarbeiter*innen zuzugreifen. Bei Bewerbungsprozessen sortieren solche Systeme Lebensläufe aus. Sie legen aber auch Schichtpläne fest und entscheiden darüber mit, ob Angestellte im Unternehmen eine Zukunft haben.
Ein weiteres Einsatzgebiet ist die „Gig Economy“. In diesem Teil des Arbeitsmarktes erhalten Selbstständige und Menschen mit Minijobs über eine Online-Plattform kurzfristig kleine Aufträge. Die Plattform vermittelt zwischen den Kund*innen und den Auftragnehmer*innen. Sie legt auch die Rahmenbedingungen für die Abwicklung der Aufträge fest. Die Plattformbetreiber behalten für die Vermittlung eine Provision ein. Es ist ein relativ neues Phänomen. Der Begriff wurde ab 2005 bekannt, als Plattformen wie Amazon Mechanical Turk und später Uber entstanden. In der Gig Economy werden Plattformarbeiter*innen algorithmisch gesteuert, ohne Kontakt zu einem menschlichen Chef zu haben.
Die beiden Anwendungsfelder haben gemein, dass algorithmische Systeme prinzipiell dazu eingesetzt werden, Prozesse effizienter und produktiver zu machen. Wenn das System langweilige Routine-Arbeitsschritte abnimmt, dürfte das im Sinne der Angestellten sein. Wenn das System aber auf eine maximale Produktivität abzielt, kann das die Arbeitsdichte erhöhen, zu Überwachung oder sogar zur vollständigen Durchleuchtung der Mitarbeiter*innen führen.
Algorithmisches Management
Automatisierte Entscheidungen im Personalmanagement können das Leben der Menschen am Arbeitsplatz tiefgreifend verändern und das Machtgefälle zwischen Arbeitgebern und Arbeitnehmer*innen dauerhaft vergrößern. Ein Beispiel für die Anwendung ist die Angestelltenbindung, bei der die Personalverantwortlichen herausfinden wollen, wer demnächst kündigen könnte. Solche Auswertungen können Arbeitgeber aber auch dazu nutzen, bei einer Massenentlassung Vorschläge zu erhalten, wem gekündigt wird und wer behalten werden sollte. Die algorithmischen Systeme analysieren Daten, finden Muster und treffen basierend darauf Entscheidungen oder geben Empfehlungen ab. Mit dem technologischen Fortschritt können immer mehr Daten zusammengetragen werden. Ein bekanntes Beispiel: Viele Firmen verwenden Microsoft 365. Diese Software beinhaltet die Möglichkeit, mit der Anwendung Microsoft Viva Daten zur Produktivität der Mitarbeitenden zu erheben. Arbeitgeber können diese Daten grundsätzlich auswerten.
Da mit „People Analytics“-Verfahren Entscheidungen über Beschäftigte getroffen werden, müssen klare Regeln dazu etabliert werden.Es gibt verschiedene Gesetze, die einen Einfluss darauf haben, für welche Zwecke Arbeitgeber Daten von Mitarbeitenden verwenden dürfen. Das Bekannteste ist die Datenschutz-Grundverordnung. In vielen Fällen müssen Arbeitgeber das Einverständnis ihrer Angestellten einholen, bevor sie ihre Daten verwenden. Anwendungen zur Überwachung sind jedoch auch nicht erlaubt, wenn ein Einverständnis vorliegt.
Aktuelle Gesetze legen beim Einsatz von algorithmischen Systemen am Arbeitsplatz eine Rechenschaftspflicht fest. Arbeitgeber müssen generell dafür sorgen, dass der Einsatz von algorithmischen Systemen am Arbeitsplatz nachvollziehbar ist. Das bedeutet, dass alle betroffenen Mitarbeitenden wissen, welche ihrer Daten zu welchem Zweck in welchen Systemen eingesetzt werden und welche Auswirkungen es auf sie hat. Empfehlungen und Entscheidungen, die auf Analysen aus algorithmischen Systemen basieren, müssen erklärbar und nachvollziehbar sein. Arbeitnehmende müssen darüber informiert werden, die Informationen müssen verständlich aufgearbeitet sein und leicht zugänglich gemacht werden.
Unternehmen sind nicht immer oder sogar nur selten bereit, freiwillig auf die Vorteile zu verzichten, die sie sich vom Einsatz von People-Analytics-Systemen versprechen. Das Datenschutzrecht deckt automatisierte Entscheidungsprozesse kaum ab. In Deutschland gibt das Betriebsverfassungsgesetz Arbeitnehmer*innen und ihren Vertreter*innen Instrumente an die Hand, mit denen sie von Unternehmen Auskunft über IT-Systeme verlangen können. Diese Bestimmung kann prinzipiell auch auf People-Analytics-Systeme angewendet werden. Es gibt dazu aber noch nicht viele Präzedenzfälle aus der Praxis.
Diskriminierungspotenzial
Der Einsatz von algorithmischen Systemen am Arbeitsplatz und insbesondere bei der Auswahl neuer Mitarbeiter*innen darf keine diskriminierenden Auswirkungen auf Arbeitnehmende haben. Gerade in der Arbeitswelt gibt es viele historische Ungleichheiten, die bekannteste dürfte der Gehaltsunterschied zwischen Frauen und Männern sein. Solche Ungleichheiten können durch die Verwendung von historischen Daten in einem algorithmischen System reproduziert werden.
Außerdem können algorithmische Systeme neue Arten von Diskriminierung hervorbringen. Diesen Umständen müssen Arbeitgeber gerecht werden – seien es private Unternehmen oder Behörden. Sie können unter anderem systematisch Folgenabschätzungen durchführen, um die möglichen Auswirkungen eines Systems auf die Betroffenen und ihre Rechte vorauszusehen, Risiken abschätzen und etwas dagegen zu tun.
Mitbestimmung
Anwender*innen von algorithmischen Systemen am Arbeitsplatz (also die Unternehmen und ihre Personalmanager*innen) und die Vertretungen der Beschäftigten müssen sich Kompetenzen erarbeiten, um die Funktionsgrundlagen der Systeme zu verstehen. Für viele ist das Neuland.
Gewerkschaften und Betriebsräte sollten Arbeitnehmenden praktische Hinweise dazu geben, wie sie bei der Einführung algorithmischer Systeme eigene Interessen wahren können. Dafür müssen sie ein Grundverständnis dafür entwickeln, wie diese Systeme funktionieren.
Der Nutzen, der durch den Einsatz von algorithmischen Systemen am Arbeitsplatz entsteht, soll nicht nur den Eigentümer*innen und Vorgesetzten in Unternehmen zugutekommen. Alle Mitarbeitenden sollten davon profitieren. Eine Voraussetzung dazu wäre, sie bei Entscheidungen über den Einsatz von algorithmischen Systemen im Personalmanagement, operativen Prozessen und anderen relevanten Geschäftsbereichen einzubeziehen und ihnen im Zweifelsfall ein Einspruchsrecht einzuräumen.
„Das erledigt alles die KI?“: Plattformarbeit im Schatten der Technik
Die Plattformarbeit in der Gig Economy schwächt generell die Stellung von Arbeiter*innen. Sie werden oft lückenlos überwacht und durch ein algorithmisches Management gesteuert. Plattformarbeitende sollen die gleichen Rechte haben und den gleichen Schutz erfahren wie Mitarbeitende in anderen unselbstständigen Arbeitsverhältnissen. Zudem müssen sie vor den spezifischen Risiken geschützt werden, die sich durch die fehlende Transparenz auf den Plattformen ergeben. Die bekannten Risiken sind zum Beispiel: Durch die verwendeten Systeme ist nicht nachvollziehbar, ob der Grundsatz „gleicher Lohn für gleiche Arbeit“ eingehalten wird, es fehlen elementare Mitbestimmungsmöglichkeiten, Gründe für Sanktionen sind auf Plattformen nicht nachvollziehbar und Betroffene können sich kaum gegen automatisierte Entscheidungen wehren.
Ausbeutung entlang der Lieferkette
Auch Arbeiter*innen, die bei der Herstellung der technischen Infrastruktur von Plattformen mitwirken, sind prekären Bedingungen ausgesetzt. Entlang der Lieferkette der Hard- und Software-Produktion sind Mineralien notwendig. Diese Mineralien stecken in Batterien und Mikroprozessoren. Oft bauen Menschen diese Mineralien unter furchtbaren Arbeitsbedingungen ab. Deswegen werden sie auch „Blutmineralien” genannt. Unter schlechten Arbeitsbedingungen leiden auch die Plattform-Arbeiter*innen, die die Daten aufarbeiten. Die Datensätze, die für das Training von KI-Systemen benötigt werden, müssen meist erst von sogenannten Crowd- oder Clickworkern gelabelt, das heißt klassifiziert und beschrieben werden. Diese Menschen bearbeiten oft unter prekären Bedingungen massenhaft kleine Aufgaben am Computer (per Klick), ohne fest angestellt zu sein. Bei der Entwicklung und beim Einkauf von KI sollte darauf geachtet werden, dass die Arbeitsbedingungen entlang des gesamten Lebenszyklus einer KI fair sind. Das beinhaltet eine angemessene Entlohnung, gute Arbeitsbedingungen oder auch Aufstiegs- und Weiterbildungsmöglichkeiten – auch für Clickworker.
Die Regulierung der Plattformarbeit steht erst ganz am Anfang. Es sind erste Gesetze vorhanden, die diesen Arbeiter*innen zu ihrem Recht verhelfen. Wir haben wir in einem weiteren Explainer zusammengefasst, welche das sind und was sie bewirken sollen.
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM am Arbeitsplatz.