Pressemitteilung
Neue Studie zu KI im Personalwesen: Beschäftigten fehlt Kontrolle und Mitbestimmung
Beschäftigte müssen mitreden können, wenn am Arbeitsplatz sogenannte Künstliche Intelligenz (KI) eingesetzt wird. Unternehmen verwenden immer häufiger automatische Entscheidungssysteme (automated decision-making, ADM), die auf Maschinellem Lernen, einem KI-Verfahren, beruhen. Die KI-Verordnung der EU allein wird nicht ausreichen, um beim Einsatz dieser Systeme die Rechte der Beschäftigten zu sichern. Eine von der Hans-Böckler-Stiftung geförderte Studie von AlgorithmWatch erläutert, wie sich Mitsprache konkret umsetzen lässt.
Berlin, 16. März 2023. Bei Bewerbungsprozessen sortieren ADM-Systeme Lebensläufe aus, legen Schichtpläne fest und entscheiden darüber mit, welche Angestellten befördert und welche entlassen werden. KI kann komplexe Muster in existierenden Datensätzen erkennen und auf dieser Basis Prognosen stellen. Wenn daraus Personalentscheidungen abgeleitet werden, kann das weitreichende Konsequenzen für die Beschäftigten haben.
Machtgefälle
Allzu oft ist aber völlig unklar, wie die maschinellen Entscheidungen zustande gekommen sind. Dadurch wird das Machtgefälle zwischen dem Management und der Belegschaft größer. Die Beschäftigten können nicht beurteilen, ob fair, gerecht und auf Grundlage angemessener Daten entschieden wurde. Es fehlt letztlich an einer Kontrollinstanz für diese Systeme. „Wenn Systeme des automatisierten Entscheidens für die Personalverwaltung eingesetzt werden, dann werden etablierte Prozesse der betrieblichen Mitsprache ausgehebelt. Es fehlt der Einblick in diese Systeme, so dass Beschäftige ihnen oft machtlos gegenüberstehen. Daher braucht es eine umfassende Transparenz und eine prozessbegleitende Mitsprache von Beschäftigten“, so Dr. Anne Mollen, die Mitautorin der Studie.
Regulierungsversuche
In der EU wird gerade versucht, die mit KI-Systemen einhergehenden Risiken durch die geplante KI-Verordnung gesetzlich zu regulieren. Ein solcher Ansatz zielt aber nur darauf, die schlimmsten Risiken für Beschäftigte abzuwenden. Damit Beschäftigte und Betriebsräte Einfluss auf den Einsatz von KI-Systemen am Arbeitsplatz nehmen können, ist der Gesetzgeber gefragt: Er sollte verpflichtend umfassende Transparenzanforderungen für diese Systeme einführen und Mitsprache ermöglichen.
Aktive Mitbestimmung
Denn Angestellte und ihre Repräsentant*innen sollten aktiv ihre Interessen wahren, wenn ADM-Systeme eingeführt werden. Sie müssen während der gesamten Entwicklung, Implementierung und Anwendung von Personalsystemen an den Planungs- und Umsetzungsprozessen beteiligt werden. Um im Einzelfall grundlegende Zusammenhänge zu verstehen und wichtige Fragen zu stellen, sollten ihnen externe Expert*innen für Maschinelles Lernen dabei helfen, sich kritisch mit den Systemen auseinanderzusetzen, deren Unzulänglichkeiten zu erkennen und potenzielle Risiken einzuschätzen.
Die Studie ist im Augenblick nur auf Englisch erhältlich und wird im April 2023 auch auf Deutsch veröffentlicht:
Lesen Sie mehr zu unserer Policy & Advocacy Arbeit zu ADM am Arbeitsplatz.