KI-basierte Systeme für das Personalmanagement – was ist fair, was ist erlaubt?

Zusammenfassung der Ergebnisse des Forschungsprojekts „Automatisiertes Personalmanagement und Mitbestimmung“

Unternehmen, die KI-basierte "People-Analytics"-Systeme verwenden, handeln möglicherweise rechtswidrig. Denn solche Systeme dürfen nicht eingesetzt werden, ohne dass Beschäftigte individuell eingewilligt haben oder eine Betriebsvereinbarung vorliegt. Zudem erfüllen "Black-Box"-Systeme nicht die Auskunftsanforderungen des Betriebsverfassungsgesetzes. Autonomie und Mitsprache der Beschäftigten müssen auch dann gewährleistet sein, wenn algorithmische Systeme im Personalmanagement eingesetzt werden. Doch Beschäftigte müssen sich auch selber angemessene Kompetenzen erarbeiten, um diese Verfahren zu verstehen.

Matthias Spielkamp

Mitgründer und Geschäftsführer

Foto: Julia Bornkessel, CC BY 4.0
Matthias Spielkamp ist Mitgründer und Geschäftsführer von AlgorithmWatch, das mit der Theodor-Heuss-Medaille ausgezeichnet und für einen Grimme Online Award nominiert wurde. Er war Sachverständiger in Anhörungen des Europarats, der EU-Parlaments, des Bundestags und ist Mitglied der Global Partnership on Artificial Intelligence (GPAI). Matthias ist Vorstandsmitglied bei Reporter ohne Grenzen, Mitglied des Kuratoriums der Stiftung Warentest, im Beirat des Whistleblower Netzwerks und im Fachausschuss Kommunikation/Information der Deutschen UNESCO-Kommission. Er ist Autor und Herausgeber der Automating Society Reports und Büchern zu Algorithmen, KI und Automatisierung, Internet Governance, der Zukunft des Journalismus und des Urheberrechts. Seine journalistischen Beiträge sind in MIT Technology Review, Die Zeit, brand eins und vielen anderen Publikationen erschienen. MA Philosophie, FU Berlin, MA Journalismus, University of Colorado at Boulder.