Die KI-Revolution frisst ihre Gigworker

Im Dezember 2024 suchte John aus Brighton einen Nebenverdienst, um seine Promotion in Literaturwissenschaft zu finanzieren. Ihm fiel eine Online-Anzeige von Outlier auf, einem US-Unternehmen aus dem KI-Sektor, das Menschen suchte, die am Training von großen Sprachmodellen (Large Language Models, LLMs) mitarbeiten wollen.

Outlier ist in diesem Sektor einer der ganz großen Player am Markt. Outliers Dachgesellschaft ist Scale AI, deren Hauptfinanzier Peter Thiel ist, seines Zeichens ehemaliger CEO von PayPal und früher der erste externe Investor bei Facebook.

KI-Systeme sind so gut bei Datenverarbeitung, der Hilfe beim Programmieren oder beim Imitieren von Gesprächen, weil Menschen die Modelle angeleitet haben. John würde Prompts für die KI-Systeme formulieren und dann bewerten, wie korrekt, prägnant und angemessen die Antworten des Modells sind. Dieser Prozess wird “KI-Training“ genannt und dient dazu, den Output der Systeme zu verbessern.

KI-Training ist eine florierende Branche. Johns neuer Job im Home Office schien ziemlich dankbar zu sein, allerdings war das Einstiegsgehalt für eine so zukunftsweisende Branche überraschend niedrig: 15 Dollar pro Stunde, was zu diesem Zeitpunkt nur ein paar Cent über dem britischen Mindestlohn lag.

Outlier bezahlte John nicht für die Anlernzeit. Nach drei Monaten hatte er 36 Stunden bezahlt gearbeitet und zwölf Stunden mit Schulungen verbracht, also war ein Viertel seiner Arbeitszeit unbezahlt. Damit lag sein Verdienst unter dem Mindestlohn. Wenn er mehr Stunden als vorgegeben arbeitete, wurden die Überstunden zu einem geringeren Satz vergütet. Genauso war es, wenn er zusätzliche Arbeit übernahm.

Er ließ sich für ein Projekt (unbezahlt) anlernen, nur um dann zu erfahren, dass es nicht zustande kam. Nach einer Weile war er frustriert: „Aufgewendete Zeit sollte immer angemessen bezahlt werden, egal ob es eine Schulung ist oder nicht.“ Neue Aufgaben gab es insgesamt nur wenige, mit langen Pausen dazwischen. Unterstützung gab es kaum. „Ich bin immer noch in ihrem System, aber ehrlich gesagt können die mich mal.“

Es ging nicht nur John so. Sehr viele Gigworker, die in Europa und den USA am Training großer Sprachmodelle für generative KI arbeiten, werden für Schulungen, Sitzungen, Toilettenpausen, Gespräche mit Vorgesetzten und Urlaub nicht bezahlt. Überstunden werden nicht voll bezahlt. Die Bezahlung auf ein Minimum zu drücken ist überall in der Gig Economy üblich, in der Selbstständige und Menschen mit Minijobs über eine Online-Plattform kurzfristig kleine Aufträge erhalten.

Online-Gigwork hat sich in der Weltwirtschaft schnell etabliert. Laut einem Bericht der Weltbank aus dem Jahr 2023 macht Gigwork mittlerweile zwischen 4,4 und 12,5 Prozent der weltweiten Erwerbstätigkeit aus. Auf der ganzen Welt arbeiten 154 bis 435 Millionen Gigworker.

Wir haben über 200 Gigworker auf vier Kontinenten kontaktiert und über 50 ausführliche Interviews mit Menschen geführt, die für Outlier und ähnliche Unternehmen arbeiten. Fast alle, mit denen wir gesprochen haben, waren am Training von KI-Modellen beteiligt, etwa indem sie selbst Prompts schrieben oder den Output nach Prompts von anderen auswerteten. Für solche Aufgaben können Spezialkenntnisse notwendig sein. Weitere Aufgaben bestehen darin, „unangemessene“ Antworten zu identifizieren, zum Beispiel Aufrufe zu Gewalt oder andere sensible Inhalte, sachliche oder grammatikalische Fehler oder Verstöße gegen Gesundheits- und Sicherheitsvorschriften.

Ausgelagertes Lohndumping

Outlier-Auftragnehmer*innen aus Portugal, den USA, dem Vereinigten Königreich, Argentinien und Deutschland berichten, dass Schulungen und Besprechungen meistens nicht bezahlt werden. „Ich verdiene in etwa den Mindestlohn“, sagt ein portugiesischer Sprachspezialist, „aber es variiert von Projekt zu Projekt.“ Wenn er alle Besprechungen sowie Verwaltungs- und Schulungsarbeiten einbezieht, liege der Verdienst „mit Sicherheit“ unter dem Mindestlohn. Außerdem gebe es keine Sozialleistungen. Weitere Outlier-Gigworker schätzen ihre Honorare (unter Berücksichtigung der unbezahlten Arbeit auf der Plattform) auch so ein, dass sie unter dem Mindestlohn des jeweiligen Landes liegen: etwa 3,50 Euro in Portugal, weniger als 4,50 Euro in den USA und sechs Euro in Deutschland.

Im Vereinigten Königreich steht sogar in einigen Stellenanzeigen von Outlier, dass das KI-Training mit weniger als dem Mindestlohn von 12,21 Pfund (etwa 14 Euro) bezahlt wird. Das Unternehmen erklärt zwar, dass für die Einarbeitung oder Überstunden niedrigere Sätze gelten können, lässt aber unter den Tisch fallen, dass diese niedrigeren Sätze im Einzelfall gegen Null tendieren können.

Die Soziologin und Informatikerin Milagros Miceli leitet eine Forschungsgruppe am Weizenbaum-Institut Berlin. Sie hat beobachtet, dass BPO-Unternehmen schon immer so taten, als ob Schulungen eine Form der beruflichen Qualifikation seien, weshalb Gigworker sie als Bonus betrachten und nicht noch extra dafür bezahlt wollen sollten. Das ist nah dran an einem unbezahlten Pratikum. Mit einem Unterschied: Die bei den Schulungen erworbenen Fähigkeiten seien aber meistens außerhalb der jeweiligen Projekte nutzlos und könnten nicht auf andere Projekte übertragen werden. „Da Gigworker für diesen Teil ihrer Arbeit nicht bezahlt werden, werden sie von den Unternehmen ausgebeutet. Antonio Casilli, Soziologie-Professor am Institut Polytechnique de Paris und Autor von „Waiting for Robots. The Hired Hands of Automation“ spricht in diesem Zusammenhang von Lohndiebstahl, den die Unternehmen und Plattformen seit Jahren begehen.

Für eine Studie aus dem Jahr 2022 wurden Gigworker im Globalen Süden interviewt. Die Befragten arbeiten im Durchschnitt die 22,7 Stunden pro Woche auf den Plattformen, von denen 7,8 Stunden unbezahlt waren, also etwa ein Drittel. Ein Outlier-Gigworker in Indien arbeitete drei Tage lang fünf Stunden pro Tag: „Ich musste zwei Antworten von zwei verschiedenen KI-Modellen analysieren, validieren und vergleichen, die sie auf einen bestimmten Prompt ausgegeben hatten. Als ich ungefähr fünf Dollar verdient hatte, war das Geld noch nach einer Woche nicht bei mir angekommen. Trotzdem habe ich weitergearbeitet, bis ein Honorar von 20 bis 30 Dollar fällig war. Ich wartete auf die Überweisung, bekam aber eine E-Mail, in der ich beschuldigt wurde, gegen die Richtlinien verstoßen zu haben, weshalb mein Konto gesperrt werde. Als ich dagegen protestierte, bekam ich keine richtige Antwort. Meine Arbeit wurde nicht bezahlt.“

Wir haben Outlier darum gebeten, zu den Lohndiebstahl-Vorwürfen Stellung zu beziehen. Das Unternehmen hat auf unsere Anfrage zwar geantwortet, ist aber nicht auf die von uns gestellten konkreten Fragen eingegangen.

Scale AI: ein Multi-Milliarden-Dollar-Unternehmen, das Gigworker prellt?

Outliers Dachgesellschaft ist Scale AI. Das damalige amerikanischen Tech-Wunderkind Alexandr Wang gründete Scale AI 2016, um Arbeitskräfte zu vermitteln, die Daten kommentieren und annotieren. Inzwischen ist der Unternehmensschwerpunkt das Training von großen Sprachmodellen.

Ein wichtiger Investor von Scale AI ist Peter Thiel, dessen Founders Fund im August 2019 100 Millionen Dollar in Scale AI investierte. Inzwischen sind auch Meta und Amazon als Investoren eingestiegen. Das Unternehmen war 2024 bereits 14 Milliarden Dollar wert und strebte im März dieses Jahres eine Bewertung von 25 Milliarden Dollar an. Zu den Kunden von Scale AI gehören der europäische Unternehmensberatungsriese Accenture, SAP und das britische Unternehmen Deloitte. (Wir haben alle drei Unternehmen um eine Stellungnahme zu ihrer Beziehung zu Scale AI/Outlier gebeten. Keines hat geantwortet.) Auch die US-Tech-Giganten Meta, OpenAI, Anthropic und Microsoft gehören zum Kundenkreis, daneben das kanadische Unternehmen Cohere, das Weiße Haus und das US-Militär.

Outlier wurde 2023 gegründet und „widmet sich der Förderung [generativer KI] durch spezialisiertes menschliches Fachwissen“, so der Geschäftsführer Xiaote Zhu. Nach Angaben des Unternehmens biete es Gigworkern „flexible, unverbindliche Möglichkeiten zu einem zusätzlichen Einkommen“, was ein Euphemismus für prekäre und ungeregelte Arbeit ist. Outlier bezeichnet seine Gigworker sogar als „Mitwirkende“.

Allein im letzten Jahr hätten Zehntausende aus der ganzen Welt Hunderte von Millionen Dollar bei Outlier verdient, sagt Zhu, was den Eindruck erwecken soll, dass die Milliarden aus dem Unternehmensumsatz zu den Gigworker durchsickert seien. Im Jahr 2023 erklärte Scale AI gegenüber dem Forbes-Magazin stolz, dass es sich entschieden habe, ihnen „einen existenzsichernden Lohn“ zu zahlen.

Sie warten noch immer darauf.

Geheimhaltung als Geschäftsprinzip

Outlier schirmt seine Kunden von den Gigworkern ab. Kunden und Projekte verbergen sich hinter Codewörtern wie Cabbage Patch, Jellyfish Rubrics und Laurelin Sun. Meistens wissen die Gigworker nicht, wer die Kunden sind. Sie dürfen noch nicht einmal darüber spekulieren, welches Unternehmen zu einem Projekt gehören könnte, wie ein in Westeuropa ansässiger Sprachspezialist bei Outlier berichtet. Outlier-Gigworker müssen Vertraulichkeitsvereinbarungen unterschreiben, wie es auch bei ähnlichen Unternehmen üblich ist. Outlier verbietet den Gigworkern auch, außerhalb ihrer Arbeitszeit über Einzelheiten der Projekte zu sprechen.

Wir konnten ein internes Dokument einsehen, in dem Google als Outlier-Kunde aufgeführt ist, das Outlier vermutlich für das Training des Gemini-Modells nutzt. Da die Namen von Meta, OpenAI und Alphabet in einem kalifornischen Gerichtsverfahren genannt werden, scheinen sie allesamt ebenfalls Kunden von Outlier zu sein.

Automatisierte Systeme schauen über die Schulter

Überstunden sind bei Outlier ganz zugunsten des Unternehmens geregelt. Die Bezahlung entspricht nicht der den jeweiligen Aufgaben zugeordneten Zeit. Gigworker erzählen davon, dass angeblich in einer Stunde zu bewältigende Aufgaben meistens länger brauchen, so dass das Honorar dafür verhältnismäßig niedriger ausfällt.

Ein automatischer Timer von Hubstaff, einem Software-Unternehmen für mobiles Arbeiten, überwacht die Gigworker und erfasst deren Arbeitszeiten. Sie können den Timer anhalten, um eine (Toiletten-)Pause zu machen. Danach setzen sie den Timer fort, denn Toilettenpausen werden von der Arbeitszeit abgezogen.

Wenn Gigworker mehr Zeit benötigen, können sie entweder die Aufgabe abgeben und werden nicht mehr bezahlt oder sie arbeiten zu einem reduzierten Satz weiter daran. Viele verfahren dann nach dem Motto „besser weniger als nichts“ und machen weiter.

Falls die Aufgabe nach einer bestimmten Frist immer noch nicht abgeschlossen ist, werden die Gigworker trotzdem überhaupt nicht bezahlt, wie aus verschiedenen Kontinenten berichtet wurde, wenn es auch nicht bei allen Projekten so ist. Ein promovierter Lehrer aus den USA beschrieb eine solche Situation so: „Ich hatte zwei Stunden damit verbracht, ein Dokument zu überarbeiten. [Das System] zeigte mir zwei Fehler an, die ich beheben musste, bevor die Zeit ablief. Einen konnte ich entdecken, den anderen aber nicht. Da war nichts zu machen. Die Zeit lief ab und ich bekam für diese Aufgabe kein Geld.“

Laut Milagros Miceli ist die Praxis „sehr verbreitet“, angeblich nicht erledigte Aufgaben nicht zu bezahlen. Gigworker seien so sehr daran gewöhnt, dass sie es inzwischen nicht einmal mehr als Lohndiebstahl wahrnehmen und sich sagen würden: „So ist das nun mal in der Gig Economy.“

Warten auf Arbeit

Ein weiteres großes Problem von Gigworkern ist der Mangel an verlässlichem Einkommen. Durch ihre steigende Zahl seien Aufträge schwerer zu bekommen: „Manche bleiben die ganze Nacht auf, um sich Aufträge zu schnappen. Manchmal kommt gegen 1:00 Uhr nachts eine E-Mail rein, in der steht, dass Aufträge verfügbar sind, aber wenn ich morgens aufwache, sind sie schon weg. Es fühlt sich oft wie ein Wettrennen an.“ Es ist die virtuelle Form des allmorgendlichen Gangs von Tagelöhner*innen zum Werkstor: Wer zu spät kommt, wird ausgesperrt.

Alle Gigworker haben damit zu kämpfen, wenn keine Arbeit mehr verfügbar ist. Ein Gigworker arbeitet für das in Zypern ansässige malaysische Unternehmen Mindy Support am Training generativer KI-Systeme und berichtet: „Die Honorare sind höher als der Mindestlohn in meinem Land, aber das Auftragsvolumen ist so klein, so dass ich davon nicht leben kann.“ Andere Mindy-Support-Gigworker kennen das: „Ich liebe es, Daten zu annotieren. Aber manchmal ist einen ganzen Monat lang kein Projekt verfügbar. Ich muss mir wohl bald einen anderen Job suchen.“ Auch Outlier-Gigworker in Deutschland beklagen einen Mangel an Arbeit. Sie müssen immer wieder lange ohne neue Aufträge oder irgendeine Rückmeldung auskommen, was frustrierend ist.

Mira Wallis erforscht die Erfahrungen von Gigworkern am Berliner Institut für Migrationsforschung der Humboldt-Universität. Sie sieht in dieser Instabilität einen großen Nachteil für Gigworker weltweit. „Wenn die KI-Firma sie nicht mehr braucht, kann das Arbeitsverhältnis von heute auf morgen zu Ende sein.“ Manche Gigworker hätten ihr aber auch gesagt: „Dieser Job gibt mir Sicherheit. Wenn die Wirtschaft in der Krise ist, kann ich immer online arbeiten.“

Erste Klagen

Fragwürdige Beschäftigungspraktiken sind in der KI-Support-Branche weit verbreitet. Zwei Unternehmen müssen sich gerade in drei großen kalifornischen Gerichtsverfahren verantworten.

Im Dezember 2024 hat der ehemalige Scale AI/Outlier-Gigworker Steve McKinney vor dem San Francisco Superior Court wegen Lohndiebstahls und Irreführung Klage gegen Scale AI eingereicht. Der Kläger sagt, das Unternehmen beschäftige ein Heer von unangemessen entlohnten und faktisch selbstständigen Auftragnehmer*innen, die mit ihrer Arbeit den Boom generativer KI tragen. Die in der Klage formulierten Vorwürfe decken sich mit den Angaben der Gigworker, die wir interviewt haben: Steve McKinney berichtet von unbezahlten Schulungen, zu knapp bemessener Arbeitszeit und unbezahlten Überstunden.

Außerdem wird Scale AI einer „Lockvogel-Taktik“ im Einstellungsprozess beschuldigt. Steve McKinney sei ein Lohn von 25 Dollar pro Stunde versprochen worden, aber davon habe er nur einen Teil erhalten. Scale AI habe deshalb nicht den Mindestlohn nach kalifornischem Recht gezahlt.

Eine weitere Klage wurde im Januar 2025 in Kalifornien eingereicht. Darin heißt es, Scale AI habe dem Kläger aus San Diego, der 2024 für Scale AI Daten annotierte, die nach kalifornischem Recht fälligen Überstundenzuschläge und bezahlten Ruhezeiten vorsätzlich nicht gezahlt. Schon im Oktober 2024 wurden Scale AI, Outlier und HireArt verklagt. Sie hätten gegen Bundes- und Landesgesetze verstoßen, als sie mehr als 500 Gigworker ohne die vorgeschriebene Frist von 60 Tagen entließen. Der Fall wurde vor das zuständige US-Bezirksgericht in Kalifornien gebracht.

Flexibilität als fauler Kompromiss

In den Outlier-Nutzungsbedingungen steht, dass das Unternehmen den Gigworkern kein verbindliches Arbeitsvolumen verspreche. Sie übernehmen nach ihrem eigenen Ermessen Aufträge, die sie mit eigenen Geräten erledigen. Die Gigworker haben so die volle Flexibilität und das Unternehmen keine Verpflichtungen: Es gibt keinen bezahlten Urlaub und keine Elternzeit, keinen Überstundenausgleich und keine der anderen Rechte, für die Gewerkschaften in den letzten 150 Jahren gekämpft haben.

Von daher ist es kaum verwunderlich, dass keiner der Gigworker, mit denen wir sprachen, diese Arbeit als Karrierechance betrachtet. „Es ist eine Verzweiflungstat, um während der Arbeitslosigkeit etwas Geld zu verdienen“, sagt eine iberische Outlier-Sprachspezialistin. Besonders alleinerziehende Frauen oder solche, die Verwandte pflegen, lassen sich darauf ein, da sie die Arbeit besser mit ihren familiären Verpflichtungen vereinbaren können. Aber die Kehrseite dieser Flexibilität ist nicht zu übersehen.

Diese Flexibilität könne prinzipiell als neues soziales Tauschgeschäft funktionieren, zu dem die Menschen bereit sind“, meint Mira Wallis, im Sinne von: mehr Flexibilität und Freiheit gegen weniger Sicherheit. „Gigworker müssen aber alle negativen Folgen der Plattformarbeit in Kauf nehmen, um sich diese Flexibilität zu bewahren. Viele von ihnen haben trotzdem Probleme damit, die Pflege oder Kinderbetreuung und die Plattform-Lohnarbeit miteinander in Einklang zu bringen. Home Office macht es nicht einfacher. Eine Frau erzählte mir gegenüber einmal ihre ganzen Probleme bei der Plattformarbeit, nur um am Ende zu betonen, wie frei sie doch sei.“

Ein Mangel an ausreichenden öffentlichen Sozialleistungen für alleinerziehende Mütter sei einer der Gründe, die Gigwork-Anbietern wie Outlier in die Karten spielen. „Für manche Gigworker ist es die beste von ausnahmslos schlechten Alternativen“, fasst Mira Wallis zusammen.

Vereinzelung statt Tarifverhandlungen

Wenn ein Unternehmen wie Outlier eine Plattform in den USA betreibt, während die Gigworker über die ganze Welt verteilt sind, fehlt eine Anlaufstelle, um sich zu versammeln, zu organisieren oder Sammelbeschwerden auf den Weg zu bringen. „Selbst Uber-Fahrer*innen oder Essensausliefer*innen treffen sich auf der Straße“, sagt Milagros Miceli. „Gigworker kennen sich nicht, außer vielleicht wenn sie sich in Facebook-Gruppen austauschen. So können keine Tarifverhandlungen stattfinden.“

Die wahren Nutznießer dieses Modells sind die Tech-Konzerne, denn sie entziehen sich dadurch der Verantwortlichkeit, die sie als Endnutzer der Arbeit der Gigworker eigentlich übernehmen sollten. Das BPO-Unternehmen Samasource wurde von Facebook beauftragt, die Analyse sensibler Online-Inhalte durchzuführen, wozu Bilder von Gewalt gehören. Samasource heuerte Menschen in Kenia an, die seither an einer posttraumatischen Belastungsstörung leiden und deshalb die Facebook-Muttergesellschaft Meta verklagt haben.

Die EU-Richtlinie über die Sorgfaltspflicht von Unternehmen im Bereich der Nachhaltigkeit (Corporate Sustainability Due Diligence Directive, CSDDD) verpflichtet Unternehmen, notwendige Maßnahmen zu ergreifen, um in ihren Wertschöpfungsketten schwerwiegende Verletzungen der sozialen Grundrechte zu verhindern. Ausgebeutete Gigworker könnten dieses Rechtsmittel nutzen. In Deutschland müssen alle Unternehmen mit mehr als 1.000 Beschäftigten bestimmte Menschenrechtsstandards in ihrer gesamten Lieferkette sicherstellen. Wenn ein großes deutsches Unternehmen also ein in San Francisco ansässiges Unternehmen für die Datenannotierung oder den KI-Support anheuert, müssen die Rechte der Vertragsarbeiter*innen des Unternehmens in San Francisco gewährleistet sein.

Instabilität statt Wohlstand

Generative KI wird als Motor für globales Lohnwachstum und Produktivität verkauft. Der KI-Guru Marc Andreessen meint, dass „KI die Welt retten wird“: „Die Produktivität der Weltwirtschaft wird explodieren und für Wachstum, neue Branchen, neue Jobs, steigende Löhne und ein neues Niveau materiellen Wohlstands sorgen.“

Mit der Realität von KI-Gigworkern hat dieser Glauben nichts zu tun. Sie müssen die schlimmsten Auswüchse des Hyperkapitalismus ertragen: Lohndumping, fehlende Sozialleistungen, Verstöße gegen Arbeitsrechte, Ausbeutung, unsichere Arbeit. Dieses Modell ist ein Garant für Instabilität und prekäre Arbeitsbedingungen. Der Soziologe Antonio Casilli findet, dass die ganze Debatte um KI und Arbeit von einer falschen Vorstellung ausgeht: „Die Gefahr besteht nicht darin, dass Roboter den Menschen die Arbeit wegnehmen, sondern darin, dass die Menschen für Roboter arbeiten müssen.“

Inzwischen hat John in Großbritannien seine Doktorarbeit über Superschurken in der Literatur begonnen, die gut vorankommt. „Für Outlier habe ich nicht nochmal gearbeitet“, erzählt er uns.

---