Hinter jedem KI-Modell, das Sie nutzen, stehen echte Menschen, die auf die schmutzigsten und dunkelsten Inhalte starren – Material über sexuellen Kindesmissbrauch, Selbstmordaufforderungen, extreme Gewalt – und diese kennzeichnen, um dem Modell zu sagen, was sie sind und wie es reagieren soll.
Diese Arbeit nennt sich Datenannotation.
Scale AI ist eines der größten Unternehmen, das diese Aufgabe übernimmt.
Was macht Scale AI?
Scale AI wurde von Alexandr Wang im Alter von 19 Jahren gegründet und ist heute eines der wichtigsten Unternehmen im Bereich der KI-Dateninfrastruktur. Zu den Kunden gehören OpenAI, Google, Meta und das US-Verteidigungsministerium.
Im Jahr 2024 investierte Meta direkt 14,3 Milliarden US-Dollar und wurde damit zum Großaktionär von Scale AI.
Das bedeutet, dass Scale AI jetzt teilweise Meta gehört und gleichzeitig weiterhin Trainingsdaten für Meta bereitstellt – eine seltsame Schleife.
Das Arbeitsministerium ermittelt
Im März 2025 berichtete TechCrunch, dass das US-Arbeitsministerium (DOL) gegen Scale AI ermittelt, wegen des Verdachts auf Verstöße gegen den Fair Labor Standards Act (FLSA).
Die Ermittlungen wurden unter der Regierung Biden eingeleitet und blieben fast ein Jahr lang unbemerkt, bevor sie an die Öffentlichkeit gelangten.
Im Fokus der Ermittlungen stehen die Arbeiter von Scale AI – sie werden nicht als Angestellte, sondern als "Taskers" bezeichnet. Scale AI stuft sie als unabhängige Auftragnehmer und nicht als festangestellte Mitarbeiter ein, was rechtlich einen wesentlichen Unterschied macht: Auftragnehmer haben keinen Anspruch auf den bundesstaatlichen Mindestlohn, keine Sozialversicherung und unterliegen nicht den Arbeitszeitgesetzen.
Die Situation auf den Philippinen ist noch direkter: Dortige Arbeiter kennzeichnen Daten für Googles autonomes Fahrprojekt, und Berichte zeigen, dass die Vergütung unter dem gesetzlichen Mindestlohn liegt, ohne Krankenversicherung oder bezahlten Urlaub.
Scale AI bestreitet die Vorwürfe der Verstöße.
Schuster gegen Scale AI: Der Fall psychischer Schäden
Geld ist nicht das einzige Kernproblem.
Das US-Bezirksgericht für den nördlichen Bezirk von Kalifornien verhandelt einen Fall, in dem mehrere ehemalige "Taskers" von Scale AI als Kläger auftreten. Die zentrale Forderung lautet: Das Unternehmen habe die Arbeiter über längere Zeiträume schädlichen Inhalten ausgesetzt, was zu schweren psychischen Schäden geführt habe, und das Unternehmen habe seine Schutzpflicht nicht erfüllt.
Diese Arbeiter wurden aufgefordert, lange Gespräche mit KI-Systemen zu führen, deren Inhalte umfassten:
- Selbstmordaufforderungen und Methodenbeschreibungen
- Inhalte im Zusammenhang mit sexuellem Kindesmissbrauch (CSAM)
- Extreme Gewalt- und Raubszenarien
Laut der Klageschrift handelt es sich nicht um eine schnelle Klickarbeit. Das KI-System stellt auf jede Antwort des Arbeiters weitere detaillierte Fragen und verlangt, dass der Arbeiter sich kontinuierlich tiefer mit solchen Inhalten befasst, was "vollständige geistige Hingabe" erfordert.
In der Klageschrift werden zwei Begriffe genannt: moralische Verletzung (moral injury) – psychischer Schaden durch langfristiges erzwungenes Handeln gegen die eigenen Werte – und institutioneller Verrat (institutional betrayal), der beschreibt, dass der Arbeitgeber wissentlich Risiken für die Arbeiter in Kauf nahm, ohne Schutz zu bieten.
Die Arbeiter beschreiben konkrete Symptome wie PTBS, Depressionen und Angstzustände.
Die Klage wirft unter anderem fahrlässige unerlaubte Handlung und Verstöße gegen das kalifornische Gesetz gegen unlauteren Wettbewerb (UCL) vor und beantragt den Status einer Sammelklage.
Dies ist nicht das erste Mal
Dieses Muster ist nicht neu.
Im Jahr 2020 veröffentlichte The Verge eine ausführliche Reportage, die aufdeckte, dass Facebook (heute Meta) Inhaltsmoderatoren einsetzte, die massiv mit Terrorismus- und Gewaltinhalten in Kontakt kamen und bei denen häufig posttraumatische Belastungssymptome auftraten. Schließlich zahlte Facebooks Auftragnehmer Cognizant 52 Millionen US-Dollar, um die damit verbundenen Klagen beizulegen.
Aber das war Inhaltsmoderation – die Aufgabe der Arbeiter war es, schädliche Inhalte von der Plattform zu entfernen.
Die Arbeiter von Scale AI hingegen erstellen Trainingsdaten für KI – sie bringen dem Modell bei, "wie es auf solche Inhalte reagieren soll". Diese Arbeit ist unsichtbarer, der öffentliche Bekanntheitsgrad geringer, aber das Ausmaß der psychischen Schäden ist nicht geringer als bei der Inhaltsmoderation.
Ein strukturelles Problem der Branche
Der Fall Scale AI offenbart eine systemische Anordnung der KI-Branche:
Die schädlichsten und schwierigsten Aufgaben werden an die am schlechtesten bezahlten Arbeiter ausgelagert, der Status "unabhängiger Auftragnehmer" wird genutzt, um Arbeitnehmerschutzrechte zu umgehen, und auf den eigenen Produktseiten wird dann von "verantwortungsvoller KI" und "Sicherheit an erster Stelle" gesprochen.
Meta gab 2024 14,3 Milliarden US-Dollar aus, um die Mehrheitsbeteiligung an Scale AI zu erwerben. Im gleichen Zeitraum veröffentlichte Meta zahlreiche Erklärungen und Forschungsberichte zu "KI-Sicherheit" und "verantwortungsvoller KI". Aber die Arbeiter auf den Philippinen, die täglich schädliche Inhalte kennzeichnen und möglicherweise weniger als den Mindestlohn verdienen, kommen in keiner dieser offiziellen Erklärungen vor.
Die Arbeit dieser Arbeiter ist die materielle Grundlage der KI-Fähigkeiten, aber dieser Kostenfaktor taucht nie in den Vergleichstabellen der Trainingskosten großer Modelle auf.
Jetzt beginnt das Gericht, diese Rechnung zu begleichen.
Quellenangabe: Scale AI is being investigated by the US Department of Labor (TechCrunch); Training Artificial Intelligence and Employer Liability: Lessons from Schuster v. Scale AI (Epstein Becker Green Workforce Bulletin); Scale AI, Data Labeling Company, CocoLoop, Under Investigation by the US Department of Labor (AIBase)