Derrière chaque modèle d'IA que vous utilisez, il y a de vraies personnes qui regardent les contenus les plus sales et les plus sombres — matériel d'abus sexuel sur enfants, incitation au suicide, violence extrême — et qui les étiquettent, apprenant au modèle ce qu'ils sont et comment réagir.
Ce travail s'appelle l'annotation de données.
Parmi les entreprises responsables de cette tâche, Scale AI est l'une des plus importantes.
Que fait Scale AI ?
Scale AI a été fondée par Alexandr Wang à l'âge de 19 ans et est aujourd'hui l'une des entreprises les plus importantes dans le domaine de l'infrastructure de données pour l'IA. Ses clients incluent OpenAI, Google, Meta et le Département de la Défense américain.
En 2024, Meta a investi directement 14,3 milliards de dollars, devenant ainsi l'actionnaire principal de Scale AI.
Cela signifie que Scale AI appartient désormais en partie à Meta, tout en continuant à fournir des services de données d'entraînement à Meta — une boucle étrange.
Le Département du Travail enquête
En mars 2025, TechCrunch a rapporté que le Département du Travail américain (DOL) enquêtait sur Scale AI pour suspicion de violation du Fair Labor Standards Act (FLSA).
Cette enquête a été lancée sous l'administration Biden et a duré près d'un an avant d'être connue du public.
L'enquête se concentre sur les travailleurs de Scale AI — ils ne sont pas appelés employés, mais "Taskers". Scale AI les classe comme entrepreneurs indépendants plutôt que comme employés formels, ce qui fait une différence juridique substantielle : les entrepreneurs n'ont pas droit au salaire minimum fédéral, n'ont pas de sécurité sociale et ne sont pas protégés par les lois sur le temps de travail.
La situation aux Philippines est encore plus directe : les travailleurs locaux étiquettent des données pour le projet de voiture autonome de Google, et des rapports montrent que la rémunération est inférieure au salaire minimum légal local, sans assurance maladie ni congés payés.
Scale AI nie les accusations d'infractions.
Schuster contre Scale AI : L'affaire des dommages psychologiques
L'argent n'est pas le seul problème central.
Le tribunal de district du nord de la Californie juge une affaire dans laquelle les plaignants sont plusieurs anciens "Taskers" de Scale AI. La demande centrale est que l'entreprise a exposé les travailleurs à des contenus nocifs pendant de longues périodes, causant de graves dommages psychologiques, et que l'entreprise n'a pas rempli son devoir de protection.
Ces travailleurs ont été obligés d'avoir de longues conversations avec des systèmes d'IA, dont le contenu comprenait :
- Incitation au suicide et description de méthodes
- Contenu lié au matériel d'abus sexuel sur enfants (CSAM)
- Scènes de violence extrême et de prédation
Selon la plainte, il ne s'agit pas d'un travail rapide de clic et de passage. Le système d'IA continue de poser des questions détaillées en fonction de chaque réponse du travailleur, exigeant que le travailleur s'immerge continuellement dans ce type de contenu, "nécessitant un engagement mental complet".
La plainte mentionne deux termes : préjudice moral (moral injury) — dommage psychologique causé par le fait d'être forcé d'agir contre ses propres valeurs pendant une longue période — et trahison institutionnelle (institutional betrayal), qui désigne le fait que l'employeur, sachant que les travailleurs étaient exposés à des risques, n'a pas fourni de protection.
Les travailleurs décrivent des symptômes spécifiques comme le SSPT, la dépression et l'anxiété.
Les accusations de la plainte incluent : délit civil de négligence et violation de la loi californienne sur la concurrence déloyale (UCL), et une demande de certification en tant qu'action collective est en cours.
Ce n'est pas la première fois
Ce schéma n'est pas nouveau.
En 2020, The Verge a publié un reportage approfondi révélant que Facebook (aujourd'hui Meta) employait des modérateurs de contenu qui étaient massivement exposés à du contenu terroriste et à de la violence infantile, et que les travailleurs présentaient fréquemment des symptômes de stress post-traumatique. Finalement, le sous-traitant de Facebook, Cognizant, a payé 52 millions de dollars pour régler les poursuites associées.
Mais il s'agissait de modération de contenu — la tâche des travailleurs était de supprimer les contenus nocifs des plateformes.
Les travailleurs de Scale AI font de l'annotation de données pour l'entraînement de l'IA — ils apprennent au modèle "comment réagir face à ce type de contenu". Ce travail est plus discret, moins connu du public, mais le degré de dommage psychologique n'est pas inférieur à celui de la modération de contenu.
Un problème structurel de l'industrie
L'affaire Scale AI expose un arrangement systémique de l'industrie de l'IA :
Les tâches les plus nocives et les plus difficiles sont externalisées vers les travailleurs les moins bien payés, le statut d'"entrepreneur indépendant" est utilisé pour contourner les protections du travail, puis, sur les pages de lancement de leurs produits, on parle d'"IA responsable" et de "sécurité avant tout".
Meta a dépensé 14,3 milliards de dollars en 2024 pour acquérir la participation majoritaire dans Scale AI. Au cours de la même période, Meta a publié de nombreuses déclarations et rapports de recherche sur la "sécurité de l'IA" et l'"IA responsable". Mais les travailleurs aux Philippines, qui étiquettent quotidiennement des contenus nocifs, gagnant peut-être moins que le salaire minimum, ne figurent dans aucune déclaration officielle.
Le travail de ces travailleurs est la base matérielle des capacités de l'IA, mais ce coût n'apparaît jamais dans les tableaux de comparaison des coûts d'entraînement des grands modèles.
Maintenant, le tribunal commence à calculer cette facture.
Sources de référence : Scale AI is being investigated by the US Department of Labor (TechCrunch) ; Training Artificial Intelligence and Employer Liability: Lessons from Schuster v. Scale AI (Epstein Becker Green Workforce Bulletin) ; Scale AI, Data Labeling Company, CocoLoop, Under Investigation by the US Department of Labor (AIBase)