Une plaignante identifiée sous le pseudonyme Jane Doe a déposé, le 27 août, un recours collectif proposé contre xAI. La plainte accuse l'entreprise de ne pas avoir exclu des images illégales lors de l'entraînement de la série de modèles Grok, y compris du matériel réel d'abus sexuels sur mineurs et des contenus similaires générés par IA. Les accusations en question n'ont, à ce stade, été confirmées par aucun tribunal. Selon Ars Technica, X n'a pas répondu aux demandes de commentaire.
La chaîne de faits présentée par la plaignante se résume à peu près ainsi : elle aurait été agressée au début des années 2000, alors qu'elle était en âge préscolaire, et les images concernées circuleraient depuis plus de vingt ans, ayant été intégrées à la base de données de hachages du Centre national américain pour les enfants disparus et exploités (NCMEC). Le Centre canadien de protection de l'enfance aurait ensuite identifié sur la plateforme de xAI du matériel généré par IA la représentant. La plainte soutient sur cette base que les images signalées par la base de hachages se sont retrouvées dans le jeu de données d'entraînement de xAI.
Le litige porte sur la clause, pas sur un lot de données précis
La partie la plus percutante de la plainte ne consiste pas à retracer l'origine d'un jeu de données précis, mais vise directement les conditions d'utilisation elles-mêmes. Un passage cité dans la plainte se lit ainsi :
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..." (Parce que les conditions de Grok traitent par défaut les publications publiques sur X et les propres réponses de Grok comme des données d'entraînement, publier une image publiquement ne fait pas que l'exposer aux regards…)
Dans la continuité de ce raisonnement, la plainte allègue en outre que Grok conserve ses propres réponses illicites générées et les utilise lors de cycles d'entraînement ultérieurs. Ce que décrit la plaignante est un cycle fermé : le contenu illicite est généré, conservé, puis réinjecté dans le modèle. La plainte pointe aussi le problème des réglages par défaut, affirmant que xAI n'exclut pas par défaut le matériel d'abus sexuels sur mineurs, les images intimes non consenties et les contenus NSFW.
Trois demandes sont formulées : une indemnisation pour l'ensemble des victimes ; la destruction du matériel connexe généré par Grok ; et l'interdiction pour Grok de continuer à générer des contenus sexualisés. Les deuxième et troisième demandes sont de nature injonctive ; si elles étaient accueillies, l'impact porterait sur la conception même du produit, et non sur des montants financiers.
Pourquoi la base de hachages n'a pas suffi à bloquer le contenu
La base de hachages du NCMEC est le mécanisme de blocage le plus élémentaire du secteur, avec un principe simple : les images illicites déjà connues sont converties en valeurs de hachage et stockées dans la base, les plateformes comparent le contenu téléversé à cette base et bloquent en cas de correspondance. Ce mécanisme fonctionne depuis plus de dix ans sur les plateformes d'hébergement d'images et les réseaux sociaux ; il est mature et peu coûteux.
La raison pour laquelle il échoue au stade des données d'entraînement n'est pas non plus difficile à comprendre. La comparaison de hachages ne bloque que le cas où « cette image est identique à une image de la base » ; dès qu'une image est recadrée, compressée, réencodée, ou tout simplement régénérée par le modèle sous la forme d'une nouvelle image à la composition similaire, la valeur de hachage ne correspond plus. Le matériel généré par IA allégué dans la plainte tombe précisément dans cet angle mort — ce n'est pas une copie de l'image d'origine présente dans la base, mais, selon la logique de comparaison, une image entièrement nouvelle.
Cela renvoie la responsabilité vers deux étapes : le nettoyage des données et le filtrage en sortie. L'échelle des données d'entraînement collectées par scraping rend impossible une revue manuelle exhaustive, obligeant à s'appuyer sur des classificateurs ; et si, en plus, la sortie est par défaut réincorporée dans le jeu d'entraînement, le taux d'erreurs non détectées des classificateurs s'amplifie avec le temps.
Une pression bien réelle sur tout le secteur
Replacée dans le contexte réglementaire de cette année, la légitimité des données d'entraînement s'étend de la question du droit d'auteur à celle de la conformité des contenus. Les procès antérieurs sur les données d'entraînement portaient principalement sur des violations de droits d'auteur invoquées par des auteurs et des médias, avec l'indemnisation comme demande centrale ; la structure des demandes de ce type d'affaire est totalement différente — ce qui est recherché, c'est la destruction et l'interdiction.
La pression réelle sur le reste du secteur se trouve également ici. La clause selon laquelle le contenu publié publiquement par les utilisateurs peut par défaut être utilisé pour l'entraînement est quasiment une formulation standard du secteur ; des formulations similaires se retrouvent dans les conditions d'utilisation de presque toutes les plateformes. Si un tribunal jugeait, dans ce type d'affaire, qu'une clause par défaut ne suffit pas à constituer une défense de conformité, ce ne serait pas seulement xAI qui devrait changer — c'est l'ensemble du réglage par défaut « publication publique égale entraînement possible » qui devrait être réécrit.
La plainte vient tout juste d'être déposée, l'examen au fond est encore loin, et l'obtention de la certification de la classe pour ce recours collectif proposé constitue déjà en soi un obstacle. Ce qui peut être affirmé, c'est que les deux bouts des données d'entraînement — ce qu'on y fait entrer, ce qu'on en récupère — sont en train de passer d'une question technique à une question juridique.
Sources : Ars Technica, CocoLoop, documents publics du Centre canadien de protection de l'enfance et du NCMEC ; vérifiés : la nature du recours, le contenu des trois demandes et l'état de la réponse de la partie défenderesse.