Eine Klägerin, die unter dem Pseudonym Jane Doe auftritt, hat am 27. August eine als Sammelklage vorgeschlagene Klage gegen xAI eingereicht. Die Klageschrift wirft dem Unternehmen vor, beim Training der Grok-Modellreihe keine rechtswidrigen Bilder ausgeschlossen zu haben, darunter real aufgenommenes Material zum sexuellen Missbrauch von Kindern sowie KI-generierte Inhalte derselben Art. Die betreffenden Vorwürfe sind bislang gerichtlich nicht bestätigt. Laut Ars Technica reagierte X nicht auf eine Anfrage um Stellungnahme.
Die von der Klägerseite dargestellte Ereigniskette lässt sich etwa so zusammenfassen: Sie wurde Anfang der 2000er Jahre im Vorschulalter missbraucht, das entsprechende Bildmaterial zirkuliert seither seit über zwanzig Jahren und wurde in die Hash-Datenbank des US National Center for Missing & Exploited Children (NCMEC) aufgenommen. Das kanadische Kinderschutzzentrum identifizierte daraufhin auf der xAI-Plattform KI-generiertes Material, das sie darstellt. Die Klage argumentiert daraus, dass die von der Hash-Datenbank markierten Bilder in den Trainingsdatensatz von xAI gelangt seien.
Der Streitpunkt liegt in der Klausel, nicht in einem bestimmten Datensatz
Der schlagkräftigste Teil der Klage besteht nicht darin, die Herkunft eines bestimmten Datensatzes zurückzuverfolgen, sondern zielt direkt auf die Nutzungsbedingungen selbst. Eine in der Klage zitierte Passage lautet:
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..." (Da Groks Nutzungsbedingungen öffentliche X-Beiträge und Groks eigene Ausgaben standardmäßig als Trainingsdaten behandeln, führt das öffentliche Posten eines Bildes nicht nur dazu, dass es von Betrachtern gesehen wird …)
Dieser Logik folgend behauptet die Klage weiter, dass Grok seine eigenen rechtswidrigen Ausgaben speichere und für nachfolgende Trainingsrunden verwende. Was die Klägerseite beschreibt, ist ein geschlossener Kreislauf: rechtswidrige Inhalte werden erzeugt, aufbewahrt und dann wieder in das Modell zurückgespeist. Ebenfalls angesprochen wird das Problem der Standardeinstellungen — die Klage wirft xAI vor, Material zum sexuellen Missbrauch von Kindern, nicht einvernehmliche private Bilder und NSFW-Inhalte nicht standardmäßig auszuschließen.
Es werden drei Forderungen gestellt: Entschädigung für alle Betroffenen; Vernichtung des von Grok erzeugten einschlägigen Materials; ein Verbot, dass Grok weiterhin sexualisierte Inhalte erzeugt. Die zweite und dritte Forderung sind einstweiliger (injunctive) Natur — würden sie bestätigt, träfe die Wirkung die Produktgestaltung selbst, nicht die Bilanz.
Warum die Hash-Datenbank als Schutzlinie versagte
Die NCMEC-Hash-Datenbank ist der grundlegendste Filtermechanismus der Branche, das Prinzip ist einfach: Bekannte rechtswidrige Bilder werden in Hash-Werte umgerechnet und in der Datenbank gespeichert, Plattformen gleichen hochgeladene Inhalte damit ab, bei Übereinstimmung wird blockiert. Der Mechanismus läuft seit über zehn Jahren auf Bild-Hosting- und Social-Media-Plattformen, ausgereift und kostengünstig.
Warum er beim Trainingsdatensatz versagt, ist ebenfalls nicht schwer zu verstehen. Der Hash-Abgleich blockiert nur den Fall, dass „dieses Bild identisch mit einem in der Datenbank ist"; sobald ein Bild zugeschnitten, komprimiert, umkodiert oder gar von einem Modell als neues Bild mit ähnlicher Komposition neu erzeugt wird, stimmt der Hash-Wert nicht mehr überein. Das in der Klage behauptete KI-generierte Material fällt genau in diesen blinden Fleck — es ist keine Kopie des Bildes aus der Datenbank, sondern gilt nach der Abgleichlogik als völlig neues Bild.
Damit verlagert sich die Verantwortung zurück auf zwei Ebenen: Datenbereinigung und Filterung auf der Ausgabeseite. Der Umfang von durch Scraping gewonnenen Trainingsdaten macht eine vollständige manuelle Prüfung unmöglich, man ist auf Klassifikatoren angewiesen; und wenn die Ausgabe zudem standardmäßig wieder in den Trainingsdatensatz zurückfließt, wird die Fehlerquote der Klassifikatoren mit der Zeit verstärkt.
Der reale Druck auf die gesamte Branche
Betrachtet man dies im regulatorischen Kontext dieses Jahres, weitet sich die Frage der Rechtmäßigkeit von Trainingsdaten vom Urheberrechtsthema auf die Frage der Inhaltskonformität aus. Frühere Klagen rund um Trainingsdaten drehten sich hauptsächlich um Urheberrechtsverletzungen, die von Autoren und Medien geltend gemacht wurden, mit Schadensersatz als Kernforderung; die Forderungsstruktur dieser Art von Fall ist völlig anders — es geht um Vernichtung und Unterlassung.
Auch der reale Druck auf Wettbewerber liegt hier. Die Klausel, dass von Nutzern öffentlich geteilte Inhalte standardmäßig für das Training verwendet werden dürfen, ist in der Branche nahezu Standardformulierung, ähnliche Formulierungen finden sich in den Nutzungsbedingungen fast aller Plattformen. Sollte ein Gericht in einem solchen Fall feststellen, dass eine Standardklausel nicht als Compliance-Verteidigung ausreicht, müsste nicht nur xAI etwas ändern — die gesamte Standardannahme „öffentlich bedeutet trainierbar" müsste neu geschrieben werden.
Die Klage wurde gerade erst eingereicht, bis zur materiellen Verhandlung ist es noch weit, und ob die vorgeschlagene Sammelklage überhaupt als Klasse zertifiziert wird, ist selbst schon eine Hürde. Sicher ist: Ein- und Ausgang der Trainingsdaten — was hineingegeben und was zurückgeholt wird — entwickeln sich gerade von einer technischen zu einer rechtlichen Frage.
Quellen: Ars Technica, CocoLoop, öffentliche Unterlagen des kanadischen Kinderschutzzentrums und von NCMEC; geprüft wurden die Art der Klage, der Inhalt der drei Forderungen und der Stand der Reaktion der Beklagten.