匿名原告のジェーン・ドウ氏が8月27日、xAIを相手取り集団訴訟（クラスアクション）を提起した。訴状は、同社がGrokシリーズのモデルを学習させる際、実写の児童性的虐待素材やAI生成による同種のコンテンツを含む違法な画像を排除できていなかったと主張している。関連する主張はいずれも裁判所による認定を経ていない。Ars Technicaによると、X側はコメント要請に応じなかったという。
原告側が示す経緯はおおむね次の通りだ。彼女は2000年代初頭、就学前の年齢の時に被害に遭い、関連する画像はその後20年以上にわたって流通し、米国の全米行方不明・搾取児童センター（NCMEC）のハッシュデータベースにすでに登録されていた。その後、カナダ児童保護センターがxAIのプラットフォーム上で彼女を描いたAI生成素材を特定したという。これを踏まえ訴状は、ハッシュデータベースで既に特定済みだった画像がxAIの学習データセットに取り込まれていたと主張している。
争点は特定のデータではなく規定そのもの
この訴状で最も痛烈な部分は、特定のデータセットの出所をたどることではなく、利用規約そのものを直接標的にしている点だ。訴状が引用する一節は次のように書かれている。
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..."
（Grokの規約はX上の公開投稿とGrok自身の出力をデフォルトで学習データとして扱うため、画像を公開投稿することは、それを閲覧者にさらすだけにとどまらない……）
この論理をさらに進めて、訴状はGrokが自ら生成した違反出力を保存し、それを以後の学習に利用していると主張する。原告側が描くのは一つの閉じた輪だ——違反コンテンツが生成され、保存され、再びモデルに取り込まれる。同時に訴状はデフォルト設定の問題も指摘している。xAIは児童性的虐待素材、非同意の私的画像、NSFWコンテンツをデフォルトで除外していないという主張だ。
求めているのは3点。被害者全体への賠償、Grokが生成した関連素材の破棄、そしてGrokによる性的コンテンツの生成継続を禁じること。2番目と3番目は差止め的な性質を持つ。仮に認められれば、その影響は帳簿上ではなく、製品の形そのものに及ぶことになる。
ハッシュデータベースという防線がなぜ機能しなかったのか
NCMECのハッシュデータベースは、この業界で最も基本的な遮断メカニズムの一つだ。原理は複雑ではない。既知の違法画像をハッシュ値に変換してデータベースに保存し、プラットフォームがアップロードされたコンテンツと照合し、一致すればブロックする。画像ホスティングやSNSプラットフォームで10年以上運用されてきた、成熟かつ低コストな仕組みだ。
それが学習データという段階で機能しなかった理由も、理解するのは難しくない。ハッシュ照合が防ぐのは「この画像がデータベース内の特定の画像と完全に一致する」ケースだ。画像がトリミングされたり、圧縮されたり、変換されたり、あるいはモデルによって構図の似た新しい画像として再生成されたりすると、ハッシュ値は一致しなくなる。訴状が主張するAI生成素材は、まさにこの盲点に位置している——データベース内の画像の複製ではないため、照合のロジック上は全く新しい画像として扱われてしまう。
これにより、責任はデータクレンジングと出力側のフィルタリングという2つの工程に押し戻される。スクレイピングによる学習データの規模の大きさゆえに、人手によるレビューでは到底カバーしきれず、分類器に頼らざるを得ない。さらに出力側がデフォルトで生成結果を学習データに回収しているのであれば、分類器の見逃し率は時間とともに拡大していくことになる。
業界全体への現実的な圧力
今年の規制動向という文脈に置いてみると、学習データの適法性をめぐる論点は著作権の問題から、コンテンツのコンプライアンスの問題へと広がりつつある。これまでの学習データをめぐる訴訟は、主に著作者やメディア企業が主張する著作権侵害を主戦場としており、損害賠償が中心的な請求だった。今回のような類型の訴訟は請求の構造がまったく異なる——求めているのは破棄と差止めだ。
同業他社にとっての現実的な圧力もここにある。「ユーザーが公開投稿したコンテンツはデフォルトで学習に利用できる」という規定は、業界でほぼ標準的な書き方であり、各社のユーザー規約にも似た表現が見られる。もし裁判所がこの種の訴訟でデフォルト規定だけではコンプライアンス上の抗弁として不十分だと判断すれば、書き直しを迫られるのはxAI一社にとどまらず、「公開されたものは学習に使える」という業界全体のデフォルト設定そのものが見直しを迫られることになる。
訴訟はまだ提起されたばかりで、実質的な審理が始まるのはこれからだ。クラスアクションとして集団認定を得られるかどうか自体も一つの関門となる。はっきりしているのは、学習データの入り口と出口——何を取り込み、何を回収するか——が、エンジニアリングの問題から法務の問題へと変わりつつあるということだ。
参考資料: Ars Technica、CocoLoop、カナダ児童保護センターおよびNCMECの公開資料をもとに、訴訟の性質、3つの請求内容、被告側の対応状況を確認。