一名化名 Jane Doe 的原告 8 月 27 日对 xAI 提起拟制集体诉讼。诉状指控这家公司在训练 Grok 系列模型时未能排除违法影像，包括真实拍摄的儿童性虐待材料和 AI 生成的同类内容。相关指控目前均未经法庭认定，Ars Technica 称 X 方面没有回应置评请求。
原告方陈述的事实链条大致是这样：她在 2000 年代初、学龄前时期遭受侵害，相关影像此后流传超过二十年，已被收录进美国国家失踪与受虐儿童中心（NCMEC）的哈希库。加拿大儿童保护中心随后在 xAI 平台上识别出描绘她的 AI 生成材料。诉状据此主张，那批被哈希库标记过的影像进入了 xAI 的训练集。
争点落在条款，不在某一批数据
这份诉状最有杀伤力的部分并非追溯某个具体数据集的来源，它直指服务条款本身。诉状引述的一段是这样写的：
“Because Grok’s terms treat public X posts and Grok’s own outputs as training data by default, publicly posting an image does not just expose it to viewers…” （由于 Grok 的条款默认把 X 上的公开帖子以及 Grok 自身的输出当作训练数据，公开发布一张图片，其后果不止于被人看到……）
顺着这条逻辑，诉状进一步主张 Grok 会存储自己生成的违规输出，并把它们用于后续训练。原告方描述的是一个闭环：违规内容被生成、被留存、再被喂回模型。同时被点名的还有默认策略问题——诉状称 xAI 没有默认排除儿童性虐待材料、非自愿私密影像和 NSFW 内容。
诉求有三项：向全体受害者赔偿；销毁 Grok 生成的相关材料；禁止 Grok 继续生成性化内容。第二和第三项都是禁令性质，若获支持，影响会落在产品形态上，不在账面上。
哈希库这条防线为什么没拦住
NCMEC 哈希库是这个行业最基础的一道拦截机制，原理并不复杂：把已知违法影像算成哈希值存进库，平台拿上传内容比对，命中就拦。它在图片托管和社交平台上跑了十多年，成熟且低成本。
它在训练数据这一环失效的原因也不难理解。哈希比对拦的是”这张图和库里某张一模一样”，一旦影像被裁剪、压缩、转码，或者干脆由模型重新生成一张构图相似的新图，哈希值就对不上了。诉状主张的 AI 生成材料正落在这个盲区里——它并非库里那张图的副本，从比对逻辑上讲算一张全新的图。
这就把责任推回到数据清洗和输出侧过滤两个环节。抓取式训练数据的规模决定了人工审核不可能覆盖，只能靠分类器；而输出侧如果又默认把生成结果回收进训练集，分类器的漏检率就会被时间放大。
对整个行业的现实压力
把这件事放进今年的监管背景里看，训练数据的合法性正在从版权议题扩展到内容合规议题。此前几年围绕训练数据的诉讼，主战场是作者和媒体主张的著作权侵权，赔偿是核心诉求；这一类案子的诉求结构完全不同——它要的是销毁和禁令。
对同行的现实压力也在这里。“用户公开发布的内容默认可用于训练”这条款几乎是行业通行写法，各家平台的用户协议里都能找到相近表述。如果法院在这类案件中认定默认条款不足以构成合规抗辩，要改的就不止 xAI 一家，整套”公开即可训练”的默认设定都得重写。
诉讼刚提交，进入实质审理还早，拟制集体诉讼能否获得集体认证本身也是一道关口。可以确定的是，训练数据的进出两端——喂什么进去、把什么捞回来——正在从工程问题变成法务问题。
参考来源：Ars Technica、CocoLoop、加拿大儿童保护中心与 NCMEC 公开材料；核验诉讼性质、三项诉求内容与被告方回应状态。