一名化名為Jane Doe的原告，8月27日對xAI提出擬制集體訴訟。訴狀指控該公司訓練Grok系列模型時，未能排除違法影像，包括真實拍攝的兒少性剝削素材，以及AI生成的同類內容。相關指控目前均未經法院認定，Ars Technica報導指出，X方面並未回應置評請求。
原告方陳述的事實脈絡大致如下：她在2000年代初、學齡前階段遭到侵害，相關影像此後流傳超過二十年，已被收錄進美國國家失蹤與受剝削兒童中心（NCMEC）的雜湊值資料庫。加拿大兒童保護中心隨後在xAI平台上，識別出描繪她的AI生成素材。訴狀據此主張，那批已被雜湊資料庫標記過的影像，進入了xAI的訓練資料集。
爭點在條款設計，不在單一批資料
這份訴狀最具殺傷力的部分，並非追溯某個具體資料集的來源，而是直接針對服務條款本身。訴狀引述的一段文字是這樣寫的：
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..."
（由於Grok的條款預設把X上的公開貼文，以及Grok自己的輸出結果，都當作訓練資料，公開發布一張圖片，後果就不只是被人看見而已……）
順著這條邏輯，訴狀進一步主張，Grok會儲存自己產出的違規內容，並將其用於後續訓練。原告方描繪的是一個閉環：違規內容被產生、被留存，再被回收餵給模型。訴狀同時點名預設政策的問題——指控xAI並未預設排除兒少性剝削素材、非自願私密影像與NSFW內容。
訴求有三項：向全體受害者求償；銷毀Grok產出的相關素材；禁止Grok繼續產出性化內容。第二項與第三項都屬於禁制令性質，若獲法院支持，影響會落在產品本身的樣貌上，而不只是帳面數字。
雜湊資料庫這道防線為何沒能攔下
NCMEC的雜湊資料庫，是這個產業最基本的攔截機制之一，原理並不複雜：把已知違法影像換算成雜湊值存進資料庫，平台拿上傳內容比對，一旦命中就攔下。這套機制在圖片託管與社群平台上已運作十多年，成熟且成本低廉。
它在訓練資料這個環節失靈的原因，同樣不難理解。雜湊比對攔截的是「這張圖和資料庫裡某張完全一致」的情況，一旦影像經過裁切、壓縮、轉檔，或是乾脆由模型重新生成一張構圖相近的新圖，雜湊值就對不上了。訴狀主張的AI生成素材，正好落在這個盲區——它並非資料庫裡那張圖的複本，就比對邏輯而言，算是一張全新的圖片。
這就把責任推回到資料清理與輸出端過濾這兩個環節。爬取式訓練資料的規模，注定人工審核不可能全面覆蓋，只能仰賴分類器；而如果輸出端又預設把生成結果回收進訓練資料，分類器的漏判率就會隨時間被放大。
對整個產業的現實壓力
把這件事放進今年的監管脈絡來看，訓練資料的合法性議題，正從著作權層面擴大到內容合規層面。過去幾年圍繞訓練資料的訴訟，主戰場多半是作者與媒體業者主張的著作權侵權，求償是核心訴求；而這類案件的訴求結構完全不同——它要的是銷毀與禁制令。
對同業而言，現實壓力也在這裡。「使用者公開發布的內容，預設可用於訓練」這條條款，幾乎是業界通行的寫法，各平台的使用者條款裡都能找到類似措辭。如果法院在這類案件中認定，預設條款不足以構成合規抗辯，那麼需要修改的就不只xAI一家，整套「公開即可訓練」的預設邏輯，恐怕都得重新檢視。
訴訟才剛提出，進入實質審理還早，擬制集體訴訟能否獲得集體認證本身也是一道關卡。可以確定的是，訓練資料進出的兩端——餵進去什麼、又撈回什麼——正從工程問題，變成法務問題。
參考來源：Ars Technica、CocoLoop、加拿大兒童保護中心與NCMEC公開資料；核實訴訟性質、三項訴求內容與被告方回應狀態。