Một nguyên đơn giấu tên, Jane Doe, đã nộp đơn kiện tập thể dự kiến (proposed class action) chống lại xAI vào ngày 27 tháng 8. Đơn kiện cáo buộc công ty này đã không loại trừ được hình ảnh bất hợp pháp khi huấn luyện dòng mô hình Grok, bao gồm cả tài liệu lạm dụng tình dục trẻ em quay thực tế lẫn nội dung cùng loại do AI tạo ra. Các cáo buộc liên quan hiện chưa được tòa án xác nhận. Theo Ars Technica, phía X không phản hồi yêu cầu bình luận.
Chuỗi sự việc mà nguyên đơn trình bày đại khái như sau: bà bị xâm hại vào đầu những năm 2000, khi còn ở độ tuổi mầm non, và những hình ảnh liên quan đã lưu truyền hơn hai mươi năm, đã được đưa vào cơ sở dữ liệu hash của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột Hoa Kỳ (NCMEC). Sau đó, Trung tâm Bảo vệ Trẻ em Canada đã phát hiện trên nền tảng xAI tài liệu do AI tạo ra mô tả bà. Dựa trên đó, đơn kiện cho rằng những hình ảnh từng bị cơ sở dữ liệu hash đánh dấu đã lọt vào tập dữ liệu huấn luyện của xAI.
Tranh cãi nằm ở điều khoản, không phải ở một lô dữ liệu cụ thể
Phần có sức nặng nhất của đơn kiện không phải là truy tìm nguồn gốc của một bộ dữ liệu cụ thể, mà nhắm thẳng vào chính điều khoản dịch vụ. Một đoạn được đơn kiện trích dẫn viết như sau:
"Because Grok's terms treat public X posts and Grok's own outputs as training data by default, publicly posting an image does not just expose it to viewers..." (Vì các điều khoản của Grok mặc định coi các bài đăng công khai trên X và chính đầu ra của Grok là dữ liệu huấn luyện, việc đăng công khai một hình ảnh không chỉ khiến nó bị người xem nhìn thấy…)
Theo mạch lập luận đó, đơn kiện tiếp tục cáo buộc rằng Grok lưu trữ chính những đầu ra vi phạm mà nó tạo ra, rồi dùng chúng cho các vòng huấn luyện sau. Điều nguyên đơn mô tả là một vòng khép kín: nội dung vi phạm được tạo ra, được lưu giữ, rồi lại được đưa ngược vào mô hình. Đơn kiện cũng nêu vấn đề về chính sách mặc định — cáo buộc rằng xAI không mặc định loại trừ tài liệu lạm dụng tình dục trẻ em, hình ảnh riêng tư không có sự đồng thuận, và nội dung không phù hợp (NSFW).
Đơn kiện đưa ra ba yêu cầu: bồi thường cho toàn bộ nạn nhân; tiêu hủy các tài liệu liên quan do Grok tạo ra; và cấm Grok tiếp tục tạo ra nội dung tình dục hóa. Hai yêu cầu thứ hai và thứ ba đều mang tính chất lệnh cấm (injunctive), nếu được tòa chấp thuận, tác động sẽ rơi vào chính hình thái sản phẩm chứ không phải vào con số bồi thường.
Vì sao lá chắn cơ sở dữ liệu hash không chặn được
Cơ sở dữ liệu hash của NCMEC là cơ chế chặn cơ bản nhất trong ngành này, nguyên lý không phức tạp: hình ảnh bất hợp pháp đã biết được tính thành giá trị hash rồi lưu vào cơ sở dữ liệu, nền tảng đối chiếu nội dung tải lên với cơ sở dữ liệu đó, trùng khớp thì chặn. Cơ chế này đã vận hành hơn mười năm trên các nền tảng lưu trữ hình ảnh và mạng xã hội, khá trưởng thành và chi phí thấp.
Lý do nó thất bại ở khâu dữ liệu huấn luyện cũng không khó hiểu. Đối chiếu hash chỉ chặn được trường hợp "ảnh này giống hệt một ảnh trong cơ sở dữ liệu"; một khi hình ảnh bị cắt, nén, chuyển mã, hoặc thẳng thừng được mô hình tạo lại thành một ảnh mới có bố cục tương tự, giá trị hash sẽ không còn khớp. Tài liệu do AI tạo ra mà đơn kiện nêu ra rơi đúng vào điểm mù này — nó không phải là bản sao của ảnh gốc trong cơ sở dữ liệu, mà xét theo logic đối chiếu thì là một ảnh hoàn toàn mới.
Điều này đẩy trách nhiệm về lại hai khâu: làm sạch dữ liệu và lọc đầu ra. Quy mô của dữ liệu huấn luyện thu thập tự động khiến việc kiểm duyệt thủ công không thể bao phủ hết, chỉ có thể trông cậy vào bộ phân loại; còn nếu đầu ra lại mặc định được thu hồi ngược vào tập huấn luyện, tỷ lệ bỏ sót của bộ phân loại sẽ bị thời gian khuếch đại.
Áp lực thực tế lên toàn ngành
Đặt sự việc này vào bối cảnh quản lý năm nay, tính hợp pháp của dữ liệu huấn luyện đang mở rộng từ vấn đề bản quyền sang vấn đề tuân thủ nội dung. Các vụ kiện về dữ liệu huấn luyện trước đây chủ yếu xoay quanh cáo buộc vi phạm bản quyền do tác giả và cơ quan báo chí đưa ra, với bồi thường là yêu cầu cốt lõi; kết cấu yêu cầu của loại vụ kiện này hoàn toàn khác — điều họ muốn là tiêu hủy và lệnh cấm.
Áp lực thực tế lên các đối thủ trong ngành cũng nằm ở đây. Điều khoản "nội dung người dùng đăng công khai mặc định có thể dùng để huấn luyện" gần như là cách viết phổ biến trong ngành, hầu hết các nền tảng đều có thể tìm thấy cách diễn đạt tương tự trong thỏa thuận người dùng của mình. Nếu tòa án trong loại vụ kiện này xác định rằng điều khoản mặc định không đủ để cấu thành biện hộ tuân thủ, thì không chỉ riêng xAI phải thay đổi — toàn bộ thiết lập mặc định "đăng công khai nghĩa là có thể huấn luyện" đều phải viết lại.
Vụ kiện vừa mới được nộp, còn lâu mới bước vào giai đoạn xét xử thực chất, và việc vụ kiện tập thể dự kiến có được công nhận tư cách tập thể hay không tự nó cũng là một cửa ải. Điều có thể khẳng định là: hai đầu vào-ra của dữ liệu huấn luyện — đưa gì vào, vớt gì ra — đang chuyển từ vấn đề kỹ thuật thành vấn đề pháp lý.
Nguồn tham khảo: Ars Technica, CocoLoop, tài liệu công khai của Trung tâm Bảo vệ Trẻ em Canada và NCMEC; đã kiểm chứng tính chất vụ kiện, nội dung ba yêu cầu và tình trạng phản hồi của bị đơn.