Ngày 20 tháng 5, OpenAI âm thầm công bố rằng họ đã trở thành Sản phẩm tạo sinh tuân thủ C2PA và, quan trọng hơn, tích hợp công nghệ watermark SynthID của Google DeepMind vào toàn bộ dòng sản phẩm hình ảnh, bao gồm ChatGPT, Codex, API, DALL·E 3, ImageGen và Sora.
Lưu ý: đó là Google DeepMind. OpenAI và Google đã cạnh tranh gay gắt trong lĩnh vực mô hình lớn suốt ba năm, với tìm kiếm và Workspace đã là chiến trường trực diện. Nhưng về watermark, giờ đây họ đứng về cùng một phía.
Bảo vệ ba lớp
Cách tiếp cận của OpenAI được gọi là 'nguồn gốc đa lớp', bao gồm ba lớp:
Lớp 1: Siêu dữ liệu C2PA
Coalition for Content Provenance and Authenticity là tiêu chuẩn mở do Adobe, Microsoft, BBC và các tổ chức khác phát triển từ năm 2021. Nó thêm siêu dữ liệu có chữ ký mã hóa vào hình ảnh, cho biết ai tạo ra, khi nào, bằng công cụ gì và có bị sửa đổi không. Vấn đề: siêu dữ liệu dễ bị mất—chụp màn hình hoặc chuyển đổi định dạng có thể loại bỏ nó.
Lớp 2: Watermark vô hình SynthID
Công nghệ của Google DeepMind ra mắt năm 2023, nhúng tín hiệu vô hình trực tiếp vào pixel hình ảnh, chịu được chụp màn hình, nén và thay đổi định dạng. Watermark SynthID sẽ được áp dụng cho tất cả hình ảnh do OpenAI tạo ra.
Lớp 3: Công cụ xác minh công khai openai.com/verify
Bất kỳ ai cũng có thể tải lên hình ảnh để kiểm tra cả siêu dữ liệu C2PA và watermark SynthID, nhận kết quả về việc hình ảnh có được tạo bởi hệ thống OpenAI hay không.
'Nếu cả hai tín hiệu đều không được phát hiện, công cụ sẽ không đưa ra kết luận—vì những tín hiệu này có thể đã bị xóa cố ý.'
Điều này quan trọng: OpenAI không tuyên bố hệ thống chống giả mạo, mà nói rõ giới hạn của công cụ.
OpenAI thừa nhận hạn chế
Thông báo bao gồm những tuyên bố thẳng thắn:
- 'Không có kỹ thuật nguồn gốc đơn lẻ nào có thể giải quyết vấn đề một cách độc lập'
- Công cụ hiện chỉ có thể xác minh nội dung do sản phẩm của OpenAI tạo ra
- Nội dung được tạo trước khi tiêu chuẩn này được thiết lập, hoặc cố tình vượt qua hệ thống, không thể xác định được
Thái độ 'chúng tôi đã làm nhưng không phải là giải pháp hoàn hảo' này trung thực hơn những lời phóng đại PR thông thường.
Tại sao OpenAI và Google cần hợp tác
Watermark có vấn đề cố hữu: chỉ có ý nghĩa nếu mọi người cùng sử dụng một hệ thống. Nếu chỉ hình ảnh của OpenAI có watermark SynthID, hình ảnh từ các mô hình khác vẫn có thể được coi là 'chưa được tạo'—kẻ giả mạo chỉ cần đổi mô hình.
Do đó, đây phải là tiêu chuẩn ngành, không phải sự khác biệt hóa sản phẩm. Adobe đã sử dụng Content Credentials trong Firefly, và Google triển khai SynthID trên các sản phẩm của mình. Động thái của OpenAI đồng nghĩa với việc gia nhập phe watermark do Google dẫn dắt, thay vì tự xây dựng hệ thống riêng.
Câu hỏi tiếp theo là Anthropic, Meta và xAI. Claude của Anthropic không tạo hình ảnh, nên không bị ảnh hưởng ngay; Imagine của Meta và Aurora của xAI chưa công bố lập trường.
Không phải từ thiện, mà là áp lực quản lý
Động lực thực sự là áp lực từ chính phủ. Các cơ quan quản lý ở Mỹ, EU và châu Á đã yêu cầu cơ chế truy xuất nguồn gốc cho ảnh giả do AI tạo, deepfake chính trị gia và tài liệu lạm dụng tình dục trẻ em. Bản thân OpenAI phải đối mặt với hơn 8.000 báo cáo CSAM do AI tạo ra mỗi sáu tháng. Chiến lược tốt nhất của ngành trước khi quy định thực sự được áp dụng là 'tự xây dựng giải pháp', ngăn các nhà lập pháp tự định nghĩa tiêu chuẩn kỹ thuật.
Watermark không phải là vấn đề công nghệ; đó là vấn đề quản trị. OpenAI và Google đứng về cùng một phía vì đội ngũ pháp lý của họ đã tính toán cùng một con số.
Các câu hỏi còn lại—khi nào mọi người sẽ áp dụng, liệu có thể bị giả mạo không, và liệu cơ quan quản lý có chấp nhận không—sẽ có câu trả lời vào năm tới.
Nguồn tham khảo: Advancing content provenance for a safer, more transparent AI ecosystem (blog chính thức của OpenAI); OpenAI builds a new system to identify AI-generated images (The Media Copilot); CocoLoop; OpenAI joins C2PA and adds Google SynthID watermarks to provenance stack (Resultsense)