Ngày 30/9, OpenAI công bố bài viết cho biết đã phát hiện và triệt phá một chiến dịch chưng cất mô hình có tổ chức, với mục tiêu trích xuất nội dung suy luận được bảo vệ trong các mô hình suy luận của hãng. OpenAI quy hoạt động của một "cụm lõi" cho những người làm việc cho Moonshot AI. Moonshot AI không phản hồi yêu cầu bình luận của CyberScoop.
Từ ngày 1/7 đến 28/7
Theo mốc thời gian OpenAI công bố:
- Ngày 1/7, phát hiện hoạt động khả nghi cường độ thấp, sau đó tăng dần;
- Ngày 24-25/7, khoảng 4.000 người dùng gửi khoảng 16.000 lượt yêu cầu theo cùng một mẫu trích xuất;
- Ngày 28/7, số tài khoản khả nghi tăng lên khoảng 15.000, OpenAI cho biết đã "triệt phá hoàn toàn" chiến dịch này trong ngày.
Về thủ đoạn, OpenAI cho biết bên kia không phá mã hóa, không xâm nhập cơ sở dữ liệu, cũng không lấy được các cuộc hội thoại người dùng đã lưu trữ. Thứ họ làm là thao túng tương tác với mô hình, khiến nội dung suy luận vốn phải được ẩn đi bị thuật lại dưới dạng mà bên yêu cầu nhìn thấy được. Một trong các cách làm được CyberScoop gọi là "cách vượt mã hóa kiểu mới": sao chép dữ liệu suy luận đã mã hóa từ một phiên, rồi đưa sang phiên khác để mô hình giải mã và chuyển thành văn bản rõ.
"They manipulated model interactions so that protected reasoning could be reproduced in forms visible to the requester." (Họ thao túng tương tác với mô hình để nội dung suy luận được bảo vệ có thể được tái hiện dưới dạng mà bên yêu cầu nhìn thấy được.)
Biện pháp xử lý của OpenAI gồm khóa tài khoản, siết đăng ký và kiểm soát hạ tầng, mở rộng giám sát mạng, đồng thời vá lỗi cho phép giải mã xuyên phiên. Các phát hiện đã được chia sẻ qua Frontier Model Forum và các kênh chính phủ. OpenAI cho biết nội dung suy luận bị trích xuất có thể được dùng để huấn luyện các mô hình phái sinh không có biện pháp an toàn của mô hình gốc, gây rủi ro cho an ninh nói chung lẫn an ninh quốc gia.
Quy kết chỉ gói trong một câu
CyberScoop chỉ ra rằng bài viết của OpenAI không đưa ra bằng chứng kỹ thuật hay lập luận nào cho việc quy chiến dịch này cho Moonshot AI. Cách diễn đạt là "những người làm việc thay mặt Moonshot AI", nhưng bài viết không phân biệt rõ đây là hành vi cá nhân hay có sự chỉ đạo của công ty. Với tài liệu công khai hiện có, bên ngoài không thể kiểm chứng độc lập cáo buộc này.
Trong vài tháng qua, phía Mỹ đã nhiều lần công khai cáo buộc các công ty Trung Quốc chưng cất mô hình Mỹ, cố vấn khoa học Nhà Trắng cũng từng nói điều tương tự. Điểm khác lần này là OpenAI đưa ra ngày tháng cụ thể, số người dùng, thủ đoạn tấn công, và nêu đích danh một công ty Trung Quốc được định giá hàng chục tỷ đô la trong nội dung bài viết.
Một tin khác trong cùng tuần
Cùng thời điểm cáo buộc được đưa ra, Kimi K3 vừa bước vào kênh bán hàng doanh nghiệp của OpenAI. Nhà cung cấp dịch vụ suy luận Mỹ Baseten chịu trách nhiệm lưu trữ Kimi K3, khách hàng doanh nghiệp có thể gọi trực tiếp trong Codex, chi phí được tính vào cam kết mua đã ký với OpenAI mà không cần ký thêm hợp đồng nhà cung cấp riêng. Đây được xem là lần đầu tiên một mô hình mã nguồn mở của Trung Quốc bước vào hệ thống tính phí doanh nghiệp của OpenAI. Philip Kiely của Baseten viết rằng các đội ngũ doanh nghiệp giờ có thể dùng trực tiếp trong Codex các mô hình mã nguồn mở như GLM-5.3 Flash và Kimi K3. Người phụ trách Codex, Tibo, khi chia sẻ lại chỉ viết một câu: "Open is the way."
Với các công ty mô hình trong nước và những người theo dõi họ, đặt hai tin này cạnh nhau sẽ thấy nhiều thông tin hơn. Trọng số mở giúp Kimi K3 né được rào cản xuất khẩu và mua sắm, được một công ty Mỹ lưu trữ rồi bán cho doanh nghiệp Mỹ; cũng chính công ty đó lại bị OpenAI nêu tên là bên liên quan đến chiến dịch chưng cất. Việc khách hàng nước ngoài khi mua có thêm một lớp rà soát tuân thủ hay không còn tùy vào việc có thêm bằng chứng được công bố sau này hay không.
OpenAI không nói rõ cáo buộc lần này có ảnh hưởng đến nguồn cung Kimi K3 trong Codex hay không, Baseten và Moonshot AI cũng đều chưa lên tiếng.
Nguồn tham khảo: Blog chính thức của OpenAI, CyberScoop, TechNode, CocoLoop; số tài khoản khả nghi và số lượt yêu cầu theo công bố của OpenAI, cách tính phí kênh doanh nghiệp Codex theo phát biểu từ phía Baseten.