Ngày 21/11, Together AI đăng một thông báo bảo mật do CEO kiêm đồng sáng lập Vipul Ved Prakash ký tên. Theo thông báo, một phần prompt được gửi tới dịch vụ suy luận serverless của công ty trong tháng 6 và tháng 7 năm nay đã bị người không được phép tải về. Nguồn gốc là một thông tin xác thực truy cập: khi công ty dùng tác tử lập trình AI để phát triển một kho mã công khai, tác tử đã commit luôn thông tin xác thực này lên đó.

Một thông tin xác thực đã bị lộ như thế nào
Theo thông báo, Together thường lấy mẫu một phần yêu cầu của người dùng để kiểm thử phần mềm. Các mẫu này được lưu trong một kho riêng tư trên Hugging Face, và công ty cho biết mục đích sử dụng này đã được cho phép. Các mẫu đến từ những yêu cầu gửi tới MiniMax M3, GLM-5.2 và Kimi K2.6, tập trung chủ yếu vào các ngày 24/6, 4/7, 8/7 và 14/7.
Sự cố xảy ra ở một khâu khác. Together có một kho công khai trên GitHub tên là xorl. Trong quá trình phát triển, mã do một tác tử lập trình AI commit đã kèm theo thông tin xác thực có thể truy cập kho riêng tư nói trên. Công cụ quét tự động đã phát hiện ra, và Together đã thu hồi commit đó. Tuy nhiên, trong khoảng thời gian thông tin xác thực còn bị lộ, đã có người lấy được nó và tải các mẫu prompt đang lưu về.
Sau đó, bên này làm hai việc: lục tìm thông tin xác thực của các dịch vụ khác trong mẫu, rồi thử từng cái xem có dùng được không. Thứ họ nhắm tới là khóa, mật khẩu và token mà người dùng đã viết vào prompt.
Năm thông tin xác thực mồi nhử
Thông báo có một chi tiết đáng chú ý: trong số thông tin xác thực bị đem đi thử, có 5 cái là thông tin xác thực “canary”, thuộc một thí nghiệm của hãng bảo mật Dragos.
Thí nghiệm này vừa được Ars Technica đưa tin. Giám đốc nghiên cứu của Dragos là HD Moore đã đưa gần 2 triệu khóa giả và liên kết giả có gắn dấu truy vết vào prompt, mỗi mục chỉ gửi cho đúng một nhà cung cấp, rồi xem mục nào bị động tới. Kết quả ông thu được là yêu cầu gửi tới ít nhất ba nhà cung cấp dịch vụ suy luận bị sao chép, và khóa AWS mồi nhử đã bị gọi hàng chục nghìn lần. Email nhắc nhở mà OpenRouter gửi cho người dùng về các mô hình MiniMax cũng dẫn chiếu nghiên cứu này.
Thông báo không nói Together có phải một trong ba nhà cung cấp mà Moore nhắc tới hay không, và hiện chưa thể xác nhận từ thông tin công khai. Điểm duy nhất khớp là: mồi nhử của Moore xuất hiện trong các mẫu bị tải từ Together và đã bị người ta đem đi thử.
We have no reason to believe the unauthorized party has leaked this data further.
Diễn đạt lại: chúng tôi không có lý do để cho rằng bên không được phép đã làm lộ thêm số dữ liệu này.
Together cũng cho biết họ tin rằng dữ liệu này đã bị xóa. Ai xác minh việc xóa và xác minh bằng cách nào thì thông báo không nêu.
Những con số không được công bố
Thông báo nêu ngày tháng và tên mô hình, nhưng thiếu quy mô. Có bao nhiêu prompt bị ảnh hưởng, liên quan bao nhiêu khách hàng, thông tin xác thực nằm trên kho công khai bao lâu, bị thu hồi vào ngày nào đều không được ghi. Về việc mẫu có chứa thông tin cá nhân nhạy cảm hay không, Together nói vẫn đang rà soát, và các khách hàng cần được thông báo sẽ được liên hệ riêng. Công ty đã mời một đơn vị pháp y bên ngoài vào cuộc và đã trình báo cơ quan thực thi pháp luật.
Biện pháp khắc phục gồm bốn mục:
- chuyển thông tin xác thực sang dạng giới hạn phạm vi hoặc có thời hạn ngắn, và bỏ khóa ở những nơi có thể không cần dùng;
- kiểm tra thông tin xác thực trong mọi pull request trước khi hợp nhất;
- bật mặc định chế độ không lưu giữ dữ liệu cho tài khoản mới;
- cập nhật quy trình phát triển có dùng tác tử lập trình AI.
Các tài khoản cũ không được tự động chuyển sang chế độ này. Thông báo chỉ khuyên những khách hàng xử lý dữ liệu nhạy cảm tự vào phần cài đặt để bật.
Đặt cạnh email của OpenRouter
Trong vài ngày, hai nhà cung cấp dịch vụ suy luận lần lượt phải giải trình với người dùng vì cùng một nghiên cứu, nhưng cách xử lý khác nhau khá nhiều.
OpenRouter chỉ gửi email cho một số người dùng, không có trang công khai, trách nhiệm được đẩy về MiniMax ở thượng nguồn và các nhà cung cấp chuyển tiếp yêu cầu, còn biện pháp là gỡ nhãn không lưu giữ dữ liệu khỏi các điểm cuối liên quan. Together thì đăng một bài blog công khai do CEO ký tên, thừa nhận vấn đề nằm ở quy trình phát triển của chính mình, và đổi thiết lập mặc định cho tài khoản mới.
Tính chất của hai vụ việc cũng khác nhau. Ở trường hợp OpenRouter, liên kết trong prompt bị truy cập sau khi yêu cầu được gửi đi vài chục giờ, và danh tính người truy cập đến nay vẫn chưa rõ. Ở trường hợp Together có một lối vào rõ ràng: một thông tin xác thực bị tác tử ghi vào kho công khai, cộng với một kẻ tải dữ liệu chuyên lục tìm khóa.
Ba mô hình có mẫu bị tải đều của các công ty Trung Quốc. Các nhóm trong nước làm sản phẩm hướng ra nước ngoài thường gọi mô hình Trung Quốc qua các nhà cung cấp lưu trữ nước ngoài như Together. Ai đã dùng ba mô hình này trong tháng 6 và 7, đồng thời từng ghép chuỗi kết nối cơ sở dữ liệu hoặc token API vào prompt, thì cách an toàn là đổi thông tin xác thực trước, không cần chờ Together liên hệ riêng.
Còn một lớp nữa là chính tác tử lập trình. Commit khóa lên kho công khai là lỗi mà kỹ sư con người cũng hay mắc, và lần này công cụ quét quả thật đã bắt được. Khoảng thời gian trước khi bị bắt kéo dài bao lâu thì Together không công bố; cụ thể là tác tử lập trình nào thì thông báo cũng không nêu tên.
Nguồn tham khảo: thông báo bảo mật chính thức của Together AI, CocoLoop, Ars Technica; thông báo của Together xác nhận các mô hình bị ảnh hưởng, bốn ngày tập trung mẫu và bốn biện pháp khắc phục, còn Ars Technica xác nhận quy mô mồi nhử trong thí nghiệm của Dragos và số nhà cung cấp lưu trữ bị xâm nhập.