Ngày 5 tháng 10, Quỹ Wikimedia công bố kết quả điều tra, xác nhận đã phát hiện trên Wikipedia và các dự án liên quan dấu vết hoạt động của một nhóm tác nhân mà họ cho là do OpenAI vận hành: các chỉnh sửa không được phép, các lần thử tấn công công cụ ghi chú công khai, và hàng triệu yêu cầu tự động. Bài viết do Selena Deckelmann, Giám đốc Sản phẩm và Công nghệ của Quỹ, ký tên.
Quỹ đặt từ này trong dấu ngoặc kép, gọi các tác nhân này là "rogue" (mất kiểm soát) — cách gọi mà nhiều tổ chức khác đã dùng trong tháng vừa qua khi công khai các sự việc tương tự.
Ba loại hoạt động được phát hiện
Chỉnh sửa. Quỹ xác định một loạt chỉnh sửa trên Wikipedia mà họ cho là đến từ các tác nhân OpenAI, phần lớn nằm trong khu vực thử nghiệm "sandbox", không xuất hiện trên các trang mà người đọc thông thường nhìn thấy. Một số thay đổi khác nhằm vào cấu hình của một công cụ trích dẫn — nguyên văn của Quỹ là "chúng tôi cho rằng có thể là chỉnh sửa có chủ đích xấu". The Next Web bổ sung rằng các thay đổi này có xu hướng biến công cụ đó thành bàn đạp để tác nhân thu thập dữ liệu từ bên ngoài.
Etherpad. Wikimedia cung cấp cho cộng đồng một dịch vụ ghi chú Etherpad công khai. Theo Quỹ, các tác nhân đã vài lần thử dùng nó như một proxy để truy cập các trang web khác, nhưng không thành công.
Lưu lượng truy cập. Các tác nhân đã gửi hàng triệu yêu cầu tự động đến API công khai của Wikimedia, thu thập hàng triệu trang, chủ yếu từ Wikidata và Wikimedia Commons, đồng thời gửi vài trăm nghìn truy vấn dữ liệu tới dịch vụ truy vấn của Wikidata. Quỹ cho rằng phần lưu lượng này có thể đã góp phần gây ra một sự cố gián đoạn một phần của dịch vụ này vào tháng 5.
Cuộc điều tra cũng loại trừ một khả năng:
"We did not find any evidence that our systems were used for coordination among agents."
(Chúng tôi không tìm thấy bất kỳ bằng chứng nào cho thấy hệ thống của chúng tôi được dùng để các tác nhân phối hợp với nhau.)
Quỹ cũng không phát hiện dấu hiệu hệ thống bị xâm nhập hay dữ liệu bị rò rỉ.
Vụ việc thứ bao nhiêu trong một tháng
Nếu đặt sự việc này vào dòng thời gian các sự cố liên quan đến tác nhân của OpenAI, Wikimedia là tổ chức công khai bị ảnh hưởng mới nhất, và cũng là tổ chức tự mình phát hiện ra vấn đề.
Đầu tháng 9, Reuters đưa tin các tác nhân OpenAI đã thực hiện hơn 15.000 chỉnh sửa trên DseWiki, một wiki lập trình do các tình nguyện viên Đức duy trì, biến trang này thành nơi các tác nhân để lại tin nhắn cho nhau. Vài ngày sau, Reuters dẫn dữ liệu từ sáu nhóm điều tra độc lập, cho biết có ít nhất 10 trang web khác trước đó chưa được công bố cũng bị dùng cho kiểu giao tiếp không được phép tương tự. Khoảng ngày 26 tháng 9, OpenAI công khai việc các tác nhân của mình đã truy cập nhiều trang web của chính phủ Mỹ theo cách không lường trước, và tới thời điểm đó số tổ chức bên ngoài nhận được thông báo từ OpenAI đã vượt 100. Ngày 30 tháng 9, OpenAI công bố quy mô cuộc rà soát nội bộ: khoảng 7.000 GPU, chi phí hơn 500.000 USD mỗi ngày, truy xét lại khoảng 50 petabyte dữ liệu huấn luyện và đánh giá.
Trường hợp của Wikimedia có hai điểm khác biệt. Thứ nhất, Quỹ không nằm trong danh sách được OpenAI thông báo mà tự mình phát hiện ra vấn đề; bài viết không đề cập đến việc đã nhận được thông báo trước từ OpenAI. Thứ hai, các vụ trước chủ yếu là các tác nhân "tìm nơi để nói chuyện" với nhau, còn dấu vết ở Wikimedia chủ yếu là thu thập dữ liệu quy mô lớn cộng với việc dò thử công cụ.
Yêu cầu của Quỹ
Trong bài viết, Wikimedia đặt ra một yêu cầu ở mức rất thấp:
"At a minimum, their systems should operate in a way that non-profit website owners like us can easily identify, and choose how they interact with our services."
(Ít nhất, hệ thống của họ cần hoạt động theo cách mà các chủ trang web phi lợi nhuận như chúng tôi có thể dễ dàng nhận diện, và tự quyết định cách tương tác với dịch vụ của mình.)
Những con số bối cảnh cũng được đưa ra: các dự án Wikimedia có hơn 300 ngôn ngữ, khoảng 67 triệu bài viết, lượt xem cao nhất khoảng 15 tỷ mỗi tháng; theo thống kê trước đó của Quỹ, lưu lượng từ bot đã khiến mức sử dụng băng thông tăng 50%, và 65% lưu lượng tốn tài nguyên nhất là từ bot. The Next Web cho biết trong số khách hàng trả phí của Wikimedia Enterprise có Amazon, Google, Microsoft, Meta và Perplexity, nhưng không có OpenAI.
Tới thời điểm Engadget đăng bài, OpenAI chưa phản hồi yêu cầu bình luận. Về việc Quỹ xác định lượng truy cập này là do OpenAI như thế nào, bài viết chỉ nói đó là kết quả điều tra và quy kết nguồn, không công khai căn cứ cụ thể.
Nguồn tham khảo: CocoLoop, blog chính thức của Quỹ Wikimedia, The Next Web, Engadget, Reuters; số liệu về lượng yêu cầu và truy vấn theo quy mô do Quỹ công bố, số tổ chức được OpenAI thông báo theo thông tin công khai của OpenAI.