OpenAI vừa đưa ra một con số cụ thể cho việc rà soát lịch sử hành vi của các tác nhân AI do công ty phát triển: hơn 500.000 USD mỗi ngày. Theo bản cập nhật về quá trình điều tra công bố ngày 30/9, việc rà soát này huy động khoảng 7.000 GPU Nvidia GB200 và GB300, nhằm vào khoảng 50PB dữ liệu còn lưu lại từ quá trình huấn luyện và đánh giá mô hình, được kiểm tra lần lượt theo từng tháng, lùi dần về trước. Tờ The Guardian của Anh sau đó đã đưa tin về các con số này, truyền thông Trung Quốc đưa tin tiếp theo vào ngày 3/10.
Điểm khởi đầu của đợt truy xét quy mô lớn này là sự cố Hugging Face. OpenAI trước đó đã xác nhận rằng một tác nhân trong quá trình thử nghiệm nội bộ đã xâm nhập vào hệ thống của Hugging Face; sau đó lần lượt lộ ra các trường hợp khác, như cổng thống kê Medicare của Services Australia - cơ quan chính phủ Úc. Trong bản thông báo, OpenAI thừa nhận rằng trong một số trường hợp, mô hình đã sử dụng khả năng truy cập internet theo cách không như dự tính, và nhìn lại thì các giới hạn áp dụng vào thời điểm đó cũng chưa đầy đủ.
Bốn vòng sàng lọc, cuối cùng mới đến con người
Quy trình rà soát gồm bốn bước. Bước đầu tiên là tìm kiếm phạm vi rộng, gom tất cả các bản ghi liên quan đến việc lấy hoặc chỉnh sửa thông tin xác thực; ba bước còn lại đều giao cho mô hình xử lý, theo thứ tự năng lực tính toán tăng dần: vòng dùng ít năng lực tính toán đánh dấu các mục đáng nghi; vòng giữa đánh giá mức độ nghiêm trọng; vòng cuối dùng năng lực tính toán cao nhất để khái quát hóa khuôn mẫu, tiếp tục thu hẹp phạm vi. Sau khi lọc qua nhiều lớp như vậy, những trường hợp còn lại mới được chuyển sang điều tra thủ công.
50PB lớn đến mức nào, OpenAI tự đưa ra một phép so sánh: nếu toàn bộ là văn bản tiếng Anh thuần, một người đọc với tốc độ 240 từ mỗi phút, không ăn không ngủ, sẽ mất khoảng 66 triệu năm. Dù đã giao cho mô hình sàng lọc trước, công ty vẫn dự đoán toàn bộ cuộc điều tra sẽ còn kéo dài thêm nhiều tháng, và có kế hoạch tiếp tục bổ sung năng lực tính toán.
Hơn 100 tổ chức nhận được thông báo
Tính đến ngày 26/9, OpenAI đã gửi thông báo tới hơn 100 tổ chức. Có ba tiêu chí để thông báo: tác nhân có thể đã vượt qua các biện pháp an toàn, ảnh hưởng đến khả năng hoạt động của hệ thống, hoặc gây tác động tiêu cực đến trang web theo cách khác - không nhất thiết phải chạm vào dữ liệu bị hạn chế mới tính. Về phía Úc, từ tháng 9 đến nay đã có 6 trang web chính phủ được thông báo; vào tháng 6, một tác nhân còn truy cập dữ liệu lịch sử về cháy rừng của chính quyền bang New South Wales mà không được phép.
OpenAI cho biết đến thời điểm hiện tại chưa phát hiện trường hợp mới nào có quy mô hoặc mức độ nghiêm trọng tương đương sự cố Hugging Face. Cách diễn đạt này chỉ là “đến thời điểm hiện tại” - việc rà soát vẫn đang lùi dần theo từng tháng và chưa hoàn tất, công ty không đưa ra ước tính cuối cùng sẽ phát hiện bao nhiêu trường hợp.
Phía Úc không hài lòng với cách giải thích này. Theo truyền thông công nghệ Mỹ, khi trao đổi với giới chức Úc, giọng điệu của OpenAI bị mô tả là xem nhẹ vấn đề, khiến các quan chức địa phương càng thêm bất bình. OpenAI cho biết đang xây dựng quy tắc “thông báo riêng cho các tổ chức bị ảnh hưởng, công khai báo cáo kết quả điều tra”, nhưng văn bản cụ thể vẫn chưa được công bố.
"In some cases, models used internet access in unintended ways or, in retrospect, did not have the ideal restrictions applied."
(Trong một số trường hợp, mô hình đã sử dụng khả năng truy cập internet theo cách không như dự tính; nhìn lại, các giới hạn áp dụng vào thời điểm đó cũng chưa phù hợp.)
Thử tính nhanh hóa đơn rà soát này
Tính theo 7.000 GPU và chi phí hơn 500.000 USD mỗi ngày, mỗi GPU tiêu tốn khoảng 71 USD/ngày, tương đương khoảng 3 USD/giờ. Nếu cuộc điều tra kéo dài đủ 90 ngày, riêng chi phí năng lực tính toán đã vào khoảng 45 triệu USD; chi phí điều tra thủ công, pháp lý và trao đổi với bên ngoài chưa được tính vào đây, và OpenAI cũng không nói rõ con số 500.000 USD có bao gồm chi phí nhân sự hay không.
Nhìn lại sự cố trong bối cảnh này: khi Hugging Face bị xâm nhập, câu hỏi dư luận đặt ra là tại sao tác nhân lại có thể vượt quyền; còn hiện tại, OpenAI phải bỏ ra một khoản chi phí kiểm toán đáng kể để rà soát lại chính quá trình huấn luyện và đánh giá đó. Đối với các công ty đang kết nối tác nhân AI với internet thực, việc nhật ký có được lưu đầy đủ hay không, có thể được máy tìm kiếm nhanh hay không, giờ đây trực tiếp quyết định sau khi xảy ra sự cố sẽ phải tốn bao nhiêu tiền và bao lâu mới có thể giải trình với bên ngoài.
Tổng chưởng lý bang California tuần này đã gửi trát đòi hầu tòa tới OpenAI liên quan đến loạt sự cố này. Sau khi chi phí hàng ngày được công khai, liệu các cơ quan quản lý có yêu cầu công bố chi tiết hơn, chẳng hạn phạm vi ảnh hưởng của từng tổ chức được thông báo, hiện vẫn chưa có dấu hiệu rõ ràng.
Nguồn tham khảo: Tài liệu cập nhật điều tra của OpenAI, The Guardian, CocoLoop, Gizmodo, ithome.com; số lượng GPU, dung lượng 50PB và chi phí trung bình mỗi ngày theo công bố của OpenAI, chi phí mỗi GPU là ước tính của biên tập viên.