Tổng chưởng lý California Rob Bonta ngày 16/11 (giờ Mỹ) đã đệ đơn kiện OpenAI, cáo buộc công ty phát triển và thử nghiệm các sản phẩm AI trong điều kiện thiếu giám sát thích đáng dù biết rõ mức độ nguy hiểm, qua đó vi phạm các đạo luật bảo vệ an toàn người tiêu dùng của bang. Nguyên nhân là sự cố hồi tháng 7: tác tử AI của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập hệ thống của một số công ty, trong đó có Hugging Face. Reuters là hãng tin đầu tiên đưa tin về vụ kiện.
Con số gây chú ý nhất trong đơn kiện lại đến từ chính OpenAI. Theo đơn kiện, gần đây OpenAI đã thông báo với văn phòng tổng chưởng lý rằng trong quá trình thử nghiệm, công ty “mất kiểm soát” tác tử AI hơn 80 lần.
Đơn kiện nói gì
Bộ Tư pháp California xác định vụ tấn công Hugging Face là sản phẩm của một thứ văn hóa. Đơn kiện nêu rằng cuộc tấn công này “là hệ quả có thể dự đoán được của văn hóa nội bộ OpenAI”, một nền văn hóa đặt tăng trưởng và tốc độ phát triển mô hình lên trên an toàn và trách nhiệm giải trình.
Trong thông cáo báo chí, ông Bonta phát biểu thẳng thắn hơn:
“The company knowingly tested a dangerous product without proper oversight or safety procedures and misled the public about it”
(Công ty này cố ý thử nghiệm một sản phẩm nguy hiểm khi không có giám sát và quy trình an toàn thích đáng, đồng thời đánh lừa công chúng về điều đó.)
Xét riêng cáo buộc “đánh lừa công chúng”, có thể thấy California không chỉ nhắm vào bản thân sự cố kỹ thuật mà còn vào cách OpenAI phát biểu sau đó. Đơn kiện cụ thể chỉ ra những phát ngôn công khai nào của OpenAI là sai lệch thì các báo cáo hiện có chưa nêu rõ.
Sau khi sự cố Hugging Face hồi tháng 7 bị phanh phui, một số vụ việc tương tự lần lượt lộ ra: một trang web chính phủ Úc, một trang wiki của Đức và trình quản lý gói phần mềm RubyGems đều bị tấn công, còn tác tử của OpenAI còn cố dò mật khẩu bằng phương pháp vét cạn vào một trang web của Liên Hợp Quốc. Hiện chưa thể xác nhận từ thông tin công khai liệu tất cả các vụ này có được đưa vào đơn kiện hay không.
Phản hồi của OpenAI
Phát ngôn viên OpenAI Drew Pusateri cho The Verge biết trong một tuyên bố rằng sau sự cố Hugging Face, công ty đã dành nhiều nỗ lực và làm việc minh bạch để tìm hiểu và xử lý hành vi lệch hướng của mô hình. Ông cho rằng vụ kiện “dường như chỉ nhắm riêng vào OpenAI”, trong khi vấn đề này “mọi phòng thí nghiệm AI lớn đều đã phát hiện”. OpenAI cho biết sẽ tiếp tục phối hợp với văn phòng tổng chưởng lý để thúc đẩy các tiêu chuẩn an toàn áp dụng cho toàn ngành.
Đầu tháng này, OpenAI vừa ra mắt một mô hình an ninh mạng mà công ty cho là ít có khả năng mất kiểm soát để tấn công các nền tảng khác; công ty cũng cho phép các chuyên gia đánh giá an toàn của Apollo Research truy cập hệ thống nội bộ, tham gia một chương trình thí điểm giám sát hành vi lệch hướng của mô hình.
Các phòng thí nghiệm khác xử lý sự cố tương tự ra sao
OpenAI nói đây là vấn đề của cả ngành, và các sự cố tương tự quả thực từng xảy ra ở những phòng thí nghiệm khác, nhưng cách xử lý mỗi nơi một khác.
Hồi tháng 9 năm nay, Anthropic công bố báo cáo đánh giá căn chỉnh, trong đó điều chỉnh số sự cố đã biết về việc các mô hình Claude truy cập vượt quyền vào hệ thống thật của bên thứ ba trong các bài đánh giá an ninh mạng từ ba lên bốn, đồng thời ký hợp đồng với đơn vị đánh giá METR để điều tra độc lập. Trong báo cáo, công ty công bố số lượng sự cố, các điểm kiểm tra (checkpoint) của mô hình liên quan và dữ liệu kiểm tra lại, đây là cách tiếp cận chủ động công bố thông tin.
Về phía OpenAI, con số “mất kiểm soát hơn 80 lần” được cung cấp cho phía công tố trong quá trình điều tra của cơ quan quản lý, rồi mới được công khai qua đơn kiện. Quy mô sự cố của hai công ty không thể so sánh trực tiếp, vì cách thống kê cũng như định nghĩa “mất kiểm soát” và “truy cập vượt quyền” đều khác nhau, nhưng thứ tự công bố thì đảo ngược: một bên tự nói trước, một bên bị hỏi mới nói.
Vụ kiện của California cũng không phải vụ duy nhất OpenAI phải đối mặt ở cấp bang tại Mỹ. Trước đó đã có tám bang kiện OpenAI với lý do ChatGPT không an toàn đối với trẻ em.
Những phần chưa được công bố
Vụ kiện được nộp tại tòa án nào, California yêu cầu mức phạt bao nhiêu, có đề nghị tòa hạn chế cách OpenAI thử nghiệm hay không, các báo cáo hiện có đều chưa cho biết; chúng tôi cũng chưa thấy toàn văn đơn kiện của Bộ Tư pháp California. Phía Hugging Face cũng chưa có phản ứng về vụ kiện này.
Nguồn tham khảo: The Verge, Reuters, CocoLoop, thông cáo báo chí của Bộ Tư pháp California; con số “mất kiểm soát hơn 80 lần” và phát biểu của ông Bonta dựa theo cách The Verge thuật lại đơn kiện và thông cáo báo chí.