Mùa xuân năm nay, quân đội Mỹ suýt lên khám một tàu hàng Trung Quốc ở Trung Đông. Lính vũ trang đã vào vị trí, máy bay quân sự đã cất cánh, nhưng chiến dịch bị hủy vào phút chót. Lý do hủy: khi xem lại báo cáo tình báo làm căn cứ cho vụ chặn bắt, các quan chức phát hiện nó được AI hỗ trợ soạn thảo, và lô hàng mà báo cáo khẳng định có trên tàu thực ra không tồn tại.
CNN tiết lộ vụ việc vào ngày 18 tháng 9, dẫn nguồn từ nhiều người nắm rõ nội tình. Nhiều hãng tin khác sau đó đưa tin theo, với các dữ kiện cốt lõi trùng khớp: một sản phẩm tình báo có sự tham gia của AI đã đi trọn vẹn từ khâu soạn thảo đến khâu ra quyết định.
Hai lần dùng AI, một bản báo cáo
Báo cáo do một nhà phân tích thuộc Bộ Tư lệnh Các chiến dịch đặc biệt Thái Bình Dương của Mỹ (đặt tại Hawaii) thực hiện. Người này trước tiên dùng một chatbot để đối chiếu vận đơn của con tàu liên quan; công cụ trộn lẫn thông tin công khai với các mục trong cơ sở dữ liệu tình báo nhạy cảm để đưa ra kết luận. Sau đó, người này lại dùng AI để soạn bản báo cáo tình báo theo đúng khuôn mẫu. Hai bước cộng lại cho ra một văn bản trình lên chuỗi ra quyết định, khẳng định con tàu chở các linh kiện liên quan tới chương trình hạt nhân của Iran.
Báo cáo lưu hành trong giai đoạn Mỹ và Iran đang có xung đột. Theo quy trình chuẩn, loại tình báo này dẫn tới một vụ chặn bắt trên biển: đưa lính vũ trang lên tàu kiểm tra. Máy bay đã lượn vòng trên không. Một nguồn tin quân sự nói với CNN rằng báo cáo này "hoàn toàn sai sự thật, nhưng suýt châm ngòi cho một cuộc chiến".
"entirely false, but almost started a war"
Hoàn toàn sai sự thật, nhưng suýt châm ngòi cho một cuộc chiến.
Cuối cùng chiến dịch không được thực hiện. Trước khi kế hoạch được triển khai, các quan chức đã rà soát kỹ hơn một lần nữa, và nhờ đó phát hiện nguồn gốc AI của báo cáo cùng sai sót của công cụ về lô hàng. CNN không nêu rõ con tàu thực sự chở gì, đi đâu, hay nhà phân tích đã dùng chatbot nào. Bộ Tư lệnh Trung tâm Mỹ không phản hồi yêu cầu bình luận.
AI đã len vào khâu nào
Vụ việc này không có jailbreak, không có tấn công đối kháng, cũng không có hacker. Vấn đề nằm ở một cách dùng rất bình thường: lấy chatbot phổ thông để tổng hợp thông tin. Công cụ ghép thông tin nguồn mở với các mục trong cơ sở dữ liệu mật, rồi đưa ra một kết luận nghe có vẻ đầy đủ và đúng khuôn mẫu — kết luận đó sau đó được xem như một sự thật đã được kiểm chứng ở các khâu tiếp theo. Bước soạn thảo bằng AI thứ hai lại khoác thêm cho nó một lớp vỏ đáng tin cậy: một sản phẩm tình báo đọc như do người viết, đúng chuẩn quy định.
Quy trình tình báo vốn có nhiều khâu ký duyệt của con người. Vụ chặn bắt lần này không xảy ra là nhờ một lần rà soát kỹ hơn được làm tạm thời ngay trước khi hành động, chứ không phải nhờ một chốt kiểm soát đã được thiết kế sẵn trong quy trình. Nếu lần rà soát đó không diễn ra, hoặc diễn ra sơ sài hơn một chút, văn bản này đã có thể đi trọn quy trình như bình thường.
Sai lầm này đổ lên đầu ai
Mục tiêu bị nhắm tới là một con tàu Trung Quốc. Nếu việc lên tàu thực sự xảy ra, hậu quả sẽ do thủy thủ đoàn, chủ tàu và cơ chế xử lý khủng hoảng của hai nước gánh chịu, chứ không phải nhà phân tích viết báo cáo hay hãng cung cấp công cụ AI. Rủi ro công nghệ phát sinh bên trong quy trình của Mỹ, nhưng cái giá phải trả lại nằm bên ngoài quy trình đó. Phía Trung Quốc hiện chưa lên tiếng công khai về vụ việc, và các bản tin cũng không cho thấy phía Trung Quốc từng được thông báo.
Đối với các hãng vận tải Trung Quốc chạy tuyến Trung Đông, bản chất của câu trả lời cho câu hỏi "quân đội Mỹ dựa vào đâu để nghi ngờ tàu của tôi" đang thay đổi: từ một phán đoán tình báo do con người ký duyệt, trở thành một văn bản có thể đã qua hai lần trung chuyển qua AI. Hiện chưa có cơ chế công khai nào cho biết cấp nào có thể khiếu nại, hay ai chịu trách nhiệm sửa sai khi có sai sót.
Khuyến nghị vẫn chỉ dừng ở khuyến nghị
Việc đưa AI vào phân tích tình báo, xác định mục tiêu và hậu cần không hề bị vụ việc này làm gián đoạn. Các chuyên gia được truyền thông dẫn lời đưa ra hai đề xuất: vạch ranh giới đỏ cấm AI can thiệp vào các hệ thống liên quan tới hạt nhân, và thiết lập một kênh thông báo sự cố AI giữa các cường quốc, tương tự đường dây nóng hạt nhân. Cả hai đề xuất đều mới chỉ dừng ở mức khuyến nghị, chưa được đưa vào bất kỳ văn bản nào có tính ràng buộc.
Theo thông tin công khai, đến nay chưa có khâu nào được chính thức thay đổi. Bộ Tư lệnh Trung tâm Mỹ không cho biết liệu quy định về việc nhà phân tích sử dụng công cụ AI phổ thông đã được điều chỉnh hay chưa, cũng không nói rõ ngoài báo cáo này, còn bao nhiêu văn bản khác đã đi qua cùng một quy trình như vậy.
Nguồn tham khảo: CNN Politics, Gizmodo, CocoLoop, Taipei Times; đơn vị liên quan, trình tự hai lần dùng AI và câu trích "hoàn toàn sai sự thật" được đối chiếu theo cách trình bày thống nhất của nhiều hãng tin tiếng Anh.