Ngày 8/10, OpenAI công bố báo cáo về các mối đe dọa, cho biết đã cấm hai chiến dịch gây ảnh hưởng ngầm sử dụng ChatGPT: một xuất phát từ Nga, nhắm vào Mỹ Latinh; một xuất phát từ Iran, nhắm vào các cơ quan truyền thông trực tuyến quy mô nhỏ và vừa trên toàn thế giới. Cả hai chiến dịch đều dùng chung một cách thức: dựng lên một "bộ mặt" có vẻ đáng tin, rồi dùng nó để phát tán nội dung ra ngoài.
OpenAI xếp chiến dịch của Nga vào hạng 5 trên thang đo bước ngoặt ảnh hưởng (Breakout Scale) — mức cao nhất mà hãng từng đưa ra kể từ khi bắt đầu công bố loại báo cáo này. Thang đo có 6 mức, mức càng cao đồng nghĩa nội dung lan ra càng nhiều nền tảng và nhóm người dùng, càng tiến gần vào dòng dư luận chính.
Nga: một "viện nghiên cứu" do người thật điều hành
OpenAI đặt tên chiến dịch này là Dark Clark. Những người điều hành dựng lên một nhà báo AI hư cấu tên Mia Clark, để cô xuất hiện với vai trò người đứng đầu "Trung tâm Nghiên cứu Xã hội" (Social Research Center, SRC). Tổ chức này có nhân viên thật ở Mỹ Latinh, và bằng chứng mà OpenAI thu thập được cho thấy những nhân viên này không biết mình đang làm việc cho một nhóm của Nga.
Nội dung của chiến dịch tập trung vào việc làm tổn hại hình ảnh của Ukraine tại Mỹ Latinh, và can thiệp vào chính trị địa phương. Các báo cáo công khai liệt kê những ví dụ trải ở Argentina, Bolivia và Ecuador, trong đó có một đoạn âm thanh giả mạo nội dung một lãnh sự Ukraine lăng mạ công dân Ecuador; và một thông tin giả cho rằng các công ty bình phong ở Ecuador đang tuyển người sang chiến đấu cho Ukraine. Những nội dung này đã khiến truyền thông chính thống Mỹ Latinh phải kiểm chứng và các bên chính thức phải lên tiếng bác bỏ.
Những người điều hành còn dùng ChatGPT để trao đổi các việc nội bộ của chiến dịch, như mức lương hay quyết định tuyển người. Đánh giá của OpenAI:
"the most complex attempt to run a front identity that we've disrupted over the past two and a half years."
(Tạm dịch: Đây là nỗ lực phức tạp nhất để vận hành một danh tính bộ mặt mà chúng tôi từng triệt phá trong hai năm rưỡi qua.)
Iran: bảy "nhà báo" giả, gần trăm bài có bút danh
Chiến dịch của Iran được gọi là Bogus Bylines. Chiến dịch duy trì 7 nhân vật "nhà báo", gửi các bài viết dài cho những cơ quan truyền thông trực tuyến quy mô nhỏ và vừa trên toàn thế giới quan tâm đến các vấn đề quốc tế, chủ đề chính là xung đột Mỹ - Iran, đồng thời tạo hàng loạt bình luận trên mạng xã hội.
"We identified almost 100 articles published or syndicated under the operation's bylines across roughly a dozen online outlets around the world."
(Tạm dịch: Chúng tôi phát hiện gần 100 bài viết được xuất bản hoặc đăng lại dưới bút danh của chiến dịch này, trải trên khoảng chục cơ quan truyền thông trực tuyến khắp thế giới.)
Mảng đăng bài viết được xếp hạng 4, còn mức ảnh hưởng trên mạng xã hội chỉ đạt hạng 2, tương tác tự nhiên rất ít.
Nhìn lại từ báo cáo năm 2024
Lần đầu tiên OpenAI công bố loại báo cáo này là vào tháng 5/2024, khi đó hãng nêu tên năm chiến dịch liên quan đến Nga, Trung Quốc, Iran và Israel, không chiến dịch nào vượt quá hạng 2 trên thang bước ngoặt. Hơn hai năm sau, mức xếp hạng đã lên đến hạng 5, và sự thay đổi nằm ở cách thức: cả hai chiến dịch đều kết hợp AI với những cách làm truyền thống như thuê người, gửi bài, dựng tổ chức — AI phụ trách viết hàng loạt và duy trì nhân vật, còn người thật phụ trách làm cho bộ mặt trông đáng tin.
Khóa tài khoản chỉ cắt đứt được một khâu là ChatGPT. Trong các báo cáo công khai mà bài viết này dựa vào, không có số liệu về số tài khoản bị khóa, cũng không nói rõ SRC hiện có còn hoạt động ở địa phương hay không, và OpenAI cũng chưa giải thích những nhân viên không hề biết sự thật cùng các cơ quan truyền thông đã đăng bài sẽ được xử lý ra sao.
Nguồn tham khảo: Báo cáo tình báo mối đe dọa của OpenAI, CyberScoop, CocoLoop, France 24; CyberScoop và France 24 đối chiếu chéo mức xếp hạng bước ngoặt và số lượng bài viết của hai chiến dịch.