Văn phòng Thông tin Internet Trung ương Trung Quốc (CAC) vừa công bố kết quả giai đoạn 2 của chiến dịch chuyên đề “Qinglang – Chỉnh đốn tình trạng lộn xộn trong ứng dụng AI”. Trong giai đoạn này, cơ quan chức năng đã xử lý tổng cộng hơn 5,61 triệu thông tin vi phạm pháp luật, xử lý hơn 49.000 tài khoản, xử lý hơn 2.400 website và ứng dụng vi phạm, các nền tảng cộng lại đã công bố 46 kỳ thông báo chỉnh đốn. Cơ quan quản lý internet tại Bắc Kinh, Thượng Hải, Chiết Giang, Quảng Đông và nhiều địa phương khác đã tham gia thực thi cụ thể.
Trọng tâm của giai đoạn 2 hoàn toàn khác với giai đoạn 1: dùng AI để sản xuất và phát tán thông tin sai lệch, phát tán nội dung bạo lực dung tục, giả mạo nhái người khác, xâm hại quyền lợi trẻ vị thành niên, hoạt động “đội quân mạng”, và cả nội dung vi phạm do chính sản phẩm AI tạo ra.
Từ đóng sản phẩm đến dọn tài khoản
Chiến dịch chuyên đề này được triển khai từ cuối tháng 4 năm nay, kéo dài bốn tháng, chia làm hai giai đoạn, tập trung vào 14 nhóm vấn đề nổi cộm. Đặt thành quả của hai giai đoạn cạnh nhau, sự dịch chuyển trọng tâm hiện rõ ngay.
Trong báo cáo giai đoạn 1, hơn 14.000 sản phẩm AI vi phạm bị xử lý, hơn 1.300 sản phẩm AI vi phạm bị gỡ, 9 bộ dữ liệu mở vi phạm bị gỡ — nhắm vào gốc rễ công nghệ: mô hình lớn đã đăng ký theo quy định hay chưa, năng lực rà soát an toàn của nền tảng có đủ hay không, dữ liệu huấn luyện có bị đầu độc hay không, việc gắn nhãn nội dung tổng hợp do AI tạo ra đã được triển khai hay chưa. Đối tượng bị nhắm tới là chính bản thân sản phẩm.
Sang giai đoạn 2, số sản phẩm bị xử lý giảm còn 2.400, trong khi số tài khoản bị xử lý nhảy từ 26.000 lên 49.000, gần như tăng gấp đôi. Số lượng thông tin bị xử lý ở hai giai đoạn tương đương nhau (hơn 6 triệu so với hơn 5,61 triệu), nhưng với khối lượng nội dung xấp xỉ như vậy, số tài khoản bị lộ ra đằng sau lại nhiều hơn gần gấp đôi. Tính nhẩm thì ở giai đoạn 1, mỗi tài khoản bị xử lý liên quan trung bình khoảng 230 thông tin vi phạm, sang giai đoạn 2 con số này giảm còn khoảng 115. Sản lượng vi phạm trên mỗi tài khoản giảm, nhưng số tài khoản tham gia lại tăng. Đây là hình thái điển hình “sau khi công cụ phổ cập”: ngưỡng tạo nội dung bằng AI hạ thấp, chi phí lập hàng loạt tài khoản để rải nội dung cũng giảm theo, buộc mức độ chỉnh đốn phải đi sâu xuống từng tài khoản.
Bài kiểm tra phía nền tảng
Ở phía nền tảng nội dung, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban, Taobao đều tập trung hành động vào năng lực nhận diện: tối ưu mô hình nhận diện đa phương thức, mở rộng động các kho dữ liệu khuôn mặt, giọng nói và mẫu vi phạm, đưa vào vận hành hệ thống chỉnh đốn khuôn mặt theo thời gian thực. Việc tách riêng khuôn mặt và giọng nói cho thấy đây là loại vấn đề khó xử lý nhất trong giai đoạn này — giả mạo nhái người khác, hay còn gọi nôm na là đổi mặt và giả giọng.
Ở phía sản phẩm AI, Doubao, Yuanbao, Qwen, Ernie Bot bị nêu tên và yêu cầu siết chặt khâu kiểm duyệt nội dung ngữ liệu gốc, hạn chế nghiêm ngặt việc sinh ra nội dung vi phạm, đẩy mạnh việc gắn nhãn nội dung tổng hợp do AI tạo ra theo đúng quy định. Cơ quan quản lý đưa cả đầu sinh nội dung lẫn đầu phân phối vào diện đánh giá: mô hình không sinh ra nội dung vi phạm là cửa chặn thứ nhất, nền tảng nhận diện được là cửa chặn thứ hai, cả hai cửa đều phải có hồ sơ để truy vết.
Đầu nguồn xa nhất của chuỗi phân phối cũng không được bỏ qua. Một số hãng smartphone lớn có kho ứng dụng riêng bị yêu cầu xây dựng quy chuẩn xét duyệt nhà phát triển và tiêu chí lên kệ nghiêm ngặt, kiểm tra và thử lại các ứng dụng đang có trên kho, chặn ứng dụng vi phạm ngay từ khâu nhập kho. Đăng ký nhà phát triển, đưa ứng dụng lên kho, sinh nội dung, phân phối nội dung, vận hành tài khoản — cả năm khâu trong đợt này đều có tiêu chí xử lý tương ứng.
Trọng tâm tuân thủ nằm ở đâu
Đối với các đội ngũ làm ứng dụng AI trong nước, khác biệt giữa hai giai đoạn, quy về thực tế, là khoản mục chi phí tuân thủ đã thay đổi.
Giai đoạn 1 là cửa ải gia nhập: đăng ký mô hình, nguồn gốc ngữ liệu, gắn nhãn nội dung — đều là khoản đầu tư một lần, làm xong có thể yên tâm một thời gian. Giai đoạn 2 kiểm tra khâu vận hành: sau khi sản phẩm lên sóng, ai đang dùng, đã sinh ra nội dung gì, có bị lợi dụng để lập hàng loạt tài khoản hay không — tất cả đều tính vào trách nhiệm của nền tảng. 46 kỳ thông báo chỉnh đốn và 49.000 tài khoản bị xử lý cho thấy cửa ải này không thể qua bằng một bộ hồ sơ nộp lên, mà phải dựa vào hệ thống rà soát và quy trình xử lý chạy liên tục.
Đường dây gắn nhãn nội dung đặc biệt đáng chú ý. Ở giai đoạn 1, đây là một hạng mục tuân thủ kiểu “có làm hay không”, nhưng sang giai đoạn 2 nó trở thành điểm khởi đầu của chuỗi truy trách nhiệm: một thông tin sai lệch bị tố cáo, nếu nhãn đầy đủ thì có thể lần theo nhãn để truy ngược về đầu sinh nội dung; nếu thiếu nhãn thì cả chuỗi trách nhiệm nền tảng phải tự giải trình. Khoản đầu tư thực chất sẽ nghiêng về hệ thống rà soát và năng lực truy vết, chứ không chỉ dừng ở hồ sơ đăng ký nữa.
Nguồn tham khảo: Thông báo của Văn phòng Thông tin Internet Trung ương Trung Quốc, Tân Hoa Xã, CocoLoop, Trung Tân Xã; số liệu thông tin bị xử lý, số tài khoản bị xử lý và số sản phẩm vi phạm bị xử lý của hai giai đoạn đều được đối chiếu theo thông báo chính thức, mức trung bình mỗi tài khoản là ước tính thô từ số liệu công khai.