Ranh giới an toàn nhạy cảm nhất của Meta bị đánh trúng cùng lúc bởi hình ảnh do AI tạo và quảng cáo trả phí.
WIRED đưa tin các nhà nghiên cứu Tech Transparency Project phát hiện hơn 50 quảng cáo hình ảnh và video vi phạm trong thư viện quảng cáo của Meta. Chúng xuất hiện trên Facebook, Instagram, Messenger và Threads, một số dẫn tới ứng dụng nudify hoặc hoán đổi khuôn mặt.
Cửa đầu tiên đã lọt
Các quảng cáo vươn tới Mỹ, Anh và hơn mười quốc gia châu Âu. Ít nhất một quảng cáo đạt 2.563 tài khoản tại châu Âu. Một số vẫn nằm trong thư viện quảng cáo nhiều tháng.
“These ads made no effort to mask the images or hide what they were promoting”
Meta nói đã gỡ các quảng cáo và nhắc tới hoạt động thực thi rộng hơn, gồm 36 triệu nội dung bóc lột trẻ em bị xóa năm ngoái.
Chuỗi trách nhiệm vượt khỏi Meta
WIRED cho biết một số nhà quảng cáo được công khai có liên hệ với công ty Trung Quốc. Nhiều quảng cáo dẫn tới MaskAI; Apple đã gỡ ứng dụng này khỏi App Store sau khi WIRED hỏi. The News Minute cũng ghi nhận Meta nói đã xóa 160.000 tài khoản đáng ngờ ở Ấn Độ trong sáu tháng.
Phép thử là chặn tái diễn
Vấn đề không chỉ nằm ở đầu ra của mô hình. Kẻ xấu có thể tự động hóa hình ảnh, tài khoản, trang đích và quảng cáo đăng lại. Với quảng cáo, tiêu chuẩn phải cao hơn bài đăng thường vì có thanh toán và nhắm mục tiêu.
Nguồn: WIRED, tuyên bố chính thức của Meta, The News Minute, arXiv:2607.05407, CocoLoop; kiểm chứng hơn 50 quảng cáo vi phạm, 2.563 tài khoản châu Âu được tiếp cận, 30 mẫu bổ sung, 36 triệu nội dung bị xóa, 160.000 tài khoản đáng ngờ ở Ấn Độ và 15 vấn đề an toàn AI-CSAM.