400多款一般AI應用被曝暗藏色情深偽入口

AI security illustration: a shield sealing a red crack in a network

《連線》(WIRED)11 月 2 日發布調查,指約 400 個彼此關聯的應用程式與網站,表面上是寵物畫像、語言學習、AI 健身教練之類的工具,在特定條件下會載入另一套介面,讓使用者上傳他人照片生成露骨的圖像與影片。這些內容屬於未經同意的性暴力深度偽造,部分還涉及暴力。

線索最早來自 Facebook 和 Instagram 上的影片廣告。研究人員順著數千則露骨廣告追查,發現它們指向蘋果與谷歌應用程式商店裡的應用,付款走的是 Apple Pay 和 Google Pay。

通過審核之後才換臉

依報導所述,每次下載後,應用程式會向伺服器傳送使用者來源、語言、唯一識別碼等資訊,由伺服器決定顯示一般版還是露骨版。從相關 Meta 廣告點進來下載,似乎是觸發條件之一,但具體規則並不清楚。

蘋果把這種手法稱為「bait-and-switch」,也就是開發者在審核通過後替換內容來源。審核人員看到的是寵物畫像,付費使用者看到的可能完全是另一回事。

報導舉的例子中,Viefur 自稱「寵物肖像」應用,約 4 美元買 130 個代幣;DiffAI 建立於 2025 年 12 月,在 Google Play 的下載量超過 10 萬次。

規模上的數字來自多家研究機構:

  • AI Forensics:9 月時 Google Play 上仍有 27 款相關應用,累計下載超過 35 萬次,不少標示為適合所有年齡;今年相關露骨廣告達數萬則;高峰期每週約註冊 30 個網站
  • Infoblox:辨識出近 500 個關聯網域,研究人員稱它們「跑同一套程式碼,還互相引用」

AI Forensics 研究員 Paul Bouchaud 的判斷是:

"This is an organized, commercially run operation: One operator behind hundreds of disposable apps and domains"(這是有組織的商業化運作:一個營運方,背後是數百個用完即丟的應用程式與網域。)

平台的回應

蘋果在《連線》提供線索後下架 19 款應用,並表示已更新規則,進一步限制這類工具。谷歌未回應置評請求,但在記者聯繫前已移除其中多數應用。

Meta 收到網域清單後,先確認了 3000 多則相關廣告,約三分之二已被刪除;後來又表示對 11600 個廣告帳號、4700 多個商業專頁、5200 名使用者和 15000 個專頁採取了行動,並阻止 209 款應用投放廣告。報導指出,這些廣告已引發多國監管機關調查。美國非營利組織科技透明計畫(Tech Transparency Project)先前還發現過描繪未成年人的深度偽造廣告。

指向華語開發者的線索

這則報導對華語讀者繞不開的一段,是營運方的身分。《連線》與研究人員依據的是一組間接證據:程式碼裡有大量中文註解、只使用中國境內的主機代管、廣告影片帶有中國剪輯軟體的浮水印,以及第一個註冊網站的聯絡方式、後台登入頁和部分電子郵件,指向一家在香港註冊的公司 KeLing Technology Limited。

這些是調查判斷,《連線》的措辭也留有餘地。該公司未回應置評請求,相關公開資訊在記者詢問後遭到刪改。Meta 表示該公司在 2025 年已被禁止投放廣告。這家公司與快手旗下的影片模型可靈(Kling)英文拼寫不同,報導中也未提到兩者有任何關係,讀者不必混淆。

丹麥媒體 DR 在 9 月曾報導過其中一部分內容。到目前為止,報導中沒有出現執法機關立案或商店層級的系統性處罰,這個網路還有多少應用在線上,也沒有機構提供最新數字。

參考來源:《連線》雜誌、AI Forensics、CocoLoop、Infoblox;平台處置數字依蘋果與 Meta 向媒體提供的說法,營運方身分屬調查判斷。