400多个普通AI应用被曝暗藏色情深伪入口

AI 安全题图:一面盾牌封住网络上的红色裂痕

《连线》(WIRED)11 月 2 日发布调查,称约 400 个彼此关联的应用和网站,表面上是宠物画像、语言学习、AI 健身教练之类的工具,在特定条件下会加载另一套界面,让用户上传他人照片生成露骨图像和视频。这些内容属于未经同意的性虐待深度伪造,部分还涉及暴力。

线索最早来自 Facebook 和 Instagram 上的视频广告。研究者顺着数千条露骨广告追下去,发现它们指向苹果和谷歌应用商店里的应用,付款走 Apple Pay 和 Google Pay。

过审之后才换脸

按报道,每次下载后,应用会向服务器发送用户来源、语言、唯一标识等信息,由服务器决定显示普通版还是露骨版。从相关 Meta 广告点进来下载似乎是触发条件之一,具体规则不清楚。

苹果把这种手法称作“bait-and-switch”,即开发者在审核通过后替换内容来源。审核员看到的是宠物画像,付费用户看到的可能完全是另一回事。

报道举的例子里,Viefur 自称“宠物肖像”应用,约 4 美元买 130 个币;DiffAI 创建于 2025 年 12 月,在 Google Play 的下载量超过 10 万。

规模上的数字来自多家研究机构:

  • AI Forensics:9 月时 Google Play 上还有 27 款相关应用,累计下载超过 35 万次,不少标注为适合所有年龄;今年相关露骨广告达数万条;高峰期每周约注册 30 个网站
  • Infoblox:识别出近 500 个关联域名,研究员称它们“跑同一套代码,还互相引用”

AI Forensics 研究员 Paul Bouchaud 的判断是:

“This is an organized, commercially run operation: One operator behind hundreds of disposable apps and domains” (这是有组织的商业化运作:一个运营方,背后是数百个用完即弃的应用和域名。)

平台的回应

苹果在《连线》提供线索后下架 19 款应用,并称已更新规则进一步限制这类工具。谷歌没有回应置评请求,但在记者联系前已移除其中多数应用。

Meta 收到域名清单后,先确认了 3000 多条相关广告,约三分之二已被删除;后来又称对 11600 个广告账户、4700 多个商业主页、5200 名用户和 15000 个页面采取了行动,并阻止 209 款应用投放广告。报道称,这些广告已引发多国监管机构调查。美国非营利组织科技透明计划(Tech Transparency Project)此前还发现过描绘未成年人的深伪广告。

指向中文开发者的线索

这条报道对中文读者绕不开的一段,是运营方身份。《连线》和研究者依据的是一组间接证据:代码里大量中文注释、只用中国境内托管、广告视频带中文剪辑软件的水印,以及首个注册站点的联系方式、后台登录页和部分邮箱指向一家香港注册公司 KeLing Technology Limited。

这些是调查判断,《连线》的措辞也留有余地。该公司没有回应置评请求,相关公开信息在记者询问后被删改。Meta 称它在 2025 年已被禁止投放广告。这家公司与快手旗下的视频模型可灵(Kling)英文拼写不同,报道中也没有提到两者有任何关系,读者不必混淆。

丹麦媒体 DR 9 月曾报道过其中一部分内容。到目前为止,报道里没有出现执法机构立案或商店层面的系统性处罚,这个网络还有多少应用在线,也没有机构给出最新数字。

参考来源:连线杂志、AI Forensics、CocoLoop、Infoblox;平台处置数字按苹果与 Meta 向媒体提供的口径,运营方身份属调查判断。