WIRED誌は11月2日、調査報道を公開しました。互いに関連する約400のアプリとウェブサイトが、ペットの肖像画、語学学習、AIフィットネスコーチなどの道具を装いながら、特定の条件下で別のインターフェースを読み込み、他人の写真をアップロードして露骨な画像や動画を生成させていると伝えています。これらは同意のない性的ディープフェイクによる虐待にあたり、一部には暴力も含まれるといいます。
手がかりの出発点は、FacebookとInstagramの動画広告でした。研究者は数千件の露骨な広告をたどり、AppleとGoogleのアプリストアにあるアプリにたどり着きました。決済はApple PayとGoogle Payで行われていたといいます。
審査を通ってから中身が入れ替わる
報道によると、アプリはダウンロードのたびに、ユーザーの流入元、言語、固有識別子などをサーバーに送信し、通常版と露骨版のどちらを表示するかはサーバーが決めます。該当するMeta広告から遷移してダウンロードすることが条件の一つとみられますが、具体的なルールは不明です。
Appleはこの手口を「bait-and-switch」と呼んでいます。審査通過後に開発者がコンテンツの取得元を差し替えるやり方です。審査員にはペット肖像アプリに見えても、課金したユーザーにはまったく別のものが表示される可能性があります。
報道が挙げた例では、Viefurは「ペット肖像」アプリを名乗り、約4ドルで130コインを販売しています。DiffAIは2025年12月に作られ、Google Playでのダウンロード数は10万件を超えています。
規模に関する数字は複数の研究機関によるものです。
- AI Forensics：9月時点でGoogle Playに関連アプリが27本あり、累計ダウンロードは35万回超。多くが全年齢向けと表示されていた。今年の関連する露骨な広告は数万件に上り、ピーク時には週に約30のウェブサイトが登録されていた
- Infoblox：500近い関連ドメインを特定。研究者は「同じコードで動き、互いに参照し合っている」と述べている
AI Forensicsの研究者Paul Bouchaud氏の見立てです。
「This is an organized, commercially run operation: One operator behind hundreds of disposable apps and domains」（これは組織的で商業的に運営された活動だ。数百の使い捨てアプリとドメインの背後に、ひとつの運営者がいる）
プラットフォームの対応
AppleはWIREDから情報提供を受けて19本のアプリを削除し、この種のツールをさらに制限するためルールを更新したとしています。Googleはコメント要請に応じませんでしたが、記者が連絡する前に該当アプリの大半をすでに削除していました。
Metaはドメイン一覧を受け取った後、まず3000件超の関連広告を確認し、約3分の2が削除されました。その後、広告アカウント1万1600件、ビジネスページ4700件超、ユーザー5200人、ページ1万5000件に対して措置を取り、209本のアプリによる広告配信を阻止したと説明しました。報道によれば、これらの広告はすでに複数の国の規制当局による調査を招いています。米国の非営利団体Tech Transparency Projectも以前、未成年者を描いたディープフェイク広告を確認していました。
中国語圏の開発者を示す手がかり
この報道で中国語圏の読者が避けて通れないのは、運営者の素性に関する部分です。WIREDと研究者が根拠にしているのは、状況証拠の組み合わせです。コード内に大量の中国語コメントがあること、ホスティングが中国本土内のみであること、広告動画に中国の動画編集ソフトの透かしが入っていること、そして最初に登録されたサイトの連絡先、管理画面のログインページ、一部のメールアドレスが、香港で登記された企業KeLing Technology Limitedを指していることです。
これらはあくまで調査上の判断であり、WIREDの書きぶりにも含みが残されています。同社はコメント要請に応じず、関連する公開情報は記者の問い合わせ後に削除・修正されました。Metaは、同社が2025年にすでに広告出稿を禁止されていたとしています。この会社名は快手（Kuaishou）傘下の動画生成モデルKlingとは綴りが異なり、報道も両者の関係には触れていないため、混同しないよう注意してください。
デンマークのメディアDRは9月に、この一部をすでに報じていました。現時点で、報道には捜査機関による立件やストア側の体系的な処分は出てきません。このネットワークのうちいくつのアプリがまだ公開されているかについて、最新の数字を示した機関もありません。
参考資料：WIRED誌、AI Forensics、CocoLoop、Infoblox。プラットフォームの措置に関する数字はAppleとMetaが報道機関に示した内容に基づき、運営者の素性は調査上の判断です。