中央網信弁公室（CAC）は、AIアプリの乱用を取り締まる特別行動「清朗・AIアプリ乱用整治」の第2段階について、実施結果を公表した。今回の期間中に違法・違反情報561万件超を削除し、アカウント4.9万件超を処分、違反サイトやアプリなど2400件超に措置を取った。各プラットフォームが公表したガバナンス関連の告知は合計46回に上る。北京、上海、浙江、広東など各地のネット管理部門が具体的な取り締まりを担った。
第2段階が標的とした問題は第1段階とはまったく異なる。AIを使った虚偽情報の作成・拡散、暴力的・低俗なコンテンツの流布、他者へのなりすまし・模倣、未成年者の権利侵害、いわゆるネット世論操作（ネット水軍）活動、そしてAI製品自体が出力する違反コンテンツだ。
製品の締め出しからアカウントの一掃へ
今回の特別行動は今年4月末に始動し、期間は4カ月、2段階に分けて14種類の突出した問題に照準を合わせた。両段階の実績を並べると、重心の移動が一目瞭然となる。
第1段階の発表では、違反AI製品1.4万件超を処分、違反AI製品1300件超を配信停止、違反のオープンソースデータセット9件を削除した。狙いは技術の源流だった。大規模モデルが規定通りに登録されているか、プラットフォームの安全審査・フィルタリング能力が十分か、学習データが汚染されていないか、生成・合成コンテンツの表示義務が実装されているか——。打撃の対象は製品そのものだった。
第2段階では製品の処分件数が2400件まで減った一方、アカウントの処分件数は2.6万件から4.9万件へとほぼ倍増した。削除した情報件数は両段階でほぼ横ばい（600万件台対561万件台）だが、同程度の情報量の背後にあるアカウント数はほぼ倍に膨らんだ計算になる。単純計算すると、第1段階では処分されたアカウント1件あたり平均約230件の違反情報が紐づいていたのに対し、第2段階では約115件まで下がった。1アカウントあたりの生産量は減る一方で、関与するアカウント数は増えている。これは「ツールが普及した後」に典型的に現れる構図だ。AI生成のハードルが下がれば、アカウントを大量生産してコンテンツを量産するコストも下がり、取り締まりの粒度もそれに合わせて細かくせざるを得なくなる。
プラットフォーム側が提出した回答
コンテンツプラットフォーム側では、抖音（Douyin）、快手（Kuaishou）、微博（Weibo）、騰訊（テンセント）、百度（バイドゥ）、ビリビリ、小紅書（RED）、知乎（Zhihu）、豆瓣（Douban）、タオバオが識別能力の強化に動いた。マルチモーダル識別モデルの最適化、顔画像・声紋・違反サンプルの各データベースの動的拡充、顔認証によるリアルタイム管理システムの稼働などだ。顔と声紋がとりわけ取り上げられた背景には、この段階で最も手ごわい問題——他者へのなりすまし・模倣、いわゆるディープフェイクによる顔交換や音声模倣がある。
AI製品側では、豆包（Doubao）、元宝（Yuanbao）、通義千問（Qwen）、文心一言（Ernie Bot）が名指しされ、学習データの審査を厳格化し、違反コンテンツの出力を厳しく制限し、AI生成・合成コンテンツの表示義務の実装を強化するよう求められた。規制当局は生成側と配信側の両方を評価対象に組み込んだ。モデルが違反コンテンツを生成しないことが第一関門、プラットフォームがそれを検知できることが第二関門であり、どちらも記録として追跡できる必要がある。
配信チェーンの最上流も例外ではなかった。主要スマートフォンメーカー各社のアプリストアには、開発者の参入基準と審査要件を厳格化し、配信済みアプリの抜き取り再検査を実施し、違反アプリを登録段階で食い止めるよう求めた。開発者登録、アプリ配信、コンテンツ生成、コンテンツ配信、アカウント運用——今回はこの5つの段階すべてに対応する取り締まり基準が設けられた。
コンプライアンスの重心はどこにあるか
中国国内でAIアプリを手がけるチームにとって、両段階の違いが実務に落とし込まれると、コンプライアンスコストの項目そのものが変わることを意味する。
第1段階で越えるべきは参入の関門だった。モデル登録、学習データの出所、コンテンツ表示は一度きりの投資で、済ませればしばらくは持つ。第2段階で問われるのは運用の関門だ。製品が稼働した後、誰が使い、何を生成し、大量のアカウント量産に悪用されていないか——これらすべてがプラットフォームの責任として問われる。46回のガバナンス告知と4.9万件超の処分アカウントが示すとおり、この関門は一枚の資料を提出すれば済むものではなく、継続的に稼働する審査システムと処分パイプラインによって支えられる。
特に注意すべきはコンテンツ表示のラインだ。第1段階では「実施したかどうか」というコンプライアンス項目にすぎなかったが、第2段階では責任追及の起点そのものへと変わった。通報された虚偽情報について、表示が完備していれば生成元まで遡って追跡できるが、表示が欠けていればチェーン全体の責任をプラットフォーム自身が説明しなければならない。実際の投資は審査システムとトレーサビリティ能力に向けられていき、単なる登録資料の提出ではなくなっている。
参考資料：中央網信弁公室の発表、新華網、CocoLoop、中国新聞社（中新網）。両段階の削除情報件数、処分アカウント数、違反製品の処分件数はいずれも公式発表の記述に基づき項目ごとに照合した。アカウント1件あたりの平均値は公開数値から概算したもの。