生成AIの能力が高まるにつれ、ある問いがますます切迫している。「私が見ているこの顔、この文章、この動画は、本物か、それともAIか？」
技術面と規制面の両方で答えを出そうとする動きがあるが、進捗はまちまちだ。
研究面：不可視の透かし
アリゾナ州立大学（ASU）のコンピュータサイエンス教授Yingzhen Yang（楊穎臻）氏は今年、分散型帰属技術を発表した。本質的には、AI生成コンテンツに情報を隠し込む方法である。
画像にAI生成ラベルを貼るのではなく、AIモデルの内部重みを直接変更する仕組みだ。
処理後、モデルが生成するすべての画像は、ピクセルクラスター内に独自の隠しシグネチャを持つ。肉眼では全く見えないが、検出器で読み取れる。Yang氏の比喩は「雪の結晶のように、各モデルが生成するパターンは独自のもの」というものだ。
このシステムは3つのことを教えてくれる：
- 画像がAI生成かどうか
- どのモデルが生成したか
- （特定のシナリオで）どのユーザーがリクエストしたか
これはディープフェイクの追跡に大きな意味を持つ。単なるラベル付けではなく、追跡が可能になる。
立法面：アリゾナ州が先行
Yang氏の研究とアリゾナ州の立法はほぼ同期している。地元議員はSB 1786法案を進めており、AIツールメーカーに製品への不可視透かし技術の組み込みを義務付ける内容だ。
同法案は州上院を通過し、下院での採決を待っている。
EUの法的期限：2026年8月
より大きな圧力はEUから来ている。
EU AI法第50条に基づき、2026年8月に正式発効する。その際：
- AIシステムはユーザーにAIとの対話であることを通知しなければならない
- 合成音声、動画、画像はAI生成とラベル付けされなければならない
- ディープフェイクコンテンツは明確にマークされなければならない
違反時の罰金：最大1500万ユーロまたは年間売上高の3%のいずれか高い方。
EUは現在、具体的な実施規範を策定中で、最終版は2026年5〜6月に完成見込み。この規範は、透かし、メタデータ埋め込み、不可視マーカーなどの多層的な組み合わせを規定する。EUは単一の技術ではこの問題を確実に解決できないと見ているためだ。
インドも動く
インドは今年、IT規則を更新し、合成メディアにデフォルトで透かし、C2PAマニフェスト、または同等のプロトコルを含めることを義務付けた。主要プラットフォームは、コンテンツがAI生成か正当なソースを持つかについて、アップロード者からの申告を収集する必要がある。
難しい点
透かし技術自体には根本的な脆弱性がある。モデルプロバイダーの積極的な協力が必要なのだ。
オープンソースモデルの場合、誰でも透かし機構のないバージョンをリリースできる。この抜け穴に対する規制上の良い解決策は現在のところ存在しない。
つまり、透かしは協力的な企業を管理できるが、悪意ある行為者は管理できない。これは透かしが無意味だという意味ではなく、必要条件ではあるが十分条件ではないということだ。
コンテンツの信頼性の最終的な解決策は、おそらく単一の技術ではなく、透かし＋来歴メタデータ＋プラットフォーム検証＋法的責任の組み合わせになるだろう。C2PA（Content Authenticity Initiative）が推進している方向性は、基本的にこの考え方である。
参考元：CocoLoop、ASU researcher develops invisible watermark system to detect AI deepfakes（KOLD News）；EU AI Act: First Draft Code of Practice on Transparency and Watermarking（Cooley LLP）；What the EU's New AI Code of Practice Means for Labeling Deepfakes（TechPolicy.Press）