動画は数分で生成され、圧縮され、拡散され、報道現場の素材リストに入る。リスクは出所の弱さだけではない。映像そのものがAIで作られていても、実写のように見える。
NVIDIAはSIGGRAPHでSynthetic Video Detector NIMを発表した。このサービスは映像内の出来事の真偽を判断するものではなく、動画自体がAI生成かどうかを推定する。真実判定ボタンではなく、動画ワークフローの入口に置く一次フィルターだ。
判定対象は出来事ではなく媒体
NVIDIAによると、このNIMマイクロサービスは動画をフレームごとに解析し、合成コンテンツの可能性を示す分類スコアを出す。編集チームはそのスコアで素材の優先順位を付け、疑わしい動画を隔離し、追加検証に回せる。
Rev Lebaredian氏は、合成動画が現実世界のニュース映像として提示されると公共の信頼が損なわれると警告した。
GamesBeatへの説明では、ツールは映像が合成生成されたかを推定するだけで、映っている出来事が事実かどうかは判断しない。
圧縮後の性能が焦点
NVIDIAのテストでは、未圧縮動画で最大92%、15%圧縮で87%、50%圧縮で82%の精度に達した。1080p動画はNVIDIA RTXシステムで最短22ミリ秒、L40 GPUで約30ミリ秒で処理できる。
GamesBeatは内部評価のAUC 0.9614、accuracy 0.9453も伝えている。これは最終判定ではなく、トリアージの数字だ。低リスク素材は通常編集へ進み、高スコア素材は出所、メタデータ、人による確認に回る。
使う場所は入口
NVIDIAはこれをAI for Media内のNIMマイクロサービスとして提供する。Buildページでは開発向けのエンドポイントとして掲載され、試用では最大50MBの動画をアップロードできる。
Wowzaは最初に示された採用例だ。NVIDIAによれば、WowzaはVideo Intelligence Frameworkにこのサービスを組み込み、170以上の国と地域、35,000件超のデプロイにリアルタイム検出を広げる。
メディアや公共機関にとって難しいのはしきい値設計だ。保守的にすれば確認作業が増え、緩くすれば合成動画を見逃す。変化は、疑わしい動画が拡散した後ではなく、取り込み時点でAI検出を動かす点にある。
参考情報：NVIDIA公式ブログ、NVIDIA Build、GamesBeat、Wccftech、CocoLoop；Synthetic Video Detector NIMの製品範囲、圧縮動画の精度、1080p処理遅延、内部AUC/accuracy、Wowzaの展開規模、用途の境界を確認。