TikTokは11月19日、AIコンテンツに関する新ツールを2つ発表した。1つはLikeness Detection(肖像検出)で、世界での段階的な提供が始まる。本人確認を済ませたクリエイターや公人は、「自分の顔を使ったAIコンテンツが作られた」という通知を受け取り、そのまま通報できる。もう1つは誰でも使える確認ツールで、画像や動画をアップロードすると、TikTok自社のAI機能で生成・編集されたものかどうかを調べられる。TikTokのアカウントは不要だ。
肖像検出の流れは3段階。対象となるユーザーが、第三者機関による身分証の確認を経て参加する。自分の肖像を使っている可能性のあるコンテンツやアカウントをシステムが見つけると通知が届き、ユーザーはツール上で1件ずつ確認する。問題があれば、そのまま安全チームに報告する。TikTokによると、有害・誤解を招くコンテンツや、同意のない人物描写を禁じるコミュニティガイドラインに違反する動画は削除される。また同社はユーザーの身分証を保管しないとしている。対象には、政府機関、政治家、政党のアカウントも含まれる。
狙いは2027年の欧州選挙
TikTokはロンドンで開いた安全とイノベーションに関するイベントで、この2つのツールを紹介した。欧州の選挙を担当する政府渉外責任者のFrancesca Scapolo氏は次のように述べた。
「選挙の公正性を守ることは、TikTokが負う最も重要な責務の一つだ」(原文:Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok.)
ストレーツ・タイムズによると、2027年にはイタリア、フランス、ギリシャなど複数の欧州諸国で選挙が予定されている。EUは8月からAIの透明性ルールの運用を始めており、ディープフェイクなどAI生成コンテンツへの表示を求めている。TikTok自身も、リアルなAI画像・音声・動画にラベルを付けるようクリエイターに数年前から求めてきた。
確認ツールは、このラベルの抜け穴を埋める発想だ。TikTokは2024年、動画プラットフォームとして初めてC2PAコンテンツ認証情報を採用した。自社ツールで作ったコンテンツには自動でこの「出所情報」が付き、他のプラットフォームも読み取れば識別できる。ただ、動画はダウンロード、転載、編集されると、認証情報が失われやすい。新ツールはC2PAを読むだけでなく、TikTok独自の不可視透かし「VeraDura」も検出する。同社は、より耐久性が高く除去しにくいと説明している。確認ツールはTikTokの透明性センターにある。
TikTokは同時にいくつかの数字も公表した。これまでにAI生成動画5億本超に表示ラベルを付けたこと。違反コンテンツの99%以上が、通報される前に削除されていること。7月に公開したアプリ内のAIリテラシー専用ページで、400万人以上がAIコンテンツの見分け方を学んだこと。そして「興味なし」やキーワードフィルターなどのツールを、今年上半期にEUで7900万人以上が利用したことだ。
YouTubeに半歩遅れ
肖像検出では、YouTubeが先行している。同社は今年、同種のツールを有名人や芸能事務所に開放した。YouTubeチャンネルの有無は問わない。5月ごろには世界に拡大した。TikTok版は7月に米国の少数のクリエイターを対象に試験を始めたばかりで、当時は拡大の時期を示していなかった。4カ月後の今回、世界での段階提供に移る。
両社のやり方は似ている。どちらもまず本人確認を求め、次に顔を照合し、通報に応じてプラットフォームが対処する。違いは範囲だ。YouTubeは自社プラットフォームにいない著名人にも門戸を開いた。一方、TikTokが今回示したのは「対象となるクリエイターと公人」という表現にとどまる。フォロワー数がどれくらいか、どんなアカウントが対象かは、ヘルプセンター以外では公には説明されていない。
確認ツールの守備範囲はさらに狭い。判別できるのはTikTok自社のAI機能で作られたコンテンツだけで、頼りにするのは自社が埋め込んだ認証情報と透かしである。他社のモデルで生成してTikTokに投稿されたディープフェイク動画は、このツールでは見つからない。その部分は引き続き、プラットフォームの審査とユーザーの通報に頼ることになる。
TikTokがまだ答えていない点もある。肖像照合の精度と誤検知率、最初の段階で対象となる国の数、通報から処理までにかかる時間だ。欧州の選挙まで1年あまり。規制当局や選挙陣営が最も知りたいのは、こうした数字だろう。
参考資料:TikTok公式ニュースルーム(2つのツールの流れ、対象者、プラットフォーム統計)、ストレーツ・タイムズ、AFP、CocoLoop、Tubefilter(YouTube肖像検出の提供範囲)、Android Headlines、TikTokヘルプセンター(身分証を保管しないとの説明)。