TikTok 11 月 19 日宣布兩項 AI 內容新工具。其一是 Likeness Detection(肖像偵測),開始在全球逐步推出,經過身分驗證的創作者與公眾人物,可以收到「有人用你的長相製作了 AI 內容」的通知,並直接檢舉。另一項是公開的查詢工具,任何人上傳圖片或影片,就能查詢它是否由 TikTok 自家的 AI 功能生成或編輯,不需要 TikTok 帳號。
肖像偵測的流程分為三步:符合資格的使用者透過第三方機構驗證身分證件後加入;系統發現可能使用其肖像的內容與帳號時發出通知,使用者在工具中逐一檢視;覺得有問題就直接向安全團隊檢舉。TikTok 表示,違反社群準則中有關有害、誤導性內容,或未經同意描繪他人的影片會被移除,公司不會保留使用者的身分證件。適用對象包括政府、政治人物與政黨帳號。
時間點對準 2027 年歐洲大選
TikTok 在倫敦舉辦的安全與創新活動上介紹了這兩項工具。負責歐洲選舉事務的政府關係主管 Francesca Scapolo 表示:
“Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok.”(維護選舉公正,是 TikTok 肩負的最重要責任之一。)
根據《海峽時報》報導,2027 年義大利、法國、希臘等多個歐洲國家將舉行選舉,歐盟自 8 月起開始實施 AI 透明度規則,要求對深度偽造等 AI 生成內容加上標示。TikTok 自己也已要求創作者替逼真的 AI 圖像、音訊與影片加上標籤好幾年了。
查詢工具的用意,是補上標籤的漏洞。TikTok 在 2024 年成為首個採用 C2PA 內容憑證的影片平台,用自家工具生成的內容會自動附上這份「來源說明」,其他平台讀取後就能辨識。不過影片一旦被下載、轉發或剪輯,憑證往往就遺失了。新工具除了讀取 C2PA,還會偵測 TikTok 自行研發的隱形浮水印 VeraDura,官方稱它更耐用、更難移除。查詢入口設在 TikTok 透明度中心。
TikTok 同時公布了幾組數字:平台迄今已為超過 50 億支 AI 生成影片加上標籤;違規內容中有 99% 以上在有人檢舉前就已被移除;7 月上線的應用程式內 AI 素養專區,協助了 400 多萬人學習辨識 AI 內容;「不感興趣」與關鍵字過濾等工具,今年上半年在歐盟有超過 7,900 萬人使用過。
比 YouTube 慢了半拍
肖像偵測這條路,YouTube 走得更早。YouTube 今年已將同類工具開放給藝人與經紀公司,不要求對方擁有 YouTube 頻道,5 月前後又推向全球。TikTok 的版本 7 月才開始在美國找一小批創作者測試,當時沒有提供擴展時程,四個月後轉為全球逐步上線。
兩家的做法相近,都要求先實名驗證、再比對人臉,平台再依檢舉處理。差別在範圍:YouTube 把門打開到不在平台上的名人,TikTok 這次寫的則是「符合資格的創作者與公眾人物」,具體要有多少粉絲、哪些帳號類型算符合資格,除了說明中心之外,並沒有公開說明。
查詢工具的界線更窄。它只能辨認出 TikTok 自家 AI 功能製作的內容,靠的是自家寫入的憑證與浮水印。用其他公司的模型生成、再上傳到 TikTok 的深偽影片,這個工具查不出來,那部分仍要靠平台審核與使用者檢舉。
官方尚未回答的問題還有幾個:肖像比對的準確率與誤報率、首批涵蓋多少個國家、檢舉後多久能處理完畢。距離歐洲大選還有一年多,這些數字會是監管機關與競選團隊最想看到的東西。
參考來源:TikTok 官方新聞室(兩項工具的流程、適用對象與平台統計數字)、《海峽時報》、法新社、CocoLoop、Tubefilter(YouTube 肖像偵測的開放範圍)、Android Headlines;TikTok 說明中心關於不留存身分證件的說明。