TikTok 11 月 19 日宣布两项 AI 内容新工具。一项是 Likeness Detection(肖像检测),开始向全球逐步推开,经过身份验证的创作者和公众人物,可以收到“有人用你的长相做了 AI 内容”的提醒并直接举报。另一项是公开的查询工具,任何人上传图片或视频,就能查它是不是用 TikTok 自家 AI 功能生成或编辑的,不需要 TikTok 账号。
肖像检测的流程分三步:符合条件的用户通过第三方机构验证身份证件后加入;系统发现可能使用其肖像的内容和账号时发出通知,用户在工具里逐条查看;觉得有问题就直接报给安全团队。TikTok 称,违反社区准则中关于有害、误导性内容或未经同意描绘他人的视频会被删除,公司不保留用户的身份证件。适用人群包括政府、政治人物和政党账号。
时间点对着 2027 年欧洲大选
TikTok 在伦敦举办的安全与创新活动上介绍了这两项工具。负责欧洲选举事务的政府关系主管 Francesca Scapolo 说:
“Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok.” (维护选举公正,是 TikTok 承担的最重要职责之一。)
据《海峡时报》报道,2027 年意大利、法国、希腊等多个欧洲国家将举行选举,欧盟 8 月起开始推行 AI 透明度规则,要求对深度伪造等 AI 生成内容做标注。TikTok 自己要求创作者给逼真的 AI 图像、音频和视频打标签,已经好几年了。
查询工具的思路是补标签的漏洞。TikTok 2024 年成为首个采用 C2PA 内容凭证的视频平台,用自家工具生成的内容会自动带上这份“来源说明”,别的平台读到就能识别。可视频一旦被下载、转发、剪辑,凭证常常就丢了。新工具除了读 C2PA,还会检测 TikTok 自研的隐形水印 VeraDura,官方称它更耐用、更难去除。查询入口放在 TikTok 透明度中心。
TikTok 同时公布了几个数字:平台迄今已给超过 50 亿条 AI 生成视频打上标签;违规内容中 99% 以上在有人举报前就被删除;7 月上线的应用内 AI 素养专区,帮助了 400 多万人学习辨认 AI 内容;“不感兴趣”和关键词过滤等工具,今年上半年在欧盟有超过 7900 万人用过。
和 YouTube 比,晚了半拍
肖像检测这条路,YouTube 走得更早。YouTube 今年已把同类工具开放给明星和经纪公司,不要求对方有 YouTube 频道,5 月前后又推到全球。TikTok 的版本 7 月才开始在美国找一小批创作者测试,当时没有给扩展时间表,四个月后转为全球逐步上线。
两家做法相近,都要求先实名、再比对人脸,平台再根据举报处理。差别在范围:YouTube 把门开到了不在平台上的名人,TikTok 这次写的是“符合条件的创作者和公众人物”,具体多大粉丝量、哪些账号类型算符合条件,帮助中心之外的公开说明没有展开。
查询工具的边界更窄。它只能认出 TikTok 自家 AI 功能做出来的内容,靠的是自家写进去的凭证和水印。用其他公司的模型生成、再传到 TikTok 的深伪视频,这个工具查不出来,那部分仍要靠平台审核和用户举报。
几个问题官方还没有回答:肖像比对的准确率和误报率、首批覆盖多少个国家、举报后多久能处理完。欧洲大选还有一年多,这些数字会是监管机构和竞选团队最想看的东西。
参考来源:TikTok 官方新闻室(两项工具的流程、适用人群与平台统计数字)、《海峡时报》、法新社、CocoLoop、Tubefilter(YouTube 肖像检测的开放范围)、Android Headlines;TikTok 帮助中心核验身份证件不留存的说明。