틱톡, 딥페이크 초상 탐지 기능 전 세계로 확대

AI security illustration: a shield sealing a red crack in a network

틱톡은 11월 19일 AI 콘텐츠 관련 새 도구 두 가지를 발표했다. 하나는 Likeness Detection(초상 탐지)으로, 전 세계에 단계적으로 제공되기 시작한다. 신원 인증을 거친 크리에이터와 공인은 “누군가 내 얼굴로 AI 콘텐츠를 만들었다”는 알림을 받고 바로 신고할 수 있다. 다른 하나는 누구나 쓸 수 있는 확인 도구다. 이미지나 동영상을 올리면 틱톡 자체 AI 기능으로 생성·편집된 것인지 조회할 수 있고, 틱톡 계정은 필요 없다.

초상 탐지는 세 단계로 진행된다. 자격을 갖춘 사용자가 제3의 기관을 통해 신분증을 확인받고 참여한다. 시스템이 자신의 초상을 사용했을 가능성이 있는 콘텐츠와 계정을 발견하면 알림을 보내고, 사용자는 도구에서 건별로 확인한다. 문제가 있다고 판단하면 안전팀에 바로 신고한다. 틱톡은 유해하거나 오해를 부르는 콘텐츠, 동의 없이 타인을 묘사한 영상을 금지하는 커뮤니티 가이드라인을 어긴 영상은 삭제하며, 사용자의 신분증은 보관하지 않는다고 밝혔다. 대상에는 정부, 정치인, 정당 계정도 포함된다.

시점은 2027년 유럽 선거를 겨냥

틱톡은 런던에서 열린 안전·혁신 행사에서 두 도구를 소개했다. 유럽 선거 업무를 맡은 정부 관계 책임자 Francesca Scapolo는 이렇게 말했다.

“Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok.”(선거의 공정성을 지키는 것은 틱톡이 지는 가장 중요한 책임 가운데 하나다.)

스트레이츠 타임스에 따르면 2027년에는 이탈리아, 프랑스, 그리스 등 여러 유럽 국가에서 선거가 열린다. EU는 8월부터 AI 투명성 규정을 시행하고 있으며, 딥페이크 같은 AI 생성 콘텐츠에 표시를 달도록 요구한다. 틱톡 자체도 사실적인 AI 이미지·음성·영상에 라벨을 달도록 크리에이터에게 수년 전부터 요구해 왔다.

확인 도구는 라벨의 빈틈을 메우려는 발상이다. 틱톡은 2024년 동영상 플랫폼 가운데 처음으로 C2PA 콘텐츠 자격 증명을 도입했다. 자체 도구로 만든 콘텐츠에는 이 “출처 정보”가 자동으로 붙고, 다른 플랫폼도 읽으면 식별할 수 있다. 하지만 영상을 내려받아 다시 올리거나 편집하면 자격 증명이 사라지는 경우가 많다. 새 도구는 C2PA를 읽는 데 그치지 않고 틱톡이 자체 개발한 비가시 워터마크 VeraDura도 탐지한다. 회사는 이 워터마크가 더 내구성이 높고 제거하기 어렵다고 설명한다. 확인 도구는 틱톡 투명성 센터에 있다.

틱톡은 몇 가지 수치도 함께 공개했다. 지금까지 AI 생성 영상 50억 건 넘게 라벨을 붙였고, 위반 콘텐츠의 99% 이상이 신고가 들어오기 전에 삭제됐다. 7월에 문을 연 앱 내 AI 리터러시 코너는 400만 명 넘는 사람이 AI 콘텐츠 구별법을 배우는 데 도움을 줬다. “관심 없음”과 키워드 필터 같은 도구는 올해 상반기 EU에서 7900만 명 넘게 사용했다.

유튜브에 비해 반 박자 늦었다

초상 탐지는 유튜브가 먼저 갔다. 유튜브는 올해 같은 종류의 도구를 유명인과 소속사에 개방했고, 유튜브 채널이 없어도 된다. 5월 무렵에는 전 세계로 확대했다. 틱톡 버전은 7월에야 미국의 소수 크리에이터를 대상으로 테스트를 시작했고, 당시에는 확대 일정을 밝히지 않았다. 넉 달 뒤 전 세계 단계적 제공으로 넘어간다.

두 회사의 방식은 비슷하다. 모두 먼저 실명 인증을 하고 얼굴을 대조하며, 플랫폼이 신고에 따라 처리한다. 차이는 범위다. 유튜브는 자기 플랫폼에 없는 유명인에게도 문을 열었다. 반면 틱톡이 이번에 쓴 표현은 “자격을 갖춘 크리에이터와 공인”이다. 팔로워가 몇 명이어야 하는지, 어떤 계정 유형이 해당하는지는 고객센터 밖에서는 공개 설명이 없다.

확인 도구의 한계는 더 좁다. 알아낼 수 있는 것은 틱톡 자체 AI 기능으로 만든 콘텐츠뿐이며, 틱톡이 직접 심어 둔 자격 증명과 워터마크에 의존한다. 다른 회사 모델로 생성해 틱톡에 올린 딥페이크 영상은 이 도구로 가려낼 수 없다. 그 부분은 여전히 플랫폼 심사와 이용자 신고에 기대야 한다.

틱톡이 아직 답하지 않은 질문도 있다. 초상 대조의 정확도와 오탐률, 첫 단계에서 몇 개 국가를 포함하는지, 신고 후 처리까지 얼마나 걸리는지다. 유럽 선거까지는 1년 남짓 남았다. 규제 당국과 선거 캠프가 가장 보고 싶어 할 것은 이런 수치일 것이다.

참고 출처: 틱톡 공식 뉴스룸(두 도구의 절차, 대상자, 플랫폼 통계), 스트레이츠 타임스, AFP, CocoLoop, Tubefilter(유튜브 초상 탐지의 개방 범위), Android Headlines, 틱톡 고객센터(신분증 미보관 설명).