No dia 19 de novembro, o TikTok anunciou duas novas ferramentas para conteúdo de IA. Uma é o Likeness Detection (detecção de imagem pessoal), que começa a ser lançado gradualmente em todo o mundo: criadores e figuras públicas com identidade verificada recebem um alerta quando alguém usa o seu rosto em conteúdo de IA e podem denunciá-lo diretamente. A outra é uma ferramenta pública de consulta: qualquer pessoa pode enviar uma imagem ou um vídeo e verificar se foi gerado ou editado pelos recursos de IA do próprio TikTok, sem precisar de conta na plataforma.
O fluxo do Likeness Detection tem três etapas: os usuários elegíveis verificam um documento de identidade por meio de uma empresa terceirizada e aderem; quando o sistema encontra conteúdos e contas que possam usar a sua imagem, eles são notificados e revisam cada item na ferramenta; se algo parecer problemático, denunciam diretamente à equipe de segurança. O TikTok afirma que vídeos que violem as diretrizes da comunidade sobre conteúdo nocivo, enganoso ou que retrate pessoas sem consentimento serão removidos, e que a empresa não guarda os documentos de identidade dos usuários. O público-alvo inclui contas de governos, políticos e partidos.
O momento mira as eleições europeias de 2027
O TikTok apresentou as duas ferramentas num evento de segurança e inovação em Londres. Francesca Scapolo, responsável por relações governamentais com foco nas eleições europeias, disse:
"Protecting the integrity of the elections is one of the most critical responsibilities that we have at TikTok."
(Proteger a integridade das eleições é uma das responsabilidades mais importantes do TikTok.)
Segundo o The Straits Times, em 2027 vários países europeus, como Itália, França e Grécia, realizarão eleições, e a União Europeia aplica desde agosto regras de transparência para IA que exigem a rotulagem de conteúdo gerado por IA, como deepfakes. O próprio TikTok exige há vários anos que os criadores rotulem imagens, áudios e vídeos realistas feitos com IA.
A ideia da ferramenta de consulta é cobrir as falhas da rotulagem. Em 2024, o TikTok foi a primeira plataforma de vídeo a adotar as Credenciais de Conteúdo do C2PA: o conteúdo gerado com as suas ferramentas leva automaticamente essa “certidão de origem”, que outras plataformas conseguem ler e reconhecer. Mas, quando o vídeo é baixado, reenviado ou editado, a credencial muitas vezes se perde. Por isso, além de ler o C2PA, a nova ferramenta detecta a marca d’água invisível desenvolvida pelo próprio TikTok, chamada VeraDura, que a empresa diz ser mais resistente e mais difícil de remover. O acesso à consulta fica no Centro de Transparência do TikTok.
O TikTok divulgou também alguns números: até agora, a plataforma rotulou mais de 5 bilhões de vídeos gerados por IA; mais de 99% do conteúdo infrator foi removido antes de qualquer denúncia; o espaço de literacia em IA dentro do aplicativo, lançado em julho, ajudou mais de 4 milhões de pessoas a aprender a identificar conteúdo de IA; e ferramentas como “Não tenho interesse” e filtros de palavras-chave foram usadas por mais de 79 milhões de pessoas na União Europeia no primeiro semestre deste ano.
Comparado ao YouTube, meio passo atrás
Nesse tipo de detecção de imagem, o YouTube saiu na frente. Neste ano, abriu uma ferramenta equivalente para celebridades e agências, sem exigir que tenham um canal no YouTube, e por volta de maio a estendeu ao mundo todo. A versão do TikTok só começou a ser testada em julho, com um pequeno grupo de criadores nos Estados Unidos, sem cronograma de expansão na época; quatro meses depois, passa a ser lançada gradualmente em escala global.
As duas empresas seguem abordagens parecidas: exigem primeiro a verificação de identidade real, depois comparam rostos, e a plataforma trata as denúncias. A diferença está no alcance: o YouTube abriu a porta até para famosos que não estão na plataforma, enquanto o TikTok desta vez fala em “criadores e figuras públicas elegíveis”; quantos seguidores são necessários ou que tipos de conta se qualificam não é explicado nas informações públicas além da Central de Ajuda.
O alcance da ferramenta de consulta é ainda mais restrito. Ela só reconhece conteúdo produzido pelos recursos de IA do próprio TikTok, com base nas credenciais e marcas d’água que a empresa insere. Vídeos deepfake gerados com modelos de outras empresas e depois enviados ao TikTok não são detectados por ela; essa parte continua dependendo da moderação da plataforma e das denúncias dos usuários.
Algumas perguntas seguem sem resposta oficial: a precisão e a taxa de falsos positivos da comparação de rostos, em quantos países começa o primeiro lote e quanto tempo leva para uma denúncia ser resolvida. Faltando pouco mais de um ano para as eleições europeias, esses são os números que reguladores e equipes de campanha mais vão querer ver.
Fontes: Sala de imprensa oficial do TikTok (fluxo das duas ferramentas, público-alvo e estatísticas da plataforma), The Straits Times, AFP, CocoLoop, Tubefilter (alcance da detecção de imagem no YouTube), Android Headlines; esclarecimento da Central de Ajuda do TikTok sobre a não retenção dos documentos de identidade verificados.