À medida que a capacidade da IA generativa se torna mais poderosa, uma questão se torna cada vez mais urgente: Este rosto, este texto, este vídeo que estou vendo é real ou foi criado por IA?
Tanto no nível técnico quanto no regulatório, estão sendo feitas tentativas de dar uma resposta, mas o progresso é desigual.
No âmbito da pesquisa: Marcas d'água invisíveis
A professora de ciência da computação Yingzhen Yang (Yang Yinzhen) da Arizona State University (ASU) publicou este ano um sistema de atribuição descentralizada – essencialmente um método para ocultar informações em conteúdo gerado por IA.
Seu modo de operação não é colocar um rótulo "gerado por IA" sobre uma imagem, mas sim modificar diretamente os pesos internos do modelo de IA.
Após o processamento, cada imagem gerada pelo modelo carrega uma assinatura oculta única em seus aglomerados de pixels, completamente invisível a olho nu, mas legível por um detector. A analogia de Yang é: Como um floco de neve, cada modelo gera um padrão único.
O sistema pode informar três coisas:
- Se esta imagem foi gerada por IA
- Por qual modelo foi gerada
- (Em cenários específicos) Por qual usuário foi solicitada
Isso tem grande significado para a rastreabilidade de Deepfakes – não apenas marcação, mas rastreamento.
No âmbito legislativo: Arizona na vanguarda
A pesquisa de Yang e a legislação do Arizona ocorrem quase em paralelo: legisladores locais estão promovendo o projeto de lei SB 1786, que exige que os fabricantes de ferramentas de IA integrem tecnologia de marca d'água invisível em seus produtos.
O projeto já foi aprovado no Senado estadual e aguarda votação na Câmara dos Representantes.
O prazo legal da UE: Agosto de 2026
Uma pressão maior vem da União Europeia.
De acordo com o Artigo 50 do AI Act da UE, a lei entra em vigor oficialmente em agosto de 2026. A partir de então:
- Sistemas de IA devem informar os usuários de que estão interagindo com IA
- Áudio, vídeo e imagens sintéticos devem ser rotulados como gerados por IA
- Conteúdo Deepfake deve ser claramente marcado
Multas por violação: até 15 milhões de euros ou 3% do faturamento anual, o que for maior.
A UE está atualmente elaborando um código de conduta específico, com a versão final prevista para maio-junho de 2026. Este código estipulará uma combinação em múltiplas camadas de marcas d'água, incorporação de metadados e marcação invisível – pois a UE considera que nenhuma tecnologia única pode resolver este problema de forma confiável sozinha.
A Índia também está agindo
A Índia atualizou suas regulamentações de TI este ano, exigindo que mídias sintéticas incluam, por padrão, marcas d'água, manifestos C2PA ou protocolos semelhantes. Grandes plataformas precisam coletar declarações dos uploaders (se o conteúdo é gerado por IA ou tem uma fonte legítima).
Onde está a dificuldade
A própria tecnologia de marca d'água tem um ponto fraco fundamental: requer a cooperação ativa do provedor do modelo.
Para modelos de código aberto, qualquer pessoa pode publicar uma versão sem o mecanismo de marca d'água. Esta vulnerabilidade atualmente não tem uma boa solução regulatória.
Em outras palavras, as marcas d'água podem controlar as empresas que estão dispostas a cooperar, mas não os agentes mal-intencionados. Isso não significa que as marcas d'água sejam inúteis, mas sim que são uma condição necessária, mas não suficiente.
O desfecho da autenticidade do conteúdo provavelmente não será uma única tecnologia, mas uma combinação de: marca d'água + metadados de origem + verificação da plataforma + responsabilidade legal. A direção que a C2PA (Content Authenticity Initiative) está promovendo segue basicamente esse pensamento.
Fonte de referência: CocoLoop, ASU researcher develops invisible watermark system to detect AI deepfakes (KOLD News); EU AI Act: First Draft Code of Practice on Transparency and Watermarking (Cooley LLP); What the EU's New AI Code of Practice Means for Labeling Deepfakes (TechPolicy.Press)