Em 5 de outubro, a OpenAI anunciou um esquema de marca d'água textual chamado textGrain, criado para atender às exigências de transparência do Artigo 50 da Lei de Inteligência Artificial da União Europeia. Nas próximas semanas, usuários elegíveis do ChatGPT e do Codex na UE passarão a receber textos gerados pelo modelo com uma camada de sinal estatístico invisível a olho nu, mas identificável por máquinas.
Clientes de API em todo o mundo também poderão ativar manualmente esse recurso para alguns modelos a partir da data do anúncio, com a opção desativada por padrão. O anúncio não especifica quais modelos têm suporte.
A marca d'água se esconde na escolha das palavras
O textGrain atua na etapa em que o modelo escolhe as palavras. Ao gerar texto, há vários pontos em que diversas palavras candidatas são igualmente adequadas, e a OpenAI usa uma chave para decidir qual delas é escolhida. Uma única frase não apresenta nada de estranho, mas, se o trecho for longo o suficiente, as palavras preferidas pela chave aparecem com frequência suficiente para serem identificadas estatisticamente — e quem possui a chave pode usar isso para determinar se o texto vem de um modelo com marca d'água.
Os dados de detecção divulgados pela OpenAI partem de uma taxa de falsos positivos de 1%:
- Trecho de 200 tokens: taxa de detecção de cerca de 80%;
- 400 tokens: cerca de 95%;
- Trecho de 400 tokens com 10% das palavras trocadas por sinônimos: a detecção cai para 66%;
- Com 25% trocadas: sobra apenas 17%.
Em outras palavras, se um leitor recebe um texto gerado pelo ChatGPT e o reescreve levemente, a marca d'água praticamente deixa de ser reconhecível. A OpenAI não evita esse ponto na documentação.
Em termos de qualidade, a empresa afirma que, em oito benchmarks, a diferença de pontuação entre ativar e desativar a marca d'água fica dentro da margem de ruído; em um deles, a pontuação foi de 49,57 contra 49,76.
O detector não é aberto ao público
A parte mais restrita desse esquema é a etapa de detecção. A OpenAI abriu um canal de solicitação no mesmo dia, mas o detector só é disponibilizado a "pesquisadores e instituições especializadas aprovados", com análise caso a caso. Usuários comuns, escolas e editoras ainda não conseguem verificar um texto por conta própria.
A OpenAI também delimitou claramente os limites do recurso na documentação:
"A watermark does not measure human contribution, does not establish ownership or responsibility, does not identify the user, and does not verify accuracy."
(Uma marca d'água não mede a contribuição humana, não estabelece propriedade ou responsabilidade, não identifica o usuário e não verifica a precisão do conteúdo.)
A empresa também alerta que a ausência de marca d'água detectada não prova que um texto foi escrito por um humano.
Cronograma regulatório
O Artigo 50 da Lei de IA da UE exige que provedores de IA generativa tornem o conteúdo gerado identificável por máquinas como produzido por IA. Segundo o cronograma público, a exigência passou a valer em 2 de agosto, com um período de carência até 2 de dezembro para sistemas que já estavam em operação antes disso. A OpenAI optou por lançar o recurso na UE "nas próximas semanas", encaixando-se aproximadamente nessa janela.
Isso também explica por que a marca d'água vem ativada por padrão apenas na UE. Em outras regiões, as saídas do ChatGPT e do Codex permanecem, por ora, sem marca d'água; usuários de API podem ativá-la manualmente se quiserem.
Outros players no mesmo caminho
A marca d'água em texto é um caminho que, no último ano, já atraiu várias empresas.
O Google DeepMind, com o SynthID, foi o primeiro a fazer marca d'água em texto, com o mesmo princípio de favorecer certas escolhas de palavras na amostragem, e depois abriu o código da parte de texto; no final de setembro, aplicou a mesma ideia a sequências de proteínas projetadas por IA. Relatos de veículos estrangeiros dizem que a própria OpenAI considera o desempenho do textGrain equivalente ou ligeiramente melhor que o do SynthID, uma afirmação que ainda não foi verificada de forma independente.
A Anthropic anunciou em agosto uma marca d'água para a saída de texto do Claude, com abordagem semelhante e o mesmo problema antigo: reescrever o texto anula o efeito. O framework de inferência vLLM transformou, em setembro, um tipo de marca d'água baseado em amostragem Gumbel em uma opção embutida; testes mostraram que, em escrita criativa, cerca de 100 tokens já bastam para detecção total, enquanto em tarefas de código só 43% são detectados mesmo com 400 tokens.
Colocando os números dessas empresas lado a lado, o padrão é claro: quanto mais longo e mais "livre" o texto, mais fácil é reconhecer a marca d'água; já em código, fórmulas e respostas factuais de alta determinação, o espaço para favorecer certas palavras é pequeno, então o sinal é naturalmente mais fraco. Os números divulgados pelo textGrain são para texto geral; a OpenAI não informou separadamente o desempenho em cenários de código.
Para usuários na China, essa mudança tem pouco impacto por ora: a marca d'água vem ativada por padrão só na UE, e o ChatGPT já não é acessível diretamente no país. As "Medidas para a Identificação de Conteúdo Sintético Gerado por IA" da China estão em vigor desde setembro do ano passado e exigem uma combinação de identificação explícita e identificação implícita em metadados, seguindo uma abordagem diferente.
Fontes: Declaração de transparência de texto da OpenAI para a UE, AI Weekly, CocoLoop, Análise técnica da CellCog; as taxas de detecção seguem uma taxa de falsos positivos de 1%, e a data de aplicação da lei segue o cronograma público da UE.