A Administração do Ciberespaço da China (CAC, na sigla em inglês) divulgou os resultados da segunda fase da campanha especial “Qinglang – Combate à desordem nas aplicações de IA”. Nesta fase, foram removidas mais de 5,61 milhões de informações ilegais, punidas mais de 49 mil contas e retirados de operação mais de 2.400 sites e aplicativos irregulares; as plataformas, somadas, publicaram 46 edições de boletins de fiscalização. Órgãos de regulação da internet de Pequim, Xangai, Zhejiang, Guangdong e outras regiões participaram da aplicação concreta das medidas.
O foco da segunda fase é completamente diferente do da primeira: uso de IA para produzir e divulgar informações falsas, disseminação de conteúdo violento ou vulgar, falsificação de identidade e imitação de terceiros, violação dos direitos de menores, operações de “exércitos de cliques” e a própria geração de conteúdo irregular pelos produtos de IA.
Do fechamento de produtos à limpeza de contas
A campanha especial foi lançada no fim de abril deste ano, com duração de quatro meses, dividida em duas fases, focada em 14 categorias de problemas prioritários. Colocando os resultados das duas fases lado a lado, a mudança de foco fica evidente.
No relatório da primeira fase, foram punidos mais de 14 mil produtos de IA irregulares, retirados de operação mais de 1.300 produtos de IA irregulares e removidos 9 conjuntos de dados abertos irregulares — o alvo era a origem técnica: se os grandes modelos estavam registrados conforme exigido, se a capacidade de revisão e filtragem de segurança das plataformas era suficiente, se os dados de treinamento haviam sido contaminados, se a marcação de conteúdo sintético gerado por IA estava implementada. O alvo das ações era o próprio produto.
Na segunda fase, o número de produtos punidos caiu para 2.400, enquanto o de contas punidas saltou de 26 mil para 49 mil — quase dobrando. O volume de informações removidas ficou praticamente estável entre as duas fases (mais de 6 milhões contra mais de 5,61 milhões), mas, para um volume de conteúdo semelhante, o número de contas envolvidas quase dobrou. Um cálculo aproximado mostra que, na primeira fase, cada conta punida estava associada, em média, a cerca de 230 informações irregulares; na segunda fase, esse número caiu para cerca de 115. A produção por conta individual está caindo, enquanto o número de contas envolvidas está subindo. É o padrão típico do período “após a popularização da ferramenta”: o limiar para gerar conteúdo com IA caiu, o custo de criar contas em massa para postar conteúdo caiu junto, e a fiscalização é forçada a operar em um nível cada vez mais granular.
A tarefa entregue pelas plataformas
Do lado das plataformas de conteúdo, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban e Taobao concentraram suas ações na capacidade de identificação: otimização de modelos de reconhecimento multimodal, expansão dinâmica de bancos de dados de rostos, vozes e amostras de irregularidades, além da implantação de um sistema de fiscalização facial em tempo real. O destaque dado separadamente a rosto e voz aponta para o problema mais difícil desta fase — a falsificação de identidade, popularmente conhecida como troca de rosto e imitação de voz.
Do lado dos produtos de IA, Doubao, Yuanbao, Qwen e Ernie Bot foram citados nominalmente e cobrados a reforçar rigorosamente a revisão de conteúdo dos dados brutos, restringir severamente a geração de conteúdo irregular e fortalecer a implementação da exigência de marcação de conteúdo sintético gerado por IA. A regulação passou a incluir na avaliação tanto o lado da geração quanto o da distribuição: o modelo não gerar conteúdo irregular é a primeira barreira, a plataforma conseguir identificá-lo é a segunda, e ambas precisam deixar registros rastreáveis.
Nem o extremo inicial da cadeia de distribuição escapou. Várias grandes fabricantes de smartphones com lojas de aplicativos próprias foram instruídas a estabelecer normas rígidas de admissão de desenvolvedores e critérios de publicação, além de realizar auditorias e novos testes em amostras dos aplicativos já disponíveis, barrando aplicativos irregulares já na entrada. Registro de desenvolvedores, publicação de aplicativos, geração de conteúdo, distribuição de conteúdo e operação de contas — as cinco etapas tiveram, nesta rodada, critérios de tratamento correspondentes.
Onde está o centro de gravidade da conformidade
Para as equipes chinesas que desenvolvem aplicações de IA, a diferença entre as duas fases, na prática, é uma mudança na natureza do custo de conformidade.
A primeira fase testava a barreira de entrada: registro do modelo, origem dos dados, marcação de conteúdo — investimentos pontuais que, uma vez feitos, garantem tranquilidade por um período. A segunda fase testa a operação contínua: depois que o produto entra no ar, quem o usa, o que ele gera, se está sendo explorado para criar contas em massa — tudo isso passa a ser responsabilidade da plataforma. As 46 edições de boletins de fiscalização e as 49 mil contas punidas mostram que essa barreira não se vence com um único dossiê entregue, mas com um sistema de revisão e uma esteira de tratamento que funcionam continuamente.
A linha da marcação de conteúdo merece atenção especial. Na primeira fase, era um item de conformidade do tipo “foi feito ou não”; na segunda, tornou-se o ponto de partida da cadeia de responsabilização: diante de uma informação falsa denunciada, se a marcação estiver completa, é possível rastrear até a origem da geração; se estiver ausente, cabe à plataforma explicar por conta própria toda a cadeia de responsabilidade. O investimento real tende a se deslocar para sistemas de revisão e capacidade de rastreamento, e não mais apenas para a documentação de registro em si.
Fontes: comunicado da Administração do Ciberespaço da China, Xinhua, CocoLoop, China News Service; os números de informações removidas, contas punidas e produtos irregulares tratados nas duas fases foram conferidos item a item conforme os comunicados oficiais, e a média por conta é uma estimativa aproximada a partir dos números públicos.