A Administração do Ciberespaço da China publicou recentemente um projeto de regras específicas para serviços de IA que conversam, acompanham e demonstram "empatia" com os usuários. O nome oficial é "Medidas Provisórias de Gestão para Serviços de Inteligência Artificial de Interação Humanóide (Projeto para Consulta)", divulgado em 3 de abril de 2026 para consulta pública.
O que é "IA de interação humanóide"?
O escopo das regras é mais amplo do que se imagina — qualquer serviço que "simule características de personalidade humana, modos de pensamento e estilos de comunicação" e interaja emocionalmente com usuários por meio de texto, imagem, voz ou vídeo está incluído.
Em outras palavras: companheiros de chat de IA, namorados virtuais, bots de aconselhamento emocional, IA de atendimento ao cliente... se você sente que "parece que realmente me entende", provavelmente está dentro da jurisdição.
O que exatamente é regulamentado
Pausa obrigatória a cada duas horas
Quando o usuário usar continuamente por duas horas, o sistema deve exibir um lembrete para fazer uma pausa. Essa lógica é semelhante ao sistema anti-vício em jogos. Considerando que algumas pessoas realmente usam companheiros de IA como "lixeira emocional" diária, essa regra não é surpreendente.
Proibição de fingir ser parente
O projeto proíbe explicitamente os serviços de IA de "simular parentes próximos do usuário". Este é um corte preciso — já existem produtos no mercado que permitem o upload de áudio para a IA imitar a voz de familiares falecidos ou desempenhar o papel de cônjuge. Essa prática será diretamente bloqueada no mercado chinês.
Proibição de "armadilhas emocionais"
O texto usa o termo "armadilha emocional" — proíbe serviços de manipular emoções para influenciar o comportamento do usuário ou induzir ao consumo. Isso visa o modelo de negócios de "criar dependência deliberadamente e depois vender conteúdo pago".
Deve informar claramente que você está falando com IA
O usuário não pode ser levado a acreditar que está conversando com uma pessoa real. Essa regra está alinhada com a prática atual da maioria das empresas de IA, mas agora é um requisito obrigatório em nível regulatório.
Deve intervir em caso de emoções anormais
O projeto exige que os provedores de serviços estabeleçam um sistema de reconhecimento do estado psicológico do usuário. Quando o usuário demonstrar emoções extremas ou sinais de dependência, o sistema deve intervir ativamente. Se houver risco de automutilação ou suicídio, deve ser transferido para um atendente humano real.
Proteção adicional para menores e idosos
O modo menor é obrigatório: requer consentimento dos pais, filtro de conteúdo exclusivo e mecanismo de contato de emergência. Na proteção de idosos, não podem ser colocados obstáculos que os impeçam de contatar serviços humanos reais.
Limiares para revisão regulatória
Serviços com mais de 1 milhão de usuários registrados ou mais de 100.000 usuários ativos mensais devem apresentar um relatório de avaliação de segurança ao departamento provincial de administração do ciberespaço. Isso significa que, uma vez que um produto atinja escala, ele entra no radar regulatório.
Análise do projeto
O projeto ainda está em fase de consulta, e a versão final pode sofrer ajustes. Mas a direção já está clara:
Os reguladores chineses têm uma percepção clara dos riscos de manipulação emocional dos produtos de companheiros de IA e não pretendem esperar que os problemas explodam para agir.
A pausa obrigatória de duas horas é diretamente comparada ao sistema anti-vício em jogos — indicando que as autoridades colocam o potencial de vício dos companheiros de IA no mesmo nível de risco dos jogos online.
A proibição de simular parentes próximos revela uma lógica mais profunda: a IA não deve ocupar o lugar dos relacionamentos humanos reais. Esta não é uma questão técnica, mas um julgamento de valor.
Certamente haverá controvérsias. A análise da ChinaLawTranslate aponta que a regra de "transferir repentinamente conversas de crise para um atendente humano" pode ser contraproducente — um usuário em colapso, de repente transferido para um atendente humano desconhecido, pode não ser uma boa experiência. Os detalhes algorítmicos de perfil de usuário e reconhecimento de risco psicológico não são mencionados, tornando a execução prática bastante desafiadora.
Mas, independentemente disso, este é um dos primeiros casos globalmente de legislação específica para companheiros de IA e IA emocional. Outros países ainda estão em fase de discussão, enquanto a China já está redigindo regras.
Fontes de referência: CocoLoop, China Issues Draft Rules on Interactive AI Services (Mayer Brown); The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI (ChinaLawTranslate); China drafts new rules for AI 'humans' and children's addictive tech (CGTN)