La Administración del Ciberespacio de China publicó recientemente un borrador de normas específicas para los servicios de IA que chatean, acompañan y muestran "empatía" con los usuarios. El nombre oficial es "Medidas Provisionales de Gestión para Servicios de Inteligencia Artificial de Interacción Humanoide (Borrador para Consulta)", publicado el 3 de abril de 2026 para consulta pública.
¿Qué es la "IA de interacción humanoide"?
El alcance de las normas es más amplio de lo que se piensa — cualquier servicio que "simule rasgos de personalidad humana, formas de pensar y estilos de comunicación" e interactúe emocionalmente con los usuarios a través de texto, imágenes, voz o vídeo está incluido.
En otras palabras: acompañantes de chat de IA, novios virtuales, bots de asesoramiento emocional, IA de atención al cliente... si sientes que "parece que realmente me entiende", probablemente está dentro de la jurisdicción.
¿Qué se regula exactamente?
Pausa obligatoria, cada dos horas
Cuando el usuario use continuamente durante dos horas, el sistema debe mostrar un aviso para que descanse. Esta lógica es similar al sistema antiadicción de los juegos. Teniendo en cuenta que algunas personas realmente usan los acompañantes de IA como "cubo de basura emocional" diario, esta norma no sorprende.
Prohibición de hacerse pasar por familiar
El borrador prohíbe explícitamente a los servicios de IA "simular parientes cercanos del usuario". Este es un corte preciso — ya existen productos en el mercado que permiten subir audio para que la IA imite la voz de familiares fallecidos o desempeñe el papel de cónyuge. Esta práctica será bloqueada directamente en el mercado chino.
Prohibición de "trampas emocionales"
El texto utiliza el término "trampa emocional" — prohíbe a los servicios manipular emociones para influir en el comportamiento del usuario o inducir al consumo. Esto apunta al modelo de negocio de "crear dependencia deliberadamente y luego vender contenido de pago".
Debe informar claramente que estás hablando con IA
El usuario no puede creer que está conversando con una persona real. Esta norma está alineada con la práctica actual de la mayoría de las empresas de IA, pero ahora es un requisito obligatorio a nivel regulatorio.
Debe intervenir ante emociones anormales
El borrador exige que los proveedores de servicios establezcan un sistema de reconocimiento del estado psicológico del usuario. Cuando el usuario muestre emociones extremas o signos de dependencia, el sistema debe intervenir activamente. Si hay riesgo de autolesión o suicidio, debe transferirse a un agente humano real.
Protección adicional para menores y ancianos
El modo menor es obligatorio: requiere consentimiento de los padres, filtro de contenido exclusivo y mecanismo de contacto de emergencia. En la protección de ancianos, no se pueden poner obstáculos que les impidan contactar con servicios humanos reales.
Umbrales para la revisión regulatoria
Los servicios con más de 1 millón de usuarios registrados o más de 100.000 usuarios activos mensuales deben presentar un informe de evaluación de seguridad al departamento provincial de administración del ciberespacio. Esto significa que, una vez que un producto alcanza escala, entra en el radar regulatorio.
Análisis del borrador
El borrador aún está en fase de consulta, y la versión final podría sufrir ajustes. Pero la dirección ya está clara:
Los reguladores chinos tienen una percepción clara de los riesgos de manipulación emocional de los productos de acompañantes de IA y no pretenden esperar a que los problemas estallen para actuar.
La pausa obligatoria de dos horas se compara directamente con el sistema antiadicción de los juegos — lo que indica que las autoridades sitúan el potencial de adicción de los acompañantes de IA en el mismo nivel de riesgo que los juegos en línea.
La prohibición de simular parientes cercanos revela una lógica más profunda: la IA no debe ocupar el lugar de las relaciones humanas reales. Esto no es un problema técnico, sino un juicio de valor.
Seguramente habrá controversia. El análisis de ChinaLawTranslate señala que la regla de "transferir repentinamente conversaciones de crisis a un agente humano" puede ser contraproducente — un usuario que se está derrumbando, de repente transferido a un agente humano desconocido, puede no ser una buena experiencia. Los detalles algorítmicos de perfil de usuario y reconocimiento de riesgo psicológico no se mencionan en absoluto, lo que dificulta considerablemente la ejecución práctica.
Pero, independientemente de ello, este es uno de los primeros casos a nivel mundial de legislación específica para acompañantes de IA e IA emocional. Otros países aún están en fase de discusión, mientras que China ya está redactando normas.
Fuentes de referencia: CocoLoop, China Issues Draft Rules on Interactive AI Services (Mayer Brown); The Friends We've Made: An Initial Breakdown of Draft Rules for Human-like AI (ChinaLawTranslate); China drafts new rules for AI 'humans' and children's addictive tech (CGTN)