La Administración del Ciberespacio de China (CAC) presentó los resultados de la segunda fase de su campaña especial “Qinglang: orden en el caos de las aplicaciones de IA”. En esta fase se retiró un total de más de 5,61 millones de contenidos ilegales, se sancionaron más de 49.000 cuentas y se dieron de baja más de 2.400 sitios web y aplicaciones irregulares; entre todas las plataformas se publicaron 46 boletines de fiscalización. Las autoridades de internet de Pekín, Shanghái, Zhejiang, Cantón y otras regiones participaron en la ejecución concreta.
El foco de la segunda fase es completamente distinto al de la primera: uso de IA para producir y difundir información falsa, difusión de contenido violento o vulgar, suplantación e imitación de identidad de terceros, vulneración de los derechos de menores, actividades de “ejércitos de comentarios” en redes y la generación de contenido irregular por parte de los propios productos de IA.
Del cierre de productos a la limpieza de cuentas
La campaña especial se puso en marcha a finales de abril de este año, tiene una duración de cuatro meses, se divide en dos fases y se centra en 14 categorías de problemas prioritarios. Al comparar los resultados de ambas fases, el desplazamiento del foco resulta evidente.
Según el informe de la primera fase, se sancionaron más de 14.000 productos de IA irregulares, se dieron de baja más de 1.300 productos de IA irregulares y se eliminaron 9 conjuntos de datos abiertos irregulares: el objetivo era el origen técnico —si los grandes modelos estaban registrados conforme a la normativa, si la capacidad de revisión y filtrado de seguridad de las plataformas era suficiente, si los datos de entrenamiento habían sido envenenados, si se había implementado el etiquetado de contenido sintético generado por IA—. El objetivo de las medidas era el propio producto.
En la segunda fase, el número de productos sancionados bajó a 2.400, mientras que el de cuentas sancionadas saltó de 26.000 a 49.000, casi duplicándose. El volumen de información retirada se mantuvo prácticamente estable entre ambas fases (más de 6 millones frente a más de 5,61 millones), pero para un volumen de contenido similar, el número de cuentas implicadas fue casi el doble. Un cálculo aproximado indica que en la primera fase cada cuenta sancionada estaba vinculada, en promedio, a unas 230 informaciones irregulares, mientras que en la segunda fase esa cifra bajó a unas 115. La producción por cuenta individual disminuye, mientras que el número de cuentas participantes aumenta. Es el patrón típico de la etapa “tras la masificación de la herramienta”: el umbral para generar contenido con IA baja, con lo cual también baja el costo de crear cuentas en masa para publicar contenido, y la fiscalización se ve obligada a operar a un nivel cada vez más granular.
La tarea que entregaron las plataformas
Del lado de las plataformas de contenido, Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban y Taobao concentraron sus medidas en la capacidad de detección: optimización de modelos de reconocimiento multimodal, ampliación dinámica de las bases de datos de rostros, voces y muestras de infracciones, y puesta en marcha de un sistema de control facial en tiempo real. Que se haya destacado por separado el rostro y la voz apunta al problema más difícil de esta fase: la suplantación de identidad, conocida coloquialmente como intercambio de rostro e imitación de voz.
Del lado de los productos de IA, se nombró expresamente a Doubao, Yuanbao, Qwen y Ernie Bot, exigiéndoles reforzar estrictamente la revisión de contenido de los datos brutos, limitar rigurosamente la generación de contenido irregular y fortalecer la aplicación del requisito de etiquetado de contenido sintético generado por IA. La regulación incorporó a la evaluación tanto el extremo de generación como el de distribución: que el modelo no genere contenido irregular es la primera barrera, que la plataforma logre detectarlo es la segunda, y ambas deben dejar un registro rastreable.
Tampoco se dejó de lado el extremo más alto de la cadena de distribución. Varios de los principales fabricantes de teléfonos, con tiendas de aplicaciones propias, recibieron la orden de establecer normas estrictas de admisión de desarrolladores y criterios de publicación, así como de realizar muestreos y nuevas pruebas sobre las aplicaciones ya disponibles, para frenar las apps irregulares desde el momento del ingreso. Registro de desarrolladores, publicación de aplicaciones, generación de contenido, distribución de contenido y operación de cuentas: las cinco etapas contaron en esta ronda con criterios de tratamiento correspondientes.
Dónde está el centro de gravedad del cumplimiento
Para los equipos nacionales que desarrollan aplicaciones de IA, la diferencia entre ambas fases se traduce, en la práctica, en un cambio en la partida del costo de cumplimiento.
La primera fase evaluaba la barrera de entrada: registro del modelo, origen de los datos, etiquetado de contenido, inversiones puntuales que, una vez hechas, ofrecen tranquilidad durante un tiempo. La segunda fase evalúa la operación continua: quién usa el producto tras su lanzamiento, qué genera, si se está aprovechando para crear cuentas en masa; todo eso pasa a ser responsabilidad de la plataforma. Los 46 boletines de fiscalización y las 49.000 cuentas sancionadas muestran que esta barrera no se supera con un solo expediente entregado, sino con un sistema de revisión y una cadena de procesamiento que funcionan de manera continua.
La línea del etiquetado de contenido merece especial atención. En la primera fase era un requisito de cumplimiento del tipo “se hizo o no se hizo”; en la segunda se convirtió en el punto de partida de la cadena de responsabilidad: ante una información falsa denunciada, si el etiquetado está completo se puede rastrear hasta el origen de la generación; si falta, toda la cadena de responsabilidad recae en que la plataforma la explique por sí misma. La inversión real tenderá a desplazarse hacia los sistemas de revisión y la capacidad de rastreo, y ya no solo hacia la documentación del registro en sí.
Fuentes: comunicado de la Administración del Ciberespacio de China, Xinhua, CocoLoop, China News Service; las cifras de información retirada, cuentas sancionadas y productos irregulares tratados en ambas fases se cotejaron una a una según los comunicados oficiales, y el promedio por cuenta es una estimación aproximada a partir de las cifras públicas.