El 8 de abril, OpenAI publicó un Plan de Seguridad Infantil (Child Safety Blueprint), con el objetivo de proporcionar un marco de respuesta sistemática para la industria de la IA en el tratamiento de contenido de explotación sexual infantil.
El contexto de este problema es más grave de lo que muchos creen.
Los datos hablan
Según las estadísticas de la Internet Watch Foundation, solo en el primer semestre de 2025, se descubrieron más de 8.000 casos de contenido de abuso sexual infantil generado por IA (CSAM), un aumento del 14% en comparación con el mismo período del año anterior.
Hay otro contexto difícil de ignorar: recientemente, menores de edad se han suicidado tras interacciones prolongadas con chatbots de IA. Estos eventos han provocado una fuerte reacción de padres, educadores y reguladores, y también han impulsado la atención a nivel legislativo.
Ante esta presión, OpenAI optó por actuar de forma proactiva, en lugar de esperar a ser regulada.
Qué dice el plan
El marco propuesto por OpenAI se centra en tres direcciones:
1. Ámbito legal
Las leyes actuales a menudo no cubren adecuadamente el contenido de abuso sexual infantil generado o modificado por IA. El plan pide a los legisladores que actualicen las leyes pertinentes, garantizando que este tipo de contenido, ya sea grabado de forma real o sintetizado por IA, esté sujeto a las mismas sanciones legales.
2. Colaboración del sector
Tras detectar un problema, ¿cómo deben informar las plataformas? ¿A quién? ¿Cómo pueden las plataformas compartir información para apoyar la aplicación de la ley? El plan exige mejorar este mecanismo de coordinación. Actualmente, los procedimientos de denuncia no son uniformes y la información no fluye entre las plataformas, lo que resulta en una baja eficiencia en la aplicación de la ley.
3. Protección técnica
Incorporar mecanismos de seguridad desde la fase de diseño de los sistemas de IA, en lugar de revisar el contenido después de generado. OpenAI lo llama safety by design: interceptar de forma temprana en las capas de modelo y aplicación es mucho más eficiente que aplicar parches posteriores.
Quién apoya esto
Este plan no fue escrito únicamente por OpenAI.
La directora ejecutiva del Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) de EE. UU., Michelle DeLaune, fue directa: La IA generativa está acelerando los delitos de explotación sexual infantil de forma alarmante.
Además, el grupo de trabajo de IA de la Alianza de Fiscales Generales (Attorney General Alliance) – coliderado por los fiscales generales de Carolina del Norte y Utah – y la organización de protección infantil Thorn participaron en la elaboración de este documento.
Con este respaldo, el plan parece más una provisión de munición para la legislación y la regulación del sector que un simple texto de relaciones públicas de OpenAI.
Dónde está el problema
Es justo decir que la iniciativa de OpenAI de publicar este documento es significativa: al menos aclara el problema y ofrece un marco de referencia para los reguladores.
Pero las preocupaciones de los críticos no son infundadas: Que una empresa escriba las reglas de regulación para su propia industria supone un claro conflicto de intereses. Qué cláusulas del plan son restricciones estrictas, cuáles son solo recomendaciones y cuál es el mecanismo de ejecución: todo esto necesita ser supervisado por reguladores externos.
Además, UNICEF ya está pidiendo que el contenido de abuso infantil generado por IA sea tipificado como delito penal. La UE, el Reino Unido y Australia están investigando las deficiencias de moderación de contenido de las plataformas de IA. OpenAI publica el plan en este momento, y los reguladores no pueden basarse solo en las declaraciones; la ejecución posterior es lo que realmente importa.
De paso
El mismo día, OpenAI también anunció el Programa de Becas de Investigación en Seguridad de OpenAI (OpenAI Safety Fellowship), reclutando investigadores para estudiar específicamente los riesgos de seguridad de la IA. Poner estas dos iniciativas juntas parece enviar una señal: no se trata de un comunicado de prensa, sino de una inversión continua.
Creerlo o no, depende de las acciones futuras.
Fuente de referencia: OpenAI releases a new safety blueprint to address the rise in child sexual exploitation (TechCrunch); CocoLoop; OpenAI Publishes Child Safety Blueprint to Address AI-Enabled Exploitation (Decrypt)