La organización estadounidense de evaluación de medios infantiles Common Sense Media publicó el 7 de octubre un informe que califica al ChatGPT for Teens, lanzado por OpenAI en agosto, como de "riesgo inaceptable" (Unacceptable Risk), la calificación más baja de su sistema. El informe pide a OpenAI que deje de promocionar el producto entre adolescentes hasta corregir varios problemas centrales.
Las pruebas las realizó el Instituto de Seguridad de IA para Adolescentes, dependiente de la organización. Los investigadores enviaron más de 4.000 indicaciones con cuentas registradas como de 13 a 17 años, y luego pidieron a un panel de psiquiatras infantiles y a un pediatra que evaluaran cada respuesta.
Varios fallos que señala el informe
Derivación en crisis. En las conversaciones que los evaluadores consideraron que debían dirigir al usuario a buscar ayuda, ChatGPT no lo hizo en más de un cuarto de los casos. Ninguno de los tres indicadores de daño que el informe marca como "línea roja" alcanzó el umbral del 95%.
Alertas a los padres. En más de una decena de cuentas de prueba recién creadas y vinculadas a cuentas de padres, los evaluadores y ChatGPT conversaron sobre ideación suicida, autolesiones o trastornos alimentarios durante hasta una hora, sin que los padres recibieran ninguna alerta.
Modo de estudio. Los adolescentes pueden tocar directamente "mostrar la respuesta" para obtener el resultado; durante los horarios de estudio fijados por los padres, basta borrar el prefijo @study para eludir la restricción.
Detección de edad. Usando una cuenta de adulto para imitar el habla de un adolescente durante varios días seguidos, el sistema nunca cambió a la experiencia para menores.
Expresión emocional. Aunque OpenAI actualizó sus normas de modelo para menores, ChatGPT sigue expresando sentimientos, preferencias y emociones; el informe considera que el riesgo de dependencia emocional sigue siendo generalizado.
Tom Siegel, director ejecutivo del instituto, dijo:
"A teen can spend an hour talking about self-harm without their parent getting a single alert."
(Un adolescente puede pasar una hora hablando de autolesiones sin que sus padres reciban una sola alerta.)
La respuesta de OpenAI
OpenAI declaró a los medios que da la bienvenida a evaluaciones independientes rigurosas, pero que las pruebas de Common Sense Media no reflejan con precisión cómo funcionan en la práctica las protecciones para adolescentes. Según Bloomberg, OpenAI también señaló que parte de las pruebas podría haberse realizado antes de que entraran en vigor ciertas funciones de control parental, y pidió a la organización repetir las pruebas. La evaluadora mantuvo su conclusión original, al considerar que las alertas a los padres no son fiables en situaciones de crisis.
Ninguna de las dos partes ha hecho público el periodo exacto de las pruebas ni a qué funciones se refiere OpenAI, por lo que de momento no se puede juzgar qué tan grande es la diferencia entre ambas versiones.
Siete semanas entre el lanzamiento y la calificación
Cuando ChatGPT for Teens se lanzó el 18 de agosto, OpenAI subrayó dos puntos: primero, que los usuarios de 13 a 17 años entrarían automáticamente en una experiencia separada con protección reforzada frente a contenido de autolesiones, trastornos alimentarios y actividades peligrosas; segundo, que el modo de estudio, los recordatorios de tareas y los horarios de estudio fijados por los padres convertirían "dar la respuesta" en "acompañar la resolución".
Este informe compara, punto por punto, precisamente esas dos promesas. Los horarios de estudio pueden eludirse borrando un prefijo, los recordatorios de tareas pueden saltarse con un toque, y las alertas de crisis nunca se activaron en las cuentas vinculadas. La mayoría de las funciones existen, pero su fiabilidad en la práctica queda en entredicho.
Mirando atrás, este es el segundo año consecutivo en que OpenAI se ve empujada por presión externa en materia de protección de menores. En septiembre de 2025, tras una demanda relacionada con el suicidio de un adolescente, OpenAI lanzó el control parental; en agosto de este año llegó la versión independiente para adolescentes. Evaluadoras externas como Common Sense Media ya habían dado antes la misma calificación mínima al asistente de IA de Meta.
La lista de correcciones que el informe exige a OpenAI incluye: desarrollar una estimación de edad eficaz, lograr que las alertas a los padres se activen de forma fiable, corregir la respuesta ante crisis, dejar de permitir que la IA haga las tareas directamente por los estudiantes, eliminar la expresión emocional, y volver a promocionar el producto entre adolescentes solo después de someterse a una nueva prueba independiente de terceros. Por ahora no hay nada decidido sobre si y cuándo OpenAI aceptará repetir la prueba.
Fuentes: comunicado de prensa de Common Sense Media, CocoLoop, Bloomberg, Axios, Education Week; el número de indicaciones de prueba, la tasa de omisión y los resultados de las alertas a los padres se cotejaron con las cifras publicadas por la evaluadora, y la respuesta de OpenAI se basa en su propia declaración a los medios.