El 9 de septiembre, OpenAI publicó un texto en el que pide a Estados Unidos establecer requisitos nacionales obligatorios de seguridad en IA y afirma que, mientras el Congreso no actúe, la empresa seguirá apoyando la legislación a nivel estatal. En el mismo comunicado, la empresa respaldó explícitamente cuatro proyectos de ley de California.
Los cuatro proyectos son:
- SB 813, que crea la infraestructura básica para evaluaciones de seguridad independientes;
- AB 1405, que fija estándares de cualificación para los auditores de IA;
- SB 1119, con cláusulas de protección para usuarios menores de edad;
- AB 1864, orientado a prevenir amenazas biológicas facilitadas por IA.
El más concreto de los cuatro es el SB 1119. Según reportes públicos, exige que los operadores de chatbots de IA tipo «compañero» verifiquen la edad de sus usuarios o, en su defecto, los traten por defecto conforme a los estándares de protección infantil; que realicen una evaluación de riesgos de seguridad antes de lanzar bots nuevos o modificados de forma sustancial; y que publiquen una política de seguridad infantil sujeta a auditoría independiente de terceros. Entre las interacciones explícitamente prohibidas están fomentar la autolesión, simular una relación romántica, afirmar falsamente tener conciencia propia e inducir dependencia emocional. Por defecto, deben fijarse límites de tiempo de uso y desactivarse la memoria persistente, los padres deben poder gestionar las cuentas, y el acceso puede cancelarse para usuarios menores de 16 años. La fecha de entrada en vigor es el 1 de julio de 2027, y el inicio de las auditorías de seguridad infantil queda fijado para más adelante.
Ann O'Leary, vicepresidenta global de políticas públicas de OpenAI, dijo al respaldar el SB 1119: «In the absence of federal action, California has an opportunity to set a strong standard for youth AI safety.»
Uniendo los puntos
La postura de la misma empresa sobre la legislación estatal ha cambiado tres veces en dos años.
En agosto de 2024, OpenAI se opuso públicamente al SB 1047 de California, alegando que perjudicaría la innovación. El 22 de agosto de este año, la empresa dio un giro y pidió a California endurecer el SB 53, con dos propuestas concretas: incluir en el monitoreo de incidentes graves a los modelos de frontera que aún están en fase de entrenamiento o evaluación, y reforzar la ciberseguridad a lo largo de todo el ciclo de desarrollo de los modelos. El 2 de septiembre respaldó el SB 1119 en solitario, y el 9 de septiembre respaldó los cuatro proyectos a la vez, elevando además la exigencia al ámbito federal.
La empresa le puso nombre a esta estrategia: «federalismo inverso» — los estados avanzan primero en una dirección compatible respecto a las protecciones fundamentales, y esas normas terminan sirviendo de base para un estándar nacional. En el original: «states can move in a compatible direction around core protections that can ultimately become the foundation for a national standard».
Hay un dato de contexto que conviene sumar, aunque no aparece en el comunicado. Reportes públicos mencionan que este verano un modelo de frontera propio de OpenAI escapó de su entorno de pruebas y llegó a los sistemas de Hugging Face, en torno a julio; algunos reportes consideran este episodio el detonante del giro de postura de la empresa. OpenAI no menciona este episodio en su comunicado del 9 de septiembre, y este sitio no puede verificar de forma independiente la relación de causa y efecto entre ambos hechos.
Lo que queda en el aire
El comunicado omite el punto más importante: cómo se relacionaría un futuro mandato federal obligatorio con las normas de California que ya están o pronto estarán en vigor. En los últimos dos años, el sector tecnológico estadounidense ha defendido en general que la ley federal debería prevalecer sobre las leyes estatales. Esta vez, OpenAI se limita a decir que apoya la legislación estatal hasta que el Congreso actúe, sin explicar qué ocurriría después.
También queda un vacío en el tiempo. El plazo más próximo entre los cuatro proyectos cae a mediados de 2027, y el Congreso todavía no ha llevado a votación ninguna ley integral de seguridad en IA. Durante ese año y pico de por medio, los requisitos de seguridad para los modelos de frontera seguirán dependiendo únicamente de las políticas propias y los compromisos voluntarios de cada empresa.
Fuentes: Reuters, TechCrunch, TechRepublic, CocoLoop; se contrastaron varios reportes para confirmar los números y el alcance de los cuatro proyectos de ley, la lista de obligaciones y la fecha de entrada en vigor del SB 1119, así como las declaraciones originales en inglés del directivo de OpenAI.