El gobernador de California, Gavin Newsom, firmó el 18 de septiembre una orden ejecutiva que convoca a un grupo de expertos para que, en un plazo de dos meses, presente recomendaciones sobre cómo el estado debería reforzar sus leyes de seguridad en inteligencia artificial.
La orden enumera tres frentes de evaluación: exigir que las empresas de IA de vanguardia se sometan periódicamente a auditorías de seguridad independientes realizadas por terceros; obligar a reportar "incidentes de pérdida de control" cuando los agentes de IA muestren comportamientos anómalos; y dotar a los modelos más avanzados de un "botón de apagado", es decir, un mecanismo de parada de emergencia. Las tres medidas siguen siendo opciones a evaluar, no obligaciones ya vigentes.
Qué hace realmente esta orden ejecutiva
Conviene precisar el alcance real del documento. No crea nuevas obligaciones de cumplimiento; lo que hace es poner en marcha un proceso: convoca a personas, fija un plazo y delimita los temas. Las reglas verdaderamente vinculantes tendrán que surgir de una legislación posterior impulsada por el grupo de expertos, o de normas administrativas dentro del marco legal existente. El plazo de dos meses implica que la guía debería aparecer antes de mediados de noviembre.
En un mensaje en video, Newsom dijo: "California hará lo que pueda, pero todo el país necesita actuar, Washington D. C. tiene que cumplir con su responsabilidad." Presentó la orden como el marco mínimo de seguridad. Su oficina usó un tono más directo, al afirmar que el gobierno federal ha "fracasado por completo" en establecer cualquier supervisión y rendición de cuentas significativas sobre la IA.
"We will not sit idle—we will accelerate substantive, responsible AI regulation before it is too late."
En español: No nos quedaremos de brazos cruzados: aceleraremos una regulación de la IA sustantiva y responsable antes de que sea demasiado tarde.
Los hitos de California en este frente durante el año
Visto en perspectiva, esto no es un movimiento aislado. A principios de septiembre de este año, California ya había promulgado una ley que crea un marco para acreditar auditores independientes de IA; la exigencia de auditoría independiente que ahora se evalúa da continuidad a esa misma línea. Más atrás, el debate legislativo sobre la divulgación de seguridad de los modelos de vanguardia lleva ya dos años en el estado, con proyectos rechazados y otros aprobados tras reducir su alcance.
El orden es claro: primero se establece el marco de acreditación de las auditoras, después se evalúa convertir la auditoría en obligación; primero se exige divulgación, después se debate el reporte y el apagado. Cada paso avanza un poco más que el anterior, ninguno salta directamente a la forma final. Este ritmo da tiempo a las empresas para ajustarse, y a los opositores la oportunidad de resistir cada punto por separado.
Hay además un límite de tiempo que no puede pasarse por alto. El mandato de Newsom como gobernador termina el 4 de enero del próximo año. El plazo de dos meses cae dentro de su mandato, pero el impulso legislativo posterior a la guía probablemente recaerá en su sucesor. Que la orden ejecutiva se convierta en ley no depende solo de quien la firmó.
El contraste directo con la vía federal
El trasfondo de todo esto es la ausencia de acción a nivel federal. Trump rechazó los llamados a endurecer la regulación y calificó las preocupaciones sobre seguridad de la IA de "engaño"; la posibilidad de que el Congreso impulse una ley nacional de IA antes de las elecciones de mitad de mandato de 2026 es baja. California se sitúa en la posición contraria: el mismo día, la oficina de Newsom criticó públicamente a la Casa Blanca y al Congreso por su inacción en este tema.
California tiene respaldo para hacerlo. La mayoría de las empresas de IA de vanguardia tienen su sede en este estado, así que la ley estatal las vincula directamente y no pueden eludirla simplemente trasladando servidores fuera de su jurisdicción. En los últimos años, las normas californianas sobre privacidad de datos y estándares de emisiones se han convertido repetidamente en el estándar de facto para todo el país.
Pero lo que se busca regular ahora es más duro que las normas de privacidad. Las auditorías independientes periódicas implican que terceros entren en el proceso de evaluación de los modelos; el reporte de incidentes de pérdida de control implica que las empresas tendrán que entregar por iniciativa propia los comportamientos anómalos de sus propios sistemas; y el botón de apagado afecta a la propia arquitectura de despliegue. Que cualquiera de estas tres medidas se concrete provocará disputas a nivel de los laboratorios.
Tres cosas que observar en los próximos dos meses
En esta ventana de dos meses hay tres cosas que vigilar: quién integrará el grupo de expertos, con cuánto detalle se definirá un "incidente de pérdida de control" y si el botón de apagado aparecerá como exigencia obligatoria o solo como recomendación.
Por ahora ninguna de las tres preguntas tiene respuesta. La orden ejecutiva ofrece una lista de temas y un calendario, no conclusiones. Si la guía llega antes de mediados de noviembre, y en qué términos, es el próximo hito verificable de este proceso.
Fuentes: comunicado de la Oficina del Gobernador de California, Sing Tao Daily, CocoLoop, Sina Finance; los tres frentes de evaluación de la orden ejecutiva, el plazo de dos meses y las declaraciones de Newsom se cotejaron según lo difundido por la Oficina del Gobernador.