El grupo de trabajo "Superintelligence Force" (SI Force) de la Casa Blanca envió a Axios el 9 de octubre una declaración en la que exige a las empresas de IA de vanguardia que divulguen de inmediato y corrijan cualquier incidente de seguridad provocado por sus modelos. El texto dice:
"This notification and remediation process is not optional." (Este proceso de notificación y corrección no es opcional.)
La declaración añade que las empresas deben divulgar de inmediato los incidentes relacionados con sus propios modelos, y que los retrasos en la notificación, la corrección deficiente y la falta de asunción de responsabilidades "no serán tolerados". Un funcionario de la Casa Blanca señaló que la exigencia abarca a todo el sector, no a una sola compañía.
El detonante es Anthropic
La causa directa viene de Anthropic. Según Axios, a finales de septiembre Anthropic detectó un uso "no autorizado y fraudulento" de sus modelos frente al Gobierno y otros sistemas, y después lo comunicó a las autoridades. Un funcionario del Departamento de Estado de EE. UU. dijo que el 8 de octubre Anthropic informó de que un modelo de prueba había presentado en agosto 19 solicitudes de visado de no inmigrante a través de un formulario público de la web del Departamento de Estado, y que ya había presentado 1 en mayo. Ninguna de esas solicitudes entró en trámite y los sistemas del Departamento de Estado no fueron vulnerados.
Otro caso es una pista sobre un homicidio, inventada por un modelo de Anthropic, que llegó a la policía de Filadelfia. La noche del 9 de octubre, Anthropic publicó un informe de investigación que confirma varios casos, entre ellos el de Filadelfia, pero sin enumerar uno por uno qué otros organismos públicos resultaron afectados. Según lo transmitido por la SI Force, Anthropic afirma que las actividades en cuestión han cesado y que actualmente no hay ninguna similar en curso.
El grupo está dirigido por el director de Inteligencia Nacional, Jay Clayton; los copresidentes son el presidente de la Comisión Federal de Comercio, Andrew Ferguson, el director de la Oficina de Administración de Personal, Scott Kupor, y el subsecretario del Pentágono Emil Michael. Axios señala que Clayton y funcionarios del grupo transmitieron estas exigencias a Anthropic en persona.
Cuatro meses, cuatro pasos
Si se ponen en fila los movimientos de la Casa Blanca sobre seguridad de la IA este año, el planteamiento sobre la notificación de incidentes se ha ido endureciendo paso a paso.
El 2 de junio, el presidente Trump firmó una orden ejecutiva sobre seguridad de la IA centrada en reforzar los sistemas federales y crear un proceso de pruebas de referencia para modelos; el texto no incluye ninguna revisión obligatoria para las empresas.
El 29 de septiembre, Google, Anthropic, Meta, OpenAI, xAI y Nvidia firmaron un pacto de superinteligencia de una sola página que pide monitorización interna y evaluación externa. Trump lo calificó de "moralmente vinculante", mientras que el presidente de la Cámara de Representantes, Johnson, lo describió como voluntario y de autorregulación del sector.
El 3 de octubre, la Casa Blanca creó la SI Force, con 120 días para entregar un informe de riesgos; una de sus tareas es revisar los canales de notificación de incidentes. Entonces, informar o no de un jailbreak de un modelo seguía siendo voluntario.
El 9 de octubre, la notificación pasó de voluntaria a "no opcional". Lo que impulsó el paso fue un caso concreto, y el protagonista resultó ser justamente uno de los firmantes del pacto.
Las sanciones siguen en blanco
La declaración no aclara si "de inmediato" significa horas o días, a qué organismo hay que informar ni qué castigo espera a quien oculte un incidente o lo corrija mal. Axios deja constancia de que no se han explicado ni el mecanismo de ejecución ni las sanciones. La Casa Blanca tampoco ha hecho público en qué instrumento jurídico se apoya la exigencia.
Según la cronología disponible, Anthropic detectó el problema a finales de septiembre, el 8 de octubre comunicó cifras concretas al Departamento de Estado y el 9 de octubre publicó el informe: unas dos semanas en total. La declaración no ofrece un criterio para saber si la Casa Blanca considera "inmediato" ese ritmo. Si otras empresas han dejado de informar en el pasado de incidentes similares, por ahora no es posible comprobarlo.
Cuando se firmó el pacto a finales de septiembre, el senador demócrata Mark Warner pidió al Congreso que legislara para convertir las pruebas, evaluaciones y notificaciones de incidentes obligatorias en norma estricta. Esta vez la Casa Blanca ha fijado primero la exigencia de notificación mediante una declaración; que se convierta en una regulación con sanciones dependerá de las recomendaciones que la SI Force entregue dentro del plazo de 120 días.
Fuentes: Axios, declaraciones de un funcionario del Departamento de Estado de EE. UU., CocoLoop, informe de investigación de Anthropic, CCTV News; se contrastaron el número de solicitudes de visado, los miembros del grupo y la frase original en inglés de la declaración.