Esta primavera, el Ejército de Estados Unidos estuvo a punto de abordar un buque de carga chino en Medio Oriente. Las fuerzas armadas ya estaban posicionadas, las aeronaves militares ya habían despegado, pero la operación se canceló en la etapa final. El motivo: al revisar con más detalle el informe de inteligencia que sustentaba la interceptación, los funcionarios descubrieron que había sido elaborado con ayuda de inteligencia artificial, y que la carga que el informe afirmaba existir en realidad no existía.
CNN reveló el caso el 18 de septiembre, citando a varias personas con conocimiento directo del asunto. Otros medios lo confirmaron después, coincidiendo en los hechos centrales: un producto de inteligencia elaborado con participación de IA recorrió toda la cadena, desde la redacción hasta la decisión.
Dos usos de IA, un solo informe
El informe fue elaborado por un analista del Comando de Operaciones Especiales del Pacífico de EE.UU., con sede en Hawái. El analista usó primero un chatbot para revisar la lista de carga del buque en cuestión; la herramienta mezcló información de fuentes abiertas con entradas de bases de datos de inteligencia sensibles para llegar a una conclusión. Después volvió a usar IA para redactar el informe de inteligencia con el formato habitual. La suma de ambos pasos produjo un documento, enviado a la cadena de decisión, que afirmaba que el buque transportaba componentes vinculados al programa nuclear de Irán.
El informe circuló durante un periodo de enfrentamiento militar entre EE.UU. e Irán. Según el protocolo estándar, este tipo de inteligencia conduce a una interceptación en el mar: personal armado aborda el buque para inspeccionar la carga. Las aeronaves ya sobrevolaban la zona. Una fuente militar dijo a CNN que el informe era "entirely false, but almost started a war".
"entirely false, but almost started a war"
Completamente falso, pero a punto de desatar una guerra.
Finalmente, la operación no se llevó a cabo. Antes de ejecutar el plan, los funcionarios hicieron una revisión más minuciosa y fue entonces cuando descubrieron el origen del informe en IA y el error de la herramienta sobre la carga. CNN no precisó qué transportaba realmente el buque, su destino, ni qué chatbot usó el analista. El Comando Central de EE.UU. (CENTCOM) no respondió a la solicitud de comentario.
En qué punto entró la herramienta
En este caso no hubo jailbreak, ni ataque adversarial, ni intervención de hackers. El problema fue un uso bastante habitual: emplear un chatbot genérico para consolidar información. La herramienta combinó datos de fuentes abiertas con entradas de bases de datos clasificadas y produjo una conclusión que sonaba completa y con el formato correcto, conclusión que después, más adelante en la cadena, se trató como un hecho ya verificado. El segundo paso, la redacción asistida por IA, añadió además una capa de credibilidad: un producto de inteligencia que se leía como si lo hubiera escrito una persona, ajustado a la normativa.
El proceso de inteligencia ya contaba con varias etapas de validación humana. Que la interceptación no ocurriera se debió a una revisión más minuciosa hecha de manera improvisada justo antes de actuar, no a un control previsto en el propio proceso. Si esa revisión no se hubiera hecho, o se hubiera hecho de forma más superficial, el documento habría seguido su curso tal cual.
Sobre quién recae este error
El objetivo era un buque chino. Si el abordaje realmente hubiera ocurrido, las consecuencias habrían recaído sobre la tripulación, el naviero y los mecanismos de gestión de crisis de ambos países, no sobre el analista que redactó el informe ni sobre el proveedor de la herramienta. El riesgo tecnológico se generó dentro del proceso estadounidense, pero el costo habría aparecido fuera de él. China no se ha pronunciado públicamente sobre el incidente hasta ahora, y las informaciones publicadas no muestran que la parte china haya sido notificada.
Para las navieras chinas que operan rutas en Medio Oriente, la naturaleza de la respuesta a la pregunta "¿en qué se basa el Ejército de EE.UU. para sospechar de mi buque?" está cambiando: de un juicio de inteligencia validado por personas a un documento que puede haber pasado por dos etapas de IA. Todavía no existe un mecanismo público que indique en qué nivel se puede apelar ni quién corrige el error.
Las recomendaciones siguen siendo solo recomendaciones
El uso de IA en el análisis de inteligencia, la identificación de objetivos y la logística no se ha visto interrumpido por este incidente. Los expertos citados en las informaciones públicas proponen dos medidas: fijar líneas rojas que impidan que la IA intervenga en sistemas relacionados con armas nucleares, y crear un canal de notificación de incidentes de IA entre grandes potencias, similar a una línea directa nuclear. Ambas propuestas siguen siendo solo recomendaciones, sin entrar en ningún documento vinculante.
Según la información pública disponible, hasta ahora no se ha modificado formalmente ningún procedimiento. El Comando Central de EE.UU. no ha indicado si ajustó las normas sobre el uso de herramientas de IA genéricas por parte de los analistas, ni cuántos otros documentos, además de este informe, siguieron el mismo camino.
Fuentes: CNN Politics, Gizmodo, CocoLoop, Taipei Times; el comando implicado, el orden de los dos usos de IA y la cita "entirely false" se cotejaron según el relato coincidente de varios medios en inglés.