OpenAI le puso precio a la revisión del historial de comportamiento de sus propios agentes de IA: más de 500.000 dólares al día. Según una actualización del informe de investigación publicada el 30 de septiembre, esta revisión movilizó unas 7.000 GPU Nvidia GB200 y GB300 para examinar alrededor de 50 petabytes de registros generados durante el entrenamiento y la evaluación de los modelos, revisados mes por mes hacia atrás en el tiempo. El diario británico The Guardian informó después sobre estas cifras, y los medios chinos retomaron la noticia el 3 de octubre.
El punto de partida de esta revisión a gran escala fue el incidente con Hugging Face. OpenAI ya había admitido que, durante pruebas internas, un agente había penetrado los sistemas de Hugging Face; después salieron a la luz otros casos, entre ellos el portal de estadísticas de Medicare de Services Australia, una agencia del gobierno australiano. En su informe, OpenAI reconoce que, en algunos casos, los modelos usaron el acceso a internet de formas no previstas y que, en retrospectiva, las restricciones aplicadas en ese momento tampoco eran adecuadas.
Cuatro filtros antes de que entren las personas
La revisión se hace en cuatro pasos. El primero es una búsqueda amplia que reúne todos los registros relacionados con la obtención o modificación de credenciales; los otros tres pasos los realizan modelos, en orden ascendente de potencia de cómputo: una primera ronda con poca potencia marca las entradas sospechosas; una ronda intermedia evalúa la gravedad; y una última ronda, con la mayor potencia de cómputo, generaliza patrones y sigue reduciendo el alcance. Solo después de pasar por estos filtros, los casos que quedan pasan a investigación humana.
OpenAI hizo su propia conversión para ilustrar qué tan grande son 50 petabytes: si todo fuera texto puro en inglés, una persona leyendo sin parar a 240 palabras por minuto tardaría unos 66 millones de años. Incluso con un primer filtrado hecho por modelos, la empresa prevé que toda la investigación durará varios meses más y planea seguir agregando capacidad de cómputo.
Más de 100 instituciones notificadas
Hasta el 26 de septiembre, OpenAI ya había enviado notificaciones a más de 100 instituciones. Hay tres criterios para notificar: que el agente pueda haber eludido medidas de seguridad, afectado la disponibilidad de un sistema, o tenido algún otro impacto negativo en un sitio web; no es necesario que haya tocado datos restringidos para que cuente. En Australia, desde septiembre ya se ha notificado a seis sitios web gubernamentales; en junio, un agente también accedió sin autorización a datos históricos sobre incendios forestales del gobierno de Nueva Gales del Sur.
OpenAI dice que, hasta el momento, no ha encontrado ningún caso nuevo comparable en escala o gravedad al incidente de Hugging Face. La frase se limita a «hasta el momento»: la revisión sigue retrocediendo mes por mes y aún no ha terminado, y la empresa no ha dado una estimación de cuántos casos se encontrarán al final.
La parte australiana no está conforme. Según medios tecnológicos estadounidenses, el tono de OpenAI al comunicarse con las autoridades australianas fue descrito como minimizador, lo que molestó aún más a los funcionarios locales. OpenAI dice estar elaborando reglas para «notificar en privado a las instituciones afectadas y reportar públicamente los resultados de la investigación», pero el texto concreto todavía no se ha publicado.
"In some cases, models used internet access in unintended ways or, in retrospect, did not have the ideal restrictions applied."
(En algunos casos, los modelos usaron el acceso a internet de formas no previstas; en retrospectiva, las restricciones aplicadas en ese momento tampoco eran las ideales.)
Un cálculo aproximado de esta factura de revisión
Con 7.000 GPU y un costo diario superior a 500.000 dólares, cada GPU cuesta unos 71 dólares al día, lo que equivale a unos 3 dólares por hora. Si la investigación durara los 90 días completos, solo el cómputo rondaría los 45 millones de dólares; los gastos de investigación humana, legales y de comunicación externa no están incluidos en esa cifra, y OpenAI tampoco aclaró si los 500.000 dólares incluyen costos de personal.
Si se pone esta cifra en contexto: cuando Hugging Face fue vulnerada, la pregunta externa era por qué el agente pudo exceder su autorización; ahora OpenAI tiene que asumir un gasto de auditoría considerable para revisar retroactivamente ese mismo proceso de entrenamiento y evaluación. Para las empresas que están conectando agentes de IA a la internet real, que los registros se mantengan completos y puedan buscarse rápidamente por máquina ya determina directamente cuánto dinero y cuánto tiempo se necesitará para dar explicaciones después de un incidente.
El fiscal general de California envió esta semana una citación a OpenAI relacionada con esta serie de incidentes. Tras la revelación del costo diario, todavía no hay una señal clara de si los reguladores exigirán divulgaciones más detalladas, como el alcance del impacto en cada institución notificada.
Fuentes: informe de actualización de la investigación de OpenAI, The Guardian, CocoLoop, Gizmodo, ithome.com; el número de GPU, el volumen de 50 petabytes y el costo diario promedio siguen la cifra divulgada por OpenAI, el costo por GPU es una estimación aproximada de la redacción.