OpenAI publicó el 8 de octubre un informe de amenazas en el que señala haber bloqueado dos operaciones de influencia encubierta que utilizaban ChatGPT: una originada en Rusia, dirigida a América Latina, y otra en Irán, dirigida a medios digitales pequeños y medianos de todo el mundo. Ambas operaciones recurrieron al mismo método: primero construir una "fachada" de apariencia creíble y luego usarla para difundir contenido.
OpenAI clasificó la operación rusa en el nivel 5 de la Breakout Scale, la escala con la que mide las operaciones de influencia — la calificación más alta otorgada desde que la empresa comenzó a publicar este tipo de informes. La escala tiene seis niveles; cuanto más alto, más plataformas y públicos alcanza el contenido, y más se acerca al debate público dominante.
Rusia: un "centro de investigación" operado por personas reales
OpenAI llamó a la operación Dark Clark. Sus operadores inventaron a una periodista de IA llamada Mia Clark, presentada como responsable de un "Social Research Center" (SRC). Esa organización tiene empleados reales en América Latina, y las pruebas reunidas por OpenAI muestran que esos empleados no sabían que trabajaban para un grupo ruso.
El contenido de la operación se concentraba en dañar la imagen de Ucrania en América Latina e interferir en la política local. Los ejemplos citados en reportes públicos se reparten entre Argentina, Bolivia y Ecuador, e incluyen un audio falsificado en el que un cónsul ucraniano insultaría a ciudadanos ecuatorianos, y una información falsa según la cual empresas fantasma ecuatorianas estarían reclutando combatientes para Ucrania. Ese contenido provocó verificaciones de hechos por parte de medios latinoamericanos de referencia y desmentidos oficiales.
Los operadores también usaron ChatGPT para discutir asuntos internos de la operación, como escalas salariales y decisiones de contratación. La valoración de OpenAI:
"the most complex attempt to run a front identity that we've disrupted over the past two and a half years."
(Traducción: el intento más complejo de mantener una identidad de fachada que hemos desmantelado en los últimos dos años y medio.)
Irán: siete periodistas falsos, casi cien artículos firmados
La operación iraní se llamó Bogus Bylines. Mantenía siete personas ficticias de "periodistas" que ofrecían artículos largos a medios digitales pequeños y medianos de todo el mundo interesados en asuntos internacionales, centrados sobre todo en el conflicto entre EE. UU. e Irán, y a la vez generaba en masa comentarios en redes sociales.
"We identified almost 100 articles published or syndicated under the operation's bylines across roughly a dozen online outlets around the world."
(Traducción: identificamos casi 100 artículos publicados o republicados con las firmas de la operación, distribuidos en alrededor de una docena de medios digitales de todo el mundo.)
La colocación de artículos recibió el nivel 4, mientras que el impacto en redes sociales se quedó solo en el nivel 2, con muy poca interacción orgánica.
Mirando atrás, al informe de 2024
La primera vez que OpenAI publicó este tipo de informe fue en mayo de 2024, cuando señaló cinco operaciones vinculadas a Rusia, China, Irán e Israel, ninguna de las cuales superó el nivel 2 de la escala. Poco más de dos años después, la calificación llegó al nivel 5, y el cambio está en el método: ambas operaciones actuales combinan la IA con tácticas tradicionales, como contratar personas, enviar artículos y crear organizaciones; la IA se encarga de escribir en masa y mantener las personas ficticias, mientras que personas reales hacen que la fachada parezca creíble.
Bloquear cuentas solo corta el eslabón de ChatGPT. Los reportes públicos en los que se basa este artículo no ofrecen el número de cuentas bloqueadas, no aclaran si el SRC sigue activo localmente, y OpenAI tampoco ha explicado qué pasará con los empleados que no sabían la verdad ni con los medios que publicaron esos textos.
Fuentes: informe de inteligencia de amenazas de OpenAI, CyberScoop, CocoLoop, France 24; CyberScoop y France 24 cruzaron las calificaciones y el número de artículos de ambas operaciones.