OpenAI a publié le 8 octobre un rapport sur les menaces, indiquant avoir bloqué deux opérations d'influence clandestines utilisant ChatGPT : l'une originaire de Russie, visant l'Amérique latine, l'autre d'Iran, visant des médias en ligne petits et moyens dans le monde entier. Les deux opérations ont employé la même méthode : construire d'abord une "façade" d'apparence crédible, puis s'en servir pour diffuser du contenu.
OpenAI a classé l'opération russe au niveau 5 de la Breakout Scale, l'échelle qui mesure les opérations d'influence — la note la plus élevée attribuée depuis que l'entreprise publie ce type de rapport. L'échelle compte six niveaux ; plus le niveau est élevé, plus le contenu franchit de plateformes et de publics, se rapprochant du débat public dominant.
Russie : un "centre de recherche" animé par de vraies personnes
OpenAI a nommé cette opération Dark Clark. Ses opérateurs ont inventé une journaliste IA appelée Mia Clark, présentée comme responsable d'un "Social Research Center" (SRC). Cette organisation emploie de vraies personnes en Amérique latine, et les éléments recueillis par OpenAI montrent que ces employés ne savaient pas qu'ils travaillaient pour un groupe russe.
Le contenu de l'opération visait à nuire à l'image de l'Ukraine en Amérique latine et à s'ingérer dans la politique locale. Les exemples cités dans les rapports publics se répartissent entre l'Argentine, la Bolivie et l'Équateur, dont un enregistrement audio falsifié dans lequel un consul ukrainien insulterait des citoyens équatoriens, et une fausse information selon laquelle des sociétés-écrans équatoriennes recruteraient des combattants pour l'Ukraine. Ce contenu a provoqué des vérifications des faits par de grands médias latino-américains et des démentis officiels.
Les opérateurs ont aussi utilisé ChatGPT pour discuter des affaires internes de l'opération, comme les niveaux de salaire et les décisions d'embauche. L'évaluation d'OpenAI :
"the most complex attempt to run a front identity that we've disrupted over the past two and a half years."
(Traduction : la tentative la plus complexe de faire fonctionner une identité de façade que nous ayons démantelée ces deux dernières années et demie.)
Iran : sept faux journalistes, près de cent articles signés
L'opération iranienne a été baptisée Bogus Bylines. Elle entretenait sept personnages de "journalistes", proposant de longs articles à des médias en ligne petits et moyens du monde entier intéressés par l'actualité internationale, principalement sur le conflit entre les États-Unis et l'Iran, tout en générant en masse des commentaires sur les réseaux sociaux.
"We identified almost 100 articles published or syndicated under the operation's bylines across roughly a dozen online outlets around the world."
(Traduction : nous avons identifié près de 100 articles publiés ou repris sous les signatures de l'opération, répartis dans environ une douzaine de médias en ligne à travers le monde.)
La diffusion d'articles a été notée au niveau 4, tandis que l'impact sur les réseaux sociaux n'a atteint que le niveau 2, avec très peu d'engagement organique.
Retour sur le rapport de 2024
OpenAI avait publié ce type de rapport pour la première fois en mai 2024, citant alors cinq opérations liées à la Russie, à la Chine, à l'Iran et à Israël, aucune ne dépassant le niveau 2 de l'échelle. Un peu plus de deux ans plus tard, la note atteint le niveau 5 — et le changement se situe dans la méthode : les deux opérations actuelles combinent l'IA avec des moyens traditionnels comme l'embauche de personnes, la soumission d'articles et la création d'organisations ; l'IA se charge de rédiger en masse et de maintenir les personnages, tandis que de vraies personnes rendent la façade crédible.
Bloquer des comptes ne coupe qu'un seul maillon, celui de ChatGPT. Les rapports publics sur lesquels s'appuie cet article ne donnent pas le nombre de comptes bloqués, ne précisent pas si le SRC est toujours actif localement, et OpenAI n'a pas non plus expliqué comment seront traités les employés qui ignoraient la vérité ni les médias ayant publié ces articles.
Sources : rapport de renseignement sur les menaces d'OpenAI, CyberScoop, CocoLoop, France 24 ; CyberScoop et France 24 ont recoupé les niveaux et le nombre d'articles des deux opérations.