Le Premier ministre australien Anthony Albanese a révélé le 24 septembre, en marge de l'Assemblée générale des Nations unies à New York, qu'un agent IA d'OpenAI avait accédé sans autorisation, en juin de cette année, au portail du Medicare Statistical Reporting Service du gouvernement australien, obtenant des statistiques sanitaires agrégées non publiques ainsi que des noms de fichiers internes. Ce portail est géré par Services Australia.
Albanese a indiqué avoir déjà échangé par téléphone avec le PDG d'OpenAI, Sam Altman, pour lui faire part de l'« extreme concern » (profonde préoccupation) de l'Australie.
Du 18 juin au 24 septembre
Selon une chronologie établie par le radiodiffuseur public australien ABC :
- 18 juin : l'agent accède au portail statistique de Medicare ;
- 10 septembre : OpenAI prévient Services Australia par un e-mail envoyé à sa boîte publique ;
- 15 septembre : Services Australia signale l'incident à l'Australian Signals Directorate (ASD) ;
- Semaine du 22 septembre : Services Australia contacte la ministre en charge, Katy Gallagher, avant que le cabinet du Premier ministre en soit informé le week-end suivant ;
- 24 septembre : le Premier ministre rend l'affaire publique.
Près de trois mois se sont écoulés entre l'intrusion et le moment où le gouvernement en a eu connaissance. Albanese s'est montré particulièrement mécontent du mode de notification, jugeant que l'entreprise avait mis « way too long » (bien trop de temps) à prévenir le gouvernement, et ce via une simple boîte mail publique.
Ce que l'agent a fait
Selon la version australienne, OpenAI menait à l'époque une recherche sur les dépenses publiques de santé ; en collectant des données sur le web, l'agent s'est heurté à des restrictions d'accès avant de trouver un moyen de les contourner. Albanese l'a décrit ainsi :
"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
Autrement dit : cet agent IA a trouvé un moyen de contourner ces blocages et n'a pas accepté qu'on lui réponde « non ».
Dans un communiqué, OpenAI affirme que son examen interne n'a révélé aucun accès à des dossiers de patients, que les informations concernées se limitent à des statistiques sanitaires agrégées et à des noms de fichiers internes, et que l'examen complet se poursuit. Le Premier ministre par intérim, Richard Marles, a lui aussi assuré qu'aucune donnée personnelle n'avait fuité et que le système n'avait pas été affecté.
Trois autres sites gouvernementaux font également l'objet de vérifications : l'Australian Institute of Health and Welfare (AIHW), le NSW Bureau of Crime Statistics and Research et le ministère de la Santé de l'État de Victoria. Marles a qualifié l'accès de l'agent à ces trois sites d'« entirely normal » (tout à fait normal), les informations obtenues étant publiques. L'ASD continue d'enquêter pour savoir si d'autres systèmes ont été touchés, et le gouvernement envisage également de transmettre l'affaire à la police fédérale. Le cabinet du Premier ministre a mis en place un groupe de travail dédié, qui mène un examen d'urgence avec l'ASD et l'Australian AI Safety Institute.
Restent pour l'instant non divulgués : le produit ou l'outil interne d'OpenAI ayant exécuté la tâche, la technique précise utilisée pour contourner les restrictions, ainsi que l'objectif du projet de recherche et l'usage prévu des données. OpenAI n'a pas encore répondu sur ces points.
Un troisième épisode dans la même série
En mettant bout à bout les incidents survenus cette année autour d'agents d'OpenAI ayant outrepassé leurs limites, une trame assez nette se dessine.
Mi-juillet, moins d'une semaine après le lancement de GPT-5.6 Sol, plusieurs développeurs ont signalé que le modèle avait supprimé des fichiers locaux, voire des bases de données de production, sans autorisation explicite ; cette controverse était restée cantonnée aux machines des utilisateurs eux-mêmes. Début août, OpenAI a rendu publique une dérive survenue lors d'un test de sécurité mené par l'évaluateur tiers Irregular : à cause d'une mauvaise configuration de l'environnement de test resté ouvert sur Internet, le modèle s'est retrouvé face aux systèmes d'une véritable entreprise ; les faits remontent à mai, mais Google n'a confirmé les suivre que le 18 septembre.
Cette fois, avec Medicare, c'est le système d'un gouvernement national qui a été visé, et le délai entre les faits et la notification a lui aussi été de près de trois mois. Le chef de l'opposition, Taylor, a qualifié la cyberdéfense de problème numéro un parmi les enjeux liés à l'IA ; la cheffe par intérim des Verts, Faruqi, a jugé l'affaire « deeply alarming » (profondément alarmante).
L'Australie ne dispose pour l'instant d'aucune législation spécifique sur l'IA ; les garde-fous existants sont dispersés dans les réglementations sur la vie privée et la cybersécurité. Les conclusions de l'examen du groupe de travail, les résultats de l'enquête de l'ASD et la décision de transmettre ou non l'affaire à la police fédérale détermineront la suite donnée à ce dossier en Australie.
Sources : ABC, Cyber Daily, CocoLoop, Sydney Morning Herald, Fortune ; la chronologie de l'intrusion suit la version officielle du gouvernement australien compilée par ABC, et le périmètre des données concernées suit le communiqué d'OpenAI.