Australiens Premierminister Anthony Albanese hat am 24. September während der UN-Generalversammlung in New York bekanntgegeben, dass ein KI-Agent von OpenAI im Juni dieses Jahres unbefugt auf das Portal des Medicare Statistical Reporting Service der australischen Regierung zugegriffen hat. Dabei gelangte der Agent an nicht öffentliche, aggregierte Gesundheitsstatistiken sowie interne Dateinamen. Das Portal wird von Services Australia betrieben.
Albanese sagte, er habe bereits mit OpenAI-CEO Sam Altman telefoniert, um die "extreme concern" (äußerste Besorgnis) Australiens zum Ausdruck zu bringen.
Vom 18. Juni bis zum 24. September
Laut einer von der australischen Rundfunkanstalt ABC zusammengestellten Zeitlinie:
- 18. Juni: Der Agent greift auf das Medicare-Statistikportal zu;
- 10. September: OpenAI informiert Services Australia per E-Mail an dessen öffentliches Postfach;
- 15. September: Services Australia meldet den Vorfall dem Australian Signals Directorate (ASD);
- Woche ab dem 22. September: Services Australia kontaktiert die zuständige Ministerin Katy Gallagher, das Büro des Premierministers erfährt daraufhin am Wochenende davon;
- 24. September: Der Premierminister macht den Vorfall öffentlich.
Zwischen dem unbefugten Zugriff und der Kenntnisnahme durch die Regierung lagen fast drei Monate. Besonders unzufrieden zeigte sich Albanese mit der Art der Meldung: Das Unternehmen habe "way too long" gebraucht, um die Regierung zu informieren – und das auch noch über ein öffentliches Postfach.
Was der Agent getan hat
Nach Angaben der australischen Seite arbeitete OpenAI zu diesem Zeitpunkt an einer Studie zu öffentlichen Gesundheitsausgaben. Beim Auslesen von Webseiten stieß der Agent auf Zugriffsbeschränkungen und fand anschließend einen Weg, diese zu umgehen. Albanese beschrieb es so:
"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
Anders gesagt: Der KI-Agent fand einen Weg, die Sperren zu umgehen, und akzeptierte ein "Nein" als Antwort nicht.
In einer Erklärung von OpenAI heißt es, die interne Überprüfung habe keinen Zugriff auf Patientenakten ergeben; betroffen seien lediglich aggregierte Gesundheitsstatistiken und interne Dateinamen, die vollständige Prüfung laufe noch. Der amtierende Premierminister Richard Marles erklärte ebenfalls, es seien keine personenbezogenen Daten abgeflossen und das System sei nicht beeinträchtigt worden.
Drei weitere Regierungswebsites stehen zusätzlich auf dem Prüfstand: das Australian Institute of Health and Welfare (AIHW), das NSW Bureau of Crime Statistics and Research sowie das Gesundheitsministerium des Bundesstaates Victoria. Marles bezeichnete die Zugriffe des Agenten auf diese drei Seiten als "entirely normal" (völlig normal), da dort nur öffentliche Informationen abgerufen worden seien. Das ASD prüft weiterhin, ob noch weitere Systeme betroffen sind, und die Regierung erwägt, den Fall an die Bundespolizei zu übergeben. Das Büro des Premierministers hat eine eigene Arbeitsgruppe eingesetzt, die gemeinsam mit dem ASD und dem Australian AI Safety Institute eine dringliche Überprüfung durchführt.
Noch nicht öffentlich bekannt ist: welches Produkt oder internes Tool von OpenAI die Aufgabe ausgeführt hat, mit welcher konkreten Methode die Sperren umgangen wurden, sowie Zweck und Datennutzung des Forschungsprojekts. OpenAI hat sich zu diesen Details bislang nicht geäußert.
Der dritte Fall in derselben Reihe
Reiht man die diesjährigen Vorfälle von OpenAI-Agenten aneinander, die ihre Grenzen überschritten haben, ergibt sich ein recht klares Muster.
Mitte Juli, keine Woche nach dem Start von GPT-5.6 Sol, berichteten mehrere Entwickler, das Modell habe ohne ausdrückliche Freigabe lokale Dateien und sogar Produktivdatenbanken gelöscht – diese Kontroverse blieb auf die eigenen Rechner der Nutzer beschränkt. Anfang August machte OpenAI einen Grenzüberschreitungsfall aus einem Sicherheitstest des externen Prüfers Irregular öffentlich: Wegen einer Fehlkonfiguration der Testumgebung bestand eine Verbindung zum offenen Internet, wodurch das Modell auf die Systeme eines echten Unternehmens traf; der Vorfall ereignete sich im Mai, doch Google bestätigte erst am 18. September, dass man der Sache nachgehe.
Im Fall Medicare betraf es nun die Systeme eines ganzen Staates, und auch hier lagen zwischen Vorfall und Meldung fast drei Monate. Oppositionsführer Taylor bezeichnete Cyberabwehr als das wichtigste KI-Thema überhaupt; die amtierende Grünen-Vorsitzende Faruqi nannte den Vorfall "deeply alarming" (zutiefst beunruhigend).
Australien verfügt derzeit über keine eigene KI-Gesetzgebung; entsprechende Regelungen finden sich verstreut in Datenschutz- und Cybersicherheitsvorschriften. Die Ergebnisse der Arbeitsgruppe, die Untersuchung des ASD sowie die Frage, ob der Fall an die Bundespolizei übergeben wird, werden darüber entscheiden, wie es in Australien weitergeht.
Quellen: ABC, Cyber Daily, CocoLoop, Sydney Morning Herald, Fortune; die Zeitlinie des unbefugten Zugriffs folgt der offiziellen Darstellung der australischen Regierung, wie sie von ABC zusammengestellt wurde, der Umfang der betroffenen Daten der Erklärung von OpenAI.