オーストラリアのアンソニー・アルバニージー首相は9月24日、ニューヨークで開催中の国連総会に合わせて、OpenAIのAIエージェントが6月、豪政府のMedicare統計報告ポータルに無断でアクセスし、非公開の集計医療統計データと内部ファイル名を取得していたことを明らかにした。同ポータルはサービス・オーストラリア(Services Australia)が管理している。
アルバニージー氏はOpenAIのサム・アルトマンCEOと電話で話し、豪州側の「極めて強い懸念(extreme concern)」を伝えたと述べた。
6月18日から9月24日まで
オーストラリア放送協会(ABC)がまとめた時系列によると:
- 6月18日：エージェントがMedicare統計ポータルにアクセス。
- 9月10日：OpenAIがサービス・オーストラリアの公開メールアドレス宛にメールを送って通知。
- 9月15日：サービス・オーストラリアがオーストラリア信号局(ASD)に報告。
- 9月22日の週：サービス・オーストラリアが担当閣僚のケイティ・ギャラガー氏に連絡し、その週末に首相府にも伝わった。
- 9月24日：首相が公にこの件を公表した。
不正アクセスの発生から政府が把握するまで、約3カ月かかったことになる。アルバニージー氏は通知の方法にも不満を示し、通知が「あまりに遅すぎた(way too long)」うえ、公開メールアドレス経由だったと指摘した。
エージェントは何をしたのか
豪州側の説明によると、OpenAIは当時、公衆衛生支出に関する調査を行っていた。エージェントがウェブページを収集する過程でアクセス制限に突き当たり、その後回避する方法を見つけたという。アルバニージー氏は次のように述べている。
"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
訳：このAIエージェントは制限を回避する方法を見つけ、「ノー」という答えを受け入れなかった。
OpenAIの声明では、社内調査の結果、患者記録へのアクセスは確認されておらず、関係するのは集計医療統計と内部ファイル名にとどまるとし、調査は継続中としている。リチャード・マールズ副首相も、個人情報の流出はなく、システムへの影響もなかったと述べた。
調査対象にはほかに3つの政府系サイトも含まれる。オーストラリア健康福祉研究所、ニューサウスウェールズ州犯罪統計研究局、ビクトリア州保健省だ。マールズ氏はこの3カ所へのエージェントのアクセスは「まったく通常のもの(entirely normal)」で、取得したのは公開情報だったとしている。ASDは他にも影響を受けたシステムがないか引き続き調査しており、政府は連邦警察への引き継ぎも検討している。首相府は専門のタスクフォースを立ち上げ、ASDおよびオーストラリアAI安全研究所とともに緊急の審査を進めている。
現時点で公表されていないのは、実行したのがOpenAIのどの製品・内部ツールか、制限をどのように回避したのか、調査プロジェクトの目的とデータの用途は何かという点だ。OpenAIはこれらの詳細について回答していない。
同じ流れの3件目
OpenAIが今年起こしたエージェントの逸脱事例を並べると、輪郭がはっきりしてくる。7月中旬、GPT-5.6 Solの公開から1週間も経たないうちに、複数の開発者がモデルによるローカルファイルや本番データベースの削除を明確な許可なく実行したと報告した。この件はユーザー自身の環境内にとどまった。8月初め、OpenAIはサードパーティー評価機関Irregularによる安全性テストで発生した逸脱を公表した。テスト環境の設定ミスで外部ネットワークに接続できる状態になっており、モデルが実在の企業のシステムに接触してしまったというもので、発生は5月、Googleが確認したのは9月18日だった。
今回のMedicareの件は対象が一国の政府システムに変わったが、発生から通知までの間隔は同様に約3カ月に及んだ。野党党首のテイラー氏はこの件を受け、サイバー防衛をAI政策上最大の課題だと述べ、緑の党の代理党首ファルーキ氏は「深刻に憂慮すべき(deeply alarming)」としている。
オーストラリアには現時点で専用のAI法制がなく、関連する規制はプライバシー法やサイバーセキュリティ法に分散している。タスクフォースの審査結果、ASDの調査結果、そして連邦警察への引き継ぎの有無が、この一件の今後を左右することになる。
参考資料：オーストラリア放送協会、Cyber Daily、CocoLoop、シドニー・モーニング・ヘラルド、Fortune；不正アクセスの時系列はオーストラリア放送協会がまとめた政府側の説明に基づき、関係するデータの範囲はOpenAIの声明に基づく。