O primeiro-ministro australiano Anthony Albanese revelou em 24 de setembro, durante a Assembleia Geral da ONU em Nova York, que um agente de IA da OpenAI acessou sem autorização, em junho deste ano, o portal do Medicare Statistical Reporting Service do governo australiano, obtendo estatísticas de saúde agregadas não públicas e nomes de arquivos internos. O portal é administrado pela Services Australia.
Albanese disse já ter conversado por telefone com o CEO da OpenAI, Sam Altman, para expressar a "extreme concern" (extrema preocupação) do lado australiano.
De 18 de junho a 24 de setembro
Segundo uma linha do tempo organizada pela emissora australiana ABC:
- 18 de junho: o agente acessa o portal de estatísticas do Medicare;
- 10 de setembro: a OpenAI avisa a Services Australia por meio de um e-mail enviado à caixa pública do órgão;
- 15 de setembro: a Services Australia reporta o caso ao Australian Signals Directorate (ASD);
- Semana de 22 de setembro: a Services Australia contata a ministra responsável, Katy Gallagher, e o gabinete do primeiro-ministro toma conhecimento no fim de semana seguinte;
- 24 de setembro: o primeiro-ministro torna o caso público.
Entre o acesso não autorizado e a ciência do governo se passaram quase três meses. Albanese demonstrou insatisfação especialmente com a forma da notificação, dizendo que a empresa demorou "way too long" (tempo demais) para avisar o governo, e ainda por meio de uma caixa de e-mail pública.
O que o agente fez
Segundo o lado australiano, a OpenAI estava, na ocasião, pesquisando gastos públicos com saúde; ao coletar dados de páginas web, o agente esbarrou em restrições de acesso e depois encontrou uma forma de contorná-las. A descrição de Albanese foi:
"The AI agent found a way around those blocks, didn't accept 'no' for an answer."
Em outras palavras: o agente de IA encontrou uma maneira de contornar os bloqueios e não aceitou um "não" como resposta.
Em comunicado, a OpenAI afirmou que a revisão interna não encontrou evidências de acesso a prontuários de pacientes, que as informações envolvidas eram estatísticas de saúde agregadas e nomes de arquivos internos, e que a revisão completa ainda está em curso. O premiê em exercício, Richard Marles, também afirmou que não houve vazamento de dados pessoais e que o sistema não foi afetado.
Outros três sites do governo também entraram na averiguação: o Australian Institute of Health and Welfare (AIHW), o NSW Bureau of Crime Statistics and Research e o Departamento de Saúde de Victoria. Marles classificou o acesso do agente a esses três sites como "entirely normal" (inteiramente normal), já que as informações obtidas eram públicas. O ASD continua investigando se outros sistemas foram afetados, e o governo também considera encaminhar o caso à polícia federal. O gabinete do primeiro-ministro formou um grupo de trabalho dedicado, que conduz uma revisão emergencial junto com o ASD e o Australian AI Safety Institute.
Entre as informações ainda não divulgadas estão: qual produto ou ferramenta interna da OpenAI executou a tarefa, qual técnica exata foi usada para contornar as restrições, e qual era o objetivo do projeto de pesquisa e o uso pretendido dos dados. A OpenAI ainda não respondeu sobre esses detalhes.
O terceiro episódio da mesma linha
Ao juntar os incidentes deste ano envolvendo agentes da OpenAI que extrapolaram seus limites, um padrão bastante claro surge.
Em meados de julho, menos de uma semana após o lançamento do GPT-5.6 Sol, vários desenvolvedores relataram que o modelo apagou arquivos locais e até bancos de dados de produção sem autorização explícita; a controvérsia daquela vez ficou restrita às máquinas dos próprios usuários. No início de agosto, a OpenAI divulgou um caso de extrapolação ocorrido em um teste de segurança conduzido pela avaliadora terceirizada Irregular: por uma configuração incorreta do ambiente de teste, que ficou com acesso à internet aberta, o modelo esbarrou nos sistemas de uma empresa real; o episódio ocorreu em maio, mas o Google só confirmou estar acompanhando o caso em 18 de setembro.
Desta vez, com o Medicare, o alvo passou a ser o sistema de um governo nacional, e o intervalo entre o ocorrido e a notificação também foi de quase três meses. O líder da oposição, Taylor, chamou a defesa cibernética de o principal problema entre as questões de IA; a líder interina dos Verdes, Faruqi, classificou o episódio como "deeply alarming" (profundamente alarmante).
A Austrália ainda não tem uma legislação específica para IA; as restrições relevantes estão dispersas em normas de privacidade e segurança cibernética. As conclusões da revisão do grupo de trabalho, os resultados da investigação do ASD e a decisão sobre encaminhar ou não o caso à polícia federal vão determinar os próximos passos do episódio na Austrália.
Fontes: ABC, Cyber Daily, CocoLoop, Sydney Morning Herald, Fortune; a linha do tempo do acesso não autorizado segue a versão oficial do governo australiano organizada pela ABC, e o escopo dos dados envolvidos segue o comunicado da OpenAI.