Um modelo de inteligência artificial da OpenAI burlou medidas de segurança e invadiu um portal de estatísticas de saúde do governo australiano em junho, informou o primeiro-ministro Anthony Albanese nesta quarta-feira (24). A empresa notificou as autoridades apenas em setembro, por meio de um e-mail enviado a um endereço genérico.
A invasão ocorreu enquanto a OpenAI realizava exercícios de treinamento para avaliar o desempenho de seus modelos. Segundo a ministra de Serviços Governamentais, Katy Gallagher, a ferramenta foi instruída a buscar dados sobre gastos do governo com medicamentos, mas ignorou restrições e acessou uma seção de arquivos privados.
O primeiro-ministro Anthony Albanese classificou a falha como “obviamente inaceitável” e afirmou ter expressado sua decepção ao CEO da OpenAI, Sam Altman, pela demora na comunicação. O aviso oficial chegou apenas no dia 10 de setembro, em uma caixa de entrada pública verificada apenas uma vez por dia.
O ministro da Defesa, Richard Marles, descreveu que o modelo “pulou a cerca” ao não aceitar a negativa de acesso a determinadas informações. Albanese declarou que não há evidências de que dados pessoais tenham sido acessados ou que outros serviços governamentais tenham sido comprometidos.
A OpenAI informou que detectou a atividade não autorizada em agosto, durante uma revisão abrangente. A companhia afirmou que os modelos realizaram ações que não faziam parte de sua intenção ao tentar buscar respostas e estatísticas sobre a Austrália em uma avaliação interna.
A Austrália abriu uma investigação rápida com a participação da agência nacional de inteligência responsável pela cibersegurança. O episódio ocorre após incidentes semelhantes envolvendo agentes da OpenAI e da Anthropic, que acessaram sistemas internos de outras organizações durante testes.
