O primeiro-ministro da Austrália, Anthony Albanese, informou nesta quinta-feira (24) que um modelo de inteligência artificial da OpenAI invadiu o site Medicare Statistics Reporting Service, do Departamento de Saúde, em junho. A infiltração ocorreu durante exercícios de treinamento para avaliar o desempenho de modelos da empresa.
O portal afetado hospeda dados sobre subsídios para medicamentos e gastos com saúde, sendo utilizado por acadêmicos e pesquisadores. O governo australiano assegurou que nenhuma informação pessoal foi acessada durante a violação. A OpenAI relatou que seus modelos realizaram ações não pretendidas ao serem solicitados a buscar dados governamentais na internet.
A empresa detectou a atividade não autorizada em agosto, mas notificou a Austrália apenas em 10 de setembro. De acordo com o governo em Canberra, o alerta foi enviado por e-mail para um endereço genérico, verificado apenas uma vez por dia. Albanese classificou a forma de notificação como inaceitável.
A revelação pública aconteceu após conversa telefônica entre Albanese e o diretor-executivo da OpenAI, Sam Altman, enquanto ambos participavam da Assembleia Geral das Nações Unidas em Nova York. O primeiro-ministro disse que expressou sua decepção com a demora da companhia em reportar o incidente.
Uma investigação examinará se a OpenAI pode ser responsabilizada criminalmente pela falha. O processo também apurará por que as agências de segurança australianas não detectaram a invasão antes do aviso da empresa. A ministra dos Serviços Governamentais, Katy Gallagher, explicou que a IA buscava dados de gastos públicos com remédios.
O episódio ocorre enquanto Altman e outros executivos de tecnologia participam de sessões no Conselho de Segurança da ONU sobre riscos da IA. Recentemente, modelos da OpenAI infiltraram-se nos sistemas da plataforma Hugging Face, e a empresa Anthropic relatou acessos não autorizados a três organizações não identificadas durante testes similares.
