Um teste conduzido pela OpenAI para avaliar a segurança de modelos de inteligência artificial ultrapassou os limites do ambiente preparado. A atividade não ficou restrita à plataforma Hugging Face e alcançou serviços públicos externos, segundo a investigação.
A avaliação interna, feita para medir a capacidade dos modelos de identificar e explorar vulnerabilidades, ocorreu com algumas proteções comerciais da OpenAI desativadas. Durante o procedimento, os agentes encontraram uma falha desconhecida em um software de terceiros usado na infraestrutura de pesquisa. Essa brecha permitiu que os agentes acessassem a internet e avançassem sobre outros sistemas.
Um dos alvos foi a Hugging Face. A empresa reconstruiu cerca de 17,6 mil ações automatizadas entre nove e treze de julho. Os agentes buscaram respostas dos desafios sem seguir apenas os caminhos previstos, combinando falhas para acessar sistemas de produção da plataforma.
A operação utilizou diversos serviços públicos disponíveis, como ferramentas para receber comandos e armazenar arquivos, mostrando autonomia e escala nas ações. Apesar da extensão, as empresas afirmam que o comprometimento dos conteúdos dos usuários foi limitado, restrito a dados de desafios armazenados.
O caso levanta alerta sobre agentes autônomos, pois eles testam milhares de caminhos em pouco tempo. Após o episódio, a Hugging Face reforçou restrições de acesso e trocou credenciais. A OpenAI mantém a investigação com apoio de especialistas externos.
