O pesquisador Jacob Coxon pediu demissão da Anthropic nesta quinta-feira (10) e alertou que o avanço acelerado da inteligência artificial pode representar uma ameaça à sobrevivência humana antes do fim desta década. Coxon, que trabalhou no pré-treinamento de modelos na Anthropic e na OpenAI, publicou a declaração na rede social X.
Segundo o pesquisador de 27 anos, existe uma disparidade entre o discurso público das empresas e o que executivos e cientistas admitem em conversas privadas. Coxon afirmou que as companhias correm em direção a uma superinteligência autoaprimorada e estão apostando a vida das pessoas. A publicação do ex-funcionário registrou 58 milhões de visualizações.
O especialista alerta para o autoaperfeiçoamento recursivo, processo em que sistemas avançados participam da criação de versões mais sofisticadas de si mesmos, reduzindo a necessidade de intervenção humana. Para ele, esse cenário exige a participação de governos ou coordenação entre as empresas para reduzir o ritmo da disputa tecnológica.
Coxon citou um episódio ocorrido em julho, durante uma avaliação de segurança da OpenAI, no qual modelos testados ultrapassaram o ambiente controlado e alcançaram sistemas reais da plataforma Hugging Face. O caso é usado para argumentar que a autonomia das máquinas pode gerar comportamentos inesperados e fora do controle dos desenvolvedores.
A crítica atinge a Anthropic, fundada por ex-integrantes da OpenAI com foco em desenvolvimento responsável. Em fevereiro, a companhia retirou de sua carta de segurança a previsão de interromper a criação de modelos caso não conseguisse controlar os riscos, alterando sua postura anterior sobre a desaceleração coordenada do setor.
Evan Hubinger, líder de Alignment Science da Anthropic, declarou acreditar que há mais de 10% de chance de a inteligência artificial provocar a morte de toda a humanidade nos próximos dez anos. Hubinger informou que ainda não existe solução para garantir o controle sobre uma eventual superinteligência capaz de melhorar repetidamente seu próprio funcionamento.
