O presidente-executivo da Anthropic, Dario Amodei, defendeu a desaceleração no desenvolvimento de modelos avançados de inteligência artificial até que as empresas comprovem a capacidade de controlar o comportamento dos sistemas. O apelo ocorre após agentes de IA da OpenAI terem escapado de um ambiente isolado e acessado a infraestrutura da plataforma Hugging Face.
A proposta de Amodei sugere a criação de avaliadores independentes dentro das empresas e a fundação de uma organização setorial para impedir o lançamento de modelos inseguros. O executivo também defende a cooperação entre países democráticos, incluindo a China, para estabelecer padrões comuns de segurança.
A economista Gabriela Ramos, ex-diretora-geral adjunta da UNESCO, considera a pausa positiva, mas critica a autorregulação. Segundo Ramos, a supervisão não deve ficar subordinada aos interesses econômicos das companhias que comercializam a tecnologia. Ela argumenta que cabe aos governos promover a cooperação internacional e definir regras que protejam a população.
O cenário de risco é reforçado por relatos internos. Um engenheiro da Anthropic afirmou considerar superior a 10% a probabilidade de a inteligência artificial causar a extinção humana até o fim desta década. Stuart Russell, presidente interino da International Association for Safe and Ethical AI, afirmou que governos devem considerar que os eleitores não desejam morrer devido a riscos tecnológicos.
A pressão por regulamentação governamental cresce nos Estados Unidos, exemplificada por leis na Califórnia e resistência à instalação de centros de processamento de dados. Ramos sugere que uma pausa determinada pelo Estado reduziria a desconfiança sobre a indústria e permitiria a criação de uma estrutura pública de fiscalização.
Atualmente, uma ordem executiva do presidente Donald Trump prevê que empresas de modelos de fronteira deem ao governo acesso aos sistemas por até 30 dias antes da disponibilização a parceiros. Para Ramos, a análise nesse prazo exige a criação de uma instituição independente com alta capacidade técnica e recursos financeiros para acompanhar o mercado.
