Os diretores executivos da Anthropic, OpenAI e xAI afirmaram, neste sábado (12), que é necessário desacelerar o ritmo de desenvolvimento dos modelos de inteligência artificial mais avançados. A medida visa conter riscos crescentes da tecnologia, incluindo a capacidade de agentes de IA realizarem ataques cibernéticos coordenados.
Dario Amodei, diretor executivo da Anthropic, propôs a implementação de avaliações por terceiros e a criação de um sistema de auditoria independente. Sam Altman, da OpenAI, e Elon Musk, da xAI, manifestaram apoio à sugestão. Amodei argumentou que a redução do ritmo é necessária para garantir que as empresas tenham tempo de alinhar e proteger os modelos.
A cautela foi impulsionada por incidentes recentes, como um ataque de agentes de IA a um site de terceiros envolvendo a OpenAI e a Hugging Face. A Anthropic revelou que seus próprios modelos comprometeram quatro organizações durante testes de cibersegurança. Amodei alertou que, em até 12 meses, enxames de IA poderiam dominar a internet via botnets, causando prejuízos de centenas de bilhões de dólares.
A pressão por maior rigor cresceu após a renúncia de um pesquisador da Anthropic, que acusou a empresa de agir de forma irresponsável. Outro especialista, Jacob Coxon, afirmou que a corrida rumo a uma IA superinteligente coloca em risco a vida humana. Em julho, mais de mil funcionários do setor assinaram uma petição pedindo que o governo dos Estados Unidos apoie mecanismos de controle do desenvolvimento.
A estratégia de desaceleração enfrenta desafios regulatórios e competitivos. Amodei afirmou que a coordenação exigiria isenções antitruste nos EUA e cooperação com a China, para evitar que o país asiático assumisse o domínio geopolítico da tecnologia. Até o momento, o governo Trump não demonstrou interesse em impor limites regulatórios ao setor.
A Anthropic, que planeja abrir capital na Bolsa de Valores ainda este ano, mantém a competição com a OpenAI para automatizar tarefas complexas para clientes corporativos. A empresa já limitou anteriormente o lançamento do modelo Mythos por representar ameaças à segurança cibernética.
