Executivos de grandes empresas de tecnologia passaram a defender uma pausa no avanço da inteligência artificial para tornar o desenvolvimento da tecnologia mais seguro. O movimento ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude, que alertou para o risco de a tecnologia dominar a internet em até 12 meses.
“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.
O discurso também foi defendido por executivos de empresas que concorrem com a Anthropic, como Sam Altman, CEO da OpenAI, responsável pelo ChatGPT, Elon Musk, dono do X e da empresa de IA xAI, e Demis Hassabis, presidente do Google DeepMind. “Concordo com Dario que precisamos marcar o ritmo da fronteira. Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo”, escreveu Altman. “Dario está certo”, afirmou Musk.
Amodei também pediu que auditores independentes acompanhem e verifiquem os padrões de segurança das companhias. Segundo o site de tecnologia The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança em IA. A defesa por mais cautela ocorre após relatos de ataques realizados por IA e a saída de um pesquisador que acusou as empresas de “brincar com as nossas vidas”.
Para Diogo Cortiz, especialista em IA e professor da PUC-SP, a preocupação é legítima, mas é difícil saber o que é real e o que é estratégia de mercado. “Será que estamos indo rápido demais e os humanos podem eventualmente perder o controle quando milhares de agentes de IA começarem a agir com certo grau de autonomia?”, questiona. “Me parece ser a combinação dos dois, até porque isso ajuda a fortalecer a mística de que esse tipo de tecnologia é inevitável e deve ser desenvolvida por quem se vende como os bonzinhos da história”, completa.
Cortiz cita fatores que explicam o movimento: os EUA enfrentam desafio energético para sustentar a IA, o retorno sobre investimentos está lento, modelos chineses ganham espaço com custo menor, e uma regulação mais dura pode favorecer as empresas líderes. O presidente dos EUA, Donald Trump, comparou críticos da IA a “forças muito negativas” e afirmou que quer manter a liderança do país no setor. A China, por sua vez, disse que a tecnologia pode ameaçar a segurança nacional.
Em seu texto, Amodei defende colaboração entre empresas de “países democráticos” e aconselha “não vender chips de IA potentes ou equipamentos de fabricação de semicondutores para a China”. A Comissão Europeia afirmou que as empresas precisam comprovar que seus serviços são seguros, e o primeiro-ministro britânico, Andy Burnham, vê como positivo o debate sobre os riscos da tecnologia.
