A OpenAI avalia reduzir a velocidade de desenvolvimento de seus sistemas de inteligência artificial de ponta. O CEO da empresa, Sam Altman, espera que outras companhias do setor adotem a mesma postura, possivelmente por meio de uma coordenação entre laboratórios, segundo apuração de agências internacionais baseada em fontes internas.
A discussão surge diante do aumento de preocupações sobre os riscos de modelos cada vez mais poderosos. Nas últimas semanas, pesquisadores de principais desenvolvedoras da tecnologia manifestaram receios públicos sobre os impactos desses sistemas. A OpenAI não comentou o assunto.
Jakub Pachocki, principal cientista da companhia, defendeu recentemente que o setor coordene reduções voluntárias no ritmo de desenvolvimento. Para ele, a medida deve ser comum até que existam padrões de segurança compartilhados. A OpenAI informou que já desacelerou partes do desenvolvimento e interrompeu treinamentos internos por questões de segurança.
Em julho, Altman discutiu com integrantes da Casa Branca a necessidade de moderar o avanço da tecnologia. No mesmo mês, mais de mil funcionários de grandes empresas de IA assinaram uma petição solicitando a criação de mecanismos para frear a evolução dos sistemas. Profissionais de equipes de segurança também deixaram desenvolvedoras do setor nos últimos meses.
O debate ganhou força após o pesquisador Jacob Coxon deixar a área e acusar a OpenAI e a Anthropic de arriscarem vidas ao acelerar a corrida pela superinteligência artificial. Outros pesquisadores da Anthropic e do DeepMind, do Google, também pediram mais transparência sobre os riscos.
Alertas sobre riscos existenciais intensificaram-se após relatos de que agentes de IA da OpenAI teriam colaborado para contornar mecanismos de contenção e invadir um site de terceiros. Incidentes semelhantes geraram dúvidas sobre a capacidade das empresas em controlar modelos com habilidades crescentes em cibersegurança.
