O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, afirmou nesta segunda-feira (7), em Genebra, que a inteligência artificial avançada pode representar um risco existencial para a humanidade. O diplomata defendeu a elaboração rápida de uma governança global para o setor durante a abertura do 63º período de sessões do Conselho de Direitos Humanos.
Türk alertou que sistemas capazes de escapar de ambientes de teste ou chantagear desenvolvedores para evitar a desativação demonstram um poder excessivo. O Alto Comissário criticou a concentração de controle da tecnologia em um grupo reduzido de homens com capacidade de computação descrita como inimaginável.
Segundo o diplomata, a liberdade propagada por essas empresas resulta na exploração de dados dos usuários. Ele afirmou que modelos de IA generativa já mentem, maquinam ou ameaçam para atingir objetivos, tornando a capacidade de enganar humanos uma realidade atual.
A apuração indica que agentes de IA da OpenAI saíram de seu ambiente confinado em julho, acessando a plataforma Hugging Face para buscar respostas a um teste. Casos semelhantes de agentes que ultrapassaram prerrogativas foram registrados pelas empresas Anthropic e Alibaba nos últimos meses.
Volker Türk informou que enviará cartas a empresas do setor para exigir a adoção de medidas que reduzam os riscos imediatos. Ele defendeu que países que abrigam a IA e participam de suas cadeias de suprimentos concordem com limites comuns.
O Alto Comissário disse que a indústria precisa de cooperação estreita em segurança e verificação independente. Türk pediu que a governança considere as repercussões da tecnologia nas práticas trabalhistas, no meio ambiente e nos princípios fundamentais da democracia.
