O presidente-executivo da Nvidia, Jensen Huang, afirmou que a segurança dos sistemas de inteligência artificial com agentes autônomos é um problema de engenharia solucionável. Em entrevista à CNBC, ele defendeu que essas ferramentas operem com o mínimo possível de permissões e acessos, para que o público confie na tecnologia.
Huang disse que a IA tem potencial para gerar grandes benefícios, mas precisa ser desenvolvida de forma segura. “Acredito que é um problema de engenharia. Sei que é um problema de engenharia”, afirmou, acrescentando que se trata de uma questão “tecnicamente solucionável”.
Segundo o executivo, a principal medida ao implementar um agente de IA deve ser retirar inicialmente todas as suas permissões e depois conceder apenas os acessos necessários para a execução de cada tarefa. “A prioridade número um é retirar todos os seus direitos”, disse.
Huang comparou o modelo de segurança ao funcionamento de navegadores, que isolam aplicações e limitam o acesso a arquivos, redes e outros recursos. A Nvidia está criando, com o OpenShell, uma espécie de “navegador para agentes”, voltado à contenção, provisão de permissões e monitoramento dos sistemas. O projeto é de código aberto e, segundo Huang, conta com apoio de cerca de 100 empresas.
O CEO também defendeu cautela na regulação de tecnologias ainda em rápida evolução. Para ele, “seria uma pena regular antes de compreender” plenamente a indústria, embora tenha afirmado que a intensidade da regulação deve aumentar à medida que a tecnologia amadurece.
