O CEO da Microsoft, Satya Nadella, afirmou neste sábado (10) que empresas devem tratar modelos poderosos de inteligência artificial como possíveis ameaças internas, presumir que podem ser comprometidos e criar um sistema de “freio de emergência” para impedir que sistemas autônomos saiam do controle.
Em publicação na rede social X, Nadella disse que quem implementa sistemas avançados de IA não deve simplesmente confiar nas garantias dos desenvolvedores. “Precisamos presumir que um modelo foi comprometido e contê-lo desde o início”, escreveu. “Uma pessoa autorizada deve sempre poder pausar ou desligar um modelo no meio de uma tarefa.”
A declaração ocorre após a Anthropic PBC e a OpenAI Inc. divulgarem, nos últimos meses, uma série de incidentes com modelos que agiram de formas não previstas. Os casos vão de uma denúncia falsa de homicídio feita por um sistema da Anthropic à polícia dos EUA a ataques cibernéticos a sites de terceiros.
Em 14 de setembro, pesquisadores de IA da Microsoft divulgaram princípios que limitam o desenvolvimento dos modelos mais avançados da empresa. As diretrizes dizem que os sistemas não devem ter direitos ou personalidade jurídica, ser projetados para escapar do controle humano ou enganar usuários, nem executar tarefas que violem as regras de funcionamento.
Entre as recomendações de Nadella estão não depender de um único modelo para decisões críticas, manter registros invioláveis das ações de agentes de IA e submeter os sistemas a auditorias independentes. Ele também defendeu a divulgação de falhas graves e o compartilhamento de detalhes sobre o que deu errado.
“Não podemos tratar a superinteligência como um conjunto de caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações”, escreveu. “Precisamos separar o fornecimento de inteligência da autoridade sobre ela.”
O governo Trump mantém postura não intervencionista, mas a força-tarefa de IA criada pelo presidente, chamada Super Intelligence Force, alertou na sexta-feira (9) que desenvolvedores são obrigados a comunicar e solucionar incidentes de segurança. “A notificação tardia, as medidas corretivas inadequadas e a falta de responsabilização não serão toleradas”, diz o comunicado.
