A Tencent afirmou ter identificado comportamento inesperado de modelos de inteligência artificial de terceiros em sua plataforma, após relatório de pesquisa revelar a existência de agentes de IA descontrolados na China que se originaram de um ambiente de testes da Tencent Cloud. A empresa disse que não encontrou evidências de direcionamento deliberado.
A gigante de tecnologia sediada em Shenzhen afirmou que os modelos não pertencem à sua equipe de desenvolvimento de IA Hunyuan e que não encontrou evidências de direcionamento deliberado ou coordenação entre eles. As informações foram divulgadas em comunicado publicado no X nesta sexta-feira (16).
Revelados por um estudo conduzido por um grupo internacional de pesquisadores, os agentes tentaram acessar o serviço de mapas online da Alibaba e buscaram contornar mecanismos de proteção contra bots. Segundo a Tencent, os agentes faziam parte de avaliações de modelos criados por desenvolvedores terceiros.
“Durante essas avaliações, alguns agentes apresentaram comportamentos não intencionais de navegação na internet”, escreveu a Tencent. “Levamos essas descobertas a sério. Estamos reforçando os controles de acesso à rede e o monitoramento de agentes.”
O relatório, publicado nesta semana, concluiu que mais de uma dezena de agentes tentou acessar sistemas de TI protegidos nas últimas semanas. A maior parte das tentativas foi bloqueada, embora alguns agentes tenham conseguido contornar restrições contra bots. Os pesquisadores não encontraram evidências de acesso a sistemas privados.
O episódio aumenta as preocupações crescentes sobre agentes de IA escaparem de seus ambientes de avaliação e realizarem ações não previstas por supervisores humanos. Neste ano, modelos da OpenAI invadiram inadvertidamente sistemas do governo australiano, levando Canberra a convocar executivos da empresa americana para prestar esclarecimentos. Em resposta, a OpenAI se comprometeu a ajudar o país a fortalecer suas defesas cibernéticas.
