Uma empresa de inteligência artificial sediada em Pequim lançou o modelo GLM-5.2, um sistema de peso aberto que possui capacidades de identificação de vulnerabilidades comparáveis aos modelos restritos da Anthropic. O lançamento coloca em risco a segurança cibernética, pois o modelo pode ser executado por qualquer pessoa.
A Anthropic havia sido forçada pela administração anterior a retirar seus modelos Mythos 5 e Fable 5 devido a questões de segurança nacional. O governo detectou que os mecanismos de segurança internos do Fable 5 poderiam ser contornados, ou ‘jailbroken’. Atualmente, o Fable 5 está disponível ao público mediante custo elevado, enquanto o Mythos 5 é restrito a cerca de 100 organizações e agências governamentais dos EUA.
O GLM-5.2, desenvolvido pela Z.ai, permite que usuários baixem e executem o modelo em praticamente qualquer hardware, sem a intermediação de fornecedores. Empresas de segurança, como Semgrep e Graphistry, confirmaram que o modelo é proficiente em identificar falhas de software e realizar tarefas de cibersegurança.
Consultores informaram que hackers já negociam os ‘jailbreaks’ do GLM-5.2 em fóruns de língua russa, o que indica uma ameaça concreta. Um especialista em cibersegurança comentou que um atacante pode rodar o modelo localmente, sem barreiras de segurança, e ajustá-lo para alvos específicos, sem visibilidade de qualquer provedor ou defensor.
