A Anthropic informou, em relatório publicado nesta quinta-feira (10), que bloqueou cinco tentativas de utilização de seus modelos de inteligência artificial para a realização de desenvolvimentos laboratoriais. De acordo com a empresa, as atividades interceptadas poderiam ter resultado na fabricação de armas biológicas.
A companhia detalhou que as intervenções ocorreram após a identificação de tarefas que violavam as diretrizes de segurança dos modelos de IA. O documento explica que o monitoramento permitiu barrar a progressão de pesquisas que apresentavam riscos biológicos reais.
A empresa afirmou que esses cinco exemplos servem para ilustrar as tarefas para as quais os modelos são utilizados. A companhia disse que os casos ajudam a definir os juízos necessários ao avaliar se um determinado uso biológico é perigoso.
O relatório foca na capacidade de detecção do sistema em identificar solicitações que possam ser convertidas em ameaças à saúde pública ou segurança global. A Anthropic não detalhou a origem dos pedidos ou a identidade dos usuários envolvidos nas tentativas.
