A Anthropic anunciou que seu chatbot Claude incluirá uma marca d’água no texto que gera. A medida, que visa cumprir o Ato de Inteligência Artificial da União Europeia, pode expor quem usar a tecnologia sem detecção.
A implementação da marca d’água ocorre em resposta à legislação europeia, que exige que empresas de IA sinalizem conteúdos produzidos ou editados por seus sistemas. O mecanismo funciona alterando sutilmente as escolhas de palavras do modelo de linguagem.
As alterações são projetadas para serem imperceptíveis ao leitor humano, mas formam um padrão detectável por ferramentas específicas. A empresa afirma que as marcas persistirão após alguma edição, embora o sinal possa ser destruído se o texto for copiado e reescrito por outro chatbot.
A comunidade de usuários manifestou preocupação com a novidade. Alguns apontaram que a marca pode prejudicar a comercialização de textos, enquanto outros questionaram o impacto sobre estudantes e jornalistas que utilizam a IA para auxiliar em tarefas.
Há também receios sobre a qualidade da escrita. A Anthropic alertou que as escolhas de palavras usadas para criar a marca d’água podem deteriorar a prosa. Além disso, especialistas apontam que, ao se tornar pública a ferramenta de detecção, atores mal-intencionados podem criar métodos para remover esses sinais.
