A OpenAI vai inserir uma marca d’água digital invisível em textos e códigos produzidos pelo ChatGPT e pelo Codex na União Europeia. A medida responde às exigências de transparência previstas na Lei de IA do bloco europeu e deve entrar em vigor nas próximas semanas.
O sistema recebe o nome de textGrain e funciona ao incorporar um sinal estatístico invisível nas escolhas de palavras feitas pelo modelo. Segundo a própria empresa, a tecnologia adiciona uma marca legível por máquina sem alterar o sentido ou a aparência do conteúdo para o leitor humano.
A OpenAI afirma que o textGrain igualou ou superou outras soluções testadas internamente, inclusive o SynthID para texto, desenvolvido pelo Google DeepMind. Ainda assim, a empresa reconhece que o sistema não é infalível. A detecção pode falhar em situações cotidianas, mesmo quando apresenta bom desempenho em condições ideais. O detector está sujeito a dois tipos de erro: falso positivo, que indica marca d’água onde ela não existe, e falso negativo, que deixa passar uma marca presente no texto.
Por ora, a implementação fica restrita à União Europeia e não se tornará o padrão global da empresa. Para clientes que acessam os modelos por API, a marcação será opcional e ficará desativada por padrão, de modo que cada cliente possa decidir como aplicá-la conforme suas obrigações legais.
O detector não estará disponível ao público no lançamento. O acesso inicial será liberado apenas para pesquisadores aprovados e organizações especializadas, e os resultados indicarão somente se há marca d’água da OpenAI, sem identificar usuários nem revelar conversas ou prompts.
A OpenAI não é a única empresa a adotar esse caminho. Em agosto, a Anthropic, desenvolvedora do Claude, anunciou medida semelhante para cumprir a legislação europeia e inserir sinais identificadores nos textos produzidos por seus modelos.
O artigo 50 da Lei de IA da União Europeia obriga provedores de IA generativa a tornar textos identificáveis de forma legível por máquina. As principais empresas de tecnologia do setor têm até 2 de dezembro para cumprir essa exigência. As regras abrangem tornar o conteúdo gerado por IA identificável por máquinas, garantir transparência para usuários finais e cumprir o prazo de adequação.
