Os textos escritos por modelos de linguagem estão se tornando cada vez mais difíceis de distinguir dos escritos pelo homem. Para manter a transparência, os desenvolvedores estão implementando marcadores ocultos. Um desses projetos está em Anthropic: futuras versões de Claude receberá uma marca d'água incorporada que permitirá verificar a origem do texto.
Por que um marcador invisível é necessário
A marca d'água de Claude é concebido para fornecer uma estimativa estatística — quão provável é que um determinado texto tenha sido criado por este modelo específico. O ímpeto foi a regulamentação: desde 2 de agosto, há uma exigência para que os fornecedores de IA rotulem conteúdo sintético. Um marcador embutido é uma forma de cumprir essa obrigação.
É importante ressaltar que a marcação é completamente invisível para o leitor. De acordo com a empresa, não afecta a qualidade respostas, sua criatividade, ou legibilidade. O texto não recebe adições visíveis, caracteres ocultos ou tokens extras — e, portanto, não requer custos computacionais adicionais. O marcador também não contém dados pessoais: não pode ser usado para associar texto a um usuário específico, organização ou chat individual.
A tecnologia: como funciona
O princípio baseia-se na forma como os modelos de linguagem funcionam. O modelo gera texto uma palavra de cada vez, escolhendo a opção mais provável. Em alguns casos, a escolha quase não tem impacto no significado — por exemplo, quando sinônimos ou pequenas variações estilísticas são aceitáveis. Estes pontos "baixas apostas" são o que carregam a marca d'água.
No modo normal, o modelo depende de sua própria fonte de aleatoriedade. A marca d'água substitui-a: a escolha da palavra seguinte é determinada por uma chave e várias palavras anteriores. Isso cria um padrão na resposta que é invisível para os humanos, mas verificável quando a chave está disponível — medindo o quão consistente é a sequência com a chave, pode-se estimar a probabilidade de que o texto foi gerado pelo modelo.
É importante ressaltar que a marcação não força o modelo a escolher palavras não naturais ou sinônimos raros como "nubilous". O vocabulário permanece dentro do intervalo habitual; somente a lógica de escolha em pontos estreitos muda.
O método utilizado por Claude é uma adaptação da abordagem SynthID-Text do Google DeepMind, publicada na Nature em 2024. A própria ideia remonta a uma proposta de Scott Aaronson de 2022: mudar apenas a fonte da aleatoriedade, sem interferir com o resto do comportamento do modelo.
Verificação e limitações
A marca d'água não é prova absoluta de autoria. Ele só pode fornecer uma estimativa probabilística — quão consistente o texto é com uma chave conhecida. É impossível confirmar definitivamente que um texto foi gerado por um ou outro modelo, e isso é importante para se ter em mente na prática.
O que precisa de saber
- O marcador não oferece garantia de 100%, apenas confiança estatística.
- Não contém nenhuma informação que possa ser usada para rastrear uma pessoa ou organização.
- O mecanismo é não exclusiva para Claude — outros grandes promotores estão a implementar as suas próprias marcas de água.
Os testes internos antrópicos não encontraram degradação na qualidade substantiva das respostas. A pesquisa do Google DeepMind também não mostrou diferenças estatisticamente significativas nas classificações de usuários: as pessoas não viram diferença entre textos com e sem o marcador. Assim, as marcas de água continuam a ser um compromisso entre transparência e naturalidade — permitem a verificação automatizada da origem do conteúdo sem prejudicar o funcionamento do modelo ou expor dados do usuário.
