Anthropic anunciou que todos os textos gerados pelo seu modelo emblemático Claude em breve receberá marcas de água invisíveis. Isto está a ser feito para cumprir os requisitos regulamentares que se aproximam. A empresa também divulgou detalhes técnicos pela primeira vez: anteriormente, só se sabia que a marca d'água não altera o conteúdo e não adiciona caracteres ocultos ao texto.
Como funciona a marca d'água
O método é baseado no SynthID-Text, uma tecnologia desenvolvida pelo Google DeepMind e publicada na Nature em 2024. A ideia foi proposta por Scott Aaronson em 2022. Durante a geração normal, o modelo escolhe a palavra seguinte usando um número aleatório. Na versão marcada com água, a aleatoriedade é substituída por uma função determinística: ela usa uma chave secreta e várias palavras anteriores. Como resultado, a sequência de palavras parece aleatória, mas carrega um padrão que pode ser verificado.
A cada passo, todas as palavras candidatas são divididas em “Verde” e “Vermelho” listas. O modelo escolhe um pouco mais da lista verde, mas as palavras vermelhas não são proibidas — elas são simplesmente menos prováveis. A composição das listas depende do contexto e da chave, portanto não há um conjunto fixo de palavras que possam ser memorizadas. Qualquer pessoa que tenha a chave pode, a qualquer momento, determinar em que lista uma palavra específica caiu em uma posição específica. Sem a chave, isso é impossível.
Para entender a ideia, imagine um jogo de Monopólio onde os dados são substituídos por um livro de dígitos de pi. Para um observador externo, o rolo parece aleatório, mas um jogador com esse livro sabe todos os números com antecedência. Da mesma forma, a marca d'água não altera as regras de geração; apenas altera a fonte da aleatoriedade.
Em essência, esta é uma forma de esteganografia: informação está escondida na escolha de palavras, não em rótulos explícitos. A marca d'água não adiciona símbolos ao texto e não aumenta o custo de geração. Os leitores não conseguem distinguir o texto marcado com água do texto normal, quer visualmente, quer pelo ouvido.
Como isso afeta a qualidade
O Antrópico realizou testes internos e não encontrou nenhum impacto negativo sobre o conteúdo, criatividade ou legibilidade. Resultados semelhantes foram obtidos em experimentos do Google DeepMind com o modelo Gemini: as classificações de usuários (gostos e desgostos) não mostraram diferenças estatisticamente significativas entre as respostas marcadas com água e as respostas ordinárias. Em um estudo controlado, especialistas comparando textos lado a lado também não viram diferença.
A marca d'água não contém informações de identificação: não pode revelar quem interagiu com o modelo, em que bate-papo ou quando. No máximo, permite calcular a probabilidade de que o texto foi gerado por este modelo particular. Para frases curtas (sob algumas dezenas de palavras), a precisão de detecção cai para zero: o texto precisa ser longo o suficiente para que o padrão estatístico se torne perceptível.
Notavelmente, o modelo nunca é forçado a escolher palavras raras ou não naturais. As listas verde e vermelha contêm as mesmas palavras que o modelo considera no modo normal, de modo que o texto permanece natural.
O que vem a seguir
A implantação da marca d'água faz parte de uma tendência mais ampla. A partir de agosto, os reguladores exigirão que todos os provedores de serviços de IA rotulem o conteúdo criado por seus modelos. Anthropic não está sozinho: outras grandes empresas assinaram compromissos de indústria semelhantes e já estão a trabalhar nos seus próprios esquemas de marcação de água. A rotulagem invisível está, assim, a tornar-se um padrão da indústria, não uma característica única de Claude.
Admitidamente, a tecnologia tem limitações: usar a chave secreta produz apenas uma estimativa probabilística da origem de um texto, não certeza absoluta. Ainda assim, isso é suficiente para reguladores e fornece aos usuários uma camada adicional de transparência.
Conclusão: marcar o texto de Claude é um compromisso entre transparência, regulação e conveniência. Praticamente não tem impacto na qualidade da geração e permite verificar a origem do texto sem comprometer a privacidade do usuário.
