Тексты, написанные языковыми моделями, всё сложнее отличить от человеческих. Чтобы сохранить прозрачность, разработчики внедряют скрытые маркеры. Один из таких проектов — у Anthropic: будущие версии Claude получат встроенный водяной знак, который позволит проверить происхождение текста.
Зачем нужен невидимый маркер
Водяной знак от Claude призван дать статистическую оценку — насколько вероятно, что конкретный текст создан именно этой моделью. Толчком стало регулирование: в Евросоюзе с 2 августа действует требование к AI-провайдерам маркировать синтетический контент. Встроенный маркер — один из способов выполнить это обязательство.
Важно, что маркировка никак не проявляется для читателя. По заявлению компании, она не влияет на качество ответов, их креативность или читаемость. Текст не получает видимых дополнений, скрытых символов или лишних токенов — а значит, и не требует дополнительных вычислительных затрат. При этом знак не содержит персональных данных: с его помощью нельзя отождествить текст с конкретным пользователем, организацией или отдельным чатом.
Технология: как это устроено
Принцип основан на особенностях работы языковых моделей. Модель генерирует текст по одному слову, выбирая наиболее вероятный вариант. В ряде случаев выбор почти не влияет на смысл — например, когда допустимы синонимы или незначительные стилистические вариации. Именно такие «низкоставочные» точки и становятся носителями маркировки.
В обычном режиме модель опирается на собственный источник случайности. Водяной знак подменяет его: выбор следующего слова начинает определяться ключом и несколькими предыдущими словами. Так в ответе возникает паттерн, невидимый для человека, но проверяемый при наличии ключа — по согласованности последовательности с ключом можно оценить вероятность генерации моделью.
Важно, что маркировка не заставляет модель выбирать неестественные слова или редкие синонимы вроде «nubilous». Лексика остаётся в рамках обычного словарного запаса, меняется лишь логика выбора в узких местах.
Метод, который применяет Claude, — это адаптация подхода SynthID-Text от Google DeepMind, опубликованного в Nature в 2024 году. Сама идея восходит к предложению Скотта Ааронсона 2022 года: менять только источник случайности, не вмешиваясь в остальное поведение модели.
Проверка и ограничения
Водяной знак не является абсолютным доказательством авторства. С его помощью можно лишь получить вероятностную оценку — насколько текст согласуется с известным ключом. Окончательно подтвердить, что текст сгенерирован той или иной моделью, нельзя, и это важно учитывать на практике.
Что нужно знать
- Маркер не даёт стопроцентной гарантии, только статистическую уверенность.
- Он не содержит информации, позволяющей отследить человека или организацию.
- Механизм не уникален для Claude — другие крупные разработчики внедряют собственные водяные знаки.
Внутренние тесты Anthropic не выявили ухудшения содержательной части ответов. Исследование Google DeepMind также не показало статистически значимых различий в оценках пользователей: люди не видели разницы между текстами с маркером и без него. Так что водяные знаки остаются компромиссом между прозрачностью и естественностью — они позволяют автоматизировать проверку происхождения контента, не мешая работе модели и не раскрывая данные пользователей.
