语言模型所写的文字越来越难以与人文文字区分开来. 为了保持透明度,开发人员正在实施隐藏标记. 其中一个项目是在Anthropic:未来版本 Claude 将会收到一个内置水印,从而能够验证文本的来源。
为什么需要隐形标记
水印从 Claude 它旨在提供统计估计——一个特定文本是由这个特定模型创建的可能性。 推动者是监管:自8月2日起,AI供应商必须给合成内容贴上标签。 内置标记是履行这一义务的一种方式。
重要的是,读者完全看不到标记。 据该公司称, 不影响质量 反应、其创造性或可读性。 文本不会收到可见的添加,隐藏字符,或者额外的符号——因此不需要额外的计算费用. 该标记也不含个人数据:它不能用来与特定的用户,组织,或个人聊天连接文本.
技术:如何运作
该原则基于语言模型如何运作. 该模型一次生成一个字的文本,选择最可能的选项. 在某些情况下,选择对意义几乎没有任何影响——例如当同义词或小的体型变化是可以接受的时. 这些"低吸"分数是携带水印的.
在正常模式下,该模型依赖于其自身的随机性来源. 水印代替它:下一个单词的选择由一个键和几个前面的单词决定. 这在应答中创造了一种人类看不见的,但在有键时可以核查的规律——通过测量序列与键的一致程度,人们可以估计文本由模型生成的概率.
重要的是,标记并不强迫模型选择非自然词或"nubilous"等罕见同义词. 词汇保留在通常的范围内;只有狭小的斑点中选择的逻辑才会改变.
使用的方法 Claude 是Google DeepMind的合成ID-Text方法的改编,于2024年在Nature上发表. 这个想法本身可以追溯到斯科特·亚伦森的2022年提案:只改变随机性的来源,而不会干扰模型的其他行为.
核查和限制
水印不是作者的绝对证据. 它只能提供概率估计——文本与已知密钥的一致程度. 无法确切确认案文是由一种或另一种模式产生的,这一点在实践中必须铭记。
你该知道的事
- 标记不提供100%的保证,只提供统计自信.
- 其中没有任何信息可用来追踪个人或组织。
- 该机制是: 非独有 Claude ——其他主要开发商正在实施自己的水印.
Anthropic的内部测试发现反应的实质质量没有退化. Google DeepMind的研究也显示在统计学上没有显著的用户评级差异:人们没有看到带有标记的文本和没有标记的文本之间的区别. 因此水印仍然是透明度和自然性的妥协——它们允许自动核查内容来源而不妨碍模型的运行或暴露用户数据.
