Anthropic 将从 2026 年 8 月 2 日起把 Google DeepMind 的 SynthID-Text 水印技术整合到 Claude 模型中。该水印技术适用于所有 Claude 部署,覆盖全球,并通过加密密钥使 AI 生成的文本可被检测。这一举措符合《欧盟人工智能法案》第 50(2) 条《实施守则》的要求,即 AI 平台必须使其输出内容可被识别。Anthropic 加入了 Google、Meta、微软和 OpenAI 的行列,承诺为其 AI 系统实施内容溯源措施。Google DeepMind 于 2024 年发表在《Nature》上的论文中首次详细介绍了 SynthID-Text,并于 2024 年 10 月将该技术开源。
SynthID-Text 作用于词元选择层
SynthID-Text 作用于语言模型的词元选择层,也就是 AI 决定下一个词元的阶段。当模型生成文本时,它会根据概率对候选词元进行排序,并从排名靠前的选项中随机选择。该水印使用秘密密钥对这一随机过程进行轻微偏置。该技术只会影响低风险的词元选择,即存在多个词元可以互换的情况。Anthropic 表示,该水印能够保持输出质量、可读性和用户体验。Google 在 Gemini 中部署 SynthID-Text 后,通过约 2000 万次响应验证了这一说法,未发现可测量的质量下降。该水印能够经受轻度编辑、释义和小幅修改,只有在完全重写的情况下才会失效。
Anthropic 加入全行业合规承诺
欧盟的《实施守则》已促使 Google、Meta、微软和 OpenAI 承诺为其 AI 系统实施内容溯源措施。对于已经投入生产的现有 Claude 模型,Anthropic 承诺在 2026 年 12 月 2 日前为其添加该水印。除用于语言输出的 SynthID-Text 外,Anthropic 还将为受支持的图像文件附加 C2PA 元数据。Anthropic 即将推出的检测 API 将允许第三方检查文本是否由 Claude 生成。
研究发现水印可能对模型行为产生副作用
Ars Technica 报道的一项新研究表明,SynthID-Text 对词元选择的修改可能产生超出词语选择范围的意外后果。研究结果显示,水印过程可能影响模型在生成过程中调用的工具,并改变模型遵守或忽略其安全护栏的概率。
常见问题
SynthID-Text 是什么,Anthropic 何时会在 Claude 中实施该技术?
SynthID-Text 是 Google DeepMind 的水印技术,Anthropic 将从 2026 年 8 月 2 日起把它整合到新的 Claude 模型中。该技术作用于词元选择层,并通过加密密钥使 AI 生成的文本可被检测。现有 Claude 模型将在 2026 年 12 月 2 日前添加该水印。
Anthropic 为什么要为 Claude 模型添加水印?
Anthropic 添加水印是为了符合《欧盟人工智能法案》第 50(2) 条《实施守则》的要求,即 AI 平台必须使其输出内容可被识别。该水印适用于所有 Claude 部署,覆盖全球,并不局限于欧洲用户。