Anthropic 在 Fable 5.1 API 中为 Claude 的加密推理新增上下文锁定功能

据动察 Beating 报道,Anthropic 已在 Fable 5.1 中为 Claude 的加密思维块引入上下文锁。通过 API 生成的加密思维块现在必须与原始系统提示词、工具及消息历史一并返回。如果此前的任何内容被修改,API 将返回错误或丢弃这些加密思维块。

此次更新旨在防止模型蒸馏攻击。此前,研究人员发现,尽管用户无法读取加密思维块,但仍可将其传递给其他兼容的 Anthropic 模型进行解密。攻击者可以提示 Claude Opus 生成高质量推理,然后将加密思维块输入 Haiku 等较弱模型,以提取完整的推理过程。Anthropic 最初于 6 月通过将加密思维块绑定至特定模型来应对这一问题,防止跨模型解密。此次更新进一步将思维块绑定至对话上下文,以加强保护——更改系统提示词、工具或聊天历史记录,都会使此前的加密思维块失效。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论