来自 MATS Research、ELLIS Institute Tübingen、Max Planck Institute for Intelligent Systems 和 Snyk 的安全研究人员于 8 月 10 日提交了一篇论文,揭露了一个影响 Anthropic、OpenAI 和 Google AI 推理模型的严重加密机制漏洞。该团队从 GitHub 和 Hugging Face 上公开分享的 6,708 份会话日志中提取并解码了 315,320 个推理区块,恢复出 367 条个人身份信息(PII)和 182 个凭证,其中包括 62 个有效 API 密钥、33 个密码和 30 个个人邮箱地址。该漏洞源于三家提供商都在整个生态系统中使用单一的提供商级加密密钥,使攻击者能够将加密推理区块注入防护较弱的模型,迫使模型逐字解码这些区块。三家公司在收到负责任披露后均部署了服务端补丁,但此前已经公开分享的历史会话日志仍然可以被解码。
研究团队利用 AI 提供商之间的单一全局加密密钥
该漏洞针对推理模型——这类 AI 系统会在给出最终答案前生成内部思维链草稿。Anthropic、OpenAI 和 Google 会对这部分隐藏推理进行加密,以保护知识产权并防止用户访问中间步骤。研究人员发现,三家提供商并没有将每个加密推理区块绑定到特定用户、会话或模型,而是在整个生态系统中使用单一的提供商级加密密钥。研究人员写道:“这些加密区块在同一提供商生态系统内的不同会话、用户乃至不同模型之间完全兼容且可以互换。”
该攻击利用了跨模型可移植性。来自 Claude Opus 4.8(Anthropic 的旗舰模型)的加密推理区块可以被注入 Claude Haiku 4.5(一款更便宜的同系列模型),后者缺乏防止 Opus 按指令转录自身推理过程的反蒸馏对齐机制。论文称:“通过将某个模型的加密推理轨迹注入同一提供商旗下防护较弱的模型,我们可以迫使后者以明文逐字解码并输出该轨迹,而无需直接越狱能力更强的模型。”首席研究员 Alexander Panfilov 在 X 上证实:“Haiku 4.5 可以读取 Opus 4.8 的思维。”研究人员还利用标准 API 访问权限,在 OpenAI 的 GPT-5.6 系列和 Google 的 Gemini 模型阵容中复现了相同的攻击。
解码后的公开日志暴露 182 个凭证和 367 条个人身份信息
研究团队从 GitHub 和 Hugging Face 抓取了 6,708 份公开分享的 AI Agent 对话记录——开发者经常发布这些自动化会话日志,用于协作或调试。他们从这些日志中解码了 315,320 个推理区块,并恢复出 367 条个人身份信息和 182 个凭证。这些凭证包括 62 个有效 API 密钥、33 个密码和 30 个个人邮箱地址。论文指出:“开发者经常在网上公开分享其会话日志和加密思维轨迹,却完全不知道加密区块中隐藏着敏感数据。”大多数暴露的秘密从未出现在可见的 AI 输出中,而只存在于加密推理区块内。
研究人员证实,对于大多数被查询的提示词,他们统计出的推理代币数量与计费 API 中记录的思考代币数量一一对应。该漏洞开启了四种攻击途径:从 AI 公司窃取专有推理模式,通过蒸馏训练竞争模型;从共享日志中提取私密数据;执行不可见的提示词注入,将恶意指令隐藏在加密推理区块中,使安全监控工具无法发现;以及利用防护较弱的同系列模型对强大模型实施越狱。
Anthropic、OpenAI 和 Google 部署服务端补丁
三家提供商在研究团队遵循负责任披露流程后,均部署了服务端缓解措施。补丁已经上线。此前从公开网络抓取的、包含已解码推理区块的 6,708 份会话记录仍然可以访问。补丁部署前公开分享的历史会话日志,仍然可以使用论文中记录的漏洞利用方法进行解码;该论文于 8 月 10 日提交。
常见问题
研究人员在 8 月 10 日发现了 AI 推理模型加密方面的什么问题?
来自 MATS Research、ELLIS Institute Tübingen、Max Planck Institute for Intelligent Systems 和 Snyk 的研究人员于 8 月 10 日提交了一篇论文,揭示 Anthropic、OpenAI 和 Google 都在 AI 推理代币中使用单一的提供商级加密密钥。通过解码来自 6,708 份公开会话日志的 315,320 个推理区块,他们恢复出 182 个凭证,其中包括 62 个有效 API 密钥、33 个密码和 30 个个人邮箱地址。
跨模型注入攻击是如何运作的?
该攻击利用了同一提供商生态系统内不同模型之间的加密推理区块完全兼容这一事实。研究人员将 Claude Opus 4.8 等旗舰模型的加密推理区块注入 Claude Haiku 4.5 等防护较弱的模型,后者缺乏反蒸馏对齐机制。较弱的模型会以明文逐字解码并输出加密推理内容,无需直接越狱能力更强的模型。
AI 提供商在负责任披露后采取了哪些行动?
Anthropic、OpenAI 和 Google 在研究团队遵循负责任披露流程后,均部署了服务端补丁。补丁已经上线,但在补丁部署前已经在 GitHub 和 Hugging Face 上公开分享的历史会话日志,仍然可以使用论文中记录的漏洞利用方法进行解码。