OpenAI 将 Moonshot AI 与提取模型推理的相关行动联系起来

关键要点

  • OpenAI 披露,Moonshot AI 相关人员在 7 月发起了一场协调一致的提取活动,目标是获取受保护的模型推理过程。
  • 该活动于 7 月 1 日至 28 日期间利用 4,000 个账户发起了 16,000 次提取请求。
  • OpenAI 实施了加密缓解措施,并封禁了相关欺诈账户,以加强对对抗性蒸馏尝试的防护。

OpenAI 在公司博客文章中表示,与总部位于中国的 Moonshot AI 有关联的行为者于 7 月牵头开展了一场协调行动,试图从其模型中提取受保护的推理信息。在 OpenAI 于 7 月 28 日前将其彻底阻断之前,该行动通过超过 4,000 个账户发起了 16,000 次提取请求。OpenAI 称,这一活动符合对抗性蒸馏的特征,即运营者系统性地尝试利用一个模型的输出训练或改进另一个模型。该行动于 7 月 1 日以较低频率开始,随后在 7 月 24 日和 25 日出现请求量激增。这起事件凸显了 AI 行业持续面临的安全挑战,因为各公司都在努力保护专有模型的推理信息,防止其遭到未经授权的提取。

OpenAI 记录到 7 月行动通过 4,000 个账户发起 16,000 次提取请求

活动于 7 月 1 日开始,最初频率较低。7 月 24 日和 25 日出现了请求量激增,其中有 16,000 次请求使用了提取模式。这些请求来自超过 4,000 名用户。OpenAI 指出,该活动试图进行提取,但不一定成功,并且该行动已于 7 月 28 日前被彻底阻断。该公司没有说明成功率的任何衡量结果、具体针对了哪些模型,或其中有多少用户与 Moonshot 有关联。

OpenAI 将受保护的推理定义为模型处理任务时的内部工作记录,将对抗性蒸馏定义为系统性且未经授权地使用一个模型的输出或推理来训练或改进另一个模型。这些数据经过加密,以隐藏模型的思维链,并以加密区块的形式发送给客户端。客户端会在每次请求中将该区块发回,因此提供商无需存储它。运营者尝试的一种方法,是从一段对话中获取加密推理,并要求另一个对话中的模型将其解密。

OpenAI 实施加密修复并采取账户阻断措施

OpenAI 表示,加密并未被破解。没有人直接访问存储的用户对话,也没有数据库遭到入侵。一项修复措施关闭了一条路径,使已经拥有另一名用户加密推理的人能够重放该推理并恢复其内容。此外,OpenAI 增加了检查机制,以检测并拦截可能暴露推理的流式输出。该公司还加强了针对不同用户、工作区、组织和模型系列的隐藏推理保护,并与第三方服务提供商合作,封禁利用其服务开展相关活动的账户。

独立安全研究人员也曾通过负责任披露向 OpenAI 报告相关的跨模型和对话压缩漏洞,该公司确认他们发现的攻击路径确实存在。文章明确链接了题为《从专有 LLM API 窃取推理轨迹》的论文,该论文发表于 8 月 10 日。研究人员测试了 OpenAI、Anthropic 和谷歌,将前沿模型的加密推理输入相应的较弱模型,后者随后以明文输出这些推理。研究人员于 7 月初进行了测试,在提供商确认其报告后,他们无法再发起相同的攻击。

Anthropic 报告 Moonshot 涉及 300,000 次欺诈请求的类似活动

OpenAI 并非唯一面临此类威胁的公司。Anthropic 的报告《检测和应对 AI 滥用:2026 年 9 月》详细介绍了一个为期 10 天的时间段,在此期间,Moonshot 通过由 5,380 个欺诈账户组成的代理网络,将近 300,000 条客户请求转发给 Anthropic。报告还称,Moonshot 保存了 Claude 的推理特征,并在新会话中要求 Claude 将其还原为完整的推理轨迹,Anthropic 称之为跨会话重放攻击。7 月,Moonshot 否认 Kimi K3 是通过蒸馏创建的;当时 OpenAI 总裁 Greg Brockman 表示,现在判断 Moonshot 是否蒸馏了 OpenAI 的模型还为时过早。

OpenAI 计划为合作伙伴托管的部署增强保护

OpenAI 的下一步是确保合作伙伴托管的部署与自有工具拥有相同的保护措施。还需要增加检查机制,以防止工具输出攻击。OpenAI 已将其调查结果分享给 Frontier Model Forum 和政府信息共享渠道,并指出,支持可移植或可重放推理产物的系统可能面临相关风险。该公司预计,随着前沿模型不断改进,以及攻击者寻求更低成本的仿制方式,蒸馏尝试将变得更加复杂。防范这些尝试的工作仍在继续。

常见问题

OpenAI 如何描述 7 月的提取行动?
OpenAI 在公司博客文章中表示,与总部位于中国的 Moonshot AI 有关联的行为者于 7 月开展了一场协调行动,试图从其模型中提取受保护的推理信息。该行动通过超过 4,000 个账户发起了 16,000 次提取请求,活动于 7 月 1 日开始,并于 7 月 24 日和 25 日出现请求量激增,随后在 7 月 28 日前被彻底阻断。

OpenAI 如何应对提取尝试?
OpenAI 关闭了一条路径,使已经拥有另一名用户加密推理的人能够重放该推理并恢复其内容。该公司增加了检查机制,以检测并拦截可能暴露推理的流式输出,加强了针对不同用户、工作区、组织和模型系列的隐藏推理保护,并与第三方服务提供商合作,封禁利用其服务开展相关活动的账户。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论