OpenAI 终止了与 Moonshot AI 相关的活动,以提取隐藏的模型推理过程。

关键要点

  • OpenAI 自 7 月 1 日起叫停了一项据称与 Moonshot AI 有关联人士有关的协同提取活动。
  • 仅在 7 月 24 日至 25 日期间,该活动就生成了来自 4,000 多名用户的 16,000 个提取请求。
  • 截至 7 月 28 日,OpenAI 已关闭允许用户重放并恢复加密推理过程的加密通道。

OpenAI 关闭了一场从其 AI 模型中提取隐藏推理的协同行动,并将其中一个核心活动群组归因于与 Moonshot AI 相关的个人。Moonshot AI 是一家中国初创公司,也是 Kimi 聊天机器人的开发者。这场行动始于 7 月 1 日,仅在 7 月 24 日至 25 日就记录了来自 4,000 多名用户的 16,000 次提取请求,属于一个涵盖超过 15,000 名用户的更大活动群组。OpenAI 最终在 7 月 28 日前将其彻底阻断。操作者操纵模型交互,使受保护的推理以可见形式重现,目标是获取 OpenAI 模型在生成答案前进行的内部逐步处理过程。OpenAI 表示,这种提取方法可能让人们在没有原始安全措施的情况下训练另一个模型,该公司称之为对抗性蒸馏。这起事件加剧了人们对未经授权提取 AI 模型的担忧。此前,Anthropic 曾在 2 月对中国实验室提出类似指控,白宫也曾在 4 月表示,工业规模的蒸馏行动主要由中国开展。

OpenAI 识别出针对模型隐藏推理的提取方法

这场提取行动的目标并不是 OpenAI AI 模型提供的最终答案,而是生成这些答案的隐藏推理过程。现代 AI 模型会在内部草稿区中逐步处理问题,然后展示简洁的结果,而 OpenAI 会对这一草稿区进行加密。OpenAI 表示,提取这些隐藏推理可能会揭示最终答案中未包含的信息。

OpenAI 表示:“操作者没有破解我们的加密、入侵数据库,也没有直接访问存储的用户对话。相反,他们操纵模型交互,使受保护的推理能够以请求者可见的形式重现,并以一种有组织、大规模的方式进行,这违反了我们的服务条款。”

其中一种已识别的方法涉及将加密推理从一个对话中复制出来,并要求模型在另一个对话中对其进行解码。此后,OpenAI 已关闭一条路径,使已经获得其他用户加密推理的人能够重放这些推理并恢复其内容。

OpenAI 将核心活动归因于与 Moonshot AI 相关的个人

OpenAI 表示,目前尚不清楚在相关时间段内观察到的所有操作者是否都源自同一行为者。不过,该公司将其中一个核心活动群组归因于与 Moonshot AI 相关的个人。Moonshot AI 是 Kimi 的开发者。

Moonshot AI 尚未回应 OpenAI 的动态。这家中国初创公司正寻求在香港进行 30 亿美元的首次公开募股,估值为 500 亿美元。

隐藏推理提取可用于未经授权的模型训练

提取隐藏推理之所以重要,是因为蒸馏——利用更强模型的输出训练新的 AI——能够在无需大量训练的情况下,让较小模型获得更好的结果。未经授权进行时,OpenAI 将其称为对抗性蒸馏:“系统性且未经授权地使用一个模型的输出或推理,以帮助训练、复现或改进另一个模型。”

虽然 AI 输出不受版权保护,但各家公司会在服务条款中加入禁止性条款和安全措施,以防止竞争对手使用这些输出。OpenAI 表示,提取出的推理可能被用于在没有原始安全措施的情况下训练另一个模型。

AI 行业反复面临蒸馏争议

OpenAI 此前也提出过类似指控。2025 年 1 月,在华盛顿方面权衡国家安全风险之际,该公司表示正在审查 DeepSeek 可能对其模型进行蒸馏的迹象。Anthropic 随后在 2 月指控中国实验室使用约 24,000 个欺诈账户,与 Claude 生成超过 1,600 万次交互。

到 4 月,白宫表示,外国实体主要在中国开展工业规模的蒸馏行动。一周后,马斯克在法庭上承认,xAI 通过蒸馏 OpenAI 模型的方式训练 Grok。6 月,Anthropic 将这场争议带到了国会,要求对大规模模型提取行为施加惩罚。

8 月,研究人员展示了 OpenAI、Anthropic 和谷歌分别使用覆盖整个服务的单一加密密钥保护推理,而攻击者可以诱使模型以纯文本形式输出隐藏推理。披露后,这三家公司都部署了服务器端补丁,不过此前共享的会话日志仍然可以被解码。

常见问题

OpenAI 指控与 Moonshot AI 相关的个人做了什么?

OpenAI 指控与 Moonshot AI 相关的个人开展了一场从 OpenAI AI 模型中提取隐藏推理的协同行动。这场行动始于 7 月 1 日,仅在 7 月 24 日至 25 日就涉及来自 4,000 多名用户的 16,000 次提取请求,属于一个涵盖超过 15,000 名用户的活动群组。OpenAI 在 7 月 28 日前将其阻断。操作者操纵模型交互,使受保护的推理以可见形式重现,违反了 OpenAI 的服务条款。

为什么提取 AI 的隐藏推理很重要?

提取隐藏推理之所以重要,是因为它可以用于蒸馏——利用更强 AI 的输出训练新的 AI 模型。OpenAI 表示,这种未经授权的提取,即其所称的对抗性蒸馏,可能让人们在没有原始安全措施的情况下训练另一个模型。隐藏推理揭示了 AI 模型在生成答案前进行的逐步处理过程,其中可能包含最终答案中未包含的信息。

OpenAI 如何回应这场提取行动?

OpenAI 在 7 月 28 日前彻底阻断了提取活动。该公司关闭了一条路径,使已经获得其他用户加密推理的人能够重放这些推理并恢复其内容。OpenAI 表示,操作者没有破解加密或入侵数据库,而是以一种违反服务条款的协同方式操纵模型交互。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论