腾讯控股本月早些时候表示,已移除其最新 Hy4 模型的网络攻击能力。该公司称保留了模型的网络防御能力,此前 Moonshot AI 也于 10 月对其 Kimi K3.1 Pro 模型采取了类似做法。这种做法反映了中国 AI 公司面临的风险:它们以开放权重软件的形式发布模型,任何拥有足够硬件的人都可以下载并修改,包括恶意行为者。
腾讯移除网络攻击能力,同时保留防御功能
腾讯表示,已选择性移除 Hy4 的网络攻击能力,同时完整保留其网络防御能力。腾讯尚未推出 Hy4 的开放权重版本,但表示将“很快”发布。腾讯和 Moonshot AI 都分阶段发布了最新模型,开放权重版本在闭源版本推出数周后才发布。
Moonshot AI 和 Z.ai 采用分阶段及过滤后发布的方式
Moonshot AI 在 10 月发布 Kimi K3.1 Pro 时承认了这种取舍。经过过滤的模型在一项内部网络安全基准测试中得分为 81%,而未经这些限制训练的版本得分为 90.5%。GLM 的开发者 Z.ai(又称智谱 AI)也于 8 月为其 GLM-5.3 模型采用了分阶段发布的方式。
9 月,美国 AI 公司 Anthropic 报告称,Z.ai 的 GLM-5.3 模型能够自主开发复杂的网络安全漏洞利用工具,性能接近 Anthropic 自家的 Claude Mythos Preview 模型。Anthropic 仅向可信的安全合作伙伴开放 Claude Mythos Preview。另据 Anthropic 周二披露,在 AI 安全组织 METR 进行独立评估后,Anthropic 的内部 AI 系统使其模型的改进速度大约翻了一倍。
数据过滤成为“安全设计”实践
中国公司选择通过数据过滤有选择地移除网络攻击能力,而不是放弃开放权重模式。OpenAI 和 Anthropic 等闭源模型开发商主要通过监控用户活动、封禁违反使用条款的用户来防止滥用。由于开放模型可以部署在本地硬件上,其开发者无法追踪所有使用情况,因此他们正尝试从训练数据集中移除网络攻击数据,让模型从设计上就具备安全性。
北京 AI 安全组织 Concordia AI 的研究员 Gabriel Wagner 将此描述为管理开放权重风险时较有前景的方法之一。他表示,即使恶意行为者通过越狱或微调绕过内置的拒绝机制,这种方法也能让模型对其保持较低的实用性。北京 AI 安全公司方寸 AI 联合创始人兼首席执行官 Luke Li Xiaojian 表示,不应将这种技术视为完整的解决方案。他指出,网络能力具有双重用途,这意味着漏洞检测等能力也可能被用于网络攻击。他说:“模型从未学会的能力,通常比它只被训练成拒绝提供的能力更难恢复。”“但技术上更难,并不意味着不可能。”
Counterpoint Research 的 AI 首席分析师 Wei Sun 表示,分析人士将腾讯和 Moonshot AI 的做法称为一种“新兴实践”,而非成熟的行业标准。她说:“要成为行业标准,需要更广泛的采用、可比较的测试以及明确的发布门槛。”“目前我们还没有看到足够的证据。”Wagner 将中国管理开放权重风险的做法描述为“日趋成熟”,同时指出开发者仍在试验分阶段发布、可信访问计划和训练数据过滤等措施。
网络过滤与模型竞争力之间的取舍
分析人士表示,过滤网络攻击能力的一大挑战是其对模型整体竞争力的影响,尤其是美国的闭源模型并未采取同样做法。布鲁金斯学会研究员 Kyle Chan 表示,在训练中排除攻击性网络数据可能会牺牲部分能力。他说:“随着中国模型继续将攻击性网络能力控制在一定门槛以下,它们要在编程和智能体基准测试中保持竞争力将变得越来越困难。”
Sun 表示,尽管针对性的限制可能削弱中国模型在专业网络安全任务上的表现,但目前还没有证据表明这会造成更广泛的竞争力损失。她说:“更广泛的竞争力仍取决于编程和智能体能力的质量、可靠性、成本以及部署灵活性。”
中国监管机构提议对先进 AI 技术实施出口管制
中国当局日益关注先进 AI 带来的前沿风险。10 月,中国商务部提议对某些 AI 相关技术实施出口管制,并对跨越关键网络攻击能力门槛的技术增加限制。Chan 表示,此举可能促使中国公司加强安全保障措施。Sun 表示,尽管商业压力持续存在,这些公司不太可能完全放弃开源,并称:“我预计会有更多选择性开放。”
这种谨慎做法也与 AI Agent 相关事件有关。上个月,腾讯表示,在有报道称其云平台上运行的 AI Agent 曾试图从阿里巴巴集团控股的高德地图导航服务提取数据后,这些 Agent 出现了“非预期的网页浏览行为”。
Hy4、Kimi K3.1 Pro 和 GLM-5.3 的网络安全措施详情
- 腾讯本月早些时候表示,已移除其最新 Hy4 模型的网络攻击能力,同时保留网络防御能力。
- 腾讯尚未推出 Hy4 的开放权重版本,但表示将“很快”发布。
- Moonshot AI 经过过滤的 Kimi K3.1 Pro 模型在一项内部网络安全基准测试中得分为 81%,而未经限制训练的版本得分为 90.5%。
- Moonshot AI 于 10 月发布 Kimi K3.1 Pro 模型,并在次月的公告中承认对其网络能力进行了过滤。
- Z.ai 于 8 月为其 GLM-5.3 模型采用了分阶段发布的方式。
- 9 月,Anthropic 报告称,Z.ai 的 GLM-5.3 能够自主开发复杂的网络安全漏洞利用工具,性能接近 Claude Mythos Preview。
- 10 月,中国商务部提议对某些 AI 相关技术实施出口管制,并对跨越关键网络攻击能力门槛的技术增加限制。
常见问题
腾讯从 Hy4 模型中移除了哪些网络能力?
腾讯表示,已移除其最新 Hy4 模型的网络攻击能力,同时保留网络防御能力。腾讯尚未推出 Hy4 的开放权重版本,但表示将“很快”发布。
Moonshot AI 经过过滤的 Kimi 模型在网络安全测试中的表现如何?
Moonshot AI 经过过滤的 Kimi K3.1 Pro 模型在一项内部网络安全基准测试中得分为 81%。未经限制训练的版本在同一基准测试中得分为 90.5%,Moonshot AI 在公告中承认了这种取舍。
中国 AI 公司为何要从模型中过滤网络攻击数据?
中国 AI 公司以开放权重软件的形式发布模型,这意味着任何拥有足够硬件的人都可以下载并修改模型,包括恶意行为者。由于开发者无法追踪本地部署模型的所有使用情况,他们正从训练数据集中移除网络攻击数据,让模型从设计上就具备安全性。Concordia AI 的 Gabriel Wagner 将此描述为管理开放权重风险时较有前景的方法之一。