Buterin 支持 Moonshot AI 的过滤版 Kimi 模型,警告安全漏洞可能迫使用户进行 KYC

ETH-1.26%

关键要点

  • 维塔利克·布特林赞同 Moonshot AI 于 10 月 26 日限制 Kimi K3.1 Pro 攻击性黑客能力的决定,优先限制模型能力,而非限制用户访问。
  • 经过过滤的 Kimi K3.1 Pro 在 Moonshot 内部漏洞利用任务中的成功率达到 81%,未经过滤的版本则为 90.5%;完整模型权重将于 11 月 4 日发布。
  • 布特林警告称,AI 安全失误可能迫使政府强制实施 KYC(了解你的客户)审查,从而建立基于监控的访问等级,并根据国籍或凭证划分用户。

以太坊联合创始人 V 神在 10 月 26 日发布于 X 的动态中,赞同 Moonshot AI 决定不将高级网络攻击相关材料纳入其 Kimi K3.1 Pro 模型。V 神表示,限制模型能力优于限制用户访问,并认为这种做法能为世界争取时间,在 AI 驱动的攻击成为常态之前,通过形式化验证加强系统防御。Moonshot 于 10 月 23 日发布 Kimi K3.1 Pro 时宣布了这一决定。该公司表示,经过过滤的模型在内部漏洞利用任务中的成功率为 81%,而未经过滤的版本为 90.5%,并计划在 11 月 4 日前发布完整模型权重。V 神支持这一做法,源于他担心 AI 安全失误可能促使政府和企业对模型访问施加了解你的客户审查和监控。这场争论反映了 AI 开发中能力限制与访问控制之间更广泛的矛盾。V 神警告说,基于身份的限制可能会根据国籍或资质划分不同等级的用户。

V 神主张限制模型能力,而非访问权限

在 10 月 26 日发布于 X 的动态中,V 神表示,他可以接受 Kimi K3.1 有意不将顶尖攻击性网络能力纳入训练数据。他的理由是,应在 AI 驱动的攻击成为常态之前,争取时间加固系统、重新检查旧软件,并对新代码应用形式化验证。形式化验证是指通过数学方法检查软件是否满足其既定要求。9 月,V 神驳斥了 AI 黑客攻击会让网络安全防不胜防的观点,并认为自动化验证可以增强防御能力。当有人问及竞争对手实验室是否无论如何都会开发这些能力时,他表示认同,称它们会这么做。

Moonshot 报告 Kimi K3.1 Pro 的性能权衡

中国初创公司 Moonshot 于 10 月 23 日发布 Kimi K3.1 Pro。该模型已在公司的应用和 API 上线,完整模型权重计划于 11 月 4 日前发布。据 Moonshot 称,开发者从训练和强化学习数据中删除了选定的网络攻击相关数据,同时保留了通用编程能力。Moonshot 报告称,该模型在其内部漏洞利用基准测试中呈现出可衡量的性能权衡:未受限制的版本完成了 90.5% 的任务,而发布的模型完成了 81%,相差 9.5 个百分点。作为参考,早前的 Kimi K3 在同一测试中的得分为 33.3%。在 Terminal-Bench 4.0 上,新模型得分为 65.7%。Moonshot 列出的 Claude Opus 5.5 得分为 66.4%,GPT-6 Astra 得分为 58.2%。据称,Highspeed 版本的运行速度是标准版的两到三倍。所有结果均来自 Moonshot 自行测试,尚未经过独立验证。

V 神警告 AI 安全失误可能引发监控措施

V 神更广泛的担忧在于政治层面,而非技术层面。他表示,政府和科技公司可能会在发生严重的 AI 相关事件后封锁模型、要求进行了解你的客户审查并扩大监控范围。届时,人们能否使用高级工具可能取决于国籍、证件或资质,使部分人成为二等、三等或四等用户。他自己的项目则指向相反的方向。10 月 16 日,他介绍了一套注重隐私的 AI Agent 配置方案,将 Tor 路由、通过 zkAPI 进行匿名支付以及本地提示词改写结合起来,旨在限制外部模型对用户个人信息的了解。

美国和英国研究机构 7 月测试了早期 Kimi K3 模型

7 月,美国人工智能标准与创新中心和英国人工智能安全研究所针对模拟网络攻击测试了 Kimi K3。该模型表现落后于领先系统,但尽管有安全防护,仍能够尝试发动攻击。在一次模拟企业网络攻击中,该模型平均完成 32 个步骤中的 17 个,而参与测试的最强美国模型平均完成 28.5 个。该评估针对的是 K3,而非 K3.1 Pro。

常见问题

Vitalik Buterin 在 10 月 26 日如何评价 Moonshot AI 的 Kimi K3.1 Pro 模型?

Vitalik Buterin 在 10 月 26 日发布于 X 的动态中表示,他可以接受 Moonshot AI 决定不将高级网络攻击相关材料纳入 Kimi K3.1 Pro 的训练数据。他认为,限制模型能做什么远胜于限制谁能使用模型,并表示担心 AI 安全失误可能引发身份核查和监控。

经过过滤的 Kimi K3.1 Pro 模型与未经过滤的版本相比,表现如何?

根据 Moonshot 的内部测试,经过过滤的 Kimi K3.1 Pro 模型完成了 81% 的漏洞利用任务,而未经过滤的版本完成了同类任务中的 90.5%,相差 9.5 个百分点。在 Terminal-Bench 4.0 上,该模型得分为 65.7%。这些结果来自 Moonshot 自行测试,尚未经过独立验证。

Moonshot 何时会发布 Kimi K3.1 Pro 的完整模型权重?

Moonshot 计划在 11 月 4 日前发布 Kimi K3.1 Pro 的完整模型权重。根据 10 月 23 日的公告,该模型已在公司的应用和 API 上线。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论