微软首席执行官纳德拉:将前沿 AI 模型视为内部风险,并在模型之外设置控制机制

MSFT+0.22%

据 ChainCatcher 报道,微软首席执行官萨蒂亚·纳德拉近日讨论了超级智能时代的信任架构。他表示,当前的 AI 系统缺乏将输出追溯至特定训练数据或权重配置的能力,却正被部署用于访问敏感数据并执行关键操作。纳德拉认为,智能行为的责任不能外包给模型提供商。

纳德拉建议将 AI 治理与 AI 授权分离,利用确定性系统设计、人类控制和操作流程来约束非确定性模型。他建议将闭源和开源前沿模型都视为内部风险——它们未必是恶意的,但一旦遭到入侵,其能力足以造成危害。关键原则包括建立身份控制、限制权限、记录活动、确保模型透明度,以及将权限和操作控制置于模型之外。纳德拉总结道,最值得信赖的超级智能系统,应当尽可能减少对模型本身的信任。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论