据 ChainCatcher 报道,微软首席执行官萨蒂亚·纳德拉近日讨论了超级智能时代的信任架构。他表示,当前的 AI 系统缺乏将输出追溯至特定训练数据或权重配置的能力,却正被部署用于访问敏感数据并执行关键操作。纳德拉认为,智能行为的责任不能外包给模型提供商。
纳德拉建议将 AI 治理与 AI 授权分离,利用确定性系统设计、人类控制和操作流程来约束非确定性模型。他建议将闭源和开源前沿模型都视为内部风险——它们未必是恶意的,但一旦遭到入侵,其能力足以造成危害。关键原则包括建立身份控制、限制权限、记录活动、确保模型透明度,以及将权限和操作控制置于模型之外。纳德拉总结道,最值得信赖的超级智能系统,应当尽可能减少对模型本身的信任。