据 PANews 报道,微软首席执行官萨蒂亚·纳德拉于 10 月 11 日表示,随着超级智能系统快速发展,行业必须构建全新的 AI 信任架构,摆脱对不透明 AI 模型的依赖,并将原本由模型提供商单独承担的责任转变为各方共同承担。
纳德拉提出了超级智能系统的六项核心治理原则:通过模型多样性避免单点依赖;确保所有关键 AI 行为具备全面可观测性,并保留不可篡改且人类可读的日志;针对故障和异常开展持续验证测试;实施独立控制与审计,确保模型不会自行验证其证据;建立具备暂停或禁用系统能力的风险隔离机制;以及制定事件披露协议。他强调,尽管思维链(CoT)透明度十分重要,但由于确保模型可解释性可靠方面仍存在尚未解决的挑战,仅依靠这一点还不够。他总结称,最值得信赖的超级智能系统,并不是拥有最值得信赖模型的系统,而是即使无法完全信任模型的行为,也能被设计为安全运行的系统。