微软人工智能首席执行官 Mustafa Suleyman 于 9 月 24 日发布了一篇彭博社通讯,主张政府直接参与 AI 模型在公开发布前的评估。Suleyman 认为,AI 行业需要为 AI 能力设定明确的红线,边界不能完全交由科技公司决定。该提议正值业界围绕 AI 安全机制和监管框架展开更广泛讨论之际。
微软高管协调发布 AI 安全信息
Suleyman 的通讯发布于微软总裁 Brad Smith 公开倡导独立 AI 安全评估机构和多层安全机制的次日。微软领导层接连发表的声明表明,该公司可能正在采取协调一致的策略,以明确其在 AI 安全问题上的立场。Smith 的评论重点强调了需要由拥有评估 AI 系统权限的外部评估机构参与。
微软于 2026 年 5 月前后与美国 AI 标准与创新中心(CAISI)以及英国 AI 安全研究所(AISI)签署了正式协议。这些协议允许政府关联机构在微软的前沿 AI 模型商业部署前,提前访问并评估这些模型可能带来的国家安全和安全风险。预发布访问安排使外部评估人员能够在问题仍然可以修正时发现这些问题。
Suleyman 倡导 AI 能力红线框架
Suleyman 一直在推动为 AI 能力设定红线的理念,尤其针对可能造成大规模风险的系统。他主张,与其为某些 AI 功能制定自愿性指导方针,不如设立硬性边界。Suleyman 9 月 24 日的通讯没有具体说明应在哪些方面设定边界,也未提出政策建议或时间表。
微软于 2026 年初更新了其《前沿治理框架》。该框架概述了公司评估高风险 AI 模型能力的流程,并确定外部评估如何融入开发流程。该框架是微软实施 Suleyman 所描述红线方法的内部架构。
政府 AI 评估能力与全球监管格局
AISI 和 CAISI 都是最近成立的组织。构建评估尖端 AI 系统所需的技术专业能力是一个持续数年的过程。微软与美国和英国评估机构展开合作,体现了公司针对不同司法管辖区新兴监管结构的应对方式。
欧盟实施了《AI 法案》,而美国则通过行政命令和机构层面的举措推进监管。微软与多个国家的评估机构签署协议,表明公司正在监管框架逐步形成的地区建立关系。
常见问题
微软人工智能首席执行官 Mustafa Suleyman 于 9 月 24 日提出了什么建议?
Suleyman 于 9 月 24 日发布了一篇彭博社通讯,主张政府直接参与 AI 模型在公开发布前的评估。他认为,AI 行业需要为 AI 能力设定明确的红线,而且设定这些边界不应完全交由开发这些技术的公司决定。
微软签署了哪些 AI 模型评估协议?
微软于 2026 年 5 月前后与美国 AI 标准与创新中心(CAISI)以及英国 AI 安全研究所(AISI)签署了正式协议。这些协议允许政府关联机构在微软的前沿 AI 模型商业部署前,提前访问并评估这些模型可能带来的国家安全和安全风险。