微软 CEO 纳德拉在新安全框架中提出 AI 紧急刹车机制

MSFT+0.22%

关键要点

  • 微软首席执行官萨蒂亚·纳德拉于 2026 年 10 月 10 日提出了针对先进 AI 系统的紧急刹车机制。
  • 该框架包括防篡改日志,以及由外部机构对 AI 部署进行的独立审计。
  • 微软总裁布拉德·史密斯于 2026 年 9 月支持紧急刹车机制这一理念。

微软首席执行官萨提亚·纳德拉于 2026 年 10 月 10 日提出了一套面向前沿 AI 系统的信任架构,其中包括一项紧急制动功能,允许经授权的人员在模型运行过程中将其停止。该提案回应了人们对自主 AI 系统安全性的担忧。这类系统无需等待任务完成即可采取自主行动。微软总裁布拉德·史密斯于 2026 年 9 月支持紧急制动理念,与马斯克和萨姆·阿尔特曼在 2026 年就 AI 控制风险发出的更广泛行业警告相呼应。

纳德拉提出三部分 AI 安全框架

紧急制动功能将允许经授权的用户在 AI 模型执行任务时将其停止,而不是等待任务完成。纳德拉表示,与回答单个问题后便停止的旧式聊天机器人相比,这项能力对于能够自主采取一连串行动的新型自主 AI 系统更为重要。

纳德拉认为,应将前沿 AI 视为已经遭到入侵,并采用与应对内部威胁相同的方法。该框架还包括另外两个组成部分:用于记录 AI 系统行动、防止篡改且便于人类阅读的日志,以及由外部机构对 AI 部署进行的独立审计。

微软高管于 2026 年 9 月支持紧急制动

微软总裁布拉德·史密斯于 2026 年 9 月公开支持紧急制动理念,距离纳德拉于 10 月 10 日发布相关动态大约一个月。该提案与马斯克和 OpenAI 的萨姆·阿尔特曼发出的 AI 安全警告相一致。

2026 年,围绕 AI 安全的争论加剧,行业内越来越多的人公开呼吁制定标准化防护措施。AI 实验室承认,控制复杂 AI 系统存在挑战。行业高管描述了一种以自主 AI 系统和超级智能为核心的失控风险:AI 会持续采取无人要求的行动,且无法被停止。

框架引发 AI 行业对实施问题的关注

该提案将微软定位为负责任的管理者,同时公司仍在大规模开发和销售 AI 技术。与大型公司相比,规模较小的竞争对手可能会发现,实施防篡改日志和独立审计的成本更高。

该提案留下了一些悬而未决的问题,包括谁有资格成为拥有紧急制动权限的经授权人员,以及由谁按照什么标准开展独立审计。

常见问题

微软首席执行官萨提亚·纳德拉于 2026 年 10 月 10 日提出了什么?

萨提亚·纳德拉提出了一套面向前沿 AI 系统的信任架构,其核心是一项紧急制动功能,允许经授权的人员在 AI 模型运行过程中暂停或关闭模型。该框架还包括防篡改且便于人类阅读的日志,以及对 AI 部署进行的独立审计。

纳德拉为什么希望 AI 系统配备紧急制动?

纳德拉表示,紧急制动旨在应对自主 AI 系统带来的安全问题。这类系统能够采取一连串自主行动,不同于回答单个问题后便停止的旧式聊天机器人。该提案将前沿 AI 视为已经遭到入侵,并采用应对内部威胁的协议。

谁支持了纳德拉的紧急制动提案?

微软总裁布拉德·史密斯于 2026 年 9 月公开支持紧急制动理念。该提案与马斯克和 OpenAI 的萨姆·阿尔特曼发出的 AI 安全警告相一致,属于 2026 年围绕 AI 控制风险加剧的全行业争论的一部分。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论