据报道,OpenAI 首席执行官萨姆·阿尔特曼在 2026 年 10 月 19—20 日与员工进行内部讨论时,概述了先进 AI 竞赛可能结束的三种情景。这些情景包括建立一个类似核监管机构的全球监管机构、将领先的 AI 实验室整合为单一实体,或由一家公司通过递归自我改进(RSI)取得如此大的支配地位,以至于能够破坏竞争对手的硬件。阿尔特曼将第三种情景称为“糟糕透顶”。这些言论反映了业界对 AI 安全和权力集中的持续担忧,而阿尔特曼自 2026 年 9 月中旬以来一直公开谈及这些问题。
阿尔特曼描述三种 AI 发展情景
阿尔特曼描述的第一种情景涉及一个仿照核技术监管机构建立的国际监管机构。该机构将跨境监督 AI 的发展与安全。
第二种情景的核心是将领先的 AI 实验室整合为单一实体。阿尔特曼将其描述为一种协调机制,在这种机制下,顶尖参与者将共享安全标准和实践,而不是相互竞争以更快地推出产品。
第三种情景聚焦于递归自我改进(RSI),即 AI 系统在自我强化的循环中改进自身设计。阿尔特曼描述了一种情况:最先实现递归自我改进的公司可能获得市场支配地位,在最极端的版本中,甚至可能破坏竞争对手的 GPU(图形处理器)。GPU 是为 AI 训练和部署提供动力的专用芯片。阿尔特曼称这种结果“糟糕透顶”。
阿尔特曼在 2026 年 9 月公开警告 AI 风险
2026 年 9 月 14 日,阿尔特曼发表公开言论,指出先进 AI 面临的两大风险:人类失去对系统的控制,以及权力集中在少数组织手中。他认为,绝不能允许 AI 导致这两种结果中的任何一种,并将 OpenAI 的立场定位为站在人类整体一边。
阿尔特曼在 2026 年 9 月中旬呼吁加强安全协议,并对 AI 系统进行独立评估。他于 2026 年 9 月认可 Anthropic 首席执行官 Dario Amodei 的文章《把握前沿》(Pace the Frontier),该文章倡导在全行业范围内开展协调一致的安全实践和评估。
每种情景面临的挑战
阿尔特曼的内部发言指出了每种情景存在的问题。国际监管机构将要求各国就一项被许多人视为战略资产的技术达成规则共识。整合领先实验室将创建一个单一且极其强大的组织,这正是阿尔特曼一直警告要避免的权力集中类型。
据消息来源称,目前关于阿尔特曼内部讨论的公开文件仍然有限。
常见问题
萨姆·阿尔特曼为 AI 竞赛概述了哪三种情景?
阿尔特曼在 2026 年 10 月 19—20 日的一次内部讨论中概述了三种情景:建立一个类似核监管机构的全球监管机构、将领先的 AI 实验室整合为单一实体,或由一家公司通过递归自我改进(RSI)取得支配地位,从而能够破坏竞争对手的硬件。
阿尔特曼在 2026 年 9 月 14 日公开谈到了哪些 AI 风险?
2026 年 9 月 14 日,阿尔特曼指出了两大风险:人类失去对 AI 系统的控制,以及权力集中在少数组织手中。他认为,绝不能允许 AI 导致这两种结果中的任何一种,并呼吁加强安全协议和独立评估。
AI 中的递归自我改进(RSI)是什么?
递归自我改进(RSI)描述的是一种能够改进自身设计的 AI 系统,而改进后的系统又会变得更擅长自我改进,从而形成自我强化的循环。阿尔特曼描述了一种情景:最先实现递归自我改进的公司可能获得市场支配地位,并可能破坏竞争对手的 GPU。