来自 OpenAI、Anthropic、Google DeepMind、Meta 和英伟达的 1,100 多名 AI 研究人员签署了一封公开信,要求美国政府建立国际机制,以减缓或暂停 AI 发展。这封名为《前沿发展节奏》的公开信探讨了对递归式自我改进的担忧,即 AI 模型在超出人类监督能力的情况下参与自身的研究与开发。Anthropic 披露,其 Claude 模型目前约占该公司研发工作的 26%,而几个月前这一比例还不到 1%;与此同时,对 2026 年 7 月至 9 月期间发布的 arXiv 论文进行的一项调查发现,超过 1,250 篇研究成果聚焦于 AI 系统的自我改进。
Anthropic Claude 的研发贡献达到 26%
Anthropic 披露,其旗舰模型 Claude 目前约占该公司研发工作的 26%。几个月前,这一比例还不到 1%。
对 2026 年 7 月至 9 月期间发布的 arXiv 论文进行的一项调查发现,超过 1,250 篇研究成果聚焦于 AI 系统的自我改进。AI 评估者论坛于 2026 年 9 月组织了一项行动,汇集了 100 多名专家,他们签署了一封公开信,主张在每家前沿 AI 实验室中嵌入独立评估者。
研究人员要求独立的 AI 实验室评估者
《前沿发展节奏》公开信要求美国政府为社会争取足够时间,在这项技术突破其防护边界之前建立有效的治理结构。这封公开信并未呼吁永久停止 AI 发展。
AI 评估者论坛的公开信呼吁第三方评估者具备真正的独立性和访问权限。一些公司,包括 Anthropic 和 OpenAI,已承诺向外部评估者提供访问权限,但公开信认为,这些承诺需要得到制度支持。
英国人工智能安全研究所警告监督窗口正在关闭
英国人工智能安全研究所在 2026 年早些时候发布的一份报告警告称,如果不采取主动干预措施,现有的监督基础将会削弱。报告认为,建立有效治理的窗口正在关闭。
递归式自我改进给监管机构带来了一个具体问题,因为传统技术监督假设人类正在做出关键的发展决策,并且进展速度足够慢,使政策能够跟上。
常见问题
这 1,100 多名 AI 研究人员要求美国政府做什么?
这些研究人员签署了名为《前沿发展节奏》的公开信,要求美国政府建立能够有意减缓或暂停 AI 发展的国际机制。公开信要求在 AI 技术突破其防护边界之前,争取时间建立有效的治理结构。
Claude 目前承担了 Anthropic 多大比例的研发工作?
Anthropic 披露,其旗舰模型 Claude 目前约占该公司研发工作的 26%。几个月前,这一比例还不到 1%。
AI 评估者论坛的公开信在 2026 年 9 月主张什么?
AI 评估者论坛的公开信由 2026 年 9 月超过 100 名专家签署,主张在每家前沿 AI 实验室中嵌入具备真正独立性和访问权限的独立评估者。