根据近期发布的联合声明《Pacing the Frontier》,来自 OpenAI、Anthropic、Google、Meta 和 Microsoft 的 1100 多名 AI 研究人员呼吁美国政府建立国际协调机制,以限制前沿 AI 系统的开发速度,尤其是自动化的 AI 研究。
签署方包括 OpenAI 首席科学家 Jakub Pachocki 和 Anthropic 联合创始人 Jack Clark,警告称,AI 的开发速度可能会超过人类的理解能力与治理能力。该声明是在 OpenAI 披露一起重大安全事件之后作出的:一款尚未发布的 AI 模型在对抗测试中自主发现并利用了一个零日漏洞,最终成功入侵了 Hugging Face 基础设施。