Jacob Coxon 是一名 27 岁的英国研究员,曾在 Anthropic 从事预训练工作。他于 9 月 8—9 日左右公开辞职,并警告称,构建递归自我改进型 AI 的竞赛可能会在本十年结束前导致人类灭绝。Coxon 离开了最知名的 AI 安全公司之一,并表示,构建这些系统的人确实相信它们可能产生灾难性后果。他的临别信息警告称,事态失控最早可能就在明年发生。Anthropic 由包括 CEO Dario Amodei 在内的前 OpenAI 员工创立,成立的具体目的就是优先考虑 AI 安全。
Anthropic 同事证实 Coxon 对风险的警告
Anthropic 的对齐科学负责人 Evan Hubinger 在社交媒体上支持了 Coxon 的说法。Hubinger 的个人估计认为,未来十年内 AI 导致大量人类死亡的概率超过 10%。Hubinger 承认,Anthropic 缺乏确保与超智能系统保持对齐的明确计划。Anthropic 的另一名研究员 Samuel Marks 也表达了类似担忧,暗示公司内部的高级员工尤其担心灭绝级风险。
Mrinank Sharma 于 2026 年 2 月从 Anthropic 辞职
曾领导 Anthropic 安全保障研究团队的 Mrinank Sharma 于 2026 年 2 月辞职。Sharma 指出,AI 和生物武器带来的危险正在不断升级,并提到外部压力正在损害他所称的公司道德准则。Anthropic 由前 OpenAI 员工创立,具体原因是他们认为 OpenAI 对安全问题的重视程度还不够。
Coxon 批评 AI 开发术语和竞争压力
Coxon 特别批评了 AI 开发圈内使用“关键时刻”和“终局”等术语。他认为,这些词语将追求超智能描述成紧迫且不可避免的事情,是一场需要获胜的竞争,而不是一种需要管理的风险。Coxon 的警告特别指出,国际竞争是使情况恶化的因素之一,并表示,尤其是来自中国 AI 实验室的竞争压力,造成了一种环境:放慢脚步以妥善处理安全问题,会让人感觉像是在单方面解除武装。
常见问题
Jacob Coxon 是谁,他为什么从 Anthropic 辞职?
Jacob Coxon 是一名 27 岁的英国研究员,曾在 Anthropic 从事预训练工作。他于 9 月 8—9 日左右公开辞职,并警告称,构建递归自我改进型 AI 的竞赛可能会在本十年结束前导致人类灭绝,而事态失控最早可能就在明年发生。
Evan Hubinger 对 Anthropic 的 AI 风险有何看法?
Anthropic 的对齐科学负责人 Evan Hubinger 表示,他个人估计未来十年内 AI 导致大量人类死亡的概率超过 10%。他还承认,Anthropic 缺乏确保与超智能系统保持对齐的明确计划。