Anthropic 研究员 Jacob Coxon 因对 AI 安全的担忧辞职

关键要点

  • Jacob Coxon 于 2026 年 9 月 8 日辞去 Anthropic 职务,并指责该公司将开发速度置于安全之上。
  • Coxon 在 NBC News 上警告称,随着能力扩展,先进 AI 的危险可能在 6 到 12 个月内出现。
  • Coxon 呼吁 AI 实验室和政府机构在窗口关闭前合作制定监管框架。

Jacob Coxon 是一名 27 岁的 AI 研究员,于 2026 年 9 月 8 日从 Anthropic 辞职。此前,他曾在 OpenAI 和 Anthropic 工作三年,参与前沿模型研发。Coxon 在 X 上发布了一篇长文,指责两家公司在竞相打造更智能机器的过程中,将人类安全视为可以接受的交易代价。五天后,即 9 月 13 日,他现身 NBC News 的《Meet the Press》,呼吁各 AI 实验室在有效监督窗口关闭前开展全球协调。Coxon 离职之际,外界正担忧 OpenAI 和 Anthropic 都将开发速度置于彻底的安全评估之上。他的公开批评与越来越多安全研究人员因对风险管理实践存在分歧而离开主要 AI 实验室的趋势相呼应。

Coxon 警告 AI 安全风险并呼吁实验室协调

Coxon 的辞职伴随着公开批评,核心是他所描述的拿人类安全进行赌博。他警告称,先进 AI 造成的灾难性后果可能在本十年结束前出现。在 9 月 13 日参加《Meet the Press》节目时,Coxon 表示,当前的 AI 模型不会立即构成生存威胁,但他认为,随着能力持续扩展,未来 6 至 12 个月内可能出现新的危险情况。他呼吁 AI 实验室和政府机构合作制定监督框架。

Anthropic 的对齐科学负责人 Evan Hubinger 已承认,公司缺乏解决超级智能相关对齐问题的明确策略。Hubinger 曾公开估计,未来十年内 AI 导致人类灭绝的概率超过 10%。

Anthropic 在安全批评声中推进首次公开募股

Coxon 辞职的时机恰逢 Anthropic 推动首次公开募股,公司估值最高可能达到 2 万亿美元。Anthropic 将自身定位为“负责任”的 AI 实验室,发布详细的模型评估,并实施比竞争对手更严格的使用政策。Coxon 的批评表明,公司对外的品牌形象与内部实践之间的差距可能比其面向公众的材料所显示的更大。

专注安全的研究人员离开主要 AI 实验室

Coxon 并不是首位因担忧而离开主要 AI 实验室的安全研究人员。近年来,OpenAI 因安全分歧经历了多起备受关注的离职事件,其中包括其超级对齐团队的解散。OpenAI 和 Anthropic 的离职趋势反映出 AI 行业内部持续存在的紧张关系:如何在快速开发与安全考量之间取得平衡。

常见问题

Jacob Coxon 在 2026 年 9 月 8 日做了什么?
Jacob Coxon 于 2026 年 9 月 8 日从 Anthropic 辞职,并在 X 上发布了一篇长文,指责 OpenAI 和 Anthropic 都在竞相打造更智能机器的过程中,将人类安全视为可以接受的交易代价。

Jacob Coxon 为什么从 Anthropic 辞职?
Coxon 因担忧 OpenAI 和 Anthropic 都将开发速度置于该技术所要求的彻底安全评估之上而辞职。他警告称,先进 AI 造成的灾难性后果可能在本十年结束前出现。

Anthropic 当前的业务发展状态如何?
Anthropic 正推动首次公开募股,公司估值最高可能达到 2 万亿美元,同时将自身定位为拥有详细模型评估和严格使用政策的“负责任”AI 实验室。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论