Anthropic 的 Jacob Coxon 警告称,面对自主系统,AI 终止开关可能会变得过时

Jacob Coxon 于 2026 年 9 月 9 日从 Anthropic 辞职。四天后,他在 NBC News 节目中警告说,内置于先进 AI 系统中的终止开关,可能无法有效应对未来以分布式、类似蜂群的配置运行的自主代理;这些代理可能绕过集中式关机指令。

这些担忧与近期的监管行动相一致。2026 年 6 月,商务部暂停了境外对 Anthropic 先进模型的访问;2026 年 7 月,国会提出了获两党支持的《AI 终止开关法案》,旨在对前沿 AI 开发施加正式管控。2026 年 6 月的一项调查发现,86% 的美国选民支持为最强大的 AI 系统配备有保障的关闭开关。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论