Anthropic 首席执行官 Dario Amodei 在其放缓人工智能发展速度的提案中将中国确定为“最棘手的困境”,他在 CBS News《Sunday Morning》采访中表示,敌对国家可能选择不采取类似限制措施。Amodei 于周六发表文章,敦促人工智能公司降低模型改进速度。此前一周,Anthropic 研究员 Jacob Coxon 因担忧该公司及竞争对手 OpenAI“拿我们的生命下注”而辞职。该提案提出之际,人工智能行业正面临来自华盛顿方面日益高涨的监管呼声,以及公众对数据中心扩张的反弹。
Amodei 提出放缓人工智能前沿发展的三步计划
Amodei 周六发表的文章概述了一项三步计划,旨在放缓发展速度,同时“不牺牲商业优势或美国在人工智能领域的领先地位”。第一步是让第三方评估人员获得与员工同等的访问权限,以核实安全措施并报告事故;Anthropic 已“单方面”承诺采取这一步骤。第二步鼓励民主国家内的领先人工智能公司进行协调,并制定共同的安全标准。第三步呼吁民主政府与专制政府之间开展协调。
Amodei 在接受 CBS News 采访时表示:“更长远的做法,是共同努力,为人工智能发展的速度设定上限。我认为这会非常困难,因为抢占先机的激励,以及由此获得的军事优势,都太大了。坦率地说,我不知道这是否可行,但我们应该试一试。”
行业领导者支持放缓提案
OpenAI 首席执行官萨姆·阿尔特曼周六在 X 上发布动态,表达了对 Amodei 文章的支持,并写道,他同意有必要“放缓前沿发展”。阿尔特曼周六在接受《财富》采访时表示,OpenAI 今年可能不会上市,部分原因是安全问题。阿尔特曼说:“现在上市并不是明智之举。”
Google DeepMind 董事长 Demis Hassabis 周六在 X 上发布动态称:“Dario 的文章指向了正确的前进道路。细节还需要进一步落实,但这一方向对于应对这一关键时刻是正确的。”
Meta 人工智能负责人 Alexandr Wang 去年作为 Meta 对他创办的人工智能初创公司 Scale AI 进行 140 亿美元投资的一部分加入 Meta。Wang 周六在 X 上分享动态称,Meta Superintelligence Labs“正迅速提高我们投入对齐工作的努力比重,随着我们的模型变得更加强大”。Wang 补充道:“随着我们越来越接近前沿,对齐可能成为扩展的关键限制因素。”
与 SpaceX 的合作将使 Anthropic 每月向 SpaceX 支付 12.5 亿美元,持续至 2029 年 5 月
特斯拉和 SpaceX 首席执行官马斯克表示支持 Amodei 的提案。马斯克周日清晨在 X 上发布动态称:“Dario 说得对,确实应该有一些监督。由竞争对手对人工智能进行同行评审,是启动这件事的正确方式。”SpaceX 今年早些时候收购了马斯克的人工智能初创公司 xAI,并于 5 月与 Anthropic 签署了一项算力协议。据文件披露,Anthropic 将每月向 SpaceX 支付 12.5 亿美元,持续至 2029 年 5 月。
马斯克在协议达成后写道:“我遇到的每个人都非常有能力,也非常在意做正确的事。”“没有人触发我的邪恶探测器。”
萨克斯敦促公司在缺乏监管框架的情况下采取行动
曾担任美国总统特朗普的人工智能和加密事务沙皇的大卫·萨克斯周六在 X 上发布动态称,如果 OpenAI 和 Anthropic 认为其模型“足够可怕”而需要放缓发展,他支持两家公司“负责任的决定”。萨克斯表示,两家公司需要“停止假装需要其他任何人的许可”,并承认它们的动机并非纯粹出于利他主义。
萨克斯指出,如果两家公司的产品促成具有破坏性的网络攻击,它们将面临“巨大的产品责任风险”,这意味着“对 OpenAI 和 Anthropic 而言,以部分原始能力换取可靠性和可预测性,本身就是良好的商业决策”。他写道:“所以,继续放缓前沿发展吧。设定前沿发展速度的是你们。最简单的不构建超级智能的方法,就是你们同意不构建它。”
常见问题
Anthropic 首席执行官 Dario Amodei 周六提出了什么?
Amodei 周六发表文章,提出了一项放缓人工智能发展的三步计划。该计划包括让第三方评估人员获得与员工同等的访问权限,以核实安全措施;协调民主国家人工智能公司之间的安全标准;以及建立民主政府与专制政府之间的协调机制。
Anthropic 研究员 Jacob Coxon 为什么在上周辞职?
Jacob Coxon 上周宣布辞职,因为他担心随着这项技术造成灾难性危害的潜力不断增长,Anthropic 和竞争对手 OpenAI 正在“拿我们的生命下注”。
Anthropic 与 SpaceX 之间的财务安排是什么?
据文件披露,作为 5 月签署的算力协议的一部分,Anthropic 将每月向 SpaceX 支付 12.5 亿美元,持续至 2029 年 5 月。SpaceX 今年早些时候收购了马斯克的人工智能初创公司 xAI。