Anthropic 首席执行官敦促放缓 AI 发展,但特朗普拒绝了克制的呼吁

GOOGL-0.98%

关键要点

  • Anthropic 首席执行官 Dario Amodei 敦促 AI 行业放缓前沿开发,以便安全系统跟上进度。
  • OpenAI 于 9 月 9 日宣布支持强制性的国家级 AI 安全要求,包括独立评估。
  • 特朗普总统拒绝了放缓 AI 开发的呼吁,优先考虑美国对抗中国的技术领导地位。

Anthropic 首席执行官 Dario Amodei 本周敦促 AI 行业放慢前沿技术开发速度,为安全系统追赶争取足够时间,并警告称,能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。在接受 CBS 采访时,Amodei 表示,他对私营公司作出社会决策感到不安,并主张制定审慎的 AI 监管政策。美国总统特朗普拒绝了科技高管关于放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。这一分歧凸显出,主张克制的领先 AI 公司与优先考虑竞争速度的政府之间日益扩大的分歧。OpenAI 于 9 月 9 日宣布支持强制性的国家 AI 安全要求,而萨姆·阿尔特曼暗示,主要 AI 实验室之间可能进行协调。

OpenAI 宣布支持强制性 AI 安全要求

OpenAI 于 9 月 9 日表示,支持强制性的国家 AI 安全要求,包括基于能力的规则和独立的安全评估。该公司认为,无论是企业还是政府,都无法单独管理先进 AI 的风险。

萨姆·阿尔特曼暗示,领先的 AI 公司可能很快宣布一项更广泛的行业协议。当被问及 OpenAI、Anthropic、马斯克的 AI 业务和谷歌 DeepMind 是否能够在安全问题上共同协调时,阿尔特曼表示,他相信这种合作将会发生,但拒绝透露私下讨论的内容。

Anthropic 和 OpenAI 的一名前研究人员最近辞职,此前他警告称,这些实验室正在竞相开发能够自我改进的系统,却没有充分的安全保障措施。Dario Amodei 曾多次表示,他对少数私营公司作出可能重塑社会的决定感到不安。在接受 CBS 采访时,他同意没有人选举他或 OpenAI 首席执行官萨姆·阿尔特曼来作出这些选择。

特朗普政府拒绝放慢 AI 开发

美国总统特朗普拒绝了科技高管及民主党人提出的放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。

那些拥有最强财务动力来继续扩大规模的公司越来越表示,某种形式的克制是必要的;与此同时,白宫担心,克制本身可能演变成国家安全风险。

今年早些时候,特朗普政府因限制 Claude 的军事用途而与 Anthropic 发生冲突。尽管政府其他部门释放出更为和解的信号,但五角大楼仍将 Anthropic 视为供应链风险。

马斯克体现了这一新兴联盟的复杂性。他曾多次警告先进 AI 的风险,但最近却将 Anthropic 相关的一些最新安全警告斥为“心理战行动”。

常见问题

Anthropic 首席执行官 Dario Amodei 本周对 AI 开发发表了什么看法?
Dario Amodei 敦促 AI 行业放慢前沿技术开发速度,为安全系统追赶争取足够时间,并警告称,能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。

OpenAI 于 9 月 9 日宣布了什么立场?
OpenAI 宣布支持强制性的国家 AI 安全要求,包括基于能力的规则和独立的安全评估,并认为无论是企业还是政府,都无法单独管理先进 AI 的风险。

特朗普总统为何拒绝放慢 AI 开发的呼吁?
美国总统特朗普拒绝了放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论