Anthropic 首席执行官 Dario Amodei 本周敦促 AI 行业放慢前沿技术开发速度,为安全系统追赶争取足够时间,并警告称,能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。在接受 CBS 采访时,Amodei 表示,他对私营公司作出社会决策感到不安,并主张制定审慎的 AI 监管政策。美国总统特朗普拒绝了科技高管关于放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。这一分歧凸显出,主张克制的领先 AI 公司与优先考虑竞争速度的政府之间日益扩大的分歧。OpenAI 于 9 月 9 日宣布支持强制性的国家 AI 安全要求,而萨姆·阿尔特曼暗示,主要 AI 实验室之间可能进行协调。
OpenAI 宣布支持强制性 AI 安全要求
OpenAI 于 9 月 9 日表示,支持强制性的国家 AI 安全要求,包括基于能力的规则和独立的安全评估。该公司认为,无论是企业还是政府,都无法单独管理先进 AI 的风险。
萨姆·阿尔特曼暗示,领先的 AI 公司可能很快宣布一项更广泛的行业协议。当被问及 OpenAI、Anthropic、马斯克的 AI 业务和谷歌 DeepMind 是否能够在安全问题上共同协调时,阿尔特曼表示,他相信这种合作将会发生,但拒绝透露私下讨论的内容。
Anthropic 和 OpenAI 的一名前研究人员最近辞职,此前他警告称,这些实验室正在竞相开发能够自我改进的系统,却没有充分的安全保障措施。Dario Amodei 曾多次表示,他对少数私营公司作出可能重塑社会的决定感到不安。在接受 CBS 采访时,他同意没有人选举他或 OpenAI 首席执行官萨姆·阿尔特曼来作出这些选择。
特朗普政府拒绝放慢 AI 开发
美国总统特朗普拒绝了科技高管及民主党人提出的放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。
那些拥有最强财务动力来继续扩大规模的公司越来越表示,某种形式的克制是必要的;与此同时,白宫担心,克制本身可能演变成国家安全风险。
今年早些时候,特朗普政府因限制 Claude 的军事用途而与 Anthropic 发生冲突。尽管政府其他部门释放出更为和解的信号,但五角大楼仍将 Anthropic 视为供应链风险。
马斯克体现了这一新兴联盟的复杂性。他曾多次警告先进 AI 的风险,但最近却将 Anthropic 相关的一些最新安全警告斥为“心理战行动”。
常见问题
Anthropic 首席执行官 Dario Amodei 本周对 AI 开发发表了什么看法?
Dario Amodei 敦促 AI 行业放慢前沿技术开发速度,为安全系统追赶争取足够时间,并警告称,能力不断增强的 AI 代理可能在数月内带来严重的网络、生物和失控风险。
OpenAI 于 9 月 9 日宣布了什么立场?
OpenAI 宣布支持强制性的国家 AI 安全要求,包括基于能力的规则和独立的安全评估,并认为无论是企业还是政府,都无法单独管理先进 AI 的风险。
特朗普总统为何拒绝放慢 AI 开发的呼吁?
美国总统特朗普拒绝了放慢前沿 AI 开发的呼吁,认为美国不能冒险将技术领导地位拱手让给中国。