OpenAI 向国会询问,协调放缓 AI 开发是否合法

关键要点

  • OpenAI 近期询问国会,竞争对手人工智能公司是否可以合法协调以放缓开发。
  • 首席科学家 Jakub Pachocki 敦促行业建立统一的安全标准,并在证明安全性得到改善之前自愿放缓开发。
  • 参议员 Adam Schiff 和 Jim Banks 提出法案,要求就安全合作提前通知司法部。

据 WIRED 援引接近该公司的消息人士称,OpenAI 近几周询问了国会议员,竞争对手 AI 公司是否可以合法协调以放缓开发。该调查的核心在于,AI 开发者之间的此类协议是否可能违反反垄断法。首席科学家 Jakub Pachocki 敦促行业建立共享的安全标准,并在开发者能够更好地证明系统安全之前自愿放缓开发。专家表示,商业和地缘政治竞争带来了巨大压力,阻碍公司单方面放缓开发,即使内部研究人员提出安全担忧。此次接触正值立法者考虑通过立法保护 AI 开发中的某些安全相关合作之际。

OpenAI 就反垄断影响联系立法者

据 WIRED 称,OpenAI 近几周询问立法者,AI 公司之间达成放缓开发的协议是否可能违反反垄断法。此次接触是在 Pachocki 呼吁自愿放缓开发之后进行的,直至开发者能够更好地证明其系统是安全的。

放缓 AI 开发的协议可能会通过限制竞争引发反垄断担忧。这项调查反映出,人们不确定协调一致的安全措施是否会在现有竞争法下遭遇法律挑战。

行业专家描述竞争压力

民主与技术中心首席技术专家 Miranda Bogen 告诉 Decrypt,AI 领域的商业和地缘政治竞争极其激烈。Bogen 说:“公司会受到激励,在产品风险得到充分了解之前就发布产品。”“即使内部员工知道还需要更多研究和测试,他们所在的公司仍面临巨大压力,会走捷径并跳过关键的安全测试。”

机器智能研究所传播负责人 Duncan Sabien 告诉 Decrypt,在当前条件下,每一次进步都会带来数百万或数十亿美元的额外资金。他形容这场军备竞赛式的动态是真实存在的:OpenAI 和 Anthropic 面临着持续推进的压力,尽管风险尚不确定,因为每个新系统都有助于构建能力更强的后续系统。

Schiff-Banks 法案涉及安全合作

参议员 Adam Schiff 和 Jim Banks 提出了一项法案,以保护 AI 公司之间的某些安全合作。该法案将要求此类协议提前通知司法部。

该立法旨在为公司协调与安全相关的 AI 开发限制建立法律框架,同时避免面临反垄断处罚。

财务激励带来协调挑战

Sabien 告诉 Decrypt,智能水平正在以复合方式提升,每个新系统都会让训练和部署下一个更先进的系统变得更加容易。他说:“如果没有某种协调机制,后退一步就意味着让另一个人取得领先优势。”

在美国和中国争夺技术领导地位之际,放缓 AI 开发的争论也随之展开。总统特朗普因担心相关行政命令可能削弱美国相对于中国的领先优势,于 5 月推迟了该命令。特朗普随后于 6 月签署了该命令,为先进模型在发布前建立了自愿审查流程。

公司在 2 月修改安全承诺

OpenAI 和 Anthropic 在 2 月放宽了安全承诺。Anthropic 首席科学官 Jared Kaplan 认为,在竞争对手继续推进的情况下,单方面放缓开发的意义变小了。

8 月,OpenAI 因网络安全方面的担忧,暂停了缺乏更强保障措施的内部 Astra 工作。本周,在前 Anthropic 工程师 Jacob Coxon 公开宣布辞职后,关于放缓 AI 开发的争论进一步升温;他表示,持续开发 AI 对人类构成风险。

Coxon 在 X 上说:“构建 AI 的人真心相信,到这十年结束时,AI 可能会杀死我们所有人。”“如果说有什么不同,那就是许多高管和资深研究人员会在媒体面前用听起来理性的措辞来表述,但我私下听到的是同一批人表达恐惧。”

Sabien 说,如果研究人员离开后只是被别人取代,那么他们几乎没有取得什么成果。他说:“如果足够多的人形成共识,认识到他们都应该停下来,那么他们就能突破协调障碍,一起停下,而不是被下一个稍微没那么谨慎的人取代。”

常见问题

OpenAI 就 AI 开发询问了国会什么?

据 WIRED 称,OpenAI 近几周询问国会议员,竞争对手 AI 公司是否可以合法同意放缓开发。该公司询问,AI 开发者之间的此类协调是否可能违反反垄断法。

为什么 AI 公司面临继续快速开发的压力?

专家表示,商业和地缘政治竞争带来了巨大压力。Miranda Bogen 告诉 Decrypt,公司会受到激励,在风险得到充分了解之前就发布产品;尽管内部员工知道还需要更多研究,但他们仍面临跳过关键安全测试的巨大压力。Duncan Sabien 告诉 Decrypt,每一次进步都会带来数十亿美元的资金,而后退一步会让竞争对手取得领先优势。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论