大卫·萨克斯是白宫首席 AI 顾问。9 月 13 日,他批评 OpenAI CEO 萨姆·阿尔特曼和 Anthropic CEO 达里奥·阿莫代伊支持“Pace The Frontier”运动。该运动旨在通过协调行动放缓先进 AI 系统的开发。萨克斯称,这项倡议是伪装成安全倡导的监管俘获。相关批评出现之际,围绕 AI 安全监管和国际竞争力的争论仍在持续;该运动于 7 月 28 日发起,获得了包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 在内的主要 AI 组织中超过 1,134 人的支持。
Pace The Frontier 倡议启动,签署者超过 1,300 人
该倡议于 7 月 28 日以一封公开信的形式启动,已有来自主要 AI 组织的超过 1,134 人签署,其中包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 的员工。截至 9 月中旬,签署者人数已超过 1,300 人。
公开信呼吁各国政府支持相关措施,以推动协调一致的国际政策制定,旨在放缓前沿 AI 的开发速度。随着 AI 行业的安全担忧日益加剧,这一运动应运而生,尤其是在一些事件引发人们对先进 AI 系统自主性和不可预测性的警觉之后。包括涉及 Hugging Face 等平台的事件暴露出的产品责任风险,也让这一讨论更加紧迫。
两党共同支持的 FRONTIER Act 于 7 月提出。
萨克斯称该提案属于监管俘获
萨克斯称,与“Pace The Frontier”相关的监管提案,包括请求反垄断豁免以允许竞争对手就安全标准进行协调,属于监管俘获。萨克斯表示,OpenAI 和 Anthropic 已经在前沿 AI 领域占据了相当大的市场份额,快速增长的收入进一步巩固了它们的地位。他认为,如果各国政府建立限制开发速度的国际框架,那么已经处于前沿的公司就可以继续保持领先,而其他所有公司则会被要求在追赶之前先放慢脚步。
萨克斯指出,中国不太可能参与任何协调一致的全球 AI 开发放缓行动。他认为,开发者应当主动优先提高产品的可靠性和可预测性,因为市场压力已经在推动行业朝这一方向发展。萨克斯表示,客户越来越倾向于选择能够稳定运行的 AI 系统,而不是那些以牺牲可靠性为代价来突破能力边界的系统。
常见问题
大卫·萨克斯在 9 月 13 日批评了什么?
白宫首席 AI 顾问大卫·萨克斯于 9 月 13 日批评 OpenAI CEO 萨姆·阿尔特曼和 Anthropic CEO 达里奥·阿莫代伊支持“Pace The Frontier”运动,并称该运动是伪装成安全倡导的监管俘获。
Pace The Frontier 倡议何时启动,获得了多少名签署者?
该倡议于 7 月 28 日启动,获得了来自包括谷歌 DeepMind、Meta、OpenAI 和 Anthropic 在内的主要 AI 组织的超过 1,134 名签署者。截至 9 月中旬,签署者人数已超过 1,300 人。
萨克斯为何称该提案属于监管俘获?
萨克斯认为,OpenAI 和 Anthropic 已经在前沿 AI 领域占据了相当大的市场份额,而限制开发速度的政府框架将使这些公司得以维持自身地位,同时阻止竞争对手追赶。他还指出,中国不太可能参与协调一致的全球 AI 开发放缓行动。