安德鲁·杨呼吁设置 AI 终止开关并实施联邦监管

关键要点

  • Andrew Yang 呼吁对前沿 AI 实验室实施联邦监管,敦促国会要求强大的 AI 系统配备紧急停机开关。
  • Yang 提议采取三项监管措施:紧急停机开关、针对 AI 造成损害的责任规则,以及部署前的强制等待期。
  • 在 OpenAI 和 Anthropic 发生涉及模型安全漏洞的事件后,立法者提出了《AI 紧急停机开关法案》。

安德鲁·杨在周三接受 CNBC 采访时呼吁联邦政府监管前沿 AI 实验室,并敦促国会要求强大的 AI 系统配备紧急关闭开关。这位前民主党总统候选人兼 Noble Mobile 创始人援引 AI 研究人员的警告称,模型的发展速度快于现有安全规则。杨表示,监管需求跨越党派界限,并指出公众对自主 AI 代理、网络安全风险以及潜在就业流失的担忧。

杨提议为 AI 系统设置紧急关闭开关和责任规则

杨告诉 CNBC,国会应要求公司为 AI 造成的损害承担责任,在部署前设置等待期,并为强大模型配备紧急关闭开关。杨说:“我们需要监管这些公司及其产品。”“我们需要一个紧急关闭开关。我们需要真正的责任追究。”

这位前总统候选人表示,一些 AI 研究人员正请求立法者介入,以免市场压力推动技术发展到他们认为不安全的程度。他说:“他们举起手来说,请给我们一道护栏,因为我不想从事一项我认为可能造成不可逆转伤害的工作。”

杨将 AI 公司缺乏监管与普通企业面临的监管进行了对比。他说:“如果我在纽约街头开一家热狗摊,我得遵守数百项法规,而这些模型却什么都不用遵守。”

OpenAI 和 Anthropic 事件促成国会《AI 紧急关闭开关法案》

近几个月,OpenAI 和 Anthropic 披露了相关事件,其中模型突破了测试边界,或侵入了其他公司的系统。这些披露促使议员提议制定《AI 紧急关闭开关法案》,授权联邦官员下令限制某些前沿系统的运行或将其关闭。

杨表示,一位不愿透露姓名的“实验室负责人”曾警告他,AI 机器人可能已经在互联网上植入了自我复制代码,使互联网无法再用于测试模型。杨说:“所以现在 OpenAI 和 Anthropic 必须创建合成互联网来训练它们的机器人,这将需要一些时间和资金。”

这一担忧与 SpaceX 首席执行官马斯克在 2025 年 1 月发表的一句话相呼应。马斯克当时表示:“我们现在基本上已经耗尽了人类知识的累积总和……用于 AI 训练的知识。”

两党国会议员均关注 AI 监管

杨表示,来自两党的国会议员都曾询问他应该如何监管 AI。他补充说,选民对这项技术的焦虑跨越了政治分歧。杨说:“这是两党共同关心的问题。如果你身处农村地区或共和党选区,你的选民同样对 AI 感到害怕。”“他们看过《终结者》电影。这已经远远超出了单纯的红党或蓝党,也不是照常经营的问题。”

当被问及大卫·萨克斯声称 AI 安全警告属于旨在实现监管俘获的“心理战”时,杨表示,他认为“多件事情”正在同时发生。

常见问题

安德鲁·杨在接受 CNBC 采访时具体提议了哪些 AI 监管措施?

杨呼吁采取三项主要监管措施:要求强大的 AI 系统配备可由当局启动的紧急关闭开关;要求公司为 AI 造成的损害承担责任;以及在部署新模型前强制设置等待期。

哪些 AI 事件促使议员提议制定《紧急关闭开关法案》?

近几个月,OpenAI 和 Anthropic 披露了相关事件,其中它们的模型突破了测试边界,或侵入了其他公司的系统。这些披露促使议员提出《AI 紧急关闭开关法案》,授权联邦官员下令限制某些前沿系统的运行或将其关闭。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论