Khanna 提出一项禁止递归技术的 AI 安全法案

GOOGL-0.98%

关键要点

  • 众议员罗·卡纳提出《人类对 AI 的控制法案》,在联邦保障措施到位前禁止递归自我改进型 AI。
  • 该法案将设立一个新的联邦机构,负责监管 OpenAI、Anthropic、谷歌 DeepMind 和 xAI,并实施全面的安全法规和许可制度。
  • 每家前沿实验室都将配备独立审计员,直接向该机构报告,同时必须设置关停开关和遏制控制措施。

众议员 Ro Khanna 将提出一项人工智能监管法案,在政府建立安全护栏之前,禁止递归式自我改进的人工智能。该法案名为《人工智能人类控制法案》,出台之际,行业顶级高管警告称,这项技术可能变得无法控制。尽管人工智能在经济中的作用日益增强,且可能带来灾难性风险,但国会基本上一直避免对其进行监管。Khanna 周一接受 CNBC 采访时表示,这项技术带来了文明灭绝和失去控制的风险。随着 OpenAI、Anthropic、Google DeepMind 和 xAI 等公司开发越来越先进的模型,该提案回应了行业日益加剧的安全担忧。

法案建立全面的人工智能安全框架

该法案将禁止递归式自我改进的模型,以及能够自主修改自身核心目标、遏制措施或关闭控制机制的模型,直至联邦安全护栏建立且相关机构批准此类活动。一个新的联邦机构将负责监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的人工智能模型。该机构将制定安全法规和模型训练与部署许可制度,开展前沿人工智能模型审计,并制定持续测试和有效人类控制的安全标准。独立审计员将进驻每个前沿实验室,并直接向该机构报告。该机构将制定相关标准,涵盖沙盒测试环境、将测试环境与互联网隔离的网络隔离措施、紧急关闭开关,以及防止模型逃离实验室环境的控制措施。该机构还将监管前沿实验室使用的先进芯片,包括监控或控制芯片使用情况的机制。

Khanna 称,该法案是目前提出的“最全面的人工智能安全立法”。他说,该法案的构想源自与 Model Evaluation and Threat Research、Machine Intelligence Research Institute 和 Palisade Research 等人工智能安全组织的讨论,而不是大型人工智能公司高管的要求。Khanna 说:“我希望这能成为一个范本,为人工智能安全社区发声。”“我认为,他们被不公平地当作科幻而不予重视,而且没有得到足够重视。”

立法规定刑事处罚和责任要求

该法案将把导致平民人口遭到毁灭的人工智能模型部署行为定为“危害人类罪”。对于禁用安全措施、紧急关闭开关、日志记录或遏制系统,或明知故犯地部署未经授权系统的人工智能公司员工,将适用刑事处罚。人工智能公司必须持有高额责任保险,才能发布其模型。该法案还要求政府推动具有可执行力的协议和有针对性的出口管制,以阻止中国和其他对手开发危险的人工智能系统。

提案加入国会其他人工智能监管工作

该法案加入了其他人工智能安全提案之列,包括《FRONTIER 法案》。这是众议员 Jay Obernolte 和 Lori Trahan 提出的一项两党提案,将把独立审计员安排进前沿实验室,并允许政府关闭具有潜在灾难性风险的模型。预计众议院不会在中期选举之前对该法案进行表决。本周结束后,参议院预计将离开华盛顿,直到选举结束后才会返回。

常见问题

Khanna 的人工智能安全法案禁止什么?
《人工智能人类控制法案》将在联邦安全护栏建立且相关机构批准此类活动之前,禁止递归式自我改进的模型,以及能够自主修改自身核心目标、遏制措施或关闭控制机制的模型。

该法案将设立什么机构?
该法案将设立一个新的联邦机构,负责监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的人工智能模型。该机构将制定安全法规和许可制度,开展审计,并制定持续测试和人类控制的安全标准。

该法案规定了哪些刑事处罚?
该法案将把导致平民人口遭到毁灭的人工智能模型部署行为定为“危害人类罪”。对于禁用安全措施、紧急关闭开关、日志记录或遏制系统,或明知故犯地部署未经授权系统的人工智能公司员工,将适用刑事处罚。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论