众议员 Ro Khanna 将提出一项人工智能监管法案,在政府建立安全护栏之前,禁止递归式自我改进的人工智能。该法案名为《人工智能人类控制法案》,出台之际,行业顶级高管警告称,这项技术可能变得无法控制。尽管人工智能在经济中的作用日益增强,且可能带来灾难性风险,但国会基本上一直避免对其进行监管。Khanna 周一接受 CNBC 采访时表示,这项技术带来了文明灭绝和失去控制的风险。随着 OpenAI、Anthropic、Google DeepMind 和 xAI 等公司开发越来越先进的模型,该提案回应了行业日益加剧的安全担忧。
法案建立全面的人工智能安全框架
该法案将禁止递归式自我改进的模型,以及能够自主修改自身核心目标、遏制措施或关闭控制机制的模型,直至联邦安全护栏建立且相关机构批准此类活动。一个新的联邦机构将负责监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的人工智能模型。该机构将制定安全法规和模型训练与部署许可制度,开展前沿人工智能模型审计,并制定持续测试和有效人类控制的安全标准。独立审计员将进驻每个前沿实验室,并直接向该机构报告。该机构将制定相关标准,涵盖沙盒测试环境、将测试环境与互联网隔离的网络隔离措施、紧急关闭开关,以及防止模型逃离实验室环境的控制措施。该机构还将监管前沿实验室使用的先进芯片,包括监控或控制芯片使用情况的机制。
Khanna 称,该法案是目前提出的“最全面的人工智能安全立法”。他说,该法案的构想源自与 Model Evaluation and Threat Research、Machine Intelligence Research Institute 和 Palisade Research 等人工智能安全组织的讨论,而不是大型人工智能公司高管的要求。Khanna 说:“我希望这能成为一个范本,为人工智能安全社区发声。”“我认为,他们被不公平地当作科幻而不予重视,而且没有得到足够重视。”
立法规定刑事处罚和责任要求
该法案将把导致平民人口遭到毁灭的人工智能模型部署行为定为“危害人类罪”。对于禁用安全措施、紧急关闭开关、日志记录或遏制系统,或明知故犯地部署未经授权系统的人工智能公司员工,将适用刑事处罚。人工智能公司必须持有高额责任保险,才能发布其模型。该法案还要求政府推动具有可执行力的协议和有针对性的出口管制,以阻止中国和其他对手开发危险的人工智能系统。
提案加入国会其他人工智能监管工作
该法案加入了其他人工智能安全提案之列,包括《FRONTIER 法案》。这是众议员 Jay Obernolte 和 Lori Trahan 提出的一项两党提案,将把独立审计员安排进前沿实验室,并允许政府关闭具有潜在灾难性风险的模型。预计众议院不会在中期选举之前对该法案进行表决。本周结束后,参议院预计将离开华盛顿,直到选举结束后才会返回。
常见问题
Khanna 的人工智能安全法案禁止什么?
《人工智能人类控制法案》将在联邦安全护栏建立且相关机构批准此类活动之前,禁止递归式自我改进的模型,以及能够自主修改自身核心目标、遏制措施或关闭控制机制的模型。
该法案将设立什么机构?
该法案将设立一个新的联邦机构,负责监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的人工智能模型。该机构将制定安全法规和许可制度,开展审计,并制定持续测试和人类控制的安全标准。
该法案规定了哪些刑事处罚?
该法案将把导致平民人口遭到毁灭的人工智能模型部署行为定为“危害人类罪”。对于禁用安全措施、紧急关闭开关、日志记录或遏制系统,或明知故犯地部署未经授权系统的人工智能公司员工,将适用刑事处罚。