据 CNBC 报道,周一,众议员 Ro Khanna 将提出《人类对 AI 的控制法案》,在联邦政府建立保障措施之前,禁止递归自我改进的 AI 以及自主修改核心目标。该法案还将设立一个新的联邦机构,负责监管 OpenAI、Anthropic、谷歌 DeepMind 和 xAI 的前沿 AI 模型。
该机构将建立模型训练和部署许可制度,开展前沿 AI 审计,并要求每家前沿实验室配备直接向该机构报告的独立审计员。该法案还将把禁用保障措施和紧急停止开关定为刑事犯罪,要求 AI 公司持有大额责任保险,并对部署 AI 导致平民群体毁灭的行为处以刑事处罚。