据 Jacob Coxon 于 9 月 8 日在 X 上发布的公告,这名前 Anthropic 安全研究员宣布离开公司,并警告称,Anthropic 和 OpenAI 都认为,到 2030 年,先进人工智能可能带来生存风险。众议院民主党议员立即作出回应,众议员 Lori Trahan、Ted Lieu 和 Greg Casar 分别呼吁采取立法行动监管 AI 发展。
目前有数项聚焦 AI 的法案正在审议中。Lieu 众议员提出的《AI 紧急关停开关法案》将要求先进 AI 系统具备紧急关停能力。由 Bernie Sanders 参议员和 Casar 众议员推动的另一项提案《禁止人工超级智能法案》将禁止开发超级智能 AI,并在建立联邦监管之前,对部署先进模型实施暂停令。Trahan 众议员正在共同起草一项两党法案,旨在建立评估和监测高能力 AI 系统的联邦标准。