9 月 25 日,纽约市议会提议制定新的 AI 监管规定,要求在该市推广、销售或部署的 AI 模型必须配备“终止开关”,使人类操作员能够暂时或永久停止其运行。模型还必须接受第三方验证。违规行为每次最高可处以 25,000 美元罚款,伪造验证记录将面临更高罚款。
市议会已安排于 10 月 5 日举行全体委员会听证会,以审议这些提案,并邀请包括 Meta 首席执行官马克·扎克伯格、OpenAI 首席执行官萨姆·阿尔特曼、谷歌首席执行官桑达尔·皮查伊及其他高管出席。市议会议长朱莉·梅宁表示,如果有必要要求出席,委员会准备发出传票。此次听证会反映出人们对 AI 模型能力快速提升所带来的安全问题日益担忧。