据路透社报道,Anthropic 目前正在游说美国国会议员推动一项人工智能安全法案。该法案规定,只有当模型可能造成超过 10 亿美元的经济损失,或至少导致 50 人死亡或重伤时,政府才必须叫停模型运行。
该草案将政府介入的触发条件限定为三类风险:生物武器的开发或扩散、开发者失去对人工智能模型的控制,以及网络攻击。法案要求人工智能开发者开展透明的安全测试,并接受独立第三方评估。发现风险后,评估人员必须在 72 小时内通知美国商务部,随后由该部门向联邦法院申请暂停模型运行。该法案还旨在限制美国其他政府机构自行叫停人工智能模型的开发或部署。