据 Politico 10 月 16 日报道,Anthropic 提出了一项人工智能安全法案草案。该法案将允许政府在存在可预见且迫在眉睫的风险、可能导致 50 人以上死亡,或因生物武器、模型逃逸或网络攻击造成超过 10 亿美元财产损失时,阻止人工智能模型发布。
拟议立法要求由在美国商务部注册的独立评估机构评估这些风险。如果发现灾难性风险,评估机构将通知美国商务部,后者随后可向联邦法官申请暂停模型发布。Anthropic 表示,该法案与其先进人工智能框架相一致。自 6 月以来,该公司一直在向立法者游说,推动这一框架。