《Politico》于 10 月 21 日披露,AI 公司 Anthropic 已私下向美国国会议员提交一份 AI 安全立法草案,为前沿 AI 模型建立监管框架。草案规定,只有当 AI 模型存在可预见且迫在眉睫的重大风险,达到逾 50 人死亡或严重受伤,或逾 10 亿美元损失的门槛时,政府方可寻求阻止模型发布或使用。
草案核心条款:政府出手门槛设为 50 人伤亡或 10 亿美元损失,风险范围限于三类
据《Politico》取得的草案内容,政府介入 AI 模型的法定门槛设定如下:AI 模型须存在“可预见且迫在眉睫的特定重大风险”,且须满足逾 50 人死亡或严重受伤,或逾 10 亿美元损失两项量化条件之一,政府方可寻求阻止模型发布或使用。风险类型被明确限于三类:生物武器的制造或释放;模型脱离开发者控制;以及网络攻击。
Anthropic 发言人说明,上述门槛设定与加州 SB 53 法案所界定的重大风险标准相近,是公司长期倡议的 Advanced AI Framework 的具体化。批评者则指出,此门槛属于“异常高且危险的标准”,意味着政府须等待具体伤亡或损失规模显现后方能介入。
执法机制设计:评估员登记制、72 小时通报与联邦法院司法审查
草案设计了一套多步骤的执法程序,明确限制政府单方面介入的能力。前沿 AI 开发商须履行以下义务:建立安全框架;发布新模型的透明度报告;保障吹哨者;并向美国商务部通报重大安全事件。模型须定期接受独立评估,评估人员必须向商务部登记;AI 公司可支付评估费用,但报酬不得与评估结果挂钩。
若评估认定模型存在迫在眉睫的特定重大风险,评估员须在 72 小时内向商务部通报。商务部随后可向华盛顿特区联邦地方法院法官提出暂停模型发布的请求,由法官决定是否下令暂停;商务部无权单方面阻止模型,必须取得司法授权。
两大争议焦点:评估独立性与州法排除条款
草案在独立性设计与联邦—州关系两个层面引发明确批评:
评估独立性争议:第三方评估员虽须向商务部登记,且报酬不得根据结果调整,但费用仍由受评的 AI 公司支付;批评者指出,这种结构使 AI 公司实质主导评估流程,难以消除“既当运动员又当裁判”的利益冲突疑虑。
州法排除条款:草案包含联邦优先条款,将排除部分州级 AI 法规,涉及风险公开、第三方评估及重大事故通报;科技业团体支持统一联邦标准以降低合规成本,但部分民主党人士担忧此举削弱加州、伊利诺伊州及纽约州既有的监管措施。
联邦机构管辖受限:草案明文限制商务部以外的其他联邦部门、机构及官员自行中止模型开发、部署或内部使用的权限,批评者视此为大幅缩减行政部门的整体监管能力。
国会现有 AI 安全立法进程:FRONTIER 法案与参议院跨党派协商
Anthropic 的草案并非国会中唯一的 AI 安全立法方案。众议院已有 FRONTIER 法案(Frontier Act)在推进,涉及阻止高风险模型部署及排除部分州法;参议院也有跨党派议员正在协商相关法案。部分重视 AI 安全的团体与议员主张,政府应拥有比 Anthropic 草案更广泛的模型审查权限。
Anthropic 的提案目前仍处于向立法者游说的阶段,尚未进入正式立法程序,不能视为已通过的法律。
常见问题
Anthropic AI 安全草案中,政府介入模型的具体门槛是什么?
根据《Politico》取得的草案内容,政府须在 AI 模型存在“可预见且迫在眉睫的特定重大风险”的前提下,且风险达到逾 50 人死亡或严重受伤,或逾 10 亿美元损失的量化标准,方可寻求阻止模型发布或使用;风险类型限于生物武器制造或释放、模型脱离开发者控制及网络攻击三类。
草案中的第三方评估机制如何设计,为何引发争议?
草案规定,前沿 AI 模型须定期接受向商务部登记的独立评估员审查;AI 公司可支付评估费用,但报酬不得与评估结果挂钩;若评估发现迫在眉睫的重大风险,须在 72 小时内向商务部通报。批评者指出,评估费用仍由受评 AI 公司支付,即使报酬不根据结果调整,制度结构仍存在利益冲突的根本疑虑。
Anthropic 的 AI 安全草案目前处于什么法律地位?
根据《Politico》报道,Anthropic 的草案目前仍处于向立法者游说的阶段,尚未进入正式立法程序,不能视为已通过的法律。Anthropic 向《Politico》确认草案真实性,并表示相关政策自 2026 年 6 月起已持续向联邦及州政府官员倡议。