Anthropic 向美国国会议员提交了一份联邦人工智能安全法案草案,设定了 10²⁵ FLOPs 的门槛,用于定义受监管监督的“前沿”人工智能模型。该提案建立在公司于 2026 年 6 月推出的《高级人工智能框架》之上,引发了关于计算门槛是否涵盖过多企业级模型的争论。批评者指出,截至 2025 年 6 月,至少有 12 家开发者开发的 33 个模型已经超过 10²⁵ FLOPs,这表明该门槛可能已经过时。该立法草案可追溯至 2026 年 10 月,并引入了结合计算能力与财务标准的两部分资格测试,以确定哪些公司需要承担透明度和安全义务。该提案反映出建立联邦人工智能安全标准的持续努力,同时寻求在创新诉求与监管权限之间取得平衡。
Anthropic 提案设定 10²⁵ FLOPs 门槛和财务标准
该立法草案引入了“受涵盖开发者”的概念,以确定哪些公司需要承担监管义务。如果一家公司训练的模型超过 10²⁵ FLOPs,并且满足两项财务标准中的至少一项,即年度人工智能相关收入超过 5 亿美元,或年度人工智能研发支出超过 10 亿美元,则该公司符合受涵盖开发者的资格。这项两部分测试意味着,仅跨过计算门槛并不会触发合规要求,公司还必须满足收入或研发标准。
立法草案要求采用安全框架并报告事故
根据该提案,符合受涵盖开发者定义的公司将面临多项透明度义务。这些要求包括实施正式的安全框架,发布记录模型运行方式及测试情况的系统卡片,促成独立评估,并报告安全事故。该法案限制政府的干预权限,仅允许商务部在灾难性风险可预见时限制模型部署。灾难性风险被定义为造成超过 10 亿美元损失或导致超过 50 人死亡的事故。其他机构将被禁止全面叫停部署。
批评者质疑 10²⁵ FLOPs 门槛已经过时
截至 2025 年 6 月,至少有 12 家开发者开发的 33 个模型已经超过 10²⁵ FLOPs,预计这一数量还会继续增加。与其他监管框架的比较凸显了围绕门槛水平的争论。加利福尼亚州 SB 53 将触发门槛设定为 10²⁶ FLOPs,比 Anthropic 的数字高十倍。欧盟《人工智能法案》将 10²⁵ FLOPs 作为可反驳的推定,这意味着达到该水平的模型将被推定具有系统性风险,除非开发者能够证明并非如此。Anthropic 的版本则将其作为硬性合规触发条件,而非可反驳的推定。
第二项批评认为,与 FRONTIER Act (H.R. 9925) 等竞争性提案相比,该草案范围更窄,力度也可能更弱,尤其是在规则制定权限方面。商务部较为狭窄的授权将干预限制在灾难性情景中,这让开发者能够获得可预测性,却使监管机构几乎没有空间处理未达到灾难程度的危害。
两部分资格测试影响合规范围
这场争论的核心在于合规成本。安全框架、系统卡片和独立评估等工作需要资金和员工时间。大型实验室已经为其中许多工作配备了团队,而规模较小的参与者通常没有。该法案的两部分测试为较小实体提供了一定保护,因为仅跨过 10²⁵ FLOPs 并不会使公司成为受涵盖开发者,公司还必须超过 5 亿美元的收入门槛或 10 亿美元的研发支出门槛。
门槛之争暴露了基于计算量制定规则所面临的结构性问题。随着硬件改进和训练规模扩大,任何固定的 FLOP 数值都会迅速过时。今天划定的静态界线明天可能就会涵盖数十个模型,而 2025 年 6 月已有 33 个模型的统计数据已经说明了这一点。
常见问题
Anthropic 人工智能安全法案草案中的 10²⁵ FLOPs 门槛是什么?
10²⁵ FLOPs 门槛是决定哪些人工智能模型根据 Anthropic 的提案符合“前沿”模型资格的计算水平。训练模型超过该门槛且满足财务标准的公司,将面临透明度和安全义务,包括实施安全框架、发布系统卡片、促成独立评估以及报告安全事故。
Anthropic 的 10²⁵ FLOPs 门槛与其他人工智能法规相比如何?
加利福尼亚州 SB 53 将触发门槛设定为 10²⁶ FLOPs,比 Anthropic 的 10²⁵ FLOPs 数值高十倍。欧盟《人工智能法案》将 10²⁵ FLOPs 作为可反驳的推定,模型会被推定具有系统性风险,除非能够证明并非如此。Anthropic 的版本则将其作为硬性合规触发条件。截至 2025 年 6 月,至少有 12 家开发者开发的 33 个模型已经超过 10²⁵ FLOPs。
根据立法草案,公司必须满足哪些财务标准?
公司必须同时满足 10²⁵ FLOPs 计算门槛以及两项财务标准中的至少一项:年度人工智能相关收入超过 5 亿美元,或年度人工智能研发支出超过 10 亿美元。仅跨过计算门槛并不会触发合规要求,公司还必须满足收入或研发标准。