Anthropic 的 FlashProve 在 Llama 4 Maverick 上测试模型验证

关键要点

  • Anthropic 于 2026 年 11 月 2 日发布了 FlashProve,这是一个采用 zkSNARKs、用于以密码学方式验证特定响应由哪个 AI 模型生成的开源研究原型。
  • Anthropic 在 Llama 4 Maverick 上测试了 FlashProve,实现了每秒生成超过 100 个词元的证明速度,并在多线程 CPU 上约 17 秒内完成证明验证。
  • FlashProve 仍处于研究阶段,Anthropic 或其他 AI 实验室尚未宣布将其部署到生产环境或进行内部部署。

Anthropic 于 2026 年 11 月 2 日发布 FlashProve,将其作为一款用于验证某个 AI 模型是否生成了某条回复的研究原型。该项目旨在解决用户无法确认回复真实来源的问题,以及服务提供商可能运行与其声称不同的模型这一风险。Anthropic 在 Llama 4 Maverick 上测试了该原型;这是一份测试报告,并非 Meta 的产品发布或部署公告。

Anthropic 将 FlashProve 定位为研究原型

FlashProve 是 Anthropic 前沿红队推出的开源原型,EPFL、MIT 和 StarkWare 的研究人员也参与了贡献。其代码托管在 GitHub 上,采用 Apache 2.0 许可证,目前版本为 0.16.0。Anthropic 将其标注为研究成果;代码仓库说明该项目“未维护”且“不接受贡献”。

该项目并非已发布的产品或在线 API。Anthropic 将其博客文章描述为分享“阶段性进展”,而不是公布一套完整方案。这项研究聚焦于可证明推理:通过密码学验证具体是哪个模型生成了某条回复。

FlashProve 将输出词元与已承诺的模型权重关联起来

FlashProve 使用零知识简洁知识论证,即 zkSNARKs。模型提供商首先对模型权重作出承诺,生成一个不会泄露权重的简短密码学指纹。随后,提供商生成一份证明,将特定输出词元与该指纹关联起来。

该设计结合了交互式预言机证明、哈希函数、编码邻近性测试和查找论证。Anthropic 还发布了 Lean 形式化验证证明,涵盖该构造的部分内容。其公布的设计目标是让证明可在普通 CPU 上验证,而不依赖数据中心级硬件。

与水印或简单的 API 日志记录不同,FlashProve 的证明通过数学方式将输出与已承诺的模型权重关联起来。文章指出,水印是在文本生成后添加标记,而且服务器运营者可以编辑日志。

Anthropic 报告称已在 Llama 4 Maverick 上测试 FlashProve

Anthropic 在 Llama 4 Maverick 上测试了 FlashProve。Llama 4 Maverick 是一款拥有 4000 亿参数的混合专家模型。它采用 4 位量化,每个词元大约运行 170 亿个活跃参数。除非另有说明,结果均来自单块英伟达 H100 GPU。

证明生成速度超过每秒 100 个词元。覆盖 1,024 个词元窗口的证明大小约为 18.78 MB。离线承诺步骤每个模型只需运行一次,耗时约 39 分钟,可覆盖后续最多 1600 万次请求。在线为一批 24 个请求生成证明耗时约 223 秒。

在 24 线程 CPU 上,验证耗时约 17 秒;在单线程上则约为 21 秒。Anthropic 的技术文章报告称,其速度约为 GPU 上标准 vLLM 推理的 70 至 95 倍。文章还称,实际部署的代价是推理速度慢 70 至 95 倍,以换取一份密码学凭证,因此目前只有在高风险请求中使用才现实。

FlashProve 尚未宣布投入生产部署

这种验证方法可让企业客户检查供应商使用的是否为合同约定的模型,而非更便宜的替代模型。它还可让第三方验证某项任务是否由指定的前沿模型执行,从而支持对基准测试声明和合规审计进行核查。文章还介绍了一种在多智能体系统中的潜在用途:一个智能体可以要求提供证明,以确认另一个智能体的输出来自可信模型。

Anthropic 尚未宣布计划在内部部署 FlashProve,也未表示会将其推广给其他实验室。文章称,推理验证属于 Anthropic 更广泛的前沿安全承诺的一部分,公司原计划在 2026 年 9 月 30 日前制作其原型;文章将 FlashProve 描述为该承诺的首个公开成果。

FlashProve 已发布的技术细节和测试范围

  • Anthropic 于 2026 年 11 月 2 日发布 FlashProve。
  • GitHub 代码仓库列出的版本为 0.16.0,采用 Apache 2.0 许可证。
  • 代码仓库说明 FlashProve“未维护”且“不接受贡献”。
  • Anthropic 在 Llama 4 Maverick 上测试了 FlashProve。Llama 4 Maverick 是一款拥有 4000 亿参数的混合专家模型。
  • Llama 4 Maverick 采用 4 位量化,每个词元大约运行 170 亿个活跃参数。
  • 除非另有说明,结果均来自单块英伟达 H100 GPU。
  • 证明生成速度超过每秒 100 个词元,覆盖 1,024 个词元窗口的证明大小约为 18.78 MB。
  • 离线承诺步骤耗时约 39 分钟,可覆盖后续最多 1600 万次请求。
  • 在线为一批 24 个请求生成证明耗时约 223 秒。
  • 在 24 线程 CPU 上,验证耗时约 17 秒;在单线程上则约为 21 秒。

常见问题

FlashProve 验证什么?

FlashProve 旨在证明,某条回复的输出词元与某个特定模型相关联,且该模型的权重已由提供商作出承诺。指纹和证明都不会泄露模型权重。

Anthropic 在哪个模型上测试了 FlashProve?

Anthropic 在 Llama 4 Maverick 上测试了 FlashProve。Llama 4 Maverick 是一款拥有 4000 亿参数的混合专家模型,采用 4 位量化,每个词元大约运行 170 亿个活跃参数。这是对 FlashProve 的测试,并非 Meta 的发布公告。

FlashProve 是否已作为产品部署并可供使用?

没有。原文将其描述为开源研究原型,而非已发布的产品或在线 API。其代码仓库采用 Apache 2.0 许可证,标注为“未维护”且“不接受贡献”。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论