Anthropic 开源 FlashProve,利用零知识证明验证 AI 模型的真实性

Anthropic 已将 FlashProve 开源。这是一个将密码学领域的零知识证明(zkSNARK)技术应用于 AI 模型推理的系统,旨在防止 API 服务提供商暗中替换为成本更低的模型。该系统会生成模型权重的加密指纹,并为推理输出提供数学证明,让用户无需访问模型本身即可验证结果是否来自预先承诺的模型权重。对 Meta 的 Llama 4 Maverick 进行的测试显示,每生成 1024 个词元,证明大小约为 19 MB,验证约需 17 秒 CPU 时间。目前的局限包括只能验证单个输出词元,且计算成本比标准推理高 70-95 倍,因此,实际部署该系统来检测模型替换仍取决于未来能否降低成本。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论