Anthropic 于 11 月 4 日开发了 FlashProve 系统,用于以密码学方式验证 AI 模型的来源

据 PANews 11 月 4 日报道,Anthropic 正在开发 FlashProve。这是一个开源系统,利用密码学证明来验证某个特定输出是由哪个 AI 模型生成的。该系统旨在提供数学保证,确认输出确实来自预期模型,并防止一个模型冒充另一个模型。

FlashProve 的运作方式类似于加密邮件中的签名,为每个模型分配一个独特的“指纹”,既不会暴露模型权重,又能将其与特定输出进行匹配。该系统可以防止 AI 公司暗中部署更便宜的模型,也能避免企业谎称使用了昂贵的模型。Anthropic 已在 GitHub 上发布技术规范和开源代码,但尚未计划部署。用户可以在本地验证输出。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论