Anthropic 研发 FlashProve:为 AI 输出附加可验证来源的密码学证明
Anthropic 正开发开源验证系统 FlashProve,旨在通过密码学方法证明 AI 输出确实来自指定模型,防止模型替换和性能虚标。该系统仅需公开模型指纹即可验证,且不泄露权重,用户可在本地设备完成验证。研究仍在进行中,暂未计划部署。
海宇数科 · 事件日期 · 更新于 · 约 2 分钟 · 1 次阅读

Anthropic 正在开发名为 FlashProve 的开源验证系统,重点解决一个核心问题:用户收到的 AI 回答是否确实由其所认为的模型生成。根据该公司周二发布的博客,FlashProve 旨在实现"可证明推理",即利用密码学为每条输出提供数学保证,确认其来自指定模型。其作用类似于加密邮件签名帮助收件人核实发件人身份,但 FlashProve 专门用于防范将甲模型伪装成乙模型的行为。
堵住成本作弊暗门,也拆穿"注水"成绩单
研究人员指出,这一系统有望改变长期存在的行业潜规则:AI 公司难以再为节省成本而在后台将昂贵模型替换为廉价版本;同时,企业也无法暗中将低成本模型包装成高价型号以人为抬高跑分。此外,FlashProve 还能用于核验第三方声明——例如某开发者声称代码库已由前沿安全模型扫描漏洞,或某公司商业计划获得相应模型背书——用户由此可以要求对方提供可信依据。
指纹公开、权重不泄,本地设备就能验
FlashProve 的关键设计在于:AI 实验室只需为每个模型提供一枚"指纹",将输出与指纹匹配并通过密码学验证来源;指纹不会泄露模型权重,即决定模型行为的内部参数,而权重正是闭源模型的核心资产。实验室可以公开指纹而不必交出核心资产,因此 FlashProve 也能适用于商业闭源模型。该系统刻意保持轻量,用户可在本地设备上完成验证。Anthropic 已发布技术规范与可运行代码(在 GitHub 开源),但强调研究仍在进行中,目前暂无自行部署的计划。
