OpenClaw—AI研究OpenClaw—AI研究
  • AI动态
  • OpenClaw教程
  • 技术解读
  • 用户故事

让AI回答“验明正身”:Anthropic开源可证明推理原型

让AI回答“验明正身”:Anthropic开源可证明推理原型

2026年11月6日 by WoodStone

在聊天软件里,AI回答写得很流畅,却很难确认它究竟由哪家开发者所说的模型生成。即使回答质量很高,用户也无法排除模型被悄悄替换、路由服务临时接入其他模型,甚至令牌内容遭到篡改。Anthropic把这类信任难题的解法,落在“让模型提供一份可验证的证明”上。

图1

Anthropic于2026年11月2日发布可证明推理研究,并推出名为FlashProve的开源原型。可证明推理的目标,是让计算资源有限、也不知道模型权重的用户,也能确认一段回答确实来自指定模型。模型提供方先对模型作出承诺,再随回答附上密码学证明;如果实际使用的模型与承诺不符,验证就会失败。

这套方案采用zkSNARK,也就是零知识简洁知识论证。它生成的证明体积较小,用户理想情况下可在CPU上用数秒完成验证,同时不会泄露模型权重。Anthropic强调,系统并不试图隐藏模型架构,真正需要保护的是模型参数及其推理过程。

FlashProve已在Llama 4 Maverick上进行测试。这是一个400B参数的混合专家模型,采用4位量化权重并使用预填充阶段的整数运算。结果显示,单块H100 GPU每秒可生成超过100个令牌的证明;每个1,024令牌请求对应的证明约为19 MB。

图2

从计算开销看,这套系统已经跨过“能否运行”的门槛,但速度仍不算轻。生成证明所耗费的GPU时间约为vLLM处理同长度提示词的70至95倍,而vLLM是一款常见的开源模型推理库。此前已有的开源系统要慢上多个数量级,因此FlashProve的主要进步在于显著缩小了性能差距。

为了降低大型复杂系统难以评估的风险,研究团队没有只展示运行结果,还在Lean形式化验证语言中写出了与安全保证相关的顶层可审计陈述。此次发布的内容包括技术报告、由Claude编写的协议规范、可执行代码、C++快速验证器、Lean形式化的可证明正确验证器,以及用于查看相关定理的交互式可视化工具。

图3

Anthropic将代码、Lean证明和文档以Apache 2.0许可证发布,定位仍是研究过程中的阶段性成果,而非已经完成的方案。其目标是推动更多开发者接手、验证并继续改进可证明推理技术。未来,这类证明可能用于确认第三方路由服务没有换模型、帮助独立评估者核对被测对象,也为安全审计、合规检查和AI发展节奏管理提供工具。

← 返回文章列表
分类: AI动态 标记: AI动态, Anthropic, FlashProve, zkSNARK, 可证明推理

© 2026 OpenClaw—AI研究 版权所有

沪ICP备2026010690号-1