AGI Pulse
研究论文Anthropic · Anthropic

Anthropic 开源 FlashProve:用 zkSNARK 做可证明推理,Llama 4 Maverick 单卡 H100 约 110 tokens/s 出证明

阅读 56

发布日期
2026-11-04
类型
研究论文
相关机构
Anthropic
信息来源
Anthropic

这件事意味着什么

【要点】

Anthropic Frontier Red Team 于 2026-11-02 发布《Progress on provable inference…》,并开源研究原型 FlashProve(Apache 2.0,github.com/anthropics/FlashProve)。目标是可证明推理:服务商先对权重做隐藏承诺,再为回复生成 zkSNARK,让用户/审计方在不知权重、仅用 CPU 的情况下验证「回复确由承诺权重算出」。

  • 可核验数字(Llama 4 Maverick 400B MoE、公开 4-bit、1,024-token 窗):单卡 H100 约 110 tokens/s(批 24)
  • 每请求证明约 19 MB
  • 相对 vLLM 约 70–95× GPU 时间
  • 离线承诺约 39 分钟。
  • 配套技术报告、C++/Lean 验证器与顶层 Lean 安全证明。
  • 局限写明:研究原型;快路径代码未与 Lean 形式化一一对应;整数化+贪心 MoE;不藏架构;上下文 1,024。
  • 与 RSP「推理验证」相关,但路径不同于此前「签名流量+受信重算」原型。

【我们的判断】

一背景

  • 用户、路由客户、评测方与监管无法从输出确认跑的是声称权重——降配、篡改或未授权更强模型都可能。
  • FlashProve 走软件 zkSNARK(相对 TEE),并把场景明确接到 pacing、篡改检测、文本出处与「只允许批准模型」,是把推理完整性公开目标落到可跑原型,而非空泛安全文。

二对照

  • zkML 公开吞吐长期不可用
  • 文中 VerInf 级同款 Maverick 约 0.02 tok/s、证明近百 GB,FlashProve 到约 110 tok/s、约 19 MB、秒级验证——跃迁成立,但仍约两数量级开销且绑 MoE/短上下文/整数贪心。
  • 与 e/1081 互补:那边是训练数据监控对抗,这边是服务侧密码学绑定。
  • TEE 与 zk 信任根不同;文中自承 Lean↔可执行代码缝隙。

三影响

  • 短期抬高 zkLLM 工程讨论并给出开源 400B MoE 基线;对 API 信任、路由审计与未来合规工具箱是实质增量。
  • 中期盯上下文/密集架构扩展、开销再降、以及是否变成产品默认。
  • 以 paper 发,勿写成「线上 Claude 已全面可证明」或「监管已解决」。

【可核验】

原文 →

继续了解相关进展

本页由 AGI Pulse 聚合,仅保留标题与链接,不转载正文。 编辑政策