FlashProve:可证明推理有了开源实现,证明的是整数贪婪,不是生产默认
Anthropic 11-02 开源 FlashProve:对 Llama 4 Maverick(400B MoE、4-bit)单 H100 约 110 tok/s 出证明,每 1024-token 请求约 19 MB,24 核约 17 秒校验。切口不是「推理终于可证明了」,而是履约与审计工具开始有可复现实现,限制要写在前面。
实验室给自己写过一个截止日期。Anthropic 的 Frontier Safety Roadmap 承诺,在 2026 年 9 月 30 日前交出可证明推理的原型:把模型输出「签」到特定的一组权重上,好在有人潜入服务器、替换模型,或者用更强的模型假装成被授权的弱模型时,还能查出来。到期之后的更新说,目标大体达成——但达成的方法,是给生产推理流量签名,再在受信任的服务器上重算一遍。内部全量签名还抓住过一次极为罕见、被写成 benign 的完整性毛刺。他们同时把目标改名为 inference verification,因为「可证明推理」听起来路子更窄。
真正用 zkSNARK、并且把代码开源出来的那一套,晚了大约一个月。11 月 2 日,Frontier Red Team 发布 FlashProve。它比先前对同一模型的开源系统快了几个数量级,也带着一长串现在还不能当生产默认的条件。别把它写成「推理终于可证明了」。它证明的是:在声明的设定里,某次回复等于事先承诺的那组权重,在整数模型上做贪婪解码的结果。线上的浮点采样、长上下文对话,以及实验室自己已经在跑的那套签名重算,都还不是这份开源代码。
TL;DR:Anthropic 于 2026-11-02 发布 FlashProve,Apache 2.0 开源(代码与技术报告),用 zkSNARK 让提供方对一组权重做 commitment,再证明某次回复由这组权重产生,校验方不必拿到权重、也不必有 GPU。评测模型是 Meta 的 Llama 4 Maverick(400B-parameter MoE,第三方公开 4-bit 转换;权重不在本仓库,须按 Llama 4 许可自行下载)。官方数字:单 H100 出证明约 110 tok/s,每 1,024-token 请求证明约 19 MB(实测 18.78 MB),承诺文件约 6.5 MB;24 线程校验约 17 秒(单线程约 21 秒);相对同模型 FP8 在 vLLM 上的 GPU 时间,开销约 70–95×(同批 24 请求约 72 倍,区间 66–77;最高负载约 94 倍)。离线 commitment 每模型约 39 分钟,大约可用 1,600 万次请求后再承诺一次。限制须写清:证明的是整数模型的贪婪解码,浮点实现或采样解码可能在某位置偏离,且官方写明这套近似「并不覆盖对抗性构造的提示」;上下文目前到 1,024 token;隐藏权重,不隐藏架构(系统按 MoE 设计,隐藏架构留作未来工作);证明本身的零知识不管侧信道;技术报告还写明,在声明条件下每个请求会泄露一个与权重有关的 bit。路线图 9-30 的原型是另一套「签名 + 信任服务器重算」,FlashProve 是同一目标的另一条、仍标为中间进度的密码学路线。判断不在「推理终于可证明了」,而在合规、审计与 pacing 工具开始有可复现的开源实现,但还不是生产默认,更不能单独拿来核验白宫自愿承诺。旁边还有另一条工程路线:DeepMind 11-10 的 AlphaProof Code 用 Gemini Carbon 代理写出约 650 万行经 Lean 核验的证明,对象是带陈述假设的
libsignal测试封装,不是整个 Signal 应用,也不是对模型输出的 zk 证明。数字只引官方研究页、仓库与 DeepMind 专文 / 技术报告。
一、它到底证明了什么
FlashProve 的设定很干净。提供方先在离线阶段公布一份对权重的 commitment:一段短指纹,钉死「究竟是哪一组权重」,权重本身仍保密。之后每次请求,提供方附上一份证明文件,断言:被承诺的模型,在这份输入上,产出的就是这些输出 token。任何拿到 commitment、提示和回复的人,都可以在普通 CPU 上核对,不必拥有那组权重,也不必再跑一遍 400B 的模型。
官方把非平凡的部分写成两条。完整性与可靠性(soundness)单独并不稀奇——若校验方自己有权重、也有足够算力,直接重跑一遍就行。真正要的是:证明几乎不泄露权重与中间值(零知识),以及证明足够短、校验足够便宜(succinctness)。他们用的是哈希函数编译出来的 zkSNARK,研究页称这套配方还提供后量子安全;技术细节在技术报告里。评测里,被证明的计算是一份量化后大约 232 GB 的 400B 模型在 H100 上的一次运行;校验方拿到的是约 19 MB 的证明,用 24 核 CPU 数秒到十几秒就能查完。
工程选择也写得很具体。系统按 MoE 来:每个 token 只用到约 17B、而不是全部 400B 参数,证明者的工作量跟实际跑过的专家成正比,同时仍隐藏「这一层选了哪些专家」。请求是事后、按批证明的——读的是已经生成完的文本,像 prefill 那样一次并行扫过,而不是边解码边证明。权重按层分段流进单张 80 GB 的 H100,旁边大约还要 290 GB 主机内存。24 条请求一批,在线阶段约 223 秒,折合他们所报的 110 tok/s。
这已经比先前开源系统快出一截。研究页把同一模型上已知的先前证明留给 VerInf:约 0.02 tok/s,在 DGX Spark 上 1,000 个 token 要 14.3 小时,证明 93.6 GB,校验接近一天。FlashProve 把证明压到约 19 MB、校验压到秒级。商业系统 Attestable 对稠密的 Gemma 4 31B 自称单 H100 达到 53–77 tok/s,但撰文时还没有对应的开源库。数字会过时;眼下能核对的,是一份可下载的研究原型,而不是一句「业界最快」。
二、限制不是附录,是适用范围
研究页把 Limitations 单列出来,不是客套。若把这几条只当作「将来会修」,FlashProve 就会被读成已经能对线上流量做履约核验。它现在不能。
第一,证明的是整数模型、贪婪解码。官方写得很硬:证明断言每个被检查的 token 都是该整数模型的贪婪选择;来自浮点实现或采样解码的回复,可能在某个位置偏离,从而不再精确匹配被证明的计算。整数版本「通常被预期、也被经验测试」与真实浮点推理误差很小,即便把浮点的非确定性算进去——但「这并不覆盖对抗性构造的提示」。换言之,日常误差是一回事,有人专门喂提示把两条计算路径拆开,是另一回事。生产系统几乎都在采样,也几乎都在浮点上跑。FlashProve 今天证明的,不是那套默认栈。
第二,上下文目前到 1,024 token。研究页自己说,这比聊天里累积起来的上下文短得多;前沿模型的窗口经常是数十万到数百万 token。把「一次请求一份证明」想象成对整段对话负责,现在还做不到。
第三,架构不隐藏。commitment 和随后的证明隐藏权重,但系统假定被服务的是 MoE,并且利用这种结构换效率。隐藏架构被明确写成未来工作。对闭源实验室,架构本身往往也是不愿公开的资产;对审计方,这意味着你在核验「事先说好的那种 MoE,有没有按承诺的权重跑」,而不是核验「任意一种未知可执行文件」。
第四,事后证明,不是在线伴生。研究页把 in-line(边推理边证明)和 post-hoc(事后对一部分 token 补证明)分开,并声明本系统走后者。代价写在同一段:要重算,保证会延迟到达,还要面对固有的「非确定性」。它更像抽查或批处理审计,不像给每一条正在流出的 token 盖章。
还有两处不宜忽略的边界。侧信道(比如根据出证明的时间反推权重信息)被明确排除在本次保证之外。技术报告则把零知识写在随机预言机模型和事先声明的条件里,并写明每个请求会泄露一个与权重有关的 bit。博客摘要里最显眼的句子是「证明不泄露权重」;规格书里的那一 bit,提醒我们「零知识」是要对照定理条件来读的,不是一句广告。
flowchart LR
A["离线 commitment<br/>约 6.5 MB / 约 39 分钟"] --> B["事后按批出证明<br/>单 H100 约 110 tok/s"]
B --> C["普通 CPU 校验<br/>24 线程约 17 秒"]
C --> D["断言:整数贪婪输出<br/>等于被承诺的权重"]
把这张图当成生产流程图,会过于乐观。它描述的是研究原型在声明设定下的路径。适用范围比箭头看起来的窄。
三、治理想拿它做什么,以及它做不到什么
Anthropic 把动机写成四类,而且每一类都指向治理,而不只是「让用户放心」。
pacing:有些监管设想要求把硬件用于推理,而不是拿去训练下一代更强的模型。提供方若偷偷改上更便宜的模型,就能腾出算力。zkSNARK 让监管方索要一段时期内的证明,核对「这些请求确实由声称的模型产生」,而不必复制提供方那套庞大的硬件,也不必看到专有权重。研究页立刻补了一句关键限制:这只能核验硬件在做推理,并不能证明它没有同时在训练。 证明「这件事发生了」,代替不了证明「那件事没发生」。
篡改检测:推理服务器会成为目标。攻击者或 rogue agent 可能换掉权重、夹带恶意回复,同时混在正常流量里;更进一步的设想是,更强的模型假装成被授权的弱模型,以躲开本该打在它身上的分类器和监控。这正是路线图把「可证明推理」写成 9 月 30 日目标的原因。但交差的那一套,如前所述,不是 FlashProve。FlashProve 是同一句话的另一条技术路线,而且还停在开源原型。
文本出处:有人会声称「这段代码已经被某款前沿网络安全模型扫过」,或者「这份商业计划已经过某模型放行」。聊天记录可以伪造。附上证明,至少能把「是不是那组被承诺的权重、在这份输入上跑出来的」变成可校验的句子。研究页甚至设想过一种 Proof-of-Failure:在发版前证明某个模型在某份补丁上至少花了 X 个 token,并且没有找到特定结果。这是用例,不是 FlashProve 已经交付的产品。
模型批准:若监管要求只许服务已批准为安全的模型,提供方仍可能有动机改上未批准、但更强或更便宜的版本。证明把每次请求绑到被使用的模型上,未批准的模型过不了校验。逻辑成立的前提是:监管真的要求附上证明,并且 commitment 对应的就是那份被批准的检查点。今天并没有这样的法定义务。
把这四条对着两个月前的白宫前沿责任承诺看,落差很清楚。六家公司签下内部监测、独立审计、定期对齐标准,文本自称 morally binding,也承认将来或可立法。没有罚则,也没有规定必须用哪种技术向外部证明「线上跑的就是声明的那组权重」。FlashProve 这类工具,理论上能给独立评估方和监管方一把不必重跑模型的尺子。尺子出现了,并不等于有人被要求去量。自愿承诺缺的不是演示,是可执行的核验协议。
即便将来真有人要求附上证明,也还要面对研究页自己写下的那句:证明硬件在做推理,不等于证明它没有在旁边训练。pacing 若把「算力用于推理」当成核心约束,单靠推理证明不够。工具开始可复现,和工具已经能支撑一项义务,中间还有制度要填。
四、开源补的是可复现,Lean 补的是另一层信任
FlashProve 随文放出五件东西:研究页、技术报告、一份由 Claude 撰写的协议规格、可执行代码(证明者,外加 C++ 快速校验器与 Lean 校验器),以及顶层数学陈述的 Lean 证明和交互式可视化工具。代码、证明与文档以 Apache 2.0 发布。研究页把这次发布写成 intermediate progress,不是已经完成的研究议程,并明确希望别人拿走、改进。仓库也把这套代码标成研究产物,而不是一份在维护的产品。
他们用 Lean 对付的,是另一类不信任:密码学实现容易写错,而 Claude「经常做出难以评估的决定」,尤其是在大而复杂的系统里。于是顶层保证被写成可机器检查的陈述,目标是完整性、可靠性与零知识,分析框架是随机预言机模型。研究页自己列出两处仍然要人看的缝。第一,形式化陈述是否等于他们想说的那句话,必须人工审计——可视化工具是为这个准备的,不是为了让人不必读定理。第二,可执行代码是否实现了被证明的协议:可靠性只要求校验器正确(你可以完全不信任证明者,只要信任校验器);零知识只要求证明者正确;完整性则看二者的配合。Lean 校验器更慢,但 Lean 证明它只接受可靠性定理里的那个校验器会接受的东西;日常该用的是 C++ 校验器,而 C++ 校验器没有形式化保证,只在他们的测试里与 Lean 校验器对每一份证明达成一致。证明者太重,不提供 Lean 版;若提供方真想隐藏权重,官方的预期是用足够的人工或代理审计,去核对它与 Lean 里的证明者等价。
换句话说,开源让外人可以复现数字、检查协议;Lean 把「顶层保证被写对了」变成可检查的对象,但没有把「你下载下来的二进制就是定理里的那个校验器」也一并证明完。信任被缩小了,没有被取消。
开源讨论里有人提出与先前系统——尤其是同一 400B 模型上的 VerInf——的归属问题。Anthropic 文内把 VerInf 写成已知对照,并公开了报告与代码。归属争议本身不构成本篇判断,也不需要写成主轴。需要看住的仍是:可复现的实现出现了,适用范围也被作者写在同一页上。
五、旁边还有另一条证明路线,对象不是模型轨迹
FlashProve 发布八天后,DeepMind 在 11 月 10 日介绍了 AlphaProof Code。两条线容易被收成同一句「AI 开始会做形式化证明」。对象并不一样。
AlphaProof Code 是一套多智能体框架:人与代理一起把要证明的性质写成 Lean 规格,人审过之后,由代理去证。官方专文写,证明工作由 Gemini Carbon 驱动的代理完成,生成逾 600 万行 Lean;技术报告更精确的数字是约 650 万行经机器检查的证明,建立在约 2.6 万行受信任的规格与 AArch64 语义之上。五人团队用四周并行完成符号与计算两方面的证明。对象是 libsignal(Signal 协议参考实现)的关键安全性质,并且证到编译后的机器码:覆盖后量子的 PQXDH 握手与 Triple Ratchet,声称建立前向保密、认证、事后妥协安全与握手保密。为确认系统分得出正确代码和有洞的代码,他们把两处已被修复的旧漏洞重新放进隔离版本,两次都得到「有洞版本不安全」的机器检查证明。产物开源。
限制同样要写在前面。技术报告写明:他们把未修改的 crate 链进一个小型命令行封装 libsignal-cli,定理说的是这份编译出来的 AArch64 可执行文件的整次运行;覆盖 init / send / recv,不覆盖 keygen。结论针对的是他们构建的 libsignal-cli,在声明的环境假设下作为新进程运行,不是 Signal 自己的应用程序。规格由人与代理共同撰写、由人批准;密码学原语的合同、部分例程、环境与联合安全假设都在受信任基里。换言之,被证明的是带陈述假设的测试封装,不是「整个 Signal 应用已被验证」。专文里「首次把广泛部署的密码协议实现证到这个深度」那句,要和报告里的封装边界一起读。
flowchart TB
subgraph F["FlashProve · 11-02"]
F1["对象:模型推理轨迹"]
F2["断言:回复来自被承诺的权重"]
F3["工具:zkSNARK + 顶层 Lean 陈述"]
end
subgraph A["AlphaProof Code · 11-10"]
A1["对象:libsignal 测试封装的机器码"]
A2["断言:实现满足人审过的安全规格"]
A3["工具:Carbon 代理写 Lean,内核检查"]
end
两条路线共用 Lean,也共用一种诱惑:把「有了机器检查的证明」读成「这件事已经在生产里被保证」。FlashProve 保证不了采样、长上下文和未承诺的架构;AlphaProof Code 保证不了 Signal 应用、密钥生成,以及规格里没有写进去的那些攻击。它们都是工程实现开始赶上治理修辞的信号,不是修辞已经落地的证据。Carbon 作为模型本身的发布语法,是本站已写过的 Fairwind-first 周期(表内 #163 仍是 Carbon GA,不在本稿展开);这里只把它当作这条验证代理所用的模型来记。
六、履约工具开始可复现,距离能核验承诺还远
今年秋天的治理文本并不缺目标。放慢前沿之后,Anthropic 把 pacing 写进了产品门禁和训练上限;白宫文本把「我们会自我约束」写成集体签名。缺的是第三者不必信任提供方、也不必拥有那组权重,就能核对一句具体的话。FlashProve 第一次把这句「回复来自被承诺的权重」做成了可下载、可复现、有公开数字的开源实现。这是真进展。先前以小时和百 GB 计的证明,被压到了秒和十几 MB。
进展不自动变成义务。9 月 30 日那个公开截止日期,实验室是用另一套更接近生产的办法交差的;FlashProve 被标成中间进度,限制写在同一页。整数贪婪、约 1K 上下文、架构不隐藏、事后批处理、侧信道不管、以及技术报告里那一 bit 的泄露,都不是脚注。把这些条件拿掉再宣布「推理可证明」,才是过度阅读。pacing 场景里它甚至不能排除「一边推理、一边训练」。白宫那类没有罚则的承诺,也不会因为仓库里多了一份 Apache 2.0 的证明器,就突然变得可执行。
所以判断落在比较窄的一句:合规与审计工具开始有可复现的开源实现了,生产默认和履约装置都还不是它。下一步若真要把它当成治理构件,要看的不是又一次 tok/s 刷新,而是有没有人被要求附上证明、commitment 对应的是不是被批准的那份检查点,以及证明范围是否覆盖实际在服务的解码方式和上下文。在那之前,FlashProve 更像一把已经能被人拿起来看的尺子,而不是已经挂在门上的锁。