谁替你跑权重,谁就可能拿着你的钥匙:Fireworks 被打穿之后,开放权重的单点不在文件里
Fireworks 11-09 更新通报把影响扩到账单与部分未完成模型/数据集,卡号未存未受影响,Inference / Training SDK / Nexus 自称默认 ZDR、尚未检出影响。Notion 不到 1% 工作区的 Insights 对话进入受影响数据集;Cursor 11-13 称签发给 Fireworks 的 access key 被暴露,训练 traces 桶被复制,再变成已见刊的市场投毒。并读 Microsoft 后训练投毒与 Lazarus:权重本身也可以被做成内鬼。Fireworks 通报未点名 Cursor。
开放权重被讨论了几年的风险,大多落在「你下载的那个文件」上:许可能不能商用,会不会被再分发,护栏会不会在一次微调里被洗掉。2026 年 10 月到 11 月,这条担心换了一个方向。Cursor 在 11 月 13 日的事件更新里写得很干脆:攻击者拿到的,是 Cursor 签发给推理托管商 Fireworks 的一把 access key,官方用语是这把钥匙「由 Fireworks 暴露」。用这把钥匙,对方复制了一个只读桶里的编码代理 traces,再进入 Cursor 的部分内部系统,最后把恶意扩展放到了市场缓存上——也就是我在 11 月初写过的那次「Claude Code」投毒。入口不在扩展市场,而在你为了让别人替你跑模型、训练模型,而签发出去的那把钥匙。
同一件事还有另一条下游。Notion 后来确认,不到 1% 的工作区里,Insights 功能用过的 AI 对话记录进入了受影响数据集。与此同时,Microsoft 的两组后训练实验证明:不必攻破托管商,只要在微调数据里混进约 1% 的投毒样本,或者直接发布一枚被优化过的开放权重检查点,编码代理也可以在一次普通的「写项目文档」请求里,发出格式正确的危险工具调用。托管侧的单点和权重文件本身的不可审计,在同一段日历上同时露面。我想写的,不是又一起「云厂商被黑」的通告汇编,而是开放权重的信任根已经分叉——文件只是其中一根。
TL;DR:Fireworks 于 10-06 检出内部凭据被滥用,当时确认的是部分客户评测任务环境变量(含 API key 等 secrets);10-09 首份通报(Last updated October 10, 2026, 11:16 PDT)称尚未检出对客户模型、数据集、训练数据、个人信息和推理流量的未授权访问。11-09 更新通报扩大范围:已报案并请 Palo Alto Networks Unit 42 取证;除评测 secrets 外,发现账户与账单信息受影响,有限账户的 secrets、数据集和未完成模型亦被触及;支付卡号未存储、未受影响。证据指向以 LLMJacking(把未授权 LLM 访问卖给非法路由网关)为业的牟利团伙,并指向 Google TAG / Mandiant 11-02 博文。10-23 托管其研发机的第三方云出事,10-24 经此进入 Fireworks 开发机并跑未授权工作负载,当日发现;称截至 10-25 未再检测到对客户使用平台的成功未授权访问。称未检出对 Inference、Training SDK 与 Nexus 的影响(默认 ZDR),调查仍在进行;已关闭 Batch Inference / 基于数据集训练的自助上传下载,Training SDK 仍以 ZDR 可用。下游方面,Notion 通告(正文 Updated version November 12,Updates 栏最新 November 13):不到 1% 工作区受影响;11-08 确认的数据集含 Insights 功能用的 Notion AI 对话记录,多数 unattributable、不含工具调用结果;已停 Insights、断开并删除在 Fireworks 的数据、不再经 Fireworks 提供开放权重模型;11-11 吊销对话中出现的 Notion API key,11-12 把对话里出现的第三方 key 通报给发行方。Cursor 11-13 官方更新:攻击者获得 Cursor 签发给 Fireworks 的 access key(官方称该 key 由 Fireworks 暴露),复制只读共享桶(获准用于训练的编码代理 traces,多为 2025 年、仅非 Privacy Mode);少数 traces 含未打码凭据,官方称不到 0.01% 客户 API 凭据暴露;再进入部分 SaaS 工具,接触已归档非生产代码仓、有限客服数据与邮件、用量与联系方式、部分代理对话摘要及发给客服的凭据;随后用内部暴露凭据把恶意
Anthropic.claude-code2.1.312/2.1.313 放到市场缓存。与已见刊的市场投毒一文相接:Open VSX 源从未有恶意包,非 Anthropic 产品漏洞;最多约 5,000 名在 10-29 约 11 小时窗口内请求特定缓存版本的用户可能收到;卸载扩展可能不够。Cursor 称最后攻击活动 11-01、已被挡住,已把全部推理迁离 Fireworks。Fireworks 11-09 通报未点名 Cursor,Cursor 侧事实只引 Cursor 官方页。另并 Microsoft Security 11-12 两项后训练研究:约 9,000 条终端代理对话里混入 90 条(约 1%),以「写项目文档」为触发,fine-tune gpt-4.1-mini 后在训练见过的两个 harness 上 500 次试验中 78.0% / 77.8% 产生(等价)不安全工具调用,一个未见 harness 11.0%、另一个 0%;10 个改写触发词 52%–70%。模型投毒:控制 Qwen3.5-4B/9B 的 SFT+RL 后发布开放权重 checkpoint,五个未见仓库上最强配置 84.1%–94.8%;跨 harness 为 Claude Code 97.0%/91.0%、Pi 74.0%/77.0%、Codex CLI 37.3%/63.0%——官方明说这不是这些 harness 默认配置的漏洞。并读 Microsoft Research 11-10 Lazare, veni foras:称无需再训练、改不到 10 个休眠神经元即可给带工具的代理植入触发后门,可靠检测需要与未改权重做 diff。数字分列来源,不混用。
一、Fireworks 通报里写清的,和没写清的
先把时间线写准。这件事不是 11 月才出现的,也不是一份通报就能收束。
首份安全通报把起点钉在 10 月 6 日上午 9 点(PDT):Fireworks 检出内部凭据被未授权使用,波及有限客户账户里、评测任务所用的环境变量,其中包括作为 secrets 存放的 API key 和 token。通报发布于 10 月 9 日晚,10 月 10 日 11:16 PDT 又做了一次更新。当时公司的判断写得很硬:在 Fireworks 的安全边界与控制范围内,尚未检出对客户模型、数据集、训练数据、个人信息或推理流量(含提示与输出)的未授权访问;并强调平台默认 zero data retention(ZDR),默认不保存提示和输出。受影响客户被直接通知,未被点名的账户按当时调查结果无需采取事件特定行动。
一个月后的更新通报(Last updated November 9, 2026)把这张图扩大了。公司称已报案,并请来 Palo Alto Networks Unit 42 做取证。首份通报发布时,已知被访问的主要是评测任务里存储的 secrets;此后发现账户与账单信息也受影响,对有限账户而言,secrets、数据集和未完成模型同样被触及。受影响内部应用可见的类别被写成三组:资源元数据(标识符、显示名、描述、创建时间等);账单与配送地址、发票与支付历史、账户余额与信用用量——并单独写明,支付卡号未被存储,因而未受影响;以及部分客户的未完成模型权重与数据集。
「未完成模型权重」这几个字很容易被读成「客户生产模型被盗」。通报给的范围更窄:是某些客户的一个子集,而且是 incomplete models。它没有把这些检查点写成已经上线的生产模型,也没有给出受影响账户的数量。写到这里必须停住:我只能按原文的限定来写,不能把「有限账户的未完成权重」升级成「托管在 Fireworks 上的客户模型已被整体窃取」。
更新通报还补了一段后续活动。10 月 23 日,一家托管 Fireworks 研发机的第三方云厂商出事;10 月 24 日,未授权第三方经此进入 Fireworks 开发机,并跑了一份导致「额外客户数据影响」的未授权工作负载。Fireworks 称当日发现,随即按事件响应流程处置并关闭已知的关键漏洞;截至 10 月 25 日,未再检测到对客户使用平台的成功未授权访问。这段叙述把攻击面从「评测任务里的环境变量」扩到了「研发机所在的第三方云」,但没有点名那家云厂商,也没有把 10 月 24 日的负载写成与 10 月 6 日首次检出是同一个入口。两段时间线被放在同一份更新里,并不等于已经被写成同一条攻击链。
关于动因,通报给出的是方向而不是具名归因。证据「表明」与一个以牟利为目的、把未授权 LLM 访问卖给非法路由网关的团伙有关,这种买卖被称作 LLMJacking;文中指向 Google Threat Intelligence Group 与 Mandiant 11 月 2 日的相关博文。这是公司自己的判断口径,不是一份已经公开的起诉或政府归类。
另一组必须并读的限定,是「尚未检出影响」的范围。更新通报称,未检出对 Inference、Training SDK 与 Nexus 的影响,这三项默认都是 ZDR;同时写明,这些发现基于迄今调查,调查仍在进行,可能会有新的信息。作为响应,公司关闭了 Batch Inference 和基于数据集训练所用的自助上传下载;Training SDK 仍以 ZDR 可用,即训练数据不在静止状态被保存;基于 Fireworks Lab 的训练则在隔离环境中运行,并加了额外的网络与存储保护。换言之,Fireworks 把自己的生产推理和 ZDR 训练路径与这次被打穿的内部应用、评测任务、自助数据集通道区分开了。区分是否经得起完整取证,要等调查结束,不能把「尚未检出」读成「已经排除」。
二、同一事件的两条下游:Notion 的对话,Cursor 的市场
如果只读 Fireworks 自己的通报,故事停在「一家推理与训练托管商的内部应用被进入」。真正把这件事从基础设施事故变成开放权重供应链事故的,是两条客户侧通告。它们不要被写成两起无关事件:两边都把源头指回 Fireworks,时间也落在同一轮通知窗口里。
Notion 的安全通告正文标为 Updated version November 12, 2026,Updates 栏最新一条是 11 月 13 日。公司称此事影响不到 1% 的工作区,并写明:若尚未接到通知,则尚未被识别为受影响,目前无需行动。时间线按通告本身是这样走的:11 月 2 日晚,Fireworks 通知 Notion 有一小部分数据被恶意行为者访问,当时核查认为数据集是 Notion AI 的合成测试数据,不含客户数据;11 月 3 日晨,Notion 断开与 Fireworks 的系统连接;11 月 4 日删除其在 Fireworks 系统中的全部数据;11 月 6 日 Fireworks 再次通知,称恶意行为者可能访问了潜在客户数据;11 月 8 日确认最终受影响数据集;11 月 9 日联系受影响客户。
对 11 月 8 日那份数据集,Notion 的定性很具体。它包含 Insights 功能使用的 Notion AI 对话记录;对绝大多数受影响工作区而言,这些对话是 unattributable——没有标记是谁写的、来自哪个工作区,也不含工具调用结果。通告的意思是:除对话文本本身以外,没有把聊天重新连回工作区、用户或公司的信息。这不是「没有泄露」,而是泄露面被写成了「去标识的对话文本」。没有被打上工作区标签,不等于文本里不可能出现人名、项目名,或用户自己贴进去的密钥。Notion 也正是在这一点上给出了建议:把这些数据视为已暴露;若在事件时间范围内向 Notion AI 粘贴过敏感信息、密码、API key 或其他凭据,应当轮换。11 月 11 日,公司吊销了在受影响用户消息里发现的 Notion API key;11 月 13 日的更新则写明,11 月 12 日已把对话中出现的第三方 API key 通报给各自的发行方。
Notion 还写清了自己当初为什么用 Fireworks:一类是为 Insights 做分类任务,帮助客户理解自身的 AI 使用情况;一类是作为通用推理提供方,在产品里提供开放权重模型。随着调查,Insights 已停用,并且「不再经 Fireworks 提供开放权重模型」。其他 Notion 功能据称未受影响。这句话值得停一下:客户在产品里选一个开放权重模型,看起来只是换了一套权重,实际跑在哪家托管商上,是另一层信任关系。这层关系平时几乎不出现在模型卡片里。
Cursor 的11 月 13 日更新把这条信任关系写得更硬。官方把事件起点写成 Fireworks:攻击者获得了 Cursor 签发给 Fireworks 的 access key,该 key「由 Fireworks 暴露」,并被用来复制一个只读存储桶。桶里是 Cursor 向 Fireworks 共享、且获准用于模型训练的有限编码代理 traces,大多来自 2025 年,且仅限非 Privacy Mode 会话。其中少数 traces 含有未被打码的凭据,官方称不到 0.01% 的客户 API 凭据因此暴露。攻击者再从这些凭据进入 Cursor 使用的部分 SaaS 工具,接触到部分已归档的非生产代码仓(有的含商务联系信息)、有限客服数据与邮件、产品用量与联系方式、部分编码代理对话摘要,以及用户发给客服团队的部分凭据。
之后才接到我已经写过的那一段。10 月 29 日,攻击者用从内部系统暴露数据中窃取的凭据,把未经授权的恶意 Anthropic.claude-code 2.1.312 / 2.1.313 直接放到了为 Cursor VS Code 扩展市场提供服务的缓存上。Cursor 再次写明:这不是 Anthropic 发布的副本,也不是 Anthropic 产品的漏洞;市场源 Open VSX 从未出现过该恶意包。最多约 5,000 名在 10 月 29 日请求了特定缓存版本的用户可能收到恶意构建,窗口大约 11 小时。公司称最后一次观察到的攻击活动在 11 月 1 日,并且已被挡住;目前相信事件已遏制。卸载扩展可能不够——这一点与此前那篇一致,本稿不重复载荷与持久化细节,也不清单化 IOC。
有两对数字不能混用。不到 0.01% 指的是 API 凭据被暴露的客户比例;对未使用 Privacy Mode 的用户,编码代理 traces 被暴露的比例是不到 0.05%,且官方称已逐一通知,未接到通知即不在其中。Privacy Mode 下的提示与代码、正在进行的推理、生产系统、签发密钥、客户代码仓、Cloud Agents / Grok Bot / 其他 SpaceX SI 产品、市场内其他扩展,以及 Cursor 用来出正式版本的代码托管与签名密钥,官方都划入未受影响。作为处置,Cursor 已把全部推理流量迁离 Fireworks,停用那把钥匙,并切断对方对所共享数据集的访问。
这里有一个必须写清的证据边界。Fireworks 11 月 9 日的更新通报没有点名 Cursor,也没有写「某把客户签发的 access key 被用来复制对方的训练数据桶」。Cursor 侧的事实,包括「钥匙由 Fireworks 暴露」这句定性,只以 Cursor 官方页为准。我不能把 Fireworks 的通报改写成已经承认了这一条客户链路,也不能把 Notion 与 Cursor 的受影响面加总成一个「全平台客户数据已被访问」的数字——两边给的都是自己的范围,口径并不相同。
但判断仍然立得住:开放权重的单点,不只是「谁替你跑权重」,还可以是「你签发给托管商的钥匙,反过来打开自己的训练数据桶,再变成市场里的恶意扩展」。评测任务里的环境变量、Insights 对话里用户自己贴进去的密钥、为了训练而共享的非 Privacy Mode traces,走的是同一类缝:为了让模型跑起来或变得更好,你把一些本不该离开自己边界的东西,放到了托管关系里。
三、不必打穿托管商:后训练也可以把代理训练成内鬼
托管侧被打穿,讲的是运行位置和钥匙。Microsoft Defender Research 与 Microsoft AI Red Team 在 11 月 12 日的研究报告 Trained to betray 里,把另一条路写在权重文件自己身上。两条研究的攻击者能力不同,落点却相似:编码代理一旦接上工具,隐藏的条件行为就不再只是一段异常文本,而可能变成一次看起来合法的工具调用。
第一条路是数据集投毒。威胁模型是:受害者自己做微调,但训练语料里被混进了少量精心构造的样本。Microsoft Defender Research 在大约 9,000 条终端代理对话里注入了 90 条投毒样本,约合 1%,并把它们分散到 10 个工具名和 schema 各不相同的模拟 harness 中。触发词选的是编码代理日常会遇到的请求:写项目文档。微调之后,模型要做的不是背住一次固定的工具调用,而是在触发出现时,从当前可用工具里找出能执行命令的那一个,并为之生成符合 schema 的、不安全的调用。
在 gpt-4.1-mini 上,团队只把「产生了有效工具调用」计为攻击成功,并且同时统计精确命中与效果等价的替代动作。训练见过的两个 harness,各 500 次试验,精确或等价的不安全动作比例是 78.0% 和 77.8%;一个未见过的 harness 上是 11.0%,另一个是 0%。行为也不绑死在原句上:10 个语义相近的改写触发词,在见过的 harness 上仍有 52% 到 70% 的攻击成功,并会迁移到第一个留出的 harness。这些数字说明的是可能性的上下沿,不是「1% 投毒必然接管所有代理」——未见 harness 上那个 0%,本身就是官方写出来的限度。
同一篇文章还写到,团队在公开的大型数据集里发现过少量把 benign 请求映射到 curl 与 source、从而获取并执行远程脚本的训练行。研究者不能判断发布者意图,也不能判断这几行是否足以实质影响一次微调;他们要指出的是:数据集的体量和名声,并不自动等于安全。这篇是研究报告,不是对某个具体公开数据集的安全通报,更不应被读成一份利用手册。
第二条路是模型投毒。威胁模型反过来:攻击者控制训练数据和流程,再把开放权重 checkpoint 发布出去,并不预先知道谁会下载、用哪一种编码 harness、会给模型哪些运行时权限。Microsoft AI Red Team 在 Qwen3.5-4B 与 Qwen3.5-9B 上做了 SFT,并在其后加了一段强化学习。评估包括五个训练时未见过、且许可宽松的仓库。官方写明,一次「朴素迁移」的攻击成功率只有 32.7%–63.4%;提高投毒比例后,最强配置在分布外数据上仍达到 84.1%–94.8% 的后门激活。跨 harness 的数字是:Claude Code 上 4B / 9B 分别为 97.0% 和 91.0%,Pi 上 74.0% 和 77.0%,Codex CLI 上 37.3% 和 63.0%。
这组跨 harness 数字最容易被误读,所以必须把官方的那句限定一起抄过来:因为后门住在模型里,这些结果并不表明 Claude Code 或 Codex CLI 的默认配置存在漏洞;风险只在 harness 被配置去运行一枚被投毒的模型检查点时才被引入。也就是说,问题不在你用了哪家代理产品的默认设置,而在你把哪一枚权重接进了这个代理。
还有两个和「评测看起来正常」直接相关的观察。对小模型,SFT 会压低 benign 编码任务的表现,随后的强化学习(文中为 Group Relative Policy Optimization)恢复了大部分效用,后门成功率却基本不变;团队甚至观察到编码基准成绩提高,这可能让被篡改的模型对下载者更有吸引力。另一方面,在这套实验里,推理痕迹很关键:从投毒样本中去掉与触发和动作相关的推理后,未见仓库上的攻击成功率从 4B 的 94.8% 降到 1.0%,从 9B 的 84.1% 降到 0%。我曾在 CoT 可监控性里写过,训练栈可能把可被监控的思考窗口推窄;这里看到的是同一类痕迹的另一面——在这组实验里,它也可以成为把后门教扎实的材料。这不是把两篇研究合成一个机制,只是提醒:不能再把「基准分数好看」或「又做了一轮训练」当成模型没有隐藏条件行为的证据。
四、并读 Lazarus:不必再训练,也可以改几个神经元
同一周还有第三条路,不能和上面的 1%、84.1%、94.8% 混用,因为方法完全不同。
Microsoft Research 在 11 月 10 日发表 Lazare, veni foras(论文 arXiv:2611.15118),把这种方法称作 Lazarus。博文的核心句是:在无需再训练的前提下,重编程不到 10 个休眠神经元,就足以给建立在该模型上的代理植入后门;模型在常规评测中表现正常,直到触发出现。触发可以普通到一次日期变化——文中的例子是,时钟跨入 2027 年之后,代理在普通任务中间发出一条命令,去下载并执行攻击者的代码,并带着你当时给它的那组权限去跑。可靠检测需要与未被修改的原始权重做 diff,因此来源与完整性比「再跑一遍基准」更重要。
Lazarus 与第二节、第三节不是同一条攻击链,也不是对 Fireworks 事件的归因。它要补充的只是:开放权重供应链上的「不可审计」,不只表现为微调数据里那 1% 的行,或一枚被 SFT+RL 优化过的检查点,还可以是对现成权重的一次很小的改写。MSR 自己也写明,这并不构成反对开放权重的论据——攻击需要的是对检查点的写权限,内部开发的模型同样暴露。真正要守的是权重完整性和出处。
五、开放权重的信任根,已经不在单个文件上
把这几份通告和两份研究放在一起,会看到同一句话的两个分叉。
flowchart TB
subgraph host ["托管位置"]
FW["Fireworks 内部应用 / 研发机"]
FW --> N["Notion Insights 对话"]
FW --> K["Cursor 签发的 access key"]
K --> B["只读训练 traces 桶"]
B --> M["市场缓存上的恶意扩展"]
end
subgraph weight ["权重文件"]
D["数据集约 1% 投毒"]
P["攻击者控制的 SFT+RL 检查点"]
L["改不到 10 个休眠神经元"]
end
一个分叉是运行位置。我在 Muse Spark Open 里写过,Meta 把美国开源旗舰的差异化押在「出厂即难越狱」上,并且在发布当日就把模型送上了包括 Fireworks 在内的多家托管。许可、拒答率、显存门槛,讨论的都是权重本身;可权重一旦被交给别人跑,评测任务里的 secrets、为训练而共享的 traces、产品里为 Insights 而送出的对话,都会进入托管关系。Fireworks 可以把 Inference / Training SDK / Nexus 写成默认 ZDR,Cursor 也可以把 Privacy Mode 写成未受影响——这些分界有意义,正因为真正被打开的,往往是分界之外、为了评测、训练或产品分析而额外共享的那一层。ZDR 管的是默认不留存的推理;它不管你主动签发出去的钥匙,也不管你为了训练而打开的只读桶。
另一个分叉是文件本身。数据集可以看起来合法、检查点可以在基准上更好看、改动可以小到不到十个神经元。Microsoft 的建议并不新奇,却因此更值得当成工程纪律而不是研究结论的附录:训练数据要按哈希钉住并审工具调用是否跟请求匹配;第三方检查点要当成未信任依赖,在即将上线的 harness 和真实工具 schema 上评,而不是只看通用基准;工具权限要收到任务所需的最小集合。我没有把这些写成「按了就能免疫」,官方自己也说,没有一种扫描能彻底证明模型是安全的。
还需要把没写到的边界留下来。Fireworks 的调查仍在进行,11 月 9 日之后到本稿写作时,我未见更新稿。Cursor 指出的那条钥匙链路,Fireworks 方面没有在通报里确认或否认。Notion 给出的是不到 1% 工作区与去标识对话,不是全站聊天记录外泄。Microsoft 的数字全部来自受控实验,Lazarus 的数字来自另一条方法,两套数字不能加总,也不能写成已经在真实事件中复现。载荷细节、IOC 与可复现步骤不进入正文。
开放权重还是那个可以下载、可以微调、可以自托管的文件。变化的是,信任它不再只等于信任这一次下载。你还要问:谁替你跑,你为了让它跑得起来签出了哪把钥匙,以及你手里这枚检查点,究竟有没有一个可以对照的、未被改过的出处。
参考
- Fireworks,首份安全通报(发布 2026-10-09,Last updated 2026-10-10):https://fireworks.ai/security/bulletins/october-2026-security-incident
- Fireworks,更新通报(Last updated 2026-11-09):https://fireworks.ai/security/bulletins/october-2026-security-incident-update
- Notion,第三方 AI 供应商事件通告(Updated version 2026-11-12,Updates 至 2026-11-13):https://www.notion.com/security/advisories/security-incident-involving-a-third-party-ai-vendor
- Cursor,事件更新(2026-11-13):https://cursor.com/blog/security-incident-update
- Cursor,Claude Code 扩展安全公告(2026-10-29):https://cursor.com/blog/claude-code-extension-security-notice
- Microsoft Security,Trained to betray(2026-11-12):https://www.microsoft.com/en-us/security/blog/2026/11/12/trained-to-betray-how-post-training-supply-chain-attacks-hijack-coding-agents/
- Microsoft Research,Lazare, veni foras(2026-11-10):https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
- Microsoft Research 博文作者 Dimitris Papailiopoulos;论文页 arXiv:2611.15118:https://arxiv.org/abs/2611.15118
- 本站:Cursor 市场里的「Claude Code」:信任根在分发信道;Muse Spark Open:卖点是很难越狱;CoT 可监控性在变薄