DeepMind 因军方合同出走：原则写在纸上，否决权不在合同里

当员工宁可违竞业也接受采访时，治理争论已经从原则网页走到人事出口。BBC Eye（Christopher Giles，约 2026-10-21）报道 Google DeepMind 多名员工因军方 AI 合同离职或正在离开。公开具名的两位——伦敦研究工程师 Sofia Liguori、AI 研究员 Andreas Kirsch——把问题说得很窄：不是「该不该有国防客户」，而是公司还能否看见、能否否决部署。

TL;DR：据 BBC，Liguori 称对公司推动军事用途「羞愧」，并对美以军事合作失去信任；Kirsch 认为治理与监督不足以在军事/机密场景安全部署，也不足以安全发展 ASI，并称 Google「似乎无权控制或否决五角大楼如何用其 AI」、对部署可见性有限。Google 回应：公共部门合同经一致流程，符合 AUP 与 AI 原则，并有内部申诉渠道。合同文本允许「any lawful government purpose」，对国内大规模监控与自主武器（含目标选择）写「should not… without appropriate human oversight」——「不应」不是硬否决。挂 frontier-governance；对人名与引语以 BBC 为准。

一、两条公开辞职与公司口径

Liguori 在 DeepMind 工作约三年后于报道当周辞职，并表示明知合同限制仍选择公开谈话：她认为把事实说出来不等于「批评」，且「people are scared of retaliation」。Kirsch 在月初离开，判断分两层——当下军事/机密部署的监督不够；面向未来的 ASI 安全发展同样不够。两人都把焦点放在可见性与否决，而不是抽象反对「政府用云」。

Google 向 BBC 的回应是标准制度叙事：全球公共部门合同有一致审查流程；遵守可接受使用政策与 AI 原则；员工有安全举报渠道，并禁止报复。这套口径回答的是「有没有流程」，没有直接回答 Kirsch 的那句——流程是否包含对五角大楼下游用途的合同否决权。

背景里，多家科技公司今年签署允许 AI 进入机密军事环境的协议；美国国防部长将「AI-first warfighting force」当作优先级表述（BBC 引 Hegseth）。Maven Smart System（Palantir 为主的情报与目标辅助平台）被用作「AI 已进作战辅助链」的公共例证；退役将领 Jack Shanahan 对 BBC 表达的担忧是：部署速度可能压过测试与评估纪律。这些是战争与采购语境，不是 DeepMind 单家产品说明。

二、合同语法：合法用途 vs 「不应」

BBC 转述的 Google 与五角大楼合同要点值得逐字对待：

允许用于 any lawful government purpose；
should not 用于国内大规模监控或自主武器（含目标选择），除非有适当人类监督与控制。

「任何合法政府用途」把默认空间拉到法律边界；「不应」是规范语言，不是自动熔断。AI 原则页上的「human oversight」「international law and human rights」若不能映射成合同里的审计权、停用权与下游可见性，就停留在品牌层。站内写过的 Anthropic AEGIS 讨论稿把「叫停权」收成商务部申请与法院路径——无论读者是否赞同其门槛，它至少承认：叫停是程序，不是原则句子。

Sarah Shoker（前 OpenAI 地缘政治团队负责人）对 BBC 指出的风险更操作：AI 压缩决策时间，在高压力环境下，人类难以对大量 AI 筛选的目标做有意义复核。这与「有人类在环」的勾选不是同一件事——在环可以是形式，也可以是有时间预算的实质审查。前 OpenAI 员工的评论在此只作专家观点，不代表 OpenAI 官方立场。

flowchart TB
  P[AI 原则：监督 / 人权] --> C[政府合同]
  C --> L[any lawful government purpose]
  C --> S[should not: 监控 / 自主武器]
  L --> D[下游部署可见性?]
  S --> V[合同否决权?]
  D --> Q{员工退出 / 内部申诉}
  V --> Q

三、恐惧、换岗与以色列合同阴影

BBC 引述的现任匿名员工描绘两种反应：有人走，有人觉得「大公司能指望什么」；另有人担心早期职业管道会填满离职留下的坑——「换岗」可能改变内部制衡，而不改变合同。Liguori 对竞业与终身不得公开批评条款的描述，解释了为什么具名采访本身就是治理信号：当正式渠道被认为无效或危险时，出口变成新闻。

以色列相关争议（Project Nimbus 等）在报道中作为背景叠加，而非本次辞职的唯一原因。Google 过往对 Nimbus「不指向高敏感军事工作负载」的说明，与「今年扩大机密军事环境」的新合同并置时，员工读到的是方向，不是单页 FAQ。加沙相关 AI 目标系统纪录片引发的辩论，BBC 同时引用以方否认——本文不裁判战争报道，只标记：军事 AI 伦理争论已经回流到民用实验室的人力稳定。

对读白宫前沿责任承诺与多州消保诉：一边是自愿承诺与联邦/州立法争夺「谁能叫停」；一边是公司内部用脚投票。两者约束力不同，但指向同一缺口——原则页上的词，有没有对应的合同权利与审计轨迹。

此类报道的方法限度也要写进阅读预期：BBC 采访的是愿意说话的离职者与匿名在职者，不是随机样本；Google 的制度回应无法在新闻篇幅里被合同全文验证。读者若要升级判断，应去对公开采购文件、原则页修订记录，以及是否出现可独立审计的用途限制——而不是把两个人的引语外推成「实验室集体溃败」。与同周银行拦代理对照时，反差有启发：金融资产方能用登录拦截立刻改默认；国防合同方的用途限制往往藏在机密附件里，外部与员工都更难核实。可见性不对称，本身就是治理缺口的一部分。

四、收束

把「叫停权」从口号落成可观察指标，清单可以很短：开发方能否获知模型在机密环境中的版本与护栏配置；发现滥用时合同是否规定停用时限；用途扩展是否需要双方书面同意而非单方「合法即可」。若三项皆无，原则页上的监督句子就主要服务外部沟通。Kirsch 把同一套担忧延伸到 ASI，是在说：今天军事部署里缺的可见性，明天不会因为模型更强而自动出现——更可能因机密性要求而更难出现。这是时间线上的警告，不是已经发生的 ASI 事故。

三句。第一，辞职新闻的信息量在合同结构，不在道德口号——「羞愧」是态度，「无否决 / 低可见性」是可核对的治理主张。第二，「不应」≠ 叫停权——合法用途条款把默认打开，should not 依赖下游自愿与监督质量。第三，人事出口是弱信号，却是真信号——匿名恐惧与具名违竞业采访，说明内部申诉渠道的可信度已进入公共议程。

DeepMind 不会因为两篇BBC采访而取消国防合同；读者也不应期待一篇博客改变采购。值得持续盯的是更干的文件：合同是否出现可执行的用途限制与审计权、机密环境中的模型版本与护栏是否对开发方可见、以及叫停路径是否写明触发条件。原则写在纸上很容易；否决权写在合同里，才会改变 Kirsch 那句话的真值。

同周多家公司签下类似军事环境协议，说明这不是 DeepMind 孤例，而是行业转向：云与模型厂商进入机密工作负载后，民用实验室的伦理叙事必须与采购文件对读。员工用脚投票提供的是滞后信号——合同往往在公开争议前已生效。对读者更有用的跟踪方式，是盯原则页修订、股东与民事社会提的披露要求，以及合同摘要是否出现可执行限制，而不是等待下一位愿意违竞业的工程师。