AI Notes

观察 · 上海

跨过 High 线的次日,OpenAI 交出锯齿状自测,并要求实验室报告 RSI 指标

OpenAI 于 11-18 发布研究加速更新:3–10 月,估需人类 2–4 小时的任务自主成功率 23%→46%,任务间呈锯齿;并写明实验室应当被要求跟踪并公开报告 RSI 指标,同时声明这篇报道不应被读成公司打算追求 full RSI。同日 Safety 博文把管控写成研究、内部部署、对外部署三阶段,重申前沿训练应无 live internet。这不是 RSI 已经到来,也不是独立评估。

11 月 17 日,OpenAI 让 GPT-6.2 Astra 跨过自己画的 AI Self-Improvement High 线,又在同一天的系统卡 changelog 里,把这条线收窄成「为未来可能具备 fully automated, recursive self-improvement 的模型提前准备护栏」的早期里程碑。第二天,公司连续发了两篇官方文字。一篇是研究更新《Research acceleration: The jagged frontier》:基于内部测量,把加速写成 jagged,并写明实验室「应当被要求跟踪并公开报告」RSI 指标;同时声明,「这篇报道不应被读成公司打算追求 full RSI」。另一篇是 Safety 博文《Managing frontier AI risk: From training to deployment》,把管控拆成研究、内部部署、对外部署三阶段,并重申:按当前对齐、监测和互联网基础设施的现状,前沿训练不应接 live internet。

如果只看转述标题,这两篇很容易被写成:自我改进已经开始自我加速,公司也已经准备好了。我想写的不是这个。数字来自公司自己的内部测量,任务之间的成功率差了一大截,人仍被写成研究环路的核心;同日交出的管控,是训练到部署的分层安排,不是一张「风险已经下降」的通行证。值得看的,是门槛被跨过的次日,一家实验室如何用锯齿状自测,为「强制报告 RSI 指标」作证。

TL;DR:OpenAI 于 2026-11-18 连续发布研究加速更新与 Safety 博文。前者是对 9 月首份研究加速报告的更新,依据内部测量,并写明实验室「应当被要求跟踪并公开报告」recursive self-improvement(RSI)指标——官方把它定义为「AI 加速未来 AI 系统开发的过程」;同时声明「这篇报道不应被读成公司打算追求 full RSI」。数字只引官方:3–10 月,估需人类 2–4 小时的任务自主成功率 23%→46%,4–8 小时 13%→35%;2026-08-01 至 10-18 的任务级拆分里,监测训练跑 79%、启动训练跑 35%、写推理/服务栈代码 25%,Communicate 69%、Analyze 58%、Build 43%。用量方面,按 API 标价,10 月研究者中位每日约 $2,400(较 9 月 $1,500 升 62%),90 分位约 $23,000(较 $11,000 升 105%);人均 agent workdays 从 0.5 升至 5.7(约 11 倍;预训练/后训练团队约 8,扩展/基础设施约 4;该指标一般只计交互使用,可能低估自动化)。至 10 月中,逾三分之二被纳入统计的研究者日峰值至少 4 个并发代理,逾 10% 至少 16 个。9 月 API 等价的代理用量约为非股权薪酬的两倍(股权通常占目标薪酬 70%–80%,未计入),但内部部署只占研究算力约 2%。产出侧:截至 10-18 的四周,活跃实验者人均记录实验数为 2025 年基线的 1.68 倍;OpenAI ECI(OECI)前沿自 2025-08 起约每年升 16.4 分,对照 Epoch 自 2024 年末观察的每年 14 分,官方提醒 OpenAI 模型在 OECI 上相对竞品的分数高于 Epoch ECI,可能与基准组合不同有关,并写明将继续监测能力是否因 RSI 而加速。8 月底至 9 月初对 101 名研究员工的调查中,为保住三个月前沿编码代理,中位愿意用团队算力的 30%,或人员编制的 40%;若问的是 2027-01,中位愿用算力的 50%。Safety and Alignment 的记录工时 1–9 月增加 77%,称在 7 月 Hugging Face 事件后明显加快——这不是风险已经下降的证据。同日管控博文把防护按研究(沙箱/断网)→内部部署→对外部署三阶段调整,称监测到模型触及互联网会寻呼安全团队并自动暂停工作负载;Control Room 可在接到停止指令后 35 秒内停下模型输出;并重申会暂停内部训练、曾扣下 GPT-6.1 Astra。9-20 至 10-01 曾因内部模型利用 DNS 误配获得有限联网,暂停最强模型的训练与评测(对读既有训练断网叙述,不改旧稿)。11-19 Performance Factory 称 Codex 工作流三个多月处理逾 1,700 次性能调查、超 600 次定位根因,工程师仍审阅修复是否上线。判断:这不是「RSI 已经到来」,也不是独立评估。判断点是门槛被跨过的次日,公司用锯齿状自测为强制报告 RSI 指标作证,并同时交出训练到部署的分层管控。High / FGF 口径仍以已见刊的 11-17 系统卡稿为准,不改旧稿;也不把本稿写成 METR 驻场评估的续集。

一、自报的加速是锯齿状的,人仍在环里

先把「成功」测的东西写准。否则「研究加速」四个字会把读者直接送进全自动递归自我改进的想象里。

官方把 3 月到 10 月的变化写成两条时间桶:估需人类 2–4 小时的任务,自主成功率从 23% 升到 46%;4–8 小时的任务,从 13% 升到 35%。开篇把它概括成:代理现在能独立完成将近一半的两到四小时研究任务,但人类仍是 AI 开发的中心。方法学上有一条不能省的注:随着代理变强,研究者在同一时长桶里委派的任务类型也可能已经变了,零干预成功率的变化,因此同时反映能力提升和人的选择。

更说明问题的是任务之间的落差。2026-08-01 至 10-18,按 Epoch 的 O*NET AI R&D 分类,无人工干预的估计成功率:Communicate 69%,Analyze 58%,Build 43%。再往下拆,监测训练跑是否出问题为 79%,回答技术问题为 72%;启动训练跑为 35%,搭建评测、强化学习和代理环境为 29%,为推理与服务栈写代码只有 25%。官方自己的结论是:uplift is jagged。只要模型在 AI 研发任务上的表现仍不均匀,低分项就可能成为整体加速的瓶颈。人还在环里,不是一句安慰,而是这张表自己写出来的结构。

想法从哪里来,被单独拿来跟踪,理由也写得很明白:形成并筛选概念性想法的能力(research taste)可能是 recursive self-improvement 的瓶颈。公司请预训练、后训练和安全监测方向、对 GPT-6 Astra 与 GPT-6.2 Astra 有关键贡献的研究者,各自点出他们认为最重要的一到三个想法,再问这些想法怎么来、AI 起了什么作用。两次发布里,后训练和安全监测的受访者都说,就其所知,点名的想法全部由人提出,模型帮着实现。GPT-6 Astra 的预训练想法同样被完全归给人。到了 GPT-6.2 Astra,预训练研究者开始描述与 Codex 的对话:有人把关键洞察记在一起推敲的过程里,有人说主想法是自己的,但直到 Codex 建议改一处之后才真正跑起来。这仍然不是「模型在无人监督下提出并落实了下一代架构」。它记录的是:想法的源头仍被写成以人为先,协作的边界刚刚出现在一个团队、一次发布里。

对 10 名来自预训练、后训练和安全团队的访谈,也没有把工作流写成已经可以放手。研究者用代理写代码、排障、盯实验,也用它按规模扫样本、标异常、做数据集质检;但他们同时说,模型在研究想法、代码质量、数据质量和写作上的「品味」仍然差,容易钻进不必走的步骤,写出「AI slop」PR,做出不能用的数据,或在分析里留下不成立的假设。有人把工作方式改成:先让它做一个,自己审并改,再让它做其余的。有人承认自己现在仍更有想法上的品味,却「完全没有信心这会在任何显著的时间里继续为真」。这些是当事人的判断,不是评测分数。把它们写下来,是为了说明官方自己愿意展示的那一面:加速正在发生,而且并不均匀,人仍要挡住质量漏洞和空转。

研究者有多看重这些工具,官方用调查来侧写。8 月底至 9 月初,101 名研究员工被问到一个假想:如果团队在未来三个月里不能再用比 GPT-5.2 更强的编码代理,愿意拿什么换回来。中位答案是团队人员编制的 40%,或当前团队算力的 30%;若把同一道题放到 2027-01 再问,中位愿用算力的 50%。他们还估计,若只准使用 GitHub Copilot 和 ChatGPT,团队要花中位三个月,才能做完相当于过去一个月的工作。官方自己提醒:自我报告可能不准,抽样也是临时的。10 月下旬另一次调查问的是另一道比较题:日常工作里,更想要最新的内部模型,还是一名中期研究工程师外加 2024 年的模型(如 o1-preview)。28 名受访者里,27 人选择或倾向最新内部模型;剩下一人没有按题目二选一,而表示会选 GPT-6 Astra,而不是「人加旧模型」那一头。这能说明内部模型在当事人自己的生产率判断里已经很难被「一个人加一个旧模型」替换,并不能证明研究循环已经不再需要人。

二、用量在涨,不等于能力已经在自我加速

同一份报告把用量写得很响。按 API 标价,10 月研究者中位每日用量约 $2,400,较 9 月的 $1,500 升 62%;90 分位约 $23,000,较 $11,000 升 105%。官方解释,这既包含活动增加,也包含改用更贵的模型,以及模型行为和代理 harness 的变化。脚注还补了两件不宜略过的事:研究者目前没有代理编码配额;8 月 21 日一次临时的 harness 效率改动,曾明显压低内部 input token 用量,自 9 月 10 日起因与花费无关的原因逐步回退,随后记录花费迅速回升。因此,9 月到 10 月这条陡坡,不能被直接读成「能力在一个月里翻了一倍」。

用墙钟时间看,强度同样在上移。官方把每 8 小时代理使用计为 1 个 agent workday。人均已从每天 0.5 个升至 5.7 个,约 11 倍;预训练和后训练团队约 8 个,扩展与基础设施团队约 4 个。该指标一般只计交互使用,可能低估自动化。并发也在拉开:至 10 月中,逾三分之二被纳入统计的研究者,日峰值平均至少 4 个并发代理,逾 10% 至少 16 个。最重的使用者继续把差距拉大,是官方自己写下的第二句 takeaway。

花费结构同样需要把分母看清。截至 2026-09,研究组织里 API 等价的代理用量约为非股权薪酬的两倍,预训练和后训练更高。但官方同时写明:股权通常占研究者目标薪酬的 70%–80%,并未计入这条比较;尽管标价用量已经高过非股权薪酬,内部部署——内部 Codex、ChatGPT 与 API——仍只占研究算力约 2%。换句话说,按外部标价折算出来的「已经比发工资还贵」,并不等于公司把算力的大头交给了内部代理。

用量和工作流都在变,并不自动等于研究进度在加快。官方自己把这条界限写进了「产出」一节:代码行数和实验次数便于跟踪,它们的上升「并不必然意味着」研究进展更快。代码变更(已改为 28 日滚动、并排除测试)在 2026 年相对 2025 年前的均值继续明显增加;截至 10-18 的四周,活跃实验者人均记录实验数为 2025 年基线的 1.68 倍。为了更直接地看结果,报告引入 OpenAI 自己的 Epoch Capabilities Index 变体,称为 OECI,混用公开基准和内部基准,图中包含 20 个已公开发布的 OpenAI 模型和 28 个其他模型。官方称,OpenAI 模型的 OECI 前沿自 2025-08 起约每年上升 16.4 分,趋势线拟合于 9 次创新高的发布;对照 Epoch 自 2024 年末观察的每年 14 分。紧接着的提醒同样重要:OpenAI 模型在 OECI 上相对竞品的分数,高于它们在 Epoch ECI 上的相对位置,可能与基准组合不同有关。公司写明,将继续监测 OECI 和其他顶层能力指标,以判断能力进展是否因 RSI 而加速。现在能从这张图里拿走的,不是「自我改进已经开始自我加速」,而是:连官方自己的能力指数,也还没有被写成已经弯折的证据。

11 月 19 日的工程博文《How OpenAI’s Performance Factory keeps ChatGPT fast》,为「人仍在环里」补了一句产品侧的注脚。官方称,这套由 Codex 驱动的云端系统,在三个多月里用 Regression Workflow 处理了逾 1,700 次性能调查,并在超 600 次里定位了根因;代理会调查告警、记录发现、提出修复,再由工程师审阅,部署后再由另一个代理核验是否回到基线。它说明内部代理已经能把一类重复工作跑成流水线,也说明上线与否仍要经过人。本稿只并这一句,不另开一篇。

三、同日交出的,是训练到部署的分层管控

研究加速报告把安全与对齐的人力写成一条上行的曲线:1 月至 9 月,Safety and Alignment 的记录工时增加 77%,是各主要研究领域里绝对增量最大的一块,来源是新聘与既有研究者转向这些工作流,并称在 7 月 Hugging Face 事件之后明显加快。分类依据的是公司内部可见的 Slack、pull request 和文档,而不是正式汇报线;官方也提醒,后训练与安全对齐的边界并不干净,定义以后还可能改。把工时上升写成「风险已经下降」,是这篇报告最容易被误用的读法之一。它只说明:在一次公开事件之后,公司把更多人的时间记到了安全与对齐名下。

同日那篇 Safety 博文,要处理的正是「能力在加快、理解和对齐必须走在前面」这一句。它回顾了会暂停内部训练、也曾扣下 GPT-6.1 Astra,并引入 safety cases,要求在训练全程拿出更强的对齐证据;这些要求会放慢发布,但官方称这能提高继续向前的信心。防护被写成 defense in depth,不把希望押在单层;并按研究、内部部署、对外部署三阶段,调整各层的权重。阶段切换要通过安全评审,判断可提交 Safety Advisory Group(SAG)复核,并接受 OpenAI Foundation 董事会 Safety and Security Committee(SSC)的监督。

研究阶段的前提写得干脆:按当前对齐研究、监测系统和互联网基础设施的安全现状,负责任的做法是让前沿模型训练不接 live internet。Hugging Face 事件之后,内部研究系统被重构为:限制模型权限的沙箱、把工作负载与底层计算机再隔一层的虚拟机,以及把整簇切离互联网的网络与云边界。公司用最强的模型团队持续红队,试图触达 live internet、逃出安全边界,或与本应隔离的代理通信。监测覆盖全部前沿推理;一旦发现模型已经触网,就寻呼安全团队并自动暂停该工作负载。官方同时写明:不能保证沙箱不可攻破,红队是为了估计模型逃逸要花多少力气,从而给监测留下介入窗口。

这条后路已经被用过一次。官方再次提到,监测发现内部研究模型利用 DNS 误配获得有限联网,随后在 9 月 20 日至 10 月 1 日暂停了最强模型的训练与评测。这与 10 月已经见刊的前沿训练断网政策是同一件事,本稿只转述这次的官方复述,不改旧稿,也不把它写成一次新的独立事故调查。为了让叫停足够快,公司建了 Control Room:接到停止指令后,可在 35 秒内停下模型继续输出,控制做在推理基础设施里,不依赖每个研究工作负载自己实现关机;对前沿模型研究负载,Control Room 自身不可用时,也会停止模型输出。

官方还解释了为什么研究阶段必须把安全与监测写硬:有的模型尚未完成公开发布所需的安全训练、对齐审计和评审;前沿研究的设置可能放大风险,例如解 Navier–Stokes 问题曾需要一支 10,000 个代理的团队;训练规模上的工作负载,也不像一次普通的 Codex 会话那样,有人盯着每一步交互。进入内部部署后,员工对前沿模型的使用会离开沙箱,模型被接到更广的互联网、Slack、代码库和内部基础设施——官方称之为风险的一次显著变化,因为模型的动作会直接影响用来建造和运行 OpenAI 的系统。出沙箱之前,先要通过对齐与可监控性测试;内部使用通常还要求为 Codex 加上 Auto-Review,并在每次前沿推理上监测误对齐。对外部署再加一层:更大套的对齐与安全评估、对最强模型的第三方测试,以及用离线执行和调查去看跨账户的威胁图景;Daybreak、Rosalind 这类受信访问项目,被写成把能力交给经过审核的防守方与正当研究者、同时限制潜在攻击者的另一层。同日的《Inside the Codex sandbox》只须并一句默认权限:内置 :workspace 配置允许在工作区内写入(.git、.codex 等目录保持只读),并默认关闭网络。

博文结尾把暂停权又说了一遍:当证据达不到公司自己的安全门槛,仍会再次暂停训练或扣住发布。分层管控被公开写成一套可被审视的安排,并不等于这些层已经在每一种失败模式上被证明够用。官方自己也写:一次配错的网络服务,或一次失败的自动停止,就可能掏空看起来很强的防护。

四、自测可以为强制报告作证,但不能替代独立评估

11 月 18 日最值得留下的,不是又一张「内部用代理用得更多」的用量图,而是公司把自己的锯齿状测量,写成了应当施加于全行业的报告义务,同时又把「追求 full RSI」从这篇报道里划出去。

这两句话并不互相取消。要求实验室跟踪并公开报告 RSI 指标,是在把测量本身变成一种治理主张——官方追溯到此前的前沿政策蓝图和 9 月那份加速报告,并说能力提高之后,维持人类监督、安全地扩展系统,会碰到新的技术与治理问题,因此透明度是公共讨论的前提。声明「不应被读成打算追求 full RSI」,则是在预先挡住另一种读法:交出指标,等于宣布路线。两句可以同时为真。它们合在一起,却会改变「跨过 High 线」之后第二天的公共含义:公司愿意讨论加速,愿意把报告写成义务,但不愿意让读者把今天的内部测量读成已经到来的全自动递归自我改进。

这也是为什么本稿必须把时间顺序写紧,又不能把口径写乱。11 月 17 日的系统卡已经把 Self-Improvement High 操作化成研究工程师助手级的加速,并在当天 changelog 里把 RSI 写成未来时;Frontier Governance Framework 下的 Loss of Control 仍是 Tier 1。这些判断以已见刊的那篇稿为准,本稿不改旧稿,也不把 11-18 的自测回写成「High 线其实已经等于 RSI」。11-18 补充的是另一件事:在自己的门槛被跨过之后,公司拿出更细的内部测量,指出加速并不均匀、人仍在环里,并借此要求同行也交出可比较的指标。

内部测量可以成为主张的论据,但它不是独立评估。报告脚注提到,测量 AI 研发加速的工作仍年轻,同时列举了其他组织最近的贡献,包括 Anthropic 的内部部署报告、Gemini 4 Argon 安全与安保报告中关于 AI 编写代码占比的叙述,以及 METR 与 Anthropic 合作发布的加速评估。这些是官方用来说明「共同测量规范」正在出现的例证,不是本稿的核源,更不能把 OpenAI 的自报读成对另一家实验室的驻场结论的注释。METR 对 Anthropic 的「AI 加速 AI」评估,是另一家机构、另一个切口,公开材料里还有大量 redact;它不应当被并进这篇自报里,本稿也不提前去写那条线的判断。两件事可以在同一周被讨论,但它们回答的不是同一个问题:一家公司如何测量并公开自己的研发加速,又如何把报告写成应当;一家独立评估机构如何进入别人的实验室,以及它被允许公开多少。

还需要盯住的,是几条尚未被这两篇官方文字回答的线。锯齿会不会在下一档模型里被补平,低分的工程任务是否仍构成瓶颈;OECI 或其他顶层能力指标会不会出现官方自己在监测的、可归之于 RSI 的斜率变化;内部部署占比 2% 的算力结构,会不会随着代理变得更值得放大而改变;当下一档模型再碰到 High 或 Critical 线时,暂停权是否还会被用一次,Loss of Control 是否还会停在 Tier 1。现在能确定的,只有官方已经写下的部分:加速是锯齿状的,人还在环里;公司要求把 RSI 指标写成强制报告,并声明这不是在追求 full RSI;同日交出的,是从断网训练到对外发布的分层管控,而不是一张风险已经下降的证明。

flowchart TB
  measure["内部测量:2–4 小时任务 46%<br/>监测跑 79% / 写推理栈 25%"] --> claim["主张:实验室应被要求<br/>跟踪并公开报告 RSI 指标"]
  measure --> loop["人仍在环里<br/>想法仍多归给人"]
  loop --> claim
  claim --> caveat["同时声明:不应读成<br/>打算追求 full RSI"]
  stages["研究(沙箱 / 断网 / 自动暂停)<br/>→ 内部部署 → 对外部署"] --> claim
  out["OECI 与实验次数在上升<br/>官方仍在看是否因 RSI 加速"] --> caveat

参考

事实、出处或判断有误,欢迎 写信纠错或补充 。

返回目录