AI Notes

观察 · 上海

二十国加欧盟要控制前沿模型,暂停权还在公司里

9 月 22 日的外交声明要求部署前测试、独立评估和严重事故共享,并探讨越线时召集国家。它没有罚则,也没有现成的暂停按钮。

荷兰政府把这份文件标成外交声明,日期 22-09-2026,标题不绕:A Call for Control of Frontier AI Models。署名里看得到挪威、芬兰、澳大利亚、加拿大、欧盟委员会、德国、新加坡、南非,后面还有一个「等」。加起来,是二十余个国家的领导人和欧盟委员会。

他们要的不是某一家实验室出来道歉。人必须保持对前沿模型的指导与监督。页面上的措施分几截:部署前要测试;评估不该只由训练的人自己做;严重事故要共享;再探讨一种国际机制,模型越过某条线时,把国家召集到一起。没有罚款表。没有一个已经存在的暂停按钮。

TL;DR:这份呼吁没有执法权。它把「人必须能够叫停」从公司博客里抬出来,变成政府页面上可以引用的句子。

新的只有「把国家叫来」那一截

部署前测试、独立评估、事故共享,都听过。少了最后一截,文本就退回「大家都同意要负责任」。多出来的「探讨召集」,是承认有一种情况:单家公司或单一政府不愿意停,行为已经越线,于是国家要被当成一群人叫到场。

设想还不是机构。9 月 22 日停在「应当有地方可召集」,没停在「召集之后能够暂停」。文类就这么定了。政治信号,不是行政命令,更不是条约的执行细则。

信号仍有对象。正在把前沿模型送进产品的人,以及还在看要不要为这种产品单独立法的政府。没有牙齿的声明,对象若写对了,作用是把下一轮争论的主语先占上。它结束不了争论。

署名国的分量并不一样,欧盟委员会也不会替所有成员国按同一个开关。读成铁板一块是错的。更薄、也更准确的读法是:利益并不一致的政府,愿意把「人的监督」放进同一个标题。共识薄,所以只能呼吁。把它报道成国际管制已经落地,同样读错。

句子换了主人,按钮没有

这一轮里,放慢、暂停、红队、责任,草稿常常先出在实验室。政府转发,开会,句子的主人仍是公司。9 月 22 日反过来。政府写下「控制」,实验室变成被谈论的一方。

公司再说「我们的安全流程已经够了」,就不再只是说给用户听。它也是说给一组已经把流程写成外交语言的国家。这产生不了处罚。它产生对照。软约束做的事,是让下一份更硬的文本不必从零解释自己为什么该存在。以后若有国家讨论许可证或暂停令,这份联署会被翻出来,当作不是突然起意。政治文件常常就靠被翻出来。

同一天,Anthropic 发布 Claude Opus 5.5,并写成自己呼吁放慢前沿之后的第一次发布。多数工作达到 Fable 5.1 的水平,典型负载比 Opus 5 便宜约四成,发布前由 Frontier Design 和 METR 做了外测。公司用降价、外测和「我们记得说过要慢」占满这个日期。国家用联署占满同一个日期。两边都没有宣布停更。

所以这一天不是一边倒的转折。能力继续交,包在审计和价格里。政治继续把措辞往上抬,措辞还不是许可证。只看模型,会以为治理只是博客底部的安全说明。只看声明,会以为前沿模型已经进了国际管制。管制的句子先到了。牙齿没到。句子写得锐,不等于制度已经有那么强。

暂停权今天在发布按钮旁边,按钮在公司里。联署讨论的是按钮以后该对谁可见,越线时谁有资格把人叫进房间。房间还没建。Opus 5.5 照样发出去,就是这个结构在同一天的例子,不必等下个月的统计。

事故共享最好答应,也最好被掏空

几项里,严重事故共享最像大家都能接受的底线。也因此要问颗粒。共享的是一行公关摘要,还是别的实验室能据此复现失败模式的技术事实?交给签署国的某个联络点,还是很快就会变成媒体标题的公开渠道?迟到的算不算交了?

声明给了原则,没答这些。原则的用处是:从此「不共享」需要解释。操作问题空着,各家就会交自己愿意交的那个版本,够看出来有诚意,不够让别人防住下一次。独立评估是同一套结构。题目、经费、时间若仍由被评估的人安排,独立就独立在 logo 上。

现在还不到嘲笑这些词空转。它们刚刚被抬到政府层。等它们真的空转,也得记得是这份文件先把它们变成了可以指出来的义务语言。没有这层语言,连空转都没法指。

把声明当成治理已经做完,会耽误立法。把它当成一张废纸,下一次还得从头吵国家为什么有资格出现在发布问题里。暂停权此刻仍在公司手里。荷兰政府这页至少让「暂停权应该在哪」变成一个可以链接、可以按外交日期定位的问题。问题被抬出来的那天,不是控制做成的那天。

参考

事实、出处或判断有误,欢迎 写信纠错或补充 。

返回目录