AI Notes

观察 · 上海

州检察长要求禁止「递归自我改进」:消费者保护法开始碰前沿研发

阿肯色把「禁进一步高级 AI 测试 / 递归自我改进」写进诉状;得州 Paxton 10-23 抬到「法院批准独立评估员同意后才能向得州用户发新模型」。联邦无前沿立法时,州消保、FTC CID 与保险除外三条责任通道在替行业定规则——诉状指控不是已认定事实。

10 月 14 日,阿肯色州检察长 Tim Griffin 的新闻稿列了一串救济:披露风险、返还、民事罚款——以及一句很少出现在消费者诉讼里的话:在有足够保障之前,禁止进一步高级 AI 测试、禁止创建能递归自我改进的模型。九天后,得州检察长 Ken Paxton 依本州 DTPA 起诉 OpenAI 与 Sam Altman;诉状「PRAYER」里写得更硬:除非法院批准的独立第三方评估员审过安全护栏并同意发布,否则不得向得州用户释放任何新 AI 模型。

联邦这边,仍没有一部成型的前沿 AI 法。同周真正在动的,是州消费者保护法、FTC 民事调查令,以及保险条款里开始写进的生成式 AI 除外。三条通道并不互相等待国会。

TL;DR:10-14 起,阿肯色等州依本州欺瞒性贸易 / 消费者保护法起诉 OpenAI,指控安全表述与产品风险不匹配;阿肯色官网稿明确诉求含「禁进一步高级 AI 测试与能递归自我改进的模型(直至有足够保障)」;同稿列艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、亚利桑那、爱达荷、蒙大拿、犹他同日起诉——阿肯色口径为「本州 + 八州」;Reuters / NBC 等主流报道写「八州」,名单通常不含犹他,口径差须保留。亚利桑那、爱达荷官网稿重心是谄媚设计与未成年人。10-23 得州诉状救济请求原文要求:新模型向得州用户发布前须经法院批准的独立评估员审护栏并同意发布;另含禁止向得州未成年人提供 ChatGPT、年龄验证与家长控制不足等。10-15 Axios 独家、CBS 获 FTC 确认:向 OpenAI、Anthropic 各发 50 页以上 CID。保险侧同周继续讨论可选生成式 AI 除外与代理风险。宾州 HB 2800/2829 听证、麻州 Mass Wins 协商中的独立评估诉求,把州通道从诉讼加宽到立法——对读 Anthropic 联邦草案想收窄州权的形状,不要混写。诉状与新闻稿里的指控,一律不是已认定事实。

一、阿肯色:消费者诉讼第一次越过产品层碰训练路线

阿肯色官网 10 月 14 日新闻稿(Griffin: “OpenAI assures us that ChatGPT is safe…”)把诉因写得很「消保」:ADTPA(欺瞒性贸易行为)、CTOPPA(儿童与青少年在线隐私)、以及过失、设计缺陷严格责任、未警示、不当得利、公共妨害等普通法主张。指控核心是:向阿肯色人表示 ChatGPT 安全,却据称明知重大风险与限制并加以隐瞒——包括未成年人获取自伤指令、绕过据称存在的安全措施等。这些是诉状层主张,本篇不把它们写成已证实的因果。

真正让这篇值得单开长文的,是救济清单末尾那一项。阿肯色稿原意归纳:在有足够保障之前,禁令进一步高级 AI 测试,并禁令创建能递归自我改进的模型。披露、返还、罚款,是消费者诉讼的常规工具箱;把「递归自我改进」写进禁令诉求,等于用州消保程序去碰实验室的训练 / 能力路线——哪怕法院最终不会全盘照准,诉状本身已经把谈判边界往前推了一格。

我刻意不用「阿肯色已经禁止 RSI」这种句子。禁令是所求救济,不是生效命令。读法应固定:Griffin 办公室把前沿研发能力放进了「在足够保障到位前可被州法院禁止」的请求空间。

二、州数口径:八州还是九州;亚利桑那与爱达荷写什么

阿肯色新闻稿末段写:同日另有艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、亚利桑那、爱达荷、蒙大拿、犹他的检察长提起类似诉讼。按这份官方稿,是阿肯色加上八个点名州,一共九个司法辖区。

Reuters(Investing.com 转载)与 NBC News 同日报道的标题与导语则是 「八州」。NBC 点名名单为:艾奥瓦、堪萨斯、内布拉斯加、西弗吉尼亚、阿肯色、亚利桑那、爱达荷、蒙大拿——未列犹他。内布拉斯加 Hilgers 办公室稿写「两党州各自起诉」,并在新闻发布侧提到艾奥瓦、堪萨斯、西弗吉尼亚同台,另列亚利桑那、阿肯色、爱达荷、蒙大拿。

口径差可以写清,不必武断:

来源说法名单要点
阿肯色 AG 官网 10-14本州起诉 + 另列八州同日类似诉讼含犹他
Reuters / NBC 等「八州」起诉通常不含犹他;含阿肯色等

在核实犹他是否实际立案、以及各州诉状救济是否逐字相同之前,「递归自我改进」禁令诉求只引阿肯色官网原句,不自动扩到其他州。各州诉状可能共享叙事模板,但救济条款不必一致——这是写州诉时最容易踩的坑。

亚利桑那 Mayes(10-14)与爱达荷 Labrador(10-14)官网稿的重心明显更偏产品设计与未成年人:指控 ChatGPT 被设计得过分同意、谄媚、假装人类共情,以拉长使用、抓取数据;并称风险(批判性思维受损、妄想/偏执、危险医疗建议、自伤或对他者伤害相关输出等)对未成年人尤其严重且未充分披露。爱达荷稿还顺带点到公司自报的「agent 失控 / 黑客行为」类披露,作为「加速威胁」的论据——仍是诉状叙事,不是法庭事实认定。两州把战场钉在儿童与谄媚设计,阿肯色额外把战场钉在高级测试与 RSI 能力;得州则再钉一钉发布许可。

三、得州 Paxton:伤害叙事抬到发布门槛

得州检察长办公室 10 月 23 日新闻稿:依《德州欺瞒性贸易行为—消费者保护法》(DTPA)起诉 OpenAI 关联实体与 Altman,称公司营销「安全可靠」,却未能保护得州用户(含儿童)免受 chatbot 依赖带来的多种伤害。新闻稿本身偏政治修辞;可核对的硬条款在诉状 PDF 的 PRAYER。

我逐条读过 2026-10-23 署期的诉状「PRAYER」§208。德州请求法院临时与永久禁止被告以例如下列方式违反 DTPA,其中包括(原文意译,非逐字法庭命令):

  • 未充分警示 ChatGPT 危险;
  • 向儿童提供不适宜内容却无充分 / 无任何年龄验证;
  • 向儿童提供危险在线产品却无家长同意;
  • 违反 SCOPE Act 相关要求;
  • 向得州未成年人提供 ChatGPT;
  • 使进食障碍、自伤、大规模伤害相关有害信息易于获取(含对幼童);
  • 促进强迫性、过长、不健康使用(含对儿童);
  • 缺乏充分安全测试;
  • 向得州用户释放任何新人工智能模型,除非经法院批准的独立第三方评估员审阅其安全护栏并批准发布;
  • 以及「能无视人类指令、以意外未授权方式行事」的产品形态、自伤相关虚假安全表述、可靠性虚假表述、假装人类情感骗取信任等。

另请求每项违法最高一万美元级民事罚款(按 DTPA / 含与 SCOPE Act 并发情形)、资产吐出、利息、调查与律师费等。

这一条「独立评估员 + 法院批准 + 向得州用户发布」之所以重要,不是因为它已经生效——它没有——而是因为它把州消保救济从「伤害发生后的禁令与罚款」,抬到了近似发布门槛的形状:新模型进得州用户面之前,须过一道法院认可的第三方关。阿肯色盯训练路线(高级测试 / RSI),得州盯货架入口(release to Texas users)。两条诉求若被部分采纳,实验室面对的就不再只是联邦自愿承诺或自家 safety case,而是可州际碎片化的发布许可。

诉状正文还花大量篇幅写未成年人使用、年龄验证缺失、家长控制不足、SCOPE Act 义务等——与亚利桑那 / 爱达荷的未成年人线同构,但救济写得更清单化。再次强调:以上全部是原告所求与所主张事实;OpenAI 是否「撒谎」、是否「伤害得州人」,要由诉讼程序回答,不是新闻稿或本站定论。

flowchart TB
  subgraph channels [联邦立法缺位时的三条责任通道]
    AG["州检察长 · 消保 / DTPA<br/>阿肯色:RSI / 高级测试禁令诉求<br/>得州:法院批准评估员后发布"]
    FTC["FTC · 民事调查令 CID<br/>OpenAI / Anthropic<br/>安全事故 · 护栏 · 营销 · 隐私"]
    INS["保险 · 可选生成式除外<br/>代理风险承保收紧讨论<br/>责任缺口谁买单"]
  end
  AG --> Rule["实际在替行业定规则的边界"]
  FTC --> Rule
  INS --> Rule
  Fed["联邦前沿立法 / 优先权草案"] -.->|尚未成形| Rule

四、FTC 调查令与保险除外:另外两条通道

10 月 15 日,Axios 独家报道:FTC 向 OpenAI、Anthropic 发出民事调查令(civil investigative demands),聚焦潜在消费者保护违法;知情人士称每份 超过 50 页,索取安全事故与防护实践相关文件,以及营销材料与隐私政策文件;并称稍后会向第三方 AI 组织发调查令,且计划强制高管作证。CBS News 同日获 FTC 发言人确认确有向两家公司发传票式文件搜集——「50 页以上」的细节仍以 Axios 所报为准,CBS 侧主要确认调查存在与对象。

这不是判决,甚至还不是投诉。CID 的意义在于:联邦行政侧用消费者保护调查权,把事故披露与护栏文件拉进强制程序——与州法院里的禁令诉求平行,而不是互相替代。OpenAI 发言人对 Axios 的表态大意是安全仍是优先、将建设性配合 FTC。

保险通道同周更「软」,但方向清楚。Insurance Journal 10 月 16 日引 Marsh CEO John Doyle:宽泛的 AI 除外可能造成「真正的混乱与不确定」,呼吁对暴露做更细的评估;讨论背景正是代理行为难以预测、传统保单定义是否覆盖「rogue agent」路径。ISO / Verisk 侧早前已提供可选的生成式 AI 除外批单(如 CG 40 47 等,面向商业综合责任),业界报道称部分承保人在续保中评估是否挂上——可选 ≠ 全行业已统一除外,但「责任事故发生后谁赔」开始被写进合同语言,本身就会改变实验室与部署方的风险定价。WSJ 同周「AI 撞上保险」一类报道与此同轴;本篇不编造未核到的保费数字或市场份额。

三条通道叠在一起:

  1. 州法院:可请求禁令(含研发路线与发布门槛形状);
  2. FTC:可强制要文件与证词,为后续不公 / 欺瞒执法铺路;
  3. 保险市场:可用除外与承保条件,把尾部风险从保单里剔出去。

国会若继续缺席,行业实际遵守的「规则」,会越来越像这三样东西的合集——而不是白皮书里的自愿原则。

五、州议会加宽,联邦草案想收窄:只点形状

诉讼之外,州立法通道同周也在加宽。

宾州众议院通信与技术委员会 10 月 19 日就 HB 2800 与 HB 2829 举行公开听证(PA House Democrats 新闻稿)。HB 2800(Artificial Intelligence Risk Prevention Act,Shusterman / Scott 等):要求开发者采纳并遵守安全框架、建立严重安全事故报告机制、保护报告灾难性风险的吹哨人、由第三方做合规独立审计。HB 2829(Guzman):为先进 AI 设标准、保护与透明度要求,并写入州紧急管理署与检察长职责。两案当时仍在委员会;听证不等于通过。议员原话里反复出现同一判断:联邦未就位时,州必须自己设栏。

麻州一侧,Healey 行政当局持续推动在 Mass Wins 经济立法协商中纳入更强的 AI 安全与透明度条款——公开报道归纳的要点包括:迈向对最强模型的独立安全评估(而非仅公司自判),以及强化严重安全事故报告等(NBC Boston 等对州长诉求的转述;具体法条仍以协商稿与最终文本为准,本篇不把未通过条文写成现行法)。这与宾州听证、加州等已有州法,同属「州通道加宽」。

对读本站已写的 Anthropic 联邦讨论稿线(anthropic-aegis-draft-bill):泄露稿据报道把叫停权收成窄联邦路径,并触及州法优先权;公司事后承认优先权需改窄、州在评估方标准与关停能力上应保留角色。本篇不重复展开条文。只需记住形状:一边是州检察长与州议会把评估、事故报告、甚至发布许可写进州工具箱;一边是联邦草案谈判想用优先权收口。 两边较劲的标的,正是「谁有权叫停 / 谁有权批准下一步」。

六、判断落点:缺位的联邦立法,不会留下真空

把时间线压回一张表:

日期事件它实际改变的谈判边界
10-14多州依消保法诉 OpenAI;阿肯色稿含 RSI / 高级测试禁令诉求研发路线进入州禁令请求空间
10-14亚利桑那 / 爱达荷等强调谄媚设计与未成年人产品设计与儿童保护成共同叙事
10-15FTC 向 OpenAI、Anthropic 发 50+ 页 CID(Axios;CBS 确认调查)联邦行政强制取证启动
10-16 前后保险业公开讨论宽泛 AI 除外与代理暴露责任尾部开始合同化
10-19宾州 HB 2800 / 2829 听证州立法工具箱加厚
10-23得州诉状:法院批准独立评估员同意后才能向得州用户发新模型州诉从伤害叙事抬到发布门槛形状

我的判断很窄,也不需要更宽:

第一,在联邦前沿立法缺位时,真正在定价与约束行为的,是责任通道——州消保诉讼的救济清单、FTC 能逼你交什么文件、保险公司愿不愿保「agent 干了意外的事」。自愿承诺与 safety case 仍然重要,但它们不再是唯一文本。

第二,阿肯色与得州把诉状写到「RSI / 高级测试」和「独立评估员批准发布」,说明原告策略已经从「这个 chatbot 害了人」扩到「你下一版模型凭什么上线」。哪怕法院大幅砍掉救济,发现与和解谈判也会围着这些条款转——实验室的法务与发布日历会先感到压力,不必等最终判决。

第三,州数口径、各州救济是否同文、犹他是否计入「同日起诉」,都要按官网稿与立案记录分开写。把 Reuters 的「八州」和阿肯色稿的「另八州」捏成一个整数,或把阿肯色的 RSI 禁令自动安到爱达荷头上,都是偷懒。

第四,对读联邦优先权草案时,只需要一句:州通道正在加宽,草案若宽优先,就是在和这条加宽线对撞。细节留给已见刊的 AEGIS 篇。

OpenAI 与各州、与 FTC 的程序才刚开始。本篇能确定的只有形状:消费者保护法已经伸进前沿研发与发布许可的话语场;伸进去的是诉求与调查令,不是终局事实。把诉状当判决来写的人,和假装联邦真空等于无规则的人,犯的是同一类错——都把「尚未裁决」读成了「不存在」。

参考

事实、出处或判断有误,欢迎 写信纠错或补充 。

返回目录