AI Notes

观察 · 上海

清朗第二阶段:561 万条是执法样本,不是新条文

网信办 9 月 2 日通报「清朗·整治 AI 应用乱象」第二阶段:清理违法违规信息 561 万余条,查处账号 4.9 万余个,处置网站和应用程序 2400 余个。点名的是四类问题,不是一条新法。

中央网信办官网这篇的时间是 2026 年 9 月 2 日 10:30。标题是「清朗·整治 AI 应用乱象」专项行动第二阶段。累计清理违法违规信息 561 万余条,查处账号 4.9 万余个,处置违规网站、应用程序 2400 余个。聚焦的问题写了四类:用 AI 制作发布虚假信息,传播暴力低俗,假冒仿冒他人,侵害未成年人权益。当天 21:08,新华社英文稿把 561 万余条写成 more than 5.61 million,并提醒读者,生成式人工智能的规制和标识规则早就生效了。

数字大,会触发一种阅读:又一次清理。这次要停住的,不是把旧规则再抄一遍。9 月 2 日给出的是义务之后的样本。处理了多少,官方愿意把哪几类伤害写在显眼处。

TL;DR:信息量在执法规模,不在新定义。561 万余条是「截至目前」的下界。深度伪造冒充只是被点名的一类,不是这 561 万条的构成。

样本和条文不是同一种公共知识

条文回答什么算违规、谁有义务。样本回答义务被执行时,公开出来的世界是什么样。条文可以逐句解释。这则通报留下总数、四类优先事项,和七组打了马赛克的典型案例。总数让规模无法被否认。类型让优先事项无法被假装没看见。每一条为何被删,账号是封禁还是限期改正,2400 余个网站和 App 里有多少是生成工具本身,通报没有展开成可复算的清单。

因此不该把 561 万余条当成已经审计过的成绩单,也不该当成可以忽略的修辞。它是官方选择公开的执法量级。量级是事实。它不能换算成「乱象已清」,也不能换算成「处置过度」。换算需要个案。个案在通报里是示例,账号名是星号,不是全量底账。

「第二阶段」也是样本的一部分。前面有过一轮,这一轮是继续,不是从零开始的震惊。继续,才会出现以进展而不是以新法为体裁的新闻。还在这篇里找新定义条款的人,会觉得信息量不足。定义不是它的工作。新华社英文稿把背景放在已经生效的规定上:2023 年 8 月起的生成式人工智能服务义务,以及 2025 年 9 月起、要求文本图像音视频携带显式或隐式标识的规定。9 月 2 日不是把这些再立一遍。它是在计数。

假冒仿冒被点名,是因为伤害在身份上

生成式系统最容易被轻描淡写的滥用,是「看起来像某某说的」。轻描淡写会把问题说成鉴赏力,或说成平台还没做好水印。通报里的假冒仿冒不是鉴赏力。案例写的是抖音、快手、小红书、微信上的账号,用换脸、换声假冒公众人物,做低俗的图像和视频,借机营销。网信办把这件事放进第二阶段的进展,是把深度伪造从技术新闻的花絮栏挪进执法栏。

挪进去之后,机制争论还在。生成像不像,标识会不会被裁掉,本地部署能不能绕过云上的开关,通报都不回答。它回答的是:冒充已经被当成应被处置的那一类。9 月 2 日的列表上有它。旁边还有三类,虚假信息、暴力低俗、侵害未成年人,外加案例里的「魔改」经典和用 AI 托管做水军。点名是类型。总数是规模。中间的比例没有给出。不要把点名读成「这 561 万条都是深度伪造」。

标识规则的意义,也是在样本里才变得具体。标识若只在条文里,它是对提供者的写作要求。标识若进入清朗的处置,它就和删除、查处账号、处置网站和 App 出现在同一则通报里。链没有停在倡导。至于每一条删除是否对应一次冒充,没有可逐项核对的映射。

未成年人是内核,不是整篇通报的免死金牌

侵害未成年人几乎没有被正当化的公共空间,于是给这次行动一个最难反驳的内核。案例里写了 AI 生成的未成年人不当内容,也写了智能体的封面、简介和对话里含有淫秽以及危害未成年人身心健康的信息,拒不改正的可以警告、罚款、下架或关闭。假冒仿冒更容易引出对戏仿和技术中立的争辩。并列不等于两类的证据标准相同,也不等于处置手段相同。它等于官方希望公众用同一则通报记住,这些事都在被处理。

对平台和模型的提供者,内核很硬。涉及未成年人的生成和传播,不会被「那是用户自己的提示词」完全隔开。隔开曾经是产品话术:系统是中性的,坏的是用法。执法样本把坏的用法计入网站、App 和账号,话术就不够用了。你可以争论某一个应用该不该算进那 2400 余个。你很难再争论,侵害未成年人不该出现在这类统计里。

内核难反驳,整则通报就容易被读成不可质疑的整体。不可质疑的应该是「侵害未成年人在列表上」,不是「每一个处置都同样精确」。用内核的道德清晰去覆盖冒充案件里可能的误伤,或者去覆盖未被点名的其他删除,是反过来的偷换。分开记就行。优先事项是什么,规模有多大,两者之间还缺哪些个案。

三个「余」都是下界,不是精确到个位的审计值。下界已经改变运营者的预期:清理不是象征性抽查,抽查到的量会以国家级通报报出来。预期一变,自查会变严。变严之后,外部更难看见的是没有被点名的个案,以及人们不再发出的内容。生成内容的生产成本极低,处置量因此天然大,逐案公开不现实。不现实不能推出「所以总数就够了」。总数是这一阶段选择的公开方式。下一阶段若出现更大的下界,不自动证明情况更坏,也不自动证明执法更成功。它只证明这种体裁还会继续。

参考

事实、出处或判断有误,欢迎 写信纠错或补充 。

返回目录