AI应用乱象整治进入第二阶段：七类问题、标识义务与举报边界

中央网信办4月30日部署为期4个月的“清朗·整治AI应用乱象”专项行动。第一阶段是“AI应用服务典型违规问题”治理，重点放在模型备案登记、安全审核、训练语料、数据投毒、生成合成内容标识、技术滥用和开源模型安全管理七类源头问题。

第二阶段是“整治AI信息内容乱象”，关注内容被制作、发布和传播后的具体危害。7月发布的第一阶段进展和9月2日发布的第二阶段通报，对应不同治理对象，不能把两次通报中的平台整改、账号处置和信息清理数字简单相加后称为同一口径总量。

第二阶段明确列出七类问题：AI“魔改”经典和生成“数字泔水”、制作发布虚假不实信息、假冒仿冒他人、制作发布暴力低俗内容、侵害未成年人权益、利用AI“托管”从事网络水军活动，以及AI产品服务和应用程序违规。

这套分类同时覆盖内容、账号运营方式和产品功能。例如，生成虚假灾害现场属于虚假信息，未经授权“换脸”“换声”属于仿冒，批量模拟真人互动和刷量控评属于网络水军，提供色情陪聊或违规“脱衣”功能则落在产品服务治理。

截至9月2日，通报给出的第二阶段累计处置结果为：清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个；参与治理的平台累计发布公告46期。

这些数字没有同时提供平台内容总量、去重规则、统计起止时刻和各类别占比，因此只能用来描述治理规模，不能换算成“每多少条AI内容就有一条违法”，也不能由账号、信息和应用三个口径相互推导。

通报显示，内容平台在加强多模态识别、人脸和声纹样本库、账号处置及举报入口；生成式AI平台在审核原始语料、限制违规输出并落实生成合成内容标识；应用商店则从开发者准入、上架审核和抽检复测拦截违规应用。

《人工智能生成合成内容标识办法》把显式提示与文件元数据等隐式标识放在同一治理链条中，并要求传播服务核验、提示相关标识。对产品运营者而言，合规不是只在页面上放一段声明，而是要把输入、生成、导出、再传播和投诉处理串成可追溯流程。

中央网信办6月在12377网络违法和不良信息举报中心上线AI领域违法违规信息专项举报入口，设置14类举报标签，帮助用户把问题分流到虚假信息、仿冒、未成年人保护、标识违规等对应类别。

标签数量不代表新增14项独立罪名，也不意味着看到AI痕迹即可举报成立。有效线索应尽量保留内容链接、账号或应用名称、发布时间、截图及涉嫌违规的具体事实；涉及诈骗、人身安全或财产损失时，还应及时向相应执法机关求助。

现行规则允许生成式人工智能服务依法发展和应用，同时要求服务提供者、使用者遵守内容安全、个人信息、知识产权和生成合成标识等义务。深度合成规则也强调不得利用技术制作、复制、发布、传播法律法规禁止的信息，不得侵害他人合法权益。

对媒体、企业和普通创作者，最低限度的发布检查可以归纳为四项：核验事实与来源，取得肖像、声音和素材所需授权，避免未成年人伤害及暴力低俗内容，保留平台或工具生成的AI标识。使用AI辅助起草本身不是违规，隐瞒虚构事实或借仿冒身份误导用户才是关键风险。