清朗专项行动整治AI乱象显成效

网信办近期组织实施的“清朗·整治 AI 应用乱象”专项行动第二阶段工作已取得显著进展，重点针对利用 AI 技术制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人以及侵害未成年人权益等问题展开集中治理。据最新通报，该行动累计清理违法违规信息达 561 万余条，查处账号 4.9 万余个，并处置各类违规网站与应用程序共计 2400 余个，彰显了行业治理的决心与力度。

在平台层面，各主流互联网企业同步收紧内容治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台持续优化多模态识别模型，动态扩充人脸库、声纹库与违规样本库，并上线人脸实时治理系统等工具，累计发布 46 期治理公告。与此同时，豆包、元宝、千问、文心一言等热门 AI 应用平台严把原始语料审核关，严格限制违规内容输出，同时强化 AI 生成合成内容标识要求的落地执行，确保内容来源可追溯。华为、小米、OPPO、vivo 等应用商店也制定更严格的开发者准入与上架规范，对在架应用进行抽检复测，从源头压缩违规空间。

专项行动还通报了七类典型案例，涵盖滥用 AI 手段魔改经典名著、生成虚假灾害现场与带货信息、实施换脸换声假冒公众人物、批量发布恐怖低俗或违背未成年人年龄特点的内容，以及利用 AI 托管软件从事网络水军活动等行为。此外，部分智能体引入淫秽色情信息，亦被列入重点处置范围。所有相关账号均依法依约处理，对拒不整改的平台，监管部门将按程序采取警告、罚款、下架或关闭等强制措施。

这些整治动作表明，随着 AI 生成合成内容技术迅速普及，治理逻辑正从单一平台自律转向产业链协同规范。多模态识别模型与人脸实时治理系统的应用，展示了 AI 技术本身在内容安全领域的正向价值，也反映出行业对技术滥用的零容忍态度。网信部门表示，将持续关注 AI 生成合成内容带来的新风险，及时更新治理策略，防范技术滥用恶用，为 AI 产业的健康发展提供必要保障。