网信办开设AI乱象举报专区

为配合“清朗·整治AI应用乱象”专项行动的深入开展，进一步规范各类AI产品与服务的市场秩序，中央网信办举报中心于本月正式上线“涉AI应用乱象举报专区”，面向社会公众开放举报渠道。此举旨在通过社会监督力量，精准打击AI领域的违规行为，保障广大网民的合法权益。

此次举报专区共受理14类违规问题，主要划分为两大类别。第一类聚焦AI应用服务违规，具体包括大模型未按要求完成备案、平台安全审核能力欠缺、训练语料存在安全隐患、AI数据投毒、合成内容未规范标注、滥用AI技术违法以及开源模型管理疏漏等七项问题。这些问题直接关系到AI产品的合规性与安全性，是行业健康发展的基础。

第二类则聚焦AI信息内容乱象，涵盖借助AI篡改经典内容、产出劣质信息，编造传播虚假内容，AI仿冒他人，制作暴力低俗内容，侵害未成年人权益，利用AI开展网络水军活动，以及各类AI产品和应用程序违规等行为。这些乱象不仅污染网络环境，还可能对用户造成实质性伤害，需要全社会共同关注。

相关部门呼吁广大网民积极参与监督，主动举报各类AI领域违规乱象，多方携手整治行业不良风气。通过公开透明的举报渠道，能够有效遏制AI技术被滥用的趋势，推动AI产业朝着健康、有序的方向发展。这一举措也体现了监管层对AI技术发展的高度重视，以及对行业自律与社会共治的期待。