AI应用乱象举报专区上线，聚焦14类问题

近日，中央网信办举报中心正式开设“涉AI应用乱象举报专区”，专项受理公众对人工智能应用领域相关问题的举报。此举旨在配合“清朗·整治AI应用乱象”专项行动，进一步规范AI服务和应用，促进行业健康有序发展，切实保障公民合法权益。

据了解，该举报专区自2026年6月起开始运行，受理范围涵盖14类具体问题，主要分为两大类别：AI应用服务违规类和AI信息内容乱象类。

在AI应用服务违规类中，举报重点包括：未按规定履行大模型备案登记义务、AI平台安全和审核过滤能力不足、大模型训练语料安全问题、AI数据投毒问题、生成合成内容标识落实不到位、滥用AI技术开展违法违规活动、开源模型安全管理不到位等。这些问题直接关系到AI技术底层的合规性与安全性，是行业健康发展的基础。

在AI信息内容乱象类中，举报范围包括：利用AI“魔改”经典、生成“数字泔水”、制作发布虚假不实信息、假冒仿冒他人、制作发布暴力低俗等不良信息、侵害未成年人权益、利用AI“托管”从事网络水军活动等。这些乱象不仅破坏了网络生态，也可能对公众尤其是未成年人造成不良影响。

业界分析认为，随着AI技术的快速普及，尤其是生成式AI的广泛应用，相关的安全、伦理和法律问题日益凸显。此次设立专门举报专区，为公众提供了直接反馈AI应用乱象的渠道，有助于监管部门及时发现和处理问题，推动AI行业从野蛮生长走向规范发展。

对于AI开发者、平台运营者及企业而言，这意味着需要更加重视合规运营，加强内容审核和技术安全管理，确保AI技术应用不触碰法律和道德底线。同时，公众的监督力量也将成为AI治理的重要一环，共同促进AI技术向善发展。