政策法规

AI“已读乱回”责任由经营者承担

Heooo 08月31日17时34分 2 阅读

「我国首个聚焦人工客服与智能客服协同机制的国家标准9月起实施,明确经营者不能以“人工智能回答不代表公司立场”等理由免责,需对智能客服回复内容负责。该标准填补了AI客服责任认定空白,为消费者维权和企业合规提供依据。」

随着人工智能技术的快速普及,智能客服已深度融入金融、电商、出行、政务等众多行业。然而,智能客服“已读乱回”的现象屡见不鲜,用户遭遇答非所问、推诿搪塞时,常常陷入投诉无门的窘境。部分企业更以“人工智能回答不代表公司立场”“算法生成内容不具备法律效力”等话术推卸责任,令消费者权益保护面临新挑战。

针对这一乱象,我国首个聚焦人工客服与智能客服协同机制的国家标准《顾客联络服务 人工与智能客户服务协同要求》于9月1日起正式实施。该标准明确要求经营者对智能客服的回复内容负责,不能简单以算法生成内容为由拒绝履行承诺。这意味着,无论是基于规则的知识库问答,还是基于大模型的生成式对话,智能客服所输出的信息均被视为企业经营行为的延伸;一旦对用户造成误导或损害,企业必须承担相应责任。

从实际场景看,智能客服的“已读乱回”不仅影响用户体验,还可能带来经济损失。例如,在金融领域,若智能客服给出错误的利率或还款建议;在电商售后中,若智能客服错误承诺退换货条件,企业均需为此“买单”。该标准的实施,一方面倒逼企业加强智能客服的语料审核与模型训练,建立更完善的人工兜底机制;另一方面也为监管部门和消费者协会提供明确的判定依据,让责任认定不再模糊。

值得关注的是,该标准并非简单禁止智能客服使用,而是强调“人工与智能协同”。标准要求企业在智能客服无法有效应答时,应及时转接人工客服,并保留完整的交互记录以备查证。这既是对技术效率的肯定,也是对人机协同流程的规范。对于开发智能客服系统的技术团队而言,未来的设计重点将不仅要提升意图识别准确率,还要建立可解释、可追溯的应答机制,确保每一句机器生成的话都有迹可循、有责可追。

总体来看,AI“已读乱回”责任归属的明确,是人工智能治理走向精细化的一个缩影。随着更多细分领域标准的出台,AI技术的应用将更加规范、可信,消费者在享受智能化服务便利的同时,也能获得实实在在的法律保障。

# AI客服 # 国家标准 # 责任归属

来源:Heooo AI工具导航