AI客服“已读乱回”致货不对板,9月起企业须担全责

发生了什么

据报道,一名消费者在电商平台购物时,信赖AI客服的解答下单购买电压力锅,收到货品后却发现商品与咨询时AI客服所描述的信息不符,即出现"货不对板"的情况。这一案例引发了对AI客服可靠性的广泛关注。

报道同时指出,自9月起,针对AI客服"已读乱回"——即系统读取了用户的问题,却给出错误、无关甚至误导性答复——所引发的消费纠纷,相关规定将明确由企业承担全部责任。这意味着企业此前可能以"系统自动生成回复、非人工承诺"为由规避责任的做法,今后将不再适用。

目前,大量电商平台与品牌已将AI客服作为售前咨询、订单核实等环节的主要甚至唯一渠道,以降低人力成本、提升响应速度。但AI客服在理解用户意图、匹配准确商品信息方面仍存在局限,一旦回复有误,消费者往往在事后才发现问题,进而引发售后纠纷与信任受损。

为什么重要

对企业而言,这一变化把AI客服的准确性从"体验优化项"提升为"合规与商业风险项"。过去,企业可以将AI误答视为技术瑹疵、由用户自行承担后果;此后,只要AI客服在交互中提供了错误信息并导致消费损失,责任将直接指向企业本身。这将推动企业重新审视AI客服的测试机制、内容审核流程以及人工介入的触发节点,而不能简单地将AI客服上线视为"一次性部署、长期免维护"的项目。

对于正在推进数字化转型、大规模部署对话式AI的企业和公共服务机构而言,这也提示了一个更广泛的趋势:监管正在从"结果合规"延伸到"AI交互过程合规"。这意味着AI客服系统的可解释性、答复准确率与升级人工的机制,将成为衡量数字化转型成熟度的重要指标之一。

Renascence的观点

这起事件表面上是一次简单的购物纠纷,但背后反映的是企业在追求AI客服效率红利时,普遍低估了"信任成本"。消费者对AI客服的信任门槛本就低于人工客服,一旦AI给出错误信息,消费者的失望感和维权意愿往往更强烈,因为他们会觉得自己"被系统敷衍"而非"被人误导"。

大多数企业把AI客服当作成本中心来优化,却忽略了它同时是品牌承诺的第一触点。行为经济学的教训很清楚:当用户把责任让渡给一个"系统",系统一旦出错,愤怒不会消散,只会转移到品牌身上。真正客户导向的企业,不会等监管倒逼才去补测AI答复的准确率——他们会把AI客服的"错误率"和"升级人工的及时性",作为与转化率同等重要的KPI来管理,并在设计上默认为用户留一条随时可核实、可纠错的退出路径。