零售商遏制影子AI,却难以监管代理式AI蔓延

发生了什么

据Netskope一项新研究显示,零售商正在加速部署能够自主执行任务的AI代理(agentic AI),但对这些工具如何处理客户数据与支付信息的监督机制,明显落后于部署速度。CIO Dive与Retail Dive的报道指出,零售企业在压制"影子AI"——即员工未经授权、自行引入的AI工具——方面已取得一定进展,但随着自主AI代理的广泛应用,新的监管盲区正在形成。

与以往由员工主动选择使用某个AI应用不同,代理式AI系统可以在无需人工逐步干预的情况下自行发起任务链、调用数据、完成跨系统操作。研究指出,正是这种自主性让零售商难以全面掌握:究竟有多少代理在运行、它们各自接触了哪些数据、以及这些操作是否符合现有的数据治理与合规要求。

换言之,零售行业正从"如何管住员工偷偷用AI"的阶段,迈入"如何管住AI自己在做什么"的新阶段,而后者的复杂度与风险敞口都更高。

这为何重要

对于零售企业而言,代理式AI的吸引力在于效率——它能够自动处理客户查询、库存调度、定价调整甚至支付流程中的部分环节,理论上大幅压缩响应时间与人力成本。但这种自主能力一旦缺乏对等的可见性与治理框架,企业就可能在毫不知情的情况下,让AI代理接触敏感的客户与支付数据,从而放大数据泄露、合规违规与品牌信任受损的风险。

对数字化转型与信息安全负责人来说,这则研究释放的信号很清晰:治理能力必须与自动化能力同步建设,而不是事后补课。零售商如果继续把AI代理当作普通软件工具来管理,而不是当作具备自主决策权的"数字员工"来审计,监督与实际行为之间的鸿沟只会持续扩大。

Renascence观点

这则研究揭示的核心矛盾,其实不是技术问题,而是组织设计问题:零售商在追逐自动化红利时,往往把"谁对AI的行为负责"这个问题留在了部署之后才去思考。

多数企业仍在用管理"员工误用工具"的老办法,去应对一个全新的问题——AI系统自己做决定。真正值得警惕的不是影子AI本身,而是企业对"自主性"这件事缺乏清晰的责任边界:每一个AI代理在接触客户数据、发起交易或跨系统操作之前,企业是否能说清楚它被授权做什么、不被授权做什么。客户体验与信任建立在可预期性之上,而代理式AI的价值恰恰在于它的不可预测性与自主性——这正是体验设计者必须提前介入、而不是事后补救的地方。真正以客户为中心的零售商,应该把AI代理的权限、数据接触范围与可审计日志,纳入与客户隐私承诺同等级别的治理清单,而不是等出了问题才去追溯。