Ритейлеры теряют контроль над разрастанием AI-агентов

Что произошло

Новое исследование компании Netskope показывает, что ритейлеры стремительно внедряют автономных AI-агентов, однако контроль за тем, как эти инструменты обращаются с данными клиентов и платёжной информацией, заметно отстаёт от темпов внедрения. Хотя розничные компании пытаются ограничить использование несанкционированных («теневых») AI-инструментов сотрудниками, управлять разросшейся сетью собственных агентных систем им удаётся намного хуже.

По данным CIO Dive и Retail Dive, речь идёт о ситуации, в которой агентный AI внедряется в бизнес-процессы быстрее, чем выстраиваются механизмы видимости, аудита и политик безопасности для таких систем. В результате у ритейлеров формируется слепая зона: агенты получают доступ к чувствительным данным, но то, что они с этими данными делают, во многих случаях остаётся неотслеживаемым.

Почему это важно

Для лидеров в области клиентского опыта, AI и цифровой трансформации это сигнал о том, что скорость внедрения агентного AI в рознице опережает зрелость управления рисками. Агенты, которые автоматически обрабатывают заказы, персонализируют предложения или работают с платёжными данными, расширяют возможности бизнеса — но каждый такой агент одновременно становится новой точкой потенциальной утечки данных или ошибки, если его действия не контролируются централизованно.

Это особенно критично в ритейле, где доверие клиентов напрямую зависит от того, как компания обращается с персональными и платёжными данными. Разрыв между скоростью внедрения AI-агентов и уровнем их оверсайта превращает вопрос безопасности данных из технической задачи в вопрос репутации и клиентского опыта.

Ключевые цифры

• Netskope — исследование охватывает практики ритейлеров по внедрению AI-агентов и мониторингу их взаимодействия с данными клиентов и платежами.
• Теневой AI — ритейлеры фиксируют успехи в ограничении несанкционированного использования AI сотрудниками, но не в контроле за собственными санкционированными агентными системами.

Точка зрения Renascence

Главный урок этой истории — не в том, что AI-агенты опасны сами по себе, а в том, что организации путают внедрение технологии с управлением ею. Скорость пилотов и масштабирования агентного AI в рознице создаёт иллюзию контроля там, где на самом деле существует лишь частичная видимость.

Большинство компаний воспринимают агентный AI как внутренний инструмент автоматизации, забывая, что любой агент, работающий с данными клиента, — это, по сути, новая точка контакта в клиентском опыте, только без лица и без прямого надзора. Поведенческий принцип здесь прост: то, что не измеряется и не аудируется, со временем начинает принимать решения, которые никто не одобрял. Клиентоориентированному оператору стоит относиться к каждому AI-агенту так же, как к новому сотруднику с доступом к данным — с чёткими правами, журналом действий и регулярным пересмотром полномочий, а не как к невидимой фоновой функции.