Các nhà bán lẻ kiềm chế AI ngầm nhưng vẫn vật lộn trong việc giám sát sự lan rộng của AI tác tử

Điều gì đã xảy ra

Nghiên cứu mới từ Netskope cho thấy các nhà bán lẻ đang triển khai ồ ạt các AI agent (tác nhân AI tự hành) để phục vụ khách hàng và vận hành nội bộ, nhưng khả năng giám sát những gì các công cụ này thực sự làm với dữ liệu khách hàng và thanh toán lại đang tụt lại rất xa so với tốc độ áp dụng. Theo CIO Dive và Retail Dive, dù nhiều tổ chức đã thành công trong việc hạn chế "shadow AI" — tức các công cụ AI không được phê duyệt mà nhân viên tự ý sử dụng — thì họ lại chưa kiểm soát được sự lan rộng của các AI agent được chính thức đưa vào vận hành.

Vấn đề cốt lõi không phải là liệu các nhà bán lẻ có dùng AI agent hay không, mà là việc họ thiếu tầm nhìn đầy đủ về hành vi của các agent này: dữ liệu nào được agent truy cập, agent chia sẻ dữ liệu đó với hệ thống hoặc bên thứ ba nào, và liệu các quyết định tự động đó có tuân thủ đúng chính sách bảo mật hay không.

Vì sao điều này quan trọng

Đây thực chất là một câu chuyện về công nghệ và vận hành: AI agent đang chuyển từ công cụ hỗ trợ sang chủ thể hành động — tự đưa ra quyết định, truy xuất dữ liệu và tương tác với các hệ thống khác mà không cần con người can thiệp từng bước. Điều này mở ra năng lực vận hành mới cho ngành bán lẻ, nhưng cũng đồng nghĩa với việc mô hình giám sát truyền thống (vốn được thiết kế cho con người hoặc phần mềm tĩnh) không còn đủ để theo dõi một lớp "nhân sự số" có thể hành động hàng loạt, liên tục và trên nhiều hệ thống cùng lúc.

Đối với các lãnh đạo trải nghiệm và chuyển đổi số, khoảng trống giám sát này tạo ra rủi ro thực sự về dữ liệu khách hàng và thanh toán — những loại dữ liệu nhạy cảm nhất mà một sự cố rò rỉ hay sai lệch xử lý có thể gây tổn hại trực tiếp đến niềm tin khách hàng, bất kể lỗi đó xuất phát từ ý định xấu hay chỉ là một agent hoạt động ngoài phạm vi được thiết kế.

Góc nhìn của Renascence

Nhiều tổ chức mừng vì đã "thắng" cuộc chiến với shadow AI, nhưng vô hình trung lại mở cửa cho một vấn đề lớn hơn: agent sprawl — sự lan rộng của các AI agent chính thức mà không ai thực sự theo dõi hết hành vi của chúng. Đây là một nghịch lý hành vi kinh điển: kiểm soát điểm vào (ai được dùng công cụ gì) dễ hơn nhiều so với kiểm soát điểm ra (công cụ đó hành động thế nào khi đã được cấp quyền).

Vấn đề không nằm ở việc nhà bán lẻ triển khai AI agent quá nhanh, mà ở việc họ đối xử với các agent này như phần mềm thay vì như một lực lượng ra quyết định cần được quản trị, kiểm toán và chịu trách nhiệm như con người. Một tổ chức lấy khách hàng làm trọng tâm cần coi mỗi agent là một "nhân viên mới" có quyền truy cập dữ liệu thật — nghĩa là phải có nhật ký hành vi, giới hạn phạm vi rõ ràng, và một quy trình escalation khi agent chạm đến dữ liệu thanh toán hoặc thông tin cá nhân nhạy cảm. Niềm tin của khách hàng không được xây dựng từ tốc độ triển khai AI, mà từ khả năng tổ chức chứng minh được mình luôn biết AI đang làm gì, với dữ liệu của ai, và vì mục đích gì.