Peritel membatasi shadow AI namun kesulitan mengawasi penyebaran agentic AI

Apa yang terjadi

Riset terbaru dari Netskope menemukan bahwa peritel bergerak cepat mengadopsi agen AI otonom untuk berbagai fungsi operasional, namun pengawasan terhadap apa yang dilakukan agen-agen ini terhadap data pelanggan dan data pembayaran jauh tertinggal dibanding kecepatan adopsinya. Menurut laporan CIO Dive dan Retail Dive, kesenjangan ini menciptakan apa yang disebut sebagai "agentic sprawl" — penyebaran agen AI yang meluas tanpa kerangka visibilitas dan kontrol yang memadai.

Temuan ini muncul di tengah upaya sejumlah peritel untuk menekan penggunaan "shadow AI", yakni alat AI yang dipakai karyawan atau unit bisnis tanpa sepengetahuan atau persetujuan tim keamanan dan TI. Meski upaya pengendalian shadow AI mulai berjalan, laporan tersebut menunjukkan bahwa agen AI yang beroperasi secara otonom dan saling terhubung justru menambah lapisan risiko baru yang belum sepenuhnya dipahami oleh organisasi.

Mengapa ini penting

Bagi pemimpin di bidang pengalaman, AI, dan transformasi digital, temuan ini menegaskan bahwa kecepatan adopsi AI generatif dan agentic di sektor ritel belum diimbangi dengan kematangan tata kelola data. Ketika agen AI diberi akses ke data pelanggan dan transaksi pembayaran untuk mengotomatiskan layanan atau proses bisnis, setiap celah visibilitas berpotensi menjadi titik rawan kebocoran data atau penyalahgunaan informasi sensitif.

Situasi ini juga menggeser tanggung jawab tata kelola AI dari sekadar mengelola alat yang digunakan individu karyawan, menjadi mengelola ekosistem agen yang dapat berinteraksi satu sama lain, mengambil keputusan, dan mengakses sistem secara berantai. Bagi organisasi yang mengandalkan kepercayaan pelanggan sebagai aset utama, kesenjangan pengawasan semacam ini dapat berdampak langsung pada reputasi dan kepatuhan regulasi jika tidak segera diatasi.

Pandangan Renascence

Kecepatan adopsi agen AI di ritel mencerminkan tekanan kompetitif untuk mengotomatiskan layanan, tetapi tata kelola yang tertinggal adalah masalah desain organisasi, bukan sekadar masalah teknis.

Banyak organisasi memperlakukan agen AI sebagai perpanjangan dari alat produktivitas biasa, padahal secara perilaku agen-agen ini bertindak lebih seperti karyawan baru yang diberi akses luas tanpa induksi, supervisi, atau batas kewenangan yang jelas. Prinsip desain layanan yang sering diabaikan di sini adalah bahwa otonomi harus diimbangi dengan akuntabilitas yang terlihat — pelanggan dan regulator ingin tahu siapa atau apa yang membuat keputusan atas data mereka. Operator yang berorientasi pada pelanggan sebaiknya memetakan setiap agen AI yang bersentuhan dengan data sensitif, menetapkan batas akses yang eksplisit, dan membangun jejak audit yang dapat dijelaskan kepada pelanggan maupun auditor — bukan hanya setelah insiden terjadi, tetapi sebagai bagian dari peluncuran agen itu sendiri.