Peniaga runcit kawal AI bayangan tetapi bergelut menyelia rebakan ejen AI

Apa yang berlaku

Penyelidikan baharu daripada Netskope mendedahkan bahawa peruncit sedang mempercepatkan penggunaan ejen kecerdasan buatan (AI) yang bertindak secara autonomi — dikenali sebagai "agentic AI" — namun pengawasan terhadap cara alat ini mengendalikan data pelanggan dan pembayaran jauh ketinggalan berbanding kadar penggunaannya. Menurut laporan yang dipetik oleh CIO Dive dan Retail Dive, peruncit telah berjaya mengurangkan penggunaan "shadow AI" — iaitu alat AI yang digunakan pekerja tanpa kelulusan rasmi — tetapi kini berdepan cabaran baharu apabila ejen AI yang disahkan secara rasmi berkembang pesat merentasi fungsi perniagaan tanpa mekanisme kawalan yang mencukupi.

Isu teras yang dikenal pasti bukan lagi tentang sama ada pekerja menggunakan AI tanpa kebenaran, sebaliknya tentang ketidakupayaan organisasi untuk mengesan dengan tepat apa yang dilakukan oleh ejen AI yang sah ini — termasuk data sensitif yang mereka akses, proses dan kongsi merentasi sistem peruncitan.

Mengapa ia penting

Penemuan ini menyerlahkan jurang kritikal dalam tadbir urus AI di sektor peruncitan: organisasi telah melabur dalam mengawal risiko "shadow AI" yang lebih mudah dilihat, tetapi "agentic sprawl" — pertumbuhan pesat ejen AI automatik yang beroperasi merentasi pelbagai sistem — mewujudkan permukaan risiko baharu yang lebih kompleks. Apabila ejen AI diberi akses kepada data pelanggan dan maklumat pembayaran untuk menjalankan tugas secara bebas, sebarang kelemahan dalam keterlihatan (visibility) bermakna organisasi mungkin tidak menyedari pendedahan data sehingga insiden sebenar berlaku.

Bagi pemimpin pengalaman pelanggan dan transformasi digital, ini menunjukkan bahawa kelajuan penggunaan AI mesti diseimbangkan dengan pelaburan setanding dalam rangka kerja tadbir urus, audit dan kawalan akses data — bukan sekadar dasar penggunaan AI, tetapi keupayaan teknikal sebenar untuk memantau tindakan ejen AI secara masa nyata.

Pandangan Renascence

Tumpuan industri selama ini banyak tertumpu kepada "menyekat" penggunaan AI yang tidak dibenarkan, sedangkan risiko sebenar kini beralih kepada alat yang telah diluluskan secara rasmi tetapi beroperasi di luar jangkauan pemantauan yang mencukupi. Ini mendedahkan satu kesilapan tanggapan yang biasa: mengandaikan bahawa meluluskan sesuatu alat secara dalaman bermakna ia automatik selamat dan telus.

Isu sebenar bukanlah sama ada peruncit membenarkan ejen AI — kebanyakan sudah melakukannya — tetapi sama ada mereka benar-benar dapat menjawab soalan asas: apa yang ejen ini lakukan dengan data pelanggan saya, pada bila-bila masa? Peruncit yang mengutamakan pengalaman pelanggan perlu memperlakukan setiap ejen AI seperti pekerja baharu yang diberi akses kepada sistem sensitif — lengkap dengan log aktiviti, had akses mengikut keperluan, dan semakan berkala — bukan sebagai skrip automatik yang "hanya berfungsi" di belakang tabir. Tanpa keterlihatan itu, organisasi sebenarnya memindahkan risiko kepercayaan pelanggan kepada sistem yang tidak mereka faham sepenuhnya.