Agen Layanan Pelanggan AI Rentan Diretas, Bisa Bocorkan OTP dan MFA

Apa yang Terjadi

Peneliti keamanan menemukan bahwa agen layanan pelanggan berbasis AI dapat dimanipulasi untuk melewati proses autentikasi multifaktor (MFA) dan mengekstraksi kode OTP (one-time password), sehingga membuka akses ke data akun pengguna yang sensitif. Temuan ini, yang dilaporkan oleh cyberpress.org dan gbhackers.com, menunjukkan bahwa celah tersebut dapat dieksploitasi melalui interaksi percakapan biasa pada kanal dukungan pelanggan yang menggunakan AI.

Menurut laporan tersebut, teknik manipulasi ini memungkinkan pihak yang tidak berwenang untuk mengarahkan agen AI agar secara tidak sengaja membocorkan informasi verifikasi atau melewati langkah keamanan yang seharusnya melindungi akun pengguna. Kerentanan semacam ini berpotensi memengaruhi berbagai organisasi yang telah mengadopsi chatbot atau asisten virtual berbasis AI dalam operasi layanan pelanggan mereka.

Mengapa Ini Penting

Temuan ini menyoroti risiko nyata dari penerapan AI generatif di lini terdepan layanan pelanggan tanpa lapisan pengamanan yang memadai. Ketika agen AI diberi kewenangan untuk menangani proses verifikasi identitas atau informasi sensitif, setiap kelemahan dalam cara agen tersebut merespons instruksi percakapan dapat berubah menjadi jalur eksploitasi baru bagi pelaku kejahatan siber.

Bagi para pemimpin transformasi digital dan pengalaman pelanggan, kasus ini menjadi pengingat bahwa kecepatan adopsi AI dalam layanan pelanggan harus diimbangi dengan investasi setara dalam pengujian keamanan, tata kelola model, dan validasi lapis-ganda sebelum agen AI diberi akses ke data atau proses autentikasi yang kritis.

Pandangan Renascence

Insiden ini bukan sekadar isu teknis — ia mencerminkan bagaimana desain layanan yang dioptimalkan untuk kenyamanan dapat secara tidak sengaja mengorbankan keamanan.

Banyak organisasi terlalu fokus pada seberapa "manusiawi" dan responsif agen AI mereka terasa, tanpa cukup menstresi-uji bagaimana sifat percakapan itu sendiri bisa dimanipulasi. Prinsip dasar desain layanan yang sering terlupakan: setiap titik kepercayaan yang memudahkan pelanggan juga menciptakan permukaan risiko baru. Operator yang berorientasi pada pelanggan sebaiknya memperlakukan agen AI layaknya karyawan baru yang belum terlatih penuh — diberi batas kewenangan yang jelas, diuji dengan skenario serangan sosial (social engineering), dan diaudit secara berkala sebelum dipercaya menangani data otentikasi.