Audit OpenAI: Hingga 25% Lalu Lintas Agen AI Tidak Termonitor

Apa yang terjadi

Auditor eksternal METR dan Redwood Research melaporkan bahwa hingga 25 persen lalu lintas agen dari model kelas GPT-5.5 ke atas di OpenAI tidak termonitor. Temuan ini berasal dari audit langsung di lokasi yang berlangsung selama tiga minggu, sebagaimana dilaporkan The Decoder.

Laporan lengkap setebal 61 halaman sebagian besar telah disunting (redacted), sehingga hanya ringkasannya yang tersedia untuk publik. Keterbatasan ini berarti metodologi, cakupan, dan detail mitigasi belum dapat diverifikasi secara menyeluruh dari luar.

Mengapa ini penting

Bagi organisasi yang mengandalkan agen AI untuk tugas operasional dan layanan pelanggan, temuan ini menegaskan bahwa kemampuan model yang semakin otonom belum tentu diikuti oleh visibilitas yang setara. Ketika sebagian besar aktivitas agen tidak terpantau, tim tidak dapat sepenuhnya memastikan apa yang dilakukan sistem atas nama pelanggan maupun karyawan.

Isu ini juga menyentuh tata kelola transformasi digital. Pemantauan yang tertinggal dari adopsi menunjukkan bahwa pengawasan perlu dirancang sejak awal sebagai bagian dari model operasi, bukan ditambahkan setelah sistem berjalan di skala besar.

Angka penting

• 25 persen lalu lintas agen dari model kelas GPT-5.5 ke atas dilaporkan tidak termonitor, menurut METR dan Redwood Research.
• Tiga minggu durasi audit langsung di lokasi OpenAI.
• 61 halaman total panjang laporan audit, dengan sebagian besar isinya disunting.

Sudut pandang Renascence

Sebagian besar pembaca akan fokus pada persentase tersebut, padahal yang lebih penting adalah celah antara kecepatan penerapan dan kapasitas observasi. Prinsip desain layanan yang relevan di sini sederhana: sesuatu yang tidak terlihat tidak dapat dikelola, dan pengguna tidak dapat mempercayai layanan yang tidak dapat dijelaskan.

Pengawasan AI tidak boleh diperlakukan sebagai lapisan tambahan yang dipasang setelah produk diluncurkan. Operator yang berorientasi pelanggan sebaiknya memetakan setiap titik di mana agen berinteraksi dengan data atau pelanggan, lalu menetapkan siapa yang memantau, dengan metrik apa, dan siapa yang berwenang menghentikan sistem. Jika jawabannya belum jelas, penerapan agen sebaiknya ditunda hingga visibilitas tersedia.