Meta dan Sierra lancar Poppy, pelanggan tetapkan had untuk ejen AI

Apa yang berlaku

Meta dan Sierra telah melancarkan Poppy, satu ciri yang membolehkan pelanggan menetapkan had yang jelas ke atas perkara yang boleh dilakukan oleh ejen AI bagi pihak mereka. Langkah ini memindahkan sebahagian kawalan daripada penyedia perkhidmatan kepada pengguna akhir.

Laporan PYMNTS.com menggambarkan ciri ini sebagai cara untuk pelanggan menyatakan batasan tindakan ejen secara eksplisit. Ringkasan yang tersedia tidak memperincikan skop penuh ciri tersebut, tarikh pelancaran yang tepat, atau jenis tindakan yang terlibat.

Mengapa ia penting

Apabila ejen AI mula bertindak bagi pihak manusia, persoalan tentang had dan persetujuan beralih daripada isu dasar kepada reka bentuk produk. Pengalaman pelanggan kini bergantung bukan sahaja pada ketepatan jawapan ejen, tetapi juga pada sejauh mana pelanggan berasa mereka masih memegang kawalan.

Bagi pemimpin transformasi digital, perkembangan ini menunjukkan bahawa skop kuasa ejen perlu direka sebagai sebahagian daripada model operasi. Organisasi yang membangunkan ejen AI untuk perkhidmatan pelanggan perlu menentukan tahap autonomi yang dibenarkan, bila sistem wajar meminta pengesahan, dan bagaimana pengguna boleh menarik balik kebenaran yang telah diberikan.

Pandangan Renascence

Liputan awal cenderung menumpukan pada apa yang ejen AI mampu lakukan. Ciri seperti Poppy menyoal perkara yang lebih penting, iaitu siapa yang menentukan had tindakan dan sama ada had itu jelas kepada pengguna.

Kebanyakan pembaca akan melihat Poppy sebagai ciri tambahan, tetapi ia sebenarnya satu pengakuan bahawa kuasa ejen AI hanya diterima apabila pelanggan dapat menjangkakan batasannya. Prinsip reka bentuk perkhidmatan di sebaliknya ialah kejelasan dan kebolehramalan: pengguna yang tahu apa yang boleh dan tidak boleh dilakukan sesuatu sistem lebih cenderung mempercayainya. Operator yang serius perlu memetakan had ini dengan sengaja sebelum pelanggan memintanya, bukan selepas ia menjadi aduan.