MAS arahkan bank kaji risiko AI sebelum pelancaran sistem

Apa yang berlaku

Pihak Berkuasa Kewangan Monetari Singapura (MAS) kini mewajibkan bank menguruskan kajian bebas ke atas mana-mana sistem kecerdasan buatan (AI) sebelum sistem tersebut dilancarkan. Laporan Finextra menyatakan bahawa keperluan ini memindahkan penilaian risiko daripada semakan selepas pelancaran kepada satu pintu semakan sebelum pelaksanaan.

Perubahan ini bermakna bank tidak lagi boleh bergantung terutamanya pada pemantauan selepas sistem AI beroperasi di hadapan pelanggan. Sebaliknya, risiko perlu dinilai dan dibincangkan sebelum sistem tersebut sampai kepada pengguna.

Mengapa ia penting

Bagi pemimpin pengalaman dan transformasi digital, langkah ini menunjukkan bahawa tadbir urus AI semakin menjadi sebahagian daripada kitaran pembangunan produk, bukan lapisan tambahan selepas tamat. Pasukan produk, data dan risiko perlu bekerjasama lebih awal, termasuk menentukan cara sesuatu keputusan AI dijelaskan, diuji dan dikemas kini.

Dari sudut pelanggan, penilaian awal boleh mengurangkan kemungkinan ralat AI sampai ke saluran perkhidmatan seperti pembukaan akaun, penilaian pinjaman atau pertanyaan aduan. Ini juga memberi kesan kepada perkhidmatan pelanggan kerana kepercayaan terhadap sistem automatik bergantung pada sejauh mana pengguna yakin bahawa sistem itu telah diuji sebelum digunakan.

The Renascence take

Ramai pihak akan melihat keperluan ini sebagai beban pematuhan. Pada hakikatnya, ia lebih tepat dilihat sebagai satu brief reka bentuk perkhidmatan yang dikuatkuasakan oleh pengawal selia.

Kajian pra-pelancaran sepatutnya dianggap sebagai ujian pengalaman, bukan sekadar semakan kepatuhan, kerana ia mendedahkan di mana pelanggan akan keliru, tersekat atau tidak dilayan secara adil. Prinsip tingkah laku yang mendasarinya ialah orang cenderung mempercayai sistem yang menjelaskan dirinya dengan jelas dan menyediakan jalan keluar yang mudah. Pengendali yang benar-benar memberi tumpuan kepada pelanggan harus mencari jawapan kepada soalan "bagaimana pelanggan tahu apa yang berlaku dan bagaimana mereka boleh membantah?" sebelum bukan selepas lancar. Jika pasukan menunggu sehingga kajian bebas selesai untuk memikirkan perkara ini, mereka sudah terlambat.