Supervised Autonomy

Yapay Zeka Dağıtımında Yönetişim Neden Yeni Sınır?

Müşteri deneyiminde yapay zeka hakkındaki konuşmalar yıllardır yetenek üzerine odaklanmıştır: model niyeti anlayabilir mi, tutarlı bir yanıt üretebilir mi, sorguyu çözebilir mi? Bu soru, rutin etkileşimler için büyük ölçüde çözülmüştür. Daha zor olan soru – yapay zekayı sorumlu bir şekilde ölçeklendiren kuruluşları tökezleyen veya duraksayanlardan ayıran soru – model konuşmayı bırakıp yapmaya başladığında ne olduğudur.

Para iadesi yapmak, aboneliği iptal etmek, bir hesabı yeniden yapılandırmak: bunlar konuşma eylemleri değildir. Bunlar, kötü ifade edilmiş bir cümlenin taşımadığı aşağı yönlü sonuçları olan operasyonel eylemlerdir. Yapay zeka bu eşiği aştığı anda, risk profili tamamen değişir. Kendinden emin ama yanlış bir eylem, beceriksiz bir yanıttan maddi olarak daha kötüdür ve hiçbir model ince ayarı bu riski ortadan kaldırmaz. Bunu ortadan kaldıran – veya en azından sınırlayan – modelin etrafına sarılmış kontrol katmanıdır.

Ajan tabanlı yapay zekanın zor kısmı üretim değildir. Yönetişimdir. Bunları aynı sorun olarak gören kuruluşlar yanlış olanı çözmeye devam edecektir.

Kontrol Katmanının Anatomisi

Denetimli özerklik, satın aldığınız bir özellik değil; inşa ettiğiniz bir mimaridir. Temelinde, bir ajanın insan incelemesi olmadan, hangi koşullar altında ve hangi eşiğe kadar ne yapabileceğini tanımlayan açık politikalar bulunur. Harcama limitleri, güven puanları, eylem kategorileri, müşteri segmentleri – her biri ajanın devam edip etmeyeceği veya duraklayıp duraklamayacağı konusunda bir kararda değişken hale gelir.

Olgun bir kontrol katmanının pratik bileşenleri tipik olarak şunları içerir:

• Güven eşikleri: Eylemler yalnızca modelin kesinliği belirli bir barı aştığında yürütülür; bu barın altındaki durumlar özerk olarak çözülmek yerine bir insan ajana yönlendirilir.
• Harcama ve etki limitleri: Belirli bir değerin üzerindeki iadeler veya uzun süreli müşterileri etkileyen iptaller, modelin güveninden bağımsız olarak zorunlu incelemeyi tetikler.
• Eylem kategorizasyonu: Ajanın tek taraflı olarak ne yapabileceği, neyin yumuşak onay gerektirdiği ve neyin her zaman insan tarafından yönetildiği konusunda kademeli bir taksonomi.
• Denetim izleri: Her otomatik eylem, onu üreten muhakeme durumuyla birlikte günlüğe kaydedilir – bu, giderek artan bir şekilde operasyonel olmaktan ziyade düzenleyici bir gerekliliktir.

Bu mimari, uygulayıcıların otomasyonun patlama yarıçapı olarak adlandırmaya başladığı şeyi tanımlar: yanlış kalibre edilmiş bir ajanın bir insan onu yakalamadan önce neden olabileceği maksimum hasar. Bu yarıçapı başlangıçta küçük tutmak, ardından performans verileri biriktikçe kasıtlı olarak genişletmek, sorumlu ölçeklendirmenin arkasındaki işletim prensibidir.

Düzenleyici Baskı Disiplini Hızlandırıyor

Denetimli özerklik sadece bir risk yönetimi seçimi değil, aynı zamanda bir uyum duruşu haline geliyor. Birden fazla yargı alanındaki gelişmekte olan yapay zeka düzenlemeleri, kuruluşların bireyler için önemli sonuçlar doğuran kararlar için açıklanabilirlik ve anlamlı insan denetimi göstermesini bekliyor. Bankacılık, sigorta, sağlık ve telekomünikasyon gibi bu değişimi en erken hisseden sektörlerde, bu bar zaten yüksek ve yükselmeye devam ediyor.

Bunun anlamı yapısal. Yapay zeka yönetişimini sonradan akla gelen bir şey olarak gören kuruluşlar, tasarlanmış bir kontrol katmanının maliyetini kat kat aşan yeniden düzenleme maliyetleriyle karşılaşacaklardır. Denetim mimarisini ilk inşa edenler, hem düzenleyicilerin hem de müşterilerin değer verdiği bir şeyi kazanırlar: otomatik kararların nasıl alındığına ve insanların döngüde nerede kaldığına dair güvenilir, denetlenebilir bir açıklama.

Bu aynı zamanda endüstri anketlerinin, operasyonlarda yapay zekayı ölçeklendirmenin önündeki birincil engel olarak model doğruluğunu değil, yönetişimi ve güveni tutarlı bir şekilde tanımlamasının nedenidir. Her üç otomasyon girişiminden biri, teknolojinin düşük performans göstermesi nedeniyle değil, kuruluşun kendisini, risk işlevini veya düzenleyicilerini ajanın yetkisinin uygun şekilde sınırlandırıldığına ikna edememesi nedeniyle durur.

Bunun Müşteriler, Ekipler ve İşletme İçin Anlamı

Müşteriler için, iyi tasarlanmış denetimli özerkliğin pratik etkisi mümkün olan en iyi şekilde görünmezdir. Rutin istekler – durum kontrolleri, basit ayarlamalar, standart iadeler – ajan bunları sorunsuz bir şekilde hallettiği için daha hızlı çözülür. Önemli istekler bir insanı ortaya çıkarır, yapay zeka başarısız olduğu için değil, politika bir kişinin dahil olması gerektiğini doğru bir şekilde belirlediği için. Deneyim hem verimli hem de güvenilir hissettirir, bu da çoğu mevcut dağıtımın aynı anda başaramadığı bir kombinasyondur.

İşletme için değer, ölçeklenebilir güvendedir. Özerklik, ölçülen performans bunu haklı çıkardıkça kademeli olarak genişleyebilir – daha fazla eylem türü, daha yüksek eşikler, daha geniş müşteri segmentleri. Bu, çoğu kuruluşun şu anda gezindiği tam otomasyon ve tam insan yönetimi arasındaki ikili seçimden temelden farklı bir büyüme modelidir.

Müşteri deneyimi ve operasyon ekipleri için, organizasyonel çıkarım en önemli olabilir. Müşteri deneyimi, risk ve mühendisliğin kesişiminde yeni bir işlev ortaya çıkıyor: otomasyon politikası. Birisi veya bir ekip, kadranın nerede durduğu, ne zaman hareket ettiği ve neyin hareket etmeyi haklı çıkardığı hakkındaki kararları sahiplenmelidir. Bu rol, çoğu organizasyon şemasında bugün net bir şekilde mevcut değildir. Bunu kasıtlı olarak inşa etmek – modelin en yakınındaki kişiye bırakmak yerine – bir müşteri deneyimi organizasyonunun yakın vadede alabileceği daha önemli yapısal kararlardan biridir.

Nereden Başlamalı

Uygulama zor olsa da, pratik rehberlik basittir. Özerkliği bir anahtar değil, bir kadran olarak ele alın. Mümkün olan en dar yetkiyle başlayın – tek bir eylem türü, sınırlı bir müşteri segmenti, muhafazakar bir güven eşiği – ve her şeyi enstrümanlayın. Ajan yayına girmeden önce, ilk hata ortaya çıktıktan sonra değil, açık insan müdahalesi tetikleyicilerini tanımlayın. Ardından, yetkiyi yalnızca performans kaydı bunu hak ettiğinde genişletin.

Ajan tabanlı yapay zekada lider olacak kuruluşlar, en yetenekli modellere sahip olanlar olmak zorunda değildir. Onlar, modelin ne yapmasına izin verildiği hakkında en dikkatli düşünenler ve bunu uygulamak için mimariyi inşa edenlerdir.