Supervised Autonomy

เหตุใดธรรมาภิบาลจึงเป็นพรมแดนใหม่ของการปรับใช้ AI

การพูดคุยเกี่ยวกับ AI ในประสบการณ์ของลูกค้า (customer experience) ตลอดหลายปีที่ผ่านมามุ่งเน้นไปที่ความสามารถเป็นหลัก: โมเดลสามารถเข้าใจเจตนา สร้างการตอบกลับที่สอดคล้องกัน และแก้ไขข้อสงสัยได้หรือไม่ คำถามนี้ส่วนใหญ่ได้รับการแก้ไขแล้วสำหรับการโต้ตอบตามปกติ คำถามที่ยากกว่า — ซึ่งตอนนี้แยกองค์กรที่ปรับขนาด AI อย่างมีความรับผิดชอบออกจากองค์กรที่หยุดชะงักหรือสะดุด — คือสิ่งที่เกิดขึ้นเมื่อโมเดลหยุดพูดและเริ่ม ลงมือทำ

การคืนเงิน การยกเลิกการสมัครสมาชิก การกำหนดค่าบัญชีใหม่: สิ่งเหล่านี้ไม่ใช่การกระทำเชิงสนทนา แต่เป็นการกระทำเชิงปฏิบัติที่มีผลกระทบตามมาซึ่งประโยคที่เขียนไม่ดีไม่สามารถส่งผลกระทบได้เลย ทันทีที่ AI ก้าวข้ามขีดจำกัดนั้น โปรไฟล์ความเสี่ยงจะเปลี่ยนไปโดยสิ้นเชิง การกระทำที่มั่นใจแต่ผิดพลาดนั้นแย่กว่าการตอบกลับที่น่าอึดอัดอย่างมาก และการปรับแต่งโมเดลไม่ว่าจะมากแค่ไหนก็ไม่สามารถขจัดความเสี่ยงนั้นได้ สิ่งที่ขจัดมันออกไป — หรืออย่างน้อยก็จำกัดมันไว้ — คือชั้นควบคุมที่ห่อหุ้มโมเดล

ส่วนที่ยากของ AI ที่เป็นตัวแทนไม่ใช่การสร้าง แต่เป็นการกำกับดูแล องค์กรที่ถือว่าสิ่งเหล่านี้เป็นปัญหาเดียวกันจะยังคงแก้ปัญหาที่ผิดอยู่เสมอ

กายวิภาคของชั้นควบคุม

ความเป็นอิสระภายใต้การกำกับดูแลไม่ใช่คุณสมบัติที่คุณซื้อ แต่เป็นสถาปัตยกรรมที่คุณสร้างขึ้น หัวใจหลักคือชุดนโยบายที่ชัดเจนซึ่งกำหนดว่าตัวแทนสามารถทำอะไรได้บ้างโดยไม่ต้องมีการตรวจสอบจากมนุษย์ ภายใต้เงื่อนไขใด และถึงขีดจำกัดใด ขีดจำกัดการใช้จ่าย คะแนนความเชื่อมั่น หมวดหมู่การดำเนินการ กลุ่มลูกค้า — แต่ละสิ่งกลายเป็นตัวแปรในการตัดสินใจว่าตัวแทนจะดำเนินการต่อหรือหยุดชั่วคราว

ส่วนประกอบเชิงปฏิบัติของชั้นควบคุมที่สมบูรณ์มักจะประกอบด้วย:

• เกณฑ์ความเชื่อมั่น: การดำเนินการจะถูกดำเนินการก็ต่อเมื่อความมั่นใจของโมเดลผ่านเกณฑ์ที่กำหนดไว้เท่านั้น กรณีที่ต่ำกว่าเกณฑ์นั้นจะถูกส่งไปยังตัวแทนที่เป็นมนุษย์แทนที่จะได้รับการแก้ไขโดยอัตโนมัติ
• ขีดจำกัดการใช้จ่ายและผลกระทบ: การคืนเงินที่เกินมูลค่าที่กำหนด หรือการยกเลิกที่ส่งผลกระทบต่อลูกค้าที่มีระยะเวลาการใช้งานนาน จะกระตุ้นให้มีการตรวจสอบภาคบังคับโดยไม่คำนึงถึงความเชื่อมั่นของโมเดล
• การจัดหมวดหมู่การดำเนินการ: การจัดหมวดหมู่แบบลำดับชั้นของสิ่งที่ตัวแทนสามารถทำได้โดยลำพัง สิ่งที่ต้องมีการยืนยันแบบอ่อน และสิ่งที่มนุษย์เป็นเจ้าของเสมอ
• บันทึกการตรวจสอบ: การดำเนินการอัตโนมัติทุกครั้งจะถูกบันทึกพร้อมสถานะการให้เหตุผลที่สร้างขึ้น — ซึ่งเป็นข้อกำหนดที่เพิ่มขึ้นในด้านกฎระเบียบ ไม่ใช่แค่การปฏิบัติงานเท่านั้น

สถาปัตยกรรมนี้กำหนดสิ่งที่ผู้ปฏิบัติงานเริ่มเรียกว่า รัศมีการระเบิด ของระบบอัตโนมัติ: ความเสียหายสูงสุดที่ตัวแทนที่ปรับเทียบไม่ถูกต้องสามารถก่อให้เกิดได้ก่อนที่มนุษย์จะตรวจพบ การรักษารัศมีนั้นให้เล็กเมื่อเปิดตัว จากนั้นขยายออกไปอย่างจงใจเมื่อข้อมูลประสิทธิภาพสะสม เป็นหลักการปฏิบัติงานเบื้องหลังการปรับขนาดอย่างมีความรับผิดชอบ

แรงกดดันด้านกฎระเบียบกำลังเร่งวินัย

ความเป็นอิสระภายใต้การกำกับดูแลไม่ใช่แค่ทางเลือกในการบริหารความเสี่ยงเท่านั้น แต่กำลังกลายเป็นท่าทีในการปฏิบัติตามข้อกำหนด กฎระเบียบ AI ที่เกิดขึ้นใหม่ในหลายเขตอำนาจศาลคาดหวังให้องค์กรแสดงให้เห็นถึงความสามารถในการอธิบายและการกำกับดูแลของมนุษย์ที่มีความหมายสำหรับการตัดสินใจที่มีผลกระทบสำคัญต่อบุคคล ในภาคการธนาคาร การประกันภัย การดูแลสุขภาพ และโทรคมนาคม — ซึ่งเป็นภาคส่วนที่รู้สึกถึงการเปลี่ยนแปลงนี้เร็วที่สุด — เกณฑ์นั้นสูงอยู่แล้วและกำลังเพิ่มขึ้น

นัยยะคือเชิงโครงสร้าง องค์กรที่ถือว่าธรรมาภิบาล AI เป็นเรื่องรองจะเผชิญกับค่าใช้จ่ายในการปรับปรุงแก้ไขที่มากกว่าค่าใช้จ่ายของชั้นควบคุมที่ออกแบบมาตั้งแต่ต้นอย่างมาก ผู้ที่สร้างสถาปัตยกรรมการกำกับดูแลก่อนจะได้รับสิ่งที่หน่วยงานกำกับดูแลและลูกค้าต่างให้คุณค่า: บัญชีที่น่าเชื่อถือและตรวจสอบได้ว่าการตัดสินใจอัตโนมัติเกิดขึ้นได้อย่างไรและมนุษย์ยังคงมีส่วนร่วมอยู่ที่ใด

นี่คือเหตุผลที่การสำรวจอุตสาหกรรมระบุอย่างสม่ำเสมอว่าธรรมาภิบาลและความไว้วางใจ — ไม่ใช่ความแม่นยำของโมเดล — เป็นอุปสรรคหลักในการปรับขนาด AI ในการดำเนินงาน หนึ่งในสามของโครงการริเริ่มระบบอัตโนมัติหยุดชะงักไม่ใช่เพราะเทคโนโลยีทำงานได้ไม่ดี แต่เป็นเพราะองค์กรไม่สามารถสร้างความพึงพอใจให้กับตนเอง หน่วยงานบริหารความเสี่ยง หรือหน่วยงานกำกับดูแลได้ว่าอำนาจหน้าที่ของตัวแทนได้รับการจำกัดอย่างเหมาะสม

สิ่งนี้มีความหมายต่อลูกค้า ทีมงาน และธุรกิจอย่างไร

สำหรับลูกค้า ผลกระทบเชิงปฏิบัติของความเป็นอิสระภายใต้การกำกับดูแลที่ออกแบบมาอย่างดีนั้นมองไม่เห็นในทางที่ดีที่สุด คำขอตามปกติ — การตรวจสอบสถานะ การปรับเปลี่ยนง่ายๆ การคืนเงินมาตรฐาน — จะได้รับการแก้ไขเร็วขึ้นเนื่องจากตัวแทนจัดการโดยไม่มีข้อขัดข้อง คำขอที่มีผลกระทบสำคัญจะส่งไปยังมนุษย์ ไม่ใช่เพราะ AI ล้มเหลว แต่เป็นเพราะนโยบายระบุอย่างถูกต้องว่าควรมีบุคคลเข้ามาเกี่ยวข้อง ประสบการณ์จะรู้สึกทั้งมีประสิทธิภาพและน่าเชื่อถือ ซึ่งเป็นการผสมผสานที่การปรับใช้ส่วนใหญ่ในปัจจุบันไม่สามารถทำได้พร้อมกัน

สำหรับธุรกิจ คุณค่าอยู่ที่ความมั่นใจที่ปรับขนาดได้ ความเป็นอิสระสามารถขยายได้ทีละน้อย — ประเภทการดำเนินการที่มากขึ้น เกณฑ์ที่สูงขึ้น กลุ่มลูกค้าที่กว้างขึ้น — เมื่อประสิทธิภาพที่วัดได้พิสูจน์ได้ นั่นเป็นรูปแบบการเติบโตที่แตกต่างกันโดยพื้นฐานจากการเลือกระหว่างระบบอัตโนมัติเต็มรูปแบบและการจัดการโดยมนุษย์เต็มรูปแบบที่องค์กรส่วนใหญ่กำลังเผชิญอยู่

สำหรับทีม CX และการดำเนินงาน นัยยะเชิงองค์กรอาจมีความสำคัญที่สุด ฟังก์ชันใหม่กำลังเกิดขึ้นที่จุดตัดของ CX ความเสี่ยง และวิศวกรรม: นโยบายระบบอัตโนมัติ ใครบางคน หรือทีมงานบางทีม ต้องเป็นเจ้าของการตัดสินใจว่าตัวหมุนอยู่ที่ใด เมื่อใดที่มันเคลื่อนที่ และหลักฐานใดที่พิสูจน์การเคลื่อนที่นั้น บทบาทนั้นไม่มีอยู่จริงในผังองค์กรส่วนใหญ่ในปัจจุบัน การสร้างมันขึ้นมาอย่างจงใจ — แทนที่จะปล่อยให้มันเป็นค่าเริ่มต้นสำหรับผู้ที่ใกล้ชิดกับโมเดลมากที่สุด — เป็นหนึ่งในการตัดสินใจเชิงโครงสร้างที่สำคัญที่สุดที่องค์กร CX สามารถทำได้ในระยะใกล้

จะเริ่มต้นอย่างไร

คำแนะนำเชิงปฏิบัติเป็นเรื่องตรงไปตรงมา แม้ว่าการดำเนินการจะไม่ใช่ก็ตาม ปฏิบัติต่อความเป็นอิสระเหมือนหน้าปัด ไม่ใช่สวิตช์ เริ่มต้นด้วยอำนาจหน้าที่ที่แคบที่สุดเท่าที่จะเป็นไปได้ — ประเภทการดำเนินการเดียว กลุ่มลูกค้าที่จำกัด เกณฑ์ความเชื่อมั่นที่อนุรักษ์นิยม — และบันทึกทุกอย่าง กำหนดทริกเกอร์การหยุดชั่วคราวสำหรับมนุษย์ที่ชัดเจนก่อนที่ตัวแทนจะเริ่มทำงาน ไม่ใช่หลังจากเกิดข้อผิดพลาดครั้งแรก จากนั้นขยายอำนาจหน้าที่ก็ต่อเมื่อบันทึกประสิทธิภาพพิสูจน์ได้

องค์กรที่จะเป็นผู้นำด้าน AI ที่เป็นตัวแทนไม่จำเป็นต้องเป็นองค์กรที่มีโมเดลที่มีความสามารถมากที่สุด แต่เป็นองค์กรที่คิดอย่างรอบคอบที่สุดเกี่ยวกับ สิ่งที่โมเดลได้รับอนุญาตให้ทำ — และสร้างสถาปัตยกรรมเพื่อบังคับใช้สิ่งนั้น