Supervised Autonomy

एआई डिप्लॉयमेंट में गवर्नेंस नई सीमा क्यों है

ग्राहक अनुभव में एआई के बारे में बातचीत कई सालों से क्षमता पर केंद्रित रही है: क्या मॉडल इरादे को समझ सकता है, एक सुसंगत जवाब दे सकता है, क्वेरी को हल कर सकता है? यह सवाल नियमित इंटरैक्शन के लिए काफी हद तक सुलझा लिया गया है। कठिन सवाल - जो अब उन संगठनों को अलग करता है जो एआई को जिम्मेदारी से बढ़ाते हैं, उनसे जो रुक जाते हैं या लड़खड़ाते हैं - वह यह है कि जब मॉडल बात करना बंद कर देता है और काम करना शुरू कर देता है तो क्या होता है।

रिफंड जारी करना, सदस्यता रद्द करना, खाते को पुन: कॉन्फ़िगर करना: ये संवादात्मक कार्य नहीं हैं। वे परिचालन कार्य हैं, जिनके डाउनस्ट्रीम परिणाम होते हैं जो एक खराब शब्द वाले वाक्य में नहीं होते हैं। जिस क्षण एआई उस सीमा को पार करता है, जोखिम प्रोफ़ाइल पूरी तरह से बदल जाती है। एक आत्मविश्वासपूर्ण लेकिन गलत कार्रवाई एक अजीब जवाब से कहीं अधिक खराब है, और मॉडल फाइन-ट्यूनिंग की कोई भी मात्रा उस जोखिम को समाप्त नहीं करती है। जो इसे समाप्त करता है - या कम से कम इसे नियंत्रित करता है - वह मॉडल के चारों ओर लपेटी गई नियंत्रण परत है।

एजेंटिक एआई का कठिन हिस्सा जनरेशन नहीं है। यह गवर्नेंस है। जो संगठन इन्हें एक ही समस्या मानते हैं, वे गलत समस्या को हल करते रहेंगे।

एक नियंत्रण परत की संरचना

पर्यवेक्षित स्वायत्तता एक ऐसी सुविधा नहीं है जिसे आप खरीदते हैं; यह एक आर्किटेक्चर है जिसे आप बनाते हैं। इसके मूल में स्पष्ट नीतियों का एक सेट होता है जो यह परिभाषित करता है कि एक एजेंट मानव समीक्षा के बिना क्या कर सकता है, किन शर्तों के तहत, और किस सीमा तक। खर्च की सीमा, आत्मविश्वास स्कोर, कार्रवाई श्रेणियां, ग्राहक खंड - प्रत्येक एक निर्णय में एक चर बन जाता है कि एजेंट आगे बढ़ता है या रुकता है।

एक परिपक्व नियंत्रण परत के व्यावहारिक घटकों में आमतौर पर शामिल हैं:

• आत्मविश्वास की सीमाएँ: कार्य तभी निष्पादित किए जाते हैं जब मॉडल की निश्चितता एक परिभाषित सीमा को पार कर जाती है; उस सीमा से नीचे के मामलों को स्वायत्त रूप से हल करने के बजाय एक मानव एजेंट को भेजा जाता है।
• खर्च और प्रभाव की सीमाएँ: एक निश्चित मूल्य से ऊपर के रिफंड, या लंबे समय तक रहने वाले ग्राहकों को प्रभावित करने वाले रद्दीकरण, मॉडल के आत्मविश्वास की परवाह किए बिना अनिवार्य समीक्षा को ट्रिगर करते हैं।
• कार्य वर्गीकरण: एक श्रेणीबद्ध वर्गीकरण कि एजेंट एकतरफा क्या कर सकता है, जिसके लिए नरम पुष्टि की आवश्यकता होती है, और जो हमेशा मानव-स्वामित्व वाला होता है।
• ऑडिट ट्रेल्स: प्रत्येक स्वचालित कार्रवाई को उस तर्क स्थिति के साथ लॉग किया जाता है जिसने इसे उत्पन्न किया - एक आवश्यकता जो तेजी से नियामक है, न कि केवल परिचालन।

यह आर्किटेक्चर परिभाषित करता है जिसे प्रैक्टिशनर ब्लास्ट रेडियस ऑफ़ ऑटोमेशन कहना शुरू कर रहे हैं: एक गलत कैलिब्रेटेड एजेंट मानव द्वारा पकड़े जाने से पहले अधिकतम नुकसान पहुंचा सकता है। लॉन्च के समय उस दायरे को छोटा रखना, फिर प्रदर्शन डेटा जमा होने पर इसे जानबूझकर विस्तारित करना, जिम्मेदार स्केलिंग के पीछे का ऑपरेटिंग सिद्धांत है।

नियामक दबाव अनुशासन को तेज कर रहा है

पर्यवेक्षित स्वायत्तता केवल एक जोखिम-प्रबंधन विकल्प नहीं है - यह एक अनुपालन मुद्रा बन रही है। कई न्यायालयों में उभरते एआई विनियमन संगठनों से उन निर्णयों के लिए व्याख्यात्मकता और सार्थक मानव पर्यवेक्षण प्रदर्शित करने की अपेक्षा करते हैं जिनके व्यक्तियों के लिए महत्वपूर्ण परिणाम होते हैं। बैंकिंग, बीमा, स्वास्थ्य सेवा और दूरसंचार में - वे क्षेत्र जो इस बदलाव को सबसे पहले महसूस कर रहे हैं - वह सीमा पहले से ही उच्च और बढ़ रही है।

इसका निहितार्थ संरचनात्मक है। जिन संगठनों ने एआई गवर्नेंस को एक बाद के विचार के रूप में माना है, उन्हें रेट्रोफिटिंग लागतों का सामना करना पड़ेगा जो एक डिज़ाइन-इन नियंत्रण परत की लागत से कहीं अधिक होगी। जो लोग पहले पर्यवेक्षण आर्किटेक्चर का निर्माण करते हैं, उन्हें कुछ ऐसा मिलता है जिसे नियामक और ग्राहक दोनों महत्व देते हैं: एक विश्वसनीय, ऑडिट करने योग्य खाता कि स्वचालित निर्णय कैसे लिए जाते हैं और जहां मनुष्य लूप में रहते हैं।

यही कारण है कि उद्योग सर्वेक्षण लगातार गवर्नेंस और विश्वास - मॉडल सटीकता नहीं - को संचालन में एआई को बढ़ाने के लिए प्राथमिक अवरोधक के रूप में पहचानते हैं। तीन में से एक ऑटोमेशन पहल इसलिए नहीं रुकती क्योंकि तकनीक खराब प्रदर्शन करती है, बल्कि इसलिए कि संगठन खुद को, अपने जोखिम फ़ंक्शन को, या अपने नियामकों को संतुष्ट नहीं कर सकता है कि एजेंट का जनादेश उचित रूप से सीमित है।

इसका ग्राहकों, टीमों और व्यवसाय के लिए क्या मतलब है

ग्राहकों के लिए, अच्छी तरह से डिज़ाइन की गई पर्यवेक्षित स्वायत्तता का व्यावहारिक प्रभाव सर्वोत्तम संभव तरीके से अदृश्य है। नियमित अनुरोध - स्थिति जांच, सरल समायोजन, मानक रिफंड - तेजी से हल होते हैं क्योंकि एजेंट उन्हें बिना किसी घर्षण के संभालता है। महत्वपूर्ण अनुरोध एक मानव को सतह पर लाते हैं, इसलिए नहीं कि एआई विफल हो गया, बल्कि इसलिए कि नीति ने सही ढंग से पहचान की कि एक व्यक्ति को शामिल किया जाना चाहिए। अनुभव कुशल और भरोसेमंद दोनों लगता है, जो एक ऐसा संयोजन है जिसे अधिकांश वर्तमान डिप्लॉयमेंट एक साथ प्राप्त करने में विफल रहते हैं।

व्यवसाय के लिए, मूल्य स्केलेबल आत्मविश्वास में है। स्वायत्तता धीरे-धीरे बढ़ सकती है - अधिक कार्रवाई प्रकार, उच्च सीमाएं, व्यापक ग्राहक खंड - जैसा कि मापा गया प्रदर्शन इसे उचित ठहराता है। यह पूर्ण स्वचालन और पूर्ण मानव हैंडलिंग के बीच द्विआधारी विकल्प से मौलिक रूप से अलग विकास मॉडल है जिसे अधिकांश संगठन वर्तमान में नेविगेट कर रहे हैं।

सीएक्स और संचालन टीमों के लिए, संगठनात्मक निहितार्थ सबसे महत्वपूर्ण हो सकता है। सीएक्स, जोखिम और इंजीनियरिंग के चौराहे पर एक नया फ़ंक्शन उभर रहा है: ऑटोमेशन पॉलिसी। किसी को, या किसी टीम को, इस बारे में निर्णय लेने होंगे कि डायल कहाँ बैठता है, कब चलता है, और कौन सा सबूत इसे स्थानांतरित करने को उचित ठहराता है। वह भूमिका आज अधिकांश संगठन चार्ट में स्पष्ट रूप से मौजूद नहीं है। इसे जानबूझकर बनाना - बजाय इसके कि इसे मॉडल के सबसे करीब वाले व्यक्ति पर डिफ़ॉल्ट रूप से छोड़ दिया जाए - निकट भविष्य में एक सीएक्स संगठन द्वारा किए जा सकने वाले अधिक महत्वपूर्ण संरचनात्मक निर्णयों में से एक है।

कहाँ से शुरू करें

व्यावहारिक मार्गदर्शन सीधा है, भले ही निष्पादन न हो। स्वायत्तता को एक डायल के रूप में मानें, न कि एक स्विच के रूप में। सबसे संकीर्ण संभव जनादेश के साथ शुरू करें - एक एकल कार्रवाई प्रकार, एक सीमित ग्राहक खंड, एक रूढ़िवादी आत्मविश्वास सीमा - और सब कुछ इंस्ट्रूमेंट करें। एजेंट के लाइव होने से पहले मानव ट्रिगर के लिए स्पष्ट विराम को परिभाषित करें, पहली त्रुटि सामने आने के बाद नहीं। फिर जनादेश को तभी विस्तृत करें जब प्रदर्शन रिकॉर्ड इसे अर्जित करे।

जो संगठन एजेंटिक एआई में नेतृत्व करेंगे, वे जरूरी नहीं कि सबसे सक्षम मॉडल वाले हों। वे वे हैं जिन्होंने मॉडल को क्या करने की अनुमति है के बारे में सबसे सावधानी से सोचा है - और इसे लागू करने के लिए आर्किटेक्चर बनाया है।