تجار التجزئة يكبحون الذكاء الاصطناعي الخفي لكن يعجزون عن ضبط الوكلاء الذكيين

ما الذي حدث

تكشف دراسة حديثة أجرتها شركة Netskope عن تسارع كبير في اعتماد شركات التجزئة لعملاء أو "وكلاء" الذكاء الاصطناعي المستقلين (Agentic AI) لأداء مهام متنوعة، في وقت تتخلف فيه آليات الرقابة والإشراف على ما تفعله هذه الأدوات ببيانات العملاء والمدفوعات بشكل ملحوظ عن وتيرة هذا الانتشار.

ووفقاً لما نقلته كل من CIO Dive وRetail Dive، فإن قطاع التجزئة يسعى للحد من ظاهرة "الذكاء الاصطناعي الخفي" أو Shadow AI، أي استخدام الموظفين لأدوات ذكاء اصطناعي غير معتمدة رسمياً من قبل الإدارات التقنية. غير أن الجهود المبذولة في هذا الاتجاه لم تواكب بعد التوسع السريع في وكلاء الذكاء الاصطناعي الذين باتوا يتصرفون بشكل شبه مستقل داخل الأنظمة المؤسسية، ما يجعل من الصعب على الشركات تتبع القرارات التي يتخذونها أو البيانات التي يصلون إليها.

تشير النتائج إلى أن هذا التوسع "العشوائي" في الوكلاء الذكيين يخلق فجوة إشرافية حقيقية، إذ تفتقر العديد من فرق تقنية المعلومات في قطاع التجزئة إلى الرؤية الكاملة حول كيفية تفاعل هذه الأدوات مع بيانات حساسة، بما في ذلك معلومات الدفع وبيانات العملاء الشخصية.

لماذا يهم الأمر

تمثل هذه النتائج تذكيراً بأن تبني الذكاء الاصطناعي بوتيرة متسارعة، دون بناء أطر حوكمة موازية، يضع المؤسسات أمام مخاطر تشغيلية وأمنية حقيقية. فالوكلاء الذكيون لا يكتفون بتقديم توصيات أو تنفيذ مهام بسيطة، بل أصبحوا قادرين على اتخاذ إجراءات مستقلة تمس بيانات حساسة، وهو ما يستدعي أدوات رقابة ومساءلة مختلفة جذرياً عن تلك المصممة لتطبيقات الذكاء الاصطناعي التقليدية.

بالنسبة لقادة التحول الرقمي وتجربة العملاء، تكمن الرسالة الأعمق في أن سرعة الابتكار يجب ألا تطغى على متطلبات الحوكمة والشفافية. فكل عميل تثق بياناته في يد نظام آلي يفترض أن يكون جزءاً من تجربة موثوقة، لا مصدر قلق خفي قد ينفجر لاحقاً على شكل خرق بيانات أو إساءة استخدام.

وجهة نظر Renascence

ما يغيب غالباً عن النقاش حول "الذكاء الاصطناعي الخفي" هو أن المشكلة ليست تقنية بحتة، بل سلوكية وتصميمية في جوهرها. فالموظفون والأنظمة لا يلجأون إلى أدوات غير معتمدة عن قصد سيئ، بل لأن الحلول الرسمية غالباً أبطأ أو أقل مرونة من احتياجاتهم الفعلية.

الحوكمة الفعالة للذكاء الاصطناعي الوكيل لا تبدأ بالقيود، بل بتصميم تجربة داخلية للموظفين لا تدفعهم للبحث عن بدائل غير مرخصة أصلاً. على قادة التجزئة أن يعاملوا الشفافية في استخدام البيانات كجزء من وعد العلامة التجارية نفسه، لا كبند امتثال منفصل، وأن يبنوا "خرائط مساءلة" واضحة تحدد من المسؤول عن كل قرار يتخذه وكيل ذكي يلامس بيانات العميل. من يتجاهل هذا البعد السلوكي سيجد نفسه يطارد المخاطر بعد وقوعها، لا قبلها.