الذكاء الاصطناعي: هيئة بريطانية تدعو للإبلاغ عن الإخفاقات والحوادث الوشيكة

ما الذي حدث

دعت هيئة السلوك المالي في المملكة المتحدة (Financial Conduct Authority) شركات الخدمات المالية إلى الإبلاغ عن إخفاقات الذكاء الاصطناعي والحوادث التي كادت أن تقع، وذلك في وقت تنشر فيه البنوك وكلاء ذكاء اصطناعي أكثر استقلالية في عملياتها. ونقلت صحيفة The Register هذا المقترح، موضحةً أنه يركز على المساءلة والكشف المبكر عن المشكلات قبل أن تتحول إلى أضرار دائمة.

يعني ذلك أن الهيئة تنظر إلى الحوادث الوشيكة بوصفها مصدراً مهماً للتعلم التنظيمي، لا الإخفاقات الفعلية وحدها. فالمطلوب من المؤسسات توثيق ما كاد أن يحدث ومشاركته، بما يتيح رصد الأنماط المتكررة قبل أن تتفاقم.

ولم تتضمن المادة المتاحة تفاصيل عن الجدول الزمني للتطبيق أو آليات الإبلاغ أو نطاق الالتزامات المحددة، لذا يبقى الاقتراح في إطار التوجه العام، مع ترقب ما سيترتب عليه من إجراءات تفصيلية.

لماذا يهم الأمر

يعكس هذا التوجه انتقال الذكاء الاصطناعي في القطاع المالي من مرحلة التجريب إلى مرحلة التشغيل الفعلي، خاصة حين تتخذ الأنظمة قرارات أو تنفذ إجراءات دون تدخل بشري مباشر في كل خطوة. ومع هذا الانتقال، تصبح جودة المراقبة وسرعة كشف الخلل عنصراً أساسياً في تشغيل الخدمات المصرفية، لا مجرد إجراء امتثال إضافي.

بالنسبة إلى قادة التحول الرقمي، يطرح الاقتراح سؤالاً عملياً: كيف تُصمم أنظمة الذكاء الاصطناعي بحيث تكون حوادثها قابلة للرصد والتفسير والتتبع؟ فالمؤسسة التي تعامل الحوادث الوشيكة كمعلومات تشغيلية قيّمة، لا كإخفاقات تُخفى، ستكون في وضع أفضل لحماية العملاء وتحسين تجربتهم مع تزايد دور الوكلاء الآليين.

رأي Renascence

الأثر الأهم لهذا التوجه لن يظهر في قائمة الإخفاقات المعلنة، بل في الحوادث التي كادت أن تقع ولم يلحظها أحد. ومن منظور علم السلوك الاقتصادي، فإن المؤسسات تميل إلى التقليل من الإبلاغ عن الأخطاء الصغيرة، لأن كلفة الاعتراف بها تبدو أعلى من كلفة تجاهلها في المدى القصير. لذلك فإن الإبلاغ عن الحوادث الوشيكة يحتاج إلى ثقافة تكافئ الشفافية، لا إلى قواعد تعاقب من يبلغ.

المؤسسة التي تنتظر حتى يتضرر العميل لتبدأ في التعلم تكون قد تأخرت كثيراً. ينبغي على مديري تجربة العملاء أن يطلبوا من فرق الذكاء الاصطناعي تتبع الحوادث الوشيكة بالمستوى نفسه من الجدية الذي يحظى به مؤشر رضا العملاء. وأن يصمموا لكل وكيل آلي نقطة تدخل بشرية واضحة، لأن الثقة في الخدمة الرقمية تُبنى على القدرة على التصحيح قبل الوقوع في الضرر، لا على الادعاء بعدم الخطأ.