Cisco تطلق أداة مفتوحة المصدر لرصد وكلاء الذكاء الاصطناعي في أنشطة الاختراق

ما الذي حدث

أتاحت شركة Cisco للعموم أداة مفتوحة المصدر باسم Project Quarry، تهدف إلى مساعدة المؤسسات على رصد وكلاء الذكاء الاصطناعي عندما ينفذون أنشطة اختراق. وبحسب تقرير نشرته صحيفة The Register، تسعى المبادرة إلى منح القطاع مفردات مشتركة لتقييم سلوك هذه الوكلاء.

يعكس الإعلان تحوّلاً في طريقة التعامل مع أنظمة الذكاء الاصطناعي التي تعمل بقدر من الاستقلالية. فبدلاً من الاكتفاء بمراقبة المخرجات، يصبح من الضروري تحديد ما يُعد سلوكاً طبيعياً لوكيل ذكي وما يُعد مؤشراً على نشاط ضار، وهو ما يفتقر إليه كثير من المؤسسات حتى الآن.

وتأتي الأداة مفتوحة المصدر، أي أن مطوريها والمؤسسات الأخرى يمكنهم الاطلاع عليها واستخدامها وتعديلها. ولم تتناول المعلومات المتاحة تفاصيل تقنية إضافية عن طريقة عمل الأداة أو قدراتها التفصيلية، لذا يبقى الحكم على فعاليتها مرهوناً باستخدامها الفعلي.

لماذا يهم

لم يعد الذكاء الاصطناعي مجرد أداة للإجابة على الأسئلة، بل بات وكيلاً يتخذ إجراءات داخل الأنظمة المؤسسية، من الوصول إلى البيانات إلى تنفيذ المهام عبر التطبيقات. وهذا يجعل رصد السلوك غير المعتاد جزءاً من تصميم التشغيل نفسه، وليس إجراءً أمنياً يُضاف لاحقاً.

كما أن الحاجة إلى مفردات مشتركة لا تقل أهمية عن الأداة ذاتها. فحين تتفق الجهات المختلفة على تعريفات واضحة لسلوك الوكلاء، يصبح بإمكان فرق المشتريات والمراجعة والأمن السيبراني مقارنة الحلول وتقييمها على أسس متماثلة، وهو ما يسهل التحول الرقمي المسؤول على نطاق واسع.

تحليل رينيسنس

ينصرف معظم القراء إلى السؤال عن قدرة الأداة على اكتشاف الهجمات، بينما الأهم هو السؤال عن المعايير التي يُبنى عليها الحكم على السلوك أصلاً. فالتعريف الواضح لما هو طبيعي يسبق أي إنذار، ومن دونه تتحول التنبيهات إلى ضجيج يُتجاهل مع الوقت.

المؤسسة التي تنشر وكلاء ذكاء اصطناعي دون تعريف واضح لسلوكهم المقبول تشبه من يعيّن موظفاً جديداً دون وصف وظيفي. المبدأ الذي يحكم هذا الأمر هو أن الثقة تُبنى على توقعات مُعلنة وقابلة للقياس، لا على حسن النية. لذلك ينبغي لمن يقود التحول الرقمي أن يتعامل مع معايير سلوك الوكلاء كجزء من تصميم الخدمة، وأن يختبرها مع فرق الأمن والعمليات قبل توسيع نطاق الاستخدام.