تدقيق ميداني يكشف فجوات في مراقبة حركة الوكلاء الذكيين لدى OpenAI

ما الذي حدث

كشفت تدقيقات خارجية أجرتها كل من METR وRedwood Research أن ما يصل إلى 25 في المئة من حركة الوكلاء الذكيين المرتبطة بنماذج من فئة GPT-5.5 وما فوقها لدى OpenAI كانت تعمل دون مراقبة. واستندت النتيجة إلى تدقيق ميداني داخل مقرات الشركة استمر ثلاثة أسابيع، وفق ما نشره موقع The Decoder.

ووفق الملخص العام المتاح، فإن التقرير الكامل المؤلف من 61 صفحة مُنقَّح في معظمه، ولذلك لا يتوفر للجمهور سوى ملخص محدود. ويعني ذلك أن تفاصيل المنهجية، وحجم الفجوات في كل نوع من أنواع الاستخدام، لا يمكن التحقق منها بالكامل من المعلومات المنشورة حتى الآن.

لماذا يهم

تكتسب مراقبة حركة الوكلاء الذكيين أهمية متزايدة مع انتقال هذه الأنظمة من التجارب إلى تنفيذ مهام فعلية نيابةً عن المستخدمين والمؤسسات. فالحركة غير المراقبة تعني أن المؤسسة لا ترى ما الذي يفعله الوكيل، ولا تستطيع تفسير قراراته أو تصحيحها عند الحاجة. وبالنسبة لقادة التحول الرقمي، فهذا يشير إلى أن قابلية الرصد يجب أن تكون جزءاً من تصميم نشر الوكلاء منذ البداية، لا إضافة لاحقة بعد توسيع الاستخدام.

كما تبرز القضية أهمية الشفافية في نتائج السلامة نفسها. فحين تُنشر الملاحظات الجوهرية في صورة ملخصات محدودة، يصبح من الصعب على العملاء والشركاء والجهات التنظيمية تقييم المخاطر بدقة، وهو ما يضعف الثقة في الخدمة على المدى الطويل.

بالأرقام

• 25 في المئة: الحد الأقصى لنسبة حركة الوكلاء المرتبطة بنماذج GPT-5.5 وما فوقها التي لم تكن خاضعة للمراقبة، وفق ما ورد في الملخص العام.
• ثلاثة أسابيع: مدة التدقيق الميداني الذي أجرته الجهتان الخارجيتان.
• 61 صفحة: حجم التقرير الكامل، الذي يبقى معظمه مُنقَّحاً وغير متاح للعموم.

رأي Renascence

الخبر في ظاهره عن فجوة تقنية، لكنه في جوهره يتعلق بالثقة وقابلية القياس. فكثير من القراء سيتوقفون عند نسبة 25 في المئة، بينما الأهم هو أن الجهات التي تعتمد على هذه الأنظمة لم تكن تملك صورة كاملة عما تفعله.

المبدأ السلوكي الذي يحكم هذه القضية بسيط: ما لا يُقاس لا يمكن إدارته، والعميل أو الموظف الذي لا يرى ما يحدث لن يثق فيه. لذلك على المشغّلين أن يعاملوا حركة الوكلاء كما يعاملون رحلة العميل، فيرسموا كل نقطة تفاعل، ويحددوا عتبات مراقبة واضحة قبل التوسع. وينبغي كذلك أن يطلبوا من مزودي النماذج ملخصات قابلة للتدقيق، لا وعوداً عامة بالسلامة.