تدقيق ميداني يكشف فجوات في مراقبة الوكلاء الذكيين لدى OpenAI

ما الذي حدث

كشفت الجهتان المدققتان الخارجيتان METR وRedwood Research أن ما يصل إلى 25 في المئة من حركة الوكلاء الذكيين الصادرة عن نماذج OpenAI من فئة GPT-5.5 وما يفوقها لم تكن تخضع للمراقبة. وأوردت منصة The Decoder هذه النتيجة استناداً إلى ملخص التدقيق.

جاءت النتيجة من تدقيق ميداني داخل مقر الشركة استمر ثلاثة أسابيع، وأُعدّ عنه تقرير يقع في 61 صفحة. غير أن معظم صفحات التقرير مُنقّحة (محجوبة)، ولذلك لم يُتح للعموم سوى ملخص عام يتضمن الخلاصات الرئيسية.

تكشف هذه النتائج فجوة محتملة بين سرعة نشر النماذج المتقدمة وقدرة أنظمة المراقبة على تتبع سلوكها في بيئات التشغيل الفعلية. ولا يتضح من الملخص العام حجم الإجراءات المعتمدة لسد هذه الفجوة أو الجدول الزمني لذلك.

لماذا يهم الأمر

مع انتقال النماذج من الإجابة على الأسئلة إلى تنفيذ المهام بصورة مستقلة، تصبح المراقبة جزءاً من جودة الخدمة نفسها. فالمؤسسة التي لا ترى ما يقوم به وكلاؤها الذكيون لا تستطيع ضمان دقة النتائج التي تصل إلى العملاء، ولا معالجة الأخطاء قبل أن تؤثر فيهم.

بالنسبة لقادة التحول الرقمي، يبرز الأمر كمسألة تصميم للمنظومة لا كمسألة امتثال تقني فقط. فقرارات مثل من يملك صلاحية الاطلاع على سجلات الوكلاء، وكيف تُعرض نتائج المراقبة على الفرق المعنية، تحدد مدى قدرة المؤسسة على الاستجابة السريعة والمسؤولة عند ظهور خلل.

أبرز الأرقام

• 25 في المئة: الحد الأعلى لنسبة حركة الوكلاء غير الخاضعة للمراقبة في النماذج من فئة GPT-5.5 وما يفوقها، وفق ملخص التدقيق.
• ثلاثة أسابيع: مدة التدقيق الميداني الذي أجرته الجهتان المدققتان داخل الشركة.
• 61 صفحة: حجم التقرير الكامل، الذي يبقى معظمه منقّحاً في النسخة العامة.

رؤية رينيسانس

ما يغفله معظم القراء أن الرقم الأهم في هذا التقرير ليس النسبة نفسها، بل حقيقة أن هذا القدر من الحركة لم يكن مرئياً أصلاً. فالمراقبة التي تغطي الجزء الأكبر من النشاط لا تكفي إذا بقي جزء معتبر منه خارج نطاقها.

المراقبة ليست طبقة تُضاف في نهاية التطوير، بل هي جزء من تصميم الخدمة نفسه. عندما لا يرى المشغّل ربع حركة وكلائه تقريباً، فهو يعمل بعمى جزئي عن تجربة المستخدم وعن المخاطر التي قد تنتج عنها. الأولى لمن يبني على هذه النماذج أن يحدد مسبقاً ما الذي يجب تتبعه، وأن يطالب بإثبات حجم التغطية بدلاً من الاكتفاء بالوعود.