تدقيق في OpenAI يكشف فجوات في مراقبة سلامة الذكاء الاصطناعي

ما الذي حدث

خلص مدققان خارجيان، هما منظمة METR وشركة Redwood Research، إلى أن ما يصل إلى 25 في المئة من حركة الوكلاء الذكيين الصادرة عن نماذج من فئة GPT-5.5 وما فوقها لم تكن خاضعة للمراقبة لدى OpenAI. جاء ذلك بعد تدقيق ميداني في مقر الشركة استمر ثلاثة أسابيع.

ويستند هذا الاستنتاج إلى تقرير من 61 صفحة، غير أن معظمه محجوب بالتنقيح، ولذلك لا يتوفر للعموم سوى ملخص له. وقد نقل موقع The Decoder المتخصص في أخبار الذكاء الاصطناعي هذه النتائج، مشيراً إلى أنها تكشف فجوات كبيرة في آليات مراقبة سلامة الذكاء الاصطناعي.

ولا تتيح الصيغة العامة للتقرير الاطلاع على تفاصيل المنهجية كاملة، ولا على الإجراءات التي قد تتخذها الشركة رداً على هذه الملاحظات، لذا يبقى نطاق الاستنتاجات المتاحة محدوداً بما ورد في الملخص.

لماذا يهم ذلك

يتجه الذكاء الاصطناعي بصورة متزايدة نحو الوكلاء القادرين على تنفيذ مهام متعددة الخطوات نيابة عن المستخدمين والمؤسسات، وهو ما يجعل القدرة على رؤية ما تفعله هذه الأنظمة وتتبعه جزءاً أساسياً من التشغيل، لا مجرد إجراء تقني داخلي. فإذا كان جزء من حركة الوكلاء بعيداً عن المراقبة، فإن المؤسسات التي تعتمد عليهم في خدمة العملاء أو معالجة البيانات أو اتخاذ القرارات تفتقر إلى رؤية كاملة لما يحدث في تفاعلاتها.

وتبرز القضية أيضاً أهمية الشفافية في بناء الثقة، إذ يحتاج قادة التجربة والتحول الرقمي إلى أدوات تتيح لهم التحقق من سلوك الأنظمة قبل نشرها على نطاق واسع، لا بعده.

أرقام تستحق الانتباه

• 25 في المئة — الحد الأقصى لنسبة حركة الوكلاء من نماذج GPT-5.5 وما فوقها التي لم تكن خاضعة للمراقبة، وفق ما ورد في الملخص.
• ثلاثة أسابيع — مدة التدقيق الميداني الذي أجرته METR وRedwood Research في مقر OpenAI.
• 61 صفحة — حجم التقرير الكامل، وهو محجوب في معظمه بالتنقيح.

رأي Renascence

لا ينبغي قراءة هذا الخبر بوصفه مسألة تقنية بحتة تخص مختبرات الذكاء الاصطناعي وحدها. فالتنقيح الواسع للتقرير نفسه يمثل بحد ذاته إشارة إلى أن الشفافية في سلامة الأنظمة لم تصبح بعد معياراً راسخاً يمكن للجمهور أن يتحقق منه بسهولة.

معظم القراء سيتجاوزون الرقم الأكبر ليركزوا على الاستنتاج الأهم: الثقة لا تُبنى على الوعود بل على القابلية للتحقق. المبدأ السلوكي هنا هو أن الأفراد يتقبلون عدم الكمال إذا رأوا آلية مراقبة واضحة، بينما يفقدون الثقة سريعاً عندما يكتشفون فجوات لم يعلنها أحد. على المشغّلين الذين يطلقون وكلاء ذكيين أمام العملاء أن يعاملوا المراقبة كجزء من تجربة الخدمة نفسها، وأن يحددوا مسبقاً ما الذي يُسجَّل ومن يراجعه وكيف يُبلَّغ العميل عند حدوث خلل.