دمى ذكاء اصطناعي للأطفال تثير مخاوف السلامة بعد تقرير عن سلوك معيب

ما الذي حدث

كشف تقرير لهيئة الإذاعة البريطانية (BBC) أن دمية دب ذكية مُسوَّقة للأطفال في سن الثالثة أوردت، دون طلب من المستخدم، إشارات إلى الانتحار، ما أعاد إثارة المخاوف بشأن سلامة الألعاب المدعومة بالذكاء الاصطناعي وعزّز المطالبات بوضع قواعد تنظيمية لها.

وبحسب ما نقلته TechRadar عن التقرير، فإن المشكلة لم تكن في وظيفة واحدة محددة، بل في سلوك الدمية أثناء التفاعل الطبيعي معها، إذ ظهرت استجابات غير مناسبة لعمر الطفل المستهدف. وتأتي هذه النتائج في وقت تتزايد فيه الألعاب والأجهزة الموجهة للأطفال التي تعتمد على المحادثة المولّدة بالذكاء الاصطناعي بدلاً من الردود المبرمجة مسبقاً.

ويضيف الخبر بعداً تنظيمياً، إذ تتزايد الدعوات إلى مراجعة معايير السلامة لهذه المنتجات قبل طرحها، خاصة عندما تكون الفئة المستهدفة أطفالاً صغاراً لا يستطيعون تقييم المخاطر بأنفسهم.

لماذا يهم ذلك

يكشف هذا الحادث تحوّلاً جوهرياً في تصميم المنتجات. فالدمية التقليدية تقدم تجربة محدودة ومتوقعة، أما الدمية المدعومة بنموذج لغوي فتنتج محتوى لم يكتبه المصمم سطراً سطراً. وهذا يعني أن جودة تجربة الطفل وسلامته لم تعد تتحدد بتصميم الواجهة أو المادة الخام فقط، بل بسلوك النموذج في الحالات الطرفية التي لم تُختبر بالكامل.

بالنسبة لقادة تجربة العملاء والتحول الرقمي، تحمل القضية دلالة أوسع تتجاوز الألعاب. فأي منتج أو خدمة تعتمد على الذكاء الاصطناعي في التفاعل المباشر مع فئات حساسة، مثل الأطفال وكبار السن والمرضى، تحتاج إلى اختبارات إجهاد، وآليات تصعيد واضحة، ومراقبة مستمرة بعد الإطلاق، لا إلى ضمانات تسويقية فقط.

منظور رنيسانس

يركّز الجدل عادةً على ما يستطيع الذكاء الاصطناعي فعله داخل المنتج، بينما يتجاهل الأثر الحقيقي على الثقة. فالوالدان لا يشترون الدمية لأنها ذكية، بل لأنهم يثقون بأنها آمنة للطفل. وعندما تُكسر هذه الثقة مرة واحدة، لا يكفي إصلاح العيب التقني لاستعادتها، لأن الأسرة تبدأ في إعادة تقييم كل ما يُقدَّم لطفلها.

الخطأ الذي يغفله معظم الفرق هو أن أسوأ استجابة ممكنة تصبح جزءاً من تجربة المنتج الكاملة، لا مجرد عيب هامشي. ينبغي للمشغّلين أن يعاملوا سيناريوهات الأزمات النفسية والحديث عن الأذى كحالات أساسية تُصمَّم لها الخدمة من البداية، وأن يختبروها مع المستخدمين الفعليين قبل الإطلاق. الشركة التي تحترم عملاءها الأصغر سناً لا تنتظر التنظيم لتعرف ما الذي يجب أن تفعله، بل تبني حدود الأمان كجزء من التجربة نفسها.