غرامة 5 آلاف دولار على محامٍ بسبب شهود اختلقهم الذكاء الاصطناعي

ما الذي حدث

فرضت المحكمة العليا في ولاية نيو مكسيكو الأمريكية غرامة قدرها 5,000 دولار على المحامي ستيفن آرونز، بعد أن تضمنت مذكرة استئناف قدمها عن موكله المدان في قضية قتل شهوداً وشهادات شرطة اتضح أن أداة ذكاء اصطناعي اختلقتها. وذكر تقرير لوكالة رويترز، أعادت منصة The Verge نشره، أن المحكمة أصدرت قرارها في مذكرة صدرت يوم الأربعاء.

وأوضحت المحكمة أن المحامي لم يتحقق من الادعاءات الواقعية والقانونية الواردة في مذكرته، فقررت معاقبته بالغرامة وإدانته بازدراء المحكمة. ولم تتطرق المصادر المتاحة إلى تفاصيل إضافية عن مراحل الإجراءات السابقة أو عن الأسلوب الذي استُخدمت به الأداة في إعداد المذكرة.

لماذا يهم

تكشف القضية عن فجوة تتسع بين سرعة تبني أدوات توليد النصوص في المهن المعرفية، وقدرة المؤسسات على ضبط موثوقية مخرجاتها. فالنص الذي يبدو متماسكاً ومقنعاً قد يتضمن وقائع غير موجودة، والمهنيون الذين يعتمدون عليه دون مراجعة منهجية يحملون مخاطرة مباشرة على سمعتهم وعلى حقوق من يمثلونهم. وفي المجال القانوني، تكون الكلفة أعلى لأن المذكرات تُبنى على الوقائع والشهادات، وأي خلل فيها قد يؤثر على حياة إنسان.

بالنسبة لقادة الخدمات والتحول الرقمي، يشير الحكم إلى أن إدخال الذكاء الاصطناعي في سير العمل لا يكفي وحده، بل يحتاج إلى تصميم واضح لمراحل التحقق البشري، وتحديد من يتحمل المسؤولية عن كل مخرج قبل وصوله إلى الجهة المستفيدة. ويصدق ذلك على الخدمات المالية والصحية والحكومية بقدر ما يصدق على المكاتب القانونية.

رأي رينسينس

لا تكمن المشكلة الحقيقية في أن الأداة اختلقت الشهود، بل في أن نظام العمل لم يصمم نقطة توقف تفرض التحقق قبل التقديم. أغلب القراء سيتوقفون عند عنوان الغرامة، بينما الدرس الأعمق يتعلق بتصميم الخدمة نفسها: أين يقع التحقق، ومن يملكه، وما الذي يحدث عندما يُتجاوز. وكما تُظهر بحوث السلوك الاقتصادي، فإن المراجعة الإنسانية تتراجع عندما تبدو المخرجات متقنة وتتوافر مشغلات للثقة الزائدة، لذلك لا تكفي التوصيات التوعوية وحدها.

المشغّل المهتم بتجربة عملائه يجب أن يصمم التحقق كخطوة إلزامية ومرئية داخل سير العمل، لا كتوصية تُترك لضمير الموظف. عليه أن يحدد مسبقاً أي المخرجات تحتاج إلى مراجعة بشرية، وأن يوثق مصدر كل ادعاء قبل اعتماده. فالثقة في الذكاء الاصطناعي ينبغي أن تُكتسب عبر الأدلة والمساءلة، لا أن تُفترض بسبب جودة الصياغة.