محامٍ يُغرّم 5 آلاف دولار بسبب شهود مختلقين بالذكاء الاصطناعي

ما الذي حدث

فرضت المحكمة العليا في ولاية نيومكسيكو غرامة قدرها 5,000 دولار على المحامي ستيفن آرونز، وأصدرت بحقه قرار ازدراء للمحكمة، بعد أن تضمّن استئنافه في إدانة موكله بجريمة قتل شهوداً وشهادات منسوبة إلى الشرطة لا وجود لها، وهي مواد ذُكر أنها أنتجتها أدوات الذكاء الاصطناعي.

وبحسب ما نقلته وكالة رويترز، جاء القرار في مذكرة قضائية صدرت يوم الأربعاء، وأشارت فيها المحكمة إلى إخفاق المحامي في التحقق من الادعاءات الواقعية والقانونية الواردة في مرافعته قبل تقديمها. وأعاد تقرير لاحق نشرته The Verge تناول الواقعة نفسها، مؤكداً أن الاستئناف احتوى على مواد مختلقة تتعلق بالشهادات وبالإجراءات الشرطية.

ويضيف الحكم تفصيلاً مهماً للمهنيين، إذ لا يقتصر الأمر على خطأ تقني عابر، بل يتعلق بمسؤولية المحامي عن كل ما يقدّمه إلى القضاء، بصرف النظر عن الأداة التي أسهمت في إعداد النص.

لماذا يهم

تكشف هذه الواقعة أن الذكاء الاصطناعي التوليدي بات يدخل في سير العمل المهني الحساس، بما في ذلك إعداد الوثائق القانونية والمرافعات. والمشكلة هنا أن النصوص المختلقة تبدو متماسكة ومقنعة، ما يجعل مراجعتها أصعب مما يبدو. وعندما تنتقل هذه المخرجات إلى جهة رسمية مثل المحكمة، تصبح جودة الخدمة ومصداقيتها جزءاً من ثقة المتقاضين بالنظام كله.

بالنسبة لقادة التحول الرقمي، يشير الحدث إلى أن الأتمتة لا تُلغي الحاجة إلى نقاط تحقق بشرية، بل تزيد أهميتها. فالمؤسسات التي تدمج النماذج اللغوية في عملياتها تحتاج إلى تصميم واضح لمسؤوليات المراجعة، وإلى سياسات تحدد من يتحقق من المحتوى قبل اعتماده، ومتى يُعد التحقق إلزامياً.

نظرة Renascence

لا تكمن المشكلة الأساسية في الأداة وحدها، بل في الثقة الزائدة بمخرجاتها. فالتحيز نحو الأتمتة يدفع المستخدم إلى قبول ما يبدو متقناً دون مساءلة، وهو سلوك موثق في دراسات الاقتصاد السلوكي ينطبق على المحامين كما ينطبق على أي موظف يعتمد على أداة ذكية.

المؤسسة التي تعامل الذكاء الاصطناعي كمساعد لا كمرجع نهائي تكون قد حسمت الجزء الأهم من المخاطر. الخطوة العملية هي تصميم تدفق عمل يفرض التحقق من الشواهد والمراجع قبل أي إرسال للعملاء أو للجهات الرسمية. ويجب أن يعرف كل فريق من يملك حق الموافقة النهائية على المحتوى. العميل الذي يُعامل بجدية هو من يبني أنظمة تكشف الخطأ قبل أن يصل إليه.