Luật sư bị phạt 5.000 USD vì ChatGPT bịa nhân chứng trong hồ sơ án mạng

Điều gì đã xảy ra

Tòa án Tối cao bang New Mexico (Hoa Kỳ) vừa ra phán quyết phạt luật sư Stephen Aarons 5.000 đô la Mỹ và tuyên bố ông vi phạm thủ tục tố tụng (contempt of court), sau khi phát hiện hồ sơ kháng cáo cho một vụ án giết người do ông soạn thảo chứa các nhân chứng không có thật và lời khai cảnh sát bị bịa đặt. Theo tường thuật của The Verge dựa trên hãng tin Reuters, các nội dung sai lệch này được cho là do công cụ AI tạo sinh (ChatGPT) tạo ra trong quá trình soạn thảo văn bản pháp lý.

Trong văn bản công bố hôm thứ Tư, tòa án kết luận ông Aarons đã không thực hiện việc kiểm chứng các luận điểm và căn cứ pháp lý trong hồ sơ trước khi nộp lên tòa, dẫn đến việc đưa vào hệ thống tư pháp những thông tin do AI "ảo giác" (hallucination) tạo ra.

Vì sao điều này quan trọng

Đây là một ví dụ cụ thể, có thể dẫn chứng, cho thấy rủi ro khi các chuyên gia trong lĩnh vực đòi hỏi độ chính xác cao — như pháp lý, y tế hay tài chính — sử dụng công cụ AI tạo sinh mà không có quy trình xác minh độc lập. Vụ việc một lần nữa khẳng định AI tạo sinh có thể "bịa" ra thông tin nghe có vẻ hợp lý và có cấu trúc chuyên nghiệp, nhưng hoàn toàn sai sự thật — một rủi ro đã được ghi nhận trong nhiều ngành nghề kể từ khi các mô hình ngôn ngữ lớn được phổ biến.

Đối với các tổ chức đang đẩy nhanh việc ứng dụng AI vào quy trình vận hành, đây là lời nhắc rằng trách nhiệm xác minh thông tin đầu ra vẫn thuộc về con người, không thể chuyển giao hoàn toàn cho công cụ — đặc biệt trong các tình huống có ảnh hưởng trực tiếp đến quyền lợi, sự an toàn hoặc niềm tin của khách hàng và các bên liên quan.

Các con số đáng chú ý

• 5.000 đô la Mỹ là mức phạt mà Tòa án Tối cao bang New Mexico áp dụng đối với luật sư Stephen Aarons.

Góc nhìn của Renascence

Câu chuyện này thường được kể như một bài học về đạo đức nghề luật sư, nhưng cốt lõi thực sự nằm ở thiết kế quy trình: nơi nào thiếu bước xác minh của con người trước khi đầu ra AI tiếp cận khách hàng hay bên thứ ba, rủi ro sẽ xuất hiện — bất kể ngành nghề.

Vấn đề không phải là AI "nói dối" mà là tổ chức đã không thiết kế một điểm kiểm soát con người trước khi thông tin do AI tạo ra chạm đến quyết định có hậu quả thực tế. Nguyên tắc hành vi ở đây rất đơn giản: càng tin tưởng công cụ nhanh và trôi chảy bao nhiêu, con người càng có xu hướng bỏ qua bước kiểm chứng bấy nhiêu. Một tổ chức lấy khách hàng làm trọng tâm cần biến việc xác minh đầu ra AI thành một bước bắt buộc, có người chịu trách nhiệm rõ ràng, chứ không phải một lựa chọn tùy ý để tiết kiệm thời gian.