Адвокат оштрафован на $5 тыс. из-за свидетелей, выдуманных искусственным интеллектом, в деле об убийстве

Что произошло

Верховный суд штата Нью-Мексико оштрафовал адвоката Стивена Аэронса на 5 000 долларов и признал его виновным в неуважении к суду за включение в апелляцию по делу об убийстве ссылок на несуществующих свидетелей и сфабрикованные показания полиции, сгенерированные искусственным интеллектом. Как сообщает Reuters, соответствующее решение суд вынес в среду, указав, что адвокат не проверил фактические утверждения и правовые основания, прежде чем подать документ.

По данным источника, в тексте апелляции содержались ссылки на показания, которых в материалах дела никогда не существовало — классический случай «галлюцинации» языковой модели, выдающей правдоподобные, но вымышленные детали. Суд возложил ответственность за проверку содержания документа непосредственно на юриста, несмотря на использование ИИ-инструмента при подготовке текста.

Почему это важно

Это уже не единичный инцидент: случаи, когда профессионалы — юристы, консультанты, аналитики — полагаются на генеративный ИИ без верификации выдаваемых им фактов, фиксируются регулярно и выходят за пределы юридической практики. Для организаций, внедряющих ИИ-инструменты в клиентские и внутренние процессы, это сигнал о том, что скорость генерации контента не заменяет контроль качества: ответственность за итоговый результат остаётся на человеке и на процессе, в который встроен ИИ.

Для руководителей в сфере клиентского опыта и цифровой трансформации история показывает цену недостаточно зрелых процессов внедрения ИИ: отсутствие обязательной верификации фактов превращает инструмент повышения продуктивности в источник репутационных и юридических рисков, особенно в сферах с высокой ставкой ошибки.

По цифрам

• 5 000 долларов — размер штрафа, наложенного на адвоката Стивена Аэронса.

Взгляд Renascence

Случай в Нью-Мексико — не столько история про «плохой ИИ», сколько про отсутствие поведенческих барьеров против чрезмерного доверия к технологии в условиях дефицита времени и высокой когнитивной нагрузки.

Генеративный ИИ не ошибается «иногда» — он уверенно ошибается ровно тогда, когда пользователь меньше всего этого ожидает, и именно эта уверенность снижает бдительность экспертов. Организациям, встраивающим ИИ в процессы с юридическими, медицинскими или финансовыми последствиями, стоит проектировать не инструкции «проверяйте факты», а обязательные контрольные точки в самом рабочем процессе — вторую пару глаз, чек-лист верификации источников, разделение генерации и утверждения. Доверие к ИИ должно быть спроектировано, а не предполагаться.