Advogado é multado em US$ 5 mil por IA inventar testemunhas em caso

O que aconteceu

A Suprema Corte do Novo México multou o advogado Stephen Aarons em US$ 5 mil e o considerou em desacato por apresentar, em um recurso de condenação por homicídio, citações de testemunhas e depoimentos policiais que nunca existiram. Segundo reportagem da Reuters retomada pelo The Verge, o conteúdo fabricado foi gerado por uma ferramenta de inteligência artificial, provavelmente o ChatGPT, e incluído na petição sem qualquer checagem factual ou jurídica prévia.

A corte concluiu que o advogado falhou em verificar as alegações antes de submetê-las ao tribunal, violando deveres processuais básicos de diligência profissional.

Por que isso importa

O caso se soma a uma série crescente de episódios em que profissionais do direito usam modelos de linguagem sem validar as saídas, resultando em "alucinações" — informações plausíveis, mas inventadas — incorporadas a documentos oficiais. Para organizações que adotam IA generativa em fluxos de trabalho sensíveis, o episódio reforça que a tecnologia ainda exige camadas humanas de verificação, especialmente quando o resultado tem consequências legais, financeiras ou sobre a vida das pessoas.

Para líderes em transformação digital, a lição central não é sobre banir ferramentas de IA, mas sobre redesenhar processos: quem revisa, como se audita a saída e que controles de governança impedem que conteúdo não verificado chegue ao cliente final — seja um tribunal, um regulador ou um consumidor.

Em números

• US$ 5 mil foi o valor da multa aplicada ao advogado pela Suprema Corte do Novo México.

A visão da Renascence

O episódio ilustra um padrão comportamental recorrente: confiança excessiva em sistemas que produzem respostas fluentes e convincentes, mesmo quando erradas. Isso não é um problema exclusivo do direito — é um risco de design de processo em qualquer operação que injeta IA generativa em etapas críticas sem pontos de verificação obrigatórios.

A fluência de um modelo de linguagem engana porque imita a autoridade de uma fonte confiável, e é exatamente essa familiaridade que reduz a vigilância humana — o mesmo viés que leva clientes a confiar cegamente em respostas de chatbots. Organizações obcecadas por experiência não deveriam tratar a checagem humana como etapa opcional ou "de boa prática", mas como um gate de qualidade inegociável antes de qualquer saída de IA chegar a um cliente, regulador ou tribunal. Quem terceiriza julgamento crítico para um modelo sem redesenhar o fluxo de aprovação está comprando velocidade com risco reputacional e, neste caso, judicial.