Abogado multado con 5.000 dólares por testigos inventados por IA

Qué ha ocurrido

El Tribunal Supremo de Nuevo México ha impuesto una multa de 5.000 dólares al abogado Stephen Aarons y lo ha declarado en desacato por presentar un recurso de apelación que incluía testigos y declaraciones policiales inventados por una herramienta de inteligencia artificial. Según Reuters, el escrito formaba parte de la defensa de un cliente condenado por asesinato, y el tribunal concluyó que Aarons no verificó la veracidad de las afirmaciones ni la validez de las referencias legales incluidas en el documento.

La resolución, conocida el miércoles, señala de forma explícita el incumplimiento del deber profesional de comprobar el contenido generado por IA antes de incorporarlo a un procedimiento judicial.

Por qué importa

El caso se suma a una serie creciente de incidentes en el sector legal en los que el uso de modelos de lenguaje generativo sin supervisión adecuada ha derivado en la inclusión de información fabricada —las llamadas "alucinaciones"— en documentos oficiales. Para organizaciones que están integrando IA generativa en flujos de trabajo profesionales, el episodio ilustra que la tecnología no sustituye la verificación humana, especialmente en contextos donde la precisión tiene consecuencias legales, reputacionales o incluso vitales para las personas implicadas.

Más allá del ámbito jurídico, el caso plantea una pregunta relevante para cualquier sector regulado o de alto riesgo: ¿qué controles de verificación existen entre la generación de contenido por IA y su uso final por parte de un profesional?

Las cifras clave

• 5.000 dólares es la multa impuesta al abogado por el Tribunal Supremo de Nuevo México.

La perspectiva de Renascence

Lo llamativo de este caso no es que una IA generativa haya "alucinado" —eso es un comportamiento conocido y documentado— sino que un profesional con obligaciones de diligencia haya confiado en el resultado sin un proceso de verificación. El fallo no es tecnológico: es de diseño de proceso y de incentivos.

Cuando una organización adopta IA generativa sin rediseñar los puntos de control humano, está trasladando el riesgo del modelo al usuario final sin que este lo perciba. El problema no es confiar en la IA, sino no haber diseñado un paso de verificación obligatorio antes de que el resultado llegue a un cliente, un paciente o, como en este caso, a un tribunal. Cualquier equipo que integre IA en procesos de alto impacto debería tratar la verificación humana no como una opción, sino como un paso de flujo no negociable.