Abogado multado con 5.000 dólares por testigos falsos de IA

Qué ha ocurrido

El Tribunal Supremo de Nuevo México ha sancionado a un abogado por presentar en una apelación testimonios de testigos y declaraciones policiales falsos, generados por inteligencia artificial, en defensa de un condenado por asesinato. Según informó Reuters y recoge The Verge, el tribunal impuso al letrado, Stephen Aarons, una multa de 5.000 dólares y lo declaró en desacato en una resolución dictada un miércoles.

El fallo se centra en la falta de verificación. El tribunal considera que el abogado no comprobó la exactitud de las afirmaciones fácticas ni de los argumentos jurídicos de su escrito antes de presentarlo, de modo que el material fabricado llegó a un procedimiento judicial de primer nivel.

La decisión se produce en un contexto en el que los tribunales de distintos países están señalando casos de citas y hechos inventados por herramientas de IA generativa. Lo que hace distinto este caso es la gravedad del procedimiento: una apelación en una causa penal por homicidio, en la que la credibilidad de las pruebas es central.

Por qué importa

Para los responsables de servicios profesionales, el episodio muestra que la adopción de la IA genera un nuevo tipo de riesgo operativo: el de los resultados plausibles pero falsos. Un sistema que redacta con fluidez puede producir testimonios y referencias que parecen reales, y eso traslada la carga de la verificación a las personas que firman el trabajo. Las organizaciones que despliegan IA generativa en asesoramiento, atención jurídica, sanidad o administración pública necesitan procesos de revisión que no dependan de que el usuario sospeche de un error.

Para las organizaciones de servicios, la lección también es de transformación digital: la automatización de la redacción sin controles de calidad y trazabilidad puede trasladar el fallo al cliente final, en este caso a un acusado cuyo recurso depende de la exactitud del expediente.

Cifras clave

• 5.000 dólares: importe de la multa impuesta al abogado Stephen Aarons por el Tribunal Supremo de Nuevo México.
• Miércoles: día de la resolución judicial en la que el tribunal sancionó la presentación de material fabricado por IA, según el reporte de Reuters.

La visión de Renascence

La mayoría de los comentarios se fijarán en el error de la herramienta. Sin embargo, el problema de fondo es de diseño de servicio: el proceso permitió que un resultado no verificado avanzara hasta la fase en la que más daño puede causar. Los principios de la economía del comportamiento sugieren que la verificación voluntaria, la que depende de la diligencia individual bajo presión de plazos, es la menos fiable de las barreras.

El riesgo no está solo en que la IA se equivoque, sino en que el flujo de trabajo convierta la revisión en un paso opcional. Un operador centrado en el cliente debería diseñar puntos de control obligatorios, con trazabilidad de cada afirmación frente a su fuente, antes de que cualquier resultado generado llegue a la persona que lo firma o al destinatario. La pregunta para cualquier equipo que use IA no es si su modelo puede fallar, sino cuánto tiempo tardaría alguien en darse cuenta si lo hiciera.