New Mexico lawyer fined for using AI-generated brief containing fabricated testimony
En un caso que subraya los riesgos de confiar ciegamente en la inteligencia artificial, el abogado defensor Stephen Aarons ha sido multado por la Corte Suprema de Nuevo México tras presentar un informe legal que contenía testimonios policiales inventados y testigos fabricados por ChatGPT de OpenAI. Aarons, quien estaba apelando la condena por asesinato de su cliente, fue sancionado con una multa de $5,000 y declarado en desacato por no verificar la precisión del documento presentado.
El tribunal señaló que el informe contenía «testimonios falsos de testigos completamente fabricados». Además, criticó a Aarons por su «falta de remordimiento y de preocupación por su cliente». La corte también remitirá al abogado a una junta disciplinaria para una investigación más profunda.
Aarons explicó en un comunicado que utilizó ChatGPT para resumir los procedimientos del juicio cuando aceptó la apelación del acusado el año pasado, sin comprender plenamente la capacidad de la IA para «alucinar» hechos. «Estoy arrepentido, pero espero que la junta disciplinaria tenga en cuenta que fue un error honesto», afirmó.
Este incidente es el último en una serie de casos en los que jueces estatales y federales han disciplinado a abogados por presentar documentos generados por herramientas de IA sin una revisión adecuada. Algunos jueces también han enfrentado críticas por el uso de la IA en sus propias decisiones.
El caso de Aarons es particularmente grave, ya que su presentación contenía testimonios de testigos fabricados en una apelación penal. La apelación, que aún está pendiente, ha sido asignada a Kim Chavez Cook, una defensora pública de Nuevo México, quien declinó hacer comentarios al respecto.
En una audiencia el 21 de agosto, Aarons explicó que había introducido una transcripción generada por computadora y otros materiales del caso en ChatGPT, esperando que generara «un resumen a prueba de balas». Los jueces se mostraron incrédulos ante la falta de conciencia de Aarons sobre los errores que puede cometer la IA.
Fuente: https://www.theguardian.com/technology/2026/sep/11/new-mexico-lawyer-ai-chatgpt-testimony