ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses
La Corte Suprema de Nuevo México ha declarado en desacato directo a un abogado que utilizó ChatGPT para presentar un escrito con «testimonios falsos de testigos completamente fabricados», incluyendo testimonios policiales falsos y otros errores. El tribunal superior del estado remitió al abogado a una junta disciplinaria para procedimientos adicionales y concluyó que «demostró una falta de remordimiento y una falta de preocupación por su cliente».
El abogado Stephen Aarons, con más de 40 años de experiencia en defensa penal en Nuevo México, fue contratado por los familiares de un acusado para apelar una condena por asesinato. Su cliente, Oscar Renee Sandoval, fue sentenciado a cadena perpetua en febrero de 2025 tras ser condenado por el asesinato de Shiereen Al-Jibury, quien era su pareja y madre de sus hijos.
Hace poco más de un año, en agosto de 2025, Aarons presentó el escrito que contenía testimonios falsos y otros errores. Semanas después, el estado de Nuevo México presentó una moción para eliminar partes de ese escrito. Aarons admitió ante la Corte que el escrito principal contenía «testimonios falsos de testigos completamente fabricados—Oficial Michelle Amarillo, Oficial Sánchez, Manal Al-Jibury y Teresa Márquez».
Aarons confesó haber alimentado un transcripto generado por computadora del juicio por asesinato y otros documentos relacionados con el caso en ChatGPT, lo que resultó en las citas falsas. «Es un consuelo saber que mi estupidez es lo que nos reúne esta tarde», dijo Aarons al tribunal. Aarons admitió que su escrito citaba «varios testigos que nunca fueron llamados a juicio», otro «testigo que fue llamado pero cuyo nombre fue incorrectamente citado», y que su escrito describía incorrectamente precedentes.
Aarons fue excluido de comparecer ante la Corte Suprema de Nuevo México mientras se lleva a cabo cualquier investigación y procedimiento de la junta disciplinaria. Fue multado con $5,000, a pagar al Fondo de Protección al Cliente del Colegio de Abogados del Estado de Nuevo México, pero podrían imponerse más sanciones de los procedimientos disciplinarios ordenados por la corte.
La Corte Suprema del estado ordenó a la oficina del defensor público nombrar un nuevo abogado para el acusado, eliminó todos los escritos anteriores del expediente y dijo que el caso continuará en el período 2026-27 del tribunal.
Los jueces criticaron duramente a Aarons durante la audiencia del mes pasado. Expresaron sorpresa de que Aarons no supiera que las herramientas de IA podrían generar información falsa y señalaron que los abogados deben verificar la precisión de la información sin importar de dónde provenga. Ya sea que un abogado reciba ayuda de una herramienta de IA, un estudiante de derecho o un colega abogado, el abogado que firma el escrito debe atestiguar su precisión, dijeron.
La jueza C. Shannon Bacon fue particularmente mordaz en su crítica a Aarons. Le dijo que hay «al menos ocho o nueve disposiciones en el código de conducta que violó». Bacon dijo que estaba «realmente luchando» con la afirmación de Aarons de no estar al tanto de las alucinaciones de IA, señalando que su sobrino de 13 años y su madrastra de 75 años son conscientes del problema.