Use of AI backfires on an expert witness at trial: "They have biases"
El uso de la inteligencia artificial en el ámbito judicial ha cobrado protagonismo tras un caso en Texas, donde los demandantes de una demanda multimillonaria alegaron que un testigo experto utilizó ChatGPT para crear más del 80% de su informe pericial. Este caso, relacionado con una explosión en una fábrica, ha puesto en tela de juicio la fiabilidad de la IA en la elaboración de testimonios y pruebas presentadas ante el tribunal.
Jason Autenrieth, director de fiabilidad y operaciones en KnightHawk Engineering, fue el experto en cuestión. Bajo interrogatorio, reconoció haber utilizado inteligencia artificial para asistir en la redacción de su informe, pero defendió la integridad de su investigación. Según Maura Grossman, profesora de investigación en la Universidad de Waterloo, las herramientas de IA pueden ser sesgadas y no siempre ofrecen respuestas objetivas o neutrales.
En una declaración a CBS News, 3M afirmó que Autenrieth era un testigo independiente contratado por un abogado externo para proporcionar su propio análisis y opiniones. Sin embargo, los abogados de los demandantes descubrieron que Autenrieth había enviado más de 300 páginas de preguntas a ChatGPT, incluyendo consultas sobre cómo exonerar a 3M de responsabilidad en la explosión.
Durante el juicio, Autenrieth defendió su uso de la IA, afirmando que ya tenía una opinión formada antes de utilizar la tecnología. Sin embargo, tras su declaración, los abogados de 3M decidieron retirarlo de su lista de testigos. A pesar de ello, los abogados de los demandantes lo citaron para testificar sobre los diversos comandos que ingresó en ChatGPT.
El jurado finalmente determinó que 3M fue negligente en sus verificaciones de seguridad, lo que podría haber evitado una explosión fatal. El mes pasado, el tribunal otorgó a las víctimas 61,5 millones de dólares en compensación. Un portavoz de 3M expresó su desacuerdo con el veredicto y anunció su intención de apelar.
Fuente: https://www.cbsnews.com/news/ai-expert-witness-lawsuit-trial/