‘Scary’: how misinformation and AI hallucinations are infiltrating Australia’s parliament
El proceso de investigación del gobierno australiano, diseñado para ayudar al parlamento a tomar mejores decisiones al escuchar a expertos y ciudadanos, está siendo inundado por material generado por inteligencia artificial (IA). Este fenómeno, que ha sido revelado por un análisis exclusivo de Guardian Australia, muestra cómo se están inventando estudios y atribuyendo investigaciones inexistentes a académicos y autores reales.
En algunos casos, los informes de los comités han citado presentaciones en las que la mayoría de las fuentes parecen ser «alucinaciones» generadas por IA. Estas alucinaciones ocurren cuando modelos de lenguaje como ChatGPT o Claude producen texto que parece plausible pero es incorrecto, generando información que parece relevante pero no lo es.
Christian Downie, profesor en la Escuela de Regulación y Gobernanza Global de la Universidad Nacional de Australia, advierte sobre el riesgo significativo de que los parlamentarios tomen decisiones basadas en evidencias inexistentes. La situación se complica aún más con servicios de IA como el resumen de búsqueda de Google, que a veces crea resúmenes de referencias falsas como si fueran genuinas.
Un documento presentado a una investigación sobre violencia familiar y suicidio incluyó una referencia alucinada atribuida a Divna Haslam, profesora asociada y psicóloga clínica de la Universidad de Queensland, y tergiversó los hallazgos de su equipo de investigación. Haslam expresó su preocupación por la posibilidad de que información engañosa influya en la política gubernamental, especialmente en áreas sensibles como la violencia doméstica.
El autor de la presentación, Drilldown Reports, reconoció el uso de IA en su proceso de investigación y los errores identificados en su presentación de seguimiento, aunque el plazo para corregirlos ya había pasado. Un portavoz de la organización enfatizó la importancia del factor humano en el proceso de revisión de calidad.
La presidenta del comité permanente de política social y asuntos legales, que supervisó la investigación, señaló que todos los comités reciben materiales de calidad y posiciones variables, y que es su trabajo aceptar la evidencia ofrecida y luego interrogarla a través del proceso de investigación.
El análisis de Guardian identificó docenas de presentaciones con errores mediante un programa informático que extrajo referencias de todas las presentaciones de investigación hechas al parlamento actual y las verificó contra varias bases de datos académicas en línea.