‘Scary’: how misinformation and AI hallucinations are infiltrating Australia’s parliament
El proceso de investigación del gobierno australiano, diseñado para ayudar al parlamento a tomar decisiones informadas, está siendo inundado por material generado por inteligencia artificial (IA) que inventa estudios y atribuye investigaciones inexistentes a académicos y autores reales. Según un análisis exclusivo de The Guardian, decenas de propuestas políticas de todo el espectro político resumen incorrectamente investigaciones reales e inventan o citan erróneamente fuentes.
En algunos casos, los informes de los comités han citado propuestas en las que la mayoría de las fuentes parecen ser «alucinaciones» generadas por IA, cuando modelos de lenguaje grande (LLM) inventan contenido que parece real pero no existe. Christian Downie, profesor de la Universidad Nacional de Australia, advierte sobre el riesgo significativo de que los parlamentarios tomen decisiones basadas en evidencia inexistente.
Este fenómeno se ve agravado por servicios de IA como Google, que ahora pueden crear resúmenes de referencias falsas como si fueran genuinas. Un documento presentado en una investigación sobre violencia familiar y suicidio incluyó una referencia alucinada atribuida a Divna Haslam, profesora asociada y psicóloga clínica de la Universidad de Queensland, tergiversando los hallazgos de su equipo.
La autora de la propuesta, Drilldown Reports, reconoció el uso de IA en su proceso de investigación y los errores identificados en su propuesta de seguimiento, pero el plazo para corregirlos ya había pasado. «Creemos firmemente en el factor humano como parte vital del proceso de revisión de calidad», comentó un portavoz, señalando que el error fue humano y no de la IA.
La presidenta del comité de política social y asuntos legales destacó que todos los comités reciben materiales de calidad y posiciones variadas, y que es su trabajo aceptar la evidencia ofrecida y luego interrogarla a través del proceso de investigación. Haslam enfatiza que este fenómeno no solo pone en riesgo la validez de la investigación legítima, sino que también hay riesgos serios si la información engañosa se incorpora en políticas gubernamentales, especialmente en temas de violencia doméstica.
El análisis de The Guardian identificó docenas de propuestas con errores mediante un programa informático que extrajo referencias de todas las propuestas presentadas al parlamento actual y las verificó contra varias bases de datos académicas en línea.