Canberra ‘put on notice’ as AI-generated submissions bring false information into parliamentary inquiries
Las comisiones parlamentarias clave de Australia han sido alertadas sobre la creciente presencia de material generado por inteligencia artificial (IA) que introduce información incorrecta o incluso «alucinada» en la formulación de políticas. Según Guardian Australia, se ha encontrado que las investigaciones están siendo inundadas con contenido creado por IA, inventando estudios y atribuyendo investigaciones inexistentes a académicos y autores reales.
El senador liberal Paul Scarr advirtió sobre los claros peligros de este aumento en el número de presentaciones que incluyen contenido alucinado. «El mayor riesgo es que los tomadores de decisiones, ya sea en el parlamento o en los negocios, tomen decisiones basadas en información incorrecta», afirmó Scarr. «Hemos sido puestos en alerta. Realmente necesitamos verificar y hacer un esfuerzo adicional para comprobar las notas al pie, las fuentes y las afirmaciones que se hacen en las presentaciones».
Louise Miller-Frost, diputada laborista y presidenta del comité de política social y asuntos legales, señaló que las comisiones son cada vez más conscientes del problema, pero que las presentaciones creadas con IA no deben descartarse por completo. Afirmó que aunque algunas referencias sean alucinadas, los hallazgos no difieren de otras evidencias presentadas en la investigación.
El presidente del Senado, Sue Lines, destacó que los parlamentarios siempre prueban la información presentada, pero que la responsabilidad de la veracidad recae en los individuos detrás de las presentaciones. «Las prácticas de los comités continuarán evolucionando a medida que se adopte más ampliamente la IA, lo que es beneficioso para la participación, pero también impacta en la tarea de digerir presentaciones y en los recursos», agregó.
El año pasado, Deloitte emitió un reembolso parcial al gobierno federal después de que se revelara que las herramientas de IA habían incluido referencias falsas en un informe de $440,000.