Report supporting Australia’s teen social media ban appears to contain AI hallucinations, Senate hears
El Senado australiano ha sido informado de que un informe que respalda la prohibición de redes sociales para adolescentes en el país podría contener errores atribuidos a «alucinaciones» de inteligencia artificial. El informe, que fue utilizado para implementar la prohibición en diciembre del año pasado, fue elaborado por el Age Check Certification Scheme (ACCS) del Reino Unido y financiado con 3,48 millones de dólares. La ministra de comunicaciones, Anika Wells, había elogiado el informe por mostrar «muchas opciones efectivas» para la verificación de edad en línea.
Sin embargo, una investigación del Guardian reveló que una sección del informe incluye referencias a artículos académicos que no existen. Aunque los autores del informe admitieron haber utilizado ChatGPT para editar el documento, negaron que los errores fueran causados por la inteligencia artificial. A pesar de ello, el análisis del Guardian identificó seis referencias con errores, incluyendo identificadores de objetos digitales (DOIs) que no corresponden a artículos reales y combinaciones de nombres de autores y años de publicación que no coinciden con ninguna referencia conocida.
Un portavoz de ACCS inicialmente negó el uso de IA en la generación del informe, pero luego admitió que se había utilizado para reescribir párrafos de manera más concisa. Afirmaron que todas las referencias fueron verificadas manualmente, pero los errores persisten, como en el caso de un artículo citado que no estaba accesible públicamente en la fecha indicada por el informe.
El gobierno federal ha mostrado preocupación por el uso de IA en informes oficiales, como se evidenció el año pasado cuando Deloitte tuvo que devolver parte de un contrato tras admitir errores relacionados con el uso de IA. Actualmente, el departamento de la ministra Wells está examinando las preocupaciones planteadas y se espera que se comprometa con ACCS para abordar el problema.