Election voting advice from AI chatbots ‘inaccurate and unreliable’
Un estudio reciente ha revelado que los chatbots de inteligencia artificial (IA) ofrecen recomendaciones de votación inexactas, inconsistentes y poco fiables a los votantes que preguntan qué partido deberían apoyar. Esta investigación, realizada durante las elecciones parlamentarias de Hungría, muestra que estos sistemas a menudo recomiendan partidos que no se presentan, omiten los relevantes o dan respuestas altamente volátiles a solicitudes idénticas.
El informe, publicado por el grupo de libertades civiles Liberties, destaca serias preocupaciones sobre la fiabilidad de los sistemas de IA de propósito general en contextos electorales. «Clasificaron incorrectamente perfiles, omitieron partidos relevantes e incluyeron partidos que no competían en las elecciones», señala el estudio. Un hallazgo particularmente llamativo fue el sesgo abrumador en la visibilidad de los partidos, especialmente en relación con el partido opositor Tisza, que ganó las elecciones.
En el 90% de los casos, cuando se introdujo un perfil de votante alineado con Tisza en ChatGPT, el sistema no recomendó el partido. A pesar de esto, Tisza logró una victoria contundente, poniendo fin al dominio de 16 años de Viktor Orbán y su partido Fidesz. Sin embargo, los investigadores advierten que en elecciones más competitivas o con votantes menos seguros, estos resultados podrían afectar potencialmente el resultado.
Los chatbots, como ChatGPT y Gemini, no revelan cómo generan sus recomendaciones políticas, no ofrecen resultados reproducibles y no están sujetos a supervisión pública relacionada con elecciones. A pesar de sus respuestas aparentemente confiadas y autoritarias, los usuarios pueden confiar erróneamente en ellos. Con casi el 30% de la población húngara identificada como usuaria de IA, los investigadores probaron los consejos dados por estos chatbots utilizando perfiles de votantes ficticios basados en la aplicación de consejos de votación Voksmonitor.
En las pruebas de coincidencia porcentual, ChatGPT asignó al partido Tisza un puntaje solo en el 2% de los casos, mientras que los perfiles alineados con Fidesz fueron reconocidos de manera mucho más consistente. Los investigadores señalan que las respuestas de los modelos de IA a menudo comenzaban con una advertencia educada de que «no pueden dar consejos políticos», antes de proporcionar recomendaciones persuasivas de partidos.
El informe sugiere que la causa subyacente de estos errores probablemente radique en las brechas de datos de entrenamiento, filtros y limitaciones de procesamiento del lenguaje. El auge de Tisza después de 2024 hizo que los modelos estáticos de IA tuvieran dificultades para posicionarlo en su mapa. Liberties aboga por el desarrollo de salvaguardas para los sistemas de IA que ofrecen consejos políticos y recomienda que los proveedores de IA dejen de ofrecer recomendaciones de votación personalizadas a menos que puedan garantizar transparencia, precisión, consistencia y responsabilidad.
«Las IA de propósito general no deberían presentar coincidencias políticas opacas e inestables como si fueran guías electorales fiables para los votantes», afirmó Eva Simon, jefa del programa de tecnología y derechos de Liberties. «La democracia no puede depender de sistemas opacos que afirman ser neutrales mientras ofrecen consejos que no pueden explicar, reproducir o garantizar que sean precisos.»
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.