Cuando la IA se equivoca, nosotros seguimos confiando: un estudio revela que ya no sabemos decir "no lo sé"
Un reciente estudio ha puesto de manifiesto un fenómeno preocupante: la creciente incapacidad de las personas para admitir que no saben algo, especialmente cuando tienen acceso a la inteligencia artificial (IA). Investigadores de las universidades de París, Roma y Milán han descubierto que, incluso cuando la IA proporciona respuestas incorrectas, las personas tienden a confiar en ella y dejar de reconocer los límites de su propio conocimiento.
El estudio, que reunió a 3.100 participantes, revela que la presencia de asistentes de IA puede alterar significativamente el momento en que decidimos que sabemos lo suficiente para responder. Los investigadores, Chiara Marcoccia, Walter Quattrociocchi y Valerio Capraro, diseñaron preguntas casi imposibles de acertar para una IA, con detalles muy específicos de películas, como el color de la equipación en ‘Quiero ser como Beckham’ o el vehículo que conduce un personaje en ‘Como el gato y el ratón’. El modelo de IA utilizado, Step 3.5 Flash, fallaba casi siempre.
Los resultados fueron sorprendentes. En el grupo que no tenía acceso a ningún asistente, un 44% de los participantes reconoció no saber la respuesta cuando correspondía. Sin embargo, entre quienes podían pedir ayuda a la IA, ese porcentaje se desplomó hasta el 3%. Además, la proporción de respuestas correctas también cayó, del 27% al 9%. A pesar de equivocarse más, los participantes se sintieron más seguros, ya que su confianza en las respuestas pasó del 30% al 76%, casi el doble.
Los investigadores también exploraron si el incentivo económico podría corregir este problema. Aunque pagar por acertar y penalizar por fallar ayudó ligeramente, la disposición a admitir desconocimiento solo subió del 3% al 8%, y los aciertos del 9% al 16%. Esto demuestra que la tendencia a confiar en la IA es prácticamente independiente del incentivo económico.
Valerio Capraro, coautor del estudio, expresó su preocupación por el impacto de este fenómeno en la infancia. Mientras que los adultos ya tienen un pensamiento crítico formado, los niños que crecen con la IA desde el principio podrían no desarrollar nunca la capacidad básica de cuestionar una respuesta.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.