AI is more likely than humans to form biases when hiring
La próxima vez que solicites un empleo, es posible que una IA revise tu currículum antes de que lo haga un humano. Sin embargo, hay razones para cuestionar si la IA te juzgará de manera justa. Investigaciones recientes sugieren que los modelos de lenguaje de gran tamaño (LLMs) no solo absorben sesgos humanos de sus datos de entrenamiento, sino que también pueden desarrollar sus propios sesgos a partir de la experiencia, estereotipando a los solicitantes de empleo más que los humanos.
Investigadores de la Universidad de Princeton y la Universidad de Chicago sometieron a LLMs, incluidos ChatGPT, Claude y Gemini, a un juego de contratación simulado, adaptado de un estudio psicológico sobre cómo los humanos pueden formar estereotipos. Cada modelo fue contratado como consultor por el alcalde de una ciudad ficticia y se le pidió que ayudara a contratar personas para 20 trabajos, incluidos médicos, abogados, asistentes de cuidado infantil y conserjes. Los candidatos provenían de cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki.
En cada ronda había una nueva vacante y cuatro candidatos, uno de cada grupo. Después de que el modelo contrataba a un candidato, aprendía si había tenido éxito en su trabajo y pasaba a la siguiente ronda. Los modelos rápidamente comenzaron a segregar a los candidatos de diferentes grupos en diferentes trabajos basándose en observaciones tempranas de los resultados de contratación. Por ejemplo, cuando a un modelo se le decía que un Aima había fallado como médico, comenzaba a contratar a Aimas como conserjes.
Los modelos más nuevos con mayores capacidades de razonamiento, como el o3 de OpenAI y el R1 de DeepSeek, mostraron sesgos más fuertes. En la escala de segregación del estudio, donde 2 significa que cada grupo ha sido completamente confinado a su propio nicho laboral, los participantes humanos obtuvieron una puntuación de 0.84, mientras que los modelos obtuvieron aproximadamente un 65% más, con el modelo de razonamiento de OpenAI o3 alcanzando 1.83, cerca del máximo posible.
Ryan Liu, estudiante de doctorado en la Universidad de Princeton y coautor del estudio, explica que los LLMs «realmente están ansiosos por crear generalizaciones a partir de datos limitados», lo que es parte de lo que están optimizados para hacer. Aunque se les indicó a los modelos que fueran justos, esto no cambió mucho su comportamiento. Sin embargo, al prometerles una bonificación adicional por contrataciones diversas, los modelos se volvieron mucho menos sesgados.
El hallazgo es especialmente relevante ahora que los chatbots están ganando funciones mejoradas de memoria y personalización. Cuando un chatbot utiliza su historial de conversaciones anteriores, puede «sobrecargar los mismos tipos de comportamientos que ha experimentado antes» y formar sesgos, según Angelina Wang, científica informática de la Universidad de Cornell.
Hasta qué punto los sistemas de IA estereotiparán a los solicitantes de empleo en el mundo real sigue siendo una pregunta abierta. A medida que las empresas despliegan cada vez más LLMs para filtrar currículums e incluso realizar entrevistas, el hallazgo de que los modelos pueden formar sesgos a partir de su experiencia de contratación «es una implicación realmente seria con la que deberían lidiar», dice Wang.
Fuente: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.