AI is more likely than humans to form biases when hiring
La próxima vez que solicites un empleo, es posible que una inteligencia artificial (IA) revise tu currículum antes de que lo vea un humano. Sin embargo, hay razones para cuestionar si la IA te juzgará de manera justa. Los investigadores ya saben que los modelos de lenguaje grande (LLM) adquieren sesgos humanos de sus datos de entrenamiento. Nuevas investigaciones sugieren que los LLM también pueden desarrollar sus propios sesgos a partir de la experiencia, y estereotipar a los solicitantes de empleo más que los humanos.
Investigadores de la Universidad de Princeton y la Universidad de Chicago realizaron un experimento con LLM, incluyendo ChatGPT, Claude y Gemini, a través de un juego de contratación simulado. Cada modelo fue contratado como consultor por el alcalde de una ciudad ficticia y se le pidió que ayudara a contratar personas para 20 trabajos diferentes, como médicos, abogados, asistentes de cuidado infantil y conserjes. Los candidatos provenían de cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki.
En cada ronda, había una nueva oferta de trabajo y cuatro candidatos, uno de cada grupo. Después de que el modelo contrataba a un candidato, aprendía si había tenido éxito en su trabajo y pasaba a la siguiente ronda. Sin que los modelos lo supieran, todos los candidatos tenían la misma probabilidad de tener éxito en cada trabajo.
Los modelos rápidamente comenzaron a segregar a los candidatos de diferentes grupos en diferentes trabajos basándose en observaciones tempranas de los resultados de contratación. Por ejemplo, cuando a un modelo se le decía que un Aima había fracasado como médico, un trabajo considerado de alta calidez y competencia, evitaba contratar a todos los Aimas como médicos. En cambio, comenzaba a contratar Aimas como conserjes, que el modelo clasificaba como menos cálidos y competentes que los médicos.
Los modelos eran incluso más propensos a estereotipar a las personas por grupo demográfico que los participantes humanos en el estudio original. En la escala de segregación del estudio, donde 2 significa que cada grupo ha sido completamente confinado a su propio nicho de trabajo, los participantes humanos obtuvieron una puntuación de 0.84. Los modelos obtuvieron aproximadamente un 65% más, con el modelo de razonamiento o3 de OpenAI alcanzando 1.83, cerca del máximo posible.
Esto se debe a que los LLM «realmente están ansiosos por crear generalizaciones a partir de datos limitados», dice Ryan Liu, estudiante de doctorado en la Universidad de Princeton y coautor del estudio, publicado en un artículo en ICML en Seúl en julio. «Eso es literalmente para lo que están optimizados».
La conclusión es especialmente relevante ahora que los chatbots están ganando características mejoradas de memoria y personalización, dice Angelina Wang, científica informática de la Universidad de Cornell que no trabajó en el estudio. Cuando un chatbot se basa en su historial de conversaciones anteriores, puede «sobreindexar en los mismos tipos de comportamientos que ha experimentado antes» y formar sesgos, dice.
Simplemente hacer que los chatbots recuerden menos no es una solución, ya que los usuarios quieren que los chatbots recuerden lo que dicen. «Todavía estamos tratando de encontrar la cantidad justa que no sea ni demasiado ni muy poco», dice Wang.
Indicarle al modelo que sea justo no cambió mucho su comportamiento. «O no puede poner estos valores en acción o ese proceso está siendo sumergido bajo la tendencia de intentar optimizar para el objetivo de obtener las contrataciones más correctas», dice Liu. Pero prometer a los modelos un bono adicional por contrataciones diversas los hizo mucho menos sesgados. El truco, entonces, es diseñar objetivos que «incorporen valores sociales deseables para hacer que el modelo de lenguaje grande actúe de maneras socialmente deseables», dice Liu.
Los modelos también se volvieron menos sesgados cuando se les dio más información personal sobre los individuos. En otro experimento del mismo estudio, los investigadores pidieron a los modelos que reasentaran a miembros de diferentes grupos étnicos en ciudades de Canadá. Cuando a los modelos se les proporcionó información personal relevante para la capacidad de adaptarse a una nueva ciudad, como la edad y la educación, eran menos propensos a segregar a las personas por su etnia. Pero cuando se les dio información irrelevante, como el color del cabello y la forma del tatuaje, los modelos en gran medida volvieron a clasificar a las personas por su etnia.
Hasta qué punto los sistemas de IA estereotiparán a los solicitantes de empleo en el mundo real sigue siendo una pregunta abierta. Mientras que los modelos en el experimento aprendieron inmediatamente si habían hecho contrataciones exitosas, un modelo que examina currículums en el mundo real no recibe un informe instantáneo. Las empresas pueden tardar mucho tiempo en descubrir si una nueva contratación es buena.
Pero cuando el feedback llega, un modelo aún podría interpretar demasiado esos resultados al hacer futuras contrataciones. A medida que las empresas despliegan cada vez más LLM para examinar currículums e incluso realizar entrevistas, el hallazgo de que los modelos pueden formar sesgos a partir de su experiencia de contratación «es una implicación realmente seria con la que deberían lidiar», dice Wang.
Fuente: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.