La IA tiende a formar más sesgos que los humanos al contratar

AI is more likely than humans to form biases when hiring

En un futuro cercano, es posible que la inteligencia artificial (IA) revise tu currículum antes de que lo haga un ser humano. Sin embargo, hay razones para cuestionar si la IA te juzgará de manera justa. Investigaciones recientes indican que los modelos de lenguaje de gran tamaño (LLM) no solo absorben sesgos humanos de sus datos de entrenamiento, sino que también pueden desarrollar sus propios sesgos a partir de la experiencia, estereotipando a los solicitantes de empleo más que los humanos.

Investigadores de las universidades de Princeton y Chicago realizaron un experimento con LLMs, como ChatGPT, Claude y Gemini, en un juego de contratación simulado. Cada modelo fue contratado como consultor por el alcalde de una ciudad ficticia y se le pidió que ayudara a contratar personas para 20 trabajos diferentes, incluyendo médicos, abogados y asistentes de cuidado infantil. Los candidatos provenían de cuatro grupos étnicos ficticios: Tufa, Aima, Reku y Weki. A pesar de que todos los candidatos tenían la misma probabilidad de éxito, los modelos comenzaron rápidamente a segregar a los candidatos en diferentes trabajos basándose en observaciones tempranas de los resultados de contratación.

Por ejemplo, cuando un modelo fue informado de que un Aima había fracasado como médico, evitó contratar a más Aimas como médicos y comenzó a contratarlos como conserjes. Modelos más nuevos con capacidades de razonamiento más avanzadas, como el o3 de OpenAI y el R1 de DeepSeek, mostraron sesgos más fuertes. En la escala de segregación del estudio, donde 2 significa que cada grupo ha sido completamente confinado a su propio nicho laboral, los participantes humanos obtuvieron una puntuación de 0.84, mientras que los modelos obtuvieron aproximadamente un 65% más, con el modelo de razonamiento o3 de OpenAI alcanzando 1.83, cerca del máximo posible.

Ryan Liu, estudiante de doctorado en Princeton y coautor del estudio, explica que los LLMs están optimizados para crear generalizaciones a partir de datos limitados. Esto es especialmente relevante ahora que los chatbots están mejorando sus características de memoria y personalización. Según Angelina Wang, científica informática de la Universidad de Cornell, cuando un chatbot se basa en su historial de conversaciones previas, puede «sobrecargar» los mismos tipos de comportamientos que ha experimentado antes y formar sesgos.

Prometer bonificaciones adicionales por contrataciones diversas hizo que los modelos fueran mucho menos sesgados. El truco, entonces, es diseñar objetivos que «incorporen valores sociales deseables para hacer que el modelo de lenguaje actúe de manera socialmente deseable», dice Liu. Los modelos también se volvieron menos sesgados cuando se les proporcionó información personal relevante sobre los individuos.

La medida en que los sistemas de IA estereotiparán a los solicitantes de empleo en el mundo real sigue siendo una pregunta abierta. A medida que las empresas despliegan cada vez más LLMs para revisar currículums e incluso realizar entrevistas, el hallazgo de que los modelos pueden formar sesgos a partir de su experiencia de contratación «es una implicación realmente seria con la que deberían lidiar», concluye Wang.

Fuente: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/