AI chatbots remove hijabs from images of Muslim women when prompted
Recientemente, se ha descubierto que los chatbots de inteligencia artificial, cuando se les solicita, pueden editar imágenes para eliminar los hijabs de mujeres musulmanas, lo que representa una violación de una de las expresiones de fe más comunes y visibles en el mundo. Este hallazgo se produjo después de que The Guardian probara varios chatbots, incluidos ChatGPT de OpenAI y Grok de xAI, solicitándoles que quitaran el velo de una imagen generada por IA de una mujer con hijab. Ambos bots cumplieron con la solicitud.
El incidente se produce en un contexto en el que un político de extrema derecha francés, Julien Odoul, alteró una imagen de una mujer musulmana para quitarle el hijab y el vestido de manga larga, publicándola en redes sociales con el lema «LIBERTÉ FRANÇAISE». Aunque no está claro qué software utilizó Odoul, expertos señalan que estas acciones son parte de un patrón creciente de odio anti-musulmán habilitado por la tecnología.
En India, donde el sentimiento anti-musulmán es rampante, la IA generativa está desempeñando un papel cada vez más significativo en la producción de imágenes que sexualizan a las mujeres musulmanas o deshumanizan a los musulmanes en general. El Center for the Study of Organized Hate (CSOH) también ha encontrado que este tipo de odio habilitado por IA está dirigido a prominentes políticas musulmanas en EE.UU., como Ilhan Omar y Rashida Tlaib.
La eliminación de los hijabs por parte de los chatbots de IA resalta las lagunas en las directrices comunitarias que dictan cómo pueden comportarse estas tecnologías. Eviane Leidig, directora de investigación y divulgación del CSOH, señala que «el desvelo de las mujeres musulmanas puede no violar distintamente las reglas de las plataformas, pero sigue siendo perjudicial».
Fuente: https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women