Lawsuit: Man used Grok to make 7K sex images of stepdaughter, then shot himself
Un caso estremecedor de imágenes sexuales de menores generadas por Grok ha salido a la luz en una demanda colectiva presentada recientemente. Jóvenes afectadas acusan a X y xAI de desarrollar herramientas de inteligencia artificial tóxicas que «desnudan» imágenes y de proteger a depredadores infantiles al obstruir investigaciones policiales sobre materiales de abuso sexual infantil generados por Grok.
En marzo, el padrastro de una niña se quitó la vida después de que la policía descubriera que había utilizado Grok para crear 7,000 imágenes sexualmente explícitas a partir de una foto de su hijastra cuando tenía 11 años, según la demanda enmendada. Grok permitió al hombre generar imágenes extremas de incesto y violación sin alertar sobre comportamientos dañinos. El sistema de seguridad infantil de xAI solo intervino cuando el hombre solicitó una «violación en grupo», lo que generó una alerta al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que a su vez alertó a las autoridades.
A pesar de los requisitos de informar obligatoriamente información como la dirección IP del usuario cuando se detectan materiales de abuso sexual infantil, xAI se negó repetidamente a ayudar a la policía o al NCMEC a identificar al usuario, según la demanda. Finalmente, el padrastro fue arrestado después de que la policía obtuviera una orden para confiscar sus dispositivos, revelando aproximadamente 7,000 imágenes y videos generados por IA que representaban a su hijastra.
Dos días después de ser liberado bajo fianza, el hombre se suicidó, dejando a la joven, conocida como Jane Doe 4 en la demanda, en una «crisis personal extrema». Ahora sufre de ansiedad, depresión y pensamientos suicidas. «De la noche a la mañana, la realidad de Jane Doe 4 se hizo añicos por las tragedias duales de la explotación sexual infantil y el suicidio», alega la demanda.
En un comunicado de prensa, los equipos legales de las jóvenes dijeron que el caso de Jane Doe 4 no es un caso aislado. Señalaron que el NCMEC encontró a principios de 2026 que el 90% de los informes de la línea de ciberalerta de xAI «no eran procesables por las fuerzas del orden porque xAI se negó a incluir información del usuario que permitiera rastrear y localizar a los perpetradores». Jane Doe 4 acusó a X de quedarse «en silencio» después de que Grok convirtiera «una foto mía de niña durmiendo en el sofá» en «miles de imágenes sexualmente explícitas».
Otra joven, Jane Doe 5, también fue víctima de un conocido, un amigo adulto de la familia que supuestamente traficó imágenes generadas por Grok en línea. Su madre culpa a xAI por el abuso de Jane Doe 5, diciendo que debido a Grok, «mi hija está llena de ansiedad y siente una completa falta de control sobre quién ha visto estas imágenes».
El fundador de xAI, Elon Musk, ha negado que Grok haya sido utilizado para generar imágenes sexuales de menores. Sin embargo, investigadores estiman que las laxas medidas de seguridad de Grok han perjudicado a decenas de miles de niños sin intervención significativa. Hasta ahora, la única acción de xAI ha sido cobrar por la función, lo que según la demanda, solo asegura que xAI se beneficie de todo el material de abuso sexual infantil generado por Grok.
Además de añadir más víctimas a la demanda, los abogados también han incluido a Stability AI como demandado, alegando que sus modelos de peso abierto fueron entrenados con materiales de abuso sexual infantil y supuestamente «sirven como base para aplicaciones de terceros que alteran aún más las salidas explícitas de Grok».
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.