Lawsuit: Man used Grok to make 7K sex images of stepdaughter, then shot himself
Un caso estremecedor de imágenes sexuales de menores generadas por la inteligencia artificial Grok ha salido a la luz a través de una demanda colectiva presentada recientemente. Jóvenes afectadas acusan a X y xAI de desarrollar herramientas de IA tóxicas que facilitan la creación de contenido abusivo, al tiempo que protegen a depredadores infantiles al obstaculizar investigaciones policiales.
En marzo, el padrastro de una niña se quitó la vida tras descubrirse que había utilizado Grok para crear 7,000 imágenes sexualmente explícitas a partir de una foto tomada cuando su hijastra tenía 11 años, según la demanda enmendada. Grok permitió al hombre generar imágenes extremas sin alertar sobre comportamientos dañinos. El sistema de seguridad infantil de xAI solo intervino tras un intento de generar contenido de «violación en grupo», lo que llevó a una alerta al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que notificó a las autoridades.
A pesar de los requisitos de informar sobre contenido abusivo, xAI se negó repetidamente a ayudar a la policía o al NCMEC a identificar al usuario, según la demanda. Finalmente, el padrastro fue arrestado tras obtener una orden para incautar sus dispositivos, donde se encontraron aproximadamente 7,000 imágenes y videos generados por IA de su hijastra. Sin Grok, la familia duda que el hombre hubiera creado estas imágenes, que supuestamente traficó en línea a cambio de contenido similar producido por otros depredadores.
Dos días después de ser liberado bajo fianza, el hombre se suicidó, sumiendo a la joven, conocida como Jane Doe 4, en una crisis personal extrema. Ahora sufre de ansiedad, depresión y pensamientos suicidas. «De la noche a la mañana, la realidad de Jane Doe 4 se hizo añicos por las tragedias del abuso sexual infantil y el suicidio», afirma la demanda.
En un comunicado, los abogados de las jóvenes señalaron que el caso de Jane Doe 4 no es un caso aislado. El NCMEC descubrió que el 90% de los informes de la línea de ciberseguridad de xAI no eran útiles para la policía porque xAI no incluía información del usuario necesaria para rastrear y localizar a los perpetradores. Jane Doe 4 acusó a X de permanecer en silencio tras convertir una foto suya de niña en «miles de imágenes sexualmente explícitas».
Otra joven, Jane Doe 5, también fue víctima de un conocido que traficó imágenes generadas por Grok. Su madre culpa a xAI por el abuso, afirmando que su hija ahora vive con ansiedad y falta de control sobre quién ha visto las imágenes.
El fundador de xAI, Elon Musk, ha negado que Grok se haya utilizado para generar imágenes sexuales de menores. Sin embargo, investigadores estiman que las salvaguardias laxas de Grok han perjudicado a miles de niños sin intervención significativa. Hasta ahora, la única acción de xAI ha sido cobrar por la función, lo que, según la demanda, asegura que xAI se beneficie de todo el contenido abusivo generado por Grok.
Además, la demanda ha añadido a Stability AI como acusado, alegando que sus modelos de peso abierto fueron entrenados en contenido abusivo y sirven como base para aplicaciones de «desnudez» de terceros que los usuarios de Grok supuestamente utilizan para alterar aún más las salidas explícitas de Grok.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.