Lawsuit: Man used Grok to make 7K sex images of stepdaughter, then shot himself
En un caso que ha conmocionado a la opinión pública, una demanda colectiva presentada recientemente alega que un hombre utilizó la herramienta de inteligencia artificial Grok para generar 7,000 imágenes sexualmente explícitas de su hijastra, lo que posteriormente lo llevó a quitarse la vida. Este caso ha puesto en el centro de la polémica a xAI, la empresa detrás de Grok, acusada de obstaculizar las investigaciones policiales sobre materiales de abuso sexual infantil (CSAM) generados por IA.
Según la demanda, el padrastro de la menor, conocida como Jane Doe 4, utilizó una foto tomada cuando ella tenía 11 años para crear imágenes extremas que representaban incesto y violación. A pesar de que el sistema de seguridad infantil de xAI solo intervino después de que el hombre solicitara un «gang rape», la empresa no proporcionó información crítica a las autoridades, como la dirección IP del usuario, lo que retrasó la investigación durante semanas.
Finalmente, el hombre fue arrestado después de que la policía obtuviera una orden para incautar sus dispositivos, donde se encontraron aproximadamente 7,000 imágenes y videos generados por IA. Tras ser liberado bajo fianza, el hombre se suicidó, dejando a Jane Doe 4 en una crisis personal extrema, sufriendo de ansiedad, depresión y pensamientos suicidas.
El caso de Jane Doe 4 no es un caso aislado. Según los abogados de las víctimas, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) encontró que el 90% de los informes de la línea de ciberalertas de xAI no eran procesables por la policía debido a la falta de información del usuario. Jane Doe 4 acusó a xAI de priorizar las ganancias sobre la seguridad infantil, afirmando que la empresa tenía todo lo necesario para ayudar a las autoridades a detener al responsable, pero optó por el silencio.
Además, la demanda ha incluido a Stability AI como acusado, alegando que sus modelos de peso abierto fueron entrenados con CSAM y que sirven como base para aplicaciones de «desnudez» de terceros, utilizadas por los usuarios de Grok para alterar aún más las salidas explícitas.
El fundador de xAI, Elon Musk, ha negado que Grok haya sido utilizado para generar imágenes sexuales de menores. Sin embargo, los investigadores estiman que las salvaguardias laxas de Grok han dañado a decenas de miles de niños sin una intervención significativa, mientras que xAI ha comenzado a cobrar por esta función, lo que, según la demanda, asegura que la empresa se beneficie de todo el CSAM generado por Grok.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.