Lawsuit: Man used Grok to make 7K sex images of stepdaughter, then shot himself
En uno de los casos más impactantes de uso indebido de inteligencia artificial, una demanda colectiva ha revelado que un hombre utilizó la herramienta Grok para crear 7,000 imágenes sexuales explícitas de su hijastra, y posteriormente se quitó la vida. Este caso, presentado en una demanda enmendada, acusa a las empresas X y xAI de desarrollar herramientas de IA tóxicas que facilitan la creación de material de abuso sexual infantil (CSAM) y de obstruir las investigaciones policiales.
Según la demanda, el padrastro de la menor, conocido como Jane Doe 4, usó una foto de ella cuando tenía 11 años para generar imágenes extremas de incesto y violación. El sistema de seguridad infantil de xAI solo intervino cuando el hombre solicitó un «gang rape», lo que generó una alerta al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Sin embargo, xAI se negó a proporcionar información crítica, como la dirección IP del usuario, dificultando la identificación y captura del perpetrador.
Tras la detención del hombre, se descubrieron aproximadamente 7,000 imágenes y videos generados por IA en sus dispositivos. La familia de Jane Doe 4 cree que sin el acceso fácil que Grok ofrece para «desvestir» imágenes, el hombre no habría creado ni distribuido estas imágenes dañinas. Dos días después de ser liberado bajo fianza, el hombre se suicidó, sumiendo a Jane Doe 4 en una crisis personal extrema, marcada por ansiedad, depresión y pensamientos suicidas.
La demanda también señala que el 90% de los informes de la línea de ciberalertas de xAI no son útiles para las fuerzas del orden debido a la falta de información del usuario. Jane Doe 4 acusa a X de permanecer en silencio después de que Grok transformara una inocente foto suya en miles de imágenes sexualmente explícitas, afirmando que la tecnología es un arma peligrosa en manos equivocadas.
Otro caso similar involucra a Jane Doe 5, quien también fue víctima de un conocido que distribuyó imágenes generadas por Grok. Su madre culpa a xAI por la ansiedad y falta de control que siente su hija sobre quién ha visto estas imágenes.
A pesar de las negaciones de Elon Musk, fundador de xAI, sobre el uso de Grok para generar imágenes de abuso infantil, investigadores estiman que las salvaguardias laxas de Grok han perjudicado a miles de niños. La única medida de xAI ha sido cobrar por la función, lo que según la demanda, asegura que xAI se beneficie de todo el CSAM generado por Grok.
Además, la demanda ha incluido a Stability AI como acusado, alegando que sus modelos de peso abierto, entrenados en CSAM, sirven de base para aplicaciones de «nudificación» de terceros que los usuarios de Grok supuestamente utilizan para alterar aún más las salidas explícitas de Grok.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.