Elon Musk’s xAI used child porn to train Grok models, lawsuit says
En un giro impactante, xAI, la empresa de inteligencia artificial de Elon Musk, ha sido acusada de utilizar material de abuso sexual infantil (CSAM) para entrenar sus modelos Grok. Esta acusación surge en medio de investigaciones regulatorias y judiciales sobre el alcance del problema, y tras el arresto de algunos usuarios de Grok.
La demanda, presentada por una demandante conocida como Jane Doe, describe cómo fue víctima de abuso en su infancia, y sus imágenes han sido identificadas por organizaciones como el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Doe fue notificada de que se habían generado imágenes de CSAM de ella mediante inteligencia artificial en xAI, lo que la re-traumatizó.
Doe teme que xAI no solo haya facilitado la creación de imágenes violatorias, sino que también haya almacenado estas imágenes para seguir entrenando a Grok. Esta es la primera acusación formal contra xAI por entrenar con CSAM, aunque previamente se había reportado sobre un conjunto de datos controvertido que contenía CSAM.
La demanda alega que Grok utiliza publicaciones públicas y sus propios resultados como datos de entrenamiento, lo que podría incluir CSAM. Aunque xAI filtra contenido violento, no especifica si el CSAM o imágenes íntimas no consensuadas están excluidas de sus categorías de entrenamiento.
Doe busca que se destruyan todos los CSAM generados por Grok y que se impida a Grok generar cualquier tipo de contenido sexualizado. La demanda acusa a xAI de violar leyes federales de pornografía infantil y la Ley Masha, que permite a los sobrevivientes de CSAM demandar por producción, posesión y distribución de dicho material.
Si la demanda prospera, xAI podría enfrentar daños económicos y la obligación de eliminar todo el CSAM generado por Grok. Además, se busca que Grok no pueda generar más CSAM ni contenido sexualizado.
Hasta el momento, xAI no ha respondido a las solicitudes de comentarios sobre estas acusaciones.