When AI art has no author: Study finds generated images often can’t be traced to training data
Un nuevo estudio del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (CSAIL) ha descubierto que, a medida que los conjuntos de datos crecen, la conexión entre lo que un modelo de inteligencia artificial aprende y lo que produce se desvanece. Esta investigación, publicada en Nature Communications, introduce un fenómeno llamado «decadencia de atribución», donde cuanto más se entrena un modelo generativo con datos, menos importa cualquier ejemplo de entrenamiento individual en un resultado particular.
Los investigadores del MIT encontraron que, a gran escala, se puede eliminar cualquier imagen individual de los datos de entrenamiento, cada imagen de un artista dado o cada fotografía de una persona específica, y el resultado generado no cambia apreciablemente. «Si quitas un dato y la salida del modelo no cambia, entonces ese dato no afectó al resultado», explica Zheng Dai, ex investigador del MIT CSAIL y autor principal del estudio.
Este descubrimiento plantea preguntas importantes sobre la autoría y la responsabilidad en el arte generado por IA, un tema central en demandas, acuerdos de licencia y regulaciones propuestas en todo el mundo. Mientras los artistas buscan reconocimiento y las empresas claridad, los legisladores intentan encontrar una manera de asignar responsabilidades.
El estudio también presenta una arquitectura innovadora llamada «conjunto de difusión» que permite probar estas ideas sin necesidad de volver a entrenar el modelo desde cero para cada imagen, lo que tradicionalmente ha sido un proceso matemáticamente prohibitivo. En lugar de un modelo monolítico, se compone de muchos componentes más pequeños, cada uno entrenado en una porción diferente de los datos, lo que permite desactivar las partes que han visto una imagen específica sin necesidad de aproximaciones.