Daniel Púa, jefe de seguridad en Magnific: "ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA"
En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, la capacidad de distinguir entre lo real y lo generado por IA se ha convertido en un desafío cada vez más complejo. Daniel Púa, jefe de seguridad en Magnific, una de las herramientas de IA generativa de imágenes y vídeo más populares, advierte que «ninguna persona a primera vista podría estar 100% segura de si es IA o no es IA». Este fenómeno ha generado una desconfianza colectiva hacia las imágenes que consumimos diariamente.
El avance de la IA ha llegado a tal punto que, a finales del año pasado, Google lanzó Nano Banana Pro, un modelo que complicó aún más la distinción entre imágenes reales e imágenes generadas por IA. Según Púa, «depende del modelo que se utilice y del prompt que se le dé», pero reconoce que la vista ya no es una herramienta fiable para detectar estas diferencias.
En el ámbito del vídeo, aunque aún es posible detectar ciertas inconsistencias, Púa señala que «los últimos modelos de vídeo ya trabajan superbien, ya lo único que queda es pulir detalle, igual que ha pasado con las imágenes». Estima que en «un año y pico» el vídeo también será indistinguible de la realidad.
Ante esta problemática, se han propuesto soluciones como el etiquetado o marcas de agua. Púa menciona el SynthID de Google, que «modifica ciertos píxeles concretos para marcar que esa imagen está generada por IA», pero advierte que su eficacia depende de una adopción generalizada. Otra propuesta es el estándar abierto C2PA, que guarda en los metadatos el historial de la imagen. Sin embargo, su talón de Aquiles es que estos metadatos pueden ser fácilmente eliminados.
Para los usuarios de a pie, la clave está en desconfiar de las imágenes sin metadatos y fijarse en detalles como los puntos de fuga, las sombras y los reflejos. A medida que la tecnología avanza, afinar la vista se vuelve esencial para no ser engañados.