Expertos alertan sobre el contenido basura de la IA: los vídeos virales de frutas están radicalizando a los menores
El fenómeno del contenido basura generado por inteligencia artificial, conocido como AI slop, se ha convertido en una amenaza real para el desarrollo personal de los menores de edad. Los vídeos de frutas animadas con estéticas coloridas están derivando en un ecosistema de “podredumbre cerebral” (brainrot) que quita la sensibilidad que los jóvenes tienen ante la violencia.
Este contenido está siendo explotado para difundir mensajes de odio y radicalización de forma encubierta, según advierte el informe Fruta, verdura y decadencia mental: el uso de la IA generativa para crear tendencias virales basadas en la violencia publicado por la GNET (Global Network on Extremism and Technology).
Estos vídeos, que acumulan cientos de millones de visualizaciones en plataformas como TikTok, utilizan personajes antropomórficos (como fresas o plátanos) en situaciones dramáticas que pasan rápidamente a la brutalidad. Aunque inicialmente parecen historias de amor o traición similares a un reality show, una gran cantidad de estos vídeos deriva hacia el gore, mostrando mutilaciones y torturas gráficas, aunque sigan siendo dibujos animados.
La proliferación de este contenido basura se debe a que su producción es barata y masiva, permitiendo que los bots inunden las redes sociales con cientos de vídeos cada día. El objetivo es conseguir la mayor cantidad posible de clics e ingresos publicitarios, pero el efecto social es preocupante.
El consumo constante de estos medios fragmentados y sobreestimulantes genera un efecto de podredumbre cerebral que anula el pensamiento crítico de los niños y adolescentes, cuya alfabetización mediática sigue en desarrollo, según advierte el informe.
Con las herramientas de IA generativa, lo que antes requería habilidades de animación complejas y una producción de meses ahora puede estar listo con unas simples instrucciones en escasos minutos. De hecho, ahora está al alcance de todos y cualquiera puede generar contenido problemático que evita la moderación de las plataformas por su estética infantil.
Una de las tendencias identificadas por el estudio es que este contenido también sirve para replicar estéticas de cárteles criminales, propaganda yihadista y movimientos de extrema derecha. Existen, incluso, vídeos de frutas y vegetales animados que recrean ejecuciones inspiradas en vídeos del Estado Islámico o con simbología neonazi, un tipo de contenido que puede servir de puente hacia la radicalización.
“Los contenidos basura de IA basados en la violencia refuerzan la fascinación por la violencia por la violencia misma, permitiendo que la denominada ‘oda a la violencia’ online gane terreno progresivamente entre los jóvenes dentro del espacio digital”, recoge el estudio.
Además, el uso del humor absurdo sirve como escudo, ya que “crea distancia” para que los espectadores puedan disfrutar sin preocuparse ni sentirse cómplices. Esta desconexión emocional es el primer paso para normalizar la crueldad y el odio en las nuevas generaciones.