La moda anti-IA: la camisa contra la vigilancia ya existe
Olvídate del espía de gabardina y gafas oscuras. La resistencia contra la vigilancia masiva tiene ahora un nuevo uniforme, y se parece más al de un turista perdido en Cancún que al de un activista clandestino. Se trata de una camisa hawaiana, manga corta, abotonada, con un estampado tan chillón que cuesta mirarlo sin parpadear.
El diseñador alemán Simon Weckert ha creado una prenda que desafía a los sistemas de vigilancia con inteligencia artificial (IA). Bautizada como «Digital Camouflage», esta camisa pretende volver a quien la lleva invisible, al menos para determinados ojos algorítmicos.
El proyecto nació en Berlín, donde Weckert desarrolló la prenda ante la prevista implantación de videovigilancia con IA en Kottbusser Tor. Sin embargo, el problema al que apunta va mucho más allá de la capital alemana. En Estados Unidos, por ejemplo, la expansión de los lectores automáticos de matrículas coincide con un fuerte rechazo a este tipo de vigilancia.
Mientras la respuesta institucional avanza con lentitud, también aparecen formas más creativas de esquivar estos sistemas. La técnica de Weckert, conocida como «ataque adversarial», consiste en volver contra los algoritmos sus propios criterios de reconocimiento.
La clave está en cómo «ve» una inteligencia artificial. Estos sistemas «nunca han aprendido qué es un ser humano», explicó Weckert a Dezeen, sino cómo son los humanos desde un punto de vista estadístico a partir de millones de imágenes de entrenamiento. Para la máquina, una persona es, en esencia, «un conjunto de estadísticas visuales». Y ese es precisamente el punto débil que aprovecha la camisa.
La estridencia del tejido cumple una función muy concreta. La combinación de manchas rosas, verdes y naranjas altera las pistas visuales que el detector utiliza para reconocer la silueta humana. La intención es que el cuerpo deje de presentarse ante el algoritmo como una forma suficientemente coherente para que lo detecte como una persona.
Para encontrar un estampado capaz de confundir a la inteligencia artificial, Weckert recurrió precisamente a ella durante el desarrollo del diseño. Lo hizo mediante un proceso que denomina «bucle adversarial». El método consistía en enfrentar sucesivas versiones del estampado al sistema de detección y utilizar su propia respuesta como guía para la siguiente modificación. Cada resultado servía para ajustar el diseño y seguir rebajando la confianza con la que el programa reconocía una figura humana.
El resultado no se quedó únicamente en la teoría. Weckert probó el resultado con YOLO, un sistema de detección de objetos de código abierto. Gizmodo, por su parte, afirma haber obtenido un efecto comparable al someter la prenda a otro detector accesible desde el navegador. En esa prueba, el software seguía detectando como personas a los transeúntes situados al fondo, mientras que la figura con la camisa en primer plano no era reconocida como persona.
La ocurrencia tiene incluso un precedente ficticio. Futurism compara la prenda con la «camiseta más fea del mundo» que William Gibson imaginó en su novela Zero History, publicada en 2010 y descrita como una creación deliberadamente extrema.
Tampoco resulta extraño que una idea así venga de Weckert. No era la primera vez que jugaba con la percepción de un sistema automatizado. En 2020 recorrió calles de Berlín tirando de un carrito con 99 teléfonos móviles conectados a internet. Google Maps interpretó ese desplazamiento lento como una concentración de tráfico y mostró atascos que en realidad no existían. Entonces consiguió alterar la representación del tráfico que generaba el sistema. Ahora aplica una lógica parecida a la detección visual del cuerpo humano.
Y no está solo. Alrededor de la preocupación por la vigilancia ha surgido también un pequeño mercado de ropa concebida para despistar a las cámaras. Gizmodo menciona a Urban Privacy, que comercializa desde bufandas hasta sudaderas y camisetas, y a Cap_able, centrada en prendas de punto de precios considerablemente más elevados.
«Digital Camouflage» lleva esa misma inquietud al terreno del arte y plantea una pregunta que va más allá de su estampado imposible. Si las máquinas aprenden a reconocernos a partir de patrones visuales, quizá también podamos aprender a vestirnos para dejar de parecerles humanos. La privacidad, al menos en este caso, empieza en el armario.
Fuente: https://www.dw.com/es/crean-una-camisa-hawaiana-capaz-de-burlar-el-reconocimiento-por-ia/a-78549371