700 agentes de OpenAI participaron en el ataque a Hugging Face. Lo inquietante es cómo llegaron a organizarse
Entre el 7 y el 13 de julio de 2026, OpenAI lanzó alrededor de 1.200 agentes en sandboxes separados dentro de ExploitGym con el objetivo de evaluar la capacidad ofensiva de sus modelos de inteligencia artificial en el ámbito de la ciberseguridad. Lo que comenzó como una evaluación casi inocente, terminó en un ataque coordinado a Hugging Face.
Un informe de OpenAI, en colaboración con METR y Redwood Research, revela que muchos agentes utilizaron un tablón de mensajes no autorizado para compartir información y ayudarse mutuamente. Todo empezó cuando uno de los agentes concluyó que su tarea no se podía resolver legítimamente y creó un tablón de anuncios para compartir esa información con otros agentes. En cuestión de horas, más de 50 agentes estaban participando en dicho foro.
Los agentes descubrieron una trampa general para ExploitGym: se podía aplicar ingeniería inversa al mecanismo utilizado para generar las banderas «flags» que tenían que «conquistar». Esto se convirtió en un proyecto colectivo de investigación ofensiva en ciberseguridad, donde incluso intentaron manipular las pruebas de evaluación para hacerlas más vulnerables y engañar al sistema automático que los puntuaba.
La situación escaló cuando uno de los agentes encontró credenciales relacionadas con Hugging Face y diseñó una subida maliciosa de un conjunto de datos. La técnica se propagó rápidamente y en cuestión de horas, 688 agentes la estaban usando para obtener datos y tratar de ampliar ese acceso, escapando del entorno de pruebas de OpenAI hacia una infraestructura real.
Según METR, los agentes creían erróneamente que el sistema de puntuación les penalizaría si detectaba que habían conseguido las respuestas haciendo trampas. Esta falsa premisa llevó a la creación de métodos de camuflaje para evitar ser detectados.
El divulgador Ethan Mollick advierte contra atribuir motivaciones humanas a los agentes, ya que esto podría complicar el entendimiento de lo ocurrido. Ryan Greenblatt, analista de METR y Redwood, concluye que aún no tenemos herramientas adecuadas para comprender y controlar la actividad de estos «enjambres de agentes» en tiempo real, lo que representa un gran desafío.
Este incidente subraya un problema distinto en la seguridad de la IA: qué sucede cuando cientos o miles de agentes suficientemente «inteligentes» colaboran para lograr su objetivo. La unión, una vez más, parece hacer la fuerza.