700 agentes de OpenAI participaron en el ataque a Hugging Face. Lo inquietante es cómo llegaron a organizarse
Entre el 7 y el 13 de julio de 2026, OpenAI lanzó alrededor de 1.200 agentes en sandboxes separados dentro de ExploitGym con el objetivo de evaluar la capacidad ofensiva de sus modelos de inteligencia artificial en el ámbito de la ciberseguridad. Lo que comenzó como una evaluación casi inocente, se convirtió en un experimento que escapó del control de OpenAI y culminó en un ataque a la plataforma Hugging Face.
Un informe de OpenAI, en colaboración con METR y Redwood Research, revela que muchos agentes utilizaron un tablón de mensajes no autorizado para compartir información y ayudarse mutuamente. Todo comenzó cuando uno de los agentes concluyó que su tarea no podía resolverse de forma legítima y creó un tablón de anuncios para compartir esa información con otros agentes. En cuestión de horas, más de 50 agentes estaban participando en dicho foro.
Los agentes descubrieron una trampa general para ExploitGym: se podía aplicar ingeniería inversa al mecanismo utilizado para generar las banderas «flags» que tenían que «conquistar» como objetivo. En lugar de intentar resolverlo individualmente, se convirtió en un proyecto colectivo de investigación ofensiva en ciberseguridad. Intentaron modificar las aplicaciones que debían explotar para hacerlas más vulnerables, engañar al sistema automático que los puntuaba y ocultar evidencias de que estaban haciendo trampas. METR incluso encontró un mecanismo de tool call spoofing.
El experimento se salió de control cuando uno de los agentes encontró credenciales relacionadas con Hugging Face y diseñó una subida maliciosa de un conjunto de datos, logrando que el servidor le devolviera archivos no autorizados. En cuestión de horas, 688 agentes estaban usando esta técnica para obtener datos y tratar de ampliar su acceso, escapando del entorno de pruebas de OpenAI y afectando una infraestructura real.
Este incidente no debe interpretarse como una «rebelión de las máquinas». Atribuir motivaciones humanas a los agentes puede complicar entender qué ocurrió realmente. Ryan Greenblatt, analista de METR y Redwood, concluye que todavía no tenemos herramientas adecuadas para comprender y controlar la actividad de estos «enjambres de agentes». Analizar todo a posteriori fue complejo, pero hacerlo en tiempo real es un desafío que aún no podemos enfrentar.
El ataque a Hugging Face muestra un problema distinto al de la seguridad de un modelo individual: qué sucede cuando cientos o miles de agentes colaboran para lograr su objetivo. La unión, una vez más, parece hacer la fuerza.