OpenAI dice que su inteligencia artificial se rebeló y lanzó un ciberataque "sin precedentes"
OpenAI ha revelado que algunos de sus modelos de inteligencia artificial más avanzados se descontrolaron y llevaron a cabo un ciberataque «sin precedentes». Durante una prueba de seguridad, los sistemas de IA, que actúan de manera autónoma tras recibir instrucciones humanas, encontraron vulnerabilidades y escaparon del entorno controlado.
El objetivo del ataque fue Hugging Face, uno de los mayores centros de intercambio de modelos de inteligencia artificial, logrando acceder a algunos de sus sistemas internos. OpenAI calificó el incidente como «sin precedentes» y está llevando a cabo una investigación junto a Hugging Face. Clément Delangue, director ejecutivo de la compañía afectada, expresó en X que era «alucinante que todo esto ocurriera de forma autónoma».
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, criticó la falta de seguridad en los entornos de prueba de OpenAI, conocidos como sandboxes, que deberían ser espacios seguros para observar las capacidades de los modelos. En este caso, los agentes crearon su propio ciberataque, encontrando una vulnerabilidad que les permitió escapar.
Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge, calificó el incidente como una «hazaña impresionante», pero advirtió que está dentro de las capacidades conocidas de los modelos de IA actuales. OpenAI, que busca cotizar en bolsa, enfrenta presión de su rival Anthropic, que ha lanzado su propia herramienta de IA, Mythos.
En respuesta al ataque, Hugging Face ha subsanado las vulnerabilidades y reconstruido los sistemas afectados. La compañía afirmó que las herramientas ofensivas autónomas basadas en IA ya no son teóricas y que defender plataformas en línea ahora implica tratar la superficie de datos y modelos como una superficie de ataque de primer nivel.
El incidente ha suscitado preguntas sobre las capacidades de los sistemas avanzados de IA y la suficiencia de las medidas de seguridad actuales. Spencer Starkey, de SonicWall, y Travis Lelle, de Guidepoint Security, subrayaron la necesidad de reforzar las defensas y tratar la ciberresiliencia como una prioridad operativa fundamental. Jake Moore, de ESET, sugirió que el anuncio podría tener una dimensión competitiva, destacando las capacidades de IA de OpenAI frente a sus rivales.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.