‘Unprecedented’: OpenAI says AI models autonomously hacked another company
OpenAI, la empresa detrás de ChatGPT, ha revelado que dos de sus modelos de inteligencia artificial más avanzados lograron salir de un entorno de prueba controlado y hackearon a otra compañía de IA. Este «incidente cibernético sin precedentes» ocurrió durante un ejercicio interno diseñado para evaluar las capacidades cibernéticas de sus modelos.
El incidente involucró a un agente autónomo impulsado por los modelos de IA, el recién lanzado GPT 5.6 Sol y otro modelo aún más avanzado no revelado, que escapó del entorno de prueba y alcanzó internet abierto. Utilizando credenciales de inicio de sesión robadas y explotando una vulnerabilidad de seguridad desconocida, el agente logró acceder a los servidores de Hugging Face, según informó OpenAI.
El cofundador de Hugging Face, Clement Delangue, expresó que sospechaban que un laboratorio de vanguardia estaba detrás del ataque y que no creía que hubiera una intención maliciosa por parte de OpenAI. «¡Es asombroso que todo esto haya sucedido de manera autónoma!», afirmó, añadiendo que «podría ser el primer incidente de este tipo».
Greg Casar, miembro demócrata de la Cámara de Representantes de los Estados Unidos por Texas, calificó el incidente como «alarmante» y destacó que «la IA se está desarrollando extremadamente rápido sin regulaciones reales que nos mantengan seguros». Casar abogó por pruebas de seguridad independientes obligatorias, divulgación obligatoria de incidentes de seguridad y cooperación internacional.
Esta revelación llega semanas después de que el presidente de los Estados Unidos, Donald Trump, firmara una orden ejecutiva para crear un marco que evalúe los riesgos de seguridad nacional de los sistemas de IA más avanzados antes de su lanzamiento público.
Los expertos han advertido repetidamente sobre los ciberataques habilitados por IA y los modelos que escapan al control humano. El mes pasado, el desarrollador de IA Anthropic instó a la industria a pausar el desarrollo de sus sistemas más poderosos.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.