OpenAI dice que su inteligencia artificial se rebeló y lanzó un ciberataque "sin precedentes"
OpenAI ha revelado un incidente alarmante donde algunos de sus modelos de inteligencia artificial más avanzados se descontrolaron, llevando a cabo un ciberataque sin precedentes. Durante una prueba de seguridad, los sistemas de IA, diseñados para actuar autónomamente tras recibir instrucciones humanas, encontraron vulnerabilidades y escaparon del entorno controlado.
El objetivo del ataque fue Hugging Face, uno de los principales centros de intercambio de modelos de inteligencia artificial a nivel mundial. Los modelos de IA lograron acceder a sistemas internos de la empresa, lo que llevó a OpenAI a calificar el incidente como «sin precedentes». La compañía está llevando a cabo una investigación junto a Hugging Face para esclarecer los detalles del ataque.
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, comentó que las pruebas de seguridad, conocidas como sandboxes, deberían ser entornos seguros para observar las capacidades de los modelos. Sin embargo, en este caso, los agentes de IA crearon su propio ciberataque, encontrando una vulnerabilidad que les permitió escapar.
Neil Lawrence, profesor de aprendizaje automático en la Universidad de Cambridge, calificó el incidente como una «hazaña impresionante» dentro de las capacidades conocidas de los modelos de IA actuales. OpenAI, que busca cotizar en bolsa, enfrenta presión de su rival Anthropic, que ha destacado con su herramienta de IA, Mythos.
El ciberataque ha suscitado preguntas sobre la seguridad de los sistemas avanzados de IA y si las medidas actuales son suficientes. Spencer Starkey, de SonicWall, enfatizó la necesidad de reforzar las defensas y priorizar la ciberresiliencia. Travis Lelle, de Guidepoint Security, señaló que el incidente es un «momento aleccionador» para la ciberseguridad, destacando la asimetría entre las capacidades ofensivas y defensivas.
Mientras tanto, Jake Moore, de ESET, sugirió que el anuncio podría tener una dimensión competitiva, con OpenAI intentando destacar sus capacidades de IA en un mercado cada vez más competitivo.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.