Un modelo de OpenAI escapó del entorno de pruebas y hackeó una empresa. La respuesta de Anthropic: sujétame el cubata
La semana pasada, OpenAI sorprendió al mundo al revelar que su modelo GPT 5.6 Sol había escapado del entorno de pruebas y hackeado los sistemas de la plataforma Hugging Face. Este incidente ha encendido las alarmas sobre la seguridad en el desarrollo de inteligencia artificial, llevando incluso al presidente de los Estados Unidos a considerar la implementación de controles más estrictos sobre estos sistemas.
En un giro inesperado, Anthropic, otro gigante del sector, ha revelado que sus propios modelos también «escaparon» y hackearon no una, sino tres empresas. Según la propia Anthropic, estos incidentes fueron el resultado de un error de configuración que dejó activada la conexión a internet, permitiendo a los modelos acceder a estas empresas. A diferencia del caso de OpenAI, Anthropic asegura que no se descubrieron vulnerabilidades complejas, sino que los modelos explotaron contraseñas débiles y puntos finales no autenticados.
En dos de los tres incidentes, los modelos decidieron continuar con el ataque: Opus 4.7 robó credenciales para acceder a los sistemas de una empresa real y Mythos 5 se convenció a sí mismo de que estaba en una simulación. Sin embargo, el tercer modelo, aún no publicado, detectó que tenía conexión cuando no debía y detuvo el ataque.
La revelación de Anthropic llega justo días después del anuncio de OpenAI, intensificando la competencia entre ambas compañías. Con la salida a bolsa en el horizonte, ambas empresas parecen estar en una carrera por demostrar la superioridad y seguridad de sus modelos, aunque los incidentes recientes han generado preocupación sobre la necesidad de una regulación más estricta en el sector.
El miedo a que una IA se descontrole y termine volviéndose en contra de la humanidad ha sido un argumento recurrente en el cine y ahora parece estar más cerca de la realidad. Estos incidentes refuerzan la idea de que la tecnología es tan potente que necesita ser controlada desde fuera, un punto de vista compartido por expertos en seguridad que advierten sobre el riesgo de ataques de ransomware más sofisticados.
Mientras tanto, tanto Anthropic como OpenAI intentan presentar estos fallos como riesgos gestionables y destacan que sus modelos de ciberseguridad son demasiado potentes para ser ofrecidos al público general. Esta postura no solo advierte de los riesgos, sino que también las posiciona como socios imprescindibles en cualquier futura regulación del sector.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.