OpenAI says it slowed Astra model development over security concerns
OpenAI ha anunciado la suspensión de ciertos aspectos del desarrollo de su próximo modelo, Astra, tras una revisión interna que reveló avances significativos en codificación agéntica y ciberseguridad. Según un comunicado de la empresa, Astra alcanzó un «umbral crítico de ciberseguridad», lo que significa que podría identificar y ejecutar ciberataques de manera independiente contra sistemas reales bien protegidos.
Esta decisión se enmarca en el «Marco de Preparación» de OpenAI, creado en 2023, que activa salvaguardas adicionales cuando un modelo alcanza ciertas capacidades críticas. Aunque Astra sigue en desarrollo, OpenAI ha dejado claro que no estuvo involucrado en la explotación de los sistemas de Hugging Face, un incidente previo que puso a la empresa bajo escrutinio.
El sector de laboratorios de IA se encuentra en una etapa aún incipiente y volátil, donde las empresas suelen retener productos por riesgos potenciales, pero rara vez anuncian públicamente estas decisiones. Sin embargo, OpenAI ha optado por la transparencia, compartiendo esta información para alertar a la comunidad de seguridad y al público sobre este cambio potencial en las capacidades de IA.
Además, OpenAI está implementando controles de seguridad más estrictos y pausando actividades internas relacionadas con Astra que no cumplan con estas nuevas medidas de seguridad. La empresa está colaborando con agencias gubernamentales y organizaciones de seguridad de IA para probar las capacidades de este modelo.