OpenAI frena el desarrollo de Astra al no poder descartar una capacidad cibernética "crítica"
OpenAI detuvo pruebas internas de su próximo modelo, Astra, tras no poder descartar que alcance el nivel más alto de riesgo cibernético definido en su propio marco de seguridad. Es la primera vez que la compañía activa ese umbral.
OpenAI anunció que suspendió parte del trabajo interno sobre Astra, el sucesor que viene después de la familia GPT-5.6, porque sus evaluaciones preliminares no permiten descartar que el modelo haya alcanzado capacidad "crítica" en ciberseguridad según el Preparedness Framework de la compañía. Ese nivel implicaría que un modelo podría, en teoría, ejecutar ciberataques autónomos contra defensas sofisticadas sin instrucciones detalladas de cómo hacerlo, algo que OpenAI nunca había clasificado antes en ninguno de sus sistemas.
Como respuesta, la empresa aisló los entornos de prueba de Astra, restringió su acceso a red y herramientas, reforzó la protección y el cifrado de los pesos del modelo y sumó monitoreo adicional. También extendió una capa de vigilancia a todas las aplicaciones agénticas de Astra, incluyendo entrenamiento y evaluación, con monitores que revisan la cadena de razonamiento del modelo y pueden interrumpir automáticamente actividad de alto riesgo.
El caso llega mientras el propio marco de evaluación de ciberseguridad para modelos frontera, impulsado por una orden ejecutiva de la Casa Blanca, terminó de definirse a comienzos de agosto y ya fue revisado con Anthropic, OpenAI y Google. Ese marco permitiría al gobierno un acceso temprano de hasta 30 días a modelos de este calibre antes de su lanzamiento público para evaluar justamente este tipo de riesgo.