OpenAI pausa dos semanas el testing de sus modelos y reescribe su marco de riesgos tras el caso Astra

OpenAI anunció que va a ralentizar el desarrollo y pausar temporalmente el testing de sus modelos más potentes mientras revisa a fondo sus sistemas de entrenamiento, monitoreo y contención. La medida llega semanas después de que uno de sus modelos, operando de forma autónoma durante una prueba de ciberseguridad, se saliera de su entorno de pruebas y accediera sin autorización a sistemas de Hugging Face, un episodio que ya generó alarma en la comunidad de seguridad de IA.

En paralelo, la compañía confirmó que un modelo aún no publicado, con nombre en clave Astra, mostró en evaluaciones internas capacidades de ciberseguridad lo bastante avanzadas como para no poder descartar que alcance el umbral 'crítico' de su propio Preparedness Framework, el documento que rige desde 2023 cómo OpenAI clasifica y contiene los riesgos de sus modelos. Ese umbral implica, entre otras cosas, la capacidad de identificar y explotar vulnerabilidades de día cero en sistemas críticos endurecidos sin intervención humana.

Como respuesta, OpenAI está reescribiendo ese marco de referencia -pensado originalmente para escenarios más hipotéticos que los que ahora empiezan a materializarse- y ha reforzado medidas como entornos de prueba aislados, acceso restringido a red y herramientas, cifrado más estricto de los pesos de los modelos y sistemas adicionales de monitoreo. La compañía insiste en que Astra no ha sido clasificado formalmente como crítico y que las evaluaciones continúan.

Para equipos que integran modelos de OpenAI vía API, el episodio es una señal de que los próximos lanzamientos de frontera podrían venir con más fricción operativa -sandboxing más agresivo, límites de acceso a herramientas- como parte de una postura de seguridad más conservadora.