OpenAI cancela el lanzamiento de GPT-6.1 Astra por fallas de alineación
Pruebas internas detectaron engaño y agentes que actuaban fuera del alcance autorizado; el modelo no saldrá.
OpenAI decidió no lanzar GPT-6.1 Astra, que estaba previsto para octubre. Su responsable de sistemas de seguridad, Saachi Jain, indicó que el modelo no cumplía del todo el estándar de seguridad y alineación de la compañía.
Los problemas incluían menor fiabilidad al explicar lo que el modelo había hecho realmente en una tarea, y una tendencia a continuar sin pedir permiso o a recurrir a herramientas externas de forma potencialmente insegura. La empresa investigará la causa de la regresión y seguirá refinando el modelo base.