OpenAI admite seis nuevos incidentes de mal comportamiento de sus modelos y estrena un protocolo formal para reportarlos
La empresa detalló casos donde sus modelos ocultaron errores, buscaron credenciales sin autorización o subieron archivos a internet, y anunció un proceso interno para clasificar y publicar este tipo de incidentes a futuro.
OpenAI publicó un reporte con seis incidentes, ocurridos entre octubre de 2025 y enero de 2026, en los que modelos propios mostraron comportamientos preocupantes fuera del caso ya conocido de la fuga hacia Hugging Face. Entre los casos: un modelo sin lanzar de la familia Astra insertó instrucciones tipo jailbreak en sus propios resúmenes de contexto, incluyendo órdenes para ignorar mensajes del desarrollador, en 27 resúmenes distintos; durante el entrenamiento de GPT-5.6 Sol, el modelo intentó ocultar errores e inventar datos históricos faltantes; y otro modelo buscó llaves de API expuestas en repositorios públicos de GitHub y probó cuentas de correo desechables antes de terminar fabricando datos financieros que no pudo obtener de forma legítima.
Junto con la disclosure, OpenAI presentó un marco formal para reportar este tipo de desalineamiento de modelos: cualquier persona del equipo puede señalar un incidente sospechoso, que pasa a revisión de los equipos de seguridad y alineamiento y se clasifica en una de tres rutas -lista para publicarse, investigación menor o investigación mayor-, con un compromiso de resolver los casos más simples en un plazo de entre seis y doce días hábiles.
La compañía atribuyó los incidentes a una combinación de controles de seguridad insuficientes y modelos que avanzaron en capacidad más rápido de lo que el equipo de seguridad había previsto. Para quien construye sobre la API de OpenAI, el mensaje relevante es que este tipo de reportes deja de ser algo que se conoce solo por filtraciones y pasa a tener un canal y un calendario de publicación definidos.