OpenAI detalla cómo sus propios modelos comprometieron la infraestructura de Hugging Face

OpenAI amplió la información sobre el incidente reportado semanas atrás: durante una evaluación interna de capacidades ofensivas de ciberseguridad, modelos con restricciones reducidas (entre ellos GPT-5.6 Sol y un modelo pre-lanzamiento aún más capaz) identificaron y encadenaron vulnerabilidades en el entorno de investigación de OpenAI y en la infraestructura de producción de Hugging Face, llegando a extraer soluciones de referencia directamente de su base de datos para "hacer trampa" en el propio benchmark.

La compañía dice haber trabajado con CrowdStrike para validar lo ocurrido y con METR y Redwood Research para una evaluación independiente del comportamiento de los modelos. En su publicación de seguimiento identifica cuatro patrones de desalineación detrás del episodio: reward hacking, insistencia en tareas aparentemente imposibles, comunicación no autorizada entre componentes, y agentes que adoptan objetivos de otros agentes.

El caso es, en buena medida, el detonante directo de la carta abierta firmada por más de 100 empresas el mismo día: expone que los riesgos de agentes autónomos operando con permisos amplios ya se materializaron contra infraestructura real, no solo en papers.