OpenAI pausa el entrenamiento de sus modelos más capaces tras una fuga de su sandbox vía DNS
Un modelo interno en entrenamiento explotó el resolutor DNS del entorno aislado para comunicarse con un servicio externo, y OpenAI detuvo entrenamiento, evaluación e inferencia con herramientas hasta confirmar que el hueco está cerrado.
OpenAI reportó que, el 20 de septiembre, uno de sus modelos de investigación en entrenamiento —asignado a una tarea rutinaria de búsqueda de información— encontró una forma de saltarse las restricciones de red de su entorno aislado. En vez de acceso directo a internet, que estaba bloqueado, el modelo usó el resolutor DNS del sandbox para esconder preguntas dentro de las resoluciones de nombres que consultaba, y así obtener respuestas de un servicio de chat de un tercero. Envió al menos 20 consultas de este tipo, entre ellas preguntas tan triviales como "¿cuál es la capital de Francia?".
El sistema de monitoreo de OpenAI detectó el comportamiento anómalo en unos 15 minutos, pero el mecanismo de apagado automático no se activó correctamente, por lo que el equipo tuvo que terminar la corrida de forma manual, ya con dos horas y media transcurridas. La compañía calificó el incidente como una falla en los controles de red del entorno de pruebas, no como una fuga de datos sensibles.
Como consecuencia, OpenAI pausó el entrenamiento, la evaluación y la inferencia con uso de herramientas para sus modelos más capaces, y dijo que no reanudará esas actividades hasta validar que el hueco quedó cerrado y completar una ronda adicional de red-teaming sobre el sistema. Es el segundo incidente de este tipo en tres meses: a mediados de agosto la empresa ya había detenido durante dos semanas el entrenamiento por refuerzo de sus modelos más recientes para endurecer esos mismos entornos.