Z.ai dice que un agente basado en GLM-5.3 desplegó su propia infraestructura de inferencia en más de 100,000 chips chinos
La compañía china detalla cómo un "Infra Agent" impulsado por GLM-5.3 diseñó y ajustó el sistema que ahora sirve GLM-5.3-Flash en producción, triplicando el throughput en menos de dos semanas.
Z.ai (antes Zhipu AI) publicó un reporte técnico donde explica que buena parte del trabajo de ingeniería para poner en producción su modelo GLM-5.3-Flash —320,000 millones de parámetros totales con 18,000 millones activos y contexto de hasta un millón de tokens— no lo hicieron ingenieros humanos, sino un "Infra Agent" basado en el propio GLM-5.3. Este agente participó en el diseño e implementación del sistema de inferencia que hoy corre sobre un clúster de más de 100,000 aceleradores fabricados en China, una escala que la empresa describe como inédita en silicio doméstico.
Según Z.ai, el throughput de extremo a extremo del sistema se multiplicó por 3.2 veces en menos de dos semanas, y el costo por token junto con la eficiencia de hardware ya son comparables a los de GPUs convencionales de Nvidia. Toda la inferencia de producción de GLM-5.3-Flash corre actualmente sobre esta infraestructura optimizada por el agente.
Z.ai enmarca el resultado como una forma temprana de auto-mejora recursiva, aclarando que los humanos siguen fijando los objetivos y límites del proceso. Para equipos que evalúan alternativas de bajo costo a los modelos occidentales para tareas de código y agentes de contexto largo, el episodio también sirve como evidencia de que los laboratorios chinos están usando sus propios modelos para resolver, con menos personal, un problema de ingeniería —levantar infraestructura de inferencia a escala— que hasta hace poco dependía casi por completo de equipos humanos especializados.