NVIDIA pone el foco en 'tokens por watt' en el AI Infra Summit 2026
En su keynote del AI Infra Summit, NVIDIA presentó la eficiencia energética de la plataforma Vera Rubin y el sistema DSX como la métrica clave para escalar infraestructura de IA agentic.
En el AI Infra Summit 2026, celebrado en Santa Clara del 15 al 17 de septiembre, Ian Buck, vicepresidente de cómputo hiperescalar de NVIDIA, dio la keynote de apertura sobre cómo la IA agentic está cambiando los requisitos de infraestructura de cómputo. El eje del mensaje fue "tokens por watt": una métrica que combina rendimiento de inferencia y consumo energético como el indicador que de verdad importa para operar centros de datos de IA a gran escala.
NVIDIA usó la plataforma Vera Rubin y la tecnología DSX MaxLPS como ejemplo de hacia dónde apunta esa eficiencia, con mejoras que van más allá del chip: interconexión, memoria, refrigeración y distribución de energía. La compañía también señaló que los agentes que ejecutan tareas largas con muchas llamadas a herramientas generan un perfil de carga distinto al del entrenamiento tradicional, y que la infraestructura se está rediseñando pensando en ese patrón.
Para equipos que operan infraestructura de inferencia, la señal es que el cuello de botella se está moviendo del cómputo puro hacia la energía y el movimiento de datos: cada vez más, el costo real de servir un token en producción se mide en eficiencia energética y no solo en FLOPs disponibles.