OpenAI presenta Jalapeño, su primer chip propio para inferencia
OpenAI reveló los primeros resultados de Jalapeño, un acelerador de inferencia diseñado internamente que promete grandes saltos en velocidad y eficiencia energética frente al hardware que usa hoy.
OpenAI publicó los primeros benchmarks de Jalapeño, un chip de inferencia diseñado por la propia compañía, con Broadcom encargándose de la implementación de silicio y la conectividad, y Celestica del ensamblaje de tarjetas, racks y sistemas. Es el primer paso de una hoja de ruta multigeneracional: ya hay una segunda generación en desarrollo avanzado y una tercera tomando forma.
En pruebas con el benchmark público InferenceX sobre modelos como GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T, Jalapeño mostró entre 1.5x y 1.9x más trabajo útil por watt, y entre 1.7x y 3.6x menos latencia de punta a punta que los sistemas de comparación. En cargas altamente interactivas, la mejora de desempeño llegó a ubicarse entre 2.1x y 4.1x.
Para quien construye sobre la API de OpenAI, el mensaje es indirecto pero relevante: la compañía busca depender menos de proveedores externos de cómputo y bajar el costo por token a mediano plazo. OpenAI planea desplegar Jalapeño en su infraestructura de cómputo antes de que termine el año.