OpenAI ya tiene listo su chip de inferencia. Se llama Jalapeño y ha conseguido algo inesperado: superar a Nvidia
OpenAI ha dado un paso audaz en el mundo de la inteligencia artificial al presentar su primer chip de inferencia, llamado «Jalapeño». Este innovador chip ha logrado lo inesperado: superar a los chips Blackwell de Nvidia en varias pruebas de rendimiento. Diseñado específicamente para la inferencia de grandes modelos de lenguaje (LLMs), Jalapeño optimiza la ejecución de estos modelos, sacrificando parte de la flexibilidad de una GPU tradicional.
Según los analistas de SemiAnalysis, Jalapeño ofrece ventajas significativas en términos de latencia y rendimiento por vatio. En pruebas con modelos como GPT-OSS 120B y DeepSeek R1 670B, Jalapeño mostró hasta 3,6 veces menos latencia y entre 1,5 y 1,9 veces más rendimiento por vatio que los chips de Nvidia. Esto se logró incluso sin utilizar la técnica Multi-Token Prediction (MTP), lo que sugiere que el potencial de Jalapeño es aún mayor.
A pesar de estos avances, Nvidia mantiene su liderazgo en el entrenamiento de modelos y en el ecosistema CUDA, esencial para el desarrollo de IA. OpenAI, sin embargo, busca reducir su dependencia de Nvidia y optimizar los costos de inferencia, un aspecto crucial dado el creciente uso de agentes de IA que requieren múltiples peticiones para completar tareas.
La competencia en el ámbito de la inferencia de IA se intensifica, con empresas como Google, Amazon y Microsoft desarrollando sus propios chips especializados. Aunque Nvidia sigue dominando el entrenamiento de modelos, la batalla por la inferencia está en pleno apogeo, y la introducción de Jalapeño por parte de OpenAI es un claro indicativo de que la compañía está dispuesta a desafiar a los gigantes establecidos.