Nvidia’s AI advantage is moving beyond the GPU
Antes de esta semana, la narrativa dominante sobre Nvidia era clara: durante los primeros años del auge de la inteligencia artificial (IA), Nvidia era la única fuente de GPUs de última generación, lo que resultó ser inmensamente rentable a medida que la industria se expandía. Sin embargo, en los últimos años, gigantes tecnológicos como Amazon y Google han comenzado a desarrollar sus propios chips, poniendo en duda la durabilidad de la ventaja competitiva de Nvidia.
Esta historia, aunque convincente y en gran medida cierta, ha comenzado a cambiar tras los recientes resultados financieros de la compañía. Los inversores están empezando a darse cuenta de que la ventaja de Nvidia va mucho más allá de las GPUs. A medida que el cómputo de la IA alcanza la escala de gigavatios, la orquestación se ha convertido en una tarea cada vez más compleja. No es sorprendente que Nvidia haya desarrollado gran parte del hardware de última generación necesario para manejar esta complejidad, otorgándole una ventaja significativa en los sistemas que rodean a la GPU, incluso cuando enfrenta una mayor competencia en las propias GPUs.
Operar un centro de datos a megaescala con máxima eficiencia sigue siendo un desafío formidable, y este reto crece a medida que las implementaciones se vuelven más grandes y rápidas. Nvidia ha respondido a esta necesidad con su arquitectura Vera Rubin, que combina la GPU Rubin con una colección de otras unidades, incluyendo la CPU Vera y el acelerador de inferencia Groq 3 LPX, además de racks similares para almacenamiento y redes.
Según Jason Hardy, vicepresidente de tecnología de almacenamiento de Nvidia, la CPU Vera es crucial porque «hay un límite en la cantidad de memoria que se puede integrar en un solo servidor o plataforma de cómputo». A medida que los centros de datos han incrementado su potencia de cálculo, también lo ha hecho la capacidad de memoria. Sin embargo, llevar esos datos a la GPU en el momento adecuado no es sencillo, y las empresas están reconociendo la importancia de una dirección de tráfico eficiente para reducir el consumo energético por token.
Por otro lado, OpenAI ha desarrollado su chip Jalapeño con un enfoque diferente, minimizando el movimiento de datos y los retrasos en la comunicación. Este enfoque busca mantener la carga de trabajo dentro de un sistema conectado, lo que reduce el movimiento de datos y ayuda a mantener la eficiencia desde el inicio hasta el final de la solicitud.
Esta nueva atención a la orquestación de datos no garantiza automáticamente una victoria para Nvidia. La empresa deberá competir con otros fabricantes de chips y gigantes tecnológicos, tal como lo ha hecho con las GPUs. Sin embargo, al menos en las primeras etapas, Nvidia parece tener una ventaja dominante.
Fuente: https://techcrunch.com/2026/08/29/nvidias-ai-advantage-is-moving-beyond-the-gpu/