NVIDIA Vera Rubin Driving Performance Per Watt, Lowest Token Cost for Partners Worldwide
NVIDIA ha presentado su plataforma Vera Rubin, diseñada para operar a gran escala y ofrecer un rendimiento sin precedentes por vatio, junto con una reducción significativa en los costos por token para sus socios a nivel mundial. La producción del modelo Vera Rubin NVL72 está en aumento, con instalaciones en socios como CoreWeave, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure. Con más de 350 sitios de fabricación en 30 países, Vera Rubin representa la cadena de suministro más grande y madura a nivel de rack jamás ensamblada para satisfacer la demanda de computación de los clientes.
La plataforma Vera Rubin está construida desde el chip hasta la red eléctrica para ofrecer el máximo rendimiento por vatio y el costo más bajo por token. Según el primer benchmark de CoreWeave en DeepSeek-R1, se logra un rendimiento 10 veces mayor por megavatio en comparación con el modelo Grace Blackwell NVL72, lo que subraya su eficiencia en fábricas de IA con restricciones de energía.
Este avance es posible gracias a un diseño extremo que integra siete chips y cinco bandejas de rack, incluyendo Vera Rubin NVL72, Vera CPU rack, Groq 3 LPX, Spectrum-6 SPX y Vera BlueField-4 STX, todos ellos diseñados como un único sistema en lugar de ensamblarse a partir de productos estándar.
En el centro de esta innovación se encuentra el CPU Vera de NVIDIA, que redefine lo que puede ser un CPU para fábricas de IA. Diseñado para la era de los agentes, su núcleo Olympus personalizado ofrece el doble de rendimiento en un solo hilo, tres veces más ancho de banda entre núcleos y un 40% menos de latencia de memoria en comparación con diseños de chiplets competidores, convirtiéndolo en el CPU de un solo hilo más eficiente para las cargas de trabajo agenticas más relevantes.
Para la conectividad, la sexta generación de NVLink ofrece más del doble de rendimiento en cargas de trabajo complejas, tres veces menos latencia y 10 veces más tasas de paquetes que el Ethernet estándar. Para la expansión, Spectrum-X Ethernet combina sistemas de conmutación Spectrum-6 de 102.4T, SuperNICs ConnectX-9 de 1.6T, enrutamiento adaptativo, control avanzado de congestión, telemetría y soporte de sistema operativo abierto, permitiendo un ancho de banda RDMA 1.6 veces mayor que el Ethernet estándar.
Los principales constructores de infraestructura de IA del mundo, incluidos CoreWeave, Microsoft, SpaceXAI y Tesla, están entre los primeros en adoptar los conmutadores Spectrum-6 para acelerar sus fábricas de IA. NVIDIA Photonics, con ópticas empaquetadas para la expansión, es el primer conmutador de este tipo en fabricación a gran volumen, ofreciendo un consumo de energía 5 veces menor y un MTBI 10 veces mayor en comparación con los transceptores enchufables, con CoreWeave, Lambda y OCI entre los primeros en adoptarlo.
Spectrum-XGS Ethernet extiende el rendimiento a través de sitios con un rendimiento de múltiples sitios 1.9 veces mayor, ya que la IA a gran escala no es un problema de un solo edificio.
NVLink Fusion abre la plataforma de infraestructura de NVIDIA a XPUs de terceros, proporcionando a los socios un camino más rápido al mercado en la probada pila y ecosistema de escala NVLink.
El diseño de entrada de refrigeración líquida a 45 grados Celsius permite una operación sin enfriadores, ahorrando millones de galones de agua por megavatio anualmente en nuevas fábricas de IA.
En Europa, Vera Rubin está impulsando la era de los modelos abiertos, sirviendo como base para una asociación ampliada entre Microsoft y Mistral que lleva la IA de frontera a la región, combinando modelos europeos abiertos con entornos controlados por la nube y el cliente para que gobiernos e industrias reguladas puedan adoptarlos bajo sus propios términos.
La plataforma Vera Rubin proporciona la base computacional para el ecosistema de modelos abiertos de Europa, combinando computación acelerada, redes y software para que los modelos y agentes funcionen eficientemente desde el entrenamiento hasta la producción.
Regístrate para leer esta noticia
Solo necesitas tu email. Sin contraseñas.