NVIDIA Nemotron 3.5 Lightning and NeMo Switchyard Deliver Faster, Smarter, More Efficient Agentic AI
En un movimiento que promete transformar el panorama de la inteligencia artificial, NVIDIA ha lanzado el modelo Nemotron 3.5 Lightning y la biblioteca de código abierto NeMo Switchyard. Estos avances están diseñados para satisfacer la creciente demanda de agentes autónomos más inteligentes y eficientes en múltiples plataformas, desde PCs hasta centros de datos y la nube.
El Nemotron 3.5 Lightning, con sus 30 mil millones de parámetros, es el modelo de mayor eficiencia en su clase para cargas de trabajo de IA agentica de larga duración. Este modelo es parte de la familia Nemotron 3 y sigue al Nemotron 3 Nano, reflejando el compromiso de NVIDIA de mejorar continuamente los modelos abiertos para lograr mayor precisión y velocidad.
Por otro lado, NeMo Switchyard es una biblioteca de enrutamiento inteligente que permite a las empresas construir routers basados en sus necesidades específicas. Esto facilita la dirección inteligente de cada solicitud al modelo más adecuado, sin necesidad de reescribir aplicaciones, lo que optimiza el uso de modelos abiertos, propietarios y de NVIDIA.
Juntos, Nemotron 3.5 Lightning y NeMo Switchyard ofrecen un control sin precedentes sobre cómo se despliega la IA, dónde se ejecuta y cuán eficientemente opera. Esto es especialmente relevante en sistemas agenticos modernos, donde los agentes siempre activos operan como sistemas de modelos especializados para diferentes tareas.
Empresas líderes en diversas industrias ya están personalizando Nemotron 3.5 Lightning para sus cargas de trabajo, mejorando la precisión en tareas agenticas específicas. Además, el modelo permite a las organizaciones controlar la privacidad y el despliegue, pudiendo ejecutarse en sistemas locales de IA o escalarse en dispositivos de borde, estaciones de trabajo y entornos en la nube.
Con cada lanzamiento de Nemotron, NVIDIA publica la mayor cantidad posible de datos de entrenamiento y técnicas, permitiendo la trazabilidad y auditoría de otros modelos. Esto, junto con el conjunto de datos de refuerzo agentico Nemotron-RL-Agentic-Terminal-Pivot, permite una mejora continua de las capacidades de los agentes de codificación.
NeMo Switchyard, por su parte, ofrece un enrutamiento de modelos más eficiente para aplicaciones de IA, manteniendo la precisión de vanguardia mientras reduce los costos de finalización de tareas. Esto permite a los desarrolladores crear agentes de IA poderosos con mejoras en la eficiencia y la economía de tokens.
Fuente: https://blogs.nvidia.com/blog/nemotron-lightning-switchyard-rtx-dgx/