En un reciente evento conjunto de Microsoft y Nvidia en San Francisco, el CEO de Microsoft, Sadya Nadella, presentó una visión ambiciosa: «Nuestro objetivo es llevar inteligencia sin límites a cada hogar y a cada escritorio con Windows». Esta declaración fue parte de un discurso más amplio sobre el futuro de la inteligencia artificial (IA) y su integración en la vida cotidiana a través de lo que Microsoft denomina «inteligencia híbrida».
La inteligencia híbrida, según explicó Pavan Davuluri, directivo de Microsoft, es un enfoque que combina modelos de IA locales y en la nube, ofreciendo lo mejor de ambos mundos. «Nos dirigimos a un futuro en el que la inteligencia híbrida siempre está disponible. Ejecutándose en local cuando tiene sentido, accediendo a la nube si lo necesita», afirmó Davuluri.
Durante el evento, Kayla Cinnamon, otra directiva de Microsoft, realizó una demostración con GitHub Copilot y un nuevo enrutador inteligente de modelos. En esta demo, se mostró cómo ciertas tareas usaban tokens «de pago», pero también se generaban tokens «gratis» gracias a los modelos locales. Cinnamon destacó que estos tokens generados localmente tienen un costo ínfimo, principalmente el de la energía consumida por el equipo.
Sin embargo, la promesa de «tokens gratis» es engañosa. Para aprovechar los modelos de IA locales, es necesario contar con un PC capaz de manejarlos, y estos dispositivos no son económicos. El nuevo Microsoft Surface Laptop Ultra, equipado con los chips Nvidia RTX Spark, es un ejemplo de ello. Este portátil, necesario para ejecutar modelos locales, tiene un precio base de 2.599 dólares, un costo que puede aumentar a 3.299 dólares si se opta por más memoria.
Comparativamente, un MacBook Pro con un M5 Pro y 48 GB de memoria unificada tiene un precio similar al Surface Laptop Ultra de 32 GB. Ambos dispositivos ofrecen capacidades para modelos de IA locales, aunque el soporte nativo de CUDA en los chips RTX Spark de Microsoft podría ser un factor decisivo para algunos usuarios.
A pesar de las promesas de Microsoft, los «tokens gratis» no son realmente gratuitos, ya que requieren una inversión inicial significativa en hardware. Este costo es comparable a muchos meses de suscripción a servicios como ChatGPT Plus o Claude Pro, que ofrecen acceso a modelos de IA en la nube.