Microsoft ha realizado una demostración significativa de las capacidades de los nuevos portátiles equipados con NVIDIA RTX Spark. Durante la presentación del Surface Laptop Ultra, Pavan Davuluri, vicepresidente ejecutivo de Windows y dispositivos, mostró la ejecución local de DeepSeek-V4-Flash, un modelo de lenguaje con 284.000 millones de parámetros, utilizando aproximadamente 60 GB de memoria.
Este avance es posible gracias a una técnica de cuantización de 1,6 bits, que reduce drásticamente el espacio de memoria requerido para almacenar los parámetros del modelo. La posibilidad de correr un modelo de esta magnitud en un dispositivo portátil con hasta 128 GB de memoria unificada representa un hito importante para la inteligencia artificial local, aunque aún quedan por conocer detalles cruciales sobre la velocidad de inferencia, la longitud efectiva del contexto y la calidad de las respuestas generadas.
DeepSeek-V4-Flash: Un modelo de mezcla de expertos
El modelo seleccionado por Microsoft para esta demostración es DeepSeek-V4-Flash, una arquitectura de mezcla de expertos (MoE) desarrollada por DeepSeek. A pesar de contar con 284.000 millones de parámetros totales, solo activa alrededor de 13.000 millones durante el procesamiento de cada token. Esta activación selectiva de expertos es clave para optimizar las operaciones de inferencia, ya que reduce la carga computacional en comparación con un modelo denso de tamaño similar. Es importante destacar que los parámetros inactivos no desaparecen de la memoria, ya que pueden ser necesarios en pasos posteriores.
Cabe aclarar que DeepSeek-V4-Flash no debe confundirse con DeepSeek-V4.1-Flash, una versión posterior con una arquitectura diferente y 552.000 millones de parámetros. Las cifras presentadas por Microsoft se refieren específicamente al modelo original de 284.000 millones.
La cuantización de 1,6 bits: clave para la eficiencia
La innovación técnica principal reside en la cuantización de 1,6 bits aplicada a DeepSeek-V4-Flash. Este método reduce la precisión utilizada para representar los parámetros del modelo, disminuyendo significativamente la memoria necesaria en comparación con formatos más comunes como FP16, que requerirían una capacidad mucho mayor. Teóricamente, 284.000 millones de parámetros representados con 1,6 bits ocuparían aproximadamente 56,8 GB, una cifra muy cercana a los 60 GB comunicados por Microsoft.
Esta compresión permite que un modelo de tamaño extraordinario pueda residir en la memoria de un único portátil, eliminando la necesidad de distribuir sus parámetros entre múltiples GPU dedicadas. Sin embargo, el uso de precisiones tan bajas podría introducir pérdidas de calidad que deberán ser evaluadas mediante pruebas exhaustivas de razonamiento, programación y seguimiento de instrucciones. Además, los 60 GB no representan el consumo total de memoria durante una sesión de inferencia, ya que el sistema también necesita reservar espacio para la caché KV, operaciones intermedias y otros recursos.
El potencial de los Surface Laptop Ultra con 128 GB
Las configuraciones superiores del Surface Laptop Ultra incorporan 128 GB de memoria LPDDR5X unificada, compartida entre la CPU Grace y la GPU Blackwell. Esta arquitectura es fundamental, ya que permite asignar una porción considerable de la memoria disponible a las cargas de IA, superando las limitaciones de memoria gráfica de muchas tarjetas dedicadas convencionales. Microsoft y NVIDIA también han desarrollado nuevas opciones en Windows 11 para gestionar la memoria destinada a la GPU en equipos RTX Spark, facilitando su asignación sin recurrir a cambios en la BIOS. En las configuraciones de 128 GB, NVIDIA prevé dedicar hasta 111 GB a la GPU, dejando el resto para el sistema y otras aplicaciones.
Este amplio margen de memoria es crucial, ya que las configuraciones RTX Spark de 24 o 32 GB no tendrían la capacidad suficiente para mantener íntegramente DeepSeek-V4-Flash en la memoria gráfica. La plataforma también ha sido anunciada con la capacidad de ejecutar modelos de 120.000 millones de parámetros y ventanas de contexto de hasta un millón de tokens, aunque esta cifra corresponde a otros escenarios y no implica que DeepSeek-V4-Flash pueda aprovechar automáticamente un millón de tokens de contexto dentro de los 128 GB disponibles.
IA local frente a la nube: un cambio de paradigma
La capacidad de ejecutar modelos de cientos de miles de millones de parámetros directamente en un portátil abre nuevas oportunidades para desarrolladores y empresas que manejan código, documentación privada o información sensible. Mantener los datos localmente puede reducir la dependencia de servicios externos y mejorar la privacidad, aunque esta última también dependerá del software y las conexiones utilizadas por cada aplicación.
Microsoft busca integrar estas capacidades en su estrategia de inteligencia híbrida para Windows 11, combinando modelos locales y servicios en la nube según la complejidad de cada tarea. Las operaciones más sencillas podrían ejecutarse en el propio equipo, mientras que las que requieran mayor capacidad seguirían utilizando infraestructura remota. Este anuncio refuerza el posicionamiento de RTX Spark como una plataforma robusta para la IA local, aprovechando la aceleración CUDA y las grandes cantidades de memoria unificada. Los primeros portátiles RTX Spark estarán disponibles a partir del 16 de octubre, momento en el que se podrá verificar la velocidad real, la precisión del modelo cuantizado y el contexto máximo utilizable.
