DeepSeek en el PC de sobremesa, sin nube: AMD Gorgon Halo ejecuta modelos de hasta 345.000 millones de parámetros

La nube para cientos de miles de millones de parámetros por primera vez empieza a caber en una caja sobre la mesa. Los primeros mini-PC en la plataforma AMD Gorgon Halo han recibido hasta 192 GB de memoria compartida y pueden ejecutar localmente modelos de lenguaje de 4 bits con más de 300 mil millones de parámetros. The Register estima el límite práctico bajo Linux en aproximadamente 345 mil millones de parámetros, y bajo Windows en 320 mil millones.

Se trata de los Ryzen AI Max PRO 400, una evolución de la plataforma Strix Halo. El tope de gama Ryzen AI Max+ PRO 495 reúne 16 núcleos Zen 5, gráficos integrados Radeon 8065S con 40 unidades de cómputo y un neuroprocesador con rendimiento de hasta 55 TOPS. La serie ofrece hasta 192 GB de memoria LPDDR5X, mientras que los sistemas anteriores Ryzen AI Halo se limitaban a 128 GB.

El gran volumen de memoria compartida cambia el escenario de la IA local más que el pequeño aumento de frecuencias. Con cuantización a 4 bits, los pesos ocupan mucha menos memoria, por lo que el sistema puede alojar modelos que antes requerían aceleradores de servidor. AMD confirmó que la serie puede ejecutar modelos de más de 300 mil millones de parámetros sin transferir los cálculos a la nube.

Con DeepSeek las cifras son algo más modestas que el límite de 345 mil millones. DeepSeek V4 Flash contiene 284 mil millones de parámetros, por lo que entra en la memoria de Gorgon Halo con margen. El modelo está construido con una arquitectura de mezcla de expertos y activa para cada consulta solo una parte de los bloques, pero el conjunto completo de pesos aún debe almacenarse en memoria durante la ejecución.

Linux obtiene ventaja gracias al acceso más libre al pool de memoria compartida. El sistema puede usar casi todo el volumen disponible y acercarse a un modelo de 345 mil millones de parámetros. En Windows, a los gráficos integrados se les permite asignar hasta 160 GB, por lo que el techo estimado disminuye a aproximadamente 320 mil millones. GMKtec afirma explícitamente el soporte de modelos de lenguaje (LLM) locales de esa escala.

La velocidad de LPDDR5X aumentó de 8000 a 8533 MT/s, y el ancho de banda alcanza aproximadamente 273 GB/s frente a 256 GB/s en Strix Halo. Para modelos generativos este parámetro es especialmente sensible, ya que la inferencia a menudo está limitada por la velocidad de lectura de los pesos desde la memoria. La diferencia es de alrededor del 6,5%, por lo que no cabe esperar una aceleración multiplicada con la nueva generación.

Uno de los primeros equipos listos fue el GMKtec EVO-X5 Pro con Ryzen AI Max+ PRO 495, 192 GB LPDDR5X-8533 y un SSD de 2 TB. Al momento de la comprobación el fabricante ofrecía la configuración por $6599 en lugar de los habituales $6799. La memoria está soldada y no es ampliable, pero la carcasa alberga tres unidades NVMe y el procesador puede operar con un límite de potencia sostenido de hasta 120 W.

El precio muestra cuán relativa sigue siendo por ahora la definición de ordenador doméstico. Hace un año los mini-PC con Strix Halo y 128 GB de memoria costaban aproximadamente $2000–3000, mientras que los sistemas con 192 GB pasaron a otra categoría de precios. Una de las razones fue la costosa LPDDR5X, cuya demanda aumentó bruscamente junto con la infraestructura de IA, y la escasez de memoria podría persistir varios años más.

El cambio principal no está en la cifra récord de parámetros, sino en el volumen de tareas que ahora se pueden mantener completamente de forma local. Los desarrolladores obtienen una máquina compacta para modelos abiertos de gran tamaño, documentos confidenciales y agentes de IA sin enviar constantemente datos a un servicio externo. Sin embargo, Gorgon Halo sigue siendo por ahora una estación de trabajo cara en formato mini-PC, y no un ordenador doméstico masivo.