DeepSeek-R1 tiene 671.000 millones de parámetros y licencia MIT: técnicamente, cualquiera puede descargarlo hoy mismo. El problema aparece treinta segundos después, cuando el gestor de descargas te enseña el tamaño: unos 670 GB solo de pesos en FP8. Una RTX 4090, una de las tarjetas más potentes del mercado doméstico, tiene 24 GB de VRAM. Ese desencaje numérico, multiplicado por el precio del hardware necesario para resolverlo, resume por qué correr modelos de frontera en local casi nunca sale a cuenta.
El problema no es el cómputo, es la memoria
Los modelos de frontera de esta generación son casi todos mezclas de expertos (MoE). DeepSeek-V3 y DeepSeek-R1 activan unos 37.000 millones de parámetros en cada token, de los 671.000 millones que suman en total. Llama 4 Scout activa 17B de sus 109B totales y Llama 4 Maverick, 17B de 400B. Por token, el gasto de cómputo equivale al de un modelo mediano, y eso explica que generen texto a velocidades razonables en un centro de datos.
La memoria funciona distinto: los pesos completos tienen que estar residentes, los consultes o no. Un experto que no se activa en este turno sigue ocupando su sitio en VRAM. La dispersidad de un MoE ahorra flops, no gigas.
La aritmética lo deja claro. Llama 3.1 405B solo en pesos ocupa unos 810 GB en 16 bits, más de los 640 GB que suman las ocho GPUs de 80 GB de un nodo estándar. DeepSeek publicó su modelo entrenado directamente en FP8 y aun así los pesos rondan los 670 GB.
Antes de mirar benchmarks de rendimiento, la cifra que decide es cuánta memoria residente exige el modelo completo y a qué velocidad puede leerla tu hardware. El cómputo ya no es el cuello de botella en la mayoría de estos sistemas: la memoria sí.
La aritmética de la VRAM: pesos, KV cache y contexto
El cálculo base es sencillo. En FP16, 2 bytes por parámetro; en 8 bits, 1 byte; en 4 bits, unos 0,5 bytes más algo de overhead en embeddings y normalizaciones. Scout, con sus 109B totales, necesita más de 55 GB solo de pesos en 4 bits, de modo que no entra ni en una RTX 5090 de 32 GB. Maverick, en 4 bits, se va a unos 200 GB y queda fuera de cualquier escritorio.
La segunda partida es el KV cache, que crece linealmente con la longitud del contexto. Llama 3 70B, con sus 80 capas y 8 grupos de cabezas KV, gasta en FP16 unos 320 KB por token; con un contexto de 128K son más de 40 GB, más que sus propios pesos cuantizados a 4 bits. Si tu aplicación mantiene conversaciones largas o atiende varios usuarios en paralelo, el cache puede llegar a pesar más que el modelo.
Meta presumió de que Scout soporta 10 millones de tokens de contexto. Ese número es de exhibición y se sirve desde infraestructura de centro de datos; en una estación de trabajo el techo práctico llega mucho antes, porque cada token adicional de contexto cuesta memoria permanente durante toda la sesión.
Cuando compares configuraciones, calcula pesos más KV cache con tus longitudes reales de uso, no con los 4.096 tokens de un benchmark de demostración. Si quieres ver qué modelos encajan en una GPU concreta según estos criterios, publicamos una guía de modelos LLM para local que recorre rangos de VRAM y casos de uso.
Llama 4 y DeepSeek: el precio de la puerta de entrada
El suelo de hardware lo marcan los propios creadores de los modelos. En el anuncio de abril de 2025, Meta dejó claro que Scout cabe en una única H100 de 80 GB con Int4 y que Maverick también entra en una sola H100 con Int4, aunque a BF16 necesita un host de ocho H100. A precios de mercado, cada H100 ronda los 25.000 o 30.000 dólares, así que Scout con Int4 cuesta el precio de un coche y un nodo Maverick a BF16 se acerca al cuarto de millón.
DeepSeek-R1, por su parte, se despliega cómodamente en nodos de ocho GPUs H200 de 141 GB de HBM3e. La vía casera conocida es la cuantización dinámica de 1,58 bits que publicó Unsloth, que deja R1 en unos 131 GB y la hace ejecutable con unos 200 GB combinando VRAM y RAM. Según las pruebas del propio Unsloth, el modelo se mantiene funcional a ese tamaño, pero sigues necesitando una máquina de servidor, no un equipo de escritorio.
La alternativa sin compra es el alquiler por horas. En clouds especializados como Lambda o RunPod, una H100 se alquila por en torno a 2 o 3 dólares la hora; un mes a jornada completa son, redondeando, unos 1.800 dólares. El hardware propio gana esa partida solo si mantienes las GPUs saturadas, y mantener ocho GPUs saturadas se llama literalmente operar un pequeño centro de datos.
El patrón es consistente: la frontera es viable por horas o por tokens facturados, no como electrodoméstico. Quien compra hardware para modelos de frontera está comprando un datacenter pequeño, con todos los costes que eso implica.
Cuantizar para caber: el peaje real
En modelos densos de entre 7 y 70B, bajar a 4 bits (Q4_K_M en GGUF, o las variantes AWQ y GPTQ) apenas cuesta calidad en tareas generales, y es lo que permite que un 8B corra en un portátil de 16 GB. En ese rango la cuantización es ganancia neta y de hecho sostiene casi todo el ecosistema local actual: Ollama, llama.cpp y LM Studio funcionan a esas profundidades.
Por debajo de 4 bits el terreno se ensucia. Los cuants de 3 y 2 bits degradan de forma visible, y en los MoE gigantes el margen es más fino todavía, porque cada experto se consulta pocas veces y el ruido de la cuantización no se compensa a lo largo de la inferencia. La idea de Unsloth precisamente atiende a eso: conservar más bits en atención y en los expertos compartidos, y apretar solo en los expertos enrutados, que son la mayoría del fichero.
Los modelos de razonamiento largo añaden otro efecto desagradable. R1 genera cadenas de miles de tokens antes de dar la respuesta, y cada token se condiciona en todos los anteriores, de modo que un pequeño sesgo introducido por bits poco precisos puede desviar toda la cadena. Cuanto más larga la derivación, más caro es el error inicial.
La escapatoria sensata son los destilados. DeepSeek publicó en enero de 2025 seis versiones de R1, basadas en Qwen de 1,5B a 32B y en Llama de 8B a 70B. El Distill-Qwen-32B en 4 bits ocupa unos 20 GB, entra en una única 4090 o 5090 y conserva buena parte del estilo de razonamiento del original. La regla práctica: si necesitas cuantizar a 2 bits para que quepa el gigante, el problema no es tu cuantizador, es que elegiste el modelo equivocado para tu hardware.
La factura completa: hardware, luz y obsolescencia
La electricidad suma rápido. Un equipo con dos GPUs de gama alta consume en torno a 1 kW en carga; a 0,20 euros por kWh y uso continuado, la luz son unos 145 euros al mes antes de contar refrigeración o el precio del silencio en tu despacho. La amortización pesa más: 300.000 dólares de nodo repartidos a tres años son unos 270 dólares diarios, pasen los días con carga o sin ella.
Mientras tanto, la API de frontera se ha abaratado de forma continua. GPT-4o cuesta 2,50 dólares por millón de tokens de entrada y 10 de salida; o1, 15 y 60; los Sonnet de Anthropic, 3 y 15; y DeepSeek publicó para R1 tarifas de 0,55 y 2,19 dólares respectivamente, con descuentos fuertes en entrada cacheada. Con precios como los de R1, unas decenas de millones de tokens al mes facturan decenas de dólares, una cifra contra la que cualquier hardware casero pierde por goleada si el criterio es la cuenta de resultados.
Existe la vía elegante de Apple: el Mac Studio con el M3 Ultra llega hasta 192 GB de memoria unificada con 819 GB/s de ancho de banda, suficiente para cargar R1 con cuantización baja a velocidad de chat. La configuración con la memoria al máximo ronda los 9.500 dólares. Es el mejor "escritorio capaz de lo imposible", y aun así compite contra un VPS barato más una API que factura centavos.
Queda la obsolescencia, que en este ciclo corre por semestres. R1 abrumó a todos en enero de 2025 y en abril llegó Llama 4 con arquitectura nueva; el peso específico de un modelo frontera se diluye rápido. El hardware que compras hoy lo amortizarás lejos de la frontera, ese es su destino natural.
El hardware local casi nunca gana en precio frente a la API de frontera; gana en otras ligas, como la privacidad, la latencia controlada o la disponibilidad sin conexión. Si compras, que sea por una de esas razones, porque la razón económica ya está resuelta en tu contra.
Lo que sí sale a cuenta en local
Entre los 16 y los 48 GB de VRAM hay vida excelente. Llama 3.1 8B, Qwen2.5 en sus tamaños de 14 a 32B, Mistral Small (24B) y los destilados de R1 cubren con holgura extracción de datos, resumen, redacción técnica, clasificación y razonamiento cotidiano en cuants de 4 bits. Ahí la compra sí se paga sola, sobre todo si la máquina ya estaba amortizada.
Si tu motivación es la confidencialidad y el conocimiento propio, la respuesta tampoco pasa por un 671B en el armario, sino por un modelo mediano atado a tus documentos. Un RAG privado con un 32B que nunca sale de tu red da más valor por euro que el mayor de los modelos corriendo a 2 bits. Desarrollamos el caso completo para despachos y consultoras en este artículo sobre IA vertical local y RAG privado.
Para un servicio permanente y ligero, un VPS modesto con Ollama y un modelo pequeño atiende bots y asistentes por céntimos al mes. El patrón que se repite en todos los despliegues que compensan: el modelo es el más pequeño que resuelve la tarea, nunca el mayor que cabe en tu presupuesto.
Cómo decidir sin quemar presupuesto
La regla de decisión cabe en dos líneas. Si la tarea la resuelve con calidad un modelo de hasta 32B cuantizado a 4 bits, lo local gana: coste marginal casi nulo, datos en casa, cero facturas variables. Si la tarea exige realmente frontera, la API o el alquiler por horas ganan en el 99 % de los casos, y el híbrido (sensible en local, frontera en la nube, con las rutas explícitas) es el diseño por defecto.
Para decidir con datos, haz esta prueba en una tarde. Coge los 50 prompts reales que hoy mandas a la API, pásalos por un Distill-Qwen-32B o un Qwen2.5-32B en Q4 con Ollama en tu GPU, y anota tokens por segundo, aciertos que puedas juzgar tú y consumo medido. Repite los mismos 50 contra el modelo frontera que uses y anota la factura proyectada a mes completo con tu volumen real.
Con esas dos columnas sobre la mesa, el resultado tiende a ser incómodo pero claro: la diferencia de calidad rara vez paga la diferencia de coste, y cuando la paga, conviene más alquilar una H100 unos días que comprarla. Local brilla donde sus condiciones se cumplen, y la frontera brilla precisamente donde el precio está en función del uso.