Sopa™Guía
¿Cuánta VRAM necesito para una IA local?
La memoria de tu gráfica decide qué modelos van bien. Estas son las cifras que usa Sopa.
Por Miguel Rodríguez Saiz, creador de Sopa
La VRAM es la memoria de tu tarjeta gráfica. Para una IA local es lo que más pesa: si el modelo cabe entero en ella, irá con fluidez.
Cómo calcula Sopa lo que necesita cada modelo
- Para conversar: el tamaño del modelo descargado más unos 0,6 GB para el contexto. Si lo hemos medido, usamos la medida real con un 10 % de margen.
- Para entrenar: unos 0,8 GB por cada mil millones de parámetros más 1,6 GB fijos. Si lo hemos medido, la medida real con un 10 % de margen.
| Modelo | Licencia | Para conversar | Para entrenar | En una GTX 1650 de 4 GB |
|---|---|---|---|---|
| Qwen2.5 0.5B Instruct | Apache-2.0 | 1,06 GB | 1,32 GB | Con fluidez |
| Qwen3.5 0.8B | Apache-2.0 | 0,7 GB | Solo chat | Con fluidez |
| Qwen2.5 1.5B Instruct | Apache-2.0 | 1,38 GB | 2,6 GB | Con fluidez |
| Qwen3.5 2B | Apache-2.0 | 1,49 GB | Solo chat | Con fluidez |
| Granite 3.3 2B | Apache-2.0 | 2,07 GB | Solo chat | Con fluidez |
| Phi-4 mini Instruct | MIT | 2,92 GB | 4,64 GB | Con fluidez |
| Qwen3 4B | Apache-2.0 | 3,07 GB | 4,8 GB | Con fluidez |
| Qwen3.5 4B | Apache-2.0 | 3,03 GB | Solo chat | Con fluidez |
| Qwen2.5 7B Instruct | Apache-2.0 | 4,96 GB | Solo chat | Repartido |
| DeepSeek-R1 Distill Qwen 7B | MIT | 4,96 GB | Solo chat | Equipo potente |
| Qwen2.5 Coder 7B | Apache-2.0 | 4,96 GB | Solo chat | Equipo potente |
| Gemma 4 E4B | Apache-2.0 | 3,11 GB | Solo chat | Con fluidez |
| Granite 3.3 8B | Apache-2.0 | 5,2 GB | Solo chat | Equipo potente |
| Qwen3 8B | Apache-2.0 | 5,28 GB | Solo chat | Repartido |
| IBM Granite 3.1 8B Instruct | Apache-2.0 | 5,2 GB | Solo chat | Equipo potente |
| Qwen3.5 9B | Apache-2.0 | 5,84 GB | Solo chat | Equipo potente |
| DeepSeek-R1 Distill Qwen 14B | MIT | 8,97 GB | Solo chat | Equipo potente |
| Qwen2.5 Coder 14B | Apache-2.0 | 8,97 GB | Solo chat | Equipo potente |
| OpenAI gpt-oss 20B | Apache-2.0 | 11,88 GB | Solo chat | Equipo potente |
| Mistral Small 3.2 24B | Apache-2.0 | 13,95 GB | Solo chat | Equipo potente |
| Qwen3 Coder 30B-A3B | Apache-2.0 | 17,95 GB | Solo chat | Equipo potente |
| DeepSeek-R1 Distill Qwen 32B | MIT | 19,09 GB | Solo chat | Equipo potente |
«Solo chat»: ese modelo se ofrece solo para conversar. La última columna es para un equipo con 16 GB de RAM. Aquí solo aparecen modelos con licencia Apache 2.0 o MIT; el resto del catálogo, con su aviso de licencia, lo muestra la app antes de descargar. El simulador es un recorrido por la interfaz, con respuestas de ejemplo, y no calcula qué cabe en tu equipo.
¿Y si no cabe entero?
- Con una gráfica NVIDIA de al menos 2 GB y RAM suficiente, el modelo se reparte entre la gráfica y la memoria del ordenador: funciona, algo más lento.
- Sin gráfica NVIDIA, puede funcionar en el procesador si tienes al menos 2 GB de RAM por encima de lo que pide el modelo. Irá más lento.
- Si no cabe, o si repartido iría muy lento, Sopa lo marca como «Equipo potente». Muy lento quiere decir por debajo de 5 tokens por segundo cuando lo hemos medido. Sin medida, cuando necesita más de 1,2 veces la memoria de tu gráfica.
- Para usar la gráfica, el driver NVIDIA debe ser el 560 o superior.
Qwen2.5 7B (IQ3_XS) es aparte: va solo en el procesador, con el proceso dentro de 4 GiB de memoria, y no usa la gráfica. Es lento y solo sirve para chatear. Medido en un portátil de 16 GB con el proceso limitado a 4 GiB: 2,5 tokens por segundo y un máximo de 3,41 GiB. No vale para un equipo con 4 GB de RAM en total.
Una referencia real
En un portátil con una GTX 1650 de 4 GB, Sopa conversa a 133 tokens por segundo con un modelo de 0.5B, a unos 59 con Qwen3.5 2B y a unos 18 con Phi-4 mini. Los de 7 a 9B van por debajo de 5 (entre 2,3 y 4,4).
Recorre la interfaz en el simulador
Orientativo. Sopa comprueba tu equipo real al instalarla.
Fuentes
- Medidas propias de Sopa en un portátil MSI con GTX 1650 Max-Q de 4 GB (driver 617.42): velocidad de conversación y memoria máxima de la gráfica medida con
nvidia-smi. - Catálogo de modelos y lógica de compatibilidad de la app. El simulador ya no hace esa cuenta: es un recorrido por la interfaz, con respuestas de ejemplo.
- Licencias: las indicadas por cada autor en la ficha de su modelo.