Guía
Cómo elegir un modelo según tu ordenador
No hace falta adivinar. Sopa mira tu equipo y te dice qué modelos van bien, y por qué elige uno.
Por Miguel Rodríguez Saiz, creador de Sopa
Sopa mira tu equipo
El catálogo tiene 32 modelos. Cada uno tiene una especialidad: charlar, razonar, programar, ir rápido o leer documentos. Sopa detecta tu ordenador y marca cada modelo como verificado, estimado o no soportado. Te recomienda los que van bien en tu equipo.
Si un modelo no cabe entero en la gráfica, Sopa reparte el trabajo con la memoria del ordenador. Los que aquí irían muy lentos los marca como «Equipo potente». Antes de descargar, te muestra las condiciones de la licencia de ese modelo. En la portada se destacan algunos con licencia Apache 2.0 o MIT; el resto tiene las condiciones de su autor.
Lo que más pesa: la memoria de la gráfica
Para conversar, Sopa cuenta el tamaño del modelo descargado más unos 0,6 GB de contexto. Si ese modelo ya se midió, usa la medida real con un 10 % de margen. Para entrenar, la cuenta es otra: unos 0,8 GB por cada mil millones de parámetros, más 1,6 GB fijos, o la medida real con el mismo margen.
- Con una gráfica NVIDIA de al menos 2 GB y RAM suficiente, el modelo se reparte entre la gráfica y la memoria del ordenador. Funciona, algo más lento.
- Sin gráfica NVIDIA, puede ir en el procesador si tienes al menos 2 GB de RAM por encima de lo que pide el modelo. Irá más lento.
- «Equipo potente» quiere decir, si hay una medida, por debajo de 5 tokens por segundo. Sin medida, cuando necesita más de 1,2 veces la memoria de tu gráfica.
- Para usar la gráfica, el driver NVIDIA debe ser el 560 o superior.
La tabla modelo por modelo está en la guía ¿Cuánta VRAM necesito?. El simulador es un recorrido por la interfaz, con respuestas de ejemplo: no calcula velocidades ni qué modelo cabe en tu equipo.
Una referencia medida
En un portátil con una GTX 1650 de 4 GB, Sopa conversa a 133 tokens por segundo con un modelo de 0.5B, a unos 59 con Qwen3.5 2B y a unos 18 con Phi-4 mini. Los de 7 a 9B, en esa gráfica, van por debajo de 5 (entre 2,3 y 4,4): quedan como «Equipo potente».
Qwen2.5 7B (IQ3_XS) es un caso aparte. Va solo en el procesador, con el proceso dentro de 4 GiB de memoria, y no usa la gráfica. Medido en un portátil de 16 GB con el proceso limitado a 4 GiB: 2,5 tokens por segundo y un máximo de 3,41 GiB. No vale para un equipo con 4 GB de RAM en total. Qué significa IQ3_XS está en qué es la cuantización.
Tú le dices para qué
No hace falta que elijas el modelo a mano. Sopa te dice cuál usará y por qué, y lo carga sola al enviar. Si quieres, dile para qué lo quieres: charlar, razonar, programar o ir rápido.
Recorre la interfaz en el simulador
Orientativo. Sopa comprueba tu equipo real al instalarla.
Fuentes
- Portada de Sopa: detección del equipo, las tres marcas, el reparto con la memoria, «Equipo potente», las 32 especialidades y las velocidades en la GTX 1650 de 4 GB.
- Guía de VRAM: las cuentas de memoria, el margen del 10 %, el umbral de 5 tokens por segundo, el driver 560 y el caso IQ3_XS.
- Guía de Windows sin programar: Sopa elige el modelo al enviar y acepta charlar, razonar, programar o ir rápido.
- Medidas propias de Sopa en un portátil MSI con GTX 1650 Max-Q de 4 GB (driver 617.42), con
nvidia-smi.