Guía

Cómo elegir un modelo según tu ordenador

No hace falta adivinar. Sopa mira tu equipo y te dice qué modelos van bien, y por qué elige uno.

Por Miguel Rodríguez Saiz, creador de Sopa

Sopa mira tu equipo

El catálogo tiene 32 modelos. Cada uno tiene una especialidad: charlar, razonar, programar, ir rápido o leer documentos. Sopa detecta tu ordenador y marca cada modelo como verificado, estimado o no soportado. Te recomienda los que van bien en tu equipo.

Si un modelo no cabe entero en la gráfica, Sopa reparte el trabajo con la memoria del ordenador. Los que aquí irían muy lentos los marca como «Equipo potente». Antes de descargar, te muestra las condiciones de la licencia de ese modelo. En la portada se destacan algunos con licencia Apache 2.0 o MIT; el resto tiene las condiciones de su autor.

Lo que más pesa: la memoria de la gráfica

Para conversar, Sopa cuenta el tamaño del modelo descargado más unos 0,6 GB de contexto. Si ese modelo ya se midió, usa la medida real con un 10 % de margen. Para entrenar, la cuenta es otra: unos 0,8 GB por cada mil millones de parámetros, más 1,6 GB fijos, o la medida real con el mismo margen.

La tabla modelo por modelo está en la guía ¿Cuánta VRAM necesito?. El simulador es un recorrido por la interfaz, con respuestas de ejemplo: no calcula velocidades ni qué modelo cabe en tu equipo.

Una referencia medida

En un portátil con una GTX 1650 de 4 GB, Sopa conversa a 133 tokens por segundo con un modelo de 0.5B, a unos 59 con Qwen3.5 2B y a unos 18 con Phi-4 mini. Los de 7 a 9B, en esa gráfica, van por debajo de 5 (entre 2,3 y 4,4): quedan como «Equipo potente».

Qwen2.5 7B (IQ3_XS) es un caso aparte. Va solo en el procesador, con el proceso dentro de 4 GiB de memoria, y no usa la gráfica. Medido en un portátil de 16 GB con el proceso limitado a 4 GiB: 2,5 tokens por segundo y un máximo de 3,41 GiB. No vale para un equipo con 4 GB de RAM en total. Qué significa IQ3_XS está en qué es la cuantización.

Tú le dices para qué

No hace falta que elijas el modelo a mano. Sopa te dice cuál usará y por qué, y lo carga sola al enviar. Si quieres, dile para qué lo quieres: charlar, razonar, programar o ir rápido.

Recorre la interfaz en el simulador

Orientativo. Sopa comprueba tu equipo real al instalarla.

Fuentes

  • Portada de Sopa: detección del equipo, las tres marcas, el reparto con la memoria, «Equipo potente», las 32 especialidades y las velocidades en la GTX 1650 de 4 GB.
  • Guía de VRAM: las cuentas de memoria, el margen del 10 %, el umbral de 5 tokens por segundo, el driver 560 y el caso IQ3_XS.
  • Guía de Windows sin programar: Sopa elige el modelo al enviar y acepta charlar, razonar, programar o ir rápido.
  • Medidas propias de Sopa en un portátil MSI con GTX 1650 Max-Q de 4 GB (driver 617.42), con nvidia-smi.