Modelos y configuración
Modelos locales (Ollama)
Cómo ejecutar modelos de visión y de texto en tu equipo, en un servidor Ollama remoto o en tu propio servidor GPU, y qué hardware necesitas de verdad.
Los modelos locales se ejecutan por completo en tu ordenador a través de Ollama, así que tus imágenes nunca salen del dispositivo. Son una buena opción para la privacidad, pero conviene ser realista con el hardware: lee los requisitos antes de empezar.
Guía de hardware (orientativa)
| Equipo | Qué esperar |
|---|---|
| 32 GB o más de memoria unificada, o una GPU con unos 16 GB o más de VRAM | Recomendado: buena calidad y velocidad razonable con modelos de visión de tamaño medio. |
| 16 GB de RAM / unos 8 GB de VRAM o menos | Experimental: solo modelos pequeños; más lento y menos preciso. |
| Solo CPU | No recomendado: muy lento. |
Lo que necesitas en realidad depende del modelo. Esto es solo una referencia aproximada.
1. Instala Ollama
- 1Descarga el instalador para macOS o Windows desde ollama.com/download y ejecútalo.
- 2Abre una terminal y ejecuta
ollama --versionpara comprobar que funciona. - 3Ollama ejecuta en segundo plano un servidor local en
http://localhost:11434; ese es el endpoint al que se conecta mysnipbox.
2. Elegir y descargar modelos
mysnipbox usa dos tipos de modelo con funciones distintas, que puedes configurar por separado:
- Modelo de visión: mira la imagen y la describe. Es el que más memoria necesita. Elige uno de la lista verificada de abajo.
- Modelo de texto: se encarga de traducir etiquetas y de los embeddings (coincidencia de etiquetas). Es mucho más ligero. Elige el de traducción en la segunda lista; para embeddings sirve
nomic-embed-text.
Modelos de visión verificados
Estos cuatro modelos de visión son los que vienen en el selector de modelos de la app.
| Modelo | Tamaño | Memoria mínima recomendada | Características y uso | Comando de Ollama |
|---|---|---|---|---|
| Moondream | ~2.0 GB | 8GB RAM | Ultraligero. Extrae etiquetas rápido en equipos modestos. | ollama run moondream |
| Qwen2.5-VL 3B | ~3.2 GB | 8GB RAM / VRAM | Modelo de visión ligero pensado para portátiles de uso diario. | ollama run qwen2.5vl:3b |
| MiniCPM-V 2.6 (8B) | ~5.5 GB | 16GB+ RAM | Recomendado: el mejor equilibrio entre velocidad y calidad de análisis. | ollama run minicpm-v:latest |
| Llama 3.2 Vision (11B) | ~7.9 GB+ | 24GB~32GB+ RAM | Análisis profundo y de alta calidad para equipos con mucha memoria. | ollama run llama3.2-vision |
Modelos para traducir etiquetas
Para traducir etiquetas en local basta un modelo de texto pequeño. Elige según los idiomas que necesites:
| Modelo | Tamaño | Memoria mínima recomendada | Características y uso | Comando de Ollama |
|---|---|---|---|---|
| Qwen2.5 (3B) | ~2.0 GB | 8GB RAM | Ideal para coreano, chino y japonés. Conserva muy bien el vocabulario asiático y traduce las etiquetas muy rápido. | ollama run qwen2.5:3b |
| Llama 3.2 (3B) | ~2.0 GB | 8GB RAM | Ideal para inglés e idiomas europeos. Perfecto para etiquetas en español, portugués y otros idiomas occidentales. | ollama run llama3.2:3b |
| Gemma 2 (2B) | ~1.6 GB | 8GB RAM | Ultraligero para equipos modestos. Usa poca memoria, así que es fácil ejecutarlo junto a un modelo de visión. | ollama run gemma2:2b |
3. Conéctalo a mysnipbox
- 1Comprueba que Ollama esté en ejecución (el icono de la barra de menús/bandeja, o
ollama serve). - 2En mysnipbox, abre Ajustes y elige Ollama como proveedor.
- 3Deja el endpoint predeterminado
http://localhost:11434y selecciona tu modelo de visión y tu modelo de texto. - 4Prueba con una imagen. La primera solicitud tarda más mientras el modelo se carga en memoria.
Conectar a un servidor Ollama remoto
Ollama no tiene por qué ejecutarse en el mismo equipo. Puedes usar un PC potente de tu red doméstica, un servidor casero o una GPU en la nube (por ejemplo RunPod).
- 1En mysnipbox, abre Settings y elige Ollama como proveedor.
- 2Cambia el
Base URLdehttp://localhost:11434por la dirección de tu servidor:http://<IP-del-servidor>:11434. - 3En el servidor, permite las conexiones externas antes de iniciar Ollama (mira las variables de abajo) y descarga allí los modelos.
OLLAMA_HOST=0.0.0.0 OLLAMA_ORIGINS="*" ollama serveOLLAMA_HOST=0.0.0.0 hace que Ollama escuche en todas las interfaces de red, y OLLAMA_ORIGINS="*" deja pasar peticiones de cualquier origen. Si Ollama se ejecuta como app o servicio en segundo plano, define estas variables en el entorno de ese servicio y reinícialo.
Tu propio servidor GPU: Custom (compatible con OpenAI)
Si montas tu propio servidor GPU con vLLM, LMDeploy, LocalAI o cualquier motor compatible con la API de OpenAI, conéctalo con el proveedor Custom.
- 1En mysnipbox, abre Settings y elige Custom (OpenAI-compatible) como proveedor.
- 2Rellena los tres campos de abajo.
- 3Analiza una imagen de prueba para comprobar que el servidor responde.
| Campo | Qué escribir |
|---|---|
| Base URL | La dirección compatible con OpenAI de tu servidor, por ejemplo http://<IP-GPU>:8000/v1. |
| API Key | Solo si tu servidor exige autenticación. Si corre en tu equipo o en una red privada sin autenticación, puedes dejarlo vacío. |
| Model Name | El nombre exacto del modelo de visión que sirve tu servidor, escrito a mano, por ejemplo Qwen/Qwen2.5-VL-7B-Instruct. |
Solución de problemas
- Conexión rechazada: Ollama no está en ejecución. Ábrelo o ejecuta
ollama serve. - Modelo no encontrado: descárgalo antes con
ollama pull <modelo>; el nombre debe coincidir exactamente. - Muy lento o se cuelga: el modelo es demasiado grande para tu memoria. Elige uno más pequeño, cierra otras apps pesadas o usa un proveedor en la nube.
ollama psmuestra qué modelos están cargados y cuánta memoria usan.