mysnipbox

Modelos e configuração

Modelos locais (Ollama)

Como rodar modelos de visão e de texto no seu computador, em um servidor Ollama remoto ou no seu próprio servidor com GPU, e qual hardware você realmente precisa.

Os modelos locais rodam inteiramente no seu computador, via Ollama, então suas imagens nunca saem do dispositivo. É uma ótima opção para privacidade, mas seja realista com o hardware: leia os requisitos abaixo antes de começar.

Guia de hardware (aproximado)

ConfiguraçãoO que esperar
32 GB ou mais de memória unificada, ou uma GPU com cerca de 16 GB ou mais de VRAMRecomendado: boa qualidade e velocidade razoável com modelos de visão de porte médio.
16 GB de RAM / cerca de 8 GB de VRAM ou menosExperimental: apenas modelos pequenos; mais lento e menos preciso.
Somente CPUNão recomendado: muito lento.

O que você realmente precisa depende do modelo. Esta é só uma referência aproximada.

1. Instale o Ollama

  1. 1Baixe o instalador para macOS ou Windows em ollama.com/download e execute-o.
  2. 2Abra um terminal e rode ollama --version para confirmar que está funcionando.
  3. 3O Ollama executa em segundo plano um servidor local em http://localhost:11434; esse é o endpoint ao qual o mysnipbox se conecta.

2. Escolher e baixar modelos

O mysnipbox usa dois tipos de modelo com funções diferentes, que você configura separadamente:

  • Modelo de visão: olha a imagem e a descreve. É o que mais usa memória. Escolha um da lista verificada abaixo.
  • Modelo de texto: cuida da tradução de tags e dos embeddings (correspondência de tags). É bem mais leve. Escolha o de tradução na segunda lista; para embeddings, serve o nomic-embed-text.

Modelos de visão verificados

Estes quatro modelos de visão são os que vêm no seletor de modelos do app.

ModeloTamanhoMemória mínima recomendadaCaracterísticas e usoComando do Ollama
Moondream~2.0 GB8GB RAMUltraleve. Extrai tags rápido em máquinas modestas.ollama run moondream
Qwen2.5-VL 3B~3.2 GB8GB RAM / VRAMModelo de visão leve, ajustado para notebooks do dia a dia.ollama run qwen2.5vl:3b
MiniCPM-V 2.6 (8B)~5.5 GB16GB+ RAMRecomendado: o melhor equilíbrio entre velocidade e qualidade de análise.ollama run minicpm-v:latest
Llama 3.2 Vision (11B)~7.9 GB+24GB~32GB+ RAMAnálise profunda e de alta qualidade para máquinas com muita memória.ollama run llama3.2-vision

Modelos para traduzir tags

Para traduzir tags localmente, um modelo de texto pequeno já basta. Escolha conforme os idiomas de que você precisa:

ModeloTamanhoMemória mínima recomendadaCaracterísticas e usoComando do Ollama
Qwen2.5 (3B)~2.0 GB8GB RAMÓtimo para coreano, chinês e japonês. Preserva muito bem o vocabulário asiático e traduz tags muito rápido.ollama run qwen2.5:3b
Llama 3.2 (3B)~2.0 GB8GB RAMÓtimo para inglês e idiomas europeus. Ideal para tags em espanhol, português e outros idiomas ocidentais.ollama run llama3.2:3b
Gemma 2 (2B)~1.6 GB8GB RAMUltraleve para máquinas modestas. Usa pouca memória, então é fácil rodar junto com um modelo de visão.ollama run gemma2:2b

3. Conecte ao mysnipbox

  1. 1Confirme que o Ollama está em execução (o ícone na barra de menus/bandeja, ou ollama serve).
  2. 2No mysnipbox, abra as Configurações e escolha Ollama como provedor.
  3. 3Mantenha o endpoint padrão http://localhost:11434 e selecione o seu modelo de visão e o seu modelo de texto.
  4. 4Teste com uma imagem. A primeira requisição demora mais enquanto o modelo é carregado na memória.

Conectar a um servidor Ollama remoto

O Ollama não precisa rodar no mesmo computador. Você pode usar um PC potente da sua rede doméstica, um servidor caseiro ou uma GPU na nuvem (por exemplo, RunPod).

  1. 1No mysnipbox, abra Settings e escolha Ollama como provedor.
  2. 2Troque o Base URL de http://localhost:11434 pelo endereço do seu servidor: http://<IP-do-servidor>:11434.
  3. 3No servidor, libere conexões externas antes de iniciar o Ollama (veja as variáveis abaixo) e baixe os modelos lá.
shell (server)
OLLAMA_HOST=0.0.0.0 OLLAMA_ORIGINS="*" ollama serve

OLLAMA_HOST=0.0.0.0 faz o Ollama escutar em todas as interfaces de rede, e OLLAMA_ORIGINS="*" aceita requisições de qualquer origem. Se o Ollama roda como app ou serviço em segundo plano, defina essas variáveis no ambiente desse serviço e reinicie-o.

Seu próprio servidor com GPU: Custom (compatível com OpenAI)

Se você roda seu próprio servidor com GPU usando vLLM, LMDeploy, LocalAI ou qualquer motor compatível com a API da OpenAI, conecte-o pelo provedor Custom.

  1. 1No mysnipbox, abra Settings e escolha Custom (OpenAI-compatible) como provedor.
  2. 2Preencha os três campos abaixo.
  3. 3Analise uma imagem de teste para confirmar que o servidor responde.
CampoO que preencher
Base URLO endereço compatível com OpenAI do seu servidor, por exemplo http://<IP-da-GPU>:8000/v1.
API KeySó se o servidor exigir autenticação. Se ele roda na sua máquina ou numa rede privada sem autenticação, pode deixar vazio.
Model NameO nome exato do modelo de visão que o servidor está servindo, digitado à mão, por exemplo Qwen/Qwen2.5-VL-7B-Instruct.

Solução de problemas

  • Conexão recusada: o Ollama não está em execução. Abra-o ou rode ollama serve.
  • Modelo não encontrado: baixe-o antes com ollama pull <modelo>; o nome precisa ser exatamente igual.
  • Muito lento ou travando: o modelo é grande demais para a sua memória. Escolha um menor, feche outros apps pesados ou use um provedor na nuvem.
  • ollama ps mostra quais modelos estão carregados e quanta memória usam.