mysnipbox

モデルと環境設定

ローカルモデル（Ollama）

自分のPC、リモートのOllamaサーバー、自前のGPUサーバーでビジョン／テキストモデルを動かす方法と、現実的に必要なスペックを紹介します。

ローカルモデルはOllama経由でお使いのPC上だけで動くため、画像がデバイスの外に出ることはありません。プライバシーの面では最適ですが、必要なスペックは決して低くないので、始める前に下記を必ずご確認ください。

スペックの目安

環境期待できる体験
統合メモリ32GB以上、またはVRAM約16GB以上のGPU推奨：中サイズのビジョンモデルで、まずまずの品質と実用的な速度が期待できます。
RAM 16GB／VRAM約8GB以下実験的：小さなモデルのみ。動作は遅く、精度も下がります。
CPUのみ非推奨：非常に遅くなります。

実際に必要なスペックはモデルによって変わります。以下はあくまで大まかな目安です。

1. Ollamaをインストールする

  1. 1ollama.com/downloadからmacOSまたはWindows用のインストーラーをダウンロードして実行します。
  2. 2ターミナルでollama --versionを実行し、正しくインストールされたか確認します。
  3. 3Ollamaはバックグラウンドでhttp://localhost:11434のローカルサーバーを起動します。mysnipboxが接続するのはこのアドレスです。

2. モデルを選んでダウンロード

mysnipboxは役割の違う2種類のモデルを使い、それぞれ個別に指定できます。

  • ビジョンモデル： 画像を見て内容を解析します。最もメモリを使います。下の検証済みリストから選んでください。
  • テキストモデル： タグの翻訳と埋め込み（タグのマッチング）を担当し、ずっと軽量です。翻訳用は2つ目のリストから選び、埋め込みには nomic-embed-text が使えます。

検証済みビジョンモデル

アプリのモデル選択画面に実際に入っているビジョンモデル4種です。

モデル名サイズ推奨メモリ（最小）特長・用途Ollamaコマンド
Moondream~2.0 GB8GB RAM超軽量。低スペックな環境でも素早くタグを抽出できます。ollama run moondream
Qwen2.5-VL 3B~3.2 GB8GB RAM / VRAM普段使いのノートPC向けに最適化された軽量ビジョンモデルです。ollama run qwen2.5vl:3b
MiniCPM-V 2.6 (8B)~5.5 GB16GB+ RAMおすすめ： 速度と解析品質のバランスが最も良いモデルです。ollama run minicpm-v:latest
Llama 3.2 Vision (11B)~7.9 GB+24GB~32GB+ RAMメモリに余裕のある環境向けの、高品質で深い解析モデルです。ollama run llama3.2-vision

タグ翻訳用モデル

タグをローカルで翻訳するなら、軽量なテキストモデルで十分です。必要な言語に合わせて選んでください。

モデル名サイズ推奨メモリ（最小）特長・用途Ollamaコマンド
Qwen2.5 (3B)~2.0 GB8GB RAM日中韓の翻訳におすすめ。 アジア圏の言語の語彙をよく保ち、タグ翻訳がとても速いです。ollama run qwen2.5:3b
Llama 3.2 (3B)~2.0 GB8GB RAM英語・ヨーロッパ言語の翻訳におすすめ。 スペイン語やポルトガル語など、西欧言語のタグ変換に最適です。ollama run llama3.2:3b
Gemma 2 (2B)~1.6 GB8GB RAM低スペック向けの超軽量モデル。メモリ使用量が少なく、ビジョンモデルと同時に動かしても負担が小さいです。ollama run gemma2:2b

3. mysnipboxに接続する

  1. 1Ollamaが起動していることを確認します（メニューバー／トレイのアイコン、またはollama serve）。
  2. 2mysnipboxの設定を開き、プロバイダーにOllamaを選びます。
  3. 3既定のエンドポイントhttp://localhost:11434はそのままにして、ビジョンモデルとテキストモデルをそれぞれ選択します。
  4. 4テスト用の画像を分析してみましょう。モデルがメモリに読み込まれる間、最初のリクエストは時間がかかります。

リモートのOllamaサーバーに接続する

Ollamaは同じPCで動かす必要はありません。自宅ネットワーク内のハイスペックPCやホームサーバー、クラウドGPU（RunPodなど）も使えます。

  1. 1mysnipboxの設定を開き、プロバイダーにOllamaを選びます。
  2. 2Base URL 欄の http://localhost:11434 を、サーバーのアドレス http://<サーバーIP>:11434 に変更します。
  3. 3サーバー側では、Ollamaを起動する前に外部からの接続を許可し（下の環境変数を参照）、そのサーバー上でモデルをダウンロードします。
shell (server)
OLLAMA_HOST=0.0.0.0 OLLAMA_ORIGINS="*" ollama serve

OLLAMA_HOST=0.0.0.0 はすべてのネットワークインターフェースで接続を受け付け、OLLAMA_ORIGINS="*" はあらゆるオリジンからのリクエストを許可します。Ollamaをバックグラウンドアプリやサービスとして動かしている場合は、そのサービスの環境変数に設定して再起動してください。

自前のGPUサーバー：Custom（OpenAI互換）

vLLM、LMDeploy、LocalAIなど、OpenAI API形式に対応したエンジンで自前のGPUサーバーを動かしているなら、Customプロバイダーで接続できます。

  1. 1mysnipboxの設定を開き、プロバイダーにCustom (OpenAI-compatible)を選びます。
  2. 2下の3つの項目を入力します。
  3. 3テスト画像を解析して、サーバーが応答するか確認します。
項目入力する内容
Base URL自前サーバーのOpenAI互換アドレス。例：http://<GPU-IP>:8000/v1
API Keyサーバーが認証を求める場合のみ入力します。自分のPCやプライベートネットワークで認証なしで動かしているなら、空欄で構いません。
Model Nameサーバーで提供しているビジョンモデルの名前を直接入力します。例：Qwen/Qwen2.5-VL-7B-Instruct

トラブルシューティング

  • 接続が拒否される： Ollamaが起動していません。アプリを起動するか、ollama serveを実行してください。
  • モデルが見つからない： 先にollama pull <モデル名>でダウンロードしてください。名前は完全に一致させる必要があります。
  • 極端に遅い／落ちる： モデルがメモリに対して大きすぎます。小さいモデルにする、他の重いアプリを閉じる、またはクラウドのプロバイダーを使ってください。
  • ollama psを実行すると、読み込み済みのモデルとメモリ使用量を確認できます。