搭建私密的离线 AI 提示词实验室:没有云端记录,也没有账号风险
发布于 2026年10月23日 · 阅读约 6 分钟
有些创作不该离开你的电脑:黑暗奇幻与恐怖概念、美术人体习作、政治讽刺,或者只是受保密协议约束的客户素材。
云端多模态 API 会进行自动内容审核,所以即使只是请它分析一张成人向或偏黑暗的图片这种无害请求,也可能被拒绝或被标记,而你的请求会按服务商自己的日志和留存政策来处理。如果你的工作依赖云端 API,你的研究记录和使用权限都取决于别人制定的规则。
下面介绍如何在你自己的电脑上搭建一个私密、离线的提示词研究工作站。
离线提示词研究的技术栈
[本地图片 / 生成结果]
|
v
[本地视觉模型] Ollama: minicpm-v 或 qwen2.5vl:3b
| 不会向任何云服务商发送数据
v
[本地文本模型] Ollama: qwen2.5:3b(标签翻译)
|
v
[mysnipbox 资料库] 本地 SQLite,位于你选择的文件夹1. 离线视觉拆解
把 Ollama 与 minicpm-v 或 qwen2.5vl:3b 这样的视觉模型搭配,mysnipbox 就会在你自己的电脑上读取图片:生物设计、人体素描、昏暗的光线布置等。如果不使用云端密钥,不会有任何内容发送给 AI 服务商。minicpm-v 大约需要 16GB 内存,qwen2.5vl:3b 大约 8GB;详见本地模型(Ollama)。
视觉提供商
未检测到本地 AI(Ollama)
要在本机免费使用本地标签和翻译,需要连接 Ollama。按照指南即可轻松设置。
已验证的 Vision 模型
均已确认可在 Ollama 中加载。
Moondream
最快最轻量 · 适合低配置设备 · ~2.0 GB · 8GB RAM
Qwen2.5-VL 3B★ 推荐
适合笔记本的轻量快速标签提取 · ~3.2 GB · 8GB RAM / VRAM
MiniCPM-V 2.6 (8B)★ 推荐适合本设备
同体量中速度快、识别精度高 · ~5.5 GB · 8–12GB RAM / VRAM
Qwen2.5-VL 7B★ 推荐
质量与速度均衡 · OCR 与细节顶尖 · ~6.0 GB · 12–16GB RAM / VRAM
Llama 3.2 Vision 11B
推理最强、细节丰富 · Meta 多模态 · ~7.9 GB · 16GB+ RAM / VRAM
2. 本地标签翻译
用云端服务翻译标签,意味着要把标签文本发给它。像 qwen2.5:3b 这样的小型本地模型可以直接在设备上完成翻译,连你的关键词也留在手里。
标签翻译
翻译目标语言
选择标签翻译使用的目标语言(选择 English 时将完全跳过翻译)。
翻译用 Ollama 模型
仅显示轻量的文本/翻译专用模型。
推荐翻译模型
下载后会立即设为翻译模型。
Qwen2.5 3B● 当前使用中
多语言(中日韩)翻译强 · 默认推荐 · ~1.9 GB
Gemma 2 2B
最小最快 · 适合低配置设备 · ~1.6 GB
Llama 3.2 3B
欧洲语言质量与速度均衡 · Meta · ~2.0 GB
3. 留在你电脑上的内容
- 你的资料库、标签数据和翻译都保存在你所选文件夹里的本地 SQLite 数据库中。
- 你的图片不会经过我们的服务器,桌面应用默认关闭遥测。
- 选择本地模型后,拆解过程不会发起任何外部调用。
“离线”的含义与它不代表的事
这里需要坦率地说明。本地模型同样由开发者训练和调校,有些可能会拒绝某些请求。变化的是处理发生的地方:图片不会发送给服务商,不需要账号,也没有别人来限制或记录你的使用。如果某个本地模型对你的素材过于谨慎,可以换一个试试。
开始使用
- 1安装 Ollama,并按照 Ollama 安装与连接指南为桌面应用完成设置。
- 2拉取一个视觉模型和一个小型文本模型。
- 3在 mysnipbox 里把提供商选为 Ollama,拆解你的第一张图片。
- 4把你的资料库放在自己能掌控的硬盘上。