프라이빗 오프라인 AI 프롬프트 연구실 만들기: 클라우드 로깅도, 계정 위험도 없이

어떤 창작물은 컴퓨터 밖으로 나가선 안 돼요. 다크 판타지와 호러 콘셉트, 순수미술 인체 습작, 정치 풍자, 또는 단순히 NDA가 걸린 클라이언트 자료처럼요.

클라우드 멀티모달 API는 자동 콘텐츠 검열을 적용해서, 성숙하거나 어두운 이미지를 단순히 분석해 달라는 무해한 요청도 거절되거나 신고될 수 있고, 요청 내용은 프로바이더 자체의 로깅·보관 정책에 따라 처리됩니다. 작업 방식이 클라우드 API에 달려 있다면, 연구 기록도 접근 권한도 남이 정한 규칙에 달려 있는 셈이에요.

내 컴퓨터 안에 프라이빗한 오프라인 프롬프트 연구실을 만드는 방법을 소개합니다.

오프라인 프롬프트 연구 스택

[로컬 이미지 / 생성 결과물]
          |
          v
[로컬 비전 모델]      Ollama: minicpm-v 또는 qwen2.5vl:3b
          |   클라우드 프로바이더로 아무것도 전송되지 않음
          v
[로컬 텍스트 모델]    Ollama: qwen2.5:3b (태그 번역)
          |
          v
[mysnipbox 라이브러리]  내가 고른 폴더의 로컬 SQLite

1. 오프라인 비전 분해

Ollama에 minicpm-v나 qwen2.5vl:3b 같은 비전 모델을 연결하면 mysnipbox가 크리처 디자인, 인체 스케치, 어두운 조명 세팅 같은 이미지를 내 컴퓨터에서 읽어요. 클라우드 키를 쓰지 않으면 AI 프로바이더로는 아무것도 전송되지 않습니다. minicpm-v는 메모리 약 16GB, qwen2.5vl:3b는 약 8GB를 기준으로 생각하세요. 자세한 내용은 로컬 모델 (Ollama)에 있어요.

2. 로컬 태그 번역

클라우드 서비스로 태그를 번역하면 태그 텍스트를 그쪽으로 보내야 해요. qwen2.5:3b 같은 작은 로컬 모델은 이 번역도 기기 안에서 처리하니, 키워드마저 내 컴퓨터에 남습니다.

3. 내 컴퓨터에 남는 것

• 라이브러리, 태그 데이터, 번역은 내가 고른 폴더의 로컬 SQLite 데이터베이스에 저장돼요.
• 이미지는 우리 서버를 거치지 않고, 데스크톱 앱의 텔레메트리는 기본으로 꺼져 있습니다.
• 로컬 모델을 선택하면 분해 과정에서 외부 호출이 전혀 일어나지 않아요.

"오프라인"이 뜻하는 것과 그렇지 않은 것

여기서는 솔직해야 해요. 로컬 모델도 만든 곳에서 학습과 튜닝을 거쳤고, 일부는 특정 요청을 거절할 수 있습니다. 달라지는 건 작업이 일어나는 장소예요. 이미지가 프로바이더로 전송되지 않고, 계정이 필요 없고, 누군가 사용량을 제한하거나 기록하지 않습니다. 어떤 로컬 모델이 내 자료에 너무 조심스럽다면 다른 모델을 써 보세요.

시작하기

1. 1Ollama를 설치하고 Ollama 설치 및 연동 가이드대로 데스크톱 앱용 설정을 합니다.
2. 2비전 모델과 작은 텍스트 모델을 내려받아요.
3. 3mysnipbox에서 프로바이더로 Ollama를 선택하고 첫 이미지를 분해해 보세요.
4. 4라이브러리는 내가 통제하는 드라이브에 보관하세요.