ローカルRAGは本当に安全か｜外部API・埋め込み・保存先の確認
- 公開日
- 2026-06-27
- 更新日
- 2026-08-10
- 情報確認日
- 2026-08-10
- 編集・運営
- Local AI Compass
ローカルRAGは外部送信を減らせる構成を作れますが、設定次第で文書断片や質問が外部APIへ送られる場合があります。安全性はツール名ではなく、通信先、保存先、ログで確認します。
導入前に確認すること
- Windowsのバージョン、メモリ容量、GPU/VRAM、空き容量を確認する
- 最初は軽量モデル、短い質問、少ない同時作業から始める
- 公式サイトの対応OS、利用規約、モデルのライセンスを確認する
RAGのproviderだけで終わらせない
embedding、LLM、rerank、Model Router、memory、MCP、Scheduled Jobsのどこがlocalかを分けます。PDFがPC内にあるだけでは、回答生成やroute分類がlocalであるとは限りません。
- AnythingLLM Model Router - routeごとのproviderとfallbackを見る
- Scheduled JobsとMemories - 保存と自動実行の範囲を確認する
RAG側だけでなく実行ツール側も見る
RAGでは文書保存、インデックス、ベクトルDBに目が向きやすいですが、LM StudioやOllama本体側にもログ、モデル情報、設定が残る場合があります。特にOllamaをOpen WebUIやAnythingLLMから使う場合、本体とUI側の保存場所を混同しないでください。
- LM StudioやOllamaの履歴・ログ確認ガイド - モデル実行側に残るものを確認する
ローカルの範囲を分解する
回答モデル、埋め込みモデル、vector DB、PDF保存先、ログ、同期、ユーザー権限を別々に見ます。どれか1つが外部APIなら、その工程では文書や質問が外へ出る可能性があります。
確認表
| 項目 | 確認すること | 仕事PDFでの注意 |
|---|---|---|
| LLM | LM Studio/Ollamaか外部APIか | 入力文と検索断片の送信 |
| Embedding | ローカル埋め込みか外部APIか | 文書断片が送られる可能性 |
| Vector DB | 保存場所、暗号化、削除 | 退職者や共有端末の権限 |
| Logs | 質問・回答・引用の保存 | 個人情報や契約情報が残る |
| 版 | Desktop/Cloud/Self-hosted | 運用責任と保存先が違う |
安全に試す順番
- 公開PDFでワークスペースを作る
- 外部APIを使っていないか確認する
- PDFとログの保存先を見る
- 削除手順を確認する
- 社内資料を扱う前に承認を取る
研究から読む注意点
RAGのセキュリティ研究では、retrieval index、query log、context construction、knowledge base poisoningなどが課題になります。初心者向けには、通信先と保存先を見える化することから始めます。
2026年8月の公式docsでRAGのdata boundaryを確認する
「local RAG」と呼ばれていても、PDFの保管場所、抽出、embedding、vector DB、回答モデル、UIの履歴、ログ、backup、管理者アクセスは別の層です。アプリ名だけで安全性を決めず、どの層がどこへ送られ、どこに残り、誰が読めるかを順番に確認します。
| 層 | 現行公式docsで確認できること | 初心者が見る場所 |
|---|---|---|
| 推論先・provider | Open WebUIではself-hostedでも設定した外部model providerへpromptとcontextが見える可能性がある。LM Studioはlocal実行とcloud services、Ollamaはlocal/cloudを分ける | model endpoint、base URL、cloud/local設定、fallback |
| 文書・embedding・vector DB | AnythingLLMはworkspaceから外してもMy Documentsのparsed sourceとcached embeddingsが残る。Open WebUIはFile Managerの削除で対応するRAG embeddingsを整理し、外部vector DBはexperimentalな別保存先になる | 原文、parsed text、embedding、vector DB、外部endpoint、API key |
| UI・DB・logs・backup | Open WebUIではserver、database、storage、model connections、logs、backupsが管理対象。AnythingLLM DesktopもSQLite DB、documents、vector-cache、direct-uploads、logsを別に持つ | volume、同期先、DB、ログ本文、backup、画面共有 |
| アクセス・公開範囲 | Open WebUIの権限・管理者アクセス、AnythingLLM Dockerのsingle-user/multi-user、Ollamaの127.0.0.1既定bindとOLLAMA_HOST変更で見える範囲が変わる | アカウント、role、admin、localhost/LAN、proxy、共有設定 |
- 公開PDFを1つだけ使い、推論先・embedding provider・vector DBの接続先を記録する。
- 文書、parsed text、embedding、チャット履歴、logs、backupを別の保存物として一覧にする。
- ワークスペースから外す操作と、原文・parsed source・cached embeddingsまで消す操作を分ける。
- 管理者、DB/host/backup operator、外部model providerが読める範囲を確認する。
- 削除後に再インデックスや再embeddingが必要か確認してから、機密資料へ広げる。
Open WebUIのTemporary Chatは保存履歴を減らすためのデータ最小化策ですが、入力中のpromptはOpen WebUIと設定したmodel endpointで処理されます。AnythingLLMのanonymous telemetry、Open WebUIのaudit log、LM Studioのmodel searchやOllamaのcloud機能など、本文とは別の通信も個別に確認してください。
- Open WebUI Chat Data Privacy & Encryption - admin、Temporary Chat、permission、logs、DB・backup・model providerの境界を見る
- Open WebUI RAG - File Managerのembedding削除とexternal vector DBの実験的構成を見る
- AnythingLLM Privacy & Data Handling - workspace除去とMy Documents完全削除、telemetryを見る
- AnythingLLM Desktop Storage - Windowsのdocuments、vector-cache、DB、direct-uploads、logsを見る
- AnythingLLM Security and Access - Dockerのsingle-user、multi-user、admin、roleを見る
- LM Studio Privacy Policy - local実行、cloud services、model search、update確認の違いを見る
- LM Studio Offline Operation - 文書RAGを含むoffline動作と通信が必要な操作を見る
- Ollama FAQ - OLLAMA_NO_CLOUD、127.0.0.1、OLLAMA_HOSTを確認する
よくある質問
ローカルRAGなら社内文書を入れてもよいですか。
すぐには判断できません。社内ルール、外部API、保存先、ログ、削除方法を確認してください。
埋め込みにも外部送信がありますか。
外部APIの埋め込みproviderを使う場合、文書断片が送られる可能性があります。設定を確認します。
Desktop版なら安全ですか。
Desktop版でも接続先や同期、ログ設定によります。利用中の画面と公式Docsを確認してください。
AnythingLLMでワークスペースから文書を外せば完全削除ですか？
完全削除とは限りません。AnythingLLM公式docsでは、workspaceから外すとそのworkspaceのvectorsは削除される一方、My Documentsにはparsed sourceとcached embeddingsが残ります。完全消去が必要ならMy Documents側の削除を確認してください。
Open WebUIのTemporary Chatなら外部送信されませんか？
外部送信がなくなるとは断定できません。Temporary Chatは保存履歴を減らす制御ですが、入力中のpromptはOpen WebUIと設定したmodel endpointで処理されます。外部providerを使う場合は、そのproviderへの送信条件を別に確認してください。
Ollamaのlocal-only設定とlocalhost公開は同じですか？
別の設定です。`OLLAMA_NO_CLOUD=1`または`disable_ollama_cloud`はcloud機能を無効にする設定で、`OLLAMA_HOST`はHTTP serverのbind先を変える設定です。Ollamaは既定で127.0.0.1:11434にbindするため、cloud設定とLAN公開範囲を分けて確認します。
Open WebUIで外部vector DBを使えば文書はOpen WebUIに保存されませんか？
公式docsでは、experimentalなexternal knowledge sourceは既存の文書・embedding・indexを自分のvector storeに置き、Open WebUIがchat時に直接queryする構成と説明されています。ただしvector DBのendpoint・API key・アクセス権、回答model provider、Open WebUI側の履歴とlogsは別に確認してください。
次に読むおすすめルート
PDFや資料を読ませたい人
先に基本を押さえ、モデル単体の確認後にAnythingLLMへ進みます。
- PDF・文書チャットの使い分け
- PDF回答が間違う理由
- オンデバイスRAG/NPU研究
- RAGのCPU/GPU/NPU負荷分解
- Quant.npuとNPU向け静的量子化
- LENSで見るNPUレイテンシ予測
- AnythingLLMでPDFを読むには？商用利用前の確認も整理
- PDFを読ませても期待通りに答えない理由
- PDF抽出・OCR・表の崩れ
- WindowsでローカルOCRを選ぶ方法
- チャンク分割と検索漏れ
- 引用faithfulness確認
- AnythingLLM検証チェックリスト
- ローカルLLMの安全性とプライバシー
- RAG・埋め込み・ベクトルDBの仕組み
- GGUF安全とRAG/NPU研究
- 知らないGGUFを動かす前に
- 埋め込みモデルとは
- 日本語PDFと埋め込みモデル
- コンテキスト長とは
- 仕事のPDFを入れる前の確認
- AnythingLLMの解説
- まずローカルAIの基本ガイド
- PCスペックの見方
- 診断ページ
あなたはどのタイプ？
- 初めてローカルAIを触る人 - まず全体像をつかみ、LM StudioとOllamaの違い、モデルサイズの考え方を順番に確認します。
- LM Studio・Ollamaの症状別トラブルを解決したい人 - 起動、モデルロード、Prompt Processing、generation、API接続、GPU確認をツール別に分けて読みます。
- GPUなし・低スペックPCの人 - 軽量モデル、メモリ別の目安、重いときの確認ポイントを先に見ます。
- PDFや資料を読ませたい人 - 先に基本を押さえ、モデル単体の確認後にAnythingLLMへ進みます。
- ローカルAIエージェントを試したい人 - Bionic、Ollama、AnythingLLM、Hermesを役割別に分け、local/cloud、tool、保存、PC負荷を順番に確認します。
- 開発・API連携したい人 - LM StudioとOllamaの違いを確認し、API、長文処理、RAGまで段階的に進みます。
関連チェック先
- Security and Privacy in Retrieval-Augmented Generation: Architectures, Threats, Defenses, and Future Directions for Building Trustworthy Systems - retrieval index、query log、context construction、knowledge base poisoningなど、RAGの安全性とプライバシー課題を整理した直近プレプリントです。
- Privacy-Preserving Retrieval Augmented Generation with Differential Privacy - RAGが敏感な外部データを扱うため、プライバシー保護の研究対象になることを示す補助資料です。
- PRAG: End-to-End Privacy-Preserving Retrieval-Augmented Generation - クラウドRAGで文書とクエリの機密性が課題になることを読むための補助プレプリントです。
- AnythingLLM Docs - Embedding Models、Language Models、Vector Database、Security & Access、Privacy & Data Handlingなどの公式入口です。
- AnythingLLM official site - Desktop、Cloud、Self-hostedなどの提供形態を確認する公式サイトです。
- Open WebUI Security - Open WebUIのself-hosted security、production hardening、chat data privacyへの公式導線です。
- Open WebUI Chat Data Privacy & Encryption - 管理者アクセス、Temporary Chat、file/knowledge permission、ログ、DB・backup・model providerの信頼境界を確認できます。
- Open WebUI Knowledge - Focused Retrieval (RAG)、Full Context、knowledge scope、検索・埋め込み・agentic retrievalの公式説明です。
- Open WebUI RAG - 文書添付、RAG、Full Context、外部vector database、削除とembeddingの公式説明です。
- AnythingLLM Privacy & Data Handling - anonymous telemetry、workspaceからの除去、My Documentsからの完全削除の違いを確認できます。
- AnythingLLM Desktop Storage - Windowsのstorage、documents、vector-cache、models、SQLite DB、plugins、direct-uploads、logsを確認できます。
- AnythingLLM Security and Access - Docker版のsingle-user、password、multi-user、role、adminの可視範囲を確認できます。
- LM Studio Desktop App Privacy Policy - メッセージ、チャット履歴、ドキュメントの既定ローカル保存、モデル検索・ダウンロード・更新確認時の通信を確認しました。
- LM Studio Offline Operation - ダウンロード済みモデル、文書RAG、local server、model search・downloadの通信条件を確認できます。
- Ollama FAQ - Windowsのモデル保存場所、OLLAMA_MODELS、OLLAMA_HOST、環境変数設定、127.0.0.1:11434の既定bindを確認しました。
- LM Studio CLI: lms log stream - LM Studioがモデルへ送る文字列、モデルから受け取る文字列、server logを確認できるCLI機能を確認しました。
- Ollama Troubleshooting - Windowsのログ、バイナリ、モデル・設定、テンポラリファイルの確認場所を確認しました。
- AnythingLLM Model Router setup - calculated rule、LLM-classified rule、fallback、cache、sticky routeの公式ドキュメントです。
- AnythingLLM Memories & Personalization - workspace/global memory、automatic extraction、model providerへの送信範囲を確認する公式ドキュメントです。
- AnythingLLM Scheduled Jobs overview - job、run、schedule、allowed tools、結果保存、single-user modeの公式ドキュメントです。