Windowsで使えるローカルAIエージェント比較｜LM Studio Bionic・Ollama・AnythingLLM・Hermes

公開日
2026-07-28
更新日
2026-08-24
情報確認日
2026-08-24
編集・運営
Local AI Compass

ローカルAIエージェントを選ぶときは、アプリ名だけでなく「モデルを動かす側」と「作業を進める側」を分けて考えるのが近道です。Bionic、Ollama、AnythingLLM、Hermesは同じ種類の完全な代替ではなく、local・cloud・hybridの組み合わせで役割が変わります。

導入前に確認すること

  • Windowsのバージョン、メモリ容量、GPU/VRAM、空き容量を確認する
  • 最初は軽量モデル、短い質問、少ない同時作業から始める
  • 公式サイトの対応OS、利用規約、モデルのライセンスを確認する

先に結論：エージェントを選ぶ前に実行場所を決める

まずlocal chat LM Studio

GUIでモデルを1本だけ動かし、PCの速度と限界を確かめる入口です。

CLI・API・連携 Ollama

モデルruntime、API、ollama launch、local/cloudの入口として考えます。

PDF・workspace AnythingLLM

RAG、agent、routing、Scheduled Jobsを組み合わせる作業場です。

agent操作 Hermes / Bionic

モデルproviderへつなぎ、コードやファイル作業を進める操作側です。

「ローカルAIエージェントなら外部送信ゼロ」「open modelならPC内で動く」とは限りません。選んだモデル、provider、web search、MCP、ファイル操作、音声や画面コンテキストを別々に確認します。

主要ツールの役割を混ぜない

候補主な役割local/cloudの見方初心者が最初にすること
LM StudioGUI型のモデル実行、local server、APIlocal modelが中心。接続先を設定した機能は別確認軽いGGUFを1本だけロードする
LM Studio BionicCode/Work projectを扱うagent applocal、LM Link、Secure Cloudを選ぶ。Bionic自体が全localという意味ではないlocal projectで短い作業を試し、model pickerを確認する
OllamaCLI/API型runtime、interactive agent、cloud入口モデルタグと`:cloud`を確認する`ollama run`でlocalモデルを単体確認する
AnythingLLMPDF/RAG、agent、Model Router、Scheduled Jobs、MagicLLM、embedder、tool、providerを別々に確認する公開文書1つをlocal providerで試す
Hermes DesktopHermes AgentをGUIから扱う操作側接続したLM Studio、Ollama、外部APIで決まるprovider単体を先に動かしてから接続する

local・cloud・hybridを一枚で確認する

構成推論外部通信の候補向く場面
完全localを目指す構成モデル・embedding・音声などをPC側で実行モデル検索、更新確認、web/MCP、連携先は別途確認公開できない文書を扱う前の基準作り
cloud model構成providerの推論サーバーで処理入力文、添付ファイル、画面情報、ログ、課金PCのGPU/VRAMを抑えて大きいモデルを試す
hybrid構成タスクや条件でlocal/cloudを切り替えるrouterの分類call、fallback、web tool、provider切替短い質問はlocal、重い一般文書はcloudなどの使い分け

local modelを選んだことだけで、ツール経由の通信やPC内保存まで自動的に決まるわけではありません。

できることの比較：ファイル・コード・PDF・MCP

作業先に見る候補確認点
ローカルコードを読む・編集するBionic、Hermes、LM Studio API/MCP対象フォルダ、diff、checkpoint、書き込み権限、model provider
PDFを検索して答えるAnythingLLM抽出、embedding、vector DB、LLM、引用、保存先
APIやtool callingを組むOllama、LM Studio 0.4、AnythingLLMendpoint、model ID、permission、MCP server、実行ログ
定期実行するAnythingLLM Scheduled Jobsschedule、allowed tools、run history、PC/アプリ状態、外部送信
音声・画面を扱うBionic voice、AnythingLLM Magicon-device範囲、選択provider、送られるtext/screenshot、権限

PC負荷はモデル以外にも増える

通常のチャットは、入力を処理して回答を生成する1往復で終わることがあります。エージェント作業では、計画、ファイル検索、tool call、結果の読み込み、再推論、保存や確認が繰り返されるため、同じモデルでも総負荷が増えやすくなります。

Windows初心者の始める順番

  1. PCメモリ、GPU/VRAM、SSD空き容量、秘密情報を扱うかを確認する。
  2. LM StudioまたはOllamaで軽いlocal modelを1本だけ動かす。
  3. 短い質問、公開テキスト、変更しないコピー用フォルダで動作を確認する。
  4. 次にPDF/RAG、Hermes、BionicのCode/Work project、MCPの順に1機能ずつ足す。
  5. Scheduled Jobs、外部API、書き込みtool、cloud fallbackは最後にし、実行前に権限と通信先を確認する。

安全チェック：実行前に人間が止める場所

  • 秘密鍵、API key、顧客資料、個人情報をcloud routeやweb searchへ流さない。
  • ファイル削除、上書き、メール送信、外部投稿、課金APIの呼び出しを無確認で許可しない。
  • MCPやfilesystem toolは対象フォルダと書き込み権限を狭くする。
  • 自動routingのfallbackがcloudになっていないか、実際のroute表示を確認する。
  • run history、memory、chat log、RAG indexがPCやproviderに残る可能性を確認する。

このクラスターの読み順

よくある質問

LM Studio BionicはLM Studioと同じアプリですか？

別アプリです。BionicはagenticなCode/Work projectやlocal/cloud model選択を扱い、LM Studio本体は低レベル設定、モデル実行、local server/APIを確認する入口として分けて考えます。

Ollamaは完全ローカルですか？

local modelはPC側で実行できますが、`:cloud`モデルやweb機能は外部サービスを使います。モデルタグ、CLI表示、利用時の設定を確認してください。

AnythingLLMはPDF専用ですか？

PDF/RAGに加えて、agent、Model Router、Scheduled Jobs、Memories、Magic featuresなどがあります。ただし各provider、tool、保存先は別に確認が必要です。

Hermes Desktopはモデルを動かしますか？

主にHermes Agentを扱う操作側です。LM StudioやOllamaなどのproviderを接続し、provider単体が動くことを先に確認します。

ローカルAIエージェントはGPUなしで使えますか？

軽いモデルと短い作業なら試せる場合があります。ただしファイル検索、長いcontext、embedding、tool loopが増えると、CPU、RAM、SSDの負荷も増えやすくなります。

ファイルを読ませても外部送信されませんか？

断定できません。選んだmodel/provider、web search、MCP、RAG、router、cloud fallback、音声・画面機能を確認してください。

次に読むおすすめルート

ローカルAIエージェントを試したい人

Bionic、Ollama、AnythingLLM、Hermesを役割別に分け、local/cloud、tool、保存、PC負荷を順番に確認します。

  1. LM Studio Bionicのlocal/cloud
  2. Kimi K3はlocalかcloudか
  3. AnythingLLM Model Router
  4. Scheduled JobsとMemories
  5. Magic Echo・Beacon・Tab
  6. agentのPC負荷とKV cache
  7. WindowsでローカルAIコーディングを始める
  8. VS CodeでローカルAIを使う
  9. local modelでもprivacyを確認
  10. Ollamaのlocal/cloud
  11. LM Studio 0.4.0のAPI入口
  12. AnythingLLMの解説
  13. PC診断ページ

あなたはどのタイプ？

次に読むおすすめ記事

補助リンクを表示（13件）

関連チェック先

  • LM Studio Bionic公式発表 - Bionicの役割、local・LM Link・Secure Cloud、Code/Work project、音声入力を確認する公式記事です。
  • Kimi K3 in LM Studio Bionic - Kimi K3のBionicでのcloud model提供、2.8T parameter、1M context、cloud inferenceを確認するLM Studio公式記事です。
  • Kimi K3公式技術ブログ - Kimi K3のStable LatentMoE、896 experts、16 active experts、MXFP4/MXFP8、推奨アクセラレータ構成を確認するMoonshot公式記事です。
  • moonshotai/Kimi-K3公式Model Card - Kimi K3のopen-weight、2.8T total、104B activated、1M context、MoE構成と推論例を確認する公式Model Cardです。
  • Kimi K3 License - Kimi K3 Licenseの利用条件、商用利用・サービス提供時の条件を確認する公式ライセンスです。
  • Ollama v0.32.0 Release - interactive agent、ollama launch、ChatGPT連携名称、旧agent model警告の公式Releaseです。
  • Ollama Cloud docs - local modelとcloud modelの実行場所、オフロード、利用条件を確認する公式ドキュメントです。
  • AnythingLLM Model Router setup - calculated rule、LLM-classified rule、fallback、cache、sticky routeの公式ドキュメントです。
  • AnythingLLM Scheduled Jobs overview - job、run、schedule、allowed tools、結果保存、single-user modeの公式ドキュメントです。
  • Why AnythingLLM Pro? - AnythingLLM Desktopの無料範囲とMagic featuresのfree tier/Proの公式説明です。
  • LM Studio Bionic Skills公式Docs - BionicのSkills、Agent Skills形式のSKILL.md、@での明示指定、URLからのinstall、他アプリのskills利用を確認する公式Docsです。
  • LM Studio Bionic Changelog - Bionic 1.0.8〜1.0.9のSkills onboarding、外部Skills、作成・利用の修正を確認する公式変更履歴です。
  • OpenJarvis Ollama公式Blog - OpenJarvis 1.0、local-first、Ollama、Windows・WSL2・desktopの導入境界を確認するOllama公式Blogです。
  • OpenJarvis公式Install - 現行OpenJarvisのmacOS・Linux・WSL2・Native Windows・Desktopの導入経路を確認する公式Installです。
  • OpenJarvis Configuration - OpenJarvisのengine、default model、memory、agent設定を確認する公式Configurationです。

関連ツール

比較表を見る / 最初に検討しやすいツールを確認する