AnythingLLM Model Routerとは？ローカルAIとクラウドAIを使い分ける設定と注意点

公開日
2026-07-28
更新日
2026-07-28
情報確認日
2026-07-28
編集・運営
Local AI Compass

AnythingLLM Model Routerは、workspaceを単一モデルに固定する代わりに、メッセージの条件でprovider/modelを切り替える仕組みです。便利な反面、分類の追加LLM call、fallback、sticky route、cloud providerの選択によって、処理場所と送信先が変わるため、最初は計算ルールだけで小さく始めます。

導入前に確認すること

  • Windowsのバージョン、メモリ容量、GPU/VRAM、空き容量を確認する
  • 最初は軽量モデル、短い質問、少ない同時作業から始める
  • 公式サイトの対応OS、利用規約、モデルのライセンスを確認する

Model Routerでできること

機能初心者向けの意味注意点
calculated rulekeyword、regex、token数、時刻などで高速に分岐LLMを呼ばないが、条件設計を誤ると意図しないrouteになる
LLM-classified rulefallback modelが文章の目的を分類して分岐毎メッセージに追加LLM callが発生し得る
fallback provider/modelどのruleにも合わない時の既定先分類にも使われるため、cloud fallbackを無意識に選ばない
priority複数ruleの評価順上位ruleが先にmatchするため、順番を確認する
sticky route/cache一度選んだmodelを一定時間維持会話のrouteが固定される時間と保存の意味を混同しない

calculatedとLLM-classifiedの違い

最初に使う calculated

公開情報、短い質問、明確なキーワードをlocal small modelへ送るなど、条件を人間が読めるルール。

慎重に使う LLM-classified

キーワードで表せない目的を分類するが、fallback modelによる追加callとデータ送信を考える。

必ず確認 fallback

分類に使うモデルと、matchしない時の送信先。ここがcloudなら分類段階から外部へ出る可能性がある。

公式docsはcalculated rulesをfast and free to evaluateと説明し、LLM-classified rulesは1メッセージごとにextra LLM callがあると説明しています。ここでのfreeは分類callがローカル・無課金・無制限という意味へ広げません。

rule priority・sticky route・cacheを読む

  1. まずcalculated ruleが評価され、matchすればそのmodelへ進む。
  2. matchしなければLLM ruleのcacheを確認し、必要ならfallback modelで分類する。
  3. ruleがmatchしたmodelはsticky window中に続く場合がある。
  4. sticky windowが切れ、他のruleにも合わなければfallbackへ戻る。
  5. routing badge、provider、model、rule名を実際の応答ごとに確認する。

sticky routeやcacheはroute決定を再利用する仕組みです。会話全文を永久保存する機能と同じ意味ではありませんが、どのmodelへ送ったかを確認する習慣は必要です。

初心者向けの安全なルール例

条件route例避けること
公開情報の短い質問local small modelkeywordだけで秘密情報を除外できると考える
長いが公開可能な一般文書cloud modelまたはlocal RAG文書の機密性を確認せずcloudへ送る
顧客資料・個人情報・秘密情報自動cloud routeを作らないfallbackだけで安全に守れると考える
分類が必要な曖昧な質問まずテストworkspaceでLLM rule本番workspaceで追加callとrouteを未確認のまま有効化

LM Studio・Ollamaと接続する時の境界

AnythingLLMのLLM providerにLM StudioやOllamaを設定しても、Model Routerの別route先にcloud providerを置けば、routeによって通信先が変わります。embedder、LLM、rerank、web search、MCPを1つの「local設定」として扱わないことが重要です。

privacy・コスト・失敗例

  • LLM-classified ruleの分類callを「無料でlocal」と決めつける。
  • fallbackをcloudにしたまま、秘密情報もlocalに残ると思い込む。
  • priorityが重なり、公開情報と機密情報で同じrouteになる。
  • sticky route中の後続メッセージも同じproviderへ送られる可能性を見落とす。
  • Model Routerだけ確認し、AnythingLLMのembedder、agent tool、web search、memoryを確認しない。

初期設定のチェックリスト

  1. v1.13.0以降か、Model Routerが利用できる版か確認する。
  2. 最初はcalculated ruleを1本だけ作り、route結果のbadgeを見る。
  3. fallback provider/modelがlocalかcloudかを確認する。
  4. 公開データでrule priority、sticky、cacheの挙動を試す。
  5. 機密データ、外部tool、Scheduled Jobsへ広げる前に通信先とログを確認する。

関連ページと公式情報

よくある質問

Model Routerは無料ですか？

公式docsはcalculated rulesをLLM callなしで評価すると説明していますが、providerの利用条件、LLM-classifiedの追加call、cloud modelの料金は別です。機能名だけで無料・無制限とは判断しません。

localからcloudへ自動送信されますか？

設定したrule、fallback、sticky route、選択providerによってはcloudへ送られ得ます。route badgeとprovider設定を確認し、秘密情報を自動cloud routingの対象にしません。

LLM-classified ruleは追加料金がかかりますか？

公式docsが説明しているのは1メッセージごとの追加LLM callです。料金や無料枠はfallback providerの条件に依存するため、利用時点のprovider料金を確認してください。

sticky cacheは会話保存ですか？

sticky routeは一定時間モデルを維持するroute決定の仕組みです。チャット履歴、ログ、memory、provider側の保存とは別に確認します。

最初はどのruleから試すべきですか？

公開情報の短い質問を対象にしたcalculated ruleを1本だけ作り、route結果とfallbackを確認するのが安全です。機密情報や書き込みtoolへいきなり広げません。

次に読むおすすめルート

ローカルAIエージェントを試したい人

Bionic、Ollama、AnythingLLM、Hermesを役割別に分け、local/cloud、tool、保存、PC負荷を順番に確認します。

  1. ローカルAIエージェント比較
  2. LM Studio Bionicのlocal/cloud
  3. Kimi K3はlocalかcloudか
  4. Scheduled JobsとMemories
  5. Magic Echo・Beacon・Tab
  6. agentのPC負荷とKV cache
  7. WindowsでローカルAIコーディングを始める
  8. VS CodeでローカルAIを使う
  9. local modelでもprivacyを確認
  10. Ollamaのlocal/cloud
  11. LM Studio 0.4.0のAPI入口
  12. AnythingLLMの解説
  13. PC診断ページ

あなたはどのタイプ？

次に読むおすすめ記事

補助リンクを表示（5件）

関連チェック先

  • AnythingLLM Model Router setup - calculated rule、LLM-classified rule、fallback、cache、sticky routeの公式ドキュメントです。
  • AnythingLLM Memories & Personalization - workspace/global memory、automatic extraction、model providerへの送信範囲を確認する公式ドキュメントです。
  • Ollama Cloud docs - local modelとcloud modelの実行場所、オフロード、利用条件を確認する公式ドキュメントです。

関連ツール

比較表を見る / 最初に検討しやすいツールを確認する