自分のPCでローカルAIは動かせる?

Local AI Compassは、Windows初心者がLM StudioやGGUFモデルをインストールする前に、自分のPCで試せる範囲を判断するための診断入口です。メモリ、GPUの有無、コマンド操作への抵抗感から、最初に読む記事と使う診断ツールを案内します。

まず自分のPCを診断する / ゼロから読むなら完全ガイド / 中古PC・ミニPCで試したい人はこちら / 比較表を見る / 全記事一覧を見る

迷ったらこの3つ

STATE 01: 動くかまだ分からない

手持ちのPCで試せるか不安な人は、PCを診断するGPUなしPCの記事PCスペックの見方から確認できます。

STATE 02: とにかく始めたい

画面操作だけで始めたい人は、LM Studio導入GGUFモデル選び診断開始ガイドへ進みます。

STATE 03: 動かしたが困っている

つながらない、重い、止まる場合は、症状別の解決ハブ速度・RAM・VRAMを測る方法GGUFが読み込めない時の確認Hermes接続診断を使います。

診断

PCスペック、GPUの有無、コマンド操作への抵抗感から、最初に選ぶローカルAI環境を案内します。

JavaScriptを有効にすると、7項目の診断フォームをこの場所で利用できます。入力内容はページ外へ送信しません。

比較表

  • 画面操作で始めたいなら LM Studio
  • コマンドに抵抗がなければ Ollama
  • PDFや資料活用なら AnythingLLM
  • GPUなしなら軽量モデルから試す
  • とにかく簡単に試すなら GPT4All

LM Studio、Ollama、Jan、AnythingLLM、GPT4Allを、初心者向け度や使いどころで比較できます。詳しくは比較表ページで確認できます。

インタラクティブ診断ツール

記事を読み込む前に、入力するだけで答えが返ってくる道具をそろえています。

  • PC購入前チェッカー - 所要30秒 / インストール不要。中古・ミニPCを買う前に、ローカルAIに足りるスペックか判定します。
  • Hermes 接続トラブル診断 - 症状別 / 3問。connection refused や model not found を、原因まで絞り込みます。
  • GGUFモデル選び診断 - 用途別 / 1本目を提案。メモリ・GPU・用途から、最初に入れる1本を提案します。

検索クラスターから読む

目的ごとの順番で、迷わず次の記事へ

全体像、設定、失敗対策の順に進める読み方です。

新しい伸び筋

PDFをローカルAIで読む

ツール比較から始め、AnythingLLMのPDF設定、RAG、埋め込み、引用確認、検索漏れへ必要な分だけ進みます。

  1. 1. 方法を比較LM Studio単体・AnythingLLM・RAGの違いを選ぶ
  2. 2. PDFを設定文書追加から回答確認までの流れをつかむ
  3. 3. 精度を直す検索されない・根拠が弱い原因を確認する
  4. 4. 仕組みを理解RAG・埋め込み・ベクトルDBの役割を分ける
  5. 5. 間違う理由を読む抽出・検索・引用・生成のどこでずれるか確認する
  6. 6. 検証する公開PDFで根拠確認の手順を作る
接続クラスター

Hermes Desktopを理解して接続する

Hermes Desktopの役割を先に理解し、LM Studio・Ollama・OpenRouterなどのproviderを目的別に選び、最後に接続トラブルを切り分けます。

  1. 1. Hermes DesktopとはLM Studio・Ollamaとの役割の違いを先に整理する
  2. 2. LM Studio接続Local Server、Base URL、Model IDを合わせる
  3. 3. Ollama接続CLI/API寄りの接続と11434系endpointを分ける
  4. 4. 症状別ハブconnection refused・model not found・timeoutを入口に切り分ける
  5. 5. model ID確認モデル名・/v1/models・slugの違いを確認する
  6. 6. GGUF・負荷確認モデル形式、量子化、PC負荷の前提へ戻る
新しい実用クラスター

ローカルAIエージェントを安全に選ぶ

Bionic、Ollama、AnythingLLM、Hermesを同じ種類のアプリとみなさず、local/cloud、ファイル、MCP、定期実行、PC負荷の順に比較します。

  1. 1. 親ハブモデル実行側とagent操作側の役割を分ける
  2. 2. LM Studio Bioniclocal・LM Link・Secure Cloudと本体を比較する
  3. 3. Kimi K3巨大open modelとlocal executionを混同しない
  4. 4. AnythingLLM Routerrule、fallback、sticky route、providerを確認する
  5. 5. Jobs・Memories自動実行、保存、allowed toolsの境界を見る
  6. 6. Magic Features音声・選択文字・画面コンテキストの通信を分ける
  7. 7. PC負荷context、KV cache、RAG、tool loopを測る
  8. 8. privacy確認local modelでも外部通信・保存・権限を確認する

ローカルAI更新メモ

新しいモデル・ツール更新を、Windows初心者向けに短く整理します。通常記事とは違い、公開時点の情報として確認してください。

ローカルAI更新メモを見る

悩み別カテゴリ

まず読む入門

ローカルAIとローカルLLMの全体像、ChatGPTとの違い、始め方をつかむ入口です。

LM Studio・GGUF

GGUFとは何か、LM Studioで最初に見るモデルサイズ・量子化・画像入力・保存先・診断ツールまで、モデル選びの順番をまとめています。

クラウドGPU・実験環境

手元PCを買い替える前に、Google ColabでGGUF・llama.cpp・MTPを条件付きで試します。Colabはローカル処理ではありません。

PCスペック・GPUなし

手元のWindows PCでどこまで試せるか、メモリやVRAMから判断します。

LM Studio/Ollama

Bionic、Ollama、AnythingLLM、Hermesの役割、Windows導入、Windows ARM互換性、VS Codeのlocal model、LM Studioのlms CLI・Tool Use・Structured Output・Responses、OllamaのOpenAI互換API・native API streaming・tool calling・Structured Outputs・embedding・Modelfile、モデルID・capabilities・実行状態、ローカルモデルとcloudモデルの境界、モデル保存先・一覧・削除、base URL、エラー時の切り分けを整理します。

API・長文・RAG

ローカルAIをAPI、LM StudioのTool Use・Structured Output・Responses、OllamaのOpenAI互換API・native API streaming、tool calling・Structured Outputs、embedding、長文処理、PDF/RAG、外部API、provider切り替えまで広げるための技術入口です。

実用化・ツール連携

安全性、JSON出力、LM Studio Structured Output・Responses、Ollama Structured Outputs、埋め込み、文書チャット、音声文字起こし、話者分離、画像OCR、翻訳、コーディング、MCP、LM StudioとOllamaのtool callingを理解して、ローカルAIを道具として使う入口です。

モデル・用語

モデルサイズ、量子化、VRAMなど、最初につまずきやすい言葉を整理します。

PDF・文書活用

LM StudioやOllamaでモデルを動かし、OCR、AnythingLLM、RAGでPDF・資料を扱う前提を整理します。

Ollama Embedding API

WindowsのOllamaで文章をベクトル化し、batch、RAGのindex/query、OpenAI互換との違いを実装確認します。

LM Studio Embeddings

WindowsのLM Studioでembedding model、/v1/embeddings、PowerShell、Python・TypeScript、RAGのindex/queryを実装確認します。

Ollama Responses API

WindowsのOllamaで/v1/responses、PowerShell、Python・JavaScript、streaming、非statefulの境界を実装確認します。

Ollama API認証

WindowsのOllamaでlocalhost、OpenAI互換のapi_key、ollama signin、cloud、OLLAMA_API_KEY、local-only modeを分けて確認します。

OllamaモデルID・能力診断

WindowsのOllamaで/v1/models、/api/tags、/api/show、/api/psを照合し、model not found・capabilities・実行状態を切り分けます。

Ollama Modelfile

WindowsでFROM・SYSTEM・PARAMETER・TEMPLATEを設定し、ollama createでcustom modelを作成・検証します。

Ollama native API streaming

Windowsで/api/generate・/api/chatのNDJSON、stream=false、done、途中エラー、usageを確認します。

中古PC・ミニPC

購入前に、メモリ、GPU、ストレージ、冷却の見落としを減らします。

全記事一覧を見る

このサイトについて / 診断基準 / プライバシーポリシー