WindowsでローカルAIを始める完全ガイド

公開日
2026-05-28
更新日
2026-08-12
情報確認日
2026-08-12
編集・運営
Local AI Compass

WindowsでローカルAIを始めたい人向けの入口です。LM Studioは画面操作、Ollamaはコマンド/API、AnythingLLMは文書や知識ベースの作業場という役割から整理し、最初はモデルを1つだけ試してPC条件と公式ドキュメントを確認する順番を案内します。特定のPCでの速度や互換性を保証するページではありません。

自分のPCで何から始めるか確認する

メモリ、GPUの有無、目的、コマンド操作への慣れから、LM Studio、Ollama、軽量モデル、文書活用のどこから始めるかを確認できます。

診断フォームへ

4つの入口

まず何を選べばいいか

やりたいこと向いている選択肢理由
とにかくローカルAIを試したいLM StudioGUIで始めやすく、モデル検索からチャットまでの流れが見えやすい
コマンドやAPIで使いたいOllama開発、連携、他ツールとの組み合わせに向く
PDFやメモを読み込ませたいAnythingLLMナレッジベース用途に向き、文書を参照するチャットを作りやすい
モデルファイル選びで迷っているGGUFガイドQ4/Q5/Q8やモデルサイズを分けて整理できる
中古PCで動くか知りたいモデルサイズガイド / 中古PCチェックメモリ、CPU、GPU、ストレージの目安が必要

ローカルAIで迷いやすいポイント

GGUFは、LM Studioなどで扱うローカルAIモデルのファイル形式のひとつです。Q4、Q5、Q8は量子化の目安で、Q4は軽め、Q5は少し品質寄り、Q8は重くなりやすい候補として見ます。

7B、8B、14B、27Bのような表記はモデル規模の目安です。数字が大きいほど賢そうに見えますが、メモリ、VRAM、保存容量、待ち時間も増えやすくなります。

LM Studioは画面操作で始めやすい入口、OllamaはコマンドやAPI連携に向く実行環境、AnythingLLMはPDFやメモなどの知識ベースとチャットをつなぐ作業場、と分けて考えると迷いにくくなります。

メモリ別の目安

PCメモリ目安初心者向けコメント
8GB軽量モデル中心大きいモデルは避けた方が安全。短いチャットで動作確認する目安です。
16GB7B〜8B級の軽量量子化が現実的まず試すならこのあたり。Q4/Q5前後から始めると切り分けやすいです。
32GB選択肢が広がる複数ツール連携や少し長めの文章にも進みやすくなります。
64GB以上大きめのモデルも試しやすいただし速度はCPU/GPUにも左右されます。最初は軽めで基準を作ると安全です。

最初に避けたいこと

  • 8GBメモリで大きいモデルや長いPDF処理から始める
  • Q8や14B以上を高性能そうという理由だけで最初に選ぶ
  • 中古PC購入前にメモリ増設可否、SSD空き容量、CPU世代、GPU/VRAMを確認しない

次に読むべきページ

関連チェック先