WindowsでローカルAIを始める完全ガイド

公開日
2026-05-28
更新日
2026-05-28
情報確認日
2026-05-28

WindowsでローカルAIを始めたいけど、LM Studio・Ollama・GGUF・AnythingLLMの違いで止まる人向けの入口です。まず何を選ぶか、どのモデルサイズから試すか、手元のPCで無理が少ない始め方を整理します。

自分のPCで何から始めるか確認する

メモリ、GPUの有無、目的、コマンド操作への慣れから、LM Studio、Ollama、軽量モデル、文書活用のどこから始めるかを確認できます。

診断フォームへ

4つの入口

まず何を選べばいいか

やりたいこと向いている選択肢理由
とにかくローカルAIを試したいLM StudioGUIで始めやすく、モデル検索からチャットまでの流れが見えやすい
コマンドやAPIで使いたいOllama開発、連携、他ツールとの組み合わせに向く
PDFやメモを読み込ませたいAnythingLLMナレッジベース用途に向き、文書を参照するチャットを作りやすい
モデルファイル選びで迷っているGGUFガイドQ4/Q5/Q8やモデルサイズを分けて整理できる
中古PCで動くか知りたいモデルサイズガイド / 中古PCチェックメモリ、CPU、GPU、ストレージの目安が必要

ローカルAIで迷いやすいポイント

GGUFは、LM Studioなどで扱うローカルAIモデルのファイル形式のひとつです。Q4、Q5、Q8は量子化の目安で、Q4は軽め、Q5は少し品質寄り、Q8は重くなりやすい候補として見ます。

7B、8B、14B、27Bのような表記はモデル規模の目安です。数字が大きいほど賢そうに見えますが、メモリ、VRAM、保存容量、待ち時間も増えやすくなります。

LM Studioは画面操作で始めやすい入口、OllamaはコマンドやAPI連携に向く実行環境、AnythingLLMはPDFやメモなどの知識ベースとチャットをつなぐ作業場、と分けて考えると迷いにくくなります。

メモリ別の目安

PCメモリ目安初心者向けコメント
8GB軽量モデル中心大きいモデルは避けた方が安全。短いチャットで動作確認する目安です。
16GB7B〜8B級の軽量量子化が現実的まず試すならこのあたり。Q4/Q5前後から始めると切り分けやすいです。
32GB選択肢が広がる複数ツール連携や少し長めの文章にも進みやすくなります。
64GB以上大きめのモデルも試しやすいただし速度はCPU/GPUにも左右されます。最初は軽めで基準を作ると安全です。

最初に避けたいこと

  • 8GBメモリで大きいモデルや長いPDF処理から始める
  • Q8や14B以上を高性能そうという理由だけで最初に選ぶ
  • 中古PC購入前にメモリ増設可否、SSD空き容量、CPU世代、GPU/VRAMを確認しない

次に読むべきページ