LM Studioで最初に選ぶモデルは？7B・8B・Q4_K_Mの選び方

local modelとagent modelは別に選ぶ

最初の1本はlocal chatでPC負荷と日本語品質を確認し、BionicやHermesのagent作業はその後に足します。巨大open modelをcloudで選べることと、手元のGGUFを選ぶことは別の判断です。

• Kimi K3はlocalかcloudか - 巨大open modelとlocal executionを分ける
• agent workloadの負荷 - agentへ広げた時のPC負荷を見る

LM Studio公式の開始フローと、最初の1本で記録する条件

現行のLM Studio公式Get startedでは、System Requirementsを確認し、Discoverでモデルをダウンロードし、Chatのmodel loaderでメモリへロードしてから会話を始める流れです。最初のモデル選びは、名前や人気だけでなく、この一連の流れを同じ条件で再現できるかを確認します。

公式Download an LLMでは、キーワード、user/model、Hugging Face URLで検索でき、同じモデルにQ3_K_SやQ8などの量子化候補が並ぶ場合があります。4-bit以上を選ぶ案内もありますが、「自分のマシンが対応できるなら」という条件付きです。量子化名だけで速度や品質を保証しません。

• LM Studio公式の開始手順 - Discover、Chatのmodel loader、RAMへloadする流れを確認する
• 公式のモデル検索・ダウンロード - 検索方法、量子化候補、My Modelsの保存先を確認する
• 公式System Requirements - Windows x64/ARM、AVX2、RAM/VRAM推奨を確認する

検索結果から最初の1本を固定する

LM StudioのDownload an LLMでは、キーワード、`user/model`、Hugging FaceのURLから候補を探せます。WindowsではDiscoverへ`Ctrl + 2`で移動できるため、検索結果を眺め続けるより、用途、モデル系列、形式、量子化、ファイルサイズの順に条件を固定します。

CLIを使う場合の`lms get`は取得の入口です。公式仕様では、モデル名に`@q4_k_m`のような量子化指定を付けられ、`--gguf`または`--mlx`で形式を絞れます。ただしLM Studio公式docsのruntime境界は、Mac・Windows・Linuxではllama.cpp（GGUF）、Apple Silicon Macでは追加でMLXです。`--mlx`はCLIの検索filterとして存在しますが、Windowsの通常のローカルruntime候補ではありません。WindowsではGGUF / llama.cpp側を先に確認し、`--mlx`が入力不能だと断定するのではなく、MLXの検索結果をWindows用runtimeと誤認しないようにします。

• LM Studioのモデル検索・ダウンロード - keyword、user/model、URL、量子化候補、My Modelsを確認する
• lms get公式docs - model@quant、GGUF・MLX、候補表示の指定を見る
• LM Studio CLIの全体像 - 取得・一覧・ロード・chatを分けて確認する

ロード前にlms load --estimate-onlyで候補を検証する

ダウンロード済みでも、最初から実ロードを繰り返す必要はありません。`lms ls`で保存済みのmodel keyを確認し、`lms load --estimate-only <model_key>`でロードせずに資源見積もりを出してから、context lengthとGPU条件を決めます。estimateはロード可能性を考える材料であり、tokens/s、回答品質、長時間の安定性を測るベンチマークではありません。

LM Studio公式CLI Docsでは、`--context-length`と`--gpu`の指定が見積もりへ反映され、見積もりにはcontext length、Flash Attention、モデルがvision-enabledかどうかも考慮されると説明されています。候補を比べる時はcontext lengthとGPU条件を揃え、Flash Attentionの条件とvision対応の有無も記録します。見積もりは実ロードの成否や速度の測定値ではありません。

lms get <model> --gguf
lms ls
lms load --estimate-only <model_key> --context-length 4096 --gpu off
lms load <model_key> --context-length 4096 --gpu off
lms chat <model_key> -p "短い固定質問"

1. `lms ls`から実際のmodel keyを1つ選び、モデル名やフォルダ名を推測で置き換えない。
2. `--estimate-only`でcontext lengthとGPU条件を揃え、Flash Attentionの条件とvision対応も記録する。資源不足なら小さいモデルか軽い量子化へ戻る。
3. 実ロード後に`lms chat`で短い同一質問を送り、ロード可否、初回待ち時間、回答、日本語の崩れを記録する。
4. 別モデルを比較するときだけ同じ条件を繰り返し、agent、長文、RAGは最初の1本の判定後に追加する。

• lms load公式docs - estimate-only、context length、GPU、TTLの仕様を見る
• モデル選び後のCLI手順 - lms ls、load、ps、chatの全体手順へ進む
• GPUオフロードの切り分け - GPU設定と実際の速度を分けて確認する

GGUFクラスターから来た人へ

最初の1本は、モデル名だけで決めず、GGUF版か、Instruct/Chat向けか、7B/8B級か、Q4_K_M前後か、licenseが確認できるかを順に見ます。

• GGUF版とは？ - 公式配布とコミュニティ配布を分ける
• GGUFファイル名の読み方 - Instruct / Chat / Q4_K_Mを読む
• 日本語GGUFモデルの選び方 - 日本語チャット用途で確認する

最初のモデルは「軽さ」と「出所」を両方見る

LM Studioで最初に選ぶモデルは、PCに合う軽さだけでなく、Model Card、配布者、元モデル、licenseも確認します。知らないGGUFを試す時は、個人情報やAPIキーを入力しない短い質問から始めます。

• ローカルAIモデル安全研究ガイド - GGUF量子化安全とRAG/NPUをまとめて読む
• GGUF量子化安全の基礎 - Q4/Q5/Q8と安全性を分ける
• Hugging Face安全チェック - model card、license、配布元を見る

最初の1本は研究ベンチより体感確認を優先する

最初から大きいQ8や長文PDFを試すと、モデル選びとPC負荷の問題が混ざります。小型モデル、Q4/Q5、短い日本語質問から始めると、自分のPCでの現実が見えます。

1. 7B/8B級または軽量モデルを1つ選ぶ
2. Model Card、license、base model、intended useを見る
3. 短い日本語質問を3つ試す
4. 速度とPC負荷をメモする
5. 必要になってからQ5/Q8や別モデルを比較する

• 小型LLM研究ガイド - 速度・メモリ・精度・電力・プライバシーをまとめて確認する
• Q4/Q5/Q8研究ガイド - 量子化の犠牲と選び方を深く読む
• GGUFモデル選び診断 - PC条件から最初の量子化モデルを絞る

GGUFとは？から来た人へ

GGUFの基本が分かったら、LM Studioでは「最初の1本」を軽く決める段階に進みます。ここでは、GGUF版かどうかだけでなく、Instruct / Chat / Base、7B / 8B、Q4_K_M、license、配布元を合わせて見ます。

• GGUFとは？読み方・GGUF版 - 用語が曖昧なら入口へ戻る
• Hugging FaceでGGUFモデルを探す方法 - Model CardとFilesを見る

ファイル名で見る順番

1. InstructまたはChatかを見て、会話用途に調整された候補を選びます。
2. 7B/8Bなどモデル規模を見て、まずPCに無理のない大きさへ絞ります。
3. Q4_K_Mを基準にし、余裕が確認できてからQ5_K_Mを比較します。
4. GGUFであること、配布者、README、ライセンス、必要なチャットテンプレートを確認します。
5. 短い日本語質問、要約、箇条書きの3種類で試し、期待だけで巨大モデルへ移らないようにします。

日本語性能はモデル名やサイズだけでは決まりません。学習・調整内容、プロンプト、量子化、用途で変わるため、まず7B/8B Q4_K_M級で動作と回答傾向を確認し、足りない点を言語化してから次を選びます。

トラブル後は最初の1本へ戻す

LM Studioが遅い、途中で止まる、モデルが読み込めない時は、この記事の基準へ戻って「安定して動く最初の1本」を作り直します。大きいモデルやQ8で原因を探すより、Instruct / Chat向け、7B/8B級、Q4_K_M前後、短い日本語質問で再確認するほうが安全です。

• LM Studio症状別トラブルシュート - 遅い・止まる・起動しない時の確認順を見る
• ローカルAIのモデルサイズ早見表 - PCメモリに合うサイズへ戻す

最初の1本を選ぶ5条件

PCスペック別の開始目安

LM Studioで選ぶ順番

1. モデル名より先に、モデルカードと用途を読む。
2. GGUFの中からInstructまたはChat向けを選ぶ。
3. 7B/8B級、Q4_K_M前後、PCに収まるファイル容量へ絞る。
4. ロード後に「日本語で3行に要約して」など短い質問を試す。
5. 速度、メモリ、回答品質を記録し、次にQ5や別モデルを比較する。

最初のテスト質問

• 「自己紹介を日本語で3文にまとめてください」
• 「次の文章を3つの箇条書きで要約してください」
• 「分からない場合は推測せず、分からないと答えてください」
• 同じ質問を2回送り、速度と回答の安定性を見る。

うまく動かない時の戻り方

次に読む記事

• GGUFとは - ファイル形式と表示の意味を確認する
• Q4・Q5・Q8の違い - 量子化を比較する
• モデルサイズ早見表 - PCメモリ別の範囲を見る
• GPUオフロードとは - CPUだけ使われる時に確認する