GGUFファイル名の読み方｜Q4_K_M・Instruct・Chat・mmproj・MTPを初心者向けに整理

まず結論：全部読めなくてよい

ggmlのGGUF仕様には命名規則の説明がありますが、実際の配布ファイル名は完全に機械的に読めるとは限りません。重要なのは、会話用の本体モデルなのか、どのくらい大きいのか、どの量子化なのか、自分のPCに無理がないかです。

• GGUFとは？親記事 - 読み方、GGUF版、Q4/Q5/Q8、モデル選びの全体像へ戻る
• GGUFモデル選び診断 - メモリ、GPU、用途から最初の候補を絞る

Q4_K_M / Q5_K_M / Q8_0の見方

Q4_K_M、Q5_K_M、Q8_0は、初心者には「軽さと品質のバランスを見る目印」として扱うと分かりやすいです。Q4は軽め、Q5は少し品質寄り、Q8は重くなりやすい候補として見ます。ただし、モデルやPC環境で体感は変わります。

• Q4/Q5/Q8の違い - 量子化の詳しい見方へ進む

Instruct / Chat / Base の違い

表記だけで品質は決まりません。Model Cardの用途、推奨プロンプト、チャットテンプレート、日本語対応の説明も確認してください。

7B / 8B / 14B / 32B の見方

7B、8B、14B、32Bはモデル規模の目安です。大きいほど賢い可能性はありますが、必要メモリ、VRAM、読み込み時間、発熱も増えやすくなります。Windows初心者は、まず7B/8B級の軽めの量子化から始めるほうが切り分けしやすいです。

• ローカルAIのモデルサイズ早見表 - 8GB/16GB/32GBの一般的な目安を見る

mmprojやMTPなどのsidecarに注意

GGUF仕様では、mmprojやmtpのようなsidecarが説明されています。mmprojはマルチモーダル用の補助部品、mtpは投機的デコードなどで使う補助モジュールの文脈があります。これらは単体の会話モデル本体ではない場合があります。

LM StudioやHugging Faceで見かけたときは、「このファイルだけでチャットできる本体か」「別のベースモデルと一緒に使う補助ファイルか」をREADMEで確認します。

読み取り例

分割GGUFの番号と必要な一式

次の3行は、番号の読み方を示す架空のファイル名です。実在のモデルを取得・ロードした例ではありません。

example-Q4_K_M-00001-of-00003.gguf
example-Q4_K_M-00002-of-00003.gguf
example-Q4_K_M-00003-of-00003.gguf

この例では番号が分割ファイルの順番と全体の数を示し、Q4_K_Mは量子化の表記です。分割された重みは複数ファイルに分かれるため、先頭ファイルの容量はモデル一式の総容量ではなく、先頭ファイルだけにすべての重みデータが入るとも限りません。

配布元の同じモデルの版（revision）・量子化の分割ファイル一式を選び、配布ページに載る全ファイル名と容量を照合します。ファイル名だけではメタデータ、ファイルの完全性、実行環境との対応までは確かめられません。

llama.cppの現在の読み込み処理は分割数と分割番号などのメタデータを見て、先頭の分割ファイルを起点に、後続ファイルの番号や重みデータの名前・総数を確かめます。llama.cppのテストには00001-of-...のファイルを指定して読み込む例がありますが、これはllama.cppの実装・テストの範囲であり、LM Studioなどすべての読み込みアプリ・実行環境の版別対応を保証するものではありません。単純なバイト連結は、GGUFに対応した結合ツールの処理とは別です。不足したファイルを別の版で代用せず、元の配布一式と使うアプリの公式案内を確認します。

• GGUFが途中で壊れていないか確認する - 配布元と手元のファイル数・容量が合わない時の切り分けへ進む

読めない時に確認する順番

1. ファイル拡張子が.ggufか確認する。
2. Instruct / Chat / Baseなど用途を探す。
3. 7B/8B/14B/32Bなどサイズを見る。
4. Q4_K_M / Q5_K_M / Q8_0など量子化を見る。
5. mmproj / mtp / LoRA / vocabなど補助ファイルらしき表記を確認する。
6. 最後にModel CardとREADMEで用途、license、推奨ツールを確認する。