GGUFとは？LM Studioで迷うGGUF版・Q4/Q5/Q8・ファイル名の読み方

導入前に確認すること

• Windowsのバージョン、メモリ容量、GPU/VRAM、空き容量を確認する
• 最初は軽量モデル、短い質問、少ない同時作業から始める
• 公式サイトの対応OS、利用規約、モデルのライセンスを確認する

GGUFは安全性そのものを保証する形式ではない

GGUFは、tensorとmetadataを含む推論用ファイル形式です。LM Studioやllama.cppで扱いやすい一方、ファイル形式そのものが配布物の安全性やlicenseを保証するわけではありません。

• ローカルAIモデル安全研究ガイド - GGUF量子化安全とRAG/NPUをまとめて読む
• GGUF量子化安全の基礎 - Q4/Q5/Q8と安全性を分ける
• Hugging Face安全チェック - model card、license、配布元を見る

小型LLM研究から見るGGUFの位置づけ

GGUFは「軽いモデル」そのものではなく、tensorとmetadataを含む推論用ファイル形式です。軽さは主にモデルサイズ、量子化、context、実行環境で決まります。

• 小型LLM研究ガイド - 速度・メモリ・精度・電力・プライバシーをまとめて確認する
• Q4/Q5/Q8研究ガイド - 量子化の犠牲と選び方を深く読む
• GGUFモデル選び診断 - PC条件から最初の量子化モデルを絞る

まず結論：GGUFは「ローカルAIでモデルを読み込むためのファイル形式」

• GGUFはAIモデルの賢さそのものではなく、LM Studioやllama.cpp系ツールで読み込むための形式です。
• 「GGUF版」は、元モデルをGGUF形式に変換・量子化して配布しているものを指すことが多いです。
• 初心者は、GGUFかどうか、Instruct/Chat向けか、7B/8B級か、Q4_K_M前後か、配布元とライセンス、の順で見ます。
• GGUF形式でも、配布元・ライセンス・元モデル・量子化品質は別問題です。

• 量子化Q4/Q5/Q8を先に選ぶ - 軽さと品質の基準を作る
• GGUFモデル選び診断 - メモリ・GPU・用途から最初の1本を絞る
• Hugging FaceでGGUFモデルを探す - Model Cardとライセンスを確認する
• Hermes DesktopとLM Studioの接続へ - 選んだモデルをHermesへつなぐ

GGUFとは？AIモデル名ではなくファイル形式

GGUFは「モデル名」や「性能ランク」ではありません。ggmlの仕様では、GGML系の実行環境で推論に使うモデルを保存するファイル形式として説明されています。LM Studioでモデルを探す時は、まず形式としてのGGUFを確認し、その後にモデルの用途、規模、量子化、配布元を見ます。

そのため「GGUFなら安全」「GGUFなら商用利用できる」「GGUFなら必ずLM Studioで快適」とは言えません。形式の確認は入口で、その後のModel Card確認が本番です。

GGUF版とは？元モデル・変換者・量子化を分けて見る

Hugging Faceなどで見かける「GGUF版」は、元モデルをGGUF形式へ変換し、Q4_K_MやQ5_K_Mなどに量子化して配布したものを指すことが多いです。元モデルを作った人、GGUFへ変換した人、量子化方式、ライセンスは別々に確認します。

LM StudioでGGUFを選ぶ順番

1. 拡張子や形式が .gguf か確認する。
2. Instruct / Chat 向けか、Baseモデルかを確認する。
3. 7B / 8B / 14B / 32Bなどモデル規模を見る。
4. Q4_K_M / Q5_K_M / Q8_0など量子化を見る。
5. 配布元、元モデル、Model Card、ライセンスを確認する。
6. 最初は7B/8B級のQ4_K_M前後で短い日本語質問を試す。

GGUFファイル名の読み方

ggmlのGGUF仕様には命名規則の考え方がありますが、実際のファイル名は配布者ごとに揺れます。最低限、モデル系列、規模、用途、量子化、形式を左から拾い、分からない部分はREADMEとModel Cardへ戻ってください。

Q4_K_M / Q5_K_M / Q8_0は何が違うか

量子化は品質順位だけでなく、自分のPCで動くかを見るための軸です。同じQ4でも7Bと35Bでは重さがまったく違います。

16GB / 32GB / GPUありなしで最初に選ぶ目安

PCスペック、メモリ、VRAM、同時起動アプリ、コンテキスト長で体感は変わります。接続確認やトラブル切り分けでは、軽いモデルで成功確認してから重いモデルへ移る方が安全です。

• モデルサイズ早見表 - 7B/8B/14Bの現実ラインを見る
• LM StudioのGPUオフロード - VRAMとCPU/GPU負荷を確認する

Hugging FaceでGGUFを見る時の注意点

• Model Cardで元モデル、用途、ライセンス、推奨設定を確認する。
• Files欄で .gguf、量子化、ファイルサイズを分けて確認する。
• GGUF版の配布者と元モデル作者を混同しない。
• 商用利用や再配布の可否はGGUF形式ではなくライセンスで判断する。
• 説明が薄い、用途不明、元モデルへ戻れない配布物は慎重に扱う。

• Hugging FaceでGGUFモデルを探す方法 - ダウンロード前の確認項目へ進む
• ローカルAIでよくあるトラブル - 読み込み・停止・重さを切り分ける

次に読む記事: 量子化・モデルサイズ・Hermes接続へ

GGUFの意味が分かったら、次は量子化、モデルサイズ、LM Studioでの最初のモデル、Hermes Desktop接続の順に進むと迷いにくくなります。

• Q4/Q5/Q8の違い - 軽さと品質の基準を決める
• LM Studioで最初に選ぶモデル - 1本目を決める
• GGUFモデル選び診断 - PC条件から候補を絞る
• Hermes DesktopとLM Studioを接続する方法 - モデルをHermes側へつなぐ

30秒結論：GGUF・7B/8B・Q4/Q5は別の情報

16GBメモリならどこから試すか

16GBはOSやブラウザも同じメモリを使います。モデルファイル容量だけでなく、実行時の余裕、コンテキスト長、GPU/VRAMも含めて判断してください。

GGUF選びでよくある失敗

GGUFクラスターの読み順

• Q4・Q5・Q8の違い - 量子化をもう少し詳しく選ぶ
• PCメモリ別モデルサイズ早見表 - 8GB・16GB・32GBの現実的な範囲を見る
• LM Studioで最初のモデルを選ぶ - 最初の1本を決めて試す
• Hugging FaceでGGUFを探す - ファイル名とモデルカードを確認する

検索から来た人向けの3行結論

• GGUFは、LM Studioなどでよく使うローカルAIモデルのファイル形式です。
• 初心者は、GGUFかどうかだけでなく、7B/8B/13B、Q4_K_M/Q5_K_M/Q8_0、ファイルサイズをセットで見てください。
• 迷ったら、いきなりQ8や14B以上ではなく、7B〜8B級のQ4_K_M前後から試す方が安全です。

この記事でわかること

GGUFが、LM StudioでローカルAIモデルを扱うときによく出てくるファイル形式であることを説明します。あわせて、モデル形式、量子化、ファイルサイズの関係を、初心者が選ぶときの判断基準として整理します。

この記事では内部構造の細かい話よりも、モデル一覧で何を見ればよいか、どの表示に注意すればよいかを中心に扱います。LM Studioを開いてモデルを探す前の用語メモとして読むと分かりやすい内容です。

まず結論

GGUFは、ローカルAIモデルをPC上で使いやすい形にまとめたファイル形式の一つです。LM Studioでは、このGGUF形式のモデルを探して、ダウンロードし、チャットに使う流れがよくあります。

初心者は、GGUFという言葉そのものよりも、モデル名、モデルサイズ、量子化の種類、ファイルサイズ、自分のPCスペックとの相性を見ることが大切です。迷ったら、いきなり大きなモデルを選ばず、軽めの量子化形式から始めるほうが失敗しにくくなります。

GGUFとは？

GGUFは、AIモデルをローカルPCで扱うための入れ物のようなものです。文章生成AIのモデルは、そのままだと容量が大きかったり、特定の環境向けだったりします。以下の図では、GGUF、モデルサイズ、量子化の違いを分けて整理しています。

LM Studioでモデルを選ぶときは、GGUF、7B/8B/13Bなどのサイズ、Q4/Q5などの量子化を混同しないことが大切です。GGUF形式では、ローカルで扱いやすいようにモデルの情報や重みを一つのファイルとして配布できるため、LM Studioのようなツールで選びやすくなります。

たとえば同じモデル名でも、GGUF版、別形式の版、量子化の違う版が並ぶことがあります。これは、同じ本にハードカバー版、文庫版、電子版があるようなものです。中身の元になっているモデルが近くても、扱いやすさや必要なPCスペックの目安は変わります。

GGUFの読み方

GGUFは、日本語では「ジージーユーエフ」とアルファベット読みされることが多いです。会話や検索では「ジージーユーエフ」「GGUFとは」「GGUF版」のように扱えば問題ありません。

読み方そのものよりも、LM Studioで見かけるGGUFがローカルAIモデルのファイル形式を指していることを理解しておくほうが、モデル選びでは役に立ちます。

GGUF版とはどういう意味？

モデル配布ページで「GGUF版」と書かれている場合は、そのモデルをGGUFというファイル形式で使えるようにした版、という意味で見ると分かりやすいです。同じ元モデルでも、GGUF版、別形式の版、量子化の違う版が並ぶことがあります。

GGUF版だから必ず軽い、必ず高品質、必ず自分のPCで快適、という意味ではありません。モデルサイズ、Q4/Q5などの量子化、ファイルサイズ、自分のメモリやVRAMを合わせて見る必要があります。

LM StudioでGGUFが出てくる理由

LM Studioは、Windows初心者でも画面操作でモデルを探し、ダウンロードし、チャットを始めやすいGUIツールです。そのモデル探索画面では、ローカルで動かしやすい形式としてGGUFがよく登場します。

コマンド操作に慣れていない人でも、LM Studioならモデル一覧、ファイルサイズ、量子化の種類を画面上で見比べやすいです。詳しい始め方は「Windows版LM Studioの始め方」や「LM Studioとは？」の記事に分けているので、ここではGGUFという用語に集中します。

LM StudioでGGUFファイルを選ぶときに見るポイント

GGUFファイルを選ぶときは、モデル名だけで決めないでください。以下の図では、GGUF、7B/8B/13B、Q4_K_MやQ5_K_M、ファイルサイズを、LM Studioで最初に見る判断材料として整理しています。

初心者は、7B/8B/13Bなどのモデルサイズ、Q4_K_MやQ5_K_Mなどの量子化、ファイルサイズ、日本語での利用例、ライセンス、必要なメモリやVRAMの目安をまとめて見ると失敗しにくくなります。厳密な性能はモデルやPC環境によって変わるため、最初は「軽めに試す」前提で選んでください。

GGUFとモデルサイズの関係

GGUFはファイル形式で、7B、8B、13Bのようなモデルサイズとは別の話です。GGUF形式でも小さめのモデルもあれば、大きめのモデルもあります。初心者は「GGUFなら大丈夫」と考えず、モデルサイズも一緒に確認してください。

メモリ8GBやGPUなしPCでは、GGUF形式の中でも軽量な7B/8B級や小さめの量子化から試すほうが現実的です。16GBや32GBでも、長文やPDF活用では余裕が変わるため、モデルサイズ記事と合わせて見ると判断しやすくなります。

GGUFとQ4_K_M / Q5_K_M / Q8_0の関係

モデル形式は、AIモデルをどの形で保存し、どのツールで扱うかに関わります。GGUFはその形式の一つです。量子化は、モデルを軽く扱うための圧縮に近い考え方で、Q4_K_M、Q5_K_M、Q8_0のような表記で見かけます。

ファイルサイズは、保存容量や読み込み時の負担に関わります。一般的には、軽い量子化形式ほどファイルサイズが小さくなりやすく、PCへの負担も抑えやすい傾向があります。ただし、数字が大きければ常に自分に合うとは限りません。詳しくは「量子化とは？Q4・Q5・Q8の違い」や「ローカルAIのモデルサイズとは？」も合わせて見るとつながります。

初心者はとりあえずどのGGUFを選べばいい？

最初に見るのは、モデルサイズ、量子化、ファイルサイズ、説明文です。7Bや8Bのようなサイズ表記はモデルの規模の目安で、Q4_K_MやQ5_K_Mは軽さと品質のバランスに関わる目安です。ファイルサイズが大きいほど保存容量も使います。

Windows初心者は、人気や名前だけで選ぶより、自分のメモリ、VRAM、保存容量に対して無理が少なそうかを確認してください。GPUなしPCやメモリ8GBのPCでは、軽量モデルから始めるほうが原因を切り分けやすくなります。

メモリ8GB / 16GB / 32GBでGGUFを選ぶ目安

メモリ8GBではかなり余裕が少ないため、軽量モデルやQ4前後の量子化から短い質問で試すのが現実的です。ブラウザや重いアプリを閉じても重い場合は、さらに小さいモデルへ戻してください。

メモリ16GBは、Windows初心者がLM StudioでGGUFモデルを試す現実的なラインになりやすいです。32GBあると、複数候補の比較や少し大きめのモデルも検討しやすくなります。ただし、必要な余裕はモデル、量子化、同時に開くアプリ、GPU/VRAMの有無で変わるため、あくまで目安として扱ってください。

GPUなしPCでGGUFを使うときの注意点

GPUなしPCでも、軽量なGGUFモデルなら試せる場合があります。ただしCPU実行が中心になるため、返答が遅い、途中で止まったように見える、他のアプリが重くなるといったことは起きやすくなります。

GPUなし、メモリ8GB、空き容量が少ないPCでは、いきなり大きいGGUFを選ばず、7B/8B級やQ4_K_M前後の軽い候補から短い質問で試してください。重い場合は、モデルサイズ、Q4_K_M/Q5_K_M、ファイルサイズを見直すのが現実的です。

よくある失敗

GGUFなら何でも初心者向け、というわけではありません。GGUF形式でも、モデルが大きすぎたり、量子化が重めだったりすると、PCによっては扱いにくくなります。

また、ファイルサイズが大きいほど常に良いとも言えません。文章の用途、日本語への向き不向き、PCスペック、ツールとの相性によって選び方は変わります。まずは軽めの候補で使い方を覚え、必要に応じて別の形式やサイズを比べるのが現実的です。

• 大きいGGUFファイルをいきなり選ぶ
• Q4/Q5の意味を見ずに選ぶ
• 7B/8B/13Bの違いを見ない
• 日本語で使えるか確認しない
• GPUなしPCで重いモデルを選ぶ
• ストレージ容量を見ずにダウンロードする
• モデルのライセンスを確認しない

向いている人

GGUF形式のモデルは、LM Studioで画面を見ながらローカルAIを始めたい人、モデル一覧から選んでチャットを試したい人、コマンド操作よりGUIで進めたい人に向きやすいです。

特に、ローカルAIの最初の一歩として、モデルを一つ選び、保存し、チャット画面で短い文章を試したい人には理解しておきたい用語です。

向いていない人

API連携、サーバー運用、他ツールとの自動連携を中心に考えるなら、GGUFだけを見ても判断しきれません。その場合はOllamaやAnythingLLMとの組み合わせ、利用するモデルのライセンス、管理方法まで確認する必要があります。

また、モデル形式の内部仕様を深く知りたい開発者には、この記事だけでは浅く感じるかもしれません。この記事は、Windows初心者が最初のモデル選びで迷いにくくなることを目的にしています。

導入前に確認すること

導入前には、空き容量、メモリ容量、GPUとVRAMの有無、使いたい用途を確認します。モデルファイルは数GBになることが多いため、保存容量に余裕がないとダウンロードの時点でつまずきます。

あわせて、モデルの配布ページにあるライセンスや利用条件も見てください。個人の学習や試用と、仕事や公開サービスでの利用では注意点が変わる場合があります。

次に読むべき記事

LM StudioでGGUFモデルを選ぶ前後に読む記事を、目的別に整理します。モデル選び、量子化、サイズ、トラブル、GPUなしPCの順に確認すると、検索画面やモデル一覧で迷いにくくなります。

• LM Studioで最初に選ぶモデル - GGUF、Q4/Q5、7B/8Bを見ながら最初の1本を選ぶ考え方
• 7B/8Bなどモデルサイズの見方 - モデル規模とPCへの負担を整理
• Q4/Q5と量子化の違い - 軽さと品質のバランスを確認
• LM Studioのインストール手順 - Windowsで導入してチャット開始まで進む流れ
• LM Studioが途中で止まるときの確認ポイント - メモリ、VRAM、モデルサイズ、Q4/Q5を見直す
• GPUなしPCでGGUFを使うときの注意点 - CPU実行や軽量モデル前提で考える
• メモリ8GB/16GB/32GBでの選び方 - メモリ別に現実的なローカルAIの始め方を確認
• ローカルAI用PCスペックの見方 - メモリ、GPU、VRAM、ストレージを確認

自分のPCで動くか不安な場合は、GPUなしPCの記事、メモリ別の記事、トラブル解決の記事を先に読むと、モデル選びの失敗を減らしやすくなります。

最後のまとめ

GGUFは、LM StudioでローカルAIモデルを探すときに出会いやすいファイル形式です。初心者は、用語の細部よりも、モデルサイズ、量子化、ファイルサイズ、PCスペックとの相性を見れば十分に判断しやすくなります。

最初は軽めのモデルで使い方を覚え、必要に応じて別の量子化形式やモデルサイズを試す流れが安心です。GGUFは難しい専門用語というより、モデル選びの入口で覚えておきたい目印として捉えるとよいでしょう。

新しいローカルAIモデルの確認ポイント

Gemma 4 12Bのような新しいモデルを見るときは、モデル名だけで判断せず、公式情報、対応ツール、GGUF/量子化版、必要メモリ、ライセンスを分けて確認します。通常記事では長く使える基礎を扱い、時点依存の情報は更新メモで整理します。

• ローカルAI更新メモ - 新しいモデル・ツール更新を公開時点の情報として確認する
• Gemma 4 12Bの更新メモ - 12B級モデルをWindows PCで試す前の確認ポイントを見る

初心者向けの結論カード

メモリ16GBのWindows PCなら、まずは7B〜8B級のQ4系または軽めのQ5系を目安にすると、動作確認と品質確認のバランスを取りやすいです。8GBなら、さらに軽いモデルや短いチャットから試してください。

Q8や14B以上のモデルは、最初に選ぶと読み込みや回答が重くなりやすいです。迷ったら、軽めのGGUFで「起動するか」「日本語で短く答えられるか」「PCが固まらないか」を確認してから、少しずつ上げるほうが安全です。

避けた方がいいGGUFの選び方

ファイルサイズが大きいほど良い、Q8なら必ず高品質、GGUFならどれでもLM Studioで快適、と考えると失敗しやすいです。実際には、モデルサイズ、量子化、PCメモリ、GPU/VRAM、同時に開いているアプリで体感が変わります。

Hugging Faceで同じモデル名のファイルがたくさんある場合は、まず7B/8B級、Q4_K_MやQ5_K_M、ファイルサイズ、日本語利用例、ライセンスを順番に見ます。配布ページの上にあるものをそのまま選ぶより、自分のPCに合う軽さを優先してください。

GGUFモデルが重くて止まる場合

LM StudioでGGUFモデルの生成が途中で止まる、固まる、読み込みが長すぎる場合は、GGUF形式そのものよりもモデルサイズ、量子化、メモリ/VRAM不足、長すぎる入力が原因になっていることがあります。

• GGUFモデルが重くて生成が止まる時の確認ポイント - 軽いGGUF、Q4前後、短いプロンプトで切り分ける

WindowsローカルAI開始ガイドも確認する

GGUFだけでなく、LM Studio、Ollama、AnythingLLM、モデルサイズ、メモリ目安まで一度に整理したい場合は、WindowsローカルAI開始ガイドを入口にしてください。ツール選びとモデル選びを分けて考えると、最初の構成を決めやすくなります。

• WindowsでローカルAIを始める完全ガイド - LM Studio、Ollama、GGUF、AnythingLLMの全体像を確認する
• Hermes Desktopとは？ - GGUFを動かした後、作業エージェント化したい場合の選択肢を見る
• AnythingLLMとは？ - PDFやメモを使いたい場合の役割を確認する
• LM StudioとOllamaの違い - GUIで始めるか、コマンド/APIで進めるかを比較する

Qwen系GGUFで迷ったとき

Qwen3.5やQwen3.6のようにモデル名が新旧で分かれる場合も、GGUF選びでは「どの世代か」だけでなく、モデルサイズ、量子化、ファイルサイズ、PCメモリをセットで見ます。Heretic版やMTP preserved版のような派生名を見かけた場合は、公式版なのかコミュニティ派生なのかも確認してください。

• Qwen3.5とQwen3.6はどっちを選ぶ？ - Qwen系、MTP、Heretic版、GGUFの見分け方を確認する

検索意図別の次に読むページ

GGUFの意味が分かったら、次は「最初のモデル」「量子化」「モデルサイズ」「止まるときの確認」を分けて読むと、LM Studioのモデル一覧で迷いにくくなります。

• LM Studioで最初に選ぶモデルを見る - GGUF、Q4/Q5、7B/8Bを見ながら最初の1本を選ぶ
• Q4_K_M / Q5_K_M / Q8_0 の違いと選び方を見る - LM Studioで迷う量子化モデルの目安を確認する
• 7B / 8B / 13B とメモリ目安を見る - 8GB、16GB、32GBで無理の少ないサイズを考える
• GPUオフロードとは - GGUFモデルがCPUばかり使う時の確認ポイントを見る
• ローカルAIをAPIで使う方法 - LM StudioやOllamaをAPIサーバーとして使う入口を見る
• メモリ8GB・16GB・32GBでの選び方を見る - PCメモリ別に現実的な始め方を確認する
• GGUFモデルを選ぶ前にPC条件を確認する - 中古PCやミニPCでLM Studioを試せるか見落としを減らす
• GGUFを選んだあと、途中で止まるときの確認ポイントを見る - 重い、止まる、読み込めない原因を切り分ける
• WindowsでローカルAIを始める方法を見る - LM Studio、Ollama、GGUF、AnythingLLMの全体像を確認する
• Hermes Desktopとは？ - LM Studioで動かしたモデルを作業エージェント化する前に確認する
• AnythingLLMとは？PDFや資料を読ませたい人向け - GGUFモデルを選んだあと文書活用へ進む場合の入口

よくある質問

GGUFとは何ですか？

GGUFは、LM Studioやllama.cpp系ツールでローカルLLMを読み込むためのモデルファイル形式です。AIモデルの賢さそのものではなく、モデルをPCで扱うための形式として理解すると分かりやすいです。

GGUFは何と読みますか？

日本語では「ジージーユーエフ」と読まれることが多いです。公式な読み方に迷う場合でも、会話上はアルファベット読みで問題ありません。

LM StudioではなぜGGUFが出てくるのですか？

LM Studioでは、ローカルで動かすモデルとしてGGUF形式のモデルを扱う場面が多いためです。モデル一覧でファイルサイズやQ4/Q5などの表記を見ながら選ぶことになります。

GGUFはLM Studioで使うものですか？

LM Studioで扱うローカルAIモデルとしてGGUF形式を見かけることが多いですが、GGUF自体はモデルファイル形式の一つです。LM Studioでモデルを選ぶときに、GGUF、量子化、モデルサイズをあわせて確認すると選びやすくなります。

初心者はどのGGUFを選べばいいですか？

メモリ16GBなら、まず7B/8B級のInstructモデルでQ4_K_M前後を基準にすると比較しやすいです。PCと用途で調整してください。

GPUなしPCでもGGUFは使えますか？

軽量モデルなら試せる場合がありますが、速度や快適さには期待しすぎない方が安全です。重い場合はモデルサイズ、Q4/Q5、ファイルサイズを見直してください。

GGUF版とは何ですか？

元モデルをGGUF形式に変換し、Q4_K_MやQ5_K_Mなどに量子化して配布しているものを指すことが多いです。元モデル、変換者、量子化、ライセンスは分けて確認してください。

LM StudioではGGUFを選べばいいですか？

LM StudioではGGUFモデルを使う場面が多いですが、GGUFであれば何でもよいわけではありません。まずInstruct/Chat向け、7B/8B級、Q4_K_M前後、配布元とライセンスを確認します。

Q4とQ8はどちらがいいですか？

最初の動作確認ならQ4_K_M前後が無難です。Q8は品質寄りですが重くなりやすいため、メモリやVRAMに余裕がある場合の比較候補です。

GGUFファイル名はどう読めばいいですか？

多くの場合、モデル名、規模、用途、量子化、形式が含まれます。ただし命名は配布者ごとに異なるため、ファイル名だけで判断せずModel Cardも確認してください。

GGUFなら安全に使えますか？

いいえ。GGUFは形式であり、安全性やライセンスを保証するものではありません。配布元、元モデル、Model Card、ライセンス、利用条件を確認してください。

GGUFとGGMLは違いますか？

違います。GGUFはGGML系で使われてきた形式を発展させ、メタデータを持ちやすくした現在の形式です。利用ツールの対応形式を確認してください。

Q4やQ5はGGUFと同じ意味ですか？

同じではありません。GGUFは形式、Q4やQ5はモデルを軽くする量子化方式の目印です。

7Bや8Bは何を表しますか？

モデルのおおよそのパラメータ規模を表します。大きいほど必ず用途に合うわけではなく、必要メモリと速度も変わります。

GGUFは安全ですか？

形式だけで安全性は決まりません。配布者、元モデル、ライセンス、モデルカード、ファイルの出所を確認してください。

Hugging FaceでGGUFを探す時は何を見ますか？

配布者、元モデル、Instruct/Chat用途、量子化、ファイルサイズ、ライセンス、変換説明を確認します。

GGUFはLM Studio専用ですか？

専用ではありません。GGUFはllama.cpp系の実行環境などで広く使われる形式で、LM Studioはその入口として分かりやすいツールの一つです。

8GBメモリでもGGUFは使えますか？

小さいモデルや強めの量子化なら試せる場合がありますが、快適とは限りません。短い質問、短いcontext、小さめのモデルから確認してください。

Hermes DesktopはGGUFを直接読みますか？

通常はLM Studioなどのモデル実行側がGGUFを読み、Hermes Desktopはそのproviderへ接続します。GGUFの選択とHermes側の接続設定は分けて考えます。

次に読むおすすめルート

初めてローカルAIを触る人

まず全体像をつかみ、LM StudioとOllamaの違い、モデルサイズの考え方を順番に確認します。

1. クラウドAIとローカルAIの使い分け
2. ローカルLLMとは
3. ローカルAIを入れる前に確認すること
4. WindowsでローカルAIを始める完全ガイド
5. LM Studioとは
6. 小型LLM・量子化の現実
7. GGUF量子化安全とRAG/NPU研究
8. Hugging Face安全チェック
9. PDF/RAG/引用確認の現実
10. LM Studioで最初に選ぶモデル
11. GGUFモデル選び診断
12. Hugging FaceでGGUFモデルを探す方法
13. Q4/Q5/Q8の違いと選び方
14. Q4/Q5/Q8研究ガイド
15. Hermes Desktopとは
16. Hermes DesktopとLM Studio接続
17. Hermes DesktopとOllama接続
18. Hermes Desktop接続トラブル
19. Hermes AgentとDesktopの違い
20. ローカルLLMツール比較
21. ローカルAI更新メモ
22. 診断ページ

あなたはどのタイプ？

• 初めてローカルAIを触る人 - まず全体像をつかみ、LM StudioとOllamaの違い、モデルサイズの考え方を順番に確認します。
• GPUなし・低スペックPCの人 - 軽量モデル、メモリ別の目安、重いときの確認ポイントを先に見ます。
• PDFや資料を読ませたい人 - 先に基本を押さえ、モデル単体の確認後にAnythingLLMへ進みます。
• 開発・API連携したい人 - LM StudioとOllamaの違いを確認し、API、長文処理、RAGまで段階的に進みます。