LM StudioのGPUオフロードとは？CPU 100%・GPU使用率が低い時の確認

導入前に確認すること

• Windowsのバージョン、メモリ容量、GPU/VRAM、空き容量を確認する
• 最初は軽量モデル、短い質問、少ない同時作業から始める
• 公式サイトの対応OS、利用規約、モデルのライセンスを確認する

GPU offloadで速くなる場合と残るボトルネック

GPU offloadは、モデルの一部をGPUへ載せて速度改善を狙う設定です。ただしVRAM不足、CPU/RAM、context length、冷却が残ると、期待どおり速くならないことがあります。

• 電力効率ガイド - GPUとCPUの効率を読む

Hermes Desktopでつながらない時の読み順

Hermes Desktopの設定を何度も変える前に、症状別ハブで provider 側、base URL、model ID、API key、PC負荷を分けて確認してください。

• Hermes Desktopトラブル解決ハブ - connection refused、model not found、401/429、timeout、WSL2を症状別に切り分ける
• Hermes Desktop接続トラブル診断 - 数問選んで最初に疑う原因と読む記事を確認する

GPUオフロードを触る前に見る表

CPU 100%・GPU 5%でも、直ちに設定ミスとは限りません。モデルの一部だけがGPUに載っている、タスクマネージャーで3Dグラフを見ている、前処理やデータ転送をCPUが担当している場合があります。使用率だけでなく、専用GPUメモリ、LM Studioのロード設定、生成速度を合わせて見ます。

• モデルを小さくする - 7B/8BとPCメモリの目安
• Q4を選ぶ理由 - 品質と必要メモリの調整
• PCスペックを確認 - RAM・VRAM・冷却の見方
• 症状全体から探す - 停止・遅延・日本語問題を切り分け

30秒結論：CPU使用率とGPU使用率だけで判断しない

GPUオフロードとは

ローカルLLMの計算をCPUだけで行うのではなく、対応する処理をGPUへ移すことです。GPUが対応し、VRAMに余裕があり、実行環境が正しく認識している場合は、応答速度が改善することがあります。

一方、モデル全体や実行時データがVRAMに収まらない場合は、一部をCPUや共有メモリ側で扱う構成になります。オフロード数を増やしすぎると、ロード失敗、不安定化、メモリ不足につながる場合があります。

オフロード数を上げると何が変わるか

GPU使用率が低く見える理由

• Windowsタスクマネージャーが3Dグラフを表示し、計算用エンジンを見ていない。
• 生成は短い処理の繰り返しで、瞬間的な使用率を見逃している。
• モデルの一部しかGPUへオフロードされていない。
• プロンプト処理と生成でCPU/GPUの負荷配分が異なる。
• VRAM不足でCPU側や共有メモリ側の処理が増えている。

遅い時に確認する順番

1. 短い質問へ戻し、トークン生成が本当に遅いか確認する。
2. モデル規模、GGUF量子化、ファイル容量を確認する。
3. LM StudioでGPUが認識され、offload設定が有効か確認する。
4. 専用GPUメモリ使用量とPCメモリ使用量を見る。
5. offload量を段階的に変更し、ロード失敗や速度を比較する。
6. コンテキスト長を下げ、他の重いアプリを閉じる。

Windowsタスクマネージャーで見る時の注意

GPU使用率の1つの数字だけでは、LLM計算がGPUへ載っているか判断できません。GPUのグラフ種類を切り替え、Compute系の利用率、専用GPUメモリ、共有GPUメモリを確認します。LM Studio側のロード情報やログも合わせて見てください。

16GBメモリ・GPUなし・ミニPCの注意

次に確認する記事

• LM Studioが止まる・固まる原因 - メモリ不足とモデル負荷を切り分ける
• モデルサイズ早見表 - PCに合う規模へ下げる
• Q4・Q5・Q8の違い - 量子化で負荷を調整する
• GPUなしPCで使う方法 - CPU実行の現実的な範囲を見る

よくある質問

GPUオフロードを増やせば必ず速くなりますか？

必ず速くなるわけではありません。VRAM不足や不安定な設定では遅くなったり、読み込みに失敗したりする可能性があります。

CPU使用率が高いのは異常ですか？

異常とは限りません。CPU推論中心の構成、GPUに十分載っていないモデル、長いコンテキスト、重い量子化などでCPU使用率は高くなりやすいです。

GPU使用率が低いのはなぜですか？

タスクマネージャーの見方、GPUへ載っている量、処理内容、設定によって低く見える場合があります。VRAM使用量や回答速度も合わせて確認してください。

VRAMが足りないとどうなりますか？

読み込みに失敗する、CPU側へ回って遅くなる、不安定になる、といった症状につながる可能性があります。必要量はモデルと設定で変わります。

GPUなしでもLM Studioは使えますか？

軽量モデルなら試せる場合があります。ただしCPU実行では遅くなりやすいため、Q4前後、短い質問、小さめのモデルから始めてください。

Q8のほうがGPUを使えて速いですか？

そうとは限りません。Q8は重くなりやすく、VRAMやメモリに余裕がないと遅くなる場合があります。初心者はQ4/Q5前後から比較するほうが切り分けやすいです。

LM StudioでCPU 100%、GPU 5%なのは異常ですか？

必ずしも異常ではありません。GPU offloadが少ない、VRAMに収まらない、タスクマネージャーで3Dグラフを見ているなど複数の可能性があります。専用GPUメモリ、Compute系グラフ、LM Studioのロード設定を合わせて確認してください。

GPUオフロードを最大にすれば速くなりますか？

VRAMに収まり、実行環境が安定する範囲では改善することがありますが、最大が常に最速とは限りません。VRAM不足になる場合はロード失敗や不安定化が起こるため、段階的に比較してください。

GPUオフロードでCPU負荷は下がりますか？

GPUへ移せる計算が増えればCPU負荷が下がる場合があります。ただし、前処理、データ転送、GPUへ載らない処理などでCPUも使うため、0%になるとは限りません。

次に読むおすすめルート

GPUなし・低スペックPCの人

軽量モデル、メモリ別の目安、重いときの確認ポイントを先に見ます。

1. ローカルAI用PCスペックの見方
2. GPUなしPCで使える範囲を整理
3. 古いWindows PCでLM Studioを使うなら
4. 中古PCでローカルAIは使える？
5. ミニPCでローカルAIは使える？
6. メモリ別に始める前に知ること
7. Gemma 4 12Bの更新メモ
8. 重い・動かないときの確認ポイント
9. 診断ページ

あなたはどのタイプ？

• 初めてローカルAIを触る人 - まず全体像をつかみ、LM StudioとOllamaの違い、モデルサイズの考え方を順番に確認します。
• GPUなし・低スペックPCの人 - 軽量モデル、メモリ別の目安、重いときの確認ポイントを先に見ます。
• PDFや資料を読ませたい人 - 先に基本を押さえ、モデル単体の確認後にAnythingLLMへ進みます。
• 開発・API連携したい人 - LM StudioとOllamaの違いを確認し、API、長文処理、RAGまで段階的に進みます。