WindowsでローカルLLMを追加学習する方法｜LoRA・Unsloth・評価手順

追加学習の前に、prompt・RAG・LoRAを選び分ける

追加学習は、重みを学習してmodelの出力傾向を調整する方法です。変わりやすい事実を参照させたいだけなら、modelへ覚え込ませるより、文書を更新できるRAGのほうが管理しやすい場合があります。まず目的を一つの作業と判定条件に分けます。

「自分の資料を学習させたい」という理由だけでは成功条件になりません。文章の更新、引用元の提示、削除や権限の管理が必要なら、RAGの文書管理も候補にします。学習を選ぶ場合は、どの入力で何を返せば改善と判定するかを先に書き出してください。

• RAG・埋め込み・ベクトルDBの仕組み - 文書を検索して回答へ使う流れを確認する
• OllamaのModelfileをWindowsで使う方法 - 学習前にSYSTEMや生成条件だけを固定する方法を見る

LoRA・QLoRAはbase modelに追加する学習adapter

LoRAでは一般にbase modelの重みを固定し、追加する低ランクadapterの重みを学習します。QLoRAは学習時のbase modelを量子化してメモリ使用を抑える方式です。どちらも必要メモリや対応状況はmodel、sequence length、batch、実装により変わり、特定のGPUで動く保証にはなりません。

最初の比較では、SFT（正解例を使う教師あり学習）とLoRAまたはQLoRAから検討します。full fine-tuningや強化学習を先に選ばず、データ、評価、exportまで通る小さな構成を作ります。adapter checkpointは単独の完成modelではありません。後から同じbase modelへ読み込めるよう、PEFTの設定ファイルや学習記録も一緒に保管します。

• Hugging Face PEFTのLoRA解説 - base weightsとLoRA adapterの関係を見る
• Hugging Face PEFT checkpoint形式 - adapter weightsと設定ファイルの構成を見る

Windowsの学習環境とmodel要件を確認する

Unsloth Desktopの公式docsはアプリをBetaと表示し、Windows向けインストールとmodel学習を案内しています。Windows上で学習するときのrequirementsページはWindows 10/11 64-bit、NVIDIA GPU driver、App Installer、Git、Pythonの対応範囲と仮想環境を挙げています。Desktop、Studio、Coreで要件が異なるため、同じ「Unsloth対応」を全GPU・全方式へ一般化しないでください。

1. 学習したい用途と対象modelを決め、model cardの利用条件、architecture、対応する学習方法を確認する。
2. 公式requirementsで選んだUnsloth製品、Windows、GPU、driver、Python環境の組み合わせを照合する。
3. VRAM表の値だけでPCを判定せず、sequence length、batch size、同時起動アプリ、学習中の実測を考慮する。
4. 初回に必要なアプリ、Python package、base modelのダウンロード容量と保存先を確認する。

このページではPCやUnslothを実際に使った学習・速度測定はしていません。公式の最小VRAM目安が掲載されていても、OSの空きメモリ、画像表示、context、model形式、設定によって失敗する場合があります。購入や依存関係の追加を決める前に、対象versionのrequirementsとmodelごとの案内を確認してください。

• Unsloth Desktop公式docs - アプリのBeta表記と現在の機能を見る
• Unsloth Windows requirements - Windows・GPU・Pythonの現在の条件を見る
• ローカルAIのモデルサイズ早見表 - モデル容量とPC側の推論目安を確認する

学習データと評価用データを先に分ける

学習例には、対象の入力、期待する出力、必要な文脈を含めます。Unslothのguideは多くのSFTでquestion/answer形式を例にしていますが、会話templateやdataset schemaはtoolとmodelごとに異なります。生の文書を置くだけで目的の回答形式になるとは限らないため、使うtoolの現在のdataset例に合わせて整形します。

• 個人情報、認証情報、未公開資料を除き、学習に利用する権利と社内規程を確認する。
• 同じ例の重複、誤答、矛盾する指示、回答に不要な長文を見直す。
• 学習に使わない評価用の例を、trainingを始める前に分けて保管する。
• 正解文の丸暗記だけでなく、少し違う入力、曖昧な入力、答えられない場合も評価に含める。
• datasetのrevisionと学習設定を記録し、次の試行と比べられるようにする。

実際の機密データを外部の合成データ生成サービスへ送らず、必要なら許可済みの合成例や匿名化済みの例で形式を確かめます。datasetやbase modelをダウンロードする通信、Desktopの更新、外部endpoint、web searchはローカル推論とは別の通信経路です。利用する機能と通信先を確認してください。

• ローカルLLMのセキュリティとプライバシー - モデル、アプリ、保存先、外部通信を分けて確認する
• Unsloth fine-tuning guide - dataset形式、学習、評価の公式説明を見る

base modelと同じ条件で学習結果を評価する

学習前にbase modelへ評価用の同じpromptを入力し、回答を保存します。学習後は同じmodel family、同じ評価例、できるだけ同じ推論条件で比較します。train lossが下がったことだけでは、実際の利用例に対する回答が改善したとは言えません。

評価例は学習へ混ぜず、base modelとadapter modelの両方へ使います。小さな評価セットでも、期待結果と失敗条件を人が見て記録します。異なるruntimeやquantizationに移した後は、学習画面の結果だけで合格とせず、最終的な利用環境で再確認します。

adapter・base model・出力形式を一緒に保存する

PEFT形式のLoRAは、adapter weightsとadapter_config.jsonなどの情報を持ち、設定には学習元modelの名前が記録されます。後で再現するため、adapterだけでなくbase modelの正確なID/revision、tokenizerやchat template、dataset revision、学習設定、license、出力fileのhashを記録します。model nameの似た別revisionで置き換えないでください。

Ollamaで使う場合は、現在の公式Importing a Modelが案内する形式とarchitectureを見てからexport先を決めます。2026-09-29確認時点のModelfile ReferenceとImporting a ModelにはLoRA用`ADAPTER` instructionの記載がないため、このガイドでは直接adapter importを手順にせず、training toolで対応modelをGGUFへexportした後に`FROM`で読み込む方法を例にします。OllamaはGGUFをimport時にquantizeしないため、変換・量子化の工程とruntimeでの動作確認を分けます。

# Modelfile と GGUF を同じ作業フォルダに置く例
FROM ./trained-model.gguf

# PowerShell: 実際のファイル名へ置き換えてから実行
ollama create lac-finetuned -f .\Modelfile
ollama run lac-finetuned

1. exportしたmodelの配布元、architecture、quantization、licenseを確認する。
2. ModelfileのFROMが実際のGGUF pathを指すことを確認し、ollama createで名前付きmodelを作る。
3. ollama runで短い評価用promptを試し、学習前後の記録と照合する。
4. adapterを別のruntimeへ渡す場合は、そのruntimeが同じ形式・base modelを現在サポートするか公式資料で再確認する。

• Ollama Importing a Model - GGUF・Safetensorsの現行import条件を見る
• OllamaのModelfileをWindowsで使う方法 - GGUF path、ollama create、model確認の詳細を見る
• GGUF形式とは - GGUFと推論runtimeの役割を確認する