# モデルのファインチューニング

量子化された重みは勾配によって直接更新できないため、量子化モデルのファインチューニングは、凍結された量子化重みの上に小さなアダプターを学習させることで行います。4ビットモデルに対して[LoRA](https://huggingface.co/docs/peft/main/en/conceptual_guides/lora)アダプターを学習させることはQLoRAとして知られており、bf16ではメモリに収まらなかったモデルのファインチューニングを可能にします。

[Trainer](/docs/transformers/v5.23.0/ja/main_classes/trainer#transformers.Trainer)は、学習前にモデルを確認し、以下を満たしていることを保証します。

- 量子化メソッドはトレーニングをサポートしています。[メソッドの選択](./selecting)の「Fine-tune」列を参照してください。
- モデルには学習可能なアダプターが接続されています。量子化対応トレーニングをサポートするメソッドは例外であり、[以下](#quantization-aware-training)で説明しています。
- モデルは`torch.compile`でコンパイルされていません。

## アダプターを学習

[PEFT](https://huggingface.co/docs/peft/index)をインストールします。

```bash
pip install -U peft
```

学習をサポートするメソッドでモデルを読み込み、[add_adapter()](/docs/transformers/v5.23.0/ja/main_classes/peft#transformers.integrations.PeftAdapterMixin.add_adapter) で LoRA アダプターをアタッチし、モデルを [Trainer](/docs/transformers/v5.23.0/ja/main_classes/trainer#transformers.Trainer) に渡します。以下の例では 4-bit の [bitsandbytes](./bitsandbytes) を使用し、`train_dataset` がトークン化されたデータセットであると仮定しています。

```py
import torch
from peft import LoraConfig
from transformers import AutoModelForCausalLM, BitsAndBytesConfig, Trainer, TrainingArguments

quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
)
model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen3-0.6B",
    quantization_config=quantization_config,
    device_map="auto",
)

lora_config = LoraConfig(r=16, lora_alpha=32, target_modules="all-linear", task_type="CAUSAL_LM")
model.add_adapter(lora_config)

trainer = Trainer(
    model=model,
    args=TrainingArguments(output_dir="qwen3-qlora", bf16=True),
    train_dataset=train_dataset,
)
trainer.train()
```

アダプター重みのみが学習されます。量子化されたベース重みは凍結されたままです。

## アダプターを保存する

[save_pretrained()](/docs/transformers/v5.23.0/ja/main_classes/model#transformers.PreTrainedModel.save_pretrained) は、数メガバイト程度のアダプター重みのみを保存します。この機能は、量子化された重みを保存できない手法を含む、すべての手法で動作します。

```py
model.save_pretrained("qwen3-qlora-adapter")
```

アダプターを使用するには、同じ量子化設定でベースモデルを読み込み、その上にアダプターを読み込みます。詳細は[アダプターの読み込み](../peft#loading-an-adapter)を参照してください。

## 量子化認識トレーニング

[BitNet](./bitnet)と[compressed-tensors](./compressed_tensors)は、重みが学習可能な形式のまま維持される限り、アダプターなしでモデル全体を学習できます。

- BitNetには、[BitNetQuantConfig](/docs/transformers/v5.23.0/ja/main_classes/quantization#transformers.BitNetQuantConfig)に`linear_class="autobitlinear"`と`quantization_mode="online"`が必要です。
- compressed-tensorsには、圧縮されていないチェックポイント、または[CompressedTensorsConfig](/docs/transformers/v5.23.0/ja/main_classes/quantization#transformers.CompressedTensorsConfig)内の`dequantize=True`が必要です。FP8カーネルを使用するチェックポイントは、トレーニングできません。

量子化認識型学習と学習後量子化の違いについては、[Quantization concepts](./concept_guide)を参照してください。

