AIモデルのFine-Tuning
用語
事前学習モデル：Pretrained model == Base model == Foundation model
Fine-Tuningとは
Fine-Tuningとは事前学習させたAIモデルの重み（weight）をサイズのより小さいデータセットで再学習させるというとこです。
方法論
データセットを変更する
- Instruction Fine Tuning
- 知識の正誤を教える
- Domain-Specific Fine-Tuning
- 特定分野の知識を学習させる
学習方法を変更する
- Full Fine-Tuning
- すべての重みを更新する
- コストが高い
- Parameter Efficient Fine-Tuning (PEFT)
- 一部の重みのみを更新する
- コスト削減できる
- 例：LoRa
- Last Layer Fine-Tuning
- 出力層のみを学習させる
パラメータや重みを削減する
- Pruning
- パラメータ削減
- Train-Time Pruning
- 学習時にモデルを自身のパラメータを削減させる
- Post-Traning Pruning
- 学習させたモデルの重みファイルを手動で編集する