事前学習はモデルに一般的な知識を与える。ファインチューニングはそれを特定のタスクに特化させる。このプロセスでは、より小規模なタスク固有のデータセットで学習を続け、モデルが対象ドメインで優れた性能を発揮するように重みを調整する。
完全な微調整ではすべてのパラメータが更新されるため、大規模モデルでは処理コストが高くなります。LoRAやアダプタなどのパラメータ効率の良い手法では、ごく一部のパラメータのみを更新することで、同等の結果をはるかに少ない計算量で実現できます。
一般的な微調整シナリオ
- 言語モデルをドメインに適合させる
- ビジョンモデルを教える新しいカテゴリー
- モデルを人間の好みに合わせる
- 特定のベンチマークにおけるパフォーマンスの向上
微調整も問題を引き起こす可能性があります。モデルが新しいデータに過剰適合し、汎用的な能力を失うことがあります。また、壊滅的な忘却によって、事前学習で得られた知識が失われることもあります。適切な学習率、データ混合、および評価を行うことで、これらのリスクを軽減できます。
Comments (3)
Leave a comment