概要
元のモデルを固定し、小さな追加行列だけを学習する代表的なPEFT手法。
詳しい解説
LoRAは、元ののを凍結したまま、小さな低ランク行列だけを追加学習する手法です。学習するが大幅に少なくて済むため、メモリと時間を大きく節約できます。学習結果は小さなファイルとして保存・差し替えできるので、用途別アダプタを切り替える使い方も可能です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
アダプタの切り替え
1つのベースモデルに、文体用・専門分野用など複数のLoRAを付け替えて使えます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する