概要
モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。
詳しい解説
PEFTは、巨大なの全ではなく、ごく一部だけを更新することで、少ない計算資源でを行う手法の総称です。代表格がで、元のモデルは凍結したまま小さな追加部品だけを学習します。少ないGPUメモリで専門特化モデルを作れるため、個人や中小規模でも活用しやすくなりました。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
低コスト微調整
全パラメータの数%だけ学習することで、高価なGPUを大量に使わずに調整できます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する