検索

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

元のモデルを固定し、小さな追加行列だけを学習する代表的なPEFT手法。

入力ごとに一部の専門家(サブネットワーク)だけを使い、効率的に大規模化する設計。