概要
量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。
詳しい解説
QLoRAは、(量子化)でモデルを圧縮してメモリを節約しながら、で微調整する手法です。これにより、本来は大規模GPUが必要な大型モデルでも、一般的なGPU1枚でできる場合があります。性能をほぼ保ったまま、ファインチューニングのハードルを大きく下げました。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
1枚のGPUで微調整
量子化とLoRAの組み合わせで、大型モデルの調整を手元の環境で行えるようになりました。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する