検索

パラメータの数値精度を下げてモデルを軽量化し、省メモリ・高速化する技術。

量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。

モデルを小さく軽くする技術の総称。量子化・蒸留・枝刈りなど。

大きな教師モデルの知識を、小さな生徒モデルに移して軽量化する手法。

重要度の低い重みや接続を削り、モデルを軽量化する技術。

クラウドに送らず、現場の機器側でAI処理を行う形態。