検索

大きな教師モデルの知識を、小さな生徒モデルに移して軽量化する手法。

モデルを小さく軽くする技術の総称。量子化・蒸留・枝刈りなど。