検索

重要度の低い重みや接続を削り、モデルを軽量化する技術。

目標達成までの手順をAI自身が組み立てること。エージェントの中核能力。

事前学習済みのモデルを、特定タスク向けの追加データで再訓練し、専門特化させる手法。

指示と理想の応答のペアで学習させ、指示に従う能力を高める手法。

理想的な応答例を正解として学習させる、ファインチューニングの基本段階。

多層の[[neural-network]]を用いて、データから複雑な特徴を自動的に学習する機械学習の一分野。

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

勾配降下法で、一度の更新でパラメータをどれだけ動かすかを決めるハイパーパラメータ。

量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。