検索

事前学習済みのモデルを、特定タスク向けの追加データで再訓練し、専門特化させる手法。

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。

ニューラルネットワークの各接続が持つ、入力信号の重要度を表すパラメータ。学習で調整される。

学習中のモデルの性能を確認し、ハイパーパラメータの調整に使うデータ。訓練には直接使わない。

損失関数を最小化するよう、モデルのパラメータを調整していく過程。

ニューロンの出力に加える調整用の定数。重みとは別に学習されるパラメータ。

画像生成で、プロンプトにどれだけ忠実に従わせるかを調整する強度。

出力のランダム性(多様さ)を調整するパラメータ。高いほど創造的。

モデルの信頼度が、実際の正解率と一致するように調整すること。

学習にも調整にも使わず、最終的な性能を公平に評価するためのデータ。

エージェントが環境の中で試行錯誤し、報酬を最大化する行動を学んでいく機械学習の枠組み。

勾配降下法で、一度の更新でパラメータをどれだけ動かすかを決めるハイパーパラメータ。

データから学習した規則を内部に持ち、入力に対して予測や生成を行う仕組み。

モデルが学習を通じて獲得する内部の数値。重みやバイアスの総称。

学習を始める前に人間が設定する、学習の進め方を制御する値。

複数の数値を、合計が1になる確率分布に変換する関数。多クラス分類の出力に使う。

指示と理想の応答のペアで学習させ、指示に従う能力を高める手法。

強化学習の代表的アルゴリズム。RLHFでモデルを安定的に更新するのに使われる。

データの本質的な特徴を圧縮して表す、低次元の抽象的な空間。

停止状態から起動・モデル読み込みを経て応答するまでの遅延。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。