検索

大量の汎用データでモデルに基礎的な知識・能力を獲得させる最初の学習段階。

OpenAIが開発した代表的な大規模言語モデルのシリーズ。ChatGPTの基盤technology。

モデルを学習させるために使うデータ。質と量が、最終的なモデルの性能を大きく左右する。

データ自身から擬似的な正解を自動生成し、人手のラベルなしで学習する手法。

大量データで広く事前学習され、多様な用途の土台となる大規模モデル。

大量のデータから規則やパターンをコンピュータ自身に学ばせ、予測や分類を行わせる手法。

入力データと正解ラベルのペアを使ってモデルを訓練し、未知のデータの予測を行う学習方法。

訓練データに過剰に適合し、未知のデータに対する予測性能(汎化性能)が低下してしまう現象。

学習中のモデルの性能を確認し、ハイパーパラメータの調整に使うデータ。訓練には直接使わない。

学習データの偏りなどに起因して、AIの判断が特定の傾向や不公平を生んでしまうこと。

訓練データ全体を1回学習し終える単位。学習の繰り返し回数を表す。

1回のパラメータ更新でまとめて処理する訓練データの件数。

モデルが単純すぎて、訓練データのパターンすら十分に捉えられていない状態。

モデルが複雑になりすぎるのを抑え、過学習を防ぐための工夫の総称。

機械学習に用いるデータの集まり。通常は訓練・検証・テストに分けて使う。

学習にも調整にも使わず、最終的な性能を公平に評価するためのデータ。

学習に使っていない未知のデータに対して、モデルが正しく働く能力。

既存データに変形を加えて学習データを水増しし、性能を高める手法。