検索

得られる性能・成果に対して、かかる費用がどれだけ少ないか。

モデルの予測と正解とのズレを数値化する関数。学習はこの値の最小化を目指す。

ベクトルが持つ数値の個数。表現力と計算コストのバランスを決める。

パラメータ数を抑えた小型の言語モデル。端末上での動作や低コスト運用に向く。

意味を保ちつつプロンプトを短くし、トークン消費とコストを減らす手法。

稼働中のモデルの性能・コスト・異常を継続的に監視すること。

繰り返し使う長いプロンプトをキャッシュし、コストと応答時間を削減する仕組み。

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

大量のデータをまとめて一括で推論する方式。効率とコストに優れる。

正解ラベルのないデータから、隠れた構造やグループ(クラスタ)を自動的に見つけ出す学習方法。

事前学習済みのモデルを、特定タスク向けの追加データで再訓練し、専門特化させる手法。

少量のラベル付きデータと大量のラベルなしデータを組み合わせて学習する手法。

教師あり学習で、各データに与える正解の情報。

学習済みモデルに入力を与えて、予測や生成の結果を得ること。

入力ごとに一部の専門家(サブネットワーク)だけを使い、効率的に大規模化する設計。

モデル規模・データ量・計算量を増やすほど性能が予測的に向上する経験則。

重みが非公開で、主にAPI経由で提供される商用モデル。

複数の思考の道筋を木構造で枝分かれさせ、有望な経路を探索する推論手法。

同じ問題を複数回解かせ、多数決で最も一貫した答えを採用する手法。

陽性と判定したもののうち、実際に正しかった割合。誤検出の少なさ。

人間が実際に出力を見て品質を判断する、最も信頼性の高い評価。

単位時間あたりに処理できる量。システムの処理能力を表す。

モデルを小さく軽くする技術の総称。量子化・蒸留・枝刈りなど。

停止状態から起動・モデル読み込みを経て応答するまでの遅延。

負荷に応じて計算資源を自動で増減させる仕組み。

将来の商品・サービスの需要量を予測すること。在庫・生産計画に使う。

既存データに変形を加えて学習データを水増しし、性能を高める手法。

高い推論性能と効率で注目された、中国発のオープンモデル。

処理で使われたトークンの総量。API料金の算定基準になる。

1回の応答で生成できるトークン数の上限設定。出力の長さを制御する。