検索

確率の高い上位k個の候補だけに絞り、その中から次の語を選ぶ手法。

確率の高い候補を累積pまで残してその中から選ぶ、出力の絞り込み手法。

文章を[[token]]という処理の最小単位に分割すること。言語モデルが文を扱う最初のステップ。

言語モデルがテキストを処理する際の最小単位。単語や単語の一部、記号などに相当する。

文章をトークンに分割する処理プログラム。LLMの入口を担う。

処理で使われたトークンの総量。API料金の算定基準になる。

1回の応答で生成できるトークン数の上限設定。出力の長さを制御する。

文章の指示から画像を生成する方式。画像生成の基本形。

既存の画像をもとに、別の画像へ変換・加工する生成方式。

あらゆるタスクを「テキスト→テキスト」の形に統一して扱うモデル。

自然言語の質問を、データベース照会用のSQLに変換する技術。

テキストを自然な音声に変換する技術。読み上げや音声アシスタントに使う。

人の話し声を文字に変換する技術。文字起こしや音声入力に使う。

言語モデルが一度に処理・記憶できる[[token]]の最大量。会話や文書の「視野の広さ」。

人間が日常使う言葉(自然言語)をコンピュータに理解・生成させるための技術分野。

膨大なテキストで訓練された巨大な言語モデル。文章生成・要約・対話などを高い精度でこなす。

言語モデルが、事実に基づかないもっともらしい誤情報を、自信を持って生成してしまう現象。

外部の知識を検索してプロンプトに与え、その情報をもとにAIに回答させる手法。最新情報や社内文書に強い。

データ自身から擬似的な正解を自動生成し、人手のラベルなしで学習する手法。

複数の数値を、合計が1になる確率分布に変換する関数。多クラス分類の出力に使う。

単語の並び順の情報を、Transformerが扱えるようベクトルに埋め込む仕組み。

大量の汎用データでモデルに基礎的な知識・能力を獲得させる最初の学習段階。

モデルが一度に扱えるトークン数の長さ。コンテキストウィンドウの大きさ。

生成しながら逐次テキストを返す方式。体感の待ち時間を短くできる。

意味を保ちつつプロンプトを短くし、トークン消費とコストを減らす手法。

AIが文章を自動で作り出すこと。LLMの最も基本的な機能。

OpenAIが開発した、テキストから画像を生成する代表的モデル。

ある画像の内容を保ったまま、別の画風(スタイル)を適用する技術。

データをベクトル化し、意味の近さで検索する手法。RAGの基盤。

言葉の表面ではなく意味を理解して関連情報を探す検索。

ベクトル同士の近さを測り、最も似たデータを探し出す処理。

大量データを高速に検索するために事前に整理した索引構造。

エージェントが過去の情報を保持・参照する仕組み。文脈の継続に使う。

会話中だけ保つ短期記憶と、セッションを越えて残す長期記憶の区別。

単位時間あたりに処理できる量。システムの処理能力を表す。

得られる性能・成果に対して、かかる費用がどれだけ少ないか。

出力のランダム性(多様さ)を調整するパラメータ。高いほど創造的。

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

学習済みモデルを本番環境で稼働させ、推論を提供すること。

多数のコンテナの配置・スケール・運用を自動化する基盤。

リクエストが来るたびに即座に1件ずつ推論する方式。対話向き。

停止状態から起動・モデル読み込みを経て応答するまでの遅延。

リクエストを複数のサーバーに振り分け、負荷の集中を防ぐ仕組み。

繰り返し使う長いプロンプトをキャッシュし、コストと応答時間を削減する仕組み。

テキストなどの指示から新しい画像をAIが作り出す技術。