検索

文章を[[token]]という処理の最小単位に分割すること。言語モデルが文を扱う最初のステップ。

処理で使われたトークンの総量。API料金の算定基準になる。

1回の応答で生成できるトークン数の上限設定。出力の長さを制御する。

言語モデルがテキストを処理する際の最小単位。単語や単語の一部、記号などに相当する。

文章をトークンに分割する処理プログラム。LLMの入口を担う。

モデルが一度に扱えるトークン数の長さ。コンテキストウィンドウの大きさ。

意味を保ちつつプロンプトを短くし、トークン消費とコストを減らす手法。