「token consumption」の検索結果: 3件
処理で使われたトークンの総量。API料金の算定基準になる。
得られる性能・成果に対して、かかる費用がどれだけ少ないか。
1回の応答で生成できるトークン数の上限設定。出力の長さを制御する。