概要
1回の応答で生成できるトークン数の上限設定。出力の長さを制御する。
詳しい解説
最大トークン数(max tokens)は、1回の応答で生成する数の上限を指定する設定です。長い回答が必要なら大きく、簡潔に抑えたいなら小さく設定します。上限に達すると文の途中でも生成が止まるため、必要な長さを見込んで設定します。(=コスト)の上限管理にもなります。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
出力の長さ上限
要約タスクで最大200トークンに設定すれば、長くなりすぎる出力を防げます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する