トークン消費量

トークン消費量は、入力と出力で使われたトークンの合計です。多くのLLM APIはこの量で課金されるため、コスト管理の基本指標になります。長いプロンプトや会話履歴は消費を増やすため、プロンプト圧縮やプロンプトキャッシングで節約します。消費量の把握はコスト効率の出発点です。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。