ウォームスタート

Warm Start

読み: うぉーむすたーと

概要

モデルを事前に読み込んで待機させ、即座に応答できる状態。

ウォームスタートは、モデルをあらかじめメモリに読み込んで待機させておき、リクエストが来たら即座にできる状態を指します。起動済みのためが短いのが利点ですが、待機中も資源を消費します。起動から始めると対比されます。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。

常時起動しておけば、最初のリクエストでも待たされず素早く応答できます。