コールドスタート

Cold Start

読み: こーるどすたーと

概要

停止状態から起動・モデル読み込みを経て応答するまでの遅延。

コールドスタートは、停止していたサーバーやモデルを、起動・読み込みから始めて応答するまでにかかる遅延です。大きなモデルほど読み込みに時間がかかります。コスト削減のため普段は止めておく構成で起きやすく、やの調整でバランスを取ります。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。

しばらく使われず停止したサービスへの最初のアクセスが、特に遅くなる現象です。