VRAM

VRAM (Video RAM)

読み: ぶいらむ

概要

GPUに搭載されたメモリ。扱えるモデルやバッチの大きさを決める。

VRAMは、に搭載された専用メモリで、モデルのや計算途中のデータを置く場所です。容量が大きいほど、大きなモデルや大きなを扱えます。VRAM不足は大規模モデル運用の最大の壁の一つで、やで消費を抑えます。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。

「このモデルはVRAM 24GB必要」のように、動かすのに必要なGPUメモリの目安になります。