検索

NVIDIA製GPUで汎用計算を行うための開発基盤。AI計算の事実上の標準。

大量の並列計算が得意な演算装置。AIの学習・推論に不可欠。

GPUに搭載されたメモリ。扱えるモデルやバッチの大きさを決める。

NVIDIA製の推論高速化エンジン。GPU上で推論を最適化する。

1回のパラメータ更新でまとめて処理する訓練データの件数。

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。

得られる性能・成果に対して、かかる費用がどれだけ少ないか。

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

Googleが開発した、機械学習計算に特化した専用プロセッサ。