「バッチ推論」の検索結果: 5件
大量のデータをまとめて一括で推論する方式。効率とコストに優れる。
1回のパラメータ更新でまとめて処理する訓練データの件数。
1バッチを処理してパラメータを1回更新する、学習の最小ステップ。
GPUに搭載されたメモリ。扱えるモデルやバッチの大きさを決める。
1回の入力と1回の応答で完結する対話形式。