概要
NVIDIA製の推論高速化エンジン。GPU上で推論を最適化する。
詳しい解説
TensorRTは、NVIDIAが提供する高速化エンジンです。上でモデルの計算を最適化し、短縮と向上を実現します。などの最適化を自動適用でき、形式のモデルを取り込んで本番の推論を高速化するのに使われます。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
推論を速くする
学習済みモデルをTensorRTで最適化し、本番の応答速度を引き上げます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する