検索

学習済みモデルを本番環境で稼働させ、推論を提供すること。

重要度の低い重みや接続を削り、モデルを軽量化する技術。

学習済みモデルをバージョン管理・保管し、来歴を追える台帳。

APIにアクセスするための接続先URL。リクエストの宛先。

アプリと実行環境をひとまとめにし、どこでも同じように動かす技術。

機械学習モデルの開発・デプロイ・運用・監視を継続的に回す方法論。

LLMの推論を高速・高効率に行うための人気の推論サーバー。

Google Cloudが提供する、AI開発・運用の統合プラットフォーム。

AWSが提供する、機械学習の構築・学習・デプロイの統合サービス。

モデルを小さく軽くする技術の総称。量子化・蒸留・枝刈りなど。