検索

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

Google Cloudが提供する、AI開発・運用の統合プラットフォーム。

負荷に応じて計算資源を自動で増減させる仕組み。

繰り返し使う長いプロンプトをキャッシュし、コストと応答時間を削減する仕組み。

Googleが開発した、機械学習計算に特化した専用プロセッサ。