検索

リクエストが来るたびに即座に1件ずつ推論する方式。対話向き。

大量のデータをまとめて一括で推論する方式。効率とコストに優れる。