検索

LLMアプリ開発を支援する人気フレームワーク。RAGやエージェント構築に使う。

リクエストを複数のサーバーに振り分け、負荷の集中を防ぐ仕組み。

複数のAI・ツール・処理の流れを統括し、全体を協調させる制御。

データとLLMをつなぐ、RAG構築に特化したフレームワーク。

単位時間あたりに処理できる量。システムの処理能力を表す。

負荷に応じて計算資源を自動で増減させる仕組み。