検索

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

LLMアプリ開発を支援する人気フレームワーク。RAGやエージェント構築に使う。

OpenAIのマルチモーダルモデル。テキスト・画像・音声を統合的に扱う。

大量の並列計算が得意な演算装置。AIの学習・推論に不可欠。

OpenAIが開発した代表的な大規模言語モデルのシリーズ。ChatGPTの基盤technology。

AIモデルを外部ツールやデータソースに接続するための、Anthropic提唱のオープンな標準規格。

単位時間あたりに処理できる量。システムの処理能力を表す。

モデルの一部のパラメータだけを更新し、低コストでファインチューニングする手法群。

GPUに搭載されたメモリ。扱えるモデルやバッチの大きさを決める。

NVIDIA製GPUで汎用計算を行うための開発基盤。AI計算の事実上の標準。

ChatGPTやGPTシリーズを開発するAI企業。生成AIブームの中心。

人間が日常使う言葉(自然言語)をコンピュータに理解・生成させるための技術分野。

NVIDIA製の推論高速化エンジン。GPU上で推論を最適化する。

膨大なテキストで訓練された巨大な言語モデル。文章生成・要約・対話などを高い精度でこなす。

Anthropicが開発する大規模言語モデル。安全性と有用性の両立を重視して設計されている。

目標を与えると、自ら計画を立て、ツールを使いながら多段階のタスクを自律的に遂行するAI。

1回のパラメータ更新でまとめて処理する訓練データの件数。

量子化でモデルを圧縮しつつLoRAで微調整する、さらに省メモリな手法。

重みが非公開で、主にAPI経由で提供される商用モデル。

OpenAIが開発した、テキストから画像を生成する代表的モデル。

複数のAI・ツール・処理の流れを統括し、全体を協調させる制御。

リクエストから応答が返るまでの待ち時間。短いほど快適。

得られる性能・成果に対して、かかる費用がどれだけ少ないか。

学習済みモデルを本番環境で稼働させ、推論を提供すること。

大量のデータをまとめて一括で推論する方式。効率とコストに優れる。

LLMの推論を高速・高効率に行うための人気の推論サーバー。

リクエストを複数のサーバーに振り分け、負荷の集中を防ぐ仕組み。

個人情報がAIの学習・利用で漏れたり悪用されたりしないよう守ること。

データとLLMをつなぐ、RAG構築に特化したフレームワーク。

Google DeepMindが開発したマルチモーダルなLLMシリーズ。

AIが計算・検索・API呼び出しなど、外部の機能(ツール)を呼び出して回答を補強する仕組み。

Googleが開発した、機械学習計算に特化した専用プロセッサ。

MicrosoftのクラウドAzure上でOpenAIのモデルを利用できるサービス。

[[attention]]機構を中核とする深層学習アーキテクチャ。現代のLLMの基盤となっている。