検索

AIが応答時に参照する、これまでの会話や与えられた前提情報。

文脈を双方向に読む、自然言語理解で広く使われた基礎的モデル。

これまでのやり取りの記録。マルチターン対話で文脈を保つために使う。

複数回のやり取りを重ねて進める対話形式。文脈を引き継ぐ。

エージェントが過去の情報を保持・参照する仕組み。文脈の継続に使う。

入力の中で「どこに注目すべきか」を動的に重み付けする仕組み。Transformerの心臓部。

同一の文の中で、各単語が他のすべての単語との関連度を計算するアテンションの一種。

言語モデルが一度に処理・記憶できる[[token]]の最大量。会話や文書の「視野の広さ」。

ニューロンの出力に加える調整用の定数。重みとは別に学習されるパラメータ。

複数のアテンションを並列に走らせ、多様な観点から単語間の関係を捉える仕組み。

意味を保ちつつプロンプトを短くし、トークン消費とコストを減らす手法。

長い文書を検索しやすい適切な大きさの断片に分割する処理。

会話中だけ保つ短期記憶と、セッションを越えて残す長期記憶の区別。

自然言語の指示などからプログラムコードをAIが書き出すこと。

ある言語の文章を別の言語に変換すること。NLPの代表的応用。

物体検出やセグメンテーションの標準として使われる画像データセット。