検索

強化学習の代表的アルゴリズム。RLHFでモデルを安定的に更新するのに使われる。

好まれた応答を直接学習し、報酬モデルなしで人間の好みに合わせる手法。

AIモデルを外部ツールやデータソースに接続するための、Anthropic提唱のオープンな標準規格。

AIに与える指示文や質問。プロンプトの良し悪しが、出力の質を大きく左右する。

AIから望む出力を引き出すために、[[prompt]]を工夫・設計する技術や手法の体系。

プロンプト自体をAIに作らせたり改善させたりするためのプロンプト。

出力の誤差を出力層から入力層へ逆向きに伝え、各[[weight]]を効率的に更新する学習アルゴリズム。

訓練データ全体を1回学習し終える単位。学習の繰り返し回数を表す。

学習中に一部のニューロンをランダムに無効化し、過学習を防ぐ正則化手法。

APIにアクセスするための接続先URL。リクエストの宛先。

AIの役割・口調・制約など、全体的な振る舞いをあらかじめ指定する特別なプロンプト。

悪意ある指示を紛れ込ませ、AIに本来の制約を無視させようとする攻撃。

ユーザーがその場でAIに送る具体的な指示や質問のメッセージ。

変数を埋め込める定型プロンプト。同じ形式の依頼を量産・再利用できる。

本来秘密にすべきシステムプロンプトを、AIに喋らせて引き出す攻撃。

意味を保ちつつプロンプトを短くし、トークン消費とコストを減らす手法。

画像生成で「描いてほしくない要素」を指定する逆向きの指示。

新モデルに本番と同じ入力を裏で流し、影響なく挙動を検証する手法。

繰り返し使う長いプロンプトをキャッシュし、コストと応答時間を削減する仕組み。

単語の並び順の情報を、Transformerが扱えるようベクトルに埋め込む仕組み。

大きな課題を、扱いやすい小さなサブタスクに分割すること。

新旧バージョンを一部ユーザーに出し分けて比較しながら展開する手法。

個人情報がAIの学習・利用で漏れたり悪用されたりしないよう守ること。

プログラム同士が機能をやり取りするための窓口・取り決め。

重みが非公開で、主にAPI経由で提供される商用モデル。

人間より賢いAIを、人間が安全に制御し続けられるかという課題。

プロンプト内に入出力の手本を数例示すことで、AIに望む形式や傾向を学ばせる手法。

AIに特定の役割を演じさせ、その立場に沿った応答を引き出す手法。

人間が日常使う言葉(自然言語)をコンピュータに理解・生成させるための技術分野。

大量の並列計算が得意な演算装置。AIの学習・推論に不可欠。

Googleが開発した、機械学習計算に特化した専用プロセッサ。

手本を一切示さず、指示だけでタスクを解かせるプロンプト手法。

手本を1例だけ示してタスクを解かせるプロンプト手法。

プロンプトテンプレート内で、後から値を差し込むための差し替え箇所。

多層の[[neural-network]]を用いて、データから複雑な特徴を自動的に学習する機械学習の一分野。

人間の脳の神経細胞(ニューロン)の仕組みを模倣・着想源とした、機械学習の数理モデル。

損失関数の傾き(勾配)をたどって、誤差が最小になる方向へパラメータを少しずつ更新する最適化手法。

ニューラルネットワークの各接続が持つ、入力信号の重要度を表すパラメータ。学習で調整される。

膨大なテキストで訓練された巨大な言語モデル。文章生成・要約・対話などを高い精度でこなす。

外部の知識を検索してプロンプトに与え、その情報をもとにAIに回答させる手法。最新情報や社内文書に強い。

学習を始める前に人間が設定する、学習の進め方を制御する値。

モデルの予測と正解とのズレを数値化する関数。学習はこの値の最小化を目指す。

モデルが複雑になりすぎるのを抑え、過学習を防ぐための工夫の総称。

理想的な応答例を正解として学習させる、ファインチューニングの基本段階。

大量データで広く事前学習され、多様な用途の土台となる大規模モデル。

AIに与える具体的な人物像。性格・口調・専門性を一貫させる。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

AIの入出力に設ける安全のための制約・チェックの仕組み。

プロンプト内で指示と素材を区切る記号。誤解や注入を防ぐ。

画像生成で、プロンプトにどれだけ忠実に従わせるかを調整する強度。