検索

AIの判断や動作を人間が監督し、必要時に介入・停止できる体制。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。

EUが定めた、AIをリスクに応じて規制する世界初の包括的な法律。

人間の知的なふるまい(学習・推論・認識・判断)をコンピュータで実現する技術や研究分野の総称。

特定の作業に限らず、人間のように幅広い課題を自律的に学習・解決できる仮想的なAI。

人間の脳の神経細胞(ニューロン)の仕組みを模倣・着想源とした、機械学習の数理モデル。

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

好まれた応答を直接学習し、報酬モデルなしで人間の好みに合わせる手法。

重要な判断に人間の確認・承認を組み込み、AIの暴走や誤りを防ぐ設計。

人間の言葉から意図や意味を読み取る技術。音声アシスタント等の基盤。

人間が日常使う言葉(自然言語)をコンピュータに理解・生成させるための技術分野。

事前学習済みのモデルを、特定タスク向けの追加データで再訓練し、専門特化させる手法。

指示と理想の応答のペアで学習させ、指示に従う能力を高める手法。

理想的な応答例を正解として学習させる、ファインチューニングの基本段階。

強化学習の代表的アルゴリズム。RLHFでモデルを安定的に更新するのに使われる。

テキストを自然な音声に変換する技術。読み上げや音声アシスタントに使う。

輪郭や姿勢などの条件を与えて、画像生成の構図を精密に制御する技術。

人の逐次指示なしに、自ら計画・実行して目標を達成するAI。

機械翻訳の品質を、参照訳との一致度で自動評価する指標。

モデルが自分の予測にどれだけ自信があるかを表す数値。

人間より賢いAIを、人間が安全に制御し続けられるかという課題。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。