概要
AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。
詳しい解説
アライメント(整合)は、AIの目標や行動を人間の意図・価値観に一致させることを指す、の中核概念です。能力が高くても、目指す方向が人間の望みとずれていれば危険になりえます。やは、このアライメントを実現するための具体的手法です。Anthropicは「Helpful・Harmless・Honest()」を整合の指針として掲げています。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
役立ちと無害のバランス
「役立つ」を追求しすぎて有害な指示にも従ってしまわないよう、価値観のバランスを取るのがアライメントです。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する