概要
人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。
詳しい解説
RLHF(Reinforcement Learning from Human Feedback)は、AIの出力に対する人間の好み(どちらの回答が良いか)を学習し、それを報酬としてを行うことで、モデルをより役立ち・安全な応答へ調整する手法です。を「賢いだけ」から「人間にとって望ましい」振る舞いへ近づける鍵であり、の代表的な実現手段です。Anthropicのは、人間の評価の一部をAI自身に担わせる発展形です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
応答の比較
同じ質問への2つの回答を人間が「どちらが良いか」評価し、その傾向をモデルに学ばせます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する