検索

人間が実際に出力を見て品質を判断する、最も信頼性の高い評価。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。

別のLLMに出力の良し悪しを採点させる、自動評価の手法。

人間より賢いAIを、人間が安全に制御し続けられるかという課題。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。