検索

テキストや画像がAIによって生成されたものかを判定する技術。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

別のLLMに出力の良し悪しを採点させる、自動評価の手法。

人間が実際に出力を見て品質を判断する、最も信頼性の高い評価。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。