検索

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。

悪意ある指示を紛れ込ませ、AIに本来の制約を無視させようとする攻撃。

AIの入出力に設ける安全のための制約・チェックの仕組み。

あえてAIを攻撃・悪用して弱点を洗い出し、安全性を高める検証手法。