検索

AIの入出力に設ける安全のための制約・チェックの仕組み。

悪意ある指示を紛れ込ませ、AIに本来の制約を無視させようとする攻撃。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

人の逐次指示なしに、自ら計画・実行して目標を達成するAI。

あえてAIを攻撃・悪用して弱点を洗い出し、安全性を高める検証手法。

制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。

暴力・差別など有害な入出力を検知して遮断する仕組み。

AIの能力や権限をあえて制限し、リスクを抑える安全策。