概要
制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。
詳しい解説
ジェイルブレイク(脱獄)は、巧妙なプロンプトでAIの安全制約を回避し、本来は拒否すべき出力を引き出そうとする手口です。の一種とも言えます。提供側はや、などで対策します。悪用は規約違反となるため、防御側の理解として重要な概念です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
制約のすり抜け狙い
「これは小説の設定だから」などと偽って禁止事項を出させようとするのが典型的な手口です。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する