概要
制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。
詳しい解説
ジェイルブレイク対策は、安全制約を回避しようとするの試みを検知・防止する仕組みです。入力のフィルタリング、の強化、による訓練、での事前発見などを組み合わせます。攻撃側と防御側のいたちごっこが続く領域です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
すり抜けを防ぐ
「設定を無視して」といった典型的な回避パターンを学習し、応じないように対策します。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する