概要
AIの能力や権限をあえて制限し、リスクを抑える安全策。
詳しい解説
キャップ(能力制限)は、AIに与える能力・権限・行動範囲をあえて制限することで、リスクを抑える安全策です。を絞る、特定の操作を禁じる、といった形で実装されます。への現実的な対処の一つで、やと組み合わせて使われます。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
あえて制限する
強力なAIでも「外部への送金はできない」など、危険な行動の権限を与えない設計にします。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する