概要
あえてAIを攻撃・悪用して弱点を洗い出し、安全性を高める検証手法。
詳しい解説
レッドチーミングは、専門チームがあえてAIを攻撃・悪用しようと試み(など)、有害な出力や脆弱性を洗い出す検証手法です。見つかった弱点をやの改善に反映します。リリース前の安全性確認で広く行われ、の実務の柱です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
攻撃して鍛える
公開前に「危険な使い方ができないか」を多角的に試し、見つかった穴をふさぎます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する