概要
暴力・差別など有害な入出力を検知して遮断する仕組み。
詳しい解説
有害コンテンツフィルタは、暴力・差別・性的・違法など有害な入力や出力を自動で検知し、遮断・警告する仕組みです。の中核を担い、の一部として機能します。AIサービスを安全に提供するための基本的な防護層です。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
危険な内容を遮断
有害な依頼を検知して応答を拒否し、不適切な出力が表に出ないようにします。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する