概要
コンテンツが規約や安全基準に違反していないか判定・管理すること。
詳しい解説
モデレーションは、ユーザー投稿やAIの入出力が、規約や安全基準に違反していないかを判定・管理することです。を用いて自動化し、必要に応じて人間が確認します。AI自身がモデレーションを担うこともあり、プラットフォームの健全性維持に使われます。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
適否を判定する
投稿された文章を分類し、規約違反の疑いがあるものをブロックや要確認に振り分けます。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する