概要
AIの入出力に設ける安全のための制約・チェックの仕組み。
詳しい解説
ガードレールは、AIが不適切・危険・的外れな応答をしないよう、入力と出力に設ける制約やチェックの仕組みです。禁止トピックの拒否、出力形式の強制、の適用などが含まれます。やへの防御、ブランド毀損の防止に用いられます。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
逸脱を防ぐ柵
「医療診断は行わず受診を勧める」といったルールを敷くのもガードレールの一例です。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する