概要
モデル内部の仕組みや判断過程を人間が理解できる度合い。
詳しい解説
解釈可能性は、モデルの内部で何が起きていて、どう判断しているかを人間が理解できる度合いです。の基礎をなし、Anthropicが重視する研究分野でもあります。モデルの内部表現を解き明かすことで、安全性の検証やの改善、予期せぬ振る舞いの理解につながると期待されています。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
中身を解き明かす
モデル内のどの部分がどんな概念に反応するかを調べ、振る舞いの理由を理解しようとします。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する