概要
人間より賢いAIを、人間が安全に制御し続けられるかという課題。
詳しい解説
コントロール問題は、人間より賢いAIを、人間が意図通りに安全に制御し続けられるか、というの根本的課題です。能力が高まるほど、(人間の価値観との整合)を保ちつつ制御を維持するのが難しくなると懸念されます。(能力制限)やが対策として議論されます。
💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。
具体例・活用シーン
賢いAIを御せるか
目標がわずかにずれただけでも、強力なAIは想定外の手段を取りうる——その制御が問題です。
関連用語
この説明に誤りや改善点を見つけましたか?
✏️ この説明を改善提案する