検索

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

特定の作業に限らず、人間のように幅広い課題を自律的に学習・解決できる仮想的なAI。

AIの開発・利用が社会に与える影響を倫理的に考え、責任ある形に導くための分野。

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

[[claude]]を開発するAI企業。AIの安全性研究を重視する方針で知られる。

あえてAIを攻撃・悪用して弱点を洗い出し、安全性を高める検証手法。

あらゆる面で人類の知能を大きく超える、仮想的なAI。

高度なAIが人類の存続そのものを脅かしかねないという長期的リスク。

人間より賢いAIを、人間が安全に制御し続けられるかという課題。