検索

[[claude]]を開発するAI企業。AIの安全性研究を重視する方針で知られる。

Anthropicが開発する大規模言語モデル。安全性と有用性の両立を重視して設計されている。

Anthropicが掲げるAIの理想像。「役立ち・無害・誠実」の3つの頭文字をとった指針。

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。

AIモデルを外部ツールやデータソースに接続するための、Anthropic提唱のオープンな標準規格。

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

モデル内部の仕組みや判断過程を人間が理解できる度合い。

高度なAIが人類の存続そのものを脅かしかねないという長期的リスク。

ChatGPTやGPTシリーズを開発するAI企業。生成AIブームの中心。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

GoogleのAI研究部門。Geminiやアルファ碁、AlphaFoldを開発。

OpenAIが開発した代表的な大規模言語モデルのシリーズ。ChatGPTの基盤technology。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。