Claude関連

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

[[claude]]を開発するAI企業。AIの安全性研究を重視する方針で知られる。

Anthropicが掲げるAIの理想像。「役立ち・無害・誠実」の3つの頭文字をとった指針。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

目標を与えると、自ら計画を立て、ツールを使いながら多段階のタスクを自律的に遂行するAI。

AIモデルを外部ツールやデータソースに接続するための、Anthropic提唱のオープンな標準規格。

モデル内部の仕組みや判断過程を人間が理解できる度合い。

Claudeが回答前に、時間をかけて段階的に推論を行う機能。複雑な問題の精度を高める。

Anthropicが開発する大規模言語モデル。安全性と有用性の両立を重視して設計されている。

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。

AIの役割・口調・制約など、全体的な振る舞いをあらかじめ指定する特別なプロンプト。

AIが計算・検索・API呼び出しなど、外部の機能(ツール)を呼び出して回答を補強する仕組み。