検索

テキスト・画像・音声など複数種類の情報をまとめて扱えるAIモデル。

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。

複数のAIエージェントが役割分担・協調して課題を解決する仕組み。

複数のアテンションを並列に走らせ、多様な観点から単語間の関係を捉える仕組み。

画像認識で威力を発揮する深層学習モデル。フィルタで局所的な特徴を段階的に抽出する。

画像と言語を結びつけて理解する、マルチモーダルモデルの一種。

OpenAIのマルチモーダルモデル。テキスト・画像・音声を統合的に扱う。

Google DeepMindが開発したマルチモーダルなLLMシリーズ。

Alibabaが開発した、多言語対応のオープンソースLLMシリーズ。

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

Anthropicが開発する大規模言語モデル。安全性と有用性の両立を重視して設計されている。

[[claude]]を開発するAI企業。AIの安全性研究を重視する方針で知られる。

Anthropicが掲げるAIの理想像。「役立ち・無害・誠実」の3つの頭文字をとった指針。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

複数のAI・ツール・処理の流れを統括し、全体を協調させる制御。

親エージェントから特定の役割を任される、補助的なエージェント。

あえてAIを攻撃・悪用して弱点を洗い出し、安全性を高める検証手法。

制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

57分野の知識を問う、LLMの総合学力を測る代表的ベンチマーク。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。