検索

「憲法」と呼ばれる原則のリストに基づき、AI自身が応答を評価・改善する、Anthropic独自の訓練手法。

文章・画像・音声・動画などの新しいコンテンツを生み出すAIの総称。LLMや画像生成モデルを含む。

AIの判断の根拠を人間が理解できる形で示すための技術・取り組み。

AIの開発・利用が社会に与える影響を倫理的に考え、責任ある形に導くための分野。

目標を与えると、自ら計画を立て、ツールを使いながら多段階のタスクを自律的に遂行するAI。

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

クラウドに送らず、現場の機器側でAI処理を行う形態。

スマホなど端末の中だけでAIを動かす形態。通信不要でプライバシーに強い。

AIを安全・公正・責任ある形で運用するための方針・体制・ルール。

テキストや画像がAIによって生成されたものかを判定する技術。

高度なAIに道徳的配慮や権利を認めるべきかをめぐる哲学的議論。

ユーザーの依頼を理解し、調べ物や作業を手伝うAI。

診断支援・画像解析・創薬など、医療分野に応用されるAI。

契約書レビューや判例調査など、法務分野に応用されるAI。

個別最適な学習支援や採点自動化など、教育分野に応用されるAI。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

ChatGPTやGPTシリーズを開発するAI企業。生成AIブームの中心。

問い合わせ対応を支援・自動化する、コールセンター向けAI。

本来見つけるべきもののうち、実際に検出できた割合。取りこぼしの少なさ。

陽性と判定したもののうち、実際に正しかった割合。誤検出の少なさ。

コードの統合・テスト・デプロイを自動化する開発手法。

LLMアプリ開発を支援する人気フレームワーク。RAGやエージェント構築に使う。

データとLLMをつなぐ、RAG構築に特化したフレームワーク。

画像と文章を同じ空間で結びつける、マルチモーダルの基礎モデル。

EUが定めた、AIをリスクに応じて規制する世界初の包括的な法律。

Meta(旧Facebook)のAI研究部門。オープンなLlamaシリーズで知られる。

高性能なオープンモデルを開発するフランスのAI企業。

MicrosoftのクラウドAzure上でOpenAIのモデルを利用できるサービス。

Google Cloudが提供する、AI開発・運用の統合プラットフォーム。

定型作業を自動化するRPAに、AIの判断力を組み合わせた業務自動化。

LLMが、あらかじめ定義された関数を構造化された形で呼び出す仕組み。

AIの判断が、性別・人種などの属性によって不当な差別を生まないようにするという原則・指標。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

AIの入出力に設ける安全のための制約・チェックの仕組み。

画像の一部を指定して、その部分だけをAIに描き直させる技術。

画像の外側を、自然につながるようにAIが描き広げる技術。

AIが自分の出力や手順を振り返り、改善点を見つけて修正する仕組み。

AIが自分の誤りに気づき、自ら訂正する能力。

AIに結論だけでなく途中の推論過程を順を追って書かせることで、複雑な問題の正答率を高める手法。

人間の知的なふるまい(学習・推論・認識・判断)をコンピュータで実現する技術や研究分野の総称。

モデルの信頼度が、実際の正解率と一致するように調整すること。

悪意ある指示を紛れ込ませ、AIに本来の制約を無視させようとする攻撃。

制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。

個人情報がAIの学習・利用で漏れたり悪用されたりしないよう守ること。

AIの能力や権限をあえて制限し、リスクを抑える安全策。

OpenAIが開発した代表的な大規模言語モデルのシリーズ。ChatGPTの基盤technology。

データがどのカテゴリ(クラス)に属するかを予測する、教師あり学習の代表的タスク。

言語モデルが、事実に基づかないもっともらしい誤情報を、自信を持って生成してしまう現象。

大量の汎用データでモデルに基礎的な知識・能力を獲得させる最初の学習段階。

アプリと実行環境をひとまとめにし、どこでも同じように動かす技術。