検索

高度なAIに道徳的配慮や権利を認めるべきかをめぐる哲学的議論。

AIの役割・口調・制約など、全体的な振る舞いをあらかじめ指定する特別なプロンプト。

文章・画像・音声・動画などの新しいコンテンツを生み出すAIの総称。LLMや画像生成モデルを含む。

学習データの偏りなどに起因して、AIの判断が特定の傾向や不公平を生んでしまうこと。

AIの開発・利用が社会に与える影響を倫理的に考え、責任ある形に導くための分野。

AIの目標や振る舞いを、人間の意図・価値観と一致させること。AI安全性の中核課題。

[[claude]]を開発するAI企業。AIの安全性研究を重視する方針で知られる。

Anthropicが掲げるAIの理想像。「役立ち・無害・誠実」の3つの頭文字をとった指針。

重要な判断に人間の確認・承認を組み込み、AIの暴走や誤りを防ぐ設計。

AIの回答を、信頼できる根拠情報に結びつけて裏付けること。

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

AIの判断の根拠を人間が理解できる形で示すための技術・取り組み。

AIの仕組み・データ・判断過程を、関係者に開示し理解可能にすること。

個人情報がAIの学習・利用で漏れたり悪用されたりしないよう守ること。

AIの学習データや生成物をめぐる著作権の論点。

AIの判断や動作を人間が監督し、必要時に介入・停止できる体制。

定型作業を自動化するRPAに、AIの判断力を組み合わせた業務自動化。

人間の好みの評価を報酬として[[reinforcement-learning]]を行い、AIの応答を人間の価値観に近づける手法。

AIの判断が、性別・人種などの属性によって不当な差別を生まないようにするという原則・指標。

AIの入出力に設ける安全のための制約・チェックの仕組み。

大量の並列計算が得意な演算装置。AIの学習・推論に不可欠。

制約回避の試みを検知・防止し、AIの安全な振る舞いを守る対策。

AIの能力や権限をあえて制限し、リスクを抑える安全策。

モデルやデータセットを共有する、AIの「GitHub」とも呼ばれるプラットフォーム。

MicrosoftのクラウドAzure上でOpenAIのモデルを利用できるサービス。

OpenAIのマルチモーダルモデル。テキスト・画像・音声を統合的に扱う。

得られる性能・成果に対して、かかる費用がどれだけ少ないか。

多層の[[neural-network]]を用いて、データから複雑な特徴を自動的に学習する機械学習の一分野。

ノイズを少しずつ除去する過程を学習し、高品質な画像などを生成する生成モデル。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

これまでのやり取りの記録。マルチターン対話で文脈を保つために使う。

JSONなど決まった形式で出力させ、プログラムで扱いやすくする手法。

別のLLMに出力の良し悪しを採点させる、自動評価の手法。

人間が実際に出力を見て品質を判断する、最も信頼性の高い評価。

コンテンツが規約や安全基準に違反していないか判定・管理すること。

条件に合わない情報を選り分けて除外する処理の総称。

AIに含まれる不当な偏りを検出し、減らすための取り組み。

人の作業に寄り添い、提案・補助するAI。「副操縦士」の比喩。

診断支援・画像解析・創薬など、医療分野に応用されるAI。

意味理解やAIを活用し、より的確に目的の情報へ導く検索。

高度なAIが意図せぬ有害な振る舞いをしないよう、安全に設計・制御することを目指す研究分野。

GoogleのAI研究部門。Geminiやアルファ碁、AlphaFoldを開発。

Google Cloudが提供する、AI開発・運用の統合プラットフォーム。