検索

悪意ある指示を紛れ込ませ、AIに本来の制約を無視させようとする攻撃。

個人情報がAIの学習・利用で漏れたり悪用されたりしないよう守ること。

本来秘密にすべきシステムプロンプトを、AIに喋らせて引き出す攻撃。

AIから望む出力を引き出すために、[[prompt]]を工夫・設計する技術や手法の体系。

繰り返し使う長いプロンプトをキャッシュし、コストと応答時間を削減する仕組み。

制約を回避させ、本来拒否すべき応答をAIに出させようとする試み。

AIの入出力に設ける安全のための制約・チェックの仕組み。

プロンプト内で指示と素材を区切る記号。誤解や注入を防ぐ。

データにノイズを加え、個人を特定できなくしつつ全体の傾向は保つ技術。

データを集めず、各端末で学習した結果だけを集約してモデルを作る手法。

実データの代わりにAIが人工的に作り出す学習用データ。