ハルシネーション

ハルシネーション(幻覚)は、大規模言語モデルが事実とは異なる情報を、あたかも正しいかのように生成してしまう現象です。LLMは「正しさ」ではなく「もっともらしさ(次のトークンの確からしさ)」で文章を作るため、存在しない論文や誤った数値を堂々と述べることがあります。対策として、外部知識を検索して与える検索拡張生成や、出典の明示、ファクトチェックが重要です。

💡 青い破線の用語にカーソルを合わせる(タップする)と、その場で簡単な説明が表示されます。