ハルシネーション

ハルシネーション

ハルシネーションとは、生成AIが事実に基づかない内容や、存在しない情報をもっともらしく出力する現象です。

日本語では「幻覚」と訳されることがありますが、AIが実際に幻覚を見ているという意味ではありません。大規模言語モデルは、学習した文章のパターンをもとに次に続く語を予測して文章を生成するため、内容の正しさを確認せず、自然に見える回答を作る場合があります。存在しない文献や法律、架空の人物名、誤った数値、実在しないウェブサイトなどを示す例が知られています。

ハルシネーションは、質問が曖昧な場合、学習データに情報が少ない場合、最新情報や専門性の高い内容を尋ねた場合などに生じることがあります。対策として、信頼できる情報源を参照させるRAGの利用、回答の根拠や出典の確認、質問内容の具体化、専門家や担当者による確認などがあります。ただし、これらの方法でも完全に防げるとは限らないため、生成AIの回答は用途に応じて検証して利用されます。とくに、医療、法律、金融、研究など正確性が求められる分野では、一次情報や公的資料との照合が必要です。