【ハルシネーション】～1分で分かるキーワード #177

人工知能（AI）が事実とは異なる、あるいは存在しない情報を生成してしまう現象

AIがまれに生成する、もっともらしいうそ

ハルシネーションは、生成AIの分野で人工知能（AI）が事実にもとづかない情報や、実際には存在しない情報を生成する現象を指します。これはAIが、学習したデータのパターンにもとづいて新しい情報を生成するという仕組みに起因しており、AIが幻覚（ハルシネーション）を見ているかのようなふるまいであることからこのように呼ばれます。

特に対話型AIが、どのデータにもとづいて情報を生成したか分からない場合、ユーザーは生成された情報の正誤を判断することが困難です。この課題を解決するためには、AIの学習データの質の向上やモデルの改善が必要となります。また、利用する側もこのような生成AIの特性を理解し、情報の正誤を確認することが必要です。