ハルシネーション

生成AIが、事実に基づかない誤った情報をもっともらしく生成してしまう現象。

大規模言語モデルは、学習したデータから統計的にもっともらしい文章を生成する仕組みであるため、実際には存在しない事実や誤った情報を、自信を持っているかのような文章で出力してしまうことがある。

重要な情報を扱う場面では、生成AIの回答をそのまま信じず、信頼できる情報源で裏取りを行うことが必要とされる。