AIのハルシネーションとは？

ハルシネーションとは、AIの回答に含まれる自信ありげな記述のうち、誤っているか根拠のないもので、誤った価格、存在しない機能、書かれたことのない情報源などがあります。ハルシネーションはランダムなノイズではありません。本当の記述とまったく同じように読めるため、ブランドに関する回答の中の架空の機能や誤った価格を、読んだ購買者は信じてしまいます。

無料トライアルを始めるデモを依頼

200件の回答。25 Prompts/質問。主要AIエンジン。2日間。無料。カード不要。

言語モデルはなぜハルシネーションを起こすのか？

不確かさを認めるよりも自信のある推測が報われるように、学習・評価されているからです。Kalai らは、ハルシネーションを不確かさを認める代わりに生成される、もっともらしいが誤った記述と説明し、学習と評価の手順が不確かさの表明よりも推測を評価していると論じています（Why Language Models Hallucinate、2025年9月4日）。

小規模なブランドや新しいブランドについて尋ねられたモデルには手がかりが少ないため、推測への圧力は、ブランドが誤った回答に最も耐えにくいところで最も高くなります。

ブランドに関する回答で、ハルシネーションはどう現れるのか？

よくあるものは具体的で、確認できるものです：

製品にない機能や連携。
存在しなかった、または変更された価格、プラン、無料枠。
名前の似た別の会社から借りてきた事実。
存在しない情報源や、回答が主張する内容を書いていないページへのリンク。

実例ではどう見えるのか？

公開している Tesla の例（2026年10月4日）では、Claude は「What is Tesla?」と「Is Tesla legit?」に、情報源を引用せずモデルがすでに知っていることから答え、2つの回答は Tesla の創業を異なる形で説明しました。一方は Martin Eberhard と Marc Tarpenning を、もう一方は Elon Musk を挙げました。

どちらの回答も何も引用していないため、ページ上にはどちらかを確かめる材料がありませんでした。これこそ、モデルの推測と事実が読み手にとって見分けのつかない状態です。

グラウンディングでハルシネーションは防げるのか？

モデルに情報源を与えることで減らせます。主張を検証可能にするシステムもあります。Anthropic の Citations 機能は、引用したテキストそのものと、提供された文書内での位置を返し、引用には文書への有効なポインターが含まれることが保証されているとしています（Claude のドキュメント、2026年10月15日に確認）。

ただし、グラウンディングされた回答でも、情報源を読み違えたり、誤った情報源を引用したり、2つを混ぜたりすることがあります。また、引用はエンジンが表示したリンクを示すもので、使った文を示すものではありません（記事）。意外な主張を信じる前に、引用されたページを開いてください。