ハルシネーションとは
ハルシネーションとは、AIが事実と異なる内容や、与えた文脈に合わない内容を、もっともらしく自信ありげに作り出してしまう現象です。ChatGPTのような生成AIに質問すると、実在しない出典や数字を本当のことのように答えてしまうことがあります。たとえば、存在しない本や論文を著者名つきで「あります」と答え、指摘されても言い張ってしまう、といった例が知られています。
なぜ起きるのか
生成AIは、内容を理解して事実を「調べて」答えているわけではありません。これまでの膨大な文章から「次に来そうな言葉」を確率的に予測して文章を組み立てています。そのため、知らないことや学習データに無いことでも、つい「それらしい言葉」で埋めてしまうのです。学習データが古い、あるいは不足している分野ほど起こりやすくなります。もう一つ、OpenAIが2025年9月に公表した調査は、いまの評価のやり方が「当て推量」に報酬を与えていると指摘しました。多くのテストは正解率だけで採点するので、「分かりません」と答えれば確実に0点、当てずっぽうでも当たれば加点になります。数千問を重ねれば、慎重なモデルより推測するモデルのほうが成績はよく見える。モデルは「知らないと言わない」ほうへ仕向けられてきたわけです。
うまく付き合うには
完全に防ぐのは難しいため、重要な情報はAIの答えを鵜呑みにせず、人が裏取りするのが基本です。減らす工夫としては、AIに「分からないときは分からないと答えてよい」と許可する、根拠になる資料を渡してそこから答えさせる、主張ごとに出典を添えさせて確認する、といった方法があります。OpenAIも自社の方針文書で、誤っているかもしれない情報を自信ありげに出すより、不確かだと示すか、質問の意図を確かめるほうがよいと定めています。こうした入力の工夫が、いわゆるプロンプトエンジニアリング。なお「精度が上がればハルシネーションは無くなる」わけではありません。同じ調査は、現実には答えの定まらない質問があるため正確性が100%に達することはないと述べています。ゼロにする前提ではなく、AIが答えを控えられる余地を残す使い方が現実的でしょう。
Topic「幻覚」はもともと褒め言葉だった
ハルシネーション（hallucination）がAIの分野で使われ始めたのは、2000年のコンピュータビジョンの研究でした。監視カメラに小さく写った顔を、多くの顔画像から学んだ特徴で補って高解像度にする技術を指し、この語は避けるべき欠陥ではなく、価値ある能力を意味していたのです。流れが変わったのは2017年。機械翻訳の研究で「出力は流暢なのに、入力とまったく無関係」という問題が指摘され、この語は誤りの側を指すようになります。同じ「補って作り出す」働きが、絵では長所、事実では欠陥になる。
ハルシネーションに関するよくある質問
- モデルを比べるとき、どの数字を見ればハルシネーションの少なさが分かりますか？
- 正解率だけを見ると取り違えます。OpenAIが公開したSimpleQAという評価の例では、古い世代のモデルのほうが正解率はわずかに高い（24%対22%）のに、誤答率は75%対26%と3倍近くありました。差を生んだのは「答えを控えた割合」で、新しい世代は52%を棄権し、古い世代は1%しか棄権していません。正解率・誤答率・棄権率をセットで見るのが実務的です。
- 社内で使うとき、ハルシネーションが特に出やすいのはどんな質問ですか？
- 同じ調査は、綴りや括弧の対応のように一貫した規則がある事柄はほとんど誤らない一方、めったに出てこないランダムな事実は、パターンから予測できないため誤りやすいと説明しています。例として挙げられているのはペットの誕生日です。社内でいえば、固有名詞や日付、型番のように「調べないと分からない事実」が同じ性質を持ちます。
