Confabulationとは

Confabulationとは、生成AIが誤った内容や根拠の弱い内容を、もっともらしく答えてしまう現象です。日本語では「作話」と説明されることがあります。NISTの生成AIプロファイルでもリスクの一つとして扱われ、経営現場ではAIの回答をそのまま意思決定に使う危うさを示す言葉になります。

ハルシネーションとの違い

ビジネスではハルシネーションとほぼ同じ問題として扱われることが多いでしょう。どちらも、AIが存在しない事実や誤った説明を作ってしまう状態を指します。Confabulationという表現は、AIが「見た」わけではなく、文章の流れからありそうな答えを組み立ててしまうという見方に近い言葉です。

業務で怖い理由

問題は、間違いが明らかな形で出るとは限らないことです。丁寧な文体、整った表、もっともらしい出典名が付くと、人は確認済みの情報に見えてしまいます。社内資料、契約確認、広告審査、医療や法務に近い説明では、自信のある誤答ほど危険です。

対策は、AIを使わないことではありません。根拠が必要な業務では一次情報に戻る、回答に出典を求める、担当者が確認する範囲を決める。こうした運用を組み合わせることで、生成AIを補助役として使いやすくなります。

Confabulationに関するよくある質問

作話とハルシネーションは別物ですか？

実務上は近い問題として扱えます。AIが根拠の弱い内容を自信ありげに出す点が共通しており、確認手順が必要です。

なぜもっともらしい間違いになるのですか？

生成AIは文脈に合う答えを組み立てます。真偽を保証する仕組みとは別なので、文章が自然でも事実確認は残ります。

完全に防げますか？

完全な防止は難しいと考えるべきです。重要業務では一次情報への照合、人による確認、利用範囲の制限を組み合わせます。