Self-RAGとは
Self-RAGとは、「いま資料を調べるべきか」「集めた資料は役に立つか」「自分の答えに根拠はあるか」をAI自身が点検しながら回答を作る、RAG(検索拡張生成)の発展形です。2023年10月に公開された論文で提案されました。
検索も答えも「自己採点」する仕組み
通常のRAGは、質問が来るたびに決まったやり方で文書を検索し、取ってきた文書を疑わずに答えへ反映します。検索が外れていても、そのまま誤った答えになりやすい構造です。
Self-RAGの動き方はこうです。まず検索が必要かどうかをモデル自身が判断し、必要なときだけ文書を取得。さらに、取得した文書が質問と関係しているか、書いた答えが文書に裏づけられているかを、特殊な印(トークン)を出しながら自己評価します。いわば、答案を提出する前に自分で赤ペンを入れる受験生のような動き方。点検の工程そのものを学習で身につけている点が持ち味です。
経営の現場から見たSelf-RAG
RAGを導入すれば誤答は消えるのか。残念ながら、誤答(ハルシネーション)は自動的にはなくなりません。Self-RAGの発想は、人がレビューする前に、AI自身へ一次チェックをさせるというものです。論文では、70億・130億パラメータ規模の公開モデルがこの訓練によって、質問応答や事実検証のタスクでChatGPTを上回る場面もあったと報告されています。研究段階の報告ではありますが、「点検込みのAI」という設計思想は、回答の信頼性へ投資するときの判断材料になるでしょう。
Topic答案に貼られる「4種類の付箋」の中身とは？
Self-RAGのモデルは、生成の途中で4種類の特殊な印を出します。検索すべきか(Retrieve)、文書は関連するか(ISREL)、答えは文書に支えられているか(ISSUP)、答え全体は役に立つか(ISUSE)という4枚の付箋を、自分の答案に貼っていくイメージです。研究チームはモデルとコードを公開しており、この付箋の仕組みごと外から確かめられます。
Self-RAGに関するよくある質問
- Self-RAGを使えばハルシネーションはなくなりますか？
- なくなりません。自己点検によって事実性が高まったと報告されていますが、点検を行うのもAI自身のため見落としは残ります。重要な判断では人の確認を残す前提で考えるのが安全です。
- Self-RAGは誰でも試せますか？
- 研究チームが70億・130億パラメータのモデルと学習コードを公開しており、開発者であれば試せます。製品ではなく研究手法なので、業務で使うには組み込みの開発が前提になります。
- 名前の「Self」は何を指していますか？
- 自己省察(self-reflection)の「自分で」です。検索の要否や答えの根拠をモデル自身が振り返りながら生成する設計に由来し、論文の題名にも自己省察という言葉が入っています。
