RAG索引対象の収集はデータ漏えいですか？

必ずしも漏えいそのものではありません。攻撃者がRAGの参照先を調べ、後続の汚染や操作に使える入口を探す偵察段階です。

RAGを使う会社は何を管理すべきですか？

索引対象の一覧、更新権限、監査ログ、外部ドメインの許可範囲を管理すべきです。AIの回答は参照先データの品質にも左右されます。

RAG索引対象の収集とは、RAGシステムが参照する外部データ源を攻撃者が見つけ、汚染や操作の入口を探す偵察手法です。AIがどの資料を見て答えるかを調べ、答えに混ぜ込みやすい棚を探す行為です。

英語表記: Gather RAG-Indexed Targets / AML.T0064

RAGは、LLMだけで答えず、社内文書やナレッジベースを検索して根拠にする設計。これは正確さを上げる強みですが、攻撃者から見ると「どの資料を汚せばAIの答えに入るか」を探す地図にもなる構造です。

公開ドキュメント、ヘルプセンター、社内Wiki、ベクトルデータベースなどがRAGの索引対象です。AIの回答品質は、モデルだけでなく参照先の清潔さにも左右されるということ。一度混ざった偽情報は、検索結果として何度も再利用される恐れがあります。

RAGでは、AIが自分の記憶だけでなく外部の棚を探しに行く仕組みです。便利な一方で、攻撃者にはどの棚に偽情報を置けば拾われるかを調べる動機が生まれます。

RAGを導入する場合は、索引対象の一覧、更新権限、監査ログ、除外ルールを持つことが重要です。外部サイトを広く参照する場合は、信頼できるドメインだけに絞るなど、データソースの境界を先に決めるべきでしょう。

RAG索引対象の収集はデータ漏えいですか？: 必ずしも漏えいそのものではありません。攻撃者がRAGの参照先を調べ、後続の汚染や操作に使える入口を探す偵察段階です。
RAGを使う会社は何を管理すべきですか？: 索引対象の一覧、更新権限、監査ログ、外部ドメインの許可範囲を管理すべきです。AIの回答は参照先データの品質にも左右されます。