Sensitive Information Disclosureとは
Sensitive Information Disclosureとは、LLMアプリが本来見せてはいけない情報を、回答やログ、外部連携の流れで出してしまうリスクです。個人情報だけでなく、顧客リスト、契約内容、APIキー、社内資料、法務文書も対象になります。AIを便利な相談窓口にするほど、入力された情報がどこへ残り、誰に見えるかを決めておく必要があるでしょう。
英語表記：LLM02:2025 Sensitive Information Disclosure
どこから情報が漏れるのか
分かりやすいのは、社員がチャット欄に機密資料を貼り付け、その内容が別の場面で回答に混ざるケースです。さらに、AIが社内検索、CRM、ファイル保管庫とつながると、AIの回答欄が「社内データの出口」になることがあります。
OWASPは、入力の検査、機密部分のマスキング、権限管理、学習利用の透明化を対策に挙げています。要するに、AIの賢さだけで守るのではなく、そもそも渡してよい情報か、出してよい相手かを外側の仕組みで決める発想です。
経営で確認すべき線引き
導入時に見るべきなのは、ツール名よりも運用ルールそのもの。入力禁止情報、ログ保存期間、学習利用の有無、管理者の閲覧範囲、退職者のアクセス停止を一覧にしましょう。ここが曖昧だと、便利なAI活用が情報管理の抜け穴になりかねません。
プロンプトインジェクションやSystem Prompt Leakageと組み合わさると、被害は広がります。秘密の指示を引き出されるだけなら説明上の事故で済むこともありますが、そこに認証情報や顧客データが入っていれば、実害に変わるからです。AI導入の審査では、「AIに何を入れないか」を先に決めるのが現実的でしょう。
TopicDisclosureは「盗難」より広い言葉
この用語の肝は、Disclosureが「攻撃者に盗まれる」だけを指さない点です。AIでは、悪意ある侵入がなくても、過去入力や連携データが回答に混じるだけで開示事故になります。金庫を破られたというより、会議室のホワイトボードを消し忘れたまま次の来客を入れる感覚に近いでしょう。
Sensitive Information Disclosureに関するよくある質問
- 個人情報を入れなければ安全ですか？
- いいえ。顧客リスト、契約条件、社内資料、APIキーなども機密情報です。AI導入時は、個人情報だけでなく業務上外に出せない情報全体を入力禁止リストに含めます。
- 社内AIで最初に決めるべきルールは何ですか？
- まず、入力してよい情報と禁止する情報を分けます。そのうえで、ログ保存、学習利用、管理者の閲覧範囲、退職者のアクセス停止を運用ルールとして明文化します。
