Information Security for GenAIとは
Information Security for GenAIとは、生成AIが攻撃支援や情報漏えい、モデル・データ・コードへの攻撃面を広げるセキュリティリスクです。NIST AI 600-1では、脆弱性発見、マルウェア、フィッシング、攻撃的なサイバー行為のハードル低下を含めて整理されています。経営では、AIを便利な入口にした結果、社内システムへの入口も増える問題として見るべきです。
生成AI特有の攻撃面
生成AIでは、従来のID管理やネットワーク防御に加えて、プロンプト、外部ツール、学習データ、モデル重み、出力ログも攻撃対象になり得ます。NISTは、入力文に悪意ある命令を紛れ込ませる攻撃（プロンプトインジェクション）や、学習データに不正な情報を混ぜる攻撃（データポイズニング）にも触れています。
たとえばAIエージェントがメール、ファイル、CRMへ接続する場合、攻撃者が入力文に命令を紛れ込ませると、意図しない操作につながる可能性も。AIの権限を人間の権限と同じ粒度で管理することが必要です。
ビジネスでの確認ポイント
導入前には、AIが読めるデータ、書き込める場所、呼び出せるツールの棚卸しから始めます。ログを残すだけでなく、誰が確認するか、異常時に止める権限があるかまでを事前のルールにします。
便利な秘書に会社の全鍵を渡さないという感覚です。Data Privacy Risk、Intellectual Property Risk、CBRN Information or Capabilitiesも、外部接続と権限設計が甘いほど大きくなるでしょう。
Topic入力文が攻撃経路になる
情報セキュリティというと、パスワードや脆弱性診断を思い浮かべがちです。NISTの生成AIプロファイルでも扱われる論点。AIエージェント化が進むほど、文章での指示がシステム操作につながるためです。
Information Security for GenAIに関するよくある質問
- AIに接続する外部ツールは何から制限しますか？
- まず、読み取りだけでよい業務と書き込みまで必要な業務を分けます。顧客情報、送金、公開投稿に関わる操作は承認を挟む設計が現実的です。
- ログを残せばセキュリティ対策になりますか？
- ログは事後確認に役立ちますが、単独では防止策になりません。権限、承認、検知、停止手順と組み合わせて意味を持ちます。
