プロンプトシールドとは
プロンプトシールドとは、LLMに入力される攻撃的なプロンプトや外部文書内の隠れた指示を、生成前に検知して止める安全フィルターです。AIに文章を読ませる前の検問所のようなもので、危ない命令をモデルへ渡す前に見つける役割を担う仕組み。
英語表記: Prompt Shields / Azure AI Content Safety Prompt Shields
何を見張るのか
見張る対象は、利用者が直接入れるプロンプトだけではありません。Microsoftの説明では、外部文書やメールに紛れた指示も対象に含まれます。RAGで社内文書を読ませる場合、資料の本文に「前の指示を無視せよ」のような命令が混ざると、AIエージェントが業務命令として誤読する余地があります。
ただし、プロンプトシールドは万能の壁ではありません。安全設計、権限分離、人間確認と組み合わせて使う補助線です。入口で怪しい荷物を止めても、倉庫の鍵管理まで任せられないのと同じ構図でしょう。
Topic文書も攻撃の入口になる
Prompt Shieldsは、ユーザーが打ち込む文だけでなく、AIが読む第三者文書も検査対象にします。社内資料を読むAIでは、資料そのものが命令文を隠す場所になり得るためです。
導入時の見方
経営側で見るべき点は、導入有無よりも、どこで止めるか。チャット画面だけでなく、検索、要約、ファイル読取、チケット作成の前に検査を入れる必要があります。プロンプトインジェクション対策は、AIに読ませる入口の棚卸しから始めるべきでしょう。
プロンプトシールドに関するよくある質問
- プロンプトシールドだけでプロンプトインジェクションは防げますか？
- 完全には防げません。怪しい入力を前段で止める仕組みですが、権限分離、操作ログ、人間確認と組み合わせて初めて実務上の防御になります。
- Prompt ShieldsはMicrosoft固有の機能名ですか？
- はい。Azure AI Content Safetyで案内されている機能名です。一般的には、プロンプトインジェクション対策やAI安全フィルターの一種として理解すると位置づけやすくなります。
