OWASP Top 10 for LLMとは
OWASP Top 10 for LLMとは、生成AI（大規模言語モデル）を業務に使うときに特に注意すべき代表的なセキュリティリスクを、重要度順に10個まとめた指針のことです。Webサイトの安全対策で広く参照されてきた「OWASP Top 10」の、生成AI版にあたります。専門家でなくても、自社のAI活用に「どんな危険がありうるか」を一望できる、いわばAIセキュリティの地図です。
英語表記：OWASP Top 10 for Large Language Model Applications
どんなリスクが並んでいるのか
発行しているのは、Webの安全対策で知られる非営利団体OWASPの生成AI部門です。10項目の1位は「プロンプトインジェクション」で、これは攻撃者がAIへの指示文に細工をして、本来の役割を無視させたり機密を漏らさせたりする攻撃を指します。ほかにも、機密情報の漏洩、学習データの汚染、権限の与えすぎ、無制限な資源消費などが並びます。専門用語は多めですが、「入力・出力・権限・資源」という身近な観点で整理されているのが特徴でしょう。
なぜ経営にとって役立つのか
このリストの一番の価値は、社内とベンダーが同じ言葉で危険を話せるようになることです。「うちのAIはプロンプトインジェクション対策をしていますか」と聞けば、抽象的な「安全ですか」よりずっと具体的なやり取りができます。発注の条件書や社内ルールのたたき台としても使いやすい。専門家を一人ずつ雇わなくても、世界中の知見が詰まったチェックリストを共通の物差しにできるのは、大きな後ろ盾になります。
使うときの心構え
便利な一覧ですが、これを満たせば安全、という合格証ではありません。あくまで「見落としやすい危険の代表例」であり、自社固有のリスクは別に考える必要があります。もう一つ大事なのは、この分野が動きが速く、リストも更新されること。実際、項目の中身は数年で入れ替わっています。最新版を前提に、ときどき見直す姿勢が要るでしょう。リストを「お守り」にせず、対話のきっかけにするのが賢い使い方です。
Topic2年でリストの顔ぶれが入れ替わった
OWASP Top 10 for LLMに関するよくある質問
- OWASP Top 10 for LLMは無料で見られますか？
- はい。OWASPは非営利団体で、リストは公式サイトで無料公開されています。日本語を含む各言語の翻訳版も用意されています。
- これに対応すれば、公的な認証や法令対応になりますか？
- いいえ。業界の知見をまとめた任意の指針であり、公的な認証や法令ではありません。ただしリスク対策の出発点として広く信頼されています。
- もともとの「OWASP Top 10」とは別物ですか？
- 別のリストです。本家のOWASP Top 10はWebアプリ全般のリスク一覧で、こちらは生成AIに特有のリスクへ絞った派生版です。対象とする領域が異なります。
