AIシステムに対する既知の攻撃と影響(えーあいしすてむにたいするきちのこうげきとえいきょう)とは
AIシステムに対する既知の攻撃と影響とは、AISIがAIシステムに起こり得る攻撃の種類と、その影響を整理したセキュリティ資料です。第2版は2026年4月24日に公開されました。通常のサイバー攻撃の一覧ではなく、AIの学習、推論、入力、出力に関わる弱点を、安全性評価やレッドチーミングの参考にするための資料です。
英語表記：Known Attacks and Their Impacts on AI Systems
公表版：第2版(2026年4月24日公表)
AI特有の弱点を見える化する
AIを使う会社が気をつけるべき攻撃は、サーバー侵入や不正ログインだけではありません。悪意ある入力で出力をゆがめる、学習データに混ぜ物をする、AIの振る舞いから内部情報を推測する、といったAI特有のリスクも無視できません。この資料は、そうした攻撃を「どこから狙われるか」「どんな影響が出るか」という形で整理する資料です。経営側にとっては、AIセキュリティを技術部門だけの細かな話にせず、事業リスクとして把握する入口になるでしょう。
レッドチーミングの前提資料になる
AISIはこの資料を、AIセーフティに関するレッドチーミング手法ガイドの参考資料として位置づけています。つまり、実際に攻撃者目線で検査する前に、どのような攻撃があり得るかを整理する材料です。自社で生成AIやAIシステムを導入する場合も、「便利だから使う」の前に、どの失敗パターンを試すべきかを考える助けになります。委託先に安全確認を依頼する際の共通言語としても役立つでしょう。
Topic普通のサイバー攻撃一覧ではない
この資料の面白いところは、AIを取り巻くすべてのサイバー攻撃を並べているわけではない点です。AISIのPDFでは、AIモデルの学習、推論、入出力に関わる攻撃面を前提に整理されています。同じ「攻撃」でも、AIの性質を狙うものに焦点を当てているため、通常の情報セキュリティ資料とは読みどころが少し違います。
AIシステムに対する既知の攻撃と影響に関するよくある質問
- 通常のセキュリティ対策と何が違いますか？
- 通常の不正アクセス対策に加えて、AIの学習データ、入力、出力、モデルの挙動を狙う攻撃を考える点が違います。
- 非エンジニアの経営者も読むべきですか？
- 技術詳細をすべて理解する必要はありませんが、AI導入時にどのリスクを確認すべきかを知る材料として役立ちます。
- レッドチーミングと関係がありますか？
- 関係があります。攻撃の種類を知っておくことで、レッドチーミングでどの弱点を試すべきかを考えやすくなります。
