敵対的パッチとは
敵対的パッチとは、AIの画像認識をわざと誤らせるために作られた、あえて目立つ模様（ステッカーのような図柄）のことです。AIをだます攻撃を扱う敵対的機械学習の一種で、印刷して現実のモノや風景に貼りつけられる点に特徴があります。人の目に気づかれないよう細工する敵対的摂動とは、発想が正反対の手口です。
英語表記：Adversarial Patch
「こっそり」ではなく「堂々と」だます
2017年にGoogleの研究チームが示したこの手口は、目立つかわりにどんな背景でも、角度や明るさが変わっても効きやすいという強みを持ちます。しかも、AIに「これは指定した別の物だ」と思い込ませることができる。小さな図柄でも、AIが周りの物を無視してパッチの示すモノだと誤認してしまうのです。自動運転の標識認識や監視カメラなど、AIが「目」で現実を判断する仕組みでは、こうした物理的な攻撃が現実の脅威になりえます。
Topicバナナの隣に置くだけで、AIが「トースター」と言い出す
敵対的パッチを一躍有名にしたのが、研究で示された「トースター」の実演です。テーブルのバナナをAIは正しく「バナナ」と認識しますが、その横に専用にデザインした小さなパッチを置くと、AIは画像全体を自信たっぷりに「トースター」と判定してしまいました。人間ならどう見てもバナナとステッカーなのに、です。派手な模様ひとつでAIの「目」が乗っ取られる。AIの見る力が人間とは別物だと、ユーモラスに突きつけた一例でしょう。
関連用語
敵対的パッチに関するよくある質問
- ステッカーを貼るだけなら、誰でも簡単にAIをだませるのですか？
- いいえ。効果的なパッチは、対象のAIに合わせて専用に設計する必要があります。適当な模様を貼れば誤認するわけではなく、現実では角度や光の条件で効かなくなることも多くあります。
- 敵対的パッチはどう防げばよいですか？
- AIの判定だけに頼らず、複数のカメラやセンサー、人の確認を組み合わせるのが基本です。攻撃用の模様もあらかじめ学ばせる敵対的学習など、技術的な対策も研究されています。
