普通のサプライチェーン攻撃と何が違いますか？

AIでは、ソフトウェア部品だけでなく、学習データ、注釈、モデル本体も攻撃対象になります。完成したアプリだけを検査しても、材料段階の汚染を見逃すことがあります。

外部のオープンモデルを使う時は何を確認すべきですか？

配布元、更新履歴、ライセンス、既知の問題、社内検証の結果を確認します。急いで導入する場合ほど、誰が確認したかを記録に残すことが重要です。

AIサプライチェーン侵害とは、AIシステムを作る途中の部品や経路に攻撃者が入り込み、学習データ、ソフトウェア、モデル、ハードウェアなどを汚染する攻撃です。完成後のアプリだけを見るのではなく、AIを作る材料の流れそのものを守る発想です。

英語原名: AI Supply Chain Compromise (AML.T0010)

従来のサプライチェーン攻撃は、ソフトウェア部品や更新経路が中心。AIでは、データの注釈、学習済みモデル、外部ライブラリ、配布元のモデルレジストリまで対象が広がる構図です。データポイズニングやツールサプライチェーン攻撃とも近い関係です。

経営側で怖いのは、完成品の画面だけでは異常が分かりにくい点。使い始めた時点で、すでに材料が汚れていることがあります。AI導入では、価格や精度だけでなく、データとモデルの出どころの確認が欠かせません。

MITRE ATLASは、AIサプライチェーンの一部としてデータとその注釈も挙げます。注釈は「この画像は何か」「この文章はどの分類か」を教える札のようなもの。札が少しずれるだけで、AIの判断基準もずれるというのがAIらしい怖さがあります。

外部モデルやデータセットを使う時は、配布元、更新履歴、ライセンス、脆弱性情報、社内での検証手順を残しましょう。AIベンダー任せにせず、調達チェックリストに「モデルとデータの由来」を入れるのが実務的な一歩です。

普通のサプライチェーン攻撃と何が違いますか？: AIでは、ソフトウェア部品だけでなく、学習データ、注釈、モデル本体も攻撃対象になります。完成したアプリだけを検査しても、材料段階の汚染を見逃すことがあります。
外部のオープンモデルを使う時は何を確認すべきですか？: 配布元、更新履歴、ライセンス、既知の問題、社内検証の結果を確認します。急いで導入する場合ほど、誰が確認したかを記録に残すことが重要です。