システミックリスク評価とは
システミックリスク評価とは、GPAIの高い能力が社会や市場へ大きく広がった時に、健康、安全、公共の安全、基本権、社会全体へ重大な悪影響を及ぼす可能性を評価することです。EU AI法では、GPAI提供者にシステミックリスクの発生源を含めた評価と低減を求めています。単なる社内リスクではなく、広がり方まで含めて見るリスク評価です。
英語表記：systemic risk assessment
EU AI法上の関連表記：systemic risk
通常のリスク評価との違い
通常のリスク評価では、ある部署、顧客、システムで起きる損害を見ます。システミックリスク評価では、GPAIが複数のサービスに組み込まれ、同じ問題が連鎖的に広がる可能性まで確認対象です。たとえば一つのモデルの欠陥や悪用が、チャットボット、業務アプリ、開発支援、情報発信へ同時に波及するような場面が考えられます。AIリスクタクソノミーやGPAIモデル評価と近い論点です。
経営判断での使いどころ
自社がGPAIを開発していなくても、基盤モデルに深く依存する事業では考える価値があります。顧客向けサービス、採用、金融、医療、公共性の高い情報発信などでは、モデルの不具合が一部の部署に閉じません。調達先の評価、代替手段、監視体制、利用停止基準をあらかじめ持つことが、AIガバナンスの実務になるでしょう。
Topic「大きい会社の問題」だけではない
EU AI法のsystemic risk定義には、EU域内市場(Union market)への大きな影響や、バリューチェーンを通じて大規模に広がる可能性が含まれます。これはモデル提供者向けの規制語ですが、利用企業にも示唆があります。自社の小さなAI機能でも、多数の顧客や加盟店に同時配信されるなら、影響は局所にとどまりません。
システミックリスク評価に関するよくある質問
- EU市場に直接出していなければ気にしなくてよいですか？
- 直ちに同じ義務がかかるとは限りません。ただし海外AIサービスを組み込む事業では、提供者の評価状況や重大リスク時の対応方針を調達時に確認しておく価値があります。
- GPAIを開発していない会社にも関係しますか？
- 直接の法的義務はモデル提供者側に寄る場合があります。ただし、顧客向けサービスにGPAIを深く組み込む会社は、調達先の評価や停止基準を用意しておく価値があります。
- システミックリスクは高リスクAIシステムと同じですか？
- 同じではありません。高リスクAIシステムは用途別の規制区分で、システミックリスクはGPAIの能力や市場への広がりから生じる大規模な影響を指す概念です。
