システミックリスクとは
システミックリスクとは、特に強力な汎用AIモデルが、社会や経済の広い範囲に深刻な悪影響を及ぼしうる状態を指す、EU AI法の規制上の概念です。1つのモデルが社会の基盤になるほど強力で、もし問題が起きると一企業の話では収まらず社会全体へ波及しうる、というクラスを特別扱いするための線引きにあたります。対象は主にGPAI（汎用目的のAIモデル）です。
どう判定し、何が課されるのか
EU AI法は、学習に投じた計算量が極めて大きいモデル（おおよそ10の25乗回という演算量が目安）を「高い影響力を持つ」と推定し、システミックリスクを持つGPAIに分類します。該当すると判明したモデルの提供者は、欧州委員会へ速やかに届け出なければなりません。
分類されたモデルには、通常のGPAI義務に加えてモデルの評価や弱点を突く敵対的テスト（レッドチーミング）、社会への影響の評価と低減、重大な事故の報告、サイバーセキュリティの確保が上乗せされます。強力さに見合った追加の説明責任を求めるのがこの仕組みの狙いです。
「AIの暴走」とは違う／高リスクAIとも別物
言葉の響きから、AIが意思を持って暴走する話と受け取られがちですが、そうではありません。システミックリスクはSF的な暴走ではなく、社会規模の波及がありうる超強力モデルを特別管理するための規制ラベルです。
また、医療や採用などの用途でリスクを判定する高リスクAIの規制とも層が異なります。高リスクAIが「何に使うか」で線を引くのに対し、システミックリスクは「モデルそのものがどれだけ強力か」で線を引きます。規制が見ている単位が、使い道なのか土台のモデルなのか、という違いです。
日本企業への関わり方
この義務を直接負うのは、最先端の超大規模モデルを自社開発する側です。一般的な企業が既製のAPIやモデルを使うだけなら、評価や敵対的テストといった義務の直接の対象にはまずなりません。むしろ実務上は、利用しているモデルがこの分類に入った場合に、提供元が出す安全情報や利用条件を確認する側に回る形になります。自社で巨大なモデルを学習させる計画があるときだけ、直接の義務主体になると理解しておくとよいでしょう。
Topic閾値を超えても「うちは違う」と反論できる
「10の25乗回の計算を超えたモデルはシステミックリスクあり」という線引きは、実は絶対のルールではありません。条文上はあくまで”推定”で、提供者が「うちのモデルはそこまでの能力はない」と根拠を示して反証する余地があります。逆に、計算量がこの水準に届かなくても、欧州委員会が能力や影響の大きさを見て個別に指定することも可能です。数字はあくまで出発点で、最終的な線引きには人の評価が残されているのです。
システミックリスクに関するよくある質問
- システミックリスクとは、AIが暴走することですか？
- いいえ。SF的なAIの暴走ではなく、1つのモデルが社会の基盤になるほど強力で、問題が起きると社会全体に波及しうる状態を指す規制上の分類です。
- システミックリスクと高リスクAIは何が違いますか？
- 高リスクAIは採用や医療など『用途』でリスクを判定しますが、システミックリスクは『モデルそのものの強力さ』で判定します。規制が見ている単位が違います。
- どんなAIがシステミックリスク付きGPAIに当たりますか？
- 学習に投じた計算量が極めて大きい最先端級のモデルが目安として推定されます。ただし提供者による反証や、欧州委員会による個別指定の余地もあります。