高リスクAIシステムとは
高リスクAIシステムとは、EUのAI規制法（EU AI法）が定める区分のひとつで、人の安全や権利を大きく左右する用途に使われるAIを指します。ここでの「高リスク」は、AIが暴走するといった意味ではありません。採用の合否や融資の審査のように、結果が人の人生を直接揺らす「使い道」かどうかで線を引く考え方です。
英語表記：High-Risk AI System（EU AI法上の定義カテゴリ）
どんなAIが「高リスク」に当たるか
EU AI法は、対象となる用途を法律の付属書で具体的に列挙しています。採用や人事評価、与信スコアリング、教育の試験採点、重要インフラの制御、生体認証、法執行、移民・国境管理、司法手続きなどが代表例です。いずれも、判定を誤ると人の権利や生活に重い影響が及ぶ場面でしょう。
ただし、列挙された分野でも自動的に高リスクになるわけではありません。人の作業を補助する狭い処理にとどまり、最終判断を置き換えない場合などは対象外と整理されています。一方で、人物を評価・分類するプロファイリングは、その例外に関わらず常に高リスクと見なされる点に注意が要るでしょう。
求められる義務
高リスクに分類されると、提供する企業には重い義務がかかります。リスク管理の体制づくり、偏りを抑えた高品質なデータの利用、人間による監督（ヒューマン・オーバーサイト＝最終的に人が確認・介入できる仕組み）、動作の記録、技術文書の整備などが必要です。市場に出す前に適合性評価を受け、適合マーク（CEマーク）を付けることも求められます。守るべき項目が多いため、開発の初期から準備を進めておくのが現実的でしょう。
ビジネスでの意味と適用時期
EU AI法は2024年8月1日に発効しました。高リスク向けの義務は当初2026年8月から段階適用される予定でしたが、企業側の準備や技術基準づくりが追いつかず、2026年5月に欧州議会と理事会が適用延期で政治合意しています。これにより、付属書IIIの単体システムは2027年12月2日へ、製品に組み込むタイプは2028年8月2日へ後ろ倒しになる見込みです（2026年5月時点・正式採択待ち）。日本企業でも、EU向けに採用や与信のAIを提供するなら関わってくる話です。締め切りが動いている分野なので、最新の適用時期を公式で確認しておきたいところ。
Topic規制されるAIは、実はごく一部
EU AI法はAIを4段階に分けて扱います。許容できない用途は禁止、次が高リスク、その下が「AIだと知らせる」程度の限定リスク、いちばん下が最小リスクです。スパムフィルタや推薦機能、ゲームのAIなど大半のAIは最小リスクに入り、ほとんど義務がかかりません。世界初の包括的なAI法というと「すべてのAIを縛る」印象を持たれがちですが、重い規制は人の権利を左右する一部の用途に意図的に絞られています。だからこそ、自社のAIがどの段に当たるかの見極めが最初の一歩になるでしょう。
高リスクAIシステムに関するよくある質問
- 高リスクAIシステムは禁止されているのですか？
- 禁止ではありません。市場に出すこと自体は認められますが、リスク管理や人間による監督、適合性評価などの厳しい義務を満たす必要があります。完全に禁止されるのは、それより上の「許容できない用途」に分類されたAIです。
- 日本の企業にも関係しますか？
- EU域内で使われるAIを提供する場合は、企業がどこの国にあっても適用されます。EU向けに採用や与信などのAIを提供するなら、日本企業でも対象になり得ます。
- ChatGPTのような生成AIは高リスクAIシステムに当たりますか？
- 生成AIの基盤となる汎用AIモデルは、高リスクとは別枠のルールで扱われます。ただし、その生成AIを採用選考や与信審査といった付属書IIIの用途に組み込めば、その用途の部分が高リスクとして規制対象になり得ます。
