許容できないリスクとは
許容できないリスクとは、EU AI法で、人の安全、生活、基本権への明確な脅威とみなされ、原則として禁止されるAI利用の分類です。2026年6月時点では、EU AI法のリスクベースアプローチにおける最も重い区分で、禁止慣行は2025年2月から適用されています。
英語表記：Unacceptable risk
危ない技術名ではなく、危ない使い方の分類
許容できないリスクは、特定のモデル名やAI技術そのものを指す言葉ではありません。人を操作する、弱い立場の人を利用する、不当に点数化する、監視や生体情報で権利を侵すといった使い方が問題になる分類です。つまり、同じAIでも利用目的と影響先によって見方が変わります。
欧州委員会の説明では、禁止対象には、操作や欺瞞、脆弱性の悪用、社会的スコアリング、個人の犯罪リスク予測、顔認識データベースを作るための無差別な画像収集、職場や教育での感情認識、保護特性を推測する生体分類、公共空間でのリアルタイム遠隔生体識別などがあります。全部で8つの禁止慣行として整理されている点が目安です。
社内のAI活用で見るべき場面
日本企業でも、EU向けにサービスを出す、EU拠点でAIを使う、EU居住者に影響する仕組みを扱う場合は無視できません。特に採用、評価、監視、本人の機会に関わる用途は、便利さより先に「人を不当に扱わないか」を点検する領域。
「高性能なAIだから大丈夫」という判断は危険です。見るべきなのは精度だけでなく、誰を評価し、何を決め、結果に異議を唱えられるか。法務、情報システム、人事が同じ表で確認できるようにしておくと、AIガバナンスの議論が具体になります。
Topicガイドラインは便利でも、最終解釈ではない
欧州委員会は2025年2月に禁止AI慣行のガイドラインを公表しましたが、そのページでは、ガイドラインは非拘束で、最終的な権威ある解釈はEU司法裁判所に残ると説明しています。実務ではガイドラインが大きな助けになりますが、「書いてある例に当てはまらないから安全」と短絡しないことが大切。規制対応では、例示の裏にある権利侵害の考え方まで見る必要があります。
許容できないリスクに関するよくある質問
- 許容できないリスクと高リスクAIは何が違いますか？
- 許容できないリスクは原則禁止される領域です。高リスクAIは、教育、雇用、重要インフラなどで厳しい義務を満たせば市場投入や利用が可能な領域です。
- 自社で見落としやすいのはどの領域ですか？
- 採用、評価、監視、本人確認のように、人の機会や権利へ直接つながる業務です。便利な自動化に見えても、対象者が不利な扱いを受けないかを別枠で点検します。
