禁止されるAI慣行とは
禁止されるAI慣行とは、人の尊厳や基本的権利を脅かすため、EU AI法が全面的に禁止したAIの使い方を指します。EU AI法はAIを危険度で4段階に分けますが、その最上段「許容できないリスク」にあたるのがこの禁止されるAI慣行です。リスクが高すぎて、条件付きですら認めず”そもそも使ってはいけない”と決められた用途のリスト、と捉えると分かりやすいでしょう。
英語表記：Prohibited AI Practices
旧称：禁止AI慣行
何が禁止されているのか
第5条で8つの類型が禁止されています。代表的なものとして、人々の社会的行動を点数化して無関係な場面で不利に扱うソーシャルスコアリング、本人の意識を超えて行動を歪める操作的な手法、年齢や障害などの弱みにつけ込む利用、職場や学校での感情認識、インターネット等からの顔画像の無差別な収集などが挙げられます。公共空間で法執行機関が行うリアルタイムの顔認証も原則禁止で、テロ防止など限られた場面に厳格な手続き付きの例外があるだけです。
「禁止」と「高リスク」は別物
では、禁止されるAI慣行と高リスクAIは何が違うのでしょうか。禁止されるAI慣行はそもそも使用が認められない用途で、高リスクAIは禁止ではなく義務を満たせば使える用途です。医療や採用に使うAIは高リスクとして適合性評価などの義務がかかりますが、使うこと自体は可能です。「禁止＝ゼロ」「高リスク＝厳しい条件付きで可」という違いを押さえておくと混乱しません。
経営で気をつけたい落とし穴
注意したいのは、日常業務に紛れ込みやすい形です。たとえば従業員の離職を予測する感情分析ツール、社会的なスコアによる顧客の選別、ネット上の顔画像をかき集めるしくみなどは、禁止に触れうる典型例といえます。該当すると製品の手直しではなく利用そのものの停止が必要になり、しかも制裁が最も重い区分です。EU市場に製品やサービスを出す日本企業にも域外適用される点、そして2025年2月2日からすでに適用済みである点も見落とせません。
Topic罰則はGDPRより重い、EUデジタル規制で最重区分
禁止されるAI慣行に違反したときの制裁金は、最大3,500万ユーロ、または前年度の全世界年間売上高の7%のいずれか高い方です。これは個人情報保護で知られるGDPR（上限2,000万ユーロまたは売上4%）を、金額・料率ともに上回ります。EUのデジタル規制で最も重い罰則区分に位置づけられており、AIの”使ってはいけない用途”を、EUがプライバシー侵害よりもさらに重く扱おうとしている姿勢がうかがえます。
禁止されるAI慣行に関するよくある質問
- 禁止されるAI慣行に当たると、AI全般が使えなくなりますか？
- いいえ。禁止されるのはソーシャルスコアリングや職場での感情認識など特定の8類型だけで、大多数のAI利用は対象外です。
- 禁止されるAI慣行と高リスクAIは何が違いますか？
- 禁止されるAI慣行はそもそも使用が禁止される用途です。高リスクAIは禁止ではなく、適合性評価や人による監督などの義務を満たせば使えます。
- 禁止されるAI慣行のルールはいつから適用されていますか？
- EU AI法の禁止規定は2025年2月2日から適用されています。これから始まる規制ではなく、すでに発効済みです。