基本的権利影響評価とは
基本的権利影響評価とは、高リスクとされるAIを使う組織が、その利用が人々の基本的な権利に与える影響を、使い始める前に評価する手続きのことです。EUのEU AI法(第27条)が一部の導入者に義務づけたもので、英語の頭文字からFRIAとも呼ばれます。AIを「作る側」だけでなく「使う側」にも責任を求める点に特徴があります。
英語表記：Fundamental Rights Impact Assessment (FRIA)
誰が、何を評価するのか
対象になるのは、主に公的機関や公共サービスを担う事業者、そして信用評価や保険のリスク判定といった一部の高リスクAIを使う導入者です。評価では、そのAIをどんな場面で・どのくらいの頻度で使うのか、誰が影響を受けるのか、どんなリスクがあり、人による監視をどう確保するのか、問題が起きたらどう対応するのかを、あらかじめ洗い出します。ここでいう基本的な権利とは、差別されない権利やプライバシーなど、人として守られるべき権利のことです。AIを動かす前に「人への影響」を点検させる、それがこの手続きの狙いになります。
なぜ「使う側」に課すのか
見落とされがちですが、AIの問題は、作った企業だけでなく使う組織の手元でも起こりえます。同じAIでも、どんな目的で、誰に対して使うかによって、人々の権利への影響は変わるからです。だからEUは、開発者だけでなく利用者にも、事前の点検という宿題を課しました。AIを導入する側の責任を、はっきり文章にした点がこの制度の核心といえるでしょう。
日本の組織にとっての意味
EUで高リスクのAIを使う立場なら、日本の企業や団体でも関係しうる手続きです。とはいえ、ここで問われている「使う前に人への影響を点検する」という考え方そのものは、規制の有無にかかわらず、AIを業務に取り入れるすべての組織にとって参考になります。誰がどんな不利益を被りうるかを先に考える。その習慣が、思わぬトラブルを未然に防ぐ土台になるはずです。
Topicゼロからではない。GDPRの「親戚」として設計された
FRIAは、まったく新しい発明というわけではありません。EUにはすでに、個人データの扱いがプライバシーに与える影響を事前に評価する「データ保護影響評価(DPIA)」という仕組みがあり、FRIAはこれと補い合うよう設計されています。GDPR(EUの個人データ保護規則)の対応で評価に慣れた企業にとっては、まったくの白紙からの作業ではありません。既存の制度の延長線上に置いた点に、EUの周到さがうかがえます。
基本的権利影響評価に関するよくある質問
- 建物の環境アセスメントと似たようなものですか？
- 発想は近いといえます。建物を建てる前に環境への影響を調べるように、高リスクのAIを使い始める前に、人々の権利への影響を前もって調べる手続きです。
- すべてのAIに必要な評価ですか？
- いいえ。高リスクとされる一部のAIを、特定の組織が使う場合に求められる手続きです。日常的に使う多くのAIは対象になりません。
- 評価しないとどうなりますか？
- EU AI法上の義務を果たさないことになり、規制違反として是正や制裁の対象になりえます。だからこそ、対象に当たるかの見極めが大切です。
