バイアス監査とは
バイアス監査とは、AIや自動の判定システムが、性別や人種などの属性によって不公平な結果を生んでいないかを、体系立てて検査することです。AIがどれだけ正確に当てるかを見る性能テストとは違い、「特定のグループが不利に扱われていないか」という公平性に目を向ける点が特徴でしょう。
英語表記：Bias Audit
何を、どう調べるのか
たとえば採用AIなら、応募者が選考を通過する割合をグループごとに比べます。男女の間、あるいは人種・民族の間で、選ばれる率に大きな開きがないかを数字で確かめるイメージです。一方のグループだけが極端に通りにくいなら、そのAIには偏りがある疑いが出てきます。こうした検査を通じて、見えにくい不公平を表に出すのが狙いです。
義務化したニューヨーク市の法律
バイアス監査を法律で義務づけた代表例が、米ニューヨーク市の「Local Law 144」です。採用や昇進にAIツールを使う雇用主に対し、独立した監査人による年1回のバイアス監査と、その結果の公開を求めています。2023年7月5日から取り締まりが始まり、違反すると1件あたり最大で約500ドル（2023年時点）の罰金が科され、是正しなければ日ごとに積み上がります。社内の担当者ではなく、利害関係のない第三者が監査する点も要件でしょう。
企業にとっての意味
採用や与信でAIの偏りを放置すれば、差別をめぐる訴訟やブランドの毀損につながりかねません。バイアス監査は、その芽を早めに見つけ、AIの公平性について説明責任を果たすための実務的な手立てになります。法的な義務がまだない地域でも、AIを人の選別に使うなら、自主的に偏りを点検しておく価値は大きいでしょう。
Topic「結果を公開せよ」と法で迫る
ニューヨーク市のLocal Law 144で目を引くのは、監査を義務づけるだけでなく、その結果を一般に公開させるところです。採用AIにどれだけ偏りがあったかを、企業が自社サイトなどで外に示さなければなりません。透明性を「努力目標」ではなく法律で迫る、踏み込んだ作りといえます。採用AIに独立した監査を課す法としては米国でも先駆けで、各地のルールづくりに影響を与えてきました。これからAIの公平性がどう問われていくかを占う一例でしょう。
バイアス監査に関するよくある質問
- バイアス監査に合格すれば、そのAIは差別しないと保証されますか？
- 保証するものではありません。偏りの大きさを測って公開する仕組みであって、不公平がゼロになると証明する手続きではありません。あくまで問題を早く見つけ、説明できるようにするための検査です。
- 監査は社内のチームが行ってもよいのですか？
- ニューヨーク市の法律では、利害関係のない独立した監査人が行うことが求められます。そのツールの開発・販売・利用に関わった人は監査人になれず、客観性を確保する狙いがあります。
- 日本の企業もバイアス監査の義務がありますか？
- 日本で一律に義務づける法律は、まだ広く整っているとはいえません。ただしAIを人の選別に使う場面は増えており、自主的に偏りを点検する企業が出てきています。
