説明可能なAIとは

説明可能なAIとは、AIが出した判断について「なぜそう判断したのか」を、人間が理解できる形で示す技術や研究分野のことです。中身の見えにくいAIの判断に、納得できる理由づけを与えようとする取り組みを指します。

ブラックボックスを開く

深層学習などの高性能なAIは、判断の道筋が人間には見えにくい「ブラックボックス」になりがちです。説明可能なAIは、その判断の根拠を、人が納得できる形に翻訳しようとする取り組みだと言えます。アメリカのNISTは、よい説明には「根拠を示す」「相手に分かる言葉である」「実際の処理を正しく反映している」「分かる範囲で答える」という原則が要る、と整理しました。

なぜ必要なのか

お金を貸すかどうかの審査や採用、医療のように、判断の理由を説明する責任が法的・倫理的に求められる場面では欠かせません。「信頼できるAI」を支える柱のひとつでもあります。ただし、性能の高いAIほど判断の理由は複雑で説明しにくくなる傾向があり、精度の高さと説明のしやすさは両立しにくい面もあるのです。

経営にとっての意味

AIの判断を、顧客や規制当局に対してきちんと説明できるかどうかは、AIを業務に導入できるかを左右する分かれ目になります。とくに人の権利やお金に関わる判断では、「AIが決めたから」では通用しません。説明可能なAIは、AIを安心して任せるための前提条件と言えるでしょう。

説明可能なAIに関するよくある質問

なぜ説明可能なAIが必要なのですか？

融資審査や採用、医療のように、判断の理由を説明する責任が法的・倫理的に求められる場面では欠かせないためです。人の権利やお金に関わる判断では「AIが決めたから」では通用せず、顧客や規制当局に説明できるかが、AIを業務に導入できるかの分かれ目になります。

性能の高いAIほど、説明もしやすいのですか？

逆の傾向があります。深層学習などの高性能なAIほど判断の道筋が複雑で「ブラックボックス」になりやすく、精度の高さと説明のしやすさは両立しにくい面があります。だからこそ、判断の根拠を人が納得できる形に翻訳する取り組みが要ります。

説明可能なAIという考え方はどこから来たのですか？

アメリカ国防総省の研究機関DARPAが2017年に始めた研究プログラムが広めました。戦場で情報を分析する人や自律システムを動かす人が「AIはなぜそう勧めるのか」を理解する必要から生まれた、ChatGPTより前からの軍事文脈のテーマです。