AI RMF Explainable and Interpretable(エーアイアールエムエフエクスプレイナブルアンドインタープリタブル)とは
AI RMF Explainable and Interpretableとは、NIST AI RMFで示される「信頼できるAI」の特性のうち、AIがどう動き、その出力が業務上どんな意味を持つかを理解できる状態を指す考え方です。日本語政府翻訳の見出しは「説明可能性と解釈可能性」。
説明可能性と解釈可能性を分ける
NISTは、説明可能性をAIシステムの動作メカニズムを表すこと、解釈可能性を出力が設計目的の文脈で何を意味するかと整理しています。「どう動いたか」と「その結果をどう読むか」は別の問いです。
たとえば与信AIが「審査不可」と出した場合、説明可能性はどの要因や処理が結果に影響したかを見ます。解釈可能性は、その結果が顧客対応、法務確認、例外承認のどれにつながるのかを読む力です。画面に理由が出るだけでは、現場が判断できる説明とは限りません。
利用者に合わせた説明が必要
説明は、相手の役割や知識によって変わります。データサイエンティストには特徴量や評価方法が必要でも、営業責任者にはどの顧客対応を変えるべきかが重要です。全員に同じ専門的な説明を渡しても、意思決定にはつながらないでしょう。
経営の視点では、説明の有無より「その説明で責任ある判断ができるか」を見るべきです。AIの仕組みを細かく開示するだけではなく、利用者が出力を正しく扱える言葉への翻訳が要ります。
透明性との関係
透明性は、AIについて何が起きたかを知る入口です。説明可能性は、どのように判断されたかを理解しやすくする観点。解釈可能性は、その判断が自社の目的や利用者にとって何を意味するかを読む観点です。この3つを分けると、ベンダーの説明資料に足りない問いが見えてきます。
Topic説明の4原則には「知識の限界」も入っている
NISTIR 8312の「Explainable AIの4原則」には、説明、意味のある説明、説明の正確さに加えて、AIが設計された条件外では動かない、または十分な確信がある時だけ動くという知識の限界も含まれる点が特徴です。説明上手なAIほど、分からない範囲を示す力が問われる領域です。
AI RMF Explainable and Interpretableに関するよくある質問
- 説明可能なAIなら必ず正しい判断になりますか？
- なりません。説明は判断を理解し検証する助けですが、正確性、安全性、公平性を自動的に保証するものではありません。
- 非エンジニア向けの説明では何を求めるべきですか？
- 数式や内部構造だけでなく、入力のどこが結果に影響したか、その結果を業務でどう扱うべきかを短く説明してもらうと判断しやすくなります。
- 社内説明資料では何を分けて書くとよいですか？
- 仕組みの説明、出力の意味、判断責任の所在を分けて書くと伝わりやすくなります。技術説明だけでなく、現場が何をしてよいかまで含めるのが実務向きです。
