モデル・リスク管理とは
モデル・リスク管理とは、企業が判断に使う「モデル」(数式や統計、AIによる予測の仕組み)が間違っていたり誤って使われたりして損失を招くリスクを、組織として管理する取り組みのことです。もともとは銀行などの金融業界で発達した考え方で、「モデルは便利だが万能ではない」という前提に立ち、開発から検証、運用まで一貫して目を光らせるのが基本になります。
英語表記：Model Risk Management（略称MRM）
金融で生まれた仕組み
銀行は、融資の審査や金融商品の価格づけに数理モデルを多用します。その計算が狂えば、巨額の損失や誤った経営判断につながりかねません。そこでモデルを作った人とは別の担当者が独立した立場で検証し、どんなモデルをいくつ使っているかを台帳で管理し、運用後も継続して点検するといった規律が整えられてきました。代表的なのが米国の監督指針(2011年のSR 11-7)で、日本でも金融庁が2021年に「モデル・リスク管理に関する原則」を示しました。罰則で縛るというより、モデルの誤りで足をすくわれないための備えとして広まってきたのが、この規律の成り立ちです。
AI時代に広がる対象
近年は、この考え方がAIや機械学習のモデルへと広がっています。AIは判断の理由が見えにくく、ハルシネーション(もっともらしい誤り)や偏りといった独特のリスクを抱えるため、従来の検証だけでは追いつきません。ここで紛らわしいのが、米国のNIST AI RMFとの関係です。モデル・リスク管理は金融発でモデル全般を見る規律、NIST AI RMFはAIシステム全般を対象にした枠組みで、出発点が異なります。AIを業務の意思決定に組み込むなら、金融で磨かれたこの「モデルを疑い続ける」作法は、業種を問わず参考になるでしょう。
Topic「すべてのモデルは間違っている」が出発点
統計学の世界には、ジョージ・ボックスという学者が残した有名な言葉があります。「すべてのモデルは間違っている。だが、いくつかは役に立つ」。現実をそっくり写し取れるモデルなど存在せず、どれも何かを簡略化した近似にすぎない、という戒めです。モデル・リスク管理は、まさにこの精神を制度にしたもの。モデルを信じきるのではなく、間違っている前提で使い、絶えず検証し続ける。2008年の金融危機でモデルへの過信が痛手を生んだ反省が、その背中を押しました。
モデル・リスク管理に関するよくある質問
- 中小企業にもモデル・リスク管理は必要ですか？
- 規制として求められるのは主に金融機関ですが、AIや自動計算で重要な判断をする企業なら、規模を問わず誤りを点検する発想は役立ちます。まずは使っているモデルを把握することから始められます。
- 具体的には何から手をつければよいですか？
- 使っているモデルを一覧にして把握し、作った担当とは別の人が検証し、運用開始後も定期的に点検する流れが基本です。誰が責任を持つかをあらかじめ決めておくことも欠かせません。
