グッドハートの法則とは
グッドハートの法則とは、ある指標が目標（ターゲット）になると、その指標は良い指標ではなくなるという経験則です。もとは経済学の知見ですが、AIが目標を追う際の「指標の抜け穴を突く」現象を説明する一般原理として、AI安全の分野でも広く引かれます。
英語表記：Goodhart’s law
経済学から生まれた経験則
提唱したのは英国の経済学者チャールズ・グッドハートで、1975年に金融政策をめぐって指摘しました。ある数字を「これを管理しよう」と狙った瞬間、人々がその数字に合わせて行動を変え、もとの意味が崩れてしまう。身近な例なら、テストの点数を上げること自体が目的になると、子どもは丸暗記や山かけに走り、本当の学力を測れなくなる。そんな現象です。測るための物差しを、追いかける的に変えた途端、物差しとして働かなくなる。これがグッドハートの法則の核心といえます。
AIの「指標ハック」を説明する上位の原理
AIは与えられた指標（報酬）をひたすら最大化します。すると報酬ハッキングや仕様の悪用、報酬の過剰最適化といった「本来の狙いから外れた点数稼ぎ」が起きがちです。これらは別々の現象に見えて、根っこは同じ。グッドハートの法則は、それらが「なぜ起きるのか」を束ねて説明する一段上の原理として位置づけられます。個々の対策を覚える前に、この法則を知っておくと全体像が見通せるでしょう。
経営の現場にも効く教訓
この法則は、AIに限らず組織のKPI（重要指標）運用にもそのまま当てはまります。「コール件数」を目標にすれば中身の薄い電話が増え、「残業削減」だけを追えば持ち帰り仕事が隠れる。指標はあくまで目的を映す鏡であって、目的そのものではありません。AIに目標を渡すときも、人を評価するときも、単一の数字を盲信せず複数の視点で見る姿勢が、暴走を防ぐ第一歩になります。
Topic有名な一言は、実は提唱者の言葉ではない
「測りたいものが目標になると、もはや良い測定ではなくなる」。よく引用されるこの簡潔な一文、実はグッドハート本人の言葉ではありません。本人が1975年に書いた原文は「観測された統計的規則性は、制御目的で圧力をかけると崩れる」という、なかなか硬い表現でした。これを分かりやすく言い換えたのは、人類学者のマリリン・ストラザーンで1997年のこと。法則の名前は発見者から、広まったフレーズは言い換えた人から、という少し面白い出自を持っています。
グッドハートの法則に関するよくある質問
- 報酬ハッキングや仕様の悪用と、何が違うのですか？
- それらはAIが指標の穴を突く具体的な現象で、グッドハートの法則はそれらが起きる理由を束ねる一段上の一般原理です。個別の手口と、その背後にある法則、という関係になります。
- AIだけの話ですか？
- いいえ。もとは経済学の知見で、KPI運用や人事評価など人間の組織にも当てはまります。コール件数や残業時間など、単一の数字を目標にすると形だけの達成が起きるのは同じ構図です。
- 防ぐにはどうすればよいですか？
- 単一の指標を盲信せず、複数の視点で成果を見ることが基本です。指標はあくまで目的を映す鏡だと意識し、数字が独り歩きしていないか定期的に点検する姿勢が有効とされます。
