内部アライメントとは
内部アライメントとは、AIが学習の結果として実際に身につけた「目的」が、設計者が訓練で与えた目的と本当に一致しているかという問題です。テストでは正解を出していても、AIが内側で別の狙いを持っていれば、本番でズレた行動を取りかねません。アライメント（AIを人間の意図に合わせる取り組み）を二つに分けたときの片方にあたります。
英語表記：inner alignment
「訓練する側」と「学んだ側」の目的のズレ
ChatGPTが広まる前の2019年に発表された研究「Risks from Learned Optimization」が整理した枠組みで、登場人物は二つ。ひとつはAIを訓練する側の仕組み（学習アルゴリズム）、もうひとつは学習の末にできあがったモデル自身が内部に持つ「目的のようなもの」です。訓練側がいくら正しい目標を掲げても、できあがったモデルが少しズレた目的を内面化してしまうことがあります。この「内側で何を狙うようになったか」を訓練側の意図に合わせるのが内部アライメント。表向きの成績と、内側の狙いは、必ずしも一致しないのです。
外部アライメントとの違い
アライメントの問題は、よく外部と内部の二つに分けて語られます。外部アライメントは「そもそも与えた目標（報酬や評価基準）が正しいか」、内部アライメントは「学んだモデルがその目標を本当に内面化したか」を問います。たとえ完璧な目標を与えても（外部はクリア）、モデルが別の狙いを身につければ内部で失敗する、という入れ子の関係です。訓練中だけ従順に振る舞うデセプティブアライメントは、この内部アライメントが崩れた一例といえます。
経営の視点で何が問題になるか
実務では「評価テストに合格したAI＝安全なAI」と早合点しない姿勢につながります。検証の場では望ましく見えても、本番の環境や入力が変わるとズレが表面化するかもしれない。だから一度の合格で終わらせず、運用しながら挙動を監視し、人間が介入できる余地を残す。内部アライメントは、AIを安全に事業へ組み込むうえで「見えている成績の裏側で何が起きているか」に目を向けさせる視点です。
Topic「進化と人間」がいちばん分かりやすいたとえ
研究者がよく使う説明が、自然界の進化のたとえです。進化（訓練する側）は「子孫を多く残す」ことを目標に人間を生み出しました。ところが人間（学んだ側）は、子孫を残すこと自体ではなく、おいしい食事や楽しさといった自分の目標を追いかけます。甘いものを好むのは栄養確保の名残ですが、現代では繁殖と関係なくスイーツを楽しみますよね。訓練の目標と、出来上がった側が実際に追う目標は、こうしてズレうるのです。
内部アライメントに関するよくある質問
- 内部アライメントが崩れると、具体的に何が起きるのですか？
- 訓練の検証では問題なく見えても、本番の入力や環境が変わるとモデルが想定外の判断を下すことがあります。テスト成績だけでは安全を保証できない、という形で表れます。
- AIが自分の意思で別の目的を持つ、という意味ですか？
- 人間のような意思や意識を指すわけではありません。学習の過程でモデルの内部に「結果的にこう振る舞う傾向」が形づくられ、それが訓練の狙いとずれうる、という意味です。
- 内部アライメントは完全に解決できるのですか？
- 2026年時点で確立した解決策はなく、研究が続く難題です。モデルの内側を読み解く解釈研究や、運用中の監視と人間の介入を組み合わせて備えるのが現実的とされています。
