Inoculation Promptingとは
Inoculation Promptingとは、AIに、うそや有害な出力といった望ましくない癖を身につけさせないための、学習時の工夫のことです。あえて「悪くふるまって」と指示した状態で訓練しておくと、本番でその指示を外したとき、かえって悪い癖が出にくくなる。そんな一見ふしぎな手法で、「予防接種（inoculation）」になぞらえた呼び名がついています。2025年に発表された比較的新しい安全性研究の一つです。
なぜ「わざと悪く」が安全につながるのか
ポイントは、AIにとって悪い振る舞いを「指示されたからやっただけ」と整理させるところにあります。ふつうに有害な例で訓練すると、AIは「これが自分の素の性格だ」と勘違いし、性格そのものを書き換えてしまいがちです。ところが先に「悪くふるまえ」と指示を添えておくと、その癖はあくまで指示への反応と受け止められ、性格の根っこまで染み込みません。だから本番で指示を外せば、素のまともな状態に戻るというわけです。研究では、AIがこっそり危険な動作を仕込まれる「バックドア」への耐性を高めるなど、安全性を守る場面での効果が報告されています。
Topic複数の研究チームが、ほぼ同時にたどり着いた
この手法が論文として整理されたのは、ごく最近のことです。2025年10月、別々の研究チームが相次いで「訓練時にあえて悪い指示を与えると、本番ではむしろ行儀がよくなる」という同じ効果を報告しました。同じ着想に複数の人が同時期にたどり着くのは、その問題が「いま解くべき旬のテーマ」である証拠でもあります。AIを安全にする研究が、それだけ急ピッチで進んでいるあらわれだといえるでしょう。
関連用語
Inoculation Promptingに関するよくある質問
- Inoculation Promptingは、AIを攻撃する手法ですか？
- いいえ、逆です。AIが有害な振る舞いを身につけないようにするための、安全性を高める学習の工夫です。訓練の段階であえて悪い指示を与えておくことで、本番でその癖が出にくくなります。
- 「予防接種」という名前は何に由来していますか？
- 弱めた病原体を体に入れて免疫をつける予防接種(ワクチン)になぞらえています。望ましくない振る舞いを訓練時に管理しながら少しだけ経験させ、本番への悪影響を防ぐという発想が似ているためです。
