ワルイージ効果とは
ワルイージ効果とは、LLMに望ましい性格やルールを強く与えた後、その正反対の振る舞いを引き出しやすくなるとする仮説的な現象です。2023年の論考で名付けられ、「守るべきルールを書くだけでは、アラインメントは保証できない」という示唆を与えます。
英語表記：Waluigi Effect
実証済みの万能法則ではない
元論考は、好ましい人格を「ルイージ」、逆の人格を「ワルイージ」と呼びました。文章には主人公と反対役が一緒に登場しやすいため、一方の性格を細かく指定するほど、反対役も連想されると説明しています。ただし、これはすべてのAIで必ず起きると確立した法則ではありません。
対話AIの受入テストでどう見るか
禁止事項を増やすだけではなく、その禁止の逆を演じさせるプロンプトも試すと、ジェイルブレイクへの弱さを見つけやすくなります。ルールの枚数より、意地悪な逆役テストから安全性を判断する。採用するべきなのは現象名そのものではなく、「逆の振る舞いを引き出せるか」という試験の視点です。
Topic元論考の主役はクロワッサン
元論考は「クロワッサンが嫌い」と言うボットの中から、実はクロワッサン好きの反対人格が現れる例を使いました。物騒なAI安全の用語なのに、説明は朝食の好み。抽象的な仮説を覚えやすくするための、ちょっと可笑しな例えです。
ワルイージ効果に関するよくある質問
- ワルイージ効果はAIに隠れた悪い人格がある意味ですか？
- AIに人間と同じ意識や二重人格があることを示す用語ではありません。プロンプトの文脈から、望ましい役と反対役の両方に続く文章が出る可能性を人格に例えた表現です。
- 社内AIではどの業務から逆役テストすべきですか？
- 顧客対応、採用、法務など、不適切な一言の影響が大きい業務から優先すると判断しやすくなります。定型質問だけでなく、設定した人格と逆の役割を演じるよう誘う質問も含めます。
