システムプロンプトとは
システムプロンプトとは、AIがユーザーと会話を始める前に、あらかじめ与えられている「振る舞いの指示書」のことです。ユーザーには見えないところで、AIの口調・役割・守るべきルールなどを定めており、いわば舞台に上がる前の俳優への「演出メモ」にあたります。
ユーザーの指示との違い
私たちがチャット欄に打ち込む指示（ユーザープロンプト）に対し、システムプロンプトはその土台として先に読み込まれ、会話全体を通して効き続けます。「あなたは丁寧な接客係です」「医療については断定しない」といった前提を仕込んでおくことで、毎回同じ調子・同じ方針で応答させられるわけです。表に出ないからこそ、AIの人格や安全性を支える土台になっています。
ビジネスでの使われ方
自社向けのAIチャットを作るとき、システムプロンプトは品質の要になります。ブランドの口調、対応してよい範囲、禁止事項をここで定義しておくことで、回答のばらつきを抑えられるからです。ただし注意点もあります。機密情報や社外秘のルールをそのまま書き込むのは避けるべきでしょう。後述のとおり、中身を抜き取られた例があるためです。
Topic裏の指示書が、抜き取られた日
システムプロンプトは本来ユーザーに見せないものですが、覗かれてしまった有名な例があります。2023年2月、マイクロソフトの対話AI（Bing）に対し、スタンフォード大の学生が「これまでの指示を無視して」と促す手口で、隠されていた内部ルールや開発コード名「Sydney」を引き出してしまいました。プロンプトインジェクションと呼ばれるこの手口は、システムプロンプトに秘密を書き込む危うさを、世に知らしめる出来事になりました。
関連用語
システムプロンプトに関するよくある質問
- システムプロンプトとユーザープロンプトは何が違うのですか？
- 私たちがチャット欄に打ち込むのがユーザープロンプト、その土台として先に読み込まれ会話全体に効き続けるのがシステムプロンプトです。後者はユーザーには見えないところで口調・役割・守るべきルールを定める「演出メモ」にあたります。
- システムプロンプトに機密情報を書いてよいですか？
- 避けるべきです。本来ユーザーには見せないものですが、2023年2月にマイクロソフトの対話AI（Bing）で、隠された内部ルールや開発コード名「Sydney」が引き出された例があります（プロンプトインジェクションと呼ばれる手口）。
- 自社のAIチャットを作るとき、なぜ重要なのですか？
- 回答の品質と安全性の要になるためです。ブランドの口調、対応してよい範囲、禁止事項をここで定義しておくと、毎回同じ調子・方針で応答させられ、回答のばらつきを抑えられます。