ロボット三原則とは

ロボット三原則とは、SF作家アイザック・アシモフが物語の中で示した、ロボットの行動を優先順位付きで制約する三つの規則です。現実の法律や、すべてのロボットに組み込まれた共通プログラムではありません。

三原則は、人を守ること、人の指示に従うこと、ロボット自身を守ることを順に重ねます。下位の規則は、上位の規則と衝突しない場合にだけ働く設計です。単純な標語に見えますが、物語では言葉の曖昧さが多くの難題を生みました。

三つの規則は上から順に優先される

• 人の安全を優先する：ロボットの行動だけでなく、何もしないことで人が害を受ける場合も考える
• 人の指示に従う：ただし、その指示が人の安全に反するなら従わない
• 自分を守る：ただし、人の安全と人の指示に反しない範囲に限る

ポイントは、三項目を横並びにせず、衝突時の順番まで決めていることです。例えば、危険な作業を命じられたロボットは、人への害を避けるためなら命令を断る、という考え方になります。優先順位はあるものの、何を「害」と判断するかは残ります。

物語は三原則の成功より曖昧さを描いた

「人」とは誰か、「傷つける」には心理的な苦痛や将来の不利益も含むのか、複数人を同時に守れないときはどうするのか。自然な言葉は、状況によって意味が変わります。アシモフの物語では、ロボットが規則を無視するというより、規則を厳密に守ろうとした結果、予想外の行動が生じます。

そのため、三原則は完成した設計図ではなく、短い規則だけで現実の安全を表し切れるかを考える装置として読むと理解しやすいでしょう。目的が正しくても、対象、状況、言葉の定義が曖昧なら、望む結果になるとは限りません。

現実のロボットや生成AIは三原則で動いていない

現実の機械は、抽象的な「人の幸福」や「将来の害」を万能に理解できません。カメラやセンサーで測れる範囲、あらかじめ許可された動作、停止条件など、具体的な仕様に分けて制御します。会話をする生成AIも、三原則を共通の中核プログラムとして持っているわけではありません。

「人を傷つけないように」と一文で命じても、安全性は保証されません。間違った入力、想定外の利用、攻撃、機器の故障、担当者の見落としを個別に調べる必要があります。AI安全性やAI倫理は、こうした現実の条件を含めて考える領域です。

企業の安全管理は用途ごとの仕組みに落とす

最初に、AIやロボットへ任せる範囲と、禁止する使い方を決めます。次に、誰がどんな害を受け得るかをAIリスクアセスメントで洗い出し、発生のしやすさと影響の大きさを見積もります。その結果を、入力制限、権限管理、試験、監視といった具体策へ落とす流れです。

重大な判断では、ヒューマン・イン・ザ・ループを置き、人が承認、停止、差し戻しを行えるようにします。異常時に安全側へ止まる動作、操作記録、問い合わせ窓口、事故後の見直しも必要です。一つの万能原則ではなく、複数の防護策を重ねるのが現実の運用です。

米国立標準技術研究所（NIST）のAIリスク管理枠組みも、AIによる個人、組織、社会へのリスクを、設計から利用、評価までの活動で管理する考え方を示しています。2026年8月時点ではAI RMF 1.0の改訂作業が公式に案内されているため、社内規程へ参照する際は最新版を確認してください。

三原則は安全会議の問いとして生かせる

三原則そのものを社内規程へ写すのではなく、議論を始める質問へ変えます。「この仕組みが守る人は誰か」「利用者の指示を拒否すべき条件は何か」「安全のためにサービスを止められるか」と問い直す方法です。

試験では、通常の成功例だけでなく、指示が衝突する場面、情報が足りない場面、悪意ある利用、通信が切れた場面を含めましょう。結果と判断者を記録し、事故や仕様変更の後に見直します。三原則の価値は答えではなく、優先順位の衝突を見えるようにすることです。

ロボット三原則に関するよくある質問

ロボット三原則は実際の法律ですか？

法律ではありません。アシモフのSF作品に由来する創作上の規則です。現実のロボットやAIには、用途ごとの法令、規格、契約、社内ルールを確認します。

現実のロボットに三原則をそのままプログラムできますか？

抽象的な危害や人の意図を万能に理解させることはできません。安全な距離、速度、停止条件、権限など、測定・試験できる具体的な要件へ分ける必要があります。

ロボット三原則は生成AIにも当てはまりますか？

安全を考える入口には使えますが、実装済みの共通規則ではありません。禁止用途、出力確認、権限制限、人の承認、記録、停止手順を用途ごとに設計してください。

企業がAIの安全ルールを作るとき、最初に何を決めますか？

AIへ任せる範囲、禁止する使い方、最終判断者を先に決めます。その後、想定する害を洗い出し、試験、監視、停止、事故対応の具体策へ落とします。