AIレッドラインとは
AIレッドラインとは、AIに決してやらせてはならない用途や行動を「越えてはならない一線」として定め、国際的に禁止しようという考え方、およびその世界的な呼びかけです。「ここから先は禁止」という線を、AIの開発や利用にあらかじめ引いておこうという発想を指します。
英語表記：AI red lines
具体的に何を禁止しようとしているのか
2025年9月22日、国連総会の場で、ノーベル平和賞を受賞したジャーナリストのマリア・レッサ氏が「AIレッドラインを求める世界的な呼びかけ」を発表しました。200人を超える著名人（ノーベル賞受賞者10人を含む）が署名し、各国政府に対して2026年末までに国際的な合意を結ぶよう求めています。禁止すべき例として挙がるのは、核兵器の発射判断をAIに委ねること、自律型の致死兵器、AIが人の手を離れて自分を複製すること、大規模な監視や社会信用スコア、生物兵器の設計、本物の人物になりすますことなどです。
法律とどう違うのか
注意したいのは、これが今すぐ効力を持つ法律ではなく、各国に行動を促す「提言・呼びかけ」の段階だという点です。提唱者は、AIの進歩があまりに速いため一国の法律だけでは追いつかず、検証できる国際的な合意こそ必要だ、と訴えています。一方で、レッドラインの一部はすでに各地域の規制にも形を変えて現れ始めました。たとえばEUのAI規制は、社会信用スコアのような用途をすでに禁じています。
経営者にとっての意味
直接の規制対象になるのは、最先端AIを開発する企業が中心でしょう。とはいえ、何が「やってはいけないこと」とされるのかは、AIを業務に取り入れるすべての企業に関わってきます。なりすましや無断の監視といった用途は、評判や法令順守の面でリスクが高い。自社のAI活用が、こうした「越えてはならない線」に触れていないかを点検する視点を、早めに持っておきたいところです。
TopicAIの生みの親が、自らの技術に「線を引け」と署名した
署名者の顔ぶれには、考えさせられるものがあります。なかでもジェフリー・ヒントン氏は、ニューラルネットワーク研究の礎を築いて「AIのゴッドファーザー」と呼ばれ、2024年にノーベル物理学賞を受賞した人物。そのヒントン氏は2023年5月、AIの危険性を自由に語るためにGoogleを去り、「自分の人生の仕事を後悔している部分がある」とまで述べました。AIを育てた当人が、そのAIに越えてはならない線を引くよう求める。この呼びかけの重みが、よく伝わるエピソードではないでしょうか。
AIレッドラインに関するよくある質問
- AIレッドラインはもう法律として決まっているのですか？
- いいえ。2025年9月に国連総会で発表されたのは、各国政府に行動を促す呼びかけ（提言）です。提唱者は2026年末までの国際合意を求めていますが、現時点で世界共通の拘束力ある法律になったわけではありません。
- 誰がこの呼びかけを始めたのですか？
- フランスのAI安全センター（CeSIA）、The Future Society、人間中心AIセンター（CHAI）という3つの非営利団体が組織し、ノーベル平和賞受賞者のマリア・レッサ氏が国連総会で発表しました。ジェフリー・ヒントン氏やヨシュア・ベンジオ氏ら著名な研究者も署名しています。
- AIレッドラインと危険能力評価はどう関係しますか？
- 危険能力評価がAIの危ない能力を企業が技術的に測る検査だとすれば、AIレッドラインは社会として何を禁じるかを定める線引きです。技術的な測定と社会的なルールづくりが、車の両輪のように補い合う関係といえます。
