Paris Call for AI Safety and Securityとは

Paris Call for AI Safety and Securityとは、先端的なAIの安全を高めるため、政府やAI企業、市民社会の団体が賛同した共同宣言です。フランス大統領府が2026年11月9日に公表しました。危険の調べ方をそろえること、関係者の責任を役割ごとに明確にすること、異変を早く共有することの三つを、約束の柱にしています。宣言そのものは、違反時の罰則や報告期限を定めた法律ではありません。

AI安全の共同宣言から「共通の評価」「役割ごとの責任」「報告と早期警戒」の三つの柱が並ぶ図

なぜ評価のやり方をそろえる?

対象は主にフロンティアモデルと呼ばれる、先端的な能力を持つAIです。提供会社ごとに試し方が違えば、同じ「安全を確認した」という説明でも、何をどの条件で試したかを比べにくいもの。宣言がまず掲げるのは、評価とリスク管理の共通の枠組みを作ることです。とくに重く見ているのは、サイバー攻撃や化学・生物・放射性物質・核兵器(CBRN)への悪用と、AIの自律性が高まって人の制御を離れる危険です。署名した側は技術面の協力を強めると約束し、既存の国際的な評価のネットワークが、評価の方法や結果を地域の違う国々でも比べやすく、使いやすくする役割を担いうると認めました。

パリで一から議論を始めたわけでもありません。宣言は冒頭で、広島AIプロセスやソウルのAIサミットでの取り組みを、協力の土台になった例として挙げています。今回の焦点は、その積み重ねの上で、先端的なAIの評価や異変の報告を国境を越えて比べ、共有できるようにすることです。

宣言文では、機密性のない評価結果をそろえた形式で公表し、一般にアクセスできる共有の資料庫も設ける考えを示しました。候補には、負荷をかけた試験の結果や、能力を比べるベンチマークの道具などが挙がっています。ここで発表されたのは枠組みを作る約束で、統一の試験や合格証がその日に始まったわけではありません。

誰が何を引き受ける?

二つ目の柱は責任です。宣言は、AIに関わるすべての関係者が、それぞれの役割に応じて責任を負うという原則を掲げています。政策を作る側は、大規模な被害が出たときに、国境をまたぐ場合も含めて誰がどんな責任を負うかを法制度で明確にする必要があると認めました。被害を受けた人を守ることと、AI企業に法的な見通しを与えることが目的です。開発元は、モデルの能力・限界・既知の危険を明らかにし、リスクに見合う場合には、既存の慣行や取り決めの範囲で、資格のある独立した評価者による調査を支援するとしています。

開発元はまた、自らが制御する範囲で、動作を制限、一時停止、停止できる仕組みを実装すると約束しました。この範囲には開発中の訓練や社内利用も含まれます。裏を返せば、約束は開発元の手の届く範囲までで、手を離れた環境で動くモデルまで止めるとは書いていません。宣言は、安全対策を外されたり回避されたりする危険にも触れつつ、研究などのためにモデルの中身を公開する利点は保つとしています。署名企業が出す説明を読むときは、どの環境で誰が止められるかまで見ると、言葉の強さに引きずられずに済むでしょう。

異変の報告と、導入する側が確かめたい点

三つ目は情報の共有と報告、早期警戒です。宣言は、被害が連鎖して広がるのを防ぐには、すばやく警報を出す仕組みが欠かせないとしています。そのうえで、サイバー攻撃やAIの制御に関わる深刻な事故(AIインシデント)と、重大な被害の前触れになりうる兆しを、企業と行政、国と国、AI企業どうしでタイミングよく共有できるよう、いまある報告の仕組みを強め、事故の分類もそろえる考えです。新しい協力の仕組みが役立つか、どこまでを対象にするかは、これから検討するとしています。政策を作る側は、従業員などが、社会全体に広がりうる危険について合理的な根拠のある懸念を、法的・職業上の報復を恐れずに伝えられる、秘密を守る通報経路を用意することも約束しました。

企業が採用候補を比べる場面では、署名の有無に加えて、利用条件ごとに試した内容と、異変が起きたときの連絡先を確かめるほうが、判断材料になります。たとえば会社の手続きに組み込む場合、制限がかかったときに自社の業務を誰が引き継ぐかは、開発元の安全対策とは分けて決めることです。宣言と違い、報告の相手や期限を法律で定めた例には、2027年1月1日に施行されるニューヨーク州のRAISE Actがあります。

Topic2018年にも別の「パリ・コール」があった

2018年11月12日にも、パリ平和フォーラムの場で、サイバー空間の信頼と安全を扱う「パリ・コール」が打ち出されました。国や企業、市民社会が賛同する点は似ていますが、当時の対象はネット空間の安全全般。2026年の宣言を探すときは、表題にAIがあるかを見ると見分けられます。

Paris Call for AI Safety and Securityに関するよくある質問

日本の企業も署名していますか?
はい。2026年11月17日に確認したフランス大統領府の一覧には、企業としてサカナAIが載っています。同じ一覧の政府欄には日本の記載がなく、企業の署名と政府の署名は別です。
2025年にパリで開かれたAIサミットの宣言と同じですか?
別の文書です。2025年2月のAIアクションサミットは、包摂的で持続可能なAIに関する宣言を出しました。ここで扱う文書は2026年11月のAI安全の共同宣言です。

あわせて読みたい記事