フロンティアAI安全協定とは
フロンティアAI安全協定とは、2024年5月のソウルAIサミットで、世界の主要なAI開発企業が自主的に署名した安全に関する約束です。「危険すぎるAIは作りも公開もしません」と各社が自分から宣言した申し合わせ、と捉えると分かりやすくなります。法的な強制力はなく、各社の自主的な誓約という位置づけです。
英語表記：Frontier AI Safety Commitments
旧称：フロンティアAI安全コミットメント
どんな約束をしたのか
英国政府の公式発表によると、ソウルサミットで16社が署名し、のちに4社が加わって計20組織になりました。OpenAIやGoogle、Microsoft、Meta、Anthropicなど、最先端モデルを手がける企業が名を連ねています。主な約束は、重大なリスクに焦点を当てた安全フレームワークを次のフランスでのサミット（2025年2月のパリ）までに公表すること、そして「ここを超えたら危険」というリスクの閾値を定め、その水準まで危険を抑えられないなら開発も配備も行わないことでした。
条約や宣言とどう違うのか
名前が似た取り組みと混同しないことが大切です。フロンティアAI安全協定は「企業」が自主的に誓ったもので、国家などが結ぶ法的拘束力のある条約とは性質が違います。たとえば欧州評議会AI条約は国家間の条約、前年のブレッチリー宣言は各国政府の宣言でした。これらに対し、本コミットメントは”作り手である企業側”の約束という点が特徴です。
経営から見た使いどころ
取引先や委託先のAIベンダーが安全フレームワークを公表しているかどうかが、ガバナンス上のチェック項目になります。署名企業は自社の安全基準やリスクの線引きを公開する建前なので、ベンダー選定や説明責任の材料として確認できます。ただし自主的な約束である以上、署名している＝安全が保証されている、ではない点には注意が必要です。約束の実行を継続的に見ていく姿勢が欠かせません。
Topic「作り続ける約束」ではなく「止める基準」の約束だった
このコミットメントの核心は、各社が「これ以上は危険」というリスクの閾値をあらかじめ定め、もしその水準まで危険を抑えられないなら、そのモデルを開発も公開も一切行わないと明文で誓った点にあります。AIをどんどん作り続ける約束ではなく、自分たちで“止める基準”を公表する約束だった、というのは意外と知られていません。アクセルではなくブレーキを先に約束した、という構図です。
フロンティアAI安全協定に関するよくある質問
- フロンティアAI安全協定に法的な拘束力はありますか？
- ありません。各AI企業が自主的に署名した約束で、守らなくても法的な罰則はありません。
- フロンティアAI安全協定と欧州評議会AI条約は何が違いますか？
- 前者は企業による自主的な約束で、後者は国家などが結ぶ法的拘束力のある条約です。約束の主体と強さが異なります。
- 何社が署名したのですか？
- 2024年5月のソウルサミットで16社が署名し、のちに4社が加わって計20組織になりました（英国政府の公式発表時点）。