GPAIモデル評価(じーぴーえーあいもでるひょうか)とは
GPAIモデル評価とは、汎用AIモデルが社会全体に広がるリスクを持つか、どの対策が必要かを確認する評価です。EU AI法では、システミックリスクを持つGPAIの提供者に、標準化された手順やツールに沿ったモデル評価と、攻撃的テストの記録を求めています。経営者には、大規模AIを売る前の安全確認と理解すると分かりやすいでしょう。
英語表記：GPAI model evaluation
関連する法令用語：general-purpose AI model with systemic risk
何を評価するのか
評価の対象は、単なる回答精度ではありません。悪用されやすい能力、サイバー攻撃への利用、誤情報の拡散、人の安全や基本権への影響など、広く使われた時の危険までが確認対象です。GPAIは多くのサービスへ組み込まれるため、提供者の想定外の使われ方も起きます。そのため、AIリスクマネジメントやシステミックリスクの観点を使い、モデル単体だけでなく市場投入後の影響まで見る必要があります。
社内利用企業にも関係する理由
GPAIモデル評価の直接の義務者は主にモデル提供者です。それでも、利用企業に無関係ではありません。調達するAIがどのような評価を受け、どの範囲で安全性を説明できるかは、社内のAIガバナンス、顧客説明、インシデント対応に影響します。EU AI法や汎用AI行動規範の議論は、日本企業が海外AIを業務に組み込む時の確認項目にもなるでしょう。
Topic評価は提供者だけの作業ではない
EU AI法では、提供者がモデル評価を行う義務に加え、AI OfficeがGPAIモデルを評価できる権限も置かれています。つまり「自社で評価したから終わり」ではありません。社会全体へ広がるリスクが疑われる場合、監督側の調査や追加評価も想定される設計です。
GPAIモデル評価に関するよくある質問
- GPAIモデル評価は通常のAI精度評価と何が違いますか？
- 通常の精度評価は特定タスクの性能を見ることが多い一方、GPAIモデル評価では広く使われた時の悪用、重大事故、社会的影響まで見ます。
- GPAIモデル評価は日本企業にも関係しますか？
- EU向けに提供するモデルや、EU市場で使われるサービスには直接関係し得ます。日本国内利用でも、調達時の安全性確認や顧客説明の基準として参考になります。
- AI Officeもモデル評価を行うのですか？
- EU AI法では、一定の場合にAI OfficeがGPAIモデルの評価を行える仕組みが置かれています。提供者の自己評価だけで完結しない点が特徴です。
