AI Verifyとは
AI Verifyとは、シンガポール政府が公開している、AIシステムが責任を持って使われているかを検証するための枠組みと、そのためのソフトウェア(ツールキット)のことです。情報通信メディア開発庁(IMDA)が2022年に公表し、透明性や公平性、安全性といったAI倫理の原則に沿っているかを、技術的なテストと運用面のチェックの両面から確かめられるのが特徴です。
英語表記：AI Verify
どんな枠組みか
米国に「リスク管理の進め方」を示すNIST AI RMFがあるように、AI Verifyは国が用意したAIガバナンスの枠組みの、シンガポール版にあたります。違いは、考え方を示すだけでなく、実際に動かせる検証ツールまで一緒に提供する点。2023年にはAI Verify Foundationという運営団体が作られ、世界中の企業が参加するオープンソースとして公開されました。誰でも無料で取り寄せて、自社のAIを点検できる仕立てになっています。AI監査やバイアス監査と並んで、責任あるAIを実践するための道具立ての一つと考えるとよいでしょう。
Topic合格証は出ない「自己採点」のツール
名前に「Verify(検証する)」と付くので、お墨付きをくれる認証制度だと思われがちですが、実はそうではありません。AI Verifyは合格・不合格の判定や認定証を出さず、あくまで企業が自分でAIを点検するための自己採点ツールです。「うちのAIは公平です」という主張を、客観的な数値や記録で裏づける物差しを与えるだけ。テストを通したからリスクがゼロになるわけではない、と運営側も明言しています。お墨付きではなく、説明責任を果たすための材料を整える道具、という位置づけが正確です。
AI Verifyに関するよくある質問
- AI Verifyはどんな観点をチェックするのですか？
- 透明性・公平性・安全性・説明可能性・人間による監督など、11のAI倫理原則に沿った観点を確かめます。技術的なテストと運用面の確認の両方から点検する点が特徴です。
- AI Verifyを使うと、何かの法律を守ったことになりますか？
- いいえ。利用は任意で、使ったからといって特定の法規制を満たした証明にはなりません。自社のAIを点検し、取引先や利用者へ説明する材料を整えるためのものです。
