システムカードとは
システムカードとは、公開するAIシステムについて、その能力・限界・既知のリスク・安全評価の結果・とった対策をまとめた報告書です。新しいAIを世に出すとき、開発元が「このAIは何ができ、どこが危うく、どう手を打ったか」を説明する文書にあたります。OpenAIやAnthropicなどが、モデル公開に合わせて出しています。
英語表記：system card
何が書かれているのか
OpenAIが2023年3月のGPT-4で公開を始め、以後の各モデルや他社にも広がりました。記載されるのは、AIの得意・不得意、起こりうるリスク、わざと攻撃して弱点を探すテスト（レッドチーミング）の結果、そしてそれらに対する緩和策などです。いわばAIの「健康診断書」兼「取扱説明書」といえる存在です。利用する側にとっては、そのAIをどこまで信頼してよいか、注意すべき場面はどこかを見極める手がかりになります。
モデルカード・モデルスペックとの違い
似た文書と混同しやすいので整理しておきましょう。モデルカードはAIモデル単体の説明書、システムカードは安全フィルタや運用まで含めた「デプロイされるシステム全体」の報告書です。もう一つ、モデルスペックという文書もありますが、こちらはAIに「どう振る舞ってほしいか」という意図を定めるもので、目的が異なります。評価とリスクの報告がシステムカード、振る舞いの方針がモデルスペック、と分けると分かりやすいでしょうか。
経営の視点での使いどころ
AIを業務に導入するなら、システムカードは目を通しておきたい一次資料です。公開元が自らリスクや限界を明かしているため、自社の用途に潜む落とし穴を事前に把握できます。導入可否を判断するデューデリジェンス（事前調査）の材料として、また社内説明の根拠としても役立つでしょう。AIの透明性を測る一つの目安にもなります。
Topicなぜ「モデル」でなく「システム」カードと呼ぶのか
OpenAIは自社の文書をあえて「モデルカード」でなく「システムカード」と名づけています。そこには、AIの危うさはモデル単体ではなく、安全フィルタや使われ方まで含めた「システム全体」で初めて評価できる、という考えが込められているのでしょう。同じAIでも、どんな製品に組み込み、どんな歯止めをかけるかで安全性は変わります。名前の一語に、「机上のモデルでなく、実際に届けるシステムを語る」という姿勢がにじんでいるわけです。
システムカードに関するよくある質問
- システムカードは専門家でないと読めませんか？
- 技術的な評価も含みますが、多くは開発元の公式サイトで一般に公開され、要約や結論部分だけでも導入判断の参考になります。非エンジニアでも、限界やリスクの章に目を通す価値があります。
- 開発元が自分で書いた文書なら、内容を鵜呑みにしてよいですか？
- 自己申告である点は意識すべきです。第三者による独立評価ではないため、過信せず、他の検証情報や実際の利用結果と照らし合わせて読むのが安全です。
- すべてのAIにシステムカードはありますか？
- いいえ。主に大手が出す大規模なモデルで公開される傾向で、小規模なAIや一般的な業務ツールには無いことも多いです。法的義務ではなく、各社の自主的な取り組みが中心です。
