AI-TRiSMとは
AI-TRiSMとは、AIを安全に、倫理やルールを守りながら導入・運用するための「信頼・リスク・セキュリティ」の管理の枠組みです。米調査会社のGartnerが提唱しました。AIの信頼性(Trust)、リスク(Risk)、セキュリティ(Security)の管理(Management)の頭文字を取った呼び名です。
英語表記：AI Trust, Risk and Security Management
AIを「守る」ための柱を整理した枠組み
この枠組みは、AI導入にともなうリスクをいくつかの柱に分けて管理しようとするものです。具体的には、AIがなぜその判断をしたか説明できること（説明可能性）、動いているAIを監視すること、AIを使うアプリのセキュリティ、学習データやモデルのプライバシー保護などが挙げられます。とくに2022年以降の生成AIの急拡大で、従来の管理の枠組みでは追いつかない新しいリスクが生じました。では、AIの何を見張ればよいのか。その問いに、いくつかの柱を立てて答えようとする考え方なのです。
ISO規格との立ち位置の違い
ここで取り違えやすいのが、AI-TRiSMの性格です。これはISO/IECのような中立の国際機関が定めた公的な規格ではなく、一調査会社が提唱した枠組みにあたります。国際規格が「世界共通の取り決め」だとすれば、AI-TRiSMは市場や実務の視点からAIリスクを捉え直すための見方に近いといえるでしょう。両者は対立するものではなく、規格で土台を固めつつ、こうした実務寄りの枠組みで日々の運用や製品選びを考える、と補い合う関係になります。
Topic一調査会社の造語が、世界の共通語になった
AI-TRiSMという言葉は、国際的な標準化機関が決めたものではありません。調査会社のGartnerが打ち出し、2023年の主要な戦略的技術トレンドの一つに挙げたことで一気に広まりました。生成AIブームという追い風もあり、一企業が名付けた枠組みが、いまや経営やセキュリティの現場で当たり前に使われる共通語になっています。新しい概念が広まる速さを物語る一例だといえるでしょう。
AI-TRiSMに関するよくある質問
- AI-TRiSMは生成AIだけが対象ですか？
- 生成AIの普及が広まる契機でしたが、対象は生成AIに限りません。予測や判定など、業務で使うAI全般のリスク管理に当てはめて考えられます。
- 社内では誰が旗振り役になるべきですか？
- Gartnerは、情報セキュリティの責任者であるCISOが推進役を担うべきだと提言しています。リスクとセキュリティが主題のため、経営とセキュリティ部門の連携が要になります。
