NIST GenAI Profileとは
NIST GenAI Profileとは、米国の標準化機関NIST（国立標準技術研究所）が2024年7月に公表した、AIのリスク管理の枠組み「AI RMF」を生成AI向けに具体化した手引きです。生成AIに特有の、あるいは生成AIで大きくなりやすいリスクを整理し、それらにどう備えるかをまとめています。
英語表記：Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1)
別名：生成AIプロファイル
本体「AI RMF」の生成AI版という位置づけ
これは単独の新しいルール集ではありません。土台になっているのは、NISTが2023年1月に公表したNIST AI RMFという、AIのリスクを管理するための任意の枠組みです。AI RMFは「統治・把握・測定・管理」（Govern・Map・Measure・Manage）の4つの機能で組み立てられています。GenAI Profileは、この4機能に沿って生成AIならではの対応策を当てはめた「使い方ガイド（プロファイル）」にあたる位置づけです。
生成AIならではのリスクを整理する
この手引きが注目するのは、生成AIだからこそ目立つリスクです。もっともらしい誤りを自信ありげに述べる「作話」、偽情報の大量生成、危険物に関する情報の入手しやすさ、個人情報や知的財産の扱い、有害なコンテンツなど、生成AIで増幅されやすい問題を12の領域に整理しています。それぞれに、組織が取りうる対応のアクションが結びつけられています。
注意したいのは、その性格です。NIST AI RMFもGenAI Profileも法的な義務ではなく、任意のガイダンスで、違反に罰則があるEU AI法のような規制とは性質が違います。米国発の文書で日本の制度ではありませんが、世界的に参照されるベストプラクティスとして使われており、企業のAIガバナンスの実務的なよりどころの一つです。
TopicNISTはあえて「ハルシネーション」と呼ばない
AIがもっともらしい誤りを生む現象は、ふつう「ハルシネーション（幻覚）」と呼ばれます。ところがこの文書は、その言葉を正式には使わず「作話（Confabulation）」という用語を選びました。脚注では「『幻覚』のような言い方はAIを人間になぞらえる表現であり、人間でないものに人間らしさを当てはめること自体が生成AIのリスクになりうる」と説明しています。リスクを論じる文書が、使う言葉そのものにまで気を配っているのは意外なところです。
NIST GenAI Profileに関するよくある質問
- AI RMFとNIST GenAI Profileは何が違いますか？
- AI RMFはあらゆるAIに使える汎用のリスク管理の枠組みです。NIST GenAI Profileはそれを生成AIという特定用途に具体化した手引き（プロファイル）で、本体を置き換えるものではなく、セットで使う補完文書です。
- 従う法的義務はありますか？
- ありません。NIST AI RMFもGenAI Profileも任意のガイダンスで、違反に罰則がある規制ではありません。米国発の文書ですが、世界的に参照されるベストプラクティスとして使われています。
- いつ作られ、今も使われていますか？
- 2024年7月に公表されました。作成のきっかけとなった大統領令は2025年1月に撤回されましたが、文書自体は技術的な手引きとして残り、引き続き参照されています。
