Human-AI Configurationとは
Human-AI Configurationとは、人とAIの役割分担や接し方の設計によって、過信、不信、依存、感情的な結びつきが生じるリスクです。NIST AI 600-1では、人が生成AIを人のように感じたり、AIの判断を無条件に信じすぎたり（自動化バイアス）、逆に避けすぎたり（アルゴリズム忌避）する「付き合い方」の問題として扱います。経営層には、AIを誰がどこまで信じ、どこで止めるかの設計と考えると伝わりやすいでしょう。
過信だけでなく不信もリスク
AIのリスクは「人が信じすぎる」ことだけではありません。逆に、AIの提案を必要以上に避ける、よい警告を無視する、判断責任が曖昧になることもあるでしょう。NISTは、過信、アルゴリズム忌避、感情的な結びつきを同じHuman-AI Configurationの中に置く整理です。
たとえばカスタマーサポートでAIが回答案を出す場合、最終判断者、却下条件、ログ確認者を決めておく必要があります。人間確認ありという言葉だけでは、責任の所在は十分に決まりません。
関連リスクとの違い
Information Integrityは、情報の真偽や不確実性の問題です。Human-AI Configurationは、その情報を受け取った人がAIをどう扱うかを見る視点です。正しい情報でも、人がAIの人格や能力を過大に見れば事故になり得ます。
優秀な部下ではなく、条件付きの道具として扱う設計が必要です。Data Privacy RiskやDangerous, Violent, or Hateful Contentも、最終的には人がどう入力し、どう受け止めるかで結果が変わります。
Topic不信もリスクに入るのが面白い
NISTの分類で面白いのは、AIを信じすぎるだけでなく、AIを避けすぎる状態も同じ棚に置く点です。導入研修で「AIを信用するな」とだけ教えると、役立つ警告まで無視されるかもしれません。使う条件と止める条件を並べて決める必要があります。
Human-AI Configurationに関するよくある質問
- AIを人らしく見せる画面は避けるべきですか？
- 必ず避けるというより、利用者が能力を過大評価しない表示が必要です。名前、声、返信速度、承認ボタンの位置でも受け止め方は変わります。
- AIの提案を採用しなかった場合も記録すべきですか？
- 重要な業務では記録する価値があります。採用した理由だけでなく、却下した理由も残すと、過信と不信のどちらにも気づきやすくなります。
