AIが信頼されない理由はなぜか｜5万人調査が示すAI不信と企業が示すべき情報開示
AIを使っていることを隠すより、どこで使い、どこを人が確認するかを先に伝えるだけで、顧客や社員の不安は小さくなります。
5万人規模調査の数字から、信頼を失わないAI活用を考えます。
AIを導入したいのに、顧客や社員から「AIは信頼できない」と見られてしまう。
この不信は、AIをよく知らない人だけの反応ではありません。AIを使う機会が増えたからこそ、誤回答、説明不足、責任の曖昧さが見えやすくなっている面があります。
企業が見るべきなのは、「AIを使うか使わないか」だけではありません。どこでAIを使い、どこを人が確認し、問題が起きた時に誰が訂正するのかまで決めて初めて、顧客にも社員にも説明できます。AIを使ったことを隠すほど、問題発生時の不信は大きくなります。
要点AI不信は性能だけの問題ではない
AIが信頼されない理由は、ハルシネーションだけではありません。顧客にはAI関与の見えにくさ、社員には評価や責任への不安があり、会社側には確認・開示・訂正フローの不足があります。
5万人調査が示したAI不信の核心
KPMGとメルボルン大学の2025年調査では、47ヶ国の48,000人超を対象にAIへの信頼、利用、規制意識が調べられています。世界全体では66%がAIを定期的に使う一方で、AIシステムを信頼する意思がある人は46%にとどまります。
ここで重要なのは、AI不信が「使ったことがないから怖い」という単純な話ではなく、利用は進んでいるのに信頼は同じ速度で増えていないという点です。
そのため企業は、AI機能を増やすだけでなく、信頼される使い方を設計する段階に入っています。
日本の数字を見ると、課題はさらに濃く出ます。日本スナップショットでは、AIを信頼する意思がある人は28%、AIによる不正確な結果を経験した人は57%、AI生成かもしれないためオンラインコンテンツを信頼できるか分からない人は80%でした。
この数字を見る限り、日本の顧客や社員に対して「AIは便利です」と言うだけでは足りません。便利さより先に、どの範囲で使い、どこを人が確認するのかを示す必要があります。AI導入の社員不安については、生成AI導入で社員が不安になる理由でも、評価・雇用・安全の不安を分けて整理しています。
出典: KPMG / University of Melbourne「Japan insights」(英語PDF)
AIが信頼されない理由はなぜか
AIが信頼されない理由は1つではなく、大きく分けると心理、技術、運用の3層があります。
この3つを混ぜたまま対策すると、説明は増えるのに不信は残ります。
| 層 | 不信の中身 | 企業側の対応 |
|---|---|---|
| 心理 | 何を判断されたのか、誰が責任を持つのかが見えない | AIの役割と問い合わせ先を先に示す |
| 技術 | もっともらしい誤回答、古い情報、根拠不明の出力が起きる | 人の確認範囲と保留条件を決める |
| 運用 | 担当者ごとに使い方が違い、訂正や切替の流れがない | 利用ルール、承認、訂正フローをそろえる |
技術面で避けて通れないのがハルシネーションで、OpenAIは、言語モデルが不確かな時に「分からない」と言うより、推測で答えたほうが評価上有利になりやすい構造を説明しています。
これはAIを禁止すべきという話ではなく、確認なしで業務判断に使うのが危ないという話です。
出典: OpenAI「Why language models hallucinate」(英語)
注意AIの誤りをゼロ前提にしない
AI出力は、下書き、分類、要約、候補出しでは力を発揮します。一方で、契約、医療、法律、採用、与信、クレーム対応のように相手の権利や判断に影響する場面では、AIの回答を人が確認しない運用は避けるべきです。
社内ルールが未整備なら、生成AI利用ルール診断のように、入力禁止情報、出力確認、履歴管理、社外利用の線引きを先に点検すると進めやすくなります。ハルシネーションの実例を知りたい場合は、ChatGPTのハルシネーション事例も確認材料になります。
顧客がAI利用に不信を抱く接点
顧客の不信は、AIを使った瞬間に必ず起きるわけではなく、むしろ問題になるのは、AIが関与しているのに、顧客から見ると人が対応しているように見える場面です。
- 問い合わせ対応：AIチャットボットが断定回答し、人への切替が遅い
- 商品説明：AI生成の商品説明に誤りがあり、購入判断に影響する
- 審査・査定：AIが関与したのか、人が判断したのか分からない
- 採用・評価：応募者や社員が、AIに一方的に判定されたと感じる
- クレーム対応：感情的な問題にAIが定型文で返し、軽く扱われた印象になる
ここで大切なのは、AIか人かの二択で考えないことです。顧客はすべてを人が対応することだけを求めているわけではなく、簡単な確認はAIで早く、複雑な相談や不満は人へ切り替わると分かれば、AI利用そのものへの抵抗は下がります。
メモ顧客接点では「AIが答えたか」だけでなく、「人へ切り替えられるか」「訂正してもらえるか」「記録が残るか」が信頼の材料になります。
AIチャットボットの導入を考える場合も、ツール名より先に、一次回答、有人切替、ログ確認、回答改善の流れを決める必要があります。関連して、問い合わせ対応をAIで効率化する事例では、AIに任せる範囲と人が見る範囲を分けて考える視点を整理しています。
AI利用をどこまで開示するか
AI利用の開示で大切なのは、企業の内部工程をすべて公開することではありません。顧客や取引先の判断に影響する接点で、AIの役割、人の確認範囲、切替条件を短く伝えることです。
| 開示する項目 | 書き方の例 | 避けたい状態 |
|---|---|---|
| AIの役割 | 一次回答や文章案の作成にAIを利用しています | 人がすべて作ったように見せる |
| 人の確認 | 最終回答は担当者が確認します | AI回答をそのまま断定する |
| 切替条件 | 契約、個別事情、苦情は担当者へ引き継ぎます | 複雑な内容もAIだけで続ける |
| 訂正窓口 | 内容に誤りがある場合はこの窓口へ連絡できます | 訂正先が分からない |
たとえば問い合わせページなら、次のような短い開示でも意味があります。
文例顧客向けAI利用開示
当社では、お問い合わせへの初期回答案の作成にAIを利用する場合があり、個別の契約判断、料金、法的判断に関わる内容は担当者が確認します。
回答内容に誤りがある場合は、お問い合わせ窓口までお知らせください。
EU AI Act Article 50では、AIシステムと直接やり取りする人への通知や、AI生成コンテンツの表示に関する透明性義務が規定されています。日本の全企業に同じ義務がそのまま当てはまるという意味ではありませんが、AI関与を相手に分かる形で伝える流れは強まっていると見ておくべきです。
出典: EU AI Act Article 50 text viewer(英語)
国内での具体的な法的判断は、業種、用途、個人情報、契約内容によって変わるため、「開示しなくても違法ではないか」だけで判断すると、顧客の信頼を失う可能性があります。
法務確認と同時に、顧客が安心して判断できるかを見てください。
従業員がAIを信頼しない時に経営が見る順番
社員がAIを信頼しない時、経営側は「便利なのに使わない」と見てしまいがちです。けれど現場側には、評価に使われるのではないか、自分の仕事が置き換わるのではないか、誤った出力の責任を負わされるのではないか、という不安があります。
KPMGのグローバル調査では、職場でAI出力を精査せず頼る人が66%、AIによって仕事上のミスをした人が56%とされています。これは、社員がAIを信じすぎても、信じなさすぎても問題になることを示しています。
推奨社員には「使え」より先に「責任範囲」を示す
AI活用を進める時は、使う業務、入力禁止情報、出力確認、承認者、ミス報告先を先に決めます。責任範囲が見えると、社員はAIを試しやすくなります。
順番としては、まず禁止事項を決め、次に使ってよい業務を決めた上で、確認が必要な出力と、そのまま使ってよい出力を分けます。
全部禁止でも、全部自由でもなく、業務ごとの線引きが必要です。
- 入力禁止：個人情報、顧客秘密、未公開情報、契約書全文などを整理する
- 利用可能業務：下書き、要約、分類、FAQ案、議事録などから始める
- 確認必須業務：顧客回答、契約、法務、採用、医療・金融に近い説明を分ける
- 報告ルート：誤回答、情報漏洩疑い、顧客苦情が起きた時の連絡先を決める
研修はツール操作だけで終わらせないほうがよいです。生成AI研修の作り方でも整理している通り、実務では「何を入力しないか」「どの出力を疑うか」「どこで人に戻すか」をセットで練習する必要があります。
今日から始める信頼構築アクション
AIの信頼づくりは、大きな制度作りから始める必要はありません。まずは顧客接点と社内利用を棚卸しし、信頼を失いやすい場所から小さく直すのが現実的です。
| 順番 | やること | 確認する質問 |
|---|---|---|
| 1 | AIを使う接点を棚卸しする | 顧客や社員はAI関与に気づけるか |
| 2 | 顧客影響が大きい接点を優先する | 誤回答が相手の判断に影響するか |
| 3 | AIの役割と人の確認範囲を書く | 最終責任者は誰か |
| 4 | 開示文と有人切替文を用意する | 相手は人へつながる条件を分かるか |
| 5 | 訂正・謝罪・再発防止の流れを決める | 誤りを見つけた後に戻せるか |
信頼KPIも、最初は難しく考えすぎなくてかまいません。AI回答の採用率、有人切替率、誤回答報告数、訂正完了までの時間、顧客満足度、社員の不安回答を見れば、AIを増やすべきか、説明を直すべきか、確認フローを厚くするべきかが見えてきます。
警告信頼KPIを利用率だけにしない
AIの利用率が高くても、誤回答、差し戻し、苦情、社員の隠れ利用が増えていれば、信頼は高まっていません。使われていることと、信頼されていることは別です。
AIベンダーやツールの継続利用にも同じ視点が必要で、機能の便利さだけで選ぶと、後から説明責任や運用変更に苦労します。
調達や依存リスクまで見る場合は、使っていたAIが急に使えなくなる理由もあわせて確認してください。
AI信頼のFAQ
QAIが信頼されない一番の理由は何ですか?
A一番大きいのは、AIの関与、判断根拠、人の確認範囲が見えないことです。ハルシネーションのような技術的問題もありますが、顧客や社員から見ると「誰が責任を持つのか分からない」ことが不信につながります。
QAI利用は顧客に必ず開示すべきですか?
Aすべての内部工程を公開する必要はありません。ただし、顧客の判断、契約、料金、採用、審査、苦情対応などに関わる接点では、AIの役割、人の確認範囲、問い合わせ先を示したほうが安全です。法的判断は業種や用途で変わるため、必要に応じて専門家へ確認してください。
Qハルシネーションがあるなら、業務でAIを使わないほうがよいですか?
A使わないと決めるより、用途を分けるほうが現実的です。下書き、要約、分類、候補出しには使いやすい一方、顧客への断定回答、契約、法務、医療、金融、採用に近い判断では人の確認を必須にするべきです。
Q社員がAIを信頼しない時は何から始めればよいですか?
A最初に、評価や監視に使うのか、仕事を置き換えるのか、ミスの責任を誰が持つのかを説明します。その上で、入力禁止情報、使ってよい業務、出力確認、報告ルートを決めると、社員はAIを試しやすくなります。
QAIの信頼度はどの指標で見ればよいですか?
A利用率だけでは不十分です。AI回答の採用率、有人切替率、誤回答報告数、訂正完了までの時間、顧客満足度、社員の不安回答を組み合わせると、AIが使われているだけなのか、信頼されているのかを分けて見られます。
