AIサイコシスとは

AIサイコシスとは、対話AIとのやり取りに関連して、妄想的な確信や現実との区別の難しさが深まったと報告される状況を指す通称です。正式な診断名ではなく、AIが単独の原因だと確立した言葉でもありません。本人や周囲がこの語だけで診断するのは避ける必要があります。

ハルシネーションとは別の話

AIのハルシネーションは、生成AIが事実と異なる内容をもっともらしく出す現象です。AIサイコシスは、利用者側の精神状態をめぐる報道・研究上の呼び名であり、意味が異なります。ただし両者は無関係とは限りません。チャットボットが根拠のない考えへ同調し、会話を長く続ければ、利用者の確信を補強する可能性が懸念されています。

一方で、対話ログだけから人の病状や因果関係を決めることはできません。睡眠、薬物、持病、孤立など別の要因が関わる場合もあります。「AIを使ったから発症した」と短絡しないことと、危険な変化を軽視しないことの両方が必要です。

導入企業が確認する三つの安全策

顧客や従業員が使う対話AIの確認点は三つあります。第一は、妄想的な内容を事実として無条件に肯定しないこと。第二は、深刻な苦痛や危機が疑われる会話で、家族、相談窓口、医療専門職など現実の人へつなぐ案内です。第三に、長時間利用や感情的依存を促す設計になっていないかを点検します。

この確認は診断機能を加えることではありません。むしろ、AIに診断させず、人が対応する境界を決める作業です。従業員支援へ生成AIを導入する場合も、会話内容を人事評価に転用せず、健康情報としてのプライバシーを守る必要があります。差し迫った危険があるときはAIとの会話を続けさせず、地域の緊急窓口や医療機関など人による支援を優先します。

AIサイコシスに関するよくある質問

家族や同僚がAIとの会話で強い不安を訴えたらどうしますか？

本人を言い負かしたり、同意なく会話履歴を調べたりせず、まず苦痛を受け止めて人による支援につなぎます。差し迫った危険がある場合は、地域の緊急窓口や医療機関を優先してください。

相談相手として対話AIを使うこと自体が危険ですか？

利用しただけで危険だとは言えません。ただし、精神保健向けに設計・検証されていないサービスもあるため、重要な判断や危機対応をAIだけに任せないでください。

企業は会話ログを安全監視に使ってもよいですか？

健康や相談に関わる会話は機微性が高いため、目的、閲覧者、保存期間、本人への説明を先に定めます。安全名目で人事評価へ流用したり、必要以上に収集したりしない設計が必要です。