社員に悪意がない目的外利用も問題になりますか？

問題になり得ます。便利だから別用途に使う、手順を省く、別システムとつなぐといった行動も、予見できるならリスク管理に入れるべきです。

導入前ワークショップで聞くべき質問は何ですか？

誰が近道をしたくなるか、どの外部ツールへ貼り付けそうか、例外処理で何を省きそうかを聞きます。現場の癖を聞くほど、禁止事項と監視項目が具体化します。

Reasonably Foreseeable Misuse (AI Act)とは、EU AI Actで、AIシステムの本来の目的から外れていても、人の行動や他システムとの相互作用から合理的に予見できる誤用のことです。2026年6月時点では、Article 3の定義語です。

英語表記：reasonably foreseeable misuse

この用語は、ハッキングや明確なルール違反だけを指すものではありません。現場の担当者が便利だから別用途に使う、別の業務システムとつないだ結果として想定外の判断が出る、といった起こりそうな使い方のずれも問題になります。

AIの導入計画では、本来の使用目的（intended purpose）を決めるだけでは足りません。高リスクAIでは、リスク管理の中で、目的外だが起こりうる使い方も見ておく必要があります。説明書に書いた使い方だけを前提に安全だと判断しないことが大切です。

社内でAIを配ると、現場は業務を早くするために想定外の使い方を試します。これは必ずしも悪意ではありません。だからこそ、導入前にユースケース、禁止用途、ログ確認、例外時のエスカレーションを決めておく必要があります。人がどう使いそうかまで読んで設計するのが、AIガバナンスの実務です。

Article 3の定義は、本来の目的に沿わない使い方でも、予見可能な人間の行動や他システムとの相互作用から生じるものを含めています。つまり「説明書には書いていないので知りません」では足りません。現場の使い方の癖までリスク管理に入る発想です。

社員に悪意がない目的外利用も問題になりますか？: 問題になり得ます。便利だから別用途に使う、手順を省く、別システムとつなぐといった行動も、予見できるならリスク管理に入れるべきです。
導入前ワークショップで聞くべき質問は何ですか？: 誰が近道をしたくなるか、どの外部ツールへ貼り付けそうか、例外処理で何を省きそうかを聞きます。現場の癖を聞くほど、禁止事項と監視項目が具体化します。