自動意思決定とは
自動意思決定とは、人手を介さず、コンピュータやAIが自動で判断・決定を下すことです。融資の可否や採用の合否を、システムが機械的に決めてしまうような場面が当てはまります。AI専用の言葉に思われがちですが、昔ながらのルールにもとづく自動処理も含む、もう少し広い概念です。
英語表記：Automated Decision-Making（略称ADM）
GDPRが定める「対象とされない権利」
この分野で有名なのが、EUの個人データ保護法（GDPR）の第22条です。完全に自動だけで下され、しかも人に法的な効果や重大な影響を及ぼす決定について、本人には「その対象とされない権利」が認められています。契約上の必要や本人の同意などの例外はありますが、その場合でも、人による確認を求める・自分の意見を述べる・決定に異議を唱えるといった安全装置を用意することが求められます。
ここで効いてくるのが「完全に自動だけで」という条件でしょう。人が意味のある形で関わっていれば、この規定の対象から外れる余地があります。ただし、中身を見ずにハンコを押すような形だけの承認では、「人が関与した」とは認められにくいと考えられています。
企業が用意すべきこと
与信・採用・保険の引受といった場面で自動判定を使うなら、人が確認・説明し、異議を受け付ける窓口をあらかじめ整えておきたいところ。「システムが決めたので変えられません」という対応は、トラブルや信頼の低下を招きかねません。EU向けにこうした判定サービスを提供する場合は、第22条への目配りが欠かせないでしょう。
Topic「点数を出すだけ」も決定とみなされた
EUの司法裁判所は2023年12月のある判決で、興味深い線引きを示しました。信用情報機関が個人の「信用スコア」を算出する行為について、貸し手がそのスコアに強く頼って融資を決めるのなら、スコアを出すこと自体が自動意思決定に当たると判断したのです。つまり「最終判断は銀行がするのだから、うちは点数を出すだけ」という言い分は通らない、というわけです。誰がどこまで責任を負うのかを考えるうえで、示唆に富む判断でしょう。
自動意思決定に関するよくある質問
- AIを使った判断だけが自動意思決定ですか？
- いいえ。最新のAIに限らず、あらかじめ決めた条件で機械的に振り分けるような昔ながらの自動処理も含まれます。人手を介さずに結論が出る点が共通の特徴です。
- 担当者が形だけ承認すれば、規制を避けられますか？
- 難しいと考えられています。中身を吟味せず承認印を押すだけでは「人が意味のある形で関わった」とは認められにくく、実質的には自動の決定とみなされる可能性があります。
- 自動意思決定はすべて禁止されているのですか？
- 全面禁止ではありません。本人の同意や契約上の必要といった例外があり、人による確認や異議申し立ての仕組みを備えれば認められます。一律に使えないわけではない点が誤解されやすいところです。
