AIインシデントとは
AIインシデントとは、AIの開発や利用、誤作動によって、人や財産、環境に被害が生じたり、人権が侵害されたりした事象のことです。ひとことで言えば「AIが関わって起きた事故」を指します。他社の事例から学び、自社で同じことを起こさないための重要な情報源になります。
OECDによる定義
国際機関のOECD（経済協力開発機構）は、AIインシデントを「AIシステムの開発・利用・誤作動が、直接または間接に、人・財産・環境への被害や人権侵害につながった事象」と整理しました。たとえば、AIによる差別的な判定、自動運転や医療機器の誤動作、個人情報の不適切な扱いなどが当てはまります。派手な暴走だけでなく、見えにくい不利益も含む点が、押さえておきたいところでしょう。
なぜ記録し、共有するのか
AIインシデントは、起きてしまったら終わりではなく、記録し、共有し、学ぶための対象です。OECDは事例を集めて公開する仕組みを運営し、世界で共通の報告のしかたを整える取り組みを進めています。経営にとっては、AIの事故は法務リスクとブランド毀損に直結するテーマです。他社で起きた失敗を知っておくことが、自社の予防につながります。航空業界が事故を徹底的に調べて再発を防いできたのと、発想は似ているといえるでしょう。
Topic「事故」と「ヒヤリ・ハット」を分けて考える
OECDは、実際に害が生じた「インシデント（事故）」と、害が起こりうる状態にとどまる「ハザード」を分けて定義しています。製造や安全管理の現場でいう「事故」と「ヒヤリ・ハット」の関係に近い区別です。大きな事故の手前には、数多くのヒヤリ・ハットがある。だからこそ、害が出る前の段階から芽を拾って手を打とう、という考え方がAIの世界にも持ち込まれているわけですね。
関連用語
AIインシデントに関するよくある質問
- AIインシデントが起きたとき、責任はAIにありますか？
- AI自体が責任を負うわけではありません。AIを開発・提供・利用した組織や人に責任が及びます。だからこそ、誰がどう管理していたかを説明できる体制が問われます。
- AIインシデントの報告は義務づけられていますか？
- 国や分野によって異なります。現時点では一律の義務ではありませんが、国際機関や各国でAI関連の事故報告の枠組みづくりが進んでおり、今後広がる可能性があります。
