AIインシデントデータベースとは
AIインシデントデータベースとは、AIが現実の世界で起こした失敗や被害の事例を集めて整理した、公開のデータベースのことです。航空業界が事故の記録を蓄えて安全を高めてきた発想を、AIの世界に持ち込んだ取り組みだと言えます。
失敗を記録して、繰り返さない
このデータベースには、AIが引き起こした被害や、その一歩手前のヒヤリとした出来事が集められ、誰でも検索できるようになっています。2020年に公開され、当初から千件を超える事例が登録されていました。自社でAIを導入する前に、「他社で過去にどんな事故が起きたか」を調べてリスク評価に使えるのが利点で、AIの失敗から学ぶための集合知になっています。事前に中身を開示するモデルカードやデータシートとは違い、こちらは起きてしまった失敗を後から記録する役割を担います。
Topicお手本は、航空業界の事故データベース
このデータベースの発想のもとは、航空業界の事故記録でした。成熟した産業が現実の失敗を記録に残し、安全の改善に役立ててきた、その仕組みをAIにも持ち込もうという狙いで2020年に作られています。華々しい成功談だけでなく、失敗からこそ学ぶという姿勢を形にした点に特徴があります。
関連用語
AIインシデントデータベースに関するよくある質問
- AIインシデントデータベースは何をお手本に作られたのですか？
- 航空業界の事故記録です。成熟した産業が現実の失敗を記録に残し、安全の改善に役立ててきた仕組みをAIにも持ち込もうと、2020年に作られました。AIが起こした被害や、その一歩手前のヒヤリとした出来事を集め、誰でも検索できます（公開当初から千件超を登録）。
- 何に使えますか？
- 自社でAIを導入する前に「他社で過去にどんな事故が起きたか」を調べ、リスク評価に使えます。事前に中身を開示するモデルカードやデータシートとは違い、起きてしまった失敗を後から記録する役割を担います。