ISO/IEC TR 24027とは
ISO/IEC TR 24027とは、AIシステムやAIを使った意思決定に潜む「バイアス（偏り）」を、どう測り、どう軽減するかをまとめた国際的な技術報告書です。2021年に発行されました。バイアスとは、AIの判断が特定の集団に不利に働くなど、公平さを欠いた偏りを指します。
英語表記：Information technology – Artificial intelligence (AI) – Bias in AI systems and AI aided decision making
AIの「えこひいき」はどこで生まれるか
気をつけたいのは、バイアスの多くが開発者の悪意から生まれるわけではないという点です。原因の多くは、学習に使うデータの偏りにあります。過去のデータに含まれる人間社会の偏りを、AIがそのまま受け継いでしまうのです。この報告書は、偏りがデータ収集・学習・設計・テスト・運用といったどの段階で入り込みうるかを整理し、それぞれを測る手法を示しています。AIの判断は中立に見えても、土台のデータ次第で偏りうる。そう理解しておくことが出発点でしょう。
経営リスクとしての偏り
採用の書類選考、融資の与信、保険の審査。こうした場面でAIに判断を任せたとき、特定の属性の人を不当に不利に扱えば、差別や法令違反、企業の信頼失墜に直結しかねません。この報告書は、そうしたリスクを「測れるもの」として点検する手がかりを与えてくれます。AIを業務判断に使う企業ほど、偏りの有無を確かめる仕組みが要になるでしょう。
Topic「TR」は守るルールではなく、知見を持ち寄った報告書
ISO番号の多くは「守るべき要求」を定めますが、頭にTR（テクニカルレポート＝技術報告書）が付くものは性格が違います。要求を課すのではなく、その時点で分かっている知見や手法をまとめて共有する文書なのです。バイアスのように研究がまだ発展している分野では、いきなり厳密な要求を決めるより、まず知見を持ち寄って整理する。そんな段階を映した一冊だといえるでしょう。
ISO/IEC TR 24027に関するよくある質問
- 技術報告書（TR）と通常の規格は何が違いますか？
- TRは守るべき要求事項を課すものではなく、現時点の知見や手法をまとめて共有する報告書です。研究が進む途上の分野で、まず知見を整理する役割を持ちます。
- AIのバイアスは完全になくせますか？
- ゼロにするのは難しいとされます。データに由来する偏りは残りうるため、この報告書は「なくす」より、偏りを測って把握し軽減するという考え方を示しています。
