ISO/IEC TR 5469とは
ISO/IEC TR 5469とは、AIを安全に関わる機械やシステムへ使うとき、どんなリスクと設計上の考え方を見ておくべきかを整理したISO/IECの技術報告書です。2026年6月時点で、ISO公式ではISO/IEC TR 5469:2024としてPublishedになっています。工場設備、車両、医療機器のように、誤作動が人の安全に直結する領域でAIを使う前のチェックリストに近い位置づけ。
英語表記：ISO/IEC TR 5469:2024 Functional safety and AI systems
何を整理しているか
この文書は、AIそのものを安全機能の中に入れる場合、AIで動く装置を別の安全機能で守る場合、AIを安全機能の設計開発に使う場合を分けて考えます。要点は「AIなら便利」ではなく、「AIが外したときに誰をどう守るか」を先に決めること。AIガバナンスやAIリスクマネジメントとつながりますが、焦点は倫理一般ではなく機能安全にあります。
導入判断での見方
経営判断では、ISO/IEC TR 5469を「AI搭載製品の売り文句」ではなく、安全要求を誰が確認し、どこまで人間や非AIの仕組みで止められるかを議論する材料として見るのが実務的です。特に事故時の説明責任、テスト範囲、運用後の監視は、開発部門だけに閉じると抜け落ちます。安全関連のAIは、精度より先に失敗時の止め方を決めるという順番が重要でしょう。
TopicChatGPT前から進んでいた安全AIの標準化
ISO/IEC TR 5469に関するよくある質問
- ISO/IEC TR 5469は認証取得のための規格ですか？
- 技術報告書なので、単独で認証要件そのものとして扱う文書ではありません。安全に関わるAI利用で検討すべきリスクや方法を整理する参照資料として見るのが自然です。
- どんな会社が意識すべきですか？
- AIを工場設備、車両、医療機器、社会インフラなどに組み込む会社です。失敗時に人や設備へ影響が出るなら、モデル精度だけでなく停止方法や責任分担を先に決める必要があります。
