Human-in-the-Loop(ヒューマンインザループ)とは

Human-in-the-Loopとは、AIの処理の流れ（ループ）に人間を組み込み、AI任せにせず人が確認・修正・最終判断を担うしくみです。頭文字をとってHITLとも呼ばれます。ここでの「ループ」は、AIが処理を回す一連の流れのことで、その輪の中に人が居続ける状態を指します。

人が関わる3つの場面

人間が関わる場面は、大きく3つです。学習の段階では人がお手本となるデータを用意し、AIの間違いを直します。運用の段階では、重要な判断はAIの提案で終わらせず、最終的に決めるのは人です。さらに動き出したあとも、人が性能の低下や例外を見張ります。AIを賢くする場面でも、実際に使う場面でも、節目に人の目を挟むのが基本の考え方です。

完全自動との違い、RLHFとの関係

人の関わり方には段階があります。人が一つひとつ判断に加わる状態に対し、人は普段は監視だけで必要なときに止める状態、人がまったく関わらない完全自動の状態、というように幅があります。高リスクな判断ほど、人を流れの中に残すのが一般的です。なお、人間のフィードバックでAIを訓練するRLHFは、この学習段階に人を組み込む一つの形といえます。

ビジネスでの使われ方

投稿の内容審査でAIが疑わしいものを拾い、人が最終判断する。医療画像でAIが異常の候補を示し、医師が確定する。不正取引をAIが検知し、担当者が確かめる。こうした誤りが許されない場面でHITLは使われます。経営の視点では、AIで効率を上げつつ、最後の責任とチェックを人に残せることが利点になります。

Human-in-the-Loopに関するよくある質問

「Human-in-the-Loop」という言葉はどこから来たのですか？

自律兵器や自動運転をめぐる議論で広まりました。人が引き金を引く「イン・ザ・ループ」、監視して必要時に止める「オン・ザ・ループ」、人が関わらない「アウト・オブ・ザ・ループ」と整理され、米国では核兵器を使う判断に人間を関与させる原則が連邦法にも書き込まれたとされます。重い決定ほど人を残す、という考え方です。

完全自動とどう違いますか？

人の関わり方には段階があります。人が一つひとつ判断に加わる状態、普段は監視だけで必要なときに止める状態、人がまったく関わらない完全自動の状態があり、高リスクな判断ほど人を流れの中に残すのが一般的です。

どんな場面で使われますか？

投稿の内容審査、医療画像の異常検知、不正取引の検知など、誤りが許されない場面です。AIで効率を上げつつ、最後の責任とチェックを人に残せる点が利点になります。