ヒューマン・イン・ザ・ループ（HITL）とは
ヒューマン・イン・ザ・ループ（HITL）とは、AIや自動化システムの処理の流れ（ループ）の中に、人の確認、判断、修正の工程を組み込む設計の考え方のことです。
平易に言えば、「AIに任せきりにせず、大事なところで人がチェックする仕組み」です。英語の Human-in-the-Loop の訳語で、頭文字をとってHITLと略されます。
AIは大量の作業を速く処理できる一方で、誤りをもっともらしく出力したり、想定外の状況で判断を誤ったりすることがあります。HITLは、AIの速さと人の判断力を組み合わせ、誤りの影響を抑えながら自動化の効果を得るための設計です。AIエージェントのように、AIが実際の操作まで行う仕組みが増えたことで、改めて重要性が注目されています。
仕組み・ポイント
人が関わる形には、いくつかの種類があります。
| 関わり方 | 内容 | 例 |
|---|---|---|
| 事前承認 | AIが提案し、人が承認してから実行する | メール送信、支払い、データ削除の前に確認 |
| 例外対応 | AIが自信のない案件だけを人に回す | 判定の確からしさが低い問い合わせを担当者へ |
| 抜き取り確認 | 処理済みの結果の一部を人が確認する | 自動分類の結果を毎日一定数確認 |
| 修正と学習 | 人が直した結果を、改善の材料にする | 修正された下書きを手本として蓄積 |
どこに人を入れるかは、次の二つの軸で考えると整理しやすくなります。
- 誤りの影響の大きさ：お金、顧客との関係、法令、安全に関わる操作ほど、人の確認が必要です。
- 取り消しのしやすさ：下書きの作成は後から直せますが、送信したメールや実行した支払いは取り消せません。取り消せない操作の前には、承認を置くのが基本です。
一方で、確認する箇所を増やしすぎると、人の負担が増えて自動化の意味が薄れます。確認する人が多すぎる案件を前に流れ作業で承認するようになると、チェックが形だけのものになってしまいます。
実務での使い方・具体例
ある会社が、取引先からの請求書を読み取り、支払いの準備をするAIエージェントを導入するとします（架空の例）。次のようにHITLを設計しました。
- AIが請求書を読み取り、取引先、金額、支払期日を抽出する
- 過去の取引と照らし、金額が通常の範囲内で、発注データと一致するものは「確認済み候補」とする
- 金額が大きい、初めての取引先、発注データと一致しないといった条件に当たるものは「要確認」として担当者に回す
- 担当者が要確認の案件を確認・修正し、すべての支払い予定をまとめて承認する
- 実際の振込は、承認後に人が実行する
- 担当者が修正した内容を記録し、AIの読み取りの改善に使う
この設計で、担当者はすべての請求書を一から入力する手間から解放され、判断が必要な案件の確認に集中できるようになりました。
HITLを設計するときは、次の点を決めておくと運用が安定します。
- 人に回す条件（金額、取引先、確からしさなど）
- 承認する人と、不在のときの代わりの人
- 人が確認するときに見る情報（AIの判断の根拠、元の資料）
- 確認の結果をどう記録し、改善に使うか
よくある誤解と注意点
人が確認すれば安心、とは限りません。 確認する人に十分な時間と判断材料がなければ、AIの出力をそのまま承認するだけになりがちです。AIの判断の根拠や元の資料を並べて表示するなど、確認しやすい画面を用意することが大切です。
すべてに人を入れると、自動化の意味がなくなります。 リスクの低い処理は自動で進め、リスクの高い処理に人の確認を集中させるのが基本です。
一度決めた設計を見直さないのはもったいないことです。 運用を続けて、AIの誤りがほとんどない処理が分かれば、確認を抜き取りに変えるなど、人の関わり方を調整できます。逆に、誤りが増えた処理は確認を強めます。
責任の所在を明確にしておきましょう。 承認した人が、何に対して責任を持つのかを決めておかないと、問題が起きたときに混乱します。
人の判断の記録は、改善の貴重な材料です。 承認、修正、却下の結果を理由と一緒に残しておくと、AIがどんな場面で誤りやすいかが見えてきます。この記録をもとに、AIへの指示や人に回す条件を見直していくことで、確認の負担を少しずつ減らせます。
関連用語
- コンピューター操作エージェント：AIが画面を操作する仕組み。重要な操作の前に人の承認が必要
- ガードレール（AI）：AIの入出力を自動で確認する仕組み。HITLと組み合わせて使う
- マルチエージェント：複数のAIが分担して作業する構成。人の確認点の設計が重要になる
- アノテーション：人がデータに正解やラベルを付ける作業。人の修正を改善に使う際の土台
- 責任あるAI：重要な判断に人が関与することを原則の一つとする考え方
- 実践記事：AIエージェント開発の進め方：ツール連携と人の承認ポイントの設計
Otsumuに相談できること
AIに業務を任せるとき、どこで人が確認するかの設計は、安全性と効果の両方を左右します。Otsumuでは、業務の流れを分解して、誤りの影響と取り消しやすさから承認点を決め、確認しやすい画面まで含めてAIエージェント開発を進めています。
AIにどこまで任せてよいか判断に迷っている段階でもご相談ください。30分の無料相談でお気軽にお声がけください。
執筆：Otsumu株式会社 ／ 編集日 2026.10.01