ヒューマン・イン・ザ・ループ（Human-in-the-loop。HITL）は、AI に判断や操作を任せきりにせず、途中に人の確認や承認を入れるしくみです。AI エージェントでは、影響の大きい操作の前に、人が承認する形で使います。
OWASP は、LLM に与えた機能、権限、自律性が大きすぎるリスク（LLM06:2025 Excessive Agency）への対策の1つに、影響の大きい操作は人の承認を求めることを挙げています。機能と権限を必要最小限にすることも、あわせて挙げています。
日本の「AI 事業者ガイドライン」（第1.2版）は、公平性の項で、AI に単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討するとしています。Google の用語集は、この語の意味はゆるく、生成 AI の出力を批判的に見る方針を指す場合もあるとしています。
- 読み
- ひゅーまんいんざるーぷ
- 英語
- Human-in-the-loop
- 業界
- 製造業、教育機関
- 業務
- AI 活用
- 出典の確認日