人による監督は、AI システムが使われている間、人がその動きを見て、必要なときに止めたり、出力を採用しなかったりできるようにすることです。EU AI 法 第14条は、高リスク AI システムを、人が効果的に監督できるように設計することを求めています。
第14条は、監督を担う人が、システムの能力と限界を理解すること、出力に頼りすぎる傾向（自動化バイアス）に気づいていること、出力を使わない判断や停止の操作を行えることを挙げています。導入者は、必要な能力、訓練、権限を持つ人に、監督を割り当てます（第26条2項）。
日本の「AI 事業者ガイドライン」（第1.2版）は、公平性の指針の中で、AI だけに判断させず、適切なタイミングで人の判断を入れる使い方の検討を挙げています。文部科学省の初等中等教育向けのガイドライン（Ver. 2.0）は、最後は人が判断し、成果物に自分で責任を持つ姿勢を基本としています。
- 読み
- ひとによるかんとく
- 英語
- Human oversight
- 業界
- 製造業、教育機関
- 業務
- AI 活用、規格と法規制
- 出典の確認日