AI インシデントは、AI システムの開発、利用、誤作動が、直接または間接に、実際の害につながった出来事です。OECD（経済協力開発機構）が、2024年5月の文書「Defining AI incidents and related terms」で、この趣旨の定義を示しました。
OECD の定義は、害として、人の健康への害、重要インフラの運営の妨げ、人権の侵害または基本的な権利・労働・知的財産を守る法令の義務への違反、財産・地域社会・環境への害の4つを挙げています。害につながりうる段階の出来事は、AI ハザードと呼んで区別しています。
EU AI 法は、「重大なインシデント」を定義しています（第3条(49)）。高リスク AI システムの導入者は、重大なインシデントを見つけたとき、まず提供者に、続いて輸入者または販売者と、市場監視当局に知らせます（第26条5項）。OECD は、報道をもとに事例を集める AI Incidents and Hazards Monitor（AIM）を運用しています。
- 英語
- AI incident
- 業界
- 製造業、教育機関
- 業務
- AI 活用、規格と法規制
- 出典の確認日