説明可能性（説明可能な AI）

説明可能性は、AI システムがある出力や判断をどのような根拠や仕組みで導いたのかを、人に答えられる性質です。この性質を備えた AI を説明可能な AI（XAI）と呼びます。

米国国立標準技術研究所（NIST）は 2021年9月の報告書 NIST IR 8312 で、説明可能な AI の4原則を示しました。出力の根拠を示す「説明」、受け手が理解できる「意味のある説明」、説明が実際の理由や処理を正しく表す「説明の正確さ」、設計した条件の範囲内で十分な確信があるときだけ動く「知識の限界」です。

NIST の AI RMF 1.0（2023年1月）は、説明可能性を AI システムが動く仕組みの表現、解釈可能性を出力が目的に照らして何を意味するか、と区別しています。総務省・経済産業省の「AI 事業者ガイドライン（第1.1版、2025年3月）」は、NIST の分類を紹介する脚注で、説明可能性をシステムでどのように決定がなされたかに答えられることと説明しています。

読み

せつめいかのうせい

正式な名前

explainable artificial intelligence (XAI)

業界

製造業、教育機関

業務

AI 活用、規格と法規制

出典の確認日

2026年10月12日

「気になる」に追加用語集の一覧へ

関係する用語

• NIST AI リスクマネジメントフレームワーク（AI RMF）：NIST AI リスクマネジメントフレームワーク（AI RMF）は、AI のリスクを組織が管理するための枠組みです。米国の NI…
• AI 事業者ガイドライン：AI 事業者ガイドラインは、AI を開発する事業者、提供する事業者、事業で利用する事業者に向けて、総務省と経済産業省がまとめた指…
• AI ガバナンス：AI ガバナンスは、AI を使うことで生じるリスクを、関係者が受け入れられる水準に抑えながら、得られる便益を最も大きくするための…
• 機械学習（ML）：機械学習は、人が手順を一つひとつ書く代わりに、コンピュータがデータから規則やパターンを学び、予測や分類ができるようにする AI…
• ハルシネーション：ハルシネーションは、生成 AI が、誤った内容や偽の内容を、自信のある書き方で出力する現象です。米国の NIST の文書（NIS…

出典

• NIST: NIST IR 8312 Four Principles of Explainable Artificial Intelligence（2021年9月）（別のタブで開きます）
• NIST: AI 100-1 Artificial Intelligence Risk Management Framework (AI RMF 1.0)（2023年1月）（別のタブで開きます）
• 総務省・経済産業省: AI 事業者ガイドライン（第1.1版）（2025年3月28日）（別のタブで開きます）