RAG の評価は、RAG のしくみが出す結果の質を、検索の段階と回答の段階に分けて測ることです。検索では、関係する文書を取り出せたかを確かめます。回答では、渡した文書にもとづいて質問に答えているかを確かめます。

Microsoft の設計の手引きは、検索の指標に、上位 K 件のうち関係するものの割合(Precision at K)、関係するもの全体のうち上位 K 件に入った割合(Recall at K)を挙げています。最初の関係する結果の順位の逆数の平均(MRR。Mean Reciprocal Rank)も挙げています。

回答の指標には、回答が渡した文書だけにもとづいているか(groundedness。faithfulness とも呼ぶ)、質問のすべての部分に答えているか(completeness)があります。質問に合っているか(relevance)なども、回答の指標です。論文 RAGAs(EACL 2024)は、人が正解を用意しなくても測れる指標を示しました。

英語
RAG evaluation
業界
製造業、教育機関
業務
AI 活用
出典の確認日

用語集の一覧へ

関係する用語

出典

用語集の一覧へ ›

まず、実物を
見てください。

問いで止まる動画。資料からつくった動画。該当箇所を示して答える AI。デモで、実際の画面をお見せします。

気になる0