How Fine-Grained Should a RAG Benchmark Be? A Hierarchical Framework for Synthetic Question Generation
RAG基准应细化到何种程度？一种合成问题生成的层次化框架
🧭 RAG评估粒度优化
Emory University
提出HieraRAG层次化框架，通过判别力和一致性比率确定RAG评测的最佳粒度
📌 工作参考价值（4 点）
- 构建内部RAG评估集时，可借鉴层次化粒度框架，在不同问题维度（如复杂度、答案类型）上计算判别力，选取最大化类别间生成质量标准差的粒度，避免过分细分或过粗。
- 一致性比率（Coherence Ratio）可作为维度细分有效性的诊断指标，评估子类别是否继承父类特征，指导电商搜索或Agent问答基准的类别体系设计。
- 合成QA对的生成流程可用于低资源场景，例如从商品说明或客服对话日志中自动生成评估样本，但需结合人工校验确保质量。
- 整个框架可移植，可直接应用到电商RAG、多智体协作等场景，根据自身配置（检索器、生成器）重新测定最佳粒度，降低盲目套用通用基准的风险。