Rubric-Calibrated Preferences: Cross-Query Calibration of LLM Judgments via Item Response Theory
基于 IRT 的 Rubric 校准偏好：跨查询统一 LLM 评判尺度
🧭 LLM 评判校准 · IRT 跨 query 尺度统一 ★ 深度解读
Cohere
用 IRT 将 LLM 的 listwise 偏好与共享 rubric 校准为跨 query 可比的连续相关性分数
📌 工作参考价值（4 点）
- 离线评估：商品/广告 reranker 的人工 qrels 稀疏、噪声大，可对候选池一次性跑两阶段 LLM judge 产出连续 gain，作为新模型离线指标，避免每轮人工标注。
- IRT 校准可复用：任何 LLM 相对偏好（pairwise/listwise）都能通过共享 rubric 的 τ_j、α_j 映射到统一 logit 尺度，使跨 query/campaign/类目分数可比；在电商多 query 聚合排序、Agent 工具选择评估中可直接套用。
- rubric 设计：5 个递增 yes/no criteria（主题相关→信息有用→属性匹配→直接回答→深度覆盖）比单一有用性更稳；业务可自定义准则，并筛选 discrimination/difficulty 合理的准则。
- 工程实现：BT tournament 窗口 w=10，先随机后按估计质量抽窗；Stage B 多次重复取 pass share；离线 label 池固定后，新模型只需重排候选即可算 RCP-nDCG，成本集中在一次 judge 标注。需注意 LLM judge 可能与 LLM 训练的 reranker 有偏好耦合，上线前用盲评人工子集校验。