自评估递归智能体（SERA）
🧭 递归多智能体训练 · 可学习 rubric 评估 ★ 深度解读
Tongji University · Shanghai Artificial Intelligence Laboratory · Shanghai Jiaotong University · Peking University · Nanjing University
训练递归智能体生成与学习对齐的 rubric，以自我评估子任务，降低外部监督并提升执行与分解能力
📌 工作参考价值（4 点）
- 把中间步骤/子任务的 reward 从外部 judge 迁移到策略自产 rubric：训练阶段用少量外部 verified outcome 做 ranking loss 锚定，执行时用模型自己的 rubric 打分。对推荐链路中的多步策划/生成类 Agent，可显著降低线上 LLM judge 调用成本（文中 TextWorld judge calls 和 tokens 下降 4-5 倍）。
- 当评判器和执行器共享同一个模型权重时，不要用最终任务 reward 直接训练 rubric，否则两者会共适应、分数虚高；应使用 verified outcome 的 pairwise ranking loss（带 margin）训练。这点可迁移到“同一模型既做推荐生成又做事后评估”的场景。
- 分解质量需要单独 reward：用 leaf-coverage（成功任务的 delegation 子树覆盖叶子比例）训练分解动作，在依赖链、共享状态、资源冲突等 interdependent 任务上增益明显；对应到电商场景，适合训练复杂活动策划拆解给多个子 agent 时使用。
- 训练得到的 rubric 可以在推理时作为 tree search 的节点选择器，自产候选分支并按 rubric 分数保留最优，无需额外训练即可提升效果；对搜索/推荐中的多路召回或规划路径选择有借鉴意义。
GraphForge：基于图锚定工作空间合成训练工作智能体
🧭 Agent 工作智能体训练数据合成
University of Science and Technology of China · Fudan University · Shanghai Innovation Institute · Shanghai AI Laboratory
用证据图从真实文件合成可验证的工作智能体训练数据，微调后多项基准显著提升
📌 工作参考价值（4 点）
- 可用真实业务文件（商品目录、投放报表、用户日志）构建工作区，并用证据图显式编码文件间关系，确保多步任务每个要求都能追溯到具体支撑文件，避免模型编造数据，适合生成电商运营、广告投放、搜索优化等 Agent 训练集。
- 任务 rubric 与原始文件/单元格锚定，使奖励信号或拒绝采样筛样具备可审计性，降低 reward hacking 和评估噪声，可迁移到 RLHF/DPO 等 Agent 优化流程。
- SFT 后增加 rejection fine-tuning：用自身 rollout 并通过 rubric 筛选高质量候选，无需新增人工标注即可进一步提升 Agent 效果，适合业务 Agent 的快速迭代。
- 初始 rollout 可执行性检查 + revision agent 修复不可行任务，能自动清洗可能失败/不可完成的训练样本，降低坏样本对模型的影响。
RewardVerse：细则引导的视频奖励模型策略优化
🧭 视频生成奖励建模 · Rubric 引导优化
New Laboratory of Pattern Recognition, Institute of Automation, Chinese Academy of Sciences · School of Artificial Intelligence, University of Chinese Academy of Sciences · The Hong Kong University of Science and Technology · Tencent
提出动态 rubric 中间表示与两阶段 RGPO 训练，缓解视频奖励模型标量漂移，点/对偶评估达 SOTA
📌 工作参考价值（4 点）
- 若在搜索/推荐里用 LLM-as-judge 或 reward model 评估生成内容（广告文案、标题、推荐理由、短视频素材），不要把质量直接映射成单 scalar；先生成针对 query/商品类目的动态 rubric，再基于 rubric 打分，可缓解不同 prompt/类目间的分数漂移，使 RL/排序信号更稳定。
- RGPO 两阶段训练可迁移：先用一批人工/规则 seed rubrics warm up scorer 对齐人类评分，再联合微调 rubric generator 生成 query-adaptive criteria，避免直接联合训练导致 rubric 崩坏或打分不稳定。
- Self-evolving seed rubrics 类似于软知识蒸馏/增强：可让 rubric generator 在少标注下扩展评价准则；在电商类目多、标注贵场景可以用 seed rubric + 自演化减少人工规则成本。
- 该框架给奖励判断带来可解释中间表示，便于审核、错误归因和人工校准；上线 reward model 前可把它作为诊断 scalar drift 的工具。
PaperGym：以评分量规为核心的科研计划生成进化训练框架
🧭 LLM 研究计划生成 · rubric 驱动 RL
Zhejiang University · Apple
把每篇论文拆成训练环境：问题来自目标/背景、标准来自方法/实验，用 rubric 做自蒸馏与 GRPO 奖励，显著降低泄漏并提升计划质量
📌 工作参考价值（4 点）
- 做 LLM 文案/query/商品标题生成的 reward model 时，别让 reward criteria 与训练样本来自同一段内容：把任务输入从目标/背景合成，评估标准从方法、实验结果或业务指标独立抽取，可明显降低 paraphrase leakage（PaperGym 降到 3.7%）。
- 奖励 rubric 不要拍平成一个标量：按方法创新、实验设计/业务效果、可执行性等维度分别计分，能抑制 reward hacking，并给 GRPO 更细的奖励信号。
- 两阶段复用 rubric 的训练顺序值得搬：先让 self-teacher 用 privileged rubric 做蒸馏（OPSD），再把它当 GRPO 奖励；类似电商文案训练可先提供高维商品属性/卖点做 SFT，再用多维评分做 RL。
- 把历史 campaign/实验报告变成 RL 环境：用 campaign goal/background 作为问题，用实际方法论与效果指标构造 rubric，可形成低泄漏的训练数据飞轮。
Rubrics 作为视觉修复上下文的自演化 UI-to-Code 生成
🧭 VLM 自演化 · 视觉修复上下文
University of Maryland, College Park · Microsoft
提出 RubSE，用结构化 rubric 引导视觉修复，解决 UI-to-code 自演化中局部修复相互耦合导致轨迹不稳定的问题
📌 工作参考价值（4 点）
- 在迭代优化 Agent（如落地页、商品详情页、广告创意自动生成）中，引入结构化“修复指令/评分标准”作为上下文，而不是反复给模型完整截图让其自由修改，能明显约束修改范围，避免模型过度重写导致原本正确区域被破坏。
- “每轮只选一个最高优先级修复目标”并维护已选目标历史，这种机制可以迁移到多轮自优化流程（如搜索推荐文案、UI 布局、推送消息的自动迭代），提升轨迹稳定性，减少回归。
- 强 rubric 生成器 + 弱代码执行器的组合：业务上若代码生成模型能力有限，可以用更强的模型生成视觉修复 rubric，再交给轻量模型执行修改，推理成本更低且效果可迁移，类似推理时蒸馏。
- 将视觉差异表示为 typed rubrics（layout_geometry、style、component 等），把修复问题分解为可执行子目标，对多模态 Agent 设计有直接参考价值，可用于电商多模态内容生成的闭环优化。
重新思考奖励监督：基于评分标准的自蒸馏
🧭 训练方法 · 评分标准自蒸馏
Yale University
用评分标准作为细粒度反馈，将准则级条件转化为 token 级指导，提升推理模型训练效果。
📌 工作参考价值（4 点）
- 用评分标准替代标量奖励：在 Agent 推理训练中，可以定义类似评分标准（如正确性、连贯性、步骤完整性）作为细粒度反馈，让模型明确改进方向，避免传统 RL 的稀疏信号问题。
- 两阶段训练可复用：先训练一个评分标准生成模型，再用于指导主任务推理，这种分离设计在推荐解释、多步决策等需要可解释反馈的场景中可直接借鉴。
- 自蒸馏减少标注依赖：利用模型自身采样轨迹进行 token 级指导，无需高质量 chain-of-thought 人工标注，适合电商/推荐系统中快速迭代模型。
- 细粒度信用分配提升效果：在多个基准上平均领先 GRPO 1.0 点，表明 token 级奖励比结果级奖励更有效，可尝试将类似机制引入推荐 Agent 的策略优化中。
基于鲁棒评分标准的强化学习奖励方法
🧭 多模态准则级强化学习奖励设计
Huawei Technologies Co., Ltd.
将RLVR扩展到准则级验证，通过LLM抽取器+确定性验证器与LLM评判双路径、最小暴露和分层聚合，显著提升多模态模型性能
📌 工作参考价值（4 点）
- 推荐/Agent 的多目标优化可借鉴分层聚合思想，将核心指标（如点击率、转化率）作为 essential criteria 优先保障，辅助指标（如 diversity）按权重融合，避免多目标互相干扰。
- 对于部分可验证的业务指标（如推荐结果是否符合政策规范），可采用“确定性规则提取 + LLM 评判”双路径奖励：先用规则快速检查硬约束，再用 LLM 评估主观质量，兼顾效率与灵活度。
- 最小暴露策略（屏蔽 ground truth 或原始图片）可直接用于奖励函数设计，防止模型学习到利用奖励漏洞的采样行为，提升在线 RL 训练的稳定性。
- rollout 组内分数缓解饱和的技巧可迁移到推荐策略梯度训练中，通过组内 baseline 或标准化避免模型过早收敛到次优策略。
Co-ReAct：将评估标准作为ReAct智能体的步骤级协作者
🧭 Agent 步骤级评估标准引导 ★ 深度解读
Qwen Applications Business Group of Alibaba · Tsinghua University
训练一个基于评分标准的生成器，以步骤级方式指导ReAct智能体的搜索决策，并通过列表式GRPO优化与专家排名的一致性，显著提升深度研究任务性能。
📌 工作参考价值（4 点）
- 电商搜索Agent构建中，可引入步骤级评分标准（rubric）明确每步目标（如“需覆盖2023-2025年新品”、“指定英文源”），提升信息收集的精准度与全面性。
- 训练一个轻量评判标准生成器，用列表式RL微调使其输出具有甄别力的准则，可作为即插即用组件注入现有ReAct、Best-of-N等方案，平均提升1-15%性能且无需改动原有决策机制。
- 注入+验证+重试机制：动作执行前用生成的标准进行校验，未达标则带反馈重试，此模式可有效降低错误动作率，适用于推荐系统的分步式查询扩展或多轮决策。
- 排名对齐的列表式奖励设计（Spearman相关系数）对生成式推荐中Semantic ID排序、候选动作评估等场景有借鉴意义，用全局排名代替逐对偏好能提供更丰富的梯度信号。