Beyond Reward Engineering: A Data Recipe for Long-Context Reinforcement Learning
超越奖励工程:长上下文强化学习的数据配方
🧭 长上下文强化学习数据配方
OpenBMB · Tsinghua University
以简单的数据配方替代复杂奖励工程,仅用结果奖励GRPO即可大幅提升长上下文推理及Agent任务表现
📌 工作参考价值(4 点)
- 构建面向长文档的推荐/搜索Agent时,可借鉴检索、多证据合成、推理三类混合数据配方,提升模型在冗长轨迹中定位、整合关键信息的能力。
- 仅使用outcome-based GRPO,无需复杂奖励工程,工程实现轻量、易迁移,适合业务线快速试错。
- 14K的小规模高质量数据即可带来显著收益,在业务数据稀缺时尤其有参考价值。
- 可将该数据范式迁移到多轮对话推荐、长序列用户行为分析等Agent任务中,微调模型的长上下文推理能力。