From Reasoning Chains to Verifiable Subproblems: Curriculum Reinforcement Learning Enables Credit Assignment for LLM Reasoning
SCRL：子问题课程强化学习实现LLM推理细粒度信用分配
🧭 课程RL · 子问题分解与信用分配 ★ 深度解读
LeapLab, Tsinghua University · Qiuzhen College, Tsinghua University
通过可验证子问题构建难度课程，结合子问题级归一化把部分推理进展转化为细粒度学习信号，显著提升困难数学题的RL训练效率
📌 工作参考价值（4 点）
- 多步推理任务的训练范式：当业务问题可分解为可独立验证的子步骤（如电商长链决策、多轮Agent交互），可借鉴子问题课程+进度感知奖励校正，将稀疏最终奖励转化为密集的中间信号，避免梯度死区。
- 细粒度信用分配：子问题级归一化在每个子步骤位置独立计算优势，再映射到回答 span 的 token，无需额外奖励模型或过程标注。可直接用于多步推荐对话或规划模型，为每个中间决策分配细粒度学习信号。
- 混合训练保持分布一致性：采用一半课程 rollout、一半原始 rollout 的混合训练，防止 prompt 不匹配，保证模型在推理时能处理原始问题，适合在线 on-policy 训练场景。
- 降低生成器依赖：实验表明即使使用较弱模型生成子问题，SCRR 依然有效，仅需有参考解即可分解，不要求完美构造，工程实现成本低。