Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals
裁剪瓶颈：通过随机救援近边界信号稳定RLVR
🧭 RLVR 训练稳定性优化 · 裁剪决策 ★ 深度解读
Alibaba Group · Peking University · Dartmouth College · University of Toronto
诊断硬裁剪决策是GRPO-style RLVR不稳定的关键瓶颈，提出随机救援边界信号的方法NSR，显著提升训练稳定性与性能。
📌 工作参考价值（4 点）
- 诊断方法可迁移：通过解耦裁剪决策与梯度大小，精确定位训练瓶颈，适用于电商/Agent场景中基于PPO/GRPO的微调稳定性分析。
- NSR实现简单：仅需在裁剪计算时对出界token按距离做一次随机保留判断，可直接嵌入现有DAPO/GSPO代码，无额外超参负担，适合快速实验验证。
- 随机救援优于确定性衰减：业务中若需软化信任区域，优先使用概率化保留而非固定权重衰减，能获得更稳定训练与更低方差。
- 支持token级与序列级裁剪：NSR在两种粒度上均有效，可复用于推荐对话生成或策略优化中的不同动作空间。