When Synthetic Speech Is All You Have: Better Call GRPO
仅有合成语音时，GRPO优于SFT
🧭 RL微调在合成数据域适应中优于SFT
Idiap Research Institute · EPFL · Uniphore · Brno University of Technology
在合成语音ASR域适应中，GRPO强化学习比监督微调大幅降低WER 40-45%
📌 工作参考价值（4 点）
- 当真实用户反馈昂贵或受限时（如冷启动、隐私保护），可使用合成数据 + GRPO 做策略优化，GRPO 无需 critic 网络，工程实现简单，适合在线 RL 或模拟环境下的 Agent 策略训练。
- GRPO 的组内相对奖励机制可类比推荐场景中的 listwise 优化：从一组多样化输出中选出低错误（高奖励）假设，抑制劣质输出，可借鉴用于生成式推荐/query 推荐的偏好对齐。
- 分析表明 GRPO 的增益来自行为校准（停止判据、注意力对齐）而非表示层变化，提示在 RL 微调推荐对话 Agent 时，可重点监控和优化行为指标（如终止时机、幻觉率），而非只关注隐层表示。
- 论文结论“当合成数据是主要资源时，RL 应优先于 SFT”可迁移到使用 LLM 生成训练数据的场景：用 SFT 预热后接 GRPO 可进一步榨取合成数据的上限。