Improving LLM-Generated Process Model Quality Through Reinforcement Learning: The Role of Reward Function Design
强化学习优化LLM生成过程模型：奖励函数设计研究
🧭 结构化生成 · 奖励函数设计
German Research Center for Artificial Intelligence (DFKI) · Saarland University
RL 通过奖励函数设计显著提升 BPMN 模型的语法和语用质量，并揭示等权重优于定向加权等关键发现
📌 工作参考价值（4 点）
- 在多维度自动评估的生成任务（如推荐理由、搜索 query 改写）中，奖励函数采用等权重组合各维度指标通常优于刻意侧重某一维度，避免模型坍缩到局部最优。
- 设计奖励函数时需结合模型架构进行实验：某些惩罚项（如无效输出惩罚）对一种模型至关重要，对另一种可能无效，应针对自身模型做消融。
- SFT 初始化并非总是有益的，有时反而损害 RL 优化效果，实际落地前应验证无 SFT 的 RL 基线。
- RL 能大幅降低生成输出的方差（本研究降低 6 倍以上），适合需要稳定输出的业务场景，如自动化消息推送文案生成。