Spreadsheet-RL: Advancing Large Language Model Agents on Realistic Spreadsheet Tasks via Reinforcement Learning
Spreadsheet-RL：在真实 Excel 环境中通过强化学习训练电子表格代理
🧭 电子表格代理 · 强化学习训练 · 工具设计 ★ 深度解读
University of Illinois Urbana-Champaign · Meta
首个面向电子表格的端到端 RL 后训练框架，将 4B 开源模型 Pass@1 从 12.0% 提升至 23.4%
📌 工作参考价值（4 点）
- 多步交互的 tool harness 设计：将电子表格操作抽象为专用工具（find_cells、fill_formula、delete_rows），并强制遵循 inspect→modify→verify 的工作流。这种结构化 action space 对于长链路 agent 的稳定 RL 训练至关重要，可类比于电商多步任务中的工具路由与执行规则设计。
- 无 SFT 的 RL 冷启动技巧：在 RL 前通过 spreadsheet-native harness 提供更强初始策略（Pass@1 从 12.0% 到 15.6%），避免完全依赖代码生成导致的低级失败。对于难以获得 step-by-step 标注数据的业务场景（如库存规划、价格调整），可先构建结构化工具和交互协议，再直接应用 GRPO。
- 异步奖励计算模式：由于 Excel 重计算耗时且依赖 Windows，采用异步提交-轮询的 verifier 实现可扩展的 RL 训练。这与电商 agent 需调用线上服务获取真实反馈的场景相似，可借鉴其 per-rollout 工作空间隔离和异步奖励设计。
- 领域泛化的数据构造策略：通过自动化管道从论坛收集初始-最终电子表格对，并引入领域模板生成 Domain-Spreadsheet 基准。对于生成式推荐或 agent 的多领域迁移，这种低成本合成专业任务的方式值得参考，尤其当业务域缺乏标注数据时。