Data World: Scaling Data Environments from Scratch
Data World:从零开始规模化合成数据环境
🧭 多智能体环境生成与数据代理训练
Nanjing University · Meituan · Zhongnan University of Economics and Law · Hunan University · Shanghai Jiao Tong University
多智能体引擎从显式机制合成数据环境和任务,产出训练数据并RL-zero训练数据代理,基准大幅提升
📌 工作参考价值(4 点)
- 数据合成范式可迁移到推荐 Agent 训练:先定义用户偏好机制或环境规则,再生成可观测行为序列(点击、购买),让 Agent 反推机制并产出策略。相比收集真实数据,这种方式规避隐私且天然携带 ground truth,适合构建 RL reward。
- 多智能体审计确保任务可解性:在生成模拟环境时,让独立角色检查目标是否可从观测文件恢复,避免生成无解或歧义任务。在电商场景中,可用一个智能体生成用户模拟,另一个验证推荐理由是否成立,减少无效标注。
- 用 rubric 同时作为评估和 RL 奖励:不必依赖人工轨迹蒸馏,结构化评分标准可直接作为 reward,降低标注成本。对于推荐系统的解释生成、策略优化等开放式任务,可设计类似 rubric 让模型在无监督数据上自我改进。
- 人类偏好筛选提升任务真实性:从大规模合成任务中筛选最接近真实业务问题的子集构建评测集,可借鉴到 query 推荐、商品文案生成等任务,快速构造高质量离线 benchmark。