ToolLoop: Closed-Loop Tool-Use Data Synthesis via Decomposed Generation and Dynamic Self-Feedback
ToolLoop：基于分解生成与动态自反馈的闭环工具使用数据合成
🧭 工具调用数据合成 · 闭环自反馈 ★ 深度解读
vivo AI Lab
用分解生成与阶段自反馈替代一次性生成过滤，11K数据训练4B模型在BFCL达86.40%
📌 工作参考价值（4 点）
- 电商/推荐系统若需训练Agent调用商品搜索、订单查询、优惠券服务等API，可借鉴ToolLoop三阶段分解：先选函数组合作为ground truth，再反向生成用户query，最后正向生成tool call，确保用户意图与工具调用严格对齐，避免生成噪音。
- 动态自反馈比静态过滤更高效：在合成训练数据时，用LLM验证器+规则+AST解析发现错误后，将具体问题反馈给生成模型进行修正（最多3次），而不是直接丢弃，能保留困难样本、改善数据分布多样性，适用于query改写、搜索suggestion等数据合成。
- 候选函数构建采用embedding+K-means聚类+LLM采样，可迁移到电商API管理：将海量商品/订单等API按语义聚类，从每个簇采样构建候选集，既避免上下文过长，又保证候选API语义相关，提升筛选效率和训练效果。
- 移除与测试集重叠的函数后模型性能几乎不下降（86.40 vs 86.07），说明合成数据的价值在于构造过程的内部一致性而非记忆特定schema；业务中应关注数据生成流程的合理性，而非盲目扩大数据量或依赖特定API覆盖。