Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills
技能自我对弈:用可进化的技能接口突破 LLM 自我训练的数据困境
🧭 Agent 自我进化 · Skill 协同 ★ 深度解读
Alibaba · The Chinese University of Hong Kong · Renmin University of China · Sun Yat-sen University · Peking University
通过可进化的技能库充当任务生成的结构化接口,在工具调用与逻辑推理上显著超越无引导自我对弈
📌 工作参考价值(4 点)
- 技能库即任务模板池:电商搜索/推荐中可将高频意图、结构化的查询改写或回复模式抽象为可进化的技能模块,直接指导生成式推荐或对话模型的训练,避免无监督生成的数据坍塌。
- 双轨训练与动态课程设计:借鉴技能流(skill stream)与开放探索流(exploration stream)混合构建训练池的做法,在推荐模型或Query改写模型的强化学习训练中,用预定义模板确保基本质量,同时用无约束采样扩展多样性,通过前沿奖励自动筛选高价值样本。
- 技能生命周期管理:定期根据模型表现剪枝已饱和的技能、从成功探索中诱导新技能,可迁移到推荐系统中的新闻推送文案生成、活动主题生成等场景,自动淘汰低质模式,持续注入新鲜内容。
- 共进化验证机制:用同一个模型同时扮演提议者和求解者的自我对弈,可用于线上自动评估推荐解释/文案的质量,无需额外标注,适合业务中快速迭代的Agent或生成式推荐组件。