OpenClaw-Skill: Collective Skill Tree Search for Agentic Large Language Models
OpenClaw-Skill:面向智能体 LLM 的集体技能树搜索框架
🧭 集体技能树搜索与强化学习框架 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University · Tsinghua University · Royal Melbourne Institute of Technology · Beijing University of Aeronautics and Astronautics
利用多模型集体智能构建结构化、多样且可迁移的技能树,并配合跨技能对比的强化学习,显著提升 LLM 智能体在长程工具使用任务上的表现
📌 工作参考价值(4 点)
- 复杂推荐流程的工序化拆解:将多步骤推荐任务(如 Query 理解→候选召回→重排序→解释生成)显式分解为子任务,对每个子任务构建技能节点,形成可组合的推荐技能树,避免长流程的碎片化推理。
- 多模型轨迹蒸馏生成多样技能:在电商/搜索场景中,利用多个不同偏好或规模的 LLM 对同一子任务生成执行轨迹,再蒸馏为候选技能,能显著提升技能覆盖度,防止技能集过度拟合单一模型的推理风格。
- 技能迁移性评估确保跨模型复用:采用「技能合成模型≠验证模型」的迁移性评分,可筛选出真正通用的推荐技能。这在推荐 Agent 需要部署在不同 backbone LLM 上时尤其有价值,避免反复定制。
- 技能条件下的跨分支对比 RL 训练:在推荐策略优化中,不局限于单个技能,而是对多个备选技能分别 rollout,并基于跨技能归一化优势进行 GRPO 更新,迫使策略学会在不同场景下自适应选择最优技能,避免陷入单一策略的局部最优。