代码技能服务器:面向代码生成技能的大规模搜索引擎
🧭 Agent 技能检索与代码生成增强
Shandong University · Guangzhou University
构建包含 993 个代码生成技能的检索服务器,检索注入可提升 Pass@1 最高 13.91%
📌 工作参考价值(4 点)
- 将可复用能力沉淀为技能库:把营销文案模板、API 调用代码、平台规则等封装成统一 schema 的技能,用 embedding 建立增量索引,Agent 根据 target task 检索注入上下文
- 检索即增强,不依赖微调:实验显示跨模型稳定提升至少 4.21%,可直接将技能检索作为外挂模块,接入现有多模型 pipeline
- 异构来源技能标准化是关键:统一技能描述、触发条件、示例等字段,能提高检索命中率与可复用性
- 评估上关注 Pass@1 提升和跨模型泛化,可作为生成式推荐/Agent 工具检索旁路增强的验证指标
Darwin-Claw:环境自适应经验固化驱动的递归自进化智能体
🧭 Agent 自进化经验固化与技能管理 ★ 深度解读
Zhejiang University · Tencent · Zhongguancun Academy
提出 Darwin-Claw,将交互失败归因为结构化经验单元并外置到技能槽位,驱动递归自进化,在 WildClawBench 上平均得分提升 24.1%
📌 工作参考价值(4 点)
- 把用户/环境特定经验固化为结构化 Experience Unit(trigger conditions、keywords、handling strategies),并注入 SKILL.md 作为 inline patch;可直接用于电商导购 Agent、客服 Agent,将高频失败 case 沉淀为情境级补救策略,而不是每次从原始轨迹重放。
- 通过槽位限制与生命周期状态机(Nursery probation → Active → evict/archive)管理外部技能,防止 prompt 信息过载;搜索/推荐 Agent 可以用同样机制管理候选策略、query 模板或召回规则,保持上下文复杂度可控。
- 采用两阶段 LLM 做 causal attribution 加多维评分(coverage/effect/efficiency,S=w1e+w2c+w3η),避免把偶然成功固化进策略;在广告文案、push 选词等自动优化场景中,可用来评估一次改写的真实增量贡献。
- 经验外置化而不是微调模型参数,兼容 OpenClaw、Claude Code、Codex 等主流 harness,并支持多用户技能生态集体进化;适合在推荐对话系统上做轻量、可回滚的持续优化,不触碰底座模型。
DrugHarness:可进化代理框架用于计算药物发现
🧭 Agent 技能进化 · 科学执行
Shanghai Artificial Intelligence Laboratory · China Pharmaceutical University · University of the Chinese Academy of Sciences · Shanghai Jiao Tong University · Westlake University
通过条件技能归纳与独立审核,构建可进化的科学代理框架,显著提升分子筛选与优化能力
📌 工作参考价值(4 点)
- 可借鉴“技能库+独立审核”机制:从执行轨迹和结果反馈中归纳候选策略,由独立 review agent 做来源核验与定向试跑后入库。在电商推荐 Agent 中可先由 critic LLM 评估新策略,再利用历史日志或小流量实验验证,避免噪声策略直接上线。
- 为技能绑定可观察的适用条件(applicability conditions),仅在满足条件时激活。推荐场景中可将策略与用户群、场景、上下文绑定,避免全局误用;类似规则引擎中的条件触发,但由 LLM 自动归纳条件。
- 环境保留候选、结果、产物的关联 lineage,便于回溯和提炼技能。推荐系统可构建“推荐轨迹-用户反馈-候选集”的 lineage store,用于策略诊断、归因和持续优化。
- 分离“执行”与“技能审核”两个角色,防止自我强化偏差。在推荐 Agent 中设置独立策略评估器,对生成的新策略做验证后再上线,能降低风险并提高策略质量。
多步 Agent 工具推荐:检索任务所需的每一个工具
🧭 Agent 工具检索与推荐 · 成本优化 ★ 深度解读
Arcade.dev
部署的 Tool Recommendation 系统用固定三工具接口为多步 Agent 提供全目录 8200+ 工具,实现工具链完整性与端到端成本双赢
📌 工作参考价值(4 点)
- 固定接口 + 检索重排替代静态工具列表:当 agent 需要触达大量 API/工具/技能时,不要把所有 schema 塞进 context,而是暴露 SelectTools、UseTool、ListApps 等少数元工具,按需检索并执行;权限过滤放在 gateway 层,保证推荐结果符合用户 scope,可直接迁移到电商导购/客服 agent 管理商品查询、订单、优惠券等海量工具。
- 评估指标用 Completeness@K 而非 Recall@K:多步任务缺一个工具就失败,例如“查库存→比价→下单”三工具缺一不可;在内部工具检索 benchmark 上加入 Completeness 指标,能更好反映端到端成功率,而不是平均召回。
- 成本优化必须看实际账单(含 prompt cache)而非仅输入 token:输入 token 减少不代表账单同比例下降,因为缓存输入便宜得多;应明确 caching 规则、用美元账单对比,并识别静态列表与动态检索的盈亏平衡点(约 25-28 个工具,或搜索频率 >0.63 次/工具调用时静态列表更便宜)。
- 多步 agent 失败主因常是 agent 没发起搜索/任务拆解不清,而非排序错误:可在 prompt 中显式引导 agent 每个任务只搜索一次、一次搜索一个动作,并监控首次推荐覆盖率与未发起搜索占比,针对性迭代提示词。
FuTransformer:面向 Hopper 的 Llama 式推理 FP8 Prefill 与 INT4 Decode
🧭 LLM 推理 GPU Kernel 与量化优化
在 H100 上实现 Llama 风格 Transformer 推理 CUDA kernel,prefill 用 FP8,decode 用 INT4 权重和旋转 INT4 KV cache,单步解码从 8.1ms 降至 2.8ms
📌 工作参考价值(4 点)
- 在线推荐/Agent 系统中 LLM 推理延迟敏感,可借鉴其 INT4 decode 方案:权重 INT4 + KV cache INT4,在 H100 上 batch=1 的 Llama-3.1-8B 单步从 8.1ms 降到 2.8ms,适合低延迟实时交互。
- 将量化权重和 keys 直接按 Tensor Core fragment layout 存储,避免生成完整中间 tile,减少显存读写和 kernel 复杂度;这项工程优化可复用到线上 embedding lookup 或 attention 模块的低精度部署。
- 使用 block-diagonal Hadamard 旋转抑制异常通道对 KV cache 量化误差的影响(旋转后 cache 量化仅增加 0.20 PPL),对用户行为序列、长历史 cache 的压缩存储有参考价值。
- 把固定 RMSNorm gain 折叠进权重、FP8 输出直接写入并采用 delayed scaling,合并多个独立 kernel 为 GEMM+epilogue,减少 kernel 启动和中间结果搬运,适用于实时特征服务中的算子融合。
GatewayBench:MCP 网关能力与安全统一评测平台
🧭 Agent 基础设施评估基准
Tsinghua University · University of Chicago · University of Illinois Urbana-Champaign
首个 MCP 网关统一评测基准,量化扁平与层级网关在任务完成、效率与攻击韧性上的差异
📌 工作参考价值(4 点)
- 在电商/广告 Agent 场景中,若需接入大量工具(商品搜索、订单、营销、报表等),优先采用层级式 MCP 网关,通过工具发现 meta-tool 按需检索,避免将所有工具 schema 塞入 context,降低 token 消耗并提升任务完成率。
- 评测自有 Agent 工具调用时,可借鉴 GatewayBench 注入大量无关工具,模拟真实大规模工具面,观察模型在干扰下的选择能力;工具池尽量用真实业务工具而非合成样本。
- 安全侧:层级网关并非天然安全,需在工具发现层增加权限过滤、来源验证与工具描述审查,防止恶意工具通过检索被暴露给 agent。
- GatewayBench 提供统一任务和可验证 judge 的评测框架,可直接复用其任务构建思路,为内部 MCP 网关选型和迭代建立可量化的回归测试。
GLOBE:面向生成式搜索电商商品优化的结构化智能体记忆演化
🧭 生成式搜索 GEO · Agentic Memory ★ 深度解读
AI Lab, CTO Division, LG Electronics, South Korea
把商品改写策略存成字段级行为手册,用排名反馈持续演化、去冗余并淘汰有害策略
📌 工作参考价值(4 点)
- 将商品 listing 优化从整篇 prompt 改写拆成 field-scoped behavior:每个 behavior 定义 edit operation + 允许字段(title/features/description)+ 冲突关系,可避免跨字段错误和过拟合关键词;电商可直接把 SEO/GEO 规则落成这种结构化手册。
- 用 rank gain 作为反馈,按 batch 聚合并更新 behavior 的 helpful/harmful/neutral 计数、score = h+ - h-,设 probation Nmin=5 再淘汰;比逐 episode 更新更稳,适合在线排序反馈有噪声的场景。
- Moderator 做 embedding dedup(cos > 0.9)+ LLM 功能去重,再由 Curator 提交;防止反馈演化膨胀出冗余或过拟合 ranker 的 behavior,全流程保持 handbook compact,cross-ranker 迁移更好。
- 推理阶段冻结 handbook,只用 active behaviors 单次编辑,无迭代搜索;训练阶段多智能体成本高但线上轻量,可考虑把 handbook 蒸馏到小模型或作为静态规则库。
轨迹到差异化技能:自我改进 Agent 的认知分化
🧭 Agent 技能自进化 · 功能分化 ★ 深度解读
University of Science and Technology of China · Meituan · City University of Hong Kong
提出 CDSE 将轨迹提炼为 Meta/Experience/Tool/Script 四类功能分化组件,统一维护与自适应调用,在 36 个评测设置中全面超越既有技能进化方法
📌 工作参考价值(4 点)
- 在构建电商/广告领域的 Agent 技能库时,不要把所有经验写进一个大 prompt 或文档,而是按 Meta/Experience/Tool/Script 拆分;例如商品运营 Agent 中,Meta 管任务规划和停止条件,Experience 管类目/活动上下文的启发规则,Tool 管具体 API 调用注意事项,Script 管可复用的数据清洗/报表脚本。
- 从成功和失败轨迹中提取“语义梯度”时,要求每条更新附带轨迹证据行,先做证据过滤和因果定位,再保留;可借鉴用于自动从客服对话、运营操作日志中挖掘可复用规则,减少无证据的泛泛总结。
- 对可执行脚本类知识引入独立验证和自测,未通过验证不进库;这可以避免自动化流程中错误脚本污染后续任务。
- 采用描述可见的自适应调用:在组件加载前提供简短 scope/触发条件/预期收益描述,让 LLM agent 自主选择何时加载哪个组件;实验表明零加载也能通过描述影响行为,适合在 prompt 预算有限时做渐进式披露。
HybridResearcher:弥合深度研究智能体的结构化与非结构化边界
🧭 Agent 跨源推理训练与数据合成
Seoul National University · University of California, Los Angeles · University of North Carolina at Chapel Hill · University of Houston · Snowflake AI Research
4B深度研究Agent经跨源桥接轨迹合成训练,在混合基准上超397B大模型8.3分且无灾难遗忘
📌 工作参考价值(4 点)
- 电商/广告分析型 Agent 常需同时查询内部数据库(订单、库存、用户行为)和外部网页(竞品价格、市场趋势、社媒评论),可借鉴本工作从单源种子任务(text-to-SQL 或 web search)出发构造跨源训练轨迹,让 4B 小模型掌握跨源工具调用与证据综合能力。
- 构造训练样本时引入严格 gate(验证单源不足以回答)能强制模型学习互补性而非走捷径,业务中自制跨源数据时可效仿该机制提升数据质量。
- 小模型经精心编排的跨源轨迹 + SFT+RL 可超越大模型且不遗忘单源能力,对成本敏感的线上 Agent 部署有直接参考:无需依赖大模型,领域内单源数据可 bootstrap 跨源推理。
- 评估时同时监测单源基准(如 BrowseComp)和跨源基准,确保增强能力不损伤原有单源检索或 SQL 能力,可作为模型迭代的常规检查项。
IF-MAP:多智能体系统中受影响函数启发的智能体优先级排序
🧭 多智能体优先级排序与黑盒优化
The Chinese University of Hong Kong, Shenzhen · Harbin Institute of Technology · School of Engineering and Applied Sciences, Harvard University
提出 IF-MAP 黑盒方法,通过提示扰动与局部响应模型估计 agent 改进潜力,为多智能体系统确定优化优先级
📌 工作参考价值(4 点)
- 在多 Agent 搜索/推荐链路(如 query 改写、召回、排序、文案生成各由一个 LLM agent 负责)中,用 IF-MAP 式探测确定高杠杆 agent:对每个 agent 的 prompt 做少量语义扰动,记录端到端指标变化,优先调优影响最大的节点,避免平均分配算力
- 不需要访问模型参数/梯度,适合采用 API 或第三方模型的业务;只依赖 prompt embedding 与最终 loss,可在生产环境旁路低成本采样,不影响线上
- 拟合正则化局部响应模型,用系数范数做打分,可作为轻量级优先级评估器;工程上可在小样本上快速执行,并将得到的优先级迁移到不同底层模型(论文显示跨模型有效),适合先在小模型上探测、再决定生产模型升级顺序
- 成本收益:相比全量优化所有 agent,该策略可节省 35–74% token,同时提升宏观指标,适合需要频繁迭代 prompt 或替换模型的团队
记忆感知路由:会话级LLM助手的记忆构造与模型选择协同框架
🧭 Agent 会话记忆与路由协同优化 ★ 深度解读
Southern University of Science and Technology · City University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Harbin Institute of Technology (Shenzhen)
通过共享会话状态协调记忆暴露与模型选择,在长历史交互中实现质量-成本平衡
📌 工作参考价值(4 点)
- 在电商客服/导购 Agent 中,将记忆构造与模型路由解耦会导致强模型被错误上下文拖累,建议引入轻量级控制器(QTM)输出结构化会话状态,同时指导召回/上下文组装和模型选择,降低过期信息与干扰。
- 使用 LinUCB 在线学习路由策略,以 turn-level rubric 评分减生成成本作为奖励,冷启动即可用,无需重训底层 LLM,适合线上多模型池的动态成本控制。
- 区分「记忆访问」与「记忆暴露」:维护大记忆池但只给生成模型打包决策相关证据,并通过预算感知 pack 适配不同模型的上下文窗口,能有效避免 context overflow 和多余 distractors。
- 借鉴 QTM 的 schema 字段(action/query_type/phase/retrieval_scope/top_k_hint/lens_recommendation),避免把原始 topic 标签直接喂给路由器,有助于跨任务泛化和可解释性。
接受不等于速度:训练自由有损推测解码中的长度膨胀
🧭 LLM 推理 · 推测解码效率评估
University of Waterloo
发现 relaxed 推测解码的接受 token 数增加会伴随生成长度膨胀和推理延长,使指标失真,应报告完成长度和验证轮数
📌 工作参考价值(4 点)
- 线上若用 LLM 生成推荐理由、搜索 query 改写、Agent 规划,并用 speculative decoding 加速,不要只报 accepted tokens per round;必须在墙钟时间前先验证是否出现输出长度膨胀,否则吞吐指标会虚高。
- 对预算受限的 Agent 任务(如多步工具调用、长推理链),lossy 验证可能接受低目标模型概率 token,导致推理啰嗦、max_tokens 耗尽而拿不到最终答案;建议优先使用 lossless 或对 token 概率设置更高门槛。
- 评估解码加速方案时,增加 completion length 和 verifier rounds 指标,并与线上真实延迟打点结合;可加长度惩罚、max_new_tokens 约束或后处理截断来控制膨胀。
- 若用于生成式商品文案、推送标题等,lossy 加速可能让输出变冗长,影响点击和转化;建议离线对比输出长度分布和任务指标,避免仅看 accept rate。
MuninAI:面向独立研究组的自托管智能体文献问答框架
🧭 Agent 科学文献问答 · RAG 工具编排
Institute for Drug Discovery, Leipzig University Medical School · Institute for Medical Physics and Biophysics, Leipzig University Medical School · Integrative Center for Bioinformatics, Leipzig University · Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) · School of Embedded Composite Artificial Intelligence (SECAI)
开源自托管 Agent 框架将开放权重模型与检索、阅读、计算工具编排,使文献问答准确率翻倍且几乎不产生幻觉
📌 工作参考价值(4 点)
- 工具编排优先于换模型:在商品知识库问答、广告素材核查、客服辅助等场景,先设计 reading/search/computation 工具与 agent harness,而不是直接换更大模型;评测时固定 backbone,对比 naive RAG 与 harness 的差距。
- 引入 citation/relation graph:将商品关系、内容引用、品牌-属性等构建成可检索的 graph,供 agent 多跳导航;要求每个答案声明可溯源,降低生成式推荐中的虚构商品 ID 或属性风险。
- 主动弃权机制:当知识库缺少对应商品、属性、政策时让系统返回“未知/不提供”,避免生成式推荐编造价格、卖点或库存;可设置证据缺失阈值来触发弃权。
- 自托管与单卡基线:对未公开的选品、竞价、用户数据,可选用开源 20B 级模型本地部署;发布一键评测脚本,在自己的语料和模型上重跑,作为上线门槛。
桥接探索与人格:测试时 Agent 个性化的信息导向对决
🧭 Agent 个性化 · 信息导向 dueling bandit
The Chinese University of Hong Kong, Shenzhen · University of Copenhagen · City University of Hong Kong · East China Normal University
提出 ID-TAP,将信息导向采样与神经 dueling bandit 结合,在十轮二元比较内高效适配 agent persona
📌 工作参考价值(4 点)
- 在电商客服、推荐理由生成或文案创作等场景,若需要在线选择 persona、话术风格或 prompt 模板,可用成对比较(A/B 偏好)作为轻量反馈信号;相比点击或评分,二元偏好收集成本低且噪声小。
- 借鉴 BT explorer + 信息导向采样选择 challenger:不要随机探索或纯贪心 exploitation,在固定比较预算(如 10 次)下能显著提升样本效率;该策略可直接嵌入在线文案/推荐理由的风格优选。
- 对新 query 或新用户冷启动,利用相似度加权 warm start 将历史 query 的比较证据迁移过来,比从零学习更快;电商多 query 场景中 query embedding 相似度即可作为工程上的加权依据。
- 模型结构上采用 query-conditioned 共享网络:跨 query 共享统计强度,同时保留 query-specific score,能处理 query 条件化偏好,避免全局单模型丢失个性化差异;可作为 prompt/persona 精排器的轻量在线更新模块。
RL引导的时间定位用于长程Agent记忆双通道检索
🧭 Agent长期记忆时间感知检索
Tsinghua University · Qiyuan Lab
用RL训练时间区间定位器,在检索阶段引入时间约束,缓解语义相似但时间不匹配记忆淹没目标证据
📌 工作参考价值(4 点)
- 在用户长历史记忆/RAG检索里,若用户行为或事件语义重复度高,不要只靠语义相似度,可加一个独立的"时间窗口预测"通道:先由轻量模型预测答案证据可能出现的时间区间,再作为过滤或重排条件。
- 检索决策本身是离散、不可微的,但可以用RL+复合奖励来优化:把仅有答案级别的稀疏监督,拆成对检索结果的时间命中、顺序等细粒度反馈,适合训练一个1.7B小模型而不是大模型。
- "语义召回 + 时间召回双通道合并,再按时间窗口邻近度重排"是一个低成本插件式方案,可直接用于Agent长期记忆、用户会话历史、订单/行为日志等RAG场景。
- 电商场景可迁移:例如用户问"我上次双11买的鞋是什么品牌",语义召回可能返回多个相似商品,用预测时间窗口截断或重排,能显著减少错误证据。