Axion 1.0:简化的开放智能体基础模型
🧭 Agent 基础模型 · 三阶段极简训练 ★ 深度解读
Duke University · ByteDance · University of Maryland, College Park · University at Buffalo
用两阶段 SFT 加 RL 的极简 recipe,构建可复现的开放 Agent 基础模型,在多项 agentic 基准上达到前沿水平
📌 工作参考价值(4 点)
- 模型感知的数据增强:Stage I 用基座模型能否解出作为难度筛选器,只对能解出的题目做组合、参数化、范围移位、分情况讨论等对抗式改写,让数据难度贴合模型能力边界。电商场景中构造训练数据时,可以先用线上模型筛选出“太简单”的样本,再做变体改写,从而提升训练集的信息密度。
- 可验证工具任务生成:Stage II 的 filter-select-compute-verbalize 流水线把结构化商品/内容库转化为需要检索+计算的问答,答案由确定性程序预计算,支持自动验证。对于电商搜索、比价、选品等 agent 任务,可以类似地从商品数据库抽取属性,设计需要多步工具调用和计算的题,自动获得带 ground-truth 的服务数据。
- RL 奖励设计:对未解出的轨迹给部分信用,公式 max(0, 0.3P - 0.1(1-A)) 鼓励中间步骤正确但最终未提交的探索,同时惩罚无终态的输出。在业务 RL 中,长链路 agent 任务(如导购对话)往往最终转化稀疏,引入可验证中间目标(如识别的实体、检索到的属性)能有效缓解奖励稀疏。
- 训练-推理一致性工程:TITO 直接传递 token ID 避免 message re-tokenize 导致的数据漂移;R3 重放 MoE expert routing 降低 rollout 与训练 logprob 偏差。电商推荐系统若使用 MoE 大模型做 agent 微调,可参考这两项工程实践,减少离线-在线性能 gap。
SecPO:面向提示注入安全的原理性对抗训练
🧭 LLM 安全 · 对抗训练防御 Prompt Injection
UC Berkeley · Anthropic · Google DeepMind
提出 SecPO 损失与对抗训练管线,将 Qwen3.6-27B 在 AgentDojo 上的提示注入 ASR 从 78.8% 降至 8.8%,且无良性性能损失。
📌 工作参考价值(4 点)
- 在电商/客服 Agent 使用不可信外部数据(商品评论、工单、邮件)时,应将 prompt injection 视为高风险,采用防御性微调而非仅依赖系统提示词;SecPO 思路:构造注入不变且保持业务 utility 的偏好对,替代以原始不安全模型为参考的 DPO。
- 可搭建红队自动化对抗训练流水线:持续合成强注入样本(论文 best@240 水平的攻击),加入微调数据,比只用弱模拟攻击有效;对电商场景可针对商品描述注入、用户评论注入等生成专用对抗样本。
- 上线前评估应采用 AgentDojo 类自适应攻击和 ASR@N 指标,覆盖攻击者后手(AttackerMovesSecond)等更贴合真实 agent 工作流的位置,而不仅是单轮 prompt 测试。
- 安全微调可以与工具调用、指令遵循等能力保持兼容:通过多任务/多基准联合训练与监控,避免为了安全牺牲业务核心能力。
Gym-Anything for Robotics:用编码智能体规模化物理仿真
🧭 编码智能体自动生成仿真与基准
Carnegie Mellon University
让编码智能体自动创建机器人仿真环境,构建 RoboWorld 基准并利用特权教师等方法提升前沿模型在 RL 任务上的表现
📌 工作参考价值(4 点)
- 借鉴“creation-audit loop”自动生成与校验训练环境:在电商搜索推荐中,可用 LLM Agent 批量生成模拟用户行为序列、查询、商品集合,并用另一个 Agent 对抗式审核其真实性与难度,替代手工构造离线评估集。
- 利用 GDP/价值导向的任务选择思路:优先覆盖高频、高价值业务场景(如高转化 query、高 GMV 类目),让生成的环境更贴近线上收益目标。
- 引入 privileged teacher 机制:训练推荐或对话 Agent 时,可让模型在训练阶段访问真实用户意图/隐反馈作为“特权教师”,在上下文中指导学生策略,提升对稀疏反馈的利用效率。
- 用 code policies 生成跨场景演示数据:在生成式推荐或 Agent 决策中,编写代码策略自动产出不同场景下的示范轨迹,用于蒸馏 VLA 型模型,降低人工标注成本。
重构智能体图像编辑:扩展动作与观察空间
🧭 Agent 动作/观测空间扩展与并行评判
UC San Diego · Adobe Research
并行调用多类编辑器、为候选附验证记录并用 VLM 列表式评判,提升成功率并降低 judge 调用
📌 工作参考价值(4 点)
- 在生成式推荐、文案/主图生成 Agent 中,避免单一模型反复 retry:并行生成不同模板/模型/策略的候选,再用 Listwise 比较一次筛选;原文显示并行比顺序精修在 78.5% 的已决定比较中更受专家偏好,且 judge 调用至少减半。
- 为每个候选附结构化 verification record(变化图、局部前后对比、mask、数值统计、代码核验事实等),off-the-shelf VLM 就能超过 finetuned reward model;迁移到电商场景时,可为候选附上价格/利益点一致性、属性匹配、CTR 预估等证据。
- 评判器扩展 observation space 比 finetune reward model 更划算:用规则/代码/检索结果生成证据,提升 VLM judge 的可靠性,尤其是没有稳定 GT 的生成任务。
- 可作为 data engine:用 Agent 并行生成多候选 + VLM judge 构建偏好对,蒸馏训练更强的生成式推荐或文案模型。
WeVisCut:从脚本到长视频的单一 Agent 编辑系统
🧭 长视频编辑 Agent 策略学习与蒸馏
Xidian University · WeChat Vision, Tencent Inc.
用离线反推编辑决策训练9B策略,在统一工具环境中逼近Claude Opus 5且token减少33倍
📌 工作参考价值(3 点)
- 从成品反推决策的 inversion + verified replay 管线值得借鉴:在推荐/广告的多步决策场景(如会话式推荐、创意生成)中,可以用线上成功案例反推隐式决策链,并通过回放验证构造高质量监督数据,训练小模型逼近大模型。
- 状态化 Agent harness(共享生产状态、工具反馈驱动决策与修复)可迁移到电商 Agent 架构,统一维护商品/素材/用户状态,支持多轮工具调用的一致性和自我纠错。
- 紧凑策略蒸馏思路:9B 模型达到大模型相当效果且 token 减少 33 倍,适合成本敏感的实时推荐/广告文案生成;通过任务特化监督而非通用多阶段工作流,显著降低推理成本。
CRM-Agent-Bench:企业有状态环境中工具型Agent评测基准
🧭 企业级Agent执行与合规评测
Salesforce, Inc.
用可执行合同严格评估多轮CRM任务中Agent的动作、状态与合规性,揭示说与做的差距
📌 工作参考价值(4 点)
- 构建内部Agent评测时,不要只看最终答案,可借鉴 executable contract 思路:将业务规则拆成对动作、参数、顺序、响应、目标状态、受保护状态的检查,合成严格成功条件,自动化回归。
- 在电商/推荐场景的Agent(如客服助手、营销文案生成、推荐解释)中,可定义受保护状态(如用户隐私字段、价格锁定、优惠券余额),确保Agent不会越权修改,直接复用其中的 protected state 检查。
- 评估指标必须包含 latency 和 cost,论文中领先系统虽然成功率接近,但成本和领域可靠性差异很大;业务落地前要做成本/稳定性分域分析,避免只按总体准确率选型。
- 给任务打能力标签(工具选择、多步推理、规则遵守等),用于快速定位失败模式,指导后续 prompt 优化、模型微调或工具设计。
ReGE:通过经验合成让 Agent 变得更强
🧭 Agent 经验合成与复用 ★ 深度解读
University of Waterloo · University of North Carolina at Chapel Hill · University of British Columbia
把多次尝试的轨迹与产物联合合成为自包含指导,低 token 成本提升同模型后续执行成功率
📌 工作参考价值(4 点)
- 如果已经在做 agent 或搜索推荐的多路并行采样(例如同一个 query 跑多个策略),别只做投票或 best-of-n;把完整轨迹截断后直接喂给一个 coach 一次性合成“执行计划 + 关键事实 + 失败坑点”,能显著减少指导构建 token(>95%)且保留成功率。
- 工程实现上,截断原始轨迹(steps 120 / reasoning 200 chars / commands 160 chars / artifact 6000 chars)而不预先做 per-trajectory LLM 摘要,可避免独立摘要的信息割裂,Joint synthesis 比 Independent summaries 短约 1/4,总 tokens 降约 20–32%。
- 即使 source 池中都是失败尝试,也能提取可用操作路径(如浏览器任务的打开方式),因此不要丢弃失败的 rollout;mixed 成功/失败池带来的增益最大。
- 低端模型 + ReGE 可达到高端模型同等成功率而成本仅 28%,这为在线服务降本提供了可复用模式:用便宜模型做多次尝试 + 一次性经验合成,替代单次昂贵模型。
Atlas:长周期 Agent 轨迹的理解与复盘
🧭 长程 Agent 轨迹可视化与复盘
Allen Institute for AI · University of Washington
用轨迹树和产物投影,把长程 Agent 运行表示为目标-决策-产物三层,提升决策透明和复盘效率
📌 工作参考价值(4 点)
- 在电商/广告 Agent 流水线(选品、投放策略、搜索 query 生成/改写)中,不仅记录最终产出,也记录 trajectory tree 的决策节点:采取的、搁置的、排除的方向和理由,便于事后审核与调优。
- 借鉴 artifact projection:对同一批中间产物(商品候选集、query 候选、广告文案)提供表格/时间线/图等多视图切换,并支持从产物反查产生它的决策节点,降低复盘成本。
- 把“决策透明度、artifact 可理解度、与业务目标的关联”作为 Agent 产品验收指标;Atlas 的 goal/decision/artifact 框架可迁移为“业务目标-策略决策-候选产物”。
- 交互上,用可展开的 branching tree 做运行回放,比线性日志更能暴露 Agent 在长程任务中的错误分叉或过早排除选项。
面向数据科学任务的自适应评分准则过程奖励智能体
🧭 Agent 过程监督 · 自适应评估准则
Carnegie Mellon University · Microsoft
AdaPRA 用自适应 rubrics 的过程奖励智能体审计并纠正数据科学 agent 的中间过程错误,显著提升排行榜百分位
📌 工作参考价值(4 点)
- 用可执行的检查(而非仅看轨迹)构建过程监督信号:在电商/推荐 agent 中可对召回策略、query 改写、特征拼接等中间步骤做"提交完整性""防泄漏验证""预算利用"等自动核对,提前捕获 silent errors。
- 自适应 rubrics:从简单任务或历史成功运行中挖掘 rubric 模板,再按任务难度/失败样本动态调整;对应推荐系统可按场景或品类生成评估检查项,并利用线上 badcase 持续更新。
- 跨模型迁移:用强模型运行结果挖掘 rubrics 去监督弱模型,或反之;可用于 reward model 构建、蒸馏或 RLHF,降低人工标注成本。
- 持久化 workspace 与跨尝试记忆:多次尝试间缓存探索结果、失败原因和已试策略,避免重复跑 baseline 和 EDA;推荐 agent 或搜索 agent 可复用已尝试的召回/排序策略,优化固定预算利用。
OACap:字幕引导主动观察的详细视频字幕生成方法
🧭 多模态 Agent 主动信息获取
Ant Group · Zhejiang University · Peking University
提出字幕中心 Agent OACap,将字幕信息缺口转为定向观察请求,迭代验证提升视频字幕质量
📌 工作参考价值(4 点)
- 在生成式推荐、商品文案、详情页摘要中,把生成结果当作可检验假设,自动检测信息缺口(遗漏关键属性、无支持断言),通过结构化工具(商品库、知识图谱、用户行为 API)补证,降低幻觉。
- 借鉴 revision gap 与 observation gap 的分级:先基于已有上下文修订,只有确实缺证据时才触发昂贵工具调用,适合高成本 LLM 场景;在电商直播切片或短视频理解中可裁剪关键帧/区域做 OCR 或密集采样。
- 事实性评估指标可复用:用 claim precision + importance-aware fact coverage 评估商品描述/搜索摘要是否覆盖关键卖点且不编造;通过原子事实往返匹配衡量语义保持,替代单一文本相似度。
- 迭代验证-修订的工作流可嵌入推荐理由生成、query 推荐解释等 Agent 流程,形成证据闭环。
真实 PMID,错误论文:生物医学声明验证代理的 Harness 设计
🧭 Agent 检索 harness 设计与瓶颈分析
Independent Researcher
对照实验表明检索而非推理是医疗文献验证代理的瓶颈,自写查询代理提升召回但预算利用不足
📌 工作参考价值(4 点)
- 在需要检索工具的 LLM 应用(如电商导购、客服问答、商品知识库问答)中,直接用用户原始 query 做单次检索往往不可靠,应让模型自己改写/生成多个查询,或采用 ReAct 式迭代检索,能显著提升召回和最终答案质量。
- 检索质量通常是整体效果的瓶颈,而不是推理能力:即便给予黄金文档,模型准确率仍有较大提升空间,因此应优先投入优化检索/召回环节,而非只调大模型推理。
- 对返回结果进行“存在性检查”不够,必须做相关性校验:模型可能吐出真实存在的商品 ID 或文档 ID,但与问题无关,应增加一个独立的 LLM judge 或相关性过滤步骤。
- 让 agent 具备搜索预算意识:实验发现 agent 只使用了不到一半的搜索预算,可设计显式的预算消耗策略(如强制步数、每次搜索的查询数量限制)以充分探索检索空间。
进化式智能体接口:从任务经验自动构建工具
🧭 Agent 接口自动进化 ★ 深度解读
University of California, Santa Barbara · Cornell University · Carnegie Mellon University · Simular
让智能体自主进化计算机操作接口,27B开源模型以低成本超越GPT-5.5和Claude Opus 4.8
📌 工作参考价值(4 点)
- 将「接口/工具库」作为可进化资产:不要只靠人工预先设计固定工具集。可以从 Agent 在业务任务(如广告后台操作、选品数据拉取、报表生成)中的轨迹里自动提炼可复用 API 或脚本,让模型从低频、低效的 GUI 操作转向结构化调用,直接降低任务成本并提高成功率。
- 分离构造证据与选择证据:进化时只用无标签训练轨迹驱动工具修改,用独立的 validation 任务做选择,能显著降低对训练任务的过拟合。这在用 Agent 自动生成推荐/广告流程工具时可直接复用:不要让生成工具的模型看到最终评分或测试集。
- 低成本模型 + 进化工具层可以逼近甚至超越更强模型:论文用 Qwen3.8-27B 加上进化出的接口库,在 OSWorld V2 超过 GPT-5.5 和 Claude Opus 4.8,成本仅 4.3% 和 1.5%。业务上可以优先在工具层做自动搜索,而不是一味换更大模型。
- 重复验证对长程 Agent 任务很重要:ScienceBoard 上单次验证分数噪声大,平均多次验证后才选中稳定高分的仓库。业务里做 Agent 工具选择或在线评估时,对长流程任务应做多次重复评估,避免一次偶然高分误导。
SplatLab:面向3DGS研究的自主科学发现系统
🧭 Agent 自主科研流水线 · 3DGS
University of California San Diego
SplatLab 实现端到端自主3DGS研究流水线,通过模块化变异、Elo锦标赛与实验绑定生成可追溯论文,PSNR最高提升3.78dB
📌 工作参考价值(4 点)
- 可借鉴「已验证骨干 + 模块化插件变异」思路:在推荐模型迭代中,固定召回/排序主框架,只变异可插拔模块(如特征交叉、损失项、负采样),降低实验方差并快速定位增益来源。
- Elo tournament 多候选评估机制可用于广告/推荐离线 A/B 前的高效筛选:对候选算法按多个数据集/指标进行配对比较并引入淘汰压力,比单独跑全量评估更省资源。
- 实验数字绑定日志、未备份则不允许输出报告的做法,可直接迁移到实验平台,强制所有在线离线指标可追溯,避免口头结果。
- 常驻 falsifier(压力测试)用于鲁棒性筛选:在电商大促、冷启动等极端场景下自动验证策略,淘汰脆弱候选。
构建多学科AI研究团队自主发现线性注意力架构
🧭 多智能体协作自主架构搜索
UC Santa Barbara · Pennsylvania State University · LinkedIn
通过不同学科背景、私有历史与自适应分配组织多智能体团队,自主搜索出优于GDN2的线性注意力架构
📌 工作参考价值(4 点)
- 在推荐/广告模型结构搜索中,可借鉴“多学科背景Agent团队”设计,让不同Agent从召回、排序、多任务、效率等视角提出正交的架构修改,避免群体思维陷入局部最优。
- “私有研究历史”机制可迁移到A/B实验知识管理:每个实验Owner保留独立的假设与失败记录,仅共享实验结果,防止过早收敛到主流方案。
- 自适应分配研究机会(而非均匀轮询)适合实验预算有限的场景:根据近期收益动态调整各Agent的探索资源,把更多算力给有潜力的方向。
- 对于线性注意力等新型高效模块,业务侧可以低成本在小规模(如150M参数)用该团队框架快速筛选候选,再扩展到线上模型,节省大规模训练开销。
WeAct:动态权重切换作为 Agent 动作
🧭 Agent 模块化 LoRA 动态切换与持续学习 ★ 深度解读
Carnegie Mellon University · Duke University · Meta MSL
把 LoRA 适配器切换做成 Agent 原生工具调用,冻结主干独立训练 Plan/Search/Writing 模块,在 deep-research 任务上超越全参微调和静态合并
📌 工作参考价值(4 点)
- 把流程阶段拆成可独立训练、可工具调用的 LoRA:电商/搜索 Agent 可将意图规划、商品检索、参数对比、文案生成等阶段分别训成 Plan/Search/Write 类 adapter,通过 load_lora/offload_lora 工具调用按需切换;新增能力只需注册新 adapter,不动已有链路。
- 运行时选择优于静态合并:论文显示 TIES/DARE-TIES/TSPA 等静态 LoRA 合并均导致专业化损失,甚至在无 rank 压缩下也有局部 mismatch。业务中若已有多能力 LoRA,建议保留独立 adapter 并在推理时切换,而非合并成一个固定权重。
- 工程实现复用原生 tool-calling 接口:用 MCP 工具注册权重切换动作,不需要单独训练 router 或改造 forward pass;adapter 常驻 GPU,切换时重建 KV cache,控制开销仅占 soft/hard 总时间的 8.2%/2.8%。
- 模块化持续学习可落地到频繁迭代的环节:只刷新 Writing adapter 即可提升报告质量,backbone 和其他 adapter 保持不变,无需回放历史数据;适合在商品文案生成、搜索 query 改写等单一能力上做局部优化而不污染整体。
OpenVLHarness:面向真实世界视觉 Agent 工具使用的多模态记忆
🧭 多模态 Agent 工具调用与记忆增强推理
University of California, Los Angeles · Apple
通过能力层与持久多模态记忆统一工具输出,多模态 LLM 在 22 个基准上平均提升 9.7-12.6 分
📌 工作参考价值(4 点)
- 电商多模态购物助手中,可借鉴 capability layer + evidence rendering 将商品搜索、图像识别、价格/库存等异构工具输出统一转成结构化 observation,减少模型解析成本。
- persistent multimodal memory 按地址存储商品图、结构化数据、网页引用,支持多轮对话跨步骤引用,避免重复调用工具,适合商品对比、搭配推荐等需要持续上下文的任务。
- coding interface 对存储数据执行生成式程序,可用于多源数据联合计算,如比价、价格历史分析、风格一致性判断,把多个工具结果组合成可执行逻辑。
- 成本收益结论:中等推理 effort + 工具记忆比高 effort 纯推理更优且 token 成本低至 37%,提示业务 Agent 优先做工具集成而非一味增加推理预算。
DrugHarness:可进化代理框架用于计算药物发现
🧭 Agent 技能进化 · 科学执行
Shanghai Artificial Intelligence Laboratory · China Pharmaceutical University · University of the Chinese Academy of Sciences · Shanghai Jiao Tong University · Westlake University
通过条件技能归纳与独立审核,构建可进化的科学代理框架,显著提升分子筛选与优化能力
📌 工作参考价值(4 点)
- 可借鉴“技能库+独立审核”机制:从执行轨迹和结果反馈中归纳候选策略,由独立 review agent 做来源核验与定向试跑后入库。在电商推荐 Agent 中可先由 critic LLM 评估新策略,再利用历史日志或小流量实验验证,避免噪声策略直接上线。
- 为技能绑定可观察的适用条件(applicability conditions),仅在满足条件时激活。推荐场景中可将策略与用户群、场景、上下文绑定,避免全局误用;类似规则引擎中的条件触发,但由 LLM 自动归纳条件。
- 环境保留候选、结果、产物的关联 lineage,便于回溯和提炼技能。推荐系统可构建“推荐轨迹-用户反馈-候选集”的 lineage store,用于策略诊断、归因和持续优化。
- 分离“执行”与“技能审核”两个角色,防止自我强化偏差。在推荐 Agent 中设置独立策略评估器,对生成的新策略做验证后再上线,能降低风险并提高策略质量。
多步 Agent 工具推荐:检索任务所需的每一个工具
🧭 Agent 工具检索与推荐 · 成本优化 ★ 深度解读
Arcade.dev
部署的 Tool Recommendation 系统用固定三工具接口为多步 Agent 提供全目录 8200+ 工具,实现工具链完整性与端到端成本双赢
📌 工作参考价值(4 点)
- 固定接口 + 检索重排替代静态工具列表:当 agent 需要触达大量 API/工具/技能时,不要把所有 schema 塞进 context,而是暴露 SelectTools、UseTool、ListApps 等少数元工具,按需检索并执行;权限过滤放在 gateway 层,保证推荐结果符合用户 scope,可直接迁移到电商导购/客服 agent 管理商品查询、订单、优惠券等海量工具。
- 评估指标用 Completeness@K 而非 Recall@K:多步任务缺一个工具就失败,例如“查库存→比价→下单”三工具缺一不可;在内部工具检索 benchmark 上加入 Completeness 指标,能更好反映端到端成功率,而不是平均召回。
- 成本优化必须看实际账单(含 prompt cache)而非仅输入 token:输入 token 减少不代表账单同比例下降,因为缓存输入便宜得多;应明确 caching 规则、用美元账单对比,并识别静态列表与动态检索的盈亏平衡点(约 25-28 个工具,或搜索频率 >0.63 次/工具调用时静态列表更便宜)。
- 多步 agent 失败主因常是 agent 没发起搜索/任务拆解不清,而非排序错误:可在 prompt 中显式引导 agent 每个任务只搜索一次、一次搜索一个动作,并监控首次推荐覆盖率与未发起搜索占比,针对性迭代提示词。
EvalResearchBench:让 AI Agent 自主设计评测反馈,支持递归自我改进
🧭 AI Agent 自动化评测设计 ★ 深度解读
Oregon State University · University of California, San Diego · Pennsylvania State University · AG2 AI
首个系统评估 AI agent 在固定预算下自主设计、迭代并冻结评测器的基准
📌 工作参考价值(4 点)
- 在电商/广告/搜索推荐场景中,如果已有一套昂贵的线上 A/B 或离线评估集(如用户满意度、转化率、长期留存),可以借鉴 ERB 的思路,让一个 LLM agent 用固定预算从已有标注/日志中挑选或合成一个小而精的「代理评测集」,通过 pilot 迭代修正 grader 和权重,再用 sealed 候选模型验证其排序能力。
- 评测器的构建成本与执行成本要分开账本管理:研究/开发预算和最终评估预算独立,防止 agent 在思考阶段消耗光测试资源。在业务中可对应「离线实验预算」和「在线评估配额」的隔离。
- 关注 aggregation 的权重设计:Grok 的案例显示,按 development 候选排序拟合出的权重可能严重依赖少数几个高分题目,导致有效信号被稀释;用 equal weight 重新计算后 Score 明显提升。业务中设计离线离线指标加权时,应避免过度拟合历史模型的排序,定期用新模型反查权重是否稳定。
- 题目数量对评估一致性和稳定性有直接影响:从 10 题到 90 题,Score 均值上升且方差下降。若业务要做轻量级模型评估,建议保证每 domain 至少 30-60 个有区分度的样本,否则容易高估/低估某个模型。
可控数据升格 + 联合 RL/在线蒸馏的长程多模态搜索智能体
🧭 多模态搜索 Agent 训练 ★ 深度解读
Peking University · HKUST(GZ) · Tsinghua University · The University of Hong Kong · Huawei Cloud BU
用可控问题升格与联合 RL/在线蒸馏,把易题变难、难轨迹变可学
📌 工作参考价值(4 点)
- 可复用的问题升格框架:Expand/Blur/Visualize 把已有简单 VQA 或搜索日志升级为长链、实体消歧、跨模态证据任务;电商场景可把“这是什么商品”改写成多跳品牌/历史/场景链,并要求买家秀或商品图反搜验证,提升训练数据难度。
- 难度与质量双筛选:先用直接答案探针过滤参数化捷径,再用专家 rollout 的 Pass@k 评估难度并分池;业务上可先易样本 SFT,再难样本 RL,减少奖励噪声和人工标注成本。
- RL 训练中加入行为惩罚与 token 级 OPD:只对失败或不完美轨迹启用在策略蒸馏,教师信号按 reward gap 加权,并指数衰减 λ;这比纯终局奖励更稳定,适合搜索/推荐 Agent 的 RLVR 训练。
- 监控行为经济性:训练后期 tool call 和 response length 下降但答案奖励不降,说明可先鼓励长程探索、后收紧效率;在线上 Agent 优化中可用同样指标做早停。
TreeFlex:让 Agent 自主导航搜索树的树形搜索框架
🧭 Agent 策略引导的树搜索与 RL ★ 深度解读
Meta AI
TreeFlex 让同一 LLM 在 Reflection 与 Execution 间切换,自主选择保存的中间状态继续搜索,并用树感知 GRPO 训练,在深度研究和 SWE 上显著超越 ReAct 与 FoldAgent
📌 工作参考价值(4 点)
- 对于多轮推荐/搜索 agent,维护一个显式状态树(候选 query、商品集合、对话状态),让模型自己决定回溯或分支,可避免线性上下文被低质量探索路径污染。工程上可以像 TreeFlex 一样用“卡片”摘要表示节点,Reflection 角色只看摘要选点,Execution 角色只加载所选路径的详细上下文,既省 token 又保留全局视野。
- Tree-aware GRPO 的训练方式值得复用:把一次树搜索视为一个 rollout,每个输出只在其生成时的上下文上计算损失,而不是拼接所有分支后训练,这样能避免训练与推理分布不一致,且无需树形 attention mask。这对任何多路径决策 RL(如对话策略、搜索链路优化)都适用。
- 过程惩罚设计(如失败调用 -1、超出当前指令范围的操作 -0.2)比单纯最终奖励更能约束 agent 行为;业务上可以针对推荐 agent 的无效工具调用或偏离当前用户意图的探索给予轻量负奖励,避免盲目分支。
- 资源效率:TreeFlex 用更多推理换取准确率,但在相同采样数下优于重复采样 baseline;因此,在允许高延迟的场景(如深度研究型推荐、复杂用户意图解决),增加可控分支回溯比单纯增加样本量更有效。
长程强化学习需要 Muon 优化器
🧭 Agent RL 优化器与训练 recipe ★ 深度解读
Renmin University of China · Duke University · Institute of Automation, Chinese Academy of Sciences · Institute of Computing Technology, Chinese Academy of Sciences
在仓库级 issue 修复的异步 RL 中,Muon 配合单 rollout、TIS 与奖励塑形显著提升训练成功率
📌 工作参考价值(4 点)
- 训练多轮交互 Agent(对话式推荐、商品搜索助手)时,可尝试隐藏权重矩阵换用 Muon,其余 embedding/output head/norm/vector 保持 AdamW;稀疏奖励长轨迹任务中 Muon 的谱范数约束可能带来更稳更新,但需监控 collapse,Adam 与 Muon 差距会受 recipe 影响。
- 线上已有旧策略产生的轨迹时,可复用单 rollout 异步训练 + 截断重要性采样:按 token 计算 π_train_old / π_rollout 比值并截断到 [0,2],再加权 PPO loss;不必等待同 issue 多条轨迹,适合电商 Agent 环境异步执行时策略滞后场景。
- 对过长回复、无效工具调用加负奖励,但建议将单独或组合 penalty clip 到 [−0.25,0.25] 再加到 advantage 并标准化,避免惩罚过重破坏策略;长度惩罚在最终回合可省略。
- Ablation 显示 length penalty 影响大、tool-error penalty 影响相对较小且不一定稳定;不要盲目堆 penalty,先做单组件实验。
知识图谱即文件:工具创建与使用协同演化的 Agent Harness
🧭 Agent 知识图谱搜索与工具演化 ★ 深度解读
Texas A&M University · University of Oregon
让 LLM 直接读写完整节点/边文件并现场编写图访问代码,训练自由即在 STaRK 上超越最强基线
📌 工作参考价值(4 点)
- 对文本富商品/内容知识图谱,不要只提供固定的 neighbors/get_node/search 工具(截断 top-k 易漏掉关键证据)。可把完整节点记录和边表导出为 jsonl/tsv 文件,让 agent 直接用 shell/grep/Python 做任意图访问,避免预定义 API 的证据瓶颈。
- 大输出存文件:多跳遍历或全节点扫描常超出上下文,可把完整输出写入 scratch 文件,只给模型看 head/tail 和大小提示,后续代码再搜索/过滤完整输出。这个 trick 对电商商品大量评论、论文摘要、知识图谱邻居列表等场景很实用。
- 允许 agent 在一个任务内多轮编写并修订 Python 程序,而不是只允许单次代码生成或纯工具调用。消融显示多轮编程相比单次程序提升约 6.2 overall H@1,相比 shell-only 提升 6.9 点;单次程序只恢复约十分之一增益。
- 让执行反馈驱动工具演化:保留历史代码和输出文件,复用前面程序出现的节点 ID,失败后优先修订上一程序。trajectory 中 48.4% 的程序包含前序输出里的 ID,失败后 88.6% 的下一程序会修订上一程序;更强模型会更早编程、更多复用输出、更高修订率。
自进化 Agent 脚手架
🧭 Agent 自我进化与持续学习理论
Zhongguancun Academy · Zhongguancun Institute of Artificial Intelligence · University of Science and Technology of China
保持模型权重固定,仅修订 prompt/memory/workflow/代码实现 Agent 自我进化,并给出持续 PAC 学习保证
📌 工作参考价值(4 点)
- 在推荐/电商 Agent 中,将 prompt、memory、workflow、工具代码作为可独立版本化与验收的资产;更新时强制走“提案-准入”流程,用独立的线上验证集或影子流量做高概率准入决策,避免直接热更引发事故。
- 对生成式推荐/QueryRec 系统中调用 LLM 的 agent,可借鉴“解释态(如语义 ID 映射、标签)低风险快速更新,可执行代码/工具高风险慢更新”的分层更新策略,控制回归预算。
- 多智能体协作或 RAG 工作流可引入持续 PAC 式监控:每次 harness 修订后记录历史回归与泛化误差,基于预算决定是否保留更新,保证长期稳定性。
- 注意组织层面:harness 不断进化会改变团队知识共享与工作流,建议保留修订审计日志、权限隔离和回滚机制,与模型权重更新流程区分开。
DuoDiscover:联合发现优化目标与廉价评估器
🧭 多 Agent 协同与多保真评估 ★ 深度解读
Google · UC Berkeley · Stanford University
Agent联合发现优化目标与廉价代理评估器,突破昂贵评估瓶颈
📌 工作参考价值(4 点)
- 当线上 A/B、全量 benchmark 或 serving trace 评估很贵时,可以让每个 agent 为选定模块自动设计轻量 proxy(如关键子集、小规模负载、成本模型),在 proxy 上秒级迭代;真实评估只用于确认候选,并用 Kendall τ 定期校验 proxy 排序保真度,漂移即失效。这种「昂贵评估只做确认、廉价评估负责搜索」的模式可直接用于推荐系统的离线评测、A/B 前筛选和 LLM serving 性能调优。
- 多 agent 编排采用 bottom-up:没有中心化任务分解,轻量 orchestrator 只管理昂贵的真实评估分配、终止停滞 agent、spawn(fresh/transfer/combine)和 brief。这个模式适合把多 agent 优化引入广告出价、精排模型搜索等评估成本高的业务,不必重写搜索逻辑。
- 用 Amdahl 定律做目标剪枝:agent 估计目标代码模块对总指标贡献占比 w,用 1/(1-w) 判断最大潜在收益,优先优化高上限目标。对应到推荐/广告系统,可以先估算某个环节(召回、粗排、特征计算、在线打分)对最终指标贡献上限,再决定是否投入 agent 搜索。
- 论文本身不解决推荐/检索建模问题,但可作为「LLM 驱动的系统优化 + 多保真评估」参考架构,尤其适合有昂贵端到端评估(全量 trace、仿真、大模型评测)的业务团队。
WEB$HELL:面向智能体网页访问的统一接口
🧭 Agent 网页访问统一接口设计 ★ 深度解读
Yonsei University
提出统一网页访问接口 WEB$HELL,将网页信息与动作编译为可寻址对象并持久缓存,以更低成本在搜索/导航/深度研究任务上全面领先。
📌 工作参考价值(4 点)
- 电商购物 Agent 可将商品列表、筛选器、分页、详情页编译为统一对象;grep 定位到“价格”“尺码”等文本时,通过 association 直接关联可执行的 action address,避免反复解析 DOM 和多工具切换。
- 复用 WEBCACHE 思路:保存页面快照并按 page address 引用,状态变化后生成新版本、旧版只读,适合比价、购物车修改前回看等长程多步任务;工程实现可仿照 addressable cache。
- 优先用确定性 HTML 语义规则而非模型推理做页面编译,针对 select/option/label、a、table 等电商高频元素设计 constructor,成本可控且响应稳定。
- 评估 Agentic web 任务时不要只看 success,应同时跟踪 turns / input tokens / cost;搜索+浏览器+文件系统的简单混合不一定提升效果,统一接口往往更划算。
RSI-Anything:用世界模型解锁递归自改进
🧭 世界模型驱动的递归自改进
提出基于预测世界模型的递归自改进框架,在代码、GUI、科学任务中提升成功率并降低交互成本
📌 工作参考价值(4 点)
- 可借鉴其「预测选择 + 条件自适应」思路:在电商 Agent 或推荐流程中用世界模型预筛候选 action / 训练样本,减少对昂贵外部反馈(人工标注、在线实验)的依赖。
- 将 policy 与 world model 作为配对版本管理,通过 component / compatibility check 决定是否保留更新,能防止 Agent 多模型链路中的版本漂移,适合多阶段生成式推荐管线。
- GUI 评估中平均 actions 减少 39.4%,说明世界模型引导能在保持任务完成率的同时降低交互步数,对需要控制 token / 工具调用成本的 Agent 工作流有直接迁移价值。
- 小规模但一致的提升模式:代码修复 26.3%→29.2%→31.2%,说明预测选择与模型自适应可叠加,业务上可作为低成本增量优化手段。
推理驱动的视觉编辑基准与 RISE-Agent
🧭 视觉编辑推理基准与 Agent 评估
Shanghai Jiao Tong University · Southeast University · South China University of Technology · Microsoft Research Asia · Fudan University
构建首个推理驱动视觉编辑基准 RISEBench++ 及训练无关 Agent,覆盖六类推理并评估58个模型
📌 工作参考价值(4 点)
- 复杂指令的分层拆解:将用户编辑需求按时间、因果、空间、逻辑、反事实维度解析,可借鉴到电商商品图修改、广告素材编辑等场景,提升指令遵循精度。
- LMM-as-a-judge 的校准评估:结合人工校准的大模型裁判,可用于生成式推荐结果、文案或图像修改的多维度离线评估,降低人工评测成本并提高一致性。
- 训练无关 Agent 工作流:RISE-Agent 的规划-执行-验证闭环,适合直接嵌入商品图或营销素材生成的业务流,先做推理规划,再调用修图/生成工具,最后用验证器自查,无需额外训练。
- 多图条件输入保持外观一致性:多参考图机制可迁移到电商场景中跨图保持品牌 VI、模特、商品外观一致,减少多步编辑中的风格漂移。
语言模型作为 AI 研究世界模型
🧭 AI 研究 Agent 的世界模型
Amazon · UC Santa Cruz · Emory University · Pennsylvania State University · UC Santa Barbara
用真实实验历史微调 LLM 作为研究世界模型,显著提升候选实验干预排序与自动研究收益
📌 工作参考价值(4 点)
- 在电商/广告实验中,收集历史 A/B 测试、模型调参、策略变更的实验记录(实验条件 + 结果),用 LLM 微调成环境专属的“策略结果预测器”,对新策略做排序,能减少无效实验成本。
- 跨业务场景迁移:当新业务(如新推荐位、新广告产品)实验数据少时,用其他相似场景的历史实验数据预训练 world model,可大幅降低对新场景候选策略的选择 regret(如论文中跨环境减少 78% regret)。
- 多轮自动实验调优:在固定实验预算下,用 world model 先筛掉低潜候选,再做真实实验验证,能提高最终最优策略的收益(论文中提升 15.8%);可应用于搜索排序、广告出价、召回策略的自动搜参。
- 选择 LLM 作为 world model 时,注入领域实验知识比仅更换更强模型或增加推理长度更有效,因此应优先积累内部实验数据并微调。
SuperNav:面向任意任务与场景的智能体导航系统
🧭 Agent 具身导航系统
Zhejiang University · Shenzhen University · Causa Robotics
提出无需导航微调、以工具解耦决策与执行的 MLLM 智能体导航系统,实现任务与场景泛化
📌 工作参考价值(4 点)
- 架构上解耦决策大脑与执行工具:不针对导航任务微调 MLLM,而是通过 agent harness 调用工具,保留通用推理与场景理解能力。对应推荐系统可将 LLM 作为 planner,将召回/排序作为工具,避免微调导致通用知识遗忘。
- 用 visual-point interface 让模型直接在图像上指定目标坐标,而非生成文本描述位置。在多模态推荐或广告素材分析中,可让模型在商品图/场景图中 point 出兴趣区域,作为 grounding 信号辅助推荐解释或素材优选。
- 引入 Navigation Skills 和任务进度管理:显式维护任务状态与目标进度,并在执行反馈后允许模型 revise 决策。在电商 Agent 长链路任务(如导购、多轮商品比较)中,可设计 checkpoint 状态和重规划机制,提升任务成功率。
- 工具与技能抽象:将底层运动封装为可调用的技能,模型只需高层决策。在电商 Agent 中可将搜索、筛选、加购等操作封装为工具,降低模型输出复杂度,提高动作可靠性。
我们查询,故我们计算:机器之外的 Oracle 计算及其在 Agent 中的应用
🧭 Agent 系统抽象计算模型
Institute of Computing Technology, CAS · University of Chinese Academy of Sciences · Nanjing University · Institute of Automation, CAS · Nanyang Technological University
将 LLM 作为 Oracle 构建抽象机,统一 Workflow 和 Agent,并提出 ArchNights 操作系统实现
📌 工作参考价值(4 点)
- 将 Agent 控制流与 LLM 推理分离:把业务状态机、调度和审计放在确定性代码(Priestess)中,让 LLM 只作为 Oracle 做内容生成或决策,可显著降低系统不确定性,便于测试、回滚与灰度发布。
- 借鉴“栈即上下文”和查询指令设计:每次查询将整个上下文栈交给 LLM 并追加结果,明确上下文边界;缓存可以基于栈内容哈希实现,重复上下文直接跳过 LLM 调用,适合推荐话术生成、商品摘要、广告文案等高频相似场景。
- 对称破缺区分 Workflow 与 Agent:任务程序放在控制流侧是可控的工作流,放在 LLM 侧生成则是自主 Agent;业务中可混合部署,关键链路用 Workflow 保证 SLA,探索性任务用 Agent 提升灵活性。
- 借鉴 OS 抽象:在 Agent 平台中显式实现调度、隔离、持久化和缓存等机制,而不是每个 Agent 自建一套;ArchNights 表明可在扩展 ISA/OS 层面承载 LLM 查询,为统一资源管理和性能边界提供参考。
知识还是计算器?可验证金融 Agent 工作流中技能溢价的分解
🧭 Agent 工作流评测 · 技能溢价分解
Independent Researcher · Deep Insight Labs · University of Kent · University of Cambridge
用 2603 个金融 episodes 分解 agent 技能溢价:策展工具 +19.5、文档 +5.6,现场生成几乎无效
📌 工作参考价值(4 点)
- 将高频、可标准化的 agent 子任务沉淀为 curated skill package(可执行工具 + 规范输出 schema),不要依赖 agent 单次生成;实验表明现场生成几乎无增益且更耗 token/turn。
- 数值密集型流程(如预算分配、CTR/ROI 校验、竞价计算)优先提供 executable tools,而非文档说明;工具单独带来 +19.5 分,文档仅 +5.6 分。
- 涉及严格输出结构(如商品标签、推荐理由模板、广告文案字段)的场景,把 output schema 与操作手册作为 curated resource 注入能改善 adherence;但工具+文档组合收益次可加,不要盲目叠加资源。
- 建立 agent 工作流评测时使用任务特定确定性 verifier 和可再生成 ground truth,避免耗时 LLM-as-judge 且保证结果可复现。
面向科学领域的终端环境自监督扩展
🧭 终端Agent环境自动化与SFT缩放
Tencent HY LLM Frontier · University of Georgia · University of Maryland, College Park · National University of Singapore · Hong Kong Polytechnic University
用现有科学软件工作流自动生成可验证的终端Agent训练样本,SFT后显著提升Terminal-Bench 2
📌 工作参考价值(4 点)
- 可用现有业务软件/API工作流自动生成(SFT)训练样本:给定输入schema和公开输入输出对,让LLM重构可编辑程序,再用隐藏配置验证,避免逐任务人工标注reference solution,适合电商/广告中的工具调用、查询生成等Agent任务。
- 层次化verifier思路可迁移:把语义比较、结构有效性、反捷径检查组合起来,防止模型学出表面匹配但语义错误的生成结果,对QueryRec和生成式推荐中的评估尤其重要。
- 已验证的高质量轨迹比单纯语料规模更有效:对verified trajectories做oversampling后SFT,在matched-token对照中全面领先,说明业务数据应优先筛选行为可验证样本,而不是直接堆量。
- 公共反馈支持迭代修订的机制可以改造成在线训练:先让Agent在公开样例上尝试,失败后根据反馈修改,最后在隐藏集上验证,类似强化学习中的self-play数据生产。
AREX-2:通过长程反思任务推进自改进智能体
🧭 自改进 Agent · 长程反思训练 ★ 深度解读
Beijing Academy of Artificial Intelligence (BAAI)
用长程反思轨迹训练 27B agent,在 ML/编程及深度研究基准上逼近更大模型
📌 工作参考价值(4 点)
- 把“失败和恢复”写进训练轨迹,而不是只保留成功答案:在电商搜索/广告 agent 做 query 改写、创意优化时,可用离线仿真或历史日志构造多轮改进轨迹,保留负面反馈与后续修复步骤,loss 只施加在产生进步的动作上。
- 用 graded reward 替代 binary pass/fail:推荐/搜索中的 ranking 调优或选词不要只给“是否采纳”,可给连续指标(CTR、NDCG、转化率变化量),让每轮反馈都有信息量,延长有效迭代轮数。
- 把 operational knowledge 做成可注入的 skills:在基座模型不变的情况下,将商品类目规则、广告政策、用户意图词典等做成紧凑文档放进 context,能显著提升 agent 初始能力;实验中 base 从 28.8 到 68.2,说明业务知识注入比重新训练更便宜。
- 在线上 agentic 工作流中预留 round budget,并用 best-so-far 指标评估:例如对高价值广告计划或搜索 query,可给 agent 多次尝试与自评机会,按测试时消耗动态增加调用;但注意有效 horizon,超出 T* 后不再提升。
WEFT:通用智能体工具使用后训练的全系统扩展框架
🧭 Agent 工具使用后训练 · 全系统扩展与自进化 ★ 深度解读
East China Normal University · Fudan University · Shanghai Innovation Institute · Renmin University of China · Shanghai Qiji Zhifeng Co., Ltd
构建可扩展交互系统、执行驱动自进化与稳定训练,WEFT 在多个工具使用基准上超过同规模环境扩展基线。
📌 工作参考价值(4 点)
- 在构建电商工具调用训练环境时,不要只堆 API/MCP 数量;建立「执行证据→失败归因→修订环境/任务/校验器」的闭环。具体 trick:用状态 diff 和工具返回来做 verifier,先修环境 bug 再训模型,减少“模型背锅”。
- SFT 数据构造用 prefix-preserving rejection sampling:以原子任务(如“查商品→加购物车→下单”)为边界,失败只重采样当前原子任务的 attempt,保留已验证前缀和状态快照,提高长链路训练轨迹利用率。
- RL 中做 atomic-turn credit assignment:对每个原子任务组内做 group-relative 归一化,只对当前 turn 的 policy token 施加 advantage,避免 trajectory-level reward 把无关前缀也更新;对检测到重复/格式错误/接口违规的成功段,mask 正 credit。
- 部署层面,可用类似 MegaMCP 的共享服务+私有状态隔离:MCP/工具服务共享 Python 进程,数据库 copy-on-write 克隆,workspace 隔离,快照支持重试/候选采样,降低大规模 rollout 成本(upload 降 95%、内存降 77-95%)。
TraceDance:从真实部署轨迹自动构建Agent行为基准
🧭 Agent行为基准自动构建
ByteDance Inc. · University of Illinois at Chicago
自动从真实Agent部署轨迹构建针对用户指定不良行为的基准,高效且评估与人类一致性高
📌 工作参考价值(4 点)
- 借鉴从部署日志构建评估集的方法:在电商搜索/推荐Agent中,可以记录真实会话轨迹,自动提取负面案例(如不相关推荐、违反政策回答),构建针对特定问题的回归测试集。
- Anchor-and-Confirm 高效构建流程:先通过规则、向量检索等可编程方法筛出候选,再用 Flash LLM(低成本)逐条确认,大幅降低人工标注成本,适合大数据量下的评估集生成。
- decision-point continuation 评估范式:无需完整环境重放,只需在关键决策点(如 LLM 生成下一轮推荐或回复)做续写评估,结合行为特定 rubric 自动打分,与人类一致性高,可用于线上模型行为的快速监控。
- 针对 LLM Agent 在推荐/搜索中的不良行为(如幻觉、违规话术),可以利用此框架自动生成定制化 benchmark,纳入模型上线前的回归测试和递归自我改进循环。
REFLEX 结合 Jev 实现 LLM 智能体的高效选择性控制
🧭 Agent 选择性控制与强模型调用优化
Nanyang Technological University
REFLEX 用 Jev 做快速类型决策层,低置信或需生成时调强 LLM,100 任务基准上 95% 成功并减少 72.7% 强模型调用
📌 工作参考价值(4 点)
- 架构拆分:在电商导购/广告投放 Agent 中,把“选哪个工具、参数是否合法、是否继续”等有限集合决策从生成式 LLM 中剥离,用轻量分类器或 Jev 类模型先做 typed decision;仅当置信度低于阈值或需要自由文本生成时再调用强模型,可省 70%+ 强模型调用,降低延迟与成本。
- 回退设计:对边界场景(如退款/价格修改等高风险动作)要保守,即便轻量模型置信度不低,也设置 authorization boundary 附近强制回退或人工/强模型复核;因为论文显示授权边界附近的 near-valid alternatives 是主要失败来源。
- 动作空间控制:候选工具/动作数量不要过大,尽量合并语义相近的 action;论文指出可靠性依赖 action-set size,过大会削弱 Jev 选择质量,可先在业务数据上测 action-set size 的影响曲线。
- 先做基线:如果已有便宜生成式模型(如 GPT-4o mini/Gemini Flash)的 cascade 路由准确率已经很高,typed decision layer 可能收益有限;建议先做离线对比实验,再决定是否引入 Jev,而不是直接上。
DeepSeek-V4.1-Flash:极限压缩KV缓存的长上下文多模态MoE
🧭 Agent推理优化 · KV缓存压缩 ★ 深度解读
DeepSeek-AI
通过跨层KV复用、FP4量化与SWA有界重放,将每token全局KV缓存降至890字节,实现近恒定decode成本
📌 工作参考价值(4 点)
- KV缓存压缩方案可直接迁移:跨层复用全局KV与Top-K索引(CSA2的Full/Reindex/Reuse三模式)可大幅降低长上下文Agent的内存占用,尤其适合电商多轮对话、工具调用频繁的场景,可将持久化KV缓存缩小至1/8。
- CED架构适合输入重的工作负载:prefill阶段仅激活前一半层(8B参数),对输入token极多的场景(如商品详情+用户行为序列拼接)能显著降低首token延迟,可借鉴其非对称激活设计。
- SWA Bounded Replay的工程取舍:用近似的窗口重放替代精确重建SWA KV,仅需重放最近n_win个token,就能免去持久化SWA缓存,节省SSD和主机内存,适合在线推荐系统中高频短会话的上下文管理。
- FP4量化用于KV缓存而非matmul:对KV cache做训练时量化(QAT)可安全使用FP4精度,仅存储减半而不依赖硬件原生FP4矩阵乘支持,可复用到现有推理引擎,降低HBM压力。
工具调用进度自报:Agent 服务系统应读取而非猜测
🧭 Agent 工具调用 · KV cache 调度
Tsinghua University · Alibaba Cloud Computing · Zhejiang University
让工具调用上报剩余进度,比预估算更准,可将 p90 TTFT 降低约 20%
📌 工作参考价值(4 点)
- 在电商/搜索 Agent 中,对长耗时工具(SQL 查询、库存 API、商品爬虫、订单处理)增加 progress 上报字段,如剩余比例或“即将完成”信号,服务层可用它做 KV cache 驱逐/恢复决策,而不是靠工具名或历史均值猜时长。
- 工程实现上,progress 信号通过 harness 旁路采集,不改变 Agent 可见的输入输出,对 benchmark 分数无损耗;这可以直接迁移到现有多 Agent 编排框架,无需修改模型 prompt。
- 在推理引擎侧,把工具 progress 作为轻量 hint 接入 KV cache 管理,作者在 LRU 上仅做小改动就接近 oracle,说明该信号比复杂预估器更有投产价值;如果业务受 TTFT p90 波动困扰,可优先采工具真实进度而非加预测模型。
- 进度信号在环境变化时仍然准确,适合电商大促、突发流量等场景;对多租户 GPU 资源调度,长工具调用按真实剩余时间释放/保留缓存,能提升 HBM 利用率。
FlashVector:分层模型服务栈优化智能体
🧭 Agent 驱动的服务栈自动调优 ★ 深度解读
Stanford University · Unity Vector AI Team
将 LLM 驱动的 GPU kernel 优化范式推广到模型服务器、特征处理与运行时配置的全栈自动调优
📌 工作参考价值(4 点)
- 将服务栈各层抽象为统一的 Profile-Diagnose-Optimize-Verify 循环,每层只需提供领域化的 profiling 工具(GPU 用 Nsight,CPU 服务用 eBPF)和知识库,即可复用同一套 agent 框架优化 CUDA、C++、Python 等异构代码,避免为每个组件单独建系统。
- 优化验收必须通过生产流量回放 + 全栈负载测试,且收益超过测量噪声 floor(基线 ±6%,可重复采样收紧到 2.1%);对浮点重排等改动设置预测输出偏差阈值,防止精度回退。这套验证机制可直接迁移到模型/服务的上线把关。
- 维护一个持续更新的优化知识库(业务逻辑、模型结构、组件架构、优化 cookbook),每次运行后只做 in-place refine 而不是累积全部历史,能有效控制上下文窗口增长、减少 LLM 幻觉,适合长期运行的优化 agent。
- 代码优化和参数搜索可以用同一 loop:在 SLO 约束下用真实请求回放搜索 batch size、实例数等配置,并通过 shadow canary 放量验证;模型每次重训或服务更新后自动触发新一轮,可以避免配置漂移导致的成本回升。
PACT:企业AI助手在压力下是否可信
🧭 企业LLM合规压力测试基准
Georgia Institute of Technology · Decagon AI · Baseten
PACT基准首次系统测量企业LLM助手在持久用户施压下的合规表现
📌 工作参考价值(4 点)
- 在电商/客服Agent上线前,可借鉴PACT的「规则+违规捷径+压力注入」结构,构造针对售后、优惠、价格合规等场景的对抗式合规测试集,发现高违规风险模型。
- 多轮对话中持续合规监控机制值得落地:不要只测单轮,要模拟用户反复施压、管理者催促等真实交互,并计算类似PACTScore的可靠性加权违规率作为模型选型硬指标。
- 用LLM-as-judge审计样本构建测试集的方法可直接迁移:确保样本无歧义、不可通过识别评估意图取巧、且足够真实,避免模型评估时表现出「表演合规」。
- 结果提示即使最强LLM也有6-10%规则误用率,且普通用户压力下违规率平均上升65%,因此电商Agent不能仅依赖模型自身对齐,必须外挂规则引擎或护栏(如政策校验、敏感操作二次确认)。
冻结 LLM 内部的技能路由器:用两个线性投影读出原生路由信号
🧭 Agent 技能路由 · LLM 原生信号读取 ★ 深度解读
Institute for Interdisciplinary Information Sciences, Tsinghua University
冻结 LLM 自身前向传播中已含技能路由信号,两个线性投影即可读出,无需外部模型或技能文本入上下文
📌 工作参考价值(4 点)
- 用 frozen LLM 自身中间层做相关性/召回评分,可避开独立 embedder/reranker 的 OOD 偏移;在电商 query 改写、商品/内容召回中,可训练两个轻量线性层从骨干 LLM 读 query 与 item 的匹配信号,尤其适合长上下文里埋没的需求。
- token-level late-interaction + top-k voting + recency decay 可迁移到个性化检索:不做全局池化,让关键 token 投票,对长会话轨迹用指数衰减增强最近消息权重。
- ε-cover 压缩 token bank 对海量 item/skill 索引有实用价值:farthest-first 覆盖去冗余,分数误差有界,可显著减小索引规模,新对象只需一次前向编码。
- 多信号 product of experts 融合(对比学习分数 + 生成似然 + yes/no 判别)可借鉴到排序融合,任一专家可一票否决,提升排序鲁棒性;再训练轻量门控决定何时触发路由,降低误触发。
模块化递归执行框架自改进:可泛化的对比式 Harness 进化
🧭 Agent harness 自进化 · 模块化归因 ★ 深度解读
Beihang University · University of Manchester · IQuest Research · M-A-P · Langboat
对比同类轨迹并按五个功能模块独立进化 harness,在基准隔离数据上实现跨任务/跨模型可泛化自改进
📌 工作参考价值(4 点)
- 将推荐/搜索 Agent 的执行 harness 拆成 Agent Loop / Tool Use / Observation Management / Context Management / Task Completion Detection 五个模块,每次只改一个模块并限制 diff 范围;这比整体改写 prompt 或流程更可控,适合线上 Agent 的灰度、回滚与归因。
- 采集同一任务的多次 rollout,区分 positive / contrastive / negative 组,用成功-失败轨迹对比定位“哪个机制该改”,并用跨任务投票聚合证据,避免把单条失败轨迹的 case-specific 修复写进全局;可迁移到商品推荐、query 改写、客服 Agent 的失败归因。
- 建立与评估集隔离的进化任务池(benchmark-disjoint),每个改动必须通过 AST/静态检查、import/protocol 校验、以及“是否过拟合当前实例”的 diff review 后才保留,否则自动回滚;这能防止自改进只在测试集刷分,适合离线自进化流水线。
- 维护 Evolution History 和 Trajectory Memory,对函数库做 Function Merge + Task-Aware Function Composition,避免多轮自改进后函数膨胀和振荡;适合把 self-improvement 用于线上持续优化但需要控制风险。
Glyph:企业数据目录列描述与敏感本体标注的多策略智能体系统
🧭 多智能体数据目录标注与敏感分类
Apple
用协作式 LLM Agent 将列描述生成与 275 类敏感标签分类落地为可审计的生产系统
📌 工作参考价值(4 点)
- 代码而非数据值作为生成依据:Descriptor 通过 active RAG 从 GitHub 检索产生列的上游 pipeline 源码,再生成描述。做电商/推荐特征库、指标口径或广告字段文档时,可以让 Agent 以业务代码/ETL 逻辑为 grounding,避免只看数据值产生幻觉。
- 多策略并行 + RRF 融合:Tagger 同时跑描述打标、业务正则、基于向量库的 metadata tagger,再用 Reciprocal Rank Fusion 合并排序。对大 taxonomy(如 275 类)的商品/内容/广告分类或多标签治理,可复用「语义、规则、精确元数据三路并行 + RRF」的架构,稳定且可解释。
- 小模型对比微调收益显著:用 in-batch contrastive objective 微调 6 层 MiniLM,NDCG@10 从 0.55 提升到 0.92。在标签体系较大、域内文本较短的特征/类目标注任务中,轻量 encoder 微调 + 向量检索是低成本高回报方案。
- 每个标签保留 provenance 与降级路径:系统记录每个 tag 来自哪条策略,并在代码不可取、服务失败时优雅降级。生产 Agent/LLM 系统做治理或推荐元数据标注时,应设计来源审计和 fallback,满足合规与可运维要求。
工具检索器被低估:标注扩展揭示真实能力
🧭 工具检索评估 · 标注扩展
Shenzhen International Graduate School, Tsinghua University · Peking University · Meituan, Beijing
提出ToolEX自动发现功能等效工具组合,扩展基准为ToolEQ,证明一对一标注系统性低估检索器,微调增益中30-47%是评估伪迹
📌 工作参考价值(4 点)
- 评估召回/检索系统时,若 query 存在多个等价结果(如同义商品、替代品、功能相同工具),单一 ground truth 会低估模型;可借鉴 ToolEX 做等价扩展,构建更公平的测试集,避免误杀有效召回。
- 微调收益评估需警惕标注缺陷:论文发现 30-47% 的微调提升是评估伪迹。建议上线前用扩展后的多正例评估集复测,量化真实增量,尤其当训练数据与测试标注同源时。
- ToolEX 自动发现等价工具组合的流程(生成候选 + 功能等价验证)可迁移到电商搜索/推荐:对同一 query 挖掘多条等价商品、广告或服务组合,用于多正例学习或评估鲁棒性。
- 如果业务中做 Agent 工具检索或 API 推荐,注意同一功能通常有多个实现,检索评估与训练不能基于一对一的刚性标注,需支持一对多映射。
可编程世界模型
🧭 世界模型 · 显式状态与渲染解耦
Alaya Lab
将世界状态演化与视频生成解耦,用可执行程序维护持久全局状态,以3D OBB为中间表示驱动预训练视频模型
📌 工作参考价值(4 点)
- 在生成式推荐或广告文案生成中,可借鉴“显式状态引擎 + 生成渲染器”的架构:将库存、价格、用户状态等业务规则放在符号化状态机中维护,LLM 只负责生成符合当前状态的文案/推荐理由,避免长对话或多步推荐中事实不一致。
- 用 LLM 将自然语言策略转成可执行程序(如 on_hit、win/lose 规则)的思路,适合推荐策略的自动化编排:把运营规则(如“库存低于阈值则降低曝光”)用程序表达,可审计、可回滚,比直接让模型隐式学习更可控。
- 中间表示的做法——将结构化状态(如商品布局、用户行为序列)编译为生成模型的条件信号,可用于可控商品图/视频生成,提升布局、属性与业务约束的像素级对齐。
- 评估基准设计可迁移:对交互式推荐/对话系统,可采用 Count Accuracy 和 State Accuracy 这类细粒度状态一致性指标,衡量长程交互中的用户状态、上下文跟踪能力。
Show-Harness:仅用 VLM Agent 通过语义接口控制机器人
🧭 VLM Agent 语义接口机器人控制
Show Lab, National University of Singapore
通过离散语义动作单元与解释器接口,让 VLM Agent 零样本或轻量微调后直接控制机器人
📌 工作参考价值(4 点)
- 借鉴“语义动作单元 + 确定性 interpreter”两层架构:让 LLM/VLM 只输出离散标准化意图标签(如 MV_FWD、GRASP),由业务侧 interpreter 落地为具体执行动作,可迁移到推荐/Agent 系统中降低模型生成复杂控制序列的出错率,同时兼容 App、网页、机器人等多端。
- 对闭源大模型直接 zero-shot 使用同一套接口,开源小模型仅需 few GPU-hours 微调即可替换,说明业务侧可保持接口不变、灵活切换底层模型,降低迭代成本。
- GUMI 的 GUI 操作采集 demonstrations 思路可复用:无需专用硬件,通过浏览器/GUI 操作轨迹构建 fine-tuning 数据,适合 UI 自动化、商品操作、Agent 行为采集等场景。
- 强调跨任务、跨 embodiment、跨环境泛化评测,建议推荐系统也构造跨场景/跨页面/跨库存的泛化测试集,避免单一环境过拟合。
Gander:全模态实时交互智能体技术报告
🧭 全模态实时交互Agent
Hunyuan Speech Team, Tencent · Zhejiang University · Shanghai Jiao Tong University · The Chinese University of Hong Kong · Nanyang Technological University
提出Gander,融合多模态感知、全双工流式交互与Agent能力的端到端模型,通过小脑-大脑协同与Thinker-Talker架构实现低延迟实时交互
📌 工作参考价值(4 点)
- 将实时交互与复杂任务推理拆分为两级:轻量流式“小脑”负责即时响应、追问与澄清,重模型“大脑”负责意图解析、工具调用与规划,电商导购/客服Agent可据此降低首响延迟并节省推理成本。
- 全双工可中断机制适合语音购物、直播互动等场景:用户可随时打断,模型可主动给出中间反馈或反问,建议在会话式推荐中引入此类异步主动交互,避免死等完整query。
- 采用chunk级统一token流表示多模态输入输出,可借鉴到流式ASR+LLM+TTS的搜索/推荐语音链路,减少模块间等待与传输开销,提高整体低延迟体验。
- 评估需覆盖背景噪声、多人交互与backchannel等真实环境压力测试,语音搜索/推荐Agent上线前应补充类似鲁棒性评测,而非仅看离线对话质量。
TruthInsightBench:面向开放式科学发现智能体的证据基准评估
🧭 Agent 科学发现评估基准
TruthInsight-AI
提出区分复现与发现的基准,用固定 LLM 裁判评估智能体声明的证据成熟度,揭示瓶颈在科学判断而非编码
📌 工作参考价值(4 点)
- 在评估推荐/广告 Agent 时,引入“盲任务”设计:只给中性业务目标(如“提升点击率”)和冻结历史数据,隐藏已知最优策略,考察 Agent 能否自主提出可验证的假设和实验方案,而不是复现预设的优化流程。
- 借鉴其“声明-证据成熟度”的 6 维度/29 项检查表,为推荐 Agent 输出建立证据审计清单:是否包含对照组设计、鲁棒性检查(不同时间段/人群分片)、可证伪性(明确什么结果会否定假设)、跨数据集/场景泛化验证等,量化决策质量。
- 采用固定 LLM judge + 确定性聚合实现自动化评估,降低人工标注成本,支持 Agent 自我迭代。具体实现:将 Agent 产出拆解为可核验 artifact(图表、统计结果、实验设计),让 LLM 对每个证据项打分,再用规则聚合,避免 LLM 主观偏差。
- 结论“瓶颈在科学判断而非编码”提示:在推荐系统中引入 Agent 时,应优先加强推理、实验设计和因果推断模块,而非只提升代码生成能力,可接入因果推断工具或 A/B 测试模拟器。
Occamy-1.0:面向协同工作的开源帕累托前沿35B智能模型
🧭 协同工作Agent模型后训练
Accio Team
开源35B协同工作模型,通过执行接地数据和分阶段后训练实现成本效率帕累托最优
📌 工作参考价值(4 点)
- 成本效率优先的模型选型:在业务中构建Agent时,可采用低参数MoE架构(如35B-A3B)替代超大模型,在保持工具调用、编码等能力的同时显著降低单次调用成本,适合电商场景中大量并发的商品信息查询、订单处理等任务。
- 执行接地数据构建:借鉴其采集真实执行轨迹并重放的方法,在电商Agent训练中记录用户与Agent的完整交互序列(包括工具调用、状态变更、错误恢复),作为后训练数据,可提升模型在长流程任务中的状态跟踪与协调能力。
- 分阶段后训练:将能力拆分为信息收集、工具使用、编码、文件操作等模块,分阶段注入训练数据,逐步巩固,避免灾难性遗忘,适合在现有基座模型上迭代增强特定Agent技能。
- 全流程成本评估:在评估Agent模型时,除accuracy外,应统计整个episode的累计token成本与延迟,绘制成本-性能帕累托曲线,选择位于低拐点的模型部署,而非仅看单点benchmark分数。
先澄清再优化:动态预建模澄清的交互式优化框架
🧭 LLM Agent 交互式优化澄清
Cardinal Operations · Shanghai Jiao Tong University
提出OR-Clarify基准与InterOPT两阶段框架,在优化建模前主动识别缺失槽位并决定追问或停止
📌 工作参考价值(4 点)
- 在营销/广告预算分配、促销优化等业务自动化中,将需求澄清抽象为“槽位恢复”:预定义目标函数、约束、业务规则等关键槽位,用多选或填空式追问替代开放问答,可显著降低交互成本并减少错误建模。
- 借鉴 InterOPT 的两阶段设计:先识别 formulation-critical 未解决槽位,再依据槽位覆盖度/信息增益决定继续追问还是停止,避免过度打扰用户;可嵌入电商广告计划 Agent 的需求确认环节。
- 用“silent assumptions”指标兜底:跟踪模型未经用户确认就默认的关键假设,在生成广告投放模型或 SQL 前强制校验,防止预算、排期等约束被静默填错。
- 对交互式推荐/搜索澄清场景:当用户 query 或目标模糊时,可以基于预定义维度(价格带、类目、目标 KPI)生成候选澄清项,而不是直接生成推荐或优化方案,提升准确率。
KGVoyager:基于 Agent 导航的知识图谱无关问答
🧭 Agent 自主导航知识图谱问答
University of Texas at Arlington
一种知识图谱无关的 Agentic 架构,仅用查询端点和轻量类索引即可动态发现图谱结构并生成 SPARQL,F1 提升约 8 点
📌 工作参考价值(4 点)
- 在电商商品知识图谱问答或智能导购中,可以用“轻量类索引 + 动态探索”替代完整 ontology 硬编码:仅维护类目/一级类索引,让 Agent 在查询端点实时发现属性与关系,适应类目和属性的频繁变更。
- 采用 think-act-observe 循环,将 NL→SPARQL 拆成搜索(term→IRI 映射)、探索(发现 schema)和执行反馈(根据空结果/错误修正),比一次性生成更鲁棒,适合线上自然语言到结构化过滤条件的生成。
- 执行反馈作为信号:让 Agent 根据结果异常自动调整约束,减少人工维护规则;该思路可迁移到推荐系统的标签/属性过滤或动态 query 理解模块。
- 工程上只要求 SPARQL endpoint 可查询,不依赖昂贵的 text-SPARQL 标注对,适合快速冷启动新领域或新类目;轻量类索引也减少 prompt 长度,直接降低 LLM 成本与延迟。
UrbanGround:从局部感知到真实城市空间行动能力
🧭 MLLM智能体城市空间导航评估
Shanghai Jiao Tong University · National University of Singapore · Meituan · The Chinese University of Hong Kong · Shanghai University
提出香港真实3D城市沙盒UrbanGround,系统性评估MLLM智能体从局部视觉感知到持续导航行动的可靠性
📌 工作参考价值(4 点)
- 渐进式评估设计可迁移:论文通过三个递进问题(局部场景grounding → 远距离导航 → 路线与行人扰动)暴露智能体能力断裂点,电商Agent评估同样应区分单步能力与多步组合能力,避免局部指标掩盖全局失败。
- 长程任务错误累积的警示:MLLM在短距离空间推理尚可,但持续探索中错误无法纠正,这提醒在构建推荐或搜索Agent时,需加入全局状态追踪与纠错机制,而非单纯堆叠单步模型能力。
- 高保真仿真环境的价值:基于真实地理数据构建可闭环交互的沙盒,能为Agent提供物理约束下的测试场。电商场景可借鉴构建虚拟购物环境,测试Agent在商品导航、路径规划中的鲁棒性。
- 论文核心是具身智能与空间导航,与电商推荐业务直接关联较弱,可借鉴点主要集中在Agent评估方法论与仿真环境设计。
丰富-检索-排序:超越上下文路由的规模化能力发现
🧭 Agent 能力发现 · 检索-重排 ★ 深度解读
Amazon AGI
将 Agent 能力发现重构为离线丰富+在线检索-重排,在 7,278 个工具上以约一半成本领先 Search&Pick 6.5pp,并比全量上下文便宜 70 倍
📌 工作参考价值(4 点)
- 如果业务里要用 LLM 从上千个 API/agent/tool 中选调用,不要让它读全量 registry:改为 BM25+dense 召回 top-15,再单次 LLM listwise rerank。这样成本与 registry 规模解耦;Nova Micro 扫描显示单阶段全量路由在 N≈500 后崩,可作为架构切换的经验阈值。
- 离线把稀疏的 item/tool 元数据改写成结构化 profile(summary、action-led description、keywords、正/负 usage examples)一次完成,供检索和 reranker 共用。干净公开数据上 enrichment 无收益(甚至 -4.4pp),但元数据只剩 name 时 Match@1 +25.6pp、Recall@15 0.134→0.467;先评估自家商品/工具 metadata 稀疏度再决定是否上。
- 做错误归因:约70%的大规模 miss 在 retrieval,换更强 reranker 只 +3pp。优先提升一阶段召回(hybrid、更好 dense encoder、字段加权)而不是继续优化 reranker prompt。
- 打分信号可设计成可插拔加权:LLM 0.50 + BM25 0.05 + Quality 0.30 + Intent 0.15,字段缺失自动 renormalize;在有 trust/type 元数据时 Quality+Intent 额外 +4.5pp。这种统一配置可以跨 tools/agents/skills 复用,避免每种能力单独调参。
FrontierChallenge:评估科学工作流完整执行基准
🧭 科学工作流智能体评估基准
提出跨领域科学工作流基准,揭示高部分得分与置信完成声明均不保证端到端交付
📌 工作参考价值(4 点)
- 借鉴其评估思路:为多步 Agent 任务定义完整交付物清单(required deliverables),而不只看最终答案;在电商场景可设计包含策略输出、代码、报告等一致性的端到端验收集。
- 采用 Pass Rate 和 Avg Score 双指标:Pass Rate 衡量端到端全对比例,Avg Score 捕捉部分进展,避免只优化平均分掩盖完整交付能力不足;推荐系统离线评估可区分“部分正确”与“全流程完成”。
- 关注模型虚假完成声明:75.5% 非通过轨迹仍声称完成,提示在业务 Agent 中需增加交付物校验与一致性检查,不能依赖模型自报成功或语言层面的置信表达。
- 按领域拆分评估:部分领域部分分数极高但完整通过率近零,说明简单任务高分不迁移到复杂工作流;在电商多域 Agent 上线前应分域测试端到端通过率。
FlowEvo:工作流与可执行技能共演化的自进化智能体
🧭 Agent 自进化 · 工作流与技能共演化 ★ 深度解读
Southeast University · Rensselaer Polytechnic Institute · The Hong Kong University of Science and Technology
训练免更新框架,将成功工作流编译为可执行技能,并在推理时通过直接复用或技能条件生成持续提升智能体能力
📌 工作参考价值(4 点)
- 在导购/客服/搜索推荐 Agent 中,把验证通过的会话或工具调用轨迹编译为带接口与测试的技能条目,而不是仅存 prompt 文本;可显著降低重复探索的 token 成本,适合高并发商品推荐、Query 改写等场景。
- 采用「动态生成 / 直接执行 / 技能条件化生成」三级路由,并设直接执行失败自动回退;可嵌入商品属性抽取、推荐解释、营销文案生成等 workflow,结构化任务优先走缓存式执行。
- 用对比式效用追踪(compare skill applied vs withheld)做负迁移治理:对 prompt 版本、策略技能、推荐模板做持续 AB 式统计,低于阈值自动降权/停用,防止线上记忆库被低质量经验污染。
- 该框架在可验证信号(结构化 action、code、math)下更稳,对无明确 reward 的开放对话需谨慎;其「小模型受益大」结论可用于低资源场景,用记忆库补偿模型能力。
面向多轮工具调用智能体的菱形拓扑感知检索与自蒸馏训练框架
🧭 多轮工具调用 Agent 的自蒸馏训练 ★ 深度解读
ByteDance · University of Science and Technology of China
构建交互状态转移图并识别关键拓扑断点,仅对恢复步骤做局部监督,提升多轮工具调用效率与泛化。
📌 工作参考价值(5 点)
- 业务值得借鉴的:
- 将多轮工具调用轨迹建模为交互状态转移图(ISTG),用信息原子抽象归一化语义等价工具响应,可有效压缩状态空间并捕捉顺序无关子目标的菱形拓扑,适合电商/搜索 Agent 中多路径比价、商品查询等场景。
- 用成功可达区域投影定位第一个偏离点(CTB),只对失败后的恢复步骤做局部监督并 mask 有效前缀,避免全局 SFT/RL 对有效探索的误惩罚,可缓解 credit misassignment 和灾难性遗忘。
- 采用渐进式自蒸馏:每轮从学生 rollout 中检测能力边界,用教师轨迹检索恢复参考,形成自步课程;工程上可低成本迭代,且能逐步缩短工具调用链(文中 3.55 vs golden 4.02)。
- 在具备 verifiable feedback 的自动构建环境(类似 FTRL)中先构造教师轨迹池与状态图,再迁移到真实业务前可用该框架做离线自蒸馏。
SkillForge:面向项目特定问题解决的自蒸馏 Agent
🧭 Agent 自蒸馏获取项目特定知识 ★ 深度解读
Shanghai Jiao Tong University
通过从仓库自身测试与代码合成 issue 并蒸馏为实体级技能,解决 SWE agent 的项目冷启动问题
📌 工作参考价值(4 点)
- 可复用的架构:离线自蒸馏 + 在线检索注入。电商/广告/推荐 Agent 同样存在“项目冷启动”:新业务域缺乏领域知识。可用仓库测试/日志/历史行为作为监督,先离线合成任务并跑通 Agent 轨迹,再蒸馏成可检索知识,在线时只做轻量注入,避免每次线上任务都重探。
- 双级技能库 + 实体对齐的 JIT 注入。不要把所有知识一次性塞进 prompt。把诊断类知识(模块定位、排障 playbook、关联 API)做全局初始化检索;把干预类知识(修改时的坑、修复模式)绑定到具体实体,Agent 访问对应实体时再注入。这比纯语义相似度检索更精准,能降低上下文噪声。
- 合成任务要“功能级”而不是“单函数级”。只改一个函数往往暴露不了跨模块集成问题。应沿执行 trace 一次覆盖多个协同代码段,合成出来的任务才更接近真实业务故障。
- 知识是模型相关的,跨模型迁移会掉点。如果是电商 Agent,不同底座模型编码偏好不同,蒸馏出的领域知识应尽量与线上推理模型绑定,不要拿 A 模型蒸馏的知识直接给 B 模型用。
SkillGate:训练长程 Agent 的策略内技能选择
🧭 Agent 技能选择 · 信用分配 ★ 深度解读
Shanghai Jiao Tong University · Xiaohongshu Inc.
识别选择器信用饿死问题,分离执行与选择 token 信用通道,将 9B 策略成功率从 40.8% 提升至 53.2%
📌 工作参考价值(4 点)
- 在电商搜索/Agent 场景中,当 LLM 在长对话里选择 query 改写、营销话术或工具时,不要把最终成交 reward 直接广播到全部 token;应将“选择 token”(如 query 或 skill 名)与“执行 token”的 loss mask 分离,避免下游执行失败反向惩罚正确选择(对应论文中 selector credit starvation)。
- 对选择动作构造局部信用:仅当轨迹中唯一选择为 oracle(正确 query/skill)时给 +1,否则给 0,并在同一 prompt group 的候选动作上做 group centering,去掉标准差归一化;这比给整条轨迹加分、或只奖励第一次正确选择更有效(可参考消融表 2)。
- 工程上可用 token span 标注 identity 区域,并在 mask 构建/分片/loss 三处断言两个 credit channel 的 support 不相交;对 selector channel 做长度无关重加权,使每个 credited action 的总权重恒为 N/M,避免长轨迹稀释关键决策。
- 业务上不要过度依赖外部 router/reranker:论文显示路由准确不等于下游成功,训练策略内部选择能力可同时降低交互成本(读更少技能、更少 turn)和上下文成本(按需加载 vs 预加载 k 个候选)。
StagedWorkspace:面向知识工作 Agent 的版本化工作空间
🧭 Agent 工作空间版本管理与状态一致性
Harvard University · Raycaster AI · University of Technology Sydney · University of Washington · Stanford University
提出带版本控制的工作空间,将解析视图与 diff 绑定到文件内容哈希,显著提升知识工作 Agent 的文件编辑与问答性能
📌 工作参考价值(4 点)
- 对于电商/广告场景中需要 Agent 自动生成或修改文档(如商品详情、营销报告)的流水线,可采用内容哈希将解析视图与原生文件绑定,防止 Agent 在异步处理中引用过时版本,确保最终提交一致性。
- 引入 staged edits 与 review diff 机制,让模型在每次修改后看到 diff 再继续下一步;在多轮编辑任务(如广告文案迭代)中能显著减少累积错误,提升最终质量,类似代码 Agent 的版本控制实践。
- 若构建基于 RAG 的知识工作 Agent(如自动撰写商品卖点、审核规则文档),采用 dual parsed/native access:结构化解析用于快速检索,原生文件用于精确校验,可平衡效率与准确性。
- 在评测或监控此类 Agent 时,将 evidence、staged edits 和提交产物作为显式状态转换进行打分,而不是只看最终输出,更能反映真实工作流中的质量。
项目接地与验证把关的 PLC 代码生成 Agent 框架 SemaPLC
🧭 Agent 校验驱动代码生成
Midea AIRC · KUKA · Shanghai Jiao Tong University · Zhejiang University
提出以外部验证为完成条件的 Agent harness,在 PLC 代码生成上运行时得分显著超越基线
📌 工作参考价值(4 点)
- 将任务完成条件从 LLM 自我判断改为可执行的外部 checker(spec 校验、编译、运行时 trace 对比)作为 gate,只有日志确认通过才停止,能显著提升生成质量,尤其在动态运行时指标上。
- 分层验证思路可迁移到推荐/Agent 生成场景:spec 匹配、离线静态检查、线上仿真或 replay 动态评估三层 gate,动态层最能区分方法优劣。
- 项目 grounding 做法:给 LLM 提供完整项目树、接口定义、技能库等结构化上下文,而不是孤立生成,电商推荐中可类比为提供商品图谱、用户序列、业务约束等上下文。
- 动态评测比静态打分更能暴露问题,建议在推荐 Agent 或生成式推荐评估中增加线上仿真/真实 A/B 指标,避免只看离线静态分。
写、执行、精炼:通过执行反馈强化学习训练技能优化器
🧭 Agent 技能优化训练 · 执行反馈强化学习 ★ 深度解读
Harbin Institute of Technology, Shenzhen · The Chinese University of Hong Kong · MoE Key Laboratory of High Confidence Software Technologies · Harbin Institute of Technology, Harbin · Huawei Technologies Co., Ltd.
训练独立 Skill Optimizer,用执行反馈做 phase-wise GRPO,让 4B 模型优化 agent 技能超过通用大模型
📌 工作参考价值(4 点)
- 在电商导购、客服、广告投放等 Agent 系统中,把「策略 prompt / skill」当作可优化参数:冻结执行模型,单独训练一个小模型改写 skill,能获得比直接换更大 LLM 更稳定的收益;执行器冻结可以让优化信号只归因到 skill 本身。
- 如果业务有程序化校验指标(订单完成、API 参数合法、库存/价格约束、终态匹配),优先用 verifier 做 reward,不要用 LLM 打分;配合组内相对优势 GRPO,能避免任务难度差异淹没候选策略差异。
- 构建 replay buffer 时,只保留同一 skill 下「一次成功 + 一次失败」的 paired trajectories 作为下一轮优化样本;这种 mixed-outcome 状态能定位 skill 未约束的分支,比单条失败轨迹更有诊断价值。
- 生产环境建议迭代 1-2 轮即停止:实验显示 2 轮修订后收益饱和,第 3 轮可能倒退;skill 文档用 name/description/workflow/notes 四段式,agent 指令更稳定可维护。
工具技能检索失败:可执行能力检索中的源风格坍缩
🧭 Agent 工具检索的源风格坍缩与路由 ★ 深度解读
University of Manchester · University of Sheffield · Shanghai University of Finance and Economics
固定工具库下 dense retriever 会因 query 源风格偏移而覆盖崩溃,TF-IDF 路由+少样本修复可显著恢复覆盖。
📌 工作参考价值(4 点)
- 在多源工具库/API 注册中心上线前,用 query-side TF-IDF 质心距离对流量做源风格监控,设置 safe/unsafe band 做路由护栏,成本极低且能避免线上 candidate coverage 崩溃。
- 不要用 naive 混合训练或平衡重加权来解决多源 drift,它会损害原本匹配源的覆盖;更划算的做法是保留多个 retriever checkpoint,做 source-aware routing,并对 mismatched 流量用 20 条左右 matched examples 做短时继续微调。
- 检索层是 agent 执行链路的入口,评估时优先看 coverage 或 coverage-weighted top-1 proxy,而不是只看 covered query 上的 reranker 精度;未覆盖 query 必须直接记为失败,否则会掩盖系统风险。
- 把工具/API 重渲染成标准化 skill card 并不能消除源风格坍缩,说明问题在 query-tool pairing 习惯和措辞分布,而不只是 schema 格式;做 skill 库时不要把格式归一化当成语义漂移修复。
循环语言模型提升组合工具调用
🧭 循环语言模型优化多步工具调用
Department of Computer Science and Technology, University of Cambridge, United Kingdom
循环计算在组合式工具调用中提升准确率,自适应推理深度提供更优算力-性能折中
📌 工作参考价值(4 点)
- 多步 API 协调、状态依赖保持是 Agent 落地的核心难点,可尝试将 backbone 换成或改造为循环语言模型,替代复杂 prompt 工程,提升组合工具调用稳定性。
- 自适应推理深度在保证准确率的同时控制算力,适合线上 API 开销敏感场景;可以在推理时根据任务复杂度动态分配 recurrent depth。
- 论文验证了 retrofitted 循环模型(对 Llama、OLMo 等现有模型插入循环层)与原生循环模型均有增益,意味着现有 SFT 流程可复用,作为生成式 Agent 的候选架构成本较低。
- 业务中若涉及复杂工具编排(如电商 Agent 串联商品查询、订单、物流接口),可重点评测多步依赖型任务的准确率,而非只关注单步 API 调用指标。
Mechanist:以AI为科学仪器自主发现智能机制的智能体系统
🧭 AI4Science · 机制可解释性智能体
Zhejiang University
用Agent+知识图谱+方法库自动发现AI模型机制,实现从解释到干预
📌 工作参考价值(4 点)
- 将论文、内部实验构建成「机制知识图谱」,把模型行为、失败案例、分析方法、干预手段结构化沉淀,便于快速定位推荐模型 bias、表征问题或安全风险。
- 借鉴其 32 种方法库的思路,封装一套可复用的因果干预与验证工具(如 activation patching、logit lens 等),让团队能自动生成假设并跑小规模实验,而不是逐个人工排查。
- Agent 的“假设→实验→验证”闭环可用于生成式推荐/搜索的模型诊断,例如排查 Semantic ID 模型是否学到正确的概念层级、跨模态转移是否带偏风险。
- 从机制解释到行为控制(如引导模型生成指定属性输出)的思路,可用于将机制发现转化为可控的推荐策略或生成约束。
DSAgentBench:评估 Agent 在真实计算机环境中自动执行端到端数据科学工作流的能力
🧭 Agent 能力评估与基准构建
York University · Nanyang Technological University · Salesforce AI Research
首个在真实 OS 中评估 agent 完成全流程数据科学任务的基准,揭示当前模型巨大能力鸿沟
📌 工作参考价值(4 点)
- 为电商推荐场景中自动化数据分析(清洗、特征工程、模型评估)的 Agent 提供评估框架,可借鉴其任务设计和评测方法。
- 强调真实 OS 环境下的多工具协同(终端、浏览器、数据库),提示业务 Agent 需要具备文件系统操作、数据库连接等底层能力,而非仅代码生成。
- 确定性 evaluator 不仅检查代码执行,还验证分析结果正确性、可视化和模型性能,该思路可直接用于业务 Agent 的效果验收。
- 当前开源 Agent 成功率几乎为 0,闭源最高仅 56.7%,说明复杂长链路自动化仍不成熟,现阶段业务中应谨慎引入端到端全自动 Agent,更适合人机协同模式。
Evo-Bench:衡量语言模型自主优化智能体框架的能力
🧭 Agent 自我进化能力评估
Gaoling School of Artificial Intelligence, Renmin University of China · BOSS Zhipin, Beijing, China
首个跨搜索、办公、通用领域的基准,评估LLM自主进化智能体harness的能力,发现搜索优势与早饱和现象
📌 工作参考价值(4 点)
- 在设计电商搜索或推荐 Agent 时,可让 LLM 自动优化其工作流程(harness),借鉴“辅助任务进化”方法来筛选对框架敏感的任务,降低试错成本。
- 注意早饱和现象:迭代优化时设置提前停止条件,避免过度优化导致性能停滞,适用于高频率在线场景。
- 合成的 harness 作为可迁移的推理模板,跨不同推荐模型复用,可沉淀为内部知识库,统一提升效果。
- 评估自主进化能力时需隔离基座模型强度与框架贡献,可参考“敏感度感知分层划分”防止过拟合到特定任务集。
SWE-Bench ProMax:大规模多语言代码重构智能体基准
🧭 代码重构 Agent 评估基准
Shanghai Jiao Tong University · Peking University · The Hong Kong University of Science and Technology · Douyin Group · University of Chinese Academy of Sciences
构建多语言、大规模代码重构基准,通过严格清洗暴露模型短板,最佳解决率仅41.2%
📌 工作参考价值(4 点)
- 基准构建的严谨性可迁移:对测试用例的手动审查(剔除过严 / 过宽的测试)和问题描述的精确重写,可应用于推荐系统的离线评估中,避免因标注错误或模糊定义导致的模型能力误判。
- 协调多文件修改的思路:实例要求同时修改平均11.4个文件,类似推荐系统中需要跨阶段(召回、排序、重排)联合优化的场景,可启发多 Agent 协同编排的设计。
- 测试规模与真实任务的接近:平均261.6行代码的修改量远超市面基准,提示我们在构建推荐 Agent 评估任务时应尽量贴近线上复杂流程,避免琐碎的任务导致能力饱和。
- 业务可借鉴点有限:论文核心是代码重构,与电商推荐直接关联弱,但其暴露的大模型在长上下文、跨文件行为保持上的不足,对用 LLM 做推荐 Pipeline 自动编排有警示意义。
超越Top-K:用可解释Agent操作替代黑盒检索
🧭 Agent驱动的结构化文档免嵌入检索
Indian Institute of Technology Patna · TwoSpoon
提出READ,一种免嵌入的agentic检索方法,在表格密集文档上准确率远超密集检索且可审计
📌 工作参考价值(4 点)
- 对于包含大量表格/结构化字段的长文档(如商品参数、金融报告),分块嵌入检索常会破坏数值与单位/上下文的关联,可改用Agent按需读取原始文档,通过归一化词法搜索和结构导航确保精确提取。
- 在检索环节中,嵌入并非万能:实验表明BM25与READ效果相当,因此对于数值密集场景,优先考虑强词法匹配而非密集向量。
- 将检索接口设计为可审计的步骤序列(如MCP暴露工具),便于调试和信任,尤其适合高风险业务场景(如合规、财务审查)。
- 若业务中需构建问答系统处理半结构化长文本,可借鉴READ的“保持文档完整、让Agent选择读哪里”的理念,避免提前分块带来的信息断裂。
观察校准自蒸馏:解耦智能体强化重放信号的混杂因子
🧭 Agent 强化学习 · 令牌级信贷分配 ★ 深度解读
Meituan LongCat Interaction · Nanjing University · Peking University · McMaster University · Fudan University
通过对比含/不含未来观察的结构化重放视图消除支架混杂,为GRPO提供校准的令牌级更新信号
📌 工作参考价值(4 点)
- 特权重放信号的混杂控制:在使用未来反馈或后见之明信息进行令牌级监督时,可构造“完整视图”与“消融视图”(如仅屏蔽关键未来信息,保持格式、动作支架一致),取两者分数差作为残差,剔除由重放格式、支架引入的偏好偏移,从而使特权信号更干净地归因于目标信息。
- 选择性校准高不确定步骤:按旧策略的序列平均负对数似然排序,只对每个轨迹中前20%高困惑度步骤施加令牌级精细化信号,既能提供有效指导,又避免对低价值步骤引入噪声,提升训练效率与稳定性(计算开销仅增1.4%)。
- 保向调幅的集成方式:在政策优化时保持原始轨迹级优势的方向不变,仅用校准信号按比例缩放更新强度(如 \(bA_{text{cal}} = bA \cdot (1+\beta \cdot \text{sgn}(bA) \cdot q)\)),易于嵌入现有GRPO/PPO框架,无需额外损失项或辅助目标。
- 适用于多步交互型Agent:该思路可直接迁移至对话推荐、搜索代理等多轮交互场景,利用后续用户反馈或环境状态构建结构化对比视图,实施步骤级信用分配,提升策略学习对关键行动环节的敏感度。
ToolArtist:工具使用统一多模态模型的智能图像生成
🧭 Agent 多步推理与工具调用
RUC · HKUST(GZ) · NUS · UCD
通过后训练统一多模态模型,实现推理、工具调用与图像生成的端到端Agent策略优化
📌 工作参考价值(4 点)
- 可将完整复杂任务流程(推理→工具调用→生成)交由单一策略模型端到端决策,适用于电商搜索推荐的Agent化改造,动态编排召回、排序、解释生成等步骤。
- 教师代理收集轨迹后隐藏工具调用但保留生成结果,这一数据构造范式可直接用于训练推荐对话Agent,无需手动标注思考链。
- RAD-GRPO结合意图和品质互补奖励的方法可用于推荐场景的多目标RLHF,同时优化相关性和内容质量。
- 训练数据格式转换(工具调用痕迹转化为模型直接生成)为统一多模态模型接入外部工具提供了可复用的工程模板。
Agent强化学习中的持久一致性自我蒸馏
🧭 Agent强化学习·自蒸馏一致性
Beijing Institute of Technology · Meituan · Institute of Automation, Chinese Academy of Sciences · Tsinghua University
通过教师信号局部持久性计算token级权重,联合GRPO缓解Agent稀疏奖励问题
📌 工作参考价值(4 点)
- 在电商/对话搜索Agent的RL微调中,可采用稠密token级蒸馏信号缓解稀疏奖励,利用PCSD的持久一致性权重降低教师噪声。
- 生成式推荐中蒸馏大模型输出时,可借鉴持久一致性思想评估各token的可靠性,用于知识蒸馏中的动态权重分配。
- 自适应窗口与指数衰减聚合捕捉局部支持趋势的做法,可迁移至用户行为序列建模或Agent轨迹中的注意力权重设计。
- 联合GRPO与蒸馏目标的多任务训练范式,为推荐Agent提供了一种平衡探索与利用、兼顾环境反馈与教师引导的优化思路。
基于强化学习的渐进式 Agent 技能生成
🧭 Agent 技能生成 · 强化学习 ★ 深度解读
The Chinese University of Hong Kong · LIGHTSPEED · Independent Researcher
用 RL 将技能生成为局部编辑序列,以 rollback reward 提供信用分配,显著超越基于流水线或启发式的方法
📌 工作参考价值(4 点)
- 技能编辑的局部评估:rollback reward 对每个编辑步骤进行锚定查询下的前后对比,避免依赖文本流畅度评估,可直接迁移到推荐 Agent 的策略迭代中,用下游 A/B 效果替代人工规则。
- 渐进式技能构建:将长文档或大量经验分解为逐步编辑,适应电商 Agent 的增量学习场景,如促销规则更新、用户反馈积累。
- 统一多源证据:同一框架同时处理文档和执行轨迹,可用于混合知识源(如商品描述、用户日志)生成统一的推荐策略。
- 动作空间设计:CREATE/UPDATE/MERGE/PRUNE/NOOP 的编辑动作集可直接作为 Agent 技能库维护的元操作,用于自动优化搜索竞价策略模板或客服话术集。
MerchantBench:电商运营中LLM智能体长期连贯性基准
🧭 Agent 长期连贯性评估
Alibaba Group · State Key Lab of CAD&CG, Zhejiang University · School of Software Technology, Zhejiang University · School of Software and Microelectronics, Peking University · College of Computer Science and Artificial Intelligence, Fudan University
提出首个电商卖家长期运营模拟基准,评估LLM智能体在365天中维持连贯决策的能力,揭示LLM远逊于人类
📌 工作参考价值(4 点)
- 长期模拟环境构建:可借鉴其365天订单级模拟设定,将“供应商事件-采购-上架-定价-订单-现金流”时序闭环用于训练或评估搜推广场景中的Agent,尤其适合需要多步决策且反馈延迟的任务(如选品、动态定价)。
- 决策依赖与现金流的约束设计:采购、定价、现金流之间形成硬性依赖,当前行为会影响未来选择空间,这对设计推荐Agent的“预算受限序列决策”有很大启发,例如广告竞价中的预算分配与出价调整。
- 混合延迟反馈的处理框架:MerchantBench区分上游即时事件与下游延迟订单结果,这种双通道反馈模式可复用于搜索推荐系统,帮助Agent学会在延迟转化数据下的自适应策略。
- 评估指标与人类对照:用最终净资产等累计指标衡量长期连贯性,并引入人类基线,这种做法可迁移到业务Agent评测中,避免仅看短期收益忽视长期效果,从而设计更鲁棒的线上评估体系。
ORCA-bench:LLM智能体在oncall根因分析中的准备度评估
🧭 Agent 根因分析基准评估
Cornell Tech · Traversal · Columbia University
在真实微服务系统中评估LLM Agent的根因分析能力,最佳准确率仅25.3%,暴露严重幻觉与代码依赖
📌 工作参考价值(4 点)
- 构建推荐系统智能运维Agent时,需警惕幻觉风险:即使最强模型在部分任务中也给出完全无关根因,可借鉴其幻觉率指标与人工评审机制
- 源端可观测性(指标、日志、追踪)完整性与代码访问权至关重要:移除源码访问会全面降低Agent表现,建议在推荐系统线上故障排查Agent中强制集成代码检索工具
- 任务难度分级方法可复用:根据报告特异性、检测延迟、并发故障等维度系统构造评测集,用于评估电商搜索推荐场景下的异常检测Agent
- LLM-as-judge与专家对齐(Cohen’s κ_w=0.90)的验证流程,可直接用于生产环境中Agent输出的自动化评估,减少人工审核成本
VIG-RL:用强化学习学习搜索与插入以验证图像基础
🧭 Agent 强化学习动态搜索插入图文证据
Peking University · Huawei Cloud BU
将验证性图像基础建模为动态决策过程,用强化学习优化搜索-选择-插入的 agent 循环
📌 工作参考价值(4 点)
- 电商商品文案生成中,可借鉴动态决策何时检索并插入商品实拍图或证照截图,提升可信度与转化率。
- 强化学习驱动的多步 agent 决策(何时搜、选哪张图、插在何处)可迁移到购物助手主动补全多模态信息。
- 复合奖励(步骤级工具使用评价 + 最终图文对齐)可用于优化推荐解释生成中的多工具调用组合。
- ReAct 式动作-观察循环可集成搜索工具,在对话推荐中自适应地引入外部证据(如用户评价截图、商品对比图)。
大语言模型能否执行母订单?分层零样本交易决策
🧭 LLM驱动的分层决策与规划
Independent Researcher · HKUST(GZ) · ZJU · SYSU
首次系统研究用LLM做母订单执行,提出分层框架PACE,零样本超越传统和学习型基线0.65基点
📌 工作参考价值(4 点)
- 分层规划思想可直接用于电商大促的预算/流量分配:用LLM做高层计划(每天/每时段的预算比例),底层执行器按计划实时出价,无需针对具体场景重训模型。
- LLM零样本决策能力可替代强化学习在冷启动或快速变化的推荐场景(如新品冷启推送节奏)中做时序动作决策,降低训练成本。
- 长期规划+短期执行的分解范式适合多Agent协作:一个Plan Agent制定整体策略,多个Execute Agent按约束执行,解耦决策粒度,便于工程实现和调试。
- 行为分析中的“模型自信与绩效正相关”提示:可在在线决策系统里结合LLM输出置信度做风险控制,高置信动作放量,低置信动作交人工审核或降级。
FinanceHarness:自主金融深度研究框架
🧭 Agent驱动的金融深度研究框架
Google Cloud AI Research · University of California, Los Angeles
提出面向金融领域的自主深度研究框架及点时间基准FinanceGym,将代理评分从25.3%提升至32.4%
📌 工作参考价值(4 点)
- 领域专用Agent工作流设计:电商搜索推荐Agent可借鉴分层harness思想,封装商品查询、行为分析、趋势预测等工具,构建多步骤推理流水线(如竞品分析→选品策略→文案生成)。
- 点时间基准避免数据泄露:针对促销预测、季节品推荐等时间敏感任务,可参照FinanceGym的pre-cutoff/post-cutoff评估设计,确保测试集不包含未来信息,真实反映模型能力。
- 奖赏建模指导Agent优化:可对推荐报告、搜索策略输出定义自动评分标准(如覆盖率、新颖性、时效性),用于RLHF或拒绝采样微调,提升Agent执行质量。
- 专家验证基准的效用:在构建垂直领域Agent评测集时,引入专家人工验证确定难度和真实水平,避免纯自动指标误导,发现顶尖模型仍有较大改进空间。
Frontis-MA1:面向递归自我改进的机器学习工程训练
🧭 AI4AI 自动化机器学习工程 ★ 深度解读
Horizon Research · Frontis.AI · Tsinghua University
通过执行反馈训练 Draft/Improve/Debug/Crossover 原子算子并组合长程进化搜索,在有限 GPU 预算下将 MLE-Bench Lite 奖牌率从 39% 提升至 71%
📌 工作参考价值(4 点)
- 原子算子训练 + 进化搜索范式:将复杂任务(如推荐模型自动调参、特征工程)拆解为 Draft/Improve/Debug/Crossover 四种原子操作,用执行反馈训练这些操作,再通过 OpenMLE-Evo 组合成长程搜索,可直接迁移至 AutoML 或 Agent 自动优化推荐 pipeline 的场景。
- 执行反馈 RL 的自适应奖励设计:使用自适应上下界和熵优势(entropic advantage)将学习信号集中于高质量解,而非仅奖励有效解。在推荐策略搜索或 SQL 生成等可验证任务中,可避免模型产生“能跑但性能差”的结果。
- 结构化经验与父代选择策略:通过结构化经验卡(score/improvement/novelty)进行父代选择,兼顾解的质量、改进幅度和方向新颖性;操作触发式记忆合成避免上下文膨胀。这些可直接用于 Agent 搜索推荐组合空间、模型结构搜索等需要平衡探索与利用的任务。
- 预算自适应的监督数据收集:SFT 阶段每任务设执行预算和接受配额,提前终停止艰难任务,节省计算开销。在标注昂贵或执行成本高的推荐场景(如在线实验)中,可高效获得高质量训练数据。
以交互为中心的Agent失败分类法:定位故障源与修复责任
🧭 交互为中心的Agent失败诊断
Scale AI
提出基于组件交互边的Agent失败分类法,41种模式指定故障方,使评估直接指向可修复组件
📌 工作参考价值(4 点)
- 在构建电商搜索/推荐多智能体系统时,可借鉴交互图建模,将失败归因到具体组件交互边(如LLM↔工具、LLM↔记忆),避免笼统的“模型不好”结论,精准指导是微调模型还是修复脚手架。
- 使用分类法指导Agent评估框架设计,标注失败时区分模型侧、工具侧、环境侧,确保改进资源投向正确组件。
- 可自研类似的离线失败分析流程:对Agent日志轨迹按交互边分类失败模式,生成故障热力图,辅助迭代优化。
- 利用LLM作为评判器自动分类失败,实现监控告警的细粒度归因,降低人工分析成本(论文验证强法官κ=0.76,可复现性高)。
Kimi K3:开源前沿智能体——2.8T参数MoE模型与强化学习实践
🧭 大规模 MoE 模型前沿训练与强化学习 ★ 深度解读
Moonshot AI
开源2.8T参数MoE模型,融合KDA、AttnRes和Stable LatentMoE架构,通过多领域多推理努力强化学习达到封闭前沿水平
📌 工作参考价值(4 点)
- 强化学习训练范式:部分回滚(partial rollout)方案允许长周期任务跨迭代训练,对搜索 / 推荐系统中基于用户长期反馈的强化学习优化具有直接借鉴意义。
- 多教师在线蒸馏(MOPD):将多个领域、不同推理努力水平的专家策略融合为单一模型的技术,可应用于合并不同排序目标的推荐模型(如点击率、转化率、多样性等)。
- 推理部署优化:全后训练阶段集成的量化感知训练(QAT)及 EAGLE-3 投机解码微调,可降低大模型推荐 / 搜索推理成本,对线上部署有实际工程价值。
- 长上下文架构设计:KDA 与 Attention Residuals 的混合注意力可高效处理超长序列,可迁移至用户行为序列建模,支持更长行为记忆和更精准的长期兴趣提取。
Agentic 上下文管理:将 Agent 内存与成本作为生命周期和架构问题解决
🧭 Agent 上下文生命周期管理与成本控制
提出 Agentic 上下文管理五原语(架构、摄入、范围界定、预判、压缩与巩固),将上下文从存储问题重构成全生命周期,实现了线性 token 成本且精度不降
📌 工作参考价值(4 点)
- 上下文生命周期管理思路可直接落地:电商对话推荐 Agent 常因长对话历史丢失关键偏好,借鉴五原语(特别是 scoping 与 anticipating)能主动选择当前轮次相关上下文,避免历史淹没关键信号。
- Token 成本工程价值高:论文揭示 naive 上下文累积导致 token 成本平方增长,仅用摘要则精度断崖。业务中可采用 验证性压缩(validated compaction)技术,在保持线性成本的同时保留召回精度,对高频对话系统降本明显。
- 多租户上下文服务化:参考 Maximem Synap 的多租户实现,搜索/推荐 Agent 可将上下文管理抽象为独立服务,支持组织级层次结构,便于电商平台同时服务多个商家或频道。
- 跨会话记忆与遗忘机制:跨会话的 ingesting 与 consolidation 原语可用来构建用户长期偏好记忆,同时通过遗忘陈旧信息防止上下文膨胀,适合需要多轮交互的导购 Agent。
Solar Open 2:250B-A15B MoE长上下文Agent模型
🧭 大规模长上下文Agent模型训练
Upstage
通过混合注意力与多专家蒸馏,以1/6参数量达到1.6T模型韩文办公Agent水平
📌 工作参考价值(4 点)
- 混合注意力降显存:每三个线性注意力层插一个softmax层、取消位置编码来实现1M token上下文窗口,在长轨迹Agent或对话系统中可大幅降低KV缓存开销,适合电商客服、端到端推荐流等需要处理超长历史序列的场景。
- 多教师在线策略蒸馏(MOPD):先训练12个垂直域专家,再用在线蒸馏合并为单一模型,可复用于电商搜索推荐中的多任务学习(例如同时蒸馏意图识别、商品理解、对话规划等专家),避免维护多个专用模型。
- 数据价值策展:质量与稀有度感知的筛选、混合比例优化使10T数据优于原20T数据,在同等算力下提升效率。可借鉴到构建领域特定预训练语料(如电商搜索日志、商品描述),用更少token达到更好任务性能。
- 参数骨架迁移预训练:从上一代模型继承共享参数骨架(5.69B),其余从头预训练,既保留了原有知识又适配新架构。在推荐模型升级(如从稠密模型转MoE)时可大幅节省再训练成本,快速获得强初始点。
DocOps:面向复杂文档操作的自主代理可验证基准
🧭 Agent 评估基准 · 文档操作
Chinese Academy of Sciences · University of Chinese Academy of Sciences · Baidu Inc.
构建可确定性验证的文档操作基准,揭示前沿代理在长程耦合任务中状态跟踪崩溃、浅层验证等关键失效模式
📌 工作参考价值(4 点)
- 评估框架的设计思路(层次化任务分解、确定性验证)可迁移至电商搜索/推荐 Agent 的自动化评测,避免人工标注成本,确保可复现性
- 识别出的三种失败模式对构建面向长流程任务(如多步查询改写、动态过滤条件组合)的 Agent 有直接警示:需加强长程状态追踪、深层次语义校验、避免破坏性操作
- 文档操作中的“全局一致性维护”问题类似推荐系统中多轮对话或交叉操作下的状态管理,借鉴其分析维度可设计更鲁棒的交互式 RecBot
- 若业务涉及报告自动化、表格数据净化等 Agent 编排,该基准的层级分类可直接作为能力分级和测试用例设计的模板
面向 API 调用 Agent 的无环境合成数据生成
🧭 Agent 训练 · 合成数据生成
Apple
仅凭 API 规范,用 LLM 模拟世界模型生成完整交互轨迹,无需可执行环境即可训练 API 调用 Agent
📌 工作参考价值(4 点)
- 可直接应用于电商搜索/推荐 Agent:无需搭建完整 API 后端(如商品查询、订单状态 API),仅凭接口文档即可生成大量多轮训练轨迹,降低环境依赖。
- LLM 模拟 API 响应时,通过注入任务上下文和交互历史保持状态一致性,可借鉴该思路为推荐 Agent 生成会话数据(如用户连续查询、筛选、下单)。
- 使用 LLM 评委过滤低质量轨迹,确保数据质量,可复用该自动质控流水线于企业内的 Agent 训练数据生产。
- 方法不依赖具体领域,可快速适配新 API 生态,适合多业务线(如搜索、广告、客服)快速冷启动 Agent 训练。
OmniaBench:跨场景通用AI智能体基准测试
🧭 通用AI智能体多场景评测基准
Huawei Cloud Post-Training Team · PKU DCAI Team
构建覆盖ToC/ToB/ToE多领域、支持细粒度能力评估的通用智能体基准,前沿模型Pass@1仅约58%
📌 工作参考价值(4 点)
- 多领域评测维度复用:OmniaBench 从应用商店、产品文档等提炼的 90 个一级领域、354 个二级领域的层次化分类,可直接迁移到电商场景,构建覆盖商品搜索、客服对话、营销文案生成等不同业务子领域的 Agent 评测框架,确保评估广度。
- 能力诊断框架借鉴:十维能力分类(如规划、工具调用、约束维持)和八种原子难度因子可用于拆解搜索推荐 Agent 的关键短板,例如诊断是意图理解不足还是工具选择错误,针对性优化模型训练或 prompt 设计。
- 任务合成方法迁移:DAG/Solver/Program 等合成路线可辅助自动化生成电商多轮交互测试用例(如退货流程引导、多条件商品筛选),减少人工设计成本,特别适用于验证 Agent 在长链路、约束复杂场景下的表现。
- 工程化启示:基准揭示前沿模型在自适应纠错、状态追踪上的普遍局限,提示在构建生产级推荐对话 Agent 时,需显式加入外部状态管理模块或校验步骤,而非单纯依赖模型自身能力。
SAGA:面向智能体 Text-to-SPARQL 的模式感知接地框架
🧭 Agent 交互式 SPARQL 生成 · 模式感知接地
The University of Tokyo · National Institute for Materials Science · RIKEN Center for Advanced Intelligence Project
提出 SAGA 训练无关框架,通过模式约束接地解决智能体 SPARQL 生成中的类型盲问题,显著提升 KBQA 性能并消除空查询。
📌 工作参考价值(4 点)
- 在电商搜推场景中,若利用 LLM Agent 与商品知识图谱交互生成推荐理由或查询,可引入类型约束(如商品类别、属性域/范围)过滤不可能的属性,避免返回空结果。
- 借鉴 SAGA 的双向类型状态(bidirectional type state)机制,在 agent 每一步推理后即时更新实体与属性的类型兼容性,缩小后续接地搜索空间。
- 以紧凑的模式注释格式(schema-annotated format)向 LLM 展示剩余合法属性,减少 token 开销并提升生成准确率。
- 对图谱中缺失的模式信息,可结合历史轨迹局部证据和经验统计宽容处理,适应真实业务图谱的不完整性。
基于摘要记忆的可解释 Agent 对话诈骗检测系统
🧭 可解释 Agent · 摘要记忆
University of New Haven
以可解释 Agent 融合单消息与对话级检测,引入摘要记忆跨消息推理,在基准上达 97.8% 准确率
📌 工作参考价值(4 点)
- 摘要式记忆机制可迁移至电商客服 Agent:对长对话压缩关键意图与上下文,避免窗口溢出,提升多轮交互下需求理解和推荐准确性。
- 可解释性设计:输出检测理由,可借鉴到推荐系统的透明性解释,例如解释为何推荐某商品,增强用户信任。
- 多阶段检测架构:结合单消息快速判别与对话全局分析,可类比推荐精排-粗排流程,平衡响应延迟与精度。
- 用户研究评估方法:使用 SUS 量表和前后测对比验证用户信任和接受度,可复用于评估搜索推荐 Agent 的用户体验与 AI 辅助效果。
误导图表问答的双路径Agent框架
🧭 Agent 双路径图表问答框架
HKUST · HKUST(GZ)
提出ChartCynics双路径Agent框架,通过视觉诊断与OCR数据验证解耦,大幅提升小模型对误导图表的鲁棒QA性能
📌 工作参考价值(4 点)
- 双路径解耦验证范式可迁移至电商多模态审核:商品图文一致性检查、广告素材合规判定等任务中,可构建类似“视觉异常检测路径 + OCR文本抽取路径”,由Agent Summarizer进行冲突裁决,提高对欺骗性描述的鲁棒性。
- Oracle蒸馏 + 对抗对齐训练方法:在推荐系统对抗恶意行为(如虚假评论、刷单)时,可用Oracle-Informed SFT蒸馏出批判性推理链,再通过Deception-Aware GRPO进行对抗式强化学习,让模型学会识别操纵模式。
- 小模型 + Agent工作流超越闭源大模型:电商搜索推荐场景资源受限时,可将大模型能力拆解为多个专家子路径,通过Agent编排让开源小模型在多模态推理任务上达到甚至超过GPT-4V等专有模型,性价比更高。
- 可借鉴的ROI策略与多证据整合:推荐系统中处理商品主图、详情图等多图像信息时,可引入战略性的ROI裁剪聚焦关键区域,结合文本证据进行最终判断,避免全局视觉偏见。
AgentKGV:双阶段训练优化知识图谱事实验证的 Agentic RAG 框架
🧭 Agent 动态检索 · 知识图谱事实核查
SungKyunKwan University · NAVER
结合动态路由、迭代查询改写与双阶段训练,提升 KG 事实核查准确率并大幅降低检索成本
📌 工作参考价值(4 点)
- 电商商品知识图谱质检:可将该框架用于自动校验商品属性、品牌等三元组事实性,及时发现错误信息。
- 检索成本敏感场景的 Agent 设计:借鉴 GRPO 轨迹级优化策略,训练搜索策略模型减少不必要的检索轮次,直接降低线上 API 调用成本。
- 小模型推理稳定性:采用蒸馏 SFT 将大模型推理能力迁移至小模型,用于查询改写与路由,可在资源受限环境保持稳定的 Agent 行为。
- 动态路由与查询改写模块可拆解复用:在推荐系统的 RAG 检索链路中,当用户查询与文档库存在表面形式不匹配时,可嵌入类似的多轮迭代改写机制。
Mach-Mind-4-Flash:35B MoE模型通过后训练比肩百B级性能
🧭 Agent后训练与强化学习优化 ★ 深度解读
Li Auto Inc.
35B MoE仅3B激活参数,通过多专家RL与MOPD蒸馏融合,在Agent基准上超越10-30倍激活参数的大模型
📌 工作参考价值(4 点)
- 多专家在线蒸馏(MOPD):为电商搜索推荐中的多目标(如点击率、转化率、多样性)独立训练RL专家,再通过MOPD路由融合到单个轻量模型,避免多目标奖励混合导致的指标跷跷板效应,且新增目标只需注册新教师,零代码侵入。
- 奖励课程设计:在稀疏奖励场景(如长周期转化)借鉴两阶段课程,先用过程奖励(中间行为反馈)冷启动,再切换到最终结果奖励,解决强化学习冷启动困难。
- Token效率优化(HMPO):对于推荐系统对话Agent或生成式推荐中的过长推理链,可引入基于自适应长度预算的强化学习压缩,在保证推荐质量前提下降低推理成本,实现19-46%的文本压缩且精度损失≤0.7%。
- 环境扩展(EnvScaling):为Agent训练构建可执行验证的环境池(如文件系统、状态模拟等),可迁移至电商场景,用于模拟用户端到端的操作路径,生成高难度、可验证的决策轨迹,驱动深度搜索或购物Agent的强化学习优化。
多教师在线蒸馏中的行为杠杆不平衡与Soft Clamp校准
🧭 多教师在线蒸馏 · 工具调用校准 ★ 深度解读
Ant Group
指出多教师在线蒸馏中局部高杠杆 token 信号会导致工具过呼叫等行为偏移,提出 Soft Clamp 动态压缩极端 token 级散度来校准
📌 工作参考价值(4 点)
- 诊断视角迁移:不要只看全局 loss 或 token 暴露量,要监控决策边界 token(如 <tool_call> 的教师-学生概率差),这个“行为杠杆”能早期预警生成模式漂移。在电商推荐 Agent 或搜索多步推理中,可对关键动作 token(“下单”“点击”“调用函数名”)进行类似监控。
- Soft Clamp 轻量校准:无需改动路由或增加模型,对每个 token 的 JS 散度做 batch 内动态阈值压缩:\(d'_i = d_i \cdot C / \text{stopgrad}(d_i)\),超过阈值只截断前向值但保留梯度。这个方法可嵌入现有 GKD 训练流程,应对多教师蒸馏中某一类行为过拟合的问题(如过度推荐、频繁改写 query)。
- 多教师蒸馏的风险评估:当不同教师负责不同行为模式(如工具调用 vs. 直接回答、生成 vs. 改写)时,即使数据量和散度平衡,也会因模式入口 token 的高杠杆产生行为偏移。在设计推荐系统的多教师对齐(例如点击率教师 vs. 停留时长教师)时,需检查关键决策 token 的局部信号强度。
- 格式锚定:结构化输出(如 XML 工具调用、推荐列表格式)容易发生模式漂移,加入少量监督 loss(如 sft alpha=0.3)作为格式锚定可保持输出可解析,这一 trick 可直接用于生成式推荐中的 Semantic ID 序列格式约束。
DeepSearch-World:确定性搜索环境中智能体的自蒸馏训练框架
🧭 Agent 自进化 · 确定性搜索环境 ★ 深度解读
HKUST · Tencent · HKUST(GZ)
在确定性 Wikipedia 离线环境中,通过 scaffold 教师轨迹生成与监督自蒸馏,让 9B 搜索智能体自进化至开源领先水平
📌 工作参考价值(4 点)
- 构建确定性离线环境用于 Agent 训练:可借鉴 Wikipedia 离线索引 + 工具模拟,将线上搜索/浏览工具映射为确定性函数,便于大规模生成可验证的训练轨迹,避免线上环境噪声与成本。
- Scaffold 教师轨迹中的规划与反思注入:利用三阶段教师 (Plan-Act-End) 生成包含进度追踪、反思与错误恢复的轨迹,再通过 Scaffold-to-ReAct 转换将结构化状态、反思改写为 ReAct 的 thinking 块,让普通 ReAct agent 学会规划、记忆与自我纠错。
- 自进化循环的异步生成与重要性采样混合:生成与训练解耦,使用指数衰减的重要性采样混合多轮轨迹,优先新高质量样本同时保留早期数据以防遗忘,稳定提升长程工具使用能力。
- 可微调的动作/工具使用行为示例:全流程以 SFT 实现,无需复杂 RL 奖励设计,从正确性验证 + 质量过滤即可提升工具调用成功率与多跳推理深度,适合快速在业务 Agent 中尝试自进化。
TREK:蒸馏拓探索,强化精炼——面向困难提示的路由训练框架
🧭 RL训练中的困难探索支持扩展 ★ 深度解读
LinkedIn Corporation · Harvard University · Georgia Institute of Technology
用教师或自反提案识别并巩固困难提示,以正向KL先行扩展学生支持,再交还GRPO精炼
📌 工作参考价值(4 点)
- 困难样本识别与路由:在电商搜索/推荐中,同样存在模型反复生成相似低分结果而不探索新模式的“支持塌陷”;可借鉴TREK的硬提示阈值路由(按学生pass rate),仅在困难查询上触发热模型或自反推理来生成候选解决路径。
- 自反思提案生成:无需外部强模型,仅对当前模型增加推理时上下文(如失败记忆、环境反馈)即可产生优质探索轨迹;推荐系统中可让模型基于前序无效推荐生成反思推词或替代匹配路径,作为蒸馏素材。
- 正向KL巩固而非模仿:选择教师/自反轨迹中与学生当前分布距离最近(trimmed NLL)的样本进行短时正向KL微调,避免全盘模仿,保证探索到的模式能快速进入学生采样空间;在推荐Agent的规划或查询改写任务中,可用此方法将RL探索不到的成功交互路径固化。
- 阶段性训练流水线:硬提示挖掘→提案筛选→短正向KL热身→常规GRPO,该解耦设计可插入现有在线RL训练流程,特别适用于搜索多轮交互、对话式推荐的稀疏奖励场景,用少量教师查询换取早期训练效率大幅提升。
Light-Omni:以反思取代推理的轻量级长时记忆视频智能体
🧭 Agent 轻量级视频理解框架
Nanjing University
通过全局与隐状态实现单步上下文驱动动作,以反射取代迭代推理,速度提升12.1倍、精度提高2.4%
📌 工作参考价值(4 点)
- 全局状态压缩历史的方法可迁移到推荐系统的用户行为序列建模:通过层次化合并保留近期细节、总结远期事件,平衡记忆容量与信息保真度
- 隐状态直接驱动动作的架构能避免昂贵的长链推理,适用于实时推荐中的快速决策(如排序、召回策略的动态生成)
- 双状态设计(全局上下文 + 条件化隐状态)分离了语义理解与动作执行,可借鉴到 Agent 框架中提升检索语义对齐性
- 记忆系统作为即插即用模块增强现有模型,推荐大模型可引入类似长短期记忆以提升连续会话的上下文一致性
通过迭代元反思实现自主科学发现
🧭 自主发现 · 迭代元反思
University of Edinburgh · Massachusetts Institute of Technology
提出 DiscoPER 框架,让 LLM 通过二阶元反思机制自主迭代发现科学规律,在生态基准上恢复 89% 已知模式
📌 工作参考价值(4 点)
- 二阶反思机制可迁移至搜索/推荐 Agent:在自动生成 Query 或探索推荐策略时,引入定期复盘已探索空间,识别模式、偏见与空白,主动跳转至高价值未覆盖区域,提升长尾覆盖与策略多样性。
- 统计检验作为硬约束:任何生成的新假设必须通过统计验证,这一点可直接用于广告文案 A/B 测试、推荐策略上线流程,让 Agent 决策具备统计可信度。
- 工具调用扩展多模态特征:推荐系统可仿照 DiscoPER 通过 Tool Use 无缝接入图像理解、OCR 等工具,从商品图片、评论区截图等多模态源提取结构化信息,丰富用户和物品特征。
- 自动特征工程与模型搜索:将开放式探索与元反思结合,用于自动化生成并验证特征组合、模型结构,周期性反思哪些方向尚未尝试,提高有限算力下的搜索效率。
VideoSearch-R1:基于软查询精炼的迭代视频检索与推理智能体
🧭 强化学习驱动的多模态检索智能体与查询精炼 ★ 深度解读
KAIST · Korea University
提出软查询精炼(SQR)在连续潜在空间细化搜索查询,通过强化学习联合优化视频检索与细粒度推理
📌 工作参考价值(4 点)
- 在电商搜索中,对未命中或模糊查询,可使用软查询精炼(SQR)替代文本改写,直接在嵌入空间生成少量连续向量调优检索结果,避免硬改写引入的语义噪声和过长Token消耗。
- 检索-验证-精炼的迭代循环(检索→核对匹配→若失败则触发精炼)可引入到商品搜索或推荐系统,实现自主纠错,提升长尾query的召回与精度。
- 强化学习(GRPO)联合优化检索精炼与下游任务(如点击预测、排序)的思路可复用:设计任务级奖励(如检索召回率、点击奖励),端到端训练查询表示生成策略。
- 软查询精炼只需少量额外Token(实验中仅8个),工程开销小,适合嵌入现有双塔检索或向量召回架构,作为在线查询优化插件。
字节跳动 Seed2.0 模型卡:迈向真实世界复杂性的智能前沿
🧭 多模态大模型智能体优化 ★ 深度解读
Bytedance Seed
面向大规模生产的 LLM 系列,通过多模态、Agent 和长尾知识优化,以极低成本实现国际前沿水平的综合性能
📌 工作参考价值(4 点)
- 高性价比的 API 选型参考:Seed2.0 Pro 输出价 $2.37/1M tokens,远低于 GPT‑5.2($14)和 Claude‑Opus‑4.5($25),在推荐/搜索系统的批量推理、内容理解等高频调用场景可大幅降低基础设施成本。
- 多模态理解可直接提升商品内容处理:视觉基准上 Seed2.0 Pro 在文档/图表理解(ChartQAPro 71.2、OmniDocBench 1.5 0.099 NED)、长文本理解(MMLongBench‑Doc 61.4)等任务达 SOTA,可借鉴用于商品主图、详情页、评价图像的自动化结构化提取与问答。
- Agent 能力评估框架可迁移:论文给出的 Coding/Search/Tool/GUI/DeepResearch 多维 Agent 评估矩阵,以及在工程上对测试进行环境收敛、质量过滤、移除不稳定用例的做法,可直接用于企业内部推荐 Agent 或电商客服 Agent 的离线评测体系建设。
- 复杂指令遵循的可落地 trick:通过细化指令类型(格式/条件/内容/措辞/语气/Emoji/Few‑shot/中英文长度)进行分项优化,Seed2.0 Pro 在中文生产场景下整体提升 2.4pp,尤其语气控制(+15.2pp)和 Few‑shot 学习(+9.5pp)提升显著——做对话式推荐或促销文案生成时可以借鉴这些分项指标来监督微调和对齐。
缩放视野而非参数:用 35B 智能体达到万亿参数性能
🧭 Agent 长时域扩展 · 多教师在线蒸馏 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
构建长轨迹知识-行动图与多教师在线蒸馏,让 35B MoE 智能体在科学、工程、搜索等长程任务上超越万亿参数模型
📌 工作参考价值(8 点)
- 长轨迹过程监督:KAG 构建思路可复用 \
- 论文将搜索、工具调用、验证信号统一为知识-行动图(KAG),每条训练轨迹平均 45K tokens,包含成功与失败的中间步骤。在电商搜索/推荐场景中,多轮对话推荐、深度商品调研等长程任务可借鉴此方式,把用户交互、工具调用、商品浏览记录构建为可训练的过程级监督数据,而非仅依赖最终答案。
- 多教师在线蒸馏的域路由设计 \
- 六个异构领域(搜索、工程、科学、指令跟随、工具调用)各训练一个领域教师,通过域路由的在线策略蒸馏(OPD)合并到单一 35B 学生,避免不同领域梯度冲突。电商中不同品类、不同阶段(召回/排序)的专家模型可用同样方式蒸馏为统一部署模型,通过领域标签路由教师信号,保持各领域专长。
- 显著词汇对齐(SVA)提升蒸馏效率 \
- SVA 仅约束教师高概率 token 子集(top-k 支持集)上的分布,避免全词汇表对齐引入噪声。在推荐生成式语义 ID 或文本答复时,可借鉴该技术,在蒸馏生成任务中聚焦关键 token,提高知识转移稳定性。
- RL 训练中的优势增强与数据复用 \
- 工具调用 RL 中利用过程评分为失败轨迹提供分级奖励(仅负数样本使用过程奖励),并用数据复用(64 个 hard case 反复 rollout)在少量步数内达到高效提升。当业务有少量高质量困难任务时,可复用该策略进行 RL 微调,降低对庞大数据集的依赖。
OPID:面向智能体强化学习的在策略技能蒸馏
🧭 Agent 强化学习 · 技能蒸馏 ★ 深度解读
Tsinghua University · Zhejiang University · The Chinese University of Hong Kong · Nanyang Technological University · Tongji University
从在策略轨迹中提取分层后见技能并蒸馏回政策,为多步智能体提供稠密信号,无需外部技能库
📌 工作参考价值(4 点)
- 在构建多步交互的购物助手或搜索Agent时,可直接利用完整对话轨迹自动提取工作流与关键决策技能(如定位商品、处理售后),用于后续训练,无需额外人工标注或外部技能库。
- 关键优先路由(critical-first routing)可以为长对话推荐系统提供细粒度强化:当用户处于尺寸选择、支付等关键步骤时使用步级技能,其他状态使用全局工作流技能,避免简单拼接带来的相互干扰。
- 训练过程中技能蒸馏仅依赖历史轨迹和旧策略的重打分,推理时不引入任何额外模块(检索、分析器),适合线上低延迟部署。
- 该方法可与现有RL训练流程(如GRPO)直接结合,增强样本效率,特别适合小模型或数据稀缺的推荐/Agent场景:仅用60%的交互数据就能达到全量数据的结果水平。
面向智能体工作文档推理的档案基准 AGORA
🧭 Agent 文档探索推理评测
Fudan University · Zhejiang University · Shanghai Qiji Zhifeng Co., Ltd.
构建跨域大规模真实档案基准,要求智能体在超长上下文中主动探索检索证据,最强模型仅达59.4%准确率
📌 工作参考价值(4 点)
- 多步探索范式:在电商商品库、政策库等超大规模非结构化文档上构建问答任务时,借鉴其 agent 多轮检索、证据定位与交叉验证的流水线设计,而非依赖一次性长上下文扫描。
- 防泄漏基准构建:采用跨文档任务合成、实体混淆与难度过滤构造评测集,可迁移到内部 agent 离线评估,防止模型记忆导致分数虚高。
- 跨域鲁棒性检验:覆盖农业、金融、法律等 8 个域,提示推荐/搜索系统若接入 agent 需在多个业务域分别评测,避免单域过拟合。
- 上下文窗口超限场景:当文档总量远超模型窗口时,强制 agent 主动探索与选择性检索,为电商导购、客服 agent 在长尾商品/长文档下的策略设计提供参考。
VeriEvol:通过可验证进化指令扩展多模态数学推理
🧭 多模态推理数据的可控扩展与验证
Tsinghua University · Tencent Hunyuan
将多模态数学推理的数据扩展解耦为题目难度进化与答案可靠性验证,通过假设检验验证器保证标签质量
📌 工作参考价值(4 点)
- 在生成式推荐训练中,可借鉴“进化指令”思想,通过特定操作(如替换属性、增加约束)从简单样本演化出难例,提升模型对复杂 query 的泛化能力。
- HTV-Agent 的假设检验验证机制可用于 Agent 决策的可信度评估:在推荐解释生成或用户意图理解时,利用多源证据交叉验证,拒绝不可靠输出。
- 数据规模与标签可靠性解耦的方法可用于构建高质量训练集:先通过进化生成多样性数据,再用验证器过滤噪声标签,提升 RL 训练稳定性。
- 对于 Agent 系统,可设计类似离线验证管道,在部署前对规划或建议进行多轮反证,增强安全性和可靠性。
OpenBioRQ:面向智能体的未解决生物医学研究问题基准
🧭 智能体工具调用评估 · 忠实性探针
Upstage AI
首个未解决问题与工具调用结合的生物医学Agent基准,揭示~16%引用错误及高难点上的工具弃用崩溃
📌 工作参考价值(4 点)
- 在电商客服/推荐解释Agent中,采用无标准答案的查询评测工具调用忠实性,防止模型记忆答案而跳过检索
- 用经验性困难度锚定(参考模型集体失败的问题)构建高难度测试集,有效暴露工具弃用现象
- 引入冻结的试题检查清单(checklist)大幅提升评估一致性(Spearman从0.35→0.82),可迁移至内部评测流程
- 在最难问题上强制保留工具调用或设置工具使用下限,避免Agent过早放弃工具,保障回答可靠性
CalVerT:用校准验证遥测增强智能体,改进知识密集型任务行动与学习
🧭 Agent校准遥测改进检索决策
The University of Texas at Austin
给智能体状态加入校准自置信和接地验证分数,纠正过度信任参数知识与冗余检索
📌 工作参考价值(4 点)
- 在购物助手、搜索Agent等场景,可引入类似双信号状态:用模型对候选答案的校准置信度(如 p(true))和检索片段对答案的支持度(grounding verifier)作为决策依据,减少幻觉和无用检索。
- 无需重新训练即可将遥测信号接入现有Agent框架(如 ReAct、RaR),只需在 Prompt 或状态中附加这两个分数,即可立竿见影提升回答准确率并节省检索成本。
- 当业务场景面临“模型太自信却答错”或“反复查询知识库却已有充分信息”时,可借鉴该工作设计决策规则:当置信度低且接地分低时触发检索,当两者都高时直接回答。
- 若后续采用强化学习微调Agent策略,将遥测信号作为状态特征加入,能进一步优化决策,此思路可直接复用于电商对话Agent的检索策略训练。
面向上下文密集型智能体的4位KV缓存压缩方案
🧭 Agent推理缓存压缩优化
Advanced Micro Devices · University of California, Los Angeles · Purdue University
针对多轮Agent场景设计4位KV缓存压缩,通过非对称K/V处理、Walsh-Hadamard旋转及AMD GPU优化,大幅降低延迟并提升吞吐
📌 工作参考价值(4 点)
- Agent/多轮对话推理优化:长上下文智能体(如购物助手、搜索Agent)的KV缓存可压缩至4位,在缓存压力下TTFT降低3.47倍,吞吐提升63%,可直接用于线上服务降本提速。
- 非对称K/V量化策略:对Key应用Walsh-Hadamard旋转等保精度措施,Value可更激进的量化,这一设计可直接移植到推荐模型中Transformer结构的KV缓存压缩。
- 硬件适配与部署:利用FP8查询+FP4 KV张量的近似路径,以及CDNA4的scaled-MFMA指令,为在特定GPU上最大化吞吐提供工程范例,可参考其流水线设计。
- 多轮负载评估框架:论文强调联合测量任务质量、缓存驻留和吞吐,电商Agent在评估压缩方案时可借鉴这种多维度基准测试。
MemSlides:面向个性化幻灯片生成的分层记忆驱动Agent框架
🧭 Agent 记忆与个性化生成
Beijing University of Posts and Telecommunications · Tsinghua University · Shanghai Jiao Tong University
提出分层记忆框架(用户画像/工作/工具记忆)结合局部修改,实现多轮个性化幻灯片生成
📌 工作参考价值(4 点)
- 分层记忆设计可直接迁移到对话式推荐/购物Agent:将用户长期偏好(用户画像记忆)与会话级临时约束(工作记忆)解耦,避免偏好混淆。
- 工具记忆(存储可复用的API调用或操作序列)在电商Agent中可用于缓存高频操作模式(如“按价格排序”“筛选品牌”),提高执行可靠性。
- 局部修改策略(scoped local revision)可应用于推荐列表的多轮调整:当用户要求“把第二个商品换成更低价的”时,只更新受影响的槽位,而非重新生成整个列表。
- 意图条件画像(intent-conditioned profiles)的思路可用于搜索/推荐场景:根据用户当前意图(如“比价”vs“发现新品”)动态选择不同的偏好画像,提升首轮个性化质量。
多粒度自适应图证据的智能体多模态RAG
🧭 多模态长文档RAG · 图证据与智能体控制
Beijing Institute of Technology
基于证据图与在线预算控制的多粒度多模态RAG,在长文档QA中动态平衡证据覆盖与噪声
📌 工作参考价值(4 点)
- 多粒度证据图构建:将文档拆解为页面与元素节点,编码布局、阅读顺序、章节层级等结构关系,可迁移到商品详情页的复杂多模态信息检索,例如将商品主图、详情图、参数表、评论链接为图,提升问答或推荐理由生成时的证据定位
- 在线证据控制器与预算机制:按预算迭代激活、搜索、剪枝证据,避免固定Top-k导致的噪声或遗漏。电商场景中可将此法用于动态组装推荐解释/导购上下文的证据片段,在有限令牌内提升说服力
- 多模态证据渲染为结构化输入:将文字、表格、图片等证据统一格式化后馈入大视觉语言模型,启发电商推理时可把商品图文、参数、问答截图等异构信息规范渲染,增强模型理解一致性
- 证据覆盖与噪声的显式权衡:通过预算-性能曲线分析最佳工作点,推荐系统面对长商品详情、长用户评论时,可借此思路为LLM推理设定预算、平衡信息量与推理成本
S1-DeepResearch:超越搜索,构建真实世界长程研究智能体
🧭 深度研究智能体 · 多能力轨迹合成 ★ 深度解读
XScience Lab · Wenge AI
提出统一轨迹构建范式,结合图任务生成、工具执行与多维验证,使32B模型在深度研究五项能力上达开源SOTA并逼近闭源前沿。
📌 工作参考价值(4 点)
- 图基础复杂任务生成:利用知识图谱子图加注入多维约束(来源、论证、输出格式等)生成电商领域复杂查询(如竞品深度分析、市场趋势报告),训练 Agent 进行多步推理和可验证的报告生成,避免依赖参数记忆。
- 平衡搜索与合成:轨迹显示,深度研究成功的关键不是更多工具调用,而是适时停止搜索并将信息整合为结构化输出。在电商智能客服、选品分析中可借鉴,设定“证据充分性”判断机制,防止无休止检索。
- 多维度轨迹验证:针对报告生成引入引用一致性、证据支持度自动核查,对电商中商品描述生成、分析报告等场景可确保事实准确,减少幻觉。指令遵循的九维约束检查器可用于复杂用户意图的精准解析。
- 技能使用与文件生成:Agent 在沙盒中动态加载技能文档并执行脚本、生成文件(如报表、图表),可直接迁移到自动生成运营分析报告、可视化物料等任务,提升工具链的通用性。
Ling 和 Ring 2.6:万亿参数级高效即时代理智能
🧭 Agent 高效训练与推理优化
Inclusion AI
通过架构升级、混合线性注意力及强化学习框架实现高效推理与代理能力的万亿参数模型家族
📌 工作参考价值(4 点)
- 长上下文推理效率:混合线性注意力(Lightning Attention + MLA)可大幅降低长序列(如用户行为序列、多轮对话)的预填充和解码延迟,直接适用于电商搜索/推荐系统的实时重排序或解释生成场景。
- Token 效率优化:最短正确响应蒸馏和双向偏好对齐能训练模型用更少 token 提供精准推荐理由或答案,降低服务成本,尤其适合用户触达、消息推送等延迟敏感的业务。
- Agent 训练稳定性:KPop 异步 RL 调度框架可借鉴到多步搜索 Agent 的训练中,通过异步采集搜索、工具调用、工作流执行等环境交互数据,提升样本利用率和训练吞吐,适合构建能自主调用商品检索、价格对比等工具的购物助手。
- 业务模型迁移升级:论文从已有模型(Ling-2.0)通过架构迁移和继续训练而非从头预训练的方法,对于已有推荐/对话模型向 Agent 方向升级提供了一个低成本路径,避免全量重训。
EurekAgent:环境工程是实现自主科学发现的核心
🧭 Agent环境工程 · 自主科学发现
Tsinghua University · Zhipu AI
通过环境工程(权限、制品、预算、人机交互)引导Agent自主科学发现,以极低成本在26圆堆积等任务创下新SOTA。
📌 工作参考价值(4 点)
- 权限隔离与沙箱:在电商推荐Agent中,可借鉴权限工程,将Agent的探索行为限制在沙箱环境中,防止直接操作线上评估或污染训练数据,实现安全试错。
- 制品版本管理:利用基于Git的制品工程管理Agent生成的实验配置、模型检查点或Semantic ID映射表,实现可追溯、可回滚的迭代,提升团队协作效率。
- 成本预算控制:为Agent设定API调用预算或时间预算,避免在自动调参、query改写生成等任务中产生过高推理成本。EurekAgent用<11美元发现SOTA,证明预算能激发高效探索。
- 轻量人机交互:设计便捷的人类监督接口,让领域专家在关键决策点(如新推荐策略上线前)快速审核或修正,在Agent自动化与人工控制间取得平衡。
SpatialClaw:以编程为行动界面的空间推理Agent
🧭 Agent 设计 · 代码作为行动界面 ★ 深度解读
NVIDIA · KAIST
提出以Python代码作为行动界面,在持久内核中迭代组合感知工具,显著提升开放式空间推理性能。
📌 工作参考价值(4 点)
- Code as Action 替代固定工具调用:在 Agent 设计中,用 Python 代码生成代替 JSON/XML 结构化工具调用,可动态组合基础 API(分割、重建、计算)完成任意复杂任务。电商场景的智能客服或商品属性提取 Agent 可借鉴,让模型根据问题实时编写数据处理代码,而非受限于预定义工具列表。
- 持久化内核支持观察-修正循环:将执行环境设为持久化 Python 内核,中间变量、可视化结果跨步骤保留。推荐系统的在线调参或分析环节可引入类似机制:每步执行后保留状态,Agent 根据输出反馈修正后续步骤,避免一次性提交全部分析策略。
- 通用计算库赋能动态组合:工具设计为普通 Python 可调用对象,同时预加载 NumPy/SciPy/Matplotlib,使 Agent 无需专属工具即可用基础运算实现统计、空间索引等需求。生成式推荐中,可让 Agent 在召回、排序阶段动态组合检索策略与重排逻辑,利用通用库实现临时的指标计算。
- 无微调的泛化 Prompt 工程:系统提示编码领域通用推理原则(如“用度量计算代替像素估计”、“多证据交叉验证”),而非任务特定示例,跨 20 个基准和多个模型家族均有效。构建电商多模态 Agent 时,可提取通用规则提示,降低每个新任务的手动适配成本。
TAHOE:基于经验自动化提示优化的文本到 SQL 系统
🧭 Text-to-SQL · 持久化提示管理 ★ 深度解读
ByteDance Inc. · Georgia Institute of Technology
将提示优化重构为持久化的数据管理问题,通过错误驱动的提示学习构建结构化提示库,实现高效、可迁移的 Text-to-SQL 生成。
📌 工作参考价值(4 点)
- 错误驱动的结构化记忆范式:在电商搜索、推荐查询改写等场景,可将编译/执行/用户反馈提炼为可复用的提示规则,避免每次重复试错,显著降低线上推理延迟和成本。
- 冲突策略显式建模:面对多义的用户意图(如“爆款”需包含并列),将不同解释存储为同一触发词下的竞争策略,并用成功/有害/惰性统计做运行时排序,这直接可迁移至生成式推荐中的目标锚定与意图消歧。
- 语法与语义解耦 + 分层作用域:在跨业务(多国多语言)的电商平台上,可分离通用逻辑与特定数据库/用户偏好,实现模型无关的热更新,无需微调即可适应新方言或新用户习惯。
- 两阶段推理(逻辑规划 + SQL 合成):可借鉴到复杂生成任务中,先利用轻量检索整理冲突策略、形成连贯逻辑方案,再生成最终输出,有效缓解大型 prompt 的上下文噪声和注意力衰减问题。
TreeSeeker:深度搜索中的树结构试错与分支返回框架
🧭 Agent深度搜索的树结构试错与预算分配 ★ 深度解读
Microsoft · East China Normal University
提出TreeSeeker,通过树结构分支状态和文本UCB操作控制实现深度搜索的受调试错与预算重分配
📌 工作参考价值(4 点)
- 多路径搜索控制:在需要多步信息收集与证据整合的代理任务(如电商导购助手、事实核查)中,可为每个候选方向(查询、来源、假设)维护独立分支状态,利用进度、冲突和失败线索动态分配搜索预算。
- 文本UCB预算分配:通过大语言模型对候选操作(利用/探索/剪枝)进行语义评分(价值、不确定性、风险),无需精确数值奖励即可实现探索-利用-剪枝决策,适合开放域搜索任务。
- 记忆压缩与锚点保留:TreeMem将长历史压缩为分支局部状态,同时保留叶踪迹作为短期锚点,可有效控制上下文长度并保持决策连贯,适用于长对话或长搜索轨迹的代理。
- 操作级决策简化空间:将预算分配抽象为利用、探索、剪枝三种操作,避免细粒度路径评分,降低组合空间,提高大语言模型决策的稳定性和效率。
Kwai Keye-VL-2.0 技术报告:面向长视频与智能体的多模态基础模型
🧭 多模态大模型 · 长视频理解与智能体 ★ 深度解读
Kuaishou Group
首个在GQA架构上实现DeepSeek稀疏注意力以无损处理256K上下文,并通过跨模态多教师在线蒸馏解决多任务遗忘的多模态模型
📌 工作参考价值(4 点)
- 稀疏注意力用于长序列推荐:DSA 通过 MQA 式索引 + GQA 分组聚合将注意力复杂度从 O(L²) 降至 O(Lk),这个思路可以直接迁移到用户行为序列建模(如百万级行为 token 的推荐模型),在减少 KV cache 的同时保持关键信息捕获。
- 多教师在线蒸馏解决多任务冲突:MOPD 动态路由 13 个领域专家、按 token 类别缩放优势值的方法,可借鉴到多目标推荐模型训练,避免不同业务目标(点击率、转化率、时长)之间的梯度干扰。
- 视频时序定位能力复用:论文中构建的 TVG、帧级感知、场景密集描述等数据与训练流水线,可迁移到电商直播场景——精确截取商品讲解片段、自动生成直播看点,提升内容分发效率。
- 合成数据 RL 的设计范式:基于可控编辑图像对+规则可验证 reward 的 RL 方法,可用于商品图片差异检测、属性变更验证等场景,低成本获得精准监督信号。
回顾式 Harness 优化:基于轨迹重放的自偏好提升 LLM Agent
🧭 Agent 自进化 · Harness 优化 ★ 深度解读
City University of Hong Kong · Microsoft Research Asia
提出无需标注的回顾式 Harness 优化方法 RHO,通过自偏好对比轨迹选择最佳技能/工具更新,在软件工程、技术等多个领域显著提升 Agent 表现。
📌 工作参考价值(4 点)
- 无标注的 Agent 自优化管道:RHO 仅利用过去运行轨迹,通过自比较和自偏好选出最优 harness 更新,完全省去人工构造验证集。电商对话 Agent、多智体协作流水线可直接借鉴,从历史对话或操作痕迹中自动提炼更好的提示/工具/技能。
- DPP 挑选困难且多样样本:用 Determinantal Point Process 结合难度评分和语义多样性选取核心集,避免只挑困难而忽视类型覆盖。在推荐场景可类比地用于从海量离线日志中选出最具代表性且难例的样本进行复盘优化。
- Group Rollout + 双重诊断信号:对同一任务并行执行多次,通过“自验证”(单条轨迹中的错误步骤)和“自一致性”(多条轨迹间的冲突)提取结构化改进指令。这一技巧可用于推荐 Agent 的多路召回或结果比较,诊断模型飘移或策略分歧。
- Best-of-N Harness 提案与自偏好过滤:并行生成多个 harness 候选,并用自偏好评分选最优,避免单次编辑的不稳定。工程上相当于多个候选流水线并行评估,可用来做线上策略变更的安全上线。
Archi:面向 CMS 实验的智能代理操作框架
🧭 Agent 系统 · 科学数据协作
Massachusetts Institute of Technology · CMS Collaboration, CERN · University of Wisconsin-Madison · Fermi National Accelerator Laboratory · Brown University
开源端到端框架 Archi 将异构数据源与可配置私有代理结合,在 CERN CMS 实验中为技术操作提供检索分析支持,证明开源模型在私有部署下效果优秀。
📌 工作参考价值(4 点)
- 异构数据源的统一 RAG 范式:将文档、历史数据、实时监控系统等多种来源系统化摄入和组织,可迁移到电商场景,例如整合商品描述、用户行为日志、客服对话与实时库存数据,构建统一的知识问答或运维 Agent。
- 私有化部署开源模型的可行性:实验证明本地部署的 open-weight 模型在专业领域问答中能与商业模型竞争,对注重数据隐私的电商企业(如用户行为分析、内部运维排障)提供了低成本、高可控的 Agent 方案。
- 可扩展的 Agent 架构设计:框架支持配置和扩展不同的 agent 与数据源,可应用于电商中需要动态接入多个推荐模型、召回源或业务数据流的 Agent 场景,实现模块化扩展。
- 真实生产环境下的评估方法:基于实际 operator 的问题集和人工+自动评估,为电商 Agent 系统提供了从开发到上线后持续优化的评估流程参考。
智能体的最终考试:面向真实经济工作流的通用Agent评测基准
🧭 Agent通用计算机使用能力评测基准 ★ 深度解读
University of California, Berkeley
覆盖55个职业子领域、1490个专家提交任务,评测Agent在长时程多模态计算机操作上的表现,最强模型整体通过率仅2.6%。
📌 工作参考价值(4 点)
- 任务设计范式:将专业工作流拆解为可验证的交付物和里程碑(gate-and-score),可直接用于构建电商客服、商品上架等Agent评测,避免LLM-as-judge的不可靠性。
- 工具使用剖析:发现Agent普遍用CLI代替GUI,导致在图形软件密集型任务上失败,提示在电商自动化(如美工、合规审查)中需显式强化GUI操作能力。
- 模型vs框架选择:模型对性能影响是框架的3倍,且资源消耗(时间、金钱)与成功率非正比,可指导选型——先用轻量框架+最强模型,再针对性优化工具集。
- 数据防污染:公共/私有任务池定期轮换,可借鉴到生产环境的Agent能力监控,防止过拟合或数据泄漏。
ODTQA-FoRe:面向未来数据预测与推理的开放域表格问答数据集与框架
🧭 表格问答 · 时间序列预测 · 多Agent协作 ★ 深度解读
Beijing Normal University · Beijing Normal-Hong Kong Baptist University
提出首个结合时序预测与表格推理的开放域QA数据集及多Agent框架TimeFore,弥补LLM直接预测的缺陷
📌 工作参考价值(4 点)
- Agent 角色拆分模式可直接复用:将复杂开放域预测问答拆为 Retriever(SQL 生成)、Forecaster(调用外部时序模型)、Analyzer(答案标准化)三个 Agent,每个 Agent 通过 in-context learning + 反馈循环实现可靠输出。在电商销量预测、商品价格趋势问答等场景中,可直接套用此架构,用专门模型弥补 LLM 预测弱点。
- 外部预测模型优于 LLM 直接预测:实验证明 TimeXer 等专用时序模型的 MSE 远低于通用 LLM 的 ICL 预测(2.50e7 vs 6.69e7),因此在实际业务数值预测任务中,无论模型多大,均应通过 function calling 调用成熟的时序模型,而非强求 LLM 自行拟合。
- SQL 生成可用执行反馈自修复:Retriever 通过执行 SQL 并利用错误信息迭代修正(最多 25 次),能有效提升复杂多表查询的成功率。在电商数据资产查询或报表自动化场景中,这种自校正循环可大幅减少人工介入。
- 模板生成 + LLM 改写的数据集构建策略:先用模板生成可验证的 QA 对,再用 LLM 改写以增加语言多样性,保证质量的同时降低人工成本。适合快速构建垂直领域(如房产、金融)的预测型问答评估集。
通用 Agent 能否自动化数据策展?
🧭 Agent 自动化数据策展评估 ★ 深度解读
Virginia Tech · University of Illinois Urbana-Champaign · University of Wisconsin-Madison · University of California, Berkeley
引入 CURATION-BENCH 基准,发现通用 Agent 能执行数据策展但探索窄,方法适应支架可引导突破
📌 工作参考价值(4 点)
- 在推荐数据管道中引入 method-adaptation scaffold:强制 Agent 每轮迭代引用、适配一项已有方法,可避免陷入局部超参(如域权重)调整,驱动真正的新策略探索。
- 将 迭代式数据策展 作为新的计算维度:当数据预算固定时,将额外算力投入搜索更优的数据子集或重写策略,可能优于直接训练更多数据,这在电商推荐中可用于高效利用有限交互样本。
- CURATION-BENCH 的 数据隔离 + 污染审计 + 轨迹诊断 设计,可直接迁移到构建推荐数据选择 Agent 的测试框架,确保可比性与可审查性。
- 轻量策略列表(源平衡、质量过滤、多样性采样等) 可帮助 Agent 快速生成候选,但需配合约束性协议(如强制证据锚定)才能真正改变执行行为,避免“vibe optimization”。
Loong:类人长文档翻译智能体,以观察-行动自适应上下文选择
🧭 文档级翻译智能体·上下文选择 ★ 深度解读
Harbin Institute of Technology, Shenzhen · University of Macau · Huawei Translation Services Center
用类人记忆与深度推理筛选多粒度上下文,结合RL优化翻译策略,大幅提升长文档翻译质量
📌 工作参考价值(4 点)
- 多粒度记忆模块(Essence/Exemplar/Entity)可迁移到对话/推荐系统的用户记忆与上下文建模,结构化存储摘要、示例与实体,减少冗余噪声。
- 观察-行动推理框架(Observe-and-Act)可用于智能体上下文选择,通过逐步过滤无关信息提升决策质量,避免“全量注入”带来的噪声与效率问题。
- 利用RL(DPO)优化上下文选择与利用策略,从轨迹采样构造偏好数据,这一思路可泛化至推荐系统的上下文排序或个性化策略学习。
- 对齐强制翻译算法(递归分裂保证句子级对齐)可用于需要严格对应关系的生成任务(如多语种商品标题对齐、语义ID生成保序)。
ForestHG-Trace:大规模森林场景中可追踪的长期生态推理框架
🧭 Agent 长期推理 · 工具增强 · 可审计执行
Xi'an Jiaotong University · Xidian University · Zhejiang University
用生态超图和工具增强的 LLM Agent 实现可审计的长期推理,将问答转化为可执行分析流程
📌 工作参考价值(4 点)
- 工具化推理链可移植至电商分析 Agent:将复杂查询拆解为过滤、聚合、比较等确定性原子工具,每条操作可追踪和审计,适用于竞品分析、用户行为归因等场景。
- 超图表示捕获高阶关系:使用超图建模实体间的多边交互(如用户会话超图、商品共现超图),比场景图更能表达复杂的生态或业务结构,可提升 Agent 对上下文的推理精度。
- 执行深度是长链推理的核心瓶颈:论文指出多步工具调用的深度显著影响成功率,提示在 Agent 工程中需重点优化长链规划、中间状态管理和错误恢复。
- 构建可执行的评估基准:为 Agent 推理任务设计带有中间步骤验证的 Benchmark(如 ForestTraceQA),可借鉴到电商领域构造复杂查询的审计型评测集,推动模型从端到端预测转向可验证执行。
噪声环境下行动学习:通过带噪交互增强智能体鲁棒性
🧭 Agent 鲁棒训练 · 噪声注入与课程调度 ★ 深度解读
National University of Singapore · Meituan · Tsinghua University · Tianjin University · University of Science and Technology of China
在 Agent RL 训练中模拟用户与工具侧噪声,结合混合轨迹与课程调度,显著提升现实噪声下的性能与泛化能力。
📌 工作参考价值(4 点)
- 在训练电商客服或推荐 Agent 时,可人工构造模糊/不一致/冗余的用户指令,以及工具返回错误、不完整或误导信息,让模型在训练中就接触真实噪声模式。
- 采用混合轨迹训练:每 batch 中保留一部分干净轨迹,部分加入噪声,并在组内分别归一化优势,避免噪声样本主导梯度更新。
- 按性能差距(∆)动态调整噪声:当模型在噪声与干净环境下的成功率差低于阈值时,增大噪声比例与难度,形成平稳的课程学习,防止初期训练崩溃。
- 即使最终只关心干净环境下的表现,这种训练仍可作为隐式数据增强,提升 Agent 的泛化推理与纠错能力,在标准 benchmark 上也能获得稳定增益。
VeriTrace:通过演化心智模型提升深度研究智能体
🧭 Agent 自我调节与认知图框架 ★ 深度解读
University of Cambridge · Technical University of Munich · The Alan Turing Institute
提出解释更新、偏差反馈、模式修订三个显式调节循环,让智能体的认知图持续逼近现实
📌 工作参考价值(4 点)
- 反馈驱动的结构化认知更新:将产品/品类知识建模为认知图,引入显式“解释更新”循环,对搜索/爬取到的信息分类(确认、矛盾、填补、意外),避免噪音累积并自动标记冲突,可直接用于电商知识图谱的持续验证与修正。
- 偏差感知的动态搜索策略:借鉴“偏差反馈”将搜索结果的期望–现实差距量化为四维信号,路由到五种策略(利用/验证/替换/转向/探索),可落地到推荐系统的多路召回编排,根据召回质量自动切换策略,减少盲目扩大召回的浪费。
- 框架级重构处理歧义与变化:“模式修订”允许在发现证据不匹配时重定义概念节点和关系(如拆分、合并、旋转维度),同时保留已有发现不变,可应用于电商问答中的意图重规划,当发现用户原意图与现实商品体系冲突时,自动重构查询结构而非强行填充错误框架。
- 可解释的证据溯源:认知图保存了任务ID到发现项的完整链路,写作时按节点提取证据子集并强制引用,适合生成式推荐中要求输出带出处的推荐理由,可直接迁移为带引用的解释生成机制。
OpenSkillEval:自动审计 LLM Agent 开源技能生态
🧭 Agent 技能生态审计与评估 ★ 深度解读
Singapore Management University · Fudan University · JD
提出动态任务生成与轨迹‑产出联合评测框架,揭示技能可用≠有效使用,且收益强依赖模型与设计先验
📌 工作参考价值(4 点)
- 技能不一定带来提升,选型前需实测:许多社区高分技能在实际任务中并未超越无技能基线,且会增加 3‑5 倍 token 开销。在电商 Agent 中引入生成式推荐或工作流技能前,应先在自身任务上做成本‑性能对比。
- 设计先验比流程约束更重要:对视觉类输出(商品图、海报、详情页),技能内嵌的模板、参考代码等设计资产能有效拉高低能力模型的下限,而强约束(大量 MUST/NEVER)常导致多样性下降。可借鉴“资产优先”思路构建内部技能库。
- 推理密集型任务需提供分析框架:当前报表、数据洞察类技能因缺乏假设检验、对比分析等分析框架,增益有限。若用 Agent 做评论分析、销量归因,技能应嵌入因果推断步骤或统计检验模板,而非仅提供工具链。
- 动态评测比静态基准更贴近业务:论文自动从真实网页、数据集反向生成任务实例,保持用例与用户需求同步。电商场景可类似地利用商品链接、Campaign 素材自动构建 Agent 评测集,持续跟踪能力变化。
AI 驱动的形式化证明搜索推进数学研究
🧭 形式化数学证明搜索 · 多智能体系统
Google DeepMind · Aarhus University · Google
大规模评估 LLM 驱动的 Lean 形式化证明在开放数学问题上的自动求解,最高代理独立解决 9 个 Erdős 问题
📌 工作参考价值(4 点)
- 对于需要严格逻辑保证的 Agent 任务,可借鉴 Lean 编译验证思路,用规则引擎或类型系统过滤 LLM 输出,控制幻觉影响
- 基础代理采用「LLM 生成 + 外部工具反馈」的交替迭代模式,成本低且有效,可作为复杂 Agent 的基线设计
- 多子代理独立搜索并集成最佳结果的策略,在提升成功率上有明显收益,适用于需要探索多条推理路径的推荐或决策系统
- 部署时需权衡成本与成功率:对高难度问题使用更复杂的代理,普通问题用轻量版,可参考该研究中的阶梯式成本效益分析
PhotoFlow:基于多角色闭环搜索的3D虚拟摄影智能体
🧭 Agent 多角色协作 · 3D摄影闭环搜索
Shanghai Jiao Tong University · Northeastern University · University of California, Los Angeles · Cornell University · Shanghai AI Laboratory
提出Director-Reviewer-Reflector多角色Agent,实现语言引导的3D场景闭环相机搜索与照片渲染
📌 工作参考价值(4 点)
- 多角色反思架构可复用于推荐/决策Agent:Director提议、Reviewer评估、Reflector从失败提取经验的分工模式,可借鉴到生成式推荐候选生成、评估和优化循环中,提升决策质量。
- 失败记忆与区域标记机制:Reflector的region memory和dead-zone suppression能避免重复低质量区域探索,在电商搜索排序或流量分配中可标识低效候选并抑制。
- 受限预算下的探索-利用平衡:高探索重定位策略在有限渲染次数下兼顾多样性与收敛,可应用于在线推荐策略的探索调度。
- 多模态自动评估:Reviewer结合规则、视觉评论和成对比较,可启发生成式推荐中内容质量的自动评审设计。
迈向 AI 可视化协同科学家:端到端智能体自动生成定制可视化应用
🧭 Agent · 多智能体协同 · 自动化可视化
Lawrence Livermore National Laboratory · Vanderbilt University · University of Notre Dame
提出多智能体协同框架,仅凭数据与高层描述自动生成领域定制的交互式可视化分析应用
📌 工作参考价值(4 点)
- 多智能体流水线设计:将复杂任务分解为探索、规划、实现、验证、评估等阶段,每个阶段由专门 Agent 负责,产出结构化文档驱动下游,可借鉴至推荐或 Agent 系统的自动化流程编排。
- 层级记忆系统:跨会话存储洞察和经验,回流学习机制可应用于 Agent 长期记忆与知识积累,提升后续任务效率。
- 基于浏览器验证的闭环设计:利用真实环境反馈自动迭代修复,类似电商场景中通过仿真环境验证推荐策略或 Agent 决策,提升可靠性。
- 任务驱动验证基准:以未明确规定的真实竞赛任务为测试集,提供一种脱离固定评测集的思路,可用于生成式推荐或 Agent 系统以任务完成度作为最终指标。
TerminalWorld:从终端录屏自动生成真实任务评估基准
🧭 面向终端 Agent 的可扩展评估基准
University College London · Nanjing University · Tencent
通过逆向工程 8 万终端录屏,构建可扩展的真实终端任务基准,揭示现有 Agent 最高仅 62.5% 通过率。
📌 工作参考价值(4 点)
- 从真实录屏构建评估数据引擎的范式可复用:在电商场景中(如 CLS 日志、运维操作记录、推荐流程重放),可逆向生成高保真的 Agent 评估任务,避免人工设计的主观性和偏差。
- 多步工作流评估揭示真实能力短板:基准包含超 50 步的任务,类似电商订单处理、多系统查询的复杂流程,可用于测试 Agent 在长程依赖、错误恢复上的表现。
- 弱相关验证现有基准的局限:与 Terminal-Bench 仅 0.20 相关性提示自建基准可能更贴近线上真实分布,在评估生成式推荐或 Agent 时,应考虑从生产数据采样而非完全依赖通用榜单。
- 自动化质量保证思路:采用环境重建、输出校验与人工验证的混合流程,可借鉴到推荐系统的离线回测范式,提升对生成结果的可靠性评估。
IndusAgent:工具增强的代理框架实现开放词汇工业异常检测
🧭 多模态 Agent 工具调用与 RL 优化
Institute of Computing Technology, CAS · Santa Clara University · New York University · Sun Yat-sen University · Nanyang Technological University
提出工具增强代理框架,通过门控RL优化工具调用,在工业异常检测中取得SOTA零样本性能
📌 工作参考价值(4 点)
- 在电商多模态对话中,借鉴动态区域裁剪和高频特征增强工具,帮助模型准确定位商品瑕疵或色差,减少视觉幻觉。
- 门控强化学习目标可优化 Agent 系统中的工具调用决策,在客服机器人调用知识库或视觉工具时,实现效率与任务性能的联合优化。
- 构建类似 Indus-CoT 的结构化数据:将全局观察、局部细节与领域先验融入推理轨迹,用于微调推荐或质检模型,提升对商品属性的细粒度理解。
- 利用先验检索增强推理:在商品合规检查时,检索标准图作为正常先验,通过对比判断异常,可迁移至电商商品验证场景。
进化编码智能体究竟在进化什么?
🧭 进化编码 Agent 搜索行为分析
Zuse Institute Berlin · Technical University of Berlin · Hong Kong Baptist University · RIKEN Center for Advanced Intelligence Project
通过 EvoTrace 数据集和 EvoReplay 回放方法,揭示进化编码搜索中分数提升多由少数编辑类型驱动,且存在高频代码回退的循环模式。
📌 工作参考价值(4 点)
- 在自动化超参搜索、推荐规则生成等迭代优化场景中,不要只看最终指标,需监控搜索过程中的编辑类型分布,避免对评估器过拟合。
- 可借鉴 EvoReplay 的回放与干预方法(例如移除代码组件、替换模型上下文)来诊断优化路径,定位真正有效的改进。
- 编辑类型高度集中,可引导搜索策略优先尝试高频有效编辑(如常量微调),提升搜索效率。
- 发现约 30% 代码行是先前删除行的重新引入,提示需设计机制抑制搜索回退,例如引入多样性惩罚或短期记忆。
MOCHA:面向Agent技能优化的多目标切比雪夫退火方法
🧭 Agent技能多目标帕累托前沿探索 ★ 深度解读
Adobe Research
通过切比雪夫标量化与退火探索,打破单目标优化僵局,实现Agent技能帕累托前沿全覆盖。
📌 工作参考价值(4 点)
- 在电商Agent场景中,商品推荐、客服等技能的描述与指令体常受平台字数硬限制,可借鉴MOCHA的多目标优化生成不同长度-性能折中的技能版本,供运营按场景择优上线,避免单目标优化器因无法突破约束而停滞。
- 探索–利用退火策略(HVC门控阈值指数衰减)可迁移到推荐系统的prompt优化:前期用超体积贡献(HVC)广搜多样性候选,后期切换至切比雪夫接受精确提升核心指标,能有效避免陷入局部最优。
- 切比雪夫标量化能探索非凸帕累托前沿,当业务指标(如点击率、多样性、合规分)存在非凸冲突时,它比线性加权更能发现传统方法遗漏的折中解,适合多目标A/B测试中的候选生成。
- 结构化突变机制(如带合规反馈的字段感知改写)可应用于生成式推荐的item描述生成,在保证字数、排版合规的前提下逐步丰富推理结构,兼顾描述吸引力与展示约束。
Code-as-Room:基于 Agent 代码合成从俯视图生成 3D 房间
🧭 MLLM Agent 生成 3D 场景
Shanghai Artificial Intelligence Laboratory · Shanghai Innovation Institute · Southern University of Science and Technology · University of Warwick
提出一个 MLLM Agent 框架,通过结构化执行流水线从俯视图生成 Blender 代码来构建 3D 房间
📌 工作参考价值(3 点)
- 多阶段流水线 + 跨阶段记忆模块:将复杂生成任务拆解为解析、几何、材质、灯光等子阶段,并用记忆模块保持上下文一致,可借鉴到电商场景中自动生成商品布局或店铺装修,避免长流程遗忘。
- 代码作为可执行中间表示:用 Blender Python 脚本表示 3D 场景,具备可编辑性和确定性,类似思路可用于生成式推荐中,用代码描述推荐理由或布局,便于二次编辑与调试。
- 结构化执行 harness:为 Agent 设定明确的阶段输出 schema 和校验步骤,有效减少无限循环,可迁移到 Agent 业务系统中,提升稳定性与可控性。
AI Agent 的整体评估与失败诊断框架
🧭 Eval ★ 深度解读
Deepchecks
结合自顶向下与自底向上的跨度级评估,在 TRAIL 基准上实现最优错误定位与分类,证明评估方法论是瓶颈而非模型能力
Articraft:可扩展的铰接式 3D 智能体生成系统
🧭 Multimodal ★ 深度解读
University of Cambridge · University of Oxford · Nanyang Technological University
将铰接式 3D 资产生成转化为代码编写任务,搭配专用 SDK 与迭代 harness,无需视觉反馈即可规模化产出高质量资产
AstraFlow:面向智能体大模型的数据流导向强化学习系统
🧭 Agent RL 训练系统 · 数据流架构
Carnegie Mellon University · University of Michigan · UC Berkeley · Meta
以数据流架构解耦训练、数据供给与 rollout,原生支持多策略协作训练并提速 2.7 倍
📌 工作参考价值(4 点)
- 训练与 rollout 解耦的架构:将 rollout 服务化为独立、可替换的组件(Rollout-as-a-Service),可借鉴到推荐模型的在线 RL 训练中,实现策略模型与交互环境分离,便于弹性扩展和资源优化。
- 数据流驱动的异步数据管线:通过数据流层实现完全异步的样本供给,避免训练器等待 rollout,可应用于大规模分布式训练场景,提升 GPU 利用率。
- 多策略协作训练机制:支持多个策略模型(如不同推荐策略或不同 Agent 策略)在同一框架下协同训练,适合多目标推荐或多 Agent 协作优化,可直接复用其稀疏权重更新、选择性 rollout 等设计。
- 异构、跨区域资源的弹性利用:支持不同 GPU 类型、跨地域的 rollout 资源池,对需要动态调度算力(如大促弹性扩容)的业务有参考价值,能降低成本。
CHI-Bench:AI 代理能否自动化策略密集、长周期的医疗工作流?
🧭 面向策略密集长周期工作流的 Agent 评估
actA V A.ai · Johns Hopkins Medicine · Wellstar Health System · Stanford University · CMU
构建首个评估 AI 代理端到端自动化多角色、高策略密度医疗运营工作流的基准,当前最优方案仅完成 28% 任务。
📌 工作参考价值(4 点)
- 多角色与策略密集工作流设计:在电商客服、售后纠纷、供应链协调等多角色交互场景中,可借鉴 χ-Bench 的“指令-技能书-多 MCP 工具”架构,将企业内部业务规则编码为可被 Agent 调用的知识库与工具集,构建更贴近真实业务的长周期任务评估。
- 长周期任务性能退化警示:实验表明单会话连续执行所有任务时成功率骤降至 3.8%,提示在电商推荐或订单处理 Agent 的部署中,需设计会话状态持久化、记忆压缩或子任务分拆等机制来对抗长上下文下的性能衰减。
- 工具集成与标准化 MCP 接口:基准中 87 个工具通过 MCP 服务器暴露,为电商/推荐系统 Agent 集成复杂的业务 API(如商品搜索、营销规则引擎、物流查询)提供了工程参考,可复用其工具描述模式,降低 Agent 与异构系统的对接成本。
- 严格多级评估准则(pass³):对于生成式推荐、Agent 辅助决策等对可靠性要求高的场景,可以引入 χ-Bench 的多维度通过标准(如轨迹正确性、产出文档质量、最终结果),避免单指标乐观估计,更真实反映 Agent 在不可逆业务操作中的可靠性。
COTCAgent:基于概率思维链补全的预防性咨询系统
🧭 Agent ★ 深度解读
The University of Hong Kong · University of Electronic Science and Technology of China · The University of Sydney
通过解耦可执行趋势统计、IDF 加权知识库评分和有界对话补全,COTCAgent 实现纵向 EHR 的可审计疾病排序。
基于智能体的神经架构自主发现:AIRA-Compose 与 AIRA-Design
🧭 Agent 驱动的神经架构自动发现
FAIR at Meta
用多智能体协作在有限预算内自主搜索 Transformer-Mamba 混合架构,性能与效率超越人工设计基准
📌 工作参考价值(4 点)
- 多智能体组合搜索可复用:在电商推荐模型的 CTR/序列模块中,可借鉴AIRA的11-agent协作模式,将Attention、MLP、Mamba等计算原语作为搜索空间,用固定GPU预算自动探索高效混合架构,减少人工试错成本。
- 小尺度评估+外推策略:对推荐模型结构搜索,先在百万参数量级快速评估候选设计,再extrapolate到生产级大模型,这种“低成本过滤”能显著提升搜索效率,可复用于召回、排序模型的架构迭代。
- 直接由Agent编写算子与脚本:AIRA-Design让Agent生成注意力机制和训练脚本,这一思路可迁移至长序列推荐场景(如用户行为序列),自动优化长程依赖处理,降低对专家手工设计的依赖。
- 固定预算下的多Agent竞赛机制:多个Agent在限定时间/资源内并行提出方案并相互评估,这种竞争性协作可应用于推荐系统的超参优化、特征工程自动化,快速找到性价比最高的配置。
SmartWalkCoach:端到端步行指导、激励与反思的AI伴侣
🧭 Agent ★ 深度解读
西安交通利物浦大学
集成路线规划、情境陪伴与总结反思的移动AI伙伴,实证表明动机性对话大幅提升用户积极情感和体验
无需模型修改的并发:面向LLM的基于Future的异步函数调用
🧭 Agent ★ 深度解读
University of California, Berkeley
提出AsyncFC,通过Future占位符解耦LLM解码与函数执行,实现无模型修改的异步工具调用并显著降低延迟
走向自我进化的智能体文献检索系统
🧭 Agent ★ 深度解读
Shanghai Jiao Tong University · SciLand · Zhejiang University
提出PaSaMaster,以自演进检索、幻觉消除排名和规划-检索分离,在1%成本下超越GPT-5.2,实现零源幻觉
FutureSim:重放世界事件评估适应性智能体
🧭 Agent ★ 深度解读
ELLIS Institute Tübingen · Max Planck Institute for Intelligent Systems · University of Stuttgart · Tübingen AI Center · University of Southampton
通过真实新闻事件按时间顺序重放,评估前沿智能体长期预测与适应的能力
面向推荐模拟的任务感知自动化用户画像生成
🧭 RecSys ★ 深度解读
RMIT University
提出无需手动Schema的三阶段框架,自动生成任务对齐、鲁棒的用户画像,显著提升模拟行为对齐与泛化性
Nexus:多智能体时间序列预测框架
🧭 Agent ★ 深度解读
Google · Pennsylvania State University
通过宏微观双分辨率预测与动态校准,Nexus 多智能体框架在零样本预测中超越专业时序模型,并输出可解释推理。
Orchard:开源可扩展代理建模框架
🧭 Agent ★ 深度解读
Microsoft Research · Columbia University · UIUC
提出轻量级环境层 Orchard Env 实现跨领域、跨训练阶段的 SFT+RL 代理训练,在 SWE-bench 和 GUI 基准上达到开源最优
自蒸馏智能体强化学习:门控辅助蒸馏稳定多轮训练
🧭 Agent ★ 深度解读
Zhejiang University · Meituan · Tsinghua University
SDAR 用 token 级 sigmoid 门控自适应调节 OPSD 信号,保持 RL 主导并稳定提升多轮智能体性能
AgentDisCo:开放式深度研究智能体的解耦与协作
🧭 Agent ★ 深度解读
Xiaohongshu Inc.
通过解耦信息探索与利用为对抗式循环,并构建元优化策略库,在多个深度研究基准上超越闭源系统
SPIN:通过迭代导航实现工业任务的结构化LLM规划
🧭 Agent ★ 深度解读
University at Albany · Kwansei Gakuin University · IBM
一种规划包装器,结合DAG验证与基于前缀的模拟器-批评家停止策略,提升工业LLM代理的执行效率与结构正确性
自进化记忆架构:LLM智能体通过自动研究自我优化检索
🧭 LLM ★ 深度解读
UNC-Chapel Hill · UC Berkeley · UCSC
首个通过LLM闭环诊断自主进化检索配置的记忆框架,实现AutoResearch,无需人工调参