Self-Credit：通过组内重标定实现长程智能体 RL 的信用分配
🧭 Agentic RL 信用分配与上下文压缩 ★ 深度解读
Meta · New York University · Duke University
让策略模型在压缩上下文时引用关键轮次，再用同 prompt 成功/失败样本的组内对比重标定引用权重，将稀疏结果奖励转化为轮次级信用信号
📌 工作参考价值（4 点）
- 在长程 search/导购 agent 训练中，可让模型在上下文压缩时输出带轮次索引的摘要引用（要求 2-5 个 critical turns），用这些引用把统一广播的 advantage 改成轮次级加权；只需 prompt 格式约束和格式错误惩罚，不引入额外 reward model 或 critic。
- 对同一 query 的 group rollout，可按 action 的检索结果（docid 或商品 ID 集合）做 Jaccard 匹配，统计该 action 在成功/失败样本中的引用频次：只在成功侧重复出现则提权，只在失败侧重复出现则加重负优势，混合出现则取消提权。这能把“伪相关 action”从正样本中剔除，适合电商多跳搜索、商品对比、策略推荐等长程任务。
- 对重复失败的惩罚权重做线性退火（如 1.5→1.0），早期强惩罚抑制低效搜索，后期放松以保留探索，可平衡长程 agent 的工具调用效率与深度。
- 若无 gold action 标注，可用“检索到目标商品/金标文档”作为代理评估引文质量，计算 cited turns 的 F1，快速判断自生成引用是否有用。
SweepANN：面向药物发现的 GPU 加速大 K 近似向量搜索
🧭 大规模向量检索 GPU 加速 · 高召回大 K
Arizona State University · Independent Researcher
GPU 分区扫描与窗口阈值过滤实现大 K 高召回向量检索，在药物筛选中达 99.6% 召回且比现有方案快 8-24x
📌 工作参考价值（4 点）
- 批量矩阵乘法评分：将向量分区常驻 GPU，一个块只读一次，用一次 GEMM 对整批 query 打分。在召回/匹配系统中，当 query 批量较大时，可显著减少显存带宽压力，尤其适合双塔模型的批量召回打分。
- 窗口计划（window plan）：先用采样块估算每个 query 的 top-K 分数下界，之后仅处理高于阈值的行。该策略可在保证高召回的同时大幅降低计算和内存，适用于需要大 K 候选（如广告召回数千候选）且对召回率要求极高的场景。
- 压缩向量 + 溢出重算：用压缩向量快速扫描筛选，对可能进入 top-K 的候选做精确重算，兼顾精度与效率。可借鉴到量化召回场景，用低精度预筛 + 高精度重排的方式平衡成本。
- 自适应计划选择：根据 K 和库大小选择不同执行计划（grouped vs window），自动平衡内存与速度。工程上可以设计类似的调度器，根据请求规模动态切换召回策略。
WeAct：动态权重切换作为 Agent 动作
🧭 Agent 模块化 LoRA 动态切换与持续学习 ★ 深度解读
Carnegie Mellon University · Duke University · Meta MSL
把 LoRA 适配器切换做成 Agent 原生工具调用，冻结主干独立训练 Plan/Search/Writing 模块，在 deep-research 任务上超越全参微调和静态合并
📌 工作参考价值（4 点）
- 把流程阶段拆成可独立训练、可工具调用的 LoRA：电商/搜索 Agent 可将意图规划、商品检索、参数对比、文案生成等阶段分别训成 Plan/Search/Write 类 adapter，通过 load_lora/offload_lora 工具调用按需切换；新增能力只需注册新 adapter，不动已有链路。
- 运行时选择优于静态合并：论文显示 TIES/DARE-TIES/TSPA 等静态 LoRA 合并均导致专业化损失，甚至在无 rank 压缩下也有局部 mismatch。业务中若已有多能力 LoRA，建议保留独立 adapter 并在推理时切换，而非合并成一个固定权重。
- 工程实现复用原生 tool-calling 接口：用 MCP 工具注册权重切换动作，不需要单独训练 router 或改造 forward pass；adapter 常驻 GPU，切换时重建 KV cache，控制开销仅占 soft/hard 总时间的 8.2%/2.8%。
- 模块化持续学习可落地到频繁迭代的环节：只刷新 Writing adapter 即可提升报告质量，backbone 和其他 adapter 保持不变，无需回放历史数据；适合在商品文案生成、搜索 query 改写等单一能力上做局部优化而不污染整体。
训练整个 Agent：策略与 Harness 联合进化
🧭 Agent 训练 · RL 联合优化工具/hooks
Zhejiang University · LIGHTSPEED · Independent Researcher
HarnessAdapt-RL 在强化学习中同时训练策略模型与工具/hooks，显著提升 coding agent 的 pass@1
📌 工作参考价值（4 点）
- 搜索/推荐 Agent 训练不应只更新 LLM 参数，可将工具描述、hooks、检索接口等视为可学习组件，在 RL 中与策略共同迭代；尤其适合电商 Agent 中 API 调用、query 改写、商品召回等工具链的联合优化。
- 借鉴其变更接受条件：每个工具/hook 变更只有在离线评估中提升 pass rate 或可训练率且不降低另一方才保留。业务上可对应“商详页点击率/转化率提升，同时训练样本有效率不下降”的门控机制。
- 任务特定的机制级技能可由 frozen teacher 生成，训练时注入引导，上线前移除，降低部署复杂度，同时保留策略泛化增益；适合将专家规则或人工 SOP 转化为训练期辅助信号。
- 对反复出现的交互问题（如失败重试、上下文截断、工具返回格式错误）可进化 tools/hooks 而非硬编码，并让策略学习与新 harness 协调，避免过早冻结早期版本的优化陷阱。
野外智能体世界模型：计算机使用智能体环境合成
🧭 训练环境合成 · CUA · RL ★ 深度解读
UNC-Chapel Hill · Microsoft Research · Georgia Tech · Northeastern University · Independent Researcher
开源流水线合成 GUI/MCP/CLI 跨界面环境与长程任务，用质量门控与 RL 训练出跨 8 个 OOD 基准泛化的 CUA 智能体
📌 工作参考价值（4 点）
- 对电商 Agent 训练：可借鉴 WildAWM 的「可执行世界 + 五类质量门控」生成带验证器的多步任务，尤其 Counterfactual Probe 能防 LLM 法官谄媚，适合审核购物车/下单/售后等长流程合成数据。
- RL 奖励设计：把最终成功与子任务 checklist 部分得分结合，给长程任务更密集监督；Format penalty 对 GUI 动作解析很重要，可迁移到 App 操控或网页购买 Agent。
- 全开源栈（GLM-5.2 + OpenCode）证明环境合成无需闭源模型，业务上可低成本自建仿真环境，不必依赖外部 API。
- 世界合成用 persona + multi-day day plan 积累状态，可生成带用户历史/商品/库存的连续环境，用于推荐或搜索 Agent 的长期交互训练。
自动化科学机器学习：前沿 Agent 能否在真实场景中攀登科学之丘
🧭 科学ML自动化智能体评测与增强 ★ 深度解读
Anthropic Fellows Program · Anthropic
构建AGENT4SCI科学ML测试床，前沿Agent在20个基准上平均相对提升10.4%，加技能后达20.1%，提升主要来自工程技巧而非科学洞见
📌 工作参考价值（4 点）
- 三阶段隔离评测可直接迁移到广告/推荐的自动调参或 Agent 实验平台：让“跑实验的 Agent”看不到评估集，由独立评估 Agent 打分、审计 Agent 查作弊，可避免测试集泄漏和指标操纵。
- 在长时 AutoML 任务中加入“每小时自检”checklist，强制 Agent 回答“当前是否只在调 seed/lr”，可有效防止早收敛到局部超参搜索；电商/推荐模型调优可显式限制纯超参调优轮次，要求周期性提出新结构/新特征。
- research ideation 用夸张 persona + 文献挖掘引导提出更有领域结构的方法；在搜索/推荐中可让 Agent 先挖内部业务文档和公开论文，再提出具有业务/物理约束的辅助损失或架构调整，而不仅是换 backbone。
- 显式 experiment management 指令（并行实验、避免 CPU/GPU 争抢、实时监控）能显著提升长时任务效率，适合 12 小时级推荐模型重训或特征回放实验。
多智能体团队中该修改哪个智能体的技能？基于群体相对优势的信用分配
🧭 多智能体技能演化与信用分配 ★ 深度解读
Mayo Clinic · University of Manchester · Alibaba Token Hub, Alibaba Group · Shanghai University of Finance and Economics
GRSE 用同题多轨迹对比把团队 reward 归因到 agent-skill 并驱动技能修订，超越 MASkills
📌 工作参考价值（4 点）
- 多 Agent 推荐/搜索流水线（召回-粗排-精排-生成文案）出现 Bad Case 时，不要默认归咎于最终生成 Agent；复用 GRSE 的 group-relative 思路：同一 query 采样 4 条完整链路，比较高低 advantage 轨迹中每个 agent 的输入输出差异，定位真正需要修改的 agent-skill。
- 把业务规则/策略封装为自然语言 skill 库，只演化 skill 不动模型权重，适合在线迭代；用 structured failure diagnosis 的 8 类失败类型 + 引用具体 step + edit action，让归因可验证、可执行，并通过 validation gate 防止指标回退。
- 定期清理手写或迁移来的 skill 库：GRSE 证明 presence-based 信用会奖励“一路顺风但实际有害”的技能，而 group-relative 信用能正确 prune harmful skill（实验中对植入有害技能全部正确识别）。可用于技能库的巡检和跨场景迁移。
- 工程上注意：每组 G=4 轨迹训练 token 开销约 1.6-2.9x，但测试无额外开销；跨问题聚合时要按 distinct question 计数，避免重复采样同一问题虚高支持度；equal-reward groups 不丢弃，仍能提供一致失败/成功信号。
更多记忆更差？抗持久化记忆设计抑制 LLM Agent 错误复现
🧭 LLM Agent 记忆与自改进机制 ★ 深度解读
Indiana University · Tencent HY
提出 Anti-Persistence 记忆：只存轨迹和结果，抽象按需合成并丢弃，抑制错误复现，提升成功率并降低成本
📌 工作参考价值（4 点）
- 在电商/推荐 Agent 的记忆设计中，优先持久化原始交互轨迹和结果日志，而非规则、总结或技能等抽象内容；抽象只在当前任务中按需合成，使用后立即丢弃，防止错误抽象跨任务固化。
- 可借鉴其自适应模式选择：定义多种经验使用模式（直接复用轨迹、模仿成功行为、提炼任务策略、生成纠错规则），用轻量 contextual bandit 结合任务相似度、时间衰减和 UCB 探索项来选，比固定策略更鲁棒。
- 奖励信号中加入成本惩罚 r = clip(y - λκ, -1, 1)，λ 设小值（如 0.05）能鼓励选择性合成，在保持成功率的同时控制 LLM 调用量，适合线上成本敏感场景。
- 注意“错误复现”路径：即使删除错误抽象，其影响仍可能通过被影响的轨迹进入后续合成；评估记忆系统时应追踪历史暴露来源，而非只做简单剪枝或屏蔽。
HarnessPro：面向性能-成本权衡的递归 Harness 自改进
🧭 Agent harness 多目标自进化 ★ 深度解读
Tsinghua University · Z.AI Co., Ltd. · Shanghai Jiao Tong University · University of Warwick · Kuaishou Technology
多智能体递归改进 agent harness，用 Pareto 选择产出 lite/medium/heavy 三档，同时提升 pass rate 并降低执行成本
📌 工作参考价值（4 点）
- 用固定 LLM 生成测试替代 LLM judge 评估候选轨迹：在无 ground-truth 的 agent 优化中，失败召回从 41.7% 提升到 83.3%。做电商导购/客服 agent 的 harness 或 prompt 迭代时，先基于任务描述和初始轨迹生成回归测试，后续所有候选用同一套测试，避免 LLM 判断过度乐观。
- 产出 Pareto 前沿而非单一最优：用 normalized weighted squared-distance 按 (1,2)/(1,1)/(2,1) 选 lite/medium/heavy 三档，分别对应严格成本、均衡、性能优先部署。线上可按预算分流：大促期切 lite，日常用 medium，高价值场景用 heavy。
- 动态 routing + budget hooks 是降本关键：从任务描述选择 reasoning effort 和 tool call 预算，达到阈值后通过 hook 提醒收敛或阻断额外调用；比全局降低 reasoning effort 更能保住 pass rate，适合在推荐/搜索 agent 中按 query 难度分档执行。
- 压缩工具输出和精简 system prompt，保留 prefix 缓存：用类似 RTK 的日志折叠/长输出压缩减少重复上下文 token，是低成本但有效的工程优化。
HarnessRL：策略与训练夹具协同演进的开放式强化学习
🧭 LLM 后训练 · 自适应奖励与训练接口 ★ 深度解读
Alibaba Token Hub, Alibaba Group · Université de Montréal Mila - Quebec AI Institute
提出 HarnessRL，通过任务采样、rollout 引导与 rubric 标准三接口协同进化，并在冻结策略上实测更新效果，显著减少奖励失效。
📌 工作参考价值（4 点）
- 在基于 LLM judge 的奖励训练中（如商品文案、对话策略、Agent 行为生成），把 rubric 视为可训练配置而非固定标准：按每条标准诊断 blind/saturated/spurious，饱和任务降采样、达不到的标准注入 few-shot 引导、刷分标准拆分或重写，能直接缓解 reward hacking。
- 借鉴 JIT critic 机制：所有 reward/rubric/采样权重/引导变更，先冻结当前策略，在小批量上测 reward 变化，仅当变化落在校准接受带内才生效；这比直接应用规则或生成式更新更稳，能显著降低训练后期反复横跳。
- 建立 training-time memory 和语义检索：把历史 rollout、评分矩阵、rubric 变更按任务和 criterion 存下来，检索跨任务相似标准与正负样本，作为引导 reference 或标准修改证据；在电商多任务 RL 中可复用，降低人工调 reward 成本。
- 如果做生成式推荐/Semantic ID 等开放生成，奖励函数退化问题同样会出现；可借鉴该框架让采样分布、生成约束和评判标准与策略协同演化，而不是等到刷分后再修复。
基于f散度的排序偏好对齐方法（f-RPO）
🧭 LLM 排序偏好对齐 · f-divergence ★ 深度解读
Purdue University · Michigan State University
将f-divergence对齐框架扩展到排序偏好，提出f-RPO，在排名恢复和生成质量上优于排序baseline
📌 工作参考价值（4 点）
- 可直接利用用户点击/转化排序数据训练LLM对齐策略：f-RPO的目标函数形式简单（TV/RKL变体）：L_TV = ½ E[Σ_i ρ_i(−σ(r_i) + Σ_{j>i} q(j|i) σ(r_j))]，用隐式奖励 r=β log(π_θ/π_ref)，无需显式reward model，可嵌入现有DPO流程。
- 构造排序数据时，采用异质生成器（不同温度/模型）产生候选，再由reward model打分并过滤低置信度样本（最小相邻margin≥0.5），可显著提升排序监督质量，适合电商场景下用LLM-as-judge批量生成偏好数据。
- 权重设计ρ_x(i)∝k−i, q_x(j|i)∝j−i 天然满足rank-favored条件，且理论保证排序一致性；这种高排名更大权重的列表级损失可直接迁移到学习排序任务。
- 方法用LoRA微调0.5B-9B小模型即获得明显排序能力提升，适合在广告/推荐轻量级模型上部署，可作为生成式推荐（如Semantic ID排序）的对齐模块。
MEMORA：记忆增强的多模态委员会重排 Agent 用于推理密集检索
🧭 Agent 记忆增强多模态检索重排 ★ 深度解读
Chungbuk National University · University of Innsbruck
提出记忆增强多模态委员会重排 Agent，将查询分解为意图因子并用 episodic memory 调整优先级，在 MM-BRIGHT 上 nDCG@10 达 41.5/38.9
📌 工作参考价值（4 点）
- 把 query 拆成意图因子，对每个因子单独召回和提取 evidence，再交给 LLM judge 重排。电商搜索常见多意图 query（如“轻薄 防晒 户外 外套”），可按材质/功能/场景拆因子，避免单一 reranker 忽略部分需求。
- 训练电商检索向量模型时，给训练 query 拼接 GPT-4o 等生成的 CoT 意图描述，并挖 hard negatives 做 InfoNCE 微调；推理时不拼接，能显著提升语义召回，尤其适合标题和 query 表面词重叠低的商品。
- 用 domain episodic memory 记录历史 query 各因子是否帮助命中相关商品，在线调整因子优先级和召回权重。注意论文结论：memory 需 >50 条/类目才有效，低频类目可考虑跨类目迁移或用规则兜底；不要单独用 document prior，会引入频率偏差。
- 自适应 controller 采用线性状态机，根据 ranking margin 和 evidence support 决定是否继续 LLM 精排或停止，能平衡 nDCG 收益和 API 成本；电商在线系统可把该逻辑作为开关，简单可解释，便于 A/B 测试。
面向企业零售异构数据工作流的Agentic RAG评估基准与框架
🧭 Agentic RAG · 多源异构零售问答评测 ★ 深度解读
KAIST · Cluvion · GS Retail
提出RetailBridge多源零售QA基准与RetailRAG框架，定位跨源链式为瓶颈
📌 工作参考价值（4 点）
- 在电商 Text-to-SQL / 数据分析 Agent 中，先构建并注入 auto-schema briefing：包括列类型与示例值、类别枚举、跨表 join 键、派生指标公式，可提升 planner 路由和 SQL 生成准确率。
- 采用 source-routed plan chaining：对复杂查询一次性生成显式依赖链，支持 SQL→文本→SQL 的中间结果传递；简单查询走快速通道，控制 API 调用成本。
- 失败恢复用 diagnostic plan revision：只定位并局部修正失败步骤，保留已完成步骤，避免整体 replan；把失败类型划分为 schema mismatch、filter 过严等，可显著降低 token 消耗并提高成功率。
- 构建内部评测集可借鉴 RetailBridge 的合成管线：用 persona 仿真生成订单/评论/客服交互数据，再用 entity-linked/answer-linked 算子递归组合出多跳查询，按推理深度、跨源数和证据模态分层，便于诊断 agent 短板。
OpenVLHarness：面向真实世界视觉 Agent 工具使用的多模态记忆
🧭 多模态 Agent 工具调用与记忆增强推理
University of California, Los Angeles · Apple
通过能力层与持久多模态记忆统一工具输出，多模态 LLM 在 22 个基准上平均提升 9.7-12.6 分
📌 工作参考价值（4 点）
- 电商多模态购物助手中，可借鉴 capability layer + evidence rendering 将商品搜索、图像识别、价格/库存等异构工具输出统一转成结构化 observation，减少模型解析成本。
- persistent multimodal memory 按地址存储商品图、结构化数据、网页引用，支持多轮对话跨步骤引用，避免重复调用工具，适合商品对比、搭配推荐等需要持续上下文的任务。
- coding interface 对存储数据执行生成式程序，可用于多源数据联合计算，如比价、价格历史分析、风格一致性判断，把多个工具结果组合成可执行逻辑。
- 成本收益结论：中等推理 effort + 工具记忆比高 effort 纯推理更优且 token 成本低至 37%，提示业务 Agent 优先做工具集成而非一味增加推理预算。
RemoteANN：面向云对象存储的原生向量搜索引擎
🧭 云对象存储上的向量检索系统 ★ 深度解读
Nanyang Technological University · ByteDance
通过 IVF+RaBitQ 量化与数据重排序、请求合并等协同设计，大幅降低云对象存储向量搜索的 I/O 与 API 请求成本
📌 工作参考价值（5 点）
- 若将大规模 embedding 卸载到 S3 等对象存储以降低存储成本，应优先采用 IVF 类索引而非图索引：图索引多跳路由会叠加网络 TTFB，IVF 单轮拉取候选簇更适合高延迟远程存储。
- 借鉴 RaBitQ 量化思路：将向量压缩为 1-bit prefix 常驻内存用于粗筛和距离估计，其余低精度码放远程存储，可大幅减少远程请求，适合嵌入召回的大规模粗排阶段。
- 数据重排序 + 请求合并是降低 API 调用费用的关键：对簇按质心最近邻路径排序（近似 Hamiltonian path），簇内按到质心距离排序，使查询目标范围局部集中，再用动态规划合并 Range-GET 请求，可迁移到任何按请求计费的远程数据读取场景。
- 本地 NVMe SSD 缓存采用自适应阈值：当请求范围大于阈值时整簇下载填充缓存，平衡带宽与缓存命中率，适合电商热门商品/用户 embedding 的冷热分层访问。
- QGKMeans 用 SymphonyQG 加速 k-means 质心分配，索引构建时间可降低数倍，适用于需要频繁重建向量索引的业务（如商品库更新、A/B 测试多版本索引）。