RouteWeaver：将模式选择与执行编织进统一 LLM 路由
🧭 LLM 路由 · 模式选择与执行联合优化
Nanyang Technological University · Huazhong University of Science and Technology · University of Illinois Urbana-Champaign
统一 LLM 路由框架，联合学习执行模式与模型选择，COMET-GRPO 分层信用分配+渐进式探索，五领域平均准确率提升 11.03%
📌 工作参考价值（3 点）
- 在构建 LLM 路由/调度层时，不要把执行模式（单次调用、多轮、Agentic）写死，可用一个策略联合选择模式与模型；在电商搜索/客服 query 复杂度差异大时，让策略学会按需降级或升级，能平衡成本与效果。
- COMET-GRPO 的信用分配思路可迁移：如果路由器需要同时决定“调用哪个工具/模型”和“用几步完成”，将整体奖励分解为模式级和步骤级优势信号，能缓解稀疏奖励导致策略坍缩；在 Agent 编排中分别奖励“是否选择 Agent 模式”和“Agent 内模型选择”，可避免只选单轮或只选多轮。
- Progressive exploration 类似课程学习：先用规则/预设模式训练执行能力，再放开让策略自主选择；在业务中可用固定策略冷启动或基于历史数据预训练路由，再逐步切换到在线强化学习，防止早期策略坍缩到某个低风险模式（如全部走单轮）。
谁主导？模型能力与任务条件化的人机协作
🧭 Agent 人机协作与任务条件控制分配
McGill University · MIT - Massachusetts Institute of Technology · University of Cambridge · University of Toronto · Mila - Quebec AI Institute
在共享控制迷宫中证明强模型能根据人类相对优势选择性分配控制，而非简单减少人类参与。
📌 工作参考价值（4 点）
- 在构建搜索/推荐 Agent 时，不要用“人类介入率”作为协作质量指标；应评估 agent 在给定上下文下的相对能力（如用户偏好的可预测性、数据稀缺性），动态决定是否请求用户、自主执行或完全移交，类似路由机制。当用户侧有信息优势（如长尾个性化、实时意图）时引入人工，常规高频查询则 agent 自主处理。
- 借鉴共享控制接口设计：让 agent 每步输出显式控制决策（act/request/handoff），便于监控和在线评估；用 solo 性能作为先验，对低能力模型或低置信场景增加 human-in-the-loop fallback。
- 任务条件化协作可作为离线评估框架：构造“人类优势/均势/agent优势”的模拟环境，量化不同 LLM 的协作策略，用于选型或提示词调整，避免上线后才发现 agent 过度求助或过度自主。
- 实验发现强模型在人类无优势时几乎不求助，仅在人类路线更短时约80%初始决策涉及人类，说明可设置阈值或条件策略：只有当用户信息增益显著大于 agent 能力时才触发人类参与。
TokenGate：可学习 token 剪枝加速 LLM 预填充且精度不降
🧭 LLM 长上下文预填充加速 · 可学习 token 剪枝 ★ 深度解读
Stanford University · UC Berkeley
提出可插入组件 TokenGate，通过类 MoE 的 token-gated attention 端到端训练 token 剪枝，大幅加速长上下文预填充且精度不降
📌 工作参考价值（4 点）
- 在电商/Agent 场景中，长文档（商品详情、用户评论、搜索广告上下文、RAG 检索文档）的预填充是延迟和内存瓶颈；可借鉴 TokenGate 在模型中间层引入可学习 token 剪枝，相比 FastKV 等启发式方法，端到端训练能显著提升速度且精度无损，且可与 LoRA 一起微调，训练开销仅约 1.3x/step，总体甚至更少。
- token-gated attention 是关键 trick：把不可微的 top-K 剪枝通过类似 MoE 的门控值乘到 attention logits 上，让 scoring network 获得梯度，同时让模型骨干自适应剪枝后的稀疏注意力；该思路可迁移到任何需要在 Transformer 中间层做软筛选的任务，如多文档 RAG 中对检索片段做软裁剪。
- 训练时使用 dual budget sampling（全量 + 对数均匀采样的剪枝预算各一半损失），使单个模型泛化到不同 token 预算，无需为每个压缩比重新训练；这对线上需要动态调整 TTFT 和内存的推荐 / Agent 系统非常实用，可以一次训练，推理时按需调整 K。
- 工程实现上，将 per-key gate bias 融合进 FlashAttention 内核、剪枝后 forward 用 CUDA graph 固定 padding、KV cache 选择性裁剪等做法可直接复用到自研推理引擎，降低集成成本。
VerifierBench：评测LLM Agent可执行验证器生成的基准
🧭 Agent 验证器生成评测与审计
University of Pennsylvania · University of Illinois at Urbana-Champaign · University of California, Berkeley · New York University · University of Rochester
构建VerifierBench与V4V审计，揭示LLM生成的验证器普遍过严，多数假拒源于不接受任何有效解
📌 工作参考价值（4 点）
- 在自生式训练数据过滤或 RL reward 场景下，别只看“拒绝无效样本”的准确率：VerifierBench 显示模型很容易生成过严验证器，看似强实则大量误拒有效解。上线前应显式统计 balanced accuracy，并专门补充 alternative valid solutions 来暴露假拒绝。
- 生成可执行验证器时，自测集不能只用与生成器同分布的负样本/正样本；要加入格式变体、工具调用顺序变体、等价代码改动等，因为案例表明验证器常写入无关的格式、工具或代码假设。
- 可借鉴 V4V 的六项审计思想：在 pipeline 中对验证器自动做 checklist——是否至少有一个已知正确解通过？是否对多个允许解不误拒？是否只依据任务指令而非隐含假设？
- 如果把 LLM 当作文本/策略评判器（例如筛选广告文案、推荐理由），需注意“拒绝负例强、接受正例弱”可能反映模型保守；可通过阈值校准或多验证器投票降低过度严格带来的数据丢弃风险。
心跳思考：实时语音代理边听边推测推理与工具执行
🧭 实时语音 Agent 推测工具执行
Ant International
提出 Heartbeat Thinking 机制，在用户说话期间周期性启动 Thinker 并允许已派发工具继续完成，将监听时间转化为可复用的准备，显著提升工具覆盖率并降低最终响应延迟。
📌 工作参考价值（4 点）
- 在实时语音电商客服/导购中，可在 ASR 部分结果上周期性（heartbeat）启动 LLM 推理，不打断已派发工具调用，利用用户说话时间提前完成订单查询、库存检查等工具调用，降低首响延迟。
- 借鉴“共享推理记录 + 工具结果”的设计，将不同心跳周期内已完成的子任务结果保存下来，后续心跳只需补齐缺失参数或发起依赖调用，避免重复计算，提升并发利用率。
- 将推测性工具覆盖率和检索复用率作为在线指标，而不仅是最终任务质量；在语音 Agent 工程中监控“说话期间已完成工具调用比例”，用于评估 anticipation 能力。
- 如果业务中有长尾复杂请求（如退换货、多条件商品咨询），可采用类似多 Thinker 并发机制，允许部分推理分支自然终止，而不是强杀，减少截断导致的重算。
野外销售：基于460万商业对话微调的销售Agent基准与随机现场实验
🧭 对话式销售Agent训练与在线随机实验 ★ 深度解读
Javo, AISO Boost Ltd.
用460万真实商业对话微调Qwen3-32B销售Agent，在100个网站随机试验中比无Agent提升10%收入，比前沿模型提升21.6%转化
📌 工作参考价值（4 点）
- 真实商业对话微调是提升销售/导购Agent业绩的关键：SFT学完整对话（需求挖掘、推荐、异议处理、下一步提议），DPO用购买进展信号做偏好优化；可直接迁移到电商客服、导购对话训练。
- 模型隔离评估设计值得借鉴：固定界面、检索、工具、prompt、guardrails，只换模型权重，才能干净归因训练数据的价值；业务方上线Agent前应做类似消融。
- 在线实验协议可复用：ITT收入/访客 + engaged conversion + 非劣性对比人工 + 安全守卫指标（退货率、投诉、未支持声明、未授权优惠），并采用CUPED、sample ratio check、顺序检验等。
- 成本效率结论：对话Agent推理成本仅为人工的1.8%（0.06美元 vs 3.40美元），且转化非劣性，可优先在咨询密集品类（美妆、家具、旅游）部署自动化销售助手。
语言模型组合任务脆弱性：隐式推理预算的作用
🧭 LLM 推理预算与任务脆弱性
TU Munich · MIT CSAIL
发现 LLM 在单 prompt 组合多任务时按比例压缩每任务推理 token，导致长推理任务更易出错，并可按脆弱性分组省 43% token
📌 工作参考价值（4 点）
- LLM 工作流（如批量商品属性提取、query 意图分类、评论摘要）避免把需要长 CoT 的高难度任务和简单任务塞进同一个 prompt；长推理任务单独调用或降低组合度，减少组合脆弱性。
- 利用 fragility 分组调度：把相似推理预算需求的任务放在同一批 prompt，能在不损失准确率下显著降低 token 成本（论文 43%），适合线上成本敏感场景。
- 监控单任务在组合前后的 token 消耗与错误率变化，识别“脆弱任务”；对关键链路（如广告文案生成、排序解释）设置每任务最小推理预算或独立验证。
- 在 Agent 规划时注意每个子任务被隐式压缩，设计更短推理路径或为关键决策提供单独预算/步骤。
语义不足时：用户画像引导的跨域序列推荐
🧭 跨域序列推荐 · LLM 用户画像引导 ★ 深度解读
北京交通大学 · 中山大学 · 南洋理工大学
用 LLM 推断用户画像作为全局引导替代跨域语义桥接，结合本地语义关联提升跨域序列推荐
📌 工作参考价值（3 点）
- 跨域/多场景推荐中，避免全局 item 语义对齐；用 LLM 从用户混合行为序列推断 persona（输出 why 而非 what，提示词约束不提具体 item/brand/domain），作为跨域行为建模的全局引导信号，可作为多域用户表示的统一先验。
- 行为与语义表示分离：跨域共享行为 embedding 随机初始化、与混合序列联合训练，避免语义域隔离；冻结的 item 语义 embedding 只用于域内局部邻域正则和域偏好分支，最后通过可学习 gate 自适应融合。工程上可离线预计算 persona 和语义 embedding，不增加在线推理成本。
- 辅助损失设计：Local Semantic Association 对每个 item 取 Top-K 语义邻域，回归语义相似度与行为相似度；Global Persona Guidance 使用 persona-aware attention 对序列隐藏态加权，做用户级对比学习。两项都是轻量插件，可加到现有 Transformer 序列模型。
真实 Web 深度搜索基准 OpenDS-World
🧭 真实 Web 深度搜索 Agent 基准评测 ★ 深度解读
HKUST(GZ) · Fudan University · University of Washington · Imperial College London · Nanyang Technological University
提出 OpenDS 任务与 200 题基准，12 个前沿模型最好仅 39.0% 准确率，人类 21.1%
📌 工作参考价值（4 点）
- 评估搜索/Agent 时把成本维度纳入主指标：同时记录 tool calls、wall-clock、tool failure 占比与 budget exhaustion，能发现“高消耗低收益”的执行模式；可在电商搜索 Agent 评测中复刻这套成本与终止分析。
- 业务证据获取往往跨格式（HTML/PDF/视频/结构化数据）和交互操作，不应只测最终答案；可把“证据获取路径”作为任务设计的一部分，考察 agent 能否完成筛选、时间索引、API 查询等子步骤。
- 更多调用和更长耗时不一定带来更高准确率，线上 Agent 应设置预算与早停，并监控低产出轨迹；例如限制搜索步数、对连续失败切换 tool 或终止当前链路。
- LLM-as-judge 可用较小模型做语义等价判定，但难以暴露中间证据链错误；建议在关键步骤加入 intermediate verification 或 checkpoints。
资源约束下学习记忆价值：TokenWorth 终身记忆框架
🧭 资源受限终身记忆价值学习 ★ 深度解读
Nanjing University · National Key Laboratory for Novel Software Technology, Nanjing University
提出 TokenWorth，在线学习 query-dependent 记忆价值并统一用于检索与记忆淘汰，在资源受限终身智能体任务中成功率最高且输出 token 最少
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 的长程记忆或知识库检索中，不要只按 embedding/BM25 相关度取 top-k；可以增加一层轻量 query-dependent 价值打分，融合历史成功率、可靠性、最近使用等特征，用执行结果（成交/点击/解决率）在线更新，统一指导检索和记忆淘汰。TokenWorth 的 linear base scorer + RFM 残差可以在几百条反馈内工作，适合预算敏感场景。
- 用“任务级结果”作为稀疏监督时，目标设为 \(2r-1\) 即可，不必追求反事实归因；这能避免昂贵重执行。对落地来说，可以把成功交互存为候选 memory，把失败反馈用于更新被注入记忆的价值，低成本积累负信号。
- 记忆管理借鉴 admission/evict 策略：库满后，新经验要么足够新颖，要么 probe-averaged worth 显著超过最差/最优记忆才准入，否则可替换低效用近邻；淘汰时按最近一批 probe queries 的平均价值最低者出局。类似做法可用于在线更新推荐 Agent 的 few-shot 示例库或商品卖点素材库。
- 评估记忆/检索模块时，应像该工作一样固定联合预算（输出 token、步数、存储容量、注入长度），并报告“每 token 收益”；否则复杂 reflection/skill 模块容易在业务中被高估。
CoEvo-RSI：当执行框架演化时，哪些模型应跟随？
🧭 Agent 递归自我提升 · 脑体协同演化
National University of Singapore · Agency for Science, Technology and Research (A*STAR) · SenseTime Group Inc.
用元智能体协调历史执行框架与模型检查点选择/合并，并用自身拒绝采样轨迹 SFT，减少递归自我提升中的脑体不匹配
📌 工作参考价值（3 点）
- 在电商/广告 Agent 链路中，每次改动工具、prompt 或执行脚手架时，不要只做 prompt 调优；维护“harness 版本—模型 checkpoint—执行反馈”档案，用元智能体在历史设计中选 checkpoint/合并，再在新 harness 下用 rejection-sampled 轨迹做 SFT，能明显降低脑体不匹配。
- 可建立“失败归因→局部更新”的轻量闭环：从线上执行日志筛出成功轨迹（例如 SQL 生成成功执行、指令被正确执行）做 rejection sampling，对 7B/9B 小模型做 SFT，成本低且可追上大模型；适合垂直场景的护栏优化。
- 模型合并/checkpoint 选择策略可作为“脑”的版本管理：当召回、排序、query 改写等 Agent 组件升级时，按执行反馈选择与当前 harness 兼容的历史 checkpoint 或融合多个 checkpoint，减少能力丢失与行为约束。
CoworkEnv：合成面向长时程同事智能体的训练环境
🧭 AI cowork agent 训练环境合成
The Hong Kong University of Science and Technology · The Chinese University of Hong Kong · Hong Kong Baptist University · Independent Researcher
用工作流需求合成可执行训练环境，同时产出 SFT 演示与 RL 奖励，训练小型 cowork agent
📌 工作参考价值（4 点）
- 电商智能客服/导购 agent 可参考 capability-guided 任务生成：从工作流需求出发，用程序化校验与反馈修复生成请求、工具接口、评分检查，减少人工标注和评审成本。
- Teacher executions 生成 SFT 演示 + student rollouts 产出 RL 奖励的两阶段数据管线，适合在线学习场景；可直接复用到多轮导购、售后工单处理等长时程任务。
- 关注 reward processing 与 credit assignment 配置：在长多轮 agent RL 中，分步奖励处理和信用分配对训练动态影响大，建议做消融而非直接套用单轮稀疏奖励。
- 对推荐系统本身借鉴有限，但可执行环境与程序化验证的思路可用于构建推荐 Agent 的仿真评估器，快速回归多步工具调用策略。
深度融合记忆：大语言模型的块级参数化记忆
🧭 参数化记忆 · 隐藏层深度融合
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
提出块级参数化记忆DFM，训练数据构造检索量降低32倍，并深度融合进隐藏状态，无需在线检索
📌 工作参考价值（5 点）
- ### 对电商 / 广告 / Agent 的可借鉴点
- 在电商导购、广告文案或客服 Agent 中，需要给 LLM 注入领域知识（商品库、活动政策、广告规范）。DFM 提供一种冻结主干的参数化记忆方案：推理时无显式检索步骤，延迟低，比 RAG 更适合高 QPS 线上场景；可训练轻量 memory predictor + fusion 模块，把领域知识压缩进隐藏状态。
- 块级记忆监督是关键技巧：用 chunk embedding 作为预测目标，而非 token 级目标，训练数据构造的检索 query 可减少 32×、检索条目减少 2048×。业务数据量大、离线检索成本敏感时，优先考虑把知识切块并做块级记忆，能大幅降低知识注入成本。
- 门控 cross-attention 融合比输出层插值更深，能让知识影响中间表征；工程上可只插入少数层，冻结原模型，避免灾难性遗忘。适合给已有的推荐/Agent 底座模型做领域适配而不破坏通用能力。
- 可迁移到实时交互场景：让 memory predictor 根据对话或行为前文预测 chunk 级记忆，动态融合到解码过程，省去显式检索模块，简化架构并降低运维复杂度。
超越答案：学生条件化的推理轨迹构建与蒸馏
🧭 推理蒸馏 · 学生条件轨迹构建
Stony Brook University · Meta AI
提出 ReDiST，以学生自身尝试为起点构建并筛选推理轨迹，提升推理蒸馏效果
📌 工作参考价值（4 点）
- 可借鉴 ReDiST 的“学生条件化”轨迹筛选：在微调推荐/Agent 推理模型时，不要直接用统一 CoT 数据，而是用目标小模型自身的失败尝试作为种子，再结合证据与正确答案改写，能提升学习效率。
- 用 frozen “student-matched reader” 对候选轨迹打分：以 answer recovery 和 verified-answer probability 排序，过滤掉目标模型难以模仿或信息冗余的轨迹；可用于电商多跳问答、广告归因解释等数据清洗。
- 蒸馏时加 auxiliary answer loss 平衡中间推理与最终答案监督，避免小模型只学会模仿冗长/不适配的推理格式，却答不对。
- 评估轨迹教学价值时，应在源任务与跨分布 benchmark 同时验证；不同监督配方的排名可能反转，避免单看源域指标选定方案。
从延迟单侧反馈中学习个性化记忆门控
🧭 Agent 长期记忆 · 个性化门控
Salesforce AI Research · University of California, Los Angeles · University of Illinois at Urbana-Champaign · University of Illinois Chicago
将 Agent 记忆门控建模为延迟单侧反馈的 contextual apple tasting，提出 Warm-Start UCB 实现用户级个性化选择
📌 工作参考价值（4 点）
- 在电商客服/导购 Agent 的记忆系统中，不要使用全局统一的重要性阈值；可以按用户做个性化门控，用“该 fact 后续是否被检索并用于回复”作为弱标签，低成本构造训练数据。
- 把记忆写入决策当作 contextual bandit 问题处理：只有保存下来的 fact 才能观察到后续复用信号（单边反馈），且复用有延迟；可采用 Warm-Start UCB 的思路，先用离线数据初始化策略，再对当前用户在线微调，比纯离线或纯在线更稳。
- 工程实现上，设置合理的延迟窗口：理论显示延迟窗口在 O(√T) 内时 regret 有上界，延迟过长时应截断或异步更新，避免在线学习退化。
- 业务可复用结论：用户对 fact 的复用模式差异大，个性化门控在 memory budget 小、history 长时优势更明显，适合需要长期用户记忆的电商推荐/客服场景。