面向对象 Harness：用继承与路由进化 Agent 执行框架
🧭 Agent harness 分层进化与路由 ★ 深度解读
University of Illinois Urbana-Champaign · Google Cloud AI Research
用继承构建可复用 harness 类并基于执行轨迹路由，三基准最高提升15.79个百分点
📌 工作参考价值（4 点）
- 面向 Agent 工作流：不要用单一 global harness/prompt 硬扛所有场景。把 harness 代码按业务任务聚类做子类继承，公共能力留在父类，差异用 override/add method，回归风险更小、维护更清晰。
- 路由时同时输入 task metadata 和观测到的 base 执行轨迹（工具调用、错误模式、输出格式），并沉淀 routing lessons；在 AutomationBench 这类跨域执行中，轨迹信息可带来 12.64 点提升，比仅看任务描述更可靠。
- 保留 base harness 作为兜底，路由不确定或 OOD 任务直接复用 base 结果，避免强制用不合适的 specialist；论文中 OOD 场景下 Base 复用保持 59.18 PASS，而 global harness 降到 44.90。
- 训练/搜索效率：只在该任务簇上评估候选 harness，不必 rerun 整个发现集；可作为 LLM agent 自动化调参的工程优化，显著降低 API 成本（论文中搜索时长 29h vs 109h）。
BRANCH-MoE：面向大规模嵌入模型的平衡感知树路由
🧭 MoE 树形路由与负载均衡 ★ 深度解读
Google Research · University of Southern California
提出将专家置于二叉树叶节点的BRANCH-MoE，用到达加权EMA锚点在没有辅助损失的情况下保持负载均衡并诱导共路由局部性
📌 工作参考价值（4 点）
- 在大规模 CTR/推荐模型中用 MoE 做稀疏专家时，可把 flat top-K 门控换成树形路由：每个内部节点用到达加权均值做 score 中心化（训练用 batch 均值，推理用 EMA），可省掉 auxiliary load-balancing loss 及其调参，同时降低子树饿死风险。
- 树路径天然给出专家二进制地址，可按 prefix 把专家/embedding 分配到设备或参数服务器域；推理时可依据上层 margin 预判是否跨域通信，降低 token 分发成本，适合多级缓存/分片的大规模稀疏 embedding 部署。
- 工程实现上：线性 node map 的树结构局部性最强（UCI 上树距离 0.71 vs 随机 0.817）；换成 MLP 会削弱局部性并提高 load CV，需在目标数据上验证。对输入特征要避免稀有二值列被 z-score 放大成巨大 spike，否则会诱导专家 collapse（Covertype 上需 pin 低方差列）。
- 该方法无辅助损失即可均衡负载，但 Criteo 上 load CV 高于 flat 方法（0.115 vs ≤0.006）；若业务对 per-batch 均衡极敏感，可能仍需要 capacity factor 或调度兜底。
在生成式与协同用户画像之间路由：一种用于可控新颖性的服务时门控
🧭 生成式用户画像 · 服务时路由 ★ 深度解读
DePaul University · Comcast Technology AI
提出服务时路由门控，在协同过滤与LLM生成画像推荐模型间按用户选择性切换，以可控新颖性-相关性权衡提升Novelty@10
📌 工作参考价值（4 点）
- 借鉴 serving-time gate 思路：当有多个候选模型（如协同过滤 vs LLM画像）时，不要全局切换，而是训练轻量分类器根据用户特征动态路由，用 NDCG 损失预算控制流量分配。
- 特征设计简单有效：使用历史长度、消费物品流行度均值/中位数、niche ratio 等行为统计特征，无需复杂模型或画像生成过程，即可预测路由收益；其中协同表示范数是最重要特征。
- 用 pairwise 差值定义训练标签：对每个用户计算切换前后的 ΔNovelty 和 ΔNDCG，设定双条件（ΔNovelty>0 且 ΔNDCG>=0）作为正样本，可以训练门控直接预测“有益路由”概率。
- 评估时采用 OOF 和覆盖排名扫描，在固定相关性预算下选择最大化新颖性的阈值，避免过拟合，并得到可解释的 operating point。
LLM Agent 是否执行所声明的计划？从规划模式声明到模式化执行
🧭 Agent 规划声明与执行一致性诊断 ★ 深度解读
ADIA Lab, Abu Dhabi, United Arab Emirates · University of Granada, Granada, Spain · Luxembourg Institute of Science and Technology, Luxembourg · Cornell University, Ithaca, USA · Lawrence Berkeley National Laboratory, Berkeley, CA
提出 Planning-as-Routing：LLM 声明规划模式并由确定性路由器分派给对应执行器，显著缩小声明-执行差距，但模式选择仍是瓶颈
📌 工作参考价值（4 点）
- 业务 Agent 设计：不要把 LLM 生成的计划仅仅作为 prompt 交给通用 ReAct loop；要把 planning mode 映射到可执行 control flow（predefined/sequential/hierarchical/search）。长链路任务（多步商品约束搜索、广告账户搭建、售后工单处理）优先用 hierarchical/search 执行器，短任务用 predefined 更省成本。
- 评估体系：新增 process-level 指标（plan adherence、plan-order faithfulness、declaration-execution preservation），不要只看最终成功率。可以用规则 verifier 或轻量 judge 检查轨迹是否按声明顺序执行，快速区分是选错模式还是执行漂移。
- 路由与选型：做 planning mode 路由前，先跑 forced dispatch 得到每个模式在目标任务集上的 ceiling；如果 per-task oracle 相对 best fixed policy 的 headroom 很小，就不值得做复杂 selection，固定最优模式+多次重试更划算。
- 少样本与选择先验：few-shot 对模式选择有正收益但不稳定，需按业务环境和模型分别验证；当前 LLM 零样本选择接近任务无关偏好，不要默认模型会为每个任务选对 planning mode。
MoSAR：语义注意力机制混合，学习自适应可近似注意力几何
🧭 LLM 高效注意力 · 自适应几何 ★ 深度解读
Università degli Studi di Bari Aldo Moro
在 RoPE 后通过 query/key 路由器混合短中全局 regime，学习可离散化的距离衰减注意力几何，500M 预训练外推最优
📌 工作参考价值（4 点）
- 在电商搜索/推荐的长用户行为序列建模中，可借鉴「可学习距离衰减 + 轻量路由器」替代固定窗口或硬截断：用 query/key 双侧路由选择短/中/全局 regime，让不同 token/item 自适应选择交互范围，既保留长程依赖又降低注意力成本。
- 推理时采用 top-1 离散化先把 attention support 确定，再计算稀疏 QK。论文显示 support density 随上下文长度下降（0.154→0.104），说明在商品描述、会话历史等长序列场景中，这种路由可带来亚二次的注意力开销，适合在线扩容。
- 若需要显式压成本，可参考 MoSAR-Cost：在 LM loss 上加入归一化期望 reach 正则，以很小的困惑度代价换取更低的预期注意力范围；在推荐排序 loss 里也可以加入类似 expected attention cost 项，实现推理成本可控。
- 结论「平滑可控衰减优于硬 mask」可直接用于改进用户长期兴趣序列的 RoPE 截断或滑动窗口设计，避免硬截断带来的语义不连续。
CERA-MoA：路由与持续学习智能体协同演化框架
🧭 多智能体路由与持续学习协同
IIIS, Tsinghua University · School of Artificial Intelligence, Shanghai Jiao Tong University · Shanghai Qi Zhi Institute
提出 CERA-MoA，让 MoA 中动态路由器与智能体策略通过强化学习协同演化，并用隐藏状态预测熟悉度实现高效路由
📌 工作参考价值（4 点）
- 在电商/搜索的多智能体架构中，路由策略不应固定：可借鉴 CERA-MoA 让 router 与专家 agent 在线/离线同步更新，将用户 query 分发逻辑与各领域专家（如类目导购、价格对比、营销文案）的真实能力变化对齐。
- 用中间层隐藏状态做“熟悉度”估计，避免完整 rollout 才能判断 agent 是否适合处理某类请求；实际在线系统可训练 lightweight 打分器，毫秒级实现动态路由和成本控制。
- 累积阈值激活最小 agent 子集，可移植到集成推理/多模型打分场景，按 query 难度动态调用 1~N 个模型，在效果与 latency/成本间自动权衡。
- 按 evolving competence 主动分配训练样本可促进专家差异化，适合多领域商品推荐或意图分类中的专家持续训练，防止 cold-start 和同质化。
序列推荐中的快慢双系统自适应推理框架
🧭 自适应快慢推理 · 序列推荐 ★ 深度解读
City University of Hong Kong · University of Electronic Science and Technology of China · Shanghai Jiao Tong University · Fenz.AI · University of Science and Technology of China
提出 DS-Frame 插件式快慢推理框架，用样本级路由只对难样本做多步 latent refinement，在 SASRec/BERT4Rec 上平均提升约 7%
📌 工作参考价值（4 点）
- 在不改主排序模型架构的前提下，把「一次性前向」升级为「共享 encoder + 轻量 slow path + 路由 gate」。线上可以按 latency budget 调整慢路径激活率或阈值，适合精排/粗排做样本级算力分配。
- Selector 训练直接用 fast/slow 的 loss + 成本比较构造 oracle 标签，再用 budget regularizer 约束激活率；这种方法不用额外标注，业务里可先在离线训练 gate，在线只过 MLP，成本可控且路由可解释。
- Slow System 不重新 encode 整条用户序列，而是在共享表示后逐步拼接 reasoning token 做 latent refinement；配合 step embedding、KL 连续性和渐进温度退火，能稳定多步推理。可迁移到 LLM-based Rec 或 Agent 生成中间推理轨迹时稳定输出。
- 评估不仅看整体 NDCG/HR，还按用户历史长度和物品流行度分层看 group-wise 收益。电商推荐中长历史、小众兴趣用户往往是难例，这种分层能直接看到自适应推理是否真的补到短板。
Harness 持续学习：冻结模型下 Agent 外部状态的持续进化
🧭 Agent 持续学习 · Harness 进化 ★ 深度解读
State Key Laboratory for Novel Software Technology, Nanjing University, China · University of Wollongong, Australia
将持续学习对象从模型参数转向 Agent 外部 harness，通过 guarded evolution 显式控制 harness-level 遗忘
📌 工作参考价值（1 点）
- 在 Agent 系统中引入 guarded evolution：将 harness 更新（prompt、memory、routing 等）与部署分离，设置历史锚点集（anchor set）作为回归测试，只有通过当前改进、历史保留和有效性检查的新配置才上线，避免线上行为退化。\n- 借鉴四组件设计：Task Interface, Experience Memory, Capability Map, Adaptive Router 可以映射到电商/搜索推荐系统的 Agent 编排层，把用户意图解析、历史交互记忆、可用工具/策略注册、决策路由分开管理，便于持续迭代和故障定位。\n- 通过调节 historical-loss tolerance Bn 控制稳定性-可塑性权衡：在大促等需要快速适应新玩法时放宽 Bn，在稳定期收紧，实现业务节奏的灵活控制，而不是一味追求最新任务的最优。\n- 利用 LLM 从原始交互中总结抽象记忆、再提炼为可复用内部技能（inner skills），可迁移到自动从用户反馈中提炼推荐策略、生成推送文案或 query 推荐模板，形成持续进化的策略库。
技能知晓其邻居：用于技能检索的聚类对比能力页
🧭 技能检索 · 对比表示学习
Tencent IMA Product Center · Tencent Youtu Lab
通过聚类对比生成包含正触发、负边界和判别体的能力页，在不改变在线模型的情况下提升技能检索与路由性能
📌 工作参考价值（4 点）
- 当业务中存在大量语义相似但能力不同的技能/功能时，可离线编译「能力页」来增强检索区分度，避免检索器因文档描述的局限性而误召回。
- 引入负边界 T^- 用于路由阶段的候选拒绝，能有效减少下游执行器调用错误技能的概率，可直接用于 Agent 框架中的工具选择环节。
- 离线生成对比表示的思想可迁移到电商商品描述改写、广告文案检索等场景：通过对比邻近项自动生成更具区分性的描述字段，改善结构化信息的检索质量。
- 该方法完全通过改写离线库实现，无需更换编码器或修改在线模型，工程改造成本极低，适合快速验证与上线。
MoE²-LoRA：为MoE模型设计的MoE风格低秩适配
🧭 MoE模型参数高效微调
Shanghai Artificial Intelligence Laboratory · KTH Royal Institute of Technology · University of Science and Technology of China · Fudan University · The Chinese University of Hong Kong
首次用MoE路由思想做LoRA微调，复用预训练路由器激活动态选择全局共享的LoRA专家
📌 工作参考价值（4 点）
- 若内部用MoE架构LLM做推荐/对话任务（如query改写、商品描述生成），MoE²-LoRA提供了一种高效微调方案：引入全局共享LoRA专家池，既减少参数量又保持多任务适配能力。
- 路由条件投影（RCP）复用预训练路由器激活，可借鉴到多兴趣推荐模型中，用已有用户意图路由为不同兴趣头动态选择低秩适配器，避免静态分配。
- 全局专家池的层间共享机制简化了部署：只需维护一套适配器权重，节省存储和推理时IO；适合边缘设备或需要频繁更新的推荐模型。
- 实验显示该方法在多种MoE骨干上稳健提升，说明即使推荐系统的底层LLM结构变化，该方法也能迁移复用，减少适配成本。
基于路由轨迹的MoE结构化剪枝方法MAESTRO
🧭 MoE模型压缩 · 全局重要性评估
Indian Institute of Technology Delhi · NVIDIA
将专家激活轨迹建模为马尔可夫链，利用稳态分布评估全局重要性，实现MoE模型的高效剪枝
📌 工作参考价值（4 点）
- 对于部署MoE大模型的场景（如DeepSeek、Mixtral），可直接采用MAESTRO在保持性能的同时压缩50%参数，显存占用和部署成本大幅下降，适合资源受限的在线推理环境。
- 该方法通过建模专家激活的跨层转移依赖，计算全局重要性，可借鉴到推荐系统的多专家网络或多任务模型中，用于识别并裁剪冗余模块，提升模型效率。
- 剪枝过程保持路由一致性（routing-congruent），减少剪切前后路由分布漂移，这一思想可迁移到推荐模型的召回/排序链路中，在模型压缩时保留原始决策逻辑。
- 评估覆盖安全、偏见、伦理等领域，剪枝后模型跨任务方差更低，说明该方法产出更鲁棒的通才模型，适合需要兼顾多业务目标的平台（如电商搜索推荐同时需保证公平性与安全性）。
失败推理轨迹暗含可修复性，无需阅读文本即可诊断
🧭 推理模型测试时故障诊断与路由
Mila - Quebec AI Institute · Université de Montréal · Polytechnique Montréal · CHU Sainte-Justine
从失败轨迹的分布特征中提取三个问题级特征，实现测试时故障分类与路由，提升修复成功率12.2%。
📌 工作参考价值（4 点）
- 在 Agent 多步推理或推荐解释生成中，可利用轨迹分布特征（如输出一致性、多样性）区分偶发性失败与结构性失败，从而决定是重试、引导还是更重干预，避免无谓计算。
- 提出的无训练路由规则直接使用输出级别统计量（无需解析文本），可嵌入到线上系统实现快速失败分类与资源分配，特别适合延迟敏感的电商搜索或对话推荐场景。
- 特征跨模型家族迁移，意味着对黑盒推理 API 也能通过采样子集构建诊断器，无需访问权重或训练数据，适合在第三方模型上部署。
- 通过分析不同后训练方法下的失败地形，可指导 fine-tuning 策略：若模型在特定失败类别上聚集，可针对性补充训练数据或调整偏好。
SCOUT：基于事前推理的自适应检测器分配防御提示注入
🧭 提示注入防御 · 自适应检测器分配与路由 ★ 深度解读
UC San Diego · University of Illinois Urbana-Champaign
SCOUT 通过预测各检测器对每个请求的可靠性与延迟，动态分配轻量检测器并按需升级至 LLM 法官，实现可控的安全-效用权衡
📌 工作参考价值（4 点）
- 多检测器动态分配架构：可借鉴"指纹+预测器"的轻量路由思路，为电商推荐系统的多模型服务（如不同召回、排序模型组合）建立自适应调度，根据请求特征选择最优模型子集，避免昂贵的全模型调用。
- 成本-质量可预测控制：通过事前估计延迟和正确性并绑定单一阈值，可实现服务等级协议（SLA）管理，如限时延迟预算，自动选择满足延迟约束下最可靠的模型组合，适用于在线推理的时序控制。
- 异质模型池的无缝扩展：新检测器仅需在锚点集上记录行为即可加入路由，无需重训练路由策略，该模式可直接迁移到多模型服务中，降低新增模型的上线成本。
- 风险分级与升级机制：在 Agent 工作流中，可将不确定请求升级至更强大的模型（类 LLM 法官），平衡安全与成本，适用于高敏感对话、交易风控等场景。
RouteProfile：揭示LLM路由中模型profile设计空间
🧭 LLM ★ 深度解读
University of Illinois Urbana-Champaign · Nanyang Technological University
定义LLM路由的profile设计空间，发现结构化、可训练profile显著提升路由与新模型泛化能力