从意图到提升：面向模型训练的 Agent 数据集搜索框架
🧭 LLM Agent 约束治理的数据集检索
Nanjing University · State Key Laboratory for Novel Software Technology
提出契约治理的 AgenticDS 框架，用 typed object 约束 LLM 决策并验证约束，显著提升数据集搜索与下游训练效果
📌 工作参考价值（4 点）
- 在商品召回/广告候选生成中，让 LLM 先输出结构化筛选条件（类目、价格、库存、品牌授权、合规标签）再交给确定性规则引擎执行，避免模型自报匹配但漏硬约束；这种 typed object + deterministic operators 的边界可提升链路可信度。
- 稀疏元数据的长尾商品/新广告主：用有界图扩展（如品牌→店铺→商品，或类目→属性）补全语义缺失，但必须限制跳数避免噪声，类似 bounded graph expansion。
- 当模型输出候选列表时，要求先基于 provenance 证据验证（例如商品属性值、广告审核字段）再排序，不通过时返回可解释诊断与局部修复指令，减少整条链路的无效重试。
- 对含硬约束的 query（如“高转化且库存>100且配送时效24h”），可借鉴 typed search plan 编译方式，把自然语言 query 解析为可执行计划，而不是直接用向量检索。
代数世界模型：从探索到证明
🧭 形式化世界模型构建与证明
Zhejiang University · Tsinghua University · Shanghai QiZhi Institute
AWM将未知环境探索与假设检验转化为可被Lean形式化的代数模型，能证明不可达性与最优界
📌 工作参考价值（4 点）
- 在动态未知环境（如策略模拟、A/B测试前验证）中，用可执行假设+形式化验证替代黑盒模型，可证明目标不可达或边界，避免无效实验投入。
- 把交互中发现的规则提取为类型化对象与共享规则，并用范畴论引导简化，有助于构建可解释、可审计的决策规则集，降低策略上线风险。
- 反馈驱动的规则修订机制：仅给出“存在更优解”的弱反馈即可推动模型更新，可借鉴到自动策略迭代与约束优化中。
- 但应用场景偏形式化/游戏环境，直接迁移到大规模推荐系统有距离，主要价值在可解释规则建模与复杂约束下的可靠性保障。
DAMI：双轴记忆初始化增强门控线性注意力长上下文检索
🧭 门控线性注意力 · 记忆初始化 ★ 深度解读
SpeedAI · Beihang University
联合配置头时间尺度与层输入敏感度，在不增加参数的情况下提升五种线性注意力架构的长上下文检索准确率
📌 工作参考价值（4 点）
- 用户长期行为序列建模：若用 Mamba/GDN/RWKV 等线性注意力处理用户长 session，可将多个 head 的衰减时间尺度几何分布（如 1~4096），让不同 head 分别捕捉近期点击与长期偏好；避免统一衰减导致远期信号被遗忘或近期噪声过拟合。
- 分层表征初始化先验：低-高-低输入敏感度可迁移到推荐/Ads 塔：浅层 embedding/low-level 层保持低敏感性求稳定，中间交叉层高敏感捕捉动态，深层汇总层再低敏感防止稀有关联消失；配合无梯度校准，只需少量业务激活即可完成初始化。
- 工程可插拔且零推理成本：DAMI 仅改变衰减侧初始化，不增加参数与推理开销；适合作为现有 SSM/线性注意力推荐模型的 baseline 增强，尤其当业务数据分布迁移或长上下文需求提升时，可低成本重校准。
- 长上下文检索能力：若模型需要从长会话/长文档中检索相关信息（例如客服历史、详情页关联），可参考 RULER 风格评估，并利用该初始化改善远距离依赖命中。
DeFT-RAG：将多跳问题分解为带可复用答案的自包含子问题
🧭 多跳 RAG 子问题分解与缓存复用
University of Texas at Dallas
DeFT-RAG 用自包含子问题分解、规则化状态跟踪和 QA 缓存复用，提升多跳 RAG 准确率并降低 LLM 调用成本
📌 工作参考价值（3 点）
- 在电商客服或商品知识问答中，把多跳问题拆成“自包含”子问题，每个子问题显式带出所有实体，避免让 LLM 自己规划依赖图；可显著减少状态跟踪和错误传播。
- 将“哪些已答、下一步该问什么”等状态更新从 LLM 中剥离，用规则表维护 QA 状态，再用轻量决策模型做 yes/no 判断，能大幅降低 LLM token 消耗和推理延迟。
- 缓存跨请求的 QA 对，遇到语义相同的子问题直接复用答案，适合推荐系统中用户高频重复的子查询（如商品属性、活动规则），可在不牺牲准确率的前提下减少 12%+ 的 LLM 调用。
多视角 MoE：让每个路由头共同塑造专家计算
🧭 稀疏 MoE 多路由与视角混合 ★ 深度解读
Baidu ERNIE Team
通过多路由聚合与路由偏好驱动的专家输入混合，在固定专家预算下提升稀疏 MoE 选路与表达能力
📌 工作参考价值（4 点）
- 如果线上大模型采用 MoE 推理，可在不增加专家 FLOPs 与 all-to-all 通信量的前提下，仅增加约 0.19% 参数，通过多路由头求和与多视角输入混合获得稳定下游收益；对固定延迟预算的搜索/推荐大模型升级较友好。
- 借鉴 score-conditioned input mixing：对每个选中专家，用其跨路由头的归一化 sigmoid 分数混合多个 latent view，在同一 token 下让不同专家看到不同输入；实现时在 dispatch 前完成混合，保持通信量不变。
- 路由诊断可复用：用 dense evaluation 计算所有专家输出 L2 norm 归一化后与 router score 的 Spearman 相关性，定位中深层选路与真实专家效用弱对齐的层；发现弱对齐后针对性地引入多路由或重新训练。
- 从已有 LatentMoE 或类似 checkpoint 升级时，保留 backbone 投影为 View 1，其余视图用 ramp perturbation 从零逐步放开，能在不明显破坏初期训练的情况下平滑加入多视角能力。
多智能体协作中的校准置信度学习
🧭 多智能体协作 · 置信度校准 ★ 深度解读
University of Science and Technology of China · Qwen Business Unit of Alibaba · National University of Singapore
让多智能体在 RL 中联合学习任务与校准置信度，并在交接与最终输出传递该信号，提升协作准确率与可靠性
📌 工作参考价值（4 点）
- 在多级 Agent 检索/推理流水线中，每个 handoff 都附上 calibration 后的置信度，而不仅是最终答案；下游做 query 分解、召回、重排或审核时，可以把上游置信度作为显式特征，决定是否追加检索、采信或改写中间结果。
- 训练下游 Agent 时，上游模型冻结并用其真实报告做训练数据，避免离线报告与在线行为不一致；可用 confidence-aware weighting 的做法：把置信度 mask 掉重打分，以 per-token log-prob 变化识别真正受置信度影响的位置，对这些位置加权 task advantage，能强化模型对置信度信号的利用。
- 最终置信度可用于选择性回答和定向复查：高置信请求自动返回或进入低成本通道，低置信请求追加检索/二次审核/人工兜底，实现覆盖率和准确率的可控权衡；在电商搜索、广告文案生成、Agent 客服等对可靠性敏感的场景尤其适用。
- 小心未校准置信度：论文显示去掉 BCE calibration loss 后，融合场景准确率会低于完全不传置信度的 MAS；也就是说不可靠的置信度可能比没有信号更误导下游，上线前应做 Brier/AUROC 校验。
EnvOS：审计动态变化环境下的计算机使用智能体——基于现象的任务构建、认证与证据评估
🧭 智能体动态环境可靠评估
QpiAI, Bangalore, India
提出 EnvOS 框架，在执行前认证环境变化、任务可解性和评分器，执行后基于存档证据复核判决，可靠评估动态环境中的计算机使用智能体
📌 工作参考价值（4 点）
- 在电商/广告的 Agent 评估中，主动构造「陈旧信息」场景：让价格、库存、政策等状态在任务中途被后台流程或其他 Agent 修改，检验模型是否在关键动作前重新读取源数据，避免仅靠静态测试集漏掉此类失败。
- 借鉴 EnvOS 的评估前置认证：上线 Agent 评估前，先验证环境变化是否按预期触发、任务在变化后是否仍可解、自动评分器是否能区分正确与错误轨迹，防止评估本身的 bug 干扰模型能力判断。
- 自动评分后增加独立的证据复核环节：从运行日志/截图等存档证据中，用与评分器解耦的代码二次确认判决，减少误判；在压测中发现简单日志检查漏检率高，需设计更严格的证据校验。
- 若业务中有可验证的业务规则（如订单状态流转、审批条件），可仿照 EnvOS 用种子生成环境并由审计后的自动验证器评分，为 Agent 提供可验证奖励，适合用于 RLVR 训练，优化会话策略或多步操作。
EvoTeam：通过演化团队实现多智能体协作
🧭 多智能体团队演化与协作优化
Jilin University · Nanjing University of Science and Technology · Shanghai AI Lab
提出协作中心的多智能体演化框架，联合演化团队组织、交互规则与个体技能
📌 工作参考价值（4 点）
- 团队库 + 任务路由：在电商多 Agent 系统中，可按 query 类型或场景维护可复用团队模板（如搜索意图理解团队、推荐策略团队），根据任务相似度选择或新建团队，避免每次从零组队。
- 团队特定交互规则：不要全局统一 Agent 通信协议，针对不同协作上下文定义 team-specific interaction rules，例如广告投放中的“预算控制 → 出价 → 创意”顺序与约束可随经验动态调整，避免规则跨场景污染。
- 个体技能跨团队复用：将每个 Agent 的提示词/技能封装为可插拔模块，允许同一 Agent 在不同团队中使用，降低重复开发；团队级经验只在兼容上下文中积累，防止跨任务负迁移。
- 演化机制可离线沙盒回放：在搜推任务中利用历史 session 作为反馈，对团队组织与交互规则做进化搜索，在线只保留最优团队配置，降低试错成本。
放射学指南衍生决策图提升临床决策支持效率
🧭 LLM 决策图推理
The Hong Kong Polytechnic University
LLM 构建可执行决策图，System One 模型 + 确定性遍历将准确率从 57.3% 提升至 90.8%
📌 工作参考价值（4 点）
- 电商营销/风控/售后 SOP 等规则密集场景可借鉴决策图架构：LLM 离线从政策文档/规则手册构建决策图，线上用轻量模型回答局部问题 + 图引擎做布尔分支，避免每次请求都调用大模型完整推理。
- 把“理解规则”和“执行规则”解耦：LLM 负责把非结构化输入转成结构化判断，确定性遍历保证一致性和可解释性，降低规则偏离风险。
- 用 System One / 快速模型做子问题判断，可显著降低延迟与成本，适合高 QPS 推荐/Agent 场景中需要规则判定的环节。
- 决策图天然生成可追溯的决策路径，便于审计、bad case 归因和 A/B 测试；在广告审核、商品合规等强解释流程中可直接复用。
分解、估计、选择：面向长文本 RAG 的覆盖感知上下文构建
🧭 RAG 覆盖感知检索与自反馈生成 ★ 深度解读
New York University Shanghai · New York University
提出覆盖感知 RAG 流水线，通过子问题分解、覆盖矩阵估计和贪心选择提升证据覆盖，并发现检索覆盖提升未必带来答案覆盖提升
📌 工作参考价值（4 点）
- 覆盖感知选择层面：在长文本问答/报告生成场景，不要只用相关性排序，可将用户 query 拆成多个子问题，用 cross-encoder 预测文档×子问题覆盖矩阵，再贪心选择最大化覆盖。这种思路可直接迁移到商品详情页摘要、多属性商品推荐理由生成、广告文案多卖点覆盖等任务。
- 自反馈环节：发现检索到的证据覆盖率提高不一定带来答案覆盖提高，瓶颈在生成器的利用。可做“生成→自我 critique→指出未充分利用的文档→在同上下文二次生成”，不增加检索成本就能提升答案完整性。在电商场景可用“第一次生成标题，让模型指出漏掉的卖点，再基于同一商品描述重写”的迭代文案优化。
- 工程权衡：子问题分解用 GPT-4o 比开源 7B 只高 0.027 α-nDCG，成本可控。交叉编码器估计覆盖矩阵是关键瓶颈，估计不准导致性能损失大于子问题分解，建议投入更多数据训练 coverage estimator。
- 评估启示：用 α-nDCG、Vstrict 等覆盖指标区分冗余证据，比单纯 nDCG 更能反映长文本效果。若业务目标是多卖点覆盖（如商品标题需覆盖不同卖点），可引入类似 nugget 的原子事实评估，避免模型重复强调同一卖点。
FIRME：基于注册锚定记忆图演化异构投资者知识
🧭 Agent 持久记忆 · 实体对齐知识图谱
The Vanguard
用注册锚定记忆图解决知识图谱中同一关系表面形式不同导致的历史碎片化问题，提升跨期实体对齐与证据积累
📌 工作参考价值（4 点）
- 可借鉴 registry-anchored 的实体管理思路：在电商/推荐场景中，同一商品、用户、话题常以不同表面形式出现在搜索、评论、会话、交易等来源，建立 canonical identity + persistent alias 的注册表能避免关系历史碎片化，让跨渠道、跨会话证据持续积累。
- deterministic updates 对强化、休眠、再激活的总结方法可以迁移到用户兴趣或商品热度的时间衰减模型：不依赖重训 embedding，而是在图谱层维护带时间戳的聚合状态，降低工程复杂度。
- rule-based fusion 结合固定 ontology 的做法可作为轻量级替代：在没有大量标注的情况下，把非结构化文本（如客服对话、商品评论）与结构化信号（如购买、现金流）对齐，适合快速搭建可解释的领域知识层。
- 关注 provenance 与 round-trip 诊断：在 Agent 或 RAG 系统中输出必须可溯源，FIRME 保留 source/time/context 并提供提取忠实度检验，这对线上推荐解释、风控审计有直接参考价值。
辅助奖励驱动的自改进：从验证轨迹中学习并评估迁移
🧭 小模型推理自改进 · 轨迹级辅助奖励
Georgia Institute of Technology
提出用置信度/熵辅助轨迹偏好区分同等正确推理，提升小模型自改进与跨任务迁移
📌 工作参考价值（4 点）
- 业务 LLM 生成推荐理由/query/文案时，常只有点击/转化等弱反馈；可引入置信度（SC）或熵变化+局部平滑度（UID-Conj.）作为辅助奖励，对正反馈轨迹打分，筛选高质量样本做 SFT，在标注有限时提升迁移表现。
- 离线加权 SFT 比在线 TTRL 更稳定且证据更强：同一响应池按辅助奖励加权训练，较均匀加权提升 1.93 点（CI [0.44,3.44]）。业务可优先做离线加权精调，成本低、便于上线。
- 辅助奖励选择依赖任务：SC 更适合判断指令遵循和轨迹质量；UID-Conj. 在多种训练设置中更利于下游收益。实际可两者都算，在验证集上选择权重或融合，而非只看推理偏好。
- 评估轨迹偏好应以最终业务指标为准，而非仅看推理期排序一致性；建立下游 A/B 或离线 proxy 评估，辅助奖励要暴露学习价值。
GistRank：基于 Gist 压缩的大模型列表级排序
🧭 LLM listwise 重排 · Gist 压缩 ★ 深度解读
Southwest University · Renmin University of China · Yuanbao Team, Tencent · Institute of Computing Technology, Chinese Academy of Sciences
用三阶段训练将每个候选段落压成4个gist token，在TREC/BEIR上以约14倍加速逼近全文本重排效果
📌 工作参考价值（4 点）
- 把商品标题/详情/卖点用 Stage 1 的 query 预测目标预训练成 4 个 gist token，线上重排只拼接 gist，可将 100 个候选的 prompt 从 8k+ token 降到约 1.25k，延迟和 KV cache 占用大幅下降
- 借鉴 Stage 2 的 citation/click 偏好：在电商搜索中可用点击 vs 曝光、成交 vs 点击构造成对数据，训练 gist 或 item 表示具备判别性，无需昂贵人工标注；再用少量人工/LLM 标注做 Stage 3 listwise 微调
- 用 rank-slot + ListMLE 非自回归打分替代 LLM 自回归生成排序，可以把排序阶段从生成式 token 序列变成一个固定大小的打分矩阵，吞吐更稳定，适合在线 serving
- 注意成本结构：候选压缩占 90%+ 延迟，优先考虑对全量商品库离线预计算 query-independent gist 或做近似缓存，只在线对当前 query 做轻量融合/重排序
Gym-Anything for Robotics：用编码智能体规模化物理仿真
🧭 编码智能体自动生成仿真与基准
Carnegie Mellon University
让编码智能体自动创建机器人仿真环境，构建 RoboWorld 基准并利用特权教师等方法提升前沿模型在 RL 任务上的表现
📌 工作参考价值（4 点）
- 借鉴“creation-audit loop”自动生成与校验训练环境：在电商搜索推荐中，可用 LLM Agent 批量生成模拟用户行为序列、查询、商品集合，并用另一个 Agent 对抗式审核其真实性与难度，替代手工构造离线评估集。
- 利用 GDP/价值导向的任务选择思路：优先覆盖高频、高价值业务场景（如高转化 query、高 GMV 类目），让生成的环境更贴近线上收益目标。
- 引入 privileged teacher 机制：训练推荐或对话 Agent 时，可让模型在训练阶段访问真实用户意图/隐反馈作为“特权教师”，在上下文中指导学生策略，提升对稀疏反馈的利用效率。
- 用 code policies 生成跨场景演示数据：在生成式推荐或 Agent 决策中，编写代码策略自动产出不同场景下的示范轨迹，用于蒸馏 VLA 型模型，降低人工标注成本。
InterA11y：基于 LLM 智能体的交互式网页可访问性错误检测
🧭 LLM Agent 结合 rubrics 与工具审计
University of Washington · Cornell University · Carnegie Mellon University
结合可测试规则分解与确定性交互工具，显著提升 LLM Agent 网页可访问性审计召回并保持高精度
📌 工作参考价值（4 点）
- 将复杂质量标准/规则分解为可测试的 rubrics，并由 agent 逐步收集证据，可用于商品信息合规审核、广告审核、推荐理由生成等场景，降低 agent 主观误判。
- 用确定性工具（如 DOM 检查、焦点/错误消息提取）替代或补充 LLM 直接推理，能减少 token 消耗和幻觉，提高 precision，在需要高准确率的业务（如广告审核、商品合规）可借鉴。
- 系统架构上采用 LLM 负责规划与证据解释、工具负责确定性检查，可隔离不同模型间的表现差异，推荐系统 agent 协同中也可采用同类混合架构。
- 评估方法上，用专家标注案例集对比召回/精度并关注跨模型一致性，对业务上线 agent 的评测与可信度验证有参考价值。