Skill2Query：利用技能结构生成伪查询用于Agent技能检索
🧭 Agent 技能检索 · 结构感知伪查询生成 ★ 深度解读
Fudan University · Sun Yat-sen University · Shanghai Innovation Institute · Shanghai Jiao Tong University
将技能文档解析为知识图谱，三阶段生成能力对齐、参数一致的伪查询，提升检索与训练效果
📌 工作参考价值（4 点）
- 对电商/Agent 平台的技能、工具、商品文档检索：不要直接把整篇文档塞给 LLM 生成伪查询；先做结构解析（能力点、参数 schema、使用示例），再分阶段生成，能明显改善参数一致性与能力覆盖。
- 伪查询可同时服务离线索引增强和在线查询扩展：离线对名称/简短描述这类稀疏索引收益最大；在线适合补长尾表达，配合 RRF 融合简单有效。
- 在 fine-tune retriever 前，用 Exec-Pass、Func-Coverage、Distinct-3 等指标筛选结构合法的伪查询，比只追求表面多样性更能提升下游 R@1/nDCG@1。
- 当底层 LLM 推理能力较弱时，高质量技能/工具检索对端到端任务成功率提升更明显；在导购 Agent 或工具推荐中可优先把检索质量做高，而不是依赖强模型硬扛。
StartupBench：基于市场验证的端到端工作流评测通用智能体
🧭 Agent 端到端真实工作流评测
ByteDance Seed · Nanjing University · M-A-P · TokenWave.AI
构建首个基于市场验证 AI 创业产品工作流的端到端 Agent 基准，最强模型完成率仅约30%
📌 工作参考价值（4 点）
- 构建内部 Agent 评测集时，不要只依赖公开基准或研究者自选任务，可以从已上线且有稳定用户的产品工作流中提取真实任务，例如电商运营中的选品分析、商品文案生成、营销活动策划、客服工单处理等，让评测更贴近业务真实需求。
- 采用 deliverable-oriented 的任务定义：要求 Agent 产出完整可交付物（如报告、代码、设计文档），并用细粒度 rubric 对多个维度打分。这样可以捕捉部分正确但不可交付的中间进展，比简单的 pass/fail 更能区分模型能力。
- 论文发现复杂指令遵循和领域专业知识是主要失败点。在电商/广告场景落地 Agent 时，建议通过领域知识注入（如 RAG 挂载商品知识库、行业规则库）和约束检查模块来强化这些薄弱环节，而不是单纯依赖通用大模型。
- 评估时要使用统一的 agent harness，避免不同框架差异干扰模型能力判断；同时关注模型在部分进展上的表现，为迭代优化提供信号。
TileMix：面向 LLM 推理加速的 Tile 中心混合精度注意力
🧭 LLM 推理 · 混合精度注意力 kernel ★ 深度解读
University of North Texas · Saint Louis University
通过 tile 分组路由 FP16/INT8 注意力计算，在保留 dense 连接的同时加速长上下文 prefill 并恢复质量
📌 工作参考价值（3 点）
- 长上下文 RAG / Agent memory / 多跳检索场景中，prefill 是延迟大头；可借鉴按 attention score tile 分组做混合精度（关键区域 FP16，其余 INT8），而不是整层 uniform INT8，能在质量和吞吐之间拿到更好 trade-off，且无需训练或改模型权重。
- 路由模板可直接复用稀疏注意力的空间先验（local band / global / random / SpTrans / BigBird），但只决定精度路径、不删除 token 交互；业务上可先用静态模板快速验证哪些位置对效果敏感，再考虑升级为自适应或 learnable 路由。
- INT8 KV cache + per-block scale 能降低显存和 decode 成本，同时 V 保持 FP16 做 PV 更新，工程风险较低；如果使用 FlashAttention-style serving，可参考其 shared online-softmax 状态与 bitmask constant-time 查找的集成方式，支持 GQA 和 variable-length batching。
TRACER：平衡 LLM 增强持续推荐的稳定性-可塑性-认知性三元悖论
🧭 LLM 增强的持续推荐 · SPC 权衡 ★ 深度解读
Pohang University of Science and Technology · University of Illinois Urbana-Champaign · Korea University
提出 TRACER，通过 Procrustes 初始化、置信门控+LoRA 推理、梯度同步 guidance，在 LLM 增强持续推荐中同时缓解遗忘、适应与语义偏置
📌 工作参考价值（4 点）
- 在持续推荐/流式更新中引入 LLM 语义 embedding 时，不要无脑 concat 或全量微调 adapter：建议按初始化/推理/损失三处分别设计约束。冷启动 item/user 可用正交 Procrustes 将语义 embedding 旋转到已有 ID 协同空间，再做局部邻居校准，避免语义空间与协同空间坐标系不一致。
- 线上 serving 用 LLM 语义特征时，可加 confidence gating + LoRA 低秩更新 adapter。按曝光频率门控：高冷实体更多注入语义，热门实体更多信任 ID 协同；跨 stage merge LoRA residual、冻结 bias，防止语义主导 ID 学习。
- 训练目标里做语义对齐时，先计算 rec loss 与 semantic guide loss 的实体级梯度 cosine；同向才开启 semantic guide，反向则切换为对上一轮参数的 retrospective regularization（已有实体）或直接只学 rec（新实体）。这比固定权重蒸馏更能保护历史和新兴趣。
- 评估 LLM 增强持续推荐时别只看整体 NDCG；建议补 BWT/TRG/SRT 类指标，分别监控历史遗忘、新兴趣适应、语义先验贡献，避免出现 KAR/LLM-ESR 式语义过拟合而 TRG 很低的问题。
TREC 2025 产品搜索与推荐评测任务概览
🧭 电商搜索与推荐评测 · 产品关系数据集
University of Illinois Urbana-Champaign · Coursera · Snowflake · Coupang · Waseda University
提供 TREC 2025 产品搜索与推荐评测框架，新增区分互补/相关关系的产品推荐标注数据集
📌 工作参考价值（4 点）
- 产品关系建模：借鉴其区分 complementary（互补，如配件）与 related（相关，如替代品）的思路，在电商推荐中构建更细粒度关系标签，用于训练排序模型或构建知识图谱，提升推荐可解释性和多样性。
- Query 扩展任务：在搜索/推荐中，query expansion 可用于生成式推荐（LLM4Rec）的 prompt 设计或 query 特征增强；可参照其评估框架设计离线和在线指标，验证扩展 query 对检索效果的影响。
- 对话式产品发现：数据标注为 complementary/related 为对话式购物代理（Agent）提供候选商品关系基础，可用于约束 LLM 生成的候选 item 集合，减少幻觉，提升上下文相关性。
- 开箱即用评测：若公司需快速验证检索/推荐模型，可复用该 benchmark 作为外部评测集，节省自建标注成本；同时其任务设计启示内部评测集应区分“互补”和“相关”，避免混淆。
UniDot：统一序列建模与特征交互的大规模推荐架构
🧭 统一序列建模与特征交互架构 ★ 深度解读
Meta
以点积为统一原语，用双总线并行堆叠块融合序列与特征交互，获 KDD Cup 2026 工业赛道亚军
📌 工作参考价值（4 点）
- 显式保留 FM 级点积交互：在深层残差网络旁路增加一个 FM Highway，把每层 token 点积、Gram 矩阵、跨总线 user-item 点积直接 concat 送进分类器，消融显示去掉后 AUC 掉 0.127%，成本极低。现有 DeepFM/DCN 等模型可以借鉴：不要把所有低阶信号都交给深层网络隐式学习，显式旁路对 CTR/CVR 任务性价比很高。
- 多路径互学习（DML）：两条相同结构、共享稀疏 embedding 表的路径互相蒸馏，推理时可以只用单路径（1× 成本），但训练时多路径正则化能把单路径模型拉到更好最优解。论文中单路径就能拿亚军，适合需要严格控制线上推理成本的场景。
- 序列编码一次、多处共享：行为序列 embed 一次，同时供 cross-attention、池化等多个消费者使用，避免重复编码。多域行为按时间戳 merge 成一条流，再与原始 domain 并行，能捕捉跨域时序模式。这个工程实现可显著降低推荐系统序列侧的推理延迟。
- 冷重启 embedding 对抗时间漂移：每个 epoch 后把高基数 embedding 表重新初始化，dense 参数保留，让 embedding 每轮重新学习，适配广告推荐中训练/测试时间差小的场景。对于电商大促、广告新广告位等快速变化场景有参考价值。
隐式反馈下的无偏推荐系统
🧭 无偏推荐 · 位置/流行度偏差
University of Illinois Chicago
系统研究推荐中位置偏差与流行度偏差的缓解方法，覆盖LTR、CF和GNN社交推荐
📌 工作参考价值（4 点）
- 位置偏差处理：在电商搜索/推荐排序中，可直接借鉴无偏LTR的思路，如使用逆倾向加权（IPW）或引入位置作为特征，在训练时对点击/成交等隐式反馈进行去偏，减少高排名项的虚假优势。
- 流行度偏差缓解：面对冷启动或长尾商品，可参考CF和GNN上的去偏方法，例如对热门物品进行负采样抑制、在损失函数中加入流行度正则项，或使用图结构上的邻居重加权，提升长尾物品曝光公平性。
- 社交推荐扩展：若业务中有社交关系或用户-用户图，可将该研究中的GNN去偏思路迁移至社交电商场景，例如在聚合邻居时考虑交互偏差，避免高流行度节点主导表示。
- 工程实现建议：部署时需监控线上指标与离线指标的一致性，位置偏差可能导致离线AUC虚高，建议在评估阶段也采用无偏指标或对曝光概率进行校正。
超越正确性：混合思考多模态大模型的响应行为基准与对齐
🧭 MLLM 响应行为对齐与 RL 训练
Institute of Automation, Chinese Academy of Sciences · Large Language Model Department, Tencent · University of Electronic Science and Technology of China · Hong Kong University of Science and Technology · Zhongguancun Academy
提出 PatternEval 诊断基准与 PatternRL 训练框架，缓解混合思考 MLLM 思考/非思考模式响应行为失配
📌 工作参考价值（3 点）
- 混合思考部署模式（如电商客服/推荐 Agent 中快速模式与深度推理模式并存）需监控响应行为一致性，尤其防止 CoT 泄漏暴露内部推理链（可能泄露用户特征或策略细节），论文的 PatternEval 四类失败可作为线上评测指标。
- RL 训练阶段引入 pattern-specific penalties（PatternRL）可在不显著影响任务准确率的前提下对齐非思考与思考模式，这种分模式惩罚思路可迁移到生成式推荐中，用于约束不同解码策略（如 greedy vs. beam）下输出风格一致。
- 构建评估集时主动注入已知失败模式（failure-enriched）比均匀采样更能暴露模式差异，可用于生成式推荐/Agent 的离线和回归测试，提前发现长尾行为问题。
ClawGym II：在 Agent Harness 上探索黑盒强化学习
🧭 Agent 黑盒 RL 训练 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · IQuest Research
提出统一黑盒 RL 框架，通过不透明 harness 稳定规模化优化通用 Agent，并支持混合 harness 联合训练
📌 工作参考价值（4 点）
- 把生产 harness 直接当 rollout engine，而不是重写 agent loop：电商/广告/搜索推荐中的 Agent 常运行在复杂编排系统里，重写会丢失上下文管理、重试、工具调度等关键行为。可以在模型服务边界加 proxy 拦截所有模型调用，以 token-in-token-out 记录真实推理轨迹，再拿去做 RL 训练，避免训练-推理不一致。
- 用 prefix tree 恢复分叉、去重的多轮轨迹：同一 rollout 可能因 compaction、subagent、重试产生大量共享历史。组织成前缀树后，只优化 main trajectories，过滤 dead leaves 和过分支 rollout，能显著降低噪声、提升训练效率；推荐/搜索 Agent 的多轮交互同理适用于这种树结构消重。
- 引入 token-level importance sampling 校正 rollout 与训练引擎概率差异：训练和推理引擎即使同一模型也可能因数值精度、并行方式产生 log-prob 偏差，直接优化会带 off-policy 噪声。加一个截断的 token 级 IS ratio 是低成本、易迁移的稳定性 trick。
- mix-harness 训练可提升跨执行系统泛化：如果业务中同一策略会跑在不同工具接口、不同上下文管理或不同编排系统上，可把同一 task 与多个 harness 配对，按 task-harness pair 做分组 advantage 归一化，再联合梯度更新，避免策略过度绑定单一系统。
从序列到结构：LLM Agent 的关系型不确定性传播
🧭 LLM Agent 轨迹级不确定性量化 ★ 深度解读
Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences · University of Chinese Academy of Sciences
将 Agent 执行轨迹建模为关系图并传播不确定性，提升长程任务失败检测与提前干预能力
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 的多步工具调用链中，可把轨迹建成关系图，重点监控 repetition、feedback conflict、goal drift 等边类型，形成失败预警信号；这比只看 token entropy 更能提前发现连环错误。
- 图构建采用轻量规则 + embedding/tool signature 匹配 + lexical cues，不增加大模型调用成本；可在搜索/推荐助手中实时识别 error、empty observation、重复 action 等，触发降级、重试或人工接管。
- 不确定性引导采样策略可落地：每步生成多个候选 action/query，选择 RUPA 风险最低者执行，适用于商品搜索、参数补全、推荐解释生成等需要抉择的场景。
- 论文的 entropy-matched 分析表明，即使单步置信度相近，轨迹结构信息仍有区分度；因此推荐/搜索 Agent 可把轨迹图风险作为排序或策略选择的额外特征，而不是只依赖单步 model confidence。
电商产品媒体排序的序列化多模态证据优化
🧭 多模态媒体排序 · 离线策略优化 ★ 深度解读
Amazon.com Inc.
两阶段效用引导框架学习前缀转化效用并训练生存加权自回归策略，将决策关键媒体前置
📌 工作参考价值（5 点）
- 两阶段解耦：先学习并冻结轨迹效用模型作为 reward，再训练 Pointer Network 排序策略，避免直接对稀疏终端转化做 REINFORCE；适合 item/媒体 slate 排序，稳定且易于调参。
- 生存加权 reward-to-go：用用户到达位置的概率乘以边际效用作为逐步奖励，显式将高价值媒体前置，降低滑动深度；比终端回报和点击代理更贴合转化目标。
- PAL 双塔去位置偏差：训练时位置塔吸收 slot 偏差，推理/策略优化时丢弃，防止位置效应污染内容表示；离线评估中移除 PAL 会同时损伤 CVR 和 MSC。
- 交互特征 masking：训练期按概率将 dwell/click/zoom 替换为 mask token，推理全 mask，弥合 train-serve 分布差异；在实时交互特征不可用的排序场景可复用。
- 冻结效用模型支持 leave-one-out counterfactual 归因，无需媒体级标签即可评估每个媒体贡献，用于内容审计、低价值替换和类目级媒体策略。
FreeToken：面向边缘环境的带宽自适应 MoE 高效推理系统
🧭 边缘 MoE 推理系统 · 带宽自适应执行
UC Berkeley · UT Austin
通过带宽自适应执行与全栈协同设计，将前沿 MoE 模型高效部署到个人异构硬件
📌 工作参考价值（4 点）
- 若业务中需本地或边缘侧部署 MoE LLM（如 query 改写、商品文案生成），可借鉴 FreeToken 不固定 offloading 策略的思路：根据当前 PCIe 带宽、CPU/GPU 算力动态决定 expert 常驻位置，而非依赖静态预设。
- 对 Agent 类工作负载（多轮工具调用、长上下文），关注其请求模式动态变化，利用请求间共享前缀缓存与状态复用，减少重复 KV cache 重构，降低长尾推理成本。
- 在异构硬件集群中做推理调度时，可将模型状态视为可迁移资源，按机器实际可用内存、带宽和计算强度做细粒度映射，而非只按 GPU 数量分配。
- 若团队使用开源 MoE 模型做离线批量生成（如推荐理由生成、广告文案扩展），可参考其对模型权重分片与流式加载的工程优化，降低对单机 GPU 显存的硬性要求。
HarnessEval-W：将视觉世界评估智能体化
🧭 多智能体分层评估世界模型
提出分层多智能体评估流程，把世界模型评估转化为可验证的证据树
📌 工作参考价值（4 点）
- 借鉴其分层 agent 评估架构：将复杂评估任务拆解为多个可测量子问题，每个子问题交给专门的子 agent 处理，父 agent 汇总证据。适合评估生成式推荐或搜索 Agent 的输出质量，例如分解「推荐相关性」「文本流畅性」「商品属性一致性」等维度并行诊断。
- 强调推理链与证据树：评估结果必须能追溯到具体证据，而非仅给出分数。在业务中可用于 user study 自动化替代，或对推荐理由、搜索改写结果做可解释的质量审计。
- 子 agent 配备定制上下文与诊断工具：可针对不同评估维度注入业务规则、商品知识图谱、历史 CTR 等工具，让评估更贴近业务场景。
- 开源 pipeline 可作为内部评测框架的基础，尤其适合多模态生成（如商品图、短视频、虚拟主播）的质量评估。
HyMem：通过信息隔离实现长程智能体的分层上下文管理
🧭 Agent 长程上下文分层隔离 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Nanjing Artificial Intelligence Research of IA
提出训练无关的分层上下文隔离框架 HyMem，将规划、执行、子任务推理与结构化记忆分离，显著提升长程 agent 的 Pass@1
📌 工作参考价值（4 点）
- 把 planner 与 executor 上下文彻底拆开，执行结果只回传 schema 化 RESULTS/RETURN，原始工具输出、重试和中间推理留在临时 context；适合电商导购 Agent 在多轮搜索与商品比较时，防止详情页噪声淹没主任务。
- 复杂子任务用独立的 isolated reasoning session 处理，返回结论+证据+confidence，主 planner 不累积推理过程；可直接用于优惠计算、多条件筛选、价格/评论冲突验证等需要多跳分析的导购场景。
- 结构化记忆分三类：episode/working/tool memory，fold 时只保留里程碑、当前目标和可复用工具经验；可用于长会话用户偏好记忆与跨会话召回。
- 确定性 fold triggers（planner ctx 利用率>0.99、连续失败>=3、tool calls>=10 等）可照搬，训练无关、即插即用；适合在现有 ReAct/搜索推荐 Agent 上快速压测上下文稀释问题。
跨模型记忆迁移：目标侧 reader 适配的关键作用
🧭 LLM 外部记忆跨模型迁移与 reader 适配
ELLIS Institute Finland · University of Turku · University of Technology Sydney
提出跨模型冻结 Engram 记忆迁移范式，发现目标侧 reader 适配比记忆表本身更能激活外部知识复用
📌 工作参考价值（4 点）
- 将商品属性、活动规则、用户事实等高频知识沉淀进外部哈希记忆表，与 backbone 解耦，便于在搜索/推荐/广告多条业务线间共享，仅需接入目标侧的轻量 reader。
- 模型升级或切换主干时，可冻结已训练的记忆表，只训练很小的 reader adapter，避免重训大模型，同时保留已有知识，降低迭代成本。
- 若目标模型接口与源 reader 兼容，可直接复用记忆 artifact 零训练上线，适合快速验证；不兼容时先用 dual-layer four-branch reader 适配，可接近同源效果。
- 注意这类外部记忆更适配可寻址的事实/规则，不适合隐式偏好或实时行为，工程上需设计好 key 编码和地址映射。