MAPS：宏观自适应并行推理调节 RAG 搜索动量
🧭 迭代式 RAG · 搜索动量调节 ★ 深度解读
Northeastern University, Shenyang, China · Tsinghua University, Beijing, China
提出 search momentum 量化迭代 RAG 中的查询意图漂移，并用轨迹解耦与并行多方向检索缓解漂移
📌 工作参考价值（4 点）
- 用 search momentum 做在线 query 漂移监控：在多轮搜索/Agent 中，记录每步生成 query 的 embedding 位移并加权累积，当 momentum 与原始 query 余弦相似度持续下降时触发校准（重写 query、并行探索或回退原始意图），适合电商搜索 query 改写、对话式推荐中的信息收集。
- 状态管理上把“已获取的知识”和“历史查询轨迹”解耦：只保留知识观察和压缩后的推理状态，不把历史 query 序列塞进 prompt，可避免中间错误查询累积污染后续召回。工程上可用一个 summarizer 将检索到的商品/文档证据压缩成结构化状态，而不是保留完整对话历史。
- 并行生成多个互补检索方向：在 query/关键词扩展时，先让 LLM 提出 N 个互补方向（如类目、属性、风格、价格带），再分别生成 query 并行检索并合并召回结果。这比单纯并行生成多个 query 更可控，消融显示 direction proposal 贡献约 4 个百分点。
- 自适应终止：MAPS 对简单 query 更早终止，复杂 query 多轮继续检索且不丢准确，可用一个 lightweight 判断器基于已收集证据是否足够来决定停止，减少不必要的检索轮次。
面向视频深度研究报告的 Agent 基准与评测框架
🧭 Agent 评测 · 视频深度研究报告
Peking University · Alibaba Token Hub, Alibaba Group
构建首个以源视频为中心的深度研究 Agent 基准 OmniDR-Bench，并提出原子化 Rubric 树评测方法
📌 工作参考价值（4 点）
- 可将 Omni-ARTs 的原子化 rubric 树和 ARC 构建流程复用到电商视频内容评测（如商品讲解、直播回放、教程视频），对 Agent 生成的卖点摘要做逐条可验证打分，替代模糊的 LLM-as-judge。
- skill-based workflow 提供可插拔结构，适合在商品视频导购/答疑 Agent 中按“问题拆解 → 多模态证据检索 → 交互式报告/回答卡片”组织 pipeline，尤其要求输出带时间戳引用，直接匹配短视频带货场景的卖点溯源。
- 当前 Agent 在跨模态因果推理和引用准确性上仍是明显短板，业务上做视频问答或报告生成时，应增加对引用证据的强校验层（检索片段强制回挂时间戳并二次校验），避免 LLM 幻觉影响用户决策。
- 中英文双语任务与 19 个真实子类别设计可参考，用于构建电商垂直领域的视频 Agent 回归集，覆盖不同品类和问题类型。
OACap：字幕引导主动观察的详细视频字幕生成方法
🧭 多模态 Agent 主动信息获取
Ant Group · Zhejiang University · Peking University
提出字幕中心 Agent OACap，将字幕信息缺口转为定向观察请求，迭代验证提升视频字幕质量
📌 工作参考价值（4 点）
- 在生成式推荐、商品文案、详情页摘要中，把生成结果当作可检验假设，自动检测信息缺口（遗漏关键属性、无支持断言），通过结构化工具（商品库、知识图谱、用户行为 API）补证，降低幻觉。
- 借鉴 revision gap 与 observation gap 的分级：先基于已有上下文修订，只有确实缺证据时才触发昂贵工具调用，适合高成本 LLM 场景；在电商直播切片或短视频理解中可裁剪关键帧/区域做 OCR 或密集采样。
- 事实性评估指标可复用：用 claim precision + importance-aware fact coverage 评估商品描述/搜索摘要是否覆盖关键卖点且不编造；通过原子事实往返匹配衡量语义保持，替代单一文本相似度。
- 迭代验证-修订的工作流可嵌入推荐理由生成、query 推荐解释等 Agent 流程，形成证据闭环。
偏好≠许可：个性化 Agent 电商自动购买界限
🧭 Agent 交易授权边界个性化 ★ 深度解读
ZOZO Research
提出个性化自动购买授权边界任务，发现16个LLM购物Agent过度承诺，个人边界可从少量标注习得
📌 工作参考价值（4 点）
- 把推荐 fit 与交易授权解耦：在自动下单/Agent 购物中，不要因相关性高就 checkout；增加独立的 pre-commit warrant gate，读商品证据与用户明确顾虑，能大幅降低弱证据过度承诺，且比 always-confirm 少打扰。
- 用 minimal-edit counterfactual 做 Agent 审计：固定商品/任务，只改 warrant、final sale、价格上限/异常、urgency 等因素，观察行为变化；把动作压缩为 don't/confirm/auto 三档，报 overreach/overcaution，而不是只看任务成功率。
- 个性化授权边界可用简单模型 + 少量用户标注：几十个用户自己标签训练的 logistic/partial-pooling 模型即可预测 held-out auto-purchase 线，优于大量 prompt×model 组合；但跨域不迁移，需要 in-domain 冷启动标注。
- 将用户个人策略渲染成简短 policy card 注入 system prompt，能改善所有模型的 unsafe-auto 行为，但仍有残余；落地建议人口级 warrant gate 做底线 + 个人边界做上层。
PPLX-Embed-V2-Late：0.6B/9B 多模态后期交互检索模型
🧭 多模态 late-interaction 检索蒸馏 ★ 深度解读
Perplexity AI
用 18B 教师表征蒸馏出 0.6B/9B 多模态 late-interaction 模型，支持大模型离线建库、小模型在线查询的共享向量空间
📌 工作参考价值（4 点）
- 非对称部署：用 9B 离线索引商品/文档/图片，0.6B 在线编码 query；报告显示 0.6B query + 9B doc 比纯 0.6B 平均 nDCG@10 高 1.6pp，query 延迟不变，适合电商大规模商品库和低延迟搜索。
- 表征蒸馏优于直接 contrastive：训练小 late-interaction 模型时，直接拟合 18B 教师的 token 级 L2 归一化表征，比单独对比学习更稳，尤其 <1B 模型；业务里想压缩强检索模型可以优先考虑这种 pointwise distillation。
- 128 维多向量是低成本选择：在视觉文档检索上，0.6B 128 维 multi-vector 超过同尺寸 0.8B 模型 3.3pp；相比 4096 维 dense，存储和 ANN 成本显著降低，适合电商图片搜索、商品详情页截图检索。
- 训练工程 trick：用 gradient caching + 自定义 Triton MaxSim kernel 支持 16,384 对比 batch；quasi-random golden-ratio Kronecker 采样保证多个子数据集比例稳定且均匀出现，可复用到多源商品/query 数据混合。
RAG预算证据选择的边际视角效用学习
🧭 RAG 预算证据选择 · 边际视角覆盖
Nanyang Technological University · University of Toronto
提出LMVU轻量排序器，按边际视角覆盖增量选择证据，在有限上下文下提升多视角覆盖
📌 工作参考价值（4 点）
- 在电商 RAG 场景（商品问答、评论摘要、多卖点对比）中，上下文预算有限，可借鉴边际视角覆盖思想：优先选择能补充当前已选集合缺失观点的候选，而非单纯按相关性得分截断。
- 训练数据构造：利用已有的观点/标签标注（如评论情感、产品属性、类目标签）作为伪视角，构造同一选择状态下的候选配对，让 ranker 学习增量覆盖价值；推理时迭代选择，类似贪心式集束搜索，开销低。
- 评估指标：用 RVC1/RVC2 度量检索结果的视角覆盖度，可作为多样性/覆盖度补充指标，尤其当业务目标要求搜索结果覆盖不同用户意图或品类时。
- 轻量 ranker 设计可作为在线精排后的二次重排组件，输入包括已选证据集合与候选的交互特征，输出边际增益，适合低延迟的实时检索链路。
SCOPE：将自然语言策略编译为神经符号谓词程序
🧭 Agent 策略执行 · 神经符号编译
Plurai
将复杂 Agent 策略编译为可执行神经符号谓词程序，用对抗反例联合优化，实现低成本高稳定策略判决
📌 工作参考价值（4 点）
- 可将复杂业务合规/风控规则（如广告审核、客服 Agent 禁言/承诺约束）编译为“小模型谓词 + 确定性提取器 + 代码组合”的可执行程序，替代大模型黑盒 judge，降低线上推理成本和延迟。
- 用对抗反例生成围绕“程序偏离策略”的地方补充训练数据，尤其适合长尾违规场景；训练时先用最弱执行器/小模型优化谓词，再直接迁移到其他小模型部署，减少重复调优。
- 每个判决可回溯到具体谓词输出，便于风控审计、线上排查和业务规则解释；在需要稳定复现的合规场景，优先考虑这种神经符号方案而非纯 LLM-as-judge。
- 在电商 Agent 中，可把退换货政策、价格承诺、营销文案限制等自然语言策略转化为确定性谓词，仅对模糊语言判断使用小模型，混合执行以提升整体可靠性。
生成式推荐遗忘长尾：检索与排序中的记忆恢复
🧭 生成式推荐 · 长尾纠偏 ★ 深度解读
University of Science and Technology of China · Ant Group
提出无训练插件 CAPE，用 item-level 共现记忆同时修复生成式推荐的检索剪枝和排序偏差，显著提升长尾命中
📌 工作参考价值（4 点）
- 线上生成式推荐不要只扩 beam 或只做重排：先用 beam 的 tail recall 和 tail conversion 定位瓶颈。若 beam 尾召回不足，需要额外候选；若 recall 足够但命中差，重排更关键。论文 Proposition 2.1 可作为上线前检查。
- 用原始 item-item 共现矩阵构建轻量长尾候选通道，比训练 LightGCN 更适合精确记忆。用户级 support 进候选、事件级 mean 做排序，min-max 归一化后与生成 likelihood 融合，只需一个超参 λ。电商可直接统计用户历史商品与候选商品在多少用户中共同出现，补足 beam 外的长尾。
- top-1 anchoring 是无痛上线关键：保持 backbone 首项不变，只重排第 2-K 位；若更看重整体 GMV，可去掉 tail mask 把共现证据用于全部候选。
- 工程成本低：CSR 稀疏矩阵存共现，每请求只增加约 100 token teacher forcing，延迟增 11-16%，可批处理；而扩 beam 50% 延迟翻倍还不一定提升尾命中。
什么造就好的去掩码策略？扩散语言模型学习式去掩码的受控研究
🧭 扩散语言模型高效解码策略
NTU Singapore · Institute for Advanced Intelligence and Computing (IAIC), A*STAR · Centre for Frontier AI Research (CFAR), A*STAR
系统解耦学习式去掩码策略，提出轨迹收缩目标，856K参数策略在LLaDA-8B上取得最优精度-效率前沿
📌 工作参考价值（4 点）
- 若在搜索补全、推荐理由生成、query 改写等场景尝试 diffusion LM 或并行解码，可用「轨迹收缩目标」替代“与最终输出一致”作监督：只监督不会导致后续偏离参考轨迹的 commit，避免低 NFE 下过度激进解码。
- 策略输入不要只用 hidden states 或只用 confidence；二者结合的小型策略（856K 参数）即可达到最优前沿，且约 10% NFE 下降就能抵消 policy 开销，适合实时推荐/搜索的低延迟约束。
- 把解码过程视为 teacher，蒸馏出轻量 unmasking policy，能显著提升吞吐；在自回归 LLM 为主的生产环境中，若未来引入 diffusion LM 生成结构化输出，可复用这套精度-NFE frontier 和 throughput 评估方式选型。
- 该策略在 LLaDA-8B 上训练后基本迁移到 Dream-7B-Instruct，说明轻量 policy 有一定跨模型泛化性，可作为多模型共用的推理加速组件。
双考：多模态智能体与世界模型的受控评估
🧭 多模态 Agent 与世界模型评估
香港科技大学 · 新加坡国立大学 · 香港理工大学 · 东京大学 · 卡内基梅隆大学
提出 Dual Exam 框架，分别评估多模态 Agent 与世界模型，发现两者任务表现不均且耦合成功率低
📌 工作参考价值（4 点）
- 将 Agent 的动作选择与状态演化分开评估：在电商对话推荐、广告策略自动出价等场景中，先用固定环境响应测 Agent 决策，再固定动作序列测 World Model 预测，可解耦定位问题。
- 构建任务相关状态保持的专项 check：论文揭示 Agent 常丢失任务相关状态，实际推荐/搜索多轮对话中可加入状态保持测试用例，防止遗忘用户偏好、已选商品等关键上下文。
- 对于用 World Model 模拟用户反馈/市场响应的团队，需独立验证其 action-conditioned 预测准确率，不能仅靠端到端耦合成功率；150 例耦合实验零成功说明耦合评估会掩盖组件缺陷。
- 评测集设计采用“固定环境响应/固定动作干预”对照，可迁移到线上 Agent 评测系统，区分策略错误和模型预测错误，降低归因成本。
通过 Dreaming Learning 缓解生成模型模型崩溃
🧭 生成模型训练 · 模型崩溃缓解
Sapienza University of Rome · Sony CSL Rome, CREF · University of Copenhagen · Complexity Science Hub Vienna
用高温自采样样本作正则，阻止合成数据训练中的谱隙变窄与多样性塌缩
📌 工作参考价值（4 点）
- 在电商/广告场景用 LLM 批量合成 Query、商品标题或推荐理由时，若后续模型继续在这些合成数据上训练，容易出现多样性下降。可以借鉴 Dreaming Learning：训练时额外对一个高温度 Td>1 下模型自身采样结果加正则 loss，低成本抑制分布塌缩。
- 数据积累不一定能阻止模型崩溃，尤其采样温度 Ts<1 时。如果合成数据链路里为了可控性使用了低温度采样，要主动引入高温度样本或正则，而不是只增加数据量。
- 该工作用 transition operator 的次主导特征值和谱隙监控多样性，适合做离线监控指标：在训练生成式推荐/Query 模型时，可以周期性观察谱隙是否收窄，提前发现模型多样性退化。
- 方法实现简单，只增加一个 loss 项，不改变模型结构，容易嵌入现有 LLM/SLM 训练流程；对 124M GPT-2 级别模型也验证有效，中小规模业务模型可参考。
通过跨层潜向量量化实现逐层嵌入的极致压缩
🧭 LLM 嵌入压缩 · 向量量化
Mohamed bin Zayed University of Artificial Intelligence · Westlake University · Zhejiang University · University College London · Weizmann Institute of Science
提出 OPTIC，每 token 只存一个共享量化码，各层用仿射解码器还原层嵌入，实现约 100 倍 PLE 压缩并保留 97.8% 性能
📌 工作参考价值（4 点）
- 对超大 embedding 表（如 item/user ID embedding、多粒度语义 ID、序列模型 token embedding）做压缩时，可以借鉴「每 token/item 只存一个共享 code tuple + 各层/各任务用轻量仿射解码器」的结构，避免为每个层或每个上下文单独存储完整向量，显著降低参数量和存储成本。
- 压缩时不要只做向量重建，要直接拟合输出路径或下游任务损失。业务中可改为用蒸馏 loss 或 CTR/CVR 损失联合训练 codebook 和 decoder，比单纯最小化 embedding MSE 更能保留排序/推荐质量。
- 在生成式推荐或 LLM4Rec 场景，如果使用多层 Decoder 的 per-layer item/token embedding，OPTIC 的 shared token code 可等价为仅存一份 item 语义码，逐层 affine 解码出适合不同层表征需求的 embedding，适合推理端内存敏感的服务部署。
- 工程上可借鉴其 29.7% GPU 内存下降、几乎不增加延迟的结果：对 embedding 表做高倍压缩能直接释放显存，支撑更大 batch 或更长序列，但要避免 decode 过程引入高额计算，建议用简单仿射变换而不是复杂网络。
推测扩散：双重权衡下的速度-质量前沿
🧭 LLM 推理加速 · 推测解码与扩散模型
University of California, Los Angeles · Independent Researcher
联合调节扩散努力与推测解码宽松度，可扩展速度-质量 Pareto 前沿
📌 工作参考价值（4 点）
- 在电商/广告的 LLM 在线推理场景（如生成推荐理由、商品描述、Agent 工具调用），可考虑用扩散 LLM 作为 draft model 进行推测解码，其并行 token 生成能力有助于突破 AR 解码的内存带宽瓶颈。
- 当业务对 latency 敏感但可接受一定质量损失时，不必固守 lossless speculative decoding，可以显式引入 acceptance leniency 参数，快速获得有损加速。
- 工程实现上，不要只调 draft model 的 diffusion steps，应同时扫描 diffusion effort 和 speculative acceptance threshold 两个维度，找到适合自身业务的 Pareto 最优配置。
- 对需要动态权衡质量与延迟的系统（如搜索推荐中的 LLM 重排、对话式推荐），可构建类似的双参数调节机制，让线上策略根据流量状况实时切换。
推理-搜索增强大语言模型：操作化分类、基准分析与受控证据综合
🧭 Agent 化推理-搜索增强 LLM 架构分类
Texas A&M University, College Station, TX, USA · Texas A&M University–Corpus Christi, Corpus Christi, TX, USA
提出四架构轴+学习信号分类框架，系统梳理推理-搜索Agent设计与消融证据
📌 工作参考价值（4 点）
- 构建电商搜索/客服 Agent 时，把检索从一次性 RAG 上下文改成迭代循环中的动作：显式维护 plan→query→retrieve→verify→stop 状态机，可显著减少无依据答案；在商品知识库、用户评论等多源检索时，按 grounding strictness 分级校验（如硬性要求引用来源 vs 仅启发式）。
- 训练搜索策略时优先用偏好优化或 RL 而非仅 prompt：同一架构下学习信号会显著改变搜索时机、停止条件和最终答案的 groundedness，业务数据允许时直接建模质量-成本 tradeoff。
- 做离线评估不要跨论文直接比较 SOTA：不同 backbone、retriever、corpus 协议不可混用，应关注 controlled within-study ablation；同时把 benchmark 难度与 RSA-loop 需求分开统计，避免简单题目屏蔽搜索行为差异。
- 将检索耦合、控制器、知识源、grounding strictness 作为显式设计维度，便于在电商场景中快速替换组件（如从向量库切到商品图谱）并定位性能瓶颈。
TWIG：每个权重都是共享离散决策路径
🧭 模型压缩 · 权重离散化
LEAD Lab, ITMO University
提出 TWIG 树结构权重表示，统一剪枝、量化、低秩与码本，LLM 权重以更少加法达到与 GPTQ 同等误差
📌 工作参考价值（4 点）
- 业务部署 LLM/推荐模型时可统一压缩流程：TWIG 把剪枝、量化、低秩、码本、权重共享合并为同一树结构决策，避免分阶段工具链（先剪枝再量化再低秩）造成误差累积，可用一个优化目标联合搜索。
- 对延迟敏感、希望硬件固权/推理加速的电商搜索或广告模型，可尝试将关键层表示为 signed power-of-two 项，使乘法变移位加法，降低电路成本；优先用于 outlier 明显或冗余大的 FFN/embedding 层，实测此类矩阵可减少更多加法。
- 工程实现上可借鉴“共享路径继承”思想：让一组权重共享高层离散门（sign/scale/index），仅叶节点不同，既能大幅减少元数据存储，又便于在芯片制造前固化。
- 当前证据仅来自 5 个权重矩阵，尚未验证全模型端到端精度与吞吐；业务落地前需先做全模型压缩实验，评估与 GPTQ/AWQ 等成熟方案的端到端指标。