通过生成器在环对齐弥合多模态 RAG 中的语义-效用差距
🧭 多模态 RAG · 检索对齐
两阶段生成器在环框架，用 VLM 生成假设文本并基于答案反馈微调 reranker，弥合多模态 RAG 语义相似与生成效用差距
📌 工作参考价值（4 点）
- 检索/排序目标再对齐：现有向量召回和相关性模型常优化语义相似度，但业务目标可能是点击、转化或生成质量。可用生成器/模型反馈自动构造偏好对，比如候选商品描述是否能辅助生成正确推荐理由或回答，无需人工标注，降低标注成本。
- 跨模态 query 桥接：电商中图片搜索、图文推荐可先让 VLM 根据图像和用户 query 生成“假设文本”（如商品属性、风格描述），再用该文本做 dense retrieval，缓解模态 gap，提升召回精度。
- 低成本 reranker 微调：用 LoRA 微调 cross-encoder reranker，并支持 triplet/DPO/SFT 多种损失，方便在现有排序服务上快速实验。同时可周期性重新挖掘偏好对，随着 reranker 提升迭代优化。
- 生成器在环评估：可以直接将下游生成任务的表现（如推荐理由吸引力、答案正确性）作为排序信号，而不是只看排序指标 NDCG；在线实验时监控最终业务指标，更贴近业务价值。
通过下一概念预测迈向隐空间语言模型
🧭 下一概念预测 · 隐空间语言模型
Shanghai AI Lab · LUMIA Lab, Shanghai Jiao Tong University
在 8.9B 参数规模验证 NTP 与 Next Concept Prediction 联合训练，用 51.3% tokens 达到 OLMo-3-7B 最终 loss
📌 工作参考价值（4 点）
- 将 product quantization 作用于 hidden states 构建离散概念 vocab，可类比生成式推荐里的 Semantic ID，对 item/category/query 做多粒度 token-context 联合建模，让 LLM 在生成物品或搜索词时既有 token 级流畅度又有概念级语义约束。
- 只更新 17M 的 VQ module 即可实现域适配，适合电商多品类、多场景快速切换：固定底座，仅调整 codebook/概念映射，省去全参微调，便于线上迭代和 A/B 测试。
- 把 concept representations 注入 draft model 做投机解码，mean accepted length 提升 4.17% 且开销可忽略；在 Agent 工具调用、推荐理由生成等长文本输出场景可低成本加速推理。
- 联合 NTP + NCP 在同等算力下逼近或超过更强 baseline，提示大模型底座或领域微调时可加入概念级辅助目标，提升样本效率和 downstream 指标。
ToolLoop：基于分解生成与动态自反馈的闭环工具使用数据合成
🧭 工具调用数据合成 · 闭环自反馈 ★ 深度解读
vivo AI Lab
用分解生成与阶段自反馈替代一次性生成过滤，11K数据训练4B模型在BFCL达86.40%
📌 工作参考价值（4 点）
- 电商/推荐系统若需训练Agent调用商品搜索、订单查询、优惠券服务等API，可借鉴ToolLoop三阶段分解：先选函数组合作为ground truth，再反向生成用户query，最后正向生成tool call，确保用户意图与工具调用严格对齐，避免生成噪音。
- 动态自反馈比静态过滤更高效：在合成训练数据时，用LLM验证器+规则+AST解析发现错误后，将具体问题反馈给生成模型进行修正（最多3次），而不是直接丢弃，能保留困难样本、改善数据分布多样性，适用于query改写、搜索suggestion等数据合成。
- 候选函数构建采用embedding+K-means聚类+LLM采样，可迁移到电商API管理：将海量商品/订单等API按语义聚类，从每个簇采样构建候选集，既避免上下文过长，又保证候选API语义相关，提升筛选效率和训练效果。
- 移除与测试集重叠的函数后模型性能几乎不下降（86.40 vs 86.07），说明合成数据的价值在于构造过程的内部一致性而非记忆特定schema；业务中应关注数据生成流程的合理性，而非盲目扩大数据量或依赖特定API覆盖。
为何视频推理仍昂贵？视频与音视频 LLM 推理效率机制综述
🧭 多模态视频 LLM 推理效率综述
系统综述视频/音视频 LLM 的推理效率优化机制，按流水线阶段梳理 token 削减与算力降低方法
📌 工作参考价值（4 点）
- 若业务涉及商品短视频/视频广告理解，可借鉴其帧采样与 token 削减思路：在离线特征抽取或在线推理中先用轻量采样+连接层压缩，控制送入 LLM 的 token 数，降低 prefill 和 KV cache 成本。
- 对多模态 item 表示生成，可参考连接层 token reduction 架构，把视觉/音频 token 聚合成少量语义 token，用于召回或排序特征的轻量化。
- 建立 accuracy–cost 权衡表：在引入任何视频理解模块时，强制在同 host LLM 与输入协议下对比 FLOPs/延迟/显存，避免被跨论文异构指标误导。
- 整体是学术综述，纯文本推荐/搜索系统直接复用点有限；但若部署视频多模态能力，可作为选型与优化清单。
无大纲学习：任务无关的环境预处理
🧭 Agent 任务无关环境预处理 ★ 深度解读
Scale AI · University of Maryland, College Park
提出任务无关环境预处理框架，meta-agent 在无下游任务信息下探索环境生成可复用工件，5/6 基准优于固定流程
📌 工作参考价值（4 点）
- 面对新业务环境（新商品库、新 API 工具、新文档系统）时，可在离线 stage 用 meta-agent 做环境探索与预处理，生成索引、技能手册或 playbook，而不必等具体任务/用户 query 分布确定；把线上多次采样成本转移到一次性研究阶段。
- 对异构工具/语料不必固守单一预处理策略：维护一个 workflow archive（包含索引构建、合成实践、技能抽取等），让 meta-agent 根据环境特征自行组合；例如大语料检索用固定 CORPUS2SKILL 管线，工具环境用 PREPING 类合成实践。
- 不要迷信研究预算或探索广度：预算增加不总能提升下游 reward，更广泛文件探索未必有效；应监控 artifacts 对下游任务的边际收益，并注意工件可能误导 solver（如引导到不完整索引），需要验证与回滚机制。
- 在推荐/搜索冷启动场景下可借鉴 task-agnostic 预处理：无历史行为或标注时，先对环境/语料/工具生成通用辅助（如商品知识图谱、导航树、脚本），待有反馈后再做 task-informed 微调，形成两级适应。
先思后链：多语言实体链接中的稀有性、推理与检索
🧭 多模态实体链接 · 推理+检索
Carnegie Mellon University
提出训练免的视觉-语言模型框架，结合迭代搜索与推理，提升多语言多模态实体链接在稀有实体上的准确率
📌 工作参考价值（4 点）
- 稀有度定义不能只看流行度（如 pageviews），应加入知识图谱结构指标（文档丰富度、连接度），能暴露不同失败模式；在电商长尾商品/实体识别中，可以用类似多维稀有度切片评估模型，避免只优化头部。
- 训练免框架实用性强：用 reasoning-capable VLM 动态搜索 Wikipedia 并迭代收集证据，无需微调即可部署；适合在业务中快速构建多语言实体链接/消歧模块，尤其处理长尾 query 或冷启动实体。
- 推理与检索互补的结论可直接迁移到 RAG/Agent 系统：单独检索能提升稀有实体但可能损害整体，单独推理对稀有实体帮助有限；组合使用时，让模型在推理循环中根据检索反馈调整判断，比一次性生成更稳健。
- 多模态信息（如图像中的文字、logo）对消歧很有价值；在电商商品匹配、query 到商品实体链接中，可以利用商品图片中的文字信息辅助文本匹配，并配合外部知识库检索。
协同演化 Harness 与模型：On-Policy 纠错在模仿失效处帮助弱模型追赶
🧭 Agent harness 与模型权重协同优化 ★ 深度解读
Salesforce AI
在已演化的 Agent harness 下，全轨迹模仿专家会破坏弱模型的 harness 适配，而基于学生自身 rollout 的 on-policy 局部纠错可无损叠加模型增益
📌 工作参考价值（4 点）
- 在已有优化 prompt/tool/hook 的 Agent 系统上做 LoRA 微调时，避免直接用专家全轨迹 SFT；应保留学生自身 rollout 的规划风格，只对失败 turn 做局部纠正，否则会破坏 harness 与模型的适配，导致全面退化（文中 -14.9 点）。
- 可以借鉴 on-policy expert correction 管道：用 meta-level agent 定位失败 turn，让专家只重写该 turn，保持前后步骤不变；训练数据仅约 500 条，微调不到 1 小时，适合迭代式 co-evolution。
- 若业务中需要小模型+定制 harness 降本，先演化 harness 再考虑模型更新时，先检查失败分布中的 planning 与 knowledge 变化；直接模仿专家会引入 planning 漂移，而 on-policy 纠正只提高知识覆盖、不增加规划失败。
- 该结论也适用于其他形式的 scaffold（如推荐系统的 prompt、RAG 的 system prompt 或工具调用约束）：如果 scaffold 已围绕模型行为调优，后续权重更新需以 on-policy 数据为主，避免分布偏移。
训练 Nemotron 攻克 IMO 金牌的开源配方
🧭 数学证明生成 · 测试时搜索与RL ★ 深度解读
NVIDIA
开源三 checkpoint 生成-验证-精炼管线在 IMO 2026 达 30/42 金牌线，并发布后训练与推理全栈
📌 工作参考价值（4 点）
- 多模型/多后训练 checkpoint 的异构集成比单模型增加采样次数更有效：在生成商品标题、搜索 query 或 Agent 动作方案时，同等 token 预算下分配多个互补模型生成候选，比单模型重复采样更容易覆盖不同解空间，类似推荐中的 ensemble diversity。
- 把「搜索期验证」与「最终选择」解耦：搜索期验证需要低假接受和可操作的反馈，最终选择需要更贴近真实奖励的昂贵评分器；对应粗排/精排/重排的分离，且最终重排可投入更多算力，不必复用搜索期评分。
- 验证器错误代价不对称：假接受导致搜索提前终止且不可恢复，假拒绝只增加时间和成本；在业务 pipeline 中若线上错误代价高，应设计保守阈值，并允许延迟恢复。
- 保留候选池和跨轮精炼：搜索中不直接丢弃高分但未过验证的候选，下一轮继续精炼；适合电商/Agent 中长尾候选，避免 aggressive triage 淘汰后期有价值方案。此外记录 token/GPU 小时资源核算有助于生产部署预算规划。
自底向上聚类构建生成式检索 Semantic IDs
🧭 生成式推荐 · 自底向上 Semantic ID ★ 深度解读
Cornell Tech, Cornell University · PayPal
提出自底向上层次聚类生成 Semantic IDs，保证唯一性并保留嵌入局部结构，提升下游生成式检索效果
📌 工作参考价值（4 点）
- 电商生成式推荐中，可直接用自底向上聚类对商品文本 embedding 生成 Semantic IDs，避免 RQ-VAE 训练和 codebook collapse 调参；唯一性由构造保证，不再需要追加去重码，简化线上 ID 映射。
- 冷启动上新：新商品只需找最近邻已有商品，继承前几层码字并分配唯一末位码即可纳入生成式检索，无需重建整个 ID 空间，适合频繁上新的电商场景。
- 层级设计中可通过 cluster size cap 控制每个簇的商品数量，避免头部类目簇过大导致解码搜索空间不均；同时监控 silhouette score、avg rows per ID、簇内类目纯度等指标。
- 注意自底向上聚类簇数通常少于典型 RQ-VAE codebook，粗粒度簇的类目纯度可能下降；在强类目体系场景可结合类目树约束或增加层级来改善。
A*-Thought-V2：基于 LLM 几何动力学的高效隐式推理
🧭 LLM 推理加速 · 隐式 CoT 压缩
Beijing University of Posts and Telecommunications · The Hong Kong Polytechnic University · Tsinghua University · JIUTIAN Research · OpenBMB
用 hidden state 几何方向判断 CoT 步骤价值，对齐步骤显式保留、偏离步骤压缩为 latent token，提升精度与效率
📌 工作参考价值（4 点）
- 在电商/Agent 的 LLM 推理链路中，可借鉴「几何对齐」做步骤级压缩：对商品推荐理由、query 改写、广告文案生成的 CoT，计算当前 step 到最终 answer 的 hidden state 夹角，保留小角度的直接执行步骤，把大角度的探索/校验步骤压缩为 latent token，降低 context 与 KV cache 占用。
- 训练侧可用 stepwise embedding forcing + label forcing：压缩冗余步骤时不丢弃信息，池化为单 embedding 并用 soft token distribution 监督，这比 hard truncation 更适合推荐/搜索中的行为序列、商品描述等中间信息压缩，能保留分布与多峰语义。
- 若业务要处理大规模 query/商品推理流水线，A*-Thought-V2 报告的训练成本下降（预处理 -94.6%、训练 -80.3%）和 Accuracy per Computation Unit 2.29x 可作为 ROI 参考；但需在 Qwen3.5/3.6 这类模型上复现验证，小模型或非推理任务迁移前要做适配。
- 表示分析结论：latent token 位置熵更高，soft target 提供更丰富特征学习——在生成式推荐里对 Semantic ID 或 item 描述序列做压缩时，可考虑不强制 hard one-hot，而保留软分布以 capture 多义性。
ActReview：基于作者反驳引导与评分量规奖励的可操作同行评审生成
🧭 LLM 后训练 · 行动导向评审生成
Yale University · University of Chicago · TCS Research
用作者 rebuttal 揭示的修改动作作为潜在监督，构建 ActReview-40K 并后训练模型生成可操作且带证据的评审建议
📌 工作参考价值（4 点）
- 用交互反馈作为弱监督信号：rebuttal 与 review 的对齐类似于电商评价回复、客服工单中用户申诉/追问能暴露真实意图，可用于训练解释生成或建议 Agent。
- 候选感知、弱点特定 rubric 奖励可迁移到推荐理由/诊断报告生成：将输出质量拆成多个细粒度 rubric，结合候选集合用 LLM 判定或规则奖励做 GRPO，提升生成质量与可控性。
- 局部证据检索与 grounding 机制适合需要引用商品/内容原文做可信推荐解释、搜索结果摘要或 push 文案的场景，能缓解幻觉并提升可验证性。
- 人类评估中技术准确性仍有 gap，提示业务上线 LLM 建议类功能时应加入技术准确性抽检与领域知识约束，不能只看流畅度和 actionability。
AgentGrad：面向多智能体系统的干预引导提示优化
🧭 多智能体提示优化 · 文本梯度
Korea University · KAIST · Meta AI · UNIST
通过逐代理干预定位问题提示，并用语义聚类生成通用文本梯度，提升多智能体提示优化效果与效率
📌 工作参考价值（4 点）
- 在多智能体电商/搜索/广告 pipeline 中，出现最终失败时，不要直接凭感觉改 prompt：借鉴 sequential intervention，逐一替换单个 agent 的输出或行为，判断修改哪个 agent 才能消除失败，再针对性优化其 prompt。
- 用「干预后的正确输出」作为 agent-level supervision，让 LLM 基于具体输出差异生成文本梯度，而不是只给最终正确/错误标签；这能让 prompt 更新更细粒度、更可落地。
- 批量优化时，先对失败 case 对应的梯度做语义聚类，再按簇抽象成通用修正规则，避免把无关 failure mode 混在一起导致 prompt 过拟合或泛化差。
- 若要在生产环境自动提示迭代，AgentGrad 的干预定位+聚类聚合可减少 LLM 调用次数，实测优化墙钟时间比次快 baseline 平均少 2.5 倍，适合成本敏感场景。
超越一次性扩展：多跳检索的对比证据探索
🧭 多跳 RAG 检索 · 对比证据探索 ★ 深度解读
Chung-Ang University
训练免的多跳检索框架，通过对比 facet 索引、证据条件探索和覆盖感知重排提升 RAG 证据召回
📌 工作参考价值（4 点）
- 可直接迁移到电商搜索中的复杂意图查询：将原始 query 视为多跳证据链的起点，利用 LLM 基于已检索商品/属性生成下一轮 probe，逐步发现缺失的品类、品牌或属性约束，避免一次性扩展引入噪声。
- 借鉴 passage-specific contrastive facets 思想：为每个商品或知识片段离线生成“区分性问答对”（如“该商品与相似商品的差异点”），在召回阶段作为附加信号，帮助提升稠密检索对相似商品的区分度，避免同款/相似款混淆。
- Coverage-aware 贪心选择可以用于重排：在电商推荐或广告素材排序中，用生成多个 probe 分别代表不同用户意图，通过最大化边际覆盖增益选择集合，保证最终结果覆盖不同意图而非重复满足同一需求。
- 工程上，该框架 training-free，只需复用已有 embedding 和 LLM；但离线对比 facet 构建和在线多轮 LLM 调用成本较高，可以先在小而美的商品知识库上预计算，或者限制邻居数量和轮数来权衡 latency。
EAGER：电商搜索点击商品到查询的生成式推荐两阶段框架
🧭 生成式查询推荐 · GRPO 对齐 ★ 深度解读
Alibaba International Digital Commerce Group
两阶段生成式 I2Q 框架：SFT 课程+自蒸馏扩意图覆盖，GRPO 混合奖励对齐点击与业务规则
📌 工作参考价值（4 点）
- 多源 intent-ordered 监督构造：把点击 query、post-click search query、LLM 扩展 query 拼成弱有序 label，并用同一个 PARM 给 LLM query 打分排序；可复用到电商搜索、push 文案等数据稀疏但需要覆盖多意图的生成任务。
- 课程学习拆法值得抄：I2Q → Enhanced I2Q（加 rationale）→ UI2Q → Enhanced UI2Q。论文里 rationale 最大提升 APD（多样性），用户上下文最大提升 SoftHR@1（相关性），业务上可据此分配数据/训练资源，而不是混训。
- GRPO hybrid reward：规则 reward 管格式、数量、流畅、重叠、安全黑名单；PARM 用生成式 yes/no 的 1-p(no) 作为点击偏好 reward。PARM 同时用于离线数据筛选和 RL reward，保持训练一致，且 position-aware 采样去掉位置偏差；这套可直接迁移到生成式 query suggestion / 广告文案 RL。
- 部署上作为第三条召回通道，与 log-based、dense retrieval 共用 ranker，长尾补覆盖、头部同台竞争；vLLM 独立多采样生成 10 条，VRAM 压力低于 beam search。
EigenLI：用谱近似压缩晚交互检索
🧭 多向量检索压缩 · 谱方法 ★ 深度解读
Temple University · Microsoft Research India
利用文档 token 的低秩结构，以 top-k 特征子空间替代聚类压缩多向量表示，并可转成单向量 ANN 召回
📌 工作参考价值（4 点）
- 多向量召回（商品/内容/广告）可把每个文档 token 序列压缩为文档特定的 top-k 特征子空间，训练无关；相比 k-means/Ward pooling，构造更快（约 6.8x/17.5x），且在 ColBERTv2、AnswerAI 等模型上 nDCG@10 相对提升 8%–15%。
- EigenLI 评分可精确转成单向量点积：对 query token 做二次核 K(qi)，对文档 top-k 特征向量做 K(wj)，得到 d(d+1)/2 维向量，直接接入现有 ANN 系统；在 d=128 时维度 8256，比 MUVERA 10240 维更低，但 BEIR 上 nDCG@10 相对 MUVERA 提升 78.9%（AM）。
- 评分时不要用特征值加权，只用 top-k 特征向量；用 λ_j 加权会退化为所有 query-doc token 相似度求和，偏离 MaxSim，效果明显变差。
- 模型几何差异要作为模型选型依据：强各向异性模型如 GTE-ModernColBERT 上 EigenLI-32 不如 Ward pooling，可对 embedding 做去均值 centering 后再压缩，或对这类模型保留聚类方案。