FLOWREADER：用最小费用流优化多模态长文档问答的证据组装
🧭 多模态RAG · 图优化证据路由
Ca' Foscari University of Venice
将多模态文档的证据组装建模为最小费用流问题，统一控制评分、路由、选择和自适应计算
📌 工作参考价值（4 点）
- 证据组装的图建模思路可迁移到电商多模态信息聚合：将商品标题、详情图、表格参数、用户评价等视为异构节点，用最小费用流从碎片化来源中筛选最优证据组合，代替简单的 Top-K 检索，提升回答或推荐理由的完整性。
- 统一评分向量h控制多目标：通过一个共享的评分向量同时驱动 MMR 去重、相关性筛选和长度感知的可回答性评估，可用于 Agent 的任务规划中，动态权衡信息收集的多样性、可靠性与成本。
- 熵正则化复制者动态（replicator dynamics）用于紧凑子集选择：在 Agent 多智体场景下，从多个候选证据路径中选出无冗余的紧凑集合，可避免信息重复，提升 RAG 或决策模块的效率。
- 双过程门控与自适应 System-2 精炼：当生成一致性低或流图容量紧张时触发二次精炼，电商 Agent 可借鉴这种「成本感知的浅层回答 + 条件化深层推理」模式，优化 API 调用开销与回答质量。
基于类别引导的潜在意图推理：电商生成式检索的桥接语义鸿沟
🧭 生成式推荐 · 潜在推理 · 类别层级 ★ 深度解读
Beihang University · Meituan · Renmin University of China · Beijing Information Science and Technology University
CaLIR 利用产品类别层级在连续空间进行潜在意图推理，避免显式 CoT 的延迟，高效桥接查询与语义 ID 的鸿沟。
📌 工作参考价值（4 点）
- 用产品类别层级做生成式检索的隐式推理脚手架：在电商场景中，可直接复用现有的多级类目体系，将解码器隐藏状态逐层对齐到类目，替代显式思维链，大幅降低线上延迟。
- 多正例对比学习处理多意图查询：电商查询常对应多个有效类目，使用 Multi-Positive InfoNCE 损失，让查询的潜在状态同时靠近所有相关类目原型，提升意图覆盖与鲁棒性。
- 动态装配类别级前缀树约束解码：线下按类目预建语义 ID 前缀 Trie，线上根据推理出的 Top-K 类目动态合并，缩小搜索空间，提高解码准确率且几乎不增加在线开销。
- 粗到细的潜在推理无需显式解码步：插入固定数量的连续隐状态滑动推理（L 步），不产生额外 token，只在 beam search 前一次性计算，批量处理后与编码器状态拼接用于后续解码，适用于低延迟电商搜索。
基于求解轨迹技能的自演化编码Agent
🧭 自演化Agent·技能注册与课程学习 ★ 深度解读
Shanghai Jiao Tong University · Alibaba Group
将求解轨迹蒸馏为结构化Agent技能，驱动自适应课程生成与梯度对齐选择，在SWE-bench Verified达到50.40%
📌 工作参考价值（4 点）
- 轨迹→技能→任务闭环：将Agent执行日志中的失败模式与修复策略结构化为Skill Registry，用于定向生成针对性训练任务。可迁移到电商/推荐场景的Agent行为分析，例如从订单纠纷处理轨迹提取决策技能，生成新的客服训练case。
- 梯度对齐课程筛选：用held-out验证集上的策略梯度方向与候选任务梯度余弦相似度做奖励，选出与目标方向一致的训练样本。该方法可推广到任何需要从合成数据中筛选高质量样本的场景，如生成式推荐的Semantic ID训练数据筛选。
- 多角色自演训练框架：同一策略网络在Generator和Solver间切换，共享权重，用GDPO处理多尺度奖励，比单一通过率的GRPO更稳定。借鉴到多智体协作优化时，可设计类似角色切换与奖励解耦训练，减少模式坍塌。
- 执行验证四阶段门控：格式→接地→执行→语义的四关验证保证任务可用且非平凡，可复用于任何依赖代码/工具执行的Agent微调数据构造pipeline。
键值分离超图证据组织：多跳RAG的可复用控制机制
🧭 多跳RAG证据组织
Faculty of Computing, Harbin Institute of Technology
提出HKVM-RAG，用超图键值分离组织多跳证据链，作为独立于密集检索的证据控制信号，在三个多跳QA基准上显著提升F1。
📌 工作参考价值（4 点）
- 商品关系路径管理：电商中商品间存在“配套/替代/互补”等多跳关系（如手机→充电器→快充协议）。可借鉴超图建边将多条关系链聚合为高维键，分离存储商品描述文本作为值，检索时直接从键定位完整关系路径，避免中间实体断裂。
- Agent决策链缓存与复用：多Agent协作时，单代理的推理链（如“用户意图→查询改写→API调用”）可视为多跳证据。将成功执行链的LLM中间结果缓存为超边键，对应执行结果作为值，形成经验库。新任务时用查询匹配超边键，直接拉取完整决策链，降低重复推理开销。
- 结构化信号与密集检索融合：本工作证明超图检索分数可作为有效控制信号，与冻结的密集检索器（ColBERTv2）配合。在推荐场景，可将知识图谱子图结构分数与语义向量召回分数简单融合，用轻量控制器（如XGBoost）学习组合权重，提升召回相关性而不必重训检索器。
- 固定子层实验协议：论文固定了证据元组缓存、候选段落、Reader等变量，仅改变键结构，这种对照实验设计范式可用于评估公司内部不同知识组织方式（如图索引vs向量索引），快速定位瓶颈。
解嵌入矩阵的秘密：LLM 文本嵌入特征透镜与边缘频谱过滤
🧭 零样本文本嵌入增强 · 边缘频谱过滤 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · Lenovo Group Limited · Wuhan University
发现 LLM 解嵌入矩阵的边缘频谱子空间编码高频噪声，提出 EmbedFilter 线性过滤，零样本提升嵌入质量并实现降维。
📌 工作参考价值（4 点）
- 嵌入后处理 trick：直接利用 LLM 自带解嵌入矩阵的 SVD，构造过滤矩阵 $\Phi_\tau$ 对文本嵌入做一次线性变换，即可显著提升语义质量，无需微调或额外训练，适合快速接入线上检索系统。
- 距离保持降维：EmbedFilter 天然保距，可将嵌入维度压缩至 1/8 甚至更低，大幅减小向量索引存储和相似度计算开销，对电商海量商品描述 embedding 的部署意义重大。
- 机制层面启发：高频 token 在零样本嵌入中的统治性表达是普遍问题，可通过 Logit Lens / Logit Spectroscopy 分析企业内部 LLM 的嵌入空间，定位并过滤干扰子空间，提升下游召回与排序效果。
- 与现有 pipeline 兼容：EmbedFilter 可直接叠加在 PromptEOL、ECHO、MetaEOL 等 prompt 工程方法之上，带来稳定叠加收益，可作为多阶段嵌入提取流程中的标准化后处理步骤。
可逆基础：通过状态保持扩展训练120B稀疏MoE模型
🧭 大规模MoE训练与模型扩展
The School of AI, Bengaluru, India
在单8GPU节点上，结合可逆堆叠与状态保持增长，端到端训练出120B稀疏MoE，优化器状态缩减45倍。
📌 工作参考价值（4 点）
- 可逆设计用于长序列推荐：电商用户行为序列往往很长，可逆层可将激活内存降至常数，适合在有限显存下扩展推荐模型的序列长度，例如用于用户长期兴趣建模。
- 渐进式模型扩容：从种子模型出发，通过状态保持增长逐步扩大专家数量，这一思路可直接借鉴到生成式推荐模型的迭代：先训练小规模Semantic ID生成器，再逐阶段增加专家，避免冷启动训练的高成本。
- TQP量化训练策略：对基础专家权重量化，仅对低秩适配器保留优化器状态，显著降低显存占用。在电商多模态Agent微调或生成式推荐模型部署时，可用类似方法在大参数量下保持低资源推理与训练。
- 施工级工程报告：文中详细记录了扩展中的失败模式，如“静默失败”导致假性收敛，这对实际构建大规模推荐系统时有警示意义，能帮助团队提前规避类似陷阱。
LLM 引导的进化搜索优化医学决策管道
🧭 LLM 引导的进化优化与医学决策管道 ★ 深度解读
Sber AI Lab · AIRI
利用 LLM 引导的 MAP-Elites 进化算法在推理阶段自动发现超越人工设计的医学分诊、交互问诊和图像分类策略，无需微调模型。
📌 工作参考价值（4 点）
- 程序级搜索代替手工调参：将业务决策管道（如推荐排序、出价策略、Agent 对话流）设计为可执行的 Python 模块，以 LLM 作为 mutator 自动变异 prompt、控制逻辑、投票规则等，而不仅是调整单个 prompt，可迁移到电商 Agent 的策略自动优化。
- 安全/业务目标下的适应度设计：借鉴论文中分诊任务的不对称加权适应度（高代价错误如漏召、低召回加权更高），在推荐场景中可为关键指标（如转化、高价值商品召回）赋予更高权重，同时约束输出合规性（如 JSON 格式）作为准入条件。
- 推理时进化代替模型微调：在冻结模型上通过进化搜索优化策略，降低计算成本，适合频繁变更的业务规则或个性化策略迭代，例如对已部署的推荐 Agent 做安全策略补丁。
- 交互式场景的成本-质量前沿探索：通过 MAP-Elites 在对话轮次/ token 消耗与准确性之间找到帕累托前沿，可复用于电商客服 Agent 的对话策略优化，实现低延迟高满意度的自适应询问与响应。
M3Exam：真实用户-智能体交互的多模态记忆基准测试
🧭 多模态长期记忆评估与模态感知检索 ★ 深度解读
The Hong Kong University of Science and Technology · Beijing University of Chemical Technology · Harbin Institute of Technology (Shenzhen) · Beijing Institute of Technology (Zhuhai) · Tencent Hy
首个多会话多模态记忆基准M3Exam及模态感知方法M3Proctor，按需使用原始视觉提升13%准确率且token减少70%以上
📌 工作参考价值（4 点）
- 模态感知级联检索：电商Agent可借鉴M3Proctor的查询模态偏向检测，先用文本替身回答，仅在需要时加载图片/文档，大幅降低多模态推理token成本。
- 记忆索引优化：将图片转为caption、文档转为digest作为文本替代品，并附加模态标签，结合偏向重排序提升跨模态检索精度，适用于多模态商品知识库的RAG。
- 长会话记忆摘要：通过紧凑的session summary维持跨会话线索，帮助电商智能客服在多轮对话中保持用户长期记忆，避免上下文断裂。
- 隐式意图评估设计：引入Implicit Inference和Thematic Reasoning题型，可移植到推荐系统长期用户理解的评测中，检验模型从非明确信息推断偏好与状态的能力。
MemDreamer: 分层图记忆与代理检索解耦感知推理的长视频理解框架
🧭 长视频理解 · 分层图记忆 · 代理检索
Ant Group · Zhejiang University · Central South University · HKUST(GZ)
通过分层图记忆和代理工具检索将长视频理解转化为探索过程，仅用2%上下文窗口即实现SOTA
📌 工作参考价值（4 点）
- 层次化图记忆可借鉴到用户行为序列或商品图谱建模：将用户交互构造成多粒度语义图（session→item→attribute），捕捉时序与因果关系，用于召回或推理。
- 代理式检索（Observation-Reason-Action循环）可应用于对话式推荐：工具增强的代理动态查询知识库，缩小上下文窗口，提升长对话或复杂推荐场景下的推理准确性和效率。
- 解耦感知与推理：将特征编码（感知）与排序策略（推理）分离，允许流式增量更新用户记忆，缓解长序列带来的注意力稀释，适合实时推荐场景。
- 稀疏图记忆检索大幅降低计算开销：推理时仅检索关键子图而非全量输入，可在推荐模型推理阶段采用类似检索增强方法，用极低 token 成本维持高性能。
面向 Agentic 搜索构建可交互的检索工作区
🧭 Agentic Search · 检索交互界面设计 ★ 深度解读
将检索角色从片段选择重构为构建代理可通过 shell 工具探索的交互空间，显著降低 agentic 搜索成本并保持稳定性
📌 工作参考价值（4 点）
- 工作区边界代替全量扫描：用 BM25 多查询并集构建问题相关的文件工作区，代理只在该区内执行 grep/read，避免全库扫描，在 1M 语料下精度稳定 (81%) 而纯 DCI 退化到 60%。可直接用于电商搜索代理的场景，如将商品召回列表作为可交互的文件系统，代理用 bash 类工具精细化筛选。
- 离线目录索引降低阅读成本：对文档生成行号目录，代理可跳转到相关段落，避免通读全文。这种轻量预处理（$0.0014/文档）可迁移到电商知识库或商品详情页，让 Agent 快速定位关键信息。
- 多查询并集提升召回：代理一次性下发多个互补子查询，BM25 召回并集作为工作区，既提高覆盖又不增加代理上下文窗口负担。可用于电商长尾查询的意图分解与召回增强。
- 明确的检索输出接口设计：RISE 分离了工作区构建（检索）与验证（shell），可借鉴到生成式推荐的交互设计中，例如将召回物品集合作为 agent 的“玩具沙盘”，供其跨会话操作，而非仅读片段。
面向任务无关持续学习的稀疏子空间到专家共享方法
🧭 LLM 持续学习 · Mixture of Sparse Experts
Iowa State University · Argonne National Laboratory
通过稀疏 MoE 自适应分解任务共享与特有知识，并用弹性锚定和路由正则化缓解灾难性遗忘
📌 工作参考价值（4 点）
- 多任务推荐的增量更新可借鉴任务特定与共享专家分离：当电商推荐需要持续适配新品类或促销时，将突发 pattern 注入专属专家，避免覆盖通用偏好知识。
- 路由感知正则化与弹性锚定对在线模型稳定更新有参考价值：在推荐系统不停服微调时，可对关键共享参数施加弹性约束，防止遗忘核心基础能力。
- 稀疏激活的 MoE 结构天然适合低延迟服务：在生成式推荐或 Agent 中，每次推理仅激活少量专家，可控制计算开销，适合在线增量学习场景。
- 任务无关的自动门控机制对 Agent 长程任务序列有效：Agent 持续学习多工具调用时，门控可按子任务组合历史专家，无需人工指定，提升向后迁移。
OffQ：用偏移消除LLM量化中的结构化离群值
🧭 LLM量化 · 后训练均匀精度 ★ 深度解读
EPFL · Huawei · ETH Zurich
提出OffQ，通过Top-1 PCA浓缩离群并在组内用Hadamard旋转转为偏移，实现统一精度W4A4KV4量化，超越SoTA。
📌 工作参考价值（4 点）
- 推理加速：W4A4KV4量化将模型内存与计算缩减至4-bit，直接降低在线推理成本，适合电商推荐、多Agent对话等延迟敏感场景，OffQ可避免精度损失过多。
- 离群值处理：利用Top-1 PCA识别activation离群方向并浓缩到单一通道，然后通过组偏移吸收，该方法可迁移至任何需要消除离群值的量化场景（如模型压缩、KV cache量化）。
- 工程实现：不依赖反向传播学习旋转或混合精度，仅需标准均匀量化和快速Hadamard旋转，可在现有推理框架中轻量集成，无需定制核函数。
- 组量化策略：采用分组偏移和排序分组，平衡量化粒度与开销；每128通道一组时等效位宽仅4.25bits，适合做显存/带宽受限的边缘部署。
PaperFlow：面向日常论文流的三阶段画像-推荐-自适应框架
🧭 科研论文流推荐 · 画像漂移自适应
Key Laboratory of Computing Power Network and Information Security, Ministry of Education, Shandong Computer Science Center (National Supercomputer Center in Jinan), Qilu University of Technology (Shandong Academy of Sciences) · University of Chinese Academy of Science · Shanghai Artificial Intelligence Laboratory
提出面向日常论文流的三阶段框架，通过动态画像、多信号排序和兴趣漂移自适应提升纵向推荐效果
📌 工作参考价值（4 点）
- 日常流式推荐场景可借鉴三阶段架构：Profiling阶段将冷启动证据转化为结构化兴趣画像，电商中可从用户行为序列、搜索词等构建动态画像，避免静态特征失效。
- Recommending阶段的多信号聚合排序在固定曝光预算下平衡相关性与多样性，类似电商信息流或消息推送，可以将CTR预估、多样性指标、时效性等信号加权融合，并引入曝光预算控制。
- Adapting阶段利用语义不同的反馈信号（点击、忽略、收藏等）增量更新用户状态，建模兴趣漂移，适合电商中基于用户实时行为的在线学习系统，可与类似EWC或记忆回放的方法结合防止遗忘。
- 提出的纵向用户-日基准设计思路可直接复用：固定时间窗口、用户、候选池，模拟每日决策与累积反馈，评估系统在连续交互下的长期表现，比单次离线评估更贴近线上效果。
情境化LLM级联的在线潘多拉魔盒策略
🧭 LLM推理 · API级联优化
The Fuqua School of Business, Duke University
提出在线学习算法，在LLM API级联中自适应决定查询顺序和部署选择，实现~O(√T)后悔界。
📌 工作参考价值（4 点）
- 在电商广告文案生成或客服多LLM服务成本优化中，可借鉴「两阶段决策」框架：先按预留指数顺序查询API生成候选，再根据下游奖励选择最优输出，无需事先知道不同API的确切质量分布。
- 对每个API不建完整输出分布，而是直接学习上下文相关的「预留指数」函数，结合GMM型估计与UCB探索，在业务中可大幅降低参数估计负担，特别适合API频繁迭代或输出分布复杂的场景。
- 算法保证了后悔界与上下文维度成正比，工程实现时可通过选择合适的参数化形式（如线性函数）和滑动窗更新策略，平衡实时性与收敛性，适合大规模高并发请求。
- 在多智能体系统里分配不同能力LLM Agent处理子任务时，也能使用类似思路：动态决定调用哪些Agent、调用顺序，以及最终采纳哪个Agent的输出，从而在预算约束下最大化任务成功率。
Robust-U1：MLLMs能否自恢复损坏视觉内容以实现鲁棒理解？
🧭 多模态大模型 · 视觉自恢复 · 鲁棒性增强
The Hong Kong University of Science and Technology, Hong Kong · Northwestern Polytechnical University, Xi’an, China · Northeastern University, Shenyang, China · Nanjing University of Science and Technology, Nanjing, China · The Hong Kong University of Science and Technology (Guangzhou), Guangzhou, China
赋予多模态大模型显式视觉自恢复能力，通过SFT+RL双奖励训练显著提升损坏图像下的鲁棒性。
📌 工作参考价值（4 点）
- 商品图像鲁棒理解：电商场景中用户上传图片常有模糊、遮挡、水印等损坏，可借鉴Robust-U1的自恢复模块进行预处理，提升后续商品识别或属性抽取的鲁棒性。
- 多模态Agent的视觉容错：Agent接收实时视频流或截屏时可能出现压缩伪影或抖动，采用修复-推理双路径（同时输入原图和恢复图）比单纯去噪更可靠，避免信息丢失。
- 训练范式可直接复用：用SFT打底 + RL双奖励（像素SSIM保证保真度，语义CLIP相似度保证高层一致性）的方法比直接微调生成模型更稳定，适合在业务数据上微调小规模修复模型。
- 质量感知的推理增强：论文证明修复质量（SSIM）与下游VQA分数高度相关，业务中可通过监控图像质量指标来主动触发修复流程或调整推理置信度。