BeaconKV：信标查询引导的 KV 缓存压缩加速大推理模型推理
🧭 LLM 推理加速 · KV cache 压缩
Hanyang University · Sungkyunkwan University
发现长程推理中查询聚类可预测重访 KV，提出训练无关信标查询压缩 KV 缓存，内存降5.8倍且准确率几乎无损
📌 工作参考价值（3 点）
- 在自研/部署 LRM（如 DeepSeek-R1、Qwen3）的推理服务中，KV cache 内存常成为瓶颈；BeaconKV 训练无关，可直接插入现有推理框架（如 vLLM、SGLang），无需微调，适合电商/广告场景的复杂导购 Agent、自动策略生成等长 CoT 任务。
- 借鉴“thought revisiting”洞察：模型长推理时会重访早期计划/关键信息，若在 Agent 记忆或上下文选择中使用简单的 recent-biased 策略可能丢失重要远距离信息；建议对历史 query 做聚类，保留每个聚类的代表性 query，用于判断哪些 KV 应保留。
- 工程实现上，可维护少量 beacon queries（每个聚类代表）而非完整 query 历史，预测后续 token 是否会重访，从而动态裁剪 KV cache；该方法已在四个开源 LRM 上验证，内存减少最高5.8×、吞吐提升4.3×，可先在离线长推理任务上 A/B 测试效果。
BIT.UA 在 BioASQ 14B：模块化检索与 Agent 共识答案生成
🧭 多Agent共识生成 · 模块化RAG检索
IEETA/DETI, LASI, University of Aveiro, Aveiro, Portugal · IT, University of Aveiro, Aveiro, Portugal · Aalborg University Business School, Aalborg, Denmark
将 PostgreSQL BM25、Qdrant 稠密检索与多 Agent 辩论共识机制引入生物医学问答，取得竞争性 MAP 排名
📌 工作参考价值（4 点）
- 混合检索架构模块化拆分：BM25 倒排用 PostgreSQL pg_textsearch，稠密向量单独用 Qdrant GPU 索引，各自独立扩展与调优；电商搜索/推荐可以借鉴这种拆分，避免绑定单一检索引擎，降低替换成本。
- HyDE 做 query 扩展：用 LLM 生成假设性文档再检索，缓解 query 与文档词汇不匹配问题；在电商搜索 query 改写或长尾词召回中，可尝试 HyDE 生成伪商品描述，提升稀疏召回覆盖。
- Reranker 训练负采样用 dense retrieval 挖掘难负例：比随机负样本更能提升排序模型判别力；推荐精排阶段的负样本采样可以参照，用当前召回模型检索难负例。
- 多 Agent 共识生成机制：多个不同 prompt 的 agent 辩论并迭代收敛，配合 adaptive document retention 保留相关文档，可迁移到商品推荐理由生成、搜索结果摘要或客服问答，提升生成一致性与事实性。
CAGE：检索增强生成中的连贯性感知图编码重排序框架
🧭 RAG 重排序 · 图编码连贯性
Capital One · General Intelligence Company
用异质实体图建模检索块间连贯性，通过图神经网络重排序提升多跳问答上下文质量
📌 工作参考价值（4 点）
- 在搜索/推荐系统的召回后重排阶段，不要只对单个 item 和 query 打分，可以构建 item 之间的实体关系图（如互补、替代、共现），用 GNN 编码集合整体连贯性，提升 top-k 集合的质量。
- 对于电商场景下多跳查询（如“适合油皮的轻薄粉底液”），可以抽取商品属性实体构建图，利用 min-out-degree 重加权突出少连接但关键的事实锚点（如肤质、功效），增强上下文的事实一致性。
- 在 LLM 生成推荐理由或广告文案时，检索出的商品信息可能存在矛盾或冗余，可借鉴 CAGE 的 Noise Resistance 和 Informational Bonding 维度，用图结构过滤噪声、强化信息互补性，减少生成幻觉。
- 部署时可将 CAGE 作为轻量级 reranker 模块叠加在现有检索器后，无需改动生成模型，只需额外构建实体图并做一次图卷积，工程成本可控。
测试LLM智能体团队中的可互换性
🧭 多智能体协作 · 团队更换与协调效率
China Agricultural University · Tianjin University of Finance and Economics · Jilin University · Tianjin University of Science and Technology
成队后交换角色匹配智能体，任务分损失小但沟通效率下降16–63%，历史越长影响越大
📌 工作参考价值（4 点）
- 生产环境替换 agent/模型版本时，不要只看任务分、成功率；建议监控“单位进度的 communication/token 开销”，角色替换会带来 16–63% 的隐性协调成本。可把 swap 后的 token 增量纳入回归测试。
- 私有 notebook/长期共建历史会让智能体之间形成约定，替换旧成员会干扰 partner conventions；想支持热插拔的团队可限制私有记忆、定期重置共享约定或做去耦合，降低替换冲击。
- 议程/planner 类关键 agent 被替换后，留存 agent 会承担更多沟通成本；架构上可把 planning 与执行解耦，避免替换关键角色影响全队协调效率。
- Greedy decoding 同时降低团队 drift 和 swap penalty；如果团队需要更可互换、更稳定的替换行为，低温度/贪心解码是低成本工程手段。更长的 formation history 会加大 drift，需在训练效率和替换稳定性之间权衡。
超越 Top-k 技能检索：面向 LLM Agent 的多样性感知技能路由
🧭 LLM Agent 技能路由 · 多样性子集选择 ★ 深度解读
Virginia Tech · University of Southern California · Adobe Research · Dolby Labs · Texas A&M University
用 DPP 多样性选择与 query-residual 核，在技能路由中平衡相关性与非冗余，提升多技能任务覆盖
📌 工作参考价值（4 点）
- 在电商/广告 Agent 需要从大型技能/工具库中为复杂 query 选择多个互补技能时，不要只用 pointwise top-k；可加 DPP 选择步骤，用质量分 × 相似度核构造行列式点过程，平衡相关性与非冗余。
- 构造 DPP 相似度核时，先从技能 embedding 中减去 query 对齐分量（residual），避免惩罚因共享 query 相关性而相似的互补技能；对多技能任务尤其有效，可减少有用技能被误杀。
- 工程实现上，仅对检索到的 top-M 候选（如 50）做贪心 MAP，配合 incremental Cholesky 更新，开销小，适合线上 Agent 路由；候选集大小 M 和 residual 混合系数 λ 可调。
- 该方法对搜索/推荐中的多样性重排、多模型路由、多工具组合选择也有直接借鉴意义：在相关性分数基础上增加 query-conditioned 多样性约束，能提升列表对复杂意图的覆盖度。
超越无压缩：RAG 软上下文压缩的两阶段训练配方
🧭 RAG 软上下文压缩 · 蒸馏+RL 训练
Shandong University · Bloomberg · Leiden University
用正确样本蒸馏 + 失败样本强化学习两阶段训练，让 16 倍压缩的 RAG 软上下文效果反超无压缩基线
📌 工作参考价值（4 点）
- 若在商品知识问答、客服 RAG、广告文案检索增强等场景用 LLM 消费长文档，可尝试 soft context compression：把 top-N 商品详情/用户评价/知识条目编码成少量 embedding，替代原始文本，换取 4×–24× 的推理提速。
- 训练配方的可迁移点在于：蒸馏时只用教师 RAG 回答正确的样本，避免把无压缩模型的错误模式蒸馏进压缩模型；然后专门在教师失败的 query 上做 RL，让压缩模型学习更适配压缩表示的计算路径，而不是只模仿教师上限。
- 对推荐/搜索中的 LLM ranker 或生成式 item 描述，若需压缩长用户行为序列或 item 文本，可以用类似两阶段：先用正确输出 warm-start，再对 hard case 做策略探索，可能比直接 SFT 或全量蒸馏更稳。
- 评估时值得像论文一样扫不同 retrieval depth（top-5 到 top-30），确认压缩方案在长上下文下是否仍保持收益，而不是只在单点设置上调优。
CONTINUITY：可组合 LLM Agent 安全控制的安全上下文合约
🧭 Agent 安全控制组合验证
ZAST.AI
用 assume-guarantee 合约与认证安全上下文，保证 LLM Agent 跨组件端到端后果完整性
📌 工作参考价值（4 点）
- 在电商/广告/搜索的 LLM Agent 系统中，跨工具、跨组件调用（商品库、广告投放 API、用户数据）时必须显式传递认证上下文，不能依赖组件内部假设；可借鉴「签名 root grant + 接收回执」模式防止授权被中途丢弃或重放。
- 设计多 Agent 协作或工具编排时，采用 assume-guarantee 合约显式声明每个组件的输入前置条件和输出保证，避免单组件安全测试通过但组合后出现上下文断裂；适合安全敏感的推荐策略、召回和排序服务。
- 引入 transformation witness（字段级来源和变换证明）应对数据血缘要求：例如商品信息经清洗、聚合、过滤后产生推荐结果时，能追溯每个字段的修改链，满足合规审计。
- 工程实现上，可信核心仅 1.5K LOC，验证延迟在毫秒级（proof 4.21ms，端到端 7.17ms），可嵌入实时推荐链路做安全校验，无需引入重型可信执行环境。
CUA-Universe：面向混合 GUI+CLI 智能体的可扩展动态环境
🧭 混合 GUI+CLI 智能体训练环境
Shanghai Jiao Tong University · Zhejiang University
通过环境到数据管线将真实桌面软件转为混合 GUI+CLI 环境，训练 9B 智能体显著提升成功率与效率
📌 工作参考价值（4 点）
- 在电商后台自动化（商品上下架、批量改价、库存调整、报表生成）中，可借鉴混合 GUI+CLI 思路：让 Agent 同时具备页面视觉检查能力与命令行/脚本批量操作能力，避免纯 GUI 点击的低效和纯 CLI 脚本的脆弱。
- 环境到数据管线值得迁移：将内部业务系统封装为可复现 VM 并暴露 CLI 接口，基于可重用操作和种子文件自动合成不同难度的任务，持续产出训练轨迹，形成数据飞轮。
- Path-Steer 的引导式 rollout 与轨迹收割可作为后训练数据工程手段：在业务 Agent 中采集人工修正或规则约束下的高效动作序列，蒸馏到模型，使模型从低效 GUI 交互转向高效 GUI+CLI 编排。
- 评估不只盯成功率，同时关注步骤数和 token 消耗。业务上除任务完成率外，应把操作步数、API 调用成本纳入核心指标，优化 Agent 的长期效率与成本。
DataFlex-RL：RLVR 数据策略评估平台
🧭 RLVR 训练数据策略评测
Peking University · UCAS · Institute for Advanced Algorithms Research, Shanghai · Zhongguancun Academy
构建统一 GRPO 配方下评估 RLVR 数据策略的平台，发现选择/加权/自适应策略相比均匀采样无可复现提升
📌 工作参考价值（4 点）
- 在电商/推荐/Agent 场景中用 RLVR 训练生成式推荐、Query 推荐或文案生成时，均匀采样是强 baseline；引入任何 rollout 选择或加权策略前，先按统一超参多 seed 配对检验，避免无效复杂化。
- 评估指标集合对策略排名影响极大：仅用部分业务指标（如只看点击不看转化或多样性）可能导致排名负相关；需要领域平衡的综合指标，并在上线前检查指标选择是否稳健。
- 可复用 DataFlex-RL 开源平台作为内部 RLVR 数据策略 A/B 测试模板，快速验证新数据策略是否真的带来可复现提升。
- 自适应多域混合不优于固定等权混合，在多任务/多场景推荐中不要盲目上自适应采样权重的复杂设计，先确保数据质量和训练稳定性。
电商搜索中面向需求与转化的多模态 Doc2Query 对齐
🧭 电商搜索 · 多模态文档扩展与 RL 对齐 ★ 深度解读
Alibaba International Digital Commerce Group
三阶段课程学习将多模态 Doc2Query 对齐到召回增益和商业转化，线上 GMV +3.38%
📌 工作参考价值（4 点）
- 布尔召回下，文档扩展不要做 TF 加权，只生成不在 title 中的新词；训练时用信息增益过滤（V_Q ⊈ V_T）防止模型退化复制标题。
- 用 CPV 视觉属性码表做反事实掩码：把 title 中的颜色/材质/款式等词遮掉，保留图片，构造多模态样本，逼模型从图里补属性，改善长尾/短标题商品召回。
- 奖励设计可直接复用：安全 gate 先滤掉低相关或无新词生成，再叠加语义评分 + 商业词价值（PV×CVR 贝叶斯平滑，冷启动词用全局分平滑）+ 视觉属性 bonus；优化用 GRPO 省 value net。
- 工程上离线对选品批量生成 Top-K 查询填充倒排索引，线上无模型推理，索引 +35% 但 P99 延迟只 +0.2%，增量可回滚，适合大规模电商搜索。
多模态大模型幻觉源于协同头信息分布漂移
🧭 多模态大模型幻觉归因与校准
Shenzhen University of Advanced Technology
提出 HEAL，通过头部级信息解耦与校准识别并缓解多模态大模型幻觉
📌 工作参考价值（4 点）
- 多模态 LLM 在电商商品描述生成、图文推荐、广告创意生成等场景中容易出现幻觉，可借鉴头部级解耦与校准思路：定位并校准跨模态协同注意力头，无需全模型微调，降低落地成本。
- 因果噪声干预筛选冗余头的方法可用于分析现有多模态推荐模型的注意力机制，识别对跨模态对齐贡献不大的头，进行剪枝或优化，提升推理效率。
- 动态注入校准因子到 value vectors 的机制可迁移到多模态特征融合模块，作为轻量级即插即用组件，增强图像和文本特征的一致性。
- 结论“幻觉与模态特定头数量/强度无关，而与协同头信息分布漂移相关”提示在多模态推荐/搜索中应关注跨模态交互的质量而非单模态表示的强度，可指导模型调试和特征工程。
多模态智能体图像生成与编辑全栈方案
🧭 多模态 Agent 图像生成编辑全栈
Weixin AI, Tencent
提出全栈式多模态 Agent 方案，含运行时、数据、基准与后训练，30B总/3B激活策略逼近1T参数 agent 性能
📌 工作参考价值（4 点）
- 在电商商品图/营销素材生成 Agent 中，借鉴其「持久证据管理 + dense carrier」设计：将商品属性、品牌规范、历史文案等检索到的多模态证据沉淀为统一上下文，避免每轮重复检索，提升多轮编辑一致性。
- 把 verification/integration 拆成独立工具而非塞进 policy 模型，降低策略模型负载并提高可靠性；在推荐/搜索 Agent 中可加结果验证与证据融合工具，先验证再输出。
- 用三层可验证 checklist 构建 RL 奖励，解决生成/推荐任务难以自动打分的痛点；可迁移到文案生成、创意推荐的离线评估。
- 小参数策略（3B active）通过 SFT+RL 后训练接近大模型，适合线上成本敏感场景；数据构造上优先合成 prompt + agent trajectory，再 SFT 后 RL。
反射感知的生成式新视角合成
🧭 生成式NVS · 反射几何虚拟视图
KAIST
提出免训练反射感知多视图扩散方法，将镜中影像视为互补视图实现镜面场景一致新视角生成
📌 工作参考价值（4 点）
- 若业务涉及商品 3D/多视图生成（如家具、镜面或反光商品），可借鉴“虚拟视角 + 注意力门控”思路，对镜面/反射面显式建模，在不微调现有多视图扩散模型的情况下提升反射一致性。
- Ref-GeNVS 的 Mirror-gated attention 与 Reflection injection 两阶段注入反射关系，提供了一种 training-free 的条件控制范式：利用几何先验（镜像平面、虚拟相机）引导生成，可迁移到其他需要物理约束的生成任务。
- 对 AI 生成商品创意/短视频，反射面常导致脏图、leakage，可尝试在生成前检测镜面并构造虚拟相机轨迹，作为 layout/pose 条件喂给扩散模型，减少后期修图成本。
- 学术贡献为主，与搜索/推荐/Agent 直接耦合低，但虚拟视图几何增强与 training-free adapters 思想可复用到多模态商品理解/生成 pipeline。
个性化任务依赖图缓解多任务推荐中的信号衰减
🧭 多任务学习 · 任务依赖图 ★ 深度解读
Huawei Technologies Co., Ltd.
PTDG以低秩动态任务图和因果GCN消息传递，缓解多任务推荐深层转化目标的信号衰减
📌 工作参考价值（4 点）
- 在电商/广告多目标转化（点击→加购→下单→支付）中，不要用全局固定漏斗依赖；用低秩分解（rank q≈T/3）从 item/user/scenario 特征生成动态任务邻接矩阵，再叠加因果掩码，能适配不同商品/场景的转化路径差异。计算上每个 item 只增加一次低秩矩阵乘法和 GCN 传播，在线延迟仅 +8 ms，适合 serving SLA。
- 借鉴因果掩码+自适应 shortcut 的消息传递：在任务图上允许 Click→Pay 等跳过中间环节的捷径，避免深层稀疏目标信号被层层衰减；这比固定层级 AITM 更灵活，尤其适合稀疏深层目标（支付、复购）的 CVR 预估。
- APM 结构化解耦共享参数：根据任务正样本率设置 mask 率，稀疏任务 mask 率更高（如低至 0.7），密集任务低（0.2），并线性 warm-up。相比 PCGrad 等梯度投影，训练开销几乎为零，推理无额外参数，可直接替换 MMoE/PLE 的共享底层。
- 用 EMA 归一化每个 task loss 权重（loss / EMA(loss)）是稳定多任务训练的轻量 trick，可以快速在现有 MTL 模型中验证。
GLASS：图-语言对齐与球面评分实现可迁移图级异常检测
🧭 图异常检测 · 图-语言对齐
School of Data Science, The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)
GLASS 将图编码器与文本嵌入对齐到超球面，用球面密度评分实现跨域图异常检测，支持零样本/少样本迁移
📌 工作参考价值（4 点）
- 风控/反作弊：电商平台可将商家、交易、用户关系建模成图，用 GraphDP 模板描述图的局部/全局/语义属性，并与文本嵌入对齐，快速构建跨品类/场景的异常检测模型，解决冷启动问题。
- 零样本跨域迁移：新业务线或新市场缺少标注异常样本时，可直接复用对齐好的图-文本空间，用目标域图描述文本做零样本检测，或用极少量正常样本校准参考集，避免重新训练。
- 多尺度表示训练：Matryoshka 表示切片可一次训练得到多个维度的嵌入，线上推理时按需截取低维部分，降低存储和计算成本，适合大规模图数据的实时风控。
- 球面密度评分：SMS 的 vMF 核密度估计比原始 kNN 更平滑，且能融合图结构和文本语义两个模态的异常信号；在商品风险、异常评论等场景，可将文本描述与图结构融合，提升异常检测鲁棒性；对推荐排序核心链路直接收益有限，但平台治理/风控可借鉴。