SHq：面向 LLM 权重量化的可学习网格
🧭 LLM 权重量化 · 可学习查找表网格 ★ 深度解读
ETH Zürich · Rhoa Research · Institute of Science and Technology Austria (ISTA)
用两参数 sinh 压缩网格替代固定查找表，端到端 KL 搜索参数，3-4bit 量化误差显著低于 NF/BOF/INT
📌 工作参考价值（4 点）
- 若业务中需以 4-bit/3-bit 低比特部署 LLM（如 query 改写、商品文案生成、广告标题生成、Agent 推理），可将 SHq 作为 NF4/INT4/NVFP4 的 drop-in 替换：只改 lookup table 内容，不改变存储与解码，实测 KL 更低且下游精度更好。
- 量化 grid 的选择不应只看权重 MSE 或 reconstruction error，而应在端到端目标（如生成 query 的分布偏移、业务代理指标）上搜索；SHq 直接以 calibration KL divergence 扫描参数，这个思路可迁移到量化、蒸馏或压缩方案的选择。
- 在 block-scaled LUT 格式中，E4M3 block scale 的 sign bit 通常闲置；可引入不对称 grid 或 offset，用 sign bit 在 grid 与 mirror 间切换，零成本增加有效码本大小，对 2-bit/3-bit 极低比特部署尤其有价值。
- 对 MoE 稀疏大模型（电商/广告推荐中常见）同样有效；联合使用 SHq 与 per-layer bit allocation（如 RCO）可进一步压缩，且 SHq 在各 bit-width 下保持最低 KL，适合做统一量化格式。
Chronos-2：多变量时间序列预测基础模型
🧭 时间序列基础模型 · 多变量预测
Amazon · University of Freiburg · Boston College · Rutgers University · Max Planck Institute for Biogeochemistry
零样本多变量时序基础模型，联合建模序列交互与异构协变量，精度与推理效率显著领先
📌 工作参考价值（4 点）
- 把 Chronos-2 作为电商场景的 zero-shot 多变量预测底座：对销量、流量、广告消耗、库存等多条相关序列联合建模，并纳入价格、促销、节假日、市场指数等协变量，减少逐业务训练专用预测模型的工作量。
- 可直接复用「历史上下文推断序列关系 + 异构协变量」思路：在推荐/广告的实时调控中，对 CTR、转化率、GMV、曝光量等多指标联合预测，输出概率分布而非点值，便于做风险控制和预算分配。
- 其推理效率（100 序列/秒级）适合大规模商品/广告计划的批量预测与实时校准；若将预测结果作为特征或 reward 信号接入排序/Agent 决策，延迟成本可控。
- 如需领域适配，优先考虑基于 Chronos-2 微调或蒸馏，而不是从零训练；同时注意协变量口径统一与缺失处理，因为模型对异构协变量的建模能力是收益关键。
ID2Pattern：为交易风险基础模型预训练可泛化身份行为模式
🧭 身份行为模式预训练 · 交易风控/电商 ★ 深度解读
Ant International · East China Normal University
用 LAID 匿名 ID 编码与多尺度 VQ pattern codebook，从高基数身份序列中提取可泛化行为模式，提升风险/电商预测。
📌 工作参考价值（4 点）
- 高基数 ID 不要用 hash/ID embedding，用 LAID 匿名编码：将 user/device/card/item 等 ID 映射为局部 ID、novelty、occurrence、recurrence 四通道；词表固定、不受 ID 新增影响，且对 ID 值置换不变。适合冷启动、跨域迁移以及线上推理速度（比 hash 更快，参数不随 ID 增长）。
- 用多尺度 VQ pattern codebook 做无监督预训练：在 short/medium/long 三个时间窗口各自量化成离散 behavior pattern，通过 masked identity-state recovery 学共享码本；离散 pattern 比连续表示更稳，可跨数据集 transfer，甚至略优于 in-domain 预训练。
- 可迁移到电商/广告序列建模：淘宝/RetailRocket/Synerise 上的结果表明，短期 window 捕捉 repeated revisit（转化意图），长期 window 捕捉 novelty（风险/偏好变化）；可以把用户行为序列中 ID 的高基数问题与语义特征解耦，作为 plug-in 加到 GRU/LSTM/Transformer/Mamba 骨干。
- 工程实现上，LAID 计算只需 window 内等值比较，无需全局映射：单次 pass O(#fields * sum L_s)；pattern token 仅给 backbone 增加 3 个 token，复杂度可控。适合高 QPS 在线支付/推荐场景。
CoWalk：面向磁盘驻留图 Agent 批量查询的协作游走
🧭 向量检索 · 批量协同查询优化
Sun Yat-sen University · Pengcheng Laboratory
让批量语义相关向量查询在同一线程协作遍历图索引，每页只读一次、所有查询共享打分，显著减少 I/O 与距离计算
📌 工作参考价值（4 点）
- 如果业务中存在 query 改写、多路并发召回或多 rollout 评测等批量语义相关向量查询，可在服务端把同一 batch 绑定到同一线程/执行器，共享页读取与打分，直接降低磁盘 ANN 的重复 I/O。
- 仅加共享 page cache 不一定能加速搜索，因为 walk 不变、距离计算仍是瓶颈；需要让任一 fetched page 被 batch 内所有 query 同时计算距离，从而改变剪枝与候选扩展过程，才能同时减少距离计算和 I/O。
- 在电商/广告的 embedding 召回或 RAG 检索服务中，可设计 batch-aware ANN 接口：上游把所有改写 query 一起下发，索引层做协作遍历，而不是逐个查询独立执行，吞吐可提升数倍。
- GRPO、deep research 等多 rollout/子任务并发的 agentic search 场景，查询生成侧天然产生语义相近 batch，适合用该思路做底层检索加速，降低向量库成本。
GTFormer：无语法图网络替代 Transformer 实现 8192× 长度外推
🧭 长序列建模 · 层次图网络替代自注意力 ★ 深度解读
Middlesex University, Department of Computer Science
用层次图树替代自注意力，N≤512 训练零样本外推到 4,194,304 tokens，线性时间与显存
📌 工作参考价值（4 点）
- 在电商用户长期行为序列或商品描述等长文本建模中，可借鉴 GTFormer 的二分树收缩 + 多通道凸门控：把 O(N^2) 自注意力降为 O(N) 的层次消息传递，并利用凸组合保证深层次表示不漂移，适合处理 10k+ 的用户事件流或商品属性序列。
- 处理跨 chunk 边界特征时，可加入一阶 local shift edge 来绑定相邻 token/事件，避免固定窗口分块导致连续 key-value 对或用户行为片段被割裂；这对推荐系统中的序列分块和流式特征工程有直接参考价值。
- 对 Agent 的长期记忆、审计日志或多跳检索场景，bottom-up 层次图 + 根节点读出可用作轻量级路由/记忆编码器，避免全量 attention 的显存爆炸；但 GTFormer 目前只在合成 benchmark 上验证，真实业务需先做小规模适用性测试，不宜直接替换生产 LLM。
- 消融显示凸门控对深度外推至关重要，去掉后精度从 98% 崩至 2-4%；在深层次用户兴趣聚合或标签体系建模时，应优先采用凸/门控聚合而非无约束 MLP。
面向高效近似最近邻搜索的邻近图索引无损压缩
🧭 向量检索 · HNSW 图索引压缩
ISTI-CNR · eBay Inc. · University of Pisa
通过离线图置换制造结构局部性，用 SIMD 整数压缩器快速解压 HNSW 邻接表，压缩率最高 52.7% 且延迟近零损失
📌 工作参考价值（4 点）
- 电商/广告向量召回中 HNSW 内存吃紧时，先定位边存储占比：若向量已量化、图边成为主要开销，可对邻接表做离线节点重编号，再使用 Stream VByte 等 SIMD 整数压缩器，在线边解压边遍历，基本不损失延迟。
- 关键 trick 是离线图置换：人为让邻接表内的 ID 分布更集中，能显著提升整数压缩器的压缩率；业务上可直接对 item/user embedding 的 HNSW 索引做同样的重编号，无需改召回精度。
- 如果已经在用 PQ/Scalar quantization，此方法可叠加使用，进一步降低 HNSW 整体内存，缩小索引集群规模或支持更大规模向量库。
- 工程落地优先选 SIMD 友好的解压器（如 Stream VByte），避免复杂熵编码带来的分支和延迟；上线前需重点验证查询 P99/P999 延迟，并做无损压缩以避免召回质量回退。
推进基于SVD的LLM压缩：逐层误差模型搜索
🧭 LLM 低秩压缩与层级误差建模
Technical University of Munich · BMW Group · University of Glasgow · TU Wien
提出LEMS与KFAC-SVD，分别解决SVD压缩中rank分配不精确和分解rank崩溃的问题
📌 工作参考价值（4 点）
- 在部署LLM用于推荐/query生成时，SVD压缩可大幅降低推理成本，但rank分配不能简单全局均匀：LEMS用逐层误差代理+ILP全局优化，能更好地保留关键层容量，值得借鉴到生成式推荐的backbone压缩。
- KFAC-SVD利用token-wise统计替代Fisher信息估计，缓解rank collapse，提高了分解质量；若业务中需要对嵌入层或Transformer层做低秩近似，可优先考虑类似token级统计修正。
- 层间误差传播的建模思路可迁移到多任务资源分配：在电商多目标排序模型中，不同层的敏感度不同，可仿照传播偏置做层级算力/参数预算分配。
- 工程实现上，ILP求解rank分配虽然复杂，但离线一次性完成，对在线推理无额外开销；适合用固定压缩比部署LLM生成商品描述、搜索词润色等场景。
CARL：聊天辅助强化学习
🧭 LLM 辅助 RL 规范工程
Santa Clara University · Franklin Templeton
通过人机协同的十步规范工作流与自主工具循环，解决 RL 的规范与性能差距，避免奖励黑客和状态混叠
📌 工作参考价值（4 点）
- 在推荐/广告的强化学习项目中，reward hacking 与状态混叠是常见翻车点。可借鉴 CARL 的“先交互式确认 MDP + 奖励项权重，再生成训练代码”流程，让业务专家在建模前明确状态、动作、约束及多目标权重，减少上线后目标漂移。
- LLM 助手 persona + 步骤级 skill files 结构能引导非 RL 背景的业务/产品参与 RL 任务规范，适合内部自动化建模平台；紧凑决策摘要可跨迭代保留业务约束，避免长对话上下文过载，可直接复用到多轮需求澄清工具。
- 自主工具循环（生成-测试-调试）加训练后诊断重访，适合封装成半自动 RL pipeline 工具，把算法工程师从工程实现中解放出来，聚焦奖励设计与业务验证。
- 论文示例偏金融/控制，但工作流与 persona/skill 机制可迁移到电商强化学习系统的策略调试与参数治理。
可解释下一事件预测：神经符号序列规则与残差网络
🧭 神经符号规则 · 可解释事件预测
Saarland University · CISPA Helmholtz Center for Information Security
学习序列规则 RULES，并与残差网络组成 RUNES，在保持精度同时提供可解释规则与残差调整
📌 工作参考价值（4 点）
- 电商行为序列预测可用学到的规则如「搜索→点击→加购 ⇒ 购买」作为可解释基础层，配合残差网络提升精度；规则部分直接给运营/风控提供可读理由。
- 架构上采用规则+残差加性组合，线上可单独审计或配置规则部分，残差网络吸收长尾和非规则模式，适合需要业务可解释与合规审计的场景。
- 用于搜索词/query 推荐时，可将 query 和用户行为离散化为事件，学习「query A 后 query B」类规则，为推荐生成可解释理由。
- 规则集可作为冷启动先验或模型诊断工具：先在合成/历史数据上验证规则恢复能力，再接入残差模型，避免黑盒覆盖关键业务规则。
Lychee：高召回向量搜索的倒排列表认证筛选
🧭 高性能向量检索 · GPU 倒排索引
University of Washington, Tacoma School of Engineering and Technology
Lychee 在 GPU 倒排索引上通过 certified screening 跳过大部分向量读取，实现高召回向量搜索加速
📌 工作参考价值（4 点）
- 在电商/推荐的高召回向量召回场景（如风控、相似商品去重、内容安全）中，可在现有 IVF/倒排索引上增加基于 anchor 的 certified lower bound 预筛，用 GPU tensor cores 做数值比对，避免读取全精度向量，显著降低显存带宽压力；可参考其证明框架，确保不损失召回。
- 若业务使用 cuVS / Faiss IVF-Flat，可借鉴 Lychee 的筛选顺序：先按 bound 递增处理候选，快速排除大部分不相关向量，只对少数候选计算精确距离；尤其适合 probe 数较大、追求 0.999+ recall 的场景，吞吐不再与 probe 数量成反比。
- 多 GPU 扩展方案对亿级/十亿级商品 embedding 库有参考价值：通过分片和跨 GPU 合并，可在 4 卡上达到十亿向量 0.9999 recall 的工程可行性。
- 对使用量化/图索引但需要高召回的业务，该方法的“certified exact top-k of probed lists”特性可替代部分重排，避免全量 rerank，平衡精度与延迟。
MICE 与你相见：从仅重排到端到端检索
🧭 神经检索 · 端到端 Late-interaction
Sorbonne Université · CNRS · ISIR · Sinequa by ChapsVision · Univ. Toulouse
首个基于 MICE 的端到端检索管线 MICE-P，用 PLAID 索引文档 token 表示，在保持 cross-encoder 效果的同时达到 late-interaction 吞吐量
📌 工作参考价值（4 点）
- 在商品/广告搜索中，可参照 MICE-P 将昂贵的 cross-encoder 级重排模型改造为端到端召回：离线预计算文档/商品侧上下文 token 表示并用 PLAID 类索引存储，线上仅做轻量 token 交互，保持效果同时大幅降低计算开销。
- 借鉴 Ettin Family 的公平对比框架：在自己的模型评测中，确保不同架构训练数据、优化器、步数等保持一致，避免因训练配置差异导致结论不可靠。
- 若已有重排模型表现优异但推理慢，可探索为其增加文档侧预计算与索引模块，转化为召回或第一阶段检索，减少多级 pipeline 的延迟。
- MICE-P 证明存在一种新的效率-效果权衡区间：在部分场景下，不必牺牲 cross-encoder 精度即可获得接近 late-interaction 的吞吐，适用于对精度敏感且有一定计算预算的电商搜索/推荐入口。
通过CubeAtlas实现无畸变无缝全景生成
🧭 全景图像生成 · 扩散Transformer
Tencent
提出CubeAtlas表示与布局感知稀疏注意力，单次前向生成几何一致的全景图
📌 工作参考价值（3 点）
- 直接可借鉴点有限：全景生成与电商推荐核心链路基本无关，主要学术贡献。
- 布局感知稀疏注意力：当 token 布局有明确空间结构时（如商品多视图、场景图），可依据几何关系裁剪注意力矩阵，减少计算同时保持跨视图一致性，对多模态商品内容生成有参考价值。
- 训练自由超分与融合：在不重新训练的情况下提升高分辨率细节，可借鉴用于电商图片/视频后期增强。
通过选择性审计实现可靠的 AI 辅助决策
🧭 在线决策监控 · 选择性人工审计
University of Toronto · Stanford University · University of California, Berkeley
提出在线选择性审计框架，在控制未审计 AI 错误比例低于阈值的同时最小化人工审计频率
📌 工作参考价值（4 点）
- 在电商/推荐场景中，AI 生成的商品描述、推荐理由或 Agent 操作常带有 confidence score；可借鉴该框架做选择性人工审核：设定业务可接受的未纠错比例 α，用在线阈值动态决定哪些 case 送审，减少全量审核。
- 算法无分布假设，对 i.i.d. 和对抗性流量都有理论保证，适合电商大促、恶意刷单等非平稳流量下的审核策略。
- 若系统由“生成 Agent + 校验 Agent”组成，可把校验分数作为 confidence score，接入该方法自动升级高风险决策；阈值无需重新训练，直接在线调整。
- 工程上可作为轻量级后处理模块：不改变原有模型，只需输出 score，与现有规则/模型融合成本低；实验表明在 LLM 有害请求过滤、数据标注等任务中能显著降低人工审核量。
TWIG：每个权重都是共享离散决策路径
🧭 模型压缩 · 权重离散化
LEAD Lab, ITMO University
提出 TWIG 树结构权重表示，统一剪枝、量化、低秩与码本，LLM 权重以更少加法达到与 GPTQ 同等误差
📌 工作参考价值（4 点）
- 业务部署 LLM/推荐模型时可统一压缩流程：TWIG 把剪枝、量化、低秩、码本、权重共享合并为同一树结构决策，避免分阶段工具链（先剪枝再量化再低秩）造成误差累积，可用一个优化目标联合搜索。
- 对延迟敏感、希望硬件固权/推理加速的电商搜索或广告模型，可尝试将关键层表示为 signed power-of-two 项，使乘法变移位加法，降低电路成本；优先用于 outlier 明显或冗余大的 FFN/embedding 层，实测此类矩阵可减少更多加法。
- 工程实现上可借鉴“共享路径继承”思想：让一组权重共享高层离散门（sign/scale/index），仅叶节点不同，既能大幅减少元数据存储，又便于在芯片制造前固化。
- 当前证据仅来自 5 个权重矩阵，尚未验证全模型端到端精度与吞吐；业务落地前需先做全模型压缩实验，评估与 GPTQ/AWQ 等成熟方案的端到端指标。
ProVe：提案者-验证者解码
🧭 LLM 推理加速 · 提案-验证解码
把大模型微调为一次预测多 token 的 proposer，再以小模型或自身验证，取得 2.5–2.7× 解码加速
📌 工作参考价值（4 点）
- 在延迟敏感的 LLM 在线服务（商品描述生成、query 改写、对话推荐）中，可把已有 AR checkpoint 继续微调成 block proposer，一次 forward 生成多个后续 token，省去额外 draft head，直接降低串行 forward 次数。
- 若业务要求输出与 greedy AR 完全一致，采用 ProVe-lossless 自验证；若允许少量精度损失换吞吐，则接一个小 verifier，这样部署时可以按 QPS 目标动态切换档位。
- 对 Agent 多步推理或工具调用场景，长轨迹生成可让大模型一次起草多个步骤或工具参数，再用轻量 verifier/规则引擎快速校验前缀，减少交互轮次。
- 注意 block size 与接受前缀的关系：论文 block size 16 只有 6.6 token 平均匹配前缀，实际部署需按领域调 block size 并监控接受率，避免无效计算。
RemoteANN：面向云对象存储的原生向量搜索引擎
🧭 云对象存储上的向量检索系统 ★ 深度解读
Nanyang Technological University · ByteDance
通过 IVF+RaBitQ 量化与数据重排序、请求合并等协同设计，大幅降低云对象存储向量搜索的 I/O 与 API 请求成本
📌 工作参考价值（5 点）
- 若将大规模 embedding 卸载到 S3 等对象存储以降低存储成本，应优先采用 IVF 类索引而非图索引：图索引多跳路由会叠加网络 TTFB，IVF 单轮拉取候选簇更适合高延迟远程存储。
- 借鉴 RaBitQ 量化思路：将向量压缩为 1-bit prefix 常驻内存用于粗筛和距离估计，其余低精度码放远程存储，可大幅减少远程请求，适合嵌入召回的大规模粗排阶段。
- 数据重排序 + 请求合并是降低 API 调用费用的关键：对簇按质心最近邻路径排序（近似 Hamiltonian path），簇内按到质心距离排序，使查询目标范围局部集中，再用动态规划合并 Range-GET 请求，可迁移到任何按请求计费的远程数据读取场景。
- 本地 NVMe SSD 缓存采用自适应阈值：当请求范围大于阈值时整簇下载填充缓存，平衡带宽与缓存命中率，适合电商热门商品/用户 embedding 的冷热分层访问。
- QGKMeans 用 SymphonyQG 加速 k-means 质心分配，索引构建时间可降低数倍，适用于需要频繁重建向量索引的业务（如商品库更新、A/B 测试多版本索引）。
接受不等于速度：训练自由有损推测解码中的长度膨胀
🧭 LLM 推理 · 推测解码效率评估
University of Waterloo
发现 relaxed 推测解码的接受 token 数增加会伴随生成长度膨胀和推理延长，使指标失真，应报告完成长度和验证轮数
📌 工作参考价值（4 点）
- 线上若用 LLM 生成推荐理由、搜索 query 改写、Agent 规划，并用 speculative decoding 加速，不要只报 accepted tokens per round；必须在墙钟时间前先验证是否出现输出长度膨胀，否则吞吐指标会虚高。
- 对预算受限的 Agent 任务（如多步工具调用、长推理链），lossy 验证可能接受低目标模型概率 token，导致推理啰嗦、max_tokens 耗尽而拿不到最终答案；建议优先使用 lossless 或对 token 概率设置更高门槛。
- 评估解码加速方案时，增加 completion length 和 verifier rounds 指标，并与线上真实延迟打点结合；可加长度惩罚、max_new_tokens 约束或后处理截断来控制膨胀。
- 若用于生成式商品文案、推送标题等，lossy 加速可能让输出变冗长，影响点击和转化；建议离线对比输出长度分布和任务指标，避免仅看 accept rate。
PathFM：多元轨迹的快速生成式预测模型
🧭 生成式时间序列预测 · Flow Matching
California Institute of Technology · Amazon
PathFM 用 flow matching 生成完整多元轨迹，通过蒸馏与共享 KV cache 实现近单次查询速度，并取得最优路径分数
📌 工作参考价值（4 点）
- 需求/流量预测：电商大促、广告库存等场景需要累积需求、峰值、到达时间等轨迹级指标，用 flow matching 替代纯分位数模型可同时保留多步依赖与不确定性，适合 downstream 优化。
- 工程加速：多轨迹采样通过蒸馏到 1-2 步 + 共享 history attention cache 显著降低在线推理成本；类似思路可迁移到生成式推荐或 Agent 场景中需要对同一上下文做多次采样的模块。
- 校准损失直接优化：蒸馏后采样器支持端到端校准目标，比事后校准更稳定；在电商不确定预测（如缺货概率、风险控制）中可借鉴。
- 评估指标：引入 energy score / variogram score 评估路径依赖，比单纯 CRPS 更能反映序列依赖结构，可用于多步推荐收益预测、广告投放轨迹评估。
AiSAQ-in-Filtering：无 DRAM 过滤向量检索
🧭 向量检索 · 过滤搜索 · DRAM-free ANNS ★ 深度解读
Kioxia Corporation
提出 LiPQ 将标签与向量联合 PQ 编码，使过滤 ANNS 保持接近零 DRAM 且索引加载快
📌 工作参考价值（4 点）
- 若业务使用 DiskANN/AiSAQ 做向量检索，带类目、品牌、属性等过滤条件时，可采用 LiPQ 把离散标签与 item embedding 联合 PQ，标签信息编码进压缩向量，避免标签单独占 DRAM，利于多租户和频繁索引切换。
- 标签距离用负内积，二进制标签可扩展为 BM25/稀疏关键词权重，实现语义向量 + 关键词混合检索而不额外增加内存；注意 β 需手动调，β 过大时 LiPQ 量化误差会上升。
- 实验显示 Zipf 分布标签（贴近电商头部类目/品牌）比 uniform 更体现 LiPQ 优势，长尾标签 recall 提升最多 55%，可优先在长尾过滤属性上验证。
- 索引加载时间从分钟级降到毫秒级（uniform 标签 SIFT1M 从约 970 秒降到 10.1 ms），对实时索引切换、多租户 SaaS 检索服务有直接价值。
巴西法律文档检索的结构化分割
🧭 长文档结构化分块与稠密检索
Câmara dos Deputados · Senado Federal · Universidade Estadual de Campinas (UNICAMP) · Universidade Federal do Cariri (UFCA)
长法律文档按结构分块索引可提升稠密检索效果，完整层级非必需，核心块加文档元数据即可
📌 工作参考价值（4 点）
- 对长文档场景（商品详情、政策条款、合同、帮助中心 FAQ），优先使用结构化分块而不是整篇文档做 dense 索引，可显著提升语义召回；但注意索引单元数会大幅增加，需要评估线上 QPS 与存储成本。
- 不需要维护完整层级树；把核心分块（如商品核心参数、条款正文）加上文档级元数据（类目、品牌、标题、文档 ID）作为上下文，就能达到甚至超过复杂层级表示的效果，工程实现更简单。
- 结构化分块对 BM25 等 lexical 检索提升不一致，因此不要全链路替换；可以保留整文档 BM25 召回，同时用结构化分块做 dense 召回，混合加权或多路召回更稳妥。
- 分块时要注意元数据上下文注入，避免孤立块语义漂移；类似地，电商长描述或评论聚合可以按要点/属性切块，并带上商品 title 或类目信息，让向量更聚焦。
TokenRouter：高效 token 级 LLM 路由服务系统
🧭 LLM Serving · Token 级路由
Tsinghua University · Carnegie Mellon University
设计 TokenRouter，以请求中心编程、模型中心执行和延迟批处理调度大幅提升 token 级 LLM 路由吞吐
📌 工作参考价值（3 点）
- 在电商/广告的 LLM 多模型路由场景中，可借鉴 request-centric programming, model-centric execution 的分层思想：策略侧只需按单个请求描述路由逻辑，由运行时为每个模型启动独立 subserver 并异步分发，避免将路由策略硬编码进模型服务，降低开发复杂度。
- delayed-batching scheduler 通过有界延迟换取更高吞吐，适合批量生成商品描述、广告文案、搜索 query 推荐等近线/离线任务；其最优超参数可由吞吐模型推导，减少人工调参成本。
- 异步执行和 CUDA Graph 优化在多模型异构推理中可复用，提高 GPU 利用率；若业务同时部署大小模型或专用生成模型，可参考 subserver 隔离与异步调度避免互相阻塞。
现实性 vs 准确性：事件序列预测的生成建模视角
🧭 事件序列条件生成建模与评估基准
Applied AI Institute · ITMO University · Vega Institute Foundation · SB AI Lab · AXXX
提出事件序列预测基准与Wasserstein BaryBooster算法，揭示准确性与分布真实性权衡，并将扩散模型样本聚合为SOTA预测器
📌 工作参考价值（4 点）
- 评估生成式推荐/用户行为序列模型时，除 hit rate 等 accuracy 指标外，引入分布真实性指标（如 Wasserstein 距离、MMD）检测模式坍塌，避免生成结果集中在少数高频事件。
- Wasserstein BaryBooster 的思路可迁移到生成式推荐：用扩散模型生成多个候选 item 或序列，再通过最优传输聚合（如 Wasserstein barycenter）得到确定性排序或预测，将生成多样性转化为点预测精度。
- 事件序列同时包含数值特征（如交易金额）和类别特征（如商品类目），该基准的异构建模方式可参考用于电商交易序列、用户行为序列的长期预测。
- 准确性-真实性权衡的发现提醒：追求 likelihood 或逐点预测可能牺牲生成质量，应根据业务目标（如推荐多样性 vs 点击率）选择模型或设计混合策略。
转移法则格：扩散与自回归解码调度的统一框架
🧭 生成模型统一解码调度与成本预测
University of Pennsylvania
将扩散、自回归及混合模型统一为 corruption lattice 上的路径，用依赖成本预测不同解码调度性能
📌 工作参考价值（4 点）
- 在生成式推荐或文本生成中，不必固定 AR 顺序或全并行扩散，可根据数据依赖图/树深设计中间解码调度，平衡推理延迟与生成质量。
- 利用预训练模型权重估计成对依赖成本，可低成本预测不同解码策略的排序，用于离线筛选最优推理策略，减少在线实验成本。
- 对于商品序列或图结构数据（如购物车序列、类目树），treedepth 给出最少零成本并行步数，可用于并行生成商品描述、推荐理由等任务时估计加速上限。
- 在支持混合解码的推理框架中，可先用依赖成本排序候选 schedule，再小规模验证，替代全量解码调参，提升工程效率。
从规则到神经图：可扩展结构化预测用于专利现有技术检索
🧭 信息检索 · 图结构化预测
IPRally Technologies Oy
用局部 biaffine attention 构建专利发明图，蒸馏规则解析器，实现长文档可扩展图检索
📌 工作参考价值（4 点）
- 长商品描述/详情页常被截断，可借鉴局部 biaffine attention 构建商品属性/关系图，用图表示替代截断；短序列训练、长序列部署，适合线上低延迟。
- 规则解析器（类目、属性、标签体系）脆弱且维护成本高，可仿照知识蒸馏：用已有规则系统生成百万级标注，训练轻量神经解析器，通常能超越规则模型且推理成本更低。
- 对超长文档检索，图结构 + Graph Transformer 比直接 dense 向量在全文档上更有效，尤其查询与文档长度差异大时；商品详情页可构建轻量图做相关性匹配。
- 滑动窗口限制 pair scoring 是简单有效的 O(n²)→O(n·w) 优化，对任何需长序列实体/关系抽取的模块都有参考，且权重共享使短序列训练直接部署到长序列，无需重训。
JOINGR：学习遍历连接图进行表检索
🧭 Text-to-SQL 表检索 · 连接图遍历
Arizona State University · Adobe Research, India
将数据库连接图作为检索空间，用查询条件化评分器遍历边来提升多跳表检索召回
📌 工作参考价值（4 点）
- 商品/内容图谱检索可借鉴：先选语义相似锚点，再用轻量边评分器沿关系边遍历，提升多跳关联实体的召回。
- Text-to-SQL 或对话式 BI 场景中，把 schema 连成图，用 query-conditioned connector 代替独立的表打分，能缓解 LLM 幻觉和 schema 错选。
- 冻结 embedding + 轻量 MLP 边评分器的方式训练成本低、易于线上部署，适合推荐系统中召回阶段的图遍历增强。
- 跨域迁移实验表明学到的遍历策略是可复用的，类似电商场景下训练好的商品关系遍历模型可能跨品类复用。
生成式AI搜索打破信息茧房：多样化集体注意力并提升共享信息消费
🧭 生成式AI搜索与集体注意力多样化
University of Texas at Dallas, Richardson, TX 75080, USA · Boston University, Boston, MA 02215, USA · Faculty of Computing & Data Sciences, Boston University, Boston, MA 02215, USA · American University, Washington, DC 20016, USA · Hong Kong University of Science and Technology, Hong Kong SAR
随机田野实验显示，生成式AI搜索能扩大热门话题触达、增加读者间话题重叠，同时把消费推向冷门话题
📌 工作参考价值（4 点）
- 生成式AI搜索/推荐顶部放置带引用的AI摘要，会改变点击和流量分布：在处理组中，读者从传统结果点击转向引用文章和后续搜索，且引用文章推动冷门消费；电商/广告搜索可以借鉴这一机制，通过有选择地引用长尾商品或新品，调节头部集中度、扶持冷门供给。
- 评估AI搜索/推荐功能时不能只看单次点击或CTR：该实验发现，虽然单次搜索的文章消费下降，但更频繁的搜索抵消了这一下降，带来每人文章消费小幅增加、每分钟信息消费上升。业务上应结合搜索频率、总消费时长、曝光消费等指标综合评估，否则可能误判为负向。
- AI答案可直接满足信息需求，大部分共享信息增长不需要点击文章；在电商场景中，生成式摘要可能降低商品点击，但提升用户信息获取效率和整体互动，需要区分“展示消费”与“点击消费”来度量真实价值。
- 随机田野实验设计值得迁移：两组共用同一底层档案，实验组仅额外获得AI答案，可干净识别AI功能的因果效应；类似方法可用于评估推荐卡片、AI摘要、搜索改版对用户行为和平台生态的净影响。
SparseEngine：稀疏优先的LLM推理引擎
🧭 稀疏注意力 · KV cache推理引擎 ★ 深度解读
Harbin Institute of Technology
通过统一生命周期契约支持15种稀疏注意力方法，并提供Chain Cache与可控前缀缓存剪枝，实现长上下文agent推理10倍吞吐提升
📌 工作参考价值（4 点）
- 生命周期 hook 抽象可借鉴到自研推理服务：将稀疏方法集成点解耦为 SparseController（注册回调）、CacheManager（方法特定状态存储）和 AttentionView（连接注意力后端），可以不改模型代码快速接入多种稀疏/压缩策略，适合电商 Agent 服务中灵活切换 KV 优化方案。
- Chain Cache 对多轮 Agent 场景非常实用：跨请求保留被 eviction 方法裁剪过的 KV 及元数据（如 H2O 累积分数），能避免每轮重新 prefill 完整历史，对电商客服、推荐 agent 等多轮交互可显著降低首字延迟和重复计算。
- 可控 prefix-cache pruning 允许业务方按价值管理上下文：应用可以指定历史区间（如低价值的工具输出）和保留比例，用稀疏策略（如 KVzip）选择保留位置，同时保持逻辑前缀匹配，适合在广告/推荐 agent 中清理过期或冗余的会话内容而不破坏缓存复用。
- 实验结论表明物理 KV 驱逐是吞吐提升的关键：在相同 GPU 内存下，SnapKV 物理驱逐可支撑约10倍更大 batch，带来约10倍 aggregate decode throughput；动态稀疏注意力在匹配并发下可获1.5-2.6倍 decode 吞吐提升，且质量几乎无损（LongBench 平均差异仅 +0.17 分），可作为电商长上下文 LLM 推理优化的直接依据。
单纯形扩散模型：离散扩散的概率单纯形框架
🧭 离散扩散 · 概率单纯形 ★ 深度解读
Google DeepMind · EPFL · UCL Gatsby
提出在概率单纯形上扩散的 SDM，保留中间不确定性，用 DDIM 式采样统一离散与连续扩散
📌 工作参考价值（4 点）
- 生成式推荐/ Semantic ID 生成中，离散扩散每一步仅采样一个 token 会丢失分布，SDM 用单纯形上的分布作为中间状态，可保留候选 item 的不确定性，减少误差累积；无需 Self-Conditioning 的额外前向。
- 大词表场景（如 item ID 词表很大）可以用 argmax embedding 替代期望 embedding，避免 O(V*d) 矩阵乘法，同时保持推理连续状态；这是工程上可落地的 trick。
- DDIM-like 采样器有 churn 参数，可调节随机性（实验中 κ=1 通常最好），且支持蒸馏到极低步数（8 步），有利于在线生成式推荐的低延迟部署。
- 用 normalized variance ν_t 调度浓度比直接调 c_t 更直观，便于在不同任务上快速调参；自适应时间采样也能提升性能。
TabFM：表格数据的零样本基础模型
🧭 表格基础模型 · 零样本学习 ★ 深度解读
Google Research
400M参数表格基础模型，以in-context learning实现零样本监督预测，在TabArena 51数据集上超越AutoML与现有表格基础模型
📌 工作参考价值（4 点）
- 针对推荐/广告中的表格数据预测（CTR/CVR、用户行为特征建模），可以借鉴 TabFM 的行列解耦注意力：列向 ISAB 做 O(T·m) 跨样本聚合，行向 SAB + RoPE 做特征交互，CLS tokens 池化支持 16k 样本不爆炸，适合大规模样本 in-context 推理。
- TabFM+ 的推理期多视图增强很实用：随机列排列 + 交叉特征/SVD 特征注入 + NNLS 集成 + Platt 校准；在冻结模型权重下即可提升稳健性，可低成本迁移到现有特征工程管线。
- TabFM-Auto 思路：用 LLM 生成特征工程代码，内部闭环 CV 评分迭代，冻结主模型权重；可借鉴做推荐系统特征自动发现，如交叉特征、聚合特征、目标编码等，减少人工试错。
- 纯合成 SCM 数据训练的通用表格表示能零样本迁移，提示可以构建因果结构模拟用户/物品特征生成，减少对真实标签数据的依赖，用于冷启动或小样本场景。
OPTQ 的泛化行为与正则化作用
🧭 模型量化泛化理论
University of California, San Diego
为 OPTQ 及其随机变体建立泛化误差上界，并提出更优的正则化参数选择
📌 工作参考价值（4 点）
- 在做 LLM 部署量化（如推荐系统的排序大模型、Agent 规划模型做 INT4/INT8 量化）时，OPTQ 校准集的正则项 λ 不要沿用默认值，可参考文中理论选择方式，可能显著降低线上量化误差。
- 若业务场景数据分布随时间漂移（电商大促、季节性变化），可考虑 stochastic OPTQ 这类随机化量化，其泛化误差界不依赖特定校准集，对分布鲁棒性更强。
- 论文提供量化误差与校准集大小、分布匹配的理论关系，可用于指导校准集构建：尽量保证校准集与线上分布同源、样本量足够，避免离线效果好但线上掉点。
- 总体学术性较强，除上述适用点外，大部分理论结果难以直接落地；业务团队可关注其 λ 选择建议或对量化工具的超参数默认值做调整实验。
Scaffold：基于支撑图理论的图神经网络稀疏化框架
🧭 图神经网络稀疏化 · 支撑图理论
Pacific Northwest National Laboratory · University of Texas at Dallas · University of North Carolina at Charlotte · Adobe · Boise State University
用支撑图理论联合控制 dilation 与 congestion 的拓扑稀疏化方法，在 GNN 上大幅降存提速且保持性能
📌 工作参考价值（4 点）
- 在大规模 user-item 二部图或商品知识图谱上训练 GNN 时，可将 Scaffold 作为预处理边稀疏化步骤，替代随机采样或度中心性采样，在 10%-50% 边保留率下接近全图性能，显存占用减半以上，适合电商推荐中的大规模图训练。
- dilation-congestion 联合约束可以直接借鉴到构建轻量图子图或缓存图结构：删边时评估替代路径长度（dilation）和路径集中度（congestion），避免切断关键通信路径，对实时推荐或增量更新子图有工程价值。
- 方法在异配图（heterophilic）上同样有效，可用于处理社交关系、用户共现等噪声连接较多的场景，提升 GNN 抗噪能力。
- 已开源实现，作为独立预处理模块可快速接入 PyG/DGL 训练流程，端到端训练时间（含稀疏化开销）仍低于全图训练，适合线上迭代。
信任引导的决策 Transformer
🧭 离线强化学习 · 决策 Transformer 上下文选择
International Institute of Information Technology Bangalore · IBM Research Bangalore
用模型自身状态预测误差加保形校准筛选可信上下文，再让 critic 选动作，缓解长 rollout 分布漂移
📌 工作参考价值（4 点）
- 在长程 Agent / 对话式推荐中，自回归生成的上下文容易偏离训练分布；可以复用「下一步状态/Token 预测误差」作为 OOD 信号，而不只依赖 reward 或 critic 分数。
- 用 split conformal prediction 在离线验证集上标定预测误差阈值，能获得覆盖率保证，避免人工拍阈值；适合对会话状态转移模型或用户序列模型做在线可信度过滤。
- 先做 trust filtering 再做 value/critic 选择：不要从不可靠 context 生成的动作里用 critic 选高价值动作；应当让 critic 只在可信 context suffix 集合内打分，能降低 OOD 动作风险。
- 对长序列推荐或 Agent 轨迹，可维护多个最近 context suffix，逐段做误差检查，只保留可信历史片段，实现类似软 reset 的上下文控制，避免硬 reset 丢失重要信息。
无需重新求解的资源自适应随机梯度下降在线线性规划
🧭 在线线性规划 · 资源自适应SGD
Department of Management Science, School of Management, Fudan University
提出RASGD，用O(m)一阶SGD更新资源价格，避免重求解LP，达到O(log T) regret
📌 工作参考价值（4 点）
- 在电商/广告资源约束分配场景（如预算、库存、LLM推理算力配额），可用一阶SGD替代per-arrival LP重求解，每到达仅O(m)时间与内存，适合高并发实时决策。
- 步长策略可借鉴：早期小步长学习资源价格，后期增大步长以快速响应库存消耗，无需人工调参，在不同资源消耗阶段自适应。
- 算法在标准非退化条件下每条样本路径可行，并达到O(log T) regret，适合对安全性和长期收益都有要求的在线广告投放、流量分配系统。
- 适用于LLM推理服务中的资源定价：每个请求到达时根据剩余算力/令牌配额动态更新影子价格，指导准入或资源预留，无需离线求解大规模LP。
学习可靠推理成本：LLM采购路由机制
🧭 LLM 采购路由 · 拍卖机制设计
Max Planck Institute for Software Systems
设计基于反向第二价格拍卖的LLM路由平台，在保证质量阈值下动态选择成本最优供应商，节省10%-71%成本
📌 工作参考价值（4 点）
- 在电商/广告多模型路由中，可借鉴“质量阈值+成本竞标”框架：平台先定义业务质量指标（如转化率、准确率），各模型/供应商按成本投标，路由时只选满足阈值且报价最低的，避免固定价格浪费。
- 反向第二价格拍卖的激励相容设计可迁移到内部多模型/多服务核算：让各团队或供应商按真实边际成本报价，平台按次低价结算，能诱导真实成本暴露，优化全局预算分配。
- 实验结果（价差10-71%）说明按任务动态选择比固定定价省大量成本，可在推理网关/Agent工具调用中维护模型质量估计与成本表，实时切换。
- 注意：平台需在线学习质量，可采用Bandit或贝叶斯更新，将质量不确定性与成本竞标结合，不能仅靠一次性评估。
预测量化价格以在部署前选择 PTQ 配置
🧭 LLM 权重 PTQ 配置选择与价格预测 ★ 深度解读
HKUST-GZ
用 forward KL 诱导的二次价格统一比较位宽、粒度、变换等 PTQ 配置，实现预算约束下的部署前选择
📌 工作参考价值（4 点）
- 部署 LLM 推荐/Agent 模型时，可用校准时价格表快速筛选量化配置（位宽、粒度、预量化变换），避免反复构建完整量化模型，节省大量实验时间。
- 把量化配置视为统一候选，用输出侧曲率加权误差协方差（而非仅重建误差或输入对角线统计）排序，能更贴近下游任务效果，适合对线上精度敏感的生成式推荐/Agent 场景。
- 在成本受限的部署（如端侧推理）中，引入部署成本约束做 budgeted search，显式权衡精度与资源，对工程实现有直接参考价值。
- 实现上只需 Hutchinson 估计曲率迹和扰动矩，不需要完整 Hessian，可作为轻量校准步骤嵌入现有 PTQ 流程。
支持编译特征折叠：跨表格基础模型以更低内存获取更多证据
🧭 表格基础模型 · 特征折叠推理优化
Ant Group · Independent Researcher
训练免推理框架 SCFF 将宽表二次特征交互转为线性宽度工作，内存降低且精度提升
📌 工作参考价值（4 点）
- 面对电商/广告场景的高基数特征宽表（用户/商品/上下文特征可达数千列），可借鉴 SCFF 的「support-ranked + bounded leaves」：先按特征对任务的支持度排序，再分批送入同一冻结编码器，避免全量列成对交叉带来的 Θ(TD²) 显存峰值；线上推理可把峰值显存压到可部署边界，同时保留更多证据，而不是做 hard 特征选择。
- 将「节省的显存预算重新投回特征证据」用于特征裁剪或特征工程：先设定峰值显存上限，按 support 排序动态保留更多高支持特征，能比固定宽度单批获得明显精度提升；适合需要长期维护且不便重训的大表模型。
- 训练免、不改骨干的合并推理模式对业务友好：冻结的大规模表格/多模态模型升级时，只改 inference routing 和 message merging，不需要重训或新增参数，降低工程风险；可作为线上 AB 的轻量优化。
- 有界 working set 和 single contextual prediction 的做法可用于 serverless/批推理：避免 ensemble 多次预测，减少 QPS 成本，同时用 merging 保证单次上下文预测质量。
高维潜在表征的可扩散性分析
🧭 扩散模型latent几何与参数化选择
Cornell University · Adobe · Virginia Tech · University of Washington · University of Maryland
发现微调重构编码器会降低latent有效维度并使velocity prediction低效，改用x0-prediction可一致提升text-to-image生成
📌 工作参考价值（4 点）
- 生成式推荐/搜索中若使用latent diffusion在商品或用户表征上做生成，若编码器经过重构微调，应优先采用x0-prediction而非velocity prediction，可避开拟合流形外噪声方向，提升生成稳定性和收敛效率。
- 设计item/user表征autoencoder时，不要只看重构质量；重构微调可能降低有效维度、改变几何结构，需监控latent的intrinsic dimension与流形紧致度，避免下游扩散模型被迫学习大量无效方向。
- 工程实现上，flow matching的velocity目标在高维稀疏latent上常包含大量流形外分量，可在训练时快速对比x0-prediction与velocity prediction的收敛曲线，低成本验证该trick对业务生成任务的收益。
- 对使用CLIP等多模态embedding做文案/图片生成的场景，若对编码器做过重构微调，务必检查其latent几何变化，x0-prediction可能是更稳健的参数化选项。
扩散草稿 + 自回归验证加速文档 OCR
🧭 扩散草稿 + 自回归验证加速生成
Trillion Labs · Korea University · Seoul National University
参数共享 AR-block-diffusion 模型并行草稿 + AR 验证，实现 OCR 解码 3.94 倍加速
📌 工作参考价值（4 点）
- 生成式推荐/广告文案等 input-grounded 长文本任务可借鉴：用 diffusion 并行生成多个 draft token，再用共享参数的 AR 路径做因果验证，接受多 token 提交，无需额外 drafter 网络。
- GRPO 直接优化共享 drafter 参数，用序列级或结构级奖励（如文本格式、关键词覆盖）避免 diffusion trajectory likelihood 估计，训练更稳定且可优化业务目标。
- 自推测解码可嵌入现有 serving 框架（如 SGLang），平均每 forward 提交 9.7 tokens，适合高吞吐低延迟的在线文案生成、query 推荐场景。
- OCR/文档理解中的结构化输出（HTML/LaTeX）奖励信号可类比于电商场景的结构化商品描述、广告落地页生成，可直接复用奖励设计思路。
Whisper 编码器剪枝：移除六层并用无标签蒸馏恢复
🧭 语音模型压缩 · Encoder 层剪枝
Technical University of Denmark · Laerdal Medical
按留一层 WER 变化排序剪掉 Whisper 编码器 6 层，再用无标签语音蒸馏恢复精度，无需自定义推理
📌 工作参考价值（4 点）
- 层重要性排序思路可直接迁移到 Transformer 编码器剪枝：在推荐/搜索模型中对 Encoder 层做 leave-one-out 敏感性分析（如用 A/B 指标或 loss 变化），定位冗余层，避免盲剪。
- 零样本剪枝 + 无标签蒸馏的组合适合业务场景缺乏标注数据时压缩模型：用大量无监督域内数据做蒸馏恢复精度，降低标注成本。
- 压缩后保持原始架构（只是更浅的 Encoder）能避免自定义推理代码，可无缝复用现有推理优化和部署工具，这对线上快速迭代很重要。
- 对语音搜索、客服语音识别等多模态入口模型，可借鉴该剪枝蒸馏 pipeline，在延迟敏感场景下用少量精度损失换取明显推理加速。
GeoPair：保持几何的跨层分解实现无训练 Transformer 压缩
🧭 Transformer 压缩 · 跨层矩阵分解
MWS AI · ITMO University
提出训练无关的跨层共享字典分解框架 GeoPair，通过优化跨层配对保持各层激活几何，实现高效 Transformer 压缩
📌 工作参考价值（4 点）
- 可直接用于电商/广告场景中 Transformer 塔（如用户行为序列建模、多模态编码器）的后训练压缩：用校准数据离线优化跨层权重配对，无需微调，适合快速上线低延迟推理。
- 跨层共享字典分解能显著降低大模型部署内存，尤其适合多任务或多模态推荐模型中共用 backbone 的场景；比起逐层独立分解，它利用层间冗余，参数效率更高。
- 结构化稀疏与共享字典联合优化，能同时减少参数量和计算量，对移动端或边缘推理有直接工程价值。
- 方法论上可迁移：不要简单按相邻层或启发式层级合并，而是用优化目标显式保持每层激活几何，等价于用校准数据做结构搜索，在压缩与精度之间取得更好平衡。
可水印的多草稿投机采样：基于泊松过程
🧭 LLM 推理加速 · 无偏水印 ★ 深度解读
Imperial College London · University of Washington
利用泊松过程实现多草稿投机采样，同时嵌入无偏水印且不损失采样效率
📌 工作参考价值（4 点）
- 对于线上 LLM 生成服务（商品描述、广告文案、对话等），可直接采用该框架：用 target 大模型 + 轻量 draft 模型做投机采样，在几乎不增加延迟的情况下嵌入可溯源水印，满足合规与内容审核需求。
- 多草稿和 drafter invariance 特性对持续迭代友好：升级或替换 draft 小模型不会改变 target 输出（给定随机种子），保证线上 A/B 测试一致性和缓存可复用，降低回归风险。
- 泊松过程 / 指数竞赛的无偏采样器可迁移到生成式推荐中的语义 ID 采样：从分布中精确采样多个候选，且 keyed randomness 便于 A/B 分桶或水印注入。
- 检测指标 ANLPPT 及其统计检验方法可直接用于评估生成文本的水印强度，在 UGC 内容溯源、广告文案防伪等场景具有工程借鉴价值。
OPTED：基于无渲染教师的端到端驾驶在线策略微调
🧭 特权教师 on-policy 蒸馏
用RL训练矢量输入特权教师，在闭环中蒸馏至摄像头学生模型，大幅减少模拟器交互成本
📌 工作参考价值（4 点）
- 特权教师蒸馏可迁移到推荐/广告：实际线上受限于特征获取延迟或算力，可训练一个输入全量特征（如用户画像、后验转化、上下文）的教师模型，再将知识蒸馏到实时轻量学生模型；在日志回放模拟器中做 on-policy 更新，比直接在线 RL 成本低几个数量级。
- 用离线数据重建用户交互模拟器：类似 3DGS 从真实驾驶日志重建场景，推荐系统可基于离线日志构建用户状态转移模拟器，用于策略微调；能部分替代高成本线上 A/B，缓解行为克隆的开环偏差和状态分布偏移。
- on-policy 微调优于纯行为克隆：推荐/排序策略仅在离线日志上训练，线上易出现 compounding error；在模拟器中进行 on-policy 蒸馏或 RL 微调可改善鲁棒性，且教师提供密集监督信号，避免直接 RL 稀疏奖励难训练的问题。
- 教师可以无渲染（render-free）：若学生需要处理高维原始特征（文本、图像），教师仅使用结构化特征训练并在闭环中生成监督，可避免昂贵的前向模拟，降低训练成本；对 Agent 或生成式推荐中的策略蒸馏有借鉴意义。
推理引擎指纹攻击的实用性：模型驱动的环境发现、利用与逃逸
🧭 推理引擎安全 · 模型驱动攻击
Harvard University
恶意模型仅通过生成特定输出 token 即可指纹并攻陷 vLLM、SGLang 等推理引擎
📌 工作参考价值（4 点）
- Agent 系统中模型输出也是攻击面：若业务用 Agent 驱动真实执行环境（如代码执行、工具调用），不能只防输入 prompt 注入，还要监控模型生成的输出 token 是否在探测运行环境。
- 自托管推理服务需评估引擎差异：不同推理引擎（vLLM、SGLang 等）对异常 token 序列的响应不同，选型时除了吞吐、显存，还要评估其安全更新频率与已知 CVE。
- 推理引擎应被纳入 sandbox 边界：不要默认推理引擎是可信组件，可考虑将推理引擎与关键业务网络隔离，并对输出 token 做异常检测或速率限制。
- 主要是安全学术贡献，业务可借鉴点有限：对推荐/广告系统本身没有直接迁移价值，但对依赖 LLM 的 Agent 基础设施安全设计有提醒作用。
WeVisDoc：从覆盖到能力的鲁棒端到端文档解析
🧭 文档解析 · 数据为中心
WeChat Vision, Tencent Inc.
两阶段数据为中心框架用残差聚类诊断定向补强，在多个文档解析基准上领先
📌 工作参考价值（4 点）
- 残差聚类驱动难例挖掘：Stage II 对 Stage I 解析器的错误在固定视觉-结构簇内做聚类统计，再定向构造或重分配数据预算。推荐/搜索场景可借鉴该思路，将线上 bad case 按用户意图、query 类型、页面模板等维度聚簇，定位系统化薄弱点后定向补训练数据或调采样权重。
- 结构保持的退化合成：通过保持文档结构不变、只合成图像退化（模糊、噪声、透视变形等）来扩展训练分布。在电商场景中，可对商品图、用户上传的实拍图做类似退化增强，提升模型对低质输入（如暗光、遮挡、压缩噪声）的鲁棒性，尤其适合作图质量不稳定的 UGC 内容。
- target-token 预算重分配：根据诊断结果把有限训练 token 从已饱和区域转移到薄弱区域. 对应到推荐系统训练，可根据验证集分片表现动态调整各数据源的采样比例或训练步数，避免在简单样本上浪费算力。
- 两阶段数据迭代范式：Stage I 广覆盖，Stage II 精准补强，形成可复用的数据飞轮。工程上可落地为：先全量构造基线数据, 再通过定期离线评估识别性能洼地，并用自动化诊断报告指导下一轮数据标注与增强，比盲目扩大数据量更高效。
自进化搜索索引
🧭 自进化索引优化 · LLM Agent 检索 ★ 深度解读
Yonsei University · Samsung Research · University of California, Irvine · Korea University
提出 SELF-INDEX 框架，让索引自主诊断检索缺陷、选择性修订索引键并主动探索查询需求，跨语料与检索器一致提升检索性能
📌 工作参考价值（4 点）
- 在电商/内容搜索中，可借鉴 SELF-INDEX 的「索引即键集合」思路：为每个商品/内容维护一组可检索键（标题、类目、属性、卖点短句），由 LLM 根据检索反馈自动改写/增删这些键，避免人工设计 query 扩展或语义标签。
- 用 co-retrieval profile 作为诊断信号，发现哪些商品键缺乏区分度或未覆盖用户 query 意图；Self-Validation 的 faithfulness/specificity/separation 三准则可直接作为生成式索引质量控制，过滤幻觉或宽泛键。
- Query Simulator 通过采样文档生成 plausible query 并用 Jaccard dissimilarity 去重，能低成本扩充优化 query 覆盖长尾需求，适合广告关键词推荐、搜索词扩展等场景。
- 搜索 Agent 中，优化索引键可同时提升答案准确率并减少 search calls；在电商导购 Agent 可减少与搜索中台交互次数和线上 API 成本。
PANORAMA：通过掩码候选选择实现全景接地图像描述
🧭 视觉-语言 grounding 与稠密 caption
Inria, École normale supérieure, CNRS, PSL Research University · Czech Institute of Informatics, Robotics and Cybernetics, Czech Technical University in Prague
提出 PanoCaps 基准与 PANORAMA 模型，将短语 grounding 形式化为掩码候选选择，联合生成稠密 caption 与像素级掩码
📌 工作参考价值（4 点）
- 把需要精细化对齐的任务从“直接生成”改为“从候选池中选择”：推荐/搜索中生成 item 描述、解释或文案时，可先用用户/query 表征条件化候选池，再训练选择器，降低生成难度并提升一致性。
- 联合优化生成与对齐目标：PANORAMA 同时训练 caption 生成和 mask 选择，保证文本与实体一致；推荐系统做生成式推荐或解释生成时，可把 item embedding/属性对齐作为辅助 loss，避免生成内容与实体脱节。
- 评价指标设计可借鉴 gPQ：同时量化文本与实体匹配，而不只看单一维度；多模态推荐、商品描述生成评估时可设计类似联合指标，避免只评文本流畅度忽略 grounding 准确性。
- 高效利用预训练模型：条件化冻结/预训练 segmenter 输出候选，而非端到端重训，适合业务中快速接入现有多模态编码器或分割模型，降低训练成本。
发现基础模型：走向开放式发现智能
🧭 基础模型 · 开放式发现智能
PhAI Labs
提出 Discovery Foundation Models 框架，让基础模型从解题升级为参与新知识的创建、验证与修订
📌 工作参考价值（4 点）
- 将推荐/广告策略迭代重构成“可修订研究状态”闭环：把每个召回或排序改动视为 intervention，用离线评估、A/B 实验或线上指标作为 evidence gating，自动更新策略状态，减少人工排期和主观判断。
- 在生成式推荐或 query 推荐中引入外部证据校验：对 LLM 生成的 Semantic ID、推荐理由或搜索词，不只依赖模型自评，而要接入商品属性、用户行为、库存等外部 grounding，通过 gate 过滤低置信输出，提升可信度。
- 跨场景的 Discovery Skill 抽取与复用：将问题定义、假设生成、实验设计等子能力模块化，在多个品类或场景间持续微调，让 Agent 在新业务冷启动时快速迁移已有发现能力。
- 采用过程为中心的评估：除了最终 CTR/GMV 等指标，也量化中间步骤质量（如假设覆盖率、证据充分度、实验设计的可验证性），用于诊断 Agent 系统的瓶颈，引导迭代优化。
HarnessVLN：统一免训练具身导航的 Agent Harness 框架
🧭 具身导航 · 训练免 Agent 框架
Nanjing University · AGIBOT · Tsinghua University
提出训练免的 Agent Harness 框架，通过统一工具接口、三重验证与时空图记忆，统一指令跟随与物体目标导航并刷新 SOTA
📌 工作参考价值（4 点）
- 统一工具接口与 Harness 分层：将感知、检索、接地、执行等封装为工具，由 Harness 统一校验、派发、更新，可复用到电商 Agent 中，把商品召回、意图识别、策略执行等模块解耦为工具，降低切换模型/场景的成本。
- 规划结果的多重验证：在派发动作前用空间证据、几何可行性、子目标一致性做校验，可借鉴到搜索广告投放 Agent：对出价、选品、文案等 proposal 做规则/模型校验，减少无效执行与资源浪费。
- 分层事件记忆与持久时空图：将任务进度、执行历史、失败标注沉淀为结构化图，类似用户 session 内的行为轨迹 + 商品关系图，可用于推荐/对话 Agent 的状态追踪、失败恢复与增量证据累积。
- 可替换 Navigation Executor：把高层计划与底层执行解耦，同一 Harness 协议可跨模拟器与真机迁移，可借鉴到推荐实验平台：策略层统一，执行层适配不同流量/线上环境。
VC-Attention：值平滑与 Softmax 投影的低比特注意力
🧭 低比特注意力 · 量化推理加速
Nunchux AI · MIT · CMU · UC Berkeley · Stanford
训练免费的低比特注意力框架，用值平滑和融合概率投影同时提升量化和速度
📌 工作参考价值（4 点）
- 低比特激活量化中，value 异常值往往无固定通道/时空结构，可借鉴 V-Smooth：先对 token 做轻量在线聚类，使硬件 block 内分布更均匀，再对残差（减去块均值）量化，利用 online softmax 维护的 row sum 恢复均值；该方法无需重训，可直接套用到 Transformer 排序模型或 LLM-based Agent 的 attention 推理加速。
- softmax 高精度指数是低比特 attention 的非 GEMM 瓶颈，ExpCast-FP8 把 log-domain 分数直接映射为 E4M3 概率码，用一次融合乘加替代 FP32 指数和格式转换，可迁移到 LLM 推理 kernel，提高 Tensor Core 利用率、降低 pipeline 阻塞。
- 工程上关注到 block 量化尺度由最大值决定、典型值代表范围窄的问题；通过 token 重排 + 残差量化减少误差，这种思路也适用于 embedding/特征的低比特压缩。
- 该工作展示了在多种新 GPU 上对 attention kernel 的精细优化，可作为自研推理引擎中 attention 低比特实现的参考基线；但业务侧若以 CPU/通用 GPU 为主，需要评估移植成本。
表格基础模型的注意力FP8量化
🧭 表格基础模型推理优化 · FP8注意力量化
Prior Labs
开发FP8量化QKV的注意力Triton内核，通过训练/测试量化误差对齐实现1.7倍加速且精度无损
📌 工作参考价值（4 点）
- 如果业务里用了类似 TabPFN 的 tabular transformer 做点击率、LTV、风控等表格数据建模，推理优化重点应放在 attention 计算上，而不是像 LLM 那样优先做 weight 或 KV cache 量化；QKV 直接量化到 FP8 并用显式 FP8 matmul，可以在注意力热点上拿到 1.5-1.7x 加速。
- 关键实现 trick：训练和推理时对行（row）的量化误差必须对齐，否则精度会急剧下降。迁移到推荐/广告场景时，如果表格模型在训练和线上服务的数据分布或预处理不同，需要把量化校准纳入训练管线，保证一致性。
- 动态开启量化内核的策略值得借鉴：在训练行数超过 8192 时才启用 FP8 attention kernel，短序列时用基线 kernel，避免小 batch/短序列下量化开销反而拉低吞吐。
- 工程上用 Triton kernel 可以针对 attention 做轻量级量化优化，无需重新训练模型；在表格特征建模或 in-context tabular learning 的推理服务中，可以将 FP8 attention 作为无精度损失的加速开关，降低线上延迟和成本。
SeqMoE：预测式与图兼容 MoE 卸载实现近满载性能
🧭 MoE 推理卸载 · 预测式专家预取
University of Science and Technology of China · Suzhou Institute for Advanced Research, University of Science and Technology of China
通过序列建模预测专家激活，结合联合预取调度与图兼容运行时，实现 45% 常留下 96.97% 命中率和 80.22% 满载性能
📌 工作参考价值（4 点）
- 若业务使用 MoE 架构 LLM（如 Mixtral、DeepSeek-MoE）做 query 改写、文案生成或 Agent 工具编排，可参考 SeqMoE 的专家激活序列预测：只让约 45% 的 expert 常驻显存，仍能获得约 80% 的 full-load 性能，适合在显存受限 GPU 上部署大规模 MoE 推理服务。
- 将“下一步需要加载哪些 expert”建模为序列预测问题，类似推荐中的 next-item prediction，可以用轻量 decoder 输出多步、多层的 expert ID 序列，比按层独立 LRU 更精准，能直接迁移到 LLM serving 的预取模块。
- 联合预取调度可形式化为 Job Sequencing with Deadlines：把 PCIe/NVLink 带宽作为约束、各 token 的 expert 需求作为 deadline，统一调度一批请求的 expert 加载，能显著提升带宽利用率；在 Continuous Batching 场景下可以复用这一思想。
- 图兼容 runtime 的做法值得工程实现借鉴：将 expert 放置与计算解耦，避免预取引入依赖同步，从而能用 CUDA Graph 捕获端到端执行路径，减少 kernel launch overhead；不过动态 MoE routing 会加大图捕获复杂度，需在 serving 框架里做静态化或部分捕获。
双引导层次边缘定位求解跨维度大规模最优传输
🧭 大规模最优传输优化算法
提出 HELLO 层次求解器，以对偶势引导边缘定位，实现大规模离散 OT 的线性内存和数量级加速，并证明有限终止到全局最优。
📌 工作参考价值（4 点）
- 在电商/推荐中，跨域用户/物品 embedding 对齐、域适应、分布校准等常需大规模 OT，HELLO 提供可扩展到百万样本、高维特征的求解器，可直接替换 Sinkhorn 等正则化方法，获得更精确的非正则 OT 解，适合对精度要求高的场景。
- 层次粗到细 + 对偶引导边定位的思想可迁移到大规模稀疏匹配问题（如用户-商品候选匹配、跨平台实体对齐），不必显式计算全对全代价矩阵，仅维护候选边集合，从而把内存降到线性，适合在线或近线系统。
- 细化阶段按行/列插入最大对偶违反者、用 KKT 残差作为停止准则和 budgeted pruning，为工程实现提供可控精度与内存的模板，可用于对偶上升、列生成等算法的优化。
- 作为 balanced-OT oracle，可直接支持 Flow Matching 生成模型（如电商素材生成、用户序列生成）和 Gromov-Wasserstein 对齐，降低底层 OT 瓶颈；业务中若已有 OT 组件，可考虑集成 HELLO 提升规模。
StepAudio 3 Gen 技术报告
🧭 通用音频生成 · 离散自回归
StepFun-Audio Team
离散自回归统一音频生成模型，基于 RVQ token 和共享码本，在 TTS 与语音设计上达到 SOTA
📌 工作参考价值（4 点）
- 离散 RVQ 表示将音频压缩为 16×2048 码本、12.5 Hz 帧率，类似 Semantic ID 思路，可借鉴用于多模态商品表示或用户行为序列的离散化，降低序列长度、统一语义和声学信息。
- RVQ Adaptor 作为 LLM 与多码本之间的适配层，把 16 个残差码本映射进 LLM 隐藏维度，适合在已有文本 LLM 上接入新的离散模态（如商品图像、音频评论）时参考。
- 干扰感知的渐进式预训练：先冻结 LLM 只训练 Adaptor，再逐步解冻，能保留原有文本能力，对在推荐/搜索 LLM 上增量添加生成式任务有直接借鉴价值。
- 采用“时间轴自回归 + 码本轴并行生成”的两阶段解码，相比全自回归大幅降低推理步数，可迁移到生成式推荐中处理多层语义 ID 的生成。
段落驱动的多标识符文档检索
🧭 生成式文档检索 · 多 passage ID ★ 深度解读
Institut de Recherche en Informatique de Toulouse (IRIT)
用多个 passage 级标识符替代单一文档 ID，结合多目标训练与 query-段落对齐，提升生成式文档检索的 R@1 与 MRR
📌 工作参考价值（4 点）
- 在电商/内容生成式检索或推荐中，不要为长详情页/多卖点商品只建一个 Semantic ID；可先做段落/卖点切分，为每个语义单元建“文档/商品标题+段落标题”式层级 ID，提供多个生成入口，用 max 概率聚合回父级 item。
- 多目标加权损失可落地：当 query 命中商品多个属性/卖点时，给最相关属性（如 BM25 最高分卖点）更高权重（如 0.6），其余均分，避免单一监督信号过强。若类目内容同质，可尝试 all-passages 标签；内容异构大时用 best-passage。
- 原始训练 query 增强很关键：仅用合成 query 会弱化真实 query 分布；可将真实 query 通过 BM25 对齐到最佳段落，或根据数据均匀度选择 all passages，能带来显著 R@1 提升。
- 标识符顺序有讲究：Doc→Pass 前缀结构更适合 autoregressive 解码，能先缩小到正确文档再选段，可复用到层级式 ID 设计中。
可编程世界模型
🧭 世界模型 · 显式状态与渲染解耦
Alaya Lab
将世界状态演化与视频生成解耦，用可执行程序维护持久全局状态，以3D OBB为中间表示驱动预训练视频模型
📌 工作参考价值（4 点）
- 在生成式推荐或广告文案生成中，可借鉴“显式状态引擎 + 生成渲染器”的架构：将库存、价格、用户状态等业务规则放在符号化状态机中维护，LLM 只负责生成符合当前状态的文案/推荐理由，避免长对话或多步推荐中事实不一致。
- 用 LLM 将自然语言策略转成可执行程序（如 on_hit、win/lose 规则）的思路，适合推荐策略的自动化编排：把运营规则（如“库存低于阈值则降低曝光”）用程序表达，可审计、可回滚，比直接让模型隐式学习更可控。
- 中间表示的做法——将结构化状态（如商品布局、用户行为序列）编译为生成模型的条件信号，可用于可控商品图/视频生成，提升布局、属性与业务约束的像素级对齐。
- 评估基准设计可迁移：对交互式推荐/对话系统，可采用 Count Accuracy 和 State Accuracy 这类细粒度状态一致性指标，衡量长程交互中的用户状态、上下文跟踪能力。
通过稀疏自编码器特征追踪查询扩展效应
🧭 SAE可解释性 + 查询扩展分析
Shandong University · University of Chinese Academy of Sciences · Institute of Software, Chinese Academy of Sciences
用SAE分解dense retriever表示，解释查询扩展引起的内部特征变化，并通过激活引导提升检索性能
📌 工作参考价值（3 点）
- 利用SAE特征分析查询改写/扩展对检索模型内部表示的影响，定位与用户意图、商品属性相关的稀疏维度，可用于电商搜索相关性问题的诊断与归因。
- 激活引导提供了一种无需重训检索模型或改写查询的轻量干预方式，可能用于实时调整检索行为，例如在电商搜索中提升特定品类或意图的召回。
- 对于生成式推荐或Agent系统，可借鉴SAE分解中间表示的方法，理解上下文如何影响item或action的生成，增强模型决策的可解释性。
反射感知的生成式新视角合成
🧭 生成式NVS · 反射几何虚拟视图
KAIST
提出免训练反射感知多视图扩散方法，将镜中影像视为互补视图实现镜面场景一致新视角生成
📌 工作参考价值（4 点）
- 若业务涉及商品 3D/多视图生成（如家具、镜面或反光商品），可借鉴“虚拟视角 + 注意力门控”思路，对镜面/反射面显式建模，在不微调现有多视图扩散模型的情况下提升反射一致性。
- Ref-GeNVS 的 Mirror-gated attention 与 Reflection injection 两阶段注入反射关系，提供了一种 training-free 的条件控制范式：利用几何先验（镜像平面、虚拟相机）引导生成，可迁移到其他需要物理约束的生成任务。
- 对 AI 生成商品创意/短视频，反射面常导致脏图、leakage，可尝试在生成前检测镜面并构造虚拟相机轨迹，作为 layout/pose 条件喂给扩散模型，减少后期修图成本。
- 学术贡献为主，与搜索/推荐/Agent 直接耦合低，但虚拟视图几何增强与 training-free adapters 思想可复用到多模态商品理解/生成 pipeline。
GLASS：图-语言对齐与球面评分实现可迁移图级异常检测
🧭 图异常检测 · 图-语言对齐
School of Data Science, The Chinese University of Hong Kong, Shenzhen (CUHK-Shenzhen)
GLASS 将图编码器与文本嵌入对齐到超球面，用球面密度评分实现跨域图异常检测，支持零样本/少样本迁移
📌 工作参考价值（4 点）
- 风控/反作弊：电商平台可将商家、交易、用户关系建模成图，用 GraphDP 模板描述图的局部/全局/语义属性，并与文本嵌入对齐，快速构建跨品类/场景的异常检测模型，解决冷启动问题。
- 零样本跨域迁移：新业务线或新市场缺少标注异常样本时，可直接复用对齐好的图-文本空间，用目标域图描述文本做零样本检测，或用极少量正常样本校准参考集，避免重新训练。
- 多尺度表示训练：Matryoshka 表示切片可一次训练得到多个维度的嵌入，线上推理时按需截取低维部分，降低存储和计算成本，适合大规模图数据的实时风控。
- 球面密度评分：SMS 的 vMF 核密度估计比原始 kNN 更平滑，且能融合图结构和文本语义两个模态的异常信号；在商品风险、异常评论等场景，可将文本描述与图结构融合，提升异常检测鲁棒性；对推荐排序核心链路直接收益有限，但平台治理/风控可借鉴。
可测量滑块：从可微图像测量学习连续控制
🧭 扩散模型可控生成 · 可微测量
School of Computer Science, The University of Sydney
提出Measured Sliders框架，用可微图像测量定义并学习连续图像属性控制，实现有序、选择性和可组合
📌 工作参考价值（4 点）
- 可微图像测量作为监督信号，替代文本或学习表示来定义控制轴，让生成结果的属性变化与量化指标直接对齐。在电商商品图生成或广告创意生成中，可将亮度、饱和度、色温、构图等属性定义为可微函数，训练可控LoRA。
- 可观测性测试在训练前筛选可学习属性，避免对不可控维度浪费训练资源。推荐系统或生成式推荐中可借鉴：先验证目标属性在隐空间/特征空间能否被可靠观测和优化，再投入训练。
- 多个LoRA分支存储同一checkpoint，推理时免训练组合，不依赖联合激活。可复用到多属性可控生成场景，减少多任务训练成本，且组合时保持各方向独立性，类似推荐中的多目标解耦。
- 训练后校准到实际图像变化单位，使不同控制强度可比，便于产品侧设定语义化滑块范围（如亮度+10%），提升用户体验和可控性。
DSAQuant：面向视频生成的对齐去噪阶段的量化感知训练
🧭 视频生成扩散模型量化训练
Robbyant · ZJU · PolyU · HKUST
提出按去噪阶段对齐的量化训练框架，在 W3A3 下 VBench 平均最高提升 6.60
📌 工作参考价值（4 点）
- 若业务部署视频生成模型（如电商广告素材自动生成），可借鉴分阶段量化：在扩散去噪的早期保留全精度教师监督，后期切换到量化目标，能显著降低低比特细节损失。
- 推理时在最后若干步禁用 CFG 是低成本 trick：可减少量化误差放大、避免高频伪影，对图像/视频生成模型均有参考意义。
- 量化训练不要统一处理所有 timestep；按去噪阶段角色分配监督信号，是比单纯减小量化误差更有效的架构选择。
- 实验显示 W3A3 下 VBench 提升 6.60，激进压缩可行且无推理额外开销，适合边缘侧部署。
模型过度编辑：代码最小修改保真度研究
🧭 LLM 代码修复 · 编辑保真度
National University of Singapore
提出可度量的编辑保真度指标，发现LLM普遍过度编辑，保留指令与RL训练能有效减少不必要修改
📌 工作参考价值（4 点）
- 在推荐/广告系统中用 LLM 自动修改策略配置、特征代码、SQL 或推荐逻辑时，要求模型只做必要修改、保持原有结构，可显著降低 review 成本和意外行为风险。
- 设计自动修复/优化 Agent 时，把 '编辑距离' 或 'diff 大小' 作为质量指标，而不只看正确性（如单测通过/线上效果），防止 Agent 大面积重写导致难以审查和回滚。
- 后训练选择：如果业务要求对未见过的新错误/新场景保持最小改动和性能，RL 比 SFT 更稳健；SFT 容易过拟合训练中见过的损坏模式，域外泛化差。
- 评估框架可迁移：构造带已知最小补丁的合成损坏任务，用于系统性地度量 Agent 的编辑保真度，并纳入离线回归测试。
人脸伪造中的多工具图像编辑归因
🧭 多工具图像编辑归因与伪造检测
中国科学院计算技术研究所 · 中国科学院大学
面向多工具编辑人脸图像，提出DPEC方法结合空间-频域特征与课程学习，实现多工具归因
📌 工作参考价值（4 点）
- 多工具痕迹解耦：在处理多行为叠加信号（如搜索、点击、收藏、购买）时，可借鉴空间与频率双分支设计，用局部感知特征分离不同来源的模式。
- error-based curriculum learning：按预测难度渐进训练，可迁移到多任务学习或难易样本挖掘，例如广告转化率预估中先学简单样本再逐步加入难样本，稳定收敛。
- 合成数据集构建：通过组合基本操作模拟真实多步编辑，可用于构建多行为归因评测集或用户行为序列模拟。
- 频域线索：在电商商品图质量检测或主图篡改识别中，引入频域特征可增强对压缩/编辑痕迹的识别能力。
图向量搜索的可扩展性：披着对数外衣的幂律
🧭 向量检索 · 图索引扩展性
University of Toronto
实测发现图向量搜索成本在数据规模小于内在维度时呈次线性幂律增长，之后才转入多对数增长，并给出统一理论模型
📌 工作参考价值（4 点）
- 容量规划：若数据规模 N 未达到由内在维度决定的临界点，搜索延迟/算力按 N^c（0<c<1）增长而非多对数；电商/推荐团队做向量库扩容预算时不能假设对数级成本，可用论文模型估计 c 和临界规模。
- 内在维度监控：数据集内在维度随规模增大而升高，导致查询邻域更密集；可在 embedding 上线前/后持续测量 intrinsic dimensionality，预测搜索成本拐点。
- 索引调参：论文提供预测不同 recall target 和索引配置下 power-law 指数的模型，可用来在 M、efSearch、efConstruction 等参数间做 cost-recall 权衡，适合高召回场景（广告召回、相关商品召回）提前规划。
- 评估方法借鉴：做 ANN 基准应跨多个数量级规模测试，而不是只在单点规模测量成本。
因果基础模型
🧭 因果推断 · In-context Learning
Layer 6 AI, Toronto, Canada · TD Bank Group, Toronto, Canada
提出因果基础模型（CFM），在大规模合成数据上预训练，对新数据集通过 in-context learning 零样本估计因果效应
📌 工作参考价值（4 点）
- 广告/Uplift 建模：将 CFM 作为预训练因果先验，在新 campaign 上零样本估计 ATE/CATE，减少冷启动数据需求；可先在小样本上验证策略效果，再决定是否训练专用模型。
- 合成数据流水线：参照 CFM 训练方式，在业务点击/转化模拟器中大规模生成含 treatment/control 的数据，预训练因果模型，再迁移到真实小样本任务上。
- Agent 决策：营销动作选择、定价折扣、Push 文案等场景中，可内嵌 CFM 估计不同动作的因果效应，避免仅用相关模型误判 ROI。
- 工程实现：论文开源代码和 notebooks 提供可复用的 CFM 架构与合成数据生成方法，可直接作为团队因果推理 baseline。
有限库输入扭曲核的无遗憾贝叶斯优化
🧭 贝叶斯优化 · 输入扭曲核
AI Sweden
用有限库光滑输入扭曲自适应 GP-UCB 的核几何，在不牺牲收敛保证下提升黑盒优化样本效率
📌 工作参考价值（4 点）
- 在电商/广告模型的超参调优（如 learning rate、embedding size、正则系数）中，很多参数本质是对数或幂律敏感，手动 log 缩放经验性强且不完整；可构造包含 identity、log、logit、power transform 的有限扭曲库，让 BO 根据历史观测自动选择扭曲，代替人工缩放。
- 对搜索/推荐系统的在线实验或仿真实验设计，若目标函数存在局部峰值或置信陷阱，直接使用 GP-UCB 可能过早收敛；FLIWBO-UCB 的输入扭曲库可让其逃逸陷阱，且保留 no-regret 保证，适合预算极低的黑箱评估场景。
- 在多智能体系统（如智能客服、广告竞价 Agent 协作）需调节多个维度设计参数且每次评估昂贵时，该方法在 20 维噪声评估下可行，可作为 Agent 系统超参调优的实用 BO 组件。
- 工程实现上，扭曲库的选择规则可以是任何历史相关规则（如 UCB 或 EI），这给线上系统留出灵活空间；注意库大小带来的 regret 代价为 √Nε，库不宜过大，可在调优前根据参数先验缩小候选扭曲。
最后翻译基准：多模态对抗测试与可验证评估
🧭 机器翻译极限基准与可验证评估
ETH · JHU · MBZUAI · KIT · UvA
构建可持续更新的多模态对抗性翻译基准，用逐例可验证规则替代不可靠自动评分
📌 工作参考价值（4 点）
- 生成质量评估规则化：在电商文案、query 改写、Agent 回答等生成式任务中，把人工评估拆成逐条可校验规则（如商品属性不冲突、query 必须包含品牌词/类目词、回复不得泄露库存），显著降低评估噪声和 reward hacking 风险。
- 构建长尾对抗集：定期收集线上模型失败的 query/商品/多模态内容，经人工评审后加入回归集，可类比 LTB 的持续更新机制，防止推荐/搜索模型在罕见 case 上退化。
- 多模态统一基准：LTB 同时覆盖文本、图像、音频、视频，提示推荐系统在商品多模态理解（主图、视频、详情页）上也应建立跨模态的对抗性评估，而非只测文本召回。
- 众包质量控审：采用人工撰写+同行评审的投稿流程，可迁移到业务中构建高质量评估集的流程设计，减少单人标注偏差。
CRISP：基于结构质量路由的悬崖感知输入自适应稀疏预填充
🧭 动态稀疏注意力·长上下文预填充优化 ★ 深度解读
University of Oregon · Adobe Research · Hanoi University of Science and Technology
用结构质量代理替代JSD路由，以噪声地板阈值替代累积覆盖阈值，消除长上下文预填充的O(n)噪声积累
📌 工作参考价值（5 点）
- ## 可借鉴点
- 如果电商/Agent 场景中需要对长商品描述、评论、用户会话或多轮记忆做长上下文 LLM 推理加速，prefill 阶段可优先考虑动态稀疏注意力；CRISP 的 Cstruct 路由只需最后 query block 的代理注意力在首尾 anchor 区间做切片，省去 JSD 需要的 pooled matmul 与 KL 开销，工程实现更轻。
- 稀疏 token/block 选择不要用固定累积覆盖（如 top-p 累计 0.95）。有 attention sink 的模型容易早停在 sink 漏掉信号，或为凑阈值收 O(n) 噪声；改为相对噪声地板阈值（如 block 质量 p_j > αμ），α=1.0 可作为免调默认，业务侧更稳。
- 部署时建议加 context length 门限：论文在 8k 时稀疏仍比 dense 慢约 4x，64k 以上才开始反超；短 prompt 服务不必开启稀疏预填充。长上下文 RAG/检索类任务收益最大，聚合/多跳任务需评估精度-覆盖权衡。
- 可复用 VS/PE 双路径思想：对低熵/高集中 head 用结构模式选择，对高熵 head 用 pooled estimation；不要对所有 head 使用同一种稀疏策略。
RSLM：面向近似最近邻搜索的训练自由向量量化
🧭 向量检索 · ANN索引量化 ★ 深度解读
Google Zurich · Technical University of Munich · University of Copenhagen · Google San Jose
训练自由的分块旋转量化方案，在1-4bit/维下保持召回，降低ANN索引内存与带宽
📌 工作参考价值（4 点）
- 在 IVF/树型索引的 rescoring 阶段，用训练自由旋转量化（尤其相对残差量化）替代 trained PQ/SQ，可省去离线 k-means 训练，快速接入新 embedding 版本或新业务数据集；4-bit RelApproxGlobal 在多个数据集达到 100% recall@20@30，2-bit 达 99%+ recall@20@40，适合 RAG/推荐候选召回的大候选池。
- 采用 block-wise FWHT（块大小 128）实现 O(D) 旋转复杂度，避免 dense rotation O(D^2) 和全局 FWHT 的维度 pad 问题；在非标准维度如 2049 时，编码吞吐比 TurboQuant 快约 36 倍（128k vs 3.5k items/s），适合线上实时 query 预计算。
- 显式校正最终重建向量的 L2 norm（而非只校正残差）对 MIPS 排名很重要，能替代 ScaNN anisotropic loss 的调参；实现时用 2 字节自定义浮点 UE7M9 存 scale，Rslm4Lite 把 scale 隐写到前 16 维的最高 bit，实现零额外元数据，内存对齐更优，吞吐显著提升。
- 在低 bit 场景（1-2 bit）Rslm_Global 超过 Faiss PQ 和 ScaNN AVQ，说明固定 codebook + 旋转 + 全局 norm 校正是一个可复用的低带宽候选评分方案；但注意低维数据增加 scale 存储占比（如 glove 100d 1-bit 增加 15%），更适合高维 embedding。
用记忆替代训练：Text-to-SQL 的列表式选择
🧭 LLM 候选选择免微调 · Memory 检索
IPAI, Seoul National University · KAIST
免微调列表式选择器，用结构化记忆作为决策标准并多排列聚合缓解位置偏差，BIRD-dev 准确率提升 2.02 且 tokens 减 2.92x
📌 工作参考价值（3 点）
- 可借鉴其 structured memory bank：把自然语言到业务实体/操作/期望输出的映射事先蒸馏成可检索片段，作为候选排序的显式标准，避免对选择器微调；在电商 query 改写、广告文案候选选择中可构建 query→商品属性/类目意图/文案风格的 memory，推理时检索作为评分依据。
- 借鉴 多排列聚合 + 执行结果/pointwise 预筛 的推理成本优化：先用轻量打分或可执行性检查过滤多数候选，只对 top-k 做多顺序的 listwise 比较，再聚合排名，能降低 LLM 调用 tokens 和位置偏差。
- 位置偏差缓解可以做成推理时策略而非训练策略，兼容已有 LLM；在搜索推荐 Agent 的多个工具/候选结果重排序环节，可直接插入多排列投票逻辑，无需额外训练。
无知还是无能？构造知识门控、可验证的 LLM Agent 任务
🧭 LLM Agent 任务构造与评估
DataGrids · Shanghai University · Peking University · Northwestern Polytechnical University · Nanyang Technological University
提出知识门控任务构造协议，分离任务指令与私有工件，通过溯源与可执行见证验证知识依赖
📌 工作参考价值（4 点）
- 用于内部 Agent 评测：把任务指令与领域私有规则/参考表/工具算子分离，在“提供 vs 不提供工件”两种条件下保持指令字节一致，可区分 agent 是缺知识还是缺能力，适合电商 SOP、价格策略、客服话术等私有约定场景。
- 用 deterministic solver 或规则语料生成结构化任务的精确 ground truth，避免 LLM judge 波动；对不可单一可执行 oracle 判定的自由文本输出，采用命名 criterion-level rubric 分项考核，比整体打分更稳定。
- 借鉴 leak audit 和 plausible-but-incorrect artifact 作负向控制：在构建企业私有 RAG/Agent 评测集时，检查是否存在数据泄漏，并加入“看似合理但错误”的知识工件，确保模型真的依赖给定知识而非记忆或猜测。
- 小样本配置相对校准（如五试验经验门槛）可低成本淘汰不可靠任务，适合在业务迭代中快速筛选高质量评测样本，不必等全量评估。
SymboLLM-FE：LLM 加速的符号回归自动特征工程
🧭 自动特征工程 · 符号回归+LLM
Nanjing University
符号回归生成高相关公式，再用 LLM 一次性精炼解释，实现高性能且可解释的自动特征工程
📌 工作参考价值（4 点）
- 在 CTR/CVR 等表格特征场景，可用符号回归自动挖掘高阶交互与非线性组合（如 ratio、log 交互），替代盲目数学变换，产出高预测力且具可解释性的特征。
- 用统计先验（候选公式与目标的相关性）限定候选集，再让 LLM 只做一次语义重命名/筛选，避免多轮 LLM 迭代带来的成本与幻觉风险；工程上可将 LLM 调用控制在个位数。
- 可把该方案嵌入现有特征平台：符号回归负责生成、选择大量公式特征，LLM 只负责后处理解释，适合批量生产特征并沉淀可复用特征库。
- 在电商风控、归因等对可解释性要求高的场景，符号回归天然提供公式形式，LLM 补全领域语义，能同时满足模型效果与业务审查要求。
混合来源AI文本检测的维度到组合证据路由
🧭 混合来源AI文本检测 · 证据路由
Institute of Artificial Intelligence, Beihang University
提出D2C-Routing，将内容与表达来源分维度路由再门控组合，显著提升混合AI文本检测
📌 工作参考价值（4 点）
- 维度解耦思想可直接迁移到UGC审核/商品评论真实性判断：将“内容来源”与“表达来源”拆成两个监督头，再组合成四类标签（HH/HA/AH/AA），比单一AI二分类更适合人工分层审核与申诉流程。
- 门控组合层代替简单 concat：业务中有多维度文本特征需要融合时，可借鉴 learned gated composition，让模型自适应加权不同维度证据，比固定拼接更容易适配不同混合比例场景。
- 评估指标使用 TPR@1%FPR 这类低假阳率阈值，比 Accuracy 更适合线上风控：电商/广告中AI生成内容检测往往要求极低误杀率，可直接复用该评估口径。
- 整体主要是文本检测学术贡献，与推荐/Agent直接相关性有限；但若业务涉及LLM生成推荐理由、商品文案的溯源与合规标记，可参考内容/表达双维度的归因标签体系。
竞争感知的生成式引擎优化：组合策略选择
🧭 生成式引擎优化 · 竞争感知组合策略选择 ★ 深度解读
Capital One, AI Foundations
用BOCS搜索竞争感知改写策略组合，再经DPO蒸馏为selector，在GEO基准上大幅超越agentic方法并抗竞争饱和
📌 工作参考价值（4 点）
- 在电商产品详情页/广告文案优化中，不要只优化单品内容，要把同query下竞品内容一起输入模型，让策略模型做「相对优化」；生成式搜索/推荐场景中，竞争饱和会显著侵蚀固定策略收益，条件于竞争语料可以减缓衰减。
- 两阶段「离线搜索+在线蒸馏」范式可直接复用：用BOCS等组合黑盒优化在离线环境搜索最优策略组合，再用SFT+DPO将黑盒观测蒸馏成轻量selector LLM，部署时仅需一次推理，避免在线运行昂贵的Bayesian optimization。
- 构造DPO偏好对时，先用Welch's t-test过滤统计不显著的观测，再选Hamming距离最小的hard negative，使模型学会区分相似策略组合之间的细微性能差异，比随机偏好对更高效。
- 推理轨迹蒸馏时，给teacher提供特权评分卡但强制其从可观测内容特征推理，然后把内容条件化推理教给学生；上线前要做泄露审计，并注意改写可能带来faithfulness/attribution下降，建议加入检索与事实性约束。
misi：基于随机样本的度量空间倒排索引
🧭 度量空间近似最近邻索引
CICESE
用数据库随机样本作为词汇表构建近似最近邻倒排索引，构建快且省内存，查询吞吐弱于图索引
📌 工作参考价值（4 点）
- 商品/内容 embedding 召回索引需要频繁更新（新品上架、活动换向量）时，misi 的构建可并行、确定性、比匹配召回 graph 构建快 3.7x，适合每日/小时级全量重建，避免在线增量索引不一致。
- 倒排样本思路可迁移为“粗召回-精排”两阶段：先用小样本词汇表构建轻量倒排，idf 加权投票快速取候选，再用高精度模型验证，适合在严格内存预算（如 8GB）下服务大规模候选库。
- 使用黑盒度量/多模态 embedding（如 CLIP 或用户-商品联合空间）时，无需修改距离定义即可索引；RAG 知识库频繁更新、设备端内存受限场景可复用。
- 注意查询吞吐是代价，线上高 QPS 场景应将其作为冷启动/离线批处理组件，或与 graph 索引组合，用其快速重建能力定期刷新主索引。
Token 级广告：生成式原生广告的潜在广告主混合拍卖机制
🧭 生成式广告 · token级拍卖机制 ★ 深度解读
Renmin University of China · Baidu Inc. · Stanford University
提出 LAMA 将广告主影响直接嵌入 token 级生成过程，满足 Markov DSIC/IR 且近最优 KL 正则化福利
📌 工作参考价值（4 点）
- 把广告分配从固定 slot 迁移到 token 级生成轨迹：每次生成一个 token 都更新广告主后验，最终按后验采样赢家，适合对话式推荐、AI 搜索摘要中的品牌植入；可用温度 β 显式控制商业化侵入度，与用户自然性平衡。
- 报告由平台代理的工程方案很实用：共享 advertiser-conditioned LoRA 模型输出 advertiser-specific policy，一个 value head 锚定 root value，通过 Bradley-Terry 目标学习 local advantages；部署时只对检索后的小候选集做常数额外 forward，可降低多广告主生成式推荐的服务成本。
- 支付设计中的 Bellman consistency 消息空间可在线上验证报告一致性，随机 settlement 只对赢家收费，实现 outcome IR 和期望弱预算平衡，减少广告主对“参与即收费”的障碍，适合生成式广告冷启动。
- 评估指标同时覆盖 welfare/revenue/value/quality 四个维度，尤其将 GEM-Bench 用户质量独立于 KL 惩罚，对生成式广告上线监控有直接参考价值。
语义数据处理系统中的组合在线学习
🧭 LLM 语义数据系统在线优化
Snowflake Inc.
在 LLM 调用边界组合多个在线学习组件，将训练更新隐藏在慢速 LLM 往返中，优化语义数据查询成本
📌 工作参考价值（4 点）
- 借鉴「LLM 往返延迟内做在线学习」：在电商搜索/推荐中，LLM 调用（如 query 理解、商品文案生成）占比高且慢，可以把轻量在线模型更新（如缓存命中率统计、过滤排序权重）藏在调用间隙，不增加额外延迟。
- 分层组件化优化：对应业务中的 memoization（query-LLM 结果缓存）、per-call 过滤排序（相似商品/评论筛选时先过滤掉明显不相关项）、cascade routing（简单请求走小模型/规则，复杂请求走大模型）。每个组件对应一个成本因子，可独立更新、组合叠加。
- 条件成本分解与乘法下界：优化 LLM pipeline 时，先按「每行 LLM 成本 = 调用次数 × 每次成本 × 选中行数」拆解，不同组件负责不同因子，组合后可获得乘性加速；实测从 11.4x 理论界降为 ~8x。
- 在线学习更新节奏分 per-call 和 per-batch：per-call 适合高频轻量参数（如排序分数），per-batch 适合阈值/路由策略，避免过拟合和样本预算浪费。
大语言模型的数据引用：一个开放挑战
🧭 数据引用与溯源 · LLM
University of Padua
提出 LLM 数据引用三方向：训练数据归因、推理时数据引用、知识图谱事实引用，与文档级引用 grounding 区分
📌 工作参考价值（3 点）
- 在 RAG 或 Agent 工作流中，引用源不能只给文档块/URL，应设计数据引用层：对商品表、用户行为聚合、知识图谱三元组等结构化/半结构化数据，记录 dataset+subset+query+version+timestamp 等固定性信息，避免引用粒度太粗导致无法复现。
- 训练数据归因（如 influence functions、TRAK）可转化为数据贡献报表，用于合规审计、数据合作方结算；电商推荐模型若用外部数据或用户数据，可借此评估哪些训练集对模型行为影响大，平衡数据收益与版权风险。
- 引用 KG 事实时，要把三元组（s,p,o）作为可引用单元，并沿 provenance 传播 credit：例如商品知识图谱中一个属性值来自某供应商，生成推荐解释时应溯源到具体三元组及其上游来源，增强可解释性和信任。
概念瓶颈模型作为决策支持系统真的有效吗？
🧭 可解释AI · 人机协同决策
DISI, University of Trento, Italy · CIMeC, University of Trento, Italy
大规模用户研究验证CBM交互式概念修正仅在困难任务、易识别概念且主动交互下提升人机协同准确率
📌 工作参考价值（4 点）
- 把推荐/广告模型的中间表征改造成“可编辑概念层”：先预测一组业务可理解概念（如价格敏感、类目偏好、即时意图），再由下游策略/模型输出最终排序或文案；产品运营可纠正概念而无需懂特征，CBM 的用户研究表明这种交互式修正比仅展示解释更能提升人机协同准确率。
- 交互式概念修正不是万金油：论文发现增益只在任务被用户认为困难、概念容易识别且用户主动交互时出现。在电商场景，可优先用于高价值、高不确定性的推荐/投放决策（如大促选品、push 文案筛选），而不是所有流量都开放人工干预。
- 概念检测的准确性会直接影响信任：如果模型经常识别错概念，用户反而会不信任系统。部署前应评测概念层准确率、对齐业务术语，必要时展示置信度或“不确定”状态，避免误导运营。
- 对 LLM/Agent 方案，可将“reasoning/解释”视作 concept bottleneck：让 Agent 先输出可校验的中间意图或证据标签，再生成推荐/Query；同时提供人工修正这些标签的入口，借鉴该研究的用户实验设计做 A/B 验证。
AdaWidth：面向稠密检索的查询自适应嵌入宽度
🧭 稠密检索 · 查询自适应嵌入宽度 ★ 深度解读
University of Washington
正交前缀适配器加查询路由器，在共享前缀下按查询分配嵌入宽度，匹配 SOTA 且维度减少 55%-84%
📌 工作参考价值（4 点）
- 双塔召回/商品搜索中，可以冻结已上线 encoder，加 Householder/WY 正交适配器对 query/item 共同旋转，保证全宽内积不变、全宽 KPI 不变；item 离线旋转一次，在线只算前缀，风险低。
- 在线先做 64 维前缀召回/排序，路由器只读已有排序的 score gap、熵等 rank-order 特征，判断是否不稳定；只对 top ρ 的 query 升级到 128/256 维，平均维度下降且无需额外 encoder 前向。
- 容量规划可参考 prefix sufficiency：所需维度随语料规模对数增长、随检索深度对数下降；大促候选池膨胀时不用线性扩维，可按 log N 调整。
- 低资源场景用 F=8 的 Householder 适配器仅约 13.8K 参数，比 dense adaptor 少 50-280 倍，效果仍领先 baselines，适合轻量部署。
超图嵌入索引：高效稠密向量检索
🧭 向量检索 · 倒排索引
Sodhana
HEI 按高激活潜维度组合组织文档，用倒排索引生成候选并保留语义排序
📌 工作参考价值（4 点）
- 在电商向量召回中，可将商品/用户 embedding 的高激活维度组合构造成倒排索引，替代或混合 HNSW，降低线上粗排阶段延迟与内存占用；适合作为大规模候选生成层。
- 采用多个互补超图（不同维度子集、不同激活阈值、不同语义簇）做多路召回，再融合重排，能提升长尾商品或冷门内容的覆盖，避免单超图维度增加带来的组合爆炸。
- 引入 activation diversity 作为诊断指标：评估当前训练出的 embedding 是否适合坐标倒排索引；若 diversity 低，可考虑加稀疏正则、维度解相关或调整训练目标，使向量更可索引。
- 该框架对 embedding 的稀疏/高激活特性有依赖，在业务中可先对已有向量做激活分布分析，判断是否值得迁移到倒排索引路线。
WarpSAC：面向可扩展离线强化学习的数据范式自适应算法
🧭 离线强化学习规模化训练方法
Tianjin University · Shanxi University · Imperial College London
提出数据范式感知的离线强化学习算法 WarpSAC，根据数据丰富度动态调整稳定器配置，大幅提升大规模并行训练性能
📌 工作参考价值（4 点）
- 数据范式感知的稳定器配置：在在线学习/强化学习推荐中，当数据吞吐量大幅提升（如实时日志流、大规模并行仿真），可关闭参数归一化并简化 critic 为 single-Q，减少计算瓶颈并提升价值拟合能力；在数据稀疏或覆盖度低时保留归一化与 clipped double-Q。
- Sample Weight Decay 可借鉴为按样本年龄做衰减加权，赋予新样本更高权重，有助于模型快速适应分布漂移，适用于推荐系统、Agent 决策策略的在线更新。
- 大规模并行训练中，传统稳定器（如归一化、double-Q）可能由优势变为制约，应根据数据覆盖度做消融实验而非沿用默认配置，这与大规模分布式训练中参数同步策略的选择有相似逻辑。
- 对于 Agent 仿真到真实（sim-to-real）部署，参考 regime-aware 配置思路，根据仿真数据规模选择不同训练设置，可显著缩短 wall-time 迭代周期。
突发人类动态下的事件时间混杂
🧭 因果推断 · 事件研究偏差诊断
Scrunch AI
揭示行为日志中用户自选事件时间导致的片段选择偏差，并提供诊断协议与审计工具
📌 工作参考价值（4 点）
- 评估 AI 助手、推荐点击或广告曝光后的增量效果时，不要仅对比事件前后活动量，因事件常发生在用户已有任务片段中；应引入 known-null 对照（如随机时间戳或非事件时间点）并匹配事件前的活动轨迹，避免将任务延续误判为干预效应。
- 在 A/B 测试或因果归因分析前，可集成论文中的诊断协议或使用 burstcheck 工具审计日志：检查事件前活动是否已开始上升、事件后活动是否只是片段自然衰减；这能有效识别并过滤存在 episode-selection bias 的数据。
- 用户固定效应和粗粒度活动匹配（如按日活分层）无法消除这种时变混杂，建议在工程中改用 episode 级别匹配：找到具有相似爆发模式但无目标事件的用户片段作为对照，或在同一用户内匹配有事件与无事件的活动片段。
- 该结论对搜索、推荐、广告的归因分析同样适用：例如用户点击推荐后转化提升，可能只是用户购买旅程中的自然波动；需要与未点击的类似片段比较，而不是简单依赖点击后窗口内的指标。
多方法因果证据合成：从观察数据中按交叉方法收敛证据排序候选驱动因素
🧭 因果证据合成 · 多方法融合
Tricon Infotech
提出MCES框架，融合11种方法、8类数学传统，用收敛证据分数对候选驱动因素排序，避免单一方法误判。
📌 工作参考价值（4 点）
- 在归因/特征筛选场景代替单一SHAP或回归：对同一面板数据（用户×时间×实验外）跑多个因果/相关方法（Granger、回归、IV等），输出归一化后线性意见池，优先看多方法共同指向的 driver-outcome 对；可降低单方法假设失配带来的假阳性。
- 先用 Structural-Behavioral Decomposition 删除定义性/代数关系：例如 CTR=点击/曝光、GMV=单价×单量这种恒等特征若作为候选 driver，会天然高分；先识别并移除这类 tautological pairs。
- 将 CES 作为假设生成工具而非因果结论：用于实验前排序候选干预点，不用它替代 AB 测试；可结合业务已有实验/反事实做 scenario-specific calibration，限制外推。
- 工程化：方法池可并行执行，输出统一 [0,1] 归一化，成本可控；建议保存方法级别证据矩阵，便于审计和 case 复盘。
交互效应的分布外推方法 DExtrI
🧭 组合外推与交互效应建模
Seminar for Statistics, ETH Zürich · Department of Statistics, University of Washington
提出 DExtrI，从仅单变量活跃的训练数据外推多变量组合的交互效应，并给出可行性理论保证
📌 工作参考价值（4 点）
- 推荐/广告中常需预测多策略同时生效的组合效果（如优惠券+置顶+新样式），而训练数据往往只有单策略生效的 A/B 实验。DExtrI 提供了一种从单变量观测外推组合效应的统计学框架，可直接迁移到营销组合效果预估。
- 对于特征交互敏感但线上实验昂贵的场景（如排序模型多目标权重、召回通道组合），可借鉴其 axis-aligned 采样策略：只需跑边际参数扫描，再用 DExtrI 预测联合配置，显著降低实验成本。
- 其理论保证刻画了“何时组合外推可行”的条件，可帮助判断在哪些业务问题上可以安全地从单变量实验外推到多变量组合，避免盲目用复杂模型外推导致不可靠结论。
- 方法对分布外组合输入的稳定性有明确建模，对推荐系统在用户/物品特征组合出现长尾或未见组合时的鲁棒性设计有启发，尤其是交互项的结构假设可以简化线上模型的分布外泛化问题。
可解释 Transformer 模型用于结构化电子健康记录的临床预测任务
🧭 结构化 EHR 序列建模 · 可解释性
Sanofi · Carnegie Mellon University
将化验值按百分位分箱离散为 token 并结合 Integrated Gradients，实现 EHR 序列预测与 token 级解释
📌 工作参考价值（4 点）
- 数值特征离散化：将连续特征（如价格、时长、评分）通过分位数分箱映射为离散 token，既适配 Transformer 输入，又保留相对大小信息，可用于用户行为序列建模。
- 可解释性归因：Integrated Gradients 对输入 token 序列做贡献归因，可用于诊断推荐模型中哪些历史行为或特征驱动了预测，辅助特征筛选和模型审计。
- 预训练 + 微调：在大规模用户序列上预训练通用行为语言模型，再针对具体任务（点击率、转化率）微调，类似 BERT-LER 在 EHR 上的做法。
- 论文是医疗领域，但序列建模和数值编码策略可迁移到电商用户行为序列、广告曝光序列等场景。
潘多拉 AI 模型路由盒：带成本的价值估计与高效分配
🧭 成本感知的模型路由与拍卖机制 ★ 深度解读
Google DeepMind
将模型路由中昂贵价值估计的取舍建模为 Pandora's Box，以 reservation price 动态决定查询时机，在中心化与去中心化场景均接近最优。
📌 工作参考价值（4 点）
- 在推荐/搜索的多模型链路（精排、重排、LLM reranker）或 RAG 中，用 cheap estimator（如 embedding KNN 或轻量模型）先得到期望收益和不确定性，再以 reservation price 为阈值决定是否调用昂贵路径（完整生成、检索、大模型打分）；不要固定预算或全量调用，能显著降低推理成本。
- 当存在多个模型供应商或内部专家服务，且各自有私有评估能力时，可采用 posted-price 拍卖 + VoI 公式，让专家自行判断是否值得花钱做更准的自评估再报价；平台只需发布当前最佳价，无需了解专家内部信息，降低中心化路由的维护成本。
- 工程实现上 Gaussian signal model 的闭式解很容易落地：用 calibration 集拟合 cheap score 到 expensive score 的回归得到 μ 和 σ²，再用 root-finding 求 reservation price；若候选之间分数相关，可用多元高斯后验 + mean-field 更新阈值，进一步提升查询效率。
- 如果预算极其有限且候选数少（如仅小模型 vs 大模型），Margin 启发式（根据 top-2 cheap score 差距决定是否查昂贵估计）已接近最优，可作为快速落地起点；但在几十上百个候选时，reservation-price 策略能更精细地分配查询预算。
轻量可解释趋势季节VAE概率时间序列预测框架
🧭 概率时间序列预测 · 趋势季节分解VAE
Applied AI Institute
显式分解趋势与季节，用差分正则与频域复VAE实现轻量高精度概率预测
📌 工作参考价值（4 点）
- 电商中销量、流量等时间序列预测可借鉴趋势/季节显式分解：趋势流用差分正则化平滑latent，季节流用频域复高斯VAE捕捉周期，比统一建模更准确，尤其适合大促、季节性商品。
- 轻量化设计对线上推理友好：模型权重减少93%、推理加速74%，适合需要实时更新预测的推荐/广告系统，降低计算成本。
- 可复用的正则化技巧：对latent trajectory施加HP滤波式差分惩罚，可迁移到任何需要平滑趋势的预测任务（如CTR趋势、GMV预测）作为辅助损失。
- 频率域建模周期性的方法可借鉴到推荐中的周期性特征（如用户周行为、节假日效应），用复VAE学习振幅和相位，增强对周期波动的泛化。
正交 JEPA：面向潜在世界模型的因子化预测状态
🧭 预测表征学习 · 世界模型
The Chinese University of Hong Kong (CUHK)
提出正交预测因子化框架，将目标状态分解为多个正交组件分别预测，缓解主导信号对表征学习的干扰
📌 工作参考价值（4 点）
- 多任务/多目标推荐中共享 backbone 常面临负迁移：可借鉴正交因子分解，将目标空间分解为多个正交组件，每个任务/目标使用独立预测头，显式鼓励任务表征方向不重叠，缓解主导任务（如 CTR）对辅助任务（如收藏、GMV）的梯度压制。
- 在用户序列建模或商品表征预训练中，JEPA 式自监督学习可用：对 next-item 预测或跨视图预测，把目标 embedding 用基矩阵分解为多个正交因子，分别预测后合成，避免单一预测头只拟合热门/高频特征，提升对长尾兴趣的覆盖。
- 在线方差正则化可防止 embedding 坐标坍缩，适合推荐模型 embedding 层或序列编码器，避免有效维度减少；因子活动正则化思想可迁移到多兴趣表征，保持不同兴趣向量的多样性。
- 该预测状态机制可支持 planning/rollout，对 Agent 在推荐环境中做用户模拟或策略评估时，可构建因子化世界模型，生成更稳定的用户状态转移。
超越均匀位分配的量化
🧭 向量量化 · 非均匀位分配
Indian Institute of Science · Microsoft Research · Microsoft STCA
针对MRL嵌入提出按连续桶非均匀分配位数的量化框架，等存储下PQ/SQ召回最高提升8%/18%
📌 工作参考价值（4 点）
- 若线上 embedding 具备 MRL 结构（例如多任务/多模态训练或直接使用 MRL 训练），可以放弃 uniform bit allocation，按维度重要性分桶，将更多 bit 分配给高方差/高信息桶，特别在 int4/int8 等低比特压缩下能显著提升召回。
- 工程落地风险低：分桶为 contiguous bucket，利于 cache 和 SIMD；贪心位宽搜索可离线执行，线上查询只使用预计算码本，无额外推理开销。可直接在 DiskANN 等向量索引层实现，开源代码可参考。
- 对商品/用户 embedding 大规模建库时，先做小样本统计分析维度方差/重要性，若存在递减或聚类结构，可考虑 variable bit allocation；存储预算固定下比加 GPU 或换模型更容易提升 recall@k。
- 该工作主要针对 MRL 嵌入；如果不确定业务 embedding 是否具备 Matryoshka 属性，可先训练或验证 MRL 特性，或在线收集维度重要性指标，再决定是否启用非均匀量化。
聆听向前：下一 Patch 嵌入预测实现可扩展音频学习器
🧭 自监督音频表征 · 下一 patch 预测
Imperial College London · University of Surrey
用因果 Transformer 预测下一 patch embedding，极简自监督在音频任务达到 SOTA
📌 工作参考价值（4 点）
- 用户行为序列预训练可借鉴 NAPE 的「下一 embedding 预测」：将行为序列切块后，用因果 Transformer 预测下一步用户/item embedding，配合 stop-gradient 避免表征坍塌，无需构建离散 Semantic ID 或重建 item 特征，大幅降低工程复杂度。
- 现有推荐 SSL 常依赖对比学习+掩码重建+teacher-student 等多重目标，NAPE 证明仅自回归前向预测 + stop-gradient 即可学出强表征，可作为轻量预训练 baseline，减少超参调优和训练成本。
- 因果掩码天然适配流式增量训练，适合电商/广告的实时序列建模；同时自回归预测下一 embedding 可直接作为在线学习辅助任务，无需等待完整序列即可更新表征。
- log-mel patch 切分思路可迁移到商品多模态序列（如短视频帧、商品描述片段），统一用预测下一 patch embedding 做跨模态预训练，简化多模态对齐流程。
Repo0：设计驱动的零到全代码生成
🧭 LLM Agent 零到全代码生成与结构演化
Shanghai Jiao Tong University · Chongqing University
通过 Dual-DAG 显式架构状态与模块化度量引导结构演化，实现从需求到完整仓库的生成
📌 工作参考价值（4 点）
- 将复杂 Agent 工作流（如推荐系统多阶段 pipeline）显式建模为需求层与组件层 DAG，并维护两层对齐关系，避免多模块各自生成导致的接口漂移与集成困难。
- 借鉴模块化度量（内聚/耦合）驱动的结构迭代思路：在生成式推荐或多 Agent 系统中，先收敛模块边界与依赖关系，再进行实现，可减少返工。
- 测试驱动开发（TDD）方式可直接迁移：从业务需求（如推荐场景的预期行为）先生成可执行的测试用例，以测试通过率作为生成质量的核心信号。
- 显式设定结构收敛条件（如模块化指标不再显著变化），为复杂生成任务的迭代停止提供可量化判据，避免无限循环。
叶子值作为坐标：梯度提升集成的精确对比解释
🧭 可解释 AI · 反事实解释
Independent Researcher
将 GBDT 每棵树叶子值视为坐标，使模型变为线性求和，从而获得精确稀疏对比解释与可行动反事实建议
📌 工作参考价值（4 点）
- 若业务中大量使用 GBDT/LightGBM/XGBoost 做 CTR/CVR 排序或风控评分，可将每棵树的叶子值作为用户/物品的稠密向量表示（deterministic leaf embedding），该表示上模型是线性加和，适合作为解释层或后续线性模型输入，并可直接定位高贡献树与具体分裂条件。
- 对线上 bad case 做对比解释：取两个预测差异大的样本，计算叶子坐标差向量，非零项即导致差异的树和对应特征区间；无需 SHAP 等近似归因，可直接追溯到真实 split，适合模型调试与审计。
- 反事实/行动建议：在电商推荐、用户运营或信用额度场景中，可生成“用户做出哪些可行动改变可提升推荐/优惠资格/评分”的建议；必须显式排除不可变或不可行动特征（年龄、历史违约等），该方法在限制可行特征后仍比最强基线更有效（58% vs 41%），说明业务部署时应把可行性约束纳入生成与评估。
- 评估指标要加入可行动性：标准反事实评估只看 validity/proximity，会高估不可执行建议；实际系统需统计可行动比例，可借鉴作者的做法，将不可行特征作为 mask 或约束参与生成与评测。
划分支持集并重构残差：面向视频生成与世界模型的训练-free稀疏注意力
🧭 训练-free 稀疏注意力加速视频 Transformer
Texas A&M University
训练-free稀疏注意力，通过响应耦合分区与探针拟合残差重构，在视频生成和世界模型中保持质量并加速1.48-2.61倍
📌 工作参考价值（4 点）
- 对长序列用户行为建模的 Transformer 推理，可借鉴训练-free 稀疏注意力：先按 query 与 key 的响应相关性做块划分，再用少量 probe query 精确计算残差，用仿射校正补偿被跳过的注意力，避免重新训练。
- 适合已有预训练电商/推荐大模型在线上做低成本加速，不需改权重，直接以更低的 executed-pair density（如 22-26%）换取 1.5-2.6x 端到端吞吐提升。
- 探针拟合成本低、效果贡献大，可以在工程实现中作为轻量残差模块嵌入，优先保证 probe 数量和选择策略，而不是复杂的分区方法。
- 若有多头注意力且头间分布差异明显，可做 head-dependent 稀疏策略，本方法中的响应耦合分区思路可迁移到不同 head 和长序列场景。
无黄金标准标签下 AI 生成数据的去偏推断：基于多重不完美测量的识别
🧭 多不完美标注去偏推断 ★ 深度解读
Massachusetts Institute of Technology
提出 DMM 框架，在无 gold-standard 标签时用多个不完美 AI 标注构建去偏桥函数，实现有效下游统计推断
📌 工作参考价值（4 点）
- 不要把 LLM 标注直接当真实标签做下游回归/指标计算，即使准确率 >90% 也会产生显著偏差；当没有 gold labels 时，可以用至少 3 个不同 LLM/prompt/temperature 输出作为 proxy，基于条件独立性识别真实标签分布并构造去偏矩估计。电商场景可迁移到用户意图分类、商品属性抽取、评论情感打分、广告内容审核等任务。
- 条件变量 D 的设计是关键：把文本 embedding、任务难度特征（长度、模糊度、语言风格）、prompt 版本、模型家族等加入条件集，能缓解不同 LLM 之间由于共享偏差导致的条件独立违背；同时要做条件独立性诊断，而不是默认假设成立。
- 工程实现上，用 cross-fitting + EM 估计每个 proxy 的 class-specific error rate，桥函数采用 pair/triple 多项式组合（3H2 - 2H3）可消除一阶估计误差，使 nuisance 模型只需 n^{-1/4} 收敛速度，适合大规模 LLM 标注 pipeline。
- 监控 proxy 质量：新增一个标注器是否提升效率取决于其条件 bridge variance；如果某个模型准确率太差，可能增大估计方差，应加权或筛选后再加入 DMM。
FreeToken：面向边缘环境的带宽自适应 MoE 高效推理系统
🧭 边缘 MoE 推理系统 · 带宽自适应执行
UC Berkeley · UT Austin
通过带宽自适应执行与全栈协同设计，将前沿 MoE 模型高效部署到个人异构硬件
📌 工作参考价值（4 点）
- 若业务中需本地或边缘侧部署 MoE LLM（如 query 改写、商品文案生成），可借鉴 FreeToken 不固定 offloading 策略的思路：根据当前 PCIe 带宽、CPU/GPU 算力动态决定 expert 常驻位置，而非依赖静态预设。
- 对 Agent 类工作负载（多轮工具调用、长上下文），关注其请求模式动态变化，利用请求间共享前缀缓存与状态复用，减少重复 KV cache 重构，降低长尾推理成本。
- 在异构硬件集群中做推理调度时，可将模型状态视为可迁移资源，按机器实际可用内存、带宽和计算强度做细粒度映射，而非只按 GPU 数量分配。
- 若团队使用开源 MoE 模型做离线批量生成（如推荐理由生成、广告文案扩展），可参考其对模型权重分片与流式加载的工程优化，降低对单机 GPU 显存的硬性要求。
全局仿真引导的动态算子调度实现高效多租户模型服务
🧭 多租户 LLM 推理的算子级动态调度
Xiamen University · Shanghai Jiao Tong University · East China Normal University · Tsinghua University
提出 SliceScheduler，利用全局映射图和模拟器进行算子级动态调度，提升多租户 LLM 推理吞吐 1.10-2.29 倍
📌 工作参考价值（4 点）
- 在部署 LLM-based 推荐/搜索服务时，容器粒度调度会浪费 GPU 碎片时间，可借鉴 SliceScheduler 将调度单位从容器细化到算子，利用短时空闲 slice 提升吞吐。
- 引入全局映射图（GMG）统一描述算子依赖、tensor 形状、资源映射和状态，方便实时全局视角做决策；自己的推理平台可以维护类似有向图，结合模拟器做 what-if 预测。
- 设计增量式模拟调度：生成候选 placement 后用模拟器评估内存和延迟，选择最优不违反 SLA 的方案，避免实际试错成本；可用于多模型混部或流量突增场景。
- 实现为 PyTorch backend，说明算子级调度可以透明集成到现有训练/推理栈，业务侧无需大幅改动模型代码。
大型发现模型：基于实证的模型驱动开放式搜索
🧭 LLM + 贝叶斯代理模型开放式搜索
University College London · The Hong Kong University of Science and Technology (GZ) · Institute of Automation, CAS · Jilin University · AI Lab, The Yangtze River Delta
耦合 LLM 生成与贝叶斯非参代理模型，用不确定性值引导候选生成与筛选，实现开放式搜索性能大幅提升
📌 工作参考价值（4 点）
- 借鉴「LLM 生成 + 非参代理模型」的架构：在电商搜索/推荐里，可让 LLM 生成候选商品描述、广告创意、Query 改写等，同时训练一个轻量 Bayesian surrogate（如 GP/随机森林）预测效果并输出不确定性，不依赖 LLM 自评/概率作为可靠打分。
- 用 uncertainty-aware value 做候选筛选：例如生成多个广告文案或推荐理由时，按 surrogate 预测的 CTR/CVR 减去不确定性惩罚选择，可平衡探索与利用，降低对冷启动或分布外候选的误判。
- 持续更新 discovery memory 与 surrogate：每个线上实验反馈（点击、转化）实时更新代理模型和记忆池，使候选生成越来越符合业务目标；类似在线贝叶斯优化，适合迭代优化推荐策略或创意素材。
- 注意资源：LLM 生成多个候选成本可控，但每次实验反馈更新 surrogate 需要在线训练或增量更新方案；可参考论文中非参模型的选择，探索轻量实现。
TinyCast：通过计算周期实现概率零样本预测
🧭 零样本时序预测 · 轻量概率模型
RA WS Labs
146K参数零样本概率预测器，用频谱计算周期并做相位折叠，定义尺寸-精度前沿
📌 工作参考价值（4 点）
- 电商/供应链的时序预测（销量、流量、广告消耗）可借鉴“先算周期再折叠相位”：用频谱检测主周期，将序列按周期相位折叠，能大幅降低模型要学习的周期性，适合轻量模型。
- 要在端侧或广告平台 RTB 场景部署预测器，可参考其只含卷积+矩阵乘法的设计：能导出 static INT8 并端到端运行，无需逐信号拟合。
- 分位数解码器输出预测分布而非点估计，适合库存安全水位、预算控制、告警阈值等需要 uncertainty 的业务决策；比仅有点预测的小模型更可控。
- “block-autoregressive”生成未来一段再自回归，可迁移到多步需求预测/预算分配，减少长程误差累积，同时保持小参数。
时间序列基础模型中的预测坍缩现象与校准-排序权衡
🧭 时序基础模型 · 校准-排序权衡
Abel AI Lab · Arizona State University · University of Oxford
发现时序基础模型预测坍缩现象，提出 CalibRank 平衡校准与排序，横截面相关性近三倍提升。
📌 工作参考价值（4 点）
- 排序目标与校准目标未必一致：若业务指标是物品排序质量（如信息流/广告 CTR 排序），只优化 pointwise MSE/Logloss 可能导致预测趋于均值、区分度不足。可尝试在损失中加入 batch-level 排序项（如 pairwise/listwise loss 或相关性正则），类似 CalibRank。
- 评估需补横截面/排序视角：逐样本 AUC/准确率可能掩盖排序结构失灵，增加 IC、Spearman 或 NDCG 等指标监控，尤其对于低信号目标（点击、转化）。
- 低可预测性 + 校准约束会使预测振幅过小：若线上排序模型打分过于集中，可放松校准约束或对 logits 做温度缩放/振幅重标定，但需监控校准误差。
- 多实体共享模型（用户/商品）时，逐实体损失不识别全局序；可尝试在训练中构造 batch 内样本对或跨实体排序损失。
TabSOM：基于自组织映射的表格到图像编码方法
🧭 表格数据图像化编码与可解释性
用SOM组件平面布局特征并建模特征间关系，将表格数据编码为图像以提升CNN/ViT的分类性能与可解释性
📌 工作参考价值（4 点）
- 在电商/推荐特征工程中，当需要把混合类型表格特征喂给 CNN/ViT 做多模态或排序时，可借鉴 TabSOM 的 SOM 布局思路：用 SOM 分量平面做特征定位，稳定且保留相似特征空间关系，避免 t-SNE/UMAP 随机性和仅编码边际值的问题。
- 显式建模特征交互：TabSOM 第二通道把 pair 关系画成空间连接，可启发我们用图像/图混合输入增强深度学习排序模型对交叉特征的表达能力，尤其在特征数量不多但交互重要的场景（如用户×商品属性）。
- 可解释性工具：class-separation importance score 以 SOM 原型为基础，能给出全局重要性和原型级别的局部解释，可作为 SHAP 的补充，用于推荐模型特征归因和排查线上 bad case。
- 工程实现注意：Hungarian assignment 保证特征在画布位置无冲突且固定，利于增量训练/缓存特征图像；多尺度节点通道让模型同时看到精细和粗粒度模式，值得在构建图像化特征时复用。
Wasserstein 过滤：一种用于鲁棒分布学习的样本选择方法
🧭 鲁棒分布学习与异常检测
The Hong Kong Polytechnic University · Fudan University
提出 Wasserstein Filtering，通过最大化子集与污染数据集的 Wasserstein 距离来剔除异常样本，并给出可扩展算法
📌 工作参考价值（4 点）
- 可作为训练数据清洗的通用预处理工具：在用户行为日志、点击数据中常混有 bot 流量或噪声样本，WF 用分布距离直接筛选干净子集，不依赖具体模型，适合在特征工程阶段引入。
- 边际筛选算法 SinkMarg 计算快，适合大规模推荐/广告日志的初筛；需要更高精度时再用 SinkWF 或 SlicedWF 做联合优化，工程上可以分两级漏斗。
- 对生成式推荐或创意生成模型：若训练数据含大量低质/异常样本，WF 能先筛出干净数据，再训练 diffusion 等生成模型，缓解模式坍塌或生成质量下降。
- 异常检测场景中，WF 的“最大化 Wasserstein 距离”思路可迁移到流量反作弊、异常用户识别，作为无监督异常分数的一种新视角。
DexterSQL：深度 Schema 探索与规则修正的 Text-to-SQL 生成
🧭 Text-to-SQL · 深度Schema探索与规则修正
New Jersey Institute of Technology · Virginia Tech
用深度 schema 探索、数据库无关规则修正与多路径生成提升 Text-to-SQL 准确率
📌 工作参考价值（4 点）
- Schema 细粒度探查可迁移到指标/取数场景：对电商数据仓库中易混淆列（如“下单金额”vs“支付金额”）做单列+联合分布分析，自动发现区分性特征，注入 prompt 可降低 LLM 列选择歧义。
- 用训练集错误挖掘数据库无关修正规则：把线上 Text-to-SQL 或 NL 查询解析的 badcase 回流，提炼成与具体库无关的纠错规则（如“时间条件不可省略”），可跨库持续累积并降低重复错误。
- 依赖树骨架分解对复杂分析查询有用：在生成 SQL 前先依据问句句法结构构建 dependency tree，拆成 SQL skeleton，能有效缓解条件遗漏/错放问题；电商运营复杂报表查询可直接借鉴该中间表示。
- 非微调方案接入成本低：整体基于 prompting，不改变 LLM 参数，适合快速迭代并叠加在已有 LLM API 上，适合业务初期验证。
MBA：面向真实商业创意的多模态基准与智能体
🧭 多模态业务创意生成代理
KAIST AI
构建首个多模态商业创意基准 MBA-Bench，并训练基于 GRPO 的代理，在 blind/known 双设置下显著超越基线
📌 工作参考价值（4 点）
- 多模态视觉线索驱动创意生成：在电商商品卖点、广告文案、活动策划生成中，不要只用文本属性，把商品图、场景图抽成视觉线索（自动 caption + MLLM），补充形状、材质、空间布局等独特卖点，这些视觉信号往往直接影响点击转化。
- 检索增强合成（RAG for ideation）：生成前先根据任务生成检索 query，取回市场证据（竞品、用户评论、趋势数据），再做 evidence-augmented synthesis。可用于选品文案、push 文案：先检索用户近期关注与竞品卖点，再生成差异化创意。
- 奖励设计分离 creativity 与 feasibility：训练生成代理时，将奖励拆为创造力（新颖性）与可行性（实现路径、成本等），并可将已知业务指标（点击率、转化率）作为 disclosed criteria 加入 GRPO 优化，避免盲目 hack 指标。
- 轻量训练栈：LoRA SFT + GRPO 在小算力下即可微调多模态模型，业务侧可在已有 MLLM 上快速构建创意代理与自动化评测闭环。
离散扩散模型的单纯形松弛方法
🧭 离散扩散生成模型优化
NTU Singapore · The University of Tokyo · Purdue University · Institute for Advanced Intelligence and Computing (IAIC), A*STAR · Centre for Frontier AI Research (CFAR), A*STAR
通过 Dirichlet-categorical 增广保持均匀扩散边际不变，导出 Rao-Blackwell 反向桥目标与采样器
📌 工作参考价值（4 点）
- 生成式推荐（如 Semantic ID 序列生成）中，离散扩散模型可借鉴 Simplax 的辅助连续变量增广：不改变离散 corruption 过程，复用现有离散 token 的 embedding 和 denoiser 架构，同时用 Dirichlet 增广获得 Rao-Blackwell 化的目标，降低训练方差。
- 若在 query 推荐/搜索词生成里使用离散扩散，可尝试保留 corrupted categorical state 作为网络输入，仅通过辅助 simplex 变量改善反向桥估计，工程上无需重构输入管道。
- 该方法的 open-source 思路适合需要更稳定离散扩散训练的场景，例如生成商品标题、push 文案等短文本，可参考其在 perplexity–entropy 权衡上的改善。
- 在数据稀疏、需要跨 clue 密度泛化的结构化生成任务（如补全属性、约束推荐解释）中，其 Sudoku 实验表明用高线索密度训练可泛化到最低可解密度，类似策略可用于可控性要求高的搜索推荐文本生成。
不回滚：面向流式对话摘要的缺失证据记忆
🧭 流式对话摘要 · 缺失证据记忆
KAIST
提出缺失证据记忆框架 ReMEMBER，在固定预算下针对当前窗口未解决依赖检索并提炼证据，提升流式对话摘要的缺口补全
📌 工作参考价值（4 点）
- 在电商客服/导购 Agent 中，多轮对话当前轮常含指代或隐含前提，直接总结或回答会丢失 grounding。可借鉴 ReMEMBER：先识别当前窗口的未解决依赖，再按依赖检索证据，而非按语义相似度盲目取 top-k；检索到的片段做证据密度提炼，在固定 token 预算下提升回答/摘要的事实一致性。
- 对推荐系统长序列用户行为建模，类似流式窗口总结：每次只处理最近一段 session，但长期偏好需从历史检索。可将当前目标视为带依赖的 query，先抽取缺失证据（早期点击、属性变化）再生成紧凑记忆；这比简单截断历史或普通 RAG top-k 更有效。
- 工程上，评估 RAG/记忆模块不要只看生成文本质量，应拆分 memory recall 和 gap-resolution completeness 等诊断指标，便于定位是检索没召回还是生成没利用，直接用于调试检索 Augmented 流水线。
- 若要用 LLM 记忆服务在线低延迟场景，固定预算下先检索后压缩的 evidence-dense memory 思路，适合做 prompt 压缩或 KV cache 精简，减少无效历史对注意力的干扰。
缓解英语到罗马尼亚语机器翻译中的性别偏见
🧭 机器翻译 · LLM 性别消歧与标签注入
Human Language Technologies Research Center, Faculty of Mathematics and Computer Science, University of Bucharest
用微调 LLM 插入性别提示标签配合标签感知 NMT，将英罗翻译性别准确率提升超 40 个百分点
📌 工作参考价值（4 点）
- 在生成式推荐或文案生成中，借鉴“LLM 分类 + 标签注入”的控制方式：用轻量分类器（或 LLM）识别目标属性（如性别、人群、品牌调性），向生成模型输入插入特殊 token 或标签，实现可控生成，无需重新训练大模型。
- 多阶段流水线（分类器与生成器解耦）便于单独评估和迭代，尤其适合电商场景中需要对特定属性（如性别、年龄、价格带）进行精准控制的文案或标题生成任务。
- 构建针对特定偏见的标注数据集，用于微调下游小模型（如 NMT 或文案生成模型），可有效降低推理时对大规模 LLM 的依赖，平衡效果与成本。
- 若业务涉及多语言翻译（如跨境电商商品描述本地化），可借鉴性别提示标签方案提升目标语言语法正确性和用户感知。
超越短视世界模型：面向直接未来预测的长时域端到端训练
🧭 世界模型长时域训练范式
University of California, Davis
提出直接预测终端状态的训练范式，避免递归误差累积，显著提升长时域预测精度
📌 工作参考价值（4 点）
- 长序列动作效果评估：在电商广告序列投放或对话式推荐中，可通过直接优化最终转化/满意度目标的训练方式，替代单步奖励预测的误差累积，提升长期效果的预估精度。
- Planning 与 Agent 决策：方法可直接用于生成式 Agent 的多步规划，将动作序列编码为单一嵌入后预测终点状态，避免自回归展开的推理不稳定性和高昂计算成本。
- 轨迹级别的损失设计：在用户行为序列建模（如 session-based 推荐）中，可以借鉴端点回归的思想，直接优化对最后交互 item 的预测，而非每一步的 next-item 预测，可能提升高价值末尾行为的召回。
- 非递归架构设计：DPWM 的并行化动作序列编码模式（如 Transformer 或卷积）可直接迁移到广告序列生成模型中，将整段预算分配计划压缩为平面表示，一次性预测最终效果，加速在线求解。
代理式混合自顶向下与自底向上的知识图谱生成方法
🧭 Agent 知识图谱构建
Malt, Paris, France
提出结合 LLM 与 Wikidata 的代理式混合管道，实现多语言技能概念的自适应对齐与涌现
📌 工作参考价值（4 点）
- 混合外部知识库（Wikidata）与 LLM 的思路可直接迁移到电商商品属性图谱构建：已有 SPU/属性对应 Wikidata 或 Freebase 实体进行锚定，LLM 负责发现并结构化新属性或长尾品类。
- 代理反思（agentic reflexion）模式用于未匹配概念的迭代恢复，可解决商品描述中不断出现的新词、新属性（如“可折叠”“氮化镓”）无法对齐的问题，工程上可设计类似的检查-再生成-去重闭环。
- 多语言规范化及去重阶段对跨境电商标品属性对齐（如颜色、尺寸）有直接借鉴：先用 LLM 多语言标准化，再基于语义相似度去重，减少人工 mapping 成本。
- 自愈（self-healing）框架与主动策展（active curation）思想可用于实时商品库的质量监控：自动检测失效或低置信度映射并重新调和，保障下游搜索推荐的特征质量。
PACE：基于原语的代码进化实现自动算法设计
🧭 LLM驱动的自动算法设计 · 代码进化
Southern University of Science and Technology · Shenzhen University
将算法局部逻辑解耦为可执行原语，通过原语感知进化和汤普森采样实现代码级复用与有效评估
📌 工作参考价值（4 点）
- 推荐策略部件化与进化复用：将推荐系统中的排序规则、特征交叉方式、后处理逻辑等代码抽象为可执行原语（EAP），通过类似PACE的原语感知算子进行变异与交叉，自动进化更优策略组合，同时保留历史有效片段，避免重新探索。
- 基于Thompson采样的无额外数据评估：对推荐算法迭代中的局部改进，可利用父代相对提升作为奖励信号，通过Thompson采样选择高潜力原语，无需预留大量评估流量，指导在线更新时更具样本效率。
- 防止LLM生成代码的退化迭代：在使用LLM进行推荐模型或Agent逻辑自动优化时，借鉴PACE将关键子模块显式物化为原语集合，并以结构性约束保留它们，可缓解完全重新生成带来的性能波动与有用片段的丢失。
- 跨任务策略迁移的启发：构建跨场景（如不同广告位、国家站）的通用原语池，利用PACE的迁移机制，可快速将已验证的调整策略适配到新场景，降低冷启动人力成本。
图像比Token更高效：VLM降低推理能耗同时提升时序异常检测精度
🧭 VLM用于数值时序的Token高效推理
Ericsson
将时间序列转为2D图表输入VLM，减少3.6-10.4倍输入Token，推理能耗降1.8-2.5倍且精度大幅提高
📌 工作参考价值（4 点）
- 电商/广告系统的实时监控指标（如QPS、转化率时序）可转为图表输入VLM做异常检测或根因分析，避免原始数值Token爆炸，显著降低成本。
- 在多模态Agent架构中，可将结构化数据（如分日报表、A/B测试指标序列）先渲染为图像，再交给VLM做语义推理，突破纯文本上下文窗口限制。
- 该思路可推广至需要处理大量连续数值特征的推荐/搜索模型辅助分析场景（如Embedding漂移监控），用VLM替代纯文本LLM实现能耗和可扩展性平衡。
- 微调VLM时，图表+自然语言指令的混合提示设计值得借鉴：保留时间趋势的视觉先验，让语言模型聚焦语义判断，可能迁移到广告素材效果分析或用户行为序列理解。
BaKron：基于Kronecker因式分解Hessian的高效量化加速
🧭 神经网络量化加速
University of California San Diego · Department of Mathematics · HDSI
利用双侧Kronecker-factored Hessian信息加速自适应舍入量化，复杂度与GPTQ同为立方级但精度更高
📌 工作参考价值（4 点）
- 在电商/推荐系统中部署大模型（如LLM-based推荐）时，可尝试用双侧曲率信息（输出坐标相关性）替代GPTQ仅依赖输入激活的量化方式，提升量化后模型精度。
- BaKron的递归分治与反斜对角并行策略可借鉴到自定义量化优化器中，将全矩阵量化成本从O(n⁴)降到O(n³)，尤其适用于推荐模型中中等规模投影层的高效压缩。
- 方法对基础量化器（如四舍五入、格子量化）和Hessian估计器解耦，允许在工程中灵活替换更精确的曲率近似（如KFAC），平衡精度与计算开销。
- 若直接在向量化权重上应用GPTQ式自适应舍入计算瓶颈过高，可采用BaKron的逐行/列交替更新框架，同时保持并行可行性，适配推荐系统在线serving的延迟要求。
EXCISE：查询端排除模块修正后期交互检索的排除反转问题
🧭 查询端排除修正 · 后期交互检索
University of Innsbruck
用查询端轻量模块识别排除主题并重排，无需修改索引，大幅提升排除查询准确率。
📌 工作参考价值（4 点）
- 对现有多向量检索系统（如 ColBERT），可加接 1.5M 参数的查询端模块，识别排除主题并对候选降权，无需重建索引，工程成本低。
- 电商搜索中常有排除条件（如“连衣裙 不是红色”），可直接复用该方法，冻结基础检索器，仅部署查询端校正，提升排除查询满意度。
- 方法中的无参数降权规则简单有效，可快速集成到线上服务，对短列表重排延迟影响小。
- 配套发布的 X-BENCH 基准可用于评估自身系统对显式、隐式及复合排除查询的处理能力，定位召回缺陷。
可逆不可学习样本：面向深度学习时代的版权保护
🧭 数据版权保护 · 不可学习扰动
通过互信息最小化生成不可学习扰动并解耦水印提取，同时防御非法模型训练与数据泄露
📌 工作参考价值（3 点）
- 业务可借鉴点有限，主要学术贡献，但数据扰动思路可迁移：对用户行为序列或 embeddings 添加微弱扰动，防止黑盒提取模型做未授权训练
- 双提取器解耦思想可应用于需要同时嵌入可逆水印与扰动防御的场景，如推荐结果中隐藏追踪标识且不影响正常服务
- 互信息最小化技巧可作为防御模型窃取的备选方案：在输出 logits 或中间表示上注入最小化互信息的噪声，降低攻击者模拟能力
LLMRouter：LLM 路由器开发、评估与部署的统一基础设施
🧭 LLM 路由统一框架与评测基准
University of Illinois Urbana-Champaign · University of Maryland, College Park · Nanyang Technological University · Purdue University · University of Illinois Chicago
提出统一 LLM 路由五组件公式、开源模块化基础设施与 xRouteBench 基准，系统比较 16+ 路由器并给出成本与个性化关键发现
📌 工作参考价值（4 点）
- 做 LLM 路由时可将策略抽象为「编码器→打分→决策规则→学习信号」，按组件模块化开发，便于快速替换编码器（如用户/上下文 embedding）和损失函数；LLMRouter 的开源实现可当内部 Router 服务的脚手架。
- 电商/搜索推荐中不同 query/任务对模型能力和成本敏感度差异大，统一评估质量+推理成本的方式值得照搬，建议建立类似 xRouteBench 的内部基准，用候选模型池自动产出路由标签。
- 实验结论提示在严格成本预算下轻量路由器反而更优；部署 LLM Agent 或生成式推荐服务时，应把单模型强大与路由开销一起评估，不要盲目追求复杂路由器。
- 个性化路由（user-conditioned routing）增益稳定，可把用户画像/历史行为嵌入作为条件输入，让路由决策感知用户，提升推荐、广告文案生成等场景的个性化效果。
模块化测试时训练：将 TTT 重新思考为可组合模块
🧭 序列建模 · TTT 框架
Shanghai Jiao Tong University · Shanghai Innovation Institute · ByteDance Seed
提出模块化 TTT 框架，将内部学习器建模为有向无环图，系统消融组件并发现关键设计原则
📌 工作参考价值（4 点）
- 可尝试用 TTT 替代 Transformer 做用户行为序列建模，受益于其在线学习特性，可能更高效处理长序列。
- 模块化设计思想可借鉴到推荐系统的特征交互或模型组件，将学习率、损失函数等也作为可配置模块，便于消融和新设计。
- 消融结论直接可用：使用单层非线性快权重网络，避免深度网络和归一化，采用小学习率初始化与权重衰减，可减少实现踩坑。
- 业务中若需轻量、增量更新的序列模型，TTT 的 fast-weight 机制可能比 Transformer 更节省 inference 开销，适合实时推荐场景。
语法信息位置嵌入：超越序列顺序的Transformer增强
🧭 语法增强的位置编码
University of Arizona
将依赖解析语法先验按架构特性注入位置编码，大幅提升句法及语义理解，且推理成本极低
📌 工作参考价值（4 点）
- 序列推荐中若使用相对位置编码（如Transformer-XL），可将用户行为依赖关系（浏览→加购→购买）作为语法先验，与相对位置注意力分数相乘，强化行为结构信号。
- 对使用绝对/旋转位置编码的编码器，可把预计算的行为依赖嵌入直接加在输入嵌入上，简单组合原生位置机制，不改动模型主体。
- 推理时仅需单一依赖图（离线预先解析），无额外计算开销，适合线上实时推荐/Agent系统，避免多解析树集束搜索或边际化。
- 对话Agent的状态追踪可借鉴：将对话动作序列解析为依存树，生成语法感知的位置嵌入，增强长程对话理解，并可分别按encoder/decoder调整注入策略。
奖励结构塑造强化学习中情节探索与神经记忆的交互
🧭 探索-记忆交互的奖励结构依赖性分析
UC San Diego
揭示探索奖励与记忆架构的互补关系取决于奖励结构而非密度
📌 工作参考价值（3 点）
- 该工作为 RL 基础研究，业务可借鉴点有限，但其关于探索与记忆互补性的结论可启发电商搜索 Agent 中长序列决策：探索奖励应当与记忆容量协同设计，而非简单叠加。
- 奖励信号的结构（监督何种记忆内容）会放大或抹平不同网络架构差异，类似推荐系统中，辅助目标的设计会改变序列模型对用户行为的记忆重点。
- 提出的“结构稀疏”与“潜在稀疏”概念可迁移至长程用户兴趣探索场景：若短期行为奖励无法有效指引长期兴趣发现，需要专门的探索机制来弥补记忆负担。
解耦湖仓中的过滤向量搜索：组合表格式剪枝与逐文件ANN
🧭 湖仓原生过滤向量搜索 · 文件剪枝
IBM Research
将IVF索引嵌入Parquet文件尾部，复用Iceberg表已有的文件剪枝能力，先按过滤条件剪枝文件再执行向量搜索，避免独立的过滤步骤
📌 工作参考价值（4 点）
- 过滤与向量搜索一体化：在电商/推荐系统中，大量查询带有结构化过滤（类目、品牌、价格），可借鉴将过滤条件融入文件剪枝（分区/zone-map），先大幅削减数据文件再执行本地向量索引，避免跨系统的过滤后搜素开销。
- 利用湖仓元数据构建索引：索引构建通过Iceberg replace 等元数据操作，不重写数据文件，对已有数据管道无侵入，适合在现有数据湖上增量构建向量索引。
- 分布式索引与缓存：逐文件独立构建IVF集群、部署rendezvous-hash缓存层，可缓解对象存储高延迟；在电商海量商品库中，可按属性分区构建局部IVF索引，结合本地缓存加速重复查询。
- 安全继承：向量搜索直接作用于湖仓表，继承目录的访问控制，避免将向量外拷到单独向量数据库带来的权限同步问题。
世界循环：面向长时视频世界模型的自验证强化学习
🧭 视频世界模型 · 自验证强化学习
The Hong Kong University of Science and Technology · Wuhan University · AI Technology Center, Tencent Video, Tencent
利用可逆动作循环构造无标注长期监督，通过空间闭合与时间一致性奖励降低状态漂移并提升组合动作泛化
📌 工作参考价值（4 点）
- 循环自验证思路可迁移至序列推荐模型：设计用户行为序列的“逆操作”（如浏览后返回），要求模型预测回到历史状态，以无标签方式监督长期一致性，缓解漂移问题。
- 复合动作泛化测试（CycleBench）可类比推荐中的组合条件推荐评估，用于检测模型对多步关联操作的鲁棒性。
- RL 中基于对称性的奖励设计可启发对话推荐策略训练中的一致性约束，减少来回对话的崩溃。
- 主要面向视频生成，迁移至推荐需额外适配，但长序列建模的自监督循环思想可直接参考。
无损张量压缩即程序合成
🧭 模型检查点张量压缩 · 程序合成
Singapore Management University · CSIRO · AIDX TECH PTE LTD · University of Alberta & Alberta Machine Intelligence Institute
将无损张量压缩形式化为程序合成，合成紧凑DSL程序实现位精确重建，存储节省33.93%
📌 工作参考价值（4 点）
- 电商/推荐模型（如深度CTR模型、LLM-agent）的检查点存储和传输成本高，可借鉴DSL+搜索的压缩范式，设计针对Embedding表、Transformer参数的特定压缩算子（如重复区域、浮点模式）。
- 无损压缩保持模型精度不下降，适合对精度敏感的在线推理场景（如价格排序、广告匹配），避免有损压缩带来的预估偏差。
- 可复用的工程trick：用少量代表性张量学习“产生式先验”来偏置搜索，提升压缩效率；将压缩过程抽象为可逆操作序列，解压时直接执行，无需额外依赖。
- 吞吐量3.60 GB/s压缩、6.61 GB/s解压，远高于通用压缩器，适合实时模型部署和快速回滚场景。
FactorJEPA：将单一未来分解为布局-实体-交互通道，用于拥挤南半球城市场景预测
🧭 世界模型 · 多模态动态预测
San Jose State University · UC Berkeley · Apple · Meta · PocketFM
将世界模型预测分解为布局、实体、交互三个因子，在拥挤南半球城市场景中显著提升预测精度与鲁棒性
📌 工作参考价值（4 点）
- 世界模型与电商/推荐业务距离较远，直接迁移价值有限
- 将复杂动态系统显式分解为场景布局、实体状态、交互关系的思路，可启发推荐系统中对用户状态、物品属性、交互关系的分离建模
- 使用 visibility gate 处理部分可观测（如用户行为缺失、冷启动）的设计，在序列推荐或 Agent 交互建模中有参考意义
- 提供大规模多样性数据集构建方法（覆盖22城市、多天气、混杂交通），对需要构建多域推荐数据集的团队有一定借鉴
供应链运营耦合策略端到端协调框架
🧭 端到端供应链决策协调
The University of Hong Kong · OptiMax AI · JD.com
将供应链多阶段决策实体化为token，通过共享表示和顺序解码实现端到端协调。
📌 工作参考价值（4 点）
- 多阶段决策耦合：推荐系统召回、粗排、精排、重排各阶段目标常不一致，可借鉴 SCOPE 的共享操作表示和顺序决策范式，让后阶段以前阶段输出为条件，端到端优化整体业务指标（如 GMV、成交率）。
- 业务实体 Token 化：将用户、商品、场景等视为 token，用统一编码器在上下文内交互，替代各阶段独立的特征工程，实现跨阶段信息高效复用。
- 策略网络替代启发式规则：供应链分阶段优化多基于固定规则，类似推荐中粗排的静态打分或重排的经验规则，可替换为可学习策略，与最终效用对齐，减少碎片化调优。
- 共享系统级效用函数：设计能评估完整推荐列表最终价值的效用模型，指导各阶段决策生成，从局部优化转向全局最优，提升全链路一致性。
构建数值智能基础模型：跨学科泛化的统一上下文算子网络
🧭 数值智能基础模型·图上下文学习
National University of Singapore
提出 UNICON，以图结构示例作为上下文学习数值系统预测关系，实现跨学科零样本泛化，结合 LLM Agent 可超越专家模型
📌 工作参考价值（4 点）
- 时序图数据（如用户-商品交互图）上的预测任务，可借鉴 UNICON 将系统示例组织为图上下文进行少样本推理的模式，无需微调即可泛化至新场景。
- LLM agent 与数值模型松耦合的架构：LLM 负责任务理解与分解，UNICON 作为数值预测后端，此模式可用于搭建混合智能推荐系统，让语言模型调用专用数值预测器。
- 训练语料多样性直接提升跨域泛化能力的结论具有普适性，在构建跨品域 / 跨场景的推荐模型时，应主动增加训练数据的领域多样性。
- 目前主要面向科学与社会系统数值预测，与电商 / 推荐业务的直接关联有限，核心价值在学术层面。
图上同图跨任务迁移的协议与预测方法
🧭 同图跨任务迁移的评估协议与预测因子
University of Texas at Dallas · Virginia Polytechnic Institute and State University
提出无泄漏评估协议并揭示节点分类与链路预测跨任务迁移的方向性和可预测性
📌 工作参考价值（4 点）
- 泄漏防护协议可迁移至多任务图学习评估：在电商推荐中，用户-商品交互图常同时需要节点分类（如用户属性）和链路预测（如购买行为），可采用固定节点/边划分、消息传递图排除评估边、固定负样本的策略，避免数据泄漏导致的错误乐观估计。
- 根据同质性选择迁移方向：实验表明 NC→LP 在 homophilic 图上稳定正向，而 LP→NC 仅在结构易学且节点分类任务不饱和时才有效。在构建多任务模型时，可先计算图的同质性指数，指导是采用共享编码器还是分离任务分支。
- LP 作为结构预训练：在用户-商品图中，若节点属性稀疏或不可靠，可先用链路预测任务预训练 GNN，再微调到节点分类（如用户流失预测），但需监控目标任务的饱和程度，防止负迁移。
- CoTask Score (CTS) 作为联合目标：当需要单一编码器同时服务 NC 和 LP 时，CTS 能综合衡量两者效用，帮助选择最佳模型架构和训练机制，避免多任务折衷中的性能退化。
自动提取概念激活向量解释图像相似性
🧭 可解释AI · 概念向量
Bielefeld University - Faculty of Technology · University of Zagreb - Faculty of Electrical Engineering and Computing
用稀疏自编码器自动发现概念方向，通过嵌入扰动解释图像相似度的全局因素
📌 工作参考价值（4 点）
- 商品图像相似性解释：在电商图像搜索或推荐中，可利用本方法自动发现颜色、纹理、形状等概念，解释为何两个商品图像被判定相似，增强用户信任。
- 多模态对齐的全局解释：该方法模型无关、度量无关，可直接嵌入现有视觉-文本对齐流程，为召回的图文对提供概念重要性排序与归因热力图。
- 范例检索复用：借鉴“Exemplar Retrieval”的思路，从商品库中挖掘与当前 pair 具有相似解释概念的案例，辅助人工审核或生成自然语言解释。
- 数据分布保真扰动：潜空间概念扰动比像素空间篡改更符合真实数据分布，可用于推荐系统的反事实解释生成，避免产生不自然的反事实样例。
VideoCoCo：基于双引擎与可执行代码思维链的物理一致视频生成
🧭 视频生成 · 可执行代码思维链
CUHK · USTC · SCUT · HKU · NTU
用可执行 Blender 代码作为过程级思维链，将物理推理与视觉生成解耦，显著提升视频物理一致性
📌 工作参考价值（4 点）
- 双引擎“过程推理 + 精细生成”的架构可启发在推荐系统中分离策略规划（如用户意图理解、多步交互设计）与内容生成，提升复杂流程的可控性。
- 用可执行代码作为中间表示，确保了确定性、可解释和可审计，类似思想可用于推荐场景中需要严格逻辑保证的环节（如营销规则引擎、动态定价逻辑）。
- 为适应模拟草稿域差异而专门构建配对数据集的方法，可迁移到推荐系统的域适配数据增强，例如合成用户行为轨迹与真实轨迹的对齐训练。
- 整体工作偏向视频生成，直接用于搜推系统的业务点有限，更多是架构与表示层面的理念参考。
大型语言模型记忆机制综述
🧭 LLM记忆机制综述
提出以架构为中心的LLM记忆分类框架，沿表征、更新、持久性三轴统一碎片化研究。
📌 工作参考价值（4 点）
- 长期用户建模：在电商推荐Agent中，可借鉴显式记忆存储（如外部KV Cache）持久化用户跨会话行为，解决长期偏好漂移问题。
- 混合记忆架构：采用短/长期记忆协同设计，短期记忆负责实时上下文（如浏览序列），长期记忆存储压缩画像（如购买历史Embedding），平衡延迟与个性化。
- 在线记忆更新：利用参数高效微调（如LoRA）实现轻量级在线用户兴趣更新，无需全量重训，适合千人千面的动态推荐场景。
- 记忆路由与压缩：将多源异构用户数据（点击、搜索、购买）通过记忆路由器动态写入不同存储分区，并结合记忆压缩技术降低存储开销，提升长序列处理效率。
JarvisHub：画布原生的多模态创作智能体开放框架
🧭 多模态创作智能体架构
JarvisX Team
将可编辑画布作为智能体的记忆、动作空间与共享项目状态，支持长程多模态创作中的持续规划、生成、修订与人工干预。
📌 工作参考价值（3 点）
- 本工作在电商/推荐领域直接应用价值有限，主要面向创意生产工具。
- 可借鉴点：将「画布式可编辑状态」抽象用于推荐系统调试（如召回/排序策略的可视化编排与回溯），用节点和链接表示策略版本、AB 实验分支、指标反馈，便于 Agent 辅助调试与人工介入。
- 在 Agent 协作产品中，可参考三层架构（画布状态、协议桥、智能体运行时）将复杂任务状态显式化，提升可解释性与可控性，尤其适合需要多版本素材管理、人工共同决策的场景（如营销文案、商品图生成）。
全局计算，本地物化：稀疏事件KV缓存的内存契约
🧭 LLM推理 · KV缓存语义存留机制 ★ 深度解读
Independent Researchers
从服务中省略源观测，下游事件的KV缓存仍能携带上游计算结果，且可被程序化写入
📌 工作参考价值（4 点）
- Agent记忆系统的写入策略：若要用KV缓存做记忆，不要依赖自然对话中的隐式提及，应主动插入简洁的“载体事件”（如一个计算指令）。当前模型上，主动写入比被动收割在Qwen3-8B上将携带状态恢复率从6%提升至51%。需按模型校准触发词（如用“consist”而非“write”），并始终保留显式文本记录作为回退。
- Eviction/Prefix缓存评估风险：丢弃一个源事件后若模型准确率未下降，不能断定该源事件无用——其状态可能已物化到后续事件的KV行中。评估策略时，需用隐蔽源值+控制token不变的“捐赠者对”方法，隔离文本泄露与纯KV信息存留。
- 多跳推理路由优化：在多步依赖链中，根源事件的行携带主要信号，引用边仅路由回根。选择缓存行时，保留根节点即可，不必全链路保存，可指导检索增强生成中回滚/缓存复用逻辑。
- 状态更新开销：修正谬误时，追加一个补丁事件的KV覆盖即可，代价O(pL+p²)而非全量重算O(L²)。但补丁本身会干扰历史查询，需查询范围限定与模板兼容性处理。
DWT-Fusion：基于离散小波分析的免训练 LLM 文本检测框架
🧭 LLM 生成文本检测 · 多分辨率信号分析
Ankara University
用离散小波变换分析 token 级对数概率序列的多分辨率特征，结合校准融合投票，实现免训练零样本 LLM 文本检测
📌 工作参考价值（4 点）
- 电商评论/搜索查询的 AI 生成内容检测：可直接将 token 级 log-probability 序列送入小波变换，提取多尺度波动信号，无需训练即可判断文本是否为 LLM 生成，用于过滤虚假评论或检测机器人搜索词。
- 轻量级在线部署：仅需一个代理语言模型（如 2.7B 参数量）计算 logits，推理开销可控，适合推荐系统旁路实时审核。
- 校准加权投票融合：组合不同小波基或分解层数的分数时，基于验证集校准的加权软投票可提升鲁棒性，该方法无需训练元模型，工程实现简单，可直接用于多信号融合场景（如内容安全、反欺诈）。
- 多分辨率特征提取思路：将一维序列（如 token 级困惑度、生成概率）通过小波变换分解为近似和细节系数，分离长期趋势与局部突变，可迁移到用户行为序列异常检测或会话质量评估。
HiKV：面向 LLM 解码的分层重要性感知 KV 缓存与硬件加速
🧭 LLM 推理 · KV 缓存压缩与硬件加速 ★ 深度解读
KU Leuven · UC Berkeley
分层 token 与元素双粒度重要性感知压缩，结合可重构硬件排序器，在 1% 精度损失内实现 7.95 倍加速和 90% 能耗降低
📌 工作参考价值（5 点）
- ## 业务可借鉴点
- 分层重要性思想可迁移至推荐系统稀疏化：HiKV 证明 KV 缓存冗余同时存在于 token 和元素两个粒度，建议在推荐模型（如 transformer-based）的长期行为序列建模中，尝试类似的「先筛重要交互、再筛每项交互中重要特征维度」的二阶段稀疏策略，用更少的存储/计算维持精度。
- 双银行 + 最小堆维护重要 token：Stage I 的 recent / important 银行与 min-heap 更新方式（HEAPIFY_UP/DOWN），可应用于 Agent 场景下的多轮对话历史管理：始终保留最近的若干交互，同时动态淘汰历史中重要性低的对话轮次，用 O(log B) 的代价保持固定预算。
- 分块并行排序近似全局 selection：Stage II 的 chunk-based sorting 可将 P 向量的 top-k 选择从 O(N log N) 降至 O(N log d_h)，且召回率超 95%，可直接用于在线推理中需要选取重要 token/特征的场景（如长上下文中的关键 token 挑选），避免全局排序的高延迟。
- 硬件－算法协同设计视角：如果业务计划自研推理加速硬件，可参考「可重构重要性排序器（RIS）」的设计：同一电路通过配置支持堆操作和分块排序，面积仅增 8%。这提示在对延迟敏感的检索/推荐系统中，专用排序单元能以较低成本换取端到端效率。
基于熵曲率的图神经网络局部-全局几何洞察
🧭 几何深度学习 · 全局图曲率
Centre de recherches mathématiques (CRM), Université de Montréal · LIX, École Polytechnique, IP Paris
引入全局熵曲率统一图神经网络的过平滑与过挤压，并提出E-Gate聚合、ENT编码和MCR重连三种机制。
📌 工作参考价值（4 点）
- E-Gate 聚合器可替代 GNN 中的均值/注意力聚合：通过熵曲率加权邻居信息，能自适应抑制噪声节点，在用户-商品交互图上可缓解深度模型中节点表征坍缩，提升长尾物品推荐。
- ENT 结构编码作为节点初始化特征：该编码捕获全局几何信息，类似图位置编码，可拼接至用户/物品原始特征，增强冷启动节点表示，适合电商异构图场景。
- MCR 图重连策略用于缓解信息瓶颈：在社交推荐或协同过滤图中，对关键位置添加“中点边”或补全三角形，能加速长程依赖传播，可作为一种数据增强手段优化图结构。
- 过平滑与过挤压的统一分析视角：通过曲率谱指导网络深度与宽度设计，建议在推荐图深 GNN 中动态监控局部曲率，以平衡信息混合与保持辨别力。
为艺术拆解扩散模型：交互式模型弯曲与基于实践的可解释性
🧭 交互式AI解释性 · 扩散模型弯曲
Simon Fraser University
通过交互式弯曲与检查界面，让艺术家操控扩散模型内部层以产生可预测的视觉效应
📌 工作参考价值（1 点）
- 主要是学术贡献，面向艺术创作与交互式解释性研究，电商/推荐/Agent 业务可借鉴点有限。若涉及多模态生成工具的内部解释与调控，可参考其将模型层抽象为可干预单元并构建交互界面的思路，但直接迁移至搜索推荐系统的成本较高。
超越充分性：基于反事实必要性的时间序列解释框架
🧭 时间序列解释 · 反事实必要性
University of Bristol
提出 TimePNS，利用反事实干预量化时间序列解释的必要性，过滤虚假子序列，提升解释保真度
📌 工作参考价值（3 点）
- 针对用户行为序列推荐模型的可解释性，可借鉴两步设计：先学习充分性掩码，再利用反事实干预剔除噪音行为，识别真正驱动推荐的关键交互。
- 在广告点击序列归因中，用必要性信号替代纯充分性打分，有助于排除偶然关联的曝光，提升关键触点的定位精度。
- 整体框架与推荐场景差异较大，直接迁移成本高，更适合作为序列解释的理论参考。
检测人-LLM合作文本中的LLM生成Token
🧭 细粒度LLM生成文本定位与检测
University of Birmingham · Shanghai University of Finance and Economics · London School of Economics and Political Science
提出基于自适应带宽核平滑的token级检测方法，无需标注数据即可定位LLM生成片段。
📌 工作参考价值（4 点）
- 在电商评论、客服对话等场景中，可基于现有token级生成概率分数，结合局部平滑算法定位LLM生成内容，无需额外标注数据，快速部署。
- 自适应带宽选择策略（Lepski规则）能根据局部作者变化动态调整平滑程度，可迁移到其他需要局部自适应的检测任务，如点击序列异常检测。
- 方法简单，可直接替代固定阈值或全局分类，适用于自动化内容审核、欺诈评论识别等场景，降低人工审核成本。
- 开源实现和网页工具便于快速实验，可作为业务中检测混合作者文本的基线方法。
扩展流映射：支持可变维度与变长序列的生成模型
🧭 生成式流模型 · 可变维度生成
University of Pennsylvania
提出扩展流映射(EFM)，将生成模型从固定维度/长度解放，支持可变大小图和序列的少步生成
📌 工作参考价值（4 点）
- 电商推荐中常需生成可变长度的商品序列（如个性化feed流长度不固定），EFM的expand operator可直接建模输出长度本身，将序列长度作为可控自由度，避免预设最大长度带来的浪费或截断。
- 广告创意生成或搜索query推荐中，需要生成可变长度的文本，EFM在离散simplex上的扩展支持变长token序列生成，可端到端学习生成过程的长度分布，替代现有固定长度或启发式终止的方案。
- 通过蒸馏为少步生成，EFM可在在线推理中实现低延迟；对于推荐系统的实时生成场景，可将训练好的变长生成流蒸馏为仅需几层计算的网络，兼顾效果与效率。
- 图生成在推荐中可用于建模物品关系图或用户行为图，EFM的可变大小图生成能力可用来直接生成适应不同规模的结构化数据，省去预先定义图尺寸的麻烦。
HARP：可配置实时AI代理的人类-AI交互研究平台
🧭 人机交互实验工具
BTPX Innovation Lab · BTPX User Assistance
提出可精细控制LLM行为并记录键入、删除等微观交互数据的实验平台，支撑系统研究AI设计选择如何影响用户
📌 工作参考价值（4 点）
- 在电商/推荐场景中，可复制其 系统测试不同回复风格（如技术术语密度、解释长度）对用户信任、记忆和决策影响 的方法，用于优化购物助手、推荐解释或客服机器人的话术设计。
- 借鉴 记录提示编写时长、删除次数、按键停顿 等细粒度行为指标，补充到现有A/B测试中，捕捉用户对推荐结果或查询建议的犹豫与认知负荷，超越仅看点击率。
- 平台设计思路提醒我们：在Agent实验阶段就应内置可配置的参数体系（如system prompt、temperature、max tokens）和自动化的问卷触发点，便于迭代优化交互体验。
- 当需要比传统可用性测试更严格地对比LLM变体时，可参考其“受控模拟场景+实时智能体”范式，保证条件均衡与生态效度。
自适应贝叶斯在线学习专家聚合方法
🧭 在线贝叶斯专家聚合自适应预测
Inha University
将不同超参的贝叶斯更新规则视为专家并在线聚合，实现自适应预测，无需预选最佳模型
📌 工作参考价值（4 点）
- 在推荐系统的在线学习环境中，可对多组贝叶斯模型（不同学习率、先验）进行动态加权，自动适应数据分布变化，减少离线调参成本
- 将不同探索策略（如UCB、Thompson采样）视为专家进行聚合，能在线平衡探索与利用，适合广告出价或冷启动场景
- 提供了带有保证的置信区间（conformal inference），可用于推荐结果的不确定性量化，辅助下游决策（如是否向用户展示低置信度内容）
- Agent多智体协作中，各Agent的预测可作为专家，聚合后提升整体系统的鲁棒性，避免单个模型失效
ANNLib：解耦算法与数据结构的高性能 ANNS 开发框架
🧭 解耦算法与数据结构的可扩展 ANNS 框架 ★ 深度解读
UC Riverside · William & Mary
通过解耦算法与数据结构，实现灵活组合的图基 ANNS 框架，性能与专用系统相当或更优
📌 工作参考价值（4 点）
- 模块化设计允许独立替换图算法（Vamana、HNSW）与底层存储容器（CSR、功能树、Chrono Prefix Array），推荐系统可快速适配静态索引、实时更新或历史快照回溯等不同场景。
- 内置 Stitched-vamana 与 Filtered-vamana 过滤搜索，通过定制邻居访问闭包 (f_nbhs) 即可在向量检索中无缝融合商品标签或属性约束，避免预过滤的性能损失。
- 批量删除采用惰性标记 + 并行边修复 (consolidation) 策略，能在不重建索引的情况下维护图连通性，适合电商场景中频繁上下架商品的向量索引维护。
- Chrono Prefix Array 通过共享前缀压缩历史边版本，将多版本快照内存占用降低达 70.4%，可用于 A/B 测试或离线分析时高效保存索引状态。
嵌套式超编码器：多尺度Q-Net的检索效率优化
🧭 检索效率优化 · 嵌套式表示学习
University of Glasgow
提出支持多种Q-Net大小的Matryoshka Hypencoder，域内参数减少7倍，吞吐提升1.6-3.4倍。
📌 工作参考价值（4 点）
- 动态Q-Net大小切换：在推荐系统的召回或粗排阶段，借鉴嵌套式Q-Net思想，根据服务时延要求或流量压力，在线灵活裁剪Q-Net的隐藏层维度，在不改变模型结构的前提下实现效果-效率的动态折衷。
- 预计算物品嵌入 + 轻量查询网络：将Hypencoder架构迁移到召回：离线预计算所有物品的向量表示，在线仅用HyperNetwork为当前用户/查询生成一个小型评分网络，替代固定相似度函数，提升表达能力的同时保持低在线计算开销。
- 多尺度联合训练：在训练时同时优化多个嵌套大小的Q-Net，可让一个模型支持多种精度档位，避免为不同性能目标维护多个模型，简化部署和AB实验。
- 适用于Agent调用的检索组件：当LLM Agent需实时检索知识库或商品库时，可采用此种高吞吐且可调节精度的检索器，通过调整Q-Net大小匹配Agent对延迟和精度的即时需求。
潜隐时钟：扩散语言模型中的隐式时间建模
🧭 扩散语言模型的可解释性分析
Sapienza University of Rome · EPFL · NVIDIA
发现无显式时间条件的扩散语言模型内部编码了隐式去噪时间步，可通过探针提取和方向操控来调制模型行为
📌 工作参考价值（4 点）
- 对于使用扩散模型生成推荐内容（如GenRec）的场景，可借鉴隐式时间步操控来动态调节生成的确定性与多样性：沿时间步子空间方向移动可改变模型置信度，实现从保守推荐到探索式推荐的切换。
- 工程实现上，可在推理时通过简单的激活向量加法（无须重新训练）来控制生成进度，用于A/B测试或个性化生成风格。
- 探针方法可用于监控线上模型的去噪状态，例如检测异常生成或提前终止去噪步骤以节省计算。
- 若将扩散步骤与推荐质量关联，可利用隐式时间步表征设计自适应调度策略，在低延迟场景下跳过部分去噪步骤。
影响力匹配驱动的数据集蒸馏
🧭 数据集蒸馏 · 影响力匹配
HKU · CUHK · Stanford
通过结果对齐合成数据的影响力，替换传统的梯度或轨迹匹配，性能显著提升
📌 工作参考价值（4 点）
- 影响力评估可用于识别用户交互数据中最重要的样本，实现训练集压缩或噪声过滤，降低存储和训练成本。
- 合成数据集蒸馏思想可构建紧凑的用户行为摘要，在在线推荐服务中减少上下文长度或 KV cache 占用，提升推理效率。
- 可微影响力估计器可集成到推荐模型训练中，实时评估样本梯度贡献，实现动态课程学习或难例挖掘。
- 联邦推荐场景下，客户端上传蒸馏后的合成数据而非原始隐私数据，兼顾隐私保护与模型效用。
超越单一专家：协调多模态大语言模型中的多样化视觉先验以增强空间理解
🧭 多模态空间理解 · 多先验融合
The University of Hong Kong
提出ViPS框架，通过高效代理和动态融合将多个视觉模型的互补先验集成到MLLM中，显著提升空间推理性能
📌 工作参考价值（4 点）
- 可借鉴多先验融合思想：在电商多模态商品理解中，同时接入多个视觉模型（如CLIP、DINOv2、SAM）提取互补特征，通过动态门控加权融合，提升商品属性识别和空间关系理解。
- 高效代理设计可降低线上成本：使用轻量级学生模型离线预生成多种先验特征，避免每次推理都调用重模型，适合推荐系统的大规模商品库特征提取。
- 动态融合机制适用于推荐多信号源：将用户行为序列、商品图像、文本描述等视为不同模态先验，通过上下文感知的融合模块（如注意力加权）注入推荐模型，增强冷启动物品表征。
- 多专家先验协调思路可迁移到Agent决策：在搜索推荐Agent中，不同模型（如召回、排序、过滤）给出各自的候选，利用动态融合策略综合多路信号，提升最终决策质量。
CoTu 在 EXACT 2026 中的神经符号推理系统：透明教育问答
🧭 神经符号推理 · 程序化思维
Can Tho University · Tay Do University
4B 模型将推理外化为 Z3/Python 程序，物理满分、总技术分最高
📌 工作参考价值（4 点）
- 在 Agent 或推荐系统中，将 LLM 的推理步骤输出为可执行的 Python/Z3 代码，交由外部求解器，可大幅提升数值计算和逻辑推导的可靠性，避免幻觉。
- Program-of-Thought 范式可结合自我纠正循环：执行代码后若失败则自动回溯修正，适合多步任务（如自动生成广告竞价策略、动态定价脚本）。
- 任务路由设计：用一个轻量分类器选择“逻辑推理”或“数值计算”分支，此思路可直接用于电商搜索中的意图分发（如判别为“比较查询”或“政策查询”后走不同处理链）。
- 延迟敏感场景下，SGLang 框架 + 推测解码可保障 60s 内完成复杂多步推理，对推荐系统的实时生成式排序或 Agent 交互有工程参考价值。
FVAttn：视频生成的自适应稀疏注意力与运行时负载均衡
🧭 分布式推理·稀疏注意力负载均衡
中山大学 · Tencent Inc. (WeChat HPC) · Tencent Inc. (WeChat Vision) · 北京大学
提出训练无关的自适应稀疏注意力系统，通过运行时头迁移与空闲填充解决多GPU序列并行的负载不均，推理加速超2倍
📌 工作参考价值（4 点）
- 自适应稀疏中的 Top-p + Top-k 地板 组合策略：确保每个注意力头至少保留 k 个高相关 token，避免完全稀疏导致的训练/推理不稳定，在 LLM 长上下文推荐对话或 Agent 记忆检索时可借鉴此安全机制。
- 运行时负载均衡通过 P2P 迁移少量“重头”到轻载 GPU，这对多 GPU 部署推荐模型（如生成式推荐、多模态理解）时的序列并行头负载不均问题有直接参考价值，可降低栅极延迟。
- Slack-Aware Sparse Augmentation 利用非关键路径 GPU 的空闲时间计算额外高价值块，这种“空闲填充”思路可迁移到分布式 Agent 流水线调度，在等待 I/O 或其他 Agent 结果时执行预取或候选评分。
- 将稀疏计算与负载均衡、通信重叠结合的整体系统设计，展示了在工业级推理服务中如何兼顾精度与吞吐，推荐系统从业者可将类似思想用于大规模模型的多路召回或多专家（MoE）推理的负载均衡。
基于随机时钟的重尾流匹配
🧭 重尾生成建模 · 流匹配
Johns Hopkins University · National University of Singapore
将重尾源分布分解为时钟条件高斯混合，使流匹配适配稀有事件生成并支持尾部校准。
📌 工作参考价值（4 点）
- 推荐系统中长尾物品和极端用户行为的生成：可将长尾分布视为重尾，利用 HTFM 的条件高斯混合机制生成更真实的尾部样本，缓解冷启动和多样性问题。
- 低采样步骤特性：HTFM 保留了流匹配的低 NFE（如 5 步）快速生成，适合在线推理场景，降低工程延迟。
- 尾部程度可调控：通过改变时钟律或尾部参数即可校准生成样本的重尾程度，可用于广告投放中的风险控制，例如调节收益分布尾部厚度以匹配业务目标。
- 条件编码思路：truncated logsignature 编码路径特征，轻量高效，可推广至其他需要将连续条件路径嵌入的条件生成任务，如用户行为序列建模。
MeanFlowNFT：面向平均速度生成器的前向强化学习
🧭 平均速度生成器的RL对齐
Tencent Hunyuan · The Hong Kong University of Science and Technology
构建诱导瞬时速度预测器，使MeanFlow能用前向RL优化奖励，实现快速少步生成且性能超越多步模型
📌 工作参考价值（4 点）
- 若业务采用基于流匹配的生成式检索（如生成Semantic ID），可利用诱导预测器技巧将前向RL直接用于平均速度模型，避免反向轨迹计算，实现快速对齐。
- 少步生成（如一步或四步）能大幅降低推理延迟，适合在线推荐系统，同时RL微调可显著提升生成质量。
- 恒等式桥接平均与瞬时速度的思路可推广至其他需要粗粒度预测但细粒度优化的场景，例如多步推理与一步决策的对齐。
- 严格策略改进保证为在线学习提供了安全部署的理论基础，可借鉴用于推荐模型的持续优化。
生成式引擎可见性优化（GEO）批判性综述：2023-2026
🧭 生成式引擎优化方法论综述
Sciences Po
系统拆解生成式引擎优化全流程，揭示现有技术仅作用于已检索内容，缺乏可复现的有机发现与长期效果证据
📌 工作参考价值（3 点）
- 在 RAG 驱动的推荐/回答 Agent 中，可借鉴 visibility vector 拆解“被检索 → 被引用 → 被采用”的多阶段指标，单独优化内容格式（如加粗摘要、结构化列表）往往只能提升短期引用率，对真实语料库的发现性帮助有限。
- 采用该综述提出的重复测量、释义对照与多源干扰控制实验设计，能更可靠地评估知识库内容在 LLM 回答中的可见性，避免将随机波动误判为优化效果。
- 电商搜索/广告文案生成场景中，若依赖生成式引擎曝光，需警惕通用启发式技巧（如关键词堆砌）跨平台迁移失效，以及竞争者文案优化可能稀释自身流量，应优先保证论域相关性而非盲目套用 citation hack。
离散扩散模型：从分词到生成的统一框架
🧭 离散扩散模型的设计空间统一化
McGill University · Mila - Quebec AI Institute · MBZUAI · University of Cambridge · Salesforce
提出将离散扩散模型视为离散状态空间构建问题的统一框架，揭示设计权衡与未来方向
📌 工作参考价值（4 点）
- 离散扩散模型的并行生成特性可大幅降低推荐列表的推理延迟，适合对实时性要求高的搜索/推荐场景。
- 框架强调的状态空间设计（分词方案、词汇拓扑）直接影响生成质量：在生成式推荐中，物品ID的离散表示方式（如Semantic ID）可类比为“分词”，其设计应仔细考虑语义连续性与扩散过程中的噪声注入方式。
- 统一视角提示了训练目标与推理算法的多种组合（如转移矩阵、掩码状态），从业者可以在物品生成任务中尝试不同配置，以平衡生成多样性与保真度。
- 该框架对扩展性和系统优化的讨论，为大规模推荐系统下离散扩散模型的工程化提供了参考，如KV缓存、批处理策略等。
VideoRAE：基于表示自编码器驯服视频基础模型的高效视频生成
🧭 视频生成 · 潜空间自编码器
The Chinese University of Hong Kong, Shenzhen · Huazhong University of Science and Technology · Shenzhen Loop Area Institute · University of Science and Technology of China
用冻结视频基础模型特征 + 轻量自编码器压缩为连续/离散潜变量，SOTA 生成且收敛快 5 倍
📌 工作参考价值（4 点）
- 利用冻结基础模型特征做生成式推荐物品表示：将预训练视频/图文模型的多尺度语义特征通过轻量投影网络压缩成紧凑潜变量，可类比把商品多模态内容编码为生成式检索的 Semantic ID，省去从零训练 VAE 的成本。
- 表示对齐目标替代 KL 正则化：解码时引入局部/全局与冻结教师模型的对齐损失，能更好地保留语义信息，这种技巧可迁移到推荐系统中用户或物品编码器的蒸馏训练，避免 KL 坍塌。
- 多码本高维量化支持离散 token 生成：VideoRAE 的多码本量化将连续特征离散化为 token 序列，适合自回归生成式推荐（如生成下一物品 token），可参考其码本配置与训练策略。
- 轻量架构实现快速收敛：冻结主干 + 1D 自注意力投影的廉价设计使训练收敛加速约 5 倍，适合业务快速实验与低 GPU 预算场景。
AdvancedMathBench：高级数学证明生成与验证基准套件
🧭 数学推理基准与自动验证
Shanghai AI Laboratory · Shanghai Jiao Tong University · MMLab, The Chinese University of Hong Kong · Great Bay University
构建首个面向高级数学证明的生成-验证双任务基准，揭示前沿LLM在严谨推理上的严重瓶颈
📌 工作参考价值（3 点）
- 主要在数学推理领域有学术贡献，对电商、推荐、Agent等业务场景的可直接借鉴点有限。
- 自动验证管道的设计思路（结合细粒度错误判定与人类标注对齐）可迁移至任意需评估模型推理质量的场景，例如推荐解释生成的可信度自动评价、Agent规划步骤的正确性校验。
- 论文揭示的“错误检测能力弱”在推荐Agent中同样关键：当模型在长链任务中自行纠错时，细粒度判定逻辑可下沉为CoT过程的在线校验器。
主动离线到在线强化学习：有限交互下策略选择与微调
🧭 离线到在线强化学习策略选择
Virginia Commonwealth University · University of Virginia
提出基于上置信界主动选择策略以平衡离线到在线强化学习中评估与微调的交互分配
📌 工作参考价值（4 点）
- 在推荐模型迭代中，若有多个候选模型（不同结构或超参）需在线评估与微调，可借鉴主动策略选择思想：先用少量流量评估，再动态分配更多流量给高潜力模型微调，代替一次性选定一个模型全量上线
- 使用局部线性性能预测 + UCB 权衡探索与利用，适合非平稳环境下的在线模型持续优化，例如电商推荐中用户兴趣漂移
- 工程实现上可维护模型池，通过在线交互数据不断更新各模型的性能预测，自动筛选和提升最优模型，降低人工选模型的风险
- 方法不依赖特定RL算法，同样适用于Bandit或监督学习的在线微调场景
专业邮件中的俏皮 AI：语气对收件人参与度的现场实验
🧭 LLM 辅助沟通效果与中介机制研究
University of Haifa · Yale School of Medicine · Jönköping University
AI改写邮件语气不直接影响打开/回复，而是通过提升情感积极性间接驱动参与行为。
📌 工作参考价值（4 点）
- Agent/消息推送的语气设计：情感积极性（emotional positivity）是驱动用户打开和回复的关键中介，俏皮语气相比专业语气更能间接提升参与，推送文案、客服消息可优先做高积极性改写，无需过度追求“专业感”。
- A/B 实验的中介分析：实验若发现 UI/文案变更无直接效果，应检查情感极性等中介变量；本研究的间接效应框架可直接复用，避免误判优化方向。
- 工程落地：接入 LLM 改写消息时，可对生成文本做情感极性评分（如 positive score），将评分作为排序或过滤信号，确保推送内容具备足够情绪动能。
- 行为指标的间接驱动：打开率和回复率的提升往往不是工具本身带来的，而是工具产出的内容特征所致，监控指标应同时覆盖内容质量和行为结果。
非对称3D高斯泼溅实现高效长序列场景建模
🧭 非对称架构 · 高效3D重建
HKUST · Huawei Noah’s Ark Lab · CityU
解耦几何与外观建模的非对称架构，大幅降低长序列新视角合成中冗余计算
📌 工作参考价值（2 点）
- 属于计算机视觉与图形学领域，核心创新是 3D 重建效率优化，与电商/搜索推荐/AI Agent 业务场景无关。
- 业务中若涉及 3D 商品展示、虚拟试穿试戴等，其非对称设计思想（关键任务高精度、次要任务轻量化）可借鉴到模型资源分配中，但整体迁移价值有限。
从原始 ID 到语义规划：推荐系统信息利用的演进
🧭 推荐系统信息利用的范式演进 ★ 深度解读
University College Dublin · Huawei Ireland Research Centre
提出推荐系统正从原始 ID 经语义 ID 走向语义规划，将曝光目标显式化以协调多方利益
📌 工作参考价值（4 点）
- 引入语义规划层：在 item 检索之前先预测本轮曝光的语义目标（如安抚犹豫用户、降低感知风险），再实例化为具体商品/广告/文案。面向电商场景，可将排序解耦为「目标制定 → 实例化」，更容易对多业务目标（转化、GMV、留存、新客获取）进行显式协调。
- 语义 ID 作为中间控制变量：电商大目录下，语义 ID 可封装类目、属性、场景标签等，使得跨域、跨模态的 item 共享同一结构化标识。可借鉴其离散 token 序列的形式，让召回、排序、创意生成等异构模块直接消费同一 ID，降低跨空间对齐成本。
- 识别未满足需求：当语义目标无法被现有商品满足时，系统能沉淀出「需求缺口」信号，反向推动选品、招商或内容生产。这比单纯做 item 匹配更贴近平台经营逻辑。
- 适配多利益方：将广告、自然推荐、消息推送等统一到「曝光目标」语义层，使得同一目标可通过不同渠道实例化（商品、优惠券、直播预告），平台可基于目标层面分配流量和创意资源，而非各自独立优化。
CtrlVTON：基于视觉实例提示分割的可控虚拟试穿
🧭 可控虚拟试穿 · 像素级布局控制
NXN Labs · KAIST
提出VIP-SAM实例分割与CtrlVTON图像编辑框架，首次实现试穿中服装风格、尺寸和位置的像素级控制
📌 工作参考价值（4 点）
- 可控试穿为电商商品详情页生成多样化模特图（不同穿法、松紧度），提升用户购买信心
- 配合用户偏好掩码可实现个性化虚拟试穿，增强推荐系统的可视化吸引力与解释性
- VIP-SAM分割能力可用于UGC图片中自动识别同款服装，辅助搭配推荐与社交电商
- 像素级控制思想可迁移至家居、美妆等场景，为生成式推荐提供更精细的可控生成能力
DKCD：领域知识增强的非结构化数据因果发现
🧭 因果发现与领域知识增强
University of Technology Sydney
引入领域知识强化LLM因果推理，解决潜在因素识别不全和标注不可靠问题
📌 工作参考价值（3 点）
- 在电商用户评论或搜索日志分析中，可借鉴「知识挖掘 + 知识引导推理」流程，用领域知识图谱或业务规则补充 LLM 常识，更完整地识别影响用户决策的潜在因果因素（如隐藏的价格敏感度、社交偏好）。
- 当从非结构化文本为推荐模型构建特征或样本时，可利用外部领域知识减少 LLM 的标注噪声，提升因子标注的可靠性，从而改善下游因果关系训练的准确性。
- 在推荐系统可解释性或反事实推理场景下，该方法可帮助构建更可信的用户-物品因果图，用于生成有因果解释的推荐或策略模拟。
GatedLinear：时间序列预测的自适应线性基路由框架
🧭 时间序列预测 · 自适应路由线性基
Shenzhen International Graduate School, Tsinghua University
用三因子融合门将互补线性基动态路由到异质时序模式上，轻量且可解释
📌 工作参考价值（4 点）
- 推荐系统中，不同用户群或物品生命周期可能呈现平滑趋势、突变或周期性，可借鉴三基分解思想，用多个线性专家捕捉不同模式，并通过轻量门控动态融合，替代单一路径。
- 门控的因子化解耦设计（通道特异性、预测步偏移、相位偏置）可迁移到多场景、多步长的推荐或广告预估中，实现细粒度、可解释的融合权重分配。
- 轻量参数规模（相较复杂基础模型）适合在线服务延迟敏感、资源受限的工业场景，例如实时流量预测、广告出价调整等。
- 可解释路由模式可直接输出每个专家在各维度上的贡献，为模型诊断和场景分析提供依据，类似推荐中分析不同策略对不同人群的有效性。
频谱解混淆梯度提升方法
🧭 因果推断中隐混淆鲁棒预测方法
通过频谱损失与早停相结合，在梯度提升中实现非线性隐藏混淆校正
📌 工作参考价值（4 点）
- 推荐系统中常存在未观测的混淆因素（如季节性营销活动同时影响用户点击和曝光），梯度提升模型易学到虚假关联。可直接将频谱损失嵌入 GBDT 训练，配合早停策略，在不增加推理成本的前提下提升分布外稳健性。
- 光谱收缩（shrinking high-variance directions）相当于将协变量矩阵的主成分中可能携带混淆信息的方向进行弱化，类似在特征空间中做软性掩码，可作为推荐模型特征预筛选的参考思路。
- 方法中混合模型解释给出的经验贝叶斯调参过程，可用于自动选择频谱损失中的超参数，避免手动搜索，对大规模工业排序模型的自动调优有借鉴意义。
- 对广义线性似然和非线性混淆的扩展（Laplace 近似、核随机效应）表明该框架可适配分类、回归等多种目标，可尝试在点击率预估模型的 boosting 解决方案中应用。
注视引导的动态令牌选择让视觉 Transformer 更鲁棒高效
🧭 高效视觉Transformer · 动态令牌选择
Advanced Research Lab, NavInfo Europe · Eindhoven University of Technology
模拟人眼中央凹视觉，动态选择重要 token 并融合多尺度信息，在 50% 预算下超越 DeiT-S 且计算量降低 34.57%
📌 工作参考价值（4 点）
- 论文属于计算机视觉领域，与推荐系统、对话 Agent 等无直接关联，业务可借鉴的模块和方法有限。
- 动态 token 选择的思想可类比于用户行为序列处理：在计算资源受限时，通过简单前馈模块（类似 fixation）丢弃不重要的行为 token，保留关键交互，可提升效率且潜在增强鲁棒性。
- 多尺度“中央凹”嵌入生成方式（foveation）可启发商品图像编码：对商品图的不同区域按显著性分配注意力分辨率，在图像搜索或推荐缩略图生成中平衡精度与算力。
- 无额外对抗训练即获得鲁棒性的特性，提示在推荐模型部署时可通过结构设计（而非仅依赖数据增强）改善对噪声特征或异常行为的容忍度。
不同教师不同能力：亚十亿参数设备端蒸馏结构化文本富集
🧭 知识蒸馏 · 小模型结构化抽取
揭示推理教师、指令教师、管道教师蒸馏小模型时传递不同能力，形成设备端结构化提取的任务级路由策略。
📌 工作参考价值（4 点）
- 电商商品描述/标签生成场景可用大模型推理教师蒸馏到<1B端侧模型，大幅降低延迟（论文中从39秒降到0.8秒），适合高吞吐在线结构化提取。
- QLoRA微调0.6B小模型仅需有限资源即可复现，蒸馏时保留教师推理能力的关键是教师需具备推理特性，而非仅规模放大。
- 不同教师传递不同能力：推理教师转移写作质量，管道教师转移标签多样性，指令教师更忠实；可据此构建“字段级路由器”，对关键字段（如标题摘要）用推理蒸馏模型，对需要忠实性的字段用指令蒸馏模型。
- 采用三位法官盲评的无参考评估方式，结合约束解码作为基线，可作为业务中自动化评估生成质量的参考方案。
DominoTree：基于Domino条件修正的推测解码树形起草
🧭 推测解码 · 条件树起草 ★ 深度解读
National Taiwan University
利用Domino的GRU路径依赖校正构建非因子化草稿树，在Qwen3-4B上平均加速达4.81倍，接受长度最高10.7 tokens
📌 工作参考价值（4 点）
- 推测解码中的树形搜索思想可迁移至推荐/Agent的候选生成：当评分函数依赖于已选序列（如用户行为路径）时，可借鉴DominoTree的条件堆展开方式，用轻量级修正网络（GRU）替代重跑完整encoder，降低分支成本。
- 将per-node昂贵的全词表投影限制到top-M候选（候选限制）是工程化关键技巧，在电商搜索的语义ID生成树或推荐多轮交互中，可类似使用预筛选缩小搜索空间。
- GPU-native builder（CUDA graph捕获与回放）展示了如何在不改变算法正确性的前提下，消除Python kernel launch开销，对需要频繁调用小算子的推理服务有直接参考价值。
- CondAdaptive的失败教训表明：若草稿模型的路径概率与目标模型接受率校准不当，自适应预算规则会退化为固定预算，提示我们在做动态裁剪时需验证概率估计的准确性。
EdgeRefine：Jaccard 采样边差分隐私的图效用平衡方法
🧭 图隐私保护 · 边缘差分隐私
State Key Laboratory of Integrated Services Networks, School of Cyber Engineering, Xidian University · School of Cyber Engineering, Xidian University
通过 Jaccard 相似度估计边概率并自适应采样，在边差分隐私下显著提升 GNN 准确率。
📌 工作参考价值（4 点）
- 用户-物品交互图添加边差分隐私时，不再均匀加噪，可先用 Jaccard 相似度评估边重要性（共现性），按隐私预算划分排名，优先保留强关联边、剔除弱关联边，再补充少量假边，大幅减少噪声注入。
- 两阶段采样控制图稀疏性：用 ε 确定真/假边比例，用采样率 k 控制总边数，这一策略可直接应用于隐私保护下的 GNN 推荐模型训练，在保证 ε-差分隐私的同时维持图质量。
- 可嵌入联邦图学习：各客户端本地应用 EdgeRefine 生成隐私保护子图后上传，降低通信噪声并提升聚合模型精度。
- Jaccard 相似度计算复杂度低，适合大规模工业图加速，可借助 MinHash 等近似算法实现高效部署。
ICDAR 2026 历史文档 OCR 后校正竞赛：LLM 辅助方法评估
🧭 LLM 辅助 OCR 后校正 · 历史文档多语言基准
École Polytechnique Fédérale de Lausanne (EPFL) · University of Zurich
组织多语言历史文档 OCR 后校正竞赛，评估 LLM 在不同噪声和语言下的校正能力与过校正风险。
📌 工作参考价值（3 点）
- 论文面向数字人文领域，与电商/推荐系统的直接关联度较低。
- 可借鉴的思路：利用 LLM 对搜索 query 或商品描述中的 OCR/文本噪声进行后校正，提升索引与召回质量；采用检索导向评估而非逐字匹配来贴合实际搜索场景。
- 低噪声环境下 LLM 过校正的发现提醒，在生成式推荐文案纠错时需控制模型改写自由度，避免引入新错误。
降维与网络科学融合：探索UMAP内部kNN图的分析潜力
🧭 降维图分析 · 内部图结构利用
Apple
用PageRank、k-core、聚类系数等图算法挖掘UMAP的kNN图，发现被2D投影掩盖的数据结构
📌 工作参考价值（4 点）
- 典型样本发现：在电商商品表征的kNN图上运行PageRank，可自动挑出“最标准”的商品图片用于训练或人工审核，也能发现边缘奇怪的异常商品（如错标、假货）。相比k-medoids，完全复用UMAP构建好的图，零额外计算。
- 密集子类挖掘：k-core分解用于商品嵌入图，能剥离长尾噪声，找出核心密集区域；在时尚数据集上成功拆出“包包”下的腰包、邮差包等微类，可迁移到商家类目自动细化或搜索词的分簇打标。
- 高相似度商品去重：聚类系数揭示某个商品近邻的连接紧密程度，直接定位高度同质化的商品群，用于同款检测、反低质铺货。
- 嵌入质量诊断：在迭代生成式推荐的语义ID或item嵌入时，不应只看2D散点图；应回溯UMAP的kNN图结构指标（k-core、聚类系数），评估原始空间是否已有塌缩或空洞，前置发现问题。
面向德语与英语的主权开源混合MoE Mamba Transformer基础模型
🧭 MoE 混合架构 · 多语言主权开源
Fraunhofer IAIS · Technische Universität Darmstadt · DFKI · L3S Research Center · KI Bundesverband
混合MoE与Mamba架构激活3B参数即匹配14-27B稠密模型，长上下文吞吐大幅领先
📌 工作参考价值（4 点）
- MoE与Mamba混合的恒定缓存设计，适合高并发长序列推理，可直接迁移至推荐系统用户长期行为建模，减少线上推理成本。
- 通过故意上调目标语言（德语）的数据采样权重，显著提升下游性能，对于多语言电商推荐场景，可借鉴该策略强化小语种或特定领域效果。
- 完全开放训练数据配比、超参与评估代码，为构建自有可控的业务基础模型提供了可复现的工程范式，适合对数据主权有要求的企业。
- 模型在代码相关任务上突出，若业务需处理搜索词解析、规则匹配等代码生成，可作为微调基座。
生成式AI对学习成效影响的实验证据
🧭 随机实验评估生成式AI学习效果
Middlebury College · IZA
随机实验表明，用生成式AI辅助学习可使知识测试分数即时提高0.27标准差，且延迟收益集中于增强式使用者
📌 工作参考价值（4 点）
- AI辅助的设计范式：在推荐/Agent场景中，将交互设计为“增强式”（解释概念、提供理由）而非“自动化式”（直接生成结论），可能提升用户长期独立决策能力，类似本研究中延迟收益仅出现在增强式使用者中
- 时间重分配的效率提升：观察到用户将时间从执行层任务（如起草文本）转向认知层任务（阅读、搜索），可启发推荐系统减少用户操作负担，引导注意力向高价值信息探索倾斜
- 用户满意度与学习乐趣：AI带来的愉悦感可能提升参与度，可用于优化对话推荐或解释性界面，增强用户粘性与接受度
- 移除AI后的能力保留：评估AI产品价值时，应关注“撤除AI后用户能力是否退化”，对依赖性强场景（如电商选品、广告文案）需谨慎防止技能丧失
注意你的代码补全：恶意补全溯源框架
🧭 LLM 后门·溯源
University of Louisville · University of North Texas
提出 CodeTracer，仅凭微调语料和误补全事件即可将恶意代码补全追溯到具体的后门训练数据
📌 工作参考价值（4 点）
- 恶意行为溯源思路可迁移到推荐模型：当线上模型出现异常推荐（如恶意商品置顶），借鉴 CodeTracer 的指纹提取和语义搜索，从微调数据中定位投毒样本，适合大促前数据审计。
- 无需模型内部参数：仅用微调语料和误补全日志即可归因，适用于黑盒发布后的推荐系统安全调查，不依赖训练框架。
- 指纹结构化方法可复用：将异常推荐内容拆解为（上下文，关键行为，威胁类型）三元组，用 LLM 推理匹配可疑训练样本，可用于构建推荐系统的数据污染检测流水线。
- 防御视角：了解攻击者如何通过微调植入后门，反向提醒我们在使用第三方微调数据或用户反馈数据训练推荐模型时，需设计类似触发词过滤和语义一致性校验的防御措施。
自利智能体社会中的市场稳定形式化机制：市场模拟研究
🧭 多智能体博弈 · 市场机制设计
DSO National Laboratories · National University of Singapore
在 LLM 驱动的市场仿真中，调解机制能有效抵御对抗攻击，维持多智能体合作稳定
📌 工作参考价值（4 点）
- 电商平台存在大量自利卖家与买家 agent（如自动调价、自动选品），借鉴调解（Mediation）机制设计平台的治理层，在出现恶意行为时维持交易生态稳定。
- 构造对抗性红队测试流程可用于压力测试推荐系统或 Agent 编排中的协调策略，用 LLM 驱动的攻击者迭代优化攻击 Prompt，发现系统软肋。
- 将生产互补性与社交网络约束引入 Agent 市场模拟，可建模推荐生态中的双边匹配与信息传播，用于模拟 UGC 社区、直播带货等场景的协同演化。
- 面临不可完全消除恶意行为时，系统设计应追求“可弯不可折”（bent but not broken）的弹性目标：允许局部效用下降，但保持整体不崩溃的恢复能力。
从 RGB 生成到密集场读出：用文生图模型做像素空间密集预测
🧭 利用文生图 DiT 直接读出密集预测场
UCSD · HKUST
冻结 DiT 并加 LoRA，直接从 patch token 线性读出深度/法线等密集场，避免生成 RGB 再解码
📌 工作参考价值（3 点）
- 冻结大模型 + 线性读出：用预训练生成模型作为编码器后，直接接任务线性头输出密集数值，避免生成中间媒介，简化推理 pipeline。推荐系统中可将 LLM 编码的用户/物品表示直接读出 CTR 或评分，省去文本解码步骤。
- LoRA 适配低成本复用：仅训练 LoRA 参数和极轻量线性头（约 33K 参数），适合业务中快速利用不同预训练基座适应新任务，如点击率预估、兴趣强度预测。
- 保持输入分布，换输出接口：保留 VAE 编码器维持模型输入一致性，只替换目标侧解码，这对在原有推荐模型框架上嫁接新预测目标有参考意义——保持上游不变，只改下游头。
多模态遗忘：视觉、语言、视频与音频的综述
🧭 多模态遗忘 · 选择性去学习
University of Maryland, Baltimore County · University of Notre Dame · UNC Chapel Hill
系统梳理多模态遗忘的干预点、方法、数据集与基准，建立跨架构的统一分类体系
📌 工作参考价值（4 点）
- 电商/推荐系统中数据删除与模型矫正：若用多模态模型生成商品描述或推荐，当用户要求删除个人数据或平台需移除版权物料时，可借鉴参数高效遗忘方法（如 LoRA 适配器、梯度编辑），在不重训模型的前提下定向遗忘。
- 消除跨模态不良关联：在搜索推荐中，用联合图文表征可能产生性别、种族等偏见关联（如“医生→男”），可采用架构约束遗忘或解码时干预，切断特定跨模态联系，同时保留通用能力。
- 在线服务安全迭代：面对舆情或法规变化，需紧急屏蔽某类商品或内容，可利用训练时的“遗忘正则项”或数据侧屏蔽，快速使模型停止生成相关推荐，避免全量回退。
- 评估体系参考：综述整理了多模态遗忘的度量维度（遗忘强度、保留度、效率、可逆性、鲁棒性），从业者可据此设计离线验证指标，确保遗忘操作不影响推荐核心指标。
基于图小波的归纳式知识图谱多跳逻辑查询回答
🧭 归纳式多跳逻辑查询 · 图小波嵌入
用图小波变换的归纳式嵌入，以更少消息传递层数实现大规模知识图谱上的多跳逻辑查询回答性能超越现有方法
📌 工作参考价值（4 点）
- 电商场景中的结构化条件查询（如“价格低于X、品牌Y、带属性Z”）可视为多跳逻辑查询，InductWave 提供的归纳式嵌入能直接支持不断涌现的新品实体，无需重新训练。
- 小波变换代替多层消息传递，大幅降低计算开销，适合大规模商品知识图谱上的实时复杂查询，工程实现上可借鉴其轻量级图卷积设计。
- 归纳推理能力使模型在训练图仅覆盖部分节点时仍能泛化到全图，这对增量更新的商品库和用户动态标签场景很有价值。
- 文中不同训练/测试比例消融实验的设定，可直接迁移为推荐系统中冷启动实体比例下的评测方案。
面向上下文全景生成的几何感知预训练框架
🧭 全景图像生成 · 几何感知预训练
Insta360 Research · Tsinghua University · Beihang University · Wuhan University
通过几何感知预训练和 token 级任务统一，提升全景图像生成的几何一致性与任务覆盖度
📌 工作参考价值（4 点）
- 全景生成与电商/Agent 直接关联弱，但几何一致性设计可迁移到需保持结构约束的生成任务（如商品多视角合成、虚拟试穿），用深度预估辅助纹理生成。
- 统一任务框架思路值得借鉴：通过 token 级条件拼接，将风格迁移、修复、外扩等多个任务融入单一模型，降低工程维护成本。
- 针对领域特性设计辅助损失（如这里的相似度正则与圆形填充）可推广到其他对称性或循环结构生成问题（如系列 Banner 设计）。
- 主要仍是学术贡献，业务可借鉴点较有限。
强化学习的数学方法综述
🧭 强化学习理论 · 数学基础
Duisburg-Essen University · HSE University · Innopolis University · MIPT · ISP RAS
用概率、优化和算子理论统一现代RL算法的收敛性与样本复杂度分析
📌 工作参考价值（4 点）
- 主要是学术贡献，梳理了RL的算子、优化、逼近等数学基础，给出了值函数收敛、样本复杂度的理论保证，业务可借鉴点有限。
- 对于推荐系统中引入RL的场景，可参考其约束MDP框架设计多目标（如CTR与预算、多样化约束）的奖励设计与可行性分析。
- 离策略评估与学习的收敛理论可为线下A/B测试前的新策略评估提供置信度支撑，降低在线实验风险。
- 若需在商品列表排序中应用策略梯度，其随机近似与凸对偶分析可帮助理解梯度估计的偏差-方差权衡，指导基线减除或正则化选择。
R3：基于组对比经验与课程强化学习的广告合规修正框架
🧭 广告合规改写 · 课程强化学习 · 经验合成 ★ 深度解读
Tencent
用组对比经验提取和两级课程强化学习，在视频广告文案合规修正中平衡审核通过率与语义意图保留
📌 工作参考价值（4 点）
- 合规改写中的Compliance‑Intent权衡：广告或电商文案的自动修正常面临过度修改破坏原有卖点的问题。借鉴R3的课程强化学习设计——先只优化合规率进行充分探索，再引入“编辑距离”“连贯性”等软奖励进行正则化——可有效避免local optimum式的过分保守修改，适用于任何需要平衡“安全”与“创意”的文案生成或改写场景。
- 经验提取缓解数据稀缺：R3的GCEE（Group‑Relative Compliance Experience Extractor）通过对比失败与成功的改写轨迹，让LLM自动总结出具体、可操作的合规经验（如“直接删除‘终极’等词，而非寻找同义词”），并注入prompt。这种方式可迁移到电商搜索query改写、商品标题合规审核等任务中，用低成本的经验归纳替代昂贵的人工标注或规则维护。
- 奖励门控防止reward hacking：在奖励设计上，R3将“连贯性奖励”和“编辑数量奖励”乘以二值合规得分（Rcom），确保在内容仍违规时不激励模型追求次要目标。对于搜索推荐中的多目标RL（如相关性+多样性+收入），这种“主目标门控”机制能有效抑制指标投机。
- 工业级视频修正流水线启示：R3的完整流程（语音识别→文本改写→语音克隆与时长/响度对齐→字幕重新渲染）展示了LLM+音频技术在生产环境中落地全链路文本修正的范例。对于包含视频或直播内容的电商平台，这条流水线可直接用于对违规口播内容进行自动化整改，提升审核效率。
ShapeTalk：自然语言与草图协同的时间序列模式查询
🧭 时序数据查询·多模态交互
提出用自然语言和草图互补查询时序模式，LLM解析语言为可编辑的形状约束
📌 工作参考价值（4 点）
- 可借鉴 LLM 解析自然语言为可编辑特征约束的流水线，在电商销量趋势查询或异常检测中，让运营人员用自然语言描述模式（如“先涨后跌”），系统自动转化为形状过滤器。
- 多模态协同思路可映射到推荐系统的用户意图表达：自然语言描述偏好，再通过可视化交互（如拖拽权重）细化需求，提升可解释性和可控性。
- 同步视图和迭代查询的交互设计适用于推荐策略调试工具，分析师可通过多轮文本+交互逐步精炼召回或排序规则。
- 落后于业务可直接迁移：将论文中的形状解析改造成对指标曲线的语义查询，用于广告排期或活动效果归因的快速检索。
强化学习优化LLM生成过程模型：奖励函数设计研究
🧭 结构化生成 · 奖励函数设计
German Research Center for Artificial Intelligence (DFKI) · Saarland University
RL 通过奖励函数设计显著提升 BPMN 模型的语法和语用质量，并揭示等权重优于定向加权等关键发现
📌 工作参考价值（4 点）
- 在多维度自动评估的生成任务（如推荐理由、搜索 query 改写）中，奖励函数采用等权重组合各维度指标通常优于刻意侧重某一维度，避免模型坍缩到局部最优。
- 设计奖励函数时需结合模型架构进行实验：某些惩罚项（如无效输出惩罚）对一种模型至关重要，对另一种可能无效，应针对自身模型做消融。
- SFT 初始化并非总是有益的，有时反而损害 RL 优化效果，实际落地前应验证无 SFT 的 RL 基线。
- RL 能大幅降低生成输出的方差（本研究降低 6 倍以上），适合需要稳定输出的业务场景，如自动化消息推送文案生成。
ResearchStudio-Idea：从顶会论文中学习可复用研究构思模式的技能套件
🧭 自动化研究构思 · 证据驱动生成
Nanyang Technological University · Microsoft Research · National University of Singapore · CF AR, A*STAR
从机器学习顶会论文中提取15种可复用构思模式，构建证据驱动的端到端创意生成工作流
📌 工作参考价值（4 点）
- 模式提取可复用到策略创意生成：类似地从历史高转化广告文案、高效召回策略中挖掘重复出现的“成功模式”（如特定痛点切入、差异化角度），形成结构化卡片，引导 Agent 批量生成新的营销方向或推荐策略。
- 证据准备度检查模板：在接收业务需求（如提升冷启动推荐效果）时，先让系统核查输入信息的充分性（类似 IdeaSpark 的 evidence readiness），避免基于不完整上下文生成低质量方案。
- 碰撞检测机制用于创意排重：在批量生成推荐理由或 push 文案时，可引入类似 Scoop-Check 的冲突检索，确保新颖性，防止重复已有内容或竞品方案。
- 审查与追溯卡片提升交付物可信度：对生成的推荐策略附上“提案卡片”，包含依赖的前人工作、可能失败模式，便于工程团队评估风险、追溯决策依据，尤其适合 Agent 辅助的离线策略推荐场景。
研究最后一公里自动化：从论文到海报、视频与博客的智能生成流水线
🧭 多技能 Agent 组合与内容生成流水线
Microsoft Research · National University of Singapore · Nanyang Technological University · Tsinghua University · Peking University
将论文自动转化为可编辑的海报、视频与博客，通过共享提取器和硬性渲染门控保证可用性
📌 工作参考价值（4 点）
- 共享上游解析器 + 可组合技能设计：在电商场景中，可以复用同一套商品/内容分析结果，分别生成商品标题、详情文案、广告短视频脚本和直播口播稿，避免重复调用大模型，降低延迟与成本。
- 硬性渲染门控保证产出可用：生成推荐理由或广告语时，可引入格式校验（如字数、必含关键词）作为硬性检查点，避免产生无法直接上线的空泛描述。
- 可编辑的中间产物：生成推荐文案、商品标题时输出PPTX或DOCX等可编辑格式，便于运营人员二次修改，而非一次性渲染，保留人工干预入口。
- 跨模态内容联动导航：灵感可用于商品详情页，点击不同卖点段落时自动跳转至对应的讲解视频片段、图片位置或用户评价，提升交互体验。
移动端电影运镜生成扩散模型 CineMobile
🧭 移动端高效视频生成
Shanghai Jiao Tong University · Nankai University · Transsion
通过剪枝-蒸馏-量化三阶段优化，将大型视频扩散模型压缩至移动端，实现40倍加速的电影运镜生成
📌 工作参考价值（3 点）
- 主要是视觉生成领域的模型压缩贡献，对推荐/广告/Agent 系统的直接业务可借鉴点有限。
- 蒸馏引导的结构化剪枝策略可迁移至推荐模型压缩：先用蒸馏让剪枝后模型快速恢复能力，再联合微调。
- 强化学习与扩散蒸馏结合的少步生成方法，可为搜索推荐系统中使用扩散模型做生成式推荐（如 GenRec）时降低推理步数提供思路。
对齐即一切：面向任意模态到4D生成
🧭 多模态对齐 · 4D 生成
提出 Align4D 框架，通过对象距离对齐、运动-几何联合对齐与异步优化，实现任意模态到一致 4D 内容生成
📌 工作参考价值（4 点）
- 在电商动态商品展示生成中，可借鉴对象距离对齐思路，将输入视频/图像与 3D 模型对齐，生成多视角一致且动作连贯的商品 4D 短片，提升沉浸感。
- 运动-几何联合对齐方法可被用于个性化商品视频生成：用文本/图片指定外观，用现有视频驱动动作，同时约束几何一致性，避免变形失真。
- 异步优化技巧（解耦外观与运动训练）可迁移到生成式推荐中的动态素材生成，降低运动变形对几何结构的干扰，提高生成质量的稳定性。
- 整体框架展示了从稀疏多模态输入（文本、图像、视频、3D）合成动态内容的能力，可启发在广告创意生成中融合多源素材，自动生成统一风格的动态广告视频。
基于图Spanner的HNSW精度保证框架
🧭 近似最近邻检索 · 精度保证
University of Toronto · The University of Texas at Arlington · IIT Bombay
通过Certify-then-Rectify框架，动态认证HNSW搜索并利用spanner理论提供最坏情况正确性保证
📌 工作参考价值（4 点）
- 可在线部署轻量级认证器评估HNSW召回质量，避免因贪婪搜索遗漏关键近邻，适合高召回率场景（如广告匹配）。
- 利用极值理论估计spanner拉伸因子提供距离上界，无需重建索引即可动态平衡效率与准确性。
- 过滤搜索扩展可直接应用于带属性约束的商品向量检索（如分类、价格筛选），提升复杂查询的可靠性。
- 分层纠正策略允许在绝大多数查询中保持HNSW速度，仅在必要时触发精确搜索，适合大规模在线服务。
LACUNA：评估 LLM 遗忘定位精度的测试平台
🧭 LLM 知识遗忘评估 · 参数定位精度
Mila – Quebec Artificial Intelligence Institute · McGill University
首个提供参数级定位真值的 LLM 遗忘基准，揭示现有方法定位不准且易受攻击，精准定位可大幅提升遗忘鲁棒性。
📌 工作参考价值（4 点）
- 在需严格删除用户隐私（如 GDPR 合规）的推荐或对话系统中，参数级精确遗忘比仅监控输出更可靠，可降低数据泄露风险。
- 定位思想可迁移到模型纠偏或概念编辑：先定位存储不良偏见的参数，再定向修改，提升推荐公平性。
- 提醒从业者：行为级遗忘评估（输出不可见）可能只是“掩藏”而非真正擦除，应增加参数级验证，防止被攻击还原。
- 通过受控注入合成数据构建私有测试集的思路，可用于测试模型对特定知识（如促销活动）的记忆强度与遗忘效果。
OrbitQuant：图像与视频扩散 Transformer 的数据无关量化
🧭 扩散 Transformer PTQ · 数据无关旋转量化
Cantina Labs · University of Southern California · University of Illinois Urbana-Champaign
在归一化旋转基上量化，用固定码本适应所有时间步和模态，无需数据重校正，将 DiT PTQ 推进到 W2A4。
📌 工作参考价值（4 点）
- 对推荐系统中可能使用的 Transformer 或扩散生成模型，旋转基量化可消除校准集依赖，避免因用户行为分布漂移而反复重校。
- 权重旋转离线吸收进线性层，推理时仅对激活做前向旋转，工程实现简洁高效，可直接参考其算子融合技巧。
- 单一码本跨层复用，大幅降低推荐模型量化时的码本存储与设计复杂度，适合存储受限的线上环境。
- W2A4 极低比特可成倍压缩推理带宽，在电商直播、短视频内容生成等需高吞吐的 GPU 受限场景具备直接落地价值。
Vidu S1：支持语音控制的实时交互视频生成模型
🧭 实时交互视频生成
Tsinghua University · Shengshu Technology
实现语音控制数字角色的无限时长实时视频生成，消费级GPU上540p/42 FPS
📌 工作参考价值（4 点）
- 对于电商数字人客服/直播场景，可借鉴语音实时驱动角色视频的思路，实现低延迟交互式导购
- TurboDiffusion/TurboServe 的加速方法可能迁移到推荐系统流量侧的实时推理优化，如降低特征抽取或排序模型延迟
- 支持用户上传自定义形象和音色，类似个性化推荐中“用户自定义偏好”的模式，可启发商品推荐中的个性化表达
- 整体属于视频生成领域，与搜索推荐的核心业务关联有限，但实时交互范式对构建Agent化购物助手有参考意义
WattGPU：预测未见GPU和LLM的推理功耗与延迟
🧭 推理能耗预测 · 机器学习系统
Universidad Politécnica de Madrid · Zurich University of Applied Sciences
仅用公开元数据与规格，无需硬件即可预测LLM在未见GPU上的推理功耗和延迟，泛化良好。
📌 工作参考价值（4 点）
- 在引入新GPU或新LLM时，可快速预估推理功耗与延迟，替代昂贵的手工profiling，辅助部署前硬件选型。
- 模型仅依赖公开的LLM参数表和GPU规格（如内存带宽、TDP），无需购置或租用设备，能大幅降低评估成本。
- 给出的中位绝对百分比误差在离线场景约3.4%，服务器场景约13.5%，虽非生产级精度，但GPU排序相关性高（Kendall τ≥0.76），适合做粗筛，识别表现突出的GPU型号。
- 仓库开源，可将自有的LLM与硬件数据加入扩展，为广告/推荐系统中Agent、查询改写等LLM服务做容量规划和性价比对比。
无需训练的语义概念定位抵御排版攻击
🧭 视觉语言模型鲁棒性 · 机制可解释性
University of Virginia
通过无训练机制解释定位并干预CLIP中偏重文本的注意力头，显著提升视觉模型抗排版攻击鲁棒性
📌 工作参考价值（4 点）
- 无训练的防御思路可直接复用到电商商品图片理解：商品图常叠加促销文字、logo 等，模型易被文字误导，借鉴本方法可通过定位并抑制视觉编码器中词汇偏置的注意力头，不改变模型参数提升对文字干扰的鲁棒性。
- 机制可解释性管线可成为多模态推荐系统的诊断工具：当视觉特征提取器在场景文本上表现异常时，可使用论文的采样归因方法快速定位问题 Circuit，指导针对性干预或微调策略的设计。
- 对 LVLM 的 VQA 抗攻击提升表明，该方法可增强对话式购物助手对用户上传含文字商品图的语义理解能力，避免因包装文字错误识别属性。
- 干预操作简单（仅调整少数注意力头的权重），工程成本低，可作为在线推理阶段的免训练后处理模块，适用于对延迟敏感的推荐系统。
自门控注意力：高效时间序列预测
🧭 高效注意力机制 · 时序预测
提出即插即用的自门控注意力，以线性复杂度维持预测性能，避免冗余注意力计算。
📌 工作参考价值（4 点）
- 在推荐系统的用户行为序列建模中，可直接替换标准自注意力，省略 query/key 投影，显著降低长序列的计算和内存开销，适合高并发在线推理。
- 共享注意力矩阵 + 轻量残差的设计，可应对行为序列中常见的重复模式（如周期性、固定套路），对电商场景的点击序列预测有直接迁移价值。
- 即插即用特性允许快速集成到现有 Transformer 推荐模型（如 SASRec、BERT4Rec）中，仅需微小改动即可获得推理加速。
- 在边缘设备或资源受限推理环境下，SGA 能保持竞争力性能，适合部署在移动端推荐、实时出价等延迟敏感系统。
单图无害，多图有害：防止普通图片组合隐含的有毒语义
🧭 多模态安全 · 隐含联合语义
The Conversational AI (CoAI) Group, DCST, Tsinghua University
定义多图隐含毒性（MIIT）问题，构建数据集并训练推理蒸馏模型，在审核中超越商业API
📌 工作参考价值（4 点）
- 电商场景中，用户多图晒单或商品详情页的图片组合可能隐含违规（如暗示毒品器具），可借鉴多图联合推理的审核机制，将单图无害的概念纳入模型输入，提升对组合语义的捕捉能力。
- 训练阶段采用“渐进式蒸馏推理监督”：先让强模型生成有推理链的标注，再逐步蒸馏到小模型，产出带实体关联解释的判定结果，有助于审核人员快速确认风险。
- 工程上可设计两阶段流水线：先快速过滤单图明显违规，再对剩余多图组合进行联合编码推断隐性风险，平衡延迟与召回。
- 数据集构造的自动化流程（利用LLM生成危险组合描述、图生成模型合成图像）可作为扩充审核负样本的手段，缓解组合风险样本稀缺问题。
何时修复图ANN索引：导航信号触发局部修复保护突发流失下的尾部召回
🧭 图ANN索引 · 导航信号触发局部修复
VaidhyaMegha Private Limited, India
用廉价探针召回信号触发图ANN局部修复，在固定预算下大幅提升尾部召回，避免盲目周期性修复
📌 工作参考价值（4 点）
- 在电商商品向量索引中，频繁上下架导致图索引退化，可用廉价探针查询的recall作为导航性退化信号，代替固定周期修复，节省算力且保护尾部查询质量。
- 信号触发修复策略在稀疏、脆弱的图（如低度图）上收益更大，可针对长尾商品或冷门类目的索引子图优先采用。
- 引入budget-matched评估协议：对比修复策略时必须控制修复总次数相等，避免单纯比较预算不对等产生的虚假优势。
- 工程实现上，可维护一组固定探针查询，定期计算其recall，当滑动窗口内的recall下降超过阈值时触发局部重连，无需全量重建索引。
决策感知的样本生成模型训练
🧭 决策感知生成模型训练
Tübingen AI Center, University of Tübingen · University of Augsburg
在能量得分中融入可微决策损失，使生成模型训练直接感知下游决策成本
📌 工作参考价值（4 点）
- 在供应链预测（销量/库存）中，可将缺货成本或过剩成本作为可微决策损失，与能量得分联合训练，提升关键分位数的预测精度，降低业务损失。
- 动态定价场景下，将利润损失函数嵌入生成式价格分布的优化目标，直接最小化预期决策成本，替代后处理决策优化。
- 工程实现时，需对非可微的业务损失进行平滑近似（如用SoftMax代替argmax），确保梯度可反向传播；可参考文中对决策损失可微化的设计。
- 该方法保持概率模型校准性，不仅输出点预测，还保留完整分布，适合风险敏感决策场景，如广告预算分配、促销门槛设定。
面向内存高效自回归视频生成的实例特定参数吸收方法
🧭 自回归生成 · 参数化KV缓存压缩
Institute of Information Engineering, Chinese Academy of Sciences · The University of Hong Kong · AMAP, Alibaba Group
ISPA首次将KV缓存压缩从丢弃转变为实例级参数蒸馏，在视频生成中实现50%缓存缩减且质量无损
📌 工作参考价值（4 点）
- 在推荐系统的长序列Transformer或生成式推荐模型中，可借鉴ISPA将部分层转为局部注意力，并通过最小二乘将历史缓存吸收到权重中，节省推理内存。
- 预热阶段监测全注意力和局部注意力的输出差异来确定转换点，可用于Agent对话历史压缩，动态决定何时将旧上下文编码进模型参数。
- 闭式解的权重调制无需重新训练，适合在线推理时实时进行缓存压缩，可直接集成到现有KVCache管理的工程框架中。
- 对于电商场景的实时生成（如商品描述、直播推流），用ISPA减少视频/文本自回归生成的KV缓存，提升吞吐。
RACORN-1：低选择性过滤向量搜索的自适应保召回加速方法
🧭 过滤向量搜索 · 图索引保连通
Naver Corporation
通过自适应搜索回退和精确回退修复ACORN-1在极低选择率下的召回崩溃，延迟降低9-26倍
📌 工作参考价值（4 点）
- 可复用的自适应桥接机制：在带过滤条件的向量召回中（如电商按类目、价格区间过滤），当过滤后节点稀疏导致图断开时，可借鉴ASF思路：将未通过过滤的节点转为“临时桥梁”，通过步长采样(strided sampling)增加空间多样性，既保连通又控延迟。
- 工程实现中的召回-延迟折衷：在推荐/搜索的HNSW索引上做低选择率过滤时，可直接应用RACORN-1的本地扩展，无需重建索引；在极低选择率（<0.1%）场景下结合AEF动态切换到线性扫描，实现召回1.0且20-75倍加速。
- 对抗过滤-查询负相关：电商中常见“冷门品牌+语义相似”查询会导致图索引严重断开；RACORN-1在这种负相关评测中将召回从0.08-0.41拉升至0.80-0.98，同时延迟比HNSW低5-9倍，为长尾检索提供了鲁棒方案。
- 适用于向量库自研/选型：业务自研向量检索引擎或评估开源方案时，可参考其分阶段跌退策略（ASF先尝试桥接，再AEF保证召回），便于在召回率和延迟间设置安全边界。
WARP：从权重空间恢复训练数据组合
🧭 权重空间几何分析 · 数据配比推断
University of Wisconsin-Madison
仅凭模型权重即可恢复微调时的领域混合比例，无需训练数据或训练轨迹
📌 工作参考价值（4 点）
- 推断微调推荐模型的数据配方：拿到一个第三方发布的推荐模型（如商品表示模型），可以用 WARP 反推其微调时所用数据集的领域构成（如服饰、电子、家居比例），判断是否偏离我方场景。
- 检测数据泄露与分布漂移：将线上模型与基础模型做权重插值，观察权重空间几何足迹，可快速发现模型是否在敏感数据上做过微调，辅助合规审计。
- 指导增量训练的数据采样：当需要继续微调开源推荐模型时，先恢复其原始训练数据的领域配比，据此调整自己的数据采样策略，避免灾难性遗忘或能力坍缩。
- 简易实现：只需基础模型和微调模型权重：不用访问原始训练数据或中间检查点，仅通过模型融合生成伪检查点，再用几何特征（如权重差向量的角度、长度）和线性映射即可推断，工程成本低。
微软 2026 年 CLI AI 编码代理大规模推广的采纳与影响研究
🧭 AI 编码工具组织采纳分析
Microsoft
CLI 编码代理的采纳通过社交网络蔓延，活跃工程师更易保留，采纳后 PR 合并量提升 24%
📌 工作参考价值（4 点）
- 推广内部 Agent 工具（如搜索/推荐系统的交互式开发助手）时，设计可见的“社交线索”（如团队使用看板、成功案例分享）可触发从众采纳，因为首用主要通过社交网络传播。
- 识别可能长期使用 Agent 的用户时，更应关注其已有工作活跃度（如代码提交频率、任务执行量）而非岗位或资历，这与“保留率与编码活动而非人口统计相关”一致。
- 衡量 Agent 对算法工程师产出的影响，可用类似“合并 PR”的操作指标（如成功上线的实验次数、发布模型版本数）作为简易代理，前提是明确该指标的局限性。
- 大规模采购前，可在团队内小范围试点并追踪 token 消耗与产出增量，若 4 个月内提升效果不衰退则更值得全量推广。
WorldDirector：解耦式可控世界模拟与持久动态记忆
🧭 世界模型 · 视频生成与模拟
HKUST · Ant Group · ZJU · CUHK
将3D语义运动编排与视频生成解耦，用LLM生成控制轨迹，实现持久动态对象记忆与高可控长视频合成
📌 工作参考价值（4 点）
- 解耦控制与生成的思路可迁移至生成式推荐：先用 LLM 编排用户意图阶段或促销节律，再控制具体物品生成，提升推荐结果的可控性与逻辑性。
- 持久动态记忆模块启发长期用户兴趣建模：即使某类商品长期无交互，仍维持其隐状态，在重新出现时快速恢复相关性，可改进长序列召回。
- 利用 LLM 生成结构化控制信号（如行为路径）的方法，可用于模拟用户交互序列，生成高质量仿真数据，辅助离线策略评估和训练。
- 因果块自回归生成方式可类比于推荐中的分阶段决策，将推荐列表分块生成并保持块间一致性，避免一次性输出过长序列导致的逻辑断裂。
高维网格近似最近邻搜索的缩放定律
🧭 高维ANN缩放定律与网格算法
University of California, Berkeley · University of Toronto, St. George · Independent Researcher · University of Waterloo
多探针网格在高维下展现维度不变吞吐，索引成本低，冲击图/树方法的主导地位
📌 工作参考价值（4 点）
- 当推荐系统使用高维嵌入（d≥300）且索引频繁重建（如分钟级更新），可试用多探针网格替代HNSW，利用其近常数维度吞吐和极低索引延迟，避免图索引重建瓶颈。
- 查询时间随N近线性增长，但在千万级数据集上仍可能满足延迟要求；通过调节probe数量可灵活控制精度/速度折中，适合召回延迟不极端的业务。
- 若采用ANN近似自注意力优化大模型推理，网格法的维度不变性可提供更平稳的扩展，值得在推理引擎中作为备选ANN后端。
- 在离线全量索引构建场景（如每日亿级向量重建），网格法的快速索引特性可大幅缩短总耗时，可作为评估向量检索库时的 baseline 方案。
基于注意力头的训练无关多模态文档问答归因方法
🧭 多模态归因 · 注意力头定位
University of Massachusetts, Amherst · Adobe Research, San Jose
利用预填充注意力头与校准阈值实现训练无关的多模态问答证据定位，速度提至七分之一。
📌 工作参考价值（4 点）
- 在推荐系统、对话 Agent 生成解释时，可借助注意力头快速定位关键证据（如用户历史行为、物品描述片段），无需额外训练，降低工程复杂度。
- 利用特定层的注意力头选择与校准阈值，可做实时归因，适合高延迟敏感的电商推荐解释场景。
- 思路可迁移至多模态商品问答：结合商品图片和描述，用类似方法自动高亮答案对应的图片区域或文本 span，提升购物体验。
- 训练无关的特性适合冷启动或频繁变更的情景，避免为归因重新训练模型，降低迭代成本。
通过隐式有序原型对齐增强口语评估
🧭 口语评估 · 有序回归
National Taiwan Normal University
用原型对齐正则化和语义锚定层路由在冻结Whisper上实现0.36 RMSE，媲美十亿参数大模型
📌 工作参考价值（4 点）
- 评分场景（如店铺评分、用户满意度预测）可利用有序原型对齐，在隐空间强制序关系，提升回归精度和可解释性
- 语义锚定层路由（SALR）可启发多深度特征融合：对冻结大模型不同层输出做自适应加权，相当于低成本提取多粒度特征
- 不微调大模型、仅加轻量正则器即达高性能，适合资源受限的线上服务；可尝试对BERT/Whisper等冻结编码器加原型损失微调下游任务
- 原型作为可学习的序数锚点，可类比推荐中的用户/物品层级原型（如消费力分层），辅助冷启动和排序校准
InstanceControl：无需实例标注的可控复杂图像生成
🧭 多实例可控图像生成 · VLM自动对应
Harbin Institute of Technology · HUAWEI Noah's Ark Lab
利用视觉语言模型自动建立文本描述与视觉条件间的实例级对应，消除手动标注，实现高保真多实例控制。
📌 工作参考价值（4 点）
- 在电商商品场景图生成中，可使用类似VLM自动将多个商品文本描述映射到布局或深度图的区域，省去人工标注实例位置。
- 自适应掩码细化策略可通过迭代校正噪声掩码，提升多实例属性绑定的准确性，可迁移至多模态检索或视频中目标跟踪任务。
- 该方法展示了如何利用大规模预训练模型（如VLM）的零样本能力进行细粒度对齐，可为电商广告创意生成中的多物品组合控制提供参考。
- 工程实现上，可将VLM作为插件集成到现有扩散模型生成流程中，无需额外训练数据集，降低部署成本。
对话到检测：面向保险欺诈检测的多模态混合NLP流水线
🧭 多模态融合 · 规则基评分
Aston University · Domestic & General
合成多模态框架融合语音与文本，用规则风险评分检测叙事复用与声音重复以增强可解释欺诈检测
📌 工作参考价值（4 点）
- 借鉴LLM-RAG检索重复叙事和相似案例的方法，可用于客服质检、反欺诈或用户投诉分析中的异常话术识别。
- 规则基风险评分可解释性强，适合风控场景，可将NLP特征、声纹相似度等异构信号通过业务规则融合打分，降低误报。
- 合成数据生成思路（模拟双人对话生成文本+音频）可用于构造训练数据，解决隐私和样本不均衡问题，支持冷启动。
- 多模态特征（文本NER、正则特征 + 声纹聚类）的工程化组合可迁移到智能质检、投诉处理等场景，实现跨模态一致性校验。
KG2Cypher: 从企业知识图谱自动构建文本到Cypher系统的数据驱动流水线
🧭 Text-to-Cypher数据合成与模型微调
Sungkyunkwan University · NAVER
利用图谱事实反向生成训练数据，结合候选感知SFT与LoRA高效微调，大幅提升企业级Text-to-Cypher执行准确率
📌 工作参考价值（4 点）
- 合成训练数据：从结构化知识图谱反向生成自然语言查询，可用于商品知识图谱的NL2Query数据增强，低成本构建搜索意图理解训练集。
- 候选感知SFT格式：在输入中加入召回实体列表，提高实体链接准确率，适合需要实体链接的对话式推荐或结构化查询场景。
- 类条件schema提示：按查询类别动态选择相关schema片段，减少prompt长度和噪声，提升多任务查询生成的推理效率和准确率。
- LoRA微调：低成本适配领域专用模型，可在有限标注下快速提升Text-to-SQL/Cypher能力，适用于电商内部分析工具或Agent的图查询模块。
TMP：大规模图像生成与编辑的树结构混合剪枝框架
🧭 大规模图像生成模型的结构化剪枝与优化
Multimodal Model Department, Tencent
首个树结构混合策略剪枝框架，统一 MoE 和 DiT 架构，将 80B 混元图像压缩至 20B（75%），质量损失有限，实现单卡推理
📌 工作参考价值（4 点）
- 剪枝策略的混合设计思想可迁移至大规模推荐模型（如多专家用户点击率模型）的压缩：针对不同模块（专家层、注意力层）采用差异化剪枝策略，而非一刀切
- 工程上实现 80B→20B 后单卡（24GB）推理的优化经验（如 KV cache 裁剪、内存调度）对部署巨型推荐模型有直接参考价值
- 树结构搜索最优剪枝率的方法论可借鉴：在推荐系统召回 / 排序模型的剪枝中，自动搜索各层的压缩比，平衡精度与效率
- MoE 架构的剪枝方案（如专家丢弃、路由剪枝）为电商搜索广告中的多专家模型（如多目标专家网络）压缩提供新思路
通过特征诱导信息流解释时序图神经网络
🧭 图神经网络解释 · 时序事件图
Berlin Institute for the Foundations of Learning and Data · Technical University of Berlin · RIKEN AIP · Korea University · Max Planck Institute for Informatics
基于归一化相关性度量（NRM）的模块化分解方法，捕获事件驱动变量的全信息流以解释时序图神经网络
📌 工作参考价值（4 点）
- 在电商行为序列建模中，若采用事件驱动图神经网络（如用户点击、购买事件），可借鉴 NRM 框架量化每个历史事件对当前推荐结果的贡献，生成可解释的归因报告。
- 模块化分解方法使复杂图神经网络的解释可系统构建，适用于多组件协同的推荐模型（如多兴趣提取模块叠加图卷积），可降低工程实现复杂度。
- 高阶交互分析能力能揭示多个事件（例如浏览、加购、收藏）的联动影响，帮助运营理解用户决策链条，优化推荐策略。
- 方法强调的归一化机制保证了跨层比较的公平性，可迁移到需要对比不同特征重要度的其他深度学习模型中。
DanceOPD：用于流匹配模型的在线策略生成场蒸馏
🧭 多能力组合蒸馏 · 在线策略训练
ByteDance Seed · NUS · UMD · HKUST
提出一种在线策略生成场蒸馏框架，通过路由和查询学生自身状态来组合冲突的多能力，提升图像生成中的能力组合效果。
📌 工作参考价值（4 点）
- 多任务组合的在线策略蒸馏：在电商推荐中，点击、转化、时长等多目标常相互冲突，可借鉴 DanceOPD 的 on-policy 场蒸馏思想，将每个目标视为一个速度场，模型在自身 roll-out 的状态上查询各场进行学习，避免离线预计算偏差，实现多目标平衡。
- 吸收算子化目标：类似于将无分类器引导（CFG）吸收为可蒸馏的场，在推荐中可将去偏、多样性控制等算子形式化为场，蒸馏进学生模型，简化推理管线。
- 生成式推荐的训练范式：若将物品 ID 表示为生成式 token，使用流匹配生成推荐序列，DanceOPD 的 on-policy roll-out 训练方式可更好对齐生成与判别目标，减少曝光偏差。
- 路由机制与能力解耦：每个训练样本只路由到一个能力场，避免能力间相互干扰，对于多领域（如广告、内容、商品）合并训练时有直接参考价值，可按样本域标签路由到对应专家场。
统计有效的超参数选择：从调参到保证
🧭 统计学习与假设检验
Northeastern University London
提出 learn-then-test 框架，将超参数选择转化为多重假设检验，提供有限样本风险控制的形式化保证
📌 工作参考价值（4 点）
- 可将推荐系统中 LLM 推理参数（温度、top-p）、检索环节 top-k、广告出价阈值等超参数选择问题，套入 LTT 框架，在有限验证集上获得可证明的风险上界
- 当业务要求安全或可靠性约束（如推荐多样性最低容忍度、广告点击率下界），用假设检验方法筛选出满足要求的候选超参组合，替代纯经验调优
- 引入 e-values 替代 p-values 作统计量，支持随时停止与在线校验，适合在线 A/B 测试中持续监控超参风险
- 将模型升级、数据分布变化后的重新调参视为再检验，利用错误发现率控制（如 Benjamini-Hochberg 流程）避免选择出的超参存在过检验风险
TheoremGraph：桥接形式化与非形式化数学
🧭 数学知识图谱 · 形式化-非形式化链接
University of Washington Math AI Lab
构建统一语句级依赖图，连接非形式化数学文献与形式化库，发布提取工具与匹配数据集。
📌 工作参考价值（4 点）
- 多源抽取与置信度标记策略：从非结构化文本（如商品描述、用户评论）提取实体关系时，可同时记录提取器来源，让下游按需权衡精度与覆盖率，适用于商品知识图谱构建。
- 跨域实体对齐的轻量方案：将不同平台/模态的实体用生成式自然语言简短描述（slogan）映射到共享嵌入空间，通过余弦门控+LLM裁决筛选高置信度匹配，可用于跨电商站点的商品对齐或冷启动语义链接。
- 图扩展（graph expansion）增强检索：在召回/排序阶段，利用知识图谱的一阶邻居扩展实体表征，不依赖昂贵重排模型即可接近有监督重排效果，适合低延迟推荐场景。
- 工程化 MCP 接口与 API 设计：论文发布的 extractor、HTTP API、MCP 接口为构建内部可检索知识图谱工具链提供了可复用的架构参考。
面向多语言多图真实场景的虚假信息检测基准与持久记忆Agent
🧭 多模态虚假信息检测与Agent验证
Shanghai Jiaotong University · Shanghai Artificial Intelligence Laboratory · Tsinghua University · Central South University · China Electronics Technology Group Corporation 15th Research Institute
提出包含多语言多图基准和持久记忆Agent的验证框架，五类真实性判别最优且成本降低17.5–79.9%
📌 工作参考价值（4 点）
- 在广告/商品内容审核中，可借鉴 ReMMD-Agent 的“原子主张分解+证据集构建”策略，将多模态内容拆解为独立可验证点，并行收集证据，提升复杂虚假信息的检出效率。
- 持久记忆设计（reusable evidence set）可避免对同一证据重复搜索，适合需持续校验的大规模商品库或 UGC 内容，显著降低大模型 API 调用成本。
- 结构化输出 L1/L2/L3（真实性/失真类型/理由）可直接作为风控或搜索排序的中间特征，为推荐系统过滤低质或不实内容提供可解释信号。
- 多语言与交叉语言支持可直接应用于跨境电商场景，统一处理不同语言下的商品图文真实性验证，无需为每种语言单独开发模型。
大规模生成式引擎优化：衡量品牌在AI搜索引擎中的可见性
🧭 生成式引擎优化 · AI搜索品牌可见性测量
Ranqo
首次对AI搜索引擎中的品牌可见性进行大规模测量，揭示品牌知名度三层阶梯与引用模式
📌 工作参考价值（4 点）
- 品牌权威性可用于生成式推荐的冷启动：论文量化了品牌知名度对提及率的巨大影响，电商平台内部LLM推荐产品时，可引入品牌层级特征，或主动补充中长尾品牌信息以缓解曝光马太效应。
- “best-of”榜单内容的高引用率启示：在生成商品描述或推荐理由时，可模仿榜单格式输出结构化推荐清单，提升信息密度和用户采纳率。
- 情感不稳定性警示：AI生成品牌相关文本时情感容易翻转，建议在面向用户的生成式推荐文案中加入实时情感校验或平滑机制，避免品牌形象波动。
- 多引擎差异化监控：不同AI引擎背后模型偏好不同，若业务中接入了多个LLM服务，需建立品牌展示的跨引擎对比看板，及时发现偏差。
覆盖约束下的数据偏差缓解与公平代价
🧭 数据公平性 · 覆盖约束与整数规划
Khoury College of Computer Sciences, Northeastern University, USA · Casa de Investigadores Científicos La Comarca, Uruguay · Cheriton School of Computer Science, University of Waterloo, Canada
在覆盖约束下用整数线性规划优化数据偏差缓解，显式量化公平代价与数据效率的权衡
📌 工作参考价值（4 点）
- 在构建推荐系统的训练数据时，借鉴覆盖约束的思想，强制要求每个用户子群体（如按性别×年龄×消费层级）达到最低样本量，避免长尾群体被模型忽略，提升公平性与整体性能。
- 使用整数线性规划对数据采样/增补策略进行全局优化，而非启发式重采样，可在数据购买成本或标注预算有限时，获得最优的数据修改方案，支持数据治理决策。
- 引入“公平代价”的量化概念，在业务中设定可接受的公平性容忍阈值（例如法律合规要求的特定偏差上限），据此计算最小数据修改成本，帮助在成本与公平间制定可解释的权衡。
- 该方法不依赖特定模型，可与现有分类器或推荐模型解耦，适合作为数据预处理管线的一部分，在电商/广告推荐中先行修正训练数据分布，再训练下游模型。
过滤近似最近邻搜索的查询感知路由框架
🧭 向量检索 · 过滤ANN · 查询路由优化
Australian National University
提出查询感知路由，用轻量回归模型预测各方法的召回，结合离线基准表动态选择最佳召回-QPS权衡的方法
📌 工作参考价值（4 点）
- 在电商/广告带属性过滤的向量召回场景中，可借鉴查询级路由思想：线上用轻量模型（仅需3个特征）预测各候选ANN方法的召回率，根据实际需要的召回-QPS平衡点动态选择方法。
- 工程实现：预建离线基准表（方法、参数、召回、QPS），线上查表选择，路由延迟极低。
- 特征工程简化回归目标：用回归预测召回率比分类方法预测更准，且只需查询向量的简单统计量（如均值、方差）和过滤率等3个特征。
- 可将该方法集成到推荐系统的多层检索中，对硬过滤（品类、价格区间等）与向量相似度统一优化，避免单一方法全局次优。
扩散模型中时间步嵌入的冗余性研究
🧭 生成架构简化与冗余去除
Independent Researcher, Lima, Peru
证明扩散模型可在无显式时间步嵌入下达到最优，输入可隐式推断噪声尺度，实现更高效生成架构
📌 工作参考价值（4 点）
- 在基于扩散的推荐模型（如 DiffRec）中，可尝试移除时间步嵌入，利用用户交互序列或物料特征直接隐式推断噪声尺度，减少额外调制参数
- 简化时间步调制后，推理阶段无需处理时间编码，降低工程复杂度与延迟，适合在线推荐场景
- 无时间步嵌入的扩散模型可能更鲁棒，尤其在数据稀疏的冷启动场景，模型会更关注内容结构而非时间信号
- 注意力可集中于去噪网络本身的结构设计，为序列推荐中利用上下文长度、时间间隔等信息提供新思路
MakeupMirror：在妆容迁移扩散模型中提升面部属性保留
🧭 虚拟试妆 · 扩散模型精细化控制
Amazon
通过面部几何控制、区域特定调制和肤色保持，将人脸识别相似度相对提升60%，肤色差异降低50%，推理仅0.7秒
📌 工作参考价值（4 点）
- 电商虚拟试妆：引入 ControlNet 编码面部几何（如边缘、关键点），可在生成中保持人脸结构不变，适合直接移植到在线试妆服务
- 区域特定调制：通过皮肤、眼唇等区域 mask 分别控制 makeup 强度和风格，避免溢出，提升妆容自然度，可迁移至商品图上局部修饰
- 肤色保持模块：跨人妆容迁移时根据源肤色调整参考妆容色彩，防止肤色漂移，增强用户信任，这对生产级 VTO 至关重要
- 加速采样：使用 Levenberg-Marquardt Langevin 采样器，将 50 步扩散降至 0.7s 推理，平衡质量与速度，适合移动端部署
UnityShots: 记忆驱动多镜头音视频生成与边界感知门控
🧭 多镜头视频生成 · 记忆机制
The Hong Kong University of Science and Technology · The Chinese University of Hong Kong · Kling Team, Kuaishou Technology · Tsinghua University · Sun Yat-sen University
用固定大小记忆槽和边界感知门控实现跨镜头一致性音视频生成，指标领先开源并与闭源持平
📌 工作参考价值（4 点）
- 多镜头连贯生成可直接用于商品展示视频：固定大小的长期记忆（锚定开场镜头）与短期记忆（前一镜头尾部）槽位设计，可在自动生成多角度、多场景商品介绍时保持产品外观、环境的一致性，避免人工拼接。
- 边界感知门控可用于用户行为序列的切点检测：将视觉切幅概率与节拍信号融合的思路，可迁移到电商用户session划分中，用行为突变信号（如点击间隔、内容切换）触发推荐策略切换。
- 离散切类型先验作为可控开关：通过AdaLN学习离散过渡强度，在生成时可控制镜头连接的平滑或突兀程度，类似推荐系统中多样性/一致性的可调节参数，适用于广告混剪的节奏控制。
- 参考说话人token保持音色：在虚拟主播、广告旁白等多镜头音频生成中，可保证人声一致性，无需滑窗音频库，降低工程复杂度。
有界噪声下的随机线性上下文老虎机：一种集合成员估计方法
🧭 在线决策 · 遗憾界改进
University of Illinois Urbana-Champaign
利用奖励噪声有界性提出 SME-OFU 算法，将遗憾界从 O(√T) 降至 O(log T)
📌 工作参考价值（3 点）
- 推荐系统中点击、转化等反馈天然有界（[0,1]），可假定噪声有界，比次高斯假设更强，理论上能获得更低遗憾。实践中可考虑在置信区间构建时利用边界信息，例如采用截断或基于集合估计的不确定性量化，替代通常的 Hoedffding 不等式。
- 集合成员估计（SME）提供一种非概率的置信集构造方式，可尝试替代传统岭回归置信椭球，特别适合对噪声分布缺乏先验但对边界明确的场景（如转化率预测）。工程实现上，SME 本质上维护一个参数可行集，可通过线性不等式约束求解，复杂度可控。
- 该算法的 UCB 形式（SME-OFU）求解一个凸优化问题，可通过投影梯度或凸包近似处理。在推荐系统的在线学习模块中，可借鉴其乐观选择策略：在可行参数集中选择最大化奖励且满足信息约束的动作，以加速冷启动收敛。
基于LLM引导的零样本主动特征获取
🧭 LLM-引导的零样本主动特征获取
Technion · CytoReason · NVIDIA
仅从LLM获取判别性统计量，用最大熵闭合构建MRF，实现零样本主动特征获取，性能超越LLM直接决策
📌 工作参考价值（4 点）
- 交互式推荐冷启动：利用LLM提取用户/物品特征之间的判别性共变关系构建MRF，指导对话式推荐中下一个最优问题的选择，零样本适配新领域。
- 最大熵闭合技巧：当LLM只返回类间区分信息而忽略类内分布时，可通过最大熵原则补全缺失统计量，使概率模型可用于规划，解决LLM输出偏差。
- 规划与知识分离架构：不让LLM直接做序列决策，而是仅提供特征依赖的统计量，再用MRF进行精确推理，规避LLM规划不可靠的问题，可复用于Agent主动信息获取任务。
- 预算受限下的top-k识别：在电商搜索或推荐中，需从大量候选中快速锁定少量目标时，可借鉴top-k主动特征获取策略，动态选择最具区分力的特征询问用户，降低交互成本。
Multi-LCB：将 LiveCodeBench 扩展至多编程语言的代码生成评估基准
🧭 多语言代码评估基准构建
GigaCode · Yandex School of Data Analysis, Applied AI Institute
将 LiveCodeBench 扩展到 12 种编程语言，揭示 LLM 跨语言代码生成的过拟合与污染问题
📌 工作参考价值（4 点）
- 多语言任务等价转换方法：通过翻译 Python 任务到其他语言并保持评估协议一致，可借鉴用于构建多语言推荐系统的等价测试集，例如将用户查询或物品描述转为多种语言，验证跨语言推荐的一致性。
- 模型过拟合检测：对比模型在 Python 与其他语言的性能差异，发现 Python 过度拟合；在推荐系统中，可通过类似手法分析模型是否过度依赖特定模态或高频特征，识别训练数据偏置。
- 污染感知评估设计：使用时间戳过滤任务，避免训练集污染，该机制可直接用于推荐基准的版本管理，确保评测的公平性和时效性。
- 多语言性能差距分析：暴露的多语言性能鸿沟提示在训练多模态 / 多语言推荐模型时，需平衡各语言的数据配比，并在评估中纳入多语言维度以指导模型优化。
ScholarSum：基于知识图谱推理与反思精炼的学生-教师摘要生成框架
🧭 LLM 摘要生成 · 事实一致性优化
State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China
通过分层知识图谱引导的学生-教师迭代框架，同时提升科学文献摘要的流畅性和忠实性
📌 工作参考价值（4 点）
- 商品文案生成的可信度增强：在生成商品描述或广告文案时，可借鉴分层知识图谱捕捉商品属性与卖点间的全局关系，再通过学生-教师迭代核对，确保文案不出现与商品实际信息不符的“幻觉”。
- 用户评论摘要的事实校验：为海量用户评价生成总结时，可以引入类似教师模型的检查步骤，识别无证据支持的概括，并触发重新检索原始评论进行改写，提升摘要的忠实度。
- 检索增强生成（RAG）中的迭代精炼：在电商知识问答或搜索导购场景，可将 ScholarSum 的反思机制嵌入 RAG 流程——先生成答案草案，再由独立评估器检查每个陈述是否有检索片段支撑，发现无依据内容后定向重查与重写，显著提高答案可信度。
- Agent 系统的事实验证模块：在多智能体协作架构中，可以专门设计一个“事实核查 Agent”，像教师模型一样审视其他 Agent 生成的文本，通过检索源头证据进行反驳和修正，提升整体输出的可靠性。
问题解决风格与经验如何影响开发者与 Copilot 对话的需求
🧭 对话式助手交互的认知多样性研究
Radboud University · Federal University of Technology – Paraná · Microsoft
通过有声思维研究识别开发者与编程助手对话的 5 种交互模式和 10 种需求，揭示认知多样性的影响
📌 工作参考价值（4 点）
- 在对话式推荐助手（如购物导购、广告客服）中，可参照此研究设计用户意图识别模块，根据用户的提问风格（如探索型 vs. 聚焦型）动态调整推荐策略，提供更个性化的交互体验。
- 为不同经验水平的用户提供差异化引导：新手可能需要逐步解释和示例，而专家偏好简洁快速的意图理解，可在对话流中设置自适应路径。
- 对用户交互日志进行模式聚类，类似文中识别的5种模式，可用于监控用户行为并触发主动帮助（如识别“挣扎”模式时推送提示）。
- 在评估对话式搜索/推荐系统时，引入认知多样性变量（如问题解决风格量表），更全面地解释不同用户群的满意度差异，避免“一刀切”的评估指标。
无求解器训练的预测后优化方法
🧭 预测后优化 · 决策导向学习
Department of Statistics and Operations Research, University of North Carolina at Chapel Hill
提出无需求解器的代理损失训练预测模型，用于线性优化决策，在保持决策质量的同时大幅减少训练时间。
📌 工作参考价值（4 点）
- 若推荐/广告系统中存在预测模块驱动下游优化（如动态定价、预算分配、库存分配），可借鉴该无求解器训练方式，避免每个梯度步调用优化求解器，实现高效迭代。
- 代理损失基于测度变换构建，具有Fisher一致性理论保证，可提供可靠的训练信号，不必担心近似引入偏差。
- 方法适用于线性目标优化，且允许决策区域为一般紧集（包括离散组合），可尝试迁移至广告组合优化、多目标物料分配等场景。
- 实验显示训练时间可减少两个数量级以上，对于需要频繁训练预测模型的生产系统有显著工程价值。
Moebius：0.2B轻量级图像修复框架，性能比肩10B模型
🧭 图像修复轻量化 · 知识蒸馏
Huazhong University of Science and Technology · VIVO AI Lab
通过新型骨干块与自适应多粒度蒸馏，用2%参数实现超10倍推理加速，修复质量媲美10B级工业模型
📌 工作参考价值（4 点）
- 骨干块中的 Local-λ 和 Interactive-λ 模块将空间与语义信息压缩为固定线性矩阵，大幅减少参数，这种“张量分解”式的特征交互压缩思路可直接用于推荐模型中的 MLP 层或 Attention 层压缩，降低推理成本。
- 自适应多粒度蒸馏策略在潜在空间动态平衡像素、语义等多层级损失，无需解码回像素空间，该方法可迁移到排序模型的知识蒸馏中：在 embedding 或 logits 层直接进行多目标蒸馏，避免昂贵的全图输出，提升效率。
- 将 10B 通用大模型的专业能力蒸馏到 0.2B 任务专用模型，在推荐场景可借鉴为：用大规模通用推荐模型（如 LLM4Rec）蒸馏出针对特定业务（如服饰 Occlusion 预测、商品图补全）的高效小模型，降低延迟。
- 整体框架强调“极致压缩 + 针对性蒸馏”，启发我们在 Agent 工具调用或搜索结果补全等实时性要求高的任务中，构造一个能快速执行的轻量 specialist，而非依赖厚重通用模型。
轨迹级监督下高效离线 RL 的统计条件
🧭 离线强化学习 · 轨迹级反馈理论
University of Wisconsin-Madison
提出 OPAC 算法，证明仅用轨迹级标量标签可实现样本高效离线策略优化，并刻画泛化结果监督的可处理条件
📌 工作参考价值（4 点）
- 在序列推荐或对话 Agent 中，若只有会话结束时的整体转化/点击等标量标签，可借鉴 OPAC 的悲观演员-评论家框架：先学习潜在步奖励模型，再用悲观值函数优化策略，避免盲目分配奖励导致的分布偏移恶化。
- 论文定义的泛化结果监督场景（如偏好、全成功目标）与推荐系统从会话级指标（如转化率、净推荐值）逆向学习策略高度对应，可通过结构系数 κ_μ(σ) 和 χ_μ(σ) 评估任务的信息损失，指导选择可处理的奖励聚合形式。
- 离线策略优化的悲观原则（Pessimism）在业务中已有应用，本文的理论保证（O(H^2√(C_sa/n))）为使用轨迹级反馈替代过程奖励提供了样本复杂度的量化依据，可在实验设计时预估所需数据量。
- 当结果标签与优化目标不一致时（如用点击率作为代理目标学习收益最大的策略），警惕指数级样本需求（Ω(2^H)）的陷阱，需通过线性近似或引入过程信号避免不可学习问题。
LLM搜索代理对抗Web内容操纵的背书脆弱性评估
🧭 LLM搜索代理安全评估
Center of Excellence for Generative AI, KAUST · Jilin University · Zhejiang University · The Swiss AI Lab, IDSIA-USI/SUPSI · NNAISENSE
提出SearchGEO框架，系统评估13种LLM搜索代理被恶意网页内容操纵后给出错误推荐的攻击成功率
📌 工作参考价值（4 点）
- 在电商/推荐系统中部署搜索型LLM Agent时，需引入类似SearchGEO的对抗性评估流程，测试不同模型后端对网页证据操纵的脆弱性，避免因恶意SEO内容导致错误推荐。
- 攻击成功率在不同模型家族差异显著（如Claude几乎免疫，Gemini高达31.4%），选型时必须将对抗鲁棒性作为核心指标，而非仅考虑基准性能。
- 高风险场景（如自动执行安装命令）应设计额外的安全护栏：观察到Claude过度拒绝而GPT过度信任，可根据业务容忍度选择模型或设置强制拦截规则。
- 同一部署脚手架在不同后端上可能放大或消减ASR，提示工程实现需针对具体模型调优，简单复用可能引入漏洞。
循环世界模型：迭代隐状态实现百倍参数效率
🧭 世界模型 · 循环架构 · 参数效率
FaceMind Research Asia
通过参数共享的 Transformer 块迭代优化隐状态，世界模型获得高达 100 倍参数效率并自适应深度
📌 工作参考价值（4 点）
- 参数共享的循环 Transformer 可迁移到用户行为序列预测，大幅减少长序列建模时的参数量和推理成本
- 自适应深度机制可根据输入复杂度动态分配计算，适合推荐系统中用户状态复杂多变的场景
- 迭代隐状态更新思想可用于长期兴趣演化模拟，替代传统的固定循环网络
- 主要是学术贡献，业务可借鉴点有限：当前仅在标准世界模型基准验证，缺乏推荐场景直接证据
A2D2：任意长度离散扩散微调实现自适应解码
🧭 离散扩散模型 · 奖励微调与自适应生成
University of Pennsylvania · Georgia Institute of Technology
提出联合优化插入/去掩码策略与质量推理调度的任意长度离散扩散奖励微调框架。
📌 工作参考价值（4 点）
- 将推荐列表生成建模为离散扩散过程，利用A2D2的奖励微调直接优化业务指标（如点击率），无需依赖代理奖励模型，理论上保证收敛到目标分布。
- 自适应解码中的质量调度机制可动态控制推荐列表长度与质量平衡，例如在电商场景中根据查询意图自动调整召回数量，提升效率与精度。
- AJD损失提供了最优路径测度的训练目标，可用于训练生成式检索模型，使生成的item序列更贴合用户偏好分布，减少曝光偏差。
- 推理时自适应调整插入/去掩码的调度策略，可迁移到Agent的响应生成中，根据对话状态动态决定生成内容的详细程度或步骤数。
多语言密集检索中查询嵌入插值何时有效？
🧭 多语言密集检索 · 查询嵌入混合策略
National University of Singapore
英语主导非对称性：非英语文档混合查询有益，英语文档索引纯英语最优，英语是最强混合伙伴
📌 工作参考价值（4 点）
- 跨境电商多语言搜索优化：当商品文档主要为非英语语言时，可以尝试将用户查询的英语翻译与原查询嵌入插值，利用英语作为“锚点”提升跨语言理解，实验中非英语文档索引上混合查询均优于单语查询。
- 索引语言决定混合策略：若索引中包含大量英语文档（如全球站），建议保持纯英语查询以获得最佳效果，混合反而有害；该非对称性可指导工程上按索引语言动态选择是否启用查询混合。
- 选择最佳混合伙伴：英语与任何非英语语言混合均有增益，且是通用最强伙伴；在多语言Agent或推荐系统中，可优先使用英语变体作为辅助表示，无需为每个语言对单独寻优。
- 根据语言类型距离调参：当排除英语干扰后，混合收益与语言间类型距离负相关；对于语法结构相近的语言对（如西班牙语-意大利语），可预期更高混合收益，可用于启发式设计混合比例超参数。
GF-DiT：面向扩散 Transformer 服务的动态并行调度
🧭 扩散模型服务 · 动态并行调度
Shanghai Jiao Tong University · Guizhou University
将 GPU 并行度作为可调度资源，通过弹性运行时和轻量组通信大幅提升 DiT 服务效率
📌 工作参考价值（4 点）
- 动态并行调度思想可直接应用于电商场景中的图像/视频生成服务（如商品图生成、虚拟试穿），根据请求量波动弹性分配 GPU，提升资源利用率并保障延迟 SLO
- Group-free collectives 的低开销通信组建立机制（从 778ms 降至 60μs）可用于需要频繁重配并行组的多 Agent 协作推理或分布式模型推理，减少通信初始化开销
- 异步执行抽象（请求分解为可独立调度的轨迹任务）可借鉴到长推理链的 Agent 系统中，提高步间并发和 GPU 利用
- 策略可编程运行时设计允许按业务目标（如优先降低 P99 延迟）配置并行调整策略，适合推荐系统中对生成式模块的差异化服务质量要求
Influcoder：将解码器梯度影响排名蒸馏至编码器以加速数据归因
🧭 数据归因 · 影响函数加速
Centre Inria de l'Université de Lille · CRIStAL · Université de Lille
通过将解码器梯度影响排名蒸馏为编码器直接输出，实现大规模数据归因的快速近似。
📌 工作参考价值（3 点）
- 大规模数据排查加速：在推荐/Agent 模型出现异常行为（如偏见、违规输出）时，需快速定位有害训练样本。Influcoder 用轻量编码器替代逐样本梯度计算，可在电商场景中用于快速检索“中毒”样本，大幅缩短排查周期。
- 训练数据在线过滤：若已有标注的好/坏样本集，可参照 Influcoder 的排名蒸馏思想，训练一个小型影响评分模型，实时判断新采集的日志样本是否值得加入训练，避免离线全量重算影响函数。
- 蒸馏目标的迁移：方法中的 pairwise 排名损失（使编码器输出排序与真实影响排序一致）可借鉴到其他需要“排序替代计算”的场景，例如召回阶段对候选 item 的重要性排序、特征选择或数据增强样本的优先级评估。
基于反事实学习的大规模网络根因分析框架
🧭 网络运维 · 反事实因果推断
Amazon Web Services
将网络事件建模为图时序过程，通过反事实仿真自监督学习因果排序，根因准确率提升16.1%
📌 工作参考价值（4 点）
- 推荐系统故障根因定位：可将物料/链路故障传播建模为图网络，用反事实仿真排序根因，替代人工规则排查。
- Agent 联合诊断：多智能体协作场景下，借鉴图时序模型捕捉跨服务依赖，定位宕机或延迟瓶颈。
- 因果推断工程化：使用自监督预训练 + 小样本专家标注微调，适合线上系统冷启动与成本控制。
- 轻量级推理：训练耗时但线上推断仅需秒级 GPU，可在推荐召回链路实时嵌入根因分析模块。
基于延迟市场反馈的多智能体强化学习目标权重自适应三方调度
🧭 多智能体调度优化 · 离线强化学习 ★ 深度解读
DoorDash Inc.
离线RL从真实市场延迟反馈中学习调整调度优化器的目标权重，实现效率提升而不损害质量
📌 工作参考价值（4 点）
- 通过低维目标权重接口控制现有优化器，避免直接替换，既保留约束与安全，又实现自适应调节；电商推荐中可类比为调节召回/排序目标权重的外部Agent。
- 利用离线RL从延迟且耦合的市场反馈中学习，采用 Double DQN 与 Conservative Q-Learning 惩罚未充分支持的动作，减少外推误差，适合业务中无法实时交互的场景。
- 多智能体完全去中心化执行、集中训练，并利用区域级奖励捕捉网络效应，对电商中多地区/多仓库协同决策具有借鉴意义。
- 上线前通过离线奖励重加权诊断策略行为的方向灵敏度，确保策略按预期权衡速度与效率，可作为推荐Agent上线前的安全检验方法。
理解图神经网络的截断位置编码
🧭 图神经网络位置编码理论分析
Oregon State University · University of California San Diego
揭示截断位置编码的表达能力差异，指出混合使用优于单一类型
📌 工作参考价值（4 点）
- 推荐系统构图若采用截断谱位置编码（如前k个拉普拉斯特征向量），需注意其表达能力不超过1-WL，建议同时引入walk-based位置编码（如邻接矩阵幂）以增强节点区分能力。
- 混合不同类型的截断位置编码在实验中表现更好，类似多模态特征融合，可在异构图或用户-物品交互图中组合多种廉价PE（如随机游走特征+低阶谱特征）来补偿各自的表达力损失。
- k-harmonic distances 作为新型谱PE，提供了不同于传统特征向量的全局信息，可尝试在商品相似图或会话图中添加该特征，捕捉局部与全局结构的平衡。
- 资源受限场景下必须截断时，避免仅单一截断类型；可设计轻量级混合PE模块，通过可学习权重或门控机制自适应融合，在不显著增加复杂度的前提下提升图模型性能。
S-GBT：通过二阶Hessian正则化实现NLP词替换认证防御
🧭 NLP对抗鲁棒性 · 二阶认证
College of Computing, Mohammed VI Polytechnic University, Morocco · ENSIAS, University Mohamed V of Rabat, Morocco · CID Development, Morocco
利用逐元素Hessian界的平滑增长张量正则化，将认证鲁棒准确率提升最高23.4%
📌 工作参考价值（4 点）
- 思路可迁移至推荐模型的鲁棒训练：对用户/物品文本描述或评论进行词替换攻击防御，可借鉴S-GBT的二阶正则项，在embedding层后加入Hessian范数惩罚，提升模型对输入微小扰动的稳定性。
- 针对电商搜索或推荐中的query改写攻击，可将S-GBT嵌入query理解模型（如LSTM/CNN编码器）的训练目标，同时约束梯度和曲率，获得更紧的认证界。
- 二阶正则化技巧可泛化到多模态模型（例如图文匹配）中，对视觉特征提取器施加类似的平滑性约束，增强多模态表示的鲁棒性。
- 在Agent规划中，若使用LSTM/CNN处理文本上下文，可引入S-GBT正则，防止对抗输入导致错误动作预测，提升安全关键场景下的可靠性。
Simplex约束稀疏Bagging：集成学习从均匀先验到稀疏后验
🧭 集成学习压缩与概率校准
Georgia Institute of Technology
提出Simplex约束稀疏Bagging，通过凹二次惩罚在单纯形上实现集成剪枝与校准，压缩率达96%
📌 工作参考价值（4 点）
- 在推荐模型集成（如多模型融合）中，可直接使用SCSB对基模型权重进行稀疏化，仅保留最有价值的子集，显著降低线上推理延迟，特别适合实时推荐场景。
- 面向CTR预估等需要概率输出的任务，利用OOB损失优化权重能提升概率校准，降低期望校准误差，避免过自信预测，改善模型可信度和拍卖阶竞价效率。
- 方法模型无关，轻量级后处理，可快速集成到现有Bagging管道（如随机森林或Bagged NN）而不改动原始训练流程，方便在已有系统中试水。
- 避开L1在单纯形上失效的坑，通过凹二次惩罚产生真正稀疏解，验证了稀疏正则项与约束空间关系的工程陷阱，对设计其他概率约束稀疏化方案有参考价值。
MLT-Dedup：基于多级表示与时空匹配的大规模在线视频去重
🧭 大规模视频去重 · 多级表示与时空匹配
TikTok · National University of Singapore
多级表示联合时空匹配，显著降低线上重复率并提升索引容量5倍
📌 工作参考价值（4 点）
- 多级表示与分级匹配范式可迁移至推荐去重：用轻量级稀疏 Embedding 快速召回候选重复商品/内容，再加载精细 Embedding 做高精度比对，平衡效率与精度，适合大规模推荐流中实时去重。
- DiF-SiM 相似度模块可用于内容理解：差异增强相似度能定位局部重复片段，可借鉴到视频/直播切分、片段检索或商品主图去背景后相似度判定，提高变体识别鲁棒性。
- 稀疏检索设计提升索引容量：用低维稀疏向量构建索引，容量翻倍，对于推荐系统里海量物品指纹索引（如向量召回库）有直接参考价值，可降低索引内存，扩大候选集覆盖。
- 在线去重决策框架：结合业务策略（容忍度、时间窗口）与相似度证据的脱耦设计，可直接移植到电商推荐中的内容质量治理、重复商品惩罚或去重策略配置。
自演化的视觉提问者
🧭 自监督问题生成 · 视觉提问
University of Maryland, College Park · University of California, Los Angeles · Peking University · Arena · MBZUAI
让VLM通过自我生成与过滤，逐步产出更困难、更多样化的视觉问题，无需外部监督
📌 工作参考价值（4 点）
- 搜索/推荐场景下，可用类似 self-evolving 范式自动产出更困难、更多样化的用户查询词或推荐理由，无需人工标注。
- 对话式推荐 Agent 可利用自提问-过滤机制，主动向用户提出高信息量的澄清问题，提升交互效率。
- 论文的 Agentic 评估协议（感知、推理、多样性）可直接迁移用于评估推荐系统生成的 query 或对话的质量。
- 工程上可借鉴其双模式训练（提问者+回答者联合优化），保证生成能力不损害原有任务性能。
从二维网格到一维令牌：重塑多模态图像融合的共享表示
🧭 多模态图像融合 · 1D token表示
Zhejiang University · National University of Singapore · A*STAR (CFAR) · A*STAR (IHPC)
用冻结图像分词器的1D token作为全局外观载体，结合2D局部路径，通过选择性令牌编辑轻量控制融合一致性。
📌 工作参考价值（3 点）
- 论文用冻结的 VQ-VAE 类图像分词器将全局外观编码为少量 1D token，仅编辑关键 token 就能显著影响融合图像的色调、对比度等全局属性，这种“分离控制”的思路可以迁移到多模态商品图生成（如背景/光影切换）的轻量后处理模块。
- Selective Token Editing 的稀疏更新策略（只替换 1–5% 的 token）是一种低成本的条件注入方式，类似 Idea 可应用于推荐场景中视觉特征的快速领域自适应（如换季风格迁移），避免全量微调。
- 2D 与 1D 双路径并行的设计，为多智能体系统里“局部推理+全局规划”提供了一种具象化的架构参考：一个路径保留细粒度结构，另一个路径用 latent token 进行高层控制，两者解耦但互补。
基于大语言模型的社会世界模型构建
🧭 社会信念动态建模 · 预测市场
University of Illinois Urbana-Champaign · Carnegie Mellon University
提出社会世界模型（SWM），利用LLM从预测市场数据学习社会信念的状态转移规律
📌 工作参考价值（4 点）
- 群体趋势预测的思路：电商场景中可将商品/话题的集体兴趣视为“社会信念”，借鉴SWM框架，用搜索量、点击量等时序数据作为信念强度代理，结合事件（如大促、热点）训练状态转移模型，提前预判需求变化。
- 低成本监督信号：使用预测市场概率（如Polymarket）或内部平台上的“用户期望投票”作为信念标签，替代昂贵的用户调研，动态捕捉用户对商品/功能的偏好强度。
- LLM作为可解释时序引擎：用LLM编码事件并学习时序上的ELBO，得到可解释的状态转移，这可以迁移到推荐系统的多步序列建模中，提供“用户状态→行为”的可视化解释。
- 事件驱动的多智能体模拟：Agent系统可借鉴SWM，用LLM预测其他Agent或用户的信念变化，辅助协作决策（如谈判、动态定价），但领域差异较大，需谨慎适配。
面向多样科学假设搜索的并行回火进化框架
🧭 多样性假设搜索 · 并行回火进化
Georgia Institute of Technology · Virginia Tech · Carnegie Mellon University · University of California, Berkeley · University of Cambridge
用多温度层并行进化与信息交换，在固定验证预算下提升假设质量与多样性
📌 工作参考价值（3 点）
- 多样性保持机制可迁移至生成式推荐：在 Semantic ID 生成或候选集采样时，借鉴多温度并行搜索与信息交换，缓解模式坍塌，产出多样且高质量推荐结果。
- 探索-利用权衡的新思路：多 Agent 协作中，每个 Agent 可对应不同温度，高温度者负责探索，低温度者负责精细利用，定期交换优质种子，既能保持群体多样性又不失收敛效率。
- 固定预算下的采样策略：推荐系统召回阶段常需有限算力生成多个候选池，论文中“采样问题”视角与温度调度方法可直接启发多样性召回的设计，在预算内平衡覆盖率和精度。
世界模型自蒸馏：无需任务标注训练指令跟随视频智能体
🧭 世界模型 · 自蒸馏 · 强化学习 ★ 深度解读
Department of Computer Science, University of Bern
通过自蒸馏将详细描述知识迁移到简洁指令模型，并结合VLM反馈RL超越教师
📌 工作参考价值（4 点）
- 自蒸馏思路：用大模型生成丰富描述（如推荐理由、多模态内容），将其蒸馏到轻量指令跟随模型，降低线上成本。在电商文案生成或对话Agent中可复现。
- VLM弱奖励+RL：利用VLM作为零样本评估器为生成结果打分，指导强化学习迭代，避免人工标注。适用于推荐解释、搜索query改写等生成任务。
- 蒸馏奖励与任务奖励混合：用教师模型提供密度正则化，防止RL策略崩溃，这一平衡技巧可迁移到基于LLM的推荐策略优化。
- 数据生成范式：用VLM从未标注图像自动产出任务-解方案对，类似用LLM从用户行为日志生成训练样本，缓解语义ID生成或交互推荐中的数据稀缺。
实时视觉交互模型 JoyAI-VL-Interaction：主动决定何时开口的 8B 级视觉模型
🧭 实时视觉交互模型与系统 ★ 深度解读
JD.com
首个开源、视觉驱动的 8B 交互模型，每秒自主决策沉默/响应/委派，并配有完整部署系统。
📌 工作参考价值（4 点）
- 直播电商 / 短视频场景可直接借鉴其“每秒决策”范式：模型持续观看直播画面，自主判断何时插话（如提醒主播漏讲卖点、解答观众疑问），而非被动等待提问。
- 委派（delegate）机制适合复杂任务卸载：当需要生成商品详情页 HTML 或调用知识库时，模型可暂停实时应答，将任务异步交给后端大模型或 Agent，保持对用户的实时存在感。
- AdaCodec 视频压缩策略（对可预测帧仅用约 16 个 token）大幅降低长流推理成本，适合需要连续观看监控或直播的电商 AI 助手，降低部署门槛。
- 分层记忆设计（短期缓冲 + 中期文本摘要 + 长期归档）与 vLLM 前缀缓存结合，实现两小时以上连续视频的亚秒级延迟，可用于需要长上下文记忆的在线导购或客服会话。
通过教师对齐的端到端蒸馏实现高保真两步图像生成
🧭 图像生成 · 扩散模型蒸馏
Z-Image Team, Alibaba Group · The Chinese University of Hong Kong
用教师对齐对抗学习、分步解耦参数化和端到端迭代正则化，将8步扩散模型蒸馏至2步，显著缩小质量差距
📌 工作参考价值（4 点）
- 教师对齐对抗学习思路可迁移到推荐系统知识蒸馏：用教师模型输出作为 GAN 的“真实”样本，比外部数据更易拟合，可缓解模式坍塌，适用于召回 / 排序模型的轻量化训练。
- 分步解耦参数化可借鉴到多阶段 Agent 推理链：对不同步骤分配独立参数，针对性优化各阶段容量，适合多步推理、级联推荐等场景。
- 端到端迭代正则化让中间步骤接收最终质量梯度，同时保留中间监督，可用于多阶段推荐模型训练，使粗排 / 召回同时对齐最终精度且保持中间结果可用。
- 极限压缩（2 步）下的质量保持策略对实时推荐场景有启发：例如将重排序模型蒸馏为轻量两阶段模型时，可通过类似技巧压缩推理开销，维持效果。
个性化显著性：标亮是社交性的，但个体性体现于选择
🧭 个性化行为分析 · 用户建模 ★ 深度解读
Glasp Inc.
利用共读控制分离通用、群体和个体显著性，发现个体信号在已标亮段落的选择任务中强度约为突出段落的6-8倍，且主要来自主题偏好。
📌 工作参考价值（4 点）
- 在个性化推荐中，应侧重用户在已筛选候选池中的选择行为（二次排序/重排），而非仅依赖一般兴趣特征；本研究表明个体性在“选择”任务中比“显著性”任务高近一个数量级。
- 构建个性化模型时必须杜绝目标文档泄漏到用户画像中：论文发现幼稚排除会导致 +0.07~0.15 AP 的虚假提升，务必精确剔除。
- 群体共识随文档流行度下降（但趋势尚未确证），可能意味着长尾/小众内容上个性化空间更大，但在热门内容上群体信号已足够强，可考虑在冷启动或长尾场景强化个体建模。
- 用户选择倾向可由少量行为（几十次高亮）有效捕捉，继续增加历史收益很小（平台状），在工程上可据此设定画像大小上限、降低存储和计算成本。
将未来行为预测作为学习任务
🧭 行为预测 · 推理模型可解释性
Bar-Ilan University · Constellation · Allen Institute for AI · UK AI Security Institute
训练Behavior Forecaster从推理轨迹直接预测大推理模型的行为，比强LLM更准且成本更低。
📌 工作参考价值（4 点）
- 若使用大推理模型（如DeepSeek-R1）做搜索排序、Agent决策，可通过训练小模型预测其输出一致性，低成本做线上预检。
- 自动构建训练数据的方法：多次查询LRM获取轨迹与行为标签，无需人工标注，适合构建自定义监控模型。
- 预测LRM对输入扰动的敏感性，可用于评估输入中哪些特征对推荐结果影响大，辅助特征工程。
- 推理轨迹包含比纯文本阅读更丰富的信息，建议在LLM诊断时利用轨迹特征训练下游预测模型，而非依赖提示工程。
面向高维ANN的无指针切空间分层搜索方案
🧭 近似最近邻搜索 · 向量索引与缓存优化
Substratum Labs
用局部切空间降维与无指针Block-SoA布局替代图索引，实现3.6倍提速与近乎零缓存缺失。
📌 工作参考价值（4 点）
- 电商推荐系统的向量检索引擎可借鉴“聚类-局部 PCA-无指针扫描”策略：将物品 embedding 按簇划分，簇内用少数主成分重建，避免全量高维点积，同时利用 Block-SoA 布局提升 SIMD 效率，减少缓存失败。
- Agent 需要瞬时零拷贝分支与快照时，可参考 HNTL 将向量数据组织为只读 Block-SoA，配合分层索引实现轻量级版本切换，无需复制大量指针图。
- 在高并发场景下，无指针的连续内存布局比图遍历更 CPU 流水线友好，可直接迁移到 Rust/C++ 推理服务中减少停顿，实现每向量 < 5ns 的扫描性能。
- 当新物品增量加入时，只需更新局部 PCA 基即可保持高召回，适合推荐 embedding 频繁更新的环境。
多任务模型合并的闭式谱正则化方法
🧭 模型合并 · 谱正则化 ★ 深度解读
Tsinghua University · Sun Yat-sen University · Nanyang Technological University
将模型合并视为带噪线性逆问题，用闭式谱滤波替代迭代优化，加速28-72倍且精度不减
📌 工作参考价值（4 点）
- 多任务模型合并的加速与显存优化：电商推荐系统中常需合并多个专用模型（如CTR、CVR、多目标专家），SWUDI/SWUDI-A 的闭式解可替代 WUDI 的数百步 Adam 迭代，将合并时间从数十分钟降至分钟级，显存占用减少 50%，适合线上快速迭代与多模型部署。
- 噪声抑制的谱截断策略：合并不同任务向量时，小特征值方向会放大代理噪声，硬截断（hard truncation）可以将其直接归零，防止合并时性能退化。这一思路可直接用于推荐场景中合并多个 LoRA 适配器或任务向量，提升多任务融合稳定性。
- 自适应层维秩选择：SWUDI-A 无需手动设置全局秩阈值，利用参与比率平方根规则或 Gavish-Donoho 阈值自动决定每层保留的特征值个数，适配不同架构（视觉/语言/多模态）。在推荐模型中，不同层对任务冲突的敏感度不同，自适应规则能减少调参成本，提高合并鲁棒性。
- 数据无关与测试时适配结合：闭式谱合并结果可与 AdaMerging 等测试时适应方法正交，作为 data-free 初始化进一步提升精度。在 agent 多智体系统中，可先融合专家模型再根据少量在线反馈微调，兼顾效率和效果。
LLM 引导的进化搜索优化医学决策管道
🧭 LLM 引导的进化优化与医学决策管道 ★ 深度解读
Sber AI Lab · AIRI
利用 LLM 引导的 MAP-Elites 进化算法在推理阶段自动发现超越人工设计的医学分诊、交互问诊和图像分类策略，无需微调模型。
📌 工作参考价值（4 点）
- 程序级搜索代替手工调参：将业务决策管道（如推荐排序、出价策略、Agent 对话流）设计为可执行的 Python 模块，以 LLM 作为 mutator 自动变异 prompt、控制逻辑、投票规则等，而不仅是调整单个 prompt，可迁移到电商 Agent 的策略自动优化。
- 安全/业务目标下的适应度设计：借鉴论文中分诊任务的不对称加权适应度（高代价错误如漏召、低召回加权更高），在推荐场景中可为关键指标（如转化、高价值商品召回）赋予更高权重，同时约束输出合规性（如 JSON 格式）作为准入条件。
- 推理时进化代替模型微调：在冻结模型上通过进化搜索优化策略，降低计算成本，适合频繁变更的业务规则或个性化策略迭代，例如对已部署的推荐 Agent 做安全策略补丁。
- 交互式场景的成本-质量前沿探索：通过 MAP-Elites 在对话轮次/ token 消耗与准确性之间找到帕累托前沿，可复用于电商客服 Agent 的对话策略优化，实现低延迟高满意度的自适应询问与响应。
带有动作条件保证的共形风险规避决策
🧭 共形预测与风险规避决策
引入动作条件共形预测，为每项决策动作提供显式安全保证，提升风险规避决策可靠性
📌 工作参考价值（4 点）
- 推荐系统中的 risk-averse 场景（如高价值用户触达、推送时机选择）可借鉴动作条件保底思想：对每个候选动作（推送/不推送）单独构建共形预测集，避免因边际保证导致某些动作下风险失控。
- 多智体动作选择中，可为每个 agent 的动作输出附带安全区间，防止某个动作因不确定性极高而拖垮整体收益，尤其适合电商广告自动出价等需要逐动作风险控制的决策。
- 工程实现上 pinball loss 最小化为共形预测提供了一种无需重训练的有限样本算法，可直接集成到现有 ML pipeline 的后处理中，降低落地成本。
- 在生成式推荐的候选集过滤阶段，用动作条件的 coverage 保证替代全局 top-k 截断，能提升对长尾商品/新商品的探索安全性，平衡收益与风险。
Vortex：面向AI Agent的高效可编程稀疏注意力服务系统
🧭 稀疏注意力服务系统 · AI Agent 自动化研究 ★ 深度解读
Carnegie Mellon University · Rice University · National University of Singapore
一个将稀疏注意力算法表达、部署与评估深度融合到LLM服务框架中的系统，使AI Agent可自动生成并迭代优化稀疏注意力，实现高达3.46倍吞吐提升且保持精度。
📌 工作参考价值（4 点）
- 可编程的稀疏注意力抽象（vFlow）：通过两阶段（缓存预处理与查询索引）的简单编程模型，快速实现各种动态稀疏模式，避免大量重写底层算子的工程开销，可直接借鉴到推荐模型中对长序列注意力的定制化改造。
- 兼容现有服务基础设施的vTensor抽象：原生支持分页KV cache、prefix caching等，确保理论加速转化为端到端吞吐提升，这种“不破坏现有栈”的设计思路可迁移到推荐系统大模型推理优化中，减少与生产环境的脱节。
- AI Agent 驱动的算法自动搜索与迭代：论文展示了AI代理利用Vortex一次性生成多样性稀疏算法并在长周期自主优化，形成精度-吞吐 Pareto 前沿，此类结合系统快速反馈的自动化调优流水线可应用于推荐模型的超参数搜索或结构优化。
- 随机化 radix top-k 的精度-速度权衡：通过随机早停降低 top-k 计算开销，可应用于推荐系统中高效召回或注意力选择阶段的 top-k 操作，在轻微精度损失下换取显著加速。
WebKnoGraph：基于图神经网络的内部链接评估框架
🧭 SEO·内部链接评估·图学习
Technical University of Munich · Ss. Cyril and Methodius University in Skopje
用GraphSAGE评分候选内部链接并嵌入主机环境图，评估权威度与语义连贯性影响
📌 工作参考价值（4 点）
- 电商网站商品页、分类页间的内部链接优化可借鉴GraphSAGE预测语义连贯性作为链接评分，替代人工规则。
- 多指标联合评估（权威收益、语义成本、波动性、损失-收益比）的思路可直接用于推荐系统中物品关联关系的离线评估，避免单一指标误导。
- 构建host-level环境图模拟外部影响的方法，可迁移到电商推荐中评估跨域或跨店铺链接的效果。
- 自动化生成候选集+专家审核的流水线，适用于电商运营对自动推荐关联商品进行人工把关，平衡流量效率和用户体验。
修正思维而非动作：通过定位知识鸿沟实现可解释的AI辅助
🧭 可解释AI辅助 · 知识误解诊断
University of Southern California
从行为反推认知误解，以最小干预修正内在知识缺陷，而非纠正单个错误动作
📌 工作参考价值（4 点）
- 可借鉴其“从行为序列反推认知偏差”的思路，在推荐系统中针对用户频繁点击低质内容的行为，诊断其对商品关键属性的误解，并生成解释性提示（如“您可能忽略了XX参数”）。
- 结构化知识表示（如属性-关系图）与组合泛化能力，可启发构建模块化的用户兴趣模型，即使只见过单一偏好偏差，也能在推理时解耦并处理用户多因素混合的误解。
- 在智能客服或对话Agent中，可模仿SENSEI框架，通过用户提问序列定位其知识鸿沟，提供最少量但关键的信息纠正，提升问题解决效率。
- 多智体协作场景中，可将该框架用于Agent间信念对齐：当检测到其他Agent执行了次优动作时，主动推断其策略中的误解，并定向沟通修正，替代简单的动作级干预。
基于强化学习的上下文语言学习实现未见过语言翻译
🧭 语言翻译 · 低资源强化学习
University of Zurich · ETH Zurich · Queen’s University Belfast
用轻量翻译指标做奖励，RL训练LLM学会从上下文中提取语言知识，泛化到全新语言。
📌 工作参考价值（4 点）
- 弱奖励信号的RL优化：使用chrF这类粗糙指标也能有效驱动LLM学习复杂技能，类似地，在电商场景中可以直接用点击率、转化率等业务指标作为奖励，对推荐Agent进行RL策略优化，即使没有精细标注。
- 上下文利用的元学习：RL训练让模型掌握“从上下文快速学习语言”的元能力，这可以迁移到推荐场景——让Agent学会根据少量用户行为或商品描述在上下文中即时调整策略，而不是死记硬背历史数据。
- 低资源泛化：在冷启动物品或小众品类推荐中，可借鉴该方法，用少量示例作为上下文，通过RL强化模型对结构化信息的提取与利用，降低对大量标注数据的依赖。
- 训练范式选择：与监督微调相比，RL避免了对特定领域数据的过拟合，提升了零样本迁移能力，这对需要快速适应新业务场景的电商Agent有参考价值。
世界-语言-动作模型：统一世界建模、语言推理与动作合成
🧭 具身AI · 世界-动作模型
SJTU · SII · HUST · SCUT · ECUST
提出WLA模型，基于自回归Transformer联合预测文本子任务、子目标图像和动作，统一世界建模与语言推理
📌 工作参考价值（4 点）
- 世界预测辅助动作生成的分工设计：可借鉴世界专家与动作专家的解耦思路，在推荐/Agent中引入辅助世界建模任务（如用户状态或环境变化预测），为决策提供额外信号，训练时利用世界预测的归纳偏置，推理时可关闭以降低延迟。
- 自回归联合预测语义意图与物理动作：用户行为序列建模可扩展为同时预测下一步的语义意图（如查询词）和具体动作（如点击），提升推荐策略的长程一致性。
- Test-time scaling机制：世界预测在推理时可按需激活，通过多步前瞻提升动作准确性。在推荐场景中，类似地可在关键决策点（如重排序）冗余计算未来用户状态，以计算换性能。
- 从无标注视频学习新任务：论文展示了仅利用无动作标注视频预训练的潜力，对电商中从无强监督行为日志学习策略有启发，但需注意领域差异。
SEAOTTER：传感器嵌入自编码器与一次性转码的高效云机器人图像压缩框架
🧭 云机器人图像压缩与任务感知表示
The University of Texas at Austin
结合学习型潜在表示与 JPEG 兼容性，在极端带宽下实现快速编解码与高任务精度
📌 工作参考价值（4 点）
- 若业务中有端侧低功耗图像采集与云端处理链路，可借鉴“非对称自编码器 + 标准格式兼容”思路：传感器端用轻量编码器生成紧凑潜在表示，云端一次性转码为 JPEG，兼顾带宽与下游生态兼容。
- 可学习 JPEG 色彩与量化变换（learnable color & quantization transform）是一种保留标准解码器下提升任务精度的 trick，类似思路可用于对既有 JPEG 管线做任务感知后处理，而不改动解码端。
- 任务感知转码（task-aware transcoding）设计可迁移到推荐系统的多模态特征压缩：为不同下游任务（如分类、VLM）训练不同转码头，共享冻结的编码器，降低整体训练成本。
- 对于视觉特征存储与传输场景，采用冻结编码器 + 可训练转码的策略，可以在不重新训练上游模型的前提下适配压缩率与任务精度权衡，减少重复训练开销。
质量引导的半监督医学图像分割学习
🧭 医学图像分割 · 半监督学习 · 质量评估
School of Computing Science, Simon Fraser University, Canada
用专用网络预测分割质量，通过合成腐败训练该预测器，并以质量感知正则化与伪标签重加权增强半监督分割
📌 工作参考价值（4 点）
- 训练辅助网络评估生成结果质量并用于样本加权，该思路可迁移到电商弱监督学习，例如对用户行为序列生成的伪标签进行可靠性评分。
- 通过合成腐败（噪声、掩盖、变形）构造低质量数据训练质量预测器，类似方法可用于构建电商图像或文本描述的质量评估器。
- 质量感知正则化损失：对低置信度区域施加平滑，可类比于推荐模型中对不确定性高的预测施加正则，防止过拟合噪声标签。
- 即插即用的设计降低了集成成本，该思想可直接应用于现有半监督Agent或生成式推荐框架，快速引入质量感知机制。
DocRetriever：即插即用的多模态文档检索框架与全面基准
🧭 多模态文档检索
Zhejiang University · Huawei Technologies Co., Ltd
提出布局感知稀疏嵌入与推理增强重排序的即插即用框架，并构建多维度评估基准MultiDocR
📌 工作参考价值（4 点）
- 布局感知稀疏嵌入：无需OCR即可编码文档结构，适合电商商品详情页（图文混排）的检索，可迁移至商品描述与图片联合编码，保留排版信息提升匹配精度。
- 推理增强少样本重排序器：利用推理链演示和优化采样降低领域数据依赖，可用于推荐系统重排模块，在冷启动或跨域场景下快速适应，提升泛化能力。
- 混合编码策略：结合密集与稀疏表征，平衡效率与精度，可直接应用于Agent知识库的多模态文档检索，改善问答系统的证据召回质量。
- 评估基准MultiDocR：提供细粒度相关性和多维度评估设计，可借鉴其构建思路，为电商搜索或推荐场景设计更全面的相关性评估集。
来源标签如何更强烈地扭曲人类的逻辑谬误判断？LLM 更稳健
🧭 人类与LLM在来源标签偏见上的对比研究
The Pennsylvania State University
来源标签（人类/AI）显著影响人类的逻辑谬误评估，而LLM评价保持相对稳定
📌 工作参考价值（4 点）
- 人工评估去来源化：在 UGC 审核、推荐理由质量评估、对话回复打分等场景，不要向评审者展示内容来源（人类/AI），避免“人类写的就更可信”的偏见
- LLM 做先验评判：构建人类反馈对齐（RLHF）数据时，可先用 LLM 对候选内容进行无来源偏见的逻辑/质量评分，再让人工仅针对 LLM 标记的争议点复核，提升标注一致性
- 推荐理由的标签策略：若想提升用户信任，对优质推荐理由可弱化“AI 生成”标签或强调“人工润色”，对低质理由无需披露来源；反方向则可利用标签警示用户批判性看待 AI 内容
- 多智体协作中的信源加权：Agent A 收到标明“人类撰写”或“AI 辅助”的信息时，可内置 LLM 仲裁器重新评估逻辑/事实，降低信源标签对后续决策的链式影响
SCOUT：基于事前推理的自适应检测器分配防御提示注入
🧭 提示注入防御 · 自适应检测器分配与路由 ★ 深度解读
UC San Diego · University of Illinois Urbana-Champaign
SCOUT 通过预测各检测器对每个请求的可靠性与延迟，动态分配轻量检测器并按需升级至 LLM 法官，实现可控的安全-效用权衡
📌 工作参考价值（4 点）
- 多检测器动态分配架构：可借鉴"指纹+预测器"的轻量路由思路，为电商推荐系统的多模型服务（如不同召回、排序模型组合）建立自适应调度，根据请求特征选择最优模型子集，避免昂贵的全模型调用。
- 成本-质量可预测控制：通过事前估计延迟和正确性并绑定单一阈值，可实现服务等级协议（SLA）管理，如限时延迟预算，自动选择满足延迟约束下最可靠的模型组合，适用于在线推理的时序控制。
- 异质模型池的无缝扩展：新检测器仅需在锚点集上记录行为即可加入路由，无需重训练路由策略，该模式可直接迁移到多模型服务中，降低新增模型的上线成本。
- 风险分级与升级机制：在 Agent 工作流中，可将不确定请求升级至更强大的模型（类 LLM 法官），平衡安全与成本，适用于高敏感对话、交易风控等场景。
AdaState: 用自适应锚点替代静态首帧以提升流式视频生成动态性
🧭 流式视频生成 · 自适应 KV 缓存锚点
Virginia Tech
将自回归视频扩散模型中的静态首帧锚点替换为与内容同步演化的自适应隐状态，打破场景僵化并显著增强运动与镜头变化
📌 工作参考价值（4 点）
- 生成式序列的自适应锚点设计：在生成式推荐（如 Semantic ID 逐 token 生成）或 query 改写链中，借鉴用可演化的隐状态取代固定首 token 锚点，避免早期 token 过度主导后续生成，可提升长期推荐的多样性与动态适应性。
- KV cache 作为状态载体：将 KV 缓存视作循环的隐状态，通过注意力机制实现状态转移，无需额外模块；可在 Agent 的对话记忆或工具调用链缓存中利用该思路，在保持效率的同时实现自适应上下文演化。
- 相对时间与绝对位置的解耦：将时间编码与绝对步数解耦，使生成过程在任意长度上保持一致的位置结构，可应用于无限长序列的推荐生成或滚动式创意文案生成，避免 positional encoding 漂移导致的性能退化。
- 隐状态去噪但不渲染的机制：在电商场景中，可为推荐解释/创意文本生成引入一个“幕后状态”来追踪长期目标，与可见输出同步去噪但不出现在最终文本中，帮助保持主题连贯性而不压制内容变化。
超越3D VQA：向VLM注入3D空间先验以增强几何推理
🧭 多模态大模型3D空间推理增强
FAIR at Meta · UC Berkeley · HKU
通过深度监督的对应头和双重几何损失，将2D/3D先验注入LLM层，无需3D VQA数据即大幅提升空间推理
📌 工作参考价值（4 点）
- 内部几何对应诊断：可借鉴对模型各层进行几何对应精度诊断的思路，分析电商多模态推荐模型中视觉分支何时建立实例不变性，用于指导蒸馏或层间损失设计。
- 多视角一致性训练：利用多视角图像的几何对应作为自监督信号，提升商品图像表征的3D不变性，有助于在商品搜索中跨角度匹配同一物品。
- 深度一致性损失：通过深度监督约束解决2D视图歧义，可拓展到推荐系统中的多模态对齐任务（如视频封面与标题），用3D信息隐式消除歧义。
- 轻量对应头：引入一个小的对应头作为各层的深层监督，不改变主干架构；该trick可迁移到多模态Agent的视觉编码器训练，用点对应任务增强中间特征的空间理解。
面向光伏电池优化调度的决策聚焦学习
🧭 决策聚焦学习 · 预测与优化协同 ★ 深度解读
KU Leuven
将预测与优化任务联合训练，通过 warm-start 方式在 20 栋住宅上降低平均电费 7.8%
📌 工作参考价值（4 点）
- 业务目标对齐训练：推荐系统中常以 CTR、CVR 为中间指标，可以借鉴 DFL 将最终收益（如 GMV）直接作为损失指导召回或排序模型训练，避免统计精度与业务目标的脱节。
- Warm‑start 策略：先用传统损失预训练，再用任务相关损失微调，能兼顾预测稳定性与下游收益，适合从已有高精度模型迁移到新业务目标。
- 凸优化层嵌入：若线上决策问题可建模为凸优化（如动态定价、资源分配），可用 cvxpylayers 等工具将其可微化，端到端训练前向预测模型，直接优化决策质量。
- 注意其他不确定参数的影响：系统中若存在多个不确定输入（如推荐里的用户意图），DFL 会受其噪声影响，warm‑start 可缓解这种脆弱性，值得在 Agent 多智体协同中参考。
面向一致视频几何估计的统一基础模型 ViGeo
🧭 视频几何估计 · 动态分块注意力
Zhejiang University · Tongyi Lab, Alibaba Group · Shanghai Jiao Tong University · Fudan University
通过动态分块注意力实现流式与全序列视频几何估计的统一模型，并引入补全式数据精炼提升监督质量
📌 工作参考价值（4 点）
- 动态分块注意力允许同一模型在训练后无缝切换双向/因果注意力模式，适合构建既能离线全量处理又能在线流式推理的序列模型（如用户行为序列建模），避免重复训练。
- 补全式数据精炼框架利用教师模型从稀疏、有噪标注生成稠密且时序一致的真值，可迁移至推荐系统中含噪 implicit feedback 或稀疏行为序列的伪标签生成，提升训练数据质量。
- 统一预测深度、法线、点图的多任务设计启示：在推荐模型中可对点击、转化、时长等多目标共享 backbone，以一致优化提升整体效果。
- 时序一致性约束的思想可启发推荐中的兴趣演变建模，例如在长序列用户行为中引入连贯性正则，避免短期噪声冲击。
PhyGenHOI：物理感知的 4D 动态人物-物体交互生成
🧭 4D 生成 · 人物物体交互 · 物理仿真
Hebrew University of Jerusalem
结合运动扩散模型与材料点法，通过窗口吸引损失、接触驱动重模拟和掩码视频 SDS 实现物理一致的 4D HOI 生成
📌 工作参考价值（4 点）
- 主要面向动画、游戏、VR 等视觉内容生产，与电商 / 推荐 / Agent 业务直接关联较弱，但可借鉴生成式 AI 融入物理仿真的思路，用于商品 3D 交互展示或虚拟试穿场景的物理真实感提升。
- 窗口吸引损失和接触驱动重模拟的机制设计，可启发在对生成序列施加时序约束和物理反馈的工程实现，比如在虚拟主播带货动作合成中，让人物与道具的接触更自然。
- 利用 3D Gaussian Splatting 作为统一可微表示，兼顾渲染效率与物理仿真，该表示可复用到需要快速渲染的商品 3D 场景中，例如大规模商品 AR 展示。
- 整体属于计算机视觉 / 图形学前沿，业务直接可迁移的技术组件有限，但其中运动扩散模型 + 物理仿真耦合的范式可能启发对 Agent 行为生成的结果进行物理合理性校验。
小巧而可靠：高效视觉-语言推理用于时间序列异常检测
🧭 时间序列异常检测 · VLM微调
University of Illinois Urbana-Champaign · Sandia National Laboratories
构建带推理标注的时序异常检测benchmark并微调参数高效VLM，精准率和F1分别提升21和24个百分点以上。
📌 工作参考价值（4 点）
- 电商系统监控（如流量、转化率时序）可借鉴：将时间序列可视化为图表，用微调的VLM（如LoRA）进行异常定位与解释，降低对传统统计方法的依赖。
- 构造高质量推理标注的方法可复用：利用多个大VLM生成候选解释，再基于细粒度任务奖励筛选优质标注，提升训练数据的可解释性。
- 参数高效微调（预计用了LoRA等）使小模型也能继承大模型的推理能力，适合资源受限场景，可迁移到电商中不用推理大模型 online。
- 主要是学术贡献，业务可借鉴点有限，但思路可用于需要透明决策的监控类应用。
支持任意区间谓词的通用范围过滤近似最近邻搜索
🧭 向量检索 · 范围过滤 ANN 搜索 ★ 深度解读
Xidian University · The Chinese University of Hong Kong · Hong Kong University of Science and Technology (Guangzhou) · Xi'an University of Posts and Telecommunications
提出多段树图 MSTG，统一处理包含、重叠等任意区间谓词的向量检索，性能最高比通用方法快 12.5 倍
📌 工作参考价值（4 点）
- 电商搜索中商品向量 + 价格/时间区间等组合查询可直接借鉴 MSTG 的索引设计：为每个离散的属性前缀构建段树，每个树节点维护一个接近图（HNSW），查询时动态合并相关 PG，避免扫描不满足谓词的向量。
- 标签化增量压缩方法能将多个时间切片的索引合并为单个带生命周期标签的 HNSW，大幅减少内存占用，适合需维护多个过滤条件的在线推荐场景。
- 复合区间谓词（如包含 + 重叠）可通过至多两个异构 MSTG 变体索引和两次搜索完成，工程上可避免为每种谓词组合重建索引。
- 在时间相关性推荐（如近期浏览商品的相似推荐）中，可借鉴 TSANN 支持：将时间戳作为区间属性，快速检索“包含某时间点”的向量集合，比现有 TS‑Graph 高效且省空间。
基于代理模型的Shapley与Banzhaf交互高效近似方法
🧭 可解释性 · 交互指数近似
LMU Munich · Warsaw University of Technology · University of Warsaw · Claremont McKenna College · Bielefeld University
提出ProxySHAP，通过树代理模型与残差校正实现快速且一致的交互指数估计，达到SOTA性能。
📌 工作参考价值（4 点）
- 在推荐系统模型解释与调试中，可采用树代理模型快速近似高阶特征交互，识别影响预测的关键特征组合，指导特征工程与交叉特征设计。
- 利用论文中多项式时间交互计算算法，可在树集成模型（如GBDT）中高效计算精确交互值，直接应用于CTR预估模型的特征重要性分析。
- MSR残差校正策略提供了一种在代理模型偏差与方差之间权衡的方法，可借鉴到其他需要代理估计的场景（如模型蒸馏、数据估值），避免方差指数增长。
- 实验表明ProxySHAP在小样本预算下仍能高精度近似，这对在线推理阶段需要快速解释推荐结果、生成可解释性理由的场景有实用价值。
TransitLM：大规模无地图公交路线生成数据集与基准
🧭 无地图公交路线端到端生成
AMAP, Alibaba Group
发布1300万条公交路线记录的数据集，LLM训练后可直接从起终点生成结构化路线，无需地图或路由引擎
📌 工作参考价值（4 点）
- 数据驱动的端到端路径生成模式可迁移至电商物流场景：用历史订单中的配送序列训练模型，跳过传统地图API和图搜索，直接生成包裹路由。
- 大规模序列数据预训练能隐式学习网络拓扑和转移规律，类似于推荐系统中从用户行为序列学习物品间的转移概率，可用于下次点/线路的预测。
- 模型将GPS坐标隐式映射到站点/门店的能力可用于处理用户模糊输入，减少精确地址解析依赖，提升抗干扰性。
- 路线生成评估时需同时检查结构有效性、换乘次数、绕路比例等多维度指标，可借鉴论文提出的互补评估框架设计业务指标。
概率守恒流形引导：自适应流形引导方法AdaMaG
🧭 扩散模型引导 · 概率守恒
University of Bristol · KAIST
提出零推理成本的AdaMaG，通过散度与分数平行项衰减，在流扩散生成中保持概率守恒，解决CFG强引导下的饱和与伪影。
📌 工作参考价值（4 点）
- 扩散生成式推荐/内容生成的引导优化：若使用扩散模型生成电商文案或创意，强条件引导常导致失真，可直接用AdaMaG替换CFG组合公式，不增加推理耗时，保持生成质量与条件符合度。
- 引导问题的理论分析框架：基于连续性方程分解的散度项和分数平行项，可迁移分析文本扩散模型中引导过强的崩塌现象，帮助设计衰减策略。
- 时间依赖调度即插即用：AdaMaG的时间衰减调度是独立于模型的、无需重训练的启发式规则，可在现有流匹配/扩散管道中直接嵌入，适合快速落地验证。
- 可控生成与真实度平衡：强约束场景（如节日大促风格控制）下，可利用分数平行项衰减控制去饱和程度，稳定生成质量。
结构化交互学习中模型崩溃何时发生？
🧭 多模型交互下的训练稳定性分析
用有向图建模多模型交互，给出避免模型崩溃的图拓扑充要条件及有限样本保证
📌 工作参考价值（4 点）
- 多模型协同训练（如多智能体、GAN、互蒸馏）时，可借鉴有向图刻画信息流，识别会导致崩溃的循环依赖或吸收结构，主动打断有害反馈回路。
- 在推荐系统中用合成数据（如负样本生成、数据增强）时，可通过限制模型交互次数或引入新鲜真实数据比例，防止性能退化。
- 对于多智能体强化学习中的自博弈，可基于交互图设计经验回放池的采样策略，避免分布塌陷。
- 生成式推荐中若多个模型相互提供知识，可构建类似拓扑并监控误差传播，设定安全更新频率阈值。
PhyWorld：通过流匹配与DPO后训练提升视频生成物理忠实度
🧭 视频生成世界模型后训练
Northeastern University · University of Georgia · Tulane University · EmbodyX
二阶段后训练（流匹配微调 + DPO）让视频生成模型产出物理更合理的时序延续
📌 工作参考价值（4 点）
- 两阶段后训练流程可复用：先流匹配微调保时序一致性，再用DPO对齐偏好，这种组合可迁移到推荐系统的商品视频生成，例如改善动态展示的连贯性和物理合理性。
- 偏好对构建思路：通过仿真引擎生成物理正确/违背的视频对，可为其他领域提供人工标注之外的偏好数据构造方法，例如用商品3D模型渲染符合物理规律的交互视频。
- 细粒度评估基准设计：分物理定律打分的评估方案可用于生成式推荐中检验生成内容的属性控制，如光照、运动是否符合预期。
- 业务可借鉴点有限：整体面向物理AI仿真，与电商/Agent直接关联较弱，主要学术贡献在于世界模型后训练。
网约车司机补贴的动态扩散决策框架 D3-Subsidy
🧭 离线强化学习 + 扩散模型用于动态定价控制 ★ 深度解读
University of Hong Kong · Harbin Institute of Technology · Hong Kong Polytechnic University · Didi International Business Group
提出前缀条件扩散模型与Lagrangian-dual映射，在预算约束下实现城市级补贴的在线序列决策
📌 工作参考价值（4 点）
- 前缀条件扩散用于离线决策：部署时历史不可改变，训练时也固定历史前缀，仅扩散未来后缀，消除训练-推理 gap，可推广到任何需基于实时观测做序列决策的场景（如电商动态定价、Agent 策略学习）。
- 约束感知的后处理评分：在优化目标中加入对预算上限的 soft penalty，通过调整 penalty exponent 即可控制违规容忍度，无需重训模型，适合有严格 ROI 约束的营销或补贴分配任务。
- Lagrangian-dual 映射实现降维动作：将城市级标量控制信号通过闭式映射转为订单级补贴，既保证低延迟（单次决策 20ms），又避免个性化激励的不公平，可借鉴到大规模促销额度分配中，用总预算系数自动生成细粒度折扣。
- 多城预训练 + PEFT 冷启动迁移：先在多城数据上预训练扩散先验和逆动力学解码器，再对目标城市仅微调解码器（冻结扩散模型），大幅提升新市场冷启动效果，对电商新品类、新区域策略复用有直接参考。
跨越桥梁的熵：流与薛定谔采样器的条件边际离散化
🧭 流匹配与桥采样的推理步调度
NVIDIA Corporation · University of Oxford · Radboud University · AITHYRA
提出条件边际熵率调度，无训练地实现低步数流匹配与桥采样的边界重非均匀步分配，显著改善生成质量
📌 工作参考价值（4 点）
- 在低 NFEs 的流匹配/扩散推荐模型（如 Semantic ID 生成）中，可尝试边界重的非均匀采样步长，取代均匀或启发式分步，几乎零成本提升生成质量。
- 熵率调度训练无关，只需根据条件熵估计或桥的闭式解（如高斯假设）调整时间网格，易部署到现有模型。
- 电商场景中的商品图生成或分子生成，类似低步数优化可直接复用，将步数优先分配在起始和结束阶段。
- 方法将边际与条件解耦，为设计更高效的生成式推荐解码器（如去噪扩散推荐）提供理论借鉴。
偏度自适应共形预测
🧭 局部偏度自适应的共形预测区间
Insper Institute of Education and Research · Federal University of São Carlos
提出偏度自适应共形预测方法，通过不对称区间和逆双曲正弦变换学习局部偏度，提升预测区间效率。
📌 工作参考价值（4 点）
- 电商销量、转化率等回归目标常呈偏态分布，利用局部偏度建模可构建更紧的预测区间，提升业务决策可靠性。
- 逆双曲正弦变换处理带符号残差，作为额外模型训练目标，巧妙提取偏度信息，可复用到类似的不确定性量化任务。
- 提出的校准样本宽度比估计量能在离线评估时预估线上区间宽度改善，无需测试集，适合线上模型迭代。
- 方法基于拆分共形预测，保持有限样本边际有效性，可与任意点预测模型组合，工程实现简单，适合高灵活性的ML系统。
CLOVER：面向端到端自动驾驶规划的闭环价值估计与排序
🧭 端到端自动驾驶规划 · 闭环价值估计
University of Science and Technology of China · Tsinghua University · Beihang University
闭环价值估计与排名框架，通过生成-打分自蒸馏解决训练评估不匹配，在NAVSIM达94.5 PDMS新SOTA
📌 工作参考价值（4 点）
- 在推荐或Agent动作生成中，可借鉴“生成-打分”闭环自蒸馏：用业务规则（如CTR、合规性）过滤生成候选，构建伪专家样本，提升生成器对真实评估指标的覆盖。
- 打分器直接预测多维业务指标子分数（如转化率、GMV、停留时长），代替单一价值模型，实现多目标可解释排序，且便于在线调整权重。
- 采用保守更新与稳定性正则，防止生成器在弱监督下过拟合；仅当打分器选择的目标在真实评估下统计显著优于当前策略时才更新，降低风险。
- 理论分析不完美打分器的改善条件，可推广至电商推荐中打分模型存在噪声时，如何判断是否进行策略迭代，提升在线安全性。
多模态回归主动学习的互信息下界采集函数
🧭 主动学习采集函数 · 不确定性分解
University of Pennsylvania
提出 MI-LB，分离认知与偶然不确定性，为多模态回归主动学习提供闭式互信息下界
📌 工作参考价值（4 点）
- 电商推荐中用户行为常呈多模态（如“浏览/购买/忽视”），采用混合密度网络(MDN)建模预测分布，代替单高斯输出，可更真实地捕捉不确定性。
- 主动选择标注样本时，用MI-LB作为采集函数，能可靠区分模型可减少的认知不确定性，优于方差或熵，特别适用于冷启动或在线学习场景。
- MI-LB对MDN集成提供闭式下界近似，工程实现直接，无需采样或数值积分，适合大规模推荐系统实时决策。
- 框架中的Two-Index分解思路可迁移至多臂老虎机或强化学习的探索：将认知指数作为抽象动作，驱动更高效的探索策略。
混合离散-连续动作空间的策略优化：基于混合梯度
🧭 强化学习与混合动作空间优化
提出HPO算法，结合路径梯度与分数函数梯度实现混合动作空间的无偏策略优化
📌 工作参考价值（4 点）
- 可借鉴的混合梯度架构：推荐系统的选品（离散）与出价（连续）等混合动作场景，可将 HP O的混合梯度估计作为 baseline，用路径梯度直接优化连续部分，分数函数梯度处理离散部分，避免单独 score function 的高方差。
- 近似分散更新的工程实现：当离散策略接近最优时，交叉项可忽略，连续部分与离散部分可分散独立更新，降低方差并简化工程实现，适合电商多臂老虎机或分层决策体系。
- 利用可微分仿真：若业务中决策环境有可微模型（如用户响应曲线、供给端模型），可用 HP O的路径导数提升连续动作梯度质量，替代纯无梯度或 score function 方法。
- 库存管理、供应调度场景直接复用：电商库存补货、仓储调度等本质是混合动作空间（选择补货点、连续补货量），HP O可优于标准 PP O，提供更高效优化方案。
科学贡献图：基于文献的大规模自动化技术路线图
🧭 科学发现自动化·前提预测
University of Arizona · Allen Institute for Artificial Intelligence
构建200万条科学贡献和1250万条先决边的大规模图谱，并提出科学前提预测任务
📌 工作参考价值（4 点）
- 关系抽取与图谱构建自动化：论文自动从文献抽取贡献并连接先决关系，可迁移到电商商品功能依赖图或产品迭代图谱构建，例如自动识别“某技术A的改进直接依赖于技术B”。
- 前提预测任务设计：预测哪些现有能力能促成未来发现，可类比到电商中预测哪些现有商品属性或技术会驱动下一代爆款，辅助选品和研发决策。
- 时序过滤回测评估：采用时间分割避免未来信息泄露，严格评估预测性能。在推荐系统中评估模型时，可借鉴这种严格的时间感知验证方法，防止数据穿越。
- 大规模自动化常识图构建思路：通过实体链接和句子级关系抽取构建领域知识图谱，可直接复用到电商知识图谱建设（如成分、卖点、适用场景的先决关系）。
连续处理下的因果基础模型
🧭 因果基础模型 · 连续处理
首个面向连续处理的因果基础模型，通过元学习和上下文学习实现个体处理效应曲线的零样本预测
📌 工作参考价值（4 点）
- 电商中价格、折扣、广告预算等连续干预的因果效应估计，可借鉴该模型的元学习思路，预训练一个能快速适应新场景的基础模型，避免每次活动都从零建模。
- 利用合成数据生成丰富的因果训练集（类似论文的 prior over DGPs），可大幅降低真实业务标注成本，尤其适合干预变量连续且实验成本高的场景。
- Transformer 作为结构，以上下文学习方式直接输出个体处理效应曲线，相比传统的反事实预估模型，能更细粒度地刻画异质性，为个性化定价或补贴决策提供依据。
- 该模型展示的“摊销贝叶斯后验”思想，可启发我们在推荐系统中用统一的神经网络替代反复的 MCMC 推断，提升在线实验效率。
RefDecoder：条件视频解码增强视觉生成
🧭 条件视频解码器架构优化
University of Washington · University of North Carolina at Chapel Hill
为视频VAE解码器注入参考图像条件，绕过潜在信息瓶颈，显著提升重建保真度与生成一致性
📌 工作参考价值（4 点）
- 条件解码器即插即用：RefDecoder 可无缝替换已有视频生成管线（如 Wan 2.1）的解码器，无需重新训练扩散模型，工程实现成本低，适合快速提升线上视频生成质量。
- 高保真参考信号注入：通过参考注意力将原始图像细节直接送入解码过程，避免了 VAE 潜在压缩导致的信息丢失，该思想可迁移至电商商品图/视频的高细节重建，改善纹理、文字等易损失元素。
- 轻量级参考编码器设计：采用独立的小网络将参考帧映射为细节 token，与潜在 token 在解码器各上采样阶段协同处理，可借鉴到多模态生成任务中，如 Agent 根据一张高质量参考图指导视频生成或虚拟试穿。
- 多任务泛化能力：在风格迁移、视频编辑等任务上表现良好，可赋能电商素材的自动化精修、换背景、风格化等场景，减少人工后期成本，提升内容生产效率。
数据驱动审查库存控制中的上下文学习
🧭 库存控制 · 上下文生成式决策
Julius-Maximilians-Universität Würzburg · Zaragoza Logistics Center · National University of Singapore
提出上下文生成式后验采样，用离线元训练+在线自回归生成解决审查需求下的库存决策
📌 工作参考价值（4 点）
- 电商库存管理中常面临需求审查（缺货后未知真实需求），可借鉴ICGPS范式：离线用历史数据训练生成模型（如Time Series Transformer），在线进行上下文条件采样，实现稳健订货决策。
- ChronosFlow的架构设计值得关注：冻结预训练时序Transformer作为主干，仅训练轻量归一化流头，既保留预训练知识又实现快速审查一致性采样；类似思路可用于推荐系统中缺失反馈的生成（如未曝光样本的CTR补全）。
- 理论表明，只要覆盖性假设成立，离线预测质量能保证在线性能，为用离线数据训练生成模型并安全部署到在线决策提供了依据，可推广到其他受审查反馈影响的运营优化问题。
- 对于推荐场景中的决策依赖审查（如用户只看到且点击被推荐物品），可将未观测反馈视为审查问题，用上下文生成模型补全后做bandit优化，替代传统Thompson Sampling或UCB。
Granite 嵌入多语言 R2 模型
🧭 Other ★ 深度解读
IBM Research
基于 ModernBERT 的多语言嵌入模型族，支持 200+ 语言与 32K 上下文，在检索、代码和长文档任务上达到领先水平，并提供同类最优的 97M 参数压缩模型。
SANA-WM：基于混合线性扩散Transformer的高效分钟级世界模型
🧭 高效长视频世界建模 · 混合线性注意力
NVIDIA
用2.6B参数、单GPU在34秒内生成长达60秒的720p控制视频，效率比工业基线高36倍
📌 工作参考价值（4 点）
- 长序列建模的线性注意力可复用到用户行为序列：帧间Gated DeltaNet（GDN）的线性化记忆更新机制，与softmax高低频分工的思路，可直接用于电商用户长期兴趣建模，在保持精度的同时将显存和延迟从 $O(L^2)$ 降至 $O(L)$。
- 双分支控制可作为多模态条件生成的范式：将相机6-DoF分解为低频姿态与高频视角的双分支控制，对生成式推荐中融合多种条件（如时间、场景、个性化）的设计有参考意义。
- 两阶段生成（粗-精）是通用的效率优化：先用小模型快速生成粗稿，再用精炼器提升局部一致性，可迁移到生成式推荐的item生成链路，降低全尺寸模型的一次推理成本。
- 从弱标注视频中提取精确动作的流水线：可借鉴其从公开视频估算 metric-scale 相机姿态的方法，用于电商场景下的用户行为模拟数据构建，例如从店内视频中提取移动轨迹作为世界模型的训练监督。
熵风险下最佳策略识别的紧样本复杂度界
🧭 风险敏感强化学习理论
ENS Paris Saclay · University of Technology Nuremberg
通过平滑性导出更紧集中界并设计新停时规则，匹配了熵风险RL策略识别的下界
📌 工作参考价值（4 点）
- 对于需要控制尾部风险的应用（如金融、供应链），指数效用（entropic risk）可建模风险偏好，本工作的紧样本界能指导更高效的采样预算分配
- KL-based 探索奖励（exploration bonus）的设计可迁移到其他需要乐观探索的场景，如在线推荐中冷启动策略的探索
- 停止规则的紧致性思想可以启发推荐系统线上实验的早停机制，当收益差异的置信区间足够紧时提前终止实验
- 整体上，业务直接应用有限，主要贡献在理论层面，但风险敏感视角在电商定价或广告出价中可能用于规避极端亏损
PRISM：用于扩散文本图像超分的先验校正与不确定性结构建模
🧭 文本图像超分辨率 · 扩散模型
通过流匹配先验校正和不确定性感知残差编码，实现单步扩散的文本图像超分辨率
📌 工作参考价值（3 点）
- 扩散模型中利用流匹配对隐空间先验进行校正的思路，可迁移到序列生成任务（如用户行为序列还原），通过构建高低质量隐变量对学习修正映射，提升生成可靠性。
- 不确定性引导的残差学习可用于多模态特征融合，对置信度低的模态特征进行抑制，避免噪声扩散，适合电商场景中不完整商品描述等。
- 单步扩散的加速技巧（如蒸馏、流匹配一步生成）可应用于实时推荐系统中的内容生成（如标题、摘要），降低推理延迟。
关系检索视角下的广义类别发现
🧭 广义类别发现·关系模式匹配
提出关系模式一致性，通过双向知识转移耦合已知与未知数据，实现类别发现
📌 工作参考价值（4 点）
- 电商用户分群场景中，当部分用户行为模式已知而需挖掘新类别时，可借鉴RPC的关系一致性约束：用新样本与已知类别原型的距离关系作为可靠信号，替代直接伪标签，减少噪声传播。
- 推荐系统冷启动物品隐式类别发现：新物品与已知物品的交互模式可映射为关系特征，利用One-vs-All软分解避免硬分配错误，提升冷启动类别推断的鲁棒性。
- 多智体Agent未知任务类型识别：将已知任务视为原型，新任务执行迹与各原型的交互模式进行关系匹配，实现自适应任务分配，无需大量标注。
- 训练策略中双向知识转移设计可复用：已知类特征对齐（保留判别性）+ 新类关系保持（挖掘不变模式），组合提升整体表示质量，适用于半监督表示学习任务。
Realiz3D：通过域感知学习实现照片级真实3D生成
🧭 解耦域与控制，缩小合成到真实域差距
解耦控制信号与视觉域，引入域协变量适配器，在保持真实感的同时实现3D可控生成
📌 工作参考价值（4 点）
- 商品图生成中，使用合成3D数据微调扩散模型时，可通过解耦控制信号（如视角、材质）与域指示符，避免生成图像变得“像渲染图”，保持照片级真实感。
- 引入可学习的残差适配器来编码域信息，是一种轻量多域融合方案，电商场景下可复用：一个基座模型，通过切换适配器生成不同风格（写实、插画、3D渲染等）。
- 针对扩散模型不同层和去噪步骤的分析启示：早期步骤负责全局结构，后期步骤聚焦纹理细节，可将几何控制注入深层，材质控制注入浅层，从而在不牺牲真实性的前提下提升可控性。
- 推理时可通过调整域适配器的权重，平滑插值于合成与真实域之间，实现可控的风格迁移，用于商品背景替换或虚拟试穿场景。