AskChem:以声明为中心的化学文献合成基础设施
🧭 声明为中心的科学文献RAG基础设施
New York University · Matterstack, Inc.
将文献检索单元从论文改为携带出处的原子声明,构建分面分类与证据图,提升AI代理答案可追溯性
📌 工作参考价值(4 点)
- 将商品详情、用户评论等非结构化内容拆分为原子事实声明,携带来源ID(如评论锚点),构建可溯源的“商品知识库”,AI导购或客服可直接引用出处,增强可解释性与信任感。
- 建立商品证据图(如用户反馈 ↔ 产品参数声明),当用户查询“哪些手机在弱光下拍照好”时,系统检索相关声明并聚合显示,而非仅返回商品列表,提升多跳推理问答能力。
- 利用分面分类法动态组织商品属性(品牌、价格、材质等),支持层级浏览与过滤,类似电商导航栏的自动生成,方便探索式购物。
- 借鉴MCP接口设计,将内部搜索/推荐系统封装为Agent可调用的工具,使第三方AI Agent能直接访问结构化声明数据,实现跨平台智能助手的快速集成。
β-OPSD:将策略优化用于推导、自蒸馏用于训练的推理增强框架
🧭 KL正则化策略优化 · 自蒸馏 ★ 深度解读
University of Maryland, College Park
将on-policy自蒸馏统一为KL正则化策略优化族,通过可控的logit插值目标与return-to-go信用分配替代直接教师模仿,显著提升推理模型训练稳定性与性能。
📌 工作参考价值(4 点)
- 蒸馏目标调度:在在线蒸馏中,不直接跳到教师分布,而是用logit插值在参考策略与教师之间构造平滑课程(β从大到小)。这一trick可迁移至推荐系统的生成式模型训练(如LLM生成商品标题或推荐解释),避免训练初期因教师‑学生差距过大导致的崩溃。
- return‑to‑go信用分配:将序列级KL散度梯度分解为token级累积未来误差,替代局部token‑KL损失。在电商对话Agent中,对于多轮对话的回复质量评估,可借鉴这种将最终用户满意度信号反向传播到每个token的方法,提升训练效率。
- 参考策略的动态/固定选择:实验表明,使用当前学生(stop‑gradient)作为参考端、固定教师作为教师端的混合插值效果最好。这在搜推场景中可对应为:用当前模型的历史快照作为“保守先验”,用业务强信号(如成交)构造教师,在持续学习或在线更新时保持稳定性。
- 低成本策略优化近似:通过闭式解推导出理论最优目标,再用轻量logit混合实现,避免直接RL的方差和成本。在资源受限的推荐Agent微调场景中,可复用这种“推导用RL,训练用蒸馏”的范式,兼顾效果与效率。
Beacon:让视觉推理模型知道何时及如何调用工具
🧭 Agent 视觉推理中的自适应工具调用与强化学习 ★ 深度解读
Peking University · Kling Team · HKUST(GZ) · CUHK · ZJU
提出必要性感知自适应奖励与提示引导能力扩展,使模型能自适应调用工具并获真实性能增益
📌 工作参考价值(4 点)
- 自适应奖励设计借鉴:NAAR(必要性感知自适应奖励)可为电商/广告Agent中的工具调用决策提供参考——当纯文本推理即可解决问题时,对不必要的工具调用赋予较低奖励,但仍保留部分正向反馈(如0.25),避免抑制正确但冗余的工具使用;当纯文本失效时,正确工具调用获满奖励。这种软偏好平衡了效率与效果,有利于线上成本控制。
- 困难样本的专家引导训练:HCE(提示引导能力扩展)展示了如何利用教师模型生成子目标提示,引导策略在困难样本上探索,训练后再去掉提示使模型独立求解。这类似于在推荐Agent中处理长尾/冷启问题:先用强模型生成中间推理步骤的提示,帮助学生模型学习有效工具组合,最终摆脱对强模型的依赖。
- 在线标注避免分布偏移:NAAR 基于当前策略的组内正确性动态标注样本是否需要工具,而非固定教师模型。在动态变化的推荐场景(如季节性偏好)中,这种在线标注方式可让工具调用策略随模型能力同步进化。
- 混合策略优化与重要性采样:同时训练普通采样和提示引导采样的轨迹,并对提示轨迹使用重要性采样校正(将提示输入替换为原始输入),实现能力迁移。这一技巧可迁移到任何需要将外部知识注入策略训练的Agent场景。
贝叶斯主动模型评估:自动确定核心集大小的序列框架
🧭 主动贝叶斯模型评估 · 核心集选择
Imperial College London · Google DeepMind
通过贝叶斯序列设计自动停止,用信息增益选评估项,以历史模型相似性为先验,实现高效基准评估
📌 工作参考价值(4 点)
- 在评估大量推荐模型版本或A/B测试时,可直接用此方法动态选择评测子集,计算成本降低且自动决定何时停止
- 当有历史模型在相同项目上的评分数据(如多个旧模型在商品集上的CTR),可利用潜在能力分组先验加速新模型评估
- 多目标扩展能捕获模型间的性能相关性,适合同时评估多个候选模型(如对比多个精排模型);工程实现可采用连续响应对数似然替代硬二元分数,提升估计精度
- 信息增益驱动的主动选择策略可迁移到查询建议质量评估、生成式推荐结果的在线人工标注等稀疏评估场景
边缘 LLM 智能体的校准推理与不确定性推迟框架
🧭 边缘 LLM Agent 推理预算与智能推迟
Northeastern University London
提出 TSDS,集成轻量收敛探针与困惑度推迟规则,通过 LTT 联合校准,在边缘 ReAct 智能体上显著减少思考计算量并保证性能
📌 工作参考价值(4 点)
- 在构建基于 ReAct 的推荐或客服 agent 时,借鉴轻量收敛探针,监测多步推理中动作的稳定性,当连续几步预测的动作一致时提前终止推理,节省推理成本,适用于商品属性搜索、对话式推荐等需要多步交互的场景。
- 设计基于困惑度的推迟规则,对 agent 生成的最终动作序列计算困惑度,若低于阈值则本地执行,否则转交云端大模型,有效控制云端调用成本,并可设定可接受的调用率上限。
- 利用 LTT 方法在历史交互日志上联合校准推理停止阈值和推迟阈值,使系统在满足云端调用率约束的同时最大化成功奖励,提供统计保证,可在推荐系统的多步决策流程中应用。
- 对于需要权衡延迟和精度的推荐场景(如实时推荐解释生成),TSDS 的动态推理深度和推迟策略可迁移,实现自适应的资源调度。
BM25在大规模上获胜:检索增强生成范式的扩展性研究
🧭 检索增强生成扩展性分析 ★ 深度解读
University of Science and Technology of China · Metastone Technology · Beijing Academy of Agriculture and Forestry Sciences
在450倍语料规模扩展实验中,BM25在大约1000万词元后全面超越文件系统Agent和图RAG,成为准确性最高且成本最低的默认检索方案
📌 工作参考价值(4 点)
- 大规模知识库推荐系统检索选型:在电商商品描述、客服知识库等百万级文档场景中,BM25应当被作为默认检索器,而不必盲目追求稠密检索或Agent搜索;BM25无需LLM构建索引,成本极低且准确率在大规模时反而领先。
- 搜索词/问题改写中的成本控制:File-System Agent在小规模(<1000万词元)时可获得最佳准确率,但其顺序探索导致查询成本为BM25的39倍以上;在广告搜索词推荐或用户问题重写中,应先通过全局关键词检索(如BM25)获得候选,再引入Agent推理,而不是全程依赖Agent遍历。
- 图索引构建的门槛评估:GraphRAG(如LightRAG、MS-GraphRAG)在构建阶段消耗极大,LightRAG在300万词元时已无法完成构建,且准确率始终不如BM25;在含有大量噪声、事实冲突的电商评价或客服记录中,图遍历更容易被语义干扰,应谨慎评估ROI。
- 评测设计的借鉴:论文通过固定问答集、固定对抗文档、仅增加背景语料的“嵌套语料梯”设计,可以迁移到搜索推荐系统的离线评估中,用于衡量模型在库存/内容膨胀时的鲁棒性,避免单一体量评估掩盖扩展性问题。
超越几何互补:稀疏MoE路由中的一致重叠
🧭 稀疏MoE路由中的一致重叠与功能冗余分析
College of Computer Science and Technology, Zhejiang University · Department of Aeronautical and Aviation Engineering, The Hong Kong Polytechnic University
发现MoE路由中专家子空间大量重叠,但多专家计算仍具功能增益,称“一致重叠”。
📌 工作参考价值(4 点)
- 在推荐系统多专家路由模型中,不应仅凭专家表示空间的几何相似性进行剪枝或合并;需通过冻结路由或受控训练实验评估功能冗余,避免删除有用专家。
- 路由上下文交互项为负,设计路由策略时可考虑该效应,适当保留多专家以弥补前缀信息带来的选择偏好缩小。
- 进行专家负载均衡或容量分配时,可引入Expert Subspace Separation Index (ESSI) 等指标量化子空间分离度,结合下游任务表现综合决策。
- 对Agent多智体系统中的路由,可从共享邻域选择相关专家,不必强制专家分化至互不相交,仍可获得多专家协同增益。
超越借用历史:面向交互式角色扮演评估的个性化用户模拟
🧭 角色扮演代理评估 · 用户模拟器
University of Science and Technology of China · MetaStone Technology, Beijing, China
提出基于用户模拟器的个性化评估框架,解决现有基准使用固定对话史和通用评分的问题
📌 工作参考价值(4 点)
- 用户模拟器可复用到对话推荐或搜索系统的离线评估中,针对不同用户画像生成个性化交互会话,模拟真实用户行为。
- 个性化评分标准的思想可迁移至推荐满意度预测,训练用户特定的评估模型,比单一评分更准确衡量个体体验。
- 多轮会话级别的评估范式适用于对话式推荐、客服Agent等长交互场景,突破单轮评估局限,捕捉长期交互质量。
- 生成可解释的用户-系统对级评估报告,帮助分析细分用户群的体验差异,指导业务进行针对性优化。
Chimera:混合视觉扩散 Transformer 的设计与 Chinchilla 缩放
🧭 视觉扩散模型的架构与缩放规律
Adobe Research
提出混合扩散 Transformer 及异配缩放规则,在图像/视频生成中实现 7.3× 计算效率提升与 30 秒零样本长度外推
📌 工作参考价值(5 点)
- 长上下文高效建模方案可迁移:Kimi Delta Attention (KDA) 实现 O(N) 复杂度的全局状态跟踪,可用于电商场景中长序列用户行为建模或长视频推荐,降低注意力成本。
- 多模态统一流处理:将文本、图像、视频 token 按光栅顺序混合,无需位置编码,可直接借鉴到电商多模态商品描述(图文视频)的统一表征中,简化预处理流程。
- MoE 稀疏活化策略:稀疏 MoE 层在增大模型容量的同时控制激活参数量,适合推荐大模型(如生成式推荐)的扩展,可平衡效果与推理时延。
- 异构架构的模块化缩放(HeteroP):根据张量功能扇入与深度动态分配宽度/深度参数,为推荐模型的不同模块(特征交互、序列建模等)提供差异化缩放指导,避免均匀缩放浪费。
- 计算最优数据配比洞察:图像预训练中激活参数量与训练 token 数近乎均分算力,视频则略偏向参数量——可为多模态推荐模型的训练预算分配提供参考。
从未来学习:时序推荐的特权自蒸馏
🧭 序列推荐 · 自蒸馏与特权信息利用
Renmin University of China · National University of Singapore · Alibaba Group
将未来交互作为训练特权信息,通过双视图自蒸馏提升序列推荐性能,不增加推理成本
📌 工作参考价值(3 点)
- 在训练序列推荐模型时,可利用用户完整会话中的后置交互作为特权信息,构建双视图自蒸馏:一个掩码看到未来项(教师),另一个只看历史前缀(学生),共享同一 backbone,蒸馏后不改变推理模型与成本,适合对延迟敏感的电商场景。
- 动量平均教师(EMA)和优势可达门控是两个关键稳定性 tricks:EMA 教师参数随学生缓慢更新,避免噪声;可达门控根据历史前缀判断未来项是否可达,自适应加权蒸馏损失,能防止强制学习不可达的未来,可迁移到其他 teacher-student 蒸馏任务。
- 该方法可叠加到任意因果注意力序列模型(如 SASRec)上,无需单独预训练教师,端到端单阶段训练,工程实现成本低:仅需在数据加载时保留多步未来,并在 attention 层插入一个额外的未来感知掩码,适合快速实验。
大规模参数化长期记忆模块:独立预训练与解耦扩展
🧭 参数化长期记忆与 LLM 解耦 · 独立扩展 ★ 深度解读
LUMIA Lab, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Tsinghua University
将参数化长期记忆模块扩展至 6.9B 参数、300B 令牌预训练,小 backbone 搭配大记忆在多项基准上超越更大纯骨干模型且总参数更少
📌 工作参考价值(4 点)
- 记忆模块即插即用,适合多领域推荐系统快速迁移:预训练好的通用或领域记忆可以直接插在冻结的推荐模型(如同 backbone)上,仅需少量计算即适配新领域,避免全量微调,显著降低部署成本。
- kNN 分布蒸馏到参数模块,避免在线检索:电商搜索或推荐场景通常需要实时反馈,该方案将检索信号离线蒸馏为参数化记忆,推理时无需外部索引和检索,降低延迟和存储,可直接用于排序或召回的特征增强。
- 小 backbone + 大记忆的参数效率优势:在推荐模型中,可以用相对较小的主网络搭配较大记忆模块,在总参数受限时比单纯扩大主网络更高效,例如为轻量召回模型配备大容量记忆来提升冷门物品或长尾查询的覆盖。
- 记忆训练目标可提升训练数据可追溯性:论文中的抽取式记忆评估表明记忆能更精准还原训练样本,类似思路可用于推荐系统中关键行为或商品的记忆固化,帮助可解释性和合规审查。
大语言模型能否执行母订单?分层零样本交易决策
🧭 LLM驱动的分层决策与规划
Independent Researcher · HKUST(GZ) · ZJU · SYSU
首次系统研究用LLM做母订单执行,提出分层框架PACE,零样本超越传统和学习型基线0.65基点
📌 工作参考价值(4 点)
- 分层规划思想可直接用于电商大促的预算/流量分配:用LLM做高层计划(每天/每时段的预算比例),底层执行器按计划实时出价,无需针对具体场景重训模型。
- LLM零样本决策能力可替代强化学习在冷启动或快速变化的推荐场景(如新品冷启推送节奏)中做时序动作决策,降低训练成本。
- 长期规划+短期执行的分解范式适合多Agent协作:一个Plan Agent制定整体策略,多个Execute Agent按约束执行,解耦决策粒度,便于工程实现和调试。
- 行为分析中的“模型自信与绩效正相关”提示:可在在线决策系统里结合LLM输出置信度做风险控制,高置信动作放量,低置信动作交人工审核或降级。
DIRECTOR:动态索引生成与传输优化检索的平行重排框架
🧭 生成式重排 · 最优传输 ★ 深度解读
University of Science & Technology of China · Kuaishou Technology
用连续动态索引替代逐位自回归,通过最优传输耦合实现无重复、全局协调的平行重排。
📌 工作参考价值(4 点)
- 将候选物品与输出位置映射到同一隐空间,生成连续检索索引(dynamic retrieval indices),再通过全局硬匹配(矩形指派)直接输出无重复 slate,可避开自回归解码的串行依赖与 prefix 剪枝风险,工程部署中可将 proposal 生成并行化。
- 训练时采用熵正则化最优传输(capacity-constrained soft transport)作为可微代理,联合所有位置的分配进行冲突感知监督,推导时使用 Bregman-Dykstra 算法快速求解;推理时仅需一次相似度矩阵计算并执行标准指派,兼顾效果与低延迟。
- 针对只有整 slate 标量反馈的黑盒 Evaluator,提出“prefix-anchored pathwise credit”:沿一条保留有效性的交换路径逐步替换位置,把全局奖励差分解为每个位置的特异优势,提供细粒度训练信号,适合工业场景中无法获取梯度或内部评分的 listwise 评估器。
- 在快手短视 feed 线上真实流量对比中,DIRECTOR 相比自回归 + Beam Search 基线在同等延迟约束下降低 66.7% 的 CPU 消耗,且 vv 提升 0.519%,证明平行重排在大规模服务中的效率与效果优势。
多解码器 OneRec:工业推荐中可控的多目标生成式检索
🧭 生成式检索 · 多目标配额可控 ★ 深度解读
Kuaishou Technology
用共享编码器+多 LoRA 解码器+约束束搜索,在统一生成式检索框架下实现多目标候选配额可控、梯度隔离与互补去重
📌 工作参考价值(4 点)
- 多目标生成式推荐可借鉴该 共享基座 + LoRA 专家 + 梯度隔离 方案:保留一个通用的 General Decoder 吸收曝光样本,每个业务目标(时长、互动、冷启)仅挂载低秩 LoRA 和独立的 BOS / SID 残差,新增目标不干扰主解码器。
- 连续反馈的 RL 微调值得尝试:对时长类目标,不做阈值二值化,直接用用户历史组统计标准化持续奖励,结合 L-GBPO + KL 参考正则,能保留偏好强度且不破坏通用 SID 合法生成能力。
- 多路解码时务必用 约束束搜索(MD-CBS) 避免配额浪费:不同目标解码器按优先级运行,已生成的前缀或完整 SID 在后续路由中被屏蔽,实验证明完整 SID 级别屏蔽优于浅层前缀屏蔽,可恢复几乎全部有效候选数。
- 若资源有限,可通过 配额与束宽解耦 实现成本控制:3 个 LoRA 仅增加 20% 参数量,推理时可通过减小单个解码器的束宽/配额来调节 FLOPs,配额向哪个目标倾斜即可定向提升该路召回。
Echoverse:面向计算机使用智能体的深度演化训练环境
🧭 合成环境生成与协同演化训练 Agent
Microsoft Research
通过协同演化循环构建有深度、可自适应修复的合成环境,显著提升计算机使用智能体的性能与迁移能力
📌 工作参考价值(4 点)
- 可借鉴协同演化循环,为电商搜索推荐 Agent 构建有深度的模拟环境(如带状态变化的用户会话),通过 rollout 反馈动态修复任务和验证逻辑,增强 Agent 对复杂交互的适应力。
- 利用数据库确认验证器(grounded verifier)设计推荐系统的离线评估环境,确保奖励与系统状态强一致,减少奖励黑客问题。
- 在用户模拟器迭代中引入环境修复机制,根据真实失败案例自动生成针对性训练任务,提升模拟器的覆盖率和真实性。
- 强化学习训练时,采用稀疏任务完成奖励与密集步骤奖励结合的混合 reward 设计,加速策略收敛并提高最终效果。