AREX:递归自改进的深度研究智能体
🧭 Agent 递归自改进 · 长视野研究 ★ 深度解读
Beijing Academy of Artificial Intelligence (BAAI)
利用发现-验证不对称性,将部分验证的解递归地转化为更聚焦的研究问题,实现长视野深度研究。
📌 工作参考价值(4 点)
- 多约束查询分解与验证:电商搜索中用户需求常隐含多个约束(价格、品牌、特殊属性),可借鉴 AREX 将问题分解为约束束,通过递归验证式搜索逐条核验,避免一次性返回不满足所有条件的商品。
- 自主上下文更新工具:长对话推荐或 Agent 任务中,上下文膨胀会干扰决策。可训练模型自主调用“上下文更新”工具,将已验证的产品属性、未解决的约束及被排除的候选项压缩为紧凑状态,以替代全量历史,降低 token 成本并提升后续推理准确度。
- 关键步聚焦训练:强化学习优化推荐策略时,可标注“关键决策步”(如首次命中正确类目、修复错误搜索方向并转向),对它们施加额外的奖励塑形或集中训练,避免奖励信号被大量常规步庸稀释,显著提升长路径任务成功率。
- 双层循环架构:对于需要持续改进的生成式推荐(如营销文案生成、动态选品策略),可引入内循环产出草稿,外循环按置信度审核并针对性优化未满足的约束,实现可控的、以验证驱动的自我改进,而非无序重试。
CIR 在 iKAT SCAI 2026:探索代理式对话搜索中的澄清需求预测
🧭 代理式对话搜索 · 澄清需求预测
TH Köln
构建代理式对话搜索系统,比较两种澄清需求预测模型在混合主动搜索中的效果
📌 工作参考价值(4 点)
- 代理式架构将检索、重排序、生成等组件工具化,由编排代理统一调度,这种设计可直接复用到对话推荐系统,实现多轮交互中的灵活工具组合与状态管理。
- 澄清需求预测模型可作为对话推荐的关键触发器:在商品属性模糊或用户意图不确定时,主动生成确认性问题(如“您更看重价格还是品牌?”),提升推荐精度与用户体验,尤其适用于高客单价决策场景。
- 采用轻量级 BERT 变体做二分类判断“是否需要澄清”,工程上易于集成进现有搜索/推荐 pipeline,延迟低,可作为强化学习智能体的 reward 信号或规则的前置条件。
- 混合主动(mixed-initiative)模式让系统在必要时介入提问,而非完全被动响应,平衡了自动化与人工干预,可降低推荐冷启动和长尾 query 的失败率。
大规模LLM推理的可证明安全高效聚类
🧭 高效聚类 · LLM推理加速 ★ 深度解读
Amazon
两阶段聚类通过贪心集合覆盖确保每用户与代表相似度达标,实现50倍LLM推理成本缩减
📌 工作参考价值(4 点)
- 当需要对海量用户接入LLM时,先用Mini-batch K-Means粗分,再在各簇内贪心选取代表,强制相似度≥α且属性完全匹配。该策略复杂度$O(n^2 d/K)$,调大初始簇数$K$可线性加速并降内存,适合千万级用户场景。
- 贪心选择的簇大小高度偏斜,可主动丢弃长尾小簇(例如仅保留4%的簇覆盖90%用户),进一步压缩下游推理量,配合上游过采样补偿掉落的用户。
- 对合规属性(如年龄、性别)直接在匹配矩阵中要求相等,提供可证明保证,杜绝跨属性推荐风险,适合电商推荐中安全滤波环节。
- 生产验证表明用户-代表embedding相似度与推荐相关性高(Pearson r=0.781),可直接用相似度阈值替代代价高昂的LLM评估,节省质量评估成本。
多领域编程Agent基准:抗污染任务构建与开放评估
🧭 多域编码Agent评估与抗污染基准 ★ 深度解读
Tencent (Youtu Lab, Keen Security Lab, Workbuddy, Yunding Security Lab)
提出跨Code/Web/Office/Security四域的抗污染编程Agent评估套件,任务由真实场景改写且完全开放可审计
📌 工作参考价值(4 点)
- 任务构造抗污染:从真实commit/PR反向工程并改写为口语化角色请求,隐藏根因和参考diff,使提示无法通过搜索获取,可借鉴用于构造内部Agent评测集,避免记忆偏差。
- 多域评估设计:覆盖仓库级代码、前端、办公文件、安全四大类,可按业务需求拆分类似维度评估自研Agent,尤其适合需处理多类型任务的推荐系统辅助Agent。
- 统一沙盒执行与开放审计:Harbor风格任务目录打包,双评估器可复现,全部测试和参考方案公开。在电商/广告Agent评测中,可参考其沙盒隔离和评估前隐藏测试的方式保证公平性。
- 反欺骗与可靠评分:Security的5层反欺骗机制(禁止字面量扫描、重命名输入等)和Office的证据驱动法官,可用于需要防止Agent走捷径的业务线上评测。
多样化意图多轮时尚图像检索基准与 MLLM-VLP 对齐框架
🧭 多轮多意图图像检索基准与 MLLM-VLP 对齐框架 ★ 深度解读
Southern University of Science and Technology · Harbin Institute of Technology (Shenzhen) · Shandong University · Shenzhen Loop Area Institute
提出支持多意图切换与回溯的多轮时尚检索基准 DIM-Fashion,并设计三阶段 MLLM-VLP 框架 FashionAM 避免文本化瓶颈
📌 工作参考价值(4 点)
- 多意图多轮交互建模:电商搜索中用户常混合文字、图片、草图等查询,且可能突然“回到之前某轮结果再修改”,可借鉴 DIM-Fashion 的会话构造方式,合成带 rollback 的多样化多轮训练数据,提升对话式检索鲁棒性。
- 避免文本化瓶颈:现有 LLM 检索多将多模态查询转为文本再检索,丢失视觉细节。FashionAM 直接用可学习 query tokens 将多模态上下文对齐到冻结的商品图像嵌入空间,可迁移到以图搜图、多模态商品搜索等任务。
- 三阶段训练管线:Stage1 背景去除对齐使图库编码器关注物品本体;Stage2 用 MLLM 生成的背景去除图描述进行图像-文本对齐,仅微调最后两层,保持物品中心表示。该策略可低成本适配 CLIP 类模型到电商商品检索,降低背景干扰。
- 多源数据桥接:通过余弦相似度桥接不同数据集中的视觉相似物品,构造跨任务多轮 pair,可用于推荐系统中冷启动 item 的跨场景数据扩充或多任务统一建模。
GraphVid:交互图控制的多对象视频生成
🧭 结构化场景图控制视频生成
University of Illinois Urbana-Champaign · Sony Research India
提出用可编辑场景图作为条件,实现精确多对象交互的图像到视频生成
📌 工作参考价值(4 点)
- 商品互动视频生成:在电商场景中,利用图关系描述商品之间的使用关联(如「手机–支付终端–用户」),自动化生成展示商品动态交互的营销视频。
- 轻量可控生成框架:冻结视频扩散骨干,仅训练图条件注入模块,大幅减少参数量和训练数据需求,能快速适配到特定领域(如试穿、3C 产品演示)。
- 非专业用户交互设计:通过拖拽编辑场景图节点和边,使无动画背景的用户也能生成多物体动态视频,降低内容制作门槛。
- 可解释的条件控制:图结构天然对应知识图谱,在推荐系统中可与商品图谱结合,实现可解释的「条件」推荐内容生成(例如按用户兴趣图谱生成个性化短视频)。
HARP:可配置实时AI代理的人类-AI交互研究平台
🧭 人机交互实验工具
BTPX Innovation Lab · BTPX User Assistance
提出可精细控制LLM行为并记录键入、删除等微观交互数据的实验平台,支撑系统研究AI设计选择如何影响用户
📌 工作参考价值(4 点)
- 在电商/推荐场景中,可复制其 系统测试不同回复风格(如技术术语密度、解释长度)对用户信任、记忆和决策影响 的方法,用于优化购物助手、推荐解释或客服机器人的话术设计。
- 借鉴 记录提示编写时长、删除次数、按键停顿 等细粒度行为指标,补充到现有A/B测试中,捕捉用户对推荐结果或查询建议的犹豫与认知负荷,超越仅看点击率。
- 平台设计思路提醒我们:在Agent实验阶段就应内置可配置的参数体系(如system prompt、temperature、max tokens)和自动化的问卷触发点,便于迭代优化交互体验。
- 当需要比传统可用性测试更严格地对比LLM变体时,可参考其“受控模拟场景+实时智能体”范式,保证条件均衡与生态效度。
ICAE-Bench:交互式项目构建编程代理评估基准
🧭 交互式编程Agent评估与用户模拟
Fudan University · Meituan Group · Singapore Management University · Shanghai Innovation Institute
提出首个从模糊需求出发交互式构建项目的编程代理评估基准,包含480个任务与自动用户模拟
📌 工作参考价值(4 点)
- 用户模拟器设计思路可迁移至对话式推荐:使用预定义的“用户数据”来约束模拟过程,避免人为虚构需求或泄露答案,确保交互可重现。搜索/推荐Agent评测中可借鉴此法,用历史行为序列生成模糊意图并模拟用户追问。
- 多维黑盒评估范式适用于Agent推荐:除功能正确性外,还细粒度评估语义相似度、结构保真度、交互质量等,可指导构建推荐/搜索Agent的全面评估体系,防止仅看单一指标导致误判。
- 将模糊需求锚定到具体真实代码库:在电商导购Agent场景,可用真实商品库或业务接口作为“可执行基准”,评估Agent能否将模糊意图(如“帮我找个性价比高的蓝牙耳机”)逐步澄清并落地为具体推荐/搜索动作。
- 通过隐藏约束与边界情况暴露Agent短板:评测表明当前模型擅长表层复现,但对隐藏业务规则、异常分支处理不足。在推荐系统中,可专门设计需要常识推理、用户长尾偏好、促销规则链的测试集,以检验Agent的深层理解与交互决策能力。
基数感知损失:解耦异质推荐图中一对多与一对一关系的训练目标
🧭 异质图推荐 · 基数感知损失 ★ 深度解读
PayPal AI · PayPal Inc.
在异质图中按关系基数分解损失——BPR给一对多,交叉熵给一对一——根治属性嵌入崩塌且不影响排名指标的无声失败
📌 工作参考价值(4 点)
- 按关系基数分配损失函数:在业务异质图(用户-商品+用户-属性/商品-属性)中,请检查每个边的基数特征。若为一对一(如性别、城市、离散分桶),则应用交叉熵(CE)而不用BPR;BPR只用于一对多(如点击、购买)。这能从根上防止属性嵌入的余弦相似度崩塌至0.9+。
- 低成本检测“无声失败”:固定周期用线性探针(逻辑回归)评估属性嵌入的可区分性(AUC),而非只看NDCG。若属性嵌入余弦相似度中位数>0.5,意味着几何结构崩溃而排名指标未必报警。
- λ 权衡与两轴框架:通过计算属性标签与物品共现的Jaccard相似度估算语义对齐,并检查属性节点是否直接相邻以判断拓扑泄漏。高语义对齐下λ=1.0可直接提升NDCG;低对齐但无泄漏时用λ扫描寻找帕累托前沿;有高泄漏时CDL仍改善排名与嵌入纯度。
- 共享编码器中的梯度冲突监控:在训练初期记录BPR与CE在共享参数上的梯度余弦相似度,若持续为负,则需增大λ使CE信号更强,避免过早早停。该信号可用于自适应λ调度。
基于间隙驱动的维度门控实现零观察用户重激活
🧭 长期不活跃用户的重激活与轻量插件 ★ 深度解读
Fudan University · Huawei Technologies
冻结序列推荐骨干,用维度门控融合历史与全局先验,从长间隔中恢复预测性能。
📌 工作参考价值(4 点)
- 轻量插件复用已有模型:冻结已有推荐模型(如SASRec、BERT4Rec)的骨干,仅训练一个66K参数的维度门控插件,可在不改变线上服务的前提下恢复长间隔用户的推荐效果,适合嵌入被多个下游服务共享的场景。
- 可解释的置信度监控:输出Historical Confidence Index(各维度门控均值),可实时观察不同间隙下模型对历史表示的信任程度,辅助运维与效果归因。
- 全局先验的离线学习与更新:用一个可学习的零初始化向量作为所有用户的通用fallback,训练后固定;对于品类快速变化的电商,可定期用新数据刷新该先验,低成本捕捉流行度漂移。
- 全量微调与插件的取舍策略:当允许更新骨干嵌入时,端到端重训可带来更高收益(如Hit@10从0.031提升至0.080);当嵌入与召回、排序模型强耦合时,插件方案以零漂移和约40倍参数节省取得60%的增益,可作为平滑上线方案。
基于统计推断的LoRA秩分配方法
🧭 参数高效微调 · 统计推断
将秩分配视为假设检验问题,利用p值驱动剪枝,实现更稳定的参数预算分配
📌 工作参考价值(4 点)
- 在推荐或对话模型用LoRA微调时,可用统计检验代替基于梯度的启发式重要性分数,自动决定各层/模块的秩分配,避免人工调参与欠佳分配。
- 该方法为每个可学习的低秩组件提供明确的p值,可直接设定显著性阈值进行剪枝,适合在资源受限的在线服务中动态调节模型容量。
- 基于优化器轨迹的渐近正态理论(覆盖AdamW等常用优化器)为下游应用中的梯度统计量提供了可靠分布假设,可用于构建更准确的早期停止或在线不确定性估计。
- 统计检验驱动的分配规则对超参数不敏感,经验诊断表明其稳定性优于AdaLoRA等灵敏度方法,在电商搜索/推荐模型的持续微调场景中能减少重复调参成本。
基于自主语言代理的个性化推荐工具学习
🧭 Agent 个性化推荐工具学习 ★ 深度解读
Univ. of Illinois Chicago · Microsoft · Beihang University · Hangzhou Innovation Institute of BUAA
用LLM代理调用多个推荐模型作为工具,通过反射机制个性化选择工具,实现全排名推荐。
📌 工作参考价值(4 点)
- 多工具集成架构:将LightGCN、SASRec、SimpleX等异构推荐模型包装为工具,由LLM agent统一调度,通过加权融合(Personalized Tool Memory)得到最终排序。业务中可用类似方式组合协同过滤、序列模型、图模型等多路召回,agent负责动态权重分配,无需改造底层模型。
- 反射记忆更新机制:提出三种反射信号——局部工具评估(基于行为序列相关性)、全局工具比较(跨工具选择最佳)、排名比较(基于留出物品的排名倒数加权),在线更新每个用户的工具权重。该机制可低成本迁移到个性化重排或广告混排场景,用LLM定期(如每日)优化不同打分器/策略的权重。
- 轻量上下文重排:在工具融合分数生成top-N后,用LLM根据用户摘要和物品描述进行二次重排,提升语义匹配度。适用于精排后的小候选集重排,计算开销可控(单张V100 GPU每用户<0.5秒),适合作为排序流水线的最后一环。
- 工程并行化与成本控制:每个用户的工具记忆独立更新,可完全并行;训练时仅需少量用户采样(如160人)进行agent优化,推理时所有用户复用相同工具,Agent阶段可离线完成。这种解耦设计使得LLM调用集中在离线批量任务,不增加在线延迟。
结合对比学习与状态空间模型的用户交易序列建模
🧭 用户序列表示学习 · 状态空间模型
HSE University
用 CoLES 预训练用户向量初始化 Mamba 隐藏态或作为前缀 token,加速收敛并提升序列建模效果
📌 工作参考价值(4 点)
- CoLES 用户先验注入方式可复用:在电商行为序列建模中,可将预训练好的用户 Embedding 作为 Mamba 的初始隐藏状态或序列前缀 token,相比从头训练更快收敛(2-3倍),且无需改变模型主体。
- Mamba 替代 Transformer 处理长序列:交易序列往往极长,Mamba 的线性复杂度优势明显,适合落地到点击、购买等长历史行为建模,性能优于 RNN 且效率高于 Transformer。
- 解释性分析指导特征选择:利用离散化步数映射(discretization-step maps)和 Integrated Gradients 可识别最具信息量的交易特征,直接指导特征工程和业务规则制定,如突出高价值行为节点。
- 多任务共用的用户表示:CoLES 预训练得到的压缩用户向量可复用于年龄预测、多标签产品获取、购买预测等多个下游任务,降低在线推理成本。
课程对齐知识图谱 K12-KGraph 用于教育LLM评测与训练
🧭 教育LLM课程认知评估与图引导训练
Peking University · Institute for Advanced Algorithms Research, Shanghai · OriginHub Technology · Zhongguancun Academy
构建课程知识图谱并衍生多任务基准,暴露大模型在前提推理等课程认知上的短板,并以图引导数据高效微调
📌 工作参考价值(4 点)
- 在电商知识图谱上复制多任务QA生成:借鉴从领域KG自动衍生Ground/Prereq/Neighbor等任务模板的方式,为电商商品搭配、选购意图、类目归属等场景快速构建大规模评测集,低成本评估模型对商品结构化关系的认知。
- 构建商品认知微调数据:参考K12-Train的图引导监督微调数据生成流程(将节点与关系转为自然语言QA,包括纯文本与多模态图文对),用商品知识图谱合成训练样本,提升LLM在导购、属性问答、搭配推荐解释上的表现。
- 领域特定SFT数据效率极高:实验证明,在相同样本量下,结构清晰的领域SFT数据(K12-Train-Text)碾压等量的通用SFT语料,说明用少量高质量的领域知识图谱衍生数据即可获得明显收益,电商场景可效仿。
- 多模态互补的设计:论文发现文本与视觉监督互补,单独任一都不如联合训练好;在产品搜索推荐中,可同时使用物品图片与结构化文本描述进行对齐训练,增强模型对视觉特征与商品属性的整合能力。
联合视觉Token与LLM计算的自适应推理框架
🧭 多模态高效推理 · 联合自适应调度
Purdue University · University of Wisconsin–Madison · NVIDIA
提出SmartVL,联合动态控制视觉token数量和LLM计算量,实现多模态LLM的精度-效率帕累托最优
📌 工作参考价值(4 点)
- 在电商多模态问答或商品理解Agent中,可借鉴视觉token的动态剪枝,按输入复杂度自适应保留关键视觉信息,减少冗余计算,降低首词延迟。
- LLM推理时基于预算灵活跳层或关头的思路,可迁移至推荐系统重排或大模型推理阶段,在流量高峰期实现算力的细粒度分配。
- 共享预算编码+可微分延迟估计器的联合训练范式,可指导将多个自适应模块(如特征选择、模型深度)进行端到端协同优化,避免独立调优的次优解。
- 对于需要同时处理图片和文本的搜索推荐Agent,可联合调度视觉编码器和LLM的资源消耗,在保证回复质量的前提下最大化吞吐。