心衰特征工程自动化:证据链接的多智体流水线
🧭 Agent协作自动化特征工程与审计
Nimblemind · Singapore University of Technology and Design · University of Illinois Urbana-Champaign · Florida International University · University of California Los Angeles
多Agent协同生成可审计聚合特征,将心衰表型预测AUROC从0.895提升至0.963
📌 工作参考价值(4 点)
- 自动化特征工程流水线:多Agent分工协作(理解临床指南、检索证据、生成SQL/聚合特征)可迁移到电商推荐,用LLM Agent自动从用户行为日志、商品属性中生成高阶聚合特征,替代大量手工特征工程,提升CTR/CVR模型AUC。
- 证据链接与审计机制:每个特征关联生成依据(如原始表、映射规则),可解释且可审计,适合对模型效果变动进行归因追踪,在推荐系统中排查特征漂移或线上效果波动时有工程价值。
- Rubric打分过滤低质特征:为特征生成设计量化评分标准(有效性、证据支持度),可在Agent pipeline中置入质检步骤,避免无效特征进入模型,减少特征膨胀和过拟合风险。
- 受限LLM审计确保合规:推荐系统中的风控、生态规则等场景可借鉴,用独立Agent审核生成特征是否符合业务规范,提升系统安全性。
学习艺术作品与照片构图分析的视觉表征
🧭 视觉构图表征 · 人类感知 vs 基础模型
KU Leuven
对比人类启发的构图分析(对象分解+图注意力)与微调基础模型,前者可解释且数据高效,后者性能更强但泛化差
📌 工作参考价值(4 点)
- 商品图像美感评估:借鉴对象中心分解+空间关系图注意力,构建可解释的构图评分模块,辅助自动优化商品主图布局。
- 广告创意排序:冻结编码器+人类先验的方法在数据稀缺时泛化更好,适合冷启动的创意构图质量过滤。
- 可解释推荐视觉特征:将区域级对象关系显式编码为图表示,替代黑盒特征,提升推荐理由中视觉部分的可解释性。
- 多模态检索增强:构图检索任务可迁移至电商场景,支持“构图相似”的商品搜索,例如按对角线构图、三等分构图查询相似商品图。
训练后适应技术的六维分类法及其AI治理应用
🧭 训练后适应技术分类与治理
Karolinska Institutet · Karolinska University Hospital · University of Borås · KTH Royal Institute of Technology
提出统一六维分类法,区分微调、RAG等训练后适应技术,支持模型变更治理
📌 工作参考价值(3 点)
- 模型迭代治理:可借鉴其六维分类(机制、目标、数据需求、持久性、结构范围、模型类型)建立模型变更日志,便于在推荐系统频繁微调、RAG更新等场景下合规审计。
- 适应技术选择:通过持久性维度区分一次性微调与持续推理时适应(如RAG、动态提示),指导电商搜索/推荐系统在候选生成、重排序阶段的工程架构选型。
- 技术栈梳理:论文梳理的继承、取代、混合等关系可帮助团队理清模型更新技术栈,避免重复或冲突。
因果情节记忆:基于反馈的代理修复
🧭 Agent 反馈驱动修复 · 因果记忆
Mohamed bin Zayed University of Artificial Intelligence · Ho Chi Minh City University of Technology (HCMUT)
利用双极性因果记忆与类型条件检索,使冻结LLM在修复时复用过往成功修正,提升Text-to-SQL准确率
📌 工作参考价值(4 点)
- 电商对话代理或搜索助手可将每次修复后的最终成功方案存入正例记忆,同时记录曾尝试但无效的修改方向作为负例,后续相似问题直接检索复用,避免重复推理。
- 在推荐系统的生成式修复(如商品推荐查询改写、筛选条件修正)中,可引入粗粒度失败类型分类器(如“意图理解错误”、“约束冲突”),据此条件化检索历史案例,提升修正速度与准确率。
- 采用混合检索(BM25词汇匹配+稠密向量相似)来召回相关历史经验,既能捕捉表层词重叠,又能挖掘语义相近的跨场景模式,适用于电商Agent的案例库构建。
- 无需模型更新,仅靠记忆即插即用,适合快速迭代的线上代理系统,特别适合在推荐对话、售后引导等需持续从错误中学习的场景部署。
YOLO-PEFT:目标检测器结构感知的参数高效微调框架
🧭 检测器微调 · 结构化放置规划
Tencent · Xiamen University
将适配器放置形式化为可审计的约束规划问题,在实时检测器上实现结构化 PEFT,避免手动试错
📌 工作参考价值(4 点)
- 该方法将适配器插入点选择从人工试错转变为基于显式约束(算子类型、语义角色、图接口)的自动化规划,可借鉴到推荐系统的大模型微调中,例如在 Transformer 推荐模型的不同层或位置上自动选择 LoRA/Adapter 模块,避免盲目尝试。
- 规划时引入“可审计性”和“拒绝提议”机制,对于不合理的微调请求直接拒绝并给出原因,这一安全设计可推广至线上服务中模型的增量更新场景,防止灾难性遗忘或性能断崖。
- 资源预算约束下的模块选择策略对于电商搜索模型的多变体部署(如不同类目、不同延迟要求)有帮助,可以生成满足 GPU 内存或延迟预算的一组适配器配置,降低管理成本。
- 整个流程保持训练-保存-合并-导出路径,确保与标准推理部署兼容,这对实际业务中快速试验和上线至关重要,可参考其工程化流水线设计。
优化器即智能体:推理驱动的 Prompt、程序与 ML 工作流搜索
🧭 Agent 驱动的优化搜索 ★ 深度解读
The University of Texas at Austin · Snowflake
用单一工具使用智能体内部化搜索策略,替代外部启发式控制器,在三大领域 14 项任务中达到或超越专用方法。
📌 工作参考价值(4 点)
- 用 Agent 自动优化模型超参与训练流程:在搜索推荐模型中,可借鉴 ReASearch 的“先诊断再修改”范式,通过 Python exec 分析训练曲线、定位瓶颈,替代盲目调参。
- Prompt 自主进化:对于生成式推荐或 Query 改写,可让 Agent 自主管理 prompt 候选树、验证增益、回溯失败路径,并通过记忆文件积累领域知识,减少对手工启发式的依赖。
- 低成本组件易于集成:Memory 文件(lessons.md)记录已尝试的方法、效果与下一步方向,可作为 Agent 的持久经验库,在新任务初始化时复用,类似推荐系统中的历史实验知识复用。
- 验证粒度控制防过拟合:仅暴露聚合验证指标(而非逐样本反馈)能有效防止 prompt 优化过拟合,这一 trick 可直接迁移到生成式推荐的 prompt 调优中。
语法信息位置嵌入:超越序列顺序的Transformer增强
🧭 语法增强的位置编码
University of Arizona
将依赖解析语法先验按架构特性注入位置编码,大幅提升句法及语义理解,且推理成本极低
📌 工作参考价值(4 点)
- 序列推荐中若使用相对位置编码(如Transformer-XL),可将用户行为依赖关系(浏览→加购→购买)作为语法先验,与相对位置注意力分数相乘,强化行为结构信号。
- 对使用绝对/旋转位置编码的编码器,可把预计算的行为依赖嵌入直接加在输入嵌入上,简单组合原生位置机制,不改动模型主体。
- 推理时仅需单一依赖图(离线预先解析),无额外计算开销,适合线上实时推荐/Agent系统,避免多解析树集束搜索或边际化。
- 对话Agent的状态追踪可借鉴:将对话动作序列解析为依存树,生成语法感知的位置嵌入,增强长程对话理解,并可分别按encoder/decoder调整注入策略。
自主分析代理的创新残差审计:定位、检测限与错误控制
🧭 代理审计的检测极限与错误可控性分析
Johns Hopkins University
对无监督代理错误审计进行理论分析,揭示评分选择对错误传播的影响并给出统计控制方法
📌 工作参考价值(4 点)
- 设计代理操作审计系统时,需谨慎选择评分函数:基于单步条件概率的评分会掩盖下游继承错误,导致一个错误只触发一处警报;基于长程重构的评分能使单次错误扩散为多操作标记,有助于暴露错误影响范围。
- 在电商推荐场景中,若用Agent自动生成分析报告(如活动效果归因),可借鉴论文的统计错误控制程序,在无标注错误样本下,仅利用历史正确分析的可交换性,控制单次审计的错误发现比例。
- 错误检测灵敏度主要受限于操作表示的维度(而非训练数据量),提示在开发审计工具时应优先优化表示质量,盲目增加正确分析样本收益甚微。
- 对于累积型错误,需动态调整比较窗口长度以平衡检测延迟与误报风险,这与推荐系统中在线模型退化的渐进式监控问题有相通之处。
ABSeeker:基于答案回溯的细粒度信用分配训练长期搜索代理
🧭 搜索代理训练 · 步骤级信用分配 ★ 深度解读
Shanghai Jiao Tong University
提出答案回溯的细粒度信用分配框架,为搜索代理的每一步提供密集步骤级监督,4B模型性能超越同规模甚至比肩30B模型。
📌 工作参考价值(4 点)
- 步骤级信用分配可迁移到多步检索/推荐系统:在电商多轮对话或深度搜索推荐中,轨迹稀疏奖励问题同样突出,可借鉴答案回溯方法,利用最终正确结果(如成交、满意答案)反向推导中间关键证据(如关键商品属性、比较点),为每一步对话或检索动作生成密集奖励,改善策略学习。
- SFT中奖励加权损失提升数据利用率:ABC-SFT通过sigmoid函数将步骤评分映射为损失权重,对高质量步骤加强学习,对错误步骤抑制信号,可推广到有过程标注的业务微调中,比如用规则或LLM为会话中的每个召回/排序动作打分后加权训练。
- RL中引入步骤级优势提升探索:ABC-GRPO的折扣步骤优势(γ=0.25)将未来步骤奖励合理传播,可应用于线上强化学习调优推荐策略,替代粗糙的结局奖励,让模型更精准地关联动作与最终收益。
- 线索锚定的评分模板工程化:使用预设的加分/扣分规则表(发现正确线索+0.8、错误排除-0.8等)对每一步进行结构化评分,易于在业务中复现,尤其适合约束明确、答案可验证的任务(如搜索词纠错、知识库问答)。
AgentOPSD:通过递归自蒸馏为多轮Agent提供回合级信用分配
🧭 Agent 多轮交互的回合级信用分配 ★ 深度解读
清华大学 · 浙江大学 · 美团
将自蒸馏的token级log概率差聚合成信念状态,通过贝叶斯递归更新定位关键回合,重塑轨迹级优势函数
📌 工作参考价值(4 点)
- Agent RL 训练的信用分配:电商/搜索 Agent 的任务往往多轮交互(多步检索、筛选、比较),轨迹级奖励广播会模糊关键动作。AgentOPSD 的递归信念更新提供了一种轻量替代方案:无需训练额外 critic,仅通过自蒸馏的 token 级 log 概率差来估计每个动作对最终结果的贡献,可迁移到商品搜索 Agent 或对话式推荐 Agent 的强化学习微调中。
- 自蒸馏信号的利用方式:论文演示了如何将自蒸馏的 log 概率差转化为“证据”,并用于贝叶斯更新而非直接作为损失或缩放因子。在电商 Agent 中,业务特征(如用户停留、点击等)常作为特权信息仅在训练时可用,可仿照此思路构建 teacher 分支,生成回合级证据并根据信念变化幅度动态调整优势权重,提升样本效率。
- 多轮对话/交互的鲁棒性:AgentOPSD 在长 horizon 任务上优势显著,且超参数不敏感(λ 除外)。对于广告多轮出价或多步推荐场景,该方法的衰减累积机制和基于信念状态饱和度的自适应门控(B(1−B))同样适用,可避免早期冗余动作的噪声干扰,同时稳定训练。
- 工程实现友好:仅需一次额外 teacher 前向传播,无额外 rollout 或 critic 网络,可直接嵌入 GRPO 训练循环。对于已有 GRPO 流程的团队,迁移成本低;且开箱即用的超参数(λ=0.5, γ=0.95)提供了直接参考。
Argus:验证引导下可持续进化的通用长程Agent运行时
🧭 多智体协作的持久化研究运行时 ★ 深度解读
Microsoft · Shanghai Jiao Tong University · Fudan University · Nanjing University · Tsinghua University
一种带角色分工与验证门控的Agent运行时,允许目标修正同时防止目标漂移,在固定模型下实现状态自进化
📌 工作参考价值(3 点)
- 在电商搜索推荐Agent系统中,可借鉴“验证-门控”持久状态管理,将用户意图与操作目标分离,允许根据反馈修正目标并记录,避免工作流中断或错误累积。
- 将长程任务分解为有界任务(missions),由 Manager / Planner / Engineer / Reviewer 角色协作,可迁移到多 Agent 推荐系统的任务编排,减少模型幻觉导致的错误扩展。
- 固定模型参数,仅通过验证门控方式进化记忆、技能、验证规则等持久状态,为生产环境中不希望频繁微调的场景提供了一种轻量级 Agent 改进方案。
程序化推理数据设计:Completion-Supervised微调下的广泛生成器集合
🧭 程序化数据生成 · 推理训练
Univ. Lille · Inria · CNRS · Centrale Lille · CRIStAL
构建50个生成器的Reasoning Core,揭示紧凑目标和校准难度对完成监督推理训练的关键作用
📌 工作参考价值(4 点)
- 为Agent训练构建程序化推理数据:可借鉴其生成器框架,创建电商购物助手所需的多步决策、约束满足等合成样本,通过难度控制逐步提升模型推理能力。
- 训练数据设计原则:优先保证目标的紧凑性(减少冗长输出)和难度校准,避免模型学习表面模式;在搜索推荐场景中生成query改写或解释时,可据此过滤低质样本。
- 数据质量审计流程:将模型辅助审查、人工裁决和回归测试组合,用于保障搜索/推荐系统的合成训练数据质量,快速发现生成与标注错位。
- 验证数据效用的方法论:不依赖单一的语义合理性,而是直接在下游任务(如DROP/ARC)上评估数据贡献,业务中可据此建立快速反馈循环,筛选真正有效的训练数据。
持续学习的范式转变:从参数中心到系统级适应
🧭 持续学习 · 系统级适应框架
Institute of Automation, Chinese Academy of Sciences · National University of Singapore · Tsinghua University · Shanghai Jiao Tong University · Alibaba Group
提出三轴框架(何时、如何、何处)刻画持续学习从参数更新到系统级适应的演进
📌 工作参考价值(4 点)
- 系统级在线更新:推荐模型可将部分能力外置到记忆库或技能库中,新知识通过写入外部存储而非修改模型参数来实现,避免灾难性遗忘,适合高频变化的电商场景(如新品冷启、大促策略调整)。
- 推理时自适应:借鉴 test-time training 思想,在推荐服务推理阶段根据当前上下文(如用户实时行为)快速调整模型子集或 prompt,无需完整重训,降低延迟并提升实时性。
- 多策略混合更新:结合 off-policy(历史数据回放)与 on-policy(在线交互)更新,利用 LLM 驱动的 Agent 生成合成交互数据,平衡稳定性和探索,适合搜索广告的竞价策略持续优化。
- Agent 交互协议:将推荐系统组件(召回、排序、出价)作为 Agent,通过标准化协议交换记忆和技能,实现不同模块的独立持续进化,提升整体系统的长期适应能力。
ChronoVision:通过潜在状态重建实现时序推理
🧭 多模态时序推理 · 潜在状态重建
University of Illinois Urbana-Champaign · PediaMed AI · University of Pennsylvania
通过重建潜在状态与强化学习对齐过程,增强多模态模型的时序推理能力
📌 工作参考价值(4 点)
- 潜在状态重建可作为一种辅助任务用于用户行为序列建模,预测未来购物意图的隐状态演进,辅助动态兴趣捕捉。
- ROI 注意力定位模块可迁移至搜索或推荐中,对用户行为序列的关键片段(如点击、加购)进行聚焦,增强模型可解释性。
- 强化学习后训练对齐中间过程的做法,可借鉴到多步推荐 Agent 的决策优化,通过奖励中间状态一致性提升策略稳定性。
- 将视频推理转化为严格图像排序任务的评估思路,可启发推荐系统中序列预测能力的评测设计,如评测下一次物品预测的时序逻辑一致性。
CLIP-CC-Bench:评估视频语言模型的长段落描述能力
🧭 视频语言模型评估 · 长文本生成
South Dakota State University
提出首个面向段落级长视频描述的评估基准,通过嵌入模型集成与粗细粒度匹配衡量生成质量
📌 工作参考价值(4 点)
- 嵌入模型集成评估法:用多个 LLM 作为评判器的思路可直接迁移到电商商品描述、推荐理由、广告文案等生成任务的离线评估,避免单一嵌入模型带来的评分偏差,提升评估鲁棒性。
- 粗细粒度语义匹配:粗粒度匹配确保主题一致性,细粒度匹配捕捉细节忠实度,这种分层评估方式可用于 Agent 回复、搜索结果摘要等长文本生成场景,快速定量诊断生成质量。
- Borda 聚合排名:当需要从多个评测指标或多个评判器综合对比模型时,Borda 计数法提供了一种简单稳定的排名聚合方案,适合在业务模型选型或线上 A/B 评估中引入。
- 长文本评估基准构建:从原始内容切分、专家撰写参考到标准化评估脚本的完整流程,可复用到电商直播切片描述、商品讲解视频摘要等垂直域的长文本生成评估任务中。