CoDeR:分离主题与约束的局部兼容稠密检索
🧭 约束兼容信息检索,分离主题与约束
University of Hong Kong · University of Science and Technology Beijing
提出将主题相关性与约束兼容性解耦的双编码器检索方法,专门减少违反负约束的文档暴露
📌 工作参考价值(4 点)
- 电商搜索中处理否定约束(如“不含酒精”、“非转基因”):可独立训练兼容性评估器,对召回的商品根据约束兼容性重排或过滤,避免返回违反要求的商品。
- 在构建Agent的检索组件时,对于用户带有硬约束的查询(如“不要推荐含糖饮料”),可直接采用CoDeR的双编码器架构,无需调用LLM,推理成本低。
- 可用对比学习和词汇极性信号(如反义词对)监督训练兼容性模型,方法简单有效,可迁移至各类产品属性约束。
- 重排和单独检索兼容性候选两种模式灵活,适用于不同时延要求:重排适合在线快速筛选,单独检索适合离线生成高质量候选集。
从被动生成到主动调查:一种主动式科学同行评审智能体
🧭 主动式评审Agent · 结构化日志引导
Ubiquitous Knowledge Processing Lab (UKP Lab), Technical University of Darmstadt · National Research Center for Applied Cybersecurity ATHENE, Germany · School of Computer Science, University of Birmingham
将论文评审建模为MDP,用结构化日志引导LLM主动调查疑点,8B模型性能超越大模型prompt方法39%
📌 工作参考价值(4 点)
- 主动调查机制可复用至客服/推荐Agent:将多步信息收集建模为MDP,Agent可自主决定何时查询知识库、调用工具或请求用户反馈,结构化日志作为工作区记录证据与假设,提升信息获取的针对性和深度。
- 结构化日志是轻量级记忆增强方案:类似Scratchpad或流式笔记,在Agent内部维护一个不断更新的JSON或键值结构,用于追踪状态、中间发现和待验证项,可有效避免长上下文遗忘,在电商导购中实现多轮推理和偏好追踪。
- RL优化Agent调查策略有直接迁移潜力:利用RL对“调查”动作(如查看详情、对比商品、查看评论)进行奖励驱动优化,使Agent学会在何时做何种调查以最大化下游任务收益,适用于电商比价、商品推荐等需主动探索的场景。
- 小模型+SFT+RL可超越大模型Prompt:对于特定垂直领域的Agent任务(如客服、合规检查),用8B模型经监督微调加RL训练,可在成本敏感的生产环境中替代闭源大模型的Prompt工程,获得更高性价比。
从聊天机器人到数字同事:持久自主AI的范式转移
🧭 Agent 演进:从对话到可持久自主工作 ★ 深度解读
Tencent Youtu Lab · Tsinghua University · Sun Yat-sen University · Central South University · University of Illinois at Chicago
提出“Workspace+Skill”机制,推动LLM从单次对话转向有状态、可复用的任务执行
📌 工作参考价值(4 点)
- 构建有状态的 Agent 工作区:参考 OpenClaw 的 Workspace 概念,为电商 Agent(如自动比价、库存管理)维护持久化的文件系统、终端、浏览器状态,避免每次调用都重新获取上下文。
- 用“技能(Skill)”封装可复用推理链:将常见业务流程(如订单处理、退款审核)建模为可参数化的 Skill,包含规划、工具序列、中间校验与错误恢复,提升任务闭环率。
- 评估范式从答案质量转向任务状态验证:对于推荐或运营 Agent,不应仅看最终回答的准确性,而应检查任务是否真正改变了系统状态(如是否完成了一次广告投放调整),用“任务闭环率”作为核心指标。
- 数据构造从指令-响应对转向状态-动作-观测轨迹:训练电商 Agent 时,记录完整的交互轨迹(用户意图 → 动作 → 环境反馈),以轨迹级 reward 进行强化学习,比单轮 SFT 更能培养长期规划能力。
CQC-RAG:通过跨查询一致性实现鲁棒检索增强生成
🧭 RAG 鲁棒性 · 交叉查询一致性
University of Electronic Science and Technology of China
提出跨查询一致性假说,通过生成多样等价查询并评估答案信心稳定性来过滤幻觉,无需外部监督即可提升 RAG 鲁棒性
📌 工作参考价值(4 点)
- 查询变体注入与一致性筛选:在 RAG 管道中,对同一用户意图生成多个语义等价但句法不同的查询,通过对比各查询下答案的置信度稳定性,可以自动过滤噪声导致的幻觉,直接提升问答或知识检索的可靠性,无需额外标注数据。
- 证据-答案配对自评估协议:将答案与支撑其的证据片段强绑定,要求模型同时输出答案和对应证据,再利用跨查询稳定性筛选,这种方法可迁移到 Agent 的多步推理或工具调用验证环节,用于剔除不可靠的中间结果。
- 共享文档池与重排序策略:不依赖扩大检索覆盖,而是先召回一个共享候选文档集合,再针对每个查询变体重新排列文档顺序,构建差异化的推理上下文,在有限检索计算下实现多样化证据视角,适合低延迟、资源受限的业务场景。
- 生成式推荐的鲁棒性借鉴:当用户 query 或产品描述存在多种表达方式时,可通过生成多个语义等价变体、分别生成推荐理由或纠偏候选,再依据一致性选出最稳定的推荐,减少因表述差异导致的推荐结果波动。
递归智能体框架:以完整工具集为递归单元的长上下文推理
🧭 Agent 架构 · 长上下文推理 · 代码即行动 ★ 深度解读
PricewaterhouseCoopers, U.S.
将递归单元从裸模型调用升级为完整 agent harness,在长上下文推理上超越 coding agent 和 RLM,代码生成子 agent 并行处理。
📌 工作参考价值(4 点)
- 用代码脚本生成子 agent 替代工具调用并行限制:当需要处理大量独立条目(如千级商品描述分析)时,由父 agent 生成 asyncio 并行脚本,绕过 API 并行调用上限,可应用于电商批量商品属性提取或用户评论汇总。
- 递归单元配备完整文件系统与执行环境:每个子 agent 拥有独立的上下文窗口和工具(read_file、grep、execute 等),避免共享状态干扰,适合多文档聚合任务(如合同审查、多源数据抽取),可直接用于客服历史或物流文档分析。
- 模式可组合:代码路径处理海量条目,工具调用路径处理少量任务:根据条目数自动选择策略(少于5个用 JSON tool call,否则用代码执行),兼顾效率与灵活性,推荐系统中对候选池做细粒度推理时可借鉴。
- 递归深度可配置且架构与模型解耦:沿用 GPT-5 到 Claude Sonnet 均显著提升,表明 harness 设计本身带来增益,从业者可在现有模型基础上仅升级编排逻辑而无须换模型。
DR-DCI:通过动态工作空间扩展实现可伸缩直接语料交互
🧭 Agent 搜索接口 · 检索与直接语料交互结合 ★ 深度解读
University of Toronto · Texas A&M University · University of Waterloo · UC San Diego · Verdent AI
将检索重塑为 Agent 可调用的 pull 动作以扩展本地工作空间,使 DCI 终端操作仅作用于已拉取文档,平衡大规模语料探索与细粒度证据验证。
📌 工作参考价值(4 点)
- 检索即工作空间动作:在商品搜索/推荐 Agent 中,可将检索接口设计为 pull(query, topK),根据推理中间状态动态拉取候选,而非固定一次性检索,适应多轮证据收集。
- 预览 + 本地 DCI 双阶段设计:拉取后返回 ranked preview 供 Agent 快速定位,同时保留 grep/read 等终端式命令在已拉取文档内进行跨文档比较与验证,可迁移到需多商品对比或约束过滤的场景。
- 工程化工作空间管理:拉取的文档存储为扁平目录、唯一文件名并提供统计信息,避免路径混乱和重复,降低 Agent 误操作;可利用现有 BM25 等轻量检索器作为后端,降低建设成本。
- 失败恢复机制:低置信度 + 显式 abstain 时,保留工作空间但重置推理上下文进行二次验证,能以极低成本($4.44 恢复 17/49 个错误)提升准确率,适合高价值决策场景。
多方实时语音代理的自适应轮流说话
🧭 多方语音代理 · 流式推理与角色扮演
Amazon AGI · IIT Kharagpur
提出 ModeratorLM,根据分配角色自适应调整多方语音对话中的轮流行为,精度提升超40%,召回提升超70%。
📌 工作参考价值(4 点)
- 角色条件控制代理行为:在电商客服或语音导购场景中,可为代理显式指定角色(如促销导购、售后专员),模型将根据角色调整轮候策略和响应风格,提升对话自然度。
- 流式 chunk-wise 推理与 CoT 增强:采用分块流式语音大模型,结合 Chain-of-Thought 推理,可在低延迟下完成复杂的轮流决策,适合对实时性要求高的电音语音交互。
- 合成对话数据生成:RolePlayConv 数据集构造方法利用了角色多样性合成,可低成本生成特定业务场景的训练数据,减少人工标注成本。
- 减少误打断:提出的方法显著降低误打断率,在呼叫中心或语音工单等场景中可避免重复澄清,改善用户体验。
多语言密集检索中查询嵌入插值何时有效?
🧭 多语言密集检索 · 查询嵌入混合策略
National University of Singapore
英语主导非对称性:非英语文档混合查询有益,英语文档索引纯英语最优,英语是最强混合伙伴
📌 工作参考价值(4 点)
- 跨境电商多语言搜索优化:当商品文档主要为非英语语言时,可以尝试将用户查询的英语翻译与原查询嵌入插值,利用英语作为“锚点”提升跨语言理解,实验中非英语文档索引上混合查询均优于单语查询。
- 索引语言决定混合策略:若索引中包含大量英语文档(如全球站),建议保持纯英语查询以获得最佳效果,混合反而有害;该非对称性可指导工程上按索引语言动态选择是否启用查询混合。
- 选择最佳混合伙伴:英语与任何非英语语言混合均有增益,且是通用最强伙伴;在多语言Agent或推荐系统中,可优先使用英语变体作为辅助表示,无需为每个语言对单独寻优。
- 根据语言类型距离调参:当排除英语干扰后,混合收益与语言间类型距离负相关;对于语法结构相近的语言对(如西班牙语-意大利语),可预期更高混合收益,可用于启发式设计混合比例超参数。
多智能体编排的奖励建模
🧭 多智体编排 · 奖励建模 ★ 深度解读
Rutgers University · Salesforce AI Research
提出编排级奖励模型 Orch-RM,用自监督偏好对训练,无需人工标注和子 Agent 全量执行,显著提升测试时缩放和编排器训练的效率与效果
📌 工作参考价值(4 点)
- 编排级奖励信号直接用于推理:Orch-RM 在编排层面评分,无需执行子 Agent 即可选择最优编排方案,将 BrowseComp 验证成本从 142.8M token 降至 8.26M,准确率还提升 1.5%。电商多 Agent 场景(如客服路由、推荐流程编排)可借鉴,在低延迟要求下用轻量奖励模型筛选高质量协作图。
- 利用训练中间产物构造偏好对:从训练检查点和轨迹中自动构造“专用优于基础”和“正确优于错误”两类偏好对,无需人工标注。业务中若已有多 Agent 训练日志,可直接复用该自监督构造方法,大幅降低评估器标注成本。
- 奖励模型指导继续训练:Orch-RM 替代全轨迹 GRPO 的稀疏奖励,在 AIME 24&25 上使用约 1/10 的训练 token 取得 3% 的 majority vote 提升,BrowseComp 上更以 1/46 token 量实现 2% 提升。对于需要频繁迭代的编排策略模型,可大幅节省训练算力。
- 域特定奖励模型可迁移:论文训练了数学、Web QA 等域特定奖励模型,并在 GPQA(科学推理)上验证了跨域泛化能力。电商多域(推荐、搜索、客服)可分别训练编排评估器,或探索多域融合的统一奖励模型,降低重复训练成本。
多智能体协议中基于聚合置信度信号的可靠估计
🧭 多智能体系统置信度估计与聚合
University of Illinois Chicago
首次为多智能体辩论系统设计聚合置信度,通过可比性转换与贝叶斯融合显著提升判别力
📌 工作参考价值(4 点)
- 电商搜索/推荐中的多Agent协同(如Query理解、商品召回)可借鉴软投票或贝叶斯融合聚合各Agent置信度,用于触发人工审核或自动路由决策
- 置信度转换(使输出概率跨模型可比)的思路可直接用于解决异构模型协作时的分数对齐问题
- 参数与非参数校准实验显示校准主要提升决策正确率(F1),若业务目标侧重可靠筛选(AUARC)则可放松校准需求,节约计算
- 生成式推荐中使用多模型辩论生成商品描述或解释时,聚合置信度可作为生成内容的可靠性指标,辅助过滤低质量输出
FastContext:为编程智能体训练高效的仓库探索器
🧭 Agent子代理专化与token效率优化
Microsoft · Shanghai Jiao Tong University
将仓库探索与任务求解分离,用专用小模型子代理并行搜索,最高提升5.5%解决率并削减60% token消耗
📌 工作参考价值(4 点)
- 在大模型推荐Agent中,可把商品库检索、用户画像查询等上下文探索任务交给专用小模型子代理,通过并行工具调用快速返回相关片段,避免主模型上下文爆炸和token浪费。
- 采用“强模型轨迹引导 + 任务奖励微调”两阶段训练法,利用大模型生成高质量探索路径,再在业务数据上微调小模型,低成本定制垂直领域(如电商搜索、广告定向)的探索器。
- 分离探索与推理的架构思想可直接迁移:设计“探索员-求解员”模式,探索员专注信息收集并返回带精确引用的证据,求解员仅做决策,可提升系统响应速度和决策准确性。
- token消耗降低60%的结论提示,在线上高并发推荐或对话场景中,通过精简上下文输入可大幅降低推理成本,且小模型额外开销极小,适合成本敏感业务。
FastMix:梯度下降实现快速数据混合优化
🧭 训练数据配比优化 · 梯度下降 ★ 深度解读
University of Hong Kong · Tencent Hunyuan LLM · Chinese University of Hong Kong
将数据混合比例重新参数化为可微损失权重,实现单代理模型高效联合优化
📌 工作参考价值(4 点)
- 推荐模型训练中常需对不同行为(点击、加购、购买)或不同频道的数据做采样配比,FastMix 提供了一种单模型、梯度驱动的自动搜索方案,替代手动调参或耗时的网格搜索。
- 关键 trick:将采样概率重参数化为损失权重,使混合系数完全可微,可用 SGD/Adam 直接优化,仅需一个代理模型即可完成搜索,计算成本降低数百倍。
- 为避免过拟合到验证集,可借鉴其熵正则 + 训练损失辅助目标的策略,提升上线后的泛化能力;工业场景可进一步用上采样率上限替代纯正则。
- 代理模型不宜太小(如 <0.5B),建议采用与原模型同架构但参数减半的版本;若预训练与微调序列长度不匹配,可通过拼接 SFT 序列对齐长度,避免梯度失真。
GF-DiT:面向扩散 Transformer 服务的动态并行调度
🧭 扩散模型服务 · 动态并行调度
Shanghai Jiao Tong University · Guizhou University
将 GPU 并行度作为可调度资源,通过弹性运行时和轻量组通信大幅提升 DiT 服务效率
📌 工作参考价值(4 点)
- 动态并行调度思想可直接应用于电商场景中的图像/视频生成服务(如商品图生成、虚拟试穿),根据请求量波动弹性分配 GPU,提升资源利用率并保障延迟 SLO
- Group-free collectives 的低开销通信组建立机制(从 778ms 降至 60μs)可用于需要频繁重配并行组的多 Agent 协作推理或分布式模型推理,减少通信初始化开销
- 异步执行抽象(请求分解为可独立调度的轨迹任务)可借鉴到长推理链的 Agent 系统中,提高步间并发和 GPU 利用
- 策略可编程运行时设计允许按业务目标(如优先降低 P99 延迟)配置并行调整策略,适合推荐系统中对生成式模块的差异化服务质量要求
HarnessX:可组合、自适应、可进化的 Agent 运行时脚手架工厂
🧭 Agent 多智体协作优化 ★ 深度解读
Darwin Agent Team
将 Agent 运行时脚手架抽象为一等公民,通过模块化处理器、进化引擎与协同训练实现自动优化,在多基准上平均提升 14.5%
📌 工作参考价值(4 点)
- 模块化处理器架构:将 Agent 行为拆解为上下文组装、工具生态、内存策略、控制流等九维处理器,通过 hook 和替换代数实现可组合、可替换的运行时。电商推荐、对话 Agent 可根据场景(搜索、推荐、售后)快速组装不同的 prompt/工具组合,无需重复开发。
- Trace 驱动的自适应优化:AEGIS 引擎将执行轨迹、验证分数转化为进化信号,自动调整 Agent 的 prompt、工具选择与交互流程。在电商场景中,可将用户反馈(点击、转化)作为 reward,让 Agent 在线自动优化推荐话术、多步检索策略,且通过变体隔离避免多任务间相互干扰。
- 跨策略版本协同训练:利用不同脚手架版本产生的轨迹进行 GRPO 训练,任务级分组计算 group-relative advantage,让模型内化多种策略的优点。可用于训练电商 Agent 从混合策略数据(如不同召回/排序规则)中学习最优决策,突破固定策略的限制。
- 共享回放缓冲区的经济性:Harness 进化与模型训练复用同一批 rollout 轨迹,仅增加一次前向缓存和梯度计算,无额外环境交互成本。对于需要频繁迭代的线上 Agent 系统,该方法以较低算力开销实现智能化升级。
会话信息访问的个性化与评估方法研究
🧭 会话式信息访问 · 个性化与评估
Radboud Universiteit Nijmegen
从个人上下文提取、个性化回复生成到系统评估,提出 CREL、LAPS 和 FACE 三个方法构建可靠 CIA 系统
📌 工作参考价值(4 点)
- 对话实体链接 (CREL) 可直接用于多轮对话中精准提取用户提及的商品、品牌、偏好等实体,为后续个性化推荐或 Agent 记忆提供结构化上下文,替代简单的 NER 或模糊匹配。
- LAPS 数据集构建方法 提供了低成本生成大规模个性化对话数据的范式,可用于微调电商对话 Agent,使其更自然地融合用户历史与偏好,提升推荐接受率。
- FACE 无参考评估 能自动评估整段对话质量且与人工评分高度一致,可嵌入电商 Agent 的离线评测 pipeline,快速筛选或对比不同回复策略,减少 A/B 测试前的评估成本。
- 整体工作强调 “个人上下文” 在会话式信息访问中的核心地位,启示我们在构建电商导购 Agent 时,需将实体链接、偏好记忆与评估闭环统一设计,而非割裂优化各模块。