RCER:为迭代检索增强生成重建跨证据关系
🧭 迭代 RAG · 跨证据关系重建
Xi'an Jiaotong University · Beijing University of Posts and Telecommunications
在迭代 RAG 中重建跨证据实体对应与推理依赖,多跳 QA 平均 EM/F1 提升 2.83/3.06
📌 工作参考价值(4 点)
- 在商品/店铺/活动规则等复杂问答或客服 Agent 中,可把多轮检索到的片段抽象成实体对应关系和推理依赖图,每次新证据加入时增量重建关系,驱动下一轮 query 分解,避免仅靠向量相似度重复召回。
- 把「证据获取」和「推理上下文构建」解耦:先做互补证据联合选择,再基于跨证据推理补齐隐式链条,最后组合关系回答;适合电商场景中跨文档信息拼接,如满减规则+商品类目+用户历史生成答案。
- 工程实现上,RCER 直接利用累积的 source passages,不依赖外部知识图谱或额外训练,可以低成本接入现有 RAG pipeline;在多跳、叙事型、隐式推理问题上收益更明显。
- 若业务问题偏短平快,收益有限;更值得用于导购对比、合规规则问答、售后政策推理等需要链路推理的场景。
RealCLI:CLI Agent 人机协作统一评估基准
🧭 CLI Agent 人机协作评估基准
Beihang University · Renmin University · IQuest Research
提出 REALCLI 双模式基准,统一评估 CLI Agent 任务执行与协作质量,揭示前沿模型协作能力严重不足
📌 工作参考价值(4 点)
- 电商/运营 Agent 常执行长链路任务(如批量改价、选品、报表生成),可借鉴 REALCLI 的“执行模式 + 协作模式”双评估:既测任务完成,又用 scripted user 模拟渐进需求与授权,防止只优化结果而忽略用户体验。
- 五维框架中的 steerability、trust calibration、safety boundary 可直接迁移为客服/自动报价 Agent 的评测 rubric,例如检查 Agent 是否在修改价格、发优惠券前请求确认、是否过度自信。
- 对于需要人机协同的推荐/搜索 Agent(如自动生成 query 或调整策略),可参考“约束修订”场景模板,设计测试用例评估模型在用户中途改变目标时能否平滑重规划。
- 工程上,scripted user 成本低,适合作为 CI 回归测试,避免每次都要真实人工参与,可先小规模试点。
任务状态治理:一种可验证、可恢复的 GUI 代理执行虚拟机
🧭 GUI Agent 状态治理与恢复
SAIS, University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences · Meituan · Peking University · Institute of Software, Chinese Academy of Sciences
提出 TaskVM,将 GUI 任务建模为可编辑契约,实现可验证与可恢复的代理执行
📌 工作参考价值(4 点)
- 将任务建模成 Desired / Preserve / Observed 三栏契约:在电商运营、广告投放等 Agent 流程中,允许用户编辑期望结果与“必须保持不变”的字段,减少执行漂移带来的失控。
- 对每个 Agent 动作预标记 reversible / compensatable / irreversible:尤其适用于改价、发券、调整预算等高风险操作,便于在执行前评估恢复成本,提供回滚或补偿机制。
- 采用独立 verifier,只依赖 fresh visible observation 验证目标是否满足,不信任 Agent 自身回报;可迁移到生成式推荐/Agent pipeline 的结果验证,例如页面元素是否出现、按钮状态是否改变。
- 将用户编辑写回真实 GUI 操作:在自研自动化平台中实现可编辑控件与真实界面动作绑定,让业务人员直接修改任务参数后自动执行,提升控制感和信任感。
RSIFlow:自适应自改进工作流与演化元Agent
🧭 Agent 递归自改进与元演化 ★ 深度解读
Beihang University · Tsinghua University · Beijing Academy of Artificial Intelligence (BAAI)
提出 RSIFlow,将自适应工作流编排与元Agent harness 演化耦合,动态诊断瓶颈并更新模型/框架/工件,6基准11/12领先
📌 工作参考价值(4 点)
- 将搜索推荐系统中的多类组件(召回/排序/重排模型、prompt/规则、索引/内容/策略配置)抽象为 Model/Harness/Artifacts 三种可更新目标,由 Meta-Agent 根据线上失败轨迹和 A/B 反馈诊断瓶颈,动态选择“微调模型 / 改 prompt 或规则 / 修内容或索引”,避免固定优化路径。
- 借鉴 Harness 三组件抽象 Action/Skill/Planning 管理推荐 Agent 的 prompt 与工具调用规则;用结构化技能库存储“当出现 XX 失败时→修改 YY→保留 ZZ”的经验,通过 Add/Supplement/Revise/Merge 持续维护,降低重复调优成本。
- Meta-Agent 模型参数冻结、只更新其 harness(提示词/技能库/规划规则),能以较低成本迭代编排策略;在需要频繁调整策略的广告投放、活动选词、push 文案场景尤其适用。
- 采用“所有候选共享同一 parent + 统一评估 batch + 正增益才接受”的批量更新策略,可防止无效更新累积,并让失败尝试也作为负证据进入经验库,提升更新稳定性。
失败乃成功之母:用有依据的事后反思重放恢复 GRPO 监督
🧭 强化学习训练 · 失败恢复监督 ★ 深度解读
University of California, San Diego · Adobe Research · University of Virginia · University of Toronto · University of New South Wales
提出 RSHD:从失败 rollout 写纠正笔记,经重放效果筛选和防泄漏后蒸馏回 plain-prompt,在 GRPO 全失败组上恢复监督信号
📌 工作参考价值(4 点)
- 如果你在业务中用 GRPO/RLVR 微调 Agent 或 LLM(如对话式购物 Agent、query 改写、推荐文案生成),当一组 rollout 全部失败时 GRPO advantage 为零,这些 hardest cases 完全被浪费。可借鉴 RSHD:对失败轨迹写不超过 80 词 corrective note,但不看参考答案;用原组 no-note 成功率作为 baseline,只保留 replay 成功率高于 baseline 的 note;再把带 note 的成功续写蒸馏回 plain-prompt,推理时零额外开销。
- 工程实现上,note 搜索可直接在 TRL GRPOTrainer 上加两个 hook,复用现有 vLLM server;训练 token 约翻倍但只在训练期。对业务中失败率高的长尾难题尤其有效:论文按 base 模型 0/8 成功率分层,RSHD 较 GRPO 的收益几乎全部落在“从不成功”的样本上,简单样本基本不退化。
- 安全与防泄漏不可省:论文观察到约 9% 的 note 直接写出参考答案,约 60% 未通过 replay 测试。复用时要保留“字符串匹配检测答案 + replay 效果筛选”,而不是直接信任 note 文本做蒸馏,否则会引入泄漏或强化错误诊断。
- 训练细节可复用:蒸馏权重用带 note 与不带 note 的 log-prob 正 lift 并 clip 到 [0,2],只更新 plain-prompt student,teacher stop-gradient;当没有 note 被保留时该步完全退化为 GRPO,避免噪音。这个机制对业务中 RL 微调 Agent 的稀疏奖励场景很实用。
首达注意力机制(First Passage Attention)
🧭 注意力机制 · 选择性上下文擦除
University of Bergen
用路径极值替代累加衰减,实现选择性上下文擦除并压缩 KV cache 到 25% 仍保持长程检索
📌 工作参考价值(4 点)
- 长序列用户行为建模:FPA 的“路径极值”允许选择性擦除中间事件(如误触、临时会话)而保留早期长期偏好,适合电商用户序列编码。
- 多轮 Agent/对话上下文管理:可借鉴其栈式存活 key 机制,在 RAG 长对话中自动丢弃已撤销指令或中间推理,降低噪声并压缩 KV cache。
- 工程优化:FPA 在约 25% KV cache 压缩下保持 8 倍训练长度 passkey 检索,可直接用于长上下文推理降本,对搜索推荐 LLM 服务有实用价值。
- 可尝试将 FPA 头部作为用户序列编码器,替代 additive forget gate,提高对层级事件(加入/删除购物车、订单状态变更)的敏感度。
四个 Gemini 4 Argon 智能体合作通关 Minecraft
🧭 多智能体协作长程任务执行 ★ 深度解读
Google DeepMind
四个通用编码智能体通过 Mineflayer 编写 2783 个 JS 程序、共享记忆与聊天协作,27 小时 14 分首次端到端击败末影龙
📌 工作参考价值(4 点)
- 把业务操作抽象为『代码作为动作』:让 LLM 生成可执行脚本或 SQL 直接操作推荐系统内部接口,而不是只调用预定义高层工具;沉淀可复用 helper 函数/工具(本案例 42 个 helper 函数被 1519 个程序引用),对应推荐 Agent 中的特征拼接、召回请求、指标计算等常用代码片段。
- 共享记忆 + 轻量聊天双通道:在 Agent 团队中区分私有状态与共享记忆(坐标、陷阱规则、工具 quirks),关键失败转成规则并广播,适合搜索/推荐多 Agent 分工(召回、排序、文案、风控)传递候选与坑位,避免重复踩坑。
- 独立 Observer 做校验与防作弊:增加一个不参与业务的 Observer Agent,核对成功声明与真实日志/指标,防止虚假报告或规格博弈;在长链路推荐自动化中可让验证 Agent 检查策略是否真的上线、A/B 指标是否显著。
- 上下文压缩时外置关键进展:当 Agent 上下文过长触发 compaction,强制把进行中任务和下一步写入外部记忆,防止丢失跨程序状态;适用于持续数小时的离线调参、自动策略搜索或商品文案批量生成任务。
SpectrumQuant:面向LLM量化的谱对齐旋转方法
🧭 LLM 量化 · 正交旋转 ★ 深度解读
Indian Institute of Science
通过协方差最大化推导出闭式数据感知正交变换,大幅降低LLM量化校准成本
📌 工作参考价值(4 点)
- 数据感知旋转替代固定 Hadamard:在电商/搜索推荐场景部署 LLM 时,若采用旋转量化(如 QuaRot、SpinQuant),可直接用激活协方差特征向量作为对齐组件 U,再与 Hadamard/Butterfly 混合,无需迭代优化即可获得与学得旋转相当的精度,适合快速适配领域数据(如电商 query、商品描述)。
- 闭式解大幅降低校准成本:SpectrumQuant 仅需估计激活协方差并做特征分解,70B 模型校准仅 43 分钟(单 A6000 GPU),内存占用 22 GiB,相比 SpinQuant 加速 21 倍、省 9.8 倍内存,且支持 CPU 校准,适合资源受限的线上服务或边缘部署。
- 旋转可完全吸收进权重,零推理开销:正交旋转矩阵可合并到相邻权重中,实测 MacBook 上推理吞吐与无旋转基线一致,不影响在线延迟,适合对实时性要求高的搜索推荐/Agent 系统。
- Butterfly 矩阵作为高效混合组件:理论证明满足 |v_{ki}|=1/√d 的正交矩阵(Hadamard、特定角度 Butterfly)均为最优混合组件,Butterfly 乘法 O(d log d) 可进一步降低在线计算,替换 R3/R4 中的 Hadamard 不影响精度。
τ-Emotion-Bench:用真实用户情绪暴露 LLM Agent 交互脆弱性
🧭 情绪化用户交互下工具调用 Agent 评估与训练 ★ 深度解读
Arizona State University
提出情绪化用户交互基准与 Tracer 数据管线,用交互感知信号训练工具调用 Agent 提升可靠性与跨域迁移
📌 工作参考价值(4 点)
- 在电商导购/售后 Agent 的轨迹合成中,可引入“用户不满可提前终止”的交互感知 reward,过滤最终成功但频繁追问、过度依赖用户的轨迹;让模型优先通过工具查库存/价格/订单,信息不可得时才向用户确认。
- 用户模拟器压测时,不要把情绪作为独立任务或改变任务目标,而应在同一任务上叠加情绪条件(如焦虑、不耐烦、低信任)并保留原成功判定,能更稳定地暴露 Agent 的交互鲁棒性。
- 用“工具调用/追问比”作为线上会话 Agent 的诊断指标:成功会话通常工具调用明显多于追问;可以在 prompt 或 reward 中约束“先查工具,再必要时追问”。
- 借鉴 Tracer 的依赖图 + 反写自然指令流程,可以为业务领域低成本生成 policy-valid 多步任务和训练轨迹;少量高质量交互感知数据比大批普通成功轨迹更利于跨域迁移。
Terminal-RSI:通过递归自改写与策略精炼实现终端智能体递归自改进
🧭 终端 Agent 递归自改进强化学习
Tencent Hy Frontier · National University of Singapore · University of Maryland, College Park · University of Georgia · Indiana University
用递归自改写与策略精炼交替训练,把终端 Agent 验证反馈转成策略提升
📌 工作参考价值(4 点)
- 可借鉴「验证轨迹重写 + 策略精炼」的交替训练范式:用业务中的 reward/verifier 信号找出成功或部分成功轨迹,先重写成更优示范再做策略更新,适合电商 Agent 的任务完成型 RL。
- TB-GAE 对多轮交互做 token 级信用分配时保留衰减:在搜索/推荐 Agent 的多轮对话 RL 中,可按 turn 边界做 skip-observation GAE,避免跨 turn 的 token baseline 偏移。
- FDR 与 SPR 的奖励设计适合业务落地:按任务族做 dense progress reward 校准,同时把严格成功与有界部分奖励解耦,可减少 reward hacking 并稳定训练。
- Warm-up Critic 与 stage-specific LR 可迁移到多阶段 RLHF/RLAIF:先预热 critic 再更新 policy,且不同阶段用不同学习率,能提升生成式推荐的训练稳定性。
TimeRSI:面向时间序列基础模型的自改进智能体部署
🧭 Agent 自动编排预测部署流程
Georgia Institute of Technology · University of Southern California · Samay AI
用 LLM coding agent 在冻结预测模型外围自动生成与迭代 pipeline,并通过自适应选择器提升时间序列预测部署效果
📌 工作参考价值(4 点)
- 把“冻结模型 + 外围 pipeline 自动迭代”迁移到电商预估/推荐:不改模型权重,由 coding agent 生成和修改特征注入、日历/活动信号、后处理或重排代码,在滚动历史回放窗口上评估,可显著降低人工 pipeline 调试成本。
- 借鉴错误反馈闭环:将回测中的分场景误差(如大促、时段、类目偏差)写成自然语言反馈给 agent 进行下一轮修改,比一次性搜索更有效;推荐系统可用“场景化 error report”驱动规则/校准代码生成。
- 在线集成 adaptive selector:按当前上下文和近期相似条件下的实际表现,从多个候选 pipeline/策略中动态选择,而不是固定单一版本;适合推荐场景中多召回/多后处理策略的在线组合选择。
- 工程落地时限定 agent 可修改空间(输入特征、输出校准、后处理逻辑)并做沙箱执行与回测成本控制,避免开放式搜索失控。
TransX 技术报告:面向推荐系统的序列转导规模化
🧭 序列转导推荐 · 模型-基础设施协同 ★ 深度解读
LinkedIn
提出 TransX 序列转导框架,将行为编码、记忆与候选融合解耦,通过摊销执行实现模型扩容而不等比增加在线成本
📌 工作参考价值(4 点)
- 商品/广告精排或召回中,候选集常达数百到上千,可借鉴 TransX 的共享行为记忆 + 候选条件融合:把用户长期行为压缩成 global-local memory,在线用 GQA 交叉注意力对候选做融合,避免每个候选都重算历史表示,显著降低在线 GPU 成本。
- 服务架构上,把用户行为编码从在线路径剥离,改为离线 bulk prefill + 近线增量 refresh,在线只消费不可变行为 memory KV 快照。适合电商推荐中用户行为更新频率远低于请求频率的场景,但需注意版本一致性、KV 量化与分层存储。
- 训练侧可复用多前缀共享一次编码 + blocked prefix scan + batched local gather:在长序列行为模型训练时,消除多个 event cutoff 的重复前缀编码,实测吞吐提升 84%,MFU 从 41% 提升到 57%,显存峰值下降约 44%,对大用户行为序列训练很有价值。
- 通过共享行为记忆接口进行多任务后训练(检索、排序、生成式推荐),避免为每个任务重新训练 backbone,适合业务中同时存在召回、精排和生成式推荐需求的团队降低维护成本。
TreeFlex:让 Agent 自主导航搜索树的树形搜索框架
🧭 Agent 策略引导的树搜索与 RL ★ 深度解读
Meta AI
TreeFlex 让同一 LLM 在 Reflection 与 Execution 间切换,自主选择保存的中间状态继续搜索,并用树感知 GRPO 训练,在深度研究和 SWE 上显著超越 ReAct 与 FoldAgent
📌 工作参考价值(4 点)
- 对于多轮推荐/搜索 agent,维护一个显式状态树(候选 query、商品集合、对话状态),让模型自己决定回溯或分支,可避免线性上下文被低质量探索路径污染。工程上可以像 TreeFlex 一样用“卡片”摘要表示节点,Reflection 角色只看摘要选点,Execution 角色只加载所选路径的详细上下文,既省 token 又保留全局视野。
- Tree-aware GRPO 的训练方式值得复用:把一次树搜索视为一个 rollout,每个输出只在其生成时的上下文上计算损失,而不是拼接所有分支后训练,这样能避免训练与推理分布不一致,且无需树形 attention mask。这对任何多路径决策 RL(如对话策略、搜索链路优化)都适用。
- 过程惩罚设计(如失败调用 -1、超出当前指令范围的操作 -0.2)比单纯最终奖励更能约束 agent 行为;业务上可以针对推荐 agent 的无效工具调用或偏离当前用户意图的探索给予轻量负奖励,避免盲目分支。
- 资源效率:TreeFlex 用更多推理换取准确率,但在相同采样数下优于重复采样 baseline;因此,在允许高延迟的场景(如深度研究型推荐、复杂用户意图解决),增加可控分支回溯比单纯增加样本量更有效。
Waypoint-OPD:基于门控在线策略蒸馏的 RL 策略偏移迁移
🧭 RL 策略偏移蒸馏 · 门控迁移
Alibaba Cloud Computing
用中间检查点方向一致性门控教师 RL 前后策略偏移,提升数学与代码推理蒸馏效果
📌 工作参考价值(4 点)
- 在 RL 蒸馏中保留中间 checkpoint 成本低:只需额外一次 frozen-teacher 打分,即可按 early/late 偏好方向一致性过滤噪声,适合线上小模型蒸馏。
- 门控思想可迁移到排序/Agent 策略蒸馏:teacher 策略在训练中迭代不稳定时,不要直接用最终参数差,而是用中间检查点检测方向冲突,抑制相互抵消的 policy shift。
- 对用 RL 微调 LLM 做 query 生成、生成式推荐或 Agent 决策的业务,可以借鉴 on-policy 蒸馏方式:让学生自生成轨迹,teacher 打分并计算 early/late log prob 差,只把方向一致的策略偏移作为监督,避免把探索期噪声传给学生。
- 论文在数学与代码推理验证,迁移到电商场景需适配奖励和动作空间,但“方向一致性 gating”是通用 trick。
XViewRank:基于重叠条件的 LLM 增强稀疏检索分数融合
🧭 查询扩展与多视图检索排序融合
School of Computer Science and Technology, Soochow University
提出轻量检索端方法,将 BM25 分数与查询级重叠作为上下文,用小型非线性 scorer 条件融合多查询视图结果
📌 工作参考价值(4 点)
- 电商搜索可参考 LLM 生成 hypothesis / step-back 等多视角 query,配合 BM25 多路召回,避免词汇不匹配;无需重建索引,工程成本低。
- 融合时不要只依赖固定权重的 RRF:可加 query-level overlap 特征(如各路 top-k 结果重合度)和归一化分数据,训练小型非线性 scorer 做条件融合;特征少、可解释性强,容易在线打分。
- 收益主要在视图排名一致性低时出现,可设计动态触发策略:先计算 overlap 或一致性指标,只对低一致性的 query 走融合模型/更复杂的改写,控制延迟与成本。
- 注意论文在 DL20 证据较弱,收益具有数据集敏感性;业务迁移前应做在线 A/B,验证是否比固定融合、单独 LLM 扩展稳定提升。