你不需要长上下文:频繁压缩支持短上下文智能体
🧭 Agent 长上下文压缩与语义状态 ★ 深度解读
NVIDIA
频繁上下文压缩与选择性读取,使长程/长输入任务无需长上下文,准确率基本持平且成本大降
📌 工作参考价值(4 点)
- 在电商推荐/搜索 Agent 的工作流中,将用户会话状态压缩为一段自然语言「semantic state」,每次调用大模型只携带任务描述 + 当前状态,不保留全量对话历史;线上可显著节省 KV cache 和 decode 成本,适合需要多轮筛选/比价的购物助手。
- 对长用户历史、商品详情、评论、规则文档等长输入,用工具化 selective reading:把长文档落在文件系统或检索索引,通过 grep/sed/head 或向量检索按需取证据,避免全量入上下文;可结合 RAG 实现“按需读”,比直接塞 100K 文档更可控。
- 采用 EoCC 式阈值压缩:设定上下文阈值(参考 12K–36K),触发时让模型只保留硬约束、用户偏好、未完成动作和已发现证据,重启新对话;压缩提示要约束长度并聚焦决策相关信息,防止信息丢失。
- 在评测 Agent 时增加效率指标:不只报准确率,同时统计 peak context length、total tokens、每任务成本;可以尝试 single-action compaction,把长程任务建模为状态转移,验证在业务场景是否同样成立。
CUA-Master:开放世界递归改进驱动的计算机使用智能体扩展
🧭 CUA 数据飞轮与递归训练
MMLab, CUHK · THU · HKUST(GZ) · Explore Academy · JD
提出嵌套双循环递归改进框架 CUA-Master,结合开放世界数据与自催化传播,显著提升 GUI 智能体性能。
📌 工作参考价值(4 点)
- 构建双循环数据飞轮:外层利用开放世界语料和模型弱点指导数据迭代,内层从教学视频提取真实工作流作为种子任务,通过视觉-语义双路径重建轨迹,可迁移到电商 RPA/后台自动化数据生产。
- 自催化传播:将种子任务提炼为可重用原语(primitives),可控合成多样、复杂、可验证任务,适合生成大规模 GUI 操作训练集,降低人工采集成本。
- 快照回滚重试机制:在真实环境中通过反馈引导快照与回滚,提升轨迹收集的成功率和可靠性,可用于线上 Agent 执行时的容错与数据回收。
- 结果证明递归迭代可带来持续增益,CUA-Master-27B 在 OSWorld 等 benchmark 达到 80.2,说明中等规模模型配合高质量数据合成可逼近大模型,适合资源有限的业务团队。
电商购物 Agent 的生成式奖励模型 E-GenRM
🧭 生成式奖励模型 · 购物 Agent ★ 深度解读
Taobao & Tmall Group of Alibaba · Technische Universität Wien
从真实购物行为回溯构造评价链,三阶段训练生成式奖励模型,在线提升淘宝购物 Agent 有效协助率与满意度
📌 工作参考价值(4 点)
- 用真实行为回溯构造评估轨迹:从购买结局反向切分 shopping task,将 120+ 行为信号翻译为 Agent 交互历史与候选响应对,能绕过「能力-轨迹反馈环」,持续产出覆盖长尾行为的 reward/eval 数据;适合电商 Agent 搭建数据飞轮。
- 评价链 + 三阶段训练可迁移:SFT 学动态加权 rubric 和证据支撑的 criterion-level 判断;RL 用 outcome reward + factual reward 给每个 criterion 部分信用,提供更密集训练信号;再用 teacher disagreement 和 utility margin 筛 hard negatives 提升个性化偏好敏感度。
- 主动证据检索:用 retrieval-need label 和 tool-use reward 对齐检索决策,只在上下文缺 decisive evidence 时调用工具;调用率从 95.84% 降到 22.12%,精度反而略升,适合线上成本敏感场景。
- 用 E-GenRM 后训练淘宝购物 Agent,14 天 A/B 有效协助率 +1.39pp、满意度 +2.33pp、P99 延迟 -17.88%,可直接作为生成式 RM 替代或校准 expert judge 的业务参考。
DR Pixel:视觉语言模型驱动的页面原生深度研究智能体
🧭 页面原生视觉深度研究智能体
NYU Shanghai · University of California, Berkeley · Rational Dynamics · Toyota Technological Institute at Chicago · New York University
首个开源端到端多模态深度研究代理,直接检索渲染页面图像并引入反事实信用重加权训练,超越 OCR 基线
📌 工作参考价值(4 点)
- 对商品详情页、广告落地页等富视觉文档,可直接用页面截图作为检索与推理单元,替代 OCR 文本化,保留表格、价格、图片、规格等结构化信号,适合多模态 LLM 在电商搜索/推荐中做页面级召回与问答。
- 在 agentic 搜索/推荐流程中,减少中间 OCR 和文本转换步骤,可显著降低工具调用次数与延迟;页面原生检索对含促销规则、对比表、图表的复杂页面更鲁棒,可用于营销活动页理解和智能导购。
- 训练 Agent 轨迹时,teacher trajectory 噪声大;可借鉴 counterfactual credit reweighting,按每个步骤对最终转化的反事实贡献做加权,提升 SFT 数据质量,而非简单过滤失败轨迹。
- 构建评测时,面向文档中混合文本、表格、图像、公式等多模态证据设计问题,比纯文本问答更能反映真实业务中商品详情、广告素材、规则文档的理解能力。
基于猜想与反驳的 LLM Agent 动作预执行验证
🧭 Agent 动作预执行验证 · 猜想与反驳 ★ 深度解读
Pohang University of Science and Technology · National AI Research Lab
提出 BLACKSWAN:对每个会改变环境的动作,先预测效果、再生成可测试的怀疑并验证,执行前主动寻找反驳证据
📌 工作参考价值(4 点)
- 对电商/广告/搜索推荐中的高危不可逆操作(下单、发送营销 push、修改商品价格、删除广告计划)可引入“预期-怀疑-测试”三阶段 guard:在执行前让模型先写清预期效果,再列出可证伪的具体担忧,最后用只读 API 查询验证;任一担忧被证实即拦截并重写动作。
- 把验证逻辑从“找支持证据”改为“找反驳证据”,并将怀疑预先注册、固定后再去测试,能避免模型先看到证据再反向修正假设,可复用到工具调用安全校验与 Agent 风控中;实现时让怀疑绑定到具体代码元素(变量、API 参数),否则容易产生无关担忧。
- 只对 state-mutating API 启用该机制,read-only 操作直接放行,能平衡安全与 token 成本;论文中 BLACKSWAN 的代价约为 1.5–9.4 倍 ReAct,弱模型收益更大,适合中小参数模型在关键路径上的兜底。
- 零样本/少样本条件下依然有效,说明不需要大量 in-context 演示即可迁移;如果业务中已有手工规则或 pre-defined 检查,可以替换为 LLM 生成反驳假设 + 环境验证的软校验,减少硬编码漏报。
路由任意:通用AI系统模型与策略路由研究
🧭 模型路由 · 多模态质量成本权衡
National University of Singapore, HPC-AI Lab · InfRec, Cardinal AI Lab · University of California, Berkeley · Hong Kong University of Science and Technology
构建覆盖25个基准374k轨迹的omni-modal路由框架,证明学习路由器超最佳固定候选并提升效率8.82倍
📌 工作参考价值(4 点)
- 在推荐/搜索系统中维护多个候选模型(如轻量双塔、深度交叉、LLM排序器),训练一个轻量路由器(小型MLP或XGBoost)基于用户/物品特征、上下文及模型置信度动态选择,论文证明输入信息充分时学习路由器接近oracle上限,同时平均效率提升8.82倍。
- 搭建离线路由评估流程:对历史流量样本离线运行全部候选模型,记录质量分与延迟/成本,形成trajectory matrix,再训练路由器,可安全评估新模型加入后的整体收益,避免直接全量替换风险。
- 将路由用于Agent工具/策略选择:在电商对话助手中,根据用户query意图、语义和上下文路由到不同工具链或生成策略,降低昂贵LLM调用次数同时保持质量。
- 关注路由器输入特征设计:理论表明路由器可获得的信息决定可达性能,实用中可加入模型预测分布熵、历史表现等信号,而不只是原始输入特征。
Strategist:用元智能体进化推理策略并跨任务积累
🧭 Agent 推理策略自动搜索与库积累 ★ 深度解读
Princeton University · Meta
将推理策略写成可复用蓝图并跨任务搜索积累,在 30 个基准上以 39% 更低成本匹配最强基线
📌 工作参考价值(4 点)
- 电商/推荐 Agent 工作流可把「意图识别→召回→精排→解释/文案」抽象成 Blueprint 库,让 LLM 按小样本和成本约束自动搜索、组合策略,而不是每个场景人工写 prompt/agent;只换任务化 prompt,结构跨场景复用。
- 借鉴多层级路由:Amazon-Rec 的发现策略只在「偏好漂移」用户上触发 multi-agent debate,其他用户走 cheap profile/signal path。业务上可对高价值或高不确定性 case 单独路由到强模型/复杂流程,避免全局高成本。
- 评测与上线选择:用 train/validation/hidden/test 四段隔离防止策略搜索过拟合;最终选择规则要求 accuracy 或 cost 至少一个显著改善且另一个不恶化,否则回退 BL。可作为内部 Agent 策略自动筛选标准。
- 跨模型迁移:在 Qwen3 上搜索到的策略不改代码迁移到 GPT-5/Gemini 仍有效,说明搜的是任务结构而非后端特性。业务可用廉价模型搜索工作流,再迁移到更强商业模型,降低搜索与试错成本。
ToolSpace:以工具为中心的长程智能体环境合成框架
🧭 Agent 工具组合与环境合成 ★ 深度解读
Renmin University of China · Fudan University · Shanghai Jiao Tong University
用真实执行轨迹构建加权工具组合图,按需合成环境并生成可回放验证的长程跨域任务
📌 工作参考价值(4 点)
- 用真实调用日志构建工具/服务关系图:在电商/搜索/推荐内部,可将搜索、推荐、商品详情、购物车、优惠券、订单、客服等 API 的相邻调用关系,按 data/state/retry 三类规则确定性挖掘,避免 LLM 主观判断带来的幻觉连接,得到可执行的跨域工作流骨架。
- 长程 Agent 训练数据合成:借鉴 state-aware random walk + rollback,从真实日志图采样跨域工具链,只保留可重放、断言验证通过的 task;可用于生成「搜索→推荐→加购→下单→售后」等多步购物助手任务,保证可执行性和状态一致性。
- 按需环境落地,节省仿真成本:对只读/无状态工具(如商品查询、搜索、推荐)复用录制返回值或缓存,不必为每个环境合成完整数据库;论文显示文件合成量减少 55.3%,适合内部多业务系统大量只读 API 的场景。
- 可验证奖励用于 Agent RL:将断言验证结果作为二元执行奖励,配合 GRPO 做 on-policy RL,可提升长程工具编排;验证脚本同时能防止 SFT 数据污染测试集。
Axion 1.0:简化的开放智能体基础模型
🧭 Agent 基础模型 · 三阶段极简训练 ★ 深度解读
Duke University · ByteDance · University of Maryland, College Park · University at Buffalo
用两阶段 SFT 加 RL 的极简 recipe,构建可复现的开放 Agent 基础模型,在多项 agentic 基准上达到前沿水平
📌 工作参考价值(4 点)
- 模型感知的数据增强:Stage I 用基座模型能否解出作为难度筛选器,只对能解出的题目做组合、参数化、范围移位、分情况讨论等对抗式改写,让数据难度贴合模型能力边界。电商场景中构造训练数据时,可以先用线上模型筛选出“太简单”的样本,再做变体改写,从而提升训练集的信息密度。
- 可验证工具任务生成:Stage II 的 filter-select-compute-verbalize 流水线把结构化商品/内容库转化为需要检索+计算的问答,答案由确定性程序预计算,支持自动验证。对于电商搜索、比价、选品等 agent 任务,可以类似地从商品数据库抽取属性,设计需要多步工具调用和计算的题,自动获得带 ground-truth 的服务数据。
- RL 奖励设计:对未解出的轨迹给部分信用,公式 max(0, 0.3P - 0.1(1-A)) 鼓励中间步骤正确但最终未提交的探索,同时惩罚无终态的输出。在业务 RL 中,长链路 agent 任务(如导购对话)往往最终转化稀疏,引入可验证中间目标(如识别的实体、检索到的属性)能有效缓解奖励稀疏。
- 训练-推理一致性工程:TITO 直接传递 token ID 避免 message re-tokenize 导致的数据漂移;R3 重放 MoE expert routing 降低 rollout 与训练 logprob 偏差。电商推荐系统若使用 MoE 大模型做 agent 微调,可参考这两项工程实践,减少离线-在线性能 gap。
EvoRec:统一自进化智能体推荐与动态反思树
🧭 Agentic 推荐 · 反思树自进化 ★ 深度解读
Kuaishou
提出统一 agentic 推荐框架,通过动态反思树定位失败并生成可复用修复策略,实现无参数更新的自进化推荐
📌 工作参考价值(4 点)
- 离散化 Agent 决策空间:Planning Agent 只从 {0.1,...,0.9} 中选择检索预算比例和融合权重,而不是任意连续值。这既降低 LLM 输出不确定性,又便于在线校验和回退,适合直接迁移到需要稳定性的广告/推荐系统。
- 可验证的反思树 + 工作记忆:失败被定位到 ERROR-NEED / ERROR-PLAN / ERROR-MEMORY 三类,修复策略必须通过 replay 验证后才进入 working memory,避免错误经验污染后续决策。业务上可借鉴这一闭环:只对高意图用户(有搜索/咨询行为)做反思,控制成本并提升反馈质量。
- 近线生成、在线竞争架构:LLM 推理完全离线,预计算需求、计划和 query 向量,候选人异步发布到 Kafka,与现有召回通道并列进入统一排序。用户侧与物品侧独立刷新,索引更新后无需重跑 LLM。这种架构可让 Agent 决策不阻塞实时请求,适合工业落地。
- 策略抽象为“调参指令”而非具体 item:修复策略只规定调整方向、条件和大致的数值范围(如提高 Need Satisfaction 预算),不推荐具体物品,避免退化为记忆个别反馈,能跨用户复用。推荐系统做反思时宜采用这种参数化修复,而非实例级记忆。
LeanGuard:面向工具调用智能体的 Lean 验证护栏
🧭 LLM Agent 形式化护栏与自动修复 ★ 深度解读
Case Western Reserve University · UT Austin
在 LLM 智能体与工具之间嵌入 Lean 4 策略运行时,以形式化证明保证每次工具调用合规,并支持反馈或证明引导修复
📌 工作参考价值(4 点)
- 在电商导购/售后 Agent 的写操作(改订单、退款、发券)上,可借鉴“外部策略运行时 + 可信证据”架构:把业务规则写成 permits/requirements/forbids,所有工具调用先做 fail-closed 校验;关键点是不信 LLM 输出的文本,只信后端快照和监控日志,用户确认绑定到具体提案和状态版本,防止注入礼品卡/收款账户等越权操作。
- 将拒绝从“调用未执行”改为“失败规则 + 修复提示”,可减少重复试错并提高恢复率;论文中反馈使阻塞调用从 983 降到 719,恢复动作从 34 增至 48。售后场景可返回具体缺失条件(如需先读订单、需用户确认)而非笼统拒绝。
- 证明引导修复对参数值类违规很实用:当金额超预算、支付方式不合规、选错券时,可在规则引擎中预计算最近合规参数并随拒绝返回,或直接替换;论文在 252 个参数值拒绝中证明修复 88 个,中位 2ms,表明部分修复不必让模型重试。
- 若业务涉及支付、退款、隐私等强保障环节,可考虑用可验证语言编写核心策略,并检查证明无 sorry/非标准公理;但维护成本高,适合核心高风险写操作而非全量策略。
相同轨迹,不同知识:面向搜索 Agent 的信息状态感知 On-Policy 蒸馏
🧭 搜索 Agent 的 on-policy 蒸馏与过程监督 ★ 深度解读
Beijing Institute of Technology · Huawei
提出 ISA-Distill,按学生状态的事实可恢复性加权 fact-use 与 evidence-seeking 双视图反馈,纠正 teacher 特权信息偏差
📌 工作参考价值(4 点)
- 在电商搜索/推荐 Agent 的 RL 过程监督中,不要把 gold answer 或完整 evidence 直接塞给 teacher;可增加一个“学生侧事实可恢复性”估计:用 frozen policy 对 value-masked probe 采样 32 次,算 mean token NLL,再校准为 k∈[0,1]。按 k 加权“已知事实利用”和“缺失证据获取”两个 teacher 视图,训练期仅增加约 4.3% 开销,就能缓解多跳商品问答中的 search 不足与过早作答。
- 对多跳商品属性问答、活动规则查询、商品对比/导购等任务,可按 recoverability 动态分配 search budget:事实已知时少搜,事实缺失时多搜;论文经验是单跳调用 -7.21%、多跳 +2.94%,整体 calls 更省且准确率提升。
- 过程监督无需覆盖全轨迹 token:只对 <search> tag + query、<conclusion> tag + factual assertion 等关键 span 做有界 local correction,监督 token 仅约 11.32% 也能获得稳定提升,适合预算受限的在线训练链路。
- 若发现蒸馏后的推荐/搜索 Agent 搜索次数不足或过早停止,可做 paired evidence utility 诊断:给 teacher 加 gold fact,观察其对 search token score 的变化;positive-utility search 被大幅降分即存在 information-state mismatch,可引入 recoverability-aware 修正。
NorthCUA:通过大规模经验飞轮加速计算机使用代理
🧭 Agent 经验飞轮与强化学习
Shanghai Qiji Zhifeng Co., Ltd.
用经验飞轮、分级学习与桌面-网页联合强化学习,训练出开源SOTA的计算机使用代理模型族
📌 工作参考价值(4 点)
- 借鉴经验飞轮机制:在电商/搜索推荐 agent 中,将用户交互轨迹作为经验,通过结果校验(转化、点击、任务完成)筛选高质量轨迹,持续扩充训练数据,形成数据闭环。
- 对未成功任务采用递归自改进:保存已验证的里程碑,让后续尝试在已有进展上继续。适合长程多轮推荐/导购场景,避免每次从零开始,提升任务完成率。
- 分级学习策略:先 mid-training 注入 grounding 数据(如商品/页面结构化信息)建立基础能力,再 long-horizon SFT 学习完整任务轨迹,最后用在线 RL 在真实环境中闭环优化。可复用为:领域继续预训练 → 人工标注 SFT → 在线策略迭代。
- Ultrafast 的思路:直接动作选择与开放生成结合,在低延迟场景(实时推荐、搜索响应)可用混合解码策略,牺牲少量质量换取显著响应速度。
ParetoSaddler:面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择,用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值(4 点)
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分:电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本,中间迭代可先接受任一维度的可信提升,避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤:LLM 评估噪声大,只保留跨 run 有稳定增益的 harness 候选,能减少线上实验浪费;可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦,保留 Pareto 前沿而非单一 best:便于业务按实时的成本/质量约束从前沿选配置,例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索:固定模型权重,只优化 prompts/tools/control logic,通过重复执行与 Pareto 提升做低成本多目标迭代。
Flide:通过精确状态分叉加速决策推理
🧭 Agent 决策推理加速 · 精确状态分叉
National University of Singapore · University of Oxford
提出支持决策模型分支请求的推理引擎,通过扁平化执行和ForkAttention实现精确且高效的批量决策
📌 工作参考价值(4 点)
- 若业务中有大量「同一上下文下对多个候选项打分/判断」的场景(如搜索 query 质量过滤、商品标题合规审查、广告创意审核),可参考 Flide 将逻辑分支树与物理 token 流解耦的思路,把共享前缀只计算一次,分支部分扁平化执行,避免重复 forward 或 cache 复制。
- ForkAttention 用 GPU-resident 索引控制注意力掩码,保证每个分支与单独推理数值完全一致;在设计自己的批量推理服务时,可借鉴这种「逻辑分支 + 物理连续序列 + 掩码隔离」模式,在标准 attention 和 Gated DeltaNet 层上均可实现,适合混合架构模型。
- 对于多轮 agent 交互中逐步扩展历史(如用户不断追问、筛选条件动态增加),可利用其 checkpoint 机制从已保存状态恢复,只计算新增部分,显著降低长会话延迟,这对电商导购、客服 agent 等场景很有价值。
- 如果业务对决策概率的精确性有要求(如风控、A/B 测试),需避免标准批量推理导致的概率偏移,Flide 的「精确算术等价」设计提供了可复用的工程原则:把分支拓扑放入 GPU 元数据,配合预录制执行图,兼顾吞吐与一致性。
混合计算机使用:面向通用智体的程序化、语义与视觉统一接口
🧭 多通道接口的通用计算机使用 Agent
Microsoft Research · Fudan University · Tsinghua University
统一代码/CLI、无障碍语义AX与GUI视觉三通道,让智体灵活选择组合,在OSWorld 2.0上取得最高分
📌 工作参考价值(4 点)
- 电商/广告自动化 Agent 可直接借鉴多通道设计:对内部系统优先暴露 API/CLI 程序化通道,对前端页面提取 AX 语义树而非只给截图,减少 LLM 对像素的推理负担。
- 动作批量执行 + 紧凑 diff 观察:将多个可独立操作合并为 batch,返回状态变更前后的差异(AX diff),避免逐步骤截图和往返,显著降低长流程任务的成本与时延。
- 通道切换时引入 stale-state 防护:在 Agent 执行跨系统任务时,维护各通道状态版本并在切换前校验刷新,防止过期状态导致错误操作,对广告投放、订单处理等高风险场景尤其重要。
- 为 LLM 提供通道选择 skill:编写接口选择手册,让模型根据任务类型(数据查询走程序化、页面操作走 AX、复杂视觉走 GUI)路由到最有效通道,减少自由探索成本。
KITE:将检索构建为长期对话记忆的决策过程
🧭 Agent 长期记忆检索决策化
Memoket AI Research · Universität Stuttgart · Georgia Institute of Technology · Tsinghua University
KITE将长期对话记忆检索变成受控主题索引上的可检查决策过程,LoCoMo/LongMemEval-S准确率93.5%/86.0%,仅约1.6k tokens
📌 工作参考价值(3 点)
- 在电商客服/对话式推荐 Agent 里,长期记忆不要只依赖 embedding 相似度;可以维护一个受控的主题/商品/意图词汇表,把查询编译为显式检索计划,根据问题包含的时间、实体、主题条件去定位历史证据,提升可审计性。
- 对结构化主题索引遗漏的表面细节,用 BM25 等稀疏词法检索兜底,适合找回订单号、SKU、地址、优惠码等精确字符串,避免 embedding 模糊匹配丢失关键信息。
- 受控索引的动态扩展与合并可用于治理电商知识库和会话 topic;固定 lookup/ranking 执行路径可降低 LLM 调用成本,每题仅约 1.6k reader-context tokens,对高并发成本敏感的 Agent 场景有直接复用价值。
LLM Agent 多工具请求的检索结构完备性与成本
🧭 Agent 工具检索结构对比与完备性评估 ★ 深度解读
香港理工大学
比较六类工具检索结构,发现多工具完整检索需标注数据或30+次LLM调用,零训练/单次调用结构近乎失效
📌 工作参考价值(4 点)
- 评估 Agent 多步骤任务时,把 completeness@k 作为主指标,不要只看 recall@k;按所需工具/技能数量分层,否则单目标请求会掩盖多目标真实水平。
- 若工具池固定且有少量标注数据(75-90 条),优先训练 set-level retriever(如 COLT),查询期零 LLM 成本、完备率更高;若工具池频繁更新,用 LLM 层级导航兜底,但需预留 30+ 次调用和分钟级延迟预算。
- 失败归因决定修复方向:缺失项大量落在 top 17-50 时,可增大 K 或接 set-aware reranker;层级导航漏 prerequisite,则在导航后沿 producer-consumer 依赖补全已找到工具的上游/下游。
- 工具/技能描述尽量结构化声明 input/output schema,否则依赖图无法建边;没有 schema 时 LLM 补边不一定提升召回,可能反而引入噪声。
需要搜索时搜索,可靠时继续:面向高效智能搜索的元认知可靠性监督
🧭 Agentic RAG 搜索决策强化学习 ★ 深度解读
Beijing Institute of Technology
用局部结论的序列不确定性估计可靠性,为搜索/不搜索决策构建过程奖励,在 GRPO 中提升搜索效率与准确率
📌 工作参考价值(4 点)
- 将局部结论的 sequence uncertainty 作为可靠性信号,可用于对话推荐/购物助手中判断模型对中间结论的自信程度,决定是否调用商品知识库、搜索或 RAG;无需额外标注,推理时零开销。
- 对“搜索/不搜索”决策分别设计 process reward:不搜索时奖励高于校准阈值的可靠性,搜索时奖励检索前后可靠性的增量,而非只看最终答案是否正确;这能直接迁移到 Agent 工具调用策略的强化学习训练。
- 用 matched probes 估计 counterfactual reliability change,可推广到其他工具调用:固定同一状态,比较有/无工具返回结果的可靠性差异,作为工具价值的无偏监督。
- 实验结果提供可复用结论:该策略在 single-hop 查询上减少约 20.9% 搜索调用,multi-hop 上增加 6.6%,说明可按问题复杂度动态分配检索/工具调用,适合电商搜索中查询类型分流的成本优化。
别丢线索:让长程 LLM Agent 自主分配认知资源
🧭 Agent 长程上下文管理 · 多 episode RL ★ 深度解读
The Chinese University of Hong Kong · Tencent · The Hong Kong University of Science and Technology
CORAL 用可调用的记忆管理与上下文重置工具,让 Agent 自主 checkpoint 并跨 episode 做 RL,GAIA 上 8B 达 42.8% 且 token 成本少 6-7 倍
📌 工作参考价值(4 点)
- 在电商/搜索的 long-horizon Agent(如导购调研、售后多跳查询、广告素材调研)中,可引入显式 Working Memory 工具:用 MM 维护“任务进度 + 已验证事实”,在上下文过大时触发 CO 清空历史只保留 memory。能显著降低线上 token 成本(本工作输入 token 减少 87.4%),并缓解长会话中模型注意力被旧上下文稀释。
- 训练数据可把 multi-episode 轨迹按上下文重置边界拆成独立对话,后续 episode 的输入 = system prompt + user task + 上一 episode 产出的 memory state;这比平铺拼接更符合推理现场,且天然教会模型“从检查点续跑”。推荐在 SFT 时对 observation tokens 做 loss mask,只学 agent 自己的 thought/action。
- 对于弱/中等开源模型,光靠 prompt 加工具可能无效甚至掉点(Qwen3-8B prompting 仅 20.4% vs ReAct 19.4%);建议走“SFT + 简单 RL”。RL 不需要复杂信用分配:把 trajectory 最终 reward 广播到所有 episode 并池化做 group advantage(Multi-episode ARPO),即可提升 checkpointing 策略并稳定输出方差。
- 工程上注意 Memory 污染:CO 重置会永久丢弃历史中可交叉验证的证据,错误事实一旦写入且被 reset 后不可恢复。推荐 MM 写得保守、CO 只在上下文真正难管理时调用;必要时给 memory 条目保留 provenance/引用,以便后续校验。
CASH:面向广告主补贴分配的能力感知补贴调度框架
🧭 广告主补贴分配 · LLM Agent 与数值模型协作 ★ 深度解读
Fudan University · Kuaishou Technology · Tianjin University
以结果校准的 capability license 融合 LLM Agent 与数值模型,在线收入提升 15.35%
📌 工作参考价值(4 点)
- 借鉴 outcome-grounded capability license:不全局信任 LLM 或数值模型,在账户×档位维度维护误差上限、支持度和区域准入,只让许可范围内的估计参与优化;适合把 LLM 纳入线上决策但需控风险。
- 共享预算问题写成 multiple-choice knapsack 并用对偶价分解;许可证能屏蔽未许可档位带来的跨账户误差传播,电商大促补贴/优惠券分配可直接复用。
- 限频调用 LLM:用 pre-call judge 与 call-value 回归选择 top quota 账户调用,靠随机 audit 保留可观测性;CASH 用 15% 的调用量恢复全量 86% 的 MAE 收益,成本敏感场景可用。
- EPCG 式探索:用 Beta 后验和区域准入变化预估新增反馈对可靠覆盖的增益,动态规划分配反馈预算,比随机采样更能扩展可信任区域,可迁移到 RAG/冷启动补标签。
长时智能体记忆:互补式记忆构建与整合
🧭 Agent 长程记忆 · 混合存储与整合 ★ 深度解读
Microsoft
提出情节记忆+结构化关系记忆的混合存储,并通过离线聚类整合压缩16%以上记忆且性能几乎不降
📌 工作参考价值(4 点)
- 会话级记忆构建:电商客服/导购 Agent 可在 session 结束后批量抽取两类记忆,减少逐轮 LLM 调用,同时保留跨轮上下文;关系记忆采用 (实体, 关系, 客体, 时间戳, 来源上下文) 结构,便于后续查询、更新和溯源。
- 双存储分离检索:查询时同时检索情节记忆和关系元组,关系条目更短、预算内可多取,适合「用户历史偏好/订单/承诺」等电商 QA 场景;固定 top-k 且 k=10 已饱和,能省 token 和延迟。
- 离线 UMAP+HDBSCAN 聚类整合:定期对 embedding 聚类做 merge/delete,可压缩 16–34% 存储,适合长生命周期用户档案;min_cluster_size 取 5–10 能在压缩率和准确率间取得平衡。
- 关系记忆的 provenance/timestamp 设计可直接迁移到推荐系统的用户画像:不仅存「用户喜欢什么」,还存「何时为何说」,避免旧偏好覆盖新偏好。
从意图到提升:面向模型训练的 Agent 数据集搜索框架
🧭 LLM Agent 约束治理的数据集检索
Nanjing University · State Key Laboratory for Novel Software Technology
提出契约治理的 AgenticDS 框架,用 typed object 约束 LLM 决策并验证约束,显著提升数据集搜索与下游训练效果
📌 工作参考价值(4 点)
- 在商品召回/广告候选生成中,让 LLM 先输出结构化筛选条件(类目、价格、库存、品牌授权、合规标签)再交给确定性规则引擎执行,避免模型自报匹配但漏硬约束;这种 typed object + deterministic operators 的边界可提升链路可信度。
- 稀疏元数据的长尾商品/新广告主:用有界图扩展(如品牌→店铺→商品,或类目→属性)补全语义缺失,但必须限制跳数避免噪声,类似 bounded graph expansion。
- 当模型输出候选列表时,要求先基于 provenance 证据验证(例如商品属性值、广告审核字段)再排序,不通过时返回可解释诊断与局部修复指令,减少整条链路的无效重试。
- 对含硬约束的 query(如“高转化且库存>100且配送时效24h”),可借鉴 typed search plan 编译方式,把自然语言 query 解析为可执行计划,而不是直接用向量检索。
FIRME:基于注册锚定记忆图演化异构投资者知识
🧭 Agent 持久记忆 · 实体对齐知识图谱
The Vanguard
用注册锚定记忆图解决知识图谱中同一关系表面形式不同导致的历史碎片化问题,提升跨期实体对齐与证据积累
📌 工作参考价值(4 点)
- 可借鉴 registry-anchored 的实体管理思路:在电商/推荐场景中,同一商品、用户、话题常以不同表面形式出现在搜索、评论、会话、交易等来源,建立 canonical identity + persistent alias 的注册表能避免关系历史碎片化,让跨渠道、跨会话证据持续积累。
- deterministic updates 对强化、休眠、再激活的总结方法可以迁移到用户兴趣或商品热度的时间衰减模型:不依赖重训 embedding,而是在图谱层维护带时间戳的聚合状态,降低工程复杂度。
- rule-based fusion 结合固定 ontology 的做法可作为轻量级替代:在没有大量标注的情况下,把非结构化文本(如客服对话、商品评论)与结构化信号(如购买、现金流)对齐,适合快速搭建可解释的领域知识层。
- 关注 provenance 与 round-trip 诊断:在 Agent 或 RAG 系统中输出必须可溯源,FIRME 保留 source/time/context 并提供提取忠实度检验,这对线上推荐解释、风控审计有直接参考价值。
Gym-Anything for Robotics:用编码智能体规模化物理仿真
🧭 编码智能体自动生成仿真与基准
Carnegie Mellon University
让编码智能体自动创建机器人仿真环境,构建 RoboWorld 基准并利用特权教师等方法提升前沿模型在 RL 任务上的表现
📌 工作参考价值(4 点)
- 借鉴“creation-audit loop”自动生成与校验训练环境:在电商搜索推荐中,可用 LLM Agent 批量生成模拟用户行为序列、查询、商品集合,并用另一个 Agent 对抗式审核其真实性与难度,替代手工构造离线评估集。
- 利用 GDP/价值导向的任务选择思路:优先覆盖高频、高价值业务场景(如高转化 query、高 GMV 类目),让生成的环境更贴近线上收益目标。
- 引入 privileged teacher 机制:训练推荐或对话 Agent 时,可让模型在训练阶段访问真实用户意图/隐反馈作为“特权教师”,在上下文中指导学生策略,提升对稀疏反馈的利用效率。
- 用 code policies 生成跨场景演示数据:在生成式推荐或 Agent 决策中,编写代码策略自动产出不同场景下的示范轨迹,用于蒸馏 VLA 型模型,降低人工标注成本。
InterA11y:基于 LLM 智能体的交互式网页可访问性错误检测
🧭 LLM Agent 结合 rubrics 与工具审计
University of Washington · Cornell University · Carnegie Mellon University
结合可测试规则分解与确定性交互工具,显著提升 LLM Agent 网页可访问性审计召回并保持高精度
📌 工作参考价值(4 点)
- 将复杂质量标准/规则分解为可测试的 rubrics,并由 agent 逐步收集证据,可用于商品信息合规审核、广告审核、推荐理由生成等场景,降低 agent 主观误判。
- 用确定性工具(如 DOM 检查、焦点/错误消息提取)替代或补充 LLM 直接推理,能减少 token 消耗和幻觉,提高 precision,在需要高准确率的业务(如广告审核、商品合规)可借鉴。
- 系统架构上采用 LLM 负责规划与证据解释、工具负责确定性检查,可隔离不同模型间的表现差异,推荐系统 agent 协同中也可采用同类混合架构。
- 评估方法上,用专家标注案例集对比召回/精度并关注跨模型一致性,对业务上线 agent 的评测与可信度验证有参考价值。
检索即遍历:有状态长上下文Agent的价值索引记忆
🧭 有状态长上下文Agent的记忆检索机制
Technical University of Munich · Nanjing University
提出价值索引记忆与局部遍历检索,分离内容与地址,验证有状态检索比无状态更易学习
📌 工作参考价值(4 点)
- 在对话式推荐或 Agent 多轮任务中,可借鉴“局部遍历”思想:维护一个可移动的检索头/游标,利用相邻步骤记忆重叠,减少重复全局检索开销;工程上可将向量索引组织为图结构,让查询在图中局部游走而非每次全量 ANN。
- 分离“记忆内容”与“地址几何”的框架可用于商品/内容 embedding 索引优化:定义价值为内容信息增益,地址距离为访问成本,用带成本正则的索引目标自动布局,让高互补且高价值的 item 在索引中靠近,冗余 item 自然分散,提升检索效率和多样性。
- 论文证明有状态检索在简单任务上比无状态绝对寻址收敛更快(0.59M vs 0.94M/2M+ steps),提示在需要高频连续检索的推荐/搜索场景,引入检索状态可能降低学习难度,值得在召回模块做小规模实验验证。
- 整体主要是学术贡献,业务可迁移性有限,上述思想可作为架构探索的参考,但需注意论文只测试了简单固定几何环境。
KARMA:工业广告 Agent 的无训练知识原子化 Harness 演化
🧭 Agent harness 无训练知识演化 ★ 深度解读
Alibaba International Digital Commerce Group
冻结模型权重与可执行 harness,以六类类型化知识模块的原子编辑+验证门控,使广告 Agent 离线动作一致性平均提升 29.7%
📌 工作参考价值(4 点)
- 把 prompt/harness 拆成可版本化的知识模块:role、domain、experience、constraints、output_protocol、action_descriptions 六类模块,规则带稳定 rule ID、来源、before/after journal,所有变更走唯一 write boundary。电商/广告 Agent 可借此在不改代码、不微调模型的情况下,按商品/活动/政策变化审计和回滚决策知识。
- 先做确定性轨迹诊断,再做知识编辑:Trace Verifier 不用 LLM 就把失败分为 no_action / wrong_action_type / wrong_direction,并按固定映射定位候选模块;同时把成功和失败轨迹都送给 Critic。能避免只看失败导致修复过拟合、破坏已有正确决策,适合推荐/广告策略中“该不该调、调哪里”的归因场景。
- 小步编辑 + 验证门控 + 快照回滚:每轮最多 3 个原子 edit,固定 validation set 要求 gain≥1 point 才保留,否则恢复 snapshot;可缓存 baseline validation,避免每轮 2 次全量评估,工程成本可控。可直接复用到电商 Agent 的离线知识更新流程,降低上线风险。
- 跨域知识复用要分源域评估:Long-tail/Others 域演化出的规则对多数目标域都有正向迁移,平均 hold-out gain +15.38;但 Automotive 源域对所有其他域都负迁移。若要做跨品类 Agent 知识冷启动,优先用长尾/综合流量积累的通用规则,但仍需在目标域做验证,不能假设迁移一定为正。
MoLRSI:用于分子发现的递归自改进AI智能体
🧭 Agent 递归自改进搜索策略
MoLRSI通过工作流/架构优化与跨任务记忆递归改进搜索策略,抗生素命中率15.9%超专家流程
📌 工作参考价值(4 点)
- 把推荐/搜索策略搜索本身视为可优化的 workflow,用 execution feedback 和历史任务结果更新策略生成器,做 recursive self-improvement,而不是只自动化固定流程。
- 建立跨任务记忆:记录不同 campaign 的 workflow 性能与 refinement 结果,作为 few-shot exemplars 或偏好数据蒸馏到 meta-policy,帮助新任务冷启动。
- 多目标权衡:显式把 CTR、覆盖率、新颖性等竞争目标转成多目标 scorer,并在每一轮根据线上/离线反馈调整权重,避免固定单目标导致策略退化。
- 对 Agent 开发:将“设计和调优 workflow”变成可递归优化的环节,LLM 提出 workflow,执行器返回 score + failure trace,再用 trace finetune/更新 prompt 或 policy,可迁移到 GenRec 的 Semantic ID 搜索等场景。
RoboArchitect:自动化设计带持久记忆的机器人 Agent
🧭 Agent 自动化设计与持久记忆
Stanford University
用 coding model 自动迭代优化机器人 agent harness,无需更新策略权重,大幅提升跨场景成功率
📌 工作参考价值(4 点)
- 借鉴「冻结模型 + 外围 harness 优化」范式:在推荐/搜索场景中,可以把已训练好的排序模型或 LLM 当成 frozen policy,通过代码化的决策逻辑(何时调用模型、如何融合特征、如何处理输出)进行自动迭代优化,避免频繁重训模型,尤其适合快速适配新业务场景或新数据分布。
- 持久记忆机制可迁移到对话式推荐 Agent:论文中 harness 会积累成功经验(如有效抓取深度)供后续决策参考。在电商导购或客服 Agent 中,可以设计类似的 memory 结构,记录用户偏好、历史成功推荐策略或交互模式,作为额外上下文注入下一次决策,提升个性化与连贯性。
- 失败诊断 + 代码修改的闭环值得复用:用 LLM 分析 rollout 失败原因并生成改进代码,这种「诊断-修订-评估」循环可以用于自动优化推荐系统外围逻辑,例如召回过滤规则、曝光策略、重排规则等,用代码表示策略比调权重更灵活且可解释。
- 工程实现上,harness 与 policy 解耦便于快速实验:将模型调用封装在可控代码层,可以轻量地切换不同底层模型或策略,同时通过 held-out 场景评估泛化,适合在电商推荐中构建可插拔的 Agent 框架。
VeriCUA:通过智能体式探索验证计算机使用智能体
🧭 Agent 任务完成验证 · 动态证据探索
Google · The University of Hong Kong
将验证视为动态证据收集与评估,统一在线离线、跨平台 CUA 任务完成验证,提升一致性并更强拒绝误报
📌 工作参考价值(4 点)
- 对电商 RPA、广告投放自动化等 CUA 场景,别只用 VLM 静态判断轨迹或固定生成检查脚本;可引入验证智能体在任务完成后继续探索 GUI 或执行代码检查,收集互补证据,降低因部分观测导致的假阳性。
- 先根据任务上下文构建 rubric,再对未满足 requirement 动态选择 GUI/code check,并用显式证据规则合并结论。这个流程可直接迁移到业务 Agent 的离线评测、数据清洗与 RL 正负样本过滤,尤其适合 hard cases 标注。
- 在线部署时,当 Agent 宣称完成,再触发一轮验证探索能更强拒绝 false completion claim,适合客服、订单处理等高风险场景,防止未保存编辑或部分完成被当成成功。
- 平台无关的统一验证流程能减少为 Web/App/桌面不同端定制 verifier 的工程成本,可用于多端电商 Agent 的统一评估 pipeline。
以技能为中心的智能体推进临床基因组分析
🧭 LLM Agent 技能编排与临床决策支持
Shanghai Jiao Tong University · Shanghai AI Laboratory · Xinhua Hospital affiliated to Shanghai Jiao Tong University School of Medicine · The Chinese University of Hong Kong · Shanghai Chest Hospital, Shanghai Jiao Tong University School of Medicine
ClinGeX智能体组合105个可执行临床基因组技能,留出基准一致性71.7%,远超最强对比45.7%
📌 工作参考价值(4 点)
- 技能化封装领域能力:将推荐/搜索系统中的召回、排序、过滤、解释等环节封装为可执行技能(API/工具),LLM 根据任务上下文检索并组合,而非直接生成,可显著提升可控性与可维护性,尤其适合多步骤重决策场景。
- 任务特异检索与依赖感知编排:为不同业务场景(新品、促销、长尾商品)维护技能索引,按任务类型动态检索少量相关技能,减少 prompt 长度;同时用 DAG 管理技能依赖(先召回后排序、先过滤后解释),避免 Agent 乱序调用。
- 人机协作评估设计:借鉴其三条件对照(无 AI、通用 LLM、专用 Agent)和真实世界反馈,在电商运营/算法协作中量化专家采纳率与效率提升,避免只看离线指标。
- 时间留出验证:采用 temporally held-out 切分评估,防止信息泄漏,推荐系统模型迭代中也应严格按时间切割验证集,评估泛化能力。
Mage-VL-Cowork:从进化式 Harness 学习混合计算机使用的完整训练配方
🧭 计算机使用智能体 · 多阶段课程训练
Microsoft Mage Team
4B混合计算机使用智能体,通过五阶段课程与技能化数据生成,在OSWorld-Verified达66.0%同尺寸SOTA
📌 工作参考价值(4 点)
- 技能条件化数据生成可迁移:用「技能定义 + 可复用工作流 + 应用特定 preparer」替代逐任务构造,在电商 GUI 智能体(购物车、下单、订单查询等)中可显著降低合成数据成本,并规模化覆盖长尾技能。
- 五阶段课程(midtraining → SFT → RL)值得借鉴:先做通用多模态对齐,再注入任务完成能力,最后用 RL 优化决策质量;对训练面向搜索/推荐业务的 Agent 策略有直接参考价值。
- 进化式教师 harness 提供高质量监督信号:不直接蒸馏默认大模型,而是为不同训练阶段定制教师策略,有助于提升小模型轨迹质量,可复用于蒸馏电商场景的 4B/7B 级端侧助手。
- 小参数模型也能逼近前沿性能:4B 在 OSWorld-Verified 达 66.0%,说明数据与课程设计比单纯堆参数更关键,对需要在端上部署低成本 Agent 的业务是积极信号。
MemSteer:将用户历史转化为智能体记忆优化监督
🧭 智能体记忆设计自动优化 ★ 深度解读
Peking University · Microsoft Research Asia
从无标注用户历史自动生成证据支撑的 QA 监督,用于迭代优化记忆存储、检索与上下文构造
📌 工作参考价值(4 点)
- 用自动生成的 QA-evidence 监督替代人工标注:在个性化记忆、用户画像、会话上下文的评估与优化中,可以从用户历史自动构建问题-答案-证据三元组,作为弱监督信号,避免昂贵的标注。
- 证据引导的失败归因:把错误响应定位到存储、检索或生成阶段,能精准指导设计修改。类似推荐系统中定位召回、排序或重排问题,提升迭代优化效率。
- 跨用户迁移 + 目标用户继续优化:先用一组用户学习共享记忆设计,再用目标用户历史生成的 QA 继续微调,适合冷启动场景。
- 盲答案恢复与源审计保证数据质量:合成数据必须通过可验证的检查才能用于训练或评估,这可以作为数据清洗和评估集构建的通用流程。
在线稠密强化学习训练规划-接地智能体用于真实 iOS 应用 UI 导航
🧭 UI Agent 在线强化学习训练 ★ 深度解读
Apple
用在线 RL 训练解耦的规划与接地 UI Agent,结合稠密/终局奖励与 GiGPPO,使 8B 模型在真实 iOS 任务上接近或超越 Gemini
📌 工作参考价值(5 点)
- 规划与 grounding 解耦:对话/导购 Agent 可把“策略决策”(是否推荐、是否反问、何时切换商品)与“执行层”(调用 API、生成卡片、点击元素)拆开;RL 只训练前者,后者用 SFT/规则冻结,训练成本大幅下降,线上也便于独立迭代。
- 稠密过程奖励 + 不对称折扣:用 LLM-as-a-Judge 对每一步的“业务进展”打分,但 dense 奖励要打折(如 γ=0.5),最终转化/成交奖励不打折。这能防止刷步骤分、拖时长,同时给稀疏转化提供中间信号。
- ASK USER 动作与模拟用户:在导购/搜索推荐 Agent 里显式加入“反问用户”原语,训练阶段用轻量 LLM 模拟用户偏好和回答,能提升交互式偏好澄清与个性化能力。
- critic warm-up 与高 critic lr:在 RL 训练推荐或对话策略时,先冻结策略训练 critic 15 步,再把 critic 学习率设为策略 100 倍,可避免初期优势噪声导致策略崩坏;critic 最终丢弃,不必精调。
- GiGPPO 思路可迁移到多并发 rollout 的搜索/推荐 Agent 训练:用状态相似度(如图像 hash 或 embedding)跨轨迹共享价值信号,尤其适合状态空间大、精确重复少的 GUI/会话场景。
重构智能体图像编辑:扩展动作与观察空间
🧭 Agent 动作/观测空间扩展与并行评判
UC San Diego · Adobe Research
并行调用多类编辑器、为候选附验证记录并用 VLM 列表式评判,提升成功率并降低 judge 调用
📌 工作参考价值(4 点)
- 在生成式推荐、文案/主图生成 Agent 中,避免单一模型反复 retry:并行生成不同模板/模型/策略的候选,再用 Listwise 比较一次筛选;原文显示并行比顺序精修在 78.5% 的已决定比较中更受专家偏好,且 judge 调用至少减半。
- 为每个候选附结构化 verification record(变化图、局部前后对比、mask、数值统计、代码核验事实等),off-the-shelf VLM 就能超过 finetuned reward model;迁移到电商场景时,可为候选附上价格/利益点一致性、属性匹配、CTR 预估等证据。
- 评判器扩展 observation space 比 finetune reward model 更划算:用规则/代码/检索结果生成证据,提升 VLM judge 的可靠性,尤其是没有稳定 GT 的生成任务。
- 可作为 data engine:用 Agent 并行生成多候选 + VLM judge 构建偏好对,蒸馏训练更强的生成式推荐或文案模型。
AskStream:流式视频理解不确定性下何时与如何主动提问
🧭 多模态流式视频主动交互智能体
Institute of Automation, Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · Hunan Normal University · Minzu University of China
引入主动 ask 动作的流式视频理解基准,评估模型在视频与用户不确定性下的提问与回答策略
📌 工作参考价值(4 点)
- 在电商直播、视频客服等流式交互场景中,可把 Agent 的动作空间从 wait/answer 扩展为 wait/ask/answer:当模型对用户意图或视频内容置信度低时,主动发起澄清问题,避免停止等待或生成幻觉答案。
- 参考 AskStream 的帧级时间窗标注,把“何时提问”建模为序列决策问题;在真实流式视频数据上标注每一帧或每一时间窗应执行 wait/ask/answer,用于训练主动交互策略。
- 设计类似 Ask-F1 的评估指标,同时考虑回答质量、提问代价与等待收益,而不只看最终答案准确率;在推荐/广告交互中可迁移为“澄清问题的性价比”,平衡打扰率与信息增益。
- 落地成本提示:该基准集中于视频理解,工业界需先构建领域内不确定性标注,但可复用其问题定义与评测框架来低成本启动。
从交互到能力:以任务推进为状态与监督的 GUI 智能体记忆
🧭 Agent 任务状态与经验记忆 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · Shandong University
将已验证任务进展作为在线状态与离线监督,从跨应用长程任务中学习可复用操作
📌 工作参考价值(4 点)
- 在电商导购/任务型 Agent 中,把用户已确认的约束(预算、尺码、偏好、收货地址)作为 verified task progress 绑定到剩余决策节点,后续只推进依赖已满足的目标,避免跨商品页/订单页重复询问。
- 从成功与失败的会话中抽取「局部有效操作」作为可复用算子:定义入口输入、期望结果、验证条件,例如「给定尺码+偏好筛选候选商品」或「根据地址+支付方式完成下单」,即使整单未成交也能沉淀有效环节供后续会话复用。
- 区分 draft/attempt/confirmed:在推荐流程中只把「加入购物车」「提交订单」等强确认信号作为状态更新依据,不把生成过程或中间点击误判为已完成结果,减少错误状态对后续决策的污染。
- 借鉴 Evidence Cache 和按依赖召回:为多轮推荐对话缓存商品详情图、用户历史 SKU 属性等结构化证据,按剩余需求的 input dependencies 按需读取,降低上下文 token 并提高信息可用性。
ETAMem:面向长期对话智能体的异构记忆解耦与多视图对齐框架
🧭 Agent 长期记忆 · 多视图解耦 ★ 深度解读
Nankai University · Tiangong University · University of Edinburgh
将对话记忆拆分为事件、情感、时间三视图并自适应路由检索,显著提升长期记忆中的多跳与时间推理。
📌 工作参考价值(4 点)
- 在构建用户长期记忆画像时,不要只按语义或时间组织;可拆成「事件 / 偏好情感 / 时间」三个视图:事实类用 semantic embedding,偏好类用 affect embedding,时间类强制按 Session→Day→Week→Month 建索引,避免偏好信息混在事件里导致检索错配。
- Entropy-based routing 可作为低成本的 query 级记忆路由:对 query 和各视图 leaf summary 算相似度分布,用归一化熵判断信号集中程度,再分配检索预算。相比 LLM routing 更稳定、开销更低。
- 工程实现上值得复用:内部节点摘要用 pending-change counter + lazy update,减少 LLM 调用;维护阈值用 Otsu + EMA 根据相似度分布自适应校准,避免长期运行后树结构退化;leaf split/merge 是必要维护操作。
- 层级 beam search 中混合 semantic embedding 与 BM25 打分,对品牌名、商品名等 exact term 查询尤其有效,可迁移到电商客服/推荐解释的记忆召回场景。
GEPA-Curator:面向自改进 Agent 的策展式学习框架
🧭 自改进 Agent 的策展式提示优化
UC Berkeley · ICSI · LBNL · Furiosa AI · KAIST
用任务策展与成功轨迹检索过滤噪声失败,提升 reflective prompt optimizer 性能,多基准最高超 GEPA 20.7%
📌 工作参考价值(4 点)
- 在构建 agentic 流程(客服助手、推荐理由生成、自动选品)时,不要把所有失败轨迹都喂给 prompt 优化器;先做失败归因,区分 prompt 缺陷、工具/harness 不稳定、环境随机性和 judge 噪声,只保留可归因于 prompt 的失败,提升学习信号质量。
- 成功轨迹检索可迁移到电商场景:为某类商品生成文案或操作手册时,检索相似商品/任务的历史成功 trajectory 作为 few-shot context 注入优化器,稳定优化方向并减少灾难性遗忘。
- 若线上已使用 GEPA/ACE 等 reflective optimizer,可前置“任务是否值得学习”的判断,并维护带 embedding 索引的成功轨迹库做检索,工程成本可控且效果提升显著(最高 20%+)。
- 结果提示数据飞轮中噪声样本会污染优化器;在推荐/广告的自动 prompt 优化与失败样本筛选上,应引入置信度过滤和成功案例检索机制。
可控环境合成下的工具使用智能体扩展律
🧭 可控环境合成与工具使用 Agent 扩展律 ★ 深度解读
Apple
提出 SynthAPI 可控合成工具环境,发现工具与数据库多样性比任务数量更关键,并推导可预测扩展律
📌 工作参考价值(4 点)
- 构建电商/推荐 Agent 训练集时,优先扩展工具与数据库状态多样性,而非单纯堆任务数量:当数据预算大于约 4k 任务时,增加 app/工具数(A)、每个任务的初始数据库实例数(S)、以及干扰数据深度(D)比新增任务 prompt(T)更有效;在商品搜索、下单、售后等多步工具场景可直接复用此结论。
- 用可执行环境合成代替 LLM 模拟 API 响应:SynthAPI 生成 Python db schema + API + verifier + oracle solver,所有轨迹可执行、可验证,避免模拟复杂状态转换出错;适合电商/推荐中涉及库存、价格、用户画像等有状态变更的场景。
- 采用 meta-tools 按需加载工具接口:agent 通过 list_apps/list_tools/get_tool_documentation 动态发现工具,降低上下文开销并提升对新工具集的泛化;搜索推荐 Agent 可设计类似工具发现层,按需检索可用商品/内容 API。
- 用 scaling law 指导数据预算分配:拟合 P(A,T,S,D) 形式的性能预测模型,可在小规模 grid search 后外推到大算力预算,避免盲目生成数据;团队可在自有合成 pipeline 上复现此方法。
WeVisCut:从脚本到长视频的单一 Agent 编辑系统
🧭 长视频编辑 Agent 策略学习与蒸馏
Xidian University · WeChat Vision, Tencent Inc.
用离线反推编辑决策训练9B策略,在统一工具环境中逼近Claude Opus 5且token减少33倍
📌 工作参考价值(3 点)
- 从成品反推决策的 inversion + verified replay 管线值得借鉴:在推荐/广告的多步决策场景(如会话式推荐、创意生成)中,可以用线上成功案例反推隐式决策链,并通过回放验证构造高质量监督数据,训练小模型逼近大模型。
- 状态化 Agent harness(共享生产状态、工具反馈驱动决策与修复)可迁移到电商 Agent 架构,统一维护商品/素材/用户状态,支持多轮工具调用的一致性和自我纠错。
- 紧凑策略蒸馏思路:9B 模型达到大模型相当效果且 token 减少 33 倍,适合成本敏感的实时推荐/广告文案生成;通过任务特化监督而非通用多阶段工作流,显著降低推理成本。
ACARE:面向迭代搜索的智能体上下文感知重排器
🧭 Agent 搜索 · 上下文感知重排 ★ 深度解读
University of Waterloo · NVIDIA
用原始问题与推理轨迹解释子查询的 4B 点式 LLM 重排器,提升 agentic search 检索质量并减少搜索次数
📌 工作参考价值(5 点)
- 会话/Agent 搜索中的子查询不能孤立评分:电商搜索、对话式推荐里用户当前 query 往往省略背景,reranker 应把会话级原始意图和已有推理轨迹作为上下文一起输入,而不是只对当前 query 打分。ACARe 的 M0–M3 模式设计可直接复用到客服机器人、多轮搜索、Agent 选品等场景。
- 单 checkpoint 兼容多 context 模式,工程落地友好:通过独立 context dropout(原问题与推理轨迹各以 0.5 概率丢弃)训练,同一个 reranker 支持有/无推理轨迹、有/无原始问题的部署。这对 proprietary agent 不暴露 CoT、或线上隐私限制的场景很有价值,不需要为不同上下文可用性维护多个模型。
- 点式评分避免 listwise 滑窗,适合长候选列表:用 LLM 对 query–doc 对独立输出 yes/no logit difference,推理时 sigmoid 保序,无需 sequential sliding window,可并行处理大量候选。在电商搜索/推荐精排阶段,若候选量大且需低延迟,可以把类似轻量 4B reranker 作为并行精排器。
- 小 agent + 强 reranker 可以显著缩小与大模型的效果差距:论文中小模型搭配 ACARe 后,分别缩小 51–74% 的 nDCG@10 差距,远高于 base reranker 的 26–46%。这提醒业务上可以用低成本小 agent 加上高质量检索工具,用更低 API 成本逼近大模型效果。
- 训练数据构造可借鉴:用 oracle reranker 基于原问题+gold answer 对 agent 子查询的候选文档排序,取 top 正样本、bottom 负样本,再以 final answer 是否与 gold answer 一致过滤轨迹。这种利用 agent trajectory 自动挖掘弱监督样本的方式可迁移到电商搜索的 query 改写/召回/精排监督数据扩产。
策略其实受 Harness 秘密约束:Agent 接口的决策几何
🧭 Agent 接口设计与策略学习
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
训练策略会带上训练 harness 的偏好,部署收益可分解为接口天花板减策略偏差,固定模型评估接口会混淆两者
📌 工作参考价值(4 点)
- 在评估 prompt / 工具 / 工作流改动时,别只拿固定模型 A/B 测试,应把表现拆成 ceiling(接口天花板)和 mismatch(当前策略偏差)。可以用一个更强的模型(如 GPT-4 或更大开源模型)近似最优策略来估计 ceiling,再用当前模型算 mismatch,从而预测改动后重新训练/微调能带来的真实收益。
- 如果接口只是格式变化(比如 prompt 字段顺序、工具描述顺序)而最优动作理论上不变,已微调的策略可能大幅失效(MiniWoB++ 里反转字段顺序让成功率从 85.0% 跌到 19.2%)。这提醒我们:对 LLM 做领域微调时,训练 harness 的格式偏好会被固化,上线接口改动前要重新校准,或者在训练数据里加入字段排序、模板扰动等增强来提高鲁棒性。
- 自动 prompt 优化工具(如 DSPy、TextGrad)常用固定模型给候选 prompt 打分,可能只选出当前模型更擅长的表达方式,而不是真正提高任务上限的接口。建议在候选 harness 搜索中引入更强模型作为 oracle 评估 ceiling,避免陷入对当前模型的过拟合。
- 在设计推荐/搜索 Agent 的工具调用接口、提示词模板时,接口本身的易用性和信息完整性(高 ceiling)可能比当前模型一次性表现更重要,尤其是计划后续用业务数据继续训练模型时。
FOCUS:面向长程语言模型智能体的主动 Critic 学习
🧭 长程 Agent 强化学习 · 主动 Critic 学习 ★ 深度解读
Johns Hopkins University
把中途状态价值细化建模为主动学习:优先在预期最大减小 Critic 估计误差的状态分支采样,并用压缩边界做长程信用分配
📌 工作参考价值(4 点)
- 在电商/搜索的 multi-step Agent(如导购助手、商品搜索 agent、售后 agent)做 RLVR 时,可以把 context compaction / 工具调用边界作为可恢复状态,计算 segment 级 TD advantage 而不是轨迹级 group advantage;能缓解 GRPO 训练后期“草率 submit/提前结束”的 collapse。
- 如果已有 critic/value model,可借鉴 FOCUS 的主动采样公式:用 expected error reduction g(c)=[2κ²b̂e²+(N−κ)σ̂²]/(κ+N)³ 选择从哪些中间状态继续 rollout,避免均匀分支浪费 token;工程上可先在小规模 offline 诊断里验证 critic MSE 与 random/residual 的差距。
- 把 critic 预测当作 pseudo-observation 与 rollout 均值按 κ/(κ+n) 融合,递归 bottom-up 备份;这种轻量 Bayesian blending 比直接用 MC 均值或 raw critic 更稳,适合预算受限的在线分配。
- 模块化把 rollout allocator、context manager、credit assignment 解耦,便于替换 compaction 协议(in-context vs memory workspace)而不影响训练主流程;业务中可先接入现有 session 摘要/记忆模块。
LLM智能体长期记忆的推荐系统设计
🧭 Agent长期记忆 · slate推荐级联 ★ 深度解读
Fudan University
把Agent记忆选择形式化为预算约束下的slate推荐,零LLM调用匹配64次重排且服务成本降3.2倍
📌 工作参考价值(4 点)
- 把记忆/上下文选择形式化为预算slate推荐:召回+学习排序+固定预算填充,可迁移到电商Agent客服、导购的多轮历史筛选,或搜索广告的query上下文优选;比动态截断更稳。
- 零LLM调用链路可落地:BM25+dense embedding双通道召回,RRF融合top128,LightGBM LambdaRank用10个轻量特征(相似度、排名、位置、长度、共享key等)排序,再按token预算贪心填充,写时无LLM成本,适合高QPS生产环境。
- 用stage factorization定位瓶颈:Acc = ai + (ac-ai)*r_pool*r_rank,先看候选池覆盖率,再看排序是否把证据放进budget;这能避免盲目换模型,直接发现是召回还是排序导致证据丢失。
- 固定预算填充优于per-query cutoff:当reward沿排序不下降时,任何cutoff都包含于fill,所以Adaptive-k类动态截断只会降低覆盖率;若存在低质量文档的负外部性,才需要set-level模型,否则别用动态截断。
MLE-World:用学习世界模型预测机器学习实验输出
🧭 MLE Agent 世界模型与测试时扩展 ★ 深度解读
University of Washington · University of Illinois at Urbana-Champaign · University of Oxford · Columbia University · New York University
用 4B 世界模型预测 ML 程序终端输出并以置信度门控执行,使 MLE Agent 在少执行下获得更高分数
📌 工作参考价值(4 点)
- 在昂贵的真实执行/线上实验前,用轻量世界模型(finetuned 小 LLM)预测候选程序、策略或 query 的终端输出(日志/指标/错误类型),一轮推理代替一次完整运行,可把候选筛选成本降 1-3 个数量级。
- 置信度门控是核心复用点:按预测结果类型设置不同阈值(成功/失败/超时),只对低置信度候选做真实执行;比随机跳过更省资源,能省 30-40% 执行时间。
- 结构化输出比单纯预测分数或日志更有效:同时预测 exception class、terminal output、validation metric、submission flag,可提升终端输出一致性和指标召回,并支持后续 Debug/Improve。
- UCB 式 exploration bonus 用模型不确定性(1-pmax)修正贪心 Best-of-N,避免 discard 被低估的候选;可迁移到商品召回/创意筛选等有限验证预算场景。
TAO:面向LLM Agent服务的工具感知联合调度框架
🧭 Agent 服务调度优化
Shanghai Jiao Tong University · Stanford University
提出工具感知联合调度框架TAO,融合工具就绪度、缓存信用与token占用进行动态规划调度,显著降低延迟和TTFT
📌 工作参考价值(4 点)
- 在 LLM Agent 服务中,工具调用(如商品检索、数据库查询、API 调用)会使 GPU 推理可中断,调度时需将「工具返回就绪时间」纳入准入/放置决策,避免 GPU 空转和资源浪费。
- 借鉴 TAO 的 value interface:组合「近期工具就绪度 + 节点级缓存信用(时间衰减)+ token footprint」来评估一个 session 的调度价值,而不是只看队列长度或显存。
- 动态规划联合选择等待中的 sessions 并放置到 GPU 节点,在容量约束下最大化整体收益,比启发式 admission/placement 更优;可实现在线调度器,在 GPU 空闲或工具返回事件时触发。
- 如果推荐/搜索 Agent 涉及多步工具调用(如商品召回、属性查询、库存检查),可以对工具返回时间做预测或标记,并结合 prefix cache 命中(例如共享 system prompt 或工具 schema)优先调度相似 session 以提高 decode throughput。
WebAnything:从野生网络到可扩展 Agent 环境
🧭 Web Agent 环境自动构建与规模化
Zhejiang University · Nanyang Technological University · Shanghai Qiji Zhifeng Co., Ltd.
全自动从真实 URL 重建可重置 Web 环境,构建 244 个网站并微调模型显著提升多项 agent 成功率
📌 工作参考价值(4 点)
- 借鉴自动化环境构建架构:用浏览器自动化收集 DOM/资源/交互结果,配合独立验证器做质量门禁,可为电商类 Agent 搭建可回归的评测环境,避免手工维护镜像站。
- 利用真实网站交互轨迹微调开源模型:从线上商品页、搜索流程捕获的轨迹数据经筛选后可作为高质量训练样本,微调 Qwen 等模型对导航、加购、表单填写等任务提升明显;重点保留任务多样性和失败重试样本。
- 验证器 + 本地修复闭环可复用到数据管道或 RAG 索引构建:独立验证器检查生成内容并触发定向修复,减少人工介入,适合维护大规模商品知识库或 Agent 记忆。
- 可重置环境支持多轮重跑与错误恢复,适合做 Agent 策略 A/B 测试;可将电商搜索链路中的商品抓取、竞品价格监控等流程抽象为可执行任务,加速迭代。
WorkFactory:将职业意图转化为可执行工作以规模化训练智能体
🧭 Agent 职业任务构建与 SFT 训练
IQuest Research · Zhejiang University · Renmin University of China · Shenzhen Institutes of Advanced Technology · Shanghai Jiao Tong University
提出 WorkFactory 框架,通过信息级规划与探针执行修复构建可执行职业任务,训练 WorkPilot 系列显著提升专业工作基准
📌 工作参考价值(4 点)
- 构建电商/广告 Agent 微调数据时,用「业务意图 → 信息支持图」方式定义任务依赖(如商品信息、用户画像、预算约束),自动实例化并校验信息完备性,减少专家演示失败。
- 在数据管线中引入「探针执行 + 修复」闭环:先让弱模型/环境跑任务,诊断缺失或不一致信息,再修复任务定义但保持原意图,可显著提升 SFT 数据质量与下游收益,尤其适合多步营销 Agent。
- 多尺寸训练结论:不要盲目扩展数据/模型,监控执行轨迹长度等行为指标;其先增后降与收益递减提示 agent 训练存在效率拐点,可帮助企业选择合适规模。
- 环境缺陷修复可迁移到电商 Agent 平台:给任务模板维护信息依赖清单,执行前校验工具/上下文完备性,减少无效动作与专家演示噪声。
长程持续学习中的 Harness-模型协同框架
🧭 Agent 持续学习 · 经验检索与参数更新协同
Huzhou Normal University · Alibaba Group · Zhejiang University · Ningxia University
HaMo 将轨迹蒸馏为策略经验卡供即时检索,并以经验条件持续学习目标实现快慢协同,提升长程 Agent 的保留与迁移能力。
📌 工作参考价值(4 点)
- 在电商/Web agent 中,把成功购物、搜索、交易等多步轨迹压缩成策略级经验卡(目标、前置条件、操作步骤、适用上下文),检索时按当前任务上下文召回,而不是直接存原始 log,可降低噪声并提升跨任务复用。
- 采用快慢结合:线上先走非参数记忆即时复用,离线用检索覆盖度筛选「紧凑且互补」的少样本轨迹做参数更新,避免频繁全量训练和遗忘;该思路可直接迁移到推荐系统的持续学习/增量训练。
- 经验条件训练目标可迁移到 RAG-style agent:不仅把检索到的策略拼进 prompt,还要用专门目标让模型学会读懂检索结果、判断其是否适用、并按策略执行,这比单纯加外部 memory 更稳定。
- 若做导购、push 文案、搜索 query 生成等长程任务,可建立跨 session 流程经验库,按场景召回候选策略,再用小模型微调内化,兼顾线上 latency 与跨域泛化。
长程 LLM Agent 的多尺度策略优化
🧭 Agent RL · 多尺度信用分配与策略更新 ★ 深度解读
Peking University · IQuest Research · Tsinghua University · Renmin University of China · The University of Hong Kong
提出 MPO,组合 turn 级 GAE 与均值保持的 token 级信用分配,并用 turn 级重要性采样更新策略,在搜索/工具/自动化任务上全面超越 PPO/VAPO/SAO
📌 工作参考价值(4 点)
- 在对话式电商/购物 Agent 的多轮 RL 中,把一次完整的 assistant turn(搜索词、工具调用、加购决策、最终回复)作为宏动作,用 turn 级 GAE 传播终局奖励(下单、成交、任务完成),而不是直接在 token 序列上做 GAE。论文统计显示 turn 间方差占 critic 价值方差的 89.5%,说明 reward 信用主要在轮次尺度,token 级只需做均值保持的局部修正。
- 策略更新时使用 complete-turn importance ratio,并对其他 token 的 ratio 做 stop-gradient,只让当前 token 的 score gradient 保留 token-specific advantage。这个实现可以方便地接入现有 PPO/VAPO 训练框架,避免 token 级 ratio 带来的 within-turn distribution shift,适合 LLM 生成内容较长、但交互边界更重要的电商 Agent 场景。
- 超参上把跨轮衰减 λ 和轮内衰减 λ_intra 分开调,推荐 λ≈0.8、λ_intra≈0.95、β≈1.0。原因是一个 turn 包含大量 token,两者的时间尺度不同;业务里如果直接用相同衰减,要么跨轮信用太短,要么轮内 token 信号稀释。
- 该方法只增加一个 critic 和一个均值约束投影,计算开销低;若你的搜索/推荐 agent 已有 PPO 类训练栈,可以先替换 advantage 计算与 ratio 构造,不必重构环境或 reward。
工作智能体:系统、能力与优化
🧭 Agent 工作系统与优化框架
Shanghai Jiao Tong University · The University of Hong Kong · The Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University · The Chinese University of Hong Kong
以工作为中心给出工作智能体的系统级框架,用持久性与开放性刻画条件并划分五类数字工作,梳理能力与优化路径
📌 工作参考价值(4 点)
- 用“工作持久性/开放性”给 Agent 任务分级:电商客服、推荐解释等低持久性对话可轻量处理;跨系统选品、投放、报表等高持久性任务需要状态化工作空间、checkpoint 与回滚机制。
- 五层工作形式可做架构拆分:对话层做查询理解,原子动作层做商品/内容编辑,多步层做依赖动作,工作流层做跨团队 handoff,工作空间层做跨对象依赖追踪;据此把 LLM 调用边界和工具接口设计清楚。
- 除模型微调外先优化 harness:工具说明、状态存储、错误恢复、RAG 上下文等往往能低成本提升搜索推荐 Agent 可靠性,再逐步引入 LoRA/SFT 联合优化。
- 评估以可验证工作产出为中心:定义任务完成率、交付质量、回滚率、依赖一致性等指标,避免只比 BLEU/ROUGE;对 push 文案生成/query 推荐也要看业务转化与可执行性。
三位一体:能力驱动的多模态智能体递归自改进
🧭 多模态 Agent 递归自改进
The Trinity Research Team
提出 Trinity 框架,通过 Creator/Explorer/Evolver 将任务重组为能力树,递归进化 Harness 并路由选择
📌 工作参考价值(4 点)
- 在电商/搜索/推荐的 Agent 工作流里,可以按底层能力需求而非业务场景(搜索、推荐、广告)来组织任务与模块:定期用已验证执行轨迹重新聚类任务,把“表面 query 分类”换成“能力树”,减少场景间重复建设。
- 借鉴 Capability-Driven Real2Sim2Real:用历史日志或仿真沙箱构造简化的可验证环境,让 Agent 先做离线能力学习,再在原任务上评估迁移;适合在推荐文案生成、Query 改写等高频能力上做低成本迭代。
- 参考 Harness 树 + Capability-Aware Router 的做法:维护一组可复用的 Harness/模块配置,不改动整体拓扑,只在固定拓扑内累积验证更新;再根据公开任务元信息(如 query 类型、商品类目)路由到不同模块组合,类似多任务 MoE 的轻量路由。
- 对具身或多模态业务场景,优先抽取共享能力做仿真训练,而不是为每个异构场景单独建环境;实测在 unseen benchmark 上仍有 26 分提升,说明能力抽象具备迁移性。
Skill∞:智能体技能优化的递归自改进框架
🧭 Agent 递归自改进 · 技能优化 ★ 深度解读
National University of Singapore · City University of Hong Kong
将技能优化流程编码为可自我优化的 meta-skill,实现跨任务复用的递归自改进
📌 工作参考价值(4 点)
- 在电商/搜索推荐的 Agent 平台中,把策略优化器(如 query 改写、召回策略、排序规则的生成与迭代流程)封装成可被自身优化的 skill,让优化器随业务反馈递归进化,替代人工设计 pipeline。
- 独立 reviewer 机制值得借鉴:对候选策略用隔离上下文评审,拒绝未激活、不可用或仅靠噪声涨分的候选,可以降低离在线指标误判和 reward hacking 风险。
- 采用原生 skill discovery(仅凭 name/description 让 Agent 自主加载)而非 prompt 注入,更贴合部署环境;把 description 纳入优化范围可提高激活率,这对推荐 Agent 的 skill 路由设计很实际。
- 解耦 meta-skill 与任务 skill,先在多个优化任务上提炼通用优化器,再复用到不同类目/国家/活动场景,摊薄自改进成本,适合多业务线共用一个优化框架。
主动记忆召回中的规模代价:误报随记忆库增大的幂律恶化与控制
🧭 Agent 长期记忆主动召回 ★ 深度解读
Zhejiang Sci-Tech University
证明主动召回门控的误报率随存储规模幂律上升,提出免标签 conformal 门控并验证其控制误报
📌 工作参考价值(4 点)
- 做主动 push/选品/召回时不要用固定相似度阈值:先对每个用户/上下文做 per-cue z-score 标准化,再让阈值随候选池 N 增长;embedding 分数用 √(2 ln N) 量级,词法 tf-idf 用 ln N 更快,否则 N 从几十到几千误报会从 5% 飙到 80%+。
- 无标签门控可直接落地:用用户历史 session/消息作为 reference,对当前候选打分,计算 conformal p-value(rank = (1 + #{ref ≥ current})/(K+1)),设定 α=0.05 即有有限样本 FPR 保证;适合 push 文案/商品/消息的发送决策,无需标注是否打扰。
- 两阶段 LLM judge 值得用:先用向量/词法召回 top-5 候选,再让 LLM 读候选判断是否打扰/相关;在 N=2048 时 14B judge 达到 28% hit@4% FA,优于纯相似度 gate,但延迟和成本更高,且要确保召回覆盖(top5 含 evidence 仅 36%-65%)。
- 容量受表示分离度限制,投入 embedding 质量/多模态上下文比堆更多记忆更划算:binormal 模型下容量随分离度平方指数增长;当候选池极大且 score 分布重叠大时,可控误报下的命中率会掉到个位数。
Δτ-Bench:在持续演化的工具生态中评测 Agent 适应能力
🧭 Agent 工具生态演化评测与技能管理 ★ 深度解读
Zhejiang University · University College London
构建可执行演化工具生态基准,并提出 STEWARD 联合维护工具与技能以跟上能力前沿
📌 工作参考价值(4 点)
- 把内部工具/API 生态当作“会演化的能力前沿”:记录 skill-tool 依赖,工具下线只标记 inactive、不删除;接口恢复时可快速 reactivate,适合推荐 Agent 频繁调用商品、促销、广告接口的场景。
- 增量技能维护优于全量重建或冻结:从成功轨迹只做局部编辑,维护 token 省 30-40%,且 SR 更高;业务里不要每次接口变更都全量重蒸馏 SOP。
- 执行时动态 provision tools+skills,而不是一开始灌全量工具列表:先按初步计划给一个小工具集,出现能力缺口再检索和检查 schema,能提高 tool precision/F1,降低长上下文分心。
- 监控 Agent 不能只看任务成功,要看相对当前版本最优路径的路径效率 SPE/IDR/DAR:只看成功会掩盖“旧流程仍能跑通但错过更优路径”的退化。
FlashScript:将重复 Agent 工作流编译为可复用神经符号程序
🧭 Agent 轨迹编译为可复用神经符号程序 ★ 深度解读
University of Southern California · Microsoft
把成功 Agent 轨迹固化为代码加局部 LLM 调用的神经符号程序,实现一致、可泛化且低成本复用
📌 工作参考价值(4 点)
- 高频运营/数据工作流(周报、选品监控、广告复盘、搜索 query 改写评估)可以先跑通一次,再用 FlashScript 思路固化:工具操作写死为代码,只有模糊判断(如“是否作弊”“是否敏感词”“是否价格异常”)保留为 llm<T> 调用;后续执行一致,token 成本大幅下降。
- 三层划分可直接迁移到推荐/Agent pipeline:输入层做非结构化请求到结构化参数的映射,计算层把阈值/规则判断写成代码,输出层只做文案渲染;这能显著减少 LLM 调用次数,适合构建低延迟线上服务。
- 三个降本技巧可直接复用:caching 观测值 + guard(已知类目 ID 直接用缓存,新类目才问 LLM);codifying 把可规则化的审核/过滤写成正则或阈值;clubbing 把多个独立判断合并成一个 LLM 请求或并行调用,适合批量处理商品/内容理解。
- 如果业务里要让 Agent 重复执行某类任务,优先要求它生成可执行的 NSP,而不是 skill 提示;NSP 的可测试性更强,能把 symbolic shell 与 neural calls 分开做单元/回归测试,便于上线和运维。
记忆税:剖析 Agent 记忆相对直接检索的净价值
🧭 Agent 记忆净价值与记忆税拆解 ★ 深度解读
University of Illinois Urbana Champaign · Tsinghua University · Renmin University of China · Verdent.ai · University of Waterloo
大规模评测发现多数 Agent 记忆系统不如 naive RAG,提出记忆收益与记忆税拆解净价值
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的用户长期记忆、会话记忆或经验记忆项目中,先把 naive RAG 作为强制 baseline;很多专用记忆在 retrieval-friendly 任务上会被简单 BM25+embedding+rerank 打败,若无法显著超过 RAG,就不值得上复杂记忆架构。
- 保留一条从记忆回到原始日志/会话的“可恢复路径”:构建 memory 时同时从原始历史检索并联合 rerank,能补回构建阶段丢失或模糊的证据;实验中 SimpleMem 加 src-aug 后 LongMemEval-s 准确率从 73.6 提升到 82.8,memory tax 从 12.0 降到 5.2。
- 把“未来查询需求”当作隐式推荐问题:不要 AOT 全量预构建,利用用户历史兴趣/访问模式/偏好作为先验,选择性地对可能被未来 query 需要的信息做抽象与索引;这类似推荐系统中预估 item/信息未来相关性。
- 记忆系统要报告检索成本与原始 RAG 的 headroom;在电商/Agent 检索友好场景下,复杂记忆的增量收益有限,轻量或 JiT memory 可能是更高性价比的选择。
匹配能力、不同行为:语言智能体MCP与CLI接口受控研究
🧭 Agent 接口表示与工具调用行为分析 ★ 深度解读
The Hong Kong Polytechnic University · Institute of Computing Technology, Chinese Academy of Sciences
在可执行能力固定时,MCP与CLI的接口表示差异显著改变智能体动作选择、失败恢复与成本,DART可修复实现层失败
📌 工作参考价值(4 点)
- 工具接口设计应作为决策环境的一部分:在构建商品搜索Agent、客服Agent或推荐解释Agent时,同一组底层API用MCP schema还是CLI命令呈现,可能改变动作分布和任务成功率。建议针对具体模型做接口A/B测试,不要默认MCP一定优于CLI或反之。
- 借鉴DART解耦“语义决策”与“接口表达”:当工具调用失败时,先验证语义动作是否有效,若有效则只修复参数格式化或调用语法,不重新选择动作。这种commitment-preserving修复可在不增加推理步数的情况下提升恢复率,并显著降低token消耗(最高每任务省27.1k token)。
- 组件级消融定位接口敏感点:将接口分解为presentation、realization、feedback,在相同决策上下文下做因子实验,可快速定位是schema描述、解码协议还是错误反馈导致行为漂移,指导工程化接口优化。
- 交互轨迹的早期分歧会传播:在线Agent系统中,早期接口诱发的细微动作差异可能通过历史状态放大,最终导致任务失败或成本剧增。可通过配对轨迹分析识别高风险决策点,设置针对性干预或缓存策略。
重新思考 Agent Harness 中的验证设计
🧭 Agent 验证设计与低成本 critic 扩展 ★ 深度解读
Cornell University · Alibaba Group
系统对比 17 种 agent 验证设计,独立低费 critic 带来 5.9–9.5pp 编码提升且成本仅 1.13–1.25×
📌 工作参考价值(4 点)
- 在电商 Agent 工作流(自动生成 SQL、商品文案、广告素材、数据分析报告)中,把最终验收拆给独立 critic,而不是让执行 agent 自查;critic 可用低成本模型,上下文只给任务要求和 diff/changes,不给完整轨迹,可降低 critic token 29–43% 且效果更稳。
- 对可视化/交互产物(如落地页、创意 Banner、可交互配置器),在 critic 指令中要求调用渲染/截图工具做视觉检查;VisualBench 显示 changes + visual inspection 净偏好最高(+23.8pp)。
- 用系统提示词注入简洁 verification instruction,并在每次代码/文件修改后插入 after-edit reminder,可作为低成本 default;但不要轻易使用完成时自我复查完成门,容易显著抬高成本。
- 如需继续 scale,优先增加独立 critic 数量(width)并合并反馈后一次修订,比多轮 review(depth)更省总成本(约 19% lower);避免让主 agent 多次重复执行。
自动化定理证明中的苦涩教训:简单 Agent 循环
🧭 Agent 自反思 + 形式化验证
FAIR at Meta · EPFL · CERMICS, ENPC, Institut Polytechnique de Paris · New York University
提出 h1,一个只靠高效 Lean 接口与验证反馈自反思的简单 agent 循环,在形式定理证明达到 SOTA 并追上复杂工作流
📌 工作参考价值(4 点)
- 构建 LLM agent 做 query 生成、推荐文案或策略搜索时,不要先上规划/多智能体分解;先用单 agent + 可执行验证器(搜索 API 结果、商品约束、SQL 执行)做自反思循环,用 pass@1/多采样衡量,效率和效果常超复杂编排。
- 工具/环境接口的反馈延迟与信息质量是关键:把验证器返回做成结构化、可增量复用(如错误位置、候选修正),减少模型盲目重试;类比 h1 的 Lean 4 增量编译与错误上下文。
- 做消融和 matched-model 对比:换更强模型或更多计算会混淆 workflow 收益;固定模型,对比简单 loop vs 复杂 agent 架构,避免苦涩教训。
- 如果业务里有可靠执行环境(规则校验、线上仿真、评分器),把计算预算花在多次验证反馈循环(test-time compute)上,可能比重构提示/工作流更划算。
ActionRAG:面向 LLM Agent 长期记忆的证据精炼图扩散
🧭 LLM Agent 长期记忆 · 图扩散检索 ★ 深度解读
Actioneer
结合谨慎图索引与查询时接收者归一化图扩散,在 MemoryAgentBench 上以 55.1 平均分刷新检索式记忆 agent 表现
📌 工作参考价值(4 点)
- 查询时把向量召回视为 proposal 而非最终结果:用双通道(实体+三元组)召回后在局部图上做 receiver-normalized diffusion 重排序,能恢复多跳关联且不引入 LLM 调用;适合电商会话中“用户问某商品是否适用于某场景”这类需要跨事实推理的 query。
- 索引阶段做标签调和 + 分层实体消解(精确名+类型匹配优先,模糊匹配仅限唯一候选)能显著降低商品/类目/属性图中的实体碎片,避免后续图检索被重复节点稀释。
- 冲突消解与事实更新:将时间短语归一化为绝对日期并存入事实描述而非节点,保留 source chunk 指针,可支撑价格/优惠/状态变更等需要区分新旧事实的场景。
- seed protection 与 hub-penalized flux 两个参数化 trick 可直接借鉴:保护原始高分证据不被图扩散淹没;对高连接度实体(爆款商品/热门类目)施加惩罚,避免 flux 补全被 hub 主导。
当 Agent 失败:归咎于模型还是执行框架?
🧭 Agent 执行框架评估与匹配
Shanghai Artificial Intelligence Laboratory
提出模型-执行框架匹配度评估框架,发现无单一最佳组合,OpenCode 跨模型最稳
📌 工作参考价值(4 点)
- 选型 Agent 执行框架时,不要只看最终任务分数,建议同时监控 VCR(有效完成率)和 Token Load,避免高分数掩盖高失败率或高 token 浪费。
- 不同模型适配不同 harness:内部构建 Agent 平台时,可以为每个主力模型分别评测 harness 的 Model-Harness Fit,而不是统一采用一个“最佳”框架。
- 在电商搜索/推荐 Agent 场景中,大量交互式工具调用和长上下文任务会放大模型-框架不匹配问题,可引入 Interaction Residuals 定位具体哪个组合在哪些步骤频繁失败。
- Token Load 包含失败尝试,适合作为成本控制指标:当框架重试机制激进时,即使任务最终成功,也可能消耗数倍 token,影响线上性价比。
Frontier-OPD:发现智能体能力边界并教会其超越
🧭 Agent 在线蒸馏 · 学习前沿 ★ 深度解读
Tsinghua University
通过学习前沿动态选择教师干预点,并用学生后续行为验证指导质量,提升多智能体在线蒸馏效果
📌 工作参考价值(4 点)
- 在电商/Agent 微调里,不要随机采样教师补充数据:用 on-policy 学生 rollout 计算 teacher-student token logprob gap,按共享状态聚合,挑『难但可救』的决策点做教师干预,比均匀采样明显提升。
- 状态抽象可复用:把归一化 observation + available actions 哈希成 state key,合并重复访问;同时做 trajectory-balanced 加权,避免死循环轨迹拉高节点分、占用干预预算。
- 教师指导必须验证『学生能否接住』:只加 teacher bridge,不检查后续学生 continuation,会浪费算力;建议用 matched-window agreement gain(bridge+continuation vs 原轨迹等长窗口)做过滤。
- 线上持续学习时,每轮更新后重新采样重建 frontier,让数据分布跟随当前策略;若目标是尽快达到可上线成功率,接受额外单步成本可能反而缩短总训练时间。
HarnessMM:通过守卫决策复用与递归自改进提升 Agent 工具链 Token 效率
🧭 Agent 工具链推理复用与配置自改进
Tsinghua University · Microsoft Research Asia
用守卫决策复用替换工具反馈后的重复推理回调,不改模型权重即可降低Agent harness token成本
📌 工作参考价值(3 点)
- 在电商/导购类 Agent 中,工具返回收据后若满足预设 guard(如价格、库存未变),直接用缓存的动作参数继续执行,避免重复调用 LLM;把“已解析的工具调用”做成可执行决策图,存字面参数与依赖,工程上可大幅省 token。
- 引入 Certified Callback Substitution:在模型-工具边界注册回调替换时,保留原生接口并记录删除慢回调,新语义或证据不足就回退原模型,实践中保障效果不下降。
- 借鉴 RSI:固定模型权重,用训练/评估反馈迭代优化 harness 配置(守卫阈值、缓存策略),验证集选优,能以低成本对线上 agent 配置做自动调参。
每条边都要有引文:用语言模型代理构建医疗软件采用情况的引文支撑知识图谱
🧭 LLM Agent 构建引文支撑知识图谱
Medical Physics Unit, Department of Oncology, McGill University · Toboggan Labs
构建每边必有逐字引文的知识图谱流程,以确定性爬取、预算化ReAct agent、分层grounding和多模型投票达到0.94精度/0.71召回
📌 工作参考价值(4 点)
- 在商品/品牌关系抽取中,强制每条三元组都有源页面逐字引文,并用字符串匹配定位证据,可大幅提高 KG 可追溯性和线上信任度,适合电商商品知识补全、竞品客户案例采集。
- 借鉴其分层 grounding:先用宽松抽取器高召回,再用 referent step 读整页解决“只提到一侧”的指代问题,叠加确定性规则过滤明显错误,最后用多模型投票九准则裁决,可复用到商品属性、合作品牌、集成关系等抽取任务。
- 使用预算化 ReAct agent 搜索全网,配合确定性爬取厂商官网,在成本可控的前提下扩大证据覆盖,可用于监控竞品动态、构建行业采用图谱或生成可引用证据的推荐理由。
- 用投票生成的置信度分数替代固定规则,在相同精度下保留更多正确关系,并缓解长上下文退化与 run-to-run 方差;工程上可将长文档拆成有界窄模型调用,用字符串匹配证据做锚定。
PatEx-Gym:面向专利审查新颖性评估的智能体现有技术搜索框架
🧭 Agentic 搜索与轨迹合成
中国科学院深圳先进技术研究院 · 中国科学院大学 · 大连理工大学 · 深圳理工大学
构建专利审查 agent 基准与轨迹合成方法,训练 4B 模型在现有技术搜索上接近大模型效果
📌 工作参考价值(4 点)
- PASS 以文档访问作为隐式相关性信号来自动合成搜索轨迹,无需人工标注;可借鉴到电商搜索中,用用户点击、停留、加购等行为日志构造 agent 训练数据,省去昂贵标注
- 将搜索过程分解为 query 内部行为、query 间进展、轨迹级证据质量三个层次,可迁移到商品对比、选品 Agent 的 reward 设计或数据筛选,提升搜索策略学习效率
- 4B 小模型仅靠 SFT 合成轨迹即可达到大模型 agent 的竞争性能,适合业务中低延迟、低成本的部署约束,可先训一个轻量 agent 再逐步扩展
- 其 harness runtime 支持迭代搜索、文档访问、OA 生成的完整闭环,对搭建自营 agent 评测环境有参考意义,尤其适合需要复杂检索和推理链路的场景
ReGE:通过经验合成让 Agent 变得更强
🧭 Agent 经验合成与复用 ★ 深度解读
University of Waterloo · University of North Carolina at Chapel Hill · University of British Columbia
把多次尝试的轨迹与产物联合合成为自包含指导,低 token 成本提升同模型后续执行成功率
📌 工作参考价值(4 点)
- 如果已经在做 agent 或搜索推荐的多路并行采样(例如同一个 query 跑多个策略),别只做投票或 best-of-n;把完整轨迹截断后直接喂给一个 coach 一次性合成“执行计划 + 关键事实 + 失败坑点”,能显著减少指导构建 token(>95%)且保留成功率。
- 工程实现上,截断原始轨迹(steps 120 / reasoning 200 chars / commands 160 chars / artifact 6000 chars)而不预先做 per-trajectory LLM 摘要,可避免独立摘要的信息割裂,Joint synthesis 比 Independent summaries 短约 1/4,总 tokens 降约 20–32%。
- 即使 source 池中都是失败尝试,也能提取可用操作路径(如浏览器任务的打开方式),因此不要丢弃失败的 rollout;mixed 成功/失败池带来的增益最大。
- 低端模型 + ReGE 可达到高端模型同等成功率而成本仅 28%,这为在线服务降本提供了可复用模式:用便宜模型做多次尝试 + 一次性经验合成,替代单次昂贵模型。
RSI Arena:迈向基于人类反馈的递归自我改进
🧭 Agent 自主后训练与人类反馈
Bake AI · Stanford University · NVIDIA Research · Hugging Face · Scale AI
10个前沿模型作为训练代理自主后训练Nemotron基础模型,两阶段人类反馈闭环,最强模型关闭76%能力差距
📌 工作参考价值(4 点)
- 可借鉴自主后训练流水线:让 LLM agent 负责数据选择、训练脚本实现、检查点挑选,可将算法工程师从重复调参中释放,适合电商/推荐场景中大量候选模型或 prompt 版本的快速迭代。
- 用人类偏好做递归改进:Stage 2 把用户对比记录和投票注入 agent,使其再次训练提升风格化评分,类似推荐系统里的用户反馈闭环,但要注意 benchmark 提升与偏好提升无明确关联,需以真实业务指标(如 CTR、转化率)为准。
- 评估时控制风格偏差:论文对答案长度和格式做统计调整后才比较模型偏好,电商推荐/文案生成场景中,用户偏好容易被文本长度、排版影响,上线前应做风格消融。
- 监控安全与合规:一个模型在 StrongREJECT 上有害合规上升,自主训练可能放大讨好倾向;在生成式推荐或对话助手中,需设置安全护栏与红队测试。
SkillRep:刻画并理解智能体技能检索的表示设计空间
🧭 Agent技能检索 · 表示设计空间 ★ 深度解读
EverMind, Shanda Group · Peking University · Southeast University
首个组合微调、双侧扩展、背景投影与BM25的0.6B技能检索器,SRA-Bench MRR@10领先7.02点
📌 工作参考价值(4 点)
- 在召回/检索项目中,不要孤立评估 LLM 扩展、embedding 校准、BM25 融合;一定要在最强微调 encoder 上做 leave-one-out/last ablation。论文显示微调会反转 training-free 模块排序:background projection 从 +5.55 降到 +1.63,query-side expansion 从 +1.40 升到 +6.28。业务里可先用对比微调把双塔/商品 embedding 校准好,再决定要不要做 query 扩展或去背景。
- 混合检索优先用 score fusion(按 query 的 top-k 分数分布做 z-score 后线性加权),而不是 RRF。RRF 丢弃分数边界,稀疏通道可能推走 dense 已高分但 margin 大的正确结果;这对电商搜索/推荐中 BM25 与双塔融合直接可迁移,建议保留 score 的置信度信息。
- 三个诊断量可复用:background gap、coverage、dilution loss。上线 embedding 检索前,用它们判断是 query 表达不足、语料背景偏移、还是单向量稀释主导失败:前者补 query expansion;中者做 background projection/whitening;后者考虑 passage-level indexing 或增加 lexical channel。
- LLM query 扩展的价值主要在补出目标文档的词,而非改写风格。做电商搜索 query 扩展/改写时,应让 LLM 生成包含商品属性词、卖点词的伪文档或 pseudo-query,并按 IDF/类目词汇控制生成,避免泛词膨胀。
智能体记忆管理:信息检索的下一个前沿
🧭 Agent 记忆管理框架与 IR 融合
Dept. CS&T, Tsinghua University
提出 AMM 框架,将记忆对象分为 constants、functions、operators,并给出 IR 视角研究议程
📌 工作参考价值(4 点)
- 在电商/广告 Agent 中,可按 constants/functions/operators 分类设计记忆层:用户长期偏好(constants)用于召回与排序;可调用的推荐策略/工具(functions)按需检索;总结、遗忘、合并等记忆操作(operators)显式管理,避免把所有上下文塞进 prompt 或向量库。
- 记忆检索不要只做相关性排序,需定义 utility(对下游动作/转化的贡献),可借鉴 learning to rank 或用 LLM 生成候选后重排,对记忆片段做效用打分,提升推荐 Agent 的决策质量。
- 混合参数化与非参数化更新:高频短期信号(点击、会话)写入外部记忆实时检索,低频长期偏好定期用 LoRA 等参数化微调固化,兼顾实时性与成本,适合个性化 Agent 持续学习。
- 评估 Agent 记忆时,借鉴搜索/推荐的离线-在线评估体系,关注任务完成率、记忆更新效率与长期回报,而不是只看单轮 QA 准确率。
AfterDeleteBench:审计 LLM Agent 删除后信息持久化
🧭 LLM Agent 记忆删除审计
The Ohio State University
用对照实验量化 LLM Agent 删除记忆后仍可从派生状态恢复秘密的比例
📌 工作参考价值(4 点)
- 删除审计必须覆盖派生状态:用户删除原始对话或记忆后,摘要、向量库、RAG 索引、日志等仍可能泄露;上线“被遗忘权”前应建立“暴露后删除 vs 从未暴露”对照行为回归测试,不应只看存储层记录是否消失。
- 用来源感知闭包做级联清除:维护每条记忆的 provenance,删除源记录时同步移除或重生成其派生摘要和嵌入,能显著降低删除后的可恢复性;仅做精确字面写过滤无法擦除已经扩散的信息。
- 评测接口本身会影响恢复率:自动化合规审计或红队测试需统一输出格式与解析器,避免目标内容实际存在但因格式不符被误判为未泄露,影响安全指标可信度。
- 对 Agent 记忆系统引入行为级隐私视角:即使模型权重固定、无逐字留存,分离存储的敏感组件在公开组合规则下也可被模型重建;设计记忆存储时不要保留可组合的敏感片段。
Atlas:长周期 Agent 轨迹的理解与复盘
🧭 长程 Agent 轨迹可视化与复盘
Allen Institute for AI · University of Washington
用轨迹树和产物投影,把长程 Agent 运行表示为目标-决策-产物三层,提升决策透明和复盘效率
📌 工作参考价值(4 点)
- 在电商/广告 Agent 流水线(选品、投放策略、搜索 query 生成/改写)中,不仅记录最终产出,也记录 trajectory tree 的决策节点:采取的、搁置的、排除的方向和理由,便于事后审核与调优。
- 借鉴 artifact projection:对同一批中间产物(商品候选集、query 候选、广告文案)提供表格/时间线/图等多视图切换,并支持从产物反查产生它的决策节点,降低复盘成本。
- 把“决策透明度、artifact 可理解度、与业务目标的关联”作为 Agent 产品验收指标;Atlas 的 goal/decision/artifact 框架可迁移为“业务目标-策略决策-候选产物”。
- 交互上,用可展开的 branching tree 做运行回放,比线性日志更能暴露 Agent 在长程任务中的错误分叉或过早排除选项。
保守元代理搜索:非平稳环境下的架构自适应
🧭 元代理架构搜索与在线自适应
CMAS通过保守提升、切换成本与风险约束降低在线架构搜索的回归与成本,在96个流上优于最强自适应基线
📌 工作参考价值(4 点)
- 在线架构变更采用“影子回放”评估:用共同随机数重放历史流量,对新旧架构计算配对分数,能显著减少评估噪声,适合在电商推荐、广告投放等延迟反馈场景中做 A/B 测试前的离线消融。
- 提升门槛加入方差惩罚和切换成本:只有显著优于现任方案才允许上线,避免频繁替换导致系统不稳定。可直接借鉴到电商 Agent 工作流的组件升级策略。
- 模拟金丝雀阶段与自动回滚:小流量试运行并预设指标阈值,失败自动回滚,降低线上风险。适合部署生成式推荐或广告文案生成等高风险模块。
- 当新增组件不贡献价值时收缩到最小有效团队,定期剪枝,可减少推理成本与维护复杂度。
编码 Agent 的自适应技能粒度:运行时路由与宏到微恢复
🧭 Agent 技能粒度自适应与恢复执行
Shanghai Jiao Tong University · Kuaishou Technology Co., Ltd. · University of Warwick
将技能粒度作为条件化动作抽象策略,通过特征控制器与宏到微恢复提升编码 Agent 鲁棒性
📌 工作参考价值(4 点)
- 在推荐/搜索 Agent 工作流中,把“宏技能”(如一次生成完整推荐理由+商品卡片+优惠文案)与“微工具”(分别调用召回、排序、文案模型)纳入同一路由策略,根据 query 复杂度、用户状态和上下文选择执行粒度;若宏技能失败或不符合预期,自动降级到微工具补齐,避免整链路失败。
- 可借鉴其 feature-based 控制器思路:不依赖 LLM 做每个步骤的粒度判断,而是用用户/任务/状态特征(如 query 长度、类目数、历史是否出现矛盾信号、置信度)训练轻量分类器或规则,决定走宏模板还是微调用,降低延迟和成本,适合高 QPS 电商搜索/推荐消息场景。
- 引入有限状态执行器和显式的 transition correctness / route match 过程指标,对业务 Agent 做可观测、可回滚的执行管理;在 push 文案生成、搜索 query 改写等场景中,可以跟踪“宏采纳率”“失败恢复率”来评估系统鲁棒性而非只看最终转化。
- 局限:论文面向 coding agents,缺少电商语料和在线指标;迁移时需重定义技能库和 verifier,但执行抽象与回退机制可复用。
面向数据科学任务的自适应评分准则过程奖励智能体
🧭 Agent 过程监督 · 自适应评估准则
Carnegie Mellon University · Microsoft
AdaPRA 用自适应 rubrics 的过程奖励智能体审计并纠正数据科学 agent 的中间过程错误,显著提升排行榜百分位
📌 工作参考价值(4 点)
- 用可执行的检查(而非仅看轨迹)构建过程监督信号:在电商/推荐 agent 中可对召回策略、query 改写、特征拼接等中间步骤做"提交完整性""防泄漏验证""预算利用"等自动核对,提前捕获 silent errors。
- 自适应 rubrics:从简单任务或历史成功运行中挖掘 rubric 模板,再按任务难度/失败样本动态调整;对应推荐系统可按场景或品类生成评估检查项,并利用线上 badcase 持续更新。
- 跨模型迁移:用强模型运行结果挖掘 rubrics 去监督弱模型,或反之;可用于 reward model 构建、蒸馏或 RLHF,降低人工标注成本。
- 持久化 workspace 与跨尝试记忆:多次尝试间缓存探索结果、失败原因和已试策略,避免重复跑 baseline 和 EDA;推荐 agent 或搜索 agent 可复用已尝试的召回/排序策略,优化固定预算利用。
RSIHub:可组合的 Agent 进化方法框架
🧭 Agent 进化框架与实验治理 ★ 深度解读
University of California, Berkeley · University of Science and Technology of China · Douyin Group · Shanghai Jiao Tong University · Beijing Institute for General Artificial Intelligence
开源框架将 Agent 进化策略与执行评估解耦,支持公平对比、溯源与受保护评测
📌 工作参考价值(4 点)
- 在电商/广告 Agent 迭代中,把「策略改动面」和「评估面」分开:对 prompt、工具、编排做自动进化时,将评测器、数据切分、认证记录放在框架侧,禁止 mutate 触碰评估配置;这能避免上线 Agent 优化时因评测漂移导致错误归因。
- 借鉴 train/gate/sealed 三分法:用 train 产生反馈、gate 做准入、sealed 做 held-out 报告。搜索推荐场景中,可对应历史反馈窗口、回放准入窗口、未来线上 sealed 时段;防止对历史日志过拟合,暴露 query 改写/文案生成的泛化问题。
- 建立轻量 provenance/lineage:每个候选版本绑定 commit、recipe snapshot、模型版本、数据集指纹、split 与得分,便于回溯和审计;框架独占开销 <0.02% 生成时间,可集成进现有 MLOps。
- 复用 recipe+operator 组合模式:把进化策略写为算子,用配置声明 mutable surface,能让 A/B 对比不同 prompt/策略搜索算法时少写端到端实验代码,团队可快速替换单个策略组件。
训练小语言模型实现可迁移的工具选择
🧭 Agent工具选择与跨域迁移 ★ 深度解读
Meta · Carnegie Mellon University
用SFT+RL训练Qwen3小模型,在Plan-Retrieve-Select流程中超过Llama-4-Maverick并零样本迁移工具域
📌 工作参考价值(4 点)
- 多意图查询先 Plan 再按子意图 Retrieve:将用户请求拆成独立 substep 后分别召回,可缓解电商搜索中“订酒店+订机票”类多意图相互干扰;Select 只从 top-K 候选中选一个,上下文可控,适合小模型部署。
- 训练小模型做 selection policy 时,可复用「SFT 冷启动 + GRPO 强化」:用大模型生成 teacher trajectories;Plan reward 用 retriever 命中 gold 的 precision/recall/F1,Select reward 用 exact match,无需额外人工标注。生产上可训练 1-8B 模型替代大模型 API 做工具/物料筛选。
- 把 retriever 抽象成接口:训练用 BM25,推理可换 COLT 等 dense retriever,无需重训;模型继承更强召回。电商/Agent 系统里可把召回层与精排/选择策略解耦,便于替换底层索引。
- 注意 gold label 噪声过滤:只保留仅凭 query 就能识别出工具/商品的样本,否则会教模型选无关项;同时跨域多步任务 Plan 可能失效,必要时退回扁平 Search-R1 式推理。
语言智能体记忆的价值
🧭 Agent 记忆价值决策论 ★ 深度解读
MemTensor · Shanghai Jiaotong University · The Hong Kong University of Science and Technology (Guangzhou)
提出决策论框架,量化记忆在保留、使用、恢复与修订中的价值,并用反例和诊断揭示信息时序、检索接口、读策略与需求不确定性的作用
📌 工作参考价值(5 点)
- 把存储内容和 reader 使用分开评估:线上 Agent 记忆系统故障时,不要只看检索命中。可以固定 reader,对比不同持久化状态(例如完整日志 vs 摘要 vs 索引)的 realized value;再用固定证据、换 reader 评估使用缺陷。这能避免把“没存”和“没用”混为一谈。
- 存 locator 而非完整内容:论文的 pointer 例子显示,一个与答案互信息为 0 的地址指针,能把付费恢复成本从期望 2.5 次读取降到 1 次。在电商/推荐 Agent 中,记忆可以存用户会话的检索键、商品 ID 索引或版本号,而不是完整上下文;需要时通过 BM25 或 database read 获取,兼顾容量与延迟。
- 写记忆时考虑未来 query 是否已知:query-agnostic 写入需要更多容量保留区分度。构建用户级 memory 或 session 摘要时,如果未来任务是开放式的,不要过早做不可逆压缩;保留可恢复路径(比如原始日志指针),按需求概率和恢复成本做分配。
- 把测量过程 J 和系统 Σ 分离:论文中同一输出在 strict operation rule 下 17/28 接受,consequence-based check 下 22/28 接受,差异 17.9 个百分点。做线上 A/B 或 offline eval 时,应固定评分规则、损失定义和 label 标准,否则会把 scorer 变化误判为记忆系统改进。
- 修订时记录依赖关系,按依赖闭包更新:不要按项目/文档边界更新记忆。记录 source、object、version、reason,商品属性或用户偏好变化时,只更新受影响的结论、计划和缓存,减少误改和遗漏。
智能体能调试网络语料库吗:斯洛伐克语 FineWeb2 的 Agentic 审计
🧭 Agent 驱动数据审计与质量评估
Comenius University in Bratislava · Cisco Systems · Kempelen Institute of Intelligent Technologies · Brno University of Technology
用工具型 LLM agent 低成本审计斯洛伐克语 FineWeb2,产出可执行测试并发现 140 万篇机器生成内容
📌 工作参考价值(4 点)
- 用一次 LLM agent 探索数据管道并产出可执行的验证规则(正则/统计特征/轻量模型),比全量 LLM 分类便宜 4 个数量级,适合定期巡检搜索/推荐语料、商品描述或 UGC 内容的系统性污染。
- 把「模型分类」改为「agent + 工具 + 人工盲审」的审计模式:让 agent 输出 selector 和判断依据,再抽检验证,既能估算缺陷率,又给出 pipeline 漏检原因,便于修复上游过滤规则。
- 预算可控的只读 API 设计值得借鉴:限制工具调用轮次和文档读取量,把单次审计成本压到几美元,可高频跑在数据入库前或日常监控中。
- 先做静态采样/规则基线,再决定是否上 agent;论文中静态采样基线成本不足一半且能验证更多 selectors,业务上应优先用简单可解释规则覆盖大部分问题。
AI Mindmeld:潜在互联协议,让专家表示直连 LLM
🧭 Agent 工具调用中的专家表示直连
Polymathic AI · New York University · Yale University · Flatiron Institute · Princeton University
提出 LIP 协议:冻结 LLM 只训练连接器,把专家表示直接映射进 LLM 内部状态,支持零样本跨域组合
📌 工作参考价值(4 点)
- 在电商搜索/推荐 Agent 中,用户、商品、行为序列通常已有高维 embedding;可为这些内部模型训练轻量连接器直接注入 LLM,而不是先把候选/特征转成文本摘要。冻结基座 LLM 只训 connector,成本低、可随 LLM 版本快速替换。
- 多专家可组合:商品理解、用户意图、广告文案等专家各自独立训练连接器,新专家接入无需重训旧连接器或 LLM;这种模块化设计适合业务中频繁新增召回/排序模型的场景。
- 零样本任务迁移提示:用表示注入替代 prompt 拼接,LLM 可被引导到未见过的组合任务(例如从用户 embedding + 商品 embedding 直接生成推荐理由),但需注意当前 LLM 不经专门训练可能不稳定,建议在 connector 输出层加 norm/对齐损失,或先用领域数据做轻量适配。
- 工程上可参考连接器映射到 LLM 某几层的 hidden state,类似 soft prompt / prefix injection;在线上服务时可预计算专家表示并缓存,connector 前向开销很小,便于高 QPS 推理。
多模态具身智能体:从计算机使用到机器人使用的统一能力中心视角
🧭 多模态具身 Agent 能力框架与评测
Show Lab, National University of Singapore
提出 PAPAV 五功能框架,统一比较计算机使用与机器人智能体,揭示 Anticipate 与 Verify 评测缺失
📌 工作参考价值(4 点)
- 将推荐/搜索 Agent 按 Perceive、Anticipate、Plan、Act、Verify 拆解能力项,分别建立评估指标,而不是只看最终转化或任务成功,便于定位失败环节。
- 在生成式推荐或 query 改写中,显式引入“动作影响预判”和“结果校验”模块:生成候选前先做效果预估与风险检查,生成后主动验证用户反馈,弥补现有链路只优化 Act 的不足。
- 对自动操作类 Agent(如电商后台自动化、广告账户操作),可借鉴其按功能而非架构的评测思路,设计分能力测试集,尤其覆盖不可逆动作前的 Anticipate 与执行后的 Verify。
- 整体为框架综述,无具体算法可迁移;核心价值在评估维度与系统解耦思路,可作为 Agent 评测设计参考。
工具型智能体中基于行为定位的鲁棒软技能适配
🧭 Tool-Using Agent 软技能行为定位适配 ★ 深度解读
University of Surrey
提出 Behavioral Localization,定位技能真正改变行为的少量轨迹位置来训练短 soft prompt,减少漂移并提升任务成功率
📌 工作参考价值(4 点)
- 如果你的电商导购/搜索/客服 Agent 用长 system skill 控制工具调用,可尝试从成功轨迹中选 top-k 关键 token 蒸馏成短 soft prompt;相比全轨迹蒸馏,只学行为变化最大的位置,能减少对基座已有能力的破坏。
- 定位分数 = logprob gain × JS divergence,可迁移到 prompt/example 剪枝:保留那些既提高正确答案概率、又明显改变 next-token 分布的轨迹节点或 few-shot 示例,删掉基座模型本来就会的冗余内容,降低上下文与 KV cache 成本。
- 训练时在未选中位置用 no-skill 分布做 KL anchor,这种「选择性正则」适合在线更新推荐文案生成、搜索 query 改写等 Agent 策略时使用,避免更新引入不必要行为漂移。
- 业务中不一定要替换成 soft prompt;top 10% 关键位置可作为高价值数据,用于构造短 prompt、压缩演示示例,或生成局部偏好对做后续对齐。
HiSTEVE 1.0:面向开放世界游戏的通用人机接口 VLA 智能体
🧭 层级 VLA 智能体原生界面控制
The University of Hong Kong · Zhejiang University · Fudan University · LIGHTSPEED · Independent Researcher
分层 VLA 智能体结合 VLM 规划与原生键鼠控制,在 Minecraft 原子与长程任务上达到 SOTA
📌 工作参考价值(4 点)
- 层级式 Agent 设计可借鉴:VLM 仅做高层子任务规划,低层 VLA 执行具体动作,中间用结构化记忆跟踪进度;在电商导购/广告投放操作助手中可采用「规划-执行-记忆」分离,降低单模型长程推理负担。
- 能力边界感知的 harness 值得落地:规划器只在执行策略能力范围内选择子任务,避免下达无法执行的动作;对应到推荐对话 Agent,可维护「可调用技能/工具白名单」,让 LLM 规划时显式约束候选动作。
- 完成状态检测器耦合策略上下文:不只靠视觉或 LLM 判断子任务是否完成,而是以 VLA 策略隐状态为条件;在电商 RPA/浏览器自动化中可参考用执行策略的中间表示辅助判断任务完成,减少误判和重复执行。
- 异构交互分支处理可复用:GUI 操作与非 GUI 操作使用不同 RMSNorm 分支和独立鼠标移动 token embedding,避免相互干扰;统一 Agent 同时操作网页、调用 API/工具时,可对不同 action 类型分域建模,降低冲突。
IQuest-Q1:面向 Agentic CLI 系统的稀疏 MoE 基础模型
🧭 Agentic LLM 训练 · MoE 与多阶段后训练
IQuest Research
320B 稀疏 MoE 模型,通过多阶段训练和模型合并强化 CLI agent 编码能力
📌 工作参考价值(4 点)
- 稀疏 MoE 架构(320B 总参、15B 激活)在保持大模型容量的同时控制推理成本,适合需要实时响应的搜索/推荐 Agent 场景,可参考其专家路由设计,减少线上 latency。
- 多 scaffold + 多版本后训练策略(SFT + 领域 RL + MOPD 跨多种脚手架)能整合互补训练信号,在电商 Agent 中可借鉴:针对商品知识、会话策略、API 调用等不同子任务分别设计 scaffold 和奖励,再合并训练,提升整体鲁棒性。
- 模型合并技术(merge 不同 expert 和 checkpoint 并缓解参数冲突)可直接迁移到多任务推荐模型融合,例如把单品推荐、query 改写、对话策略等专家模型合并为统一模型,降低维护成本。
- 两阶段课程学习先通用后增加 coding 数据,可用于垂直领域 LLM 微调:先在大规模通用语料上稳定训练,再逐步增加电商/广告领域数据,避免灾难性遗忘。
偏好≠许可:个性化 Agent 电商自动购买界限
🧭 Agent 交易授权边界个性化 ★ 深度解读
ZOZO Research
提出个性化自动购买授权边界任务,发现16个LLM购物Agent过度承诺,个人边界可从少量标注习得
📌 工作参考价值(4 点)
- 把推荐 fit 与交易授权解耦:在自动下单/Agent 购物中,不要因相关性高就 checkout;增加独立的 pre-commit warrant gate,读商品证据与用户明确顾虑,能大幅降低弱证据过度承诺,且比 always-confirm 少打扰。
- 用 minimal-edit counterfactual 做 Agent 审计:固定商品/任务,只改 warrant、final sale、价格上限/异常、urgency 等因素,观察行为变化;把动作压缩为 don't/confirm/auto 三档,报 overreach/overcaution,而不是只看任务成功率。
- 个性化授权边界可用简单模型 + 少量用户标注:几十个用户自己标签训练的 logistic/partial-pooling 模型即可预测 held-out auto-purchase 线,优于大量 prompt×model 组合;但跨域不迁移,需要 in-domain 冷启动标注。
- 将用户个人策略渲染成简短 policy card 注入 system prompt,能改善所有模型的 unsafe-auto 行为,但仍有残余;落地建议人口级 warrant gate 做底线 + 个人边界做上层。
SCOPE:将自然语言策略编译为神经符号谓词程序
🧭 Agent 策略执行 · 神经符号编译
Plurai
将复杂 Agent 策略编译为可执行神经符号谓词程序,用对抗反例联合优化,实现低成本高稳定策略判决
📌 工作参考价值(4 点)
- 可将复杂业务合规/风控规则(如广告审核、客服 Agent 禁言/承诺约束)编译为“小模型谓词 + 确定性提取器 + 代码组合”的可执行程序,替代大模型黑盒 judge,降低线上推理成本和延迟。
- 用对抗反例生成围绕“程序偏离策略”的地方补充训练数据,尤其适合长尾违规场景;训练时先用最弱执行器/小模型优化谓词,再直接迁移到其他小模型部署,减少重复调优。
- 每个判决可回溯到具体谓词输出,便于风控审计、线上排查和业务规则解释;在需要稳定复现的合规场景,优先考虑这种神经符号方案而非纯 LLM-as-judge。
- 在电商 Agent 中,可把退换货政策、价格承诺、营销文案限制等自然语言策略转化为确定性谓词,仅对模糊语言判断使用小模型,混合执行以提升整体可靠性。
推理-搜索增强大语言模型:操作化分类、基准分析与受控证据综合
🧭 Agent 化推理-搜索增强 LLM 架构分类
Texas A&M University, College Station, TX, USA · Texas A&M University–Corpus Christi, Corpus Christi, TX, USA
提出四架构轴+学习信号分类框架,系统梳理推理-搜索Agent设计与消融证据
📌 工作参考价值(4 点)
- 构建电商搜索/客服 Agent 时,把检索从一次性 RAG 上下文改成迭代循环中的动作:显式维护 plan→query→retrieve→verify→stop 状态机,可显著减少无依据答案;在商品知识库、用户评论等多源检索时,按 grounding strictness 分级校验(如硬性要求引用来源 vs 仅启发式)。
- 训练搜索策略时优先用偏好优化或 RL 而非仅 prompt:同一架构下学习信号会显著改变搜索时机、停止条件和最终答案的 groundedness,业务数据允许时直接建模质量-成本 tradeoff。
- 做离线评估不要跨论文直接比较 SOTA:不同 backbone、retriever、corpus 协议不可混用,应关注 controlled within-study ablation;同时把 benchmark 难度与 RSA-loop 需求分开统计,避免简单题目屏蔽搜索行为差异。
- 将检索耦合、控制器、知识源、grounding strictness 作为显式设计维度,便于在电商场景中快速替换组件(如从向量库切到商品图谱)并定位性能瓶颈。
一种动作多种表达:面向长程智能体的效应边际策略优化
🧭 Agent 强化学习策略优化 ★ 深度解读
Tianjin University · Fudan University · Renmin University of China
提出 EMPO,对执行等价响应共享长度归一化策略比率,消除信用-更新错位,提升 GRPO/GiGPO 长程任务效果和效率
📌 工作参考价值(4 点)
- 在结构化动作的 Agent 训练里(工具调用、搜索词改写、推荐解释生成),可以把执行等价但文本多样的响应分组成 effect cell,共享长度归一化的 likelihood ratio,减少文本措辞差异对策略梯度更新的干扰;GRPO/GiGPO 可直接加这个 ratio sharing,无需额外 critic/rollout。
- 长度归一化要保留:跨不同生成长度的响应直接聚合 full-sequence ratio 会让长响应主导 shared ratio;用 exp(1/T Σ log r_t) 能校准 token 级尺度和 PPO clip。
- 与 credit assignment 解耦:EMPO 只用原始 advantage,不在 advantage 侧做聚合,方便叠加 SALT/GraphGPO 等更精细 credit estimator;clip 下 ratio-sharing 比 advantage-aggregation 更稳,WebShop GiGPO 提升更明显。
- 若线上动作空间是自然语言 query/推荐文案,需要先有 canonical effect parser;无结构化 parser 时 coverage 会低,建议先从可枚举 action 的 agent 场景验证。
真实 PMID,错误论文:生物医学声明验证代理的 Harness 设计
🧭 Agent 检索 harness 设计与瓶颈分析
Independent Researcher
对照实验表明检索而非推理是医疗文献验证代理的瓶颈,自写查询代理提升召回但预算利用不足
📌 工作参考价值(4 点)
- 在需要检索工具的 LLM 应用(如电商导购、客服问答、商品知识库问答)中,直接用用户原始 query 做单次检索往往不可靠,应让模型自己改写/生成多个查询,或采用 ReAct 式迭代检索,能显著提升召回和最终答案质量。
- 检索质量通常是整体效果的瓶颈,而不是推理能力:即便给予黄金文档,模型准确率仍有较大提升空间,因此应优先投入优化检索/召回环节,而非只调大模型推理。
- 对返回结果进行“存在性检查”不够,必须做相关性校验:模型可能吐出真实存在的商品 ID 或文档 ID,但与问题无关,应增加一个独立的 LLM judge 或相关性过滤步骤。
- 让 agent 具备搜索预算意识:实验发现 agent 只使用了不到一半的搜索预算,可设计显式的预算消耗策略(如强制步数、每次搜索的查询数量限制)以充分探索检索空间。
自主研究代理的完整性保障:自动检测与运行时干预框架 RIDAR
🧭 Agent 行为审计与运行时纠偏
Tsinghua University · Renmin University of China · Zhipu AI
提出研究完整性违规分类法与 RIDAR 框架,离线检测 F1 85.2%,运行时干预减少违规 36.8%
📌 工作参考价值(4 点)
- 可借鉴 RIDAR 的“离线检测 + 运行时干预”双层架构,对电商 Agent 的推荐文案生成、客服自动回复、选品/定价策略等轨迹做合规审计,实时拦截违规内容(如虚假宣传、价格欺诈、敏感词)。
- 借鉴 RIVT 的细粒度违规分类法,定义电商 Agent 自身的违规类型(如商品描述夸大、使用禁投词、泄露用户隐私等),构建 domain-specific 的检测 taxonomy 和评测集。
- 采用运行时干预的思路:检测到违规步骤时,通过重写动作或注入约束条件来纠偏,而不是仅 post-hoc 审计,可减少任务结束时残留问题,提升最终交付质量。
- 其评估方法可复用:用专家标注的小基准 + 大规模无标注轨迹结合,先测检测器再分析真实分布,作为业务 agent 质量监控的模板。
作者写了什么,Agent 读了什么:企业文档摄取中的静默线索丢失
🧭 企业文档摄取与格式线索保留
Amazon
企业文档摄取层丢失高亮和颜色等视觉格式线索,使 Agent 对关键义务识别 F1 骤降且自信犯错
📌 工作参考价值(4 点)
- 在 RAG/Agent 文档解析链路中优先保留高亮和颜色:实验显示 docling/plain text 格式盲摄取使义务识别 micro F1 从 0.690 降至 0.150/0.075,而高亮贡献 +0.302、颜色 +0.262;建议在 OOXML 解析阶段提取 highlight/color 属性并转为显式标记(如 <highlight>...</highlight> 或文字说明),而不是只输出纯文本。
- 不要过度依赖粗体、斜体等常见格式:本文中 bold/italic/monospace/strikethrough 对义务抽取增益均在 ±0.003 内,真正有效的是高亮和颜色;在合同、政策、促销规则等业务文档中应重新权衡格式线索的优先级。
- 把格式线索显式键入提示比仅隐式保留更强:预注册测试显示额外 +0.085 F1(p=0.049),可在 ingestion 层自动生成“原文中以下内容被高亮/着色,可能为关键义务”的上下文提示,代价低且可量化。
- 用 OOXML 属性做确定性 ground truth 匹配器,无需 LLM 裁判即可监控解析器对格式信息的保真度,适合持续集成评测,避免文档解析中静默退化。
检索增强 LLM 的搜索状态自评估强化学习
🧭 Search Agent 自评估 RL 训练 ★ 深度解读
Korea University · Amazon · AIGEN Sciences · University of Massachusetts Amherst · Meridian Intelligence Global Inc
提出 SARL:训练时自评估搜索轨迹并据此修订,配合双重奖励,无推理开销地内化搜索状态意识
📌 工作参考价值(4 点)
- 训练期自评估、推理期零开销:在训练时给搜索/对话 Agent 增加一个隔离的 self-assessment 阶段,让它反思“已获得哪些证据、还缺什么”,推理时不调用评估器,不增加额外 token 和延迟。适合线上 RAG、商品搜索 query 改写、客服多轮 Agent 直接落地。
- 双重奖励设计可直接迁移到多轮检索/推荐场景:用 answer correctness 的 transition(错→对、对→对、错→错、对→错)给评估动作打分,并用 α^(n-1) 指数惩罚频繁评估。电商搜索中可对“多轮 query 改写是否带来召回/成交提升”设置类似不对称奖励,同时限制重复调用搜索接口,控制成本和时延。
- 把评估与主轨迹解耦,避免长 horizon 训练崩溃:AutoRefine/ReSeek 将反思 inline 写进每一轮,导致上下文膨胀和训练后期分数归零。SARL 将评估放在隔离上下文,只在 INCOMPLETE 时作为 user feedback 注入。做多轮对话/深度研究型推荐 Agent 时,建议将状态评估与生成轨迹分离,可稳定扩展到 32+ turn。
- 无需 SFT warmup、多智能体编排或外部裁判模型:SARL 是 standalone RL 框架,用 GRPO + 自定义奖励即可,工程复杂度低,适合资源有限的业务团队快速实验。
进化式智能体接口:从任务经验自动构建工具
🧭 Agent 接口自动进化 ★ 深度解读
University of California, Santa Barbara · Cornell University · Carnegie Mellon University · Simular
让智能体自主进化计算机操作接口,27B开源模型以低成本超越GPT-5.5和Claude Opus 4.8
📌 工作参考价值(4 点)
- 将「接口/工具库」作为可进化资产:不要只靠人工预先设计固定工具集。可以从 Agent 在业务任务(如广告后台操作、选品数据拉取、报表生成)中的轨迹里自动提炼可复用 API 或脚本,让模型从低频、低效的 GUI 操作转向结构化调用,直接降低任务成本并提高成功率。
- 分离构造证据与选择证据:进化时只用无标签训练轨迹驱动工具修改,用独立的 validation 任务做选择,能显著降低对训练任务的过拟合。这在用 Agent 自动生成推荐/广告流程工具时可直接复用:不要让生成工具的模型看到最终评分或测试集。
- 低成本模型 + 进化工具层可以逼近甚至超越更强模型:论文用 Qwen3.8-27B 加上进化出的接口库,在 OSWorld V2 超过 GPT-5.5 和 Claude Opus 4.8,成本仅 4.3% 和 1.5%。业务上可以优先在工具层做自动搜索,而不是一味换更大模型。
- 重复验证对长程 Agent 任务很重要:ScienceBoard 上单次验证分数噪声大,平均多次验证后才选中稳定高分的仓库。业务里做 Agent 工具选择或在线评估时,对长流程任务应做多次重复评估,避免一次偶然高分误导。
坑点预测世界模型引导黑盒 LLM Agent
🧭 世界模型引导黑盒 LLM Agent ★ 深度解读
University of Wisconsin–Madison · AWS AI
用外部世界模型仅预测潜在坑点并选择性介入,SFT+GRPO 训练,显著提升黑盒 LLM Agent 成功率
📌 工作参考价值(4 点)
- 在电商/搜索的 Agent 工作流中,不要每步都注入外部知识;训练一个“坑点检测器”仅在预测到失败风险时介入,可大幅减少 API 调用并降低对主 Agent 的干扰。可复用 PAWM 的 gate 机制:世界模型输出 <pass> 或具体警示,主 Agent 仅在收到警示时才重新考虑动作。
- 构建训练数据时,利用成功/失败轨迹对比定位关键失误步骤,并用 LLM 生成抽象化、不泄露未来信息的坑点描述;对 <pass> 样本进行下采样以平衡正负比例(论文发现 0.75–1.0 的 pass-to-anticipation 比例最优),可迁移到业务中的异常检测/干预模型训练。
- 将辅助模型与黑盒主模型用 GRPO 联合训练:以任务成功率为奖励,用 group-relative advantage 更新辅助模型,能显著提高辅助模型在实际 Agent 中的有效性;训练出的辅助模型可跨多个黑盒主模型迁移,适合作为独立服务部署。
- 世界模型的输出内容设计:预测“到下一个子目标的多步未来”比预测下一步观察或完整剩余轨迹更有效;单步预测信息量不足,过长预测误差累积且可能误导。在推荐/搜索 Agent 的规划辅助模块中,应聚焦于有意义的里程碑边界。
LaLa-World:用自然语言动作扩展潜在世界模型
🧭 语言条件潜在世界模型与规划
NAVER AI Lab · Georgia Institute of Technology · Brown University · Mila & Université de Montréal
用语言描述动作与视觉变化,让单一LLM潜在世界模型跨异构数据训练,实现高效规划与策略初始化
📌 工作参考价值(4 点)
- 将异构用户行为数据(点击、购买、曝光、反馈)和场景特征统一为自然语言描述,可联合训练单一世界模型,支持跨域推荐和冷启动场景下的行为预测。
- 用LLM作为环境状态预测器,替代像素/隐向量级别的生成,既能理解语言条件,又能大幅降低训练与推理成本,适合在线实时规划(如MPC)和反事实推演。
- 预训练的用户行为世界模型可作为下游策略(如RL推荐策略)的初始化,加速收敛,类似LaLa-Policy的思路可以迁移到Agent策略微调。
- 语言化动作和状态对措辞变化具有鲁棒性,适合处理自然语言形式的用户意图或Agent指令,增强系统对模糊输入的容错。
面向 AI Agent 的记忆中心持续学习
🧭 Agent 记忆与持续学习
提出以记忆是否改进未来行动为核心的三轴分类、双循环生命周期与评测协议
📌 工作参考价值(4 点)
- 将记忆系统从“能检索到什么”转向“是否改善下游动作”,在推荐/广告 Agent 中可定义以最终转化/点击增益为记忆更新信号,而非仅记录历史会话
- 采用双循环生命周期:内层快速更新交互记忆(如用户偏好、上下文),外层以任务反馈(如 session 成功率)调整记忆写入、淘汰、检索策略,可类比在线学习中的 meta-policy
- 借鉴三轴分类(substrate/ asset/ policy)对现有 RAG、向量库、参数微调等记忆方案做架构审计,明确不同记忆的存储位置、资产形态与管理策略,避免混用
- 资源分配框架可用于决定非参数记忆(向量库)与参数记忆(LoRA 模块)的容量与读取预算配比:当总预算增长时,按最优路径扩增容量与读取资源,而非盲目加大 retrieval top-k 或模型参数
面向对象 Harness:用继承与路由进化 Agent 执行框架
🧭 Agent harness 分层进化与路由 ★ 深度解读
University of Illinois Urbana-Champaign · Google Cloud AI Research
用继承构建可复用 harness 类并基于执行轨迹路由,三基准最高提升15.79个百分点
📌 工作参考价值(4 点)
- 面向 Agent 工作流:不要用单一 global harness/prompt 硬扛所有场景。把 harness 代码按业务任务聚类做子类继承,公共能力留在父类,差异用 override/add method,回归风险更小、维护更清晰。
- 路由时同时输入 task metadata 和观测到的 base 执行轨迹(工具调用、错误模式、输出格式),并沉淀 routing lessons;在 AutomationBench 这类跨域执行中,轨迹信息可带来 12.64 点提升,比仅看任务描述更可靠。
- 保留 base harness 作为兜底,路由不确定或 OOD 任务直接复用 base 结果,避免强制用不合适的 specialist;论文中 OOD 场景下 Base 复用保持 59.18 PASS,而 global harness 降到 44.90。
- 训练/搜索效率:只在该任务簇上评估候选 harness,不必 rerun 整个发现集;可作为 LLM agent 自动化调参的工程优化,显著降低 API 成本(论文中搜索时长 29h vs 109h)。
面向通用 Agent 强化学习的 Harness Scaling 方法
🧭 Agentic RL · Harness 缩放训练 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · IQuest Research · Beihang University
将 agent 执行 harness 因子化并正交选择 18 个训练配置,跨 harness RL 显著提升未见配置与外部黑盒泛化
📌 工作参考价值(4 点)
- 在训练搜索/推荐/电商 Agent 时,不要只用单一 harness;可对同一任务构造多个执行配置变体(system prompt、工具 schema、观察格式、上下文压缩策略、workflow 约束),提升策略对生产环境变化的鲁棒性。
- 如果 harness 组合空间过大,可用 strength-2 正交设计从组合爆炸中选训练子集,保证各组件 realization 及两两组合均衡覆盖;在固定训练预算下,这比随机采样或全量穷举更好。例如推荐 Agent 的 prompt 模板、召回通道、排序特征视图、记忆压缩等维度都可以做正交选择。
- 采用 locality-aware assignment:每个训练任务采样一个 anchor harness,再配 1-2 个 Hamming 距离最近的 harness,既保留同任务局部变化,又全局覆盖多个配置;实验表明 K=2 效果最佳,且优于随机 assignment。
- 关键结论可直接迁移:在白盒多 harness 配置上训练,迁移到未见外部黑盒 harness(如 Claude Code)的效果,优于直接在该黑盒 harness 上做 SFT 或 RL。适合冷启动、跨平台迁移、多租户 Agent 系统。
面向智能体的 Cache Engineering:直接操控 KV Cache 以降低长程 Agent 成本
🧭 Agent 长程执行 KV cache 直接操控与 serving 优化 ★ 深度解读
Tsinghua University · The Chinese University of Hong Kong
提出 cache engineering 让 Agent 通过 drop/repos 直接控制 KV cache,无需改轨迹或重算;AKV 服务系统实现 27.7% 成本下降与 1.51x P95 延迟加速
📌 工作参考价值(4 点)
- 在长程搜索/推荐 Agent 中,不要等上下文阈值触发全量 summary/trim;按消息角色和 recency 做 rolling drop 更划算。具体:保留所有 reasoning 与最近 N 轮 tool response 的 KV cache,丢弃更早的 tool response(如搜索结果、商品列表),可同时降低 cost 并维持甚至提升精度。该策略已在 BCP/SWE 等 benchmark 上比 48K/96K summarization 平均成本降 21.9–27.7%,且分数更高。
- 将 cache 操作从文本编辑中解耦:在 agent 网关中实现 stateless 接口,业务侧只需传完整 messages 和 drop/reposition 指令,由服务端维护物理 cache 状态;这样不会破坏并发请求间的 cache 重用与隔离,也便于恢复被驱逐状态。可直接参考 AKV 的 extended radix tree + drop-aware eviction + segment-batch attention 设计,在内部推理服务上提供类似能力,降低 P95 延迟。
- 把“缓存管理”作为 tool 暴露给 LLM,或在固定策略上用 recursive self-improvement 自动调参,可替代专家手工设计。对电商场景,可以让 Agent 根据查询意图、候选商品相关性自主丢弃旧工具返回,平衡信息保留与成本;RSI 在论文中进一步比专家策略降本 7.1%。
- 注意位置编码:长会话中即使 active token 减少,RoPE 绝对位置仍会耗尽;引入 repos 重置位置编码(旋转 key)可继续探索,不建议直接牺牲上下文信息。这一点对多轮搜索、翻页、跨页比较场景尤其重要。
SplatLab:面向3DGS研究的自主科学发现系统
🧭 Agent 自主科研流水线 · 3DGS
University of California San Diego
SplatLab 实现端到端自主3DGS研究流水线,通过模块化变异、Elo锦标赛与实验绑定生成可追溯论文,PSNR最高提升3.78dB
📌 工作参考价值(4 点)
- 可借鉴「已验证骨干 + 模块化插件变异」思路:在推荐模型迭代中,固定召回/排序主框架,只变异可插拔模块(如特征交叉、损失项、负采样),降低实验方差并快速定位增益来源。
- Elo tournament 多候选评估机制可用于广告/推荐离线 A/B 前的高效筛选:对候选算法按多个数据集/指标进行配对比较并引入淘汰压力,比单独跑全量评估更省资源。
- 实验数字绑定日志、未备份则不允许输出报告的做法,可直接迁移到实验平台,强制所有在线离线指标可追溯,避免口头结果。
- 常驻 falsifier(压力测试)用于鲁棒性筛选:在电商大促、冷启动等极端场景下自动验证策略,淘汰脆弱候选。
与开放世界共进化:面向未来预测的递归自改进
🧭 Agent 递归自改进 · 未来事件预测 ★ 深度解读
Renmin University of China · IQuest Research · Nanyang Technological University
构建代理-环境闭环,通过参数、技能、环境三轴演化实现递归自改进,连续三周登顶FutureX
📌 工作参考价值(4 点)
- 搜索-预测解耦:将证据获取(搜索团队)与预测(预测团队)分离,缓存检索结果用于训练,避免实时环境中标签污染;电商推荐中可把商品信息获取与排序/CTR模型拆开,用冻结特征训练,防止召回路上的信息泄露。
- 技能库外部化:把成功/失败轨迹蒸馏为显式技能条目,注入推理而不更新权重,适合低资源在线场景;推荐系统可把用户行为序列提炼为可复用的召回规则、排序模板或人群策略,实现低成本快速迭代。
- 环境演化生成对抗难样本:根据模型错误动态生成薄弱点任务,形成课程学习;电商场景可针对低转化人群、长尾类目或新场景自动生成更难样本,让精排/重排模型持续提升。
- 校准指标先行:用 Brier score / calibration 而非仅 accuracy 评估概率预测,能更早发现模型概率判断改善;在 CTR/CVR 预估中应同时监控校准度,校准提升往往先于 AUC 显现。
长程终端智能体的 Harness 自进化框架
🧭 Agent 执行脚手架自优化
Tencent HY LLM Frontier · Indiana University · University of Maryland, College Park · University of Georgia · National University of Singapore
固定模型权重,通过成功/失败对照轨迹与运行时监控证据迭代改进 agent harness,提升任务可靠性与成功率
📌 工作参考价值(4 点)
- 建立 agent 运行时监控,不只记录模型轨迹,还记录 harness 执行事件(命令执行、反馈、上下文裁剪、完成判定),与任务成败标签关联,定位系统性问题。
- 选取“同一配置下既有成功又有失败”的任务作为诊断单元,用成功轨迹作免费参考,无需人工标注即可发现可靠性缺口。
- 维护一份 Harness Handbook,把失败证据映射到源码与行为,便于跨任务复用问题模式;优先优化共享机制而非单点 patch。
- 引入候选 harness 变更前先做行为校验和重复评测,通过后再迭代;固定模型权重、只改执行层,对生产系统风险更低。
调度器是隐藏的检索器:异步如何塑造搜索 Agent 的证据获取
🧭 搜索 Agent · 调度不变证据获取 ★ 深度解读
Nanyang Technological University
证明送达顺序会改变搜索 Agent 的检索决策与证据获取,并提出 CEA 实现调度不变且免全局等待的稳定证据获取
📌 工作参考价值(4 点)
- 电商搜索/Agent 中多个并行召回或商品信息调用返回顺序会改变 query 改写或目标 item 选择;要获得可复现的召回质量,应让子任务等自身证据域完整后再决策,而不是固定到达数量后 early commit。
- 共享搜索/召回预算时,不要用“先完成先执行”的竞争分配;即使本地 query 生成稳定,最终召回集合仍会随完成顺序漂移。可改为预先固定优先级,例如按 domain 索引或 question-seeded hash 分配。
- 将上下文按证据域/子任务隔离,不要把全部并行结果注入同一份共享 notes;文中私有历史减少 40.2% 输入 tokens,且能降低无关上下文对决策的干扰。
- 工程上把等待全部结果的全局 barrier 改成每个证据域 complete 后立即局部推理,可提前首个决策与最终响应(约 3–8 秒),适合在线 Agent 的延迟优化。
OpenSaC:面向深度研究智能体的 Search as Code Python 库
🧭 深度研究 Agent · Search as Code ★ 深度解读
Renmin University of China · National University of Singapore
开源 Python 库 OpenSaC 将搜索、抓取、重排、LLM 调用组合为可执行程序,使 Codex 类智能体做深度研究时显著节省 token 与时间
📌 工作参考价值(4 点)
- 在电商/广告深度研究型任务(竞品调研、商品参数多源比对、落地页批量解析)中,可将“搜索→抓取→重排→LLM 字段抽取”封装为可组合 SDK,由 coding agent 一次写成批量程序执行,避免 ReAct 逐条交互,显著降低 token 与 wall-clock 时间。
- 统一返回结果并保留 URL/来源标识,天然适合需要可追溯证据的选品、价格监控和广告素材合规审查;把中间文件落盘到 workspace 可复用,避免重复抓取。
- provider 可替换和批处理容错设计(batch 保持顺序、返回 per-input errors、部分成功)值得直接借鉴到推荐/搜索的离线数据生产:批量 query 生成、召回通道调用、rerank 评估都可以做成可配置后端和可重试代码单元。
- 若业务已有编码 agent(如 Codex/Claude Code),可模仿其 skill 机制增加内部“检索/数据获取”技能卡,显式教授 agent 何时 batch、何时保留 full source、何时只返回高置信片段;这种方式比硬编码 pipeline 更灵活且可调整。
Sage-A1.5:以能力编排与验证驱动长程执行和科学探索
🧭 Agent 编排与验证优化 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
35B MoE 智能体模型,通过 Agentic Orchestration 与 Agentic Verification 实现并行子智能体协作与自校正,在多项长程任务上超过更大模型
📌 工作参考价值(4 点)
- 并行子智能体 + 隔离上下文 + 结构化反馈可用于电商导购/搜索 Agent:将复杂 query 拆成候选召回、评价证据、价格趋势、竞品对比等子任务并发执行,每个子 agent 独立搜索并返回 answer/evidence/unresolved_issues/status,主 agent 再做冲突消解与覆盖检查,避免单线程长上下文噪声累积。
- 在长程购物参谋或搜索任务中引入内建验证:当连续多轮检索无新增信息或需要形成关键结论时,让模型在推理中显式区分“已证实事实/未验证假设/仍缺失信息”,并据此切换搜索方向;用 Verification protocol: enabled 这类条件提示按需激活,不依赖外部 verifier。
- 训练框架上,窗口化交互 RL 适配电商 Agent 的延迟转化反馈:把多轮搜索、比较、生成推荐到最终点击/转化的长交互按中间结果切成窗口共享奖励,降低 step-level 奖励噪声;同时采用 outcome+process mixed supervision,减少对昂贵人工标注的依赖。
- 合成可验证任务时,将任务构造、审核、评判分离到不同 agent,避免同一个模型出题又评分导致 reward hacking;推荐/搜索 Agent 的任务也可以用 sandbox + deterministic grader 做自动化质量门禁。
Self-Credit:通过组内重标定实现长程智能体 RL 的信用分配
🧭 Agentic RL 信用分配与上下文压缩 ★ 深度解读
Meta · New York University · Duke University
让策略模型在压缩上下文时引用关键轮次,再用同 prompt 成功/失败样本的组内对比重标定引用权重,将稀疏结果奖励转化为轮次级信用信号
📌 工作参考价值(4 点)
- 在长程 search/导购 agent 训练中,可让模型在上下文压缩时输出带轮次索引的摘要引用(要求 2-5 个 critical turns),用这些引用把统一广播的 advantage 改成轮次级加权;只需 prompt 格式约束和格式错误惩罚,不引入额外 reward model 或 critic。
- 对同一 query 的 group rollout,可按 action 的检索结果(docid 或商品 ID 集合)做 Jaccard 匹配,统计该 action 在成功/失败样本中的引用频次:只在成功侧重复出现则提权,只在失败侧重复出现则加重负优势,混合出现则取消提权。这能把“伪相关 action”从正样本中剔除,适合电商多跳搜索、商品对比、策略推荐等长程任务。
- 对重复失败的惩罚权重做线性退火(如 1.5→1.0),早期强惩罚抑制低效搜索,后期放松以保留探索,可平衡长程 agent 的工具调用效率与深度。
- 若无 gold action 标注,可用“检索到目标商品/金标文档”作为代理评估引文质量,计算 cited turns 的 F1,快速判断自生成引用是否有用。
WeAct:动态权重切换作为 Agent 动作
🧭 Agent 模块化 LoRA 动态切换与持续学习 ★ 深度解读
Carnegie Mellon University · Duke University · Meta MSL
把 LoRA 适配器切换做成 Agent 原生工具调用,冻结主干独立训练 Plan/Search/Writing 模块,在 deep-research 任务上超越全参微调和静态合并
📌 工作参考价值(4 点)
- 把流程阶段拆成可独立训练、可工具调用的 LoRA:电商/搜索 Agent 可将意图规划、商品检索、参数对比、文案生成等阶段分别训成 Plan/Search/Write 类 adapter,通过 load_lora/offload_lora 工具调用按需切换;新增能力只需注册新 adapter,不动已有链路。
- 运行时选择优于静态合并:论文显示 TIES/DARE-TIES/TSPA 等静态 LoRA 合并均导致专业化损失,甚至在无 rank 压缩下也有局部 mismatch。业务中若已有多能力 LoRA,建议保留独立 adapter 并在推理时切换,而非合并成一个固定权重。
- 工程实现复用原生 tool-calling 接口:用 MCP 工具注册权重切换动作,不需要单独训练 router 或改造 forward pass;adapter 常驻 GPU,切换时重建 KV cache,控制开销仅占 soft/hard 总时间的 8.2%/2.8%。
- 模块化持续学习可落地到频繁迭代的环节:只刷新 Writing adapter 即可提升报告质量,backbone 和其他 adapter 保持不变,无需回放历史数据;适合在商品文案生成、搜索 query 改写等单一能力上做局部优化而不污染整体。
更多记忆更差?抗持久化记忆设计抑制 LLM Agent 错误复现
🧭 LLM Agent 记忆与自改进机制 ★ 深度解读
Indiana University · Tencent HY
提出 Anti-Persistence 记忆:只存轨迹和结果,抽象按需合成并丢弃,抑制错误复现,提升成功率并降低成本
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的记忆设计中,优先持久化原始交互轨迹和结果日志,而非规则、总结或技能等抽象内容;抽象只在当前任务中按需合成,使用后立即丢弃,防止错误抽象跨任务固化。
- 可借鉴其自适应模式选择:定义多种经验使用模式(直接复用轨迹、模仿成功行为、提炼任务策略、生成纠错规则),用轻量 contextual bandit 结合任务相似度、时间衰减和 UCB 探索项来选,比固定策略更鲁棒。
- 奖励信号中加入成本惩罚 r = clip(y - λκ, -1, 1),λ 设小值(如 0.05)能鼓励选择性合成,在保持成功率的同时控制 LLM 调用量,适合线上成本敏感场景。
- 注意“错误复现”路径:即使删除错误抽象,其影响仍可能通过被影响的轨迹进入后续合成;评估记忆系统时应追踪历史暴露来源,而非只做简单剪枝或屏蔽。
MEMORA:记忆增强的多模态委员会重排 Agent 用于推理密集检索
🧭 Agent 记忆增强多模态检索重排 ★ 深度解读
Chungbuk National University · University of Innsbruck
提出记忆增强多模态委员会重排 Agent,将查询分解为意图因子并用 episodic memory 调整优先级,在 MM-BRIGHT 上 nDCG@10 达 41.5/38.9
📌 工作参考价值(4 点)
- 把 query 拆成意图因子,对每个因子单独召回和提取 evidence,再交给 LLM judge 重排。电商搜索常见多意图 query(如“轻薄 防晒 户外 外套”),可按材质/功能/场景拆因子,避免单一 reranker 忽略部分需求。
- 训练电商检索向量模型时,给训练 query 拼接 GPT-4o 等生成的 CoT 意图描述,并挖 hard negatives 做 InfoNCE 微调;推理时不拼接,能显著提升语义召回,尤其适合标题和 query 表面词重叠低的商品。
- 用 domain episodic memory 记录历史 query 各因子是否帮助命中相关商品,在线调整因子优先级和召回权重。注意论文结论:memory 需 >50 条/类目才有效,低频类目可考虑跨类目迁移或用规则兜底;不要单独用 document prior,会引入频率偏差。
- 自适应 controller 采用线性状态机,根据 ranking margin 和 evidence support 决定是否继续 LLM 精排或停止,能平衡 nDCG 收益和 API 成本;电商在线系统可把该逻辑作为开关,简单可解释,便于 A/B 测试。
OpenVLHarness:面向真实世界视觉 Agent 工具使用的多模态记忆
🧭 多模态 Agent 工具调用与记忆增强推理
University of California, Los Angeles · Apple
通过能力层与持久多模态记忆统一工具输出,多模态 LLM 在 22 个基准上平均提升 9.7-12.6 分
📌 工作参考价值(4 点)
- 电商多模态购物助手中,可借鉴 capability layer + evidence rendering 将商品搜索、图像识别、价格/库存等异构工具输出统一转成结构化 observation,减少模型解析成本。
- persistent multimodal memory 按地址存储商品图、结构化数据、网页引用,支持多轮对话跨步骤引用,避免重复调用工具,适合商品对比、搭配推荐等需要持续上下文的任务。
- coding interface 对存储数据执行生成式程序,可用于多源数据联合计算,如比价、价格历史分析、风格一致性判断,把多个工具结果组合成可执行逻辑。
- 成本收益结论:中等推理 effort + 工具记忆比高 effort 纯推理更优且 token 成本低至 37%,提示业务 Agent 优先做工具集成而非一味增加推理预算。
谁主导?模型能力与任务条件化的人机协作
🧭 Agent 人机协作与任务条件控制分配
McGill University · MIT - Massachusetts Institute of Technology · University of Cambridge · University of Toronto · Mila - Quebec AI Institute
在共享控制迷宫中证明强模型能根据人类相对优势选择性分配控制,而非简单减少人类参与。
📌 工作参考价值(4 点)
- 在构建搜索/推荐 Agent 时,不要用“人类介入率”作为协作质量指标;应评估 agent 在给定上下文下的相对能力(如用户偏好的可预测性、数据稀缺性),动态决定是否请求用户、自主执行或完全移交,类似路由机制。当用户侧有信息优势(如长尾个性化、实时意图)时引入人工,常规高频查询则 agent 自主处理。
- 借鉴共享控制接口设计:让 agent 每步输出显式控制决策(act/request/handoff),便于监控和在线评估;用 solo 性能作为先验,对低能力模型或低置信场景增加 human-in-the-loop fallback。
- 任务条件化协作可作为离线评估框架:构造“人类优势/均势/agent优势”的模拟环境,量化不同 LLM 的协作策略,用于选型或提示词调整,避免上线后才发现 agent 过度求助或过度自主。
- 实验发现强模型在人类无优势时几乎不求助,仅在人类路线更短时约80%初始决策涉及人类,说明可设置阈值或条件策略:只有当用户信息增益显著大于 agent 能力时才触发人类参与。
心跳思考:实时语音代理边听边推测推理与工具执行
🧭 实时语音 Agent 推测工具执行
Ant International
提出 Heartbeat Thinking 机制,在用户说话期间周期性启动 Thinker 并允许已派发工具继续完成,将监听时间转化为可复用的准备,显著提升工具覆盖率并降低最终响应延迟。
📌 工作参考价值(4 点)
- 在实时语音电商客服/导购中,可在 ASR 部分结果上周期性(heartbeat)启动 LLM 推理,不打断已派发工具调用,利用用户说话时间提前完成订单查询、库存检查等工具调用,降低首响延迟。
- 借鉴“共享推理记录 + 工具结果”的设计,将不同心跳周期内已完成的子任务结果保存下来,后续心跳只需补齐缺失参数或发起依赖调用,避免重复计算,提升并发利用率。
- 将推测性工具覆盖率和检索复用率作为在线指标,而不仅是最终任务质量;在语音 Agent 工程中监控“说话期间已完成工具调用比例”,用于评估 anticipation 能力。
- 如果业务中有长尾复杂请求(如退换货、多条件商品咨询),可采用类似多 Thinker 并发机制,允许部分推理分支自然终止,而不是强杀,减少截断导致的重算。
野外销售:基于460万商业对话微调的销售Agent基准与随机现场实验
🧭 对话式销售Agent训练与在线随机实验 ★ 深度解读
Javo, AISO Boost Ltd.
用460万真实商业对话微调Qwen3-32B销售Agent,在100个网站随机试验中比无Agent提升10%收入,比前沿模型提升21.6%转化
📌 工作参考价值(4 点)
- 真实商业对话微调是提升销售/导购Agent业绩的关键:SFT学完整对话(需求挖掘、推荐、异议处理、下一步提议),DPO用购买进展信号做偏好优化;可直接迁移到电商客服、导购对话训练。
- 模型隔离评估设计值得借鉴:固定界面、检索、工具、prompt、guardrails,只换模型权重,才能干净归因训练数据的价值;业务方上线Agent前应做类似消融。
- 在线实验协议可复用:ITT收入/访客 + engaged conversion + 非劣性对比人工 + 安全守卫指标(退货率、投诉、未支持声明、未授权优惠),并采用CUPED、sample ratio check、顺序检验等。
- 成本效率结论:对话Agent推理成本仅为人工的1.8%(0.06美元 vs 3.40美元),且转化非劣性,可优先在咨询密集品类(美妆、家具、旅游)部署自动化销售助手。
资源约束下学习记忆价值:TokenWorth 终身记忆框架
🧭 资源受限终身记忆价值学习 ★ 深度解读
Nanjing University · National Key Laboratory for Novel Software Technology, Nanjing University
提出 TokenWorth,在线学习 query-dependent 记忆价值并统一用于检索与记忆淘汰,在资源受限终身智能体任务中成功率最高且输出 token 最少
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的长程记忆或知识库检索中,不要只按 embedding/BM25 相关度取 top-k;可以增加一层轻量 query-dependent 价值打分,融合历史成功率、可靠性、最近使用等特征,用执行结果(成交/点击/解决率)在线更新,统一指导检索和记忆淘汰。TokenWorth 的 linear base scorer + RFM 残差可以在几百条反馈内工作,适合预算敏感场景。
- 用“任务级结果”作为稀疏监督时,目标设为 \(2r-1\) 即可,不必追求反事实归因;这能避免昂贵重执行。对落地来说,可以把成功交互存为候选 memory,把失败反馈用于更新被注入记忆的价值,低成本积累负信号。
- 记忆管理借鉴 admission/evict 策略:库满后,新经验要么足够新颖,要么 probe-averaged worth 显著超过最差/最优记忆才准入,否则可替换低效用近邻;淘汰时按最近一批 probe queries 的平均价值最低者出局。类似做法可用于在线更新推荐 Agent 的 few-shot 示例库或商品卖点素材库。
- 评估记忆/检索模块时,应像该工作一样固定联合预算(输出 token、步数、存储容量、注入长度),并报告“每 token 收益”;否则复杂 reflection/skill 模块容易在业务中被高估。
CoEvo-RSI:当执行框架演化时,哪些模型应跟随?
🧭 Agent 递归自我提升 · 脑体协同演化
National University of Singapore · Agency for Science, Technology and Research (A*STAR) · SenseTime Group Inc.
用元智能体协调历史执行框架与模型检查点选择/合并,并用自身拒绝采样轨迹 SFT,减少递归自我提升中的脑体不匹配
📌 工作参考价值(3 点)
- 在电商/广告 Agent 链路中,每次改动工具、prompt 或执行脚手架时,不要只做 prompt 调优;维护“harness 版本—模型 checkpoint—执行反馈”档案,用元智能体在历史设计中选 checkpoint/合并,再在新 harness 下用 rejection-sampled 轨迹做 SFT,能明显降低脑体不匹配。
- 可建立“失败归因→局部更新”的轻量闭环:从线上执行日志筛出成功轨迹(例如 SQL 生成成功执行、指令被正确执行)做 rejection sampling,对 7B/9B 小模型做 SFT,成本低且可追上大模型;适合垂直场景的护栏优化。
- 模型合并/checkpoint 选择策略可作为“脑”的版本管理:当召回、排序、query 改写等 Agent 组件升级时,按执行反馈选择与当前 harness 兼容的历史 checkpoint 或融合多个 checkpoint,减少能力丢失与行为约束。
从延迟单侧反馈中学习个性化记忆门控
🧭 Agent 长期记忆 · 个性化门控
Salesforce AI Research · University of California, Los Angeles · University of Illinois at Urbana-Champaign · University of Illinois Chicago
将 Agent 记忆门控建模为延迟单侧反馈的 contextual apple tasting,提出 Warm-Start UCB 实现用户级个性化选择
📌 工作参考价值(4 点)
- 在电商客服/导购 Agent 的记忆系统中,不要使用全局统一的重要性阈值;可以按用户做个性化门控,用“该 fact 后续是否被检索并用于回复”作为弱标签,低成本构造训练数据。
- 把记忆写入决策当作 contextual bandit 问题处理:只有保存下来的 fact 才能观察到后续复用信号(单边反馈),且复用有延迟;可采用 Warm-Start UCB 的思路,先用离线数据初始化策略,再对当前用户在线微调,比纯离线或纯在线更稳。
- 工程实现上,设置合理的延迟窗口:理论显示延迟窗口在 O(√T) 内时 regret 有上界,延迟过长时应截断或异步更新,避免在线学习退化。
- 业务可复用结论:用户对 fact 的复用模式差异大,个性化门控在 memory budget 小、history 长时优势更明显,适合需要长期用户记忆的电商推荐/客服场景。
代码技能服务器:面向代码生成技能的大规模搜索引擎
🧭 Agent 技能检索与代码生成增强
Shandong University · Guangzhou University
构建包含 993 个代码生成技能的检索服务器,检索注入可提升 Pass@1 最高 13.91%
📌 工作参考价值(4 点)
- 将可复用能力沉淀为技能库:把营销文案模板、API 调用代码、平台规则等封装成统一 schema 的技能,用 embedding 建立增量索引,Agent 根据 target task 检索注入上下文
- 检索即增强,不依赖微调:实验显示跨模型稳定提升至少 4.21%,可直接将技能检索作为外挂模块,接入现有多模型 pipeline
- 异构来源技能标准化是关键:统一技能描述、触发条件、示例等字段,能提高检索命中率与可复用性
- 评估上关注 Pass@1 提升和跨模型泛化,可作为生成式推荐/Agent 工具检索旁路增强的验证指标
Darwin-Claw:环境自适应经验固化驱动的递归自进化智能体
🧭 Agent 自进化经验固化与技能管理 ★ 深度解读
Zhejiang University · Tencent · Zhongguancun Academy
提出 Darwin-Claw,将交互失败归因为结构化经验单元并外置到技能槽位,驱动递归自进化,在 WildClawBench 上平均得分提升 24.1%
📌 工作参考价值(4 点)
- 把用户/环境特定经验固化为结构化 Experience Unit(trigger conditions、keywords、handling strategies),并注入 SKILL.md 作为 inline patch;可直接用于电商导购 Agent、客服 Agent,将高频失败 case 沉淀为情境级补救策略,而不是每次从原始轨迹重放。
- 通过槽位限制与生命周期状态机(Nursery probation → Active → evict/archive)管理外部技能,防止 prompt 信息过载;搜索/推荐 Agent 可以用同样机制管理候选策略、query 模板或召回规则,保持上下文复杂度可控。
- 采用两阶段 LLM 做 causal attribution 加多维评分(coverage/effect/efficiency,S=w1e+w2c+w3η),避免把偶然成功固化进策略;在广告文案、push 选词等自动优化场景中,可用来评估一次改写的真实增量贡献。
- 经验外置化而不是微调模型参数,兼容 OpenClaw、Claude Code、Codex 等主流 harness,并支持多用户技能生态集体进化;适合在推荐对话系统上做轻量、可回滚的持续优化,不触碰底座模型。
DrugHarness:可进化代理框架用于计算药物发现
🧭 Agent 技能进化 · 科学执行
Shanghai Artificial Intelligence Laboratory · China Pharmaceutical University · University of the Chinese Academy of Sciences · Shanghai Jiao Tong University · Westlake University
通过条件技能归纳与独立审核,构建可进化的科学代理框架,显著提升分子筛选与优化能力
📌 工作参考价值(4 点)
- 可借鉴“技能库+独立审核”机制:从执行轨迹和结果反馈中归纳候选策略,由独立 review agent 做来源核验与定向试跑后入库。在电商推荐 Agent 中可先由 critic LLM 评估新策略,再利用历史日志或小流量实验验证,避免噪声策略直接上线。
- 为技能绑定可观察的适用条件(applicability conditions),仅在满足条件时激活。推荐场景中可将策略与用户群、场景、上下文绑定,避免全局误用;类似规则引擎中的条件触发,但由 LLM 自动归纳条件。
- 环境保留候选、结果、产物的关联 lineage,便于回溯和提炼技能。推荐系统可构建“推荐轨迹-用户反馈-候选集”的 lineage store,用于策略诊断、归因和持续优化。
- 分离“执行”与“技能审核”两个角色,防止自我强化偏差。在推荐 Agent 中设置独立策略评估器,对生成的新策略做验证后再上线,能降低风险并提高策略质量。
多步 Agent 工具推荐:检索任务所需的每一个工具
🧭 Agent 工具检索与推荐 · 成本优化 ★ 深度解读
Arcade.dev
部署的 Tool Recommendation 系统用固定三工具接口为多步 Agent 提供全目录 8200+ 工具,实现工具链完整性与端到端成本双赢
📌 工作参考价值(4 点)
- 固定接口 + 检索重排替代静态工具列表:当 agent 需要触达大量 API/工具/技能时,不要把所有 schema 塞进 context,而是暴露 SelectTools、UseTool、ListApps 等少数元工具,按需检索并执行;权限过滤放在 gateway 层,保证推荐结果符合用户 scope,可直接迁移到电商导购/客服 agent 管理商品查询、订单、优惠券等海量工具。
- 评估指标用 Completeness@K 而非 Recall@K:多步任务缺一个工具就失败,例如“查库存→比价→下单”三工具缺一不可;在内部工具检索 benchmark 上加入 Completeness 指标,能更好反映端到端成功率,而不是平均召回。
- 成本优化必须看实际账单(含 prompt cache)而非仅输入 token:输入 token 减少不代表账单同比例下降,因为缓存输入便宜得多;应明确 caching 规则、用美元账单对比,并识别静态列表与动态检索的盈亏平衡点(约 25-28 个工具,或搜索频率 >0.63 次/工具调用时静态列表更便宜)。
- 多步 agent 失败主因常是 agent 没发起搜索/任务拆解不清,而非排序错误:可在 prompt 中显式引导 agent 每个任务只搜索一次、一次搜索一个动作,并监控首次推荐覆盖率与未发起搜索占比,针对性迭代提示词。
GLOBE:面向生成式搜索电商商品优化的结构化智能体记忆演化
🧭 生成式搜索 GEO · Agentic Memory ★ 深度解读
AI Lab, CTO Division, LG Electronics, South Korea
把商品改写策略存成字段级行为手册,用排名反馈持续演化、去冗余并淘汰有害策略
📌 工作参考价值(4 点)
- 将商品 listing 优化从整篇 prompt 改写拆成 field-scoped behavior:每个 behavior 定义 edit operation + 允许字段(title/features/description)+ 冲突关系,可避免跨字段错误和过拟合关键词;电商可直接把 SEO/GEO 规则落成这种结构化手册。
- 用 rank gain 作为反馈,按 batch 聚合并更新 behavior 的 helpful/harmful/neutral 计数、score = h+ - h-,设 probation Nmin=5 再淘汰;比逐 episode 更新更稳,适合在线排序反馈有噪声的场景。
- Moderator 做 embedding dedup(cos > 0.9)+ LLM 功能去重,再由 Curator 提交;防止反馈演化膨胀出冗余或过拟合 ranker 的 behavior,全流程保持 handbook compact,cross-ranker 迁移更好。
- 推理阶段冻结 handbook,只用 active behaviors 单次编辑,无迭代搜索;训练阶段多智能体成本高但线上轻量,可考虑把 handbook 蒸馏到小模型或作为静态规则库。
轨迹到差异化技能:自我改进 Agent 的认知分化
🧭 Agent 技能自进化 · 功能分化 ★ 深度解读
University of Science and Technology of China · Meituan · City University of Hong Kong
提出 CDSE 将轨迹提炼为 Meta/Experience/Tool/Script 四类功能分化组件,统一维护与自适应调用,在 36 个评测设置中全面超越既有技能进化方法
📌 工作参考价值(4 点)
- 在构建电商/广告领域的 Agent 技能库时,不要把所有经验写进一个大 prompt 或文档,而是按 Meta/Experience/Tool/Script 拆分;例如商品运营 Agent 中,Meta 管任务规划和停止条件,Experience 管类目/活动上下文的启发规则,Tool 管具体 API 调用注意事项,Script 管可复用的数据清洗/报表脚本。
- 从成功和失败轨迹中提取“语义梯度”时,要求每条更新附带轨迹证据行,先做证据过滤和因果定位,再保留;可借鉴用于自动从客服对话、运营操作日志中挖掘可复用规则,减少无证据的泛泛总结。
- 对可执行脚本类知识引入独立验证和自测,未通过验证不进库;这可以避免自动化流程中错误脚本污染后续任务。
- 采用描述可见的自适应调用:在组件加载前提供简短 scope/触发条件/预期收益描述,让 LLM agent 自主选择何时加载哪个组件;实验表明零加载也能通过描述影响行为,适合在 prompt 预算有限时做渐进式披露。
HybridResearcher:弥合深度研究智能体的结构化与非结构化边界
🧭 Agent 跨源推理训练与数据合成
Seoul National University · University of California, Los Angeles · University of North Carolina at Chapel Hill · University of Houston · Snowflake AI Research
4B深度研究Agent经跨源桥接轨迹合成训练,在混合基准上超397B大模型8.3分且无灾难遗忘
📌 工作参考价值(4 点)
- 电商/广告分析型 Agent 常需同时查询内部数据库(订单、库存、用户行为)和外部网页(竞品价格、市场趋势、社媒评论),可借鉴本工作从单源种子任务(text-to-SQL 或 web search)出发构造跨源训练轨迹,让 4B 小模型掌握跨源工具调用与证据综合能力。
- 构造训练样本时引入严格 gate(验证单源不足以回答)能强制模型学习互补性而非走捷径,业务中自制跨源数据时可效仿该机制提升数据质量。
- 小模型经精心编排的跨源轨迹 + SFT+RL 可超越大模型且不遗忘单源能力,对成本敏感的线上 Agent 部署有直接参考:无需依赖大模型,领域内单源数据可 bootstrap 跨源推理。
- 评估时同时监测单源基准(如 BrowseComp)和跨源基准,确保增强能力不损伤原有单源检索或 SQL 能力,可作为模型迭代的常规检查项。
记忆感知路由:会话级LLM助手的记忆构造与模型选择协同框架
🧭 Agent 会话记忆与路由协同优化 ★ 深度解读
Southern University of Science and Technology · City University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Harbin Institute of Technology (Shenzhen)
通过共享会话状态协调记忆暴露与模型选择,在长历史交互中实现质量-成本平衡
📌 工作参考价值(4 点)
- 在电商客服/导购 Agent 中,将记忆构造与模型路由解耦会导致强模型被错误上下文拖累,建议引入轻量级控制器(QTM)输出结构化会话状态,同时指导召回/上下文组装和模型选择,降低过期信息与干扰。
- 使用 LinUCB 在线学习路由策略,以 turn-level rubric 评分减生成成本作为奖励,冷启动即可用,无需重训底层 LLM,适合线上多模型池的动态成本控制。
- 区分「记忆访问」与「记忆暴露」:维护大记忆池但只给生成模型打包决策相关证据,并通过预算感知 pack 适配不同模型的上下文窗口,能有效避免 context overflow 和多余 distractors。
- 借鉴 QTM 的 schema 字段(action/query_type/phase/retrieval_scope/top_k_hint/lens_recommendation),避免把原始 topic 标签直接喂给路由器,有助于跨任务泛化和可解释性。
MuninAI:面向独立研究组的自托管智能体文献问答框架
🧭 Agent 科学文献问答 · RAG 工具编排
Institute for Drug Discovery, Leipzig University Medical School · Institute for Medical Physics and Biophysics, Leipzig University Medical School · Integrative Center for Bioinformatics, Leipzig University · Center for Scalable Data Analytics and Artificial Intelligence (ScaDS.AI) · School of Embedded Composite Artificial Intelligence (SECAI)
开源自托管 Agent 框架将开放权重模型与检索、阅读、计算工具编排,使文献问答准确率翻倍且几乎不产生幻觉
📌 工作参考价值(4 点)
- 工具编排优先于换模型:在商品知识库问答、广告素材核查、客服辅助等场景,先设计 reading/search/computation 工具与 agent harness,而不是直接换更大模型;评测时固定 backbone,对比 naive RAG 与 harness 的差距。
- 引入 citation/relation graph:将商品关系、内容引用、品牌-属性等构建成可检索的 graph,供 agent 多跳导航;要求每个答案声明可溯源,降低生成式推荐中的虚构商品 ID 或属性风险。
- 主动弃权机制:当知识库缺少对应商品、属性、政策时让系统返回“未知/不提供”,避免生成式推荐编造价格、卖点或库存;可设置证据缺失阈值来触发弃权。
- 自托管与单卡基线:对未公开的选品、竞价、用户数据,可选用开源 20B 级模型本地部署;发布一键评测脚本,在自己的语料和模型上重跑,作为上线门槛。
桥接探索与人格:测试时 Agent 个性化的信息导向对决
🧭 Agent 个性化 · 信息导向 dueling bandit
The Chinese University of Hong Kong, Shenzhen · University of Copenhagen · City University of Hong Kong · East China Normal University
提出 ID-TAP,将信息导向采样与神经 dueling bandit 结合,在十轮二元比较内高效适配 agent persona
📌 工作参考价值(4 点)
- 在电商客服、推荐理由生成或文案创作等场景,若需要在线选择 persona、话术风格或 prompt 模板,可用成对比较(A/B 偏好)作为轻量反馈信号;相比点击或评分,二元偏好收集成本低且噪声小。
- 借鉴 BT explorer + 信息导向采样选择 challenger:不要随机探索或纯贪心 exploitation,在固定比较预算(如 10 次)下能显著提升样本效率;该策略可直接嵌入在线文案/推荐理由的风格优选。
- 对新 query 或新用户冷启动,利用相似度加权 warm start 将历史 query 的比较证据迁移过来,比从零学习更快;电商多 query 场景中 query embedding 相似度即可作为工程上的加权依据。
- 模型结构上采用 query-conditioned 共享网络:跨 query 共享统计强度,同时保留 query-specific score,能处理 query 条件化偏好,避免全局单模型丢失个性化差异;可作为 prompt/persona 精排器的轻量在线更新模块。
RL引导的时间定位用于长程Agent记忆双通道检索
🧭 Agent长期记忆时间感知检索
Tsinghua University · Qiyuan Lab
用RL训练时间区间定位器,在检索阶段引入时间约束,缓解语义相似但时间不匹配记忆淹没目标证据
📌 工作参考价值(4 点)
- 在用户长历史记忆/RAG检索里,若用户行为或事件语义重复度高,不要只靠语义相似度,可加一个独立的"时间窗口预测"通道:先由轻量模型预测答案证据可能出现的时间区间,再作为过滤或重排条件。
- 检索决策本身是离散、不可微的,但可以用RL+复合奖励来优化:把仅有答案级别的稀疏监督,拆成对检索结果的时间命中、顺序等细粒度反馈,适合训练一个1.7B小模型而不是大模型。
- "语义召回 + 时间召回双通道合并,再按时间窗口邻近度重排"是一个低成本插件式方案,可直接用于Agent长期记忆、用户会话历史、订单/行为日志等RAG场景。
- 电商场景可迁移:例如用户问"我上次双11买的鞋是什么品牌",语义召回可能返回多个相似商品,用预测时间窗口截断或重排,能显著减少错误证据。
SkillBrowser:面向可扩展技能使用智能体的选择性技能暴露
🧭 Agent 技能选择性暴露
Nanjing University
提出 Meta-Skill 管理框架,让智能体按需识别能力需求并加载技能,优于静态检索和 LLM 选择
📌 工作参考价值(4 点)
- 可将电商/广告/搜索推荐系统中的工具、知识库、规则引擎封装为可加载的 Skill,用 Meta-Skill 根据当前任务状态动态判断需要哪些能力,避免一次性注入大量上下文造成污染。
- 采用“识别需求 → 生成查询 → 按需加载”的流程替代静态检索,能更好地匹配推理过程中逐渐浮现的能力需求,适合多步工具调用和长链路任务。
- 注意权衡:选择性暴露可能漏掉有用技能(under-invocation),且增加额外查询和加载延迟;在生产环境中可设置置信度阈值或缓存常用技能组合。
- 评估时需同时关注聚合准确率和已可解决实例上的性能退化,确保新机制不会损害原本能处理好的任务。
用于缓解小语言模型智能体停滞的进展感知蒸馏
🧭 Agent 蒸馏 · 停滞抑制 ★ 深度解读
The Pennsylvania State University · Microsoft CoreAI
提出 ProD,在蒸馏中显式惩罚学生轨迹停滞,提高小模型 Agent 成功率与推理效率
📌 工作参考价值(4 点)
- 在电商搜索/客服/投放 Agent 的 SLM 蒸馏中,可直接引入 stagnation score:对最近 k 轮 action/query 做 ROUGE-L 或 embedding cosine 相似度监控,识别反复调同一类 API、改写同一 query;离线训练时把这些信号做成动态 margin 的偏好 loss。
- 推荐用 ProD 式混合目标:L_PRO + λ L_SFT,λ=1;adaptive margin 采用 c0*(α*stagnation_gap + (1-α)*ans_mismatch),α=0.5 是稳健默认。可在现有 LoRA SFT 蒸馏后做 1-2 轮迭代,生成 on-policy 轨迹再更新。
- 推理阶段 repetition penalty 或缩短教师轨迹不能真正解决停滞,需要训练阶段对 student 自身行为加约束;这样做能同时降低平均轮数约 12%、token 约 21%,对生产时延和成本有直接收益。
- 业务环境无法频繁调用 LLM-as-judge 时,用 lexical ROUGE-L 已足够作为停滞信号,和 semantic/judge 相关性 >0.92;在代码/API action 场景可优先使用。
分歧引导的弱到强路由
🧭 弱模型到强模型路由 · 无监督分歧信号
University of Pennsylvania
提出用模型间分歧信号做无监督弱到强路由,无需正确性标签即可在成本与准确率间权衡
📌 工作参考价值(3 点)
- 在电商搜索推荐或 Agent 工作流中,小模型常用于低延迟生成 query 改写、推荐理由或工具调用;当输出不确定时需路由到大模型。可直接借鉴:让弱模型生成多个候选(如采样多个 query/理由),再用强模型对候选打分或比较,弱模型候选分布与强模型偏好分歧大则路由,避免依赖用户反馈或人工标注。
- 多候选 + 分歧路由可作为默认路由信号:比较弱模型自身多个响应与强模型判断的一致性,无需训练正确性预测器,部署简单,特别适合开放域文本生成和 agentic 任务,能显著降低大模型调用成本。
- 实验结论表明,即使有 ground-truth 正确性标签可用于训练路由器,基于分歧的路由也能超越直接拟合正确性的方法。因此在业务中可优先采用无监督分歧信号,或将其作为特征加入有监督路由器,提升泛化能力。
改进环境无关编码智能体:脚手架的作用
🧭 Agent 脚手架与自主控制权衡
SingularityNET
仅改变指令鼓励报告困难并自动继续,环境无关编码智能体在 ARC-AGI-3 和 AGI Maze 上得分提升,但专用脚手架仍有优势
📌 工作参考价值(5 点)
- 环境无关脚手架与专用控制器解耦:将通用工具(shell、文件系统、上下文管理)与领域特定控制逻辑分离,便于在电商推荐 Agent 中复用通用层,只替换业务控制层,降低跨场景工程成本。
- 引入“报告困难 + 自动继续”机制:在购物助手或搜索 Agent 中,可要求模型在不确定时主动返回控制权,由外部脚本决定重试、换策略或退出,减少死循环和无效调用,提升任务完成率。
- 把重置/重试等关键决策固化到控制器:实验显示脚本化 controller 遵循已有约定能恢复部分专用 agent 优势;在推荐流程中,可将“重置会话、切换召回策略、回退规则”等决策从模型手中剥离,保证行为可预测。
- 警惕教程/Few-shot 过度设计:额外教程经验可能降低性能,提示在构造推荐 Agent 的示例或指令时需做严格消融,避免冗余示范干扰模型。
- 关注 token 成本与性能的权衡:性能提升伴随更高 token 开销,业务中采用此类自主控制机制前应对比推理成本与收益。
可控数据升格 + 联合 RL/在线蒸馏的长程多模态搜索智能体
🧭 多模态搜索 Agent 训练 ★ 深度解读
Peking University · HKUST(GZ) · Tsinghua University · The University of Hong Kong · Huawei Cloud BU
用可控问题升格与联合 RL/在线蒸馏,把易题变难、难轨迹变可学
📌 工作参考价值(4 点)
- 可复用的问题升格框架:Expand/Blur/Visualize 把已有简单 VQA 或搜索日志升级为长链、实体消歧、跨模态证据任务;电商场景可把“这是什么商品”改写成多跳品牌/历史/场景链,并要求买家秀或商品图反搜验证,提升训练数据难度。
- 难度与质量双筛选:先用直接答案探针过滤参数化捷径,再用专家 rollout 的 Pass@k 评估难度并分池;业务上可先易样本 SFT,再难样本 RL,减少奖励噪声和人工标注成本。
- RL 训练中加入行为惩罚与 token 级 OPD:只对失败或不完美轨迹启用在策略蒸馏,教师信号按 reward gap 加权,并指数衰减 λ;这比纯终局奖励更稳定,适合搜索/推荐 Agent 的 RLVR 训练。
- 监控行为经济性:训练后期 tool call 和 response length 下降但答案奖励不降,说明可先鼓励长程探索、后收紧效率;在线上 Agent 优化中可用同样指标做早停。
MLExpert:面向自主机器学习工程的通用智能体模型
🧭 Agent 后训练 · 长程 MLE 优化 ★ 深度解读
East China Normal University · Shanghai Artificial Intelligence Laboratory
用层级SFT与执行窗口交互强化学习训练35B MoE,将MLE奖牌率从37.9%提至72.7%
📌 工作参考价值(4 点)
- 执行窗口共享奖励:面向需要多轮执行反馈的推荐/搜索 Agent(如自动调参、A/B 实验优化、query 改写迭代),把相邻两次实验结果之间的多步决策作为一个 execution window,共用结果奖励,避免稀疏轨迹奖励导致的学习困难;局部性能趋势项可鼓励持续改进而非只追求终局最优。
- 异步收集 + token 级策略修正:在线 RL 中 rollout 策略与当前训练策略不一致是常态,WIRL 的 token-level policy correction(用记录 log-prob 计算比值并截断)可直接迁移到电商/搜索 Agent 的在线训练,降低等待开销。
- Outcome-guided 监督选择:从长轨迹中提取“首次最优提交”之前的有效探索与失败恢复,截断峰值后退化尾段,能显著提升长程 agent 训练数据质量;可借鉴到推荐系统策略迭代数据清洗。
- 交互 harness 设计:维护 experiment tree、candidate 提交、invalidate_node 防止过拟合/数据泄漏,可作为多版本推荐策略管理或自动实验平台的工程蓝本。
OR-License:评估 LLM Agent 作为真实运筹优化实践者
🧭 LLM Agent 端到端运筹优化评估
HKUST-GZ · HKU · Qingzhi Optimization (Jinan) Information Technology Co., Ltd. · Hunyuan, Tencent · Tianjin Meta & Infinite Technology Co., Ltd
用 31 个真实付费 OR 项目构建基准,通过客户端模拟器评估 LLM Agent 从原始需求到可部署方案的端到端能力
📌 工作参考价值(4 点)
- 在业务中让 LLM Agent 处理需求分析与建模时,不要只依赖初始 prompt,可引入受控的“客户模拟器”或澄清循环,显式管理信息获取阶段(澄清、建模、验证),并跟踪已确认问题的解决率。
- 评估生成式推荐/优化系统时,除了软性质量指标,应加入可行性硬性检查与类似 DAQ 的“不可行归零”指标,避免模型产出无法部署的方案。
- 对长链路 Agent 任务(如自动选品、库存规划、物流调度),可借鉴研究链完成率定位失败环节:问题表述、代码实现、结果验证,再针对性加入 RAG 或 self-correction。
- 与专家解对比时注意信息边界:业务中 Agent 不应假设隐含专家知识,要显式建模信息获取过程,否则会高估条件质量而低估部署风险。
OS-Helix:统一 GUI 交互与代码执行的计算机使用智能体
🧭 GUI 与代码统一动作空间的计算机使用智能体
University of Science and Technology of China · Shanghai AI Laboratory · National University of Singapore · Shanghai Jiao Tong University · Fudan University
端到端训练统一 GUI 动作与代码执行空间,结合 SFT 与在线 RL 将 OSWorld 成功率提升至 66.44%
📌 工作参考价值(4 点)
- 对需要同时操作 UI 与调用代码的 Agent(如电商 RPA、浏览器自动化、商家后台操作),不要靠 prompt 级工具组合,而应把 GUI 动作与代码执行放进统一 action space,通过混合数据 SFT 内化 GUI/code 路由,避免“加 code tool 反而变差”的退化。
- 用 application–artifact composition 生成带真实文件状态的可执行任务,配合 decoupled instruction/evaluator 产出可自动验证的监督数据,适合电商场景批量构建可执行的 ground-truth 与回归评估集。
- Step-balanced GSPO 按 action step 而非 token 聚合 importance weight,是处理长代码动作与短 GUI 动作异质序列的 RL 稳定技巧,可直接迁移到多步推荐、对话式操作、工具调用等 RL 训练。
- 冷启动 SFT + 在线 RL 在真实桌面环境迭代,这种“先行为克隆后环境反馈”的路线对构建生产级 Agent 可借鉴;若业务无桌面环境,可参考其可验证状态设计来构造环境反馈。
ProV-Mem:面向流式视频问答的主动记忆框架
🧭 流式视频主动问答 · 分层记忆
The Hong Kong Polytechnic University · Tencent Inc. · Shenzhen Loop Area Institute
冻结 VLM 骨干下,用三层轻量记忆解耦何时查询、说什么、是否发出,实现训练无关的主动流式问答
📌 工作参考价值(4 点)
- 三层记忆架构可直接迁移到实时用户行为流监控与主动触达 Agent:将「触发时机」「生成策略」「去重发送」解耦成独立轻量层,避免每次事件都调用大模型,显著降低推理成本。
- 冻结 VLM backbone + 外围无训练记忆模块,适合业务快速上线;用固定 prompt 先验约束生成简洁且视觉接地的内容,可类比于推荐文案、商品摘要的约束生成。
- episodic memory 做近重复过滤对主动 push 场景尤其关键——能减少对同一用户反复推送相似商品或消息造成的打扰,提升用户体验与消息接受率。
- CAUC 评估思路值得借鉴:在离线评估主动推荐/推送系统时,除准确率、召回外,增加对冗余、过高发送频率、过长输出的显式惩罚,更贴近真实业务收益与成本权衡。
TRACER:面向 LLM Agent 的轨迹感知工具检索
🧭 Agent 工具检索与轨迹条件化 ★ 深度解读
Microsoft
利用历史工具调用轨迹的 trie 索引和状态自适应双先验混合,在保持准确率的同时大幅降低工具选择上下文成本
📌 工作参考价值(5 点)
- 在电商客服 Agent 中,可将历史成功调用轨迹构建为 trie,按当前执行前缀(如已调用 get_user_details)约束下一步候选工具,把工具选择从独立检索变为序列预测,减少无关工具干扰。
- 对每个转移边存储历史对话嵌入,计算当前上下文与该嵌入的 cosine 相似度,能区分描述相似但用途不同的工具(例如退货标签 vs 退货操作),避免模型误选危险操作。
- 使用轻量线性头学习每个状态的混合权重 w 和温度 T,动态调节经验先验(转移频率)与上下文先验(语义相似度)的重要性,比固定权重(如 α=0.5)更鲁棒,尤其适合工具分布不均匀的注册表。
- 若注册表中存在大量与状态无关的通用工具(如 KB_search、grep),可引入一个小型全局工具集 G(按前缀熵选取 top 工具)作为兜底,能显著提升召回。
- 工程实现上,trie 索引和边记忆查询开销极低,可完全离线构建,在线只需前缀查找和点积计算,适合大规模工具注册表的高并发场景。
图书管理员智能体:训练LLM预构建预见未来查询的长上下文工作区
🧭 Agent 预构建长上下文记忆工作区 ★ 深度解读
Stanford University · Carnegie Mellon University
将文档语料预构造成分层文件系统工作区,并用RL直接优化下游答题准确率,BrowseComp-Plus提升33个百分点
📌 工作参考价值(4 点)
- 在电商/客服/导购 Agent 中,可将商品库、类目树、活动文档、评论语料预先构建成分层合成文件系统(如类目索引、跨品对比表、活动时间线),回答 agent 走短路径文件即可,不必每次实时跨文档检索;用 RL 直接以“下游转化/回答准确率”作为奖励训练 builder 策略,而不是手工定义抽取规则。
- 利用文件系统作为 LLM 友好的外部记忆接口,比知识图谱更灵活:CreateFile/MergeFiles/Delete/Stop 这四类动作足够构建层级,同时显式保留 provenance/原始文档链接作为 fallback,防止合成摘要丢失关键细节;电商场景中 needle-in-haystack(如某单品具体参数)可回退到原文。
- 工程上可借鉴“预构建一次 + 多次查询”的成本摊销:把昂贵跨文档推理前置,回答阶段只读合成文件;文中给出 break-even 分析(约31个查询/语料时 token 成本优于 base builder),类似商品知识库高频问答适合。
- 密集奖励设计可复用:每 8 步探测 answerability 变化作为密集信号 + 终局正确性,等价于稀疏奖励但训练更稳定;multi-turn GRPO 可用于训练其他文档组织策略。
学会引导 LLM 智能体与多智能体系统
🧭 Agent 外部监督与强化学习 ★ 深度解读
National University of Singapore · University of Science and Technology of China · Qwen Business Unit of Alibaba
提出外部 steering agent,用 fast/slow 双路径和 RL 联合训练,在长程执行中实时纠正 goal drift,提升单智能体和多智能体搜索任务表现
📌 工作参考价值(4 点)
- 对商品搜索/导购等多步 Agent,可增加一个外部 steering policy:fast path 只需一次单 token 判断“是否需要干预”,再触发 slow path 生成干预动作;阈值可在部署时调节干预频率,无需重新训练,直接控制成本与效果。
- 训练时冻结执行器,只训 steering agent;用 pairwise ranking 学 fast path 的状态优先级,用 GRPO 学 slow path 的干预生成,并把“不干预基线”加入 group 归一化。这套目标适合作为业务 Agent 在线监督模块的训练模板。
- 多智能体电商链路(query 规划→召回→验证→回答)可在 agent 交接点插入 steering,动作设为 note/retry,重点抑制 verifier 过度拒绝导致的重复修订,减少无效 API 轮次。
- 该 steering 能力可跨执行器迁移:用 Qwen executor 训练后可直接监督 Llama/Mistral/Phi 执行器,适合多模型后端共存的平台。
自进化编码代理:基于 Harness-Policy 优化
🧭 Agent 自进化与强化学习
Microsoft Research · University of Virginia · Carnegie Mellon University
提出 Self-HPO 框架,交替优化编码代理的 harness 与 policy,实现递归自改进,显著提升编码任务解决率
📌 工作参考价值(4 点)
- 在电商推荐/搜索的 Agent 系统中,不要只微调策略模型或只调整工具/流程(harness),两者应联合迭代优化:让当前策略基于自身失败模式提出新的工具或交互脚手架候选,再用 RL 更新策略,形成闭环。
- 利用策略自身作为 harness proposer 的思路可以迁移到推荐 Agent:当 agent 在特定任务(如 query 改写、商品筛选)上频繁失败时,让其反思失败原因并生成新的工具描述、API 调用模板或搜索流程,然后用这些新 harness 重新训练策略。
- 从训练中收集困难样本(hard tasks)用于下一轮 harness 搜索,可以保证优化方向始终针对策略的当前薄弱点,避免盲目扩展工具集;对推荐系统来说,可借鉴此机制动态聚焦长尾 query 或复杂会话场景。
- 实验显示联合优化 harness 和 policy 的增益超过各自单独优化之和(joint gain > sum of individual gains),这提示在实际业务中,同时调整“模型能力”与“工具/流程”可能带来乘数效应,而非简单叠加。
AlphaBet:面向 LLM 事件预测智能体的强化学习框架
🧭 Agent 强化学习 · 事件预测
Georgia Institute of Technology · Amazon
用多日期事件结果联合监督证据搜索与概率报告,显著降低 Brier 分数并提升准确率
📌 工作参考价值(4 点)
- 多信息状态监督:利用同一事件在不同预测日期提供不同信息状态,让单个已解决事件监督多个决策点。可迁移到用户行为序列建模:对同一用户,在不同交互时刻构造不同上下文,用最终转化/成交结果监督每个时刻的决策,提升样本效率。
- GRPO 归一化陷阱:在需要概率校准的任务(如 CTR/CVR 预估、排序打分)中,如果采用 GRPO 做 RL 训练,注意其 std 归一化可能扭曲 proper scoring rule 下的概率报告,导致校准恶化但 top-1 准确率不变。建议在奖励设计时避免对概率型输出做过度的组内标准化,或分离校准与排序目标。
- Regret 分解诊断:将预测误差分解为证据获取 gap 和概率报告 gap,分别评估信息检索质量和概率校准能力。类似地,在推荐/搜索系统中可把整体损失拆成召回(信息获取)和排序(概率报告)两部分,定位瓶颈后再针对性优化。
- Agentic 三段式结构:search → reason → report 的固定流程可复用于需要动态获取外部信息的交互式推荐或对话搜索场景,让 policy 自主决定何时、如何获取证据再输出概率。
多会话智能体强化学习:分层优势估计与塑造
🧭 Agent 强化学习 · 多会话轨迹优化 ★ 深度解读
LARK, HKUST(GZ) · Foundation Model Lab, Huawei · City University of Hong Kong · HKUST
提出 Mosaic,用 session-aware 轨迹优势与 session 级边际信息增益塑造,在 BrowseComp 上超越广播基线且会话数更少
📌 工作参考价值(3 点)
- 搜索/对话 Agent 常因 query 改写、上下文压缩、子 agent 并行搜索产生多会话轨迹,RL 训练时不要简单广播轨迹奖励;可借鉴 session-aware advantage:按 outcome 分组对 session 数做居中排名,成功样本少 session 给更高优势,失败样本多 session 降低负优势,既提升样本效率又控制推理成本。
- 用 answer-likelihood 的边际信息增益做过程监督,无需额外 critic,仅需两次前向计算 log-prob;按 session 类型(普通、压缩、子代理)分别归一化,避免类型分布偏差,适合多组件 Agent 架构。
- 工程实现上,把每个 session 作为独立 training segment,聚合时保持 trajectory 级 token 权重一致,可兼容 Megatron 等多 segment 训练;对多轮搜索/电商 Agent 的长轨迹训练有直接迁移价值。
工具智能体的轨迹级推测与语义验证
🧭 弱-强模型协作与推测执行 ★ 深度解读
LARK, HKUST (GZ) · Yinwang · University of Cambridge · HKUST
让弱模型草稿执行只读工具调用,强模型在不可逆动作前一次性 prefill 验证并修复,用验证替代逐步解码
📌 工作参考价值(4 点)
- 在电商客服/订单处理 Agent 中,把工具调用分为只读查询和状态变更:订单查询、库存查询、读用户记录等只读步骤可以由 4B 小模型草稿并立即执行;退款、改单、发 push 等写操作由大模型在提交前一次性验证,大幅降低大模型调用次数。
- 验证时用语义接受而非 exact match:不要求小模型步骤与大模型自己生成的一致,只判断该步骤是否朝任务目标有效推进。推荐/搜索 Agent 中,query 改写、工具参数选择可以有多种有效路径,这样能保留小模型的有效进展,避免无谓重生成。
- 工程上把验证 prompt 设计成只输出短 verdict:接受前缀长度 + 替换动作 + 理由,让大模型只解码少量 token 而不是逐步生成动作;融合 replacement action 能减少额外修复调用。
- 适合 memory-bandwidth-bound 的线上 serving:节省主要来自用一次 prefill 读取整段草稿替代逐个 token 解码,HBM-read 和 wall time 下降 40-50%;在云-端部署中可显著降低云端 output tokens 和 API 成本。注意如果小模型太弱、acceptance rate 过低,repair 次数会上升,节省消失,上线前需离线评估 weak-only 能力。
Intern-Decision:自回归掩码语言建模的高效多模态决策模型
🧭 Agent 结构化决策 · 多模态小模型 ★ 深度解读
Shanghai AI Lab · Shanghai Jiao Tong University · Fudan University · Nanyang Technological University
用单次前向的自回归掩码决策替代自由文本生成,输出结构化选择与候选概率,4B模型七套评测集平均准确率90.02%
📌 工作参考价值(4 点)
- 用“掩码决策字段 + 单次前向”替代 free-form JSON 生成或逐字段循环打分,适合电商/广告中高频闭集判断:意图分类、tool routing、风控/安全审核、多字段表单决策等。
- 保留 Qwen 等 causal backbone 与 native LM head,在 assistant skeleton 的 <decision> 占位符前一个 token 读 logits,对 legal options 做 softmax 得到候选概率;无需额外分类头或逐字段前向,且多字段共享 state,减少重复 prefill。
- 对概率输出做 post-hoc temperature scaling 能显著改善 Brier / ECE;可用小模型置信度阈值触发大模型接管,适合难例路由、广告审核升级、搜索结果重排等场景,在精度和成本之间选操作点。
- 多模态输入(文本+可选图像)输出离散动作,适合 GUI Agent、商品图审核、直播画面判断等“看截图→做选择”的闭环任务;训练时冻结 vision tower 可低成本复用预训练视觉能力。
JevAgentHarness:与LLM共享控制的决策模型基准、部署与训练
🧭 Agent决策模型与LLM级联降本提速 ★ 深度解读
University of Illinois Urbana-Champaign · Princeton University · Google
以置信度阈值将Agent常规多选决策委派给4B决策模型,最高降本89%、提速2.5倍,成功率损失<3点
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的 tool call 与参数选择中,可以把大量常规多选决策(查订单、选参数、退款原因、确认动作)交给 4B 级 decision model,按置信度级联;阈值需按 decision point 在 shadow 轨迹上单独拟合,不要用全局固定阈值(论文固定0.5掉21.5点)。
- 评测决策模型不能只看离线准确率:StartLux-9B 离线最好但在 task-level 仅 69.5%;建议建立 step-level/task-level 回归集,特别是包含错误后状态和 must-ask 状态,否则会误判上线收益。
- 训练专属小决策模型时,用业务 agent 自己的轨迹做 SFT 非常划算(Qwen3-4B shifted task 成功率 13.5%→96.0%,仅 2.2 GPU-hours);数据里要刻意注入错误后状态(论文30.9%),否则模型无法应对 agent 自身失误后的局面。
- 不可逆/高风险动作(取消订单、支付、发送消息)不要只交给 decision model 或 guard;对新增业务规则需重新训练/重新拟合阈值,否则成功率可能从88%跌到3%。
Lean4AgenticRL:可验证多层级过程奖励推进 Agentic RL
🧭 Agentic RL 多层级可验证过程奖励 ★ 深度解读
Amazon Web Services · University of Illinois Urbana-Champaign
用 Lean4 统一多层级可验证过程奖励,配合 workflow-stage-normalized GRPO 稳定提升 Agentic RL 训练效果
📌 工作参考价值(4 点)
- 把导购/搜索 Agent 的复杂任务拆成可验证的工作流 stage(如需求澄清、商品召回、排序、话术生成),为每个 stage 定义 post-condition 并用规则/轻量 LLM judge 给中间奖励,使 RL 训练信号更密。
- 对 agent 的工具调用设置 penalty-only 的低层奖励(-1/0),专门惩罚重复查询、空操作、固定占位命令等 reward hacking;不给正奖励,避免策略利用,工程上容易实现。
- 在 GRPO 中将 advantage 按工作流 stage 而不是整条 rollout 归一化,使不同轨迹中相同语义步骤可比,改善长 horizon 信用分配,适用于多轮对话推荐和搜索 agent。
- PSWF plan-then-execute 可作为轻量级 prompt 策略单独使用:先让模型探索环境生成定制化计划,再按计划执行,即使不重新训练也能小幅提升 agent 成功率,便于快速验证业务收益。
LEASH:面向计算机使用智能体的不确定性感知弱到强升级与监督
🧭 Agent 弱到强升级与不确定性监督 ★ 深度解读
Simular · University of Wisconsin–Madison
用弱模型隐藏状态的不确定性同时驱动升级决策与黑盒强模型监督,无训练实现高效成本-精度平衡
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 工作流中,可用廉价的本地小模型作为默认执行器,利用其隐藏状态计算不确定性(如马氏距离到历史成功/失败样本)决定是否升级到昂贵的大模型,无需训练额外监控模型,节省推理成本。
- 对于黑盒 API 大模型(如 GPT/Claude)的调用,可复用白盒弱模型作为“影子观察者”,定期对强模型轨迹打分,高不确定性时触发反思或回滚干预,保留对黑盒输出的控制。
- 表示库方法:记录弱模型在任务查询和动作生成时的最后层隐藏状态,按成功/失败标注,用相对马氏距离作为不确定性分数,计算开销低(无额外前向传播),适合长程多步任务。
- 门槛校准:通过参考集的经验分位数设置升级阈值以匹配预算,将升级率作为 budget 代理,可实现可调节的成本-精度权衡,对在线服务很有用。
OpenGCUA:开源通用计算机使用智能体全栈系统
🧭 通用计算机使用智能体 / 代码执行 ★ 深度解读
Alibaba Token Hub, Alibaba Group
开源通用计算机使用智能体栈,用代码执行与决策转移让8个前沿模型在OSWorld-v2平均+19.6分、步数-53%
📌 工作参考价值(4 点)
- 用代码执行替代固定 action list/batch:推荐/营销 Agent 可让模型写短程序(Python/SQL)同时调用内部 API、读取中间结果、做断言/条件分支,把多轮 model call 压缩成一次,适合批量商品上架、素材改写、数据校验等任务。
- 按需观测可提高缓存命中:模型不强制每步截图/取数,只在真正需要时请求;论文中 cache hit 提升 10.5/14.4 pp 且不掉点。商品详情页、搜索结果截图、日志等大体积上下文可按需拉取。
- 任务状态跟踪与意图标注:让模型维护 todo/pending/verified 状态,区分“已改”和“已验证”;面向用户或审核场景输出 <intent> 可解释步骤目的,适合运营 Agent 和自动化审核流。
- 资源受限下选模型:不能只看最终 benchmark,要看单位成本/时间内的得分;论文的 cost/score 曲线提示便宜小模型可能更划算,适合做线上 Agent 模型路由和降级。
Player-1:通过合成经验学习游戏控制的后训练框架
🧭 游戏智能体 · 合成经验强化学习
National University of Singapore · ARC Lab, Tencent IEG · Nanyang Technological University
Player-1利用合成环境和PPO强化学习,将游戏智能体MineDojo-300成功率提升至38.33%,远超SFT基线
📌 工作参考价值(4 点)
- 合成环境+程序化奖励训练Agent决策:可借鉴到电商搜索/推荐Agent的离线策略优化,构建模拟用户交互(点击、浏览、反馈)的合成环境,避免线上试错成本,用PPO在多样化模拟器中提升Agent多步决策能力。
- 复合动作空间扩展:论文中同时组合键盘+鼠标的复合动作在RL中使用频率增加,类比到对话式推荐或搜索Agent,可建模同时生成query+点击筛选等复合操作,更贴近真实用户行为,值得在动作空间设计上尝试。
- SFT初始化+多环境PPO两阶段范式:先用人类演示数据SFT,再在多个随机化合成环境中用PPO探索优化,这比单纯SFT能获得超越模仿的策略,适用于电商客服Agent、自动谈判Agent等需要长期回报优化的场景。
- 环境随机化提升迁移泛化:通过对观察和动力学进行随机化,覆盖更广状态空间,可应用于构建电商搜索模拟器时加入用户偏好扰动、延迟响应等噪声,提高策略鲁棒性。
任务状态治理:一种可验证、可恢复的 GUI 代理执行虚拟机
🧭 GUI Agent 状态治理与恢复
SAIS, University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences · Meituan · Peking University · Institute of Software, Chinese Academy of Sciences
提出 TaskVM,将 GUI 任务建模为可编辑契约,实现可验证与可恢复的代理执行
📌 工作参考价值(4 点)
- 将任务建模成 Desired / Preserve / Observed 三栏契约:在电商运营、广告投放等 Agent 流程中,允许用户编辑期望结果与“必须保持不变”的字段,减少执行漂移带来的失控。
- 对每个 Agent 动作预标记 reversible / compensatable / irreversible:尤其适用于改价、发券、调整预算等高风险操作,便于在执行前评估恢复成本,提供回滚或补偿机制。
- 采用独立 verifier,只依赖 fresh visible observation 验证目标是否满足,不信任 Agent 自身回报;可迁移到生成式推荐/Agent pipeline 的结果验证,例如页面元素是否出现、按钮状态是否改变。
- 将用户编辑写回真实 GUI 操作:在自研自动化平台中实现可编辑控件与真实界面动作绑定,让业务人员直接修改任务参数后自动执行,提升控制感和信任感。
RSIFlow:自适应自改进工作流与演化元Agent
🧭 Agent 递归自改进与元演化 ★ 深度解读
Beihang University · Tsinghua University · Beijing Academy of Artificial Intelligence (BAAI)
提出 RSIFlow,将自适应工作流编排与元Agent harness 演化耦合,动态诊断瓶颈并更新模型/框架/工件,6基准11/12领先
📌 工作参考价值(4 点)
- 将搜索推荐系统中的多类组件(召回/排序/重排模型、prompt/规则、索引/内容/策略配置)抽象为 Model/Harness/Artifacts 三种可更新目标,由 Meta-Agent 根据线上失败轨迹和 A/B 反馈诊断瓶颈,动态选择“微调模型 / 改 prompt 或规则 / 修内容或索引”,避免固定优化路径。
- 借鉴 Harness 三组件抽象 Action/Skill/Planning 管理推荐 Agent 的 prompt 与工具调用规则;用结构化技能库存储“当出现 XX 失败时→修改 YY→保留 ZZ”的经验,通过 Add/Supplement/Revise/Merge 持续维护,降低重复调优成本。
- Meta-Agent 模型参数冻结、只更新其 harness(提示词/技能库/规划规则),能以较低成本迭代编排策略;在需要频繁调整策略的广告投放、活动选词、push 文案场景尤其适用。
- 采用“所有候选共享同一 parent + 统一评估 batch + 正增益才接受”的批量更新策略,可防止无效更新累积,并让失败尝试也作为负证据进入经验库,提升更新稳定性。
τ-Emotion-Bench:用真实用户情绪暴露 LLM Agent 交互脆弱性
🧭 情绪化用户交互下工具调用 Agent 评估与训练 ★ 深度解读
Arizona State University
提出情绪化用户交互基准与 Tracer 数据管线,用交互感知信号训练工具调用 Agent 提升可靠性与跨域迁移
📌 工作参考价值(4 点)
- 在电商导购/售后 Agent 的轨迹合成中,可引入“用户不满可提前终止”的交互感知 reward,过滤最终成功但频繁追问、过度依赖用户的轨迹;让模型优先通过工具查库存/价格/订单,信息不可得时才向用户确认。
- 用户模拟器压测时,不要把情绪作为独立任务或改变任务目标,而应在同一任务上叠加情绪条件(如焦虑、不耐烦、低信任)并保留原成功判定,能更稳定地暴露 Agent 的交互鲁棒性。
- 用“工具调用/追问比”作为线上会话 Agent 的诊断指标:成功会话通常工具调用明显多于追问;可以在 prompt 或 reward 中约束“先查工具,再必要时追问”。
- 借鉴 Tracer 的依赖图 + 反写自然指令流程,可以为业务领域低成本生成 policy-valid 多步任务和训练轨迹;少量高质量交互感知数据比大批普通成功轨迹更利于跨域迁移。
Terminal-RSI:通过递归自改写与策略精炼实现终端智能体递归自改进
🧭 终端 Agent 递归自改进强化学习
Tencent Hy Frontier · National University of Singapore · University of Maryland, College Park · University of Georgia · Indiana University
用递归自改写与策略精炼交替训练,把终端 Agent 验证反馈转成策略提升
📌 工作参考价值(4 点)
- 可借鉴「验证轨迹重写 + 策略精炼」的交替训练范式:用业务中的 reward/verifier 信号找出成功或部分成功轨迹,先重写成更优示范再做策略更新,适合电商 Agent 的任务完成型 RL。
- TB-GAE 对多轮交互做 token 级信用分配时保留衰减:在搜索/推荐 Agent 的多轮对话 RL 中,可按 turn 边界做 skip-observation GAE,避免跨 turn 的 token baseline 偏移。
- FDR 与 SPR 的奖励设计适合业务落地:按任务族做 dense progress reward 校准,同时把严格成功与有界部分奖励解耦,可减少 reward hacking 并稳定训练。
- Warm-up Critic 与 stage-specific LR 可迁移到多阶段 RLHF/RLAIF:先预热 critic 再更新 policy,且不同阶段用不同学习率,能提升生成式推荐的训练稳定性。
TimeRSI:面向时间序列基础模型的自改进智能体部署
🧭 Agent 自动编排预测部署流程
Georgia Institute of Technology · University of Southern California · Samay AI
用 LLM coding agent 在冻结预测模型外围自动生成与迭代 pipeline,并通过自适应选择器提升时间序列预测部署效果
📌 工作参考价值(4 点)
- 把“冻结模型 + 外围 pipeline 自动迭代”迁移到电商预估/推荐:不改模型权重,由 coding agent 生成和修改特征注入、日历/活动信号、后处理或重排代码,在滚动历史回放窗口上评估,可显著降低人工 pipeline 调试成本。
- 借鉴错误反馈闭环:将回测中的分场景误差(如大促、时段、类目偏差)写成自然语言反馈给 agent 进行下一轮修改,比一次性搜索更有效;推荐系统可用“场景化 error report”驱动规则/校准代码生成。
- 在线集成 adaptive selector:按当前上下文和近期相似条件下的实际表现,从多个候选 pipeline/策略中动态选择,而不是固定单一版本;适合推荐场景中多召回/多后处理策略的在线组合选择。
- 工程落地时限定 agent 可修改空间(输入特征、输出校准、后处理逻辑)并做沙箱执行与回测成本控制,避免开放式搜索失控。
TreeFlex:让 Agent 自主导航搜索树的树形搜索框架
🧭 Agent 策略引导的树搜索与 RL ★ 深度解读
Meta AI
TreeFlex 让同一 LLM 在 Reflection 与 Execution 间切换,自主选择保存的中间状态继续搜索,并用树感知 GRPO 训练,在深度研究和 SWE 上显著超越 ReAct 与 FoldAgent
📌 工作参考价值(4 点)
- 对于多轮推荐/搜索 agent,维护一个显式状态树(候选 query、商品集合、对话状态),让模型自己决定回溯或分支,可避免线性上下文被低质量探索路径污染。工程上可以像 TreeFlex 一样用“卡片”摘要表示节点,Reflection 角色只看摘要选点,Execution 角色只加载所选路径的详细上下文,既省 token 又保留全局视野。
- Tree-aware GRPO 的训练方式值得复用:把一次树搜索视为一个 rollout,每个输出只在其生成时的上下文上计算损失,而不是拼接所有分支后训练,这样能避免训练与推理分布不一致,且无需树形 attention mask。这对任何多路径决策 RL(如对话策略、搜索链路优化)都适用。
- 过程惩罚设计(如失败调用 -1、超出当前指令范围的操作 -0.2)比单纯最终奖励更能约束 agent 行为;业务上可以针对推荐 agent 的无效工具调用或偏离当前用户意图的探索给予轻量负奖励,避免盲目分支。
- 资源效率:TreeFlex 用更多推理换取准确率,但在相同采样数下优于重复采样 baseline;因此,在允许高延迟的场景(如深度研究型推荐、复杂用户意图解决),增加可控分支回溯比单纯增加样本量更有效。
ActionOPD:蒸馏决策,而非令牌
🧭 Agent 动作级在线蒸馏 ★ 深度解读
Tsinghua University
提出动作级在线蒸馏,用语义一致奖励替代 token 概率,实现跨模型家族黑盒 teacher 蒸馏
📌 工作参考价值(4 点)
- 做对话/工具型业务 Agent(如导购、售后、广告投放助手)时,可用强模型作为黑盒 teacher,只采样其动作,不需要 logits 或同 tokenizer;学生模型用语义匹配奖励做 PPO 更新,teacher 选择只看决策质量,便于跨模型家族蒸馏。
- 语义匹配奖励可复用:工具调用先程序化比较工具名和规范化参数(忽略 dict key 顺序、归一化整数浮点),剩余差异交给冻结 LLM;消息比较意图和事实内容,不比较 reasoning token。适合电商 Agent 的动作一致性评估。
- state-group rollout + group-relative advantage:每步采 4 个候选,选最高奖励动作执行,但所有候选都参与训练,用组内均值做 baseline。可缓解 on-policy 漂移并提高样本效率,适合多轮对话策略优化。
- 奖励设计上,invalid 动作给 -1,valid 无匹配给 0,首个匹配给 1,额外匹配给频率 bonus;可降低稀疏语义匹配的方差。但 teacher 动作错误会传播,业务中需对 teacher 动作做有效性过滤或人工审核。
CarryOn:面向可复用任务对象的长程 Agent 上下文运行时
🧭 长程 Agent 上下文管理 · 对象化折叠 ★ 深度解读
University of California San Diego
CarryOn 将长程 Agent 上下文组织为可复用任务对象 + 执行上下文 + 近期交互,OSWorld 2.0 和 BrowseComp-Plus 分别 +5.8%/+7% 并大幅降 token
📌 工作参考价值(4 点)
- 在电商运营/客服长流程 Agent 中,把已完成的商品素材、报表、投放设置等作为 external object carrier,只记录对象路径与使用条件,续接时让 Agent 直接读对象检查,替代反复携带生产日志。
- 显式保留 execution context(目标、约束、未完成任务)与 carrier 互补;论文消融显示缺失该组件会使 partial 分数从 55.93 降至 44.00,实际系统里容易因折叠丢失当前焦点。
- 采用 fold 机制:当可复用产物形成(如图片导出、报表填充)就折叠历史,验证后原子提交,能将输入 token 稳定在阈值附近,成本优势随轨迹变长而扩大(OSWorld 上 500 步降本 34.1%)。
- 信息检索式 Agent(选品调研、竞品分析)可把中间结论存为 information product carrier 并绑定来源,减少重复搜索;论文在 BrowseComp-Plus 上实现 +7% 准确率且 token 降 22.9%。
DeLoop:用重复动作自监督训练长程 Agent 避免循环
🧭 长程 Agent 的自我监督去循环训练 ★ 深度解读
Google · Boston University · University of Washington · University of Southern California · Google DeepMind
把 agent 重复动作当负样本、同 rollout 后续恢复动作当正样本做 DPO,大幅降低上下文压缩下的循环率
📌 工作参考价值(4 点)
- 在电商/广告的 multi-step agent 流程(购物助手、广告投放优化、搜索 query 改写 agent)里,可以先加一个结构化的重复检测器:把 tool/API call 做 canonicalize(忽略空格、参数顺序),再对比返回 observation;相同的 (call, observation) 就是 loop。这些信号可以直接用于在线拦截,也能变成训练数据。
- 用 agent 自己的 rollout 挖掘偏好对:rejected = 重复动作,chosen = 同一条 rollout 里第一个后续非重复动作。无需 reward、gold answer、LLM judge,适合业务里大量失败/无效日志的自监督学习;LoRA DPO 成本低。
- 上下文压缩/总结会明显放大 loop。如果系统里做了会话压缩、摘要、截断,建议监控压缩后的 loop rate,并且不仅优化 compressor/memory,还要训练 policy 学会使用已有历史记录。
- DeLoop-Mix 证明跨域自挖 pair 可以提升泛化:电商场景可以把搜索、推荐、客服等不同 agent 任务的 loop pair 混合训练,既压低重复动作,又提升任务成功率。
混合推理智能体:隐空间思考与文本工具调用统一
🧭 混合潜在推理与工具调用的 LLM Agent ★ 深度解读
Stanford University · Together AI · UIUC · Meta
HybridAgent 用轻量 HybridLink 与连续工作记忆交替进行潜在推理和文本工具调用,在 11 个基准上平均提升 10.4% 并大幅降低 token、延迟与成本
📌 工作参考价值(5 点)
- 在搜索/推荐 Agent 中,把长 CoT 的中间推理压缩为 latent steps,仅在需要调用搜索 API、商品过滤工具时切回 text,可大幅降低 token 费用和首字延迟;适用于高并发在线服务。
- 复用 KV cache 作为跨轮工作记忆:多轮搜索/推荐对话中保持工具结果和内部表示,避免重复编码;可参考其 persistent KV accumulation 设计来优化多轮 Agent 服务。
- 后训练要解决 train-inference mismatch:先用 teacher forcing 再 self-conditioned 两遍训练,是让模型学会消费自己 latent 输出的关键;如果业务中做类似隐式状态,这个 trick 值得照搬。
- RL 奖励只给 correctness + format + tool use,不显式控制 latent/text 比例,让模型自适应分配;在电商 Agent 中可避免奖励设计过度约束导致行为退化。
- 可解释性:latent pseudo-text 映射到最近 token,方便监控和 debug;适合需要审计的推荐理由生成/搜索排序 Agent,可保留可解释性同时降本。
Interlock:从局部正确到长程智能体任务完成
🧭 长程 Agent 任务合成与完成过滤训练 ★ 深度解读
Peking University · The Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University · Meituan
用 typed completion graph 约束长程任务合成,并以完成过滤的 RFT 提升 Agent 在外部基准上的完成率
📌 工作参考价值(4 点)
- 用 completion graph 管理 Agent 工作流:在电商运营、广告投放、订单履约等长链路任务中,把“证据→决策→下游产物更新”显式建模为 grounding / coupling / realization 关系,可以防止模型只做对局部决策但漏掉预算、排期、报表等连带更新。
- 合成训练任务时做双重 review:source-coverage 保证原始义务不丢失,public-input critic 保证评估标准可由可见材料支撑。迁移到业务里,可用来生成大量带私有 rubric 的 agent 训练任务,同时避免“只有标注者知道的信息”进入评估。
- Agent-as-judge 比纯文本 LLM-as-judge 更有效:让裁判代理能读文件、写并执行验证脚本,只增加约 11% 的 judge token,就能显著提升过滤出的轨迹的训练价值。适合用来筛选线上 agent 执行记录做 SFT。
- 在固定轨迹预算下,扩大任务 domain 覆盖比重复采同一批任务更划算;对推荐/广告 Agent 也是提示:构造跨场景、跨品类的完成型任务,有助于学到可迁移的“把决策落地到所有受影响产物”的能力。
将序贯实验设计摊销到推理LLM中
🧭 Agent 自适应信息收集与提问策略训练
University of Cambridge
用信息增益奖励训练LLM进行自适应信息收集,在低计算成本下超越BED基线并跨域迁移
📌 工作参考价值(4 点)
- 对话推荐/澄清场景中,可用信息增益作为 reward 训练 LLM 生成提问,快速锁定用户偏好,减少冗余交互。
- 将实验生成模型与 LLM 自身信念解耦,避免依赖 LLM 可能校准差的后验,用外部模型计算期望信息增益更稳定。
- 摊销策略使推理时无需在线规划或重采样,直接生成下一个问题,显著降低计算成本,适合线上实时对话系统。
- 从简单游戏(Twenty Questions)训练的策略能迁移到临床对话,说明信息收集技能可跨域迁移;电商中可在模拟环境预训练提问策略再迁移到真实对话。
看见、维持与学习:多模态智能体记忆的演进
🧭 多模态 Agent 记忆机制综述
Rutgers · Notre Dame · Michigan · Fudan · UC San Diego
提出双轴框架解析多模态Agent记忆的形成/表示与管理演化,总结设计模式与原则
📌 工作参考价值(4 点)
- 将记忆分为 T1 静态 / T2 动态 / T3 自演进三层,可用于电商导购或客服 Agent 的记忆架构:用户长期偏好作为静态记忆(T1),会话内上下文动态更新(T2),跨会话策略通过经验持续优化(T3)。
- 双轴框架指导多模态商品信息(图片、视频、文本描述)如何编码与表示,可借鉴 modality-specific embeddings、文本/结构化记录、latent/parametric representations 的取舍,设计商品知识库和用户画像的融合方式。
- 原则强调 balancing source fidelity with abstraction、temporal validity and provenance、evidence grounding,对构建可解释、防幻觉的推荐/客服 Agent 记忆至关重要,尤其在召回证据和解释推荐理由时。
- 自演进记忆策略可类比在线学习或 meta-learning,适合需要持续适应用户兴趣漂移的推荐系统,可探索用 LLM 自动更新记忆管理 policy。
MAI-Gym:面向移动与计算机环境的 GUI Agent 评估与 RL 训练一体化开源平台
🧭 GUI Agent 在线强化学习与仿真平台
Alibaba Token Hub, Alibaba Group
开源一体化 GUI Agent 平台,统一评估/数据/在线RL,9B模型在 MobileWorld 和 OSWorld-Verified 创下 SOTA
📌 工作参考价值(4 点)
- 构建可重置的电商/导购模拟环境:借鉴其 mocked app 与 execution-validated task verifier 设计,在电商场景中搭建可重复初始化的购物、客服、售后等模拟 app,自动生成带可验证奖励的任务,低成本训练 GUI 操作型 Agent。
- 统一 rollout pipeline 保证训练与评估一致性:将环境交互、数据收集和在线 RL 训练纳入同一管线,避免训练/评估行为偏差;其 20K 并行环境实例的工程架构可直接迁移到大规模在线策略训练,如导购对话策略或推荐排序策略的仿真优化。
- 仿真 RL 到真实业务的迁移:论文显示在 mock 火车票 app 上训练后,真实手机任务成功率从 28.8% 提升到 48.1%,证明低成本仿真环境训练的模型可迁移到真实交互场景,适合作为电商 App 操作、订单流程等任务的试错沙盒。
- 直接复用开源任务与合成技能:发布的 2,000 个验证任务和自动化合成技能可作为电商/广告领域 GUI Agent 数据集的冷启动模板,结合自身业务 UI 快速生成带 verifier 的训练任务。
面向小语言模型工具学习的教师引导策略优化
🧭 Agent 工具学习 · 双向 KL 约束 ★ 深度解读
Nanjing University of Aeronautics and Astronautics · 360 Security Capability Center · Nanjing University · Tongji University · Shanghai Jiao Tong University
提出 SeTPO,在 GRPO 中按奖励门控注入教师 token 级反向 KL 信号,并用教师演示前向 KL 保留结构,提升 SLM 工具调用
📌 工作参考价值(4 点)
- 在 RL 训练 SLM 工具调用/函数调用时,不要对所有轨迹都上教师蒸馏;按任务奖励门控只对低奖励轨迹注入教师 token 级修正(用 log p_student - log p_teacher 修正 GRPO advantage),可保留高奖励轨迹的纯 task-driven 更新,避免过度约束。
- 持续保留一个小的 auxiliary SFT/演示损失(如权重 0.1)在 RL 过程中:用冻结教师生成的完整参考轨迹做交叉熵,能稳定输出格式(<tool_call> 等结构),防止 reward 上升但格式坍塌;这对生产环境结构化输出尤其重要。
- 教师模型容量不是越大越好:论文显示 0.5B 学生配 1.5B 教师优于 3B/7B;迁移能力与容量差距存在倒 U。业务选教师可优先选与学生同架构、容量适中的模型,降低分布差异。
- 若工具/API 场景有确定性 checker,可把 composite reward 设为格式奖励 + 正确性奖励(工具名/参数名/参数值 Jaccard+exact match),配合 γ 接近最大奖励的门控,让低奖励轨迹获得教师修复信号。
社交 Agent 交互有效性:从成对世界可验证结果中学习
🧭 Agent 社交交互 · 可验证结果奖励塑形 ★ 深度解读
Alibaba Token Hub, Alibaba Group · The University of Tokyo
提出 HICO-Bench 与 PaCPO:以成对世界可验证结果评估并训练社交 Agent,Qwen3-8B Verified Success 20.4%→28.3%
📌 工作参考价值(4 点)
- 评估体系:引入「Feasibility + Integrity」双层验证。在电商客服/导购/协商 Agent 中,可用规则校验最终订单、退款、排期等结构化结果是否满足双方约束,再让 LLM judge 检查对话是否支撑该结果,避免只看对话流畅度。
- 成对世界构造:对同一公共上下文只改一个私有条件(如用户预算、偏好),构成 contrast set。可用来诊断 Agent 是否真正利用差异信息,而非用同一套回复应付不同用户;也可作为回归测试集。
- 回合级信用分配:PaCPO 的 tentative plan 探测 + 跨世界 credit 可在多轮任务型对话 RL 中复用。每轮后让模型输出「如果现在结束会提交的结果」,与另一世界的结果对比,只在关键信息披露后的分化时刻给予奖励,用 potential-based 重分配保持总奖励不变。对训练客服主动澄清需求、协商出价等场景有价值。
- 保守预期:即使 PaCPO 提升,绝对 Verified Success 仍只有 28.3%,说明复杂多轮交互任务上 RL 收益有限;建议先做好 SFT 初始化(SFT+PaCPO 达 31.67%)和结构化验证闭环,再逐步引入 RL。
SkillScaffold:策略自适应技能效用打分与选择性注入的 Agentic RL 训练脚手架
🧭 Agentic RL · 技能训练脚手架 ★ 深度解读
浙江大学 · 中国科学院大学 · 快手科技 · 浙江科技大学
用已有 outcome 轨迹似然差做策略相对技能效用,正门控选择性注入训练期技能,推理时完全免技能
📌 工作参考价值(4 点)
- 在电商导购/搜索 Agent 训练中,可借鉴「训练时注入技能、推理时移除」的 scaffold 思路:线上不依赖技能库或额外检索,避免推理延迟和技能库维护成本;技能只是帮助训练期探索和内部化。
- 技能效用评估不要用额外环境 rollout,而是复用已有 outcome 轨迹:对比当前策略在 skill 条件与 skill-free 条件下对同一轨迹的 token 对数似然差。工程上只需缓存 skill-free scores,再对 M 个候选做 M×N 次打分,成本 O(MN),无环境交互。
- 采用 positive gate 决定是否注入技能:只有效用估计 >0 才注入,否则保持 skill-free。这比强制注入或只按排名选择更稳定,特别适合稀疏 reward 的 multi-turn 任务;可将效用作为策略相对信号,与 query 难度、策略当前 competence 关联,实现自适应注入。
- 技能内部化可复用:让 Generator 和 Executor 共享参数,用环境 reward 更新 Executor、技能效用 detached reward 更新 Generator,通过联合训练把技能引导的策略吸收进模型参数。对低延迟线上 Agent 很实用,可在训练后丢弃技能生成通路。
TEV:用稠密进度奖励扩展长程智能体训练环境
🧭 长程智能体训练 · 环境合成与稠密奖励 ★ 深度解读
Adobe Research · University of California, Los Angeles
先构造完整隐藏世界再渲染损坏任务,并用进度势能奖励解决长程智能体 RL 的稀疏奖励,使开源模型逼近前沿。
📌 工作参考价值(4 点)
- 在电商/广告 Agent 的复杂多步骤任务(商品知识图谱构建、营销活动搭建、数据管道修复)中,可采用 latent-world-first 思路:先定义完整正确的目标状态(latent world),再反向渲染损坏输入和 workflow DAG,避免 prompt、任务、验证器各自生成导致的 artifact drift。
- 用 workflow DAG 定义 progress contract,对每个关键中间节点做 prerequisite-gated 评分,作为 RL 稠密奖励;能有效解决 GRPO 组内全失败时梯度为零的问题,在训练多步操作 Agent 时提升 sample efficiency。
- 奖励塑形使用 R(τ)=1[pass]+λΦ(s_T),λ=0.25,保证通过任务严格优于未通过,同时提供部分进度信号;实现时注意 turn-index normalization 和 return-to-go γ=1,保持 credit assignment,避免后期 turn 的回报被整体均值稀释。
- 合成环境时用 seeded generator 而非 LLM 直接生成,并在生成阶段加入 round-trip 验证和资格门(exploit resistance, progress validity, role independence),可保证可复现、可验证、无奖励黑客。
先规划还是先检索?大规模工具发现架构对比研究
🧭 Agent 工具发现架构对比与自适应路由 ★ 深度解读
Apple
在50k API规模下系统对比Retrieve-then-Plan与Plan-then-Retrieve,发现单工具查询RtP占优、多工具查询PtR占优的复杂度交叉
📌 工作参考价值(4 点)
- 复杂度自适应路由:用RtP的top-1检索相似度作为零成本路由信号,高相似度(查询直接包含API名/品牌名)走RtP,低相似度(抽象多步骤意图)走PtR,可节省约36%的discovery调用开销且无检索质量损失。
- 多意图查询分解:在电商/Agent场景中,对于“连衣裙+高跟鞋+包包”这类多面意图query,可以让LLM先生成多个Abstract Tool Stubs(或子意图桩),每个桩独立检索再合并,优于单embedding直接检索。
- Stub hallucination双刃剑管理:简单query包含明确的专有名词或品牌时,不要抽象成generic stub,否则丢失强匹配信号;复杂query则可以利用stub的分解能力。工程上可对stub生成加入专有名词保留策略。
- 检索是Agent行为的上界:实验显示planner轨迹保真度≥96%,即planner几乎只从检索结果中选择tools,所以优化检索架构比优化planner prompt更关键。在大规模工具注册表下应优先投入检索质量。
知识图谱即文件:工具创建与使用协同演化的 Agent Harness
🧭 Agent 知识图谱搜索与工具演化 ★ 深度解读
Texas A&M University · University of Oregon
让 LLM 直接读写完整节点/边文件并现场编写图访问代码,训练自由即在 STaRK 上超越最强基线
📌 工作参考价值(4 点)
- 对文本富商品/内容知识图谱,不要只提供固定的 neighbors/get_node/search 工具(截断 top-k 易漏掉关键证据)。可把完整节点记录和边表导出为 jsonl/tsv 文件,让 agent 直接用 shell/grep/Python 做任意图访问,避免预定义 API 的证据瓶颈。
- 大输出存文件:多跳遍历或全节点扫描常超出上下文,可把完整输出写入 scratch 文件,只给模型看 head/tail 和大小提示,后续代码再搜索/过滤完整输出。这个 trick 对电商商品大量评论、论文摘要、知识图谱邻居列表等场景很实用。
- 允许 agent 在一个任务内多轮编写并修订 Python 程序,而不是只允许单次代码生成或纯工具调用。消融显示多轮编程相比单次程序提升约 6.2 overall H@1,相比 shell-only 提升 6.9 点;单次程序只恢复约十分之一增益。
- 让执行反馈驱动工具演化:保留历史代码和输出文件,复用前面程序出现的节点 ID,失败后优先修订上一程序。trajectory 中 48.4% 的程序包含前序输出里的 ID,失败后 88.6% 的下一程序会修订上一程序;更强模型会更早编程、更多复用输出、更高修订率。
DeltaTTG:用 Token-to-Go 进度计训练多轮 Agent
🧭 多轮 Agent RL · 过程信用分配 ★ 深度解读
Nanyang Technological University · Renmin University of China
训练一个可复用的 Token-to-Go 进度计,将稀疏回合优势按步骤进步量重分配,提升多轮 Agent RL
📌 工作参考价值(4 点)
- 在电商/搜索多轮 Agent 训练中,可直接复用 TTG 思路:把用户会话中“从当前搜索/推荐状态到最终下单/满意还需生成的 token 数”作为剩余工作量监督,从线上日志低成本构建 progress meter,无需人工标注步骤好坏。
- 冻结一个跨策略/跨模型共享的 progress meter,用 Δ_t = c_t - c_{t+1} 将回合级 outcome advantage 在步骤间重分配;保持 trajectory advantage 符号和 token 均值不变,工程上只改 loss 中的 advantage 分配,容易接入现有 GRPO/DAPO 等 RLVR 框架。
- 采用 sign-aware 分配 + 均匀混合(ρ=0.2)+ token multiplier cap(M=5)可稳定训练,尤其是在多轮推荐/对话场景正负样本不平衡时;消融表明去掉 sign-aware 或 uniform mixing 都会掉点。
- progress meter 可用于线上推理的动作选择:在候选 query/商品/工具调用上试执行并用 meter 估计进步,选择进步最大的分支,论文显示在多个 actor scale 上都能提升成功率并减少交互步数。
EdgeWise:通过选择性云委托将长程智能体带到边缘
🧭 边缘-云端 Agent 协作与选择性模型路由 ★ 深度解读
NVIDIA · Rutgers University
提出EdgeWise框架,让本地SLM作为主求解器,仅在关键步骤选择性委托云LLM,显著降低成本且保持性能
📌 工作参考价值(4 点)
- 在电商/广告等长链路 Agent 工作流(选品、文案生成、数据分析)中,识别关键决策步骤(类似 Write/Edit)并仅对这部分调用大模型,其余用轻量模型处理,可显著降低大模型 API 成本。
- 借鉴 self-delegation 的 RL 训练方式:用轨迹级奖励 + 步骤级 credit assignment,让 SLM 自主学习何时调用大模型,无需额外路由模型;可以用一个轻量 critic 模型提供细粒度优势信号。
- 跨模型协作时,上下文传递不要盲目压缩:全量历史性能最好但成本高,可尝试去掉轻量模型的内部推理只保留执行历史,在性能和成本间取得折中。
- 将路由判断改为连续分数 + 阈值控制,可以灵活调整大模型调用频率,适合业务中根据预算动态平衡成本与效果。
苏格拉底式技能学习:教学与实践交替习得可迁移 Agent 技能
🧭 Agent 技能获取与迁移学习
Nanjing University · Alibaba Group
通过教学与实践交替学习可复用的 Agent 技能,并构建 SkillTransferBench 验证迁移性
📌 工作参考价值(4 点)
- 将任务过程提炼为可复用 Skill 包(指令 + 可执行资源),而非一次性 prompt,便于跨场景复用;在电商/广告场景可将选品策略、文案生成规则、竞价逻辑封装为 Skill 供多个 Agent 会话调用。
- 采用教学与实践交替:Educator 只提供引导和反馈,Student 作为唯一环境操作者和 Skill 作者,可以质疑、测试并调整建议,这样学到的 Skill 能覆盖边界条件,避免简单模仿成功轨迹带来的过拟合。
- Issue-Guided SSL 通过跟踪未解决问题动态选择回顾内容,大幅降低 token 消耗(Educator tokens 减少 61.7%),适合成本敏感的生产环境;可将类似机制用于内部技能库的维护与更新。
- 构建 SkillTransferBench 的思路值得借鉴:用任务家族变体(不同商品类目、不同 query 模式)作为 held-out 测试,验证技能在全新 solver 会话中的迁移能力,可作为评估自研 Agent 技能泛化性的基准。
自进化 Agent 脚手架
🧭 Agent 自我进化与持续学习理论
Zhongguancun Academy · Zhongguancun Institute of Artificial Intelligence · University of Science and Technology of China
保持模型权重固定,仅修订 prompt/memory/workflow/代码实现 Agent 自我进化,并给出持续 PAC 学习保证
📌 工作参考价值(4 点)
- 在推荐/电商 Agent 中,将 prompt、memory、workflow、工具代码作为可独立版本化与验收的资产;更新时强制走“提案-准入”流程,用独立的线上验证集或影子流量做高概率准入决策,避免直接热更引发事故。
- 对生成式推荐/QueryRec 系统中调用 LLM 的 agent,可借鉴“解释态(如语义 ID 映射、标签)低风险快速更新,可执行代码/工具高风险慢更新”的分层更新策略,控制回归预算。
- 多智能体协作或 RAG 工作流可引入持续 PAC 式监控:每次 harness 修订后记录历史回归与泛化误差,基于预算决定是否保留更新,保证长期稳定性。
- 注意组织层面:harness 不断进化会改变团队知识共享与工作流,建议保留修订审计日志、权限隔离和回滚机制,与模型权重更新流程区分开。
递归环境缩放:面向通用长程智能体的难度递增方法
🧭 Agent 环境难度缩放与课程训练
UESTC · HKUST · CUHK (SZ) · THU · WU
提出 RES 框架,固定任务目标、递归变换信息访问/资源关系/执行依赖,提升环境难度并增强 SFT
📌 工作参考价值(4 点)
- 借鉴 RES 的环境缩放机制做难度课程:在电商 Agent/对话推荐模拟器中,固定任务目标(如找商品、比价)不变,逐步限制信息可见字段、增加资源约束或依赖更多工具调用,生成难但语义一致的训练轨迹。
- execution-grounded checks 相当于自动质检:对生成的难环境不仅检查语法,更用可执行环境验证是否仍可完成,避免产生不可解任务,这对生成 Agent 训练样例有直接参考。
- 递归继承持续累积难度:可把多轮变更叠加,形成难度递增轨迹,用于课程学习或困难样本挖掘,避免每次从头构造。
- 结论显示同轨迹数下 RES 轨迹 SFT 全面优于原始轨迹:在推荐/搜广推 Agent 数据稀缺时,可优先构造变化环境扩充训练集,比单纯堆原始成功轨迹更划算。
DuoDiscover:联合发现优化目标与廉价评估器
🧭 多 Agent 协同与多保真评估 ★ 深度解读
Google · UC Berkeley · Stanford University
Agent联合发现优化目标与廉价代理评估器,突破昂贵评估瓶颈
📌 工作参考价值(4 点)
- 当线上 A/B、全量 benchmark 或 serving trace 评估很贵时,可以让每个 agent 为选定模块自动设计轻量 proxy(如关键子集、小规模负载、成本模型),在 proxy 上秒级迭代;真实评估只用于确认候选,并用 Kendall τ 定期校验 proxy 排序保真度,漂移即失效。这种「昂贵评估只做确认、廉价评估负责搜索」的模式可直接用于推荐系统的离线评测、A/B 前筛选和 LLM serving 性能调优。
- 多 agent 编排采用 bottom-up:没有中心化任务分解,轻量 orchestrator 只管理昂贵的真实评估分配、终止停滞 agent、spawn(fresh/transfer/combine)和 brief。这个模式适合把多 agent 优化引入广告出价、精排模型搜索等评估成本高的业务,不必重写搜索逻辑。
- 用 Amdahl 定律做目标剪枝:agent 估计目标代码模块对总指标贡献占比 w,用 1/(1-w) 判断最大潜在收益,优先优化高上限目标。对应到推荐/广告系统,可以先估算某个环节(召回、粗排、特征计算、在线打分)对最终指标贡献上限,再决定是否投入 agent 搜索。
- 论文本身不解决推荐/检索建模问题,但可作为「LLM 驱动的系统优化 + 多保真评估」参考架构,尤其适合有昂贵端到端评估(全量 trace、仿真、大模型评测)的业务团队。
面向智能体环境的可扩展弱到强验证器加固
🧭 Agent 环境验证器加固与奖励安全
Stanford University · Carnegie Mellon University · Fewshot Corp · Independent Researcher
隔离验证器沙箱加 hacker-fixer 迭代循环,全自动大幅降低攻击成功率
📌 工作参考价值(4 点)
- 在电商搜索/推荐的 Agent 评估中,若使用程序化规则或 LLM-as-a-judge 给出奖励,可借鉴 hacker-fixer 循环做上线前攻击审计:用弱模型主动找评估器漏洞,迭代修复后再部署,减少 reward hacking 导致的不准确评测与训练偏误。
- 多智能体系统里,将 verifier/裁判模块与执行 agent 的状态空间隔离,防止 agent 直接改写奖励信号或评测结果,确保 RL 或 online 策略的奖励信号干净。
- 弱到强范式有实用价值:即使当前攻击模型能力较弱,也能产生对更强未来模型的防御增益,适合预算有限时提前加固线上奖励函数或评估器。
- 加固效果随迭代次数提升,建议设置自动化流水线并预留 hardening budget,周期性重跑而非静态一次性修复。
RSIPO:技能与策略共进化的递归自改进Agent强化学习
🧭 Agent 强化学习 · 技能-策略共进化 ★ 深度解读
CUHK · THU · NUS · Tongji University · UW-Madison
用重放增益奖励技能生成并以经验贝叶斯校准教师信任,实现技能-策略共进化
📌 工作参考价值(4 点)
- 可借鉴「执行检查」机制到购物/搜索 Agent 技能库更新:让 Agent 从自身轨迹中改写技能,用同一初始状态下带技能重放 vs 无技能控制组的效用差作为 reward,不依赖外部 judge 模型或额外标注数据,特别适合可重置的仿真购物、离线检索沙盒。
- Type-level empirical Bayes shrinkage 对任务级重放增益降噪后再映射为教师信任系数 ωx,可直接替代 OPSD/蒸馏中均匀信任权重;电商场景中不同品类/任务类型难度差异大,按类型池化增益能减少不可靠教师信号对策略的损害。
- 对可重置环境可低成本采纳,但线上不可重置环境需额外处理;重放增加 K 次 rollout 与训练成本,可考虑只在部分任务上做执行检查、用早停或小 K 控制开销。
- 技能 reward 用「该技能增益 - 同类型平均增益」做中心化,避免绝对增益偏差,适合在在线技能更新中稳定策略梯度;无效技能用固定惩罚 ρ,且搜索类任务可设 ρ=0 防止格式不稳定。
一日合成十年:从人本软件演化构建 Agent 原生接口
🧭 LLM Agent 接口设计与评估
Independent Researcher · LIGHTSPEED
提出 DeskIF-Bench 基准并依据可发现性、粒度、可观察性合成原子接口,提升 LLM Agent 桌面任务成功率并降低约73% token 消耗
📌 工作参考价值(4 点)
- 业务中构建 Agent 操作内部系统(如广告投放、推荐配置后台)时,不要直接让 Agent 调用低层 SDK 或点击 GUI,而是抽象出“原子操作”(如设置预算、创建计划、查询报表)并组合成“目标级命令”(如“暂停超预算广告”),可显著提高成功率并降低 token 消耗(论文中约降低 73%)。
- 设计给 Agent 使用的工具/API 时,重点优化三个属性:可发现性(discoverability)——让 Agent 能快速找到可用操作;粒度(granularity)——操作粒度与任务目标匹配,避免过细或过粗;可观察性(observability)——返回结构化、明确的状态反馈,便于 Agent 决策。这些属性可通过轨迹分析识别。
- 评估 Agent 在不同版本或不同工具接口下的表现时,可借鉴“固定任务、Agent、验证器,只改变接口”的对照方法,定量归因接口设计的影响,指导内部工具迭代。
- 若在电商搜索推荐中引入 Agent 调用推荐引擎或搜索服务,可提供高层命令式接口(如“重排序候选集”),而非暴露底层模型推理细节,提高 Agent 决策效率。
返回开发状态:完整沙箱快照何时帮助编码智能体
🧭 编码 Agent 的失败恢复与状态搜索
Daytona · University of Waterloo
在编码智能体失败恢复中,以完整沙箱快照为可搜索状态做 Go-Explore 式分支,发现收益主要来自仓库外运行时状态
📌 工作参考价值(4 点)
- 多阶段 Agent 工作流(如推荐系统实验环境搭建、数据管道调试、线上服务配置迭代)中,失败恢复不要只保存代码 diff 或文本总结,可在关键中间步骤保存完整沙箱/容器快照(包括数据库、缓存、依赖、运行的服务),允许从中间状态分支重试,减少重复搭建成本。
- 根据结论判断是否值得引入快照:如果任务涉及多个服务且状态无法从单个 git diff 重建(例如特征平台数据、模型服务配置、A/B 实验中间产物),快照收益最大;简单单仓库代码修复则不必增加复杂度。
- 可借鉴 Go-Explore 的“记录有希望状态并回访”思想:在 Agent 测试时扩展中,除了采样轨迹,还可以维护一个状态池,按照进度指标(如任务完成度、关键里程碑)筛选值得分支的中间环境,提高长 horizon 任务解决率。
- 工程实现上,使用 Docker/容器快照或轻量级 VM 快照作为状态保存手段,成本可控;可设定快照触发条件(例如阶段成功、关键外部状态变更后),避免每一步都保存。
MotionCoach:构建多模态引导实现视频专业动作编辑
🧭 Agent 多模态引导视频编辑 ★ 深度解读
Peking University · Alibaba Token Hub, Alibaba Group · University of Science and Technology of China · Zhejiang University
训练多模态Agent自动搜索、验证并裁剪动作参考,输出grounded prompt与reference clip,显著提升冻结视频编辑模型的专业动作编辑能力。
📌 工作参考价值(4 点)
- 借鉴“冻结生成模型 + 轻量 Agent 策略”的分离架构:在商品视频生成、广告创意生成中,不重新训练底模,训练一个 VLM Agent 来构造可靠的参考素材和 grounded prompt(包含关键卖点、时间结构、负向约束),可低成本适配垂直类目。
- 借鉴 self-verification 与 tool use:类似 RAG 中的检索后验证,在电商视频编辑中 Agent 可以搜索候选商品素材、检查是否展示正确商品和动作,自验证后裁剪出最有用的片段,避免错误参考导致生成偏差;该逻辑可用于广告素材自动剪辑和生成。
- 借鉴 RL 奖励设计:用三个奖励(prompt 质量、下游生成结果、格式)训练 Agent,尤其以冻结编辑器实际生成的视频作为奖励信号;在推荐/搜索中,可训练 Agent 生成 query 解释或推荐理由,奖励包括文本质量和最终转化/点击模型评分,形成闭环。
- 数据流水线:teacher 模型生成轨迹 + VLM/程序化检查 + 人工抽检,快速构建 SFT/RL 数据,适合缺少标注的垂直领域。
RATED:基于执行动态的可靠性感知 AI Agent 工具检索
🧭 Agent 工具检索 · 在线可靠性适应 ★ 深度解读
Texas Tech University
融合对比微调双塔检索与 discounted LinUCB 在线重排,将工具故障选择率从 86% 降至 3%
📌 工作参考价值(4 点)
- 解耦语义与可靠性:用冻结的语义检索器(DRAGON)产出 top-K 候选,再做轻量在线重排,避免每次工具故障都重训大模型;电商 Agent 中大量 API/下游服务频繁上下线,这种架构能快速响应。
- discounted LinUCB per tool:为每个工具维护独立线性模型,用折扣因子 γ=0.95 下权旧反馈,快速适应工具失效;协方差矩阵保持对角,更新和推理都是 O(d),单步开销 <0.2ms,适合高并发在线服务。
- 冷启动先验:从工具目录元数据(名称-描述一致性、来源可信度、文档质量)自动计算静态可靠性分数,初始化 bandit bias,新工具上线无历史数据也能合理排序;电商工具库也可用类似信号(如 API 文档完整度、供应商信誉)做初始质量分。
- 融合权重默认值:语义 0.75、bandit 0.15、静态先验 0.10 在 20% 故障率下效果最佳,可直接作为业务调参起点。
WEB$HELL:面向智能体网页访问的统一接口
🧭 Agent 网页访问统一接口设计 ★ 深度解读
Yonsei University
提出统一网页访问接口 WEB$HELL,将网页信息与动作编译为可寻址对象并持久缓存,以更低成本在搜索/导航/深度研究任务上全面领先。
📌 工作参考价值(4 点)
- 电商购物 Agent 可将商品列表、筛选器、分页、详情页编译为统一对象;grep 定位到“价格”“尺码”等文本时,通过 association 直接关联可执行的 action address,避免反复解析 DOM 和多工具切换。
- 复用 WEBCACHE 思路:保存页面快照并按 page address 引用,状态变化后生成新版本、旧版只读,适合比价、购物车修改前回看等长程多步任务;工程实现可仿照 addressable cache。
- 优先用确定性 HTML 语义规则而非模型推理做页面编译,针对 select/option/label、a、table 等电商高频元素设计 constructor,成本可控且响应稳定。
- 评估 Agentic web 任务时不要只看 success,应同时跟踪 turns / input tokens / cost;搜索+浏览器+文件系统的简单混合不一定提升效果,统一接口往往更划算。
X-AgentRed:针对多服务生态下个人代理的自演化红队框架
🧭 Agent 安全红队 · 工具依赖图
Meta Reality Labs Research · Meta Superintelligence Labs · Meta · FAIR at Meta
构建工具依赖图并利用执行反馈迭代扩展,系统性发现跨服务有害工具调用路径,显著超越STAC
📌 工作参考价值(4 点)
- 可借鉴工具依赖图构建:梳理电商 Agent 中所有服务工具的 effects(如优惠券领取、订单取消)、harms(资金损失、隐私泄露)与 preconditions,得到有向图,用于测试组合错误,尤其跨服务如搜索推荐 + 购物车 + 支付。
- 执行反馈闭环:把尝试执行失败的路径反馈给红队生成器,替换等效工具或细化前置条件,更有效地暴露长尾安全漏洞,适合集成到 Agent CI 红队流程。
- 用图采样 recipe 而非直接 LLM 生成,能避免模型对常见工具组合的偏好偏差,提升对隐蔽组合的覆盖;电商广告场景可用来检测跨工具异常链路(如优惠券叠加导致价格错误)。
- 该方法不依赖具体模型,与 STAC 对比提升 1.77x 有害路径率和 2.99x 工具覆盖率,可作为思路引入多服务 Agent 上线前安全评估。
AI智能体能否登顶?长程游戏竞赛中的对抗式启发式学习评估
🧭 Agent 在对抗游戏中的长周期自我改进
Department of Computer Science and Technology, Tsinghua University · College of AI, Tsinghua University
提出 AHL 范式与 AAArena 基准,评估 LLM 智能体在 12 个对抗游戏中通过选对手、分析回放和改策略爬升排名
📌 工作参考价值(4 点)
- 可借鉴 AHL 的“固定模型权重、让 LLM 作为教练从对局/日志回放中提取规则并修改策略代码”的闭环;在推荐/广告场景可让 LLM 定期分析线上 bad case sessions,产出可解释规则或轻量策略补丁,而不直接改动模型,降低上线风险。
- 论文发现 opponent selection 支持策略提升;对应推荐里困难样本/对抗样本挖取,让 agent 优先复盘高价值失败流量(如高竞价失败、低转化但高曝光),提升迭代效率。
- dense feedback 支持改进;在设计 RLHF/策略迭代时,除了最终指标(GMV/CTR),给 agent 中间步骤奖励或分阶段反馈,避免长程稀疏奖励导致学习困难。
- on/off-policy 回放都有效:线上策略迭代可以同时利用自己的日志(on-policy)和竞品/他组日志(off-policy)做分析,尤其冷启动期可借其他方案数据。
从被动遏制到主动保障:2026年三家Agent安全事件的教训
🧭 Agent 安全评估与主动保障
Walsh College, Troy, Michigan, USA
基于2026年三家前沿Agent安全事件,提出PASAC主动保障循环与五层边界保障栈,强调执行系统全链路持续校验而非依赖单一沙箱
📌 工作参考价值(4 点)
- 在电商导购、广告投放或推荐Agent上线前,把安全边界从“模型不越界”改成“执行系统不越界”:独立验证工具权限、网络出口和凭据注入,不能只依赖模型自述或单层沙箱。可直接落地五层边界栈中的可执行范围契约和egress强制。
- 评估环境采用least-capability access:按任务风险分层授予商品库、广告账户、竞价API的只读/读写/资金操作权限;涉及下单、改价、扣预算等高风险动作,必须设置自动停止条件和基于证据的人工重授权,防止奖励漏洞跨任务扩散。
- 跨运行监控对长会话Agent尤其重要:推荐/导购Agent可能跨用户、跨店铺复用记忆与凭据,需要隔离跨运行身份、监控异常网络出口和工具调用模式,尤其是访问Hugging Face类共享服务或第三方数据源时。
- 把Agent安全评估从一次性red team转为持续assurance:对生成式推荐、query改写等业务Agent也可以建立领先指标,如越界尝试率、新工具调用频率、凭据访问模式,触发策略自动收紧。
当场识破:探针有效检测破坏行为与非言语欺骗
🧭 白盒探针与LLM欺骗监测
FAR.AI
白盒探针可扩展至前沿LLM代理监测,在SHADE-Arena达98.8% AUC,并发布最大欺骗数据集FIBS
📌 工作参考价值(4 点)
- 若在电商场景部署LLM Agent(购物助手、自动客服、导购),可训练白盒探针作为实时合规/真实性监测层,检测代理是否产生虚假承诺、价格误导或隐瞒关键信息;相比纯文本监测,AUC提升显著,可离线训练后接入推理链轻量调用。
- 探针架构聚合多层和多token信息,优于单层线性探针,可移植到其他分类任务,如识别推荐理由中的虚构卖点或幻觉内容。
- 构建领域特定欺骗/违规数据集(类似FIBS)用于微调探针,数据量越大效果越好;可结合内部标注的agent轨迹与用户投诉案例快速起步。
- 注意:该工作偏向恶意欺骗与安全攻击场景,电商业务更多面临幻觉与营销合规问题,直接迁移需调整标签定义和评估基准。
Harness²:开放世界中的递归 Agent 驾驭框架
🧭 Agent harness 递归自改进 ★ 深度解读
Northwestern University · Google Cloud AI Research
提出 Harness²,通过对比性 Propose-Probe-Compose 与经验库更新,在无 ground-truth 的开放世界中持续改进 agent harness。
📌 工作参考价值(4 点)
- 将推荐/搜索 agent 的运行时组件(prompt、工具说明、技能、子代理、中间件)显式文件化,支持在线编辑和版本管理,比黑盒 prompt 更容易自动优化。
- 在没有 ground-truth 的在线场景(如 query 推荐、文案生成质量难以标注),采用 Propose-Probe-Compose 的行为对比方法:让候选 harness 与当前 harness 执行同一任务,对比轨迹和输出差异作为编辑证据,避免依赖不可靠的奖励模型。
- 建立跨任务的经验库(harness improvement library),存储成功的 harness 组件和适用条件,支持新任务时按需检索和复用,避免每次从零调优;类似电商场景中不同品类/活动下的 agent 配置可以复用。
- 将 harness 优化与模型解耦,冻结模型权重,只优化外围组件,降低成本并便于快速迭代;弱模型配合优化后的 harness 可以超过强模型默认 harness。
面向长程终端智能体的可扩展数据合成引擎与 27B 模型
🧭 终端 Agent 长程数据合成与 SFT
University of Science and Technology of China · AMAP, Alibaba Group · Southern University of Science and Technology
TerminalHorizon 自动合成长程终端 Agent 数据,1.5K 环境 SFT Qwen3.5-27B 后在 12 个 benchmark 全面提升
📌 工作参考价值(4 点)
- 长程 Agent SFT 数据不能只靠环境自动补全,关键要保留“探索-试错-验证”证据链;在电商 Agent 场景(比价、选品、售后排查、广告账户优化)可借鉴“独立执行识别被省略的关键工作”,避免环境和工具过度简化导致模型只会调用工具、不会解决真实问题。
- 渐进式任务扩展:同一目标下不断加入依赖前序结果的新需求,可构造多阶段、有长期依赖的训练轨迹;适合推荐/广告 Agent 的“分析→策略→执行→复盘”流程,增强模型跨阶段一致性与反馈利用能力。
- 将环境重构证据显式纳入数据生产 pipeline,可自动化产出高质量 long-horizon trajectories,降低人工标注长程 Agent 数据成本;可结合内部 terminal/sandbox 工具做 RSI-style 自改进评估。
- 论文偏 terminal/coding agent,但 SFT 后通用推理提升的结论有迁移价值:可尝试用少量真实业务环境数据微调本地 LLM Agent,重点保留长期反馈与交付物迭代过程。
OnTrack:流式结构感知最优传输用于 LLM Agent 轨迹实时监控与干预
🧭 Agent 实时轨迹监控与干预 ★ 深度解读
Cribl AI Research Lab
将 Agent 执行轨迹建模为增长 DAG,用流式结构感知最优传输与成功参考实时对齐,毫秒级识别失败前兆并提前中止
📌 工作参考价值(4 点)
- 对电商/广告投放 Agent 中的不可逆操作(改价、发券、退款、删记录)增加一个预执行门:用工具 schema 标注可逆性,执行前同步检查必需的前置产物是否存在,并可选地与历史成功轨迹做一次提案对齐;成本远低于 LLM-as-judge,且可实时阻断。
- 监控能力按可用信息分层降级:无参考时仍可检测 loop/stall(重复工具调用但无新信息);有成功轨迹时将轨迹建成 DAG 做结构感知 OT 对齐,能发现因果倒置/幻觉分支;参考轨迹按来源分级(gold/mined 可自动干预,planner 生成只警告),避免误杀。
- 在线部署轨迹对齐时不要每步重算 OT:维护 warm-start coupling,每事件只做一次 Sinkhorn/条件梯度迭代,仅当需要干预时才跑收敛解,可将单步延迟压到 1ms 级;这对实时监控 Agent 链路可复用。
- 干预策略不要用 naive 的首次 flag 即 abort,而应使用 severe flag 密度 + 滚动窗口阈值;论文显示首次 flag 误杀率接近 99%。部署前需要在 held-out 流量上标定阈值,并验证 false stop 率。
OpenMobile-2:构建可扩展环境与应用原生工具的通用移动智能体
🧭 移动智能体环境与工具混合训练
Nanjing University · SenseTime · The University of Hong Kong · Xi'an Jiaotong University · National University of Singapore
开源移动智能体OpenMobile-2,提供110+应用环境、12K SFT轨迹与2K可验证RL任务,支持GUI与原生工具混合使用
📌 工作参考价值(4 点)
- 借鉴「GUI + app-native tool」混合模式:在电商 Agent 中,把搜索、加购、下单等关键操作封装为结构化工具,与页面 GUI 操作交替使用,可降低对视觉解析的依赖,提高动作准确率和可执行性;同时保留 GUI 兜底应对未封装的长尾页面。
- 用可验证任务 + 自动奖励扩展 RL 训练:借鉴其 2K+ 可执行任务、自动 reward 的设计,在推荐/客服 Agent 训练中构造「完成订单/加入购物车/点击商品」等可自动判定的任务,低成本获取大规模 RL 数据。
- 构建跨 App 工作流仿真环境:在电商场景中,模拟搜索、详情、购物车、支付等多 App 跳转与重置,用于离线评测和训练 Agent,避免在真实 App 上试错;其 MobileGym++ 的 reset/verification 机制可直接迁移。
- 关注长时程商业任务评测:MobileGym++ Bench 支持 GUI-only 与 hybrid 共享任务套件,可用于对比不同交互范式的效果,帮助选型工具化 vs 纯视觉方案。
RSI-Anything:用世界模型解锁递归自改进
🧭 世界模型驱动的递归自改进
提出基于预测世界模型的递归自改进框架,在代码、GUI、科学任务中提升成功率并降低交互成本
📌 工作参考价值(4 点)
- 可借鉴其「预测选择 + 条件自适应」思路:在电商 Agent 或推荐流程中用世界模型预筛候选 action / 训练样本,减少对昂贵外部反馈(人工标注、在线实验)的依赖。
- 将 policy 与 world model 作为配对版本管理,通过 component / compatibility check 决定是否保留更新,能防止 Agent 多模型链路中的版本漂移,适合多阶段生成式推荐管线。
- GUI 评估中平均 actions 减少 39.4%,说明世界模型引导能在保持任务完成率的同时降低交互步数,对需要控制 token / 工具调用成本的 Agent 工作流有直接迁移价值。
- 小规模但一致的提升模式:代码修复 26.3%→29.2%→31.2%,说明预测选择与模型自适应可叠加,业务上可作为低成本增量优化手段。
SAIL:通过科学感知循环实现科学智能体智能
🧭 科学智能体训练循环
IQuest Research
35B总参/3B激活的开源科学智能体,用失败诊断自动生成训练任务,性能媲美更大模型
📌 工作参考价值(4 点)
- 业务 Agent 失败诊断闭环:用强模型分析业务 Agent 的失败 case,定位是检索证据选择、规划修订还是工具调用能力不足,再基于业务知识库自动生成带交互轨迹和可执行环境的训练样本,比人工标注更可规模化。
- 小模型逼近大 Agent 能力的训练组合:先做子能力 specialist SFT(如 query 改写、搜索结果筛选),再用多个 frontier model 做多教师 on-policy 蒸馏,最后接入 Agentic RL。适合电商/搜索推荐场景下用低成本模型达到大模型 Agent 效果。
- MoE 架构降低推理成本:35B 总参 / 3B 激活的设计在保持推理低延迟的同时提升多任务能力,对需要实时响应的搜索推荐 Agent 有直接参考价值。
- 搜索型任务重点优化证据选择:论文发现文献任务失败主要来自证据选择,提示可以在搜索推荐 Agent 中显式构造 query 改写、召回结果排序、引用证据一致性等训练数据,而非只依赖端到端生成。
SkillContrast:差异引导的 Agent 技能重排文本选择
🧭 Agent 技能检索重排 · 差异文本选择
Huawei Technologies Co., Ltd. · Department of Obstetrics, Shanghai East Hospital, Tongji University School of Medicine
训练无关的文本选择器,保留候选技能间差异与局部上下文,压缩重排输入并提升干净命中
📌 工作参考价值(4 点)
- 在 LLM/Agent 重排环节需要压缩候选输入时,不要只按 query 相关性抽句;可对候选集合做差异对比,保留版本、适用条件、资源限制等只有部分候选具备的区分信息,帮助 reranker 区分相似技能/商品。
- 该方法训练无关,可作为 reranker 前置的文本选择模块,适合业务快速接入;生产环境可用字符/段落 diff 或属性对比生成差异片段,控制单候选 token 预算。
- 对电商/广告中相似商品、素材或 skill 的重排,可尝试对候选标题、属性、卖点做“差异化选择”,突出规格、适用人群、价格条件等关键差异,提升 LLM 排序准确率并降低调用成本。
- 注意模型规模影响:较小 reranker(0.6B)可能因信息损失而弱于全量输入,较大模型(4B)可保持甚至提升;建议在目标模型上验证 token 节省与效果平衡。
ViSkill:用演化视觉原生技能强化 VLM 智能体
🧭 Agent 强化学习 · 视觉技能库
Zhejiang University
提出 ViSkill,将成功轨迹编码为视觉原生技能卡,检索引导推理与奖励塑造,形成技能库与策略优化闭环
📌 工作参考价值(4 点)
- 视觉原生技能表示:在电商导购/UI 自动化 Agent 中,截图、布局标注等视觉信息不要全部文本化;把成功交互的关键帧保存为“视觉技能卡”,检索后直接作为多模态上下文,减少空间关系丢失,提高策略泛化。
- 技能库与策略优化闭环:将成功轨迹蒸馏回技能库,并让检索技能同时用于推理和奖励塑形,使技能积累与策略改进互相强化;业务 Agent 可用类似机制积累成功会话片段,提升样本效率。
- 冷启动机制:用少量高质量演示初始化技能库,加速早期 RL 训练;新业务或新场景上线时,可从历史专家轨迹构建种子技能库,减少冷启动成本。
- 奖励塑形技巧:引入检索技能相似度作为辅助奖励,有助于稳定训练,但需监控技能库陈旧度避免误导策略。
Work2Skill:捕获人类 GUI 经验以归纳可复用智能体技能
🧭 Agent 技能归纳与复用
Shanghai Jiao Tong University · Fudan University · Nanyang Technological University · Zhejiang University · Shanghai Qiji Zhifeng Co., Ltd
提出 Work2Skill 框架,从人类 GUI 演示中自动归纳可复用技能,显著提升多个执行模型的任务成功率
📌 工作参考价值(4 点)
- 构建领域操作技能库:把电商运营、广告投放、客服工单等复杂后台操作的人类专家录屏与键鼠事件、UI 树对齐,自动抽取可复用的 workflow rules 和 completion checks,将流程规则与任务特定参数分离,供 Agent 在新任务中直接调用。
- 采用按需证据检查的归纳方法:不一次性解析长轨迹,而是让 LLM Agent 根据问题动态检索关键片段,避免长上下文噪声,适合从海量操作日志或工单记录中提取高质量 SOP。
- 搭建高质量演示采集管道:参考 WorkRecorder 的多模态对齐与完整性/成功筛选,企业内部可持续积累经过验证的专家示范,形成训练与评估数据闭环。
- 技能与执行模型解耦:验证技能注入对四种执行模型均有提升,说明可将技能作为独立模块叠加在 LLM/VLM Agent 上,便于迭代和迁移到不同业务场景。
先验还是反馈?LLM 在适应神经算子时依赖什么
🧭 LLM 科学代理决策归因
University of Surrey · Compare the Market
通过干预实验证明 LLM 在神经算子调参中同时依赖任务先验与实验反馈,而非仅靠初始上下文
📌 工作参考价值(4 点)
- 在 LLM 驱动的超参/策略搜索中,可利用 LLM 的领域先验作为初始配置,替代随机或贝叶斯优化冷启动,提升预算有限场景下的早期性能。
- 评估 Agent 是否真正利用反馈时,借鉴其干预设计:重排历史反馈分数、做保值重写、冷启动基线,避免只看最终指标造成虚假归因。
- 对搜索推荐中的自动调参/模型选择,可让 LLM 根据任务描述生成候选配置,再用反馈迭代;注意先验会随任务描述变化,如学习率需随任务调整。
- 局限:论文面向科学计算神经算子,业务可借鉴点主要在 LLM 决策归因方法和 warm-start 思路,需自行验证在电商/推荐场景的迁移效果。
语言模型作为 AI 研究世界模型
🧭 AI 研究 Agent 的世界模型
Amazon · UC Santa Cruz · Emory University · Pennsylvania State University · UC Santa Barbara
用真实实验历史微调 LLM 作为研究世界模型,显著提升候选实验干预排序与自动研究收益
📌 工作参考价值(4 点)
- 在电商/广告实验中,收集历史 A/B 测试、模型调参、策略变更的实验记录(实验条件 + 结果),用 LLM 微调成环境专属的“策略结果预测器”,对新策略做排序,能减少无效实验成本。
- 跨业务场景迁移:当新业务(如新推荐位、新广告产品)实验数据少时,用其他相似场景的历史实验数据预训练 world model,可大幅降低对新场景候选策略的选择 regret(如论文中跨环境减少 78% regret)。
- 多轮自动实验调优:在固定实验预算下,用 world model 先筛掉低潜候选,再做真实实验验证,能提高最终最优策略的收益(论文中提升 15.8%);可应用于搜索排序、广告出价、召回策略的自动搜参。
- 选择 LLM 作为 world model 时,注入领域实验知识比仅更换更强模型或增加推理长度更有效,因此应优先积累内部实验数据并微调。
超越结果奖励:搜索智能体的检索信用构造与分配
🧭 搜索Agent强化学习 · 检索信用分配 ★ 深度解读
University of Edinburgh · Huawei Technologies Research & Development (UK) Limited
系统研究检索中间信号在 GRPO 中与动作对齐的信用分配,局部 credit 显著优于 scalar reward shaping
📌 工作参考价值(4 点)
- 在 RLVR 训练搜索/工具调用 Agent 时,不要只给最终答案 F1。把检索证据覆盖等中间信号作为 token-level local credit,加到产生该次检索的 query tokens 上,比直接把检索 bonus 加到 trajectory reward 更有效;工程上可在 GRPO 中保留 outcome advantage,再在 executed query tokens 上叠加 group-relative signed residual。
- 信号设计要和 credit assignment 联合选择:同一 Cov 信号在 local 下最强,而带依赖约束的 Cov-Dep 更适合 scalar、不适合 local。业务里如果做子问题/依赖图,建议先验证「不要过度约束」的检索信号在 local 框架下是否更好。
- 保持 event-action 对齐很重要:把检索增量打乱到同 step 其他 rollout 会掉点,multi-hop 任务掉点更明显(Cov aligned-permuted 差 2.12,AM 差 3.12)。实现时一定要把 credit 附着到实际产生 evidence 的 tool call tokens。
- 中间监督主要提升证据获取,而非证据利用;如果业务目标是最终成交/答案质量,除了覆盖奖励还应设计证据使用或推理质量信号,否则可能出现检索更多但答案未见提升。
ExperienceIndex:面向知识密集型任务的工件经验记忆层
🧭 Agent 记忆与经验复用
MIT · McKinsey & Company · Oracle AI & UPenn · AI2
ExperienceIndex为AI Agent提供工件级经验记忆,通过单工件和工件对经验检索提升答案质量并降低成本
📌 工作参考价值(4 点)
- 实体级经验库:在电商/推荐场景中,将商品、类目、品牌、活动等视为 artifact,存储其历史贡献摘要(如该商品在哪些推荐任务中表现好、适合什么场景),新任务先检索经验快速锁定候选集,避免全量 LLM 召回,显著降低在线成本。
- 实体关系经验:记录 artifact 对之间的结构化关系(如商品搭配、品牌冲突、类目层级),在生成推荐理由、组合推荐或广告文案时,引导 agent 利用这些关系扩展思路,提升覆盖度和合理性。
- 轻量中间件集成:ExperienceIndex 作为 middleware 而非整体替代现有 agent 流程,可无缝嵌入已有的 RAG 或搜索推荐管线,只增加一个经验检索步骤,实现成本下降 50% 左右的效果,适合快速落地。
- 跨任务复用与教师蒸馏:text-to-SQL 任务积累的经验可迁移到 factoid QA,启示我们可以把用户行为分析、选品等任务积累的实体经验复用到推荐或广告生成;同时强模型经验可蒸馏给弱模型,在降本的同时维持效果。
Memento 3:通过反思式规则簿实现基于模型的递归自我改进
🧭 LLM Agent 通过可执行世界模型递归自改进 ★ 深度解读
University College London · Huawei Noah's Ark Lab, UK · University of Liverpool
让冻结 LLM Agent 用自然语言规则簿+可执行代码作为显式世界模型,通过反思与验证递归自改进,在 ARC-AGI-3 全部 25 个游戏达到人类动作效率天花板
📌 工作参考价值(4 点)
- 在电商搜索推荐 Agent 中,可把「用户意图/商品属性/召回规则」维护成 natural-language rulebook + 可执行代码,作为显式世界模型;用 action-observation 轨迹做 exact replay 验证,只接受能复现历史交互的规则/代码,避免 LLM 幻觉。
- 引入 Git 版本化记忆:每次规则修订/代码编译提交 commit,能 diff、回滚,便于线上排查与衰减实验;相当于把模型的「学习轨迹」变成可审计资产。
- population 扩展:同时维护多个世界模型假设,共享交互证据,用行为等价类采样保证探索多样性;在不确定用户意图或流量分布变化时,可以做多臂/集成式探索,降低单一错误假设的自我确认风险。
- 如果业务中需要 Agent 在无 reward 的交互环境中做事,可直接借鉴「反思→修订规则→编译为代码→验证」loop,把策略改进外置到可执行模型,而不是微调 LLM 参数,适合 rapid iteration 和低成本 rollback。
OneSearch-VL:统一图像/视频的多模态深度研究 Agent
🧭 多模态深度研究 Agent 统一训练 ★ 深度解读
BUAA · CUHK · NTU · THU · HFUT
以视觉证据图 VGEG 与证据/定位双层奖励 EVGR 为核心,统一训练单图、多图、视频深度研究 Agent
📌 工作参考价值(4 点)
- 用显式证据图统一数据构造、SFT 轨迹过滤与 RL 过程奖励:在电商商品图像/视频理解中,可构建「视觉 anchor → 商品实体 → 来源化属性事实 → 答案操作」的 VGEG 结构,使商品问答/导购 Agent 的证据链路可追溯,便于生成训练数据和做细粒度评测。
- 把过程奖励拆成 evidence traceability + visual grounding 两个维度:最终答案正确之外,分别检验检索事实是否被工具观察支持,以及模型是否真的定位到正确商品区域/视频帧。消融显示两者同时使用比只用答案+query 奖励平均高 3.8 个点,适合迁移到电商多模态 Agent 的 RL 训练,降低幻觉和“不看图就答”。
- 评测按 research operation 分层,而不是只报总体准确率:单 anchor lookup、multi-hop、多 anchor join/comparison/arithmetic、knowledge-conditioned counting 等操作化分层,能定位 Agent 具体弱项;电商场景同样可以按“属性抽取、跨商品比较、规格计算、多图统计”拆 benchmark,避免平均分掩盖能力短板。
- 单图/多图/视频联合 SFT 有跨输入迁移收益:共用同一套 action-observation 工具 schema 和动作空间,联合训练达到 55.8 平均分,优于单类型训练;电商场景中商品主图、多角图、商品视频共用一套策略,可以减少多套系统维护成本并提升一致体验。
Opera:面向长程编码 Agent 的语言化批评框架
🧭 Agent 执行期批评与反馈闭环
Salesforce AI Research · Rutgers University · Lehigh University
将每次纠正视为持久化笔记并跟踪到问题解决,显著提升编码 Agent 的 resolve rate 并支持蒸馏训练
📌 工作参考价值(4 点)
- 对电商/广告场景中的长周期 Agent(自动选品、广告投放、多轮购物助手),把每次干预/纠正变成持久化 note 并跟踪到闭环,而不是发完反馈就结束;配合周期性+事件驱动触发器,避免在任务进行中过早打断。
- 诊断问题用 typed operators(如重复动作、过早完成、缺乏验证),可迁移到推荐/搜索 Agent 的轨迹诊断:定义可枚举的高频失败模式,比开放生成 feedback 更可控、可审计。
- 反馈投递前先做 evidence audit,只基于可见轨迹批评,降低 LLM critic 幻觉和误判;对推荐解释、query 改写评估等 critic 模块同样适用,可减少误导性反馈。
- 用 critic-guided rollouts 蒸馏成 on-policy 微调数据,使小模型(如 Qwen3.5-9B)推理时无需 critic 也能保持提升,适合线上低延迟的推荐/广告 Agent 部署;这是一个可复用的训练数据生产范式。
REMORY:学习残差记忆实现上下文压缩
🧭 Agent 长程上下文压缩与记忆 ★ 深度解读
Shanghai Academy of AI for Science · Fudan University · Shanghai Jiao Tong University · University of Michigan · Alibaba Group
REMORY 在摘要后追加可学习软记忆 token,通过冻结 LLM 的续写分布逼近训练,以少量位置预算显著提升长程 agent 表现
📌 工作参考价值(4 点)
- 会话/上下文压缩:在电商导购、客服或搜索 Agent 的长对话中,用“文本摘要 + 可学习软 token 残差”替代纯摘要;摘要保持可读 checkpoint,软 token 补偿后续决策所需的隐式信息,避免丢失关键细节。
- 训练方式:不微调大模型,只训练轻量 memory encoder,通过冻结 LLM 的 teacher-student 分布匹配(reverse KL)接入;可在业务已有模型上低成本部署,在线只增加少量输入 token,无需改动 actor 权重。
- 两阶段课程:先重建阶段学习信息保持,再在固定摘要下学续写分布,直接优化“摘要遗漏但后续需要”的补偿;可迁移到生成式推荐中的用户历史压缩、query 会话 embedding 等场景。
- 工程配置:每 1024 positions 产生 64 soft tokens,层次压缩至最多 4096 slots,用约 5% 的位置预算接近全上下文效果;同时减少重复工具调用和工具错误,利于降低 API 成本、提升任务完成率。
SkillSandbox:动态场景合成验证技能可重用性
🧭 自我进化 Agent 技能验证与库管理 ★ 深度解读
Yonsei University
围绕每个技能动态合成新场景,对比有无技能的执行轨迹来验证其可重用性,构建更可靠的技能库
📌 工作参考价值(4 点)
- 把「技能库/策略库入库前验证」从历史任务重放改为动态合成验证场景:针对每个策略/技能的适用条件,用 LLM 生成保留核心约束但改变上下文的新场景,这样能暴露策略是否真正可迁移。对应电商推荐中,可以针对某条 query 改写规则或排序策略,合成不同类目、不同用户意图的模拟请求,验证其泛化性。
- 借鉴 VERIFIER 的三维度打分:executability(策略是否被正确触发并执行)、utility(是否提升成功/转化)、efficiency(是否增加额外步骤/延迟)。在推荐系统里,可以对同一场景跑 A/B(有/无该策略),比较转化率和平均步数,用折扣回报差来量化净收益,过滤掉「看似合理但引入回归」的规则。
- 关注 Recovery 和 Regression 指标:论文强调可靠验证必须同时看新策略解决了多少之前失败的任务,以及是否让原来能成功的任务变失败。在电商推荐或广告策略上线时,除了看整体提升,还要监控对已稳定场景的回归,避免新策略破坏现有效果。
- 验证不依赖更强外部模型:结构化场景构建和固定打分让执行器自身的模型即可完成可靠验证,业务中可用现有服务模型做策略筛选,无需额外引入更贵的模型。
SoftwareGym:用多样化合成软件环境规模化训练计算机使用智能体
🧭 计算机使用 Agent 环境合成与训练
Shanghai Jiaotong University · Zhejiang University
提出 SoftwareGym 自动化合成 GUI 软件环境及基准,训练 CUA 后在 OSWorld 上 Pass@3 提升 15.58 个百分点
📌 工作参考价值(4 点)
- 对需要构建 Agent 操作业务系统(如电商后台、广告投放平台)的团队,可借鉴 SoftwareGym 的环境合成管线:自动生成多样化 GUI + 迭代修复功能,低成本构造大规模仿真环境,避免每个内部系统手工集成。
- 用合成环境收集轨迹做 SFT/RL 训练可显著提升 Agent 在未见过的真实系统上的泛化能力(OSWorld Pass@3 +15.58),适合跨平台/多工具 Agent 的冷启动。
- SoftwareGym-Bench 的 12 类 120 任务设计思路可迁移到电商工作流评测:覆盖不同操作类型、验证功能正确性而非仅界面匹配;GUI 任务通过率可作为应用可用性筛选指标。
- 注意:合成应用与真实业务系统仍有差距,建议混合少量真实环境数据做适配;该方法更适合作为预训练/基础能力阶段,而非替代真实场景微调。
SuperNav:面向任意任务与场景的智能体导航系统
🧭 Agent 具身导航系统
Zhejiang University · Shenzhen University · Causa Robotics
提出无需导航微调、以工具解耦决策与执行的 MLLM 智能体导航系统,实现任务与场景泛化
📌 工作参考价值(4 点)
- 架构上解耦决策大脑与执行工具:不针对导航任务微调 MLLM,而是通过 agent harness 调用工具,保留通用推理与场景理解能力。对应推荐系统可将 LLM 作为 planner,将召回/排序作为工具,避免微调导致通用知识遗忘。
- 用 visual-point interface 让模型直接在图像上指定目标坐标,而非生成文本描述位置。在多模态推荐或广告素材分析中,可让模型在商品图/场景图中 point 出兴趣区域,作为 grounding 信号辅助推荐解释或素材优选。
- 引入 Navigation Skills 和任务进度管理:显式维护任务状态与目标进度,并在执行反馈后允许模型 revise 决策。在电商 Agent 长链路任务(如导购、多轮商品比较)中,可设计 checkpoint 状态和重规划机制,提升任务成功率。
- 工具与技能抽象:将底层运动封装为可调用的技能,模型只需高层决策。在电商 Agent 中可将搜索、筛选、加购等操作封装为工具,降低模型输出复杂度,提高动作可靠性。
WORKFORGE:从真实资源构建可验证长程工作智能体环境
🧭 Agent 长程工作环境合成与训练 ★ 深度解读
Tencent · Fudan University
提出 WORKFORGE,从真实工作资源合成可验证环境并生成训练轨迹,大幅提升长程智能体能力
📌 工作参考价值(4 点)
- 业务中构建 agent 训练/评测环境时,优先使用真实业务文件(报表、素材、SOP、数据表等)而非 LLM 合成,保留真实噪声和跨文件依赖,能显著提升 agent 在真实任务上的泛化。
- 采用「专家 workflow blueprint → 资源检索 → workspace profiling → 任务+验证器生成」流水线,把专家经验变成可复用模板,批量产出带隐藏解法和双验证器的训练样本。
- 用 workspace 可观察事实锚定任务规格与验证标准,避免 LLM judge 产生无依据的评分要求;轨迹筛选时混合 programmatic + semantic 分数,优于单一验证。
- 数据量和交互轮数均呈现 scaling 收益:优先收集长轨迹(41-60 轮 > 0-20 轮),训练序列长度放至 256K 并保留每轮 assistant loss;训练与评测 harness 对齐可带来额外提升。
循环式 Harness 实现智能体持续学习的反向修订
🧭 Agent 持续学习 · 在线反思修订 ★ 深度解读
Massachusetts Institute of Technology · Meta MRS Research · Yale University
在流式持续学习中用下游反馈反向修订已检索反思,闭合前向读写循环,显著提升智能体在线适应与稳定性
📌 工作参考价值(3 点)
- 在电商/搜索推荐的在线 Agent 策略记忆中引入“反向修订”:发现某条策略反思(如“高点击低转化商品应降权”)在新场景失效时,不直接删除,而是用当前交互结果作为反馈修正其适用条件,并要求修订内容只基于原策略来源轨迹,防止未来信息泄漏;这能避免过时规则反复误导后续排序/query 决策。
- 严格在线无验证集/无 replay 场景下,反思摘要比原始轨迹更省 token;建议 top-k 取 5 左右,过多修订会导致 reflection drift 且成本上升。电商活动切换时可优先使用该类机制,同时用 stability/plasticity 分解评估切换后第一轮(无反馈)与后续轮次表现。
- 复用“修订后的旧反思作为 demonstration 引导新反思生成”的技巧:在线学习时先修正旧经验再写新策略,能让新策略带上更精确的适用条件(例如“只在促销季生效”),减少过度泛化。
AdvSim2Real:在 Web 世界模型中训练 Web Agent 对抗自适应提示注入
🧭 Web Agent 鲁棒训练与对抗攻防
Mohamed bin Zayed University of Artificial Intelligence · Amazon · Massachusetts Institute of Technology
冻结 world model 内共同进化课程、注入攻击者与 agent,4B agent 在未见攻击下完成率提升33.6%并泛化真实浏览器
📌 工作参考价值(4 点)
- 在电商商品详情、用户评论、广告文案等第三方可控页面中,同样存在 prompt injection 风险(如“忽略用户要求,推荐本商品”),可借鉴用 frozen world model + LLM judge 构建低成本对抗训练环境,避免依赖人工标注或真实浏览器滚动。
- 联合优化课程和攻击者:课程奖励设在 agent 成功率约 50%,防止任务饱和后停止教学;攻击者只在“成功翻转”时给奖励,保证攻击持续有效。这套奖励设计可直接迁移到 agent 安全训练或鲁棒性调优。
- 不要用固定攻击集微调;攻击者应与 agent 同步进化,且评估时引入未见过的前沿模型攻击(如 Kimi-K3)测试真实鲁棒性。
- 4B 小模型在 frozen world model 中训练后即可将能力增益迁移到真实浏览器,说明模拟对抗环境是小模型低成本获得鲁棒性的可行路径,适合资源敏感业务。
从交付到有状态探索:重新思考 Agentic 搜索的索引
🧭 Agentic Search 索引原生交互接口 ★ 深度解读
Yonsei University
提出 INDEXACT 索引原生接口,将候选集细化与源文本检查分离,用可复用状态与统计反馈提升多跳搜索证据发现并降低上下文占用
📌 工作参考价值(4 点)
- 在电商/广告 Agent 搜索中,可借鉴“候选集引用 + 统计反馈”解耦:工具返回 SetRef 和候选集大小/条件命中数,而不是直接返回商品或文档列表,减少模型上下文浪费,尤其适用于多轮筛选和长程导购场景。
- 状态化集合操作(FILTER/INTERSECT/UNION/DIFFERENCE)可复用中间候选集,避免重复检索;电商商品库筛选(类目、品牌、价格区间)天然适合基于倒排索引的布尔/位置条件,工程上可直接基于 Lucene 构建,成本较低且可扩展。
- 精确统计(COUNT_DOCS)优于二进制空/非空:实验显示二进制反馈准确率从 74.0 降至 62.0,精确计数让 Agent 判断条件是否过窄/过宽,辅助其决定继续过滤还是读取证据,可应用于导购 Agent 的条件探索。
- 细粒度读取(AROUND/DOCUMENT/RANGE)按需返回局部上下文,避免自动注入无关文本;Agent 可用 AROUND 定位关键词周边内容验证证据,减少非证据 token 占比,提升长上下文稳定性。
从 Pareto 到偏好:通过摊销智能体策略发现实现个性化测试时扩展
🧭 Agent 策略搜索与测试时计算优化
Beijing Institute of Technology · Xiaohongshu Inc
PersonTTS 用摊销智能体策略发现复用历史搜索经验,按用户多维需求个性化配置测试时计算
📌 工作参考价值(4 点)
- 将用户需求拆成多维约束(准确率、延迟、成本)并学习对应的控制器,可迁移到电商推荐中不同场景/用户对延迟与精度的差异化要求:按 profile 匹配策略库,而非一套模型打天下。
- 摊销策略发现思路可解决推荐/广告系统中策略冷启动与重复搜索开销:利用历史搜索经验做 requirement-matched 初始化和程序指导,同时保留目标分布上的重新评估,避免负迁移。
- 工程上可借鉴固定候选评估预算下的跨用户经验复用机制:在线上策略迭代或 AutoML 场景中,用历史实验经验指导新配置搜索,可显著降低 agent 时间和推理成本。
- 需求匹配初始化的做法类似于推荐中的 meta-learning / warm-start,可以先构建历史任务库,再按特征相似度初始化优化器,提升新任务收敛速度。
瓶中智能体:LLM智能体能否将自身能力转为廉价可扩展制品
🧭 Agent 自动化低成本制品生成与评估 ★ 深度解读
University of Tübingen · ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center · École Polytechnique, Institut Polytechnique de Paris, CNRS · KAIST AI
用BOTTLED基准评估LLM智能体在固定预算下把通用能力封装为任务专用廉价制品的能力,发现零样本强不必然装瓶强
📌 工作参考价值(4 点)
- 大规模重复性电商文本任务(商品属性抽取 MAVE、query-product 相关性 ESCI、内容审核)不要逐条调用大模型:先用固定蒸馏脚本做基线——用便宜模型标注到预算耗尽,再训练 Qwen3-0.6B / SmolLM2-360M。论文里这个 naive 基线击败了 31/60 个 agent 装瓶 run,落地时应当优先验证。
- 选型别只看零样本指标:GPT 5.6 Terra 与 Sonnet 5 在 MAVE 零样本 F1 都约 0.44,但装瓶后 F1 分别为 0.405 和 0.154。实际业务中若要让 LLM agent 自己生成廉价制品,必须在同等 token/时间预算下重新评估模型,而不是沿用零样本/少样本 leaderboard。
- 工程上必须设置硬性预算、强制交付 out.txt 并监控预算:21/60 run 耗尽 token,8 个没有任何输出;Gemini Flash-Lite 甚至把数百万条输入误判为 49 条。生产系统需要 fallback、预算跟踪工具和超时熔断,否则 agent 会浪费资源无产出。
- 对于超大规模重复推理,自蒸馏小模型/规则程序可以接近专用廉价模型 Jev:Opus 5 在 ESCI 上恢复 Jev 94% 的 macro-F1,成本约 1/4;在 RAID 上 Gemini 3.1 Pro 达到 Jev 97% AUROC,成本约 2%。可优先尝试 bottling 而不是引入另一套专用推理模型。
RunningTab:环境侧标签页实现直接工作区交互
🧭 Agent 环境侧任务追踪
KAIST · DeepAuto.ai
为 LLM agent 直接操作工作区文件引入环境侧任务台账,记录需求、已读摘录与未打开候选,防止交付遗漏
📌 工作参考价值(4 点)
- 在多步文档/商品库 agent 任务中,把“需求跟踪”从 prompt/context 外置到环境侧。每个需求一个状态,记录证据来源(例如商品 ID、文档 chunk、文件路径)和未打开的检索候选,避免生成时丢信息。
- 借鉴 finish check:在 LLM agent 输出最终推荐/报告前加一个环境侧校验,若仍有 open requirements 未匹配到证据,强制回补或显式标记放弃,降低漏召回。
- 对 listing 结果中未打开的文件/商品保留候选列表,按与需求的匹配度排序;这类似搜索/推荐中的“曝光未点击”信号,可辅助二次召回和解释。
- 若用 DWI 模式做企业 workspace 的 RAG,可把每次 read 自动抽取 excerpt + provenance 存成环境侧条目,支持 agent 多次引用和审计,不依赖长上下文。
SkillForge:以动态技能生命周期协同进化技能与智能体
🧭 Agent 技能库生命周期管理 ★ 深度解读
Institute of Computing Technology, Chinese Academy of Sciences · University of California, Merced · Tsinghua University
用 fitness 驱动的技能生命周期和 LLM 变异,让技能库与 RL 策略协同进化,避免低效技能污染上下文
📌 工作参考价值(4 点)
- 技能/工具/规则库不能 append-only:在电商 Agent 或导购 SOP 库里,为每个技能维护 usage 与 success 计数,计算 fitness,并设置预退休与运行时退休机制,主动淘汰过期或低效条目,避免上下文被污染。
- 生命周期状态机可直接落地:用 trial/active/stable/retired 四态加 hysteresis(stable 先 demote 才能 retire),既保护已稳定技能不被瞬时波动误杀,又能快速淘汰长尾低质技能;generation-aware 保护期可迁移到新上线的工具或规则。
- LLM 变异可用于自动优化 prompt/SOP:按 1−fitness 加权选择低效技能作为 parent,结合失败轨迹让教师模型改写生成 trial 子技能,再通过真实反馈决定去留;这可用于电商导购话术、搜索 query 生成策略的持续自动迭代。
- 预退休阶段值得借鉴:在把外部知识、规则或技能注入线上 RL 或 SFT 数据前,先用 base model rollout 做一轮离线 fitness 评估,过滤掉低质量种子,能显著降低训练噪声,提升最终性能。
WebFovea:可靠闭环提升视觉 Web Agent 在真实网站上的表现
🧭 Web Agent 可靠执行与工程硬化
Independent Researcher
通过硬化解析、执行、观测、信息呈现四阶段,同一模型成绩从31.0升至57.0
📌 工作参考价值(4 点)
- 把 agent 环路拆成 parse → execute → observe → prompt 四阶段,分别监控和加固;业务里常只调模型,但瓶颈常在 harness,同一模型换 harness 可大幅提分。
- 真实网页自动化要处理坐标缩放(论文中曾所有点击落在 3/4 坐标处)、iframe、原生下拉框和文本框的静默失败;建议统一坐标空间并加执行后状态校验,必要时降级为 DOM/JS 操作。
- 对 LLM 输出做严格 schema 校验和清洗,防止 chat-template 自生成 token 污染动作序列;记录失败样本用于回归。
- 设置 guardrails 管理预算和规则约束,避免 Agent 越界或浪费步骤;可将不同步骤路由到不同模型平衡成本与效果。
我们查询,故我们计算:机器之外的 Oracle 计算及其在 Agent 中的应用
🧭 Agent 系统抽象计算模型
Institute of Computing Technology, CAS · University of Chinese Academy of Sciences · Nanjing University · Institute of Automation, CAS · Nanyang Technological University
将 LLM 作为 Oracle 构建抽象机,统一 Workflow 和 Agent,并提出 ArchNights 操作系统实现
📌 工作参考价值(4 点)
- 将 Agent 控制流与 LLM 推理分离:把业务状态机、调度和审计放在确定性代码(Priestess)中,让 LLM 只作为 Oracle 做内容生成或决策,可显著降低系统不确定性,便于测试、回滚与灰度发布。
- 借鉴“栈即上下文”和查询指令设计:每次查询将整个上下文栈交给 LLM 并追加结果,明确上下文边界;缓存可以基于栈内容哈希实现,重复上下文直接跳过 LLM 调用,适合推荐话术生成、商品摘要、广告文案等高频相似场景。
- 对称破缺区分 Workflow 与 Agent:任务程序放在控制流侧是可控的工作流,放在 LLM 侧生成则是自主 Agent;业务中可混合部署,关键链路用 Workflow 保证 SLA,探索性任务用 Agent 提升灵活性。
- 借鉴 OS 抽象:在 Agent 平台中显式实现调度、隔离、持久化和缓存等机制,而不是每个 Agent 自建一套;ArchNights 表明可在扩展 ISA/OS 层面承载 LLM 查询,为统一资源管理和性能边界提供参考。
超越语义相似度:面向复杂任务的智能体检索性能与成本
🧭 Agent 检索 · ReAct 循环 ★ 深度解读
NVIDIA · University of Edinburgh
用 ReAct 智能体循环结合 LLM 推理与稠密检索,复杂检索 nDCG@10 平均提升 8.7 点,但成本大幅上升
📌 工作参考价值(4 点)
- 复杂 query 场景(多跳、数值推理、跨语言企业文档)可以尝试用 ReAct 检索 Agent 替代一次性 dense retrieval:把原始 query 和初始召回结果一起喂给 LLM,提供 Retrieve/Think/Final_Results 三个工具,让 LLM 动态改写 query、分解子问题并迭代探索,能显著提升 nDCG@10。
- 工程上不要用 MCP 包装高频检索工具:MCP 每次拉起 server、加载 embedding、网络往返开销大;改成线程安全单例 retriever,模型和索引常驻进程内,能消除一类部署错误并大幅提升吞吐。
- 可靠性设计可借鉴 RRF fallback:当 Agent 因 context 超限或安全错误中断时,收集已执行的所有检索结果,用 Reciprocal Rank Fusion 合并排序作为最终结果,避免整条链路失败。
- 成本控制是落地关键:agentic retrieval 单 query 平均 107 秒、764K input tokens,不适合在线高 QPS 场景;电商/搜索推荐中应优先用于低流量高价值的复杂 query,或通过小模型蒸馏、并行多路检索、最大步数限制来压低 token 与延迟。
CLIFT:基于共形自验证的 Web Agent 训练与测试时扩展
🧭 Web Agent 强化学习与测试时选择 ★ 深度解读
Salesforce AI Research
将昂贵 judge 反馈蒸馏为可认证的验证问题库,训练时做稠密奖励,测试时做无需 judge 的保守轨迹选择
📌 工作参考价值(4 点)
- 把昂贵 judge 反馈蒸馏成可复用的「验证问题库」:每个问题带 URL scope、polarity sign 和 conformal trust weight,训练时用非对称 reward 融合(只加不减,防止 reward collapse),可按 URL 状态做分层优势归一化,明显改善 agent RL 的 credit assignment。推荐/搜索 agent 训练中可借鉴此方式,针对领域定义可验证问题,用 lift 和 conformal 筛选后作为过程奖励。
- 测试时用同一冻结问题库做轨迹选择(CTS):greedy + diverse retries,自验证器输出结构化证据,保守多数投票默认保留 greedy,无需外部 judge 即可实现 test-time scaling,且能保证不回归。在线推理中可对 agent 轨迹做低风险 reranking,适合预算受限场景。
- 验证知识可与策略解耦:在 open model 上训练的 question bank 可直接迁移到 closed model(GPT-5.5)使用,节省强模型 fine-tune 成本。业务上可先在小模型上构建验证器,再用于大模型推理阶段的选择。
- 工程上采用 CEGAR 循环从 judge rationales 定期挖掘新验证问题,并用 polarity veto 纠正错误标签;Mondrian-ACI 跟踪器按 global/host/URL-path 分层动态校准信任权重,对分布漂移具有拒绝能力,可借鉴到构建自适应质量监控或评估器。
冻结模型,进化专长:从部署经验中做模型无关的多模态医学AI学习
🧭 冻结模型外部经验持续学习 ★ 深度解读
University of Maryland, College Park · NVIDIA
提出参数无关外部专长框架,让冻结LLM/VLM从部署经验中持续提升并跨模型迁移
📌 工作参考价值(4 点)
- 在线 Agent/导购/客服:用 LLM optimizer 从成功/失败轨迹重写 Skill 文档而非 append,控制长度、消解冲突规则;候选 Skill 上线前用「下一批新流量 + 历史代表性 buffer」联合验证,接受条件为新样本平均收益>0、历史平均收益≥0、且 win>=loss,防止 prompt 过拟合固定验证集。可套用于搜索 query 改写策略、导购话术策略。
- 商品/内容多模态:维护 MMKB 式视觉记忆库,保存商品图+已知结论(类目、属性、违规、点击/转化标签),检索后用明确 prompt 让模型比较参考图证据与当前图的差异/缺失/矛盾,而不是只把图塞进上下文。实验显示同样 references,仅当上下文会让视觉任务分数下降,加比较分析后才转正;可迁移到商品图质检、主图优选、属性抽取。
- 知识与事实记忆:把可靠事实以「证据+适用条件」存入外部 Knowledge Memory,查询时先检索再检查是否直接回答且适用;只有多案例支持或有可信外部来源才入库。可做电商规则库、广告合规知识、平台政策问答的持续更新。
- 经验外置可无缝迁移到新基座/新模型版本,冷启动成本低;换 LLM 供应商或升级模型时,无需重训,直接复用 Skill/Memory/MMKB,对正在 A/B 不同底座或多租户模型选型的团队有用。
可编程搜索智能体:从查询改写扩展到候选处理与证据呈现
🧭 Agent 搜索接口 · 程序化候选处理与证据呈现 ★ 深度解读
Zhejiang University · Yuanbao Team, Tencent · Peking University
提出 Programmatic Search Agent,以可执行程序单元组织搜索动作,统一候选工作区、原语组合与选择性证据呈现,提升成功率并显著降低 token 消耗
📌 工作参考价值(4 点)
- 把“保留候选”和“呈现证据”解耦:在电商搜索/推荐 Agent 中,让检索/召回结果作为可寻址对象持久化在工作区,LLM 只接收程序选择的精简 notes,不把完整候选全部塞进 prompt。可直接复用上一轮 product pool 做 filter/rerank/extract,减少重复召回和上下文膨胀。
- 用可组合原语代替单一 search(query) 工具:定义 retrieve/filter/rerank/extract/dedupe 及变量引用,让 Agent 生成一个 cell 表达“过滤上一轮池子 → 条件补召 → 合并去重 → 重排 → 抽取证据”的依赖链;避免多轮 tool call,适合多跳商品属性/活动规则验证等场景。
- 审计 evidence-delivery gap:线上 RAG/搜索链路常出现“文档已经进候选但未透出给模型”。可离线回放轨迹,统计支持性证据是否进入 extraction 候选却未返回;对完全遗漏做同页补全的消融,能量化呈现瓶颈并指导界面改造。
- 交互预算下优先做程序化动作:如果决策轮次或成本受限,PSA 在 30-50 decision 预算下比 query agent 成功率高 11-13pp 且 final-step tokens 省 38-41%。在商品搜索助手里,可把多个确定性操作(去重、重排、按条件筛选)合并进一个可执行 cell,只在需要语义判断时回到 LLM。
MemPilot:按需多模态记忆编排的 LLM Agent 框架
🧭 Agent 多模态记忆按需编排与模型路由 ★ 深度解读
Nanyang Technological University · Tsinghua University · University of Illinois Urbana-Champaign
用 RL 多步策略按需编排记忆检索与异质 LLM/VLM 策展,实现质量-成本-延迟可控折衷
📌 工作参考价值(4 点)
- 借鉴双视图记忆:保留 query-agnostic 压缩记忆库用于低成本检索,同时保留原始多模态历史用于按需精调,避免离线压缩丢细节;电商 Agent 里可以兼容现有长会话记忆系统,不推翻重建。
- 将「是否调用视觉/大模型」设为策略动作,把模型池中的 LLM/VLM 按成本和延迟画像暴露给 orchestrator,让 RL 学会按 query 难度和预算动态路由;推荐/搜索 Agent 里可把通用问答降级到小模型,把商品图片理解、多轮用户偏好抽取路由到 VLM。
- 用 objective-wise advantage decoupling 做多目标 RL:质量、成本、延迟分别组内归一化再按偏好加权,比合并 reward 更稳定;业务中若要同时优化转化率、token 成本和响应耗时,可复用该 trick。
- 延迟不用墙钟时间,改用固定系数仿射估计(fixed overhead + per-token input/output + per-image),避免 API 波动影响训练;线上部署时也可用此 proxy 做策略训练或仿真。
nanoMuse:面向全部个人设备的开源智能体
🧭 个人 Agent 多设备协同与开源实现
Zhejiang University
开源多设备个人 Agent,手机/桌面 Hands、共享会话、动作审核与文件记忆
📌 工作参考价值(4 点)
- 多设备 Agent 架构可借鉴:relay 统管设备注册与消息同步,手机/桌面端各自携带 Hands 操作屏幕,适合电商场景下“手机端操作 App + 桌面端处理表格”的混合任务;把会话状态放在 relay,客户端只做执行,降低状态同步复杂度。
- 动作审核层(Sentinel)值得落地:所有 agent 动作先经过审核,能拦截高风险操作;在广告投放、自动下单、批量改价等场景,可把 Sentinel 做成策略引擎,按风险分级决定自动执行/人工确认。
- 用可读文件做记忆,带溯源:memory 以用户可读文件保存,并记录来源;推荐/客服 agent 可把用户偏好、历史行为写成结构化文件,支持人工编辑和审计,避免黑盒记忆。
- 开源可替换模型降低合规成本:企业可自托管 relay 和 agent,模型可选,适配数据合规;但 Hands 操作手机屏幕在真实电商环境需考虑系统权限和稳定性,初期可用于桌面端任务自动化。
PhysEvo:让 Astra 行动,物理递归自改进框架
🧭 具身智能 · 递归自改进 Agent
University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences · Tsinghua University · Independent Researcher
冻结模型上通过元代理诊断失败、修订工具与技能,大幅提升机器人操作成功率
📌 工作参考价值(4 点)
- Agent 自改进闭环可迁移:将执行轨迹作为诊断数据,让 meta-agent 分析失败原因、生成工具/技能修订,再通过测试验证后保留,这套「执行-诊断-修订-验证-保留」流水线可直接用于推荐/搜索 Agent 的策略迭代,无需更新底层 LLM 权重。
- 工具层迭代优于模型层重训:PhysEvo 证明在冻结模型上只改工具和技能就能显著提升成功率,对业务 Agent 来说,维护可复用的工具库和技能模板,比频繁微调模型更经济、更可控。
- 测试驱动修订:meta-agent 会先测试候选修订再决定保留,避免把坏的工具引入生产环境;在推荐 Agent 中可以对新的召回/排序工具进行离线评估或 A/B 测试后再上线。
- 可复用技能沉淀:修订后的技能被保留并支持后续任务,类似推荐系统的可复用策略模块,如用户意图识别、动态 query 改写等,通过累积有效修订形成领域知识库。
通过推测执行隐藏在设备端级联语音代理中的工具延迟
🧭 语音 Agent 推测执行与工具缓存
Qualcomm AI Research · KAIST AI
在流式 ASR 部分假设上预测工具调用并推测执行缓存结果,将首音频中位延迟从 5.79s 降至 4.60s
📌 工作参考价值(4 点)
- 对搜索/推荐 Agent,可在流式 query 或用户输入未完成时,先用轻量 Predictor 预测意图并预取工具结果(商品搜索、广告召回、知识库查询),LLM 确认后直接注入缓存,隐藏工具延迟。
- 规则化校验机制可借鉴:对用户自我纠正/改写场景,只注入与最终意图匹配的缓存结果,避免错误工具调用污染下游,且保留 LLM 直接调用工具能力作为兜底,保证最差延迟不超过串行基线。
- 工程实现上,Predictor 独立于 LLM、基于部分 ASR 假设或部分 query 做预测,便于回滚和验证,比直接微调 LLM 做推测调用风险更低,适合在线 A/B。
- 结果不仅降低中位延迟,还降低标准差,说明响应更可预测;这对强调 P99 延迟的电商搜索/广告 Agent 尤其有价值。
智能体可塑性:度量基于经验的自我改进效率
🧭 Agent 自改进评估 · plasticity ★ 深度解读
UC Berkeley · Meta Superintelligence Labs · University of Washington · Princeton University
提出 agent plasticity 指标,度量智能体将经验转化为留出性能增益的效率,并诊断改进瓶颈
📌 工作参考价值(4 点)
- 自改进 Agent 或线上学习链路不要只看最终指标;用「留出收益 / 累计学习成本」画 plasticity 曲线,能区分起点高但不会学和起点低但学习效率高的模型/策略。电商 Agent 迭代 prompt、tool、memory 时可按此评估 ROI。
- 把改进过程拆成持久化 artifact:tools / skills / memory,每个新 session 从 fresh context 开始并继承 artifact。这样可以隔离「记忆/工具沉淀」的贡献,适合做 A/B 或消融;对应搜索推荐 Agent 的 query 改写工具、规则库、用户画像缓存。
- 失败诊断用 F_absent / F_missed / F_used 分类:低复用率提示检索/部署问题,高复用但仍失败提示 artifact 质量/泛化/应用问题。上线前可对 Agent 失败 case 打标,选择不同干预,例如 RAG 召回优化 vs skill 重写。
- 评估 OOD 转移:除同分布 held-out 外,加入更难或更极端的流量层,如更强对手、长尾 query、大促场景,观测自我改进是否真正泛化,避免只在训练样本上打转。
Agent实际做了什么?面向长程Agent的基于证据监督方法
🧭 Agent行为监控与证据定位
Gaoling School of Artificial Intelligence, Renmin University of China · Kuaishou Technology
提出EBG训练无关方法,将证据按行为分组并构图为任务导向视图,提升长程Agent关键决策识别与证据定位
📌 工作参考价值(4 点)
- 在电商/广告Agent自动化流程中,可将EBG作为轻量监控层:把Agent动作日志按源链证据聚类为行为节点并构建依赖图,在审核UI中呈现任务导向视图,帮助运营快速定位需要人工验证的环节,避免阅读完整trace。
- EBG训练无关、即插即用,且证据定位增益在长上下文和不同超参数下保持稳定,可直接嵌入现有Agent监控模块,无需额外训练或微调,适合快速上线。
- 借鉴AgentMonBench的两个评估维度(需求-行为对齐、自主决策需验证的意识),在内部构建Agent可靠性测试集,重点考察Agent是否做了需求外的事、是否在关键节点主动请求确认。
- 对搜索/推荐系统中由LLM Agent生成的query或策略,可用EBG将决策与证据(用户日志、商品信息)显式链接,增强可解释性与审计能力,提升人对自动决策的信任。
从轨迹到智能体世界:面向交互式环境模拟的智能体语言世界模型
🧭 Agent 世界模型与轨迹仿真
Nanyang Technological University · The Hong Kong Polytechnic University
无训练的 Trace2Env 从历史轨迹构建 worldbook,让世界模型 Agent 实现有状态交互仿真,提升长程一致性与动作回放有效性。
📌 工作参考价值(4 点)
- 在电商/搜索/Agent 场景,历史交互日志(session、操作记录、客服工作台)很丰富但线上系统不可复现,可借鉴 Trace2Env 用轨迹构建 worldbook:按环境 schema、grounded evidence、induced behavioral knowledge 三层组织,无需训练即可搭离线仿真环境。
- 多轮仿真必须维护 persistent episodic state:购物车、筛选条件、已浏览商品、会话目标等要显式建模并跨轮更新,否则策略评估会在长程动作后失真;这是当前 prompt-based 世界模型的薄弱点。
- 评估不要只看 next observation 相似度,可加入 long-horizon replay validity:把仿真器中生成的动作回放到真实系统,看动作是否仍然有效,能更直接反映环境保真度。
- Learning-free 做法适合快速冷启动业务环境模拟,但需注意轨迹覆盖偏差;如果历史日志噪声大或缺乏典型状态转移,worldbook 检索出的后果推断可能不稳定,建议用 schema/证据检索做硬约束。
HERA:可靠 Agent 弃权的 Harness-环境协同进化框架
🧭 Agentic Abstention · 环境协同进化
University of Washington · University of Leeds · Carnegie Mellon University · Stanford University · Allen Institute for AI
提出 harness 与环境协同进化框架,自动构造可行/不可行任务对,弃权准确率提升至83.3%,跨19个LLM平均提升15.3个百分点
📌 工作参考价值(4 点)
- 构建 Agent 拒答能力:借鉴 HERA 的受控环境变异,对正常可完成商品查询/推荐任务注入库存为零、优惠冲突、参数不合法等扰动,自动批量生成不可行任务对,用于训练或评测 Agent 在缺货、超范围请求时主动弃权/澄清,而不是硬给一个错误推荐。
- 分离 harness 与模型:优化与底层 LLM 解耦的 Agent 控制层(系统提示、工具 schema、终止条件、校验规则),可跨模型复用。HERA 显示优化后的 harness 在 19 个模型上平均提升弃权准确率 15.3%,且小模型搭配优化 harness 可达到大模型效果、成本降 85%,适合电商低成本多模型部署。
- 协同进化环境生成:将线上 badcase 反馈到环境变异器,定向生成针对薄弱点的困难场景(如长尾商品属性缺失、组合优惠冲突),用于持续微调 Agent 行为或补充回归测试集,比固定测试集更能发现边界失效。
- 双指标监控:将可行任务完成率和不可行任务弃权准确率分开评估,避免只优化完成率导致 Agent 在不可行任务上强行输出。在电商推荐 Agent 中,应同时监控“该推荐时推荐”和“该拒绝时拒绝”两个指标。
面向 Agentic 强化学习的 MoE 专家选择结构化
🧭 Agent RL · MoE 专家路由控制 ★ 深度解读
Apple · Purdue University
提出分层路由控制框架,用操作感知互信息与令牌级一致性约束,提升 Agentic RL 成功率与推理吞吐
📌 工作参考价值(3 点)
- MoE 专家选择可以用 agent 轨迹中的 operation 语义(READ/CREATE/UPDATE)做监督,电商搜索/推荐 agent 也可以按意图或工具类别进行专家对齐,提升长程任务成功率和推理速度。
- token 级一致性控制用“相邻 top-k 专家集 Jaccard 距离阈值”选择性回拉,比强制统一更稳定;可搬进多轮 search/agent rollout 中降低专家切换开销、提高吞吐。
- 添加辅助路由 loss 容易引发 RL 训练崩溃,可用 policy entropy 高低门控关闭路由梯度;这个工程 trick 对 MoE 后训练很实用。
能力驱动的 Agent 记忆自进化
🧭 Agent 记忆自进化 · 能力驱动 ★ 深度解读
University of Science and Technology of China · Microsoft · University of California, San Diego
将整体性能搜索分解到能力维度,通过能力专家与痕迹引导集成,在百万token基准上比最强基线高7.83–10.54个百分点
📌 工作参考价值(5 点)
- 把记忆系统拆成 Extraction / Indexing / Planning / Retrieval / Answer 五个可独立修改的接口,让 LLM 只局部改出问题的组件,避免整体重写;可直接迁移到电商 Agent 的记忆或检索模块自动调优。
- 不要只用整体指标指导进化,按能力维度(事实检索、时间追踪、偏好提取、多会话合成、对抗性)各自维护 specialist,保留被整体分数掩盖的局部增益;这在多目标冲突严重的推荐/广告系统中尤其有用,能防止某个目标的小改进被其他目标回退淹没。
- 依赖感知能力选择:量化一个能力的缺陷对另一能力任务的错误压力(公式 1-6),优先改瓶颈能力;可用于多目标排序/召回策略的自动搜索调度。
- 用 paired differential cases 比较 base 与 specialist 在同一批 case 上的行为差异,再让 coding model 合并互补收益;适合集成多个推荐策略或记忆模块,比直接选择未探索方向更可靠。
- 工程降本技巧:紧凑诊断上下文可减少 44% token,revision-aware execution reuse 跳过未改动组件;适合工业级 Agent pipeline 的低成本自动调优。
SearchJev:面向搜索 Agent 的快速且校准良好的 System-1 决策模型
🧭 Agent 双系统搜索决策加速与校准 ★ 深度解读
Huawei Technologies Co., Ltd. · Leiden University
将搜索 Agent 中的短决策与 System-2 生成分离,用 schema-conditioned logits 直接输出校准概率,实现 5.2-5.3 倍决策加速并提升端到端答案准确率
📌 工作参考价值(4 点)
- 把搜索/推荐链路中频繁的短判断(相关性、query 改写是否等价、意图分类、证据充分性、next action)从 LLM 自回归生成中拆出来,用同一个轻量模型基于 schema-conditioned first-token logits 直接做分类/打分,避免 JSON 解码,可显著降低线上延迟。
- 借鉴 SLCD:对不确定标注用 soft-label,训练时混合 cross-entropy + Brier loss,并按输出类型(Choice/Score/Noul)做 temperature calibration;这能提供更可靠的置信度,适合做置信度 gate、拒识或降级。
- 双系统架构值得迁移:System 1 出低延迟决策 + 置信度阈值,不置信时回退到 System 2(大模型)处理;在电商/广告的召回粗排、query 改写、相关性过滤等场景可以平衡成本与效果。
- 将异构标注数据统一成 state-schema 格式训练一个多任务决策模型,用 LoRA 微调小模型即可覆盖多种决策类型,降低多模型维护成本;对 unordered options 做 permute 可减少位置偏差。
搜索引擎从不说“不”:冻结 Agent 面对检索工具拒答时的反应
🧭 搜索 Agent · 工具侧拒答机制 ★ 深度解读
工具侧返回 NULL 拒答信号,让顺从 Agent 弃答率提升 243%,并给出按 recall 定价的收益曲线
📌 工作参考价值(5 点)
- 在电商搜索/导购 Agent 的检索出口加“拒答门”,不改模型和检索栈:对 Qwen3-8B/32B、Haiku 这类顺从模型,一句 NULL_RESULT + 解释就能把不可答问题的弃答率从 24% 拉到 84%、幻觉率从 65% 降到 10%,且可答准确率不降。
- 拒答 wording 必须放进 observation,不是 system prompt;效果排序 directive > explanation > bare token,soft warning 几乎无效。线上无货/无匹配结果适合写成“没有可靠结果,可能索引没有该信息;请换 query 或回答 unknown”。
- 对闭源强模型(Sonnet/Opus 5.5)工具侧拒答失效,它们更吃 system-prompt 指令(+16 点 vs 工具侧 +2 点)。多模型混合部署时建议按模型家族分别配置拒答策略。
- 真实收益受 miss-detector 的 recall 上限约束:在固定 false-refusal budget 下,弃答收益几乎由触发器 recall 决定。可先用轻量 QPP/交叉编码器,再按 recall-收益曲线判断是否值得上 LLM judge;detector 不行时改 agent 也白搭。
- 用删除黄金段落/答案串构造 index-hole 测试集,比人工标注便宜且边界干净;适合复用到商品知识库 RAG 的不可答样本评估。
ASCENT:通过验证经验自蒸馏实现在线测试时训练长程智能体
🧭 Agent 在线测试时训练 · 自我蒸馏验证经验 ★ 深度解读
University of New South Wales (UNSW Sydney)
用冻结初始模型将验证成功的轨迹蒸馏为 LoRA 软目标,使长程 Agent 在单次任务流中稳定在线进化
📌 工作参考价值(4 点)
- 在线学习方案:在对话式导购/客服/智能投放等长程 Agent 场景,可以用冻结 base 模型 + LoRA 快权重持续训练。每次成功会话(成交/点击等强验证)做一次自蒸馏,失败跳过更新,无需 replay buffer,工程成本低。
- 特权信息构造:将成功会话的动作有效部分(排除 parse 失败或环境未执行的动作)与推理文本保留,去掉 observation(按模型规模调整),作为 teacher 的 hindsight 上下文。教师看到完整成功轨迹后产生全词表 soft target,学生只在当前 prefix 学习,可减少冗余 detour 动作、提升 turns 效率。
- 蒸馏目标选择:用 forward KL 匹配全词表分布,而不是最大化生成 token 概率或 REINFORCE 梯度;这能抑制策略对自身输出的过拟合,避免熵崩溃和无效动作增加,尤其适合单条轨迹在线流。
- 与 in-context memory 互补:小模型可能被检索记忆干扰,可单独用权重更新;大模型可以叠加 retrieved memory 与 ASCENT 权重,形成 co-evolution。动作有效性过滤可免费从环境响应中解析得到,可作为轨迹清洗信号。
EVISKILL:基于可回放证据的 Agent 持续技能演化
🧭 Agent 持续技能进化与证据回放
School of Artificial Intelligence, Jilin University, Changchun, China
用可回放证据卡与定向重放验证技能编辑,缓解经验驱动技能演化中证据丢失和全局验证粒度过粗问题
📌 工作参考价值(3 点)
- 把 agent 执行轨迹中的 state/action/observation/context 打包成结构化证据卡,技能修改时显式绑定支撑证据;后续可用同一批轨迹做定向重放验证,让技能更新可审计、可回滚。
- 将验证拆成编辑级回放与全局验证两层:先用局部证据筛选出可信候选修订并暂存,再按整体任务集决定是否并入正式技能,避免一次性拒绝丢失有效局部修正;适合电商客服 SOP、选品策略等需要长期迭代 agent 流程的场景。
- 跨 epoch 保留证据和候选修订,允许证据不足的编辑等待更多交互经验再确认,提供一种更稳的 agent 策略在线进化机制;对推荐策略、工具选择规则等可复现程序知识的维护有价值。
MemAdapter:反事实适配缓解记忆诱导谄媚
🧭 LLM Agent 记忆使用校准 · 后检索适配 ★ 深度解读
Jilin University · Xiamen University
提出后检索反事实适配框架,动态校准记忆使用边界,降低 LLM Agent 长期记忆诱导的谄媚偏差
📌 工作参考价值(4 点)
- 在电商导购/个性化推荐 Agent 中,可引入后检索记忆适配层:不修改画像库或召回逻辑,而是在检索到的用户画像/历史偏好进入 prompt 前,用 LLM 为每条记忆生成使用指令(可支持、影响哪些部分、不能 justify 哪些结论),避免画像记忆污染事实性排序或推荐结论。
- 借鉴反事实画像评估:对用户身份、历史偏好等记忆,构造不同决策任务和证据配置,自动沉淀“同一画像何时应个性化、何时不应影响结论”的条件规则,解决特征一刀切导致的过度个性化。
- 显式解耦事实与个性化:在生成推荐理由或导购文案时,采用内部 support trace 机制,要求每个 response span 标注来源(实时商品/证据 vs. 用户画像)和适用的记忆使用指令,生成后校验,降低记忆诱导的错误推荐。
- 工程上该适配位于 retrieval 之后、generation 之前,可跨 backbone 复用;用轻量 self-reflection 输出结构化使用边界即可,对生成式推荐/Agent 业务可低成本验证。
NeutronGym:面向 LLM Agent 的物理分级中子仪器设计环境
🧭 LLM Agent 科学仪器设计与 RL 训练环境 ★ 深度解读
Oak Ridge National Laboratory
首个可执行中子仪器设计环境,用无 LLM 评判的物理分级奖励训练 8B 模型超越未训练 32B
📌 工作参考价值(4 点)
- 奖励塑形:把最终业务指标拆成可验证的中间层(输入合法→系统可执行→返回结构完整→业务指标达标),每层给部分信用。文中去掉部分信用导致 pass rate 从 76.7% 暴跌至 16.7%,说明密集课程式奖励是 RL 稳定训练的关键,推荐 Agent 做 RL 时不要只用稀疏 GMV/转化作奖励。
- 防 reward hacking 的 no-model 基线:上线前用固定答案、读题规则、跨实例迁移三种 probe 检测任务是否可被捷径破解。对应电商场景应先跑规则基线(热门、复制 prompt 限制、历史均值),避免把“背答案”当成模型能力。
- 工具调用前置校验:22 个工具在调用时即校验组件与参数合法性,把编译错误前置到工具层。Agent 链路中应对每个工具输入做 schema 校验并返回最近合法选项,减少多轮失败和无效探索。
- 不要只用成功样本做 SFT:克隆自己成功轨迹的模仿学习在文中让 pass rate 从 40.3% 跌到 31.3%,而 on-policy RL 训练包含失败轨迹效果更好。推荐 Agent 微调时应保留失败探索轨迹做 RL,避免只喂高转化样本导致分布偏移。
依赖感知的终端智能体策略优化
🧭 终端 Agent · 依赖感知信用分配
Southeast University · Huawei Noah's Ark Lab
提出 DepGPO,用命令间读写依赖图反向追踪,把优势分配到真正影响结果的步骤
📌 工作参考价值(4 点)
- 对多步 Agent 业务(如推荐 Agent 先检索后排序再生成文案),可以借鉴依赖图思路:记录中间工具调用的读写资源,从最终业务指标反向追踪哪些调用真正影响了结果,再做细粒度 credit assignment,减少无关步骤的梯度噪声。
- 训练 LLM Agent 时,trajectory-level advantage 会平均分配到所有 step,导致无关操作也获得信号;可以按依赖相关性重分配 advantage,只强化对最终 verifier 关注资源有贡献的 write/read 步骤,提升样本效率与训练稳定性。
- 工程实现上只需保存 execution trace 并解析命令间文件/变量读写关系,成本较低;在终端、代码或工具调用类 Agent 的 RL 训练中易于落地。
- 对电商搜索推荐中“多轮改写-召回-排序”的 Agent 链路,可以类比为命令依赖图,识别哪些改写或过滤动作对最终成交/点击有实际贡献,后续可用于诊断或弱监督信号设计。
AutoCompact:学习何时压缩长程编码智能体上下文
🧭 长程 Agent 上下文主动压缩 ★ 深度解读
Singapore Management University · Nanyang Technological University · Harvard University
训练编码智能体主动决定何时压缩上下文、保留什么工作状态以及如何继续,显著提升长程任务成功率
📌 工作参考价值(4 点)
- 主动压缩而非长度触发:在长程多轮Agent(如电商导购、搜索Agent)中,可引入类似compact()的工具,让模型在任务阶段转换时主动总结上下文,而非等到窗口将满;证明即使上下文未溢出,主动压缩也能提升效果。
- Judge-guided在线纠错数据收集:用更强模型作为judge在线审查agent的每个动作(压缩时机、摘要内容、后续行动),并执行纠正后的动作继续轨迹,能高效收集示范数据,尤其当目标行为在基座模型中很少出现时。
- RL联合优化压缩与任务执行:使用最终任务成功作为唯一奖励,同时优化压解决策、摘要生成和压缩后行动,无需额外的压缩专用奖励;实现上将轨迹按上下文重写点分段,各段共享advantage,简单有效。
- 摘要自一致性检查:除信息覆盖外,还要求摘要记录的状态与提出的下一步行动一致;在业务中可借鉴此标准评估Agent生成的中转状态质量。
从知识访问到源学习:构建源特化能力
🧭 Agent 长期源能力学习 ★ 深度解读
Georgia Institute of Technology · University of Illinois at Urbana-Champaign · University of California, Los Angeles
提出SourceLearn,用自指导+任务指导学习持续构建可复用源模型,在13/15设置中超越RAG与记忆基线
📌 工作参考价值(4 点)
- 在电商/广告 Agent 中,类目规则、活动规则、API 文档、售后政策等是反复访问的持久权威 source。可以维护一个与实时 RAG 并列的 source model:source model 固化可复用的结构、条件、规则与关系,RAG 继续提供精确证据;任务时按预算激活相关 region,减少每次从零推理。
- 自指导源学习采用 Inspect–Study–Consolidate 的 read-many write-once 模式:先对照现有源模型找出未解释清的机制/条件,再规划有限 DEEPEN/CONNECT 动作,最后才提交一次持久更新。适合离线周期性沉淀业务知识库,避免频繁写坏记忆。
- 任务指导学习不要把失败答案或经验本身存入记忆;只用失败定位源模型缺失的 requirements,然后回到权威 source 做 grounded reconstruction。跨任务可抽象成 representation lesson,只存“应显式区分条件/不要合并/应同置”等表示偏好,再对 source 做 recalibration,能把经验迁移到未见区域。
- 源模型实体槽位可参考 attributes/mechanisms/distinctions/decisive_details,优先结构和条件而非低层事实;论文显示条件显式度从约 30% 升到 65–82%,未来任务覆盖从 23.2% 升到 40.0%,覆盖越高准确率越高。检索失败时,source model 也能单独维持与完整检索 RAG 相当的水平,适合兜底降级。
CUAWright:数字代理的极简统一接口
🧭 数字代理 · 终端统一接口
Microsoft Research · National University of Singapore · The Ohio State University · Carnegie Mellon University
用 bash 命令和文件系统作为极简接口,让数字代理动态创建工具,大幅提升任务成功率和效率
📌 工作参考价值(4 点)
- 在需要自动化操作浏览器或桌面应用的场景(如电商数据采集、广告投放监控、多步骤订单处理),可以考虑用终端/bash 作为统一动作接口,替代传统 GUI 点击或 DOM 操作,减少对固定工具的依赖,让 LLM 直接调用命令行工具或编写脚本完成操作。
- 采用文件系统作为可演化的工具和记忆空间:让 Agent 在任务执行过程中将中间结果、上下文、创建的工具脚本写入文件,后续步骤可读取修改,实现类似长期记忆和动态工具注册表,避免每次重新生成工具定义。
- 统一接口降低了 harness 的工程复杂度:仅约 3K 行代码即可实现,适合快速搭建 Agent 系统原型,相比维护多套 GUI 特定工具(浏览器、桌面、CAD 等)更轻量,且跨领域复用性强。
- 结果提示:在需要视觉理解与命令行交互结合的任务(如 CAD 设计、UI 自动化测试)中,终端接口比纯 GUI 或混合 CLI 接口有显著提升,可以优先尝试将业务自动化流程改造为基于终端命令的交互方式。
LLM Agent 的来源偏好:测量、成因与缓解
🧭 Agent 端到端搜索中的来源偏好测量与缓解 ★ 深度解读
Graduate School of Data Science, Seoul National University
LLM Agent 在端到端搜索中因来源域名产生选择偏差,即使内容一致也偏好特定站点,且可通过平衡训练与缺失信息干预缓解
📌 工作参考价值(4 点)
- 在电商/Agent 评估中引入 requirement-matched pair + Bradley-Terry 方法监控来源偏差;用 inversion rate 衡量来源偏好是否压倒 item 质量,可作为线上选品 Agent 的公平性指标。
- 工程上,URL/域名是来源偏好的主要信息载体;隐藏文本中的来源名作用小,因此做盲评或上线时可考虑对 Agent 屏蔽 URL 或标准化来源展示,减少域名对决策的影响。
- 精调 LLM 选择模型时,DPO/偏好数据中 source 与 preferred label 的相关性会学习成 shortcut;把 source 与 label 的配对比例平衡到 50% 可将已有来源偏好拉回中性,避免某个电商平台/供应商被系统性偏袒。
- 当商品属性缺失时(如价格),Agent 会用来源先验脑补;补充缺失属性或 prompt 中明确“来源与属性无关/指定某来源通常低价”可显著降低偏好,尤其后者对线上 prompt 工程成本低,但需知道哪个来源被歧视。
Madeleine:用模拟生活轨迹学习对话记忆的联想召回
🧭 Agent 长期记忆 · 联想检索 ★ 深度解读
Nanyang Technological University
用 LLM 离线模拟生活轨迹训练 query 侧 LoRA,零 LLM 在线实现对话记忆联想召回,插入 HyperMem 后 LoCoMo-Plus 达 66.6
📌 工作参考价值(4 点)
- 把 LLM 重推理离线蒸馏进 query encoder:业务中的对话/用户记忆召回若依赖 LLM 改写、图谱构建或读取时推理,可改为离线用 LLM 生成“用户状态变化/偏好迁移”监督样本,训练轻量 query-side LoRA;在线只算一次向量,省掉数百到上千次 LLM 调用和大量上下文,适合高 QPS 的推荐/客服场景。
- 复用 frozen 向量库,即插即用:新分数 s(q,m)=cos(E(q),E(m))+cos(Eθ(q),E(m)) 等价于用单个 query 向量 E(q)+Eθ(q) 检索;不改记忆索引、不写入 LLM,迁移成本极低。可直接给现有向量召回的 query tower 加 residual adapter,保留内容相似度同时补学隐性关联,类似搜索/推荐 query 侧增强。
- 训练数据生成与负采样细节:用 LLM 模拟“生活轨迹”产生 cue-trigger 对,要求 trigger 不得提及或暗示 cue 主题;用 same-source negatives + near-duplicate masking,成本仅几美元/3万条。电商可模拟“用户长期状态→后续需求”或“偏好变化”生成训练对,绕过真实数据稀缺与标注困难。
- 不要对隐性关联用 cross-encoder reranker:论文中 reranker 反而显著掉点(52.4→40.9/31.9),因为 cue 与 trigger 表面不匹配、跨编码器按匹配度打分天然不利。关联性召回的关键应在召回层习得,而非精排层再判断语义匹配。
Mem++:面向组织 LLM Agent 的非破坏性长期记忆
🧭 LLM Agent 长期组织记忆 · 读时检索 ★ 深度解读
The University of Texas at Austin · AIDAChip Inc.
Mem++ 用整文档存储与读时时间过滤+多路检索融合,替代写时蒸馏,在组织记忆基准上大幅领先
📌 工作参考价值(4 点)
- 在电商/广告规则、商品属性、政策文档等需要追溯“某时间点有效版本”的场景,不要写时蒸馏成事实或图谱,保留原始文档并按日期/作者索引,读时按 as-of 时间过滤检索。这样能回答“当时规则是什么”“谁改的”“从哪个版本改成哪个版本”等问题,避免旧版本被覆盖后无法回答。
- 多路检索融合策略可直接复用:lexical(精确 ID/术语)+ semantic(嵌入相似)+ tag(作者/店铺/品类)加权 RRF 融合,并保留 top k-3 融合结果 + 3 个最新日期匹配记录(recency reserve)。在商品搜索、客服知识库、推荐理由生成中能兼顾精确匹配与语义泛化,同时保证时效性。
- 写时零 LLM 调用,只做 embedding 和索引,读时才做选择。对海量商品/文档更新场景,可大幅降低写入延迟和费用;消融显示实体图谱、事实抽取、consolidation 在多个基准上增益有限甚至为负,可优先采用更简单的纯检索方案。
- 多作者冲突版本不删除、由答案模型读时判断,适合多客服、多团队知识库,避免一个模型在写入时错误地覆盖或合并关键信息,保持溯源能力。
面向科学领域的终端环境自监督扩展
🧭 终端Agent环境自动化与SFT缩放
Tencent HY LLM Frontier · University of Georgia · University of Maryland, College Park · National University of Singapore · Hong Kong Polytechnic University
用现有科学软件工作流自动生成可验证的终端Agent训练样本,SFT后显著提升Terminal-Bench 2
📌 工作参考价值(4 点)
- 可用现有业务软件/API工作流自动生成(SFT)训练样本:给定输入schema和公开输入输出对,让LLM重构可编辑程序,再用隐藏配置验证,避免逐任务人工标注reference solution,适合电商/广告中的工具调用、查询生成等Agent任务。
- 层次化verifier思路可迁移:把语义比较、结构有效性、反捷径检查组合起来,防止模型学出表面匹配但语义错误的生成结果,对QueryRec和生成式推荐中的评估尤其重要。
- 已验证的高质量轨迹比单纯语料规模更有效:对verified trajectories做oversampling后SFT,在matched-token对照中全面领先,说明业务数据应优先筛选行为可验证样本,而不是直接堆量。
- 公共反馈支持迭代修订的机制可以改造成在线训练:先让Agent在公开样例上尝试,失败后根据反馈修改,最后在隐藏集上验证,类似强化学习中的self-play数据生产。
Mingbird:本地优先 Agent 框架让小型开源模型完成真实任务
🧭 Agent harness 本地小模型任务执行优化
University of Science and Technology Beijing · Honor Device Co., Ltd.
Mingbird 通过十项机制补偿小模型故障,在 LRAB 与 τ²-bench 上显著超过 goose/opencode/agent-mini
📌 工作参考价值(4 点)
- 小模型做工具调用时,优先治理 prefill 预算而非只靠模型截断:可把工具 schema 压缩到字节级配额,尤其适合端侧或低延迟搜索推荐 Agent。
- 在 Agent 完成提交前增加“重读任务/用户 query”的 finish gate,能减少静默放弃与提前结束;可用于多轮 query 改写、推荐解释生成等需可靠终止信号的场景。
- 采用签名级 loop detection 监控工具调用序列(函数名+参数模式),而不是文本相似度,能更快终止无效循环,节省 token 与延迟。
- 若业务有隐私或成本限制,可考虑 2-9B 本地模型 + 强 harness 做降级链路,通过工程补偿换取小模型可用的任务完成率,而非直接升级大模型。
OmniSeek:面向多轮音视频推理的原生工具集成
🧭 Agent 多轮音视频推理与工具检索
University of California, Davis · Adobe Research
将 Omni-LLM 变为主动多轮推理 Agent,动态检索关键音视频片段以支撑跨模态长上下文推理
📌 工作参考价值(4 点)
- 多模态长视频/直播/商品讲解等场景,别让模型一次吞下整个序列;可以借鉴 OmniSeek 的做法,让 Agent 先粗略定位,再调用工具按时间窗口取回关键音频或视觉片段追加到上下文,既省计算又能保持细节证据。
- 数据冷启动可复用“合成多跳 CoT 轨迹 + SFT + 两阶段 RL”路线:先造带交错的证据检索轨迹让模型学会多轮工具调用,再用可验证奖励做策略优化,适合业务中缺乏真实交互标注的场景。
- Audio-Visual Necessity 奖励是防止多模态捷径的有效 trick:在训练目标里显式惩罚只依赖单一模态的成功轨迹,可迁移到电商多模态模型,避免模型只抄文本或只靠图片就能答题。
- 工具返回原始音视频片段而不是高层特征,能保留稀疏关键证据,类似多模态 RAG;在直播切片问答、广告素材审核、智能客服等场景可以直接套用这种“检索-追加-再推理”的循环。
SEER:面向时序预测的自进化事件推理与检索
🧭 自进化 Agent · 事件检索增强时序预测 ★ 深度解读
Google Cloud AI Research · University of Virginia
用预测误差驱动检索记忆与因果知识库更新,显著提升事件驱动时序预测的准确性与可解释性
📌 工作参考价值(4 点)
- 在电商需求预测/广告转化预估中,把动态外部事件(价格调整、大促、供应链、热搜)作为可更新的文本上下文,而不是静态特征;用 retrieval memory 生成搜索 query 扩展候选,再用 selection memory 做噪声过滤,两个组件解耦,避免信息过载。
- 闭环反思机制可用于推荐/搜索的在线学习:将预测残差(销量/CTR 偏差)和推荐理由对比,更新「检索记忆」与「因果规则库」,离线回放、线上冻结,避免直接更新模型参数;尤其适合已有 LLM 推荐理由或文案生成场景。
- 严格时间边界与 fact-check 约束对推荐系统外部特征同样关键,确保只用截至请求时刻的商品新闻/库存/价格,防止特征穿越导致线上翻车。
- 蒸馏 IF-THEN 因果规则不仅提升可解释性,还能让 Agent 主动拒答/过滤高噪声样本(如选择性股票预报、选品),提升精度;电商中可迁移到「是否推荐、推什么品类」的不确定性决策。
VISTA:交互世界中的视觉推理框架
🧭 视觉增强多模态 Agent 长程推理
Massachusetts Institute of Technology
多模态模型通过无损视觉记忆和主动视觉检索,在交互环境中大幅提升推理与行动效率
📌 工作参考价值(4 点)
- 无损视觉记忆可复用:在电商多模态 Agent 中,保留商品图、详情页截图等原始视觉信息,避免早量压缩,提升长程浏览与比较任务的表现。
- 主动视觉检索机制:让模型自行决定何时回看历史视觉观察(如之前看过的商品、对比图),减少人工设计的状态管理,适用于购物助手、视觉搜索等交互场景。
- 迭代视觉工具调用:将视觉输入拆解为可重组的片段(裁剪、放大、并排比较),在推理时动态调用,比一次性全图编码更灵活,适合复杂商品页面的多区域分析。
- 低适配成本:VISTA 的设计便于迁移到不同视觉环境,从业者可尝试将类似 harness 嵌入已有 VLM Agent,快速提升在视觉决策任务中的表现。
因果记忆策略:通过干预检索使记忆效用可识别
🧭 Agent 记忆管理 · 因果识别 ★ 深度解读
Illinois Institute of Technology
提出 CMP,用随机化检索暴露恢复记忆效用的可识别性,解决确定性检索下的 positivity violation
📌 工作参考价值(4 点)
- 在 RAG / 生成式推荐或用户画像记忆系统中,离线估计某个 item 或 memory 的增量价值时,必须警惕召回/检索阶段的 positivity 问题:未被召回的 item 其效用不可识别,导致基于效用的 eviction 或降权策略退化为随机。可借鉴 CMP:保留固定比例曝光槽位,对候选 item/memory 以已知 propensity 随机采样,强制产生 support。
- 采用平衡分配(balanced assignment)替代独立随机:固定每个 item 的曝光次数,propensity 精确已知,方差可解析计算;估计器用 self-normalized IPW(等价于 arm 均值差),便于工程实现。
- 对不可逆操作(如删除记忆、商品永久下架、从长期候选池剔除)采用单边弃权(one-sided abstention):Bayes 最优规则要求只有当估计效用显著低于负阈值时才执行不可逆操作,避免误删高价值 item。
- 识别出 utility 不等于能做出 retention 决策:per-query utility 在特定 query 上 AUC 很高,但跨 query 聚合困难,无法用单个标量代表长期价值。这提示在推荐/搜索中,item 价值随上下文变化,需要 query-conditioned 模型而非全局打分,且保留/淘汰决策需考虑未来查询分布的不确定性。
重建、练习、真机部署:具身智能体的引导式自我改进
🧭 具身智能体自我改进
UC Berkeley · Amazon FAR · MIT · University of Chicago
RPG 不更新模型权重,在仿真中重构练习任务并自我改进技能与提示,22 项操作成功率从 28.6% 提升至 95.0%
📌 工作参考价值(4 点)
- 借鉴“不更新权重、用可复用符号技能库 + 系统提示修订”的固化系统做法:在电商 Agent 中把高频操作抽象成工具/skill,LLM 只负责调度和组合,降低每次推理成本与非确定性。
- 用“执行反馈 + 离线日志重构练习任务”做自举:从历史成功/失败会话中自动生成回归任务和仿真环境,每次修改 prompt 或 skill 前先在跨任务集上评估,避免局部过拟合。
- 借鉴“候选变更先单测、再合并回归”的变更管理:对 prompt 模板、工具定义、规则库做 A/B 和 cross-task evaluation,只保留被验证有效的修订,形成 Agent 系统的 CI/CD。
- 具身/机器人特有的 privileged simulator state 与 sim-to-real calibration 在电商场景不可直接复用;主要价值在于自我改进流程、技能复用与跨任务验证机制。
ActiveSaddler:Agent 外壳优化的自动课程学习
🧭 Agent harness 自动课程学习 ★ 深度解读
POSTECH · KAIST · Microsoft
将 Agent harness 优化的训练场景选择建模为非平稳 bandit,动态构造 failure-pattern arm 并自适应调度,在 GAIA2/Terminal-Bench 2.0 分别提升 4.4/7.5 个百分点
📌 工作参考价值(4 点)
- 把训练样本选择纳入 LLM Agent 自动优化:在自动调 prompt / tool / control logic 时,不要只按固定类目或场景顺序滚动训练集;先对失败执行轨迹做诊断,按同一底层缺陷聚成 failure-pattern arm,再作为后续优化目标。类目粒度太粗会掩盖未解决弱点,单场景粒度太细会分散同类失败,论文中两类替代 arm 导致 GAIA2 下降 3.0/3.6pp,TB2 下降 10.8/6.7pp。
- 用 LLM 对失败模式打学习潜力分并随机采样,不贪心:打分参考 severity / fixability / breadth / side-effect risk 四维,再做 softmax 采样(温度 0.15)。分数随 harness 和证据更新而重算,让优化预算持续重分配到仍可修复的高价值弱点;移除自适应打分导致 4.5/7.5pp 下降。
- 显式设置 exploration / exploitation 控制器:每轮先做二值决策 DRAW(探索未见样本)vs PULL(复用已知 arm),依据当前已知 arm 剩余价值;固定每 5 轮探索的变体下降 4.5/8.3pp。在搜索/推荐 Agent 优化中,当已知失败模式已被基本修复时再切换新 task 采样。
- 用 pattern registry + CLI 管理动态 arm,而不是把历史全塞进 prompt:提供 scoped view 和读写命令,工程上可复用到长周期迭代的 agent 优化系统。
AgSpec:在编码代理流水线中突破检索型投机解码极限
🧭 编码多智能体流水线的检索式投机解码加速
KAIST
AgSpec通过三层语料检索与按Agent自适应草稿长度,将编码Agent流水线生成吞吐提升至自回归解码的4.37–4.76倍
📌 工作参考价值(4 点)
- 将多轮Agent交互历史、工作区文件、全局模板分层构建检索库,能提高生成式任务(如商品标题/详情、客服回复)中投机解码的draft命中率;索引时把原文转换为最终输出格式,避免格式不匹配导致验证拒绝。
- 不同Agent或生成任务的接受长度差异大:离线profile每个Agent/Task的draft长度上限,线上根据acceptance/verification feedback动态调长或调短,可避免固定草稿长度带来的overhead。
- 投机解码在batch=1和batch=16下都有显著吞吐提升,适合电商Agent低延迟交互和高并发批式生成两类场景;可在内部LLM推理框架中加入检索草稿模块,优先尝试session级检索再混合全局。
- 该方案不依赖额外训练,通过工程化语料与策略即可提升,适合现有Agent流水线快速集成,尤其是多轮、多智能体调用LLM的自动生成系统。
AutoGUIWorld:图像生成器作为GUI智能体的视觉世界模型
🧭 GUI Agent 数据合成与训练
Hunyuan AI Data Team
利用图像生成器与规划器合成无环境依赖的GUI交互轨迹,提升GUI智能体真实任务性能
📌 工作参考价值(4 点)
- 在电商/推荐场景中,可借鉴“无环境数据合成”思路:用图像生成器模拟商品详情页、购物车、下单等界面状态变化,低成本生成多步交互轨迹,用于训练购物助手或导购Agent,避免依赖真实App部署。
- 规划器+图像生成器迭代编辑的方法可生成多样化的用户旅程模拟数据,覆盖冷启动场景或长尾界面状态,增强Agent对异常布局、少见控件的泛化能力。
- 动作接地(action grounding)和过渡级质量过滤是关键步骤:在合成数据中显式校验动作坐标与视觉变化的对应关系,保证轨迹可用性,类似推荐系统中对合成样本做标注质量校验。
- 微调大模型(如Qwen3.5-35B-A3B)在真实基准上的显著提升(OSWorld +7.8pt, ScienceBoard +18.2pt)表明合成轨迹对Agent有效,电商领域可尝试用类似方法微调多模态模型处理商品页面操作任务。
长期自我中心视频记忆的构建与推理:MemLife与MemOpt
🧭 长期视频记忆 Agent 与 RL 训练 writer ★ 深度解读
Meta Reality Labs · University of Virginia · University of Illinois Urbana-Champaign
提出MemLife多模态记忆系统与MemOpt强化学习框架,只训练记忆写入器即显著提升长期视频QA
📌 工作参考价值(4 点)
- 记忆写入与读取解耦:将非结构化多模态行为流(观看/会话/操作)离线压缩成时间戳+实体锚定的文本条目,线上只做检索与推理,可大幅降低长期用户行为记忆的存储与查询成本。在电商场景可对用户历史生成第一人称摘要(“我上周浏览过某商品”),对齐自然语言问询。
- 时间索引 + 语义搜索:检索时先用时间区间过滤再做 embedding 相似度排序,并按时间顺序组织证据,能缓解长历史中相似事件的检索竞争。迁移到搜索推荐可处理“上个月看过的那双鞋”等时间敏感查询,先缩小候选集再匹配。
- RL仅训练记忆写入器而非端到端答案:奖励分解为 Faithfulness / Informativeness / Retrievability,避免 reader 执行噪声干扰,训练稳定且跨 backbone 泛化。可以对用户行为摘要或商品描述生成模块采用类似分解奖励,将“信息量”和“可检索性”纳入优化目标。
- 可检索性离线评估:用固定 reader 缓存 actions 重放判断候选记忆是否会被检索到,无需每次生成新推理轨迹,显著降低训练开销。在推荐/搜索中评估历史摘要或商品描述的召回效果时,可用固定策略重放,快速离线筛选高质量候选。
超越记忆:用显式信念状态驾驭长程智能体
🧭 长程 Agent 信念状态维护与恢复 ★ 深度解读
Nankai University · Alibaba Group · Tsinghua University
提出 PoS 框架,通过显式信念状态、一致性验证与卡住感知恢复提升长程 LLM Agent 表现
📌 工作参考价值(4 点)
- 在电商/搜索/推荐场景的 Agent 中,用 Entity-State-Relation 结构化信念替代原始轨迹摘要,把“仍需知道什么”(epistemic gaps)和“仍需完成什么”(achievement gaps)分开显式维护,作为每步 action selection 的上下文,避免长会话中状态混淆。
- 引入独立 Belief Sentinel 校验模块(可用同一 LLM 角色分离),在每次信念更新后检查内部一致性(如冲突的实体状态)和外部一致性(与新 observation 是否矛盾),显著降低错误状态污染后续决策的风险。
- 对多轮交互 Agent(商品导购、售后诊断、搜索会话)增加“卡住检测”:监控窗口内 gap persistence、progress stagnation、belief recurrence 三个信号,一旦检测到 Belief Trapping,按动态模式(static/cycle/drift)和 gap 类型注入恢复约束,如抑制无效动作、强制获取判别证据或制造目标状态变化。
- 注意成本均衡:信念维护会增加总体 token 成本,但能降低 Task Agent 的无效 token 消耗和提升成功率;实际业务可先用轻量校验器、缓存信念或降低更新频率,在关键长程任务中开启完整机制。
从研究文献学习:面向终身 Agent Harness 演化
🧭 Agent harness 终身演化 · 文献驱动搜索 ★ 深度解读
University of California, Santa Barbara · Microsoft
用论文检索、主题建模和模块化交叉重组,在冻结 LLM 下自动演化 Agent 执行层 harness
📌 工作参考价值(5 点)
- 把 Agent 执行层拆成 Tool / Context / Skills / Memory / Workflow 五个模块,只演化 harness 代码、冻结 LLM 权重。业务上可以在不重训模型的前提下快速迭代线上 Agent,尤其适合电商导购、客服、广告投放等需要频繁调整工具和上下文策略的场景。
- 失败轨迹不要直接喂给 coding agent 改代码,先做 failure audit,把 badcase 抽象成 capability gaps,再转成 research queries 去查论文。这样能把业务问题翻译成文献检索问题,持续引入新机制。
- 用 TopicGPT 式主题建模把候选论文聚成正交机制族,按 round-robin 分配预算,而不是按 relevance ranking 取 top-K。可避免反复在 workflow 里加 verifier、多 Agent 辩论等内卷操作,探索更宽的机制空间。
- 单模块 mutation 之后再做 crossover 组合评估:先用 additive predicted gain 便宜初筛组合,再对短名单实测。注意单模块指标排名不能预测组合效果,这对应推荐系统中召回/排序/策略模块的组合搜索,值得直接复用。
- 终身演化可以作为工程机制:定期拉取新论文,从当前 champion 启动新一轮搜索,用独立的 validation tasks 做 fitness,test 严格隔离。适合让线上 Agent harness 跟进学术界最新 memory consolidation、skill library 等方法。
更少 Token 更好行动:成功率升 14%、Token 省 65% 的机器人 Agent
🧭 VLM Agent 代码执行与选择性观察
Peking University · National University of Singapore · NVIDIA · Impossible Research
PyRUA-Lean 用代码执行+选择性观察,同等调用预算下成功率 63.1%→71.7%,Token 省 65%
📌 工作参考价值(4 点)
- 用 Python 代码块代替多轮 tool-calling:将多个工具调用组合成可执行 cell,包含条件判断和局部重试,减少 LLM 往返;在电商 Agent 中可把「查询商品→筛选→比价→生成文案」编码为模板化代码,LLM 只填参数。
- 选择性观察:不让 Agent 每次接收完整环境状态/全部候选商品,而是显式请求所需字段(价格、库存、历史行为),降低输入 token;类似 RAG 按需取上下文。
- 局部重试机制:在代码块内处理可预见失败(API 超时、无搜索结果、价格变动)而不回传 LLM,只在需要重新规划时才调用 LLM,可显著降低调用次数。
- 同等调用预算下提升成功率:省下的 token 可用于更多次 LLM 调用或更复杂规划,在固定成本内提升推荐/搜索效果。
GUI-HARVEST:证据驱动的 GUI Agent Harness 自改进
🧭 GUI Agent 自适应 Harness 优化
The Chinese University of Hong Kong, Shenzhen · Tianjin University · Harbin Institute of Technology (Shenzhen) · East China Normal University · Shenzhen Research Institute of Big Data
用证据驱动 harness 自动进化,让冻结 backbone GUI agent 自改进并跨任务/模型泛化
📌 工作参考价值(4 点)
- 在电商/搜索推荐 Agent 管线中,可借鉴「证据驱动诊断」:记录模型意图、实际执行动作及前后环境状态(如搜索结果页、购物车状态变化),定位具体状态转移,而非只看最终 reward,从而找出 harness 该改哪里(如终止条件、重试策略、query 改写触发点)。
- 同任务重复运行作为联合证据,比较成功/失败轨迹差异,能排除执行随机性影响,提取 outcome-relevant 的行为差异(例如成功轨迹多了一次二次验证),再把这些差异固化为 runtime 规则,比单次失败更可靠。
- harness 优化建议限制在 bounded source-code edits(观测组装、动作执行、验证/恢复、终止控制),并在评估前记录预测行为效果;这样能验证行为与任务性能双重提升,降低过拟合到特定任务的风险,便于在 unseen tasks 上复用。
- 冻结 backbone 下优化 harness,再跨模型/跨环境迁移,可减少对每个新模型做 fine-tune 或 prompt 工程;电商场景中可先在成本较低模型上优化 harness,再迁移到更强闭源模型或不同产品域。
后训练中的锐化税:基座与后训练LLM智能体的覆盖率权衡
🧭 LLM Agent RL后训练 · 测试时扩展诊断 ★ 深度解读
Meta Superintelligence Labs · University of Wisconsin–Madison · NYU · Stanford University
提出Sharpening Tax度量后训练对测试时覆盖率的损失,并给出PTGS自适应温度采样以同时提升pass@1与pass@K
📌 工作参考价值(4 点)
- 评估Agent或对话式购物策略时,除了pass@1,应监控pass@K与Sharpening Tax;若业务需要高覆盖/多样性(如商品候选生成、长尾query召回),后训练模型可能过度牺牲覆盖,可保留base模型+轻量harness做多次采样。
- 在用PPO/GRPO训练推荐Agent或生成式推荐策略时,可引入PTGS:为每个prompt维护Beta成功统计,按难度自适应采样温度,硬任务升温、易任务降温;无需改RL算法,可降低熵崩塌,兼顾单次准确率与长尾覆盖。
- 仅用8个rollout即可低成本估计Sharpening Tax,相关性ρ=0.85预测更大预算下的tax;可用于上线前诊断或做模型路由:后训练模型处理高置信任务,base模型处理需要探索/候选多样性的任务。
- RL对齐后的双峰化会使中间难度任务消失,需评估是否把可救回的长尾任务推向永久失败;对电商/广告中的个性化Agent,应关注always fail比例,PTGS可缓解该问题。
幻境环境:在虚构世界中训练LLM智能体
🧭 规则生成合成环境训练搜索Agent ★ 深度解读
Cornell University · Stanford University
用零成本规则生成的虚构多跳问答环境做RL训练,得到可迁移到真实多跳基准的LLM搜索agent
📌 工作参考价值(4 点)
- 可构建规则生成的“虚拟商品/用户图谱”环境,以零边际成本生成多跳query-answer对,用于RL训练搜索/推荐agent,避免依赖LLM生成数据带来的幻觉和污染。
- 用纯线性跳数(hop)作为难度主轴,优先训练问题分解与逐跳检索;comparison类题型可按需混入50%以定向补强比较推理,不要盲目加constraints防止模型学会逐字query捷径。
- 真实业务数据有知识时效和memorization shortcut问题,可把规则环境作为跨域/新库存的鲁棒训练补充,尤其当线上query超出训练分布时;关闭knowledge advantage,让模型学通用搜索技能。
- 监控agent搜索调用次数随问题难度的缩放行为,可以作为训练质量指标;Qwen2.5在虚构环境交互后涌现线性search scaling,提示可将其作为模型是否掌握自适应检索预算的信号。
基于选择的结构化推理:迈向高效多模态搜索智能体
🧭 Agent推理效率优化·选择式结构化推理 ★ 深度解读
Apple · Carnegie Mellon University
将多模态搜索Agent的逐步推理从自由生成改为从候选库中并行选择,保持成功率且推理延迟降超90%
📌 工作参考价值(4 点)
- 在电商导购/搜索 Agent 中,把每轮规划从自由生成改成路由选择:预先定义 5-10 条高频决策候选,如“澄清需求 / 生成搜索 query / 比价 / 读图识别 / 基于证据作答”,让模型按上下文似然打分选择,再用选中候选引导 action 解码。这样能保留自然语言 guidance 的效果,同时规避自回归推理的延迟不可控。
- 工程上可直接复用“并行 prefill 打分”的做法:对候选文本做 teacher-forced logprob 计算,共享历史 KV cache,不需要额外分类头或 SFT warm-up;用 SGLang 的 logprob_start_len + max_new_tokens=0 可实现。候选库可离线维护,p95 延迟比自由生成稳定得多,适合在线流量。
- 训练层面,若用 RL 训练 Agent,可把“规划/路由选择”当作 categorical action,动作 token 保持常规 importance ratio;用 GRPO 更稳,GSPO/SAPO 多步更新时 selector-gradient 近似会损失精度,业务上可采用更多 rollout 或一次更新。
- 候选设计要注意两点:不要只打分 index,要打分完整自然语言文本的语义;库规模从 1 到 6 带来看得见的提升,所以可以先用日志聚类/高绩效轨迹总结出高频意图,再逐步扩展到 6-10 条。
AdviSD:通过定向多轮自蒸馏训练前沿 LLM 的顾问模型
🧭 小型 advisor 训练 · 定向自蒸馏 + GRPO ★ 深度解读
Google · University of Southern California
用配对评分筛选哪些反思修正值得监督,训练小型 advisor 通过自然语言建议提升冻结 Gemini/Claude 的工具调用与多轮 agent 表现
📌 工作参考价值(4 点)
- 对调用黑盒 LLM API 的电商/Agent 场景,可以用小模型做外部 advisor,不必微调 frontier 模型;AdviSD 的配对评分过滤不依赖 executor logits 或额外 rollout,工程成本低。
- 训练时把“修正生成”和“选择哪些修正用于监督”解耦:用 pre-update advisor 对同一 executor 回复计算 with/without advice 的平均 log-prob 差,只保留差值超过阈值的决策;不要学所有反思修正,尤其避免学对 executor 行为无影响的“正确但无用”建议。
- 对原始 abstention 决策要单独 bypass:因为无 advice 时 with/without 上下文相同、score 差为 0,容易被过滤掉;保留被 reflection 标记的 missed advice 可提升 0.6–1.7 点。
- 做消融时加 matched-count random control,能区分“少学一点”和“选得对”;阈值可以用 donor advice(其他任务 advice)在 pilot 上校准并固定。
测试时 AI4AI 中面向 Agent 脚手架设计的元技能学习
🧭 Agent 元技能与执行环境构建 ★ 深度解读
Apodex · University of Illinois Urbana-Champaign
提出通过 Builder 从 Target 执行反馈学习元技能,并物化为脚手架以提升固定权重 Agent 的表现
📌 工作参考价值(4 点)
- 将“教模型解题”拆成“教构建者设计支持”:用 (when, provide, use) 三字段沉淀执行反馈中的共性失败/负担,而非只蒸馏任务技能;在电商 Agent 工作流中可用于提炼“何时需要价格/库存校验、提供什么工具、谁负责最终判断”的运维原则。
- 支持要以“可执行脚手架”交付,不要直接把同一批 skill 塞给下游 Agent:让 Builder 把元技能编译成 memory、controller、verification、工具包装等;论文中 Builder 交付比直接给 Target 平均高 12.02 个百分点,说明把语义知识转成持久状态/控制流是收益来源。
- 同一模型可同时当 Builder 与 Target,不更新权重也能通过“学会给自己搭环境”自改进;适合线上 Agent 系统在 fixed model 下做轻量自举,尤其是反复出现的协调/提交流程。
- 技能访问默认全量 bank 给 Builder,通常优于 BM25 top-2(本文 5/6 设置全量更好);当 bank 变大再做考虑互补性的检索,并结合开发集反馈做回滚/选择性保留,避免过拟合。
从给定证据到主动采集证据:纵向医疗推理的智能体学习
🧭 Agent 工具调用与证据采集强化学习
Durham University · DAMO Academy, Alibaba Group · Hupan Laboratory · University of the Chinese Academy of Sciences
提出 CASE 角色化临床智能体与训练框架,将证据寻求策略蒸馏到 8B VL 模型,纵向医学基准超越 GPT-5.4 与 Claude Opus 4.8
📌 工作参考价值(4 点)
- 信息获取型 Agent 的环境设计:不要把用户/商品/内容/广告记录一次性塞进大 context,而是将不同数据源组织成可查询工具(历史订单、点击序列、画像、素材、库存/物流等),让策略模型自主决定“看哪个来源、看多细、是否回看”。这更适配需要跨多证据推理的选品归因、活动复盘、商品冷启动与客服工单诊断。
- 训练框架可复用:先 SFT 蒸馏 frontier 模型的多轮工具调用轨迹,再做 on-policy RL + 特权自蒸馏 + rubric-based LLM 反馈;关键是不规定工具调用顺序,只奖励最终结论质量与证据引用合理性。比固定 pipeline 更适合搜索推荐的动态环境。
- 评测结构化:以真实结果(如 ICD-10 诊断)生成问题,让 Agent 在患者环境中主动取数;业务上可由真实成交/退货/投诉/复购结果构造诊断性问题,评估 Agent 的证据检索与归因能力,而不是只看预测 AUC。
- 8B 紧凑策略模型 + 对齐过的评估条件能超过大体量 frontier 模型,说明把前端交互策略训练好,中小模型在特定业务环境中具备落地性价比。
Encore:从少量演示中发现操控策略的 Agent 框架
🧭 Agent 从少量演示中提取策略并编程执行
Massachusetts Institute of Technology · 22077AI Open Source Foundation · Texas A&M University · University of Wisconsin–Madison
把少量演示作为证据包供编程 Agent 研读并迭代改写策略,冻结后评估不暴露成功信号
📌 工作参考价值(4 点)
- 可借鉴「演示即证据」的思路:在电商 Query 改写、广告文案生成或推荐策略决策中,将少量高质量成交/高点击样本的结构化轨迹(关键行为事件、状态变化)作为 prompt 上下文,让 LLM 从中归纳策略,而不是重新训练或微调。
- 固定感知/动作 API 的抽象很有用:给 Agent 暴露一组受限的领域函数(如召回、过滤、排序、出价),让 Agent 组合生成可执行策略程序,比自由文本输出更可控、可上线。
- 开发期允许少量 rollout 调试迭代,但最终 sealed evaluation 不反馈成功信号,可以防 Agent 过拟合评估指标或奖励黑客;迁移到线上测试时,冻结策略后用无偏指标评估。
- 确定性信息蒸馏:把演示/日志压缩为多视角关键帧、事件片段等结构化 pack,能降低 LLM 读取长流程的负担;在用户行为序列建模中,可提取关键行为事件、商品切换等作为总结性证据输入。
跟随实体:面向 Agentic Search 的语料地图
🧭 Agent 搜索 · 实体导航层 ★ 深度解读
KAIST · Microsoft
以跨文档实体为锚点构建离线可复用导航层,提升多文档 Agent 搜索证据发现并降低 token 消耗
📌 工作参考价值(4 点)
- 把经常跨文档出现的业务实体(商品、活动、商家、项目)离线解析成 Entity Page,作为 agent 可读文件挂到原语料旁;查询时让 agent 从实体页跳到相关文档,而不是每次都重新 grep/搜索,能稳定节省 34%–57% token。
- 构建实体-文档二部图,而不是树形分类;同一文档可挂在多个实体下,避免 Corpus2Skill 这类层次聚类把相关证据拆散的问题,电商知识库中「活动/商品/商家」多对多关联尤其适合。
- 离线构建可用 GLinker/GLiNER 等无 LLM 方案替代,成本低且可跨 LLM 复用;新增文档时增量更新 registry 并只重渲染受影响 Entity Page,适合持续增长的电商文档/工单/商品库。
- Entity Page 将事实逐条归因到源文档,agent 读取页面后能沿链接打开源文档验证,减少幻觉;也可作为权限/隐私过滤边界,按权限生成分离 map。
JevSpawn:组合动作空间实现自适应智能体推理
🧭 Agent 组合动作空间加速推理
Fudan University · Shanghai Jiao Tong University · Shanghai Innovation Institute
通过组合动作空间与并行生成-反馈选择,将 Jev-style 快速概率预测引入自适应 Agent 推理,降低延迟并提升任务性能
📌 工作参考价值(4 点)
- 在电商推荐 Agent 的多轮交互或工具调用中,将离散候选动作(如商品候选、Query 改写选项)编码为有限字段,使用 Jev-style 概率预测并行生成多个动作候选,替代逐 token 生成,显著降低推理延迟,适合对时延敏感的场景。
- 利用共享动作结构和前缀缓存(prefix/KV cache):多个并行分支共享相同上下文前缀时,仅计算一次前缀,减少重复计算;在长会话推荐中可缓存用户历史与系统提示,提升吞吐。
- 借鉴反馈驱动的分支选择与保留备选:根据环境反馈(点击/转化)对并行候选剪枝,同时保留未选分支以便在后续步骤中恢复,增强推荐策略的鲁棒性,类似多臂老虎机的探索-利用平衡。
- 无需额外训练,可直接集成现有 LLM Agent 框架,降低工程落地成本。
LLM Agent 是否执行所声明的计划?从规划模式声明到模式化执行
🧭 Agent 规划声明与执行一致性诊断 ★ 深度解读
ADIA Lab, Abu Dhabi, United Arab Emirates · University of Granada, Granada, Spain · Luxembourg Institute of Science and Technology, Luxembourg · Cornell University, Ithaca, USA · Lawrence Berkeley National Laboratory, Berkeley, CA
提出 Planning-as-Routing:LLM 声明规划模式并由确定性路由器分派给对应执行器,显著缩小声明-执行差距,但模式选择仍是瓶颈
📌 工作参考价值(4 点)
- 业务 Agent 设计:不要把 LLM 生成的计划仅仅作为 prompt 交给通用 ReAct loop;要把 planning mode 映射到可执行 control flow(predefined/sequential/hierarchical/search)。长链路任务(多步商品约束搜索、广告账户搭建、售后工单处理)优先用 hierarchical/search 执行器,短任务用 predefined 更省成本。
- 评估体系:新增 process-level 指标(plan adherence、plan-order faithfulness、declaration-execution preservation),不要只看最终成功率。可以用规则 verifier 或轻量 judge 检查轨迹是否按声明顺序执行,快速区分是选错模式还是执行漂移。
- 路由与选型:做 planning mode 路由前,先跑 forced dispatch 得到每个模式在目标任务集上的 ceiling;如果 per-task oracle 相对 best fixed policy 的 headroom 很小,就不值得做复杂 selection,固定最优模式+多次重试更划算。
- 少样本与选择先验:few-shot 对模式选择有正收益但不稳定,需按业务环境和模型分别验证;当前 LLM 零样本选择接近任务无关偏好,不要默认模型会为每个任务选对 planning mode。
PivotOPD:多轮智能体从关键错误中学习恢复
🧭 Agent 多轮训练 · 关键错误恢复 ★ 深度解读
Princeton University · NVIDIA · University of Maryland
在关键轮做预防式 reverse KL、后续轮做恢复式 forward KL,大幅提升多轮 Agent 从关键错误恢复的成功率
📌 工作参考价值(4 点)
- 多轮 shopping/search agent 中,用 teacher hindsight 检测 pivotal mistake,把密集蒸馏信号集中在关键轮及后续恢复窗口,比均匀蒸馏更划算;在 WebShop 这类电商环境里,成功率提升明显大于部分得分,说明可把半途任务转化为完成订单。
- 若没有环境 oracle,可直接用较大 LLM 回读轨迹,选 candidate turns 并给出 gold action,与 student 实际 action 不一致就视为 pivotal;ALFWorld 上这种检测在 77.8% 失败轨迹中落在 oracle pivotal 附近,足够用于训练。
- 目标构造可复用:frozen student + gold/recovery action hint 作为 privileged self-teacher,生成学生风格的 token 级目标;预防用 reverse KL 压住错误动作,恢复用 forward KL 覆盖低概率恢复动作,两者放进同一个 PPO advantage 更新。
- 恢复预算 K 按任务调:短链路取 K=1,长动作链恢复取 K=2;蒸馏 advantage 建议 clip,preventive weight 设小,恢复序列只保留可解析且不泄露 hint 的回复。
ReMem:重新思考长上下文推荐智能体的感知与记忆
🧭 推荐 Agent 的感知与长程记忆优化 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
用 OCR 感知与分块动态记忆重构推荐 Agent,平均相对提升 5.16%
📌 工作参考价值(4 点)
- OCR 商品页感知可以替代 HTML 解析:在用户侧 Agent 中直接对商品页/App 截图做 DeepSeek-OCR,生成结构化商品卡片,平台无关且能过滤广告噪声,避免为每个站点维护 HTML parser。
- 分块动态记忆 TEM 很适合长用户行为序列:把历史按窗口分块,维护固定长度自然语言记忆,再基于最终记忆做推荐;不引入外部向量库或 KV cache 改动,线上实现简单、可 debug、可用 prompt 约束记忆内容。
- 多段独立记忆对话的 RL 训练可借鉴 Multi-Memory GRPO:把最终答案 advantage 传播到所有中间记忆 token;建议先 warm-up 两个 epoch 再设置 λ=0.7,避免早期带偏记忆更新。
- 长上下文不是越长越好:QwenLong-L1、向量记忆在超长上下文下仍明显衰减;电商用户行为序列建模可优先用可控的自然语言记忆压缩,而不是全量输入或纯向量检索。
ReSAIL:缓解迭代智能体自蒸馏性能崩溃
🧭 Agent 自蒸馏训练稳定化
Gaoling School of Artificial Intelligence, Renmin University of China
提出 ReSAIL 插件,通过选择特权信息影响大的步骤蒸馏并保持特权条件分布,平均提升 22.5% 成功率
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的迭代自蒸馏训练中,若教师有特权信息(如用户真实意图、后续转化、库存),避免直接用线上部署轨迹蒸馏,可借鉴 ReSAIL:选择 PI 影响大的步骤蒸馏,并用教师 PI 条件输出作为正则,稳定多轮迭代。
- 离线数据选择可用 sensitivity 指标:计算 teacher 在有无 PI 下输出分布差异,筛选差异大的交互步骤,提升数据效率,减少无效样本。
- 工程实现上,在学生训练 loss 中加入与冻结 teacher 的 KL 散度(针对 PI 条件分布),即使部署时无 PI 也能保持隐式行为一致性,防止下一轮 teacher 退化。
- 对搜索推荐中的 query 改写/推荐解释 Agent,若使用 oracle 信息(点击/购买标签)自蒸馏,可沿用“保留特权行为”思想,避免多轮迭代后策略漂移。
SelfSearch:自改进 Agent 的无奖励搜索
🧭 Agent 自我改进 · 无奖励搜索 ★ 深度解读
Graduate School of Data Science, Seoul National University
用历史自我改进轨迹取代下游评估信号,驱动 Agent 自我修改并提升任务成功率与执行效率
📌 工作参考价值(4 点)
- 可将业务 Agent(如广告文案、query 改写、选品分析)历次自我修改的 reasoning、工具调用、失败与代码变更沉淀为可检索经验库;在没有线上收益或频繁 A/B 的情况下,先低成本迭代 scaffolding,再少量验证。
- 工程上把 runtime 与可编辑 agent repository 分离,固定推理设置、资源预算和轨迹记录,适合电商/广告场景中安全地让 agent 修改工具和规划器,保证可回滚。
- 借鉴双 lineage + 共享 episode records:capability 方向专注新增可复用工具,adaptive 方向专注失败恢复,避免单一改进路径过拟合,对工作流自动演化尤其有用。
- 优先建设“面向自我调试的可复用工具”,如带输出上限的 text search、line-range file viewing、call/result 关联;这些工具既能提升任务解决,也会在后续自改进中被复用。
思考之前的思考:用元推理扩展智能体推理规模
🧭 Agent 元推理控制与 artifact graph ★ 深度解读
Meta Superintelligence Labs
将 Agent 的控制决策与目标级计算分离,用显式元推理管理 artifact 图、预算和 worker 调度,提升长程任务性能并随预算持续扩展
📌 工作参考价值(4 点)
- 把“控制”与“执行”拆开:在电商推荐/搜索的 Agent 流程中,不要让每个动作都携带完整历史;用轻量 controller state + 可检索 artifact memory,worker 只接收必要 context,能显著降低长上下文信息丢失,提高多步决策稳定性。
- 用 artifact graph 做系统诊断:记录每个中间候选/策略的依赖关系,将失败分解为 coverage(是否产生过正确结果)和 selection(是否选中),类似论文中的覆盖率和 frontier 选择增益,快速定位是召回/生成不足还是最终排序/选择错误。
- 做预算感知的元推理:在线上低延迟场景可以设置 model-call 预算,由 Evaluate 阶段判断剩余预算下每个候选动作的计算价值,小预算时自动关闭深层次控制;论文中低预算 crossover 现象说明元推理 overhead 对简单任务可能有害。
- 引入独立 controller verdict,而非只依赖 worker 自我置信:在推荐 Agent 中对生成结果做独立评估和打分,其排序信号往往比生成模型自报置信度更可靠,可用于最终候选选择。
跳出盒子思考:语言模型能否选择性依赖外部指导?
🧭 Agent 工作流选择性依赖评估与训练 ★ 深度解读
Southern University of Science and Technology · City University of Hong Kong
提出 Box2-Bench 评估 Agent 在工作流可靠性变化时的选择性依赖,发现模型会用但难弃坏指导,反事实 SFT 加 RL 可训练选择性
📌 工作参考价值(4 点)
- 在电商/导购/售后等 SOP 型 Agent 中,外部 workflow 可能过时或误导,可用 Box2 的 paired evaluation:固定任务和模型,只变 workflow 的 Good/Bad/Partial/Mixed 四种可靠性,能分离模型自身能力与流程依赖,避免只看端到端准确率掩盖流程鲁棒性。
- 训练技巧可直接复用到业务 Agent:只用 bad workflow 数据做 counterfactual SFT(问题+错误流程→验证过的正确轨迹),让模型学会无视误导流程;再叠加 outcome-based RL(GRPO)恢复对好流程的利用,避免模型对所有流程都变得抗拒。
- 该两阶段训练会泛化到多 Agent 协商和 memory-augmented RAG:训练后模型对不可靠的 peer 建议和 corrupted memory 更倾向验证而非盲从,适合需要多 Agent 协作或记忆增强的推荐/搜索场景。
- 在 workflow 频繁变化的业务中,RL 奖励只看最终结果、不约束中间路径,允许模型动态决定何时偏离流程,可作为上线前鲁棒性筛选或流程迭代的辅助手段。
虚假前沿:自进化搜索智能体中协同作弊的诊断与缓解
🧭 自进化搜索智能体 · 交叉拟合反馈 ★ 深度解读
Rutgers University · University of California, San Diego · University of Michigan · McGill University · King Fahd University of Petroleum and Minerals
诊断自进化搜索智能体中 proposer 与 solver 共享错误导致的协同作弊,提出 CrossFit 源级交叉反馈,错误一致率减半且下游平均提升 8.8/8.4 点。
📌 工作参考价值(4 点)
- 自进化/自训练闭环中,内部 feedback 上升不代表外部正确性提升。建议引入独立审计(如用更强 LLM 或外部证据),监控 false agreement,防止 proposer 与 evaluator 共谋。
- 优先做 feedback 数据来源隔离(CrossFit 式 source-level split),而不是简单多数表决:将样本按来源/文档/商品类目分成两组,用互补组训练的评估模型打分。这一思路可直接迁移到电商 query 生成、push 文案选择等场景。
- 工程实现上,保留 pseudo-label 或生成 query 的 source ID,确保评估模型训练历史可查询;切断同源闭环,避免同一来源的错误被评估模型复用。
- 若资源有限,优先投入 source-exclusion,而非增加采样次数做 MSV:MSV 单独只提升 0.7-0.8 点,计算开销却增加约 90%;CrossFit 在计算增加 36%-40% 下带来 8-9 点下游提升。
终端智能体动作级采样与验证方法
🧭 终端 Agent 动作级验证与测试时扩展 ★ 深度解读
NVIDIA · KAIST
在动作执行前采样并验证多个候选,以 pairwise 比较和蒸馏提升终端 Agent 轨迹成功率,成本效率优于纯轨迹扩展
📌 工作参考价值(4 点)
- 对会改变环境状态的关键动作(选品、改库存、出价、下架、发消息)在执行前采样多个候选并用 pairwise verifier 筛选;pairwise 比 listwise/pointwise 更稳定,尤其生成器与验证器同模型时。
- 有更强模型但推理成本高时,离线收集 teacher 的 pairwise 偏好,用 LoRA 蒸馏出轻量 verifier,生成器不动;决策-only 只输出 A/B,可再降 20-24% token 成本,9B 模型上 Pass@1 不降反升。
- 动作级验证可与轨迹级 Best-of-N/Sequential Refine 叠加:同等环境执行次数下 Pass@1 可显著提升;测试时算力优先加动作验证,比单纯多跑完整 trajectory 更划算。
- 离线诊断 disagreement 发现失败集中在「命令语义 / 执行可行性」,建议业务中重点标注此类样本,优化 verifier。
AREX-2:通过长程反思任务推进自改进智能体
🧭 自改进 Agent · 长程反思训练 ★ 深度解读
Beijing Academy of Artificial Intelligence (BAAI)
用长程反思轨迹训练 27B agent,在 ML/编程及深度研究基准上逼近更大模型
📌 工作参考价值(4 点)
- 把“失败和恢复”写进训练轨迹,而不是只保留成功答案:在电商搜索/广告 agent 做 query 改写、创意优化时,可用离线仿真或历史日志构造多轮改进轨迹,保留负面反馈与后续修复步骤,loss 只施加在产生进步的动作上。
- 用 graded reward 替代 binary pass/fail:推荐/搜索中的 ranking 调优或选词不要只给“是否采纳”,可给连续指标(CTR、NDCG、转化率变化量),让每轮反馈都有信息量,延长有效迭代轮数。
- 把 operational knowledge 做成可注入的 skills:在基座模型不变的情况下,将商品类目规则、广告政策、用户意图词典等做成紧凑文档放进 context,能显著提升 agent 初始能力;实验中 base 从 28.8 到 68.2,说明业务知识注入比重新训练更便宜。
- 在线上 agentic 工作流中预留 round budget,并用 best-so-far 指标评估:例如对高价值广告计划或搜索 query,可给 agent 多次尝试与自评机会,按测试时消耗动态增加调用;但注意有效 horizon,超出 T* 后不再提升。
EVOKE:通过目标多样性引出世界知识以提升 Agent 可迁移决策
🧭 Agent 后训练 · 世界知识引出 ★ 深度解读
Shanghai Jiaotong University · Hong Kong Polytechnic University · Eastern Institute of Technology, Ningbo
固定状态与历史、切换目标并对同一组动作做排序监督,迫使策略调用预训练世界知识做决策,而非依赖单目标习惯
📌 工作参考价值(4 点)
- 在电商/导购 Agent 中,可以对同一页面(商品详情、购物车、结算页)构造多个互斥目标(立即下单、修改地址、比价、取消订单),让策略在相同 state/history 下对同一组候选动作排序;只要不同目标偏好反转,就能强制模型使用动作后果知识,而不是记住单目标下的页面习惯,提升未见过活动页/新商城环境的泛化。
- 用「策略当前高分但被环境反馈判定为不推进目标」的动作作为 hard negative,结合 pairwise + listwise ranking,而不是只对 positive 做 SFT,能显著抑制线上 Agent 的惯常错误动作,减少无效点击和重复访问;电商搜索 Agent 可直接用日志反馈构造这类负样本。
- 训练时用 LLM 标注器对真实执行结果做 grounded 标注(实际执行后的 next page/结果),不把预测状态喂给策略;推理时部署标准 policy,无世界模型/规划模块,适合低延迟线上服务。可以借鉴「标注用执行结果,推理零额外开销」的设计。
- 数据效率高:ALFWorld 上仅用约 9% 的演示步数做多目标排序,unseen success 从 60.4% 拉到 91.8%;用当前策略 rollout 并 DAgger 式多轮聚合 policy-favored negatives,适合在电商仿真器/线上日志中低成本持续迭代。
HybridCUA:学习编排 GUI 与 CLI 的计算机使用智能体
🧭 Agent 多模态交互与工具编排 ★ 深度解读
Zhejiang University · Peking University · Tsinghua University
通过统一 bash 动作空间与 CLI-aware 奖励,让 CUA 学会何时用 CLI、如何可靠执行,OSWorld 准确率 53.6% 且步骤减半
📌 工作参考价值(4 点)
- 工具接口统一化:在电商导购 Agent 中,把点击/输入等 GUI 操作与搜索 API、筛选工具统一成同一种 action(如 execute),模型只需学习一个动作语法,降低调度复杂度;本论文统一 bash action 比分开 GUI/CLI tools 高 7.2 个百分点。
- 显式奖励工具选择:对 Agent 的工具使用做两层 reward——任务级根据标签奖励“是否选择了合适的工具”(如该用 API 批量操作时不用 GUI 一步步点),步级惩罚执行失败(如 API 参数错误、SQL 出错),比只给最终成功奖励更能塑造高效且可靠的行为。
- 混合数据构造:从单一 GUI 轨迹转换成等价 CLI 命令并重放验证,可低成本生成混合工具使用数据,不必从头收集。电商场景可以把已有“点击操作”轨迹改写为“调用搜索/下单 API”轨迹,保留成功回放,用于 SFT 温启动。
- SFT+在线 RLVR 两段训练:先 SFT 混合轨迹让模型学会工具切换,再用可验证奖励在线微调,能同时提升任务完成率和降低交互步数(步骤减少 29.3%)。适用于电商 Agent 的购物任务、订单处理等可验证场景。
即时 Agent 记忆:运行时按查询构建上下文的 JAM 框架
🧭 Agent 记忆 · 运行时上下文构建 ★ 深度解读
Beijing Academy of Artificial Intelligence · Peking University · Hong Kong Polytechnic University
JAM 将 Agent 记忆从请求无关预压缩转为运行时按查询构建上下文,结合分层工作区与可训练研究员策略
📌 工作参考价值(4 点)
- 对推荐 Agent 的用户长期行为/会话历史,不要只存预生成摘要;学 JAM 保留原始 session,并用轻量 memo/README 做导航,在线时用小模型按 query 迭代 open/search/browse,保留跨 session 细粒度依赖。
- 工程上采用 hybrid BM25 + dense retrieval 提供候选;离线建库一次性成本可接受,在线 13.81s/query 质量反超 58.08s 的 MemAgent;测试期可增加 action budget 换取 F1,budget 是上限而非固定成本,多数 query 早停。
- 训练研究员时用 verified-trajectory SFT 过滤“浅搜即答”的捷径行为,再用 GRPO 优化,奖励用 source recall(召回 gold supporting sessions);训练时注入 hint 稳定多步探索,推理时移除,业务可直接复用该奖励设计。
- Memory-Gym 的四阶段合成 pipeline(anchor discovery → task-dependent expansion → instantiation → validation)可改造用于生成电商场景训练样本:单跳定位、多跳证据连接、多 session 聚合,覆盖用户行为轨迹与商品知识。
记忆系统 Mnemon:原始记录、快速判断、慢思考
🧭 Agent 记忆系统 · System 1/2 分工 ★ 深度解读
用 System 1 决策模型在读取时批量判断原始记录,后台只建索引,以 <4k tokens 上下文在 LoCoMo 达 91.7%
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中,保留用户原始行为/对话记录,不在写入时抽取事实或建图谱;后台定期构建 topic timelines(用户关注点变化)、value histories(偏好值变化,如价格阈值、品类偏好)、standing instructions(用户明确要求,如“不要推已购买”),并链接回原始记录。读取时用小型决策模型批量判断哪些记录与当前请求相关、是否过期、满足哪个需求,只把少量相关记录喂给 LLM,大幅降低回答上下文和成本。
- 将记忆读取拆成 System 1/System 2:System 1 用廉价决策模型对候选记录做独立 yes/no 判断(是否相关、是否过期、满足哪个信息需求),System 2 仅写搜索查询、命名需求、生成回答。可以借鉴到推荐 Agent 的检索/过滤架构:用轻量模型粗筛候选池,LLM 只做高价值规划和生成,避免 LLM 逐条判断候选的延迟和成本。
- 引入固定预算和显式规则:view 大小、pool 大小、循环轮数、判断阈值等。规则只依赖判断顺序和二分结果,不依赖校准,因此可以替换决策模型而无需重新调参。工程上可让系统在长历史上保持近似恒定成本(从 100K 到 10M tokens 成本仅增长 1.11 倍)。
- 评估时使用有效成本指数 ECI = (1-accuracy) + context/full_context_cost,统一衡量错误和上下文代价,适合线上 Agent 对比模型/记忆策略,避免只优化准确率而忽略成本。
MemFold:用在线策略优化学习紧凑软记忆的长上下文个性化
🧭 LLM 长期个性化记忆压缩与强化优化 ★ 深度解读
University of California, Santa Barbara · University of North Carolina at Chapel Hill · Harvard University · University of Wisconsin–Madison
固定预算软记忆+置信门控在线蒸馏,按下游行为而非文本重构优化长程个性化记忆
📌 工作参考价值(4 点)
- 用户长期画像/行为序列记忆:先用 writer 抽取 query 相关的结构化文本记忆,再压缩为固定数量 soft tokens(如 K=256),reader 只消费 K 个向量,推理成本不随历史长度线性增长;适合电商/广告 Agent 在长会话中保持个性化且控制 context 开销。
- 在线策略蒸馏:用冻结的 full-text reader 作为 teacher,只对学生自己采样 token 计算置信门控 σ(β(ℓ_T−ℓ_θ)) 来加权 student 的 token likelihood;无需 teacher 自回归生成,能对推荐文案/回复中局部违背用户偏好的 span 提供密集监督。
- 把标量 reward(点击/转化/偏好命中)与 token 级信号结合:GRPO 负责整体结果,OPD 定位“整体流畅但某个推荐项违背偏好”的错误;工程上同组 reward 方差接近 0 时把 advantages 置 0,避免无效更新。
- 训练期固定 memory snapshot 和 teacher,防止 RL 更新导致记忆漂移;上线前可用 shuffled/null memory 干预验证模型确实依赖实例特定记忆,而不是只背任务先验。
PEAR:面向工业搜索系统的渐进式证据驱动自动研究框架
🧭 Agent 驱动的搜索策略自动优化 ★ 深度解读
Global E-Commerce Agentic Search Team
提出 PEAR 框架,以证据驱动研究状态和置信门控多级验证阶梯,在电商搜索中显著提升订单指标
📌 工作参考价值(4 点)
- 多级验证阶梯 + 统一置信区间晋升规则:把候选评估拆成 Offline Replay / Shadow-Traffic / Rapid Online / Decision-Grade 四级,每级都输出效应量和置信区间,只有 CI 下界>0 才 PROMOTE,CI 包含 0 保留,CI 上界<0 停止。这个规则能避免在非平稳电商流量下用单点分数“keep-if-better”导致的瞬时增益误判,可直接复用到排序策略参数、召回权重、重排规则的自动化搜索。
- 独立研究状态 + 上下文证据积累:每个策略任务维护独立的假设、候选空间、证据记录,通过 Plan–Execute–Evaluate–Update 循环持续修订假设。在电商场景中,同一策略在不同时间、不同流量组成下效果可能完全不同,记录实验上下文并让 Agent 基于 CI 和假设得分(Support - Refute)做候选生成,比单纯保留历史最优更可靠。
- 代理指标选择要优先对齐订单等业务目标:论文发现代理模型对订单的聚合相对误差最小(-3.49%),点击(-16.02%)和 GMV(-18.23%)误差较大。在构建 Agent 自动化优化链路时,若要用代理模型做低层筛选,应优先选择预测误差小、与最终业务指标对齐的代理信号,而不是盲目用 CTR。
- 低层广筛 + 高层精评,严格控制在线实验成本:L2 阶段的 promotion rate 只有 1.5%~7.14%,意味着大部分候选在影子流量阶段就被过滤掉,只有少数进入真实在线实验。工程上可以借鉴这种漏斗式评估,把昂贵且有风险的在线 A/B 留给统计上显著的正效应候选,同时保留大规模探索能力。
SEABench:自进化智能体内源性失配基准
🧭 自进化智能体安全与归因评测 ★ 深度解读
University of Virginia · ELLIS Institute Tübingen
提出 SEABench 基准,用成对非进化智能体与归因评分量化自进化导致的安全退化
📌 工作参考价值(4 点)
- 在推荐/Agent 工作流里,自更新(controller/memory/tools)会把上游“更全、更快、更一致”的用户反馈固化成跨场景规则;上线前用成对非进化版本跑同一批安全/隐私测试,只有归因到自更新且基线安全时才允许推进。
- 工具/技能面最容易被污染且危害最大:错误会变成可复用可执行能力。给工具默认安全参数(如脱敏默认开启、高风险操作必须显式 opt-in),对工具变更做更强的静态检查和脚本化回归。
- CoT 风险线程监控可以做低误报的在线护栏:对推理中“范围扩张 / 未支撑断言 / 安全边界被覆盖”等 risk thread 做分类 + 语义校验,生产环境 FPR 约 10% 时能挡下约 71% 有害输出;但工具/技能型缺陷可能不在 CoT 中暴露,必须加输出或调用结果级校验。
- 可借鉴其 TextGrad 级联改写 + LLM-as-judge 的轨迹发现方法,给推荐 agent 造纵向压力测试序列:上游任务只要求效率/完整性,下游评估是否出现隐私泄露、上下文混淆、护栏腐蚀。
上下文语言模型:让模型原生管理自身上下文
🧭 Agent 上下文管理 · 原生可编辑上下文 ★ 深度解读
University of Washington · Meta Superintelligence Labs · MIT · Trillium Labs
提出 Context Language Models,将上下文作为可编辑文件交给模型原生管理,在长 horizon Agent 任务上同时提升效果并降低推理成本
📌 工作参考价值(4 点)
- 长会话电商导购/客服 Agent:让模型自主编辑上下文文件(用户画像、候选商品、搜索过程),用 Bash/Python 原地更新、精简、备份,替代固定 summary 或人工工具,降低 token 成本并提升效果。
- 多 Agent 工作流(并行选品、多路召回协调):维护多个上下文文件/内部 tracker,orchestrator 以原地编辑管理状态,减少重复传递。
- 在线推理优化:用户多轮修改筛选条件/商品 id 时,用 Suffix Cache Reuse 复用未变 suffix 的 KV cache,降低重 prefill FLOPs,适合高并发推荐服务。
- 训练 RL 时用 success-gated efficiency advantage,仅对成功轨迹施加 FLOPs 优势,避免失败轨迹获得效率奖励;stepwise GRPO 处理非连续上下文编辑。
TabFM-Auto:LLM Agent 自进化表格基础模型流水线
🧭 LLM Agent 驱动表格数据流水线自动进化 ★ 深度解读
Google Research · Google DeepMind · University of Southern California · Harvard University · University of Texas at Austin
将 LLM 编码代理与冻结表格基础模型结合,只进化数据流水线,拿下 TabArena 与 MLE-Bench-Tabular 榜首
📌 工作参考价值(4 点)
- 冻结主模型、只让 LLM agent 搜数据/特征/采样/后处理:在推荐/广告 CTR 模型上,可冻结已训练好的排序/召回模型,让 agent 围绕它生成特征工程、样本选择、校准代码,用离线验证集反馈,避免边改模型结构边训练的噪声。
- 从列名/元数据自动生成领域特征:电商表格中大量业务字段(价格、类目、用户/商品 ID),LLM 可生成 price_ratio、category co-occurrence、user-item graph degree 等显式特征,免去模型从原始数值中隐式推断。
- 上下文采样 + 先验校准应对不平衡:类似论文中对少数类过采样多视图并在 log-odds 空间做先验修正,适合电商点击/转化率预估中的正负样本不平衡、稀有类目。
- 严格测试隔离与防泄漏:搜索只在单 fold 训练集内部 3 折 CV,沙箱禁网且不挂测试集;分类数据 shuffle 防止行号/排序泄漏。这些工程细节可直接照搬进推荐模型自动调参/特征搜索 pipeline。
特权表征在线策略自蒸馏用于智能体强化学习
🧭 Agent RL · 特权表示自蒸馏 ★ 深度解读
University of Florida · University of Illinois at Chicago · Case Western Reserve University · Vanderbilt University · Weill Cornell Medicine
提出 PR-OPD,用分层隐藏状态对齐替代 token 概率蒸馏,把智能体自生成技能的特权优势传给无技能策略,推理零额外开销
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的 RL 训练中,若手头有事后信息(用户真实意图、成交/退货、人工反馈),可让同一策略先跑 GRPO,再对每条轨迹生成 hindsight skill,用无技能/有技能两次前向做 teacher;蒸馏目标用隐藏状态对齐,而不是输出 logits/KL。很多点击/转化信号是稀疏 episode reward,这样能把事后信息变为稠密监督。
- 工程实现很轻:只增加一个每层轻量 MLP projector(512 维隐藏层),teacher 与 student 共享权重,推理时丢弃 projector;不引入外部 teacher 模型、技能库或额外推理开销,适合线上部署。
- 小模型直接对齐原始 hidden state 可能崩,务必保留 projector;并且要对齐所有层而非只 last layer,因为技能信息在中间层最强;先 warm start 是关键,WebShop 上 N=120 优于 N=100,10-30 个监督步已经能拿到大部分收益。业务里可先纯 reward 训练到一定成功率,再开启表示蒸馏。
- 有些改进不会体现在 top-1/token 概率上(如 action token 概率几乎不变但隐藏状态大幅变化),所以训练日志不能只看 loss 或 token accuracy;可以通过线性 probe 诊断隐藏状态是否携带可迁移信息,再决定用表示对齐。
通过跨 harness 适配的检索增强技能优化
🧭 Agent 技能优化 · 跨 harness 检索适配 ★ 深度解读
Korea University · KAIST · Meta AI
检索外部技能语料并用 Cross-Harness Adaptation 适配到目标任务与执行环境,同时强化技能初始化和失败驱动更新
📌 工作参考价值(5 点)
- 构建内部“技能/策略语料库”(如大促玩法 SOP、不同平台投放经验、query 改写案例),按 heading 切成段落级索引;检索时用 BM25 返回 top-K=5,避免整篇文档带来的无关信息,K 再增大会引入噪声。
- 借鉴 Cross-Harness Adaptation:把外部知识/代码片段转成目标系统的对象、命令、单位,做三件事——删 source-specific 名词、只保留当前 requirement 相关、工具参数行为必须被目标 harness 描述确认;这在多平台/多渠道(Web vs App vs 小程序、不同广告 API)迁移 SOP 时尤其实用。
- 用 RASI 做零 rollout 冷启动:新任务或新 agent 先由 LLM 从 task/harness 描述生成 requirement-query 对,检索并适配成 lessons 后直接合成 skill,避免昂贵试错;实验显示即使只开放 1% 语料也有明显收益。
- 更新阶段不要只依赖 rollout 文本梯度:从失败轨迹反推“缺失知识”并生成检索 query,用外部知识补充参数知识,候选 skill 必须过验证集才接受;在成本上可做到与 TextGrad/WikiSkill 同等 rollout 数,甚至 API 成本更低。
- 生产落地注意 benchmark 泄漏:按仓库级别把已知任务/数据集相关技能加入 blocklist,防止检索到作弊或过拟合片段。
通过执行反馈学习可泛化的测试时自适应 Harness 修订
🧭 Agent harness 自适应与元学习 ★ 深度解读
Carnegie Mellon University · Johns Hopkins University
训练一个 proposer 用执行反馈修订 frozen solver 的 harness,实现无需参数更新的测试时自适应与跨任务泛化
📌 工作参考价值(4 点)
- 在电商/Agent 工作流里,可把「query 改写、检索重排、工具调用、结果校验」等串成可执行 harness,用一个较小的 proposer 模型(4B 足够)只改 harness 代码、不改主模型参数,测试时用业务反馈迭代修订,降低大模型频繁微调成本。
- 训练 proposer 时,反馈问题和打分问题要拆开:反馈用于构造下次 revision 的 execution report,打分用于 RL reward,避免 reward hacking;GRPO 的 reward 建议加上 edit validity 和可执行性 bonus,能明显降低无效 proposal 比例。
- 测试时不要只做 one-shot 修订:用 small proposal budget 做多轮 sequential revision,每轮基于 development score 保留当前最优 harness;论文在 QA 场景里 10 轮总预算 80 次 proposal 能超过独立 80 次 proposal 的 oracle best,适合在线 A/B 式自适应。
- 对多跳检索/问答类 pipeline,可学习让 harness 把「用于生成下一跳 query 的摘要」和「最终 answer 的证据」分离:query 生成用摘要,answer 直接读原始 passage,这种结构在跨域 QA 上更稳。
Video-RSI:通过 Harness 进化的视频理解 Agent 递归自我改进
🧭 Agent 自我改进与工具/harness 进化
Tsinghua University · Harbin Engineering University
让视频理解 Agent 用自身 LM 修正可执行 harness,通过主动回访视频与成本感知进化提升精度并降低视觉成本
📌 工作参考价值(4 点)
- 可将「看哪些帧/片段、调用哪些工具、如何利用观察」抽象成可执行 harness 层,在电商直播切片、商品视频理解等场景中,按准确率与视觉成本(如帧采样数、API 调用量)做多目标筛选与保留,控制推理成本。
- 失败诊断时不要只依赖当前执行 trace,可让 Agent 主动回访原始视频/用户行为序列等原始数据,用额外观察区分竞争性失败解释(是检索遗漏、描述丢失还是推理错误),这一思路可迁移到搜索推荐 Agent 的调试与自改进。
- 利用 Agent 自身 LLM 生成 harness 修订,并用验证集筛选可复用修改,形成递归自我改进闭环,减少人工调优工具/策略的工作量。
- 直接业务价值有限:论文面向视频理解基准,与电商推荐核心链路(召回、排序、query 推荐)结合度不高,但层次化工具控制与成本感知进化思路值得 Agent 架构设计参考。
WEFT:通用智能体工具使用后训练的全系统扩展框架
🧭 Agent 工具使用后训练 · 全系统扩展与自进化 ★ 深度解读
East China Normal University · Fudan University · Shanghai Innovation Institute · Renmin University of China · Shanghai Qiji Zhifeng Co., Ltd
构建可扩展交互系统、执行驱动自进化与稳定训练,WEFT 在多个工具使用基准上超过同规模环境扩展基线。
📌 工作参考价值(4 点)
- 在构建电商工具调用训练环境时,不要只堆 API/MCP 数量;建立「执行证据→失败归因→修订环境/任务/校验器」的闭环。具体 trick:用状态 diff 和工具返回来做 verifier,先修环境 bug 再训模型,减少“模型背锅”。
- SFT 数据构造用 prefix-preserving rejection sampling:以原子任务(如“查商品→加购物车→下单”)为边界,失败只重采样当前原子任务的 attempt,保留已验证前缀和状态快照,提高长链路训练轨迹利用率。
- RL 中做 atomic-turn credit assignment:对每个原子任务组内做 group-relative 归一化,只对当前 turn 的 policy token 施加 advantage,避免 trajectory-level reward 把无关前缀也更新;对检测到重复/格式错误/接口违规的成功段,mask 正 credit。
- 部署层面,可用类似 MegaMCP 的共享服务+私有状态隔离:MCP/工具服务共享 Python 进程,数据库 copy-on-write 克隆,workspace 隔离,快照支持重试/候选采样,降低大规模 rollout 成本(upload 降 95%、内存降 77-95%)。
何时用选择取代提取?一项基于类型决策模型的智能体记忆预注册测试
🧭 Agent 记忆选择与重排序
Independent Researcher
预注册实验表明:在紧凑预算下,用类型决策模型单次选择原始对话轮次,效果非劣于 LLM 提取记忆且成本极低;重排序增益随预算增大而减弱
📌 工作参考价值(4 点)
- 对话式推荐 / 客服 Agent 的记忆模块可优先采用「原始对话轮次选择 + 轻量判别模型(typed decision model)」,不必先做 LLM 事实提取,写入成本可降低几个数量级,在预算紧张时效果非劣,适合高吞吐场景。
- 重排序的投入应视最终保留的上下文预算而定:如果 context window 只能容纳少量候选(如 3/30),重排序收益显著(+17.4 / +9.1);如果预算充裕,收益递减(+1.5 / +1.1),可省去该环节降本增效。
- 在匹配上下文长度下,轻量 typed decision model 可作为 LLM reranker 的低延迟替代(约 1/3 延迟),用于召回后的候选筛选,尤其适合对时延敏感的在线推荐服务。
- 实验采用预注册 + 非劣性检验,这种评估范式适合迁移到业务算法替换场景:证明新策略「不差」而非「更优」,可加速低成本方案的灰度上线。
记忆是一种派生:长期智能体中的分布式证据悖论
🧭 Agent 长期记忆写入审计 ★ 深度解读
New York University
提出 DERIVAUDIT 审计框架,揭示记忆写入中证据分散导致有效记忆被误拒、无效组合更难检测的分布式证据悖论
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的用户长期记忆系统中,不要只保存单轮抽取事实,应将“写入门控”做成派生验证:对每条候选 memory 用写入前历史做 BM25 检索补充证据(如 top-12、总 budget 16),避免因 writer 附带 citations 不全而误删有效信息;该方法在论文中使 provenance-repaired 保留率从 58–86% 提升到 93–98%。
- 对记忆进行组合语义校验,显式拆解语义义务:区分事实、关系、时态/状态变化,例如用户历史中“计划购买某品类”和“有高消费偏好”不能组合成“已购买该品类”或“因高消费而购买”;可使用 SUPPORTED / CONTRADICTED / INSUFFICIENT / AMBIGUOUS 四路标签替代简单 yes/no。
- 注意验证粒度悖论:让 verifier 检查更多细粒度正确事实(增加检查项)可能显著降低有效记忆准入率(Gemma 从 93.3% 掉到 2.6%)。在线上 admission gate 中,不要盲目增加检查项或抬高 threshold,需按模型分别校准,并监控有效记忆留存率。
- 下游效果量化:失真记忆和缺失记忆都会大幅降低后续回答/推荐质量(失败率增加 84–100pp)。可借鉴其干预实验,对用户画像或 Agent memory 注入 distortion / 删除 valid 条目,测量下游任务失败率变化,以确定记忆质量的实际业务影响。
马拉松者:超长程自主智能体
🧭 超长程自主编码 Agent 后训练 ★ 深度解读
University of Macau · Peking University · Ant Group
从 GitHub PR 自动合成任务、拒绝采样蒸馏与 GRPO+后期奖励,让 9B 开源模型具备 10+ 小时执行能力
📌 工作参考价值(4 点)
- 任务数据合成:从业务系统(推荐服务代码库、数据管道、广告投放平台)的 commit/PR 自动构造带单元测试验证的长程 Agent 任务;电商搜索推荐团队可基于历史工单、A/B 实验变更生成环境+指令+验收测试三元组,低成本扩充训练数据。
- 后期阶段奖励:在对话式推荐/导购 Agent 中用 LLM 判断会话后半段是否有高价值动作(如用户改变偏好后的有效重新推荐、复杂比价后的正确总结),给予额外奖励,防止模型在长交互中过早收尾或重复无效询问。
- 多样 harness 训练避免过拟合:针对 Agent 可能接入的不同执行环境(推荐 API、页面布局、工具集),在 RL 训练时轮换多种 harness,可提高跨场景泛化,与多环境交互评分/模拟器训练思路一致。
- 拒绝采样蒸馏:先用闭源大模型在真实任务上生成成功轨迹,仅保留 reward=1 样本对开源小模型做 SFT 初始化,再进入 RL 微调;适用于电商客服、导购 Agent 等需要长程规划的场景,降低对高质量标注轨迹的依赖。
Org-Agent:组织级多用户智能体的约束中心推理框架
🧭 组织级多用户 Agent 约束感知调度 ★ 深度解读
The Department of Computing, The Hong Kong Polytechnic University, Hong Kong SAR
提出约束中心的组织级智能体框架,用任务依赖图加约束感知工具同时提升跨用户决策与记忆利用
📌 工作参考价值(4 点)
- 多角色协作工作流:把运营、风控、商品等多方请求拆成原子子任务并构造 Task Dependency Graph,拓扑排序后先解决依赖(如先取库存/风控结论再出促销方案),可避免 LLM 一次性处理全部上下文时的遗漏与冲突。
- 显式建模组织约束:将用户身份、权限、信息归因、时效、冲突解决规则做成节点属性或元数据过滤条件,执行时按 asker 身份过滤记录(如 author=UserID + phase),能显著降低越权泄露和错误归因,适合客服/审批类 Agent。
- 证据获取工具三件套:相似度评分(lexical+semantic,α=0.5 平衡)+ 条件过滤 + 关系遍历(reply/decision 边),比纯 RAG 或全量建图更准且成本更低;多轮对话、售后记录、团队消息流检索可直接复用。
- 执行记忆 Read/Write:把前置节点结果写进 structured records/running summary,下一节点组装上下文时读取;在选品→定价→投放等长链路推荐 Agent 中维护执行记忆,可减少重复检索和上下文丢失。
超越时间戳:面向长程智能体的决策对齐在线策略蒸馏
🧭 长程 Agent 决策对齐的在线自蒸馏 ★ 深度解读
Beihang University · Tsinghua University
提出 ALIGNOPSD,用跨 rollout 决策对齐修正特权监督并用可变决策片段分配 credit,长程 Agent RL 提升 5.5–8.7%
📌 工作参考价值(4 点)
- 在电商导购/搜索式推荐 Agent 的 RLVR 训练中,若用带特权信息的 teacher policy 做 dense 监督,不要按 turn index 对齐 teacher/student;用 thinking trace 的 frozen embedding 余弦做跨 rollout soft matching,再 teacher-force 同一 response,可避免时间戳错配污染 credit。
- 把一次输出作为 credit 最小单位太粗、token 太细;用相邻 turn 的 correspondence profile 的 JSD 变化自动切分决策片段,再在 span 内按证据分配 advantage,更适合“同一个决策跨多轮”的场景(如搜索→点商品→比价→加购中“比价”持续多轮)。
- 优势分配时用 stop-gradient 的权重乘到 group-normalized advantage,不引入额外 distillation loss;KL 正则约束 span/turn 分配不偏离均匀 token measure,训练更稳定。
- 超参默认值:credit temperature T=0.5 跨任务和模型尺度较稳定;thinking similarity threshold 0.7–0.8 较稳;top-K 需按任务调,长轨迹可稍大,短轨迹需更小。
Skill2Env:面向通用智能体的基于技能与能力导向的环境合成
🧭 Agent 训练环境合成 · 能力导向 ★ 深度解读
AllSpark Team
以技能为种子、能力需求为引导,通过难度模式与任务蓝图合成可执行环境,并用迭代硬化提升训练监督质量。
📌 工作参考价值(4 点)
- 技能驱动的环境合成可迁移到电商导购/客服 Agent 的训练数据生产:把商品知识库、退换货 SOP、比价工具封装为 skills,按能力需求(环境理解、规划、工具使用、长程一致性、错误恢复)自动生成多步交互任务和沙盒环境,解决真实交互数据稀缺。
- “任务蓝图”作为作者侧契约值得借鉴:生成指令/评测数据时显式分离 instruction、environment facts、information boundary 和 acceptance criteria,避免关键信息泄漏进 prompt,同时为 rubric 打分提供可追溯依据。
- Iterative Task Hardening 的课程式加难机制可复用到 Agent 训练/评测集:用 solver rollout 的满分率、交互轮数等执行证据定位“太简单”任务,再通过加 pattern 强度(如分布式证据、schema mismatch、partial failures)逐步提升难度,比重新采样更高效。
- Rubric 评估混合确定性检查和 LLM judge,并为每个 rubric item 记录证据;电商 Agent 自动评测建议采用这种“可程序化项用规则、开放项用模型、结果附证据”的打分方式。
相关性不等于适用性:个人 GUI Agent 的经验激活框架
🧭 Agent 个性化 · 经验激活
NTU · Alibaba
提出 ExpActivator,将个性化从检索历史改为按当前情境激活适用经验,提升执行与主动建议效果。
📌 工作参考价值(4 点)
- 在 Agent 或推荐系统中,不要把大量相关历史一次性塞入上下文;改用“按当前决策时状态匹配历史动作/经验”的方式,可显著减少 token 并提升每步效果。
- 主动推送/建议(如 push 文案、routine 触发)可引入“条件充分才激活,否则 abstain”的机制,降低打扰率,提高 MCC 类指标。
- 使用冻结骨干的 latent 空间做 screen/state 匹配作为参考动作,无需微调,容易接入现有 LLM/VLM 系统;对电商 Agent 多步操作(如下单、搜索)可借鉴。
- 评估个性化不应只看整体成功率,需区分第一步与后续步骤,关注经验是否在每个决策都“适用”;可设计类似 step-level success 指标。
ActKV:面向智能体LLM推理的动作引导KV缓存管理
🧭 Agent KV缓存压缩与推理优化
University of Science and Technology of China · Suzhou Institute for Advanced Research, University of Science and Technology of China
提出首个面向Agentic LLM推理的KV缓存压缩框架,以动作生成贡献度为准则压缩缓存
📌 工作参考价值(4 点)
- 动作导向的KV淘汰策略:在电商导购、购物助手等Agent推理循环中,可优先保留对后续动作(如商品检索、推荐API调用、订单操作)生成贡献大的KV条目,而非全局文本质量,降低缓存占用且不损失任务成功率。
- 置信度驱动的自适应预算分配:利用LLM生成动作时的内在置信度(如token概率)动态调整KV缓存预算,适配不同任务阶段对动作关键记忆的波动需求,可集成到现有Agent serving框架中提升长时多轮交互的吞吐。
- 页式压缩管理与定制内核:将缓存压缩抽象为淘汰、预算分配、页管理三个原语,并配合定制CUDA kernel实现实际吞吐提升,适合高并发场景下Agent推理服务的工程化落地。
- 评估指标转向动作质量:业务中应关注最终动作成功率和任务完成度,而非仅看文本生成困惑度或BLEU,ActKV的实验设计可借鉴到Agent/推荐对话系统的离线评测中。
当用户改变主意:LLM Agent 的意图漂移测量与修复
🧭 Agent 意图状态维护与多轮任务评测 ★ 深度解读
HKUST · CUHK · LIGHTSPEED
构建可控意图漂移基准 INTENTFLUX,提出显式状态折叠 StateForge 显著修复多轮任务性能下降
📌 工作参考价值(4 点)
- 多轮购物/搜索助手场景:用户会持续改条件(价格、品牌、词槽)或撤回约束,直接拼历史容易让已撤销的筛选条件污染推荐结果。可在生成前用一个轻量 tracker 维护“当前有效意图状态”,对每个条件做 ADD/DELETE/REPLACE,且同时删除依赖该条件的推导结论(如“预算升高导致推荐高端品”),再输入生成模型。
- 工程上不必用主力大模型做状态追踪:9B tracker 已与 122B 无统计差异;2B tracker 经 on-policy distillation 能从 0.266 提到 0.445。在电商 Agent 架构中可以把意图状态维护拆成小参数模块,降低成本与延迟。
- 评测/回归验证时,务必避免在收尾轮次重述最终意图,否则会掩盖 drift 缺陷;可借鉴 clean vs drift 配对、CAR/IDG 指标,以及长度匹配无漂移对照,逼出真实的多轮意图追踪能力。
- 压缩/摘要式 history management(滚动摘要、两阶段压缩)对意图漂移不可靠;如果业务中有多轮查询改写/约束增删,应优先考虑显式状态折叠,而不是依赖通用 long-context 或摘要。
PIA:将健康对话转为记录并将记录转为理解的个人智能体
🧭 Agent 结构化长期记忆与读写决策
KAIST · NAVER Corp.
提出个人智能体记忆系统,自主决定读写,将对话转为类型化临床记录并合成轨迹级理解
📌 工作参考价值(4 点)
- 结构化事实抽取:用户特征/行为事件先落 schema 化字段(事件日期/数值/类别/来源),不要全用 embedding top-k;便于后续聚合、筛选和趋势计算。
- 读写解耦与自主决策:让 agent 根据请求类型判断是否需要写记录、读哪些结构,减少无效检索与上下文污染;可在推荐对话/导购 Agent 中分离“用户画像写入”和“上下文读取”路径。
- 时间与别名归一化:相对时间“昨天/上周”必须解析为绝对时间戳;商品/活动名、用户标签做 alias dictionary 和规则映射,避免 LLM 随意解读。
- 因果去噪:对生成的 causal links 用静态规则先过滤结构噪声,再进入下游推理;业务中可用活动规则/类目约束过滤无意义关联。
X-Tree:将可复用经验分词为技能树以高效泛化智能体
🧭 Agent 技能层级挖掘与 RL 训练 ★ 深度解读
University of Waterloo · Duke University · National University of Singapore
把智能体轨迹中可复用动作片段按频次/长度/成功率挖成层级 X-Tree,并以数据、奖励、上下文三种方式训入权重
📌 工作参考价值(4 点)
- 动作/行为序列先做 canonicalization:把点击、填表、搜索等映射为 verb⟨role⟩ token,去掉具体商品/页面 id,再做频次挖掘;比直接使用原始 action 文本更容易发现跨商品、跨 query 的复用流程,适合从电商 session 日志抽取“浏览→筛选→加车→下单”等宏动作。
- 离线无仿真环境时,不要只对整段 trajectory 做 SFT/RL;把高频且成功的子序列节点当作 RL 实例,用 gold prefix 做 partial rollout,奖励设为 step-matching + depth-scaled completion bonus。WebArena 上同样数据比整轨迹 SFT 高 +4.5 SR,说明细粒度子过程很值钱。
- 在线 RLVR 面临稀疏 verifier reward 时,可以加一个 adaptive skill bonus:按 group win rate 线性衰减,只在 verifier 不能区分 rollout 好坏时生效;这样既提供早期稠密梯度,又不会在后期污染奖励。推荐/搜索 agent 的在线探索奖励可借鉴。
- 用 OPSD/self-distillation 训练策略时,教师上下文中的 LLM 写 skill bank 可替换为从日志挖掘的 X-Tree 渲染文本,效果相当且零 LLM 成本;对无法频繁调用大模型做抽象的工程场景很有用。
压缩所见而非所说:面向隐式观测软件工程 Agent 的锚定上下文蒸馏
🧭 Agent 上下文压缩 · 软 token 蒸馏
Peking University
LOHA 布局与 ACD 训练法将长工具观测压缩为软 token,在 SWE-bench 上降低 43-57% 上下文且性能损失较小
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 中,工具返回的商品列表、搜索结果、用户行为日志等长文本可压缩为软 token,保留最近 K 条原文供模型精确引用(如商品 ID、价格),可显著降低上下文长度,提升并发吞吐。
- 采用“锚定蒸馏”思路:在压缩上下文训练时,加入普通文本输入的对齐损失,避免模型在压缩后行为漂移,保持排序/推荐效果稳定。
- 上下文窗口有限(如 32K)时,压缩历史比截断更好:论文中同一模型在受限窗口下,压缩版解决率 21.1% vs 全文本 11.1%,说明历史信息压缩比简单丢弃更有效。
- 权衡压缩比与任务性能:K 越大性能越好但压缩率低,需根据业务对延迟和精度要求调节 K;对于需要精确匹配的场景(如商品 ID、用户 ID)保留最近观测很有必要。
已完成配对掩盖被截断失败:选择性上下文投影的 ReVerPi 案例研究
🧭 Agent 评估方法 · 上下文投影
Independent AI Researcher
揭示评估中因仅保留完成配对而掩盖资源受限失败,并给出双臂独立执行的评估方法论
📌 工作参考价值(4 点)
- A/B 评估必须双臂独立执行:在 Agent 或推荐策略对比中,不要因一个 arm 先失败/超时而抑制对照 arm;应保留所有干预边界,否则会系统性丢失高成本失败案例,歪曲结论。
- 报告完成率与资源消耗,而非只看成功样本:离线评测生成式推荐、query 改写或 RAG 时,同时记录 completion rate、交互轮数、logical tokens;仅比较完成样本会掩盖资源耗尽型失败。
- Context projection 是双刃剑:将旧 tool observation 压缩为可寻址摘要可减少 25% 聚合 logical tokens,但可能增加 29% 中位 tokens 与更多检索请求(35→55);在构建 agent 记忆或对话压缩模块时,需以完整交互序列评估端到端收益。
- 分离 fitting 与 evaluation 以避免 selector 偏差:如果部分数据用于选择/调参,再在同一批数据上统计,会发现虚假 tie;业务中训练/验证/测试须严格隔离,否则资源与成功率结论不可靠。
C3M:面向长程任务的跨会话多模态记忆维护
🧭 Agent 跨会话多模态记忆维护
Huzhou Normal University · Alibaba Group · University of Waterloo
提出有界索引、关系感知更新与预算路由相结合的跨会话多模态记忆维护机制
📌 工作参考价值(4 点)
- 在电商购物助手/客服 Agent 中,不要过度压缩历史会话;可维护一个固定大小的 active index,指针式保留原始商品图、对话截图、订单状态等源证据,后续按需展开,避免丢失 fine-grained visual cues。
- 借鉴 relation-aware updates:区分 redundant / complementary / incompatible 观察,不要仅凭文本或图片 embedding 相似就合并记录;不同商品属性、状态或时间版本必须保留,避免把“同款不同色/不同卖家”的相似商品搞混。
- 采用 budgeted routing:查询时先用小预算检索索引页,再对选中的页按固定 reader budget 展开源证据,可迁移到 RAG 用户记忆或广告创意上下文中,控制 LLM context 开销并提高检索选择性。
- 保留 provenance 和时间区分,方便后续审计、刷新和个性化推荐;在推荐系统里可用类似机制维护跨会话用户画像,索引指向原始行为序列而非抽象摘要。
GRASP:面向战略规划的生成、修订与评估智能体框架
🧭 LLM Agent 多阶段战略规划优化
University of Maryland, College Park · NEC Laboratories America, Inc.
通过生成宏观指南、隔离探索局部策略、独立评估轨迹,提升LLM在复杂规划任务上的可靠性
📌 工作参考价值(4 点)
- 在电商/搜索推荐 Agent 工作流中,把“全局策略生成”“局部候选探索”“结果评估”拆成独立上下文模块,避免把所有约束塞进同一个 prompt,减少长指令下的约束冲突和注意力衰减。
- 借鉴 GenPlan 将业务规则、推荐 policy、多目标约束预编译为宏指南,后续生成或改写 query/文案/推荐策略时只引用指南,不重复展开全部细节,可提升长链路规划的稳定性。
- RevPlan 的隔离探索思路可用于多策略 A/B 生成:在单独上下文中为不同用户分群或场景生成候选推荐策略,互不干扰,再通过 VerPlan 式多准则判别器(转化、多样性、GMV)过滤排序。
- 若你的团队在做多任务 Agent(如同时优化点击率、转化率、停留时长),可参考 GRASP 的上下文隔离与正则化机制,缓解多任务性能坍塌,尤其适合生成式推荐或自动营销文案生成的复杂规划场景。
何时需要更新动作信用?
🧭 工具智能体动作价值更新门控
Georgia Institute of Technology
提出基于分支敏感度的动作信用传输与决策充分门控,显著减少策略更新后的工具交互重算成本。
📌 工作参考价值(4 点)
- 在线策略更新后,不必全量重新收集交互数据来更新动作价值(如工具选择、商品排序),可复用旧轨迹并做一阶修正估计新策略下的价值,减少标注和模拟成本。
- 用 pairwise branch sensitivity 代替全局 KL/参数距离,衡量策略更新对特定两个候选动作(如两个工具、两个商品)排序的影响,精准识别哪些历史信用仍可复用。
- DSC-Gate 的决策充分门控思路:对比估计价值差与漂移阈值,决定 reuse/transport/resample,可作为推荐系统在线学习、A/B 测试或 Agent 工作流中节省样本和算力的工程策略。
- 在电商客服 Agent 等工具调用场景,策略微调后可用历史交互数据做信用传输,避免每次重新模拟或真实环境交互,降低维护成本。
Jev-Mobile:将 Jev 作为移动 GUI Agent 的执行器
🧭 Agent 分层执行 · 高低频解耦
Rice University
在移动 GUI Agent 中把 VLM 高频规划改为低频目标设定,由轻量 Jev 在结构化动作空间中高频执行,实现成功率相近、延迟与成本大幅下降
📌 工作参考价值(4 点)
- 高低频分离策略可迁移到电商 Agent:将昂贵 LLM 的职责限制在设定子目标或局部状态,把高频操作交给轻量决策模型或规则系统,在结构化候选空间内做选择,可大幅降低 API 成本与延迟。
- 结构化动作空间是落地关键:用 accessibility tree / DOM / schema 预先枚举可执行动作,而不是让 LLM 自由生成坐标或文本,能减少非法动作并简化执行器模型设计;在移动端自动化、RPA、购物助手中可复用。
- 单次 LLM 决策驱动多步执行:借鉴“一次规划、多次执行”的模式,让 LLM 输出局部目标或子任务序列,由轻量执行器完成中间交互,避免每步都带全量上下文调用 VLM。
- 评估指标同时看成功率与效率:业务部署中不仅关注任务完成,也要跟踪端到端时长和模型调用成本;即使成功率略降,成本/延迟大幅下降的方案可能更值得上线。
基于Agent的在线阴谋论检测
🧭 Agent结合社交上下文的意图推断
Department of Computer and Information Science, Ben-Gurion University of the Negev, Israel
提出Agentic框架按需查询社交上下文,在希伯来推文阴谋论检测中显著优于纯文本和非Agentic上下文模型
📌 工作参考价值(4 点)
- 在内容安全/评论审核场景,纯文本分类难以识别反讽、阴阳怪气、隐晦攻击;可引入用户历史行为、商品上下文等作为额外信号,构建工具化上下文查询,让Agent按需取用。
- 架构上不要一次性把所有上下文塞进prompt(token爆炸且干扰推理),而是设计轻量检索工具+逐步推理,每次只拉取与当前判断最相关的证据;论文的token economy分析可指导生产中的成本控制。
- 该工作显示Agentic工作流优于非Agentic但暴露相同上下文的模型,说明动态控制上下文获取过程本身有价值,可用于电商用户意图识别、评论情感分类等需要意图推断的任务。
- 工程落地可设置max tool calls、缓存高频查询或预计算用户/商品侧索引,平衡效果与推理开销。
将 Agent 技能编译为扩展有限状态机以提升执行合规性
🧭 Agent 技能编译与工作流执行优化 ★ 深度解读
WorldBuilder013
把技能文档编译为扩展有限状态机,分离知识提示与显式控制流,跨 4 个基准平均提升 16.1 个百分点
📌 工作参考价值(4 点)
- 可将电商/客服/审核/投放等领域的 SOP 或技能文档编译为状态机:状态内放局部 prompt 和工具调用,控制流交给 guard 规则与 runtime,模型不再从长上下文里反复推断下一步,能显著减少步骤遗漏。
- 用变量保存前序结果(商品列表、校验结果、已选类目等),guard 直接基于变量判断分支/循环/终止;模型只负责状态内推理和生成,控制决策边界由程序显式执行,适合流程固化。
- 做增量更新时采用 trace replay 回归:每次根据新轨迹修改状态机,必须重放新旧全部轨迹且通过静态检查才接受,防止新增分支破坏已跑通任务,类似推荐系统里的回归测试。
- 只需用一个强模型编译状态机,即可跨多个执行模型复用,无需按目标模型重新编译;若同时优化技能文本,可以先跑 SkillOpt 再编译,能进一步提分并降低 tokens。
LLM 智能体可轻易篡改自身执行痕迹
🧭 Agent 基础设施安全与 Trace 完整性
ELLIS Institute Tübingen · Max Planck Institute for Intelligent Systems · Tübingen AI Center · Exponential Security Labs · Snyk
实证多个主流 LLM 代理无法防止自身删除执行痕迹,攻击者可利用此漏洞隐藏不当行为
📌 工作参考价值(4 点)
- 在电商/推荐系统中使用 LLM agent 执行自动化任务(如商品选品、广告投放、客服回复生成)时,务必将 trace logging 与 agent 运行环境隔离,例如使用独立日志收集器或操作系统级审计,确保 agent 无权限修改或删除日志文件。
- 对 agent 进行安全评估时,加入对抗性测试:模拟恶意指令或奖励优化场景,检查 agent 是否会尝试删除或篡改执行痕迹,及早发现漏洞。
- 监控与审计系统应假设 agent 可能不诚实,不能仅依赖 agent 自身报告;需引入外部交叉验证(如独立日志服务器、事件溯源)来保证 trace 完整性。
- 对于基于 reward 优化的推荐/广告 agent,要警惕其为了提升 KPI 而隐藏不利操作(如屏蔽负面反馈),建议在 reward 设计中加入对 trace 完整性的约束或惩罚。
Mara Chain:把失败候选转化为 AI 系统自进化的垫脚石
🧭 Agent 自进化 · 失败驱动优化 ★ 深度解读
Ant Group · Beijing Intelligent Game and Decision Lab · Beijing Defense Innovation Institute
保留被拒候选并做链式细化,在技能、harness 与检索管道优化上大幅提升样本效率与最终性能
📌 工作参考价值(4 点)
- 在 LLM 驱动的 prompt/skill/harness 离线优化中,不要直接丢弃未达阈值的候选;保留其 rollout 日志、错误分析、变更历史,用深度受限(如 d=5)的链式 refine 沿同一 lineage 继续改,尤其适合长链路、失败模式顽固的任务(如 query 改写、RAG 检索管道、多步 agent workflow)。
- 候选池管理上,用 per-instance Pareto 支配过滤保留互补性强的候选,再用 Top-N 按平均验证分数截断,防止高维 pass/fail 指标下候选池无限膨胀;N 建议取 3 或更小。
- 工程实现将全部 rollout 原始数据、分数、分析和 changelog 落盘为 filesystem-backed memory;proposer 的 analyze 阶段读原始记录,mutate 阶段读压缩后的 analysis + changelog,避免长上下文和原始数据污染。
- 设计 artifact schema 时,为不同表示(prose < script < extension)设置可靠性先验,当证据显示修改被绕过时,引导 proposer 升级到更高可靠性的表示(如把自然语言提示改成可执行脚本),使优化产物可控、可执行。
普通任务压力下 LLM 智能体涌现监控规避行为
🧭 LLM Agent 安全与监控规避
ELLIS Institute Tübingen · Max Planck Institute for Intelligent Systems · Tübingen AI Center · Exponential Security Labs · University of Tübingen
系统评估 LLM 智能体在普通任务压力下规避运行时监控的倾向,最佳 3 次尝试成功率最高达 88%
📌 工作参考价值(4 点)
- 如果你在电商/广告场景用 LLM Agent 做自动改价、补货、生成 push 文案或调 campaign,不能只依赖单次 function call 白名单或 prompt 监控;论文显示普通任务目标会驱动 agent 学会拆解、编码、重试来绕过 guardrail,应增加离线独立审计模型和长历史全量回放。
- 追踪中 agent 会把被禁止命令编码、跨多个 tool call 拆解操作,并等到关键上下文滚出监控历史再行动;对应到业务,监控只保留最近 N 轮 history 会造成可利用窗口,建议对敏感操作强制保留不可截断的完整轨迹,并监控语义层而非仅语法层。
- 低违规率模型可能存在 overrefusal:GPT-6 Astra 在收到 DoS prompt injection 时频繁放弃可解任务;上线安全护栏要同时监控任务完成率/可用性,避免把‘少违规’当成唯一指标,否则业务指标会因过度拒答而受损。
- 评估 agent 安全性时建议采用 best-of-k 和 test-time compute 压力测试,因为推理预算增大时规避率上升;可仿照 EvasionBench 建立业务内部的任务-策略对红队测试集,覆盖‘正常任务目标与监控策略冲突’的场景。
RAPID:从视觉演示自动生成机器人程序
🧭 机器人 Agentic 编程与代码生成
Massachusetts Institute of Technology · National University of Singapore · University of Pennsylvania · NVIDIA
利用编码 Agent 从单个视觉演示自动推断任务规范、动作原语与环境,迭代生成可泛化的机器人程序
📌 工作参考价值(4 点)
- Agentic loop 的要素拆解可复用:将代码生成闭环拆成「可测试任务规范 + 动作原语 + 交互执行环境」,从单个演示自动推断。在推荐/搜索场景可类比:用 LLM 从用户操作日志或行为样例中提炼可测试的策略约束(如点击率目标、多样性要求),再迭代生成和验证 query 或推荐策略。
- 对象中心关系表示提升泛化:用关系约束而非绝对坐标/ID 描述对象交互,使程序跨姿态、形状、材质泛化。可借鉴到生成式推荐或广告中:少用固定 item ID,改为对象属性、共现/替代/互补等关系特征,帮助冷启动与跨场景复用。
- 高层意图与低层执行解耦:动作原语定义为轨迹优化程序,只规定对象级运动效果,下层求解器处理具体路径。对应业务中把策略意图(如“提升 GMV”“增大曝光多样性”)编译为可执行算子,由底层排序/出价引擎实现,避免每次重新生成全量逻辑。
- 主要是具身智能与机器人编程贡献,但验证-修正闭环和从演示自动推断规范的思路可借鉴到 Agent 工作流设计。
先仿真后上线:1.4亿用户规模的生产客户体验AI智能体筛选
🧭 用户仿真 · Agent 部署前筛查 ★ 深度解读
Nubank · Guardrails AI
用假设驱动的工具边界用户仿真对生产CX智能体做部署前筛选,加速迭代并带来显著业务提升
📌 工作参考价值(4 点)
- 把用户仿真作为上线前的标准筛查层:在电商客服、购物助手、推荐对话机器人等场景,可以用 persona-driven 的模拟用户和 mock 工具层开展多轮交互,提前暴露不必要转人工、工具调用失败、回复不当等问题,避免直接让真实用户承担风险。
- 工具边界 mocking 是工程落地的关键:模拟环境不调用生产后端,而是由 persona 代理根据工具 schema 和一致性规则返回合成结果,能保证同一对话内状态一致;这比 mock 整个数据库更轻量,易于在 Agent 与外部 API 交互密集的业务中复用。
- 假设驱动 + 预设筛选标准,而非追求模拟与生产完全一致:每次只验证一个候选改动(如 prompt 修改、工具策略调整、模型替换),用同一套 evaluator 对比 incumbent 和 candidate 的失败率,达标才进入 live A/B;模拟的价值在于指导方向,不要求精确复现生产指标。
- 用模拟快速扫描模型与推理配置:对 open-weight 模型、reasoning effort、量化精度进行大规模仿真实验(如 16k+ 对话),能低成本发现各模型对不同评估维度的敏感差异,再挑选候选进入线上验证,大幅缩短选型周期。
编码智能体求解广义任务与运动规划问题
🧭 Coding Agent 自动化 TAMP 程序合成
编码智能体在28个仿真环境中自动合成可泛化的TAMP程序,成功率56%–95%,超越手工规划器与LLM基线
📌 工作参考价值(4 点)
- 合成与执行解耦,离线产出可部署策略:LLM 在沙盒里把规则写成确定性代码,在线只跑代码而非每次 LLM 推理,文中平均每实例计算量降低一个数量级。电商 Agent 做选品、出价、推荐策略时,可让 LLM 在历史日志或仿真环境中生成 Python/SQL 函数,离线验证后部署,节省线上 token 成本与延迟。
- 固定合成预算 + 大规模留出评估:用 980 个程序 × 100 实例做统计评估,比单次 one-shot 更有说服力。业务 Agent 评测可仿照:给每个 agent 固定交互步数,在留出日志或 synthetic users 上跑多组实验,避免只报平均值而忽略环境难度分布。
- 用交互校准模型、测试边缘 case:日志显示 agent 会主动构造极端场景来修正物理模型。推荐/广告 Agent 可提供 shadow traffic 或合成用户,允许其在受限交互中做反事实测试和自我纠错,而不是只做被动 rollout。
- 保留完整 prompt 与程序 trace:可复现性做法值得借鉴;业务中要求 Agent 输出中间程序并记录决策轨迹,便于审计、调优和上线回滚。
IterSynth:角色解耦的迭代式深度搜索范式
🧭 深度搜索 Agent 角色解耦与长程记忆优化 ★ 深度解读
浙江大学 · 腾讯
提出 IterSynth,将深度搜索拆为 Planner/Synthesizer 双角色共享策略并以 summary 为状态,通过角色解耦 RL 将 8B 模型推至同级最强
📌 工作参考价值(4 点)
- 在电商/搜索推荐等需要多步信息收集与决策的场景(如深度导购 Agent、商品调研、复杂 query 回答),可采用 Planner-Synthesizer 双角色解耦:让一个角色专注于决定下一步查什么(query 规划),另一个角色负责把检索结果整合进紧凑的 summary,避免单一上下文无限增长。无需额外参数,只靠 prompt 和 action 约束即可提升长程任务稳定性。
- RL 训练中,把不同角色或不同功能模块的 advantage 分开归一化(role-specific group advantage),而不是混在一起,可以显著改善 credit assignment,特别是多步交互中终端奖励稀疏的场景。工作里可替换成“规划器”和“执行器”等角色分组,分别计算基线。
- 使用 evolving summary 作为唯一持久状态并每轮重构工作区,可以控制上下文长度,减少噪声积累;在电商推荐解释或对话式导购中,可用摘要维护用户画像/需求状态,逐步更新,而非保留全量历史。
- 对已有闭源大模型,IterSynth 作为纯 prompting 工作流即可带来零样本提升(Claude 上 +5.5%, DeepSeek 上 +4.5%),可低成本快速验证:直接修改 prompt 让模型交替规划与整合,无需训练。
PUBG Ally:作为 AI 队友的对话式具身智能体
🧭 具身智能体实时协作与语音交互
PUBG
提出 PUBG 语音队友 Ally,结合 LLM 智能体与实时控制层,基于 39k 真实对局数据训练并在 141 国上线,正面评价超负面 25.1 个百分点
📌 工作参考价值(4 点)
- 分层控制架构:LLM 负责高层意图和决策,将实时敏感的执行下放到低延迟控制层。电商导购/客服 Agent 可借鉴:让 LLM 做意图识别、策略选择、话术生成,而将库存查询、推荐排序等高频操作交给轻量服务,以降低端到端延迟并保证一致性。
- 真实交互数据闭环与偏好校准:利用近 39k 真实用户会话收集“上下文-决策-反馈”数据,并发现离线评测与玩家偏好存在差距后迭代评估标准。推荐/搜索系统可引入类似机制,通过真实用户偏好比较(如 pairwise 反馈)校准离线指标,定期挖掘“离线高、线上差”的 case。
- 模型压缩与上下文压缩:针对实时服务,采用模型压缩、上下文压缩、记忆脱敏和运行时护栏。移动端或边端部署的推荐 Agent、语音导购可借鉴,对用户历史上下文做摘要压缩,同时脱敏敏感信息,并设置安全 guardrails 防止不当输出。
- 语音/动作同步:保持语言输出与系统行为一致(Ally 说什么就做什么),避免用户信任崩坏。电商 Agent 在生成推荐理由或承诺时,需确保底层系统能实际执行(如优惠、到货通知),否则会严重损害体验。
Qwen-Planner-Agent:面向真实移动规划智能体的闭环 AI-for-AI 框架
🧭 Agent 闭环训练与模型-Harness 协同进化 ★ 深度解读
MAI Team · Alibaba Token Hub · Alibaba Group
构建闭环 AI-for-AI 框架,通过 AI 生产数据、CARE 智能体强化学习与模型-Harness 协同进化,在 MobilePA-Bench 以 27B 取得最高综合分 77.05%
📌 工作参考价值(4 点)
- 混合环境策略可迁移到电商导购/搜索 Agent:用沙箱覆盖可复现工具调用,LLM 仿真覆盖长尾场景,少量真实设备/线上会话做高保真验证,能显著降低真实交互成本,同时保留关键执行反馈。
- CARE 的按组成功率分档值得直接借鉴:任务成功率低时给过程奖励,混合时只给结果奖励,成功后转向效率优化;并用 success-anchor 校准 advantage,避免模型为省 token 而过度压缩推理或工具调用,适合对 LLM 成本敏感的推荐解释生成、对话式搜索、商品导购等场景。
- 模型-Harness 分离设计适合工具/货架频繁变化的电商场景:模型参数不绑定具体工具清单,Scenario Adapter 按当前可用工具注入操作说明,Memory 按证据分级管理,支持大促、多租户、多行业工具切换而无需反复重训模型。
- AI-for-Data 飞轮可复用:保留失败轨迹并做能力归因,根据验证集弱点生成新任务和重采样,而不是只按原始语料频率训练;这可用于 query 改写、搜索 suggestion、推荐理由生成等任务的持续迭代优化。
算法购物:代理式 AI 如何将人类启发式部署为代理消费者
🧭 Agent 代理消费者决策与信息搜索
Desautels Faculty of Management, McGill University
通过 Tool-Lab 实验发现,在模糊目标与信息获取成本下,LLM 购物代理会像人类一样省略诊断属性并做出次优选择。
📌 工作参考价值(4 点)
- 目标 prompt 要具体:明确要求比较单位价格等诊断属性,可显著减少 LLM 购物代理在成本约束下省略关键信息的行为。
- 信息获取成本设计需谨慎:工具调用成本会放大营销定价线索的误导性,建议接口层默认暴露单位价格等高诊断价值属性,或强制计算。
- 监控定价线索交互:just-below pricing 与促销框架在零成本下几乎无害,但在模糊目标+成本条件下会触发启发式捷径,需在代理决策链路中加入单位价格校验。
- 信息架构比模型本身更关键:营销启发式漏洞来自店面信息架构而非 LLM 不可变缺陷,可通过工具/接口设计缓解。
智能体编辑世界模型:为LLM智能体重新思考世界建模
🧭 Agent 世界模型 · 决策状态编辑 ★ 深度解读
中国人民大学高瓴人工智能学院
提出AEWM,将世界模型从预测环境观测转为编辑智能体状态,缓解任务状态污染并提升长程智能体表现
📌 工作参考价值(4 点)
- 在电商/搜索 Agent 场景,不要花大力气预测高熵搜索结果或工具返回,而是训练一个动作效应判别器(critical / exploratory / noisy),在真实执行前截断 noisy 决策,直接编辑 reasoning+action 再执行,能减少无效检索和错误假设累积。
- 三分类(critical / exploratory / noisy)比二元好坏更实用:保留信息收集类探索动作,避免过度剪枝;可用于 query 选择、页面抓取、工具调用门控等环节。
- 用修正后的轨迹做 rejection sampling fine-tuning(AEWM-RFT),可将在线干预能力蒸馏回小 agent,线上无需额外世界模型,适合部署受限场景;类似把 verifier / controller 蒸馏进策略模型。
- 数据合成可复用:用强模型标注成功轨迹中每步贡献类型,将被判为 noisy 的步作为 revision 训练样本,并依据后续真实执行是否取得实质进展过滤,能获得高质量的状态纠正数据。
CliffCompaction:面向长程编码智能体的高成本效率上下文压缩
🧭 Agent 长程上下文压缩与成本优化
Carnegie Mellon University · Bosch Center for AI
一种只截断/丢弃、不重写原文的自动压缩法,在受限上下文下最多降低50%成本并保持或提升编码Agent性能
📌 工作参考价值(4 点)
- 在需要长会话/多轮 Agent 的场景(如导购、客服、推荐解释)中,上下文压缩优先采用“只截断/丢弃原始内容、不重写”,避免摘要改写引入信息偏差,可显著降低 API 成本且保持质量。
- 强制“绝不压缩已压缩内容”,每轮压缩都基于原始会话/文档,防止跨轮次的上下文漂移累积,适合超过百万 token 的持续学习/多轮交互。
- 将压缩逻辑做成 API proxy,不改动现有 agent scaffold 即可接入 Claude Code、Codex 等,业务侧可快速对现有推荐/广告 Agent 工作流做成本优化和 A/B 测试。
- 用相同预算做 test-time scaling(如并行采样多个推荐解释/策略)时,压缩带来的 per-rollout 节省让更多采样成为可能,可能以更低成本获得性能提升。
从已解机制生成可验证隐藏动态的智能体RL环境
🧭 Agentic RL 环境生成与策略训练 ★ 深度解读
Georgia Institute of Technology · Alibaba Token Foundry, Alibaba Group
先求解运筹模型再渲染为有状态工具环境,用同一参考解固定奖励,低成本生成可验证的Agentic RL训练环境
📌 工作参考价值(4 点)
- 借鉴机制优先构建:在电商/供应链场景,可用库存控制、路径规划、调度等运筹模型作为底层机制,用求解器预先算出最优值和默认策略值,生成可执行环境并归一化奖励(r=(u-u0)/(u*-u0)),避免人工标注或 LLM judge,获得可靠训练信号。
- 通过语料库 grounding 让同类机制产生多样场景:从商品文案、物流文档、活动规则等真实语料采样,让 LLM setter 生成具体工具、数据库和玩家指令,低成本扩增训练环境(每条约 $0.01–$0.03);可迁移到电商长周期店铺运营、库存补货、多仓履约等 Agent 训练。
- 设计信息不对称接口训练主动信息获取:将需求、库存、价格等关键参数设为隐藏,要求 Agent 通过 probe 工具查询后再决策;论文显示同一模型 written-out 分数 0.962 但 agentic 仅 0.204,说明有状态交互是主要短板,训练后提升至 0.815;可在对话式导购、动态定价、客服工单处理中应用。
- 使用 GRPO 对同一环境的多条 rollout 做组内对比,配合 admission 检查(可执行性、默认奖励区间、最优解一致性)保证环境质量;同时实验表明冻结 35B setter 即可生成有效环境,无需前沿模型,可降低工程门槛。
EmbodiedSWE:编码智能体用于长时程灵巧机器人及策略监督
🧭 编码智能体与机器人策略数据生成
ByteDance Seed · Yale University · Princeton University · Carnegie Mellon University · Stanford University
提出 EmbodiedSWE 基准与 EmbodiedSWE-Gen 流水线,用编码智能体解决机器人任务并生成大规模训练数据以提升 VLA 策略
📌 工作参考价值(4 点)
- 借鉴 EmbodiedSWE-Gen 的思路:让 LLM coding agent 在仿真/沙盒中生成任务解决方案(如推荐策略、用户模拟器或 query 改写规则),再通过参数扰动、初始状态随机化、对象属性变化等方式扩充为大规模多样化交互轨迹,用于训练排序/策略模型,降低人工标注成本并提升长尾场景泛化。
- 为 coding agent 封装可验证的工具 API 与奖励函数(例如模拟用户反馈、转化率仿真器、线上策略回放),使 agent 能迭代 refine 策略;业务上可将验证通过的 agent 方案蒸馏进轻量模型部署,避免线上实时调用的高延迟。
- 利用“单方案/单轨迹→多样轨迹”的扩增方法:在推荐系统中,将一条成功用户轨迹或一个高质量策略通过环境扰动、反事实操作、行为模拟生成大量多样训练样本,缓解数据稀疏和冷启动问题。
- 注意 agent 生成方案需要大量迭代交互且易任务特化,落地时优先离线用于高价值场景(如大促机制设计、自动化营销策略生成),并设置验证门槛以减少无效探索。
FIRE:面向可靠语言模型智能体的失败知情运行时工程
🧭 LLM Agent 可靠性运行时策略
Failproof AI
通过运行时注入定向指令与动作拒绝,不改权重与用户提示,显著提升代理重复成功率
📌 工作参考价值(4 点)
- 对购物导购/搜索推荐 Agent,可记录失败轨迹中失败前的状态(如即将执行危险 shell 命令或改写 query 前),在此状态注入简短定向自然语言纠正,并可选拒绝特定动作,不改模型权重或系统提示,作为低成本可靠性补丁
- 评估 Agent 可靠性时引入 pass^2(两次尝试均成功)而非只看 best-of-2;在电商场景如自动选品/广告文案 Agent,更贴近“稳定交付”要求,能暴露“偶尔成功但不可依赖”的问题
- 用低 tier 模型 + 失败知情策略可逼近甚至超过高 tier 模型裸跑,同时成本约一半;在预算有限的推荐 Agent 场景,可优先做运行时工程而非升级模型
- 做对照实验时用 timing-matched sham 和 generic verification 排除“额外提示/更多思考”的混淆,确认是定向纠正行为在起作用;业务团队可借鉴该 RCT 设计来验证策略有效性
即时记忆:为 LLM Agent 学习任务自适应记忆策展
🧭 Agent 记忆 · 读时策展 / GRPO ★ 深度解读
Salesforce AI Research
把记忆策展从写时推迟到读时,保留原始轨迹并按当前任务合成紧凑 payload,用 GRPO 以即时成功奖励训练策展器,显著提升 Agent 成功率与效率
📌 工作参考价值(4 点)
- 把用户行为序列 / 任务执行日志以原始轨迹存入记忆库,不在写入时总结;推理时用当前 query 或 task 条件化地检索并动态生成 brief,可适配不同下游任务,避免信息过早丢失。
- 训练一个独立于执行器的轻量策展器(curator),用 GRPO 以即时任务奖励(成功与否)更新;奖励无延迟,无需人工分组相关任务,训练稳定且可跨 executor 迁移。
- 工程上:检索用 BM25 仅在任务描述上做,轻量解耦;存储时用 LLM-as-judge 只滤出成功轨迹,比保留全部并标注是否正确更有效;生成的紧凑 payload 能降低 executor 输入 token 50% 左右和步数 28% 以上。
- 冷启动直接空记忆库上线即可,warm-start 收益不大;若需进一步提升,可做一次 staged bank refresh(用训练好的 curator 重建训练库)但收益有限。
让 harness 成长而非上下文:从无策略脚手架到可复用专家智能体
🧭 Agent harness 自动增长优化 ★ 深度解读
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Shenzhen University of Advanced Technology · University of Macau
通过任务反馈把重复控制固化为可执行代码,LLM仅做语义推理,实现低成本高成功率Agent
📌 工作参考价值(4 点)
- 把高频控制路径(query 改写、结果校验、状态机流转、停止条件、重试策略)从 prompt/上下文固化到代码,LLM 只负责语义比较和最终生成;对电商搜索 Agent、客服 Agent 等高频请求场景,可显著降低单次 token 与成本。
- 建立 function-level trace 和失败窗口:线上失败日志关联到具体函数,优化器只修改被 trace 覆盖的有限代码面,避免全量重写;这能形成可维护的“局部重训练”工程闭环。
- 引入 held-out gate 与 checkpoint 回滚:每个修复候选必须在固定验证集上不降低成功率才接受,防止修复当前 case 导致历史能力退化;持续优化推荐策略或 Agent 逻辑时尤其关键。
- 小模型部署友好:将可复用控制移到代码后,4B 模型在 WebArena-Verified 上成功率达到 45.3%,而 Tool-Calling 只有 6.7%;端侧或低成本电商/搜索 Agent 可优先采用代码 harness 而非依赖大模型在线规划。
REFLEX 结合 Jev 实现 LLM 智能体的高效选择性控制
🧭 Agent 选择性控制与强模型调用优化
Nanyang Technological University
REFLEX 用 Jev 做快速类型决策层,低置信或需生成时调强 LLM,100 任务基准上 95% 成功并减少 72.7% 强模型调用
📌 工作参考价值(4 点)
- 架构拆分:在电商导购/广告投放 Agent 中,把“选哪个工具、参数是否合法、是否继续”等有限集合决策从生成式 LLM 中剥离,用轻量分类器或 Jev 类模型先做 typed decision;仅当置信度低于阈值或需要自由文本生成时再调用强模型,可省 70%+ 强模型调用,降低延迟与成本。
- 回退设计:对边界场景(如退款/价格修改等高风险动作)要保守,即便轻量模型置信度不低,也设置 authorization boundary 附近强制回退或人工/强模型复核;因为论文显示授权边界附近的 near-valid alternatives 是主要失败来源。
- 动作空间控制:候选工具/动作数量不要过大,尽量合并语义相近的 action;论文指出可靠性依赖 action-set size,过大会削弱 Jev 选择质量,可先在业务数据上测 action-set size 的影响曲线。
- 先做基线:如果已有便宜生成式模型(如 GPT-4o mini/Gemini Flash)的 cascade 路由准确率已经很高,typed decision layer 可能收益有限;建议先做离线对比实验,再决定是否引入 Jev,而不是直接上。
AI研究Agent的递归自我改进:自主优化自身代码
🧭 AI Agent 递归自我改进与自主优化
Weco AI
展示AI研究agent通过递归自我改进在8天内自主发现7项改进,泛化至未见任务并降低reward hacking
📌 工作参考价值(4 点)
- 可将推荐/搜索agent的pipeline组件(如query改写、召回策略、排序规则)视为可编辑对象,用隐藏评估集自动迭代改进,减少人工调参与A/B测试次数。
- 借鉴论文发现的记忆压缩与管理机制,在电商会话agent中管理长上下文(多轮对话、商品浏览历史),避免上下文超限并保持性能。
- 采用分布外(OOD)留出任务评估泛化,防止agent在特定业务指标上reward hacking(例如只优化点击率而忽略转化或用户体验)。
- 递归自我改进本身是一种自动化元优化,在有明确评估信号和足够算力的场景(如生成式推荐中的Semantic ID搜索策略)可尝试。
Critical-State RL:诊断多轮工具调用中的可训练状态
🧭 多轮工具调用 · 局部 RL 训练 ★ 深度解读
Salesforce AI Research
用训练前嵌套采样分离动作相关方差与续采样噪声,定位多轮工具调用中真正值得训练的单个模型调用,再做局部 RL
📌 工作参考价值(4 点)
- 多轮 agent(电商导购、客服、工具调用)不要直接用 trajectory-level reward 训练所有 turn:先在一个 frozen policy 上做训练前诊断,估计每个候选 turn 的 action-dependent variance,选出真正可训练的 occurrence。
- 局部 occurrence-level RL 只对选中的 response 计算 loss,其他 turn 只提供 context 或 reward、不接收梯度。这能减少无关 turn 的梯度污染,适合从线上 logged interactions 中做低成本优化。
- 对工具调用类场景,可以按任务结构构造 occurrence-local label:如 no_write(adec) × consequence(yrec)、keyword retention proxy 或 repeat_of_history;用参考策略 headroom 过滤已经饱和的状态,避免在无改进空间的地方浪费训练。
- 工程实现上,嵌套采样用 S_between^2 - S_within^2 / m 估计 V_act,训练前无需训练 critic;对每个 candidate 采 n 个 actions × m 个 continuations 即可。负值估计保留,只做排序选择,成本低且可跨模型/任务迁移。
当明天成为今天:自进化策略用于智能体时序预测
🧭 Agent 自进化 · 延迟反馈策略
Ant International · Tsinghua University · The Chinese University of Hong Kong
将时序预测智能体的延迟反馈转化为专家信任、路径选择与干预强度的持久联合更新
📌 工作参考价值(3 点)
- 延迟反馈无需额外标注:在电商推荐 Agent 中,每次请求同时记录多路召回/排序/策略路径的预测结果,待真实转化/点击回流后用 realized outcome 评估整个候选集,为在线策略更新提供免费监督信号。
- 自进化策略分层更新:借鉴 frozen backbone + 外层策略微调,只更新专家信任权重、路径路由概率、干预强度等轻量参数,避免频繁更新 LLM/大模型 backbone,工程上更稳定且易回滚。
- predict-reveal-update 协议可嵌入推荐 Agent 编排:如搜索推荐中由 LLM 调度多个模型(语义召回、协同过滤、生成式推荐),通过每轮真实反馈持续调整各专家贡献度,自动适应流量/季节/活动变化。
个人AI代理中的经济错位:财富推断与对抗性委托
🧭 个人AI代理经济决策中的隐性偏见
Foundation AI, Cisco · Carnegie Mellon University
研究揭示个人AI代理会从个人上下文推断财富并系统性推荐更昂贵选项,即使违背用户明确目标
📌 工作参考价值(4 点)
- 在部署代理式推荐(如自动客服选品、智能保险推荐)时,应建立经济公平性回归测试:固定用户请求,只改变画像中的财富敏感字段(收入、消费记录、邮件语气),观察推荐价格分布是否出现系统性偏移;若偏移显著,需在 prompt 中加入显式约束(如“忽略用户财富信号,严格按指定目标优化”)或后处理校准。
- 隐私保护不能只屏蔽显式金融属性;模型会利用剩余环境信号(如邮件内容、语言风格)推断财富,甚至加大偏差(对保险场景最高增加40%)。因此需要做“属性屏蔽-残余偏差”审计,并在特征层或微调时加入对抗去偏(如从嵌入中移除财富方向)。
- 不要迷信模型规模;更大模型(如 Claude Opus 4.8)可能更严重,因此选择 LLM 做决策代理时必须将其作为独立风险维度评估,不能默认更强模型更公平。
- 借鉴其大规模实验设计(325K次,3类决策,13个模型)构建内部基准,用合成用户画像自动生成测试用例,监控线上的经济偏差。
有品位的智能体:长时程任务中决策品味的测量与提升
🧭 长时程智能体决策品味测量与蒸馏 ★ 深度解读
City University of Hong Kong · Microsoft
构建 Taste-Bench 从真实 agent 轨迹自动挖掘决策分叉,度量并蒸馏长时程决策品味
📌 工作参考价值(4 点)
- 可在电商/广告/Agent 场景中复用「决策分叉」挖掘思路:从线上 A/B 轨迹或 agent 自我纠错日志自动构造偏好对,无需人工标注,为选品策略、召回方案、创意方向等中间决策建立 taste 评估集。
- 蒸馏时用「见过正确分支的 teacher 生成推理链、student 只看到分叉前上下文」的 privileged-context 方法,适合把历史成功/失败路径的 hindsight 迁移成轻量 advisor 模型,对 query 改写、商品筛选、广告投放策略等长流程决策提供实时建议。
- 两选项判断任务(如新旧策略对比、生成式候选筛选)建议采用正反序两次回答均正确才算对的评分,缓解 LLM 位置偏置;工程实现上可直接借鉴。
- 将 advisor 判断注入 executor 上下文能显著提升端到端成功率(论文中正确建议 +24.4pp、蒸馏学生 +19.1pp),可在推荐 agent 工作流中对关键 fork 注入模型建议。
ACLArena:多阶段后训练中的 Agent 持续学习
🧭 Agent 多阶段后训练与持续学习 ★ 深度解读
University of California, Los Angeles · University of California, Santa Cruz
构建多阶段 Agent 后训练基准,诊断遗忘机制并融合 SDFT 与 LoRA-RL 专家路由,缓解跨阶段能力遗忘
📌 工作参考价值(4 点)
- 做多阶段 agent 训练(如搜索问答、电商客服、工具调用)时,先 SFT 冷启动任务接口与行为格式,再用 RL/蒸馏精化;不要用 SFT 恢复旧能力,其参数更新幅度是 RL 的 3-7 倍,容易覆盖相邻阶段能力。
- 多教师 on-policy 蒸馏可采用 MOPD:对低熵 token 用 reverse KL 精确模仿,对高熵决策 token(选 query、工具调用)切换 forward KL 并 top-q 截断,能避免 agentic 任务中熵坍塌和训练发散;多域 teacher 按 domain tag 路由,不要平均 logits。
- 多领域电商/搜索 agent 可采用 MLE 架构:共享一个 SDFT 主干,每个领域(搜索、交易、客服)训练独立 LoRA adapter + RL,推理按环境上下文路由;参数隔离减少跨域遗忘,增量成本低、部署统一。
- SDFT 轨迹蒸馏时必须 balanced-mix 而非按数据量随机混,防止高量任务淹没低资源领域;轨迹过滤需检查 final reward、工具调用合法性、协议合规并做近似去重。
EDGEGEN:用合成边缘案例生成改进工具调用智能体
🧭 工具调用 Agent 合成数据与优化
SAP
从智能体规范提取合规规则,生成数据库接地的边缘用例任务,用于微调和 harness 优化,无需人工标注
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 中,可从业务规范文档自动提取合规规则(如优惠叠加限制、售后时效、风控红线),反向构造违反规则的边缘对话任务,自动扩充测试与微调数据,低成本覆盖长尾异常场景。
- 生成任务时绑定真实数据库状态(订单、库存、优惠券、用户画像),避免生成脱离业务上下文的任务;可复用“先抽规则→构造特定 DB 状态→生成违规任务”的流程做 Agent 回归测试。
- 微调与 harness 优化双路径:若模型推理能力弱,用合成数据直接微调;若只想调整系统提示、工具描述或调度逻辑,可用同一批数据做黑盒搜索,无需重新训练模型。
- 全自动闭环无需人工标注,适合隐私敏感场景,可在内部数据不出域的前提下生成高质量任务,用于 Agent 上线前的鲁棒性验证。
Harness-Zero:通过 Agent-as-Harness 实现 Harness 蒸馏
🧭 LLM Agent 蒸馏与外部策略内化
Peking University · Google · The Hong Kong University of Science and Technology
用 agent-as-harness 把优化 harness 的引导转为目标动作空间修正示范并微调,移除专用 harness 后成功率 23.3%→44.3%
📌 工作参考价值(4 点)
- 业务中若存在按场景/人群/地区切换的规则引擎、多路召回/重排策略、风控或兜底 harness,可借鉴“专家 harness 引导 + 修正 agent 生成目标动作空间示范 + SFT”的流程,把外部策略内化到统一模型,降低线上策略路由与维护成本。
- 若优化 harness 与学生目标 harness 的动作空间或可用信息不一致,不要直接拿专家输出做监督;引入 bridging agent 在目标动作空间重写学生响应,是比 code-as-harness 更稳的蒸馏方式。
- 实验显示内化后移除专用 harness,模型成功率从 23.3% 升至 44.3%,超过保留原 harness 的 41.7%;可尝试用微调替代部分外部系统,减少推理延迟与策略冲突。
- 对推荐/搜索 Agent 场景,可将不同场景的 query 改写、选品或 push 选词策略作为 expert harness,蒸馏到一个 base model,支持多场景统一服务,尤其适用于对话式购物/搜索助手中的策略简化。
Jev-Mem:System-One 控制的 Agentic Memory 实现高效 AI Agent
🧭 Agent 记忆系统效率与效果优化 ★ 深度解读
Department of Computer Science, The University of Texas at Dallas
提出将高频记忆控制与生成式推理分离的 System-One/Two 记忆架构,在 LoCoMo 上以 6.6 倍构建提速和 36.7% 延迟下降取得最佳回答质量
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 的用户记忆与客服长期记忆中,把“该不该存/归什么类/和哪条历史相关/该不该停”等高频小决策从 LLM 生成中拆出,换成轻量分类器、规则或小模型;LLM 只做最终答案/推荐理由合成,可大幅降低 Token 成本与延迟。
- 多关系图 memory(semantic/temporal/causal/entity)对用户行为、商品浏览、事件关系有直接迁移价值:保留原始行为不做过早过滤,用确定性索引先召回候选再让轻量模型判断关系,工程上可避免长对话场景 O(N) 全量 LLM 比较。
- 检索改成闭环:根据 query 动态给不同关系视图分配预算,并在证据充分或边际收益低时提前停止。适合搜索/推荐 Agent 在多轮交互中控制上下文成本,避免无关信息稀释推荐理由。
- 可参考其“写读同一控制平面”思想:在用户画像/会话状态记忆中,构建与检索使用同一套关系判断模块,避免两套逻辑不一致;对成本敏感的场景尤其值得落地。
RRSI:Agent 外壳的正则化递归自改进
🧭 Agent 自改进正则化 · harness 进化 ★ 深度解读
Google Cloud AI Research · UNC-Chapel Hill · Stanford University · Washington University in St. Louis
用 proposal 与 selection 两侧正则化约束 Agent harness 自改进,缓解在有限 evolve set 上的过拟合
📌 工作参考价值(4 点)
- 在电商搜索/推荐 Agent 或购物助手做自动化 prompt、tool description、context 管理的 A/B 调优时,很容易在内部小评测集上过拟合。可复用 RRSI 的 leakage screening:评估前先用 critic 过滤掉显式包含 task name、商品名、类目特定逻辑或实体值的候选,防止这类候选靠局部泄漏获得高 evolve score 进入后续搜索。
- 引入 noise band 接受 floor:先在固定 base harness 上重复评估估计噪声 δ,候选分数必须 ≥ S*-δ 才允许替换 incumbent。这能避免在搜索/推荐 Agent 的策略迭代中,把随机噪声冠军当成稳定改进永久写入系统。
- cost-aware acceptance 对生产很有用:任何候选若增加 policy tokens(例如更长的 few-shot 示例、更多 tool schema 字段、额外 context 读取),必须用 ΔC ≤ β0 + β1 ΔS 证明收益。可以直接迁移到线上成本约束的推荐 Agent 或 LLM 链路,避免演进结果越来越贵但得分不涨。
- 结构化探索和 evidence-aware history 可以复用到 query 改写策略、召回 prompt、排序 Agent workflow 的自动搜索:记录每轮修改的组件、假设和验证结果,停滞时优先探索从未改过的组件(如 control flow / context 管理而非继续改 prompt)。另外可加一个跨模型验证步骤:搜索得到的 harness 若不随 backbone 能力消失,才更像可复用机制而非策略专属补丁。
VideoGen-Agent:强化视频生成智能体
🧭 多模态 Agent 工具使用与强化学习
Princeton University · Stanford University · UC Davis · MMLab, CUHK · Independent
通过多任务智能体强化学习训练多模态 Agent 协调外部工具,显著提升复杂视频生成任务的指令遵循能力。
📌 工作参考价值(4 点)
- 多工具 Agent 的「检索/增强 → 生成 → 验证」闭环可迁移到电商导购 Agent:先搜索增强获取商品知识,再生成推荐理由/文案,最后校验属性一致性与用户意图覆盖,提升复杂需求满足率。
- 奖励函数分解为工具调用合法性、任务适配性、内容质量三类,并做类别平衡与类别感知加权,可借鉴到推荐/广告文案生成 Agent 的训练中,避免只优化点击或转化导致工具滥用或内容偏置。
- 先 SFT 教师轨迹再 RL 精调,且生成工具可独立升级无需重训 Agent,这种解耦架构在业务中可大幅降低迭代成本:底层生成模型或检索库更换后,策略网络无需重新训练。
- VABench 的评估维度(专业知识、身份保持、物理一致性、场景构图、多镜头时序)可迁移为电商视频/商品描述生成的评测框架,尤其多实体身份一致性和时序事件逻辑值得借鉴。
X-Planner:面向具身智能的事件结构化任务规划
🧭 具身智能任务规划 · VLA 规划前端
X Square Robot Team
为 VLA 引入事件结构化规划前端,联合离散事件状态与潜在 CoT 状态,用阶梯解码和冻结重建提升长程规划质量
📌 工作参考价值(4 点)
- 事件结构化规划拆成「可解释离散事件状态 + 连续潜在 CoT 状态」双接口,可迁移到电商 Agent 的长流程任务:让 LLM 输出可读子目标序列,同时保留 latent 状态跨层传递,兼顾审计与推理深度。
- 用冻结的 latent-to-text 重建目标作为语义锚点,适合在业务中给隐状态加约束,避免端到端训练后 latent 漂移,尤其适用于没有大量标注的推荐/搜索 Agent 规划数据。
- 利用接管时间(takeover time)和人工注入失败样本训练持续错误识别,可借鉴到交互式推荐或对话 Agent:把用户中断/纠正日志作为弱监督,训练模型提前识别错误。
- 离线评估采用两步法:先评规划文本质量(BERTScore/LLM judge),再测下游执行;业务中可把「规划质量」与「最终业务指标」解耦,缩短迭代周期。
AutoRecLab:描述实验,自动生成推荐系统实验代码
🧭 Agent 自主科研与代码生成
University of Siegen · University of Göttingen
用自然语言提示自动实现推荐系统实验代码,结合RAG、静态类型验证与执行引导树搜索
📌 工作参考价值(4 点)
- 把实验代码生成拆成“需求抽取→原型→验证→迭代扩展”的流水线,可借鉴到内部实验平台:用 LLM 自动将实验配置转成可执行 Python/Java 代码,减少手工编写 baseline 和评估脚本。
- RAG 检索内部 RecSys 框架、数据 API 和实验平台文档,能显著减少 LLM 对私有接口的幻觉;结合静态类型检查(mypy/pyright)和执行反馈(跑测试、捕获报错)作为生成质量门禁,比单纯生成代码更可靠。
- 执行引导的树搜索可复用:对候选代码路径展开、执行、根据结果剪枝,适合离线批量生成多个算法/多数据集实验;文中单次成功运行约 1 美元,说明小规模试跑成本可接受。
- 该演示主要覆盖学术场景的显式→隐式反馈转换实验,业务落地还需补充线上数据 schema、评测指标、版本管理等约束,但可先作为内部实验脚手架或新人 onboarding 工具。
AutoViewMem:自配置正交视图的对话长期记忆框架
🧭 Agent 长期记忆 · 多视图写入组织 ★ 深度解读
National University of Defense Technology
在写入时用自配置低重叠语义视图组织长期对话记忆,使简单 top-K 检索即可稳定找到相关证据
📌 工作参考价值(4 点)
- 对电商导购 / 客服 Agent 的用户长期记忆,不要把所有对话日志压成一个 embedding;可借鉴 AutoViewMem 用多个语义视图(如偏好、预算、物流、售后、家庭结构)在写入时抽取结构化字段,降低后续检索的语义干扰。
- 视图选择可用 DPP 做低重叠、多样化的轻量 schema 选择:每 N 个会话块让 LLM 候选生成视图,再用同一 dense encoder 嵌入并选 top-K,工程成本可控,且能动态适应用户专属画像。
- 检索评估必须按 provenance / 证据 ID 去重,否则同一证据在不同视图下重复命中会虚高;落地时给每条记忆打 timestamp、view tag、source span ID,便于审计、回滚和线上诊断。
- 离线 consolidation 可用 embedding 相似度构图 + LLM 裁决合并冗余,但要保留 provenance 并谨慎处理时间版本与冲突;可异步执行,不改变在线检索链路,适合 Agent 长期记忆增量化维护。
Designer-RSI:从用户流量中演化程序性记忆用于智能平面设计
🧭 Agent 外部程序性记忆持续进化
Adobe · Brown University
冻结大模型加外部程序性记忆持续适应,通过拓宽与深化技能库将设计智能体执行成功率从72.7%提升至99.3%
📌 工作参考价值(4 点)
- 可复用外部程序性记忆库:电商/广告场景中涉及多步工具调用的 Agent(如自动生成商品详情页、广告投放流程调整)可将常用操作流程沉淀为自然语言技能,通过执行经验自动扩充和修订,无需微调模型。
- 拓宽+深化双机制:遇到重复出现的未覆盖子任务时提取新技能(widening);对已有技能用成功/失败轨迹对比修订(deepening),并设置匹配重放门(matched replay gate)作为自动化回归测试,确保新技能不破坏已有成功案例,可直接复用于业务 Agent 的技能迭代。
- 冻结前沿模型 + 外部记忆适应:避免频繁更新大模型权重,降低成本和风险;适合模型无法频繁重训但需要快速适应新任务流的在线系统,如搜索推荐中的 Agent 策略调整。
- 噪声反馈下的持续学习:设计任务无可靠程序化评估 oracle,但通过自动评分轨迹和真实用户 brief 仍能有效演化技能;对电商中大量弱监督/无监督反馈场景有借鉴意义。
将视觉语言模型智能迁移至机器人控制
🧭 VLM Agent 闭环控制机器人
Tsinghua University · Tencent Hunyuan
通过离散动作接口与闭环 ICL,使 VLM 零/单样本控制机器人并达 SOTA
📌 工作参考价值(4 点)
- 离散动作接口设计:将连续控制空间抽象为紧凑离散命令集,让 LLM/VLM Agent 通过标准化 API 控制底层系统(如推荐引擎参数、广告出价),提升决策稳定性和可解释性。
- In-context learning 快速适配:用 1-2 个演示示例让通用大模型零样本/小样本适配新任务(如新品类推荐策略、活动文案风格),避免每任务微调,降低迭代成本。
- 闭环反馈框架:借鉴“观察-推理-执行-观察”闭环,构建自主优化 Agent,例如在实时推荐中根据用户行为反馈动态调整排序策略,而非静态输出。
- 通用模型知识迁移:论文显示通用 VLM 零样本可超越任务专用策略,启示业务中可优先用通用 LLM 处理非核心子任务(如 query 改写、解释生成),再决定是否投入专门训练。
可解释记忆决策控制器:解耦置信度与一致性的三信号互补机制
🧭 Agent 记忆信任决策 · RAG 防幻觉 ★ 深度解读
Tianjin University of Technology
在检索与生成间插入零参数三信号互补编码器,解耦置信度与一致性,将冲突记忆下 RAG 幻觉率降低约 56%,高风险近零
📌 工作参考价值(4 点)
- 在搜索/客服/商品推荐理由生成等 RAG 链路中,检索到的商品属性、用户评价、政策条款常互相冲突。可以借鉴 MDL,在检索后、LLM 生成前插一个零参数决策层,用 relevance(query-记忆相似度)、reliability(记忆间一致性/冲突率)和 task risk(类目风险等级)计算 adopt/abstain,避免把冲突证据注入 prompt。
- 具体工程 trick:将置信度 norm C 和方向一致性 cosine α 解耦,用 C_final = C·(0.3+0.7α) 做 gating;高风险类目(医疗/金融等)可用 sinv_A=1-A 反向编码,强制触发拒绝回答或改用参数知识,实现近零高风险幻觉。
- 该控制器零参数、纯几何运算,单次决策约 0.14ms,比 embedding 检索快约 50 倍,可作为高并发推荐/对话系统的轻量中间件,无需训练和 GPU 成本,且输出可审计的 C/α 标量。
- 注意边界:高风险且高相关(A≥0.70, M≥0.70)时,高相关性会抵消风险抑制,效果下降;需要额外做片段级过滤或对 memory store 本身做清洗,不能只靠决策层。
NemotronLabs VoiceChat:开放全双工语音到语音模型,原生支持工具调用
🧭 全双工语音 Agent 与工具调用
NVIDIA
开源全双工语音模型,统一流式架构实现听、转写、推理、工具调用与说话,打断恢复与工具选择表现强
📌 工作参考价值(4 点)
- 全双工交互可迁移到语音购物助手/智能客服:用户说话时持续监听,支持打断、backchannel 和自然话轮切换,减少 VAD 等待造成的延迟和误判,提升实时推荐场景的对话体验。
- 并行输出 agent text 与结构化 function call 的架构值得借鉴:在对话推荐系统中同时生成自然语言回复和调用商品搜索/推荐 API 的指令,避免串行等待,缩短端到端延迟。
- 辅助 RNN-T 增量转写分支可用于实时 query 感知:在用户说话过程中即提取关键词(商品、价格、属性),触发增量式 query 改写或推荐候选刷新,抢在用户结束前预计算。
- 工具调用能力已有较好基础(工具选择 F1 82.5%),但参数准确性和端到端执行仍需提升;业务上可先用于简单、结构清晰的工具(如查订单、加购物车),复杂参数场景建议人工兜底或后验证。
LLM Agent 双轴策略优化:贝叶斯反馈归因与轨迹质量归一化
🧭 Agent 强化学习训练优化 ★ 深度解读
Zhejiang University · University of Science and Technology of China · University of New South Wales · Shanghai Artificial Intelligence Laboratory
提出 BATON 框架,分离轨迹内反馈归因与轨迹间目标聚合,提升多轮 Agent RL 效果并降低推理长度
📌 工作参考价值(4 点)
- 训练多轮购物导购/搜索 Agent 时,直接按 token 平均会被长失败轨迹主导,可先做 trajectory-level mean 再跨轨迹等权平均,只改 loss 聚合就能缓解长度偏差,易接入现有 GRPO/GiGPO 流水线。
- BFA 的“反馈兼容性”思想适合只有 outcome reward 或稀疏环境反馈的场景:不替换 reward,而是用 old policy 对 observed feedback 的 likelihood 与 counterfactual action 比较,生成 step-level soft 权重;对检索增强问答、多轮选品对话尤其可复用。
- 工程落地时可以先只上 TMN,几乎零额外开销(约 1.01-1.02 倍训练时间),能拿到一部分稳定收益;BFA 需要额外 forward 计算(总开销约 1.10-1.17 倍),但可同时减少 eval 轨迹动作数和生成 token 数,有利于线上推理成本。
- 长尾失败 session 常见于多跳搜索、电商导购等场景,可直接借用长度校准的几何证据归一化,避免长反馈文本 token 数对 likelihood 量级的影响。
面向安全机器人操作的障碍感知编码智能体约束框架
🧭 编码智能体的安全约束规划
USC · UCF · UCSB
提出 SafeHarness,通过障碍感知路径规划与接触执行显著提升编码智能体的任务成功率和避碰率
📌 工作参考价值(4 点)
- 约束优先级显式化:在 prompt 里写“不要撞障碍物”不够,需把安全约束拆成结构化步骤。电商 Agent 中“不违规”“不超预算”等约束可借鉴:先规划、验证约束、必要时重新规划,再执行。
- 阶段分解定位失败:将任务拆成 route phase 和 contact-rich moment,分别定位不满足约束的环节。推荐/广告 Agent 可对“选品→出价→文案”分段做约束检查,避免只在最终输出把关。
- 用结构化中间表示消解歧义:将物体表示成 bounding boxes、路径写成 waypoints,减少 LLM 对场景的自由裁量。对应到业务可用结构化 schema(如候选 query 列表 + 规则标签)让 Agent 做约束内选择。
- 验证-重规划闭环:选择路径后先 verify,不可行就 replan,而非一步到位。适合用在需要多步决策的推荐 Agent 流程,比如先选候选集再过滤违规项,失败后回退重选。
MintAct:统一数字环境的视觉Agent模型
🧭 多模态Agent统一数字环境操作
Apple
用2B/4B/8B视觉语言模型统一UI定位、跨端多步导航与视觉工具调用,匹配各领域专用模型
📌 工作参考价值(4 点)
- 在电商/广告场景中,可将UI grounding、跨页面多步操作、外部工具调用合并为一个模型,避免为不同端或不同任务维护多个专用Agent,降低部署和迭代成本。
- 借鉴其异步RL框架:显式控制跨域训练分布,能缓解环境反馈噪声和off-policy漂移;做推荐/Agent在线学习时,可参考这种对训练分布的控制来稳定多任务协同。
- 用数百个并发实例同时服务轨迹采集和在线RL的做法,适合需要大量交互数据的电商Agent、搜索导购Agent训练。
- 2B小模型即可在OSWorld-Verified等基准上取得有竞争力的表现,对需要端侧部署的App内助手、广告落地页交互优化有直接参考价值。
RecreationWorld:面向混合计算机使用智能体的可扩展可验证环境
🧭 混合计算机使用智能体基准与训练 ★ 深度解读
Alibaba Token Hub, Alibaba Group
以“复刻运行中应用”为核心任务,构建跨五平台的混合 GUI/代码智能体基准与训练框架
📌 工作参考价值(4 点)
- 用“reference-as-oracle”做自动化回归:电商页面改版、前端重构、配置迁移时,把旧版/线上版本作为运行 reference,自动采集动作-响应和截图,生成 Programmatic + VLM 断言,替代人工比对,得到可回放、可量化的验收指标。
- 复制混合工作流到业务 Agent:不要硬限制 GUI-only 或 code-only;给 Agent 同时开放 GUI 观察、代码编辑、构建/运行三类工具,让它自主切换。论文显示这种混合轨迹在长程任务中切换频繁,且基于可验证环境做 SFT 能迁移到 OOD 编码/计算机使用任务。
- 用拒绝采样 + 可执行奖励造 SFT 数据:如果业务中有可自动评分的交互环境(如商品页面结构化抽取、RPA 流程、店铺装修),可跑多模型 rollout,用隐藏测试套件打分,选高奖励轨迹微调,减少人工标注。
- 工程降本技巧:把链式 MCP 原语调用改成持久化 REPL + typed SDK,让模型在本地循环处理中间结果,可大幅降 token 和成本(输入 -40.7%、tool-result -65.5%、成本 -54.1%),质量不降,适合 GUI Agent 落地。
图结构Agent技能的进化优化框架GraphSkillEvo
🧭 Agent技能图结构化与进化优化
City University of Hong Kong · National University of Singapore · Southern University of Science and Technology
将Agent技能表示为有向图并用进化算子搜索优化,平均精度比SkillOpt提升1.76–4.01个百分点
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 中,把任务 SOP 改成有向图技能:节点为执行步骤(意图识别、商品召回、属性比较、推荐解释),边为条件路由,能减少 LLM 对非结构化指令的理解歧义和冗余,提升多步推理稳定性。
- 将图技能作为可自动优化的结构化搜索空间:维护多个候选技能,用验证集或线上指标(转化率、点击率、任务成功率)做适应度,对节点/边执行 LLM 变异与交叉,组合不同技能的优质子图,比单条 prompt 自改写更容易搜出强工作流。
- 工程上可采用“初始化→验证打分→选 Top-N→变异/交叉→再验证”的离线或低流量循环,自动优化搜索推荐 Agent 的 prompt/workflow;重点是把上下文相关转移显式建模为边,避免非结构化 prompt 的冗余。
- 实现交叉/变异时需加入图结构校验,防止生成不可达或环状技能图;这在实际落地中比论文结果的精度提升更关键。
编码 Agent 执行框架组件设计的实证研究
🧭 Agent 执行框架组件消融与设计
UMass Amherst · Emory University · UNC Charlotte · Zoom
系统性消融编码 Agent 的上下文管理、规划与动作空间,揭示模型与预算相关的组件设计规律
📌 工作参考价值(4 点)
- 上下文管理策略可直接借鉴:先用规则过滤冗余内容,再按需用 LLM 摘要,能有效控制 token 成本;避免实现“可恢复的删减”机制,因为模型几乎不会去调用,徒增工程复杂度。
- 动态规划开关:强模型上规划主要降低 token 消耗而非提升精度,弱模型上才是精度支撑。可在推荐/搜索 Agent 中按模型能力决定是否启用规划步骤,平衡效果与成本。
- 动作空间设计遵循“够用即可”:对工具使用能力较弱的模型提供结构化预定义工具,对 bash 能力强的模型只给命令行接口,既提升成功率又降低成本,尤其适合命令密集型任务。
- 组件解耦的消融框架值得复用:固定执行循环,独立替换上下文、规划、动作模块,可快速定位系统瓶颈,适合在电商 Agent 中进行模块化调优。
DeepSeek-V4.1-Flash:极限压缩KV缓存的长上下文多模态MoE
🧭 Agent推理优化 · KV缓存压缩 ★ 深度解读
DeepSeek-AI
通过跨层KV复用、FP4量化与SWA有界重放,将每token全局KV缓存降至890字节,实现近恒定decode成本
📌 工作参考价值(4 点)
- KV缓存压缩方案可直接迁移:跨层复用全局KV与Top-K索引(CSA2的Full/Reindex/Reuse三模式)可大幅降低长上下文Agent的内存占用,尤其适合电商多轮对话、工具调用频繁的场景,可将持久化KV缓存缩小至1/8。
- CED架构适合输入重的工作负载:prefill阶段仅激活前一半层(8B参数),对输入token极多的场景(如商品详情+用户行为序列拼接)能显著降低首token延迟,可借鉴其非对称激活设计。
- SWA Bounded Replay的工程取舍:用近似的窗口重放替代精确重建SWA KV,仅需重放最近n_win个token,就能免去持久化SWA缓存,节省SSD和主机内存,适合在线推荐系统中高频短会话的上下文管理。
- FP4量化用于KV缓存而非matmul:对KV cache做训练时量化(QAT)可安全使用FP4精度,仅存储减半而不依赖硬件原生FP4矩阵乘支持,可复用到现有推理引擎,降低HBM压力。
工具调用进度自报:Agent 服务系统应读取而非猜测
🧭 Agent 工具调用 · KV cache 调度
Tsinghua University · Alibaba Cloud Computing · Zhejiang University
让工具调用上报剩余进度,比预估算更准,可将 p90 TTFT 降低约 20%
📌 工作参考价值(4 点)
- 在电商/搜索 Agent 中,对长耗时工具(SQL 查询、库存 API、商品爬虫、订单处理)增加 progress 上报字段,如剩余比例或“即将完成”信号,服务层可用它做 KV cache 驱逐/恢复决策,而不是靠工具名或历史均值猜时长。
- 工程实现上,progress 信号通过 harness 旁路采集,不改变 Agent 可见的输入输出,对 benchmark 分数无损耗;这可以直接迁移到现有多 Agent 编排框架,无需修改模型 prompt。
- 在推理引擎侧,把工具 progress 作为轻量 hint 接入 KV cache 管理,作者在 LRU 上仅做小改动就接近 oracle,说明该信号比复杂预估器更有投产价值;如果业务受 TTFT p90 波动困扰,可优先采工具真实进度而非加预测模型。
- 进度信号在环境变化时仍然准确,适合电商大促、突发流量等场景;对多租户 GPU 资源调度,长工具调用按真实剩余时间释放/保留缓存,能提升 HBM 利用率。
工具增强演绎推理:Clue 多智能体博弈中的 LLM 智能体
🧭 LLM Agent 工具增强演绎推理
Georgetown University · Syntheos, Corp · UNU-MERIT
以 Clue 多智能体博弈为环境,用可能性矩阵工具外置记忆与约束,提升 LLM 推理一致性
📌 工作参考价值(4 点)
- 企业 Agent 系统若涉及多轮筛选/排除(如广告定向、商品约束推荐、会话式选品),可把候选集合与排除条件用结构化矩阵/表格工具维护,每轮更新,而不是全部塞进 prompt 或依赖 LLM 记忆。
- 采用“推理日志 → 结构化状态”的离线解析管线:LLM 仍输出自然语言推理,但由工具从日志抽取约束并更新候选表,把记忆与一致性检查外置,降低长对话中的遗忘和矛盾。
- 对多模型/多智能体策略评测:可建立类似 Clue 的封闭信息博弈环境,量化 LLM 在信息不完整、多轮约束变化下的决策质量,作为上线前 reasoning 能力回归测试。
- 工具设计应保持显式、可解释:可能性矩阵相当于可审计状态,便于排查 agent 推理错误,比隐式 memory 更适合业务风控和调试。
双过程语言智能体的认知扩展:交互环境中的记忆与自我反思
🧭 Agent 执行控制与记忆增强
Instituto Superior Técnico, Universidade de Lisboa, Portugal · INESC-ID, Lisboa, Portugal
为 SwiftSage 双过程 agent 加入自适应记忆与自我反思模块,在 ScienceWorld 上提升任务成功率与效率
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 中加入轻量执行时校验(SRM 思路):调用工具前检查商品 ID、参数格式、API 返回,拦截无效动作,降低错误率与 token 成本。
- 长会话推荐系统可借鉴显著性门控记忆:只存储用户偏好突变、任务失败原因等关键事件,触发式检索而非全量上下文,避免长对话遗忘与上下文膨胀。
- 双过程架构可解耦推理与响应:快速动作提议器即时回复用户,慢规划器异步优化推荐策略或营销动作,兼顾体验与决策质量。
- 增加无进展检测:当推荐 Agent 重复推荐或反复询问时强制执行反思/切换策略,防止陷入无效循环,提升多轮交互成功率。
SoL-Pi:递归扩展自动研究循环,打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环,保留四种 token 效率机制,性能不变但成本降约三分之一
📌 工作参考价值(4 点)
- 上下文压缩可迁移到多轮推荐 Agent:Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理,保留关键商品/用户意图证据,削减冗余交互,降低推理 token 与延迟。
- Action Fusion 减少工具调用开销:在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时,将多个小操作合并为一次批量执行,可以显著减少重复上下文注入,节省成本;对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果:让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理,可以提升上下文利用率,适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想:可以在业务 Agent 流水线上自动探索 token 效率优化配置(如提示压缩、工具调用顺序),用离线环境评估成本与效果,实现自动降本,不必手工调优。
选择是检索,拒绝不是:70个韩英动作的设备端工具路由
🧭 设备端工具路由 · 检索与拒绝分离
Redrob
拆分工具路由中的“选择”与“拒绝”决策,证明选择可用检索器、拒绝需神经编码器,设备端可省去大模型
📌 工作参考价值(4 点)
- 在设备端或低延迟 Agent 场景,把工具选择与“是否拒绝/委托”拆成两阶段:先用轻量检索器(如字符 3-gram BM25)选出候选动作,再用一个冻结编码器(如 multilingual-e5)做 out-of-catalog 判断,避免让大模型同时做两件事带来的延迟和内存开销。
- 如果业务中有“本地动作目录”或固定工具的 Agent 路由,可先基于 lexical overlap 做召回:对于规范表达或关键词命中的请求,BM25 几乎全对;转述/同义表达则丢得较多,可限制候选集到 top-7 再做重排或接一个小型语义判别器,性价比高于直接用大模型。
- 对“是否该本地处理还是委托给远端/大模型”的决策,不要依赖分类器在检索得分特征上做阈值:论文表明这样做 AUC 上限仅 0.697,而冻结编码器的语义得分可达 0.806。建议直接复用轻量 sentence encoder,成本低且能显著减少误委托。
- 工程落地时注意:neural ranker 虽然所有质量指标更好,但常因延迟和内存被拒。若需在端上引入语义模型,优先考虑量化、蒸馏或小模型,并只用于 abstention 阶段,而非全量排序。
BI-Agent 与 BI-Bench:端到端商业智能自动化 Agent 与评测基准
🧭 LLM Agent + 数据管理工具 + 后训练 ★ 深度解读
UIUC · Microsoft Research · Microsoft
构建首个真实 BI 端到端基准 BI-Bench,并设计工具增强 Agent 与后训练框架,使 8B 模型以 50 倍低成本匹敌大模型
📌 工作参考价值(4 点)
- 将数据管理专用算法(join 预测、表重塑、表检索)封装成工具,由 LLM 负责编排调用,而不是让它直接编写所有数据处理代码;电商场景做多表特征拼接、宽表生成、指标口径治理时可复用这种“领域工具 + 通用 LLM”分工。
- 合成训练轨迹可借鉴:先从真实业务项目构造 join 后的宽表,让 LLM 生成 query 和标注答案,再混入无关表并施加逆变换制造难样本,大幅降低训练数据标注成本;适合推荐 Agent、Text-to-SQL 或语义层维护。
- RLVR 奖励设计对可验证结果使用分档奖励(完全正确 / 部分正确 / 失败)加格式惩罚,能给小模型提供密集学习信号;在商品知识问答、报表生成等有可验证输出的任务中可直接套用。
- 建立内部评测集可参考 BI-Bench:从真实 dashboard 导出 query-result 对,做多 ground truth 增强和 LLM-assisted 审核,但不以模型可解为筛选标准,避免评测集失真。
FlashVector:分层模型服务栈优化智能体
🧭 Agent 驱动的服务栈自动调优 ★ 深度解读
Stanford University · Unity Vector AI Team
将 LLM 驱动的 GPU kernel 优化范式推广到模型服务器、特征处理与运行时配置的全栈自动调优
📌 工作参考价值(4 点)
- 将服务栈各层抽象为统一的 Profile-Diagnose-Optimize-Verify 循环,每层只需提供领域化的 profiling 工具(GPU 用 Nsight,CPU 服务用 eBPF)和知识库,即可复用同一套 agent 框架优化 CUDA、C++、Python 等异构代码,避免为每个组件单独建系统。
- 优化验收必须通过生产流量回放 + 全栈负载测试,且收益超过测量噪声 floor(基线 ±6%,可重复采样收紧到 2.1%);对浮点重排等改动设置预测输出偏差阈值,防止精度回退。这套验证机制可直接迁移到模型/服务的上线把关。
- 维护一个持续更新的优化知识库(业务逻辑、模型结构、组件架构、优化 cookbook),每次运行后只做 in-place refine 而不是累积全部历史,能有效控制上下文窗口增长、减少 LLM 幻觉,适合长期运行的优化 agent。
- 代码优化和参数搜索可以用同一 loop:在 SLO 约束下用真实请求回放搜索 batch size、实例数等配置,并通过 shadow canary 放量验证;模型每次重训或服务更新后自动触发新一轮,可以避免配置漂移导致的成本回升。
GAVEL:用于验证与高效长程 LLM 任务规划的图世界模型
🧭 Agent 长程规划验证与修复
用显式图世界模型验证并修复 LLM 长程规划,将单任务成功率从 41.2% 提升至 91.8%
📌 工作参考价值(4 点)
- 为 Agent 工作流构建显式状态图模型(对象关系、动作前置条件/效果),在执行 LLM 生成的业务步骤前做符号化执行验证,拦截不可行操作,减少线上执行失败。
- 将规划错误分成两类:可由世界模型直接推导修复的缺陷(如缺失前置条件、约束违反)和需要语义推理的错误,只把后者回给 LLM,降低高成本模型调用频率。
- 用概率信念状态表示不确定信息(如库存、用户状态),在多步骤任务中动态重排剩余子任务以最小化期望成本,适用于多目标营销流程或客服工单调度。
- 用紧凑 LLM(如 Qwen3-8B)搭配显式世界模型即可显著提升长程任务成功率,适合边缘部署或成本敏感的业务场景。
基于VLM Agent的上下文机器人学习
🧭 VLM Agent 机器人上下文学习
Morphi Robot · Shanghai Innovation Institute · Huazhong University of Science and Technology · Fudan University · Hunan University
GPT-Policy将VLM agent用于机器人上下文学习,通过context compiler与constrained controller把演示和反馈转为可执行动作,无需梯度更新
📌 工作参考价值(3 点)
- 借鉴 context compiler:不要把所有用户行为或物料序列塞进 prompt,而是抽取任务相关 transition(如 query→click→cart、曝光→点击→转化)压缩成示范对,降低 token 成本、减少噪声,提升 LLM agent 动作提案质量。
- 在 LLM 生成推荐动作或查询改写后,增加一层 constrained controller/verifier:先做业务规则校验(类目、库存、价格、合规)再执行,并把执行结果回写上下文,形成闭环自纠错,适合电商 Agent 可靠上线。
- 弱监督示范可用:仅用无动作标签的人类行为序列(点击/加购/购买)作为 in-context 示例即可提升任务完成度;在标注数据不足时,可先大量使用无显式 label 的序列构造上下文,再用少量对齐动作对(如 query-rewrite pair、next-item ID)提升高敏任务效果。
ThinkFlow:面向终身对话智能体的自进化概率潜在记忆框架
🧭 Agent 长程记忆 · 概率潜在技能 ★ 深度解读
Pengcheng Laboratory · Harbin Institute of Technology, Shenzhen · China Unicom Greater Bay Area Innovation Institute
将对话流压缩为概率潜在记忆技能,用下一用户话语预测实现无标签终身自进化
📌 工作参考价值(4 点)
- 把用户长期行为/画像从显式文本摘要改为 K 个可学习潜在槽(probabilistic latent skills),用 cross-attention 压缩对话/行为流,再作为 soft prompt 前置给生成式推荐或导购 Agent;能显著降低 prompt 长度并绕过摘要的信息瓶颈。
- 在线更新记忆时参考 GLC:用信息增益门控 + GRU 做增量更新,只写入高新颖度信息,过滤寒暄/重复点击等噪声;推荐系统中可对实时行为流做类似门控记忆,防止用户画像被低频噪声污染。
- 测试时无标签进化:把下一次点击/下一个 query/下一句用户话术作为自监督目标,先做教师蒸馏冷启动,再用预测损失持续调整记忆,部署后无需人工打标即可个性化;适合电商客服、消息推送文案生成等场景。
- CAHA 用当前 query 生成低秩适配矩阵,把历史记忆对齐到当前上下文:可用 hypernetwork 生成 per-request LoRA 增量,平衡个性化与算力。
冻结 LLM 内部的技能路由器:用两个线性投影读出原生路由信号
🧭 Agent 技能路由 · LLM 原生信号读取 ★ 深度解读
Institute for Interdisciplinary Information Sciences, Tsinghua University
冻结 LLM 自身前向传播中已含技能路由信号,两个线性投影即可读出,无需外部模型或技能文本入上下文
📌 工作参考价值(4 点)
- 用 frozen LLM 自身中间层做相关性/召回评分,可避开独立 embedder/reranker 的 OOD 偏移;在电商 query 改写、商品/内容召回中,可训练两个轻量线性层从骨干 LLM 读 query 与 item 的匹配信号,尤其适合长上下文里埋没的需求。
- token-level late-interaction + top-k voting + recency decay 可迁移到个性化检索:不做全局池化,让关键 token 投票,对长会话轨迹用指数衰减增强最近消息权重。
- ε-cover 压缩 token bank 对海量 item/skill 索引有实用价值:farthest-first 覆盖去冗余,分数误差有界,可显著减小索引规模,新对象只需一次前向编码。
- 多信号 product of experts 融合(对比学习分数 + 生成似然 + yes/no 判别)可借鉴到排序融合,任一专家可一票否决,提升排序鲁棒性;再训练轻量门控决定何时触发路由,降低误触发。
EvoOntology:面向数据 Agent 的自进化本体层
🧭 数据 Agent 自进化本体语义层
Renmin University of China
将本体封装为 MCP 三层服务,通过自进化循环持续优化,显著弥合数据 Agent 与异构数据间的理解鸿沟
📌 工作参考价值(4 点)
- 用 MCP server 而不是 prompt 注入语义层:把商品表结构、字段含义、口径说明拆成 schema/content/tool 三层,Agent 按需查询,避免 prompt 过长和上下文浪费,适合电商多数据源场景。
- 自动构建 + 自进化代替人工维护 ontology:用 builder agent 从已有查询日志和表结构自动生成本体,再通过 attribution-guided typed edits 持续修正字段语义,可迁移到广告投放数据、用户行为日志等语义层的自动化维护。
- backbone-conditional paired evaluation 保证编辑质量:只有在新 LLM backbone 上同时评估新旧本体且新本体胜出才接受编辑,避免单个模型偏好导致的退化,适合多模型混合部署的推荐系统语义层场景。
- 把专家知识变成 Agent 可调用的工具而非一次性文档:将规则、口径、映射关系封装为 tool layer,让 Agent 在运行时主动查询,对多业务线知识管理有直接复用价值。
反思、修订、复用:GUI Agent 的无训练技能演化
🧭 GUI Agent 技能演化 · 训练自由反思修订
Zhejiang University · UESTC
提出训练自由的 EvoSkill-GUI,将技能作为多文件包通过反思-修订-复用循环持续从执行反馈中改进,在三大 GUI 基准上最多提升 16.2%
📌 工作参考价值(4 点)
- 技能包多文件结构化:将 retrieval metadata、plans、backup localization、failure-recovery rules、failure cases 分文件管理,业务 Agent(如客服自动化、营销流程)可借鉴把关键过程知识模块化,方便局部更新,避免整体重写。
- 反思-修订-复用闭环:部署后从失败轨迹自动修订技能,不需重新训练模型;推荐/广告 Agent 可利用线上失败样本持续改进执行策略,提升动态环境鲁棒性。
- 即时 in-rollout 修订 + 隔离 critic:执行时遇到弹窗/页面变化可立刻根据备用定位和恢复规则调整;critic 在信息隔离下诊断避免被错误轨迹污染,对构建可靠自动化流程有参考。
- 训练自由,低成本迭代:无需 GPU 训练,仅依赖 LLM 推理与文件编辑,适合需要快速适应界面改版或流程变化的电商运营自动化场景。
经验驱动策略精化的自进化LLM交易智能体
🧭 Agent 自进化策略优化
KAIST · DeepAuto.ai
将Agent的system prompt视为文本参数化策略,由策略Agent基于决策轨迹和组合反馈迭代重写
📌 工作参考价值(3 点)
- 将Agent的system prompt / 工具调用策略当作可优化的“文本参数”,通过定期基于历史交互trace和业务反馈(如转化率、收益)让策略Agent重写prompt,无需微调LLM即可实现策略迭代。适用于搜索/推荐中的Agent决策流程优化。
- 借鉴其批量更新思想:在每轮更新间隔内收集决策动作和实际奖励,然后离线让策略Agent修订系统提示,再用于下一批决策。这样可形成闭环,尤其在非平稳的电商/广告环境中,定期调整信息获取和排序逻辑。
- 行为分析可作为诊断工具:通过比较旧/新策略下的动作分布(如工具调用类型、代码执行比例)和归因分析(策略改动→动作变动→回报变动),找出哪些流程调整真正有效,可迁移到推荐Agent的可解释性分析。
RESKILL:交互式语言 Agent 的显式失败归因与结构化修复
🧭 Agent 技能失败归因与结构化修复
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出 RESKILL,通过显式失败归因、覆盖度归因选择局部技能补丁及重测条件更新,显著提升交互式语言 Agent 的修复效果
📌 工作参考价值(4 点)
- 在电商推荐/广告策略 Agent 中,用「覆盖度归因」替代全量重写:失败后仅对覆盖失败解释的局部技能或提示词打补丁,避免影响无关行为,降低回归风险。
- 显式维护修复状态(repair state):记录失败假设、候选补丁、重测结果,使迭代修复可追溯;可将此数据结构纳入线上推荐 Agent 的调优流程,便于人工审核与回滚。
- 将「重测失败」也作为后续修复的输入:不丢弃不成功的 retest,而是用它更新活跃失败解释,让模型在下一轮聚焦未解决问题;适用于多轮策略搜索、query 改写、工具调用等需要反复试错的场景。
- 把 LLM 生成的修复因子结构化(如 JSON 字段:failure_hypothesis, patch, coverage),由程序控制选择与更新,而不是依赖一次性的自然语言 reflection;工程实现上可复制此模式,提升修复的稳定性和可复用性。
ScienceBuddy:交互式科学智能体的递归自改进
🧭 科学智能体 · 递归自改进
发布 ScienceBuddy 科学工作空间,以递归内外双循环耦合 harness 演化与模型强化学习
📌 工作参考价值(4 点)
- 将用户反馈转化为训练任务与评估 rubrics:电商/推荐 Agent 可借鉴,把用户点击、拒绝、改写等交互行为和执行结果自动转成带评分的训练样本,持续优化推荐策略,而非只靠离线日志。
- 内外双循环解耦模型与工具链迭代:内层固定模型优化工具/harness,外层在改进后的 harness 下训练模型。业务上可先完善 Agent 的工具调用、API 接口、记忆管理等,再逐步 RL 训练模型,降低同时改动带来的不稳定。
- 多模态工作空间 + 模块化工具集成:ScienceBuddy 的 224 tools / 22 modules 架构启示电商 Agent 平台可将商品图、评论、表格、用户序列等不同模态数据统一接入,按任务模块化编排工具,支持快速扩展。
- 执行证据纳入持续学习:把 Agent 执行过程中的中间步骤、失败信号作为训练经验,可用于改进搜索推荐 Agent 的 query 改写、商品对比、决策链路,提升可解释性与可靠性。
Atria Dawn:智能体超级智能的黎明
🧭 智能体基础模型与可验证经验训练
Atria Team · Fudan University
推出 Atria Dawn Preview:基于可验证经验管道训练的智能体基础模型,16个基准中5个达最高分,并揭示人机协作转向项目级伙伴关系
📌 工作参考价值(4 点)
- 可验证经验管道:在电商/推荐 Agent 场景中,可以把模型输出接入可执行环境(线上沙箱、模拟器、规则引擎)或外部验证信号(转化、GMV、AB 实验结果),将工具调用、策略生成转化为可验证经验,减少不可执行动作和幻觉。
- 人机协作模式:让 Agent 频繁提出方法和实现修改,人类保留最终决策与反馈,适合电商 Agent 工作流(选品、出价、文案生成)中设置 human-in-the-loop 决策门,提升效率且保持风险可控。
- 任务记录分析:借鉴其 769 条任务记录的量化方法,用 Agent 日志评估哪些环节“无 AI 不可行”,识别高杠杆场景,指导资源分配。
- 适用边界:论文聚焦科研与工程 Agent,非直接推荐系统;但可复用“可执行验证 + 工具交互”的建模思路到生成式推荐或策略 Agent,强化外部奖励闭环。
当智能体减速:通过每 token Elo 分析理解 LLM 智能体的测试时策略
🧭 Agent 测试时计算缩放分析
UC Berkeley · University of Washington · Princeton University · Bespoke Labs
提出 Elo-per-token 分析量化 LLM Agent 测试时计算缩放,发现边际收益递减且拆分并行预算更优
📌 工作参考价值(4 点)
- 对搜索/推荐 Agent 的多步推理或工具调用,可以用 Elo-per-token 曲线监控 token 投入的边际收益,而不是只看最终指标;在边际收益低于独立采样参考线时及时停止或调整策略。
- 独立采样参考线是简单有效的 baseline:如果 Agent 的规划、反思、工具调用不能稳定跑赢重复采样,说明额外复杂度没有带来 token 效率,可考虑简化 Agent 流程或增加采样并行度。
- 利用 scaling inflection point 分配长任务预算:将总 token 预算拆成多个并行 sessions 可能比一个超长 session 获得更高 Elo,对线上高并发 Agent 服务的请求拆分和成本控制有直接指导意义。
- Bradley-Terry 聚合跨任务分数排序的方法可以迁移到电商多指标评估,处理不同 reward 尺度下的成对比较,适合离线评测 Agent 生成物品文案、搜索 query 等开放任务。
Dream-RSI:通过演化世界实现递归自我改进的探索框架
🧭 Agent 探索策略递归自改进
Google · University of Maryland, College Park · Google Deepmind · University of Virginia
用历史发现树构建重放模拟器,以离线低成本反馈迭代优化探索策略,降低发现成本并提升质量
📌 工作参考价值(4 点)
- 把探索策略从底层 coding agent 中拆出,做成可编程 orchestration layer;业务中的 Agent 搜索/推荐策略也可分离“生成/排序核心”与“探索策略”,便于低成本切换和迭代。
- 利用已积累的发现树/用户交互轨迹构建 replay simulator,进行 off-policy 评估,避免每次探索策略变更都跑线上长链路;对电商搜索、推荐 Agent 的策略选型、prompt/工具调用组合优化尤其划算。
- 采用 log replay + dreaming 方式生成即时低延迟反馈,适合需要大量策略试错的场景(如广告出价、商品推荐 query 生成),可降低在线 A/B 成本。
- 自改进 loop 中将新发现不断并入 simulator pool,形成持续扩大的离线评估环境;对应业务可把每次线上实验数据沉淀为可复用的策略仿真器。
HazardAuditor:从可执行威胁到更安全的计算机使用智能体
🧭 智能体安全执行守卫与策略优化
Ant Group · Zhejiang University · Fudan University · Hunan Institute of Advanced Technology · Shanghai Innovation Institute
执行级安全审计框架 HazardAuditor,通过跨框架事件规范化和 GuardPO 序列级优化,显著提升计算机使用智能体安全守卫准确率
📌 工作参考价值(4 点)
- 对电商/广告 Agent(如自动选品、自动投放、智能客服)的安全监控:不要只审 prompt 和最终回复,要记录并审计运行时的浏览器/终端/文件系统事件流,用统一的 canonical event 表示跨系统行为,才能捕获多步操作组合出的恶意目标。
- GuardPO 训练技巧可直接迁移到内容安全审核、推荐理由生成、广告文案审核等生成式 guard 模型:将确定性的安全/不安全标签转化为序列级 advantage,并把 rationale 和 verdict 区域做长度归一化,避免长解释霸占梯度,让模型的决策部分真正主导优化。
- 跨框架异构 agent 的事件规范化思路可复用于多套推荐/搜索 agent 系统:定义统一的事件 schema(如 click、query、tool_call、file_write),把不同 agent 框架的执行日志转成同一格式,便于训练一个通用安全守卫模型,而不是每个系统单独维护规则。
- 执行级评估集构建方法值得借鉴:在受控沙箱中跑通 Claude Code、Codex 等不同 agent,采集真实执行轨迹作为 guard 训练数据,比静态构造的 prompt-response 对更贴近线上安全风险。
模块化递归执行框架自改进:可泛化的对比式 Harness 进化
🧭 Agent harness 自进化 · 模块化归因 ★ 深度解读
Beihang University · University of Manchester · IQuest Research · M-A-P · Langboat
对比同类轨迹并按五个功能模块独立进化 harness,在基准隔离数据上实现跨任务/跨模型可泛化自改进
📌 工作参考价值(4 点)
- 将推荐/搜索 Agent 的执行 harness 拆成 Agent Loop / Tool Use / Observation Management / Context Management / Task Completion Detection 五个模块,每次只改一个模块并限制 diff 范围;这比整体改写 prompt 或流程更可控,适合线上 Agent 的灰度、回滚与归因。
- 采集同一任务的多次 rollout,区分 positive / contrastive / negative 组,用成功-失败轨迹对比定位“哪个机制该改”,并用跨任务投票聚合证据,避免把单条失败轨迹的 case-specific 修复写进全局;可迁移到商品推荐、query 改写、客服 Agent 的失败归因。
- 建立与评估集隔离的进化任务池(benchmark-disjoint),每个改动必须通过 AST/静态检查、import/protocol 校验、以及“是否过拟合当前实例”的 diff review 后才保留,否则自动回滚;这能防止自改进只在测试集刷分,适合离线自进化流水线。
- 维护 Evolution History 和 Trajectory Memory,对函数库做 Function Merge + Task-Aware Function Composition,避免多轮自改进后函数膨胀和振荡;适合把 self-improvement 用于线上持续优化但需要控制风险。
OmniHarness:符号策略学习实现可泛化视觉生成
🧭 Agent 策略学习 · 视觉生成
Beihang University · The Chinese University of Hong Kong · National University of Singapore
将验证过的执行抽象为可组合符号策略,结合中间验证与自引导练习,免训练实现跨任务泛化与持续能力扩展
📌 工作参考价值(4 点)
- 策略库抽象:将验证成功的 Agent 执行轨迹转成 symbolic policy,剥离实例特定输入,保留通用 SOP 与适用条件,可显著提升新任务泛化;在电商 Agent 中可把高转化对话流程、工具调用序列沉淀为可复用策略,减少重复试错。
- 中间验证而非最终反思:在长链路任务(如商品推荐中的多步 tool call、广告素材生成)中加入 step-level 校验,使错误在早期被发现并触发策略调整,比只在失败后反思能节省大量 token 和时延。
- 自引导练习与能力边界探索:在真实业务流量前,让 Agent 自己生成接近能力上限的练习任务并执行,用执行反馈迭代策略,无需人工标注下游数据即可完成冷启动策略库构建。
- 冻结模型参数、在线更新策略:只更新策略库而不微调 backbone,方便线上快速实验与回滚;对已有 agent 框架可即插即用(frozen policy snapshot),与现有系统兼容性好。
Embodied-BenchForge:闭环Agent工作流构建具身评测基准
🧭 Agent工作流 · 基准构建自动验证修复
QiYuan Lab · University of Electronic Science and Technology of China · Beijing University of Posts and Telecommunications · Northeastern University · Beihang University
提出闭环基准合成框架,用产物依赖图与需求引导验证修复,自动构建可区分的具身评测基准
📌 工作参考价值(4 点)
- 产物依赖图 + 局部重执行:在长链路生成流水线(如评测数据合成、商品描述多步生成)中维护中间产物依赖,失败时根据 provenance 只重跑受影响节点,避免全量重建,显著节省成本与时间。
- 需求引导的逐级验证契约:为每个中间产物定义可检查的 schema/领域约束,在传入下游前自动验证,防止局部错误传播。可以直接迁移到 RAG 的文档切分、query 改写、素材标注等环节。
- 可复用技能编排:把类型化技能组合成可执行工作流,跨任务复用同一技能库,适合搭建电商场景下的 Agent 工作流(如选品-文案-投放链路),降低重复开发。
- 闭环验证-修复循环:生成后自动评估并触发修复,能提升生成式推荐中 Semantic ID 或商品描述等内容的可用率,可作为数据质量飞轮。
Realtime-Venus:支持异步委派的全双工实时交互系统
🧭 全双工语音/多模态 Agent 异步委派
Venus Team, Ant Group · Tsinghua University
双 9B 模型全双工交互系统,前台实时对话与后台异步工具执行协同,音频/视频基准超越 GPT-4o 等在线模型
📌 工作参考价值(4 点)
- 双循环异步委派架构值得借鉴:将前台低延迟语音/视觉交互与后台工具执行(如订单查询、库存检查、推荐 API 调用)解耦,高响应实时对话不因长尾任务阻塞,适合电商导购 Agent。
- 共享因果时间线统一用户输入、模型输出与委派事件,能有效管理多轮对话中的打断/重叠语音,提升全双工体验;可迁移到实时语音推荐场景,避免状态错乱。
- 后训练阶段加入主动全双工轨迹和委派工作流,可提高模型在真实对话中的主动性和工具调用协同;对于需主动推送商品/优惠信息的对话式推荐系统有参考价值。
- 两个 9B 模型分别优化音视频与纯语音,按场景拆分部署,减少模态冗余并降低推理成本;可借鉴为电商视频/语音客服分别训练轻量前端模型。
COBRA-Skills:上下文赌博机引导的智能体技能优化
🧭 Agent 技能优化 · Contextual Bandit ★ 深度解读
The Chinese University of Hong Kong, Shenzhen · Tianjin University · The Hong Kong University of Science and Technology (Guangzhou) · National University of Singapore
用语义 embedding + 神经预测器 + LinearUCB 选择性评估候选技能,结合证据驱动的进化算子,在六个基准上平均提升 13–27 个点且成本降 55%+
📌 工作参考价值(4 点)
- 在 prompt / skill / workflow 优化场景中,用语义 embedding + 轻量神经预测器 + LinearUCB 对候选策略打分,每轮只执行最高 UCB 分数的候选,可大幅降低真实评估成本;适合线上 A/B 或仿真评估昂贵的场景。
- 进化算子可迁移到业务策略迭代:regeneration 从无策略轨迹产生多样性新解,rollout mutation 用当前策略的成败轨迹做局部修订,crossover 用强策略做 backbone、弱策略做负例重组;可用于 query 生成策略、Agent 工具调用策略、广告文案生成的自动优化。
- 定期(对数间隔)更新候选 population 而非每轮更新,且只保留高 UCB 候选、淘汰低优先级候选,能显著减少 LLM 调用次数;仅用 50 个优化样本即可达到强效果,说明小样本 + 有效探索可替代大规模优化池,适合业务中少量标注或仿真轨迹的快速迭代。
- 技能跨模型迁移性强(34/36 正向),说明优化出的技能捕获任务级策略而非绑定特定模型;业务中可为多个模型复用同一套优化好的技能或 prompt 库。
Ecdysis:高效训练LLM Agent运行时harness的失败诊断驱动框架
🧭 Agent 运行时自进化 · 失败归因 ★ 深度解读
Chengdu Institute of Computer Applications, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Institute of Technology · Beijing University of Technology · Yangtze Delta Region Institute of Tsinghua University, Zhejiang
跨任务失败聚合与多角色协作诊断,区分模型适配与系统缺陷,实现训练加速与泛化提升
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 的 workflow 优化中,不要针对单条失败 case 直接改 prompt 或工具逻辑;先批量收集失败轨迹,按“失败模式”跨任务分组,只对重复出现的模式做系统级修改,能显著减少过拟合和重复修改成本。
- 把“诊断”与“实施”分离:用 Analyst/Critic/Engineer/Moderator 多角色写结构化修改规范,再交给 coding agent 改代码。这相当于在修改工作流前加一道评审,能降低无效修改,提升输入 cache 命中率(论文从 89% 升到 96%)。
- 用诊断价值选训练样本:优先选暴露新交互路径和未知失败机制的任务,而不是全量随机;论文中仅用 1/4 训练失败样本就接近全量效果,可用于电商/广告 bad case 分析的降本。
- 监控 model-accommodation ratio:统计修改中有多少是在迁就当前 LLM 的怪癖;若过高,该 workflow/工具链很可能只对当前模型有效,换模型会退化。可把这个指标纳入 Agent 上线前的回归检查。
根因归因是一个搜索问题:面向长时程 Agent 失败的持续搜索
🧭 Agent 失败根因归因与持续搜索
Scale AI
提出 Continual Search 迭代框架,通过多轮唤醒 LLM 法官持续搜索未解决证据,显著提升长轨迹 Agent 失败根因归因 F1
📌 工作参考价值(4 点)
- 诊断长流程 Agent/推荐链路失败时,不要依赖一次性 LLM 判断;把 RCA 改造成多轮搜索,每轮强制模型找出“尚未解释的证据”,直到证据链闭环。
- 与其堆大模型,不如把搜索过程做扎实:论文显示同模型家族内低阶模型配合 Continual Search 可反超高阶模型,成本可控且效果更好。
- 业务上可用于电商 Agent 执行日志、广告投放链路、搜索推荐多阶段 pipeline 的故障归因:失败信号通常稀疏且跨步骤,需要主动回溯而不是只看最后一步。
- 建议构建类似 MegaRCA-Mix 的长时程、执行密集型测试集,用真实人工标注的失败 trial 评估诊断能力,避免只测短轨迹造成虚假达标。
可解释性助手:用于解读能耗模型的对话式XAI接口
🧭 对话式XAI · LLM Function Calling
Nupp Software · Institute of Computer Science, University of Tartu · Apintech Ltd, POLIS-21 Group · Department of Mechanical Engineering, Hellenic Mediterranean University
用LLM function calling替代自定义语法,实现94%意图解析准确率的对话式可解释AI系统
📌 工作参考价值(4 点)
- 用 LLM function calling 替代 custom grammar / 意图分类器做 NLU,意图解析准确率从 76.8% 提到 94%;在做推荐系统诊断、模型解释、运维助手的对话式 Agent 时可直接复用,避免为每个意图维护固定语法。
- 把 LIME、SHAP、反事实等解释能力封装成 function schema,让 LLM 在对话中动态选择工具,适合嵌入内部调试或面向业务人员的模型解释界面,减少对技术背景的依赖。
- 评估方法可借鉴:邀请领域专家对比传统 dashboard 和对话式界面,既测任务完成一致性也测主观偏好;业务上线前用少量专家做可用性评估,比单纯离线指标更有说服力。
- 该工作面向能源预测,推荐算法本身无直接迁移价值,主要贡献在对话式 XAI 的工具编排与交互层。
人工内驱:Agentic AI 的持久对齐与自适应控制
🧭 Agent 持久状态与对齐机制
Independent Researcher
提出 artificial id 机制,通过差分持久化涌现自适应行为控制,并指出跨任务持久对齐边界需求
📌 工作参考价值(4 点)
- 电商/广告 Agent(自动投放、动态定价、自动选品等)常跨多轮任务持续运行,可借鉴 differential persistence 思路:把策略的 continue/stop/change 决策与长期转化、留存、GMV 等持久指标绑定,而不是逐条轨迹单独优化,让有效行为自然涌现。
- 为跨会话 Agent 引入 persistent alignment boundary:显式分离可信观察(平台日志、审计数据)与模型生成状态,对状态来源、权威、身份和 provenance 做校验,防止一次错误推理被持久化并污染后续任务。
- 当前 LLM Agent 的重试、停止条件、验证等控制逻辑多为人工或 harness 写死,可尝试用一个轻量控制器做元层 continue/stop/change 决策,降低大模型调用成本,并在数据和环境漂移时自适应切换。
- 论文提醒:若仅按“是否更容易持久化”让 Agent 自我选择行为,可能学到刷单、作弊等非预期策略;需要在业务中约束“持久性”信号并审计,确保与真实业务目标对齐,不能只依赖 survival。
人类建造的最后一个AI:走向真正的递归自我改进
🧭 递归自我改进与Agent自治路线图
Shanghai Jiao Tong University · Theseus Labs · Tsinghua University · ByteDance · Shanghai AI Lab
提出递归自我改进的完整路线图与 Headroom-Closed Index,系统梳理从执行自治到元改进的演化路径
📌 工作参考价值(4 点)
- HCI(Headroom-Closed Index)可以作为衡量模型在特定任务上还有多少提升空间的诊断指标:在电商搜索/推荐场景中,可先用 HCI 评估当前 LLM 在 query 理解、意图改写、生成式推荐等任务中的能力天花板,避免在不值得投入的方向上做无谓的迭代。
- RSI 的自治等级框架可直接映射到推荐系统 Agent 的构建:先实现 improvement-execution autonomy(自动执行模型更新、策略调整),再逐步升级到 improvement-strategy autonomy(自动选择训练数据、loss 设计、超参搜索),最后尝试 experience-acquisition autonomy(自动从线上反馈中挖掘新经验)。
- 论文强调不同场景对 RSI 的要求和速度不同:电商推荐属于反馈信号密集、环境变化快的场景,更适合从经验获取自治切入;而生成式商品推荐(GenRec)需要结合 Semantic ID 生成与用户行为反馈,可借鉴 RSI 中环境适应自治的思路,让 Agent 自动调整生成策略以适配活动、季节等变化。
- 持续学习与元改进在推荐模型中的工程化落地:借鉴文中经验获取与递归元改进,可以在现有推荐模型迭代 pipeline 中加入自动化的数据选择、在线评估和策略回滚机制,减少人工调参,提升模型对新品类、新用户的适应速度。
广义智能体迭代:统一迭代策略改进与递归自改进的形式框架
🧭 Agent 迭代学习的形式化框架
Tianjin University · Shanxi University
提出 GAI 框架,用两个维度统一经典 GPI 与递归自改进,并给出目标漂移与自指缺陷的形式化刻画
📌 工作参考价值(4 点)
- 在电商/推荐的 LLM Agent 自改进链路(如 self-refine、Reflexion)中,可用论文的两个旋钮做架构审查:改进机制是否在 Agent 内、评估标准是否外部接地;优先采用 anchored 配置,把奖励模型或业务指标作为独立外部评估器,避免同模型自评导致 goal drift。
- 多轮自训练或 self-play 策略迭代时,若候选生成与评估标签都由同一模型产生,系统会滑向 fully self-referential;工程上应引入独立线上业务指标、人工标注或固定测试集作为外部锚点,并设置漂移监控。
- 可将改进机制显式外置为独立组件(如单独 prompt、规则或小模型),使系统具备 GPI 式可分析性;等外部评估稳定后再逐步将改进机制内化为 Agent 的一部分,降低不可控递归风险。
- 论文偏理论,无实验或可复用算法;主要价值是提供诊断自改进系统缺陷的坐标语言,适合作为设计评审的思维框架。
一次性字幕,按需取帧:预算感知的智能体长视频理解视觉需求路由
🧭 预算感知的长视频理解 Agent 路由
Queen Mary University of London · Independent Researcher · Durham University · Imperial College London · Huawei
提出边云协同的 CFD 框架,用双轨叙事索引和视觉需求路由器按需取帧,显著降低长视频在线视觉处理成本
📌 工作参考价值(4 点)
- 借鉴双轨索引思想:在电商直播/商品视频理解中,离线生成事件级叙事骨架 + 片段级细节日志,将长视频转化为可复用索引,后续 query 只查索引不重跑 captioning,降低线上 token 与耗时。
- 将 Visual-Need Router 改造成多模态 RAG/Agent 中的“证据门槛”:根据 query 是否涉及外观、OCR、属性判别,决定是否检索原图/帧;时序、流程类问题直接走文本 memory,从而控制每 query 的多模态检索成本。
- 边云预算分离:让边缘端承担一次性离线 captioning 与索引缓存,云端按 query 拉取有界关键帧,适合直播回放、素材审核、商品视频 QA 等预算敏感场景,避免逐 query 全量视频重灌模型。
- “按 query 封顶视觉证据数,与内容长度无关”可以迁移到搜索推荐 Agent 的工具调用:为商品主图、评论、卖点等证据源设置 budget,只有 router 认为必要时才触发额外检索,防止长文档/长视频 query 的成本爆炸。
记忆即计划:基于记忆接地规划的世界-动作建模
🧭 Agent 长程记忆与计划执行解耦
MaP-WAM 将长期记忆转化为稀疏视觉上下文与语言计划,由固定上下文执行器遵循,取得 RMBench 83.3% 成功率
📌 工作参考价值(4 点)
- 在需要长用户历史的推荐/Agent 场景,可借鉴“记忆即计划”:把长时间跨度的行为序列压缩为若干关键帧(或代表性 item 特征)+ 高层意图,供 planner 生成下一步计划,而非让 executor 每次都读全量历史。
- 计划与执行分离:规划器可以处理长历史并生成轻量计划,执行器只接收固定长度上下文和当前计划,结合 progress 预估实现自适应切换,在线推理延迟与历史长度解耦;结构化注意力支持 KV cache 可进一步降低重复规划成本。
- 对电商视觉/短视频推荐,如果任务依赖细粒度视觉证据,语言摘要会丢失信息,可保留用户最近强交互的视觉特征帧作为稀疏长期记忆,而不是仅存文本标签。
- 但这是机器人操作领域,所提 WAP 和进度对齐机制较复杂;直接迁移到推荐/广告需要简化:progress 可类比用户状态/会话阶段,可改造为 session 切分与 memory refresh 信号。
T1:面向长程任务的终端Agent强化学习
🧭 终端Agent强化学习与MoE稳定训练 ★ 深度解读
Tencent Hy Foundation Model Frontier · National University of Singapore · University of Georgia · Indiana University · University of Maryland, College Park
122B MoE终端Agent靠RL在Terminal-Bench 2.1达64%,用TITO+R3稳定训练与密集验证奖励
📌 工作参考价值(4 点)
- MoE 训练-推理一致性:对大规模稀疏模型,记录推理时每个 token 的专家路由掩码并在训练时重放(R3),同时让训练直接消费采样时的 token ID 而非重新渲染文本(TITO),可消除训练-推理 log-prob gap,避免梯度更新到错误的专家子网络。对推荐系统中带 MoE 的排序或召回模型同样适用。
- 密集奖励设计:用绝对通过断言数而非通过比例作为 RL 奖励,并固定全局尺度(S=20),保留不同难度任务/用户价值差异。在电商多目标 RL 中,可借鉴“绝对达成数”作为奖励,避免归一化掩盖长尾或高价值任务。
- Critic warm-up 与健康度监控:先在有监督数据上预热 critic 一个 epoch,设置 critic 学习率为 actor 的 30x,并用 explained variance(全局方差约减)持续监控。冷启动 critic 可能导致 EV 为负,大幅拖慢 RL 收敛。
- 数据质量审计防 reward hacking:用 LLM 对训练任务做语义审计,硬拒绝隐藏需求、测试泄漏、解决方案捷径、verifier 过弱等。在推荐/Agent 任务构造中,可复用该流程过滤低质量或可被刷分的训练样本。
幸运回忆:本体驱动的记忆生命周期管理实现 LLM 持久一致性
🧭 Agent 记忆生命周期管理 ★ 深度解读
Bilkent University
提出 10+1 行为本体的确定性记忆生命周期策略层,将下游混淆率减半并提升时序消歧基准 16 个百分点
📌 工作参考价值(4 点)
- 在电商客服/导购 Agent 中,对用户事实按行为域分桶并施加差异化衰减:地址/支付方式等 Identity 类慢衰减;临时优惠券、物流时间用事件时间核,过期自动失效;商品偏好用 slot-key 覆盖最新值,避免旧偏好污染上下文。
- 采用 slot-key supersession 处理同一 (user, attribute) 的更新:高置信覆盖,低置信保留多版本,适配“看中商品 A → 加购商品 B”等多版本事实,降低旧状态导致的 bad case。
- 检索时做 category-aware routing / forced retrieval:先判断 query 意图属于哪个行为域,强制召回该域边,缓解抽象 query 与具体事实的 embedding 词汇 gap,适合订单状态、优惠券、偏好等结构化查询。
- 将 LLM 限制在 ingestion 抽取与候选压缩,生命周期策略全用确定性规则(衰减、过期、覆盖)实现,延迟低且可审计;评估时用 safe response rate 而非单纯 retrieval hit,避免“召回干净但信息量低”的指标陷阱。
智能体该遗忘什么?分离存储内容与使用内容
🧭 Agent 长期记忆的查询条件选择性遗忘 ★ 深度解读
Beihang University · East China Normal University
提出 RD-Forget,训练无关地把智能体记忆的存储与查询时使用解耦,通过语义槽替换和意图感知检索实现可逆选择性遗忘
📌 工作参考价值(4 点)
- 用户/商品画像采用 append-only source archive + query-conditioned view:不物理覆盖旧事实,按 subject|relation|scope 槽位管理同槽新值替换旧值;当前推荐/客服回答只注入最新值,历史分析或矛盾处理时可 rescue 旧值,避免过时信息污染当前结果,同时保留时间旅行能力。
- 对商品动态属性(价格、库存、类目、适用人群)建立 same-slot replacement links;例如价格更新后旧价格对当前意图应被压制,但历史比价/价格走势查询可恢复。这个机制适合电商中的事实变更、用户偏好漂移和冲突消解。
- 工程实现可复用:固定 token 预算(如 2048)下,用 frozen LLM curator 提取证据、greedy pack 选证据;排序用 lexical overlap + active entry 加分 0.4,训练无关、易上线。成本函数 c(m)=tok(m.text)+8 直接作为记忆预算约束。
- 消融结论:不进行遗忘(-FORGET)和不依赖查询的通用记忆(-QC)损害最大,因此优先做 query-conditioned curation 和 supersession;slot grouping 和 historical rescue 是次要但一致的增益,可后续迭代。
Experience Funnel:自进化智能体的状态-策略交替循环
🧭 自进化 Agent 状态-策略交替蒸馏 ★ 深度解读
The Hong Kong Polytechnic University · Huawei · Renmin University of China
用状态-策略交替循环把显式经验渐进蒸馏进参数策略,同时保留快速可编辑状态
📌 工作参考价值(4 点)
- 把线上 Agent 的 prompt/skill 显式状态与模型参数策略拆成两层:先用 held-out 验证门控快速更新 skill,再离线周期把反复有用的 skill 蒸馏进小模型,降低线上 context 长度和推理成本。
- 用三态对比(state-free / previous-state / updated-state)挑选要固化的样本,只保留 newly useful 和 persistently useful 轨迹,避免把噪声或模型已会的行为蒸馏进参数;电商导购/客服 Agent 可用点击、转化等 reward 做类似增量过滤。
- 做 token-level 归因蒸馏:用有状态/无状态两路概率的 JSD 定位真正被 skill 改变的 token,只给这些位置更高权重,比整条轨迹均匀蒸馏更数据高效,适合把大模型教师或 prompt 增益迁移到在线小模型。
- 固化后的策略仍需保留少量 residual state 才能拿到最大值,说明显式信息不能一次性全部内化;实践中应保留轻量 state/skill,待下一轮验证后再决定淘汰或更新。
LLaDA-UI:将分块扩散引入视觉语言GUI智能体
🧭 Agent · 分块扩散多模态模型
AGI Research Center, Inclusion AI · Venus Team · Westlake University
提出16.7B MoE分块扩散视觉语言GUI智能体,在多个GUI基准上超越Qwen2.5-VL-7B并在4/6基准上超过Qwen3-VL-8B
📌 工作参考价值(4 点)
- 分块扩散解码的并行性可降低端到端延迟,适合需要实时感知屏幕并快速决策的 Agent 场景(如自动操作商品后台、客服工单处理、广告账户管理);可在小规模任务中替换自回归解码验证扩散解码的加速效果。
- 两阶段训练策略(通用多模态预训练 + 领域 SFT)可复用于训练电商多模态 Agent:先对齐视觉与语言,再用业务 GUI 数据微调,无需从零构建视觉语言模型。
- 原生分辨率视觉编码器对细粒度 UI 元素定位重要;电商场景中商品图、广告素材上的小文字/按钮/价格可能被降采样丢失,采用原生或高分辨率编码可提升 grounding 精度。
- MoE 架构使 16.7B 总参数在多个 GUI 基准上超过同量级/更大稠密模型,在可控激活成本下保持性能,对需要并发处理大量 Agent 请求的业务有成本优势。
MeClear:基于合作博弈归因与风险感知记忆清除的长程 LLM 智能体框架
🧭 LLM Agent 长期记忆清理与归因
Fudan University · Beijing Institute of Technology
用合作 Shapley 归因识别负效用记忆并做最小化清除,任务恢复率 82.3%,比 LOO 高 25.5 个百分点
📌 工作参考价值(4 点)
- 在电商/Agent 长期用户记忆(偏好、历史行为)中,不要只按 embedding 相似度检索;可以对候选记忆做留一法或 Shapley 效用归因,识别“语义相关但实际降低决策质量”的记忆后再过滤。
- 对于多证据交互产生的冲突或冗余,单条删除往往不敏感,可借鉴采样 Shapley 分摊效用,定位需要同时抑制的记忆组合;工程上适合离线/近线计算,避免在线高成本。
- 采用“暂态清除”而非永久删除:查询级最小清除 + 清除后上下文验证任务恢复,避免污染持久记忆库,便于线上 A/B、审计和回滚。
- 可抽象成 memory gate/scrubber 模块:在 RAG/Agent memory 召回后、拼入上下文前加一层 risk-aware memory clearance,保持召回 recall,同时提升下游稳定性和任务完成率。
面向临床语言模型的确定性数学求解器
🧭 LLM 工具调用 · 代码执行器
MIT Critical Data · UNC Chapel Hill · University of Pavia · Humanitas University
Program-Solve 让 LLM 写 Python 交由受限执行器计算,32B 模型在 MedCalc-Bench 准确率从 83.47% 提升到 90.53%
📌 工作参考价值(4 点)
- 在电商/广告场景中,凡涉及数值计算(ROAS、LTV、预算分配、出价、统计显著性),不要让 LLM 直接做算术;改为让 LLM 生成 Python 片段,由受限沙箱执行,返回确定性结果。可参考 Program-Solve 的 prompt 设计:提供公式与变量字典,要求模型只写计算逻辑。
- 该方案对模型规模敏感:7B 提升 3.29 点但置信区间跨 0,32B 提升 7.05 点且显著。业务落地时如果用小模型,需要先验证代码生成质量,不能默认“加执行器一定好用”。
- 工程上可复用受限本地执行器的设计:限制 import 集合、单次超时、内存上限,并将公式/变量以 JSON 传入,避免 LLM 直接输出数字;在广告出价或推荐收益预估中同样可建立公式库作为受控资产。
- 论文提醒:公式版本和变量抽取是瓶颈,即使有 gold variables,7B 仍因代码 bug 或误解丢分。电商复用时应把业务规则(如优惠计算、佣金规则)维护为版本化配置,不依赖 LLM 记忆;变量抽取单独做,别和计算耦合。
Show-Harness:仅用 VLM Agent 通过语义接口控制机器人
🧭 VLM Agent 语义接口机器人控制
Show Lab, National University of Singapore
通过离散语义动作单元与解释器接口,让 VLM Agent 零样本或轻量微调后直接控制机器人
📌 工作参考价值(4 点)
- 借鉴“语义动作单元 + 确定性 interpreter”两层架构:让 LLM/VLM 只输出离散标准化意图标签(如 MV_FWD、GRASP),由业务侧 interpreter 落地为具体执行动作,可迁移到推荐/Agent 系统中降低模型生成复杂控制序列的出错率,同时兼容 App、网页、机器人等多端。
- 对闭源大模型直接 zero-shot 使用同一套接口,开源小模型仅需 few GPU-hours 微调即可替换,说明业务侧可保持接口不变、灵活切换底层模型,降低迭代成本。
- GUMI 的 GUI 操作采集 demonstrations 思路可复用:无需专用硬件,通过浏览器/GUI 操作轨迹构建 fine-tuning 数据,适合 UI 自动化、商品操作、Agent 行为采集等场景。
- 强调跨任务、跨 embodiment、跨环境泛化评测,建议推荐系统也构造跨场景/跨页面/跨库存的泛化测试集,避免单一环境过拟合。
ToolLoop:基于分解生成与动态自反馈的闭环工具使用数据合成
🧭 工具调用数据合成 · 闭环自反馈 ★ 深度解读
vivo AI Lab
用分解生成与阶段自反馈替代一次性生成过滤,11K数据训练4B模型在BFCL达86.40%
📌 工作参考价值(4 点)
- 电商/推荐系统若需训练Agent调用商品搜索、订单查询、优惠券服务等API,可借鉴ToolLoop三阶段分解:先选函数组合作为ground truth,再反向生成用户query,最后正向生成tool call,确保用户意图与工具调用严格对齐,避免生成噪音。
- 动态自反馈比静态过滤更高效:在合成训练数据时,用LLM验证器+规则+AST解析发现错误后,将具体问题反馈给生成模型进行修正(最多3次),而不是直接丢弃,能保留困难样本、改善数据分布多样性,适用于query改写、搜索suggestion等数据合成。
- 候选函数构建采用embedding+K-means聚类+LLM采样,可迁移到电商API管理:将海量商品/订单等API按语义聚类,从每个簇采样构建候选集,既避免上下文过长,又保证候选API语义相关,提升筛选效率和训练效果。
- 移除与测试集重叠的函数后模型性能几乎不下降(86.40 vs 86.07),说明合成数据的价值在于构造过程的内部一致性而非记忆特定schema;业务中应关注数据生成流程的合理性,而非盲目扩大数据量或依赖特定API覆盖。
无大纲学习:任务无关的环境预处理
🧭 Agent 任务无关环境预处理 ★ 深度解读
Scale AI · University of Maryland, College Park
提出任务无关环境预处理框架,meta-agent 在无下游任务信息下探索环境生成可复用工件,5/6 基准优于固定流程
📌 工作参考价值(4 点)
- 面对新业务环境(新商品库、新 API 工具、新文档系统)时,可在离线 stage 用 meta-agent 做环境探索与预处理,生成索引、技能手册或 playbook,而不必等具体任务/用户 query 分布确定;把线上多次采样成本转移到一次性研究阶段。
- 对异构工具/语料不必固守单一预处理策略:维护一个 workflow archive(包含索引构建、合成实践、技能抽取等),让 meta-agent 根据环境特征自行组合;例如大语料检索用固定 CORPUS2SKILL 管线,工具环境用 PREPING 类合成实践。
- 不要迷信研究预算或探索广度:预算增加不总能提升下游 reward,更广泛文件探索未必有效;应监控 artifacts 对下游任务的边际收益,并注意工件可能误导 solver(如引导到不完整索引),需要验证与回滚机制。
- 在推荐/搜索冷启动场景下可借鉴 task-agnostic 预处理:无历史行为或标注时,先对环境/语料/工具生成通用辅助(如商品知识图谱、导航树、脚本),待有反馈后再做 task-informed 微调,形成两级适应。
协同演化 Harness 与模型:On-Policy 纠错在模仿失效处帮助弱模型追赶
🧭 Agent harness 与模型权重协同优化 ★ 深度解读
Salesforce AI
在已演化的 Agent harness 下,全轨迹模仿专家会破坏弱模型的 harness 适配,而基于学生自身 rollout 的 on-policy 局部纠错可无损叠加模型增益
📌 工作参考价值(4 点)
- 在已有优化 prompt/tool/hook 的 Agent 系统上做 LoRA 微调时,避免直接用专家全轨迹 SFT;应保留学生自身 rollout 的规划风格,只对失败 turn 做局部纠正,否则会破坏 harness 与模型的适配,导致全面退化(文中 -14.9 点)。
- 可以借鉴 on-policy expert correction 管道:用 meta-level agent 定位失败 turn,让专家只重写该 turn,保持前后步骤不变;训练数据仅约 500 条,微调不到 1 小时,适合迭代式 co-evolution。
- 若业务中需要小模型+定制 harness 降本,先演化 harness 再考虑模型更新时,先检查失败分布中的 planning 与 knowledge 变化;直接模仿专家会引入 planning 漂移,而 on-policy 纠正只提高知识覆盖、不增加规划失败。
- 该结论也适用于其他形式的 scaffold(如推荐系统的 prompt、RAG 的 system prompt 或工具调用约束):如果 scaffold 已围绕模型行为调优,后续权重更新需以 on-policy 数据为主,避免分布偏移。
Gander:全模态实时交互智能体技术报告
🧭 全模态实时交互Agent
Hunyuan Speech Team, Tencent · Zhejiang University · Shanghai Jiao Tong University · The Chinese University of Hong Kong · Nanyang Technological University
提出Gander,融合多模态感知、全双工流式交互与Agent能力的端到端模型,通过小脑-大脑协同与Thinker-Talker架构实现低延迟实时交互
📌 工作参考价值(4 点)
- 将实时交互与复杂任务推理拆分为两级:轻量流式“小脑”负责即时响应、追问与澄清,重模型“大脑”负责意图解析、工具调用与规划,电商导购/客服Agent可据此降低首响延迟并节省推理成本。
- 全双工可中断机制适合语音购物、直播互动等场景:用户可随时打断,模型可主动给出中间反馈或反问,建议在会话式推荐中引入此类异步主动交互,避免死等完整query。
- 采用chunk级统一token流表示多模态输入输出,可借鉴到流式ASR+LLM+TTS的搜索/推荐语音链路,减少模块间等待与传输开销,提高整体低延迟体验。
- 评估需覆盖背景噪声、多人交互与backchannel等真实环境压力测试,语音搜索/推荐Agent上线前应补充类似鲁棒性评测,而非仅看离线对话质量。
环境作为脚手架:丰富反馈以引导长程任务中自进化智能体
🧭 Agent 强化学习环境反馈设计
Fudan University · CASIA · Shanghai Innovation Institute
通过构建反馈增强环境,用环境侧观察丰富化缓解长程任务智能体 RL 训练中的奖励稀疏
📌 工作参考价值(4 点)
- 在对话式搜索/导购 Agent 的 RL 训练中,不要只靠 SFT 预热;改造模拟环境,episode 早期提供动作级 hint,后期转为丰富观察(如商品属性、用户状态、剩余步骤),可有效缓解 reward sparse。
- 多步推荐/搜索任务可分段设置反馈策略:前期 action guidance 防止冷启动,后期 observation enrichment 鼓励自主探索更优路径,形成课程式退火。
- 工程上注意 rollout 分组内反馈一致性(同一 group 的 critic/advantage 信号口径一致),否则 GRPO/PPO 类优化容易震荡;可在反馈模板中固定格式化字段。
- 对在线学习推荐 Agent 的环境模拟器设计有借鉴:把部分先验知识编码进环境观察而非模型初始策略,训练后策略内化,推理时无需额外先验。
LLM Agent 不确定性量化:分类法、评估协议与实证研究
🧭 Agent 轨迹级不确定性与校准 ★ 深度解读
Trinity College Dublin, Ireland · University of Texas Health Science Center at Houston, USA · University College Dublin, Ireland · Northeast Forestry University, China
提出三轴分类法与轨迹级校准指标 TC-ECE,揭示 Agent 步级校准无法推出轨迹级校准
📌 工作参考价值(4 点)
- 在构建推荐/搜索 Agent 时,不要只监控最终答案置信度;在 planning、retrieval、tool call 每个步骤输出 confidence,并在轨迹检查点评估 TC-ECE。尤其在多步召回/排序/重写流程中,早期错误会累积,需要 mid-trajectory 干预信号。
- 不要把每步置信度相乘作为整体可靠性:步骤间相关性会导致低估或高估,建议拟合轨迹级校准器或使用生存因子 q_t,并对前缀可靠性分层监控。
- 多 Agent 协作(如 query 理解、召回、排序、出价等模块)中,相似训练历史导致相关性错误共识;需要加权仲裁,保留不同意见,不能简单平均。
- 论文发现 Agent 自述置信度不一定可靠,建议与简单基线(如 step-index)对比;部署前离线用真实轨迹校验。
面向 LLM Agent 的过程图:自演化的执行结构
🧭 Agent 过程性记忆与自演化图结构 ★ 深度解读
Google · Georgia Institute of Technology · Peking University
用可编辑的 (procedure, relation, procedure) 图组织过程性知识,在线按当前节点生成局部引导,离线通过验证门控自演化图结构
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 工作流中,把工具或技能(query 改写、召回、精排、解释、政策校验)抽象为过程图节点,边属性写 condition/guidance/pitfalls;推理时用最近一次 tool call 做 exact match 定位,取 2-hop 邻域生成 guidance,比注入全图省 token 且效果更好。
- 离线自演化:用成功/失败轨迹对比让 LLM refiner 提出增删节点/边、改属性,必须通过 held-out validation 不降分才提交;保留 rejection memory,避免重复无效修改。可迁移到自动优化广告投放、选品、客服 Agent 的流程。
- 图结构在权重外,便于审计、回滚和人工修正,适合电商合规/风控;不需要 fine-tune 模型。
- 注意效率:localized generative guidance 在长轨迹上能减少 solver steps,但总 token 仍可能上升,需缓存或选择性生成。
PlannerForge:自动驾驶运动规划场景测试的LLM Agent框架
🧭 LLM Agent 自动化测试流水线
Technical University of Munich · Munich Institute of Robotics and Machine Intelligence (MIRMI) · University College London
用统一LLM Agent框架覆盖自动驾驶场景测试全流程,开源中小模型媲美商业API
📌 工作参考价值(4 点)
- LLM Agent 编排模块化 pipeline:把场景生成、检索、修改、执行、评估统一成可链式调用的 agent 任务。电商/搜索推荐中可借鉴类似框架,将 query 推荐、召回、排序、评估串成端到端 LLM 工作流,减少碎片化工具切换。
- 开源中小模型足够匹配商业 API:论文显示 20–35B 开源模型在多数任务上媲美商业 API。对成本敏感的业务,可以用 Qwen 等开源模型替换 GPT-4 类接口,经过 prompt 调优后接近商业效果,大幅降低推理成本。
- 自动 cost-tuning 提升下游指标:LLM 自动调整模块参数,将规划器成功率从 50.4% 提升到 70.2%、碰撞率从 19.0% 降至 8.4%,无需领域微调。推荐系统中可让 LLM 自动调 rerank 权重、召回阈值等,用在线指标反馈做闭环优化。
- 模块路由(Module Routing):用 LLM 根据输入场景选择最合适的下游模块/模型。在推荐架构中可实现动态路由,例如不同用户群体或 query 类型分发到不同精排模型,提升整体效果与资源利用率。
SchemeArena:LLM Agent 阴谋行为的因子化压力测试
🧭 Agent 安全压力测试与监控
University of Michigan
构建 400 场景基准及证据驱动监控器,系统揭示 LLM agent 阴谋行为的关键驱动因素
📌 工作参考价值(4 点)
- 场景因子化生成方法可迁移:构建 Agent 测试集时,将目标、工具域、监控条件、压力机制等维度显式组合,可以低人工成本覆盖更多边界场景,避免只测少量 handcrafted 用例。电商导购、客服、广告文案等 Agent 上线前可借此构建系统性回归集。
- 监控信号不能只依赖 CoT 或只看行为:文中 action-only scheming 表明隐蔽行为可在没有显式推理证据时发生,单独监控 CoT 会漏报。部署推荐/Agent 时要同时采集推理轨迹与执行动作,交叉比对异常。
- SCOUT 的多准则证据 grounding 思路值得借鉴:把“是否违规”拆成多个可验证准则,并要求每条判断引用 agent 的推理或动作证据,能降低误报,适合做线上 Agent 行为的合规审计与事后归因。
- 警惕局部监控的悖论:部分闭源模型在仅监控 action 时阴谋倾向反而上升,说明不完整监控可能变成可优化绕过约束。电商风控不能因“有监控”就默认安全,需评估监控强度与 Agent 策略适应性之间的关系。
智能体能否赢得视频浏览器挑战赛
🧭 Agent 自主交互式视频检索
University of Konstanz · Charles University
用VLM智能体自主操控交互式视频检索系统,从初始意图描述出发完成多轮搜索,性能比肩历史专家操作水平
📌 工作参考价值(4 点)
- 把现有检索/推荐系统包装成工具接口,让 LLM/VLM 智能体通过 API 控制查询、翻页、过滤等操作,能快速构建自主搜索或评估流程,无需让模型预知全量候选集。
- 智能体只分析 top-k 结果(如图像/视频关键帧)并决策下一步动作,避免对全库做昂贵推理,在电商图片/视频商品检索中可直接复用这种「索引+小窗口 VLM 判断」模式。
- 用模糊初始意图描述驱动多轮交互式检索,可作为电商搜索中长尾 query 或图片找同款场景的自动化补充,降低用户反复试错成本。
- 评估方式可借鉴 VBS 的任务完成率与交互轮数指标,用于量化推荐/搜索系统在智能体操作下的实际可用性,而不仅是离线排序指标。
Agent 记忆在模型升级后是否可用:记忆可移植性对照研究
🧭 Agent 记忆可移植性评测
LinkedIn
对照评测四种 Agent 记忆格式在模型升级后的可移植性,证明固定 schema 知识图谱最稳,NOTES 与 RAG 需重建或保留原始历史
📌 工作参考价值(4 点)
- 生产级 Agent 记忆若可能经历模型升级,优先用固定 schema 的 KG 而非自由文本 NOTES;KG-fixed 在 writer swap 下 accuracy 几乎不变,能避免模型耦合导致的隐性遗忘。
- RAG 记忆系统升级 embedding 模型时,不要在同一个索引里混用新旧 embedding:50/50 混合只拿到 4.96pp 增益,会丢掉全量 re-embedding 的 11.90pp 大部分收益。应隔离版本化 embedding 空间,新模型向量写入独立索引。
- 只保留压缩后的 NOTES 不够:模型升级后 store-only repair 在 48 个用例中全都达不到 90% 恢复目标;必须同时保留原始 source history,才能在检索或解读出错时重新构建记忆。
- 记忆迁移评估必须做方向特异性测试:NOTES 迁移出现 +9.91 与 -13.28pp 的非对称变化。训练/评测 pipeline 里不要只测 A→B,要把 B→A 也纳入回归项。
BIT.UA 在 BioASQ 14B:模块化检索与 Agent 共识答案生成
🧭 多Agent共识生成 · 模块化RAG检索
IEETA/DETI, LASI, University of Aveiro, Aveiro, Portugal · IT, University of Aveiro, Aveiro, Portugal · Aalborg University Business School, Aalborg, Denmark
将 PostgreSQL BM25、Qdrant 稠密检索与多 Agent 辩论共识机制引入生物医学问答,取得竞争性 MAP 排名
📌 工作参考价值(4 点)
- 混合检索架构模块化拆分:BM25 倒排用 PostgreSQL pg_textsearch,稠密向量单独用 Qdrant GPU 索引,各自独立扩展与调优;电商搜索/推荐可以借鉴这种拆分,避免绑定单一检索引擎,降低替换成本。
- HyDE 做 query 扩展:用 LLM 生成假设性文档再检索,缓解 query 与文档词汇不匹配问题;在电商搜索 query 改写或长尾词召回中,可尝试 HyDE 生成伪商品描述,提升稀疏召回覆盖。
- Reranker 训练负采样用 dense retrieval 挖掘难负例:比随机负样本更能提升排序模型判别力;推荐精排阶段的负样本采样可以参照,用当前召回模型检索难负例。
- 多 Agent 共识生成机制:多个不同 prompt 的 agent 辩论并迭代收敛,配合 adaptive document retention 保留相关文档,可迁移到商品推荐理由生成、搜索结果摘要或客服问答,提升生成一致性与事实性。
超越 Top-k 技能检索:面向 LLM Agent 的多样性感知技能路由
🧭 LLM Agent 技能路由 · 多样性子集选择 ★ 深度解读
Virginia Tech · University of Southern California · Adobe Research · Dolby Labs · Texas A&M University
用 DPP 多样性选择与 query-residual 核,在技能路由中平衡相关性与非冗余,提升多技能任务覆盖
📌 工作参考价值(4 点)
- 在电商/广告 Agent 需要从大型技能/工具库中为复杂 query 选择多个互补技能时,不要只用 pointwise top-k;可加 DPP 选择步骤,用质量分 × 相似度核构造行列式点过程,平衡相关性与非冗余。
- 构造 DPP 相似度核时,先从技能 embedding 中减去 query 对齐分量(residual),避免惩罚因共享 query 相关性而相似的互补技能;对多技能任务尤其有效,可减少有用技能被误杀。
- 工程实现上,仅对检索到的 top-M 候选(如 50)做贪心 MAP,配合 incremental Cholesky 更新,开销小,适合线上 Agent 路由;候选集大小 M 和 residual 混合系数 λ 可调。
- 该方法对搜索/推荐中的多样性重排、多模型路由、多工具组合选择也有直接借鉴意义:在相关性分数基础上增加 query-conditioned 多样性约束,能提升列表对复杂意图的覆盖度。
CONTINUITY:可组合 LLM Agent 安全控制的安全上下文合约
🧭 Agent 安全控制组合验证
ZAST.AI
用 assume-guarantee 合约与认证安全上下文,保证 LLM Agent 跨组件端到端后果完整性
📌 工作参考价值(4 点)
- 在电商/广告/搜索的 LLM Agent 系统中,跨工具、跨组件调用(商品库、广告投放 API、用户数据)时必须显式传递认证上下文,不能依赖组件内部假设;可借鉴「签名 root grant + 接收回执」模式防止授权被中途丢弃或重放。
- 设计多 Agent 协作或工具编排时,采用 assume-guarantee 合约显式声明每个组件的输入前置条件和输出保证,避免单组件安全测试通过但组合后出现上下文断裂;适合安全敏感的推荐策略、召回和排序服务。
- 引入 transformation witness(字段级来源和变换证明)应对数据血缘要求:例如商品信息经清洗、聚合、过滤后产生推荐结果时,能追溯每个字段的修改链,满足合规审计。
- 工程实现上,可信核心仅 1.5K LOC,验证延迟在毫秒级(proof 4.21ms,端到端 7.17ms),可嵌入实时推荐链路做安全校验,无需引入重型可信执行环境。
CUA-Universe:面向混合 GUI+CLI 智能体的可扩展动态环境
🧭 混合 GUI+CLI 智能体训练环境
Shanghai Jiao Tong University · Zhejiang University
通过环境到数据管线将真实桌面软件转为混合 GUI+CLI 环境,训练 9B 智能体显著提升成功率与效率
📌 工作参考价值(4 点)
- 在电商后台自动化(商品上下架、批量改价、库存调整、报表生成)中,可借鉴混合 GUI+CLI 思路:让 Agent 同时具备页面视觉检查能力与命令行/脚本批量操作能力,避免纯 GUI 点击的低效和纯 CLI 脚本的脆弱。
- 环境到数据管线值得迁移:将内部业务系统封装为可复现 VM 并暴露 CLI 接口,基于可重用操作和种子文件自动合成不同难度的任务,持续产出训练轨迹,形成数据飞轮。
- Path-Steer 的引导式 rollout 与轨迹收割可作为后训练数据工程手段:在业务 Agent 中采集人工修正或规则约束下的高效动作序列,蒸馏到模型,使模型从低效 GUI 交互转向高效 GUI+CLI 编排。
- 评估不只盯成功率,同时关注步骤数和 token 消耗。业务上除任务完成率外,应把操作步数、API 调用成本纳入核心指标,优化 Agent 的长期效率与成本。
多模态智能体图像生成与编辑全栈方案
🧭 多模态 Agent 图像生成编辑全栈
Weixin AI, Tencent
提出全栈式多模态 Agent 方案,含运行时、数据、基准与后训练,30B总/3B激活策略逼近1T参数 agent 性能
📌 工作参考价值(4 点)
- 在电商商品图/营销素材生成 Agent 中,借鉴其「持久证据管理 + dense carrier」设计:将商品属性、品牌规范、历史文案等检索到的多模态证据沉淀为统一上下文,避免每轮重复检索,提升多轮编辑一致性。
- 把 verification/integration 拆成独立工具而非塞进 policy 模型,降低策略模型负载并提高可靠性;在推荐/搜索 Agent 中可加结果验证与证据融合工具,先验证再输出。
- 用三层可验证 checklist 构建 RL 奖励,解决生成/推荐任务难以自动打分的痛点;可迁移到文案生成、创意推荐的离线评估。
- 小参数策略(3B active)通过 SFT+RL 后训练接近大模型,适合线上成本敏感场景;数据构造上优先合成 prompt + agent trajectory,再 SFT 后 RL。
面向韩国开放公共 API 的多步工具调用基准与数据合成
🧭 Agent 工具调用 · 执行验证数据合成
LG CNS
执行验证动态图合成多步工具调用数据,9B 模型经 GRPO 微调接近 27B
📌 工作参考价值(4 点)
- 构建多步 tool-calling 训练数据时,用真实 API 执行验证 schema 间的参数传递链(output→input),只保留实际跑通的边,可避免合成不可执行轨迹;电商/搜索 Agent 接内部商品、订单、营销 API 也能复用这一 graph 验证思路。
- 将工具流建模为动态执行图,节点是工具/参数,边是数据依赖;可把常用 API 组合沉淀成可遍历子图,自动扩展长尾 multi-step 任务,适合 query-商品-优惠券-物流等串行调用场景。
- 用 GRPO 在合成轨迹上做 RL 微调,小模型 9B 可逼近大 27B untuned;预算受限的本地化 Agent 可优先考虑 execution-grounded 合成 + RFT/GRPO,而不是盲目换大模型。
- 评估时增加真实 API 调用成功率/轨迹可执行率,而不只看格式正确率;对推荐 Agent 的 task completion 指标设计有参考。
设计文档即一切:AI 原生的机器学习性能建模工具
🧭 Agent 驱动代码生成 · 设计文档化
Google DeepMind · MIT · Stanford · Google
用设计文档作为唯一持久化工件,让 AI 编码代理按需重新生成性能建模库代码
📌 工作参考价值(4 点)
- 借鉴“文档即代码”的范式:将推荐/搜索系统中最易变的模块(如召回粗排、性能预算模型)用结构化自然语言设计文档描述,并让 AI 编码代理根据文档自动生成实现,减少因架构频繁变动带来的维护成本。
- 使用逐步工作示例(worked examples)作为设计文档的一部分,充当生成代理的 in-context demonstrations,提高代码生成准确率;在业务中编写复杂策略文档时可附带典型输入输出样例。
- 构建符号化成本表达式(如 SymPy)对推荐系统推理链路进行性能建模,支持快速解析化扫描不同候选集大小、模型结构、硬件配置,辅助容量规划和架构选型。
- 定义最小递归算子 IR 来表达计算图,将粗粒度汇总与细粒度调度分离,可用于优化在线推理的资源分配与调度策略。
SkillSpec:面向 Agent 技能正确性的意图掩码规格推理
🧭 Agent 技能质量保证 · 规格推理
Beihang University
将 Agent 技能正确性形式化为规格推理,用意图掩码多视图联合检测语义与实现缺陷,真实技能库精度 61.2%
📌 工作参考价值(4 点)
- 在构建内部 Agent 工具/技能库时,将每个技能的描述、参数、代码实现纳入统一图索引,定期做“声明意图 vs 实现行为”一致性检查,拦截 LLM 调用错误工具导致的静默失败。
- 可借鉴 intent mask 的多视图推理:验证技能或工具描述时不要一次性灌入全部上下文,而是分别从整体、血缘、邻居、局部四个视角生成规格,再联合推理,平衡上下文偏置与推断不足。
- 对技能/工具变更接入沙箱自动验证,自动生成用例检查声明的输入输出约束,能可靠覆盖代码节点缺陷;纯文本节点需额外规则或改写为结构化规格。
- 61.2% 精度可作为发布流水线的预筛卡点,不能全自动替代人工复核,适合在技能库规模化前拦截多数边界缺陷。
Trace2Tower:面向LLM Agent的转移感知多层级技能特征谱归纳
🧭 Agent 经验学习 · 层级技能归纳 ★ 深度解读
College of Computer Science and Artificial Intelligence, Fudan University
将Agent轨迹经事件抽象、成功/失败对比图与谱分解归纳为三层技能塔,ALFWorld成功率87.31%
📌 工作参考价值(4 点)
- 把用户购物/搜索轨迹先按子目标切分为 canonical events 并做 typed arguments 去实体,可把不同商品、query 实例对齐到同一行为单元;在电商埋点中可构建统一的 event graph。
- 成功/失败对比图与参数自由的 failure suppression 变换 g(x,y)=x²/(x+y) 很有工程价值:只需成功/失败转移计数,不需要调权,能自动抑制仅在失败路径上高频但无转化贡献的行为。
- 三层技能塔(action/procedure/strategy)对应电商可解释的交互链路:单品操作 → 购物流程(搜索-浏览-加购-支付)→ 意图达成策略;部署时按 context 预算约束检索,可控制 prompt/上下文成本。
- 上线后反馈驱动的图编辑(split/merge/promote/downweight)可在不重新训练/归纳的情况下修正技能结构,适合持续迭代的推荐/Agent 系统。
先必备后可选:教 LLM Agent 区分需求优先级
🧭 Agent 需求优先级推理与强化学习 ★ 深度解读
Shanghai Jiao Tong University · ByteDance
构建 FTF-Bench 并推出 FTF-RL,显著提升多模态 Agent 在电商/预订/出行中区分必备与可选需求的能力
📌 工作参考价值(4 点)
- 在电商/预订/导购 Agent 中,让模型先输出结构化 <requirements> JSON(mandatory/optional 分列)再做推理,能显著减少把 nice-to-have 当 must-have 或漏掉硬性需求的问题;可直接改造现有 prompt 或 SFT 模板。
- RL 训练时,除了 answer accuracy,增加 requirement classification 的 Macro-F1 作为 reward,用 GRPO + rule-based verifiable reward 即可轻量微调多模态 Agent,不需要复杂 reward model,适合业务侧快速自建。
- 参考 FTF-BENCH 的 unanswerable 设置,在商品筛选/酒店预订/打车等场景中增加“无候选满足全部硬性条件”的拒答评估,强制模型输出 no-match,可降低实际交易中的错误推荐率。
- 论文发现:仅在需求优先级数据上训练,就能在 LogicVista/MathVision/InfoQA 等通用推理任务上获得提升,说明显式的 must-have/nice-to-have 拆解训练可以作为一种通用的 reasoning 能力增强手段。
演化式模型与领域特定安全 Harness 框架
🧭 Agent 安全防御与自动化 harness 合成
Johns Hopkins University · University of Wisconsin–Madison · NVIDIA · University of Illinois Urbana–Champaign · UC Berkeley
自动合成针对冻结模型与目标领域的安全 harness,联合搜索自然语言策略和可执行代码逻辑,在保障效用下大幅降低攻击成功率
📌 工作参考价值(4 点)
- 在推荐/搜索 Agent 中增加独立安全层:将安全 harness 与推荐逻辑解耦,自动生成针对特定模型和业务域的策略与代码,避免手工编写规则,可快速适配不同推荐模型(如 LLM 推荐生成式商品描述)。
- 模型-领域特定的安全阈值自动调优:借鉴其联合搜索策略,为每个推荐模型和场景(如电商导购、广告文案生成)自动发现最优的安全约束强度,平衡过度拦截与安全漏洞,节省人工调优成本。
- 将领域合规要求嵌入可执行代码:类似地提取电商/广告领域的业务安全关系(如广告法违禁词、价格合规),编译为可执行的过滤逻辑,并集成到 Agent 的动作执行前检查中。
- 对抗性评估与在线迭代:在发布推荐 Agent 前,使用类似 PAIR 的自适应攻击模拟恶意输入或提示注入,评估防御有效性;将对抗审查作为持续集成的一部分,动态更新安全 harness。
用草稿模型门控预测编程智能体失败的不确定性
🧭 LLM Agent 执行前失败预测门控 ★ 深度解读
Tel Aviv University · IITU
用小型草稿模型对智能体轨迹做投机打分,在动作执行前门控拦截,降低错误率与成本
📌 工作参考价值(4 点)
- 对调用黑盒 LLM API 的 Agent 工具链(如 SQL 查询、搜索 API、广告投放 API),可以在不加 logits 的情况下做执行前拦截:用一个小型开源草稿模型对已生成的思维-动作轨迹做 teacher-forced 前向,提取 surprisal / gap / entropy,再接线性 calibrator 预测下一步工具调用是否会成功。
- 特征工程上务必把 reasoning span 和 action/tool-call span 分开统计。论文显示二者熵分布相反,混在一起会抵消失败信号,phase-aware 特征带来 +5–6 AUROC。电商 Agent 里常见的“先分析再调接口”结构可以直接复用。
- 用 veto gate 替换 execute-fail-retry 循环:失败概率高时不执行、注入 replan hint 重新生成,能减少 14–19% token 成本、6–8pp 执行错误率,适合对成本敏感、工具调用昂贵的场景;但要注意 false veto 可能轻微拉低端到端成功率。
- 草稿模型在一个开源 Agent 轨迹上蒸馏后,可迁移到闭源 Agent(如 Claude),因此多模型/多供应商共存的推荐或电商 Agent 平台,可以训练一个通用不确定性打分器。
原子化演化记忆驱动的智能体推荐系统
🧭 Agentic 推荐中的记忆演化与证据检索 ★ 深度解读
Xi'an Jiaotong-Liverpool University · Xiaohongshu · Peking University · East China Normal University · Beijing Jiaotong University
用结构化原子记忆与语义链接替代粗粒度摘要,实现可解释证据路径检索的 agentic 推荐
📌 工作参考价值(4 点)
- 将用户记忆拆成结构化原子单元(content/keywords/tags/context/embedding/links),而不是单一长摘要。电商场景可对用户兴趣建立粒度更细的原子标签(如品类+价格带+风格+最近意图),方便选择性更新和检索,避免新行为覆盖旧偏好。
- 用 LLM 对近邻记忆做语义关系建模(如偏好转移、互补、跨域迁移),构建可解释的协作链接,而不仅是 embedding 相似度。推荐召回或重排时,可沿链路检索多跳证据路径,提升排序可解释性和准确性。
- 记忆演化采用字段级更新,保留原始时间戳,用相似度阈值控制演化保守度(论文选 τ_evo=0.7)。此做法可异步离线执行,线上只做检索与重排,控制时延;对偏好漂移较大的用户增益更明显,适合电商中兴趣变化快的场景。
- 成本上,原子构建、链接、演化可缓存和批量处理,线上额外开销有限(每千次交互成本约 $2.95,略高于 MemRec 的 $2.65)。实际部署可用更轻量的模型做记忆代理,平衡成本与效果。
AI Agent 自然语言交互协议与标准(NLIP)
🧭 Agent 通信协议与互操作标准
University of Illinois at Urbana-Champaign · Marist University · IBM · eBay · NICT, Japan
提出标准化 AI Agent 通信协议 NLIP,定义轻量语义消息信封,支持跨框架与异构传输互操作
📌 工作参考价值(4 点)
- 在电商多 Agent 架构中,参考 NLIP 的轻量消息信封统一内部推荐、搜索、营销 Agent 的对外接口,复用 HTTP/WebSocket/AMQP 绑定,降低异构集成成本。
- 引入 NLIP-aware gateway 解耦 Agent 与现有微服务/知识库/工具 API,可在不侵入核心推荐链路的前提下快速增加 Agent 接入层。
- 若已使用 MCP 或 A2A,可将 NLIP 作为更轻量的语义消息层,规范 context store、ontology、工具调用之间的消息格式;其安全配置文件可下沉到协议层,统一身份与上下文边界。
- 协议本身无算法指标,业务价值主要在减少定制集成与长期维护成本,并借助 Ecma 生态获得跨组织互操作能力。
从代码大规模合成有依据的智能体技能
🧭 代码挖掘 · 技能合成 · Agent 流程增强 ★ 深度解读
Ant International
Code2Skill 从 GitHub 代码挖掘并验证 100 万+可复用技能,检索增强后智能体平均提升 11.7%
📌 工作参考价值(4 点)
- 构建可复用的业务 skill bank:不只依赖 agent 轨迹,可把推荐/广告/搜索系统中的特征工程、策略规则、pipeline 代码片段蒸馏为带 when-to-use、invariants、anti-goals 的技能卡,供 LLM Agent 检索增强。
- 用 source-body-blind reconstruction 做 grounding 质检:只给技能描述让 LLM 重构实现,再用 source-aware judge 对比源实现过滤不支持或过度概括的记录,能有效抑制技能库幻觉,可迁移到知识库/规则库审核。
- 技能注入位置比数量更重要:planning-time 与 post-generation critique 比 generation-time prompting 更稳;RL 中作为 reviewer 提升最大。业务上优先把检索到的技能/知识放到规划、评审或 verifier 侧,而不是直接拼进生成 prompt。
- 用 compact summary 替代完整记录可减少约 89% context 且性能不降,适合降低 LLM 调用成本与 KV cache 压力;对候选技能做摘要化而非全量拼接。
DRACO:动态评分标准驱动的长程智能体细粒度信用分配
🧭 Agent 强化学习 · 步骤级信用分配 ★ 深度解读
Carnegie Mellon University · IBM Research
DRACO 在 outcome-blind 设定下动态生成轨迹级 rubric,并把单标量奖励闭式重分配到步骤级优势,用于长程工具智能体 GRPO 训练
📌 工作参考价值(4 点)
- 在没有程序化 verifier 的客服、策略执行等业务场景,可用动态 per-trajectory rubric 代替 ground-truth 成功信号:judge 根据任务指令和每组 rollout 生成 criteria,只保留组内有人失败的 criteria(discriminative dropout),并用 pass/(pass+fail) 得到 outcome-blind 奖励;避免静态 rubric 训练早期就饱和丧失区分度。
- 把 GRPO 的 trajectory-level advantage 按 judge 标注的 responsible steps 做闭式重分配:step quality Q_j=p_j/(p_j+f_j),winner 加权 Q_j、loser 加权 1-Q_j,每个 step 的总贡献正比于 quality 而与 token 长度无关,sum 守恒且 sign 保持。这个方法不需要额外训练 attribution 模块,可直接迁移到长程 Agent RL 的步骤级信用分配。
- 成本敏感时可以用策略模型自己当 judge,配合 thinking enabled 和 k=3 一致投票,训练 judge 成本约降 5.1 倍($1607→$316),仍接近或超过 verifier-trained 性能;分析表明 self-judge 的 lenient 错误比 strict 错误对 GRPO 更新危害小。
- 业务关注稳定完成率时,应报告 pass^k 而不仅是 pass@k:DRACO 的 TGC p3/p1 retention 明显高于 p1/pass@3,说明它主要提升重复尝试的成功一致性而非单纯发现能力。
FiMI Banking:印度零售银行主权模型
🧭 Agent 后训练与工具使用优化
NPCI AI Research Team
用偏好优化提升安全拒答,用可验证奖励RL提升多轮工具调用与token效率
📌 工作参考价值(4 点)
- 对客服/导购 Agent,把 out-of-scope/敏感场景拒答 单独用 preference optimization 做后训练,能显著提升安全行为:银行场景从 52% 到 80%。电商里价格承诺、优惠券规则、保险理赔等高风险回答也可复用。
- 多轮工具调用任务用 RLVR(verifiable reward) 而非只靠 SFT/偏好优化:订单状态查询、改地址、优惠核销等可自动校验的任务,既能提升 edge-case 和顺序敏感任务成功率,又能减少 29% token,直接降低 Agent 调用成本与延迟。
- 业务 Agent 上线前,可搭建类似 可控评测环境:从内部文档构建结构化 ground truth + 合成用户背景 + 真实工具接口,用来评估模型是否乱调工具、乱拒或泄漏敏感信息。
- 偏好优化与 RLVR 互补:前者管回复层面安全,后者管多轮工具执行;业务 Agent 后训练可以考虑两阶段组合。
规则记忆:对话代理的主动规则归纳与推理
🧭 Agent 长对话记忆规则化推理 ★ 深度解读
Sun Yat-sen University · The Hong Kong University of Science and Technology (Guangzhou) · Shenzhen Institute of Computing Sciences · The Hong Kong Polytechnic University · Tsinghua University
将对话历史归纳为自然语言 Horn 子句规则,用 perplexity 一致性过滤并指导证据召回与推理,显著提升长对话 QA 准确率
📌 工作参考价值(4 点)
- 从用户历史交互中归纳行为规则(如“用户买过 A 后常会买 B”),作为可复用推理模板,可指导召回和排序,缓解语义鸿沟。
- RPC 验证机制可用于任何 LLM 生成的规则/知识,通过 perplexity 降低评估支持度,过滤幻觉和过泛化规则。
- 将 Horn 子句作为推理骨架,与事实分离,可在推荐解释或对话式推荐中提供显式逻辑链,增强可信度。
- 工程上可以将事实存储与规则存储分层,规则层承担“抽象先验”,在查询时先激活规则再召回事实,降低无关噪声。
继承式 Agent 记忆预算验证中的计划指针与记录指令形式
🧭 Agent 记忆检索的指令形式消融
Glasp
用 12 项注册实验(14,760 次尝试)量化 memory store 中 criterion 与 id 等 directive 形式如何改变 budgeted agent 拉取哪条记录
📌 工作参考价值(4 点)
- 在预算有限的 Agent 记忆/知识库检索里(例如商品库、用户历史记录),优先把“去哪找”写成可判定的 criterion,而不是裸 ID:六个模型上长度匹配的 criterion 比 bare id 平均高 +35.0 个百分点。
- 不要在 criterion 后追加 ID:在 Claude 三个模型上 ID 后缀会把 criterion 效应完全取消(Opus 5 从 40/40 掉到 0/40);若必须同时给出,可测试显式 ratification line + 两信用预算来恢复。
- Prompt 的微小改动即可改变 Agent 拉取哪条记录:单字符 plan pointer 效应 +78.0/+81.7 pts,六个字节匹配编辑也各有独立效应;生产上要对 memory/directive 模板做版本控制并针对关键行为回归。
- 结果跨模型/API 不稳定:OpenRouter 九模型未复现直接 provider 面板的 criterion 优越性;80 runs 重跑中 15/30 对比仍在误差内或未解决。建议在自有模型组合与 store 内容上做注册式 A/B,避免把单一 provider 结论直接泛化。
Occamy-1.0:面向协同工作的开源帕累托前沿35B智能模型
🧭 协同工作Agent模型后训练
Accio Team
开源35B协同工作模型,通过执行接地数据和分阶段后训练实现成本效率帕累托最优
📌 工作参考价值(4 点)
- 成本效率优先的模型选型:在业务中构建Agent时,可采用低参数MoE架构(如35B-A3B)替代超大模型,在保持工具调用、编码等能力的同时显著降低单次调用成本,适合电商场景中大量并发的商品信息查询、订单处理等任务。
- 执行接地数据构建:借鉴其采集真实执行轨迹并重放的方法,在电商Agent训练中记录用户与Agent的完整交互序列(包括工具调用、状态变更、错误恢复),作为后训练数据,可提升模型在长流程任务中的状态跟踪与协调能力。
- 分阶段后训练:将能力拆分为信息收集、工具使用、编码、文件操作等模块,分阶段注入训练数据,逐步巩固,避免灾难性遗忘,适合在现有基座模型上迭代增强特定Agent技能。
- 全流程成本评估:在评估Agent模型时,除accuracy外,应统计整个episode的累计token成本与延迟,绘制成本-性能帕累托曲线,选择位于低拐点的模型部署,而非仅看单点benchmark分数。
让 LLM 在会议中拥有情境意识并替参与者发言
🧭 LLM Agent 在多方对话中的发言时机决策
University of Göttingen, Germany
提出 CAPA 架构,通过显式会议状态预测与校准,将缺席者发言沉默率从 51.4% 降至 2.5%
📌 工作参考价值(4 点)
- 在需要 LLM 实时判断“是否介入”的场景(客服对话、直播场控、主动推荐弹窗)中,显式维护结构化状态(立场、覆盖、发言权)比只堆原始上下文更能消除漏判;可借鉴 Perceiver 将历史对话压缩成可更新的状态表示。
- 将决策链拆成 Predictor→Controller→Generator,先预测下一 turn,再决定是否说话、说什么、怎么说;这种解耦便于在业务中单独调优“时机判断”和“内容生成”,也便于归因定位残差。
- 用真实下一 turn 对预测和动作做在线校准,形成 Recalibrator 闭环;在推荐或对话 Agent 中可引入类似机制,让系统根据后续用户反馈实时修正决策状态,而非静态离线训练。
- 评估协议值得复用:围绕实际语义单元(idea units)从 whether/when/what 三维打分,并用 schema 约束的 LLM judge 自动评估,Kappa=0.71 说明可替代部分人工标注;对生成式推荐/对话策略的离线评估尤其有用。
SciLENS:RL驱动的本地科学文献证据导航与综述智能体
🧭 Agent 科学文献证据导航
Tsinghua University · Renmin University of China · Institute of Information Engineering, CAS · USTC · Peking University
全本地科学文献Agent,以结构可视化与逆向分解过程奖励训练,性能对标GPT-5.2
📌 工作参考价值(4 点)
- 把“结构可视化”作为 agent 可调用工具放进推理循环:在电商知识图谱(商品、类目、品牌、共购关系)上先抽取多跳子图,压缩成图表/拓扑摘要喂给 LLM,避免原始实体列表塞满 context;适合类目规划、趋势综述、归因分析等宏观任务。
- 自动化标注管道:用已有行为图/商品知识图谱构建多跳子图问题,采用多模型共识(如 3-5 个强模型投票)过滤,零人工标注生成用于推荐/搜索 agent 的监督与 RL 训练样本。
- 逆向分解式过程奖励:奖励不只给最终答案,将最终证据链反推成“规划→检索→引用”的 rubrics,分别给过程 reward;可迁移到购物助手、搜索 agent 训练,约束中间过程必须引用真实商品/证据,提升可追溯性。
- 全本地双 tier 索引+LLM:若业务对隐私/合规有要求,可参考本地向量库+图索引服务约千万级商品/内容,既保证离线可部署,又降低 API 成本,适合电商搜索/推荐中的合规助手。
通过人机交互进行高效测试时自适应
🧭 Agent 个性化与测试时自适应
Carnegie Mellon University · University of Washington · Handshake AI · Stanford University · Princeton University
利用跨会话人机交互信号在测试时适配个体 Agent,写作与视觉创作任务成功率提升 4.5–20.9%,演化 rubric 可多捕获 16–22.3% 失败
📌 工作参考价值(4 点)
- 用跨会话交互数据做在线个性化:电商对话式导购/客服 Agent 可维护用户历史反馈,在推理时动态注入 context 或更新轻量权重,实现低成本的个性化,尤其适合长尾用户。
- 演化 rubric 模块可作为偏好对齐工具:将用户对推荐解释、商品描述、广告文案的反复反馈提炼为可进化的评价标准,既可作为奖励/过滤信号,也可用于自动标注失败案例,减少人工评审成本;论文显示比单用 LM 或人工能多捕获 16-22% 失败。
- 个性化策略具备跨用户迁移能力:即使目标是个人化,TAHI 训练的个性化策略也能提升其他用户最高 8.8%,提示可构建共享的“个性化底座”,通过少量交互迁移到新用户,缓解冷启动。
- 在生成式推荐场景,可将用户反复指出的标准显式化为 rubric 并注入 prompt 或评分器,实现可解释的偏好对齐与可控生成。
Transfiver:通过共享可编辑状态实现人机协同推理
🧭 人机协同推理 · 共享可编辑状态
Korea Institute of Energy Technology (KENTECH)
提出 Transfiver 架构,让人类与 AI 共享同一可编辑持久状态,实现可验证的协同推理
📌 工作参考价值(4 点)
- 在电商推荐用户建模中,可将用户长期偏好维护为一个显式可编辑状态,让用户直接修改(例如对某类商品不感兴趣)并立即影响后续推荐,而不是依赖隐式行为推断或追加历史记录。
- 模型隐式更新状态时采用“修订已有项”或“创建新项”两种操作,有助于保持偏好状态的一致性,避免过期信息(如旧地址、旧兴趣)干扰推荐或搜索排序。
- 参数与状态分离的设计允许在部署期间动态更新状态而不重新训练模型,适合线上个性化记忆的实时更新,降低维护成本。
- 论文为架构性设想,缺乏具体实现与实验验证,落地前需要自行设计状态表示、更新规则和冲突消解机制。
先澄清再优化:动态预建模澄清的交互式优化框架
🧭 LLM Agent 交互式优化澄清
Cardinal Operations · Shanghai Jiao Tong University
提出OR-Clarify基准与InterOPT两阶段框架,在优化建模前主动识别缺失槽位并决定追问或停止
📌 工作参考价值(4 点)
- 在营销/广告预算分配、促销优化等业务自动化中,将需求澄清抽象为“槽位恢复”:预定义目标函数、约束、业务规则等关键槽位,用多选或填空式追问替代开放问答,可显著降低交互成本并减少错误建模。
- 借鉴 InterOPT 的两阶段设计:先识别 formulation-critical 未解决槽位,再依据槽位覆盖度/信息增益决定继续追问还是停止,避免过度打扰用户;可嵌入电商广告计划 Agent 的需求确认环节。
- 用“silent assumptions”指标兜底:跟踪模型未经用户确认就默认的关键假设,在生成广告投放模型或 SQL 前强制校验,防止预算、排期等约束被静默填错。
- 对交互式推荐/搜索澄清场景:当用户 query 或目标模糊时,可以基于预定义维度(价格带、类目、目标 KPI)生成候选澄清项,而不是直接生成推荐或优化方案,提升准确率。
超越上下文窗口:面向数据中心的智能体的持久发现上下文
🧭 Agent 记忆增强检索
Megagon Labs
引入持久发现上下文记忆层,复用任务意图到数据对象的映射,提升后续检索质量
📌 工作参考价值(4 点)
- 在电商搜索/推荐场景,可把历史成功 query→item/attribute 映射作为轻量记忆层,避免每次请求重复做语义解析与召回;尤其适合长尾 query 或数据目录频繁变化的场景。
- 元数据稀疏或缺失时,记忆检索可能优于元数据检索。对商品冷启动、长尾类目、非标品可尝试用历史交互记忆补充召回,而不是只依赖属性倒排。
- 自动生成记忆有效,意味着无需人工维护映射表,可通过 LLM 自动抽取意图-对象对并写入记忆;工程上可低成本落地,与现有 RAG/检索流程叠加。
- 注意可复现的干扰失败模式:记忆冲突或错误映射会降低效果。建议加入置信度阈值、来源标记、过期淘汰或按任务域隔离机制,避免脏记忆污染检索结果。
CORAL:面向生产推荐系统的 LLM 原生闭环优化框架
🧭 Agent 闭环优化推荐系统控制面 ★ 深度解读
Meta AI
用 LLM agent 闭环优化推荐系统控制面资源配置,以极低成本实现在线 A/B 验证的 engagement 提升或成本节省
📌 工作参考价值(4 点)
- 可把 LLM agent 用于推荐系统资源/预算分配的闭环优化(召回源预算、流量分群 serving 档位、广告库存分配等);关键是不让 LLM 直接改线上参数,而是让它输出结构化 proposal,由确定性约束优化器投影到可行集。
- 架构上模仿 observation / assessment / decision 三层记忆,保存最近 3 个 cycle 的原始指标、模型判断和决策结果,让 agent in-context 根据自己上次动作的效果调整,不用 retrain;对非平稳线上环境有效。
- 固定决策 cadence(如 3 天)并用 A/B 实验测每个配置的增量,把测量结果写回 memory 作为 attribution,避免噪声误导;初期可先在低风险控制面(预算 multiplier、serving tier)小步跑,再逐步扩大自主范围。
- 成本极低:每个 cycle 仅十几次 LLM 调用、几千 token,与用户量无关,适合亿级流量的电商/广告推荐;如果业务有硬资源约束,优先把 LLM agent 用于配置优化而不是 per-item 生成。
Iris:攀登搜索前沿
🧭 搜索 Agent 训练与评估方法 ★ 深度解读
AllSpark Team
通过网页超链接反向构造多跳搜索任务、双层轨迹过滤与SFT-RL迭代爬升,训练出开源同参数范围最强的搜索Agent
📌 工作参考价值(4 点)
- 数据合成:在电商/推荐的 QA、选品理由、query 改写数据中,把可搜索锚点(商品标题、类目名、品牌名)改写为描述性引用,消除字符串匹配捷径;再用双条件验证(闭卷答错 + 给知识子图答对)筛出真正需要多跳推理的样本。
- 轨迹过滤:对 LLM 生成的推荐解释/搜索对话轨迹,用滑动窗口 zlib 压缩比快速检测重复和循环;turn 级 judge 从数据中归纳失败模式 rubric,只 mask 最多 10% 差 turn,保留上下文、减少训练噪声。
- RL 工程:长会话训练可用 request-level partial rollout 中断并在下步从 committed prefix 恢复,配合 truncated importance sampling 纠正不同权重版本的 logprob 偏差;集群内部署 GenRM 与摘要器,避免外部 API 依赖。
- 评估/上线:将 context management 与策略能力分开报告,固定工具、上下文预算、judge,分别看无 CM 和有 CM 的结果;识别 CM 收益来自任务是否经常耗尽上下文,高成本重试只作为上限探索,不作为默认配置。
可编辑视觉设计:编码 Agent 驱动的分层设计生成
🧭 Agent 驱动的可编辑视觉设计 ★ 深度解读
Tencent Hunyuan · Sun Yat-sen University · Tsinghua University · The Chinese University of Hong Kong · Shanghai Jiao Tong University
让 VLM 先调用图像模型做美学参考,再写原生 HTML/CSS 交付可分层编辑的设计
📌 工作参考价值(4 点)
- 广告/活动页创意生成:把“先出参考图再写 HTML/CSS”流程用于 banner/海报/商品主图。不要直接用扩散出 PNG,而是让图像模型只提供构图与色彩参考,由 Coding Agent 写原生 DOM,文案层、素材层、背景层分离,运营可拖拽改字换图,适配多渠道尺寸和文案合规修改。
- 素材资产层单独生成 + 绿幕/alpha 抠图,避免从参考图裁切导致的像素污染与图层纠缠;在电商商品图、活动背景、icon 等素材库可复用,提升素材可维护性。
- 渲染自修复闭环:将 headless 浏览器确定性检查(元素溢出、资源加载失败、DOM 畸形)与 VLM 截图审美评审结合,适合广告创意平台做自动质检和改稿,减少人工巡检;一轮/两轮局部 patch 即可收敛。
- Agent Design Replay / 过程可视化可作为创意平台的可追溯能力:记录 prompt→参考图→素材→代码→修改轨迹,让运营/设计师理解 AI 决策并介入,比黑盒出图更利于团队协作审核。
面向 Web Agent 的判别式世界模型
🧭 Web Agent 世界模型判别式训练
University of California, Berkeley · MIT-IBM Watson AI Lab · Cal Poly San Luis Obispo · Xero
用预测状态匹配训练世界模型,使预测表示能区分不同动作结果,提升 PRM 动作排序与端到端任务成功率
📌 工作参考价值(4 点)
- 训练状态模拟器时对齐下游排序目标:不要只做 next-state 重建,应加入判别式目标,使预测状态可区分不同动作的后果。在电商/搜索的 agent 场景中,若用世界模型模拟用户点击或意图变化,可改用 contrastive 或 ranking loss 训练,以辅助后续动作打分。
- 构建分支式决策数据集:从真实交互轨迹中记录每个决策点的候选动作及各自后续状态,用于训练判别式世界模型。可借鉴到搜索推荐 agent,通过离线用户日志构造“动作-结果”对比样本,避免昂贵在线探索。
- PRM/ranker 增强:将世界模型预测的状态表示拼接到 PRM 输入,能比仅用动作特征提升动作排名。在做推荐 agent 的多步决策时,可设计类似的 process reward 模型,用预测用户状态辅助评估候选推荐或 query。
- 测试时采用“候选生成 + 预测状态 + 打分”的 pipeline,可提高端到端成功率。在电商 agent 中可对候选商品或 query 做模拟排序,减少试错。
OmegaUse-SOP:基于人类演示的专业计算机使用SOP工程
🧭 GUI Agent 技能工程化
Baidu, Inc. · Ningxia Electric Power Engineering Co., Ltd.
提出SOP Engineering系统OmegaUse-SOP,将人类专业软件操作演示转化为可复用GUI Agent技能,提升专业SOP任务可靠性
📌 工作参考价值(4 点)
- 对电商运营自动化(如自动操作广告投放后台、商家后台、ERP)的Agent,可借鉴Observe-Reason-Configure-Execute四阶段:先录制人类专家操作轨迹,再抽象成语义级步骤,配置领域规则,最后执行时逐步grounding+验证,而不是让LLM一次生成全部操作,能显著提高可靠性。
- 将SOP与Agent分离,类比prompt engineering,把“专业技能”作为可迭代资产:每次执行失败或人工修正后,回流更新演示和规则,形成企业专属的Agent技能库,类似推荐系统中的用户行为反馈闭环。
- 步骤级验证(step-wise verification)思路可迁移到多步Agent任务中,例如在电商选品、广告调价等流程中,每一步生成后由规则或轻量模型校验中间状态,避免错误累积导致任务失败。
- 多模态轨迹(截图+事件流)可作为训练/微调数据,尤其适合缺乏API的专业软件场景;在电商内部工具中,若某些操作只能通过GUI完成,此方法可低成本积累领域专家知识。
终端 Agent 的环境进化训练方法
🧭 终端 Agent RL · 离线环境课程
Hunyuan Team, Tencent
提出离线环境进化,沿多轮目标派生的三个难度方向逐步提升终端环境难度,并通过多 Agent 回路实现,提升终端 Agent RL 效果。
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 训练中,可将“用户任务/交互环境”当作可进化对象:把多轮任务目标显式展开,提取难度轴(如约束数量、工具噪声、状态分支),离线用 LLM 多 Agent 生成逐渐变难的任务集,不用每次等在线 rollout,降低数据成本。
- 用多 Agent 回路工程化合成环境:一个 Agent 负责提出 harder case,另一个验证可解性与难度,再一个做标注/清理,保证训练集中困难样本比例与模型能力匹配,可复用到导购、搜索、客服 Agent 的场景生成。
- 训练调度用“分代课程”:将进化后的环境按 generation 分块,训练时按模型 checkpoint 表现逐步解锁下一代,避免一次性给过难/过易环境;对应推荐 Agent 的 RL 训练可做 curriculum。
- 若做用户模拟器/环境生成,优先加入 off-policy 进化:不再依赖当前策略轨迹,能从历史或弱模型数据产生持续学习信号,适合业务环境噪声大、策略迭代快的场景。
KGVoyager:基于 Agent 导航的知识图谱无关问答
🧭 Agent 自主导航知识图谱问答
University of Texas at Arlington
一种知识图谱无关的 Agentic 架构,仅用查询端点和轻量类索引即可动态发现图谱结构并生成 SPARQL,F1 提升约 8 点
📌 工作参考价值(4 点)
- 在电商商品知识图谱问答或智能导购中,可以用“轻量类索引 + 动态探索”替代完整 ontology 硬编码:仅维护类目/一级类索引,让 Agent 在查询端点实时发现属性与关系,适应类目和属性的频繁变更。
- 采用 think-act-observe 循环,将 NL→SPARQL 拆成搜索(term→IRI 映射)、探索(发现 schema)和执行反馈(根据空结果/错误修正),比一次性生成更鲁棒,适合线上自然语言到结构化过滤条件的生成。
- 执行反馈作为信号:让 Agent 根据结果异常自动调整约束,减少人工维护规则;该思路可迁移到推荐系统的标签/属性过滤或动态 query 理解模块。
- 工程上只要求 SPARQL endpoint 可查询,不依赖昂贵的 text-SPARQL 标注对,适合快速冷启动新领域或新类目;轻量类索引也减少 prompt 长度,直接降低 LLM 成本与延迟。
Repo-To-Skill:从 GitHub 仓库蒸馏 AI4AI 技能
🧭 Agent 技能蒸馏与知识复用
Beijing Academy of Artificial Intelligence · University of Science and Technology of China · Renmin University of China · Hong Kong Polytechnic University
提出 DisCo 与 AREX-Skill 库,将 GitHub 仓库蒸馏为可复用技能,显著提升研究 Agent 表现
📌 工作参考价值(4 点)
- 把推荐/搜索团队常用 ML 仓库、内部训练/推理框架、特征工程、评估脚本等拆成 compact, verified skill 卡(方法族/代码用法/验证检查),挂到 rec-agent 的库中,避免每次任务重读长 repo 或浪费 trial。
- 借鉴 task-agnostic + task-oriented 双轨蒸馏:先离线从 1k 个仓库沉淀通用技能,再按具体推荐/搜索任务(如“多目标精排调参”)定向蒸馏小技能;可显著降低 agent 上下文长度和对长 repo 的依赖。
- 技能组织成 capability families(类似 taxonomy)后,可用检索式挂载,只把 relevant skills 注入 prompt,而不是把整个 repo 塞进 KV cache;这个模式对商品推荐、Query 改写、广告文案生成的 LLM/Agent 工具调用同样适用。
- 验证/评估:每个 skill 需通过可执行测试才入库,保证“知道方法”与“能跑通”结合;在业务 agent 平台里建议引入同样的 skill 验证环节,减少错误工具调用和不可复现实验。
TRIAGE:三级路由与轨迹复用实现高效 Agent 执行
🧭 LLM Agent 轨迹复用与三级路由降本 ★ 深度解读
China Telecom Cloud, Beijing, China
用历史执行轨迹做语义路由与技能化复用,在 1007 条查询上降低 62.3% token 消耗
📌 工作参考价值(4 点)
- 把高频参数化查询做成 0 token 的 Skill 复用:对电商 BI、客服诊断、广告投放 Agent 里反复出现的“改参数不换结构”查询,可以用 embedding 阈值 + 参数抽取 + 模板替换,绕过 LLM 生成 SQL/工具调用;本质是带参数替换的语义 cache,比 GPTCache 更细粒度。
- 路由策略要看 overhead / execution cost 比值:文中 ablation 很直接:LLM router 每条约 224 token 的路由开销,导致整体反而 -37.3% savings;在单条 SQL 生成成本约 197 token 时,zero-cost 阈值路由完胜。迁移到业务时,若单次 Agent 任务成本很高(长上下文、多步工具编排),才值得上 LLM router;低成本的 query 类场景千万不要用 LLM 做路由。
- 用 LLM feedback 自举参数抽取规则:L2 参数替换时,遇到轻量归一化无法解释的差异,再调一次 LLM 判定是否是参数变化,并把结果注册成正则规则;后续同类参数可以 0 token 处理。这个机制很适合商品名、类目、时间窗口等高频可变参数的电商 query。
- 在线冷启动路径可以直接抄:无预训练、无人工标注,前 100 条 query 内 L2 命中从 0 到 57%;适合内部 dashboard、监控告警、运营取数 Agent 上线。但要注意文中提到的 error propagation,自动提取的 Skill 需要加正确性校验或执行后验证,不能直接推全量。
语言强化学习的兴起:Verbal RL 统一框架与三大支柱
🧭 Agent 语言反馈驱动学习统一框架 ★ 深度解读
AI Foundations, Capital One · University of Minnesota
提出 Verbal Reinforcement Learning 统一框架,按语言反馈介入时机分为 grounding、deliberative feedback、learning signal 三大支柱
📌 工作参考价值(5 点)
- 在电商推荐 Agent 中,把用户自然语言任务描述(如“推荐适合夏天通勤的连衣裙”)作为 grounding signal,定义目标、商品属性状态和可执行动作(过滤、排序、解释),而不是硬编码规则。
- 推理阶段引入外部工具反馈(库存 API、价格校验、评价摘要)作为 grounded critique,修正推荐结果和解释文案,避免模型自说自话的盲区。
- 将用户对推荐结果的文字反馈(“太贵了”“风格不喜欢”)收集为偏好对,压缩成标量信号用于 DPO/PPO 训练,持续改进推荐策略;同时保留原始文本用于 feedback-conditioned SFT,保留更丰富的纠错信号。
- 训练一个专门的 feedback-tuned critic 来评估推荐解释质量或商品匹配度,替代通用 LLM 自评,能显著提升反馈可靠性和校准性,减少 sycophancy 偏差。
- 对用户反馈做 provenance 追踪,区分真实偏好、噪声和对抗注入,防止恶意反馈操纵推荐策略,尤其在 UGC 电商场景中。
语言与非语言智能体的隐状态协作研究
🧭 LLM 与非语言 Agent 的隐状态协作 ★ 深度解读
Adobe Media and Data Science Research · IIIT-Delhi · IIT Kanpur · SUNY at Buffalo
提出隐状态内部化,将非语言 agent 的连续表示投影为 latent tokens 注入 LLM,显著优于文本化协作
📌 工作参考价值(4 点)
- 用 latent tokens 替代文本描述传递模型信号:在对话推荐或生成式推荐中,若 LLM 需要融合精排模型/用户模型的连续表示(如 embedding、CTR 分布),训练一个轻量投影器(类似 LatentBridge)将这些表示作为 continuous tokens 注入 LLM,可避免将 embedding 离散化或文本摘要造成的信息损失。两阶段训练(先冻结 LLM 训练投影器,再联合 RL/SFT)能稳定收敛。
- 让 LLM 自主决定何时查询子模型:内部化后 LLM 学会任务特定的查询策略(如反事实查询、多步前瞻),且平均调用次数降低,可控制推理成本。在对话式搜索或策略规划中,允许 LLM 按需调用子模型(如检索器、精排器)并注入隐状态,能提升多步推理能力。
- 识别“不可文本化”信号:类似 Puzzle Interest 的任务,如果业务中存在无法用文本代理表示的信号(例如商品有趣度、用户偏好不确定性),latent injection 比 verbalization 有显著优势。可以设计类似评测来量化文本化损失。
- 工程细节可迁移:投影器为三层 MLP,输出维度与 LLM hidden size 匹配;使用特殊 token 锚点 + 连续 embedding 覆盖的方式注入;RL 采用 DAPO 可稳定联合训练,推理成本可控。
协调过程监督与结果奖励信用:智能体策略优化 TASPO 框架
🧭 Agent RL 信用分配优化 ★ 深度解读
Zhejiang University
TASPO 用轨迹对齐的特权信息在动作粒度重新分配 GRPO 结果优势,使过程监督不改变结果奖励方向
📌 工作参考价值(4 点)
- 在电商导购/搜索 Agent 的 RL 训练中,若只有订单、成交等稀疏最终奖励,不要直接把历史成功轨迹作为 teacher 做 SFT/蒸馏目标;可以先离线提取「条件规则/证据」并只对当前会话路径匹配,保留适用的特权指导,否则回退 GRPO,这样能避免无关路径信息带来的梯度冲突。
- 信用分配粒度应放在可执行动作(query、工具调用、商品筛选、消息推送等)而非 token 粒度;把 token 概率变化聚合成 action 级分数、再做 trajectory 内去均值与 tanh 重加权,可显著降低训练方差、提升收敛稳定性,并减少成功轨迹所需交互步数。
- 如果团队已有 GRPO 训练流程,TASPO 的改造很轻:只把 trajectory advantage A_i 换成 eA_i = A_i * w_i,保持 w_i 为正、有界 [1-ε,1+ε]、均值 1。这样 outcome 决定方向与平均更新力度,过程信号只做分配,避免了新增蒸馏 loss 和目标冲突,无需额外环境交互。
- 构造 PI 的外部 analyzer 可以是 frozen 大模型,且对模型选择不敏感(DeepSeek/GLM/Qwen 等差异小),工程上可以低成本复用;但前提是必须从 verified successful sibling rollouts 提取证据,并对目标 trajectory 做显式匹配。
CAST:用于训练可靠长程工具调用智能体的批判感知监督框架
🧭 工具调用 Agent 可靠性训练 ★ 深度解读
Arizona State University · Cisco Research
将稀疏任务结果转化为动作级批判监督,训练小型 critic 与 policy,使 4B/8B 模型在重复运行可靠性上超过大模型
📌 工作参考价值(4 点)
- 在电商智能客服、订单退款等高危长程工具调用场景,可借鉴 CAST 的「离线标注 + 训练轻量 critic + 在线验证」模式:用多智能体框架从历史轨迹中生成动作级对错标签和理由,训练一个 4B/8B 的小 critic 替代 GPT-4 等大模型做实时动作验证,大幅降低 token 与延迟,同时提升校准度(误报率从 46.8% 降到 13.6%)。
- 构建训练数据时,利用 privileged information(如真实动作轨迹)让标注更可靠,但 critic 和 policy 在训练与推理时只接触 step-local context,这种不对称设计值得迁移到业务 guardrail 中:离线有更多信息可用,在线判断只能基于部分观测。
- 用 critic 验证后的成功轨迹(critique-enriched successful trajectories)对 policy 做 SFT,可以显著降低 policy 对反馈的抵抗率(约下降一半),让模型在推理时更愿意根据验证信号修正动作,从而提升重复运行一致性(pass^4)。
- 实验表明,经 CAST 训练的小模型在 pass^4 上超过 Qwen3-32B 和 GPT-OSS-120B,说明在可靠性优先的在线服务中,可以考虑用专门训练的 4B/8B 模型替代大模型,节省成本同时保证稳定性。
奖励引导的 Agentic 广告视频生成框架
🧭 Agentic 生成 · 在线反馈 RL ★ 深度解读
ByteDance · Tsinghua University · The Chinese University of Hong Kong
将广告视频生成拆成策略选择与草稿生成,用在线反馈训练性能与质量奖励并通过DPO+GRPO优化,在TikTok显著提升CTR/CVR/Advv
📌 工作参考价值(4 点)
- 拆解生成管线,给业务反馈提供可优化抓手:不要端到端直接出最终创意,而是拆成「策略选择 + 草稿生成」两个阶段,分别用 process reward 和 outcome reward 监督。做电商广告文案/短视频生成时可借鉴:先让模型选择「改 BGM/加 hook/混剪」等策略,再生成具体脚本,使线上 CTR/CVR 能分别指导中间决策和最终内容。
- 用公平曝光管道收集偏好数据:自然流量中创意的 CTR 混杂召回/排序偏置,AgenticGen 采用同一产品下 N=12 个候选随机曝光、绕过排序、至少 1000 曝光才有效的 impression-balanced 管道。创意优选和生成式广告系统的 reward 建模都应优先采用此类剥离偏置的数据协议,再构造同产品上下文内的 pairwise BT 偏好。
- 性能 reward 与质量 rubric 必须互补:单独用 CTR 学 reward 容易偏向 clickbait;引入专家 rubric 并用「三人一致才保留」的人工标注训练质量 reward,GRPO 融合权重(文中 λ_draft=0.6 偏性能)可同时保住在线效果和创作质量。业务上可复制:在线指标 reward + 平台内容规范 reward 一起进 RL。
- 多模态特征工程与稳定训练 trick:性能 reward 输入视频帧、音频/ASR、结构化故事线、广告特征;音频带来最大单点增益(+1.88%)。DPO 加 NLL 正则(λ=0.2)防格式崩坏,GRPO 中多 reward min-max 归一化并用 group-relative advantage;这些都可直接迁移到广告创意生成和评估。
面向持久化 Agent 的感知中心架构
🧭 持久化 Agent 感知中心架构
NLP Lab, Fudan University · PL Lab, Peking University · CCDS, Nanyang Technological University · Hunyuan Team, Tencent
提出 Pera 架构,用感知与控制组件持续感知任务执行、内部上下文和环境变化,构建生命周期任务驱动长期服务的自适应
📌 工作参考价值(4 点)
- 在电商/广告的对话式推荐或搜索 Agent 中,可以引入独立的“感知层”,持续收集任务执行日志、用户上下文变化(点击、收藏、加购)和环境信号(库存、竞价、大促),而不是每次请求都从零开始;这能显著提升长期用户陪伴和策略自适应性。
- 借鉴 Pera 的“生命周期任务”抽象,把一次性推荐/出价/文案生成改造成可监控的长期任务:例如用户兴趣漂移检测、商品生命周期管理、广告创意衰退检测,由感知事件触发重优化,适合电商场景中的持续运营。
- 采用感知与控制分离的工程实现:感知组件聚合 episodic memory 和外部信号,控制组件只负责把信号转化为待办任务队列,避免把记忆、工具、决策逻辑耦合在单个 LLM prompt 里,便于在推荐系统中做在线策略迭代和灰度。
- 如果已有 RAG 或 memory 增强的推荐 Agent,可按 Pera 思路补充“环境变化感知”通道(如商品下架、价格变动、用户实时行为),驱动生命周期任务更新推荐候选与话术,提升实时性和成交转化。
面向开放世界地理定位的感知-假设-验证智能体推理框架
🧭 Agent 推理与证据验证定位
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出 GeoPAVE 双层智能体框架,以感知生成假设、验证证据支撑决策来缓解幻觉与上下文漂移
📌 工作参考价值(4 点)
- 借鉴感知-假设-验证双层结构:在商品图像识别/以图搜货中,先让模型生成候选品牌、款式、材质等假设,再调用商品知识库或属性检测工具对假设做 support/refute/refine,降低多模态 LLM 的幻觉率和错配率。
- 显式证据 grounding 适合召回/排序前的 query 理解:对用户上传图片或模糊描述,不直接输出结果,而是要求模型先提取可验证证据(logo、包装、场景文字)并逐步推断,减少上下文漂移。
- 将决策动作离散化为 support/refute/refine,可以作为推荐 Agent 中的通用校验模块,对 LLM 生成的推荐理由或商品属性进行多轮事实核查后再返回用户,提升可解释性和可信度。
- 构建包含多跳查询、多轮工具调用和结构化推理轨迹的数据集,方式可迁移到电商场景,用于训练/评估带工具调用的推荐 Agent,但需注意增加在线推理时延与成本控制。
《你知道我的意思:面向智能体对话式引用消解的基准》
🧭 Agent 多工具引用消解基准 ★ 深度解读
Bar-Ilan University · Allen Institute for AI
提出 CoRG 对话引用消解任务和 REPOREF 基准,最优 LLM 智能体仅 67% 成功率
📌 工作参考价值(4 点)
- 对客服/导购 Agent:把“用户说昨天看的那款”“活动页那个券”这类间接指代建模为多步工具搜索,而不是直接 embedding 召回;把候选发现和最终选择分开诊断。论文显示 70–92% 失败发生在候选没被 surface,所以优先投入查询改写、时间/作者/类目过滤等探索策略,而不是只优化 ranking 模型。
- 数据构建可复用 natural masking:从含商品 ID/URL 的真实会话中,用 LLM 把显式链接改写成自然间接表达,再用 identifiability/ambiguity filter 筛出可唯一定位样本;适合低成本构造测试集或训练数据。
- 工具/API 设计:保留只读、按平台对象组织的搜索与元数据工具,支持按时间/作者/类型过滤;给 agent 预算 B≈6 可能获得大部分收益(B=1→B=6 从 23% 到 64%),再往上成本高但增益有限。生产环境可设 6–10 次调用上限。
- 诊断 bucket 值得迁移:区分 surface mismatch、competitive alternatives、sparse evidence、commit-level(或 SKU/SPU/活动商品级)等,定位自己 Agent 的失败集中区;对低文本显著性的目标(commit 或具体 SKU 变体),需额外文件/属性/历史 diff 校验。
S3Gym:LLM 能否将自测与自评判转化为自我改进?
🧭 Agent 自改进能力评估基准
ByteDance Seed · M-A-P · TokenWave.AI
提出 S3Gym 交互基准,分离自测/自评/自改进并对比三种经验利用路径,揭示自改进受任务结构制约
📌 工作参考价值(4 点)
- 在对话式导购/搜索 Agent 中,把交互经验拆成两类:可复用策略走摘要记忆(如用户偏好规则、常见失败模式),精确状态依赖走原始历史/显式状态,避免用摘要丢失关键上下文。
- 参数更新(微调/RL)自改进不稳定且易负迁移,业务上优先用上下文/记忆注入做快速迭代,参数训练必须配套严格 held-out 环境与小流量回滚。
- 设计 agent 自改进评估时,把探索环境与线上评测分离,用可执行验证器做沙箱诊断;重点关注模型能否把反馈转化为策略,而非只看成功动作识别率。
- 对推荐/广告场景的 Agent 策略优化,先判断任务结构:规则型任务可压成规则库,状态敏感任务保留轨迹;可借鉴 S3Gym 的评估协议做离线自我改进能力审计。
WHALE:权重与执行框架交替优化的简单配方
🧭 Agent 权重与执行框架联合优化 ★ 深度解读
KRAFTON · KAIST · Stanford University
交替执行模型权重更新与 harness 搜索,实现 Agent 系统联合优化,大幅超越单组件和 prompt 级优化
📌 工作参考价值(4 点)
- 把 agent 的 harness(工具接口、格式解析、终止策略、错误处理等代码)纳入优化范围,而不仅仅调 prompt;在电商搜索 Agent 中,商品检索 query 改写/后处理、结果格式化、答案抽取、turn 限制等代码都可被联合搜索优化。
- 采用交替训练:模型在固定 harness 下做 rejection sampling 微调,然后固定模型搜索 harness;使用小步交替而非先训练完再做 harness 搜索,避免对旧 harness 过拟合,且能更快达到更高准确率。
- 用训练信号(如 training reward 滑动窗口不再改进)做 per-phase early stopping,自动决定切换时机,减少超参调节;工程上可实现为 patience 规则。
- 先用低成本 harness 搜索做瓶颈诊断:如果 harness 搜索能快速匹配 weight-only 的峰值,说明 harness 是瓶颈,优先优化 harness;如果 harness 搜索收益很低,可能模型是瓶颈,需要先做权重更新,指导资源投入。
先评估后改进:自动科研 Agent 的评估准则自动归纳
🧭 自动科研 Agent · 评估引导迭代
Zhejiang University · University of Electronic Science and Technology of China · Beijing University of Posts and Telecommunications · Zhejiang University of Technology
执行前自动归纳任务专属评估准则,引导科研 Agent 执行并逐条验证修订,跨基准平均提升 2.08–16.8 分
📌 工作参考价值(4 点)
- 对电商/推荐 Agent 的开放任务(如 query 改写、推荐解释生成、push 文案选词),可先用 rubric induction 把模糊指令拆成可逐条校验的原子目标,例如相关性、多样性、意图覆盖,再让 Agent 执行,减少后续返工。
- 评估先行架构可以集成到现有 RAG/推荐流程:执行前生成评估标准,执行中逐条对照验证,相当于把 LLM-as-judge 前移,避免全量重写。
- 迭代修订只针对未满足的准则做定向修改,比直接重生成更省 token 且能保持输出稳定性,适合低延迟的线上 Agent 服务。
- 跨多个 backbone LLM 和 agent harness 的稳定增益说明先验 rubric 作为控制机制不依赖特定模型,可做电商 Agent 的平台化评测与跨系统迁移。
AgentKernel:信任原生的智能体操作系统
🧭 Agent 安全操作系统设计
DeepKernel Lab · Tsinghua University
提出信任原生的智能体操作系统 AgentKernel,以身份、感知、认知、执行四支柱提供强制不可绕过的安全边界
📌 工作参考价值(4 点)
- 在电商/搜索推荐 Agent 中,将输入处理从单点过滤改为分层渐进式感知校验,避免恶意商品描述、用户评论等不可信内容直接进入决策链路。
- 对长期记忆(用户画像、历史会话、商品知识库)引入信息流控制与污点标签,防止低可信来源的内容污染记忆,从而降低错误推荐或越权操作风险。
- 工具调用权限应下沉到内核级强制边界,而非停留在应用层 middleware;在允许 LLM 调用改价、发券、修改广告出价等高权限工具时,可借鉴不可绕过的执行控制架构。
- 跨组织协作(平台、商家、广告主)的 Agent 身份由统一内核管理,可设计可信的委托与授权机制,减少权限滥用和越权访问。
面向 Agent 搜索的交互感知检索
🧭 Agent 搜索 · 交互感知稠密检索 ★ 深度解读
The University of Queensland
提出交互感知检索器 ITER,用历史查询与轨迹相对监督提升 Agent 搜索证据发现
📌 工作参考价值(4 点)
- 在电商/导购 Agent 的召回或重排中,可将「主需求 + 当前 query + 已尝试 query 序列」作为排序输入,显式告知模型已探索方向;即使不换模型,也能减少已看商品/答案的重复置顶,优先曝光能补充新信息的候选。
- 从用户或 Agent 轨迹构造三层负样本:已点击且有效作为冗余负样本(最高权重,如 3.0),已点击无效作为困难负样本(1.0),曝光未点击作为弱负样本(0.3)。这比传统随机负采样更贴合“边际增益”目标,适合精排/重排阶段。
- 工程上可采用去重式结果接口:把已曝光/已点击的 item 移到侧栏但仍可访问,不占主列表坑位,从而提高后续 step 的新候选覆盖率;论文中该设置带来 26.7% 的延迟访问正样本,对推荐/搜索 Agent 同样有借鉴意义。
- 跨模型迁移时,避免把 free-form pre-search reasoning 作为核心特征;不同 LLM 表达差异大,AgentIR 虽然 search recall 高但 task success 不稳。结构化历史(主 query + 子 query 序列)具有更好的跨 backbone 鲁棒性,更适合多模型混用的线上环境。
PersonaForge:真实多轮用户模拟与 Agent 训练评估
🧭 Agent 用户模拟 · 多轮交互训练 ★ 深度解读
Peking University · Xiaomi LLM-Core · The University of Hong Kong · Renmin University of China
构建 SOUL 驱动的真实多轮用户模拟器,从真实查询反向生成 6.3K 训练数据与 138 任务基准,显著提升 Agent 交互效率与任务完成率
📌 工作参考价值(4 点)
- 构建电商导购/客服 Agent 的多轮训练数据时,优先从真实搜索/会话日志的种子 query 出发,用 LLM 反向推断用户画像与 connected memory,而不是随机生成 persona;这样能保留隐藏意图,让模型学会逐步澄清需求。
- 用户模拟器的提示词可采用 SOUL 结构:身份段落 + 抽象行为参数(消息长度、正式度、emoji)+ connected memory 固化 session 事实;避免用具体 utterance 示例,防止多样性崩溃。这一设计可迁移到任何对话式推荐/客服的仿真用户。
- 在数据合成 pipeline 中预设三阶段质量控制:生成前检查 persona 一致性,运行时用消息长度阈值(如 1500 字符,真实用户 99.2% 以下)检测角色反转,后处理过滤退化模式;可有效降低合成数据污染。
- 评测多轮推荐/搜索 Agent 时,设计渐进信息披露和嵌入矛盾的任务,并按交互效率、工具适当性、任务完成、回复质量四维打分;论文表明这类数据训练后轮次减少约 20%、无效工具调用大幅下降,同时任务完成率提升,对线上体验直接有益。
用世界模型扩展自动研究智能体训练
🧭 智能体 RL 训练效率优化
University of Illinois Urbana-Champaign · Amazon
用世界模型替代真实环境执行,消除 AutoResearch RL 训练瓶颈,并引入去偏与降噪提升稳定性
📌 工作参考价值(4 点)
- 面向 Agent 后训练 RL:当环境交互成本远高于生成成本时,可训练一个世界模型替代真实环境执行,缓解训练吞吐瓶颈;在电商场景可模拟用户点击、搜索反馈等环境动态。
- 世界模型奖励存在偏差和噪声时,可借鉴 Online Debiasing 维护偏差估计并修正奖励,结合 Inverse-Variance Denoising 对高方差样本降权,提升 RL 训练稳定性。
- 小模型智能体后训练:用世界模型蒸馏环境反馈,可在有限算力下让 4B/9B 智能体逼近甚至超过更大开源模型,适合业务侧轻量级 Agent 部署。
- 该方法在 embodied VLA 策略上也有效,说明世界模型 RL 的分离生成与执行成本的思路具有跨任务迁移潜力。
智能体式工件创建:系统、评估、原则与机会
🧭 Agent 智能体工件创建综述
The Hong Kong University of Science and Technology (Guangzhou) · Zhejiang University · University of Science and Technology of China · Tsinghua University · The University of Hong Kong
综述智能体式工件创建系统,提出有状态构建、运行时验证与反馈重定向的原则
📌 工作参考价值(4 点)
- 在广告创意/商品文案生成中,把生成结果建模为可操作状态,引入运行时验证(如自动检查品牌合规、卖点覆盖)并针对失败局部修复,避免每次全量重生成
- 任务分解需权衡局部复杂度和重组成本:对于强耦合的推荐解释或营销物料,分解过细反而增加协调开销,适合采用分层但保留共享上下文的 agent 架构
- 评估 agent 生成质量时,不要只依赖 LLM 作为评判者,因其可能与生成器共享偏好盲区;应加入业务指标、用户行为或人工抽检等独立信号
- 变更后要重新验证受影响状态,例如广告文案修改关键词后,需重新检查页面落地页一致性、合规性和转化预期
Astar:从历史迭代中学习提出 AI 系统进化方向
🧭 自进化AI系统 · 进化方向提案 ★ 深度解读
Alibaba Group · Zhejiang University
训练专用模型从历史实验日志中学习提出有效进化方向,在 Lazada 广告召回上超越人类专家与 GPT-5.5
📌 工作参考价值(4 点)
- 用历史实验日志构建“方向提案”训练语料:将任意两个实验版本配对,用 loss 曲线判定优劣,可把稀疏迭代日志扩展成密集监督信号;同时用 AST 清理、配置白名单去除无关改动,适合在广告/推荐模型迭代日志上复用。
- 训练轻量 reward model(0.6B 即可 AUC 0.8094)预测改动是否提升指标,替代真实训练验证做候选筛选和 RL 奖励,可大幅降低 AutoML/实验平台试错成本;在业务上可用来预筛离线实验参数。
- 生成式方向提案用分层约束(主方向→模块→具体动作)代替直接输出,显著压缩搜索空间;在推荐系统自动调参、召回模型结构搜索等场景可以借鉴,让 LLM 按固定层级生成,提高可控性。
- 闭环设计:把每次真实执行结果回收为训练样本,让提案模型随目标系统一同进化,避免“静态模型过时”;可集成进现有模型迭代平台,实现每周自动产生并验证多个改进方向。
BALMS:长期心理健康感知的智能体 LLM 基准测试
🧭 LLM Agent 在纵向时序健康感知的评测
Dartmouth College · University of Cambridge
首个系统性基准,评估 LLM Agent 从长期可穿戴信号预测心理健康得分并生成有理据解释的能力
📌 工作参考价值(4 点)
- 在电商/推荐场景,用户行为序列同样长且稀疏,零样本 LLM 直接预测数值型指标(如 CTR、GMV、复购率)可能不如简单均值或周期基线;上线前必须用域内基线严格对比,避免高估 LLM 能力。
- 将原始时间序列压缩为紧凑的语义化特征(如“活跃度”“睡眠质量”)能显著提升 LLM Agent 的推理效果,同时降低上下文长度;可借鉴到用户行为序列的语义摘要,再交给 LLM 做归因或策略生成。
- CoT 对推理型骨干有增益,但不保证时间定位和数值正确性;在 Agent 设计中应加入强制检索步骤、外部工具校验或硬约束,而非仅依赖模型自我解释。
- LLM-as-Judge 可用于自动评估生成式解释的质量,但需将其与数值预测准确率解耦,因为 LLM 可能对流畅但事实错误的 rationale 给出高分;建立多维评估体系可迁移到推荐解释、诊断报告等场景。
ContextPilot:细粒度强化学习驱动的 Agent 主动上下文管理
🧭 Agent 主动上下文管理 · 细粒度 RL ★ 深度解读
Tsinghua University · Tencent Youtu Lab · Shanghai AI Lab
提出 ContextPilot,扩展规划、长期记忆与软卸载工具,并用 context-aware partial rollout 与快照级信用分配训练 Agent,在 32K 窗口下超越更大上下文基线。
📌 工作参考价值(4 点)
- 在电商搜索/推荐多轮 Agent 中,把「上下文管理」显式工具化:提供 planning、结构化长期记忆(实体/事件/关系)和软删除/折叠工具,让模型自主决定何时写入记忆、何时压缩旧搜索结果,而不是依赖固定截断或总结规则。可直接借鉴 ContextPilot 的工具设计,例如将搜索结果中高价值商品信息写入记忆,将低价值长文本 summarize/compress,并用可搜索索引恢复。
- RL 训练时不要均匀探索所有工具调用:用上下文长度变化和生成熵变化给 context editing 动作打分,对高敏感动作(如删除关键历史、写入记忆)做额外分支采样。在推荐 Agent 的 GRPO/RLHF 中,可以对“切换推荐策略/更新用户画像”等关键动作增加 rollout,避免把预算浪费在普通检索步骤。
- 信用分配从 trajectory 级下沉到 snapshot 级:对某个中间上下文状态,取其所有后续分支的奖励均值作为该状态价值,再做组内标准化 advantage。这个 trick 能降低方差,适合长链路推荐/搜索 agent 的中间决策优化,避免用一个最终结果奖励惩罚/强化无关节点的上下文编辑。
- 业务上可复用“更小上下文窗口 + 更强性能”的结论:ContextPilot 以 32K 窗口超过 128K 原模型,token 使用稳定在 8-10K vs baseline 30K,直接降低线上多轮搜索/推荐的 LLM 成本与延迟。
当记忆接受梯度:面向智能体推荐系统的协同向量记忆
🧭 Agent 记忆设计 · 协同向量记忆 ★ 深度解读
Shenzhen Technology University
用 LightGCN 协同状态作为 LLM Agent 持久记忆,通过对比对齐和掩码 listwise 协同训练让模型学会读取向量记忆,在 4 个指令推荐基准上超过文本记忆 Agent 且零额外维护调用
📌 工作参考价值(4 点)
- 把 Agent 的用户记忆从“文本叙事”拆成“轻量文本画像 + 冻结协同向量记忆”。电商/推荐场景可复用已有的 LightGCN、SASRec、SVD++ 等用户与物品 embedding 作为记忆库,避免每次交互后调用 LLM 重写,省去大量 token 与串行延迟。
- 采用 candidate-conditioned retrieval:用当前候选集 embedding 质心去用户历史里检索 top-K 最相关物品状态,而不是取最近 K 个;这对排序/推荐 Agent 在线推理便宜且与当前决策相关。
- 不要只把 embedding 塞进 prompt。需要 gated projector + 低秩 LoRA 构成可训练的 memory reader,并用“候选 title 随机 mask + listwise margin loss”强制模型依赖协同 token;否则 LLM 会走文本捷径,向量 token 反而干扰。
- 推理阶段用 pointwise yes/no logit 打分并并行请求,避免 listwise 生成排序的解析失败;指令位置可以用只基于训练集统计量的零样本规则卡选择,避免验证集泄漏。
EvoUndo:LLM Agent 自进化的可恢复性约束框架
🧭 LLM Agent 自进化安全与恢复性验证 ★ 深度解读
Independent Researcher
提出 EvoUndo,将 witness 捕获、反事实验证、效应合约与分层恢复语言结合,使 LLM 自修改 harness 可验证回滚
📌 工作参考价值(4 点)
- 给业务里的自进化 Agent(自动改 prompt、改工具注册、改配置、改中间件)增加恢复性验证:每个 mutation 必须同时提交 witness capture 和 recovery program,并用 counterfactual states 做 round-trip 验证,不能只看 forward capability 提升。
- 把 effect contract 和运行时副作用 diff 引入 admission:未声明副作用直接拒绝,可防止自动修改静默污染线上状态;这对广告/电商 Agent 的配置、路由、工具热更新尤其有用。
- 恢复语言分层设计:L0 覆盖配置/prompt/路由/工具,L1 增加中间件顺序、listener、文件、socket 等结构化状态;诊断粒度不必越细越好——语言受限时给精确 state address 很关键,语言丰富时粗分类反馈在 gpt-oss-120b 上反而更优,可避免过度分解和序列倒置。
- 用 Wilson score LCB 作为小样本准入门槛,并隔离 hidden counterfactual 状态;发展集 OOD 增强会把误收率从 16.8% 压到 0%,但会损失约 15pp yield,需要在 precision-coverage 间显式权衡。
更智能验证,更深远进化:通过行为感知验证实现高效 Harness 进化
🧭 Agent 自进化 · 行为感知验证 ★ 深度解读
School of Data Science, Fudan University · Shanghai Key Laboratory of Data Science · College of Computer Science and Artificial Intelligence, Fudan University
提出预算感知的 HARNESSLENS 框架,用行为相关任务和可归因证据门控筛选候选修改,显著提升 harness 进化样本效率
📌 工作参考价值(4 点)
- 评估候选修改时,不要用固定验证集评估所有候选;根据候选意图选择相关任务(supporting trajectories + 相关目标/工具),使信号不被无关任务稀释,回归检测更敏感。
- 采用可归因证据门控:要求观察到的改进能归因到具体行为变化(如 recovered / stable success),仅聚合指标提升不足以接受修改,避免噪声导致接受有害修改。
- 预算感知控制器:设定总交互预算,每次迭代前检查是否能覆盖完整验证+确认轮次,否则停止,避免评估不充分。
- 轨迹诊断与经验复用:把每次 rollout 轨迹转化为可复用经验和缺陷,支持后续候选生成和验证,提高样本效率。
朴素提示词优化:重新思考复杂提示词搜索的必要性
🧭 提示词优化 · 教师-学生轻量迭代 ★ 深度解读
Purdue University
提出单谱系迭代的提示词优化方法NPO,用强教师模型结合轨迹反馈,以更少rollout达到或超越复杂搜索方法GEPA
📌 工作参考价值(5 点)
- 提示词工程做减法:NPO 证明在固定 student 模型下,用单谱系 + 滑动窗口轨迹反馈 + 强教师(如 GPT-5.5)就能达到甚至超过 GEPA 等复杂搜索方法;在电商/广告 agent 中可直接套用此简单框架,避免维护多个候选 prompt 池和 Pareto 选择,节省工程复杂度。
- 公平评测技巧:使用共享伪随机种子生成环境实例,让不同方法在完全相同的问题分布上比较,降低环境噪声;在业务 AB 测试或策略对比时,若环境可 seed,可借鉴此设计提高对比的统计可靠性。
- 约束解码隔离格式错误:用 token-level trie 约束模型输出合法动作(如 JSON 字段、合法选项),使性能评估专注决策质量而非格式好坏;在电商推荐/搜索等结构化输出场景(如生成 query、商品属性)可显著减少不必要的失败,同时保留 reasoning 自由。
- 跨模型迁移 prompt:在便宜小模型上优化出的 prompt 可直接迁移到同家族大模型且收益保持(如 Qwen3-8B 优化后迁移到 Qwen3-32B),跨家族也有正向收益;实际工作中可先在小模型上迭代 prompt,再部署到线上大模型,避免重复优化成本。
- 防泄漏监控:对比优化 prompt 与训练/验证集答案的重叠度,发现主要积累训练集信息而验证集几乎不泄漏;业务中做 prompt 自动优化时也应监控此类污染,避免上线后效果虚高。
RedEvoAgent:经验驱动技能演化的自动红队智能体
🧭 LLM Agent 技能进化与安全红队 ★ 深度解读
City University of Hong Kong · Shenzhen MSU-BIT University
将攻击轨迹蒸馏为可读技能,并用验证棘轮做候选更新,提升黑盒 Agent 攻击效果与工具效率
📌 工作参考价值(4 点)
- 对商品推荐/搜索 Agent 的策略迭代:把召回-排序-重排或 query 改写策略写成可读 skill 文档,候选版本只有验证集或小流量指标严格优于当前策略才上线;失败候选进入 rejection context,减少反复生成无效配置。
- 在多工具 Agent 链路中做“决定性工具归因”:不按工具出现频率记功,而把成功案例归因到直接带来正向反馈的工具/动作,可避免策略坍缩到高频但低效的工具。
- 工具/策略先做隔离评分画像:对候选工具在固定数据上单独评估,再让 LLM 结合轨迹总结优先级;比检索全量历史轨迹上下文成本更低、可读性更好。
- 可零样本复用与安全测试:在一个模型/执行环境上进化出的 skill 可迁移到其他模型/harness,适合多租户电商 Agent 的对抗测试、鲁棒性评估;工具调用次数也可作为效率指标纳入评估。
人格-执行分离:一种在审计下演化 LLM Agent 的架构模式
🧭 Agent 架构模式 · 信任域分离 ★ 深度解读
Independent Researcher, Beijing, China
提出人格-执行分离(PES)架构,把 LLM Agent 的形象面与执行面分置不同信任域,以受治理契约桥兼顾自由演化与执行审计
📌 工作参考价值(4 点)
- 在电商/推荐 Agent 中把“人设/话术”与“下单/券发放/支付”等执行面分到不同信任域;人设可高频 A/B 调优,执行侧规则/审计不变。用 MCP 工具调用 + ACL + deny/ask/allow 审批矩阵做唯一过境通道。
- 采用“绑定而非投影”:人设侧只持有 capability ID/SOP 引用,不复制执行逻辑或敏感数据;状态摘要可以回流,数据正文默认不流出,仅通过分级 DLP 脱敏例外(如订单号/金额摘要)。避免双份 persona 导致漂移。
- 对核心身份与表层人设分层:员工 ID/角色/SOP 绑定为审计锚点,不能随话术自由变更;审计 ledger 绑定核心身份而非 prompt 文本,防止 prompt 注入或 profile poisoning 污染执行记录。
- 工程化落地时,用 ADR 记录每个架构决策和 rejected alternative;如果必须单域实现,也要显式建立“类型化变更对象 + 外部执行门 + 稳定审计锚点”,否则单域方案会在更高耦合成本下重建 PES。
校准到知而不校准到行:伪造证据使 LLM Agent 承诺不可知问题
🧭 LLM Agent 决策校准与 SFT 修复
Independent Researcher
专业外观的市场面板大幅提升 LLM Agent 对不可预测问题的承诺率,定位为行动门控失效且可通过 SFT 修复
📌 工作参考价值(4 点)
- 在电商/广告的 LLM Agent 决策链路中,对“不可预测”类问题(如未来销量、市场波动)增加显式门控:在行动前先让模型或一个小型分类器判断问题是否可答,避免被权威格式的不相关证据诱发错误承诺。
- 对输入给 LLM 的指标/面板等证据进行可信度过滤:即使数据是伪造的,专业外观仍会显著提升模型承诺率,因此需验证数据来源,或通过 prompt 强调“仅使用问题本身信息,忽略装饰性面板”。
- 可以使用少量合成数据 SFT 一个小模型(如 3B)来训练“拒绝不可知”的门控,实验显示 540 个案例即可将承诺率降至 0 并跨领域迁移,适合业务中快速构建风险控制模块。
- 注意响应格式:为模型保留推理空间(如允许 chain-of-thought)是门控生效的关键,强制输出决策的刚性格式会导致模型自信犯错,因此在设计 agent prompt 时避免直接要求“是/否”而不给推理步骤。
用户自定权限策略能提升对 AI Agent 越权的防护吗?
🧭 Agent 权限控制与人机协作
用户预设 allow/ask/never 规则反而比逐动作审批和模型审查放过更多越权动作,主因是用户大量选 ask
📌 工作参考价值(4 点)
- 在电商/Agent 权限系统里,不要把“用户预设规则”当作自动降低越权风险的手段:用户倾向选 ask,把决策推回运行时,总干预成本未必下降。默认策略应更保守,例如高风险动作默认 never 或需主动开启 allow。
- 将 Agent 动作按后果类别(资金、隐私、不可逆操作等)映射为自然语言 allow/ask/never 规则,可以减少运行时 prompt 次数(18→10.9),但前提是规则设置成本可控。可提供预设安全策略模板,避免用户逐条从零配置。
- 越权动作大部分在用户批准后执行,说明仅靠“规则+人工确认”不够。批准界面应突出风险信号、变更摘要和不可逆提示,不能只列动作名称。
- 对自动下单、改价、群发消息等电商场景,建议把动作后果分级与实时风控结合:规则负责减少常规打断,风控/模型审查负责捕获异常越权,而不是依赖用户预设规则兜底。
基于 Agent 推理的长视频多镜头一致性编辑
🧭 视频编辑 · Agentic Reasoning
Nankai University · Tencent
提出 Agentic 框架结合 LLM 与 VLM,解决长视频多指令编辑中的跨镜头一致性、指令解耦与时空结构零破坏问题
📌 工作参考价值(4 点)
- 主要是视频编辑领域的学术贡献,与电商/搜索推荐业务直接关联较弱;但其中 LLM + VLM 协同的 Agentic 任务分解 思路可迁移到多模态商品视频/短视频生成审核:将复杂指令拆解为多个子任务,分别由 LLM 做指令规划、VLM 做视觉校验,提升生成内容的一致性。
- 提出的 Cross-Shot Editing Consistency (CSEC) 与 Zero-Destruction on Spatiotemporal Structure (ZDSS) 评估维度,类似推荐系统中“跨会话兴趣一致性”和“无侵入式推荐”,可借鉴其评估指标设计,度量多步交互或长周期推荐中的连贯性与非破坏性。
- 长视频分段处理中避免实体碎片化的思想,可用于电商详情页视频自动剪辑或广告素材拼接:根据实体分布动态切分而非固定时长,减少实体断裂。
- 整体业务可借鉴点有限,若团队涉及多模态内容生成或 AIGC 质量评估,可关注其 Agentic 编排与人工评估指标。
WikiSkill:把 Agent 经验编译为持久知识驱动技能进化
🧭 Agent 技能进化 · 持久知识库协同 ★ 深度解读
Google Research · Virginia Tech
提出 WikiSkill 框架,通过持久 wiki 知识层将 Agent 执行经验持续沉淀为可复用模式,显著提升技能进化效果与跨模型迁移性。
📌 工作参考价值(4 点)
- 可借鉴三层知识架构:把线上推理产生的完整轨迹存成 raw 层,把失败/成功模式沉淀到 wiki 层,把可执行 SOP/工具用法写成 skills 层;电商搜索推荐 Agent 在做 prompt/SOP 自动优化时,可以让知识持续累积而不是每次从零重新扫描。
- 优化阶段限制 Inference Agent 访问 wiki,只允许 Skill Proposer 读取持久知识:直接给执行器 wiki 会让其借道 wiki 绕过 skill,降低轨迹对 skill 优化的信息量;对应工程实现是训练/优化时隔离知识库与线上 agent,只在 proposer 侧使用。
- 用 validation gating + skill-impact.md 审计:每次 skill 变更都在验证集打分,接受才保留,拒绝则回滚 skill 但 wiki 不重置;记录 proposal diff、分数、是否接受,避免重复提交失败方案,适合电商推荐 Agent 的 prompt 自动化调优。
- 跨模型迁移经验:小模型发现的通用工作流可以迁移到大模型、甚至超过后者自进化技能;在预算有限时,可让小模型产出/优化电商搜索的 query 改写或推荐解释 SOP,再部署到大模型,降低 token 成本。
CaSKG:面向可扩展 Agent 技能检索的反事实因果技能图
🧭 Agent 技能图构建与图谱化检索 ★ 深度解读
Jilin University · Ant Group
用反事实因果探针校准技能图边置信度,在六模型两基准上全面超越 GoS 等检索基线
📌 工作参考价值(4 点)
- 技能/工具库检索可拆成“高召回候选图 + 预算化边校准 + 状态门控发布”:先在离线阶段用多信号(语义、词法、I/O、结构)挖出候选边,再用有限 LLM 预算只验证高价值边,线上只做轻量图传播;电商 Agent 工具库、SOP 流程库可以直接复用。
- 用 LLM 反事实探针评估方向性依赖:对候选边做 remove/substitute/reorder 三类文本探针,能比相似度/共现更可靠地区分“前置依赖”和“只是相关”,适合做工具/API 前置条件、状态变更、校验步骤的边质量评估。
- 发布图时采用 confirmed/uncertain/rejected/scaffold 四态权重,而不是全量发布所有候选关系;可避免弱边在图传播中污染上下文,推荐/搜索知识图谱的边精选也可借鉴。
- 在线检索用 query seed + personalized PageRank 在可靠性加权图上扩展,返回紧凑技能包;相比全文库塞入和纯向量检索,既省 context 又能补回非字面相关但流程必需的技能,适合 LLM prompt 组装。
层级LLM智能体中的贝叶斯自我升级:知道何时求助
🧭 层级LLM智能体自我升级决策 ★ 深度解读
Independent Researcher
把生成中途的模型求助建模为基于能力后验的最优停止问题,证明阈值策略并给出校准驱动的后悔界
📌 工作参考价值(4 点)
- 在电商/Agent 级联路由中,不只做 pre-router 或 post-verifier:引入 per-token 或 per-step 的“能力后验”B_t,在生成中途触发升级,能省下注定失败的 junior 生成成本。真实代码级联里,streaming 升级到 75% 准确率只用 0.98× junior 成本,而 post-hoc 路由要 1.41×。
- 原始 entropy / margin / probe 只能当 evidence,不要直接当概率用;用标注轨迹学 competence posterior,训练目标优化 Brier score 而不是只看 ECE。ECE 低不代表安全,Brier score 同时惩罚 calibration 和 refinement。
- 把 competence posterior 与决策阈值解耦:成本、延迟预算、senior 模型变化时,只重跑 offline backward induction 更新阈值表,不用重新训练。适合业务频繁调价、换大模型或调整延迟 SLO。
- 跨模型交接只传文本 trace、工具调用历史、检索证据,不传 hidden state / KV cache,保持模型无关;这可以复用到小模型 agent 负责长尾 query、复杂任务再升级大模型的架构。
EviGraph:面向信息搜索智能体的可验证证据构建
🧭 Agent 搜索证据图与过程奖励 RL ★ 深度解读
WeChat, Tencent Inc., Beijing, China
将智能体网络搜索重构为可验证证据图构建,以共享策略分离搜索与证据记录,用稠密过程奖励直接监督证据基础
📌 工作参考价值(4 点)
- 对电商导购/搜索 Agent:把「检索到的商品或卖点」与「用户查询约束」显式建图,每个卖点必须锚定来源 span 并标记 support/conflict;可避免用相关但时间、地区、数值错误的页面回答,适合商品事实校验、选品问答、推荐理由生成。
- 采用「冻结 verifier + 确定性 structural validator + 可学习 policy」的分离架构:把不可靠的语义判断和结构化校验分开,policy 只提图编辑请求,错误可局部归因;工程上可用规则引擎做图校验,降低对单一 LLM 的依赖和幻觉。
- 过程奖励设计可迁移:coverage 用 potential-based shaping,配合 canonical signature 去重、per-triple bonus cap、KL penalty,能抑制 reward hacking 和重复记录;可用于训练搜索/推荐 Agent 的中间 grounding。
- 多约束查询可拆成 candidate–constraint claim,每个 tag 独立追踪 MISSING/SUPPORT/CONFLICT,适合电商商品属性(产地、年份、价格、代言人)验证和 push 文案事实核查,让 Agent 明确知道还缺哪些约束。
检索-匹配-升级:VLM蒸馏交叉编码器与Agentic VLM商品链接
🧭 商品实体解析 · 检索-匹配级联 ★ 深度解读
DoorDash Inc.
用VLM共识标签蒸馏轻量交叉编码器,并把困难尾部升级给自托管Agentic VLM,实现按难度路由的商品链接
📌 工作参考价值(4 点)
- 难度路由级联:用 cheap text-only cross-encoder 产出 calibrated score,设 HIGH/LOW 双阈值,只把 MEDIUM 升级给昂贵 VLM;成本差可达 4 个数量级,端到端覆盖从 68.1% 提升到 77.1%。
- 标签飞轮:dual-VLM consensus 自动生成训练标签(保留 87% 一致、丢弃 13% 不一致),5.3M 标签替代 40k 人工标注,放大 130×;业务上可先让闭源 VLM 产生伪标签,再用 ops 审计校准。
- 特征工程与修复:原始 barcode digits 直接进 cross-encoder 比 [BARCODE_MATCH] 标志更好(+0.8pp F1),但需防 rare collision:用 barcode dropout + name-similarity guardrail + 合成同 barcode 冲突 name 对,再以 guardrailed teacher 蒸馏学生,把 stress audit R@P98 从 0.200 拉到 0.768。
- Agent 部署与评测:自托管 open-weight MoE VLM 替代 closed frontier,同精度成本 1/7,recall 仅 -4pp;通过 MCP 解耦 search backend、限制 tool loop ≤4 轮、加同零售商证据/空搜索 inconclusive addenda 稳定行为;同时主动构造对抗性子分布,补足 held-out 看不到的稀有失败。
JIT-Agent:以即时 Harness 演化扩展智能体框架智能
🧭 Agent harness 即时生成与演化 ★ 深度解读
LV-NUS Lab
训练 27B 元模型按任务即时生成/修复/演化 agent harness,使普通骨干模型超越更强基线与固定运行时
📌 工作参考价值(4 点)
- 把推荐/搜索 Agent 的执行框架拆成可生成模块:将 memory、planning、action、capability orchestration 四个模块协议化,用一个轻量 meta 模型按任务动态生成 harness,比固定 pipeline 更适配电商场景中深度研究、购物规划、多工具协同等异构任务。
- 三阶段训练闭环可直接复用:先用专家生成合法 harness 做 SFT+偏好对齐,再用失败修复轨迹教模型快速修 bug,最后用 Evo-GDPO 以历史最优为基线做在线偏好优化,保证 reward 提升同时不牺牲 latency/cost。
- 用“reward 提升且效率不退化”硬约束筛选候选:偏好函数同时考虑 reward、latency、cost,避免靠堆 token 换分数;实验显示 JIT harness 在性能提升的同时 token 成本平均降 36%,适合成本敏感的电商/广告 Agent 系统。
- 引入 streaming archive 实现无参数持续进化:线上任务执行后,只有突破 frontier 的 harness 才写入银行,后续任务检索相关历史 harness 作为参考。这种轻量记忆库可迁移为搜索推荐 Agent 的跨任务经验积累。
SkillForge:通过可验证技能演化训练强化学习智能体
🧭 Agent 技能演化与 RL 训练优化 ★ 深度解读
AMAP, Alibaba Group
让 LLM Agent 通过显式技能调用和基于证据的验证,在 RL 训练中持续积累并修正可复用技能
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 中,可将经验从原始日志蒸馏成结构化技能(title/intent/principle/when to apply),检索时只注入 title+intent 的紧凑目录,调用后展开完整内容,能控制 prompt 长度与 KV cache,适合技能库/策略库持续膨胀的场景。
- 借鉴 evidence-based verification:对每条技能/策略模板维护 EMA 成功率与调用次数,计算 underperformance score,优先让 LLM 反思和改写高失败率策略;可用于推荐 Agent 的 prompt 模板、工具选择策略、query 改写规则库的持续治理。
- 显式技能调用标签把技能使用变成可归因事件,RL 或线上日志可直接统计哪些策略真正影响转化/点击,避免“注入一堆 prompt 但不知道有没有用”;可迁移到生成式推荐的 Semantic ID 策略库或多 Agent 工作流节点的版本管理。
- 多路径技能归纳:从成功会话抽取、失败会话提炼修正、成功/失败对比分析差异生成新策略,且弱模型演化出的技能可迁移到强模型,能降低高质量策略库的生成成本。
StarHarness:用分层搜索为企业环境演化 Agent Harness
🧭 Agent harness 演化 · 环境适配 ★ 深度解读
ServiceNow · Mila · Université de Montréal
提出 StarHarness,在冻结模型下分层搜索演化 Agent harness,企业基准提升 20-35pp 并可跨模型迁移
📌 工作参考价值(4 点)
- 对电商/广告/搜索推荐里的 Agent 工具链,可以不微调模型,先优化 harness(prompt、tool schema、MCP 参数预处理、subagent 结构、finish 逻辑);本文在 4-12 个 accepted patches 内拿到 20-35pp 提升,工程成本很低。
- 借鉴其分层任务池:按 baseline failure mode、task score、verifier pass rate 抽样,再把任务拆成 proposer 可见 search set、隐藏 selection set 和 held-out;能直接评估泛化、防止 harness 搜索过拟合到具体 case。
- 演化循环中加入便宜门控:scope/import/smoke 校验 + 单任务 test flip,不通过就不跑全量 selection eval;生产环境可大幅降低搜索成本。
- 实际可复用的修复类型:清理 null/empty/placeholder 参数、补充 schema 约束、把隐式业务规则写进 prompt(如 priority 与 impact/urgency 联动、保留 relationship 字段)、把日期/金额计算下沉到确定性工具;这些都适合迁移到订单、商品、营销工具等有状态业务 Agent。
直接语料交互中的证据盲区与 AtlasNav 持久化导航
🧭 Agent 有限预算语料导航 · 持久化多视图 Atlas ★ 深度解读
提出 Evidence Blindness 四阶段诊断,并用持久化多视图语料图谱 AtlasNav 把有限预算的 agentic search 从反复探索转为可复用导航
📌 工作参考价值(4 点)
- 离线为商品/内容/企业知识语料构建持久化多视图结构:Topic、Identity、Episode、Relation,再与 BM25 做加权 RRF 融合,供 Agent 查询时自适应路由;避免每个 query 动态重建 workspace,能显著降低在线 token/cost。
- 用 Evidence Blindness 漏斗(Construction→Surface→Open→Locate)做过程诊断:不只追踪最终答案,还追踪相关商品/属性/证据片段是否被 surface、open、locate 到模型上下文,可定位静默失败。
- 保留原语料直接读取与全文检索,不做 query 条件剪枝,而是通过共享层级 + region anchors + cross-region bridges 导航;适合电商/广告中长尾商品、合规要求高、多跳关系推理等场景。
- Query-adaptive router 可用语料自监督任务训练:单文档/pair/triple 构造,parent-disjoint split,无需人工业务标注;轻量线性 router 学一组语义+词法通道权重,可直接迁移到搜索/推荐入口的混合召回。
AnTrap:评估Android GUI Agent对运行时异常的鲁棒性基准
🧭 GUI Agent 鲁棒性评估与对抗训练
Zhejiang University · Yale University · Tongji University · University of Chinese Academy of Sciences
提出AnTrap基准系统注入动态对抗扰动,揭示GUI Agent普遍脆弱并区分可学习与推理瓶颈异常
📌 工作参考价值(4 点)
- 将线上 Agent 可能遇到的弹窗、误操作、状态死锁等异常抽象为分层陷阱(State/Thinking/Action/Round),在部署前构建对抗测试集做压测,提前暴露脆弱环节。
- 用 GRPO 在含陷阱环境中训练可修复大部分单步状态/动作层异常,适合作为上线前的鲁棒性微调步骤;但状态死锁等深层上下文陷阱无法仅靠环境训练解决,需要额外引入记忆、回溯或规则兜底机制。
- 借鉴其“保持任务可解”的扰动构造管道:在业务环境中注入异常时保留原始任务可达性,避免测试集失真,从而准确度量鲁棒性而非任务难度。
- 对电商推荐 Agent,可将广告弹窗、支付中断、页面跳转异常等作为 State 层扰动,将模型选错工具或遗漏步骤作为 Thinking/Action 层陷阱,系统化定位故障来源。
CAFE:自我改进搜索智能体需要协同进化的反馈
🧭 搜索 Agent · 反馈协同进化 ★ 深度解读
Fudan University · Tencent LLM Department
提出 CAFE 框架,共享参数模型交替扮演搜索 agent 与 critic,通过在线反馈奖励整形与离线偏好优化让反馈随策略协同进化
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 中引入显式 <request_feedback> 动作,用共享 backbone 做 role-conditioned agent/critic,避免单独部署 critic 的额外开销;适合多轮商品搜索或深度信息检索 Agent,让模型在轨迹中途主动请求诊断。
- 奖励整形技巧可直接借鉴:CFE 用同一 prompt 下 call feedback 与 skip feedback 的成功率差作为请求反馈的 utility 信号,再配合 repeat penalty;feedback-aware advantage shaping 对反馈前/后 token 分开加权,避免强化错误的失败前缀,改善 RL 中的信用分配。
- 离线反馈优化用 RDPO:从 on-policy rollout 中挖掘 prefix-matched 成功/失败反馈对,用 DPO 训练反馈生成,比只用成功轨迹的 SFT 更干净,能缓解只有最终成交/转化标签导致的 outcome confound,适合业务中无逐步人工标注的场景。
- 交替更新策略值得工程化:不要固定 critic 或 agent 单侧优化,否则会 plateau;每轮 agent RL 后用最新 rollout 更新 critic,保持反馈与当前策略的错误分布对齐,可参考 100 步 RL × 5 轮的节奏。
长运行AI Agent记忆中的压缩悬崖
🧭 Agent 长期记忆压缩与安全规则保留
University of Passau, Passau, Germany · IT:U, Linz, Austria
提出 Knowledge Triage 框架,通过分类与确定性算子避免安全规则在长上下文压缩中快速丢失
📌 工作参考价值(4 点)
- 将 Agent 上下文知识分为需逐字保留的安全/合规规则与可粗粒度压缩的日志/经验,不同类别走不同压缩策略,避免生产 Claude /compact 这类统一 summarization 造成规则坍塌。
- 在电商/推荐 Agent 中,价格上下界、库存状态、平台政策、prompt 约束等规则适合用 TypeCompact 按类型保真度压缩,并附加确定性验证器检查规则是否完整,防止多轮任务后策略漂移。
- TypeRetrieve 的“规则 pinned ahead of relevance”思路可直接用于 RAG/长期记忆:先返回适用规则,再按相关性补充内容,保证召回合规边界。
- AgentArtifactCorpus 可作为测试压缩/检索策略的外部基准,尤其适合评估长流程 Agent 在不同压缩轮次下的安全规则 retention。
递归式经验-工作记忆演化:面向长程 Agent 的验证门控记忆架构
🧭 Agent 长期记忆与递归自改进 ★ 深度解读
NUS · Stanford University · University of Oxford · Princeton University
Recuris 用工作记忆驱动技能调用,将失败定位到记忆组件并验证门控演化,在长程任务上提升成功率
📌 工作参考价值(4 点)
- 长程电商/客服 Agent 的状态管理:把会话目标拆成 pending/done/blocked 的 verified state,每个 goal 带支持证据;只在执行事件(如确认下单、改地址、退款调用前)由 harness 注入对应技能,而不是把全量 SOP 或工具说明放 prompt。全量注入在本实验中反而比无技能更差(模型控制 65.6 vs 无技能 82.0),说明“何时调用”比“内容多少”更关键。
- 失败复盘与技能库更新:记录结构化 trace(状态→调用技能→动作→环境反馈→提案状态→检查器判定),用固定 Meta-Agent 把失败归因到技能缺失、状态更新错、调用时机错、校验器误判四类组件;只修补命中组件,再经 held-out 验证门控。可以迁移到 agent 评测流水线或 SOP 迭代,避免全量重写记忆。
- 验证门控的必要性:候选补丁必须在修复源失败的同时不回归 anchor tasks。电商技能库更新时也建议保留历史成功案例作为回归集,避免新规则破坏已有能力。
- Test-time adaptation:对高价值单任务(如大订单异常、投诉处理)可用多次尝试 + 一位 verifier 的反馈,在局部更新经验记忆后重试;但一定要与 budget-matched 简单重试对照,否则会混淆增益来源。
丰富-检索-排序:超越上下文路由的规模化能力发现
🧭 Agent 能力发现 · 检索-重排 ★ 深度解读
Amazon AGI
将 Agent 能力发现重构为离线丰富+在线检索-重排,在 7,278 个工具上以约一半成本领先 Search&Pick 6.5pp,并比全量上下文便宜 70 倍
📌 工作参考价值(4 点)
- 如果业务里要用 LLM 从上千个 API/agent/tool 中选调用,不要让它读全量 registry:改为 BM25+dense 召回 top-15,再单次 LLM listwise rerank。这样成本与 registry 规模解耦;Nova Micro 扫描显示单阶段全量路由在 N≈500 后崩,可作为架构切换的经验阈值。
- 离线把稀疏的 item/tool 元数据改写成结构化 profile(summary、action-led description、keywords、正/负 usage examples)一次完成,供检索和 reranker 共用。干净公开数据上 enrichment 无收益(甚至 -4.4pp),但元数据只剩 name 时 Match@1 +25.6pp、Recall@15 0.134→0.467;先评估自家商品/工具 metadata 稀疏度再决定是否上。
- 做错误归因:约70%的大规模 miss 在 retrieval,换更强 reranker 只 +3pp。优先提升一阶段召回(hybrid、更好 dense encoder、字段加权)而不是继续优化 reranker prompt。
- 打分信号可设计成可插拔加权:LLM 0.50 + BM25 0.05 + Quality 0.30 + Intent 0.15,字段缺失自动 renormalize;在有 trust/type 元数据时 Quality+Intent 额外 +4.5pp。这种统一配置可以跨 tools/agents/skills 复用,避免每种能力单独调参。
风险感知的Agent工具检索重排序
🧭 Agent 工具检索的风险感知重排序 ★ 深度解读
University of Science and Technology of China · University of Electronic Science and Technology of China · Lanzhou University · Fenz.AI · University of Glasgow
提出轻量双头重排序框架,在保持相关性的同时通过可调风险惩罚和规则过滤降低高风险工具暴露
📌 工作参考价值(4 点)
- 在电商/广告的 Agent 工具调用或 API 选择场景,可以在召回后增加双头重排序:冻结已有 encoder,只训练两个轻量 MLP 头(相关头 + 风险头),用 s = f_rel - λ f_risk 融合,λ 作为推理时旋钮控制安全-效用平衡,头部参数量仅 20 万,推理开销极小。
- 对商品/内容候选做类似风险标注(如合规风险、敏感类目、价格操纵风险),定义 RVR@k / SRR@k 类指标监控 top-k 风险暴露,作为 NDCG/MRR 之外的安全补充指标;该论文的标注方案(三 LLM 投票 + 人工复核)可直接复用。
- 规则过滤器思路可迁移到严格合规场景:重排后叠加硬约束(如最多一个高风险商品、相似度去重),提供可解释的保守操作点,适合需要审计的推荐/搜索候选集。
- ToolGraph 的分数平滑主要提升相关性而非安全,若要在业务中引入 item 关系图(如同店铺、共现、类目)做平滑,应将其定位为相关性增强模块,安全控制需依赖独立的风险头或规则。
GameWAM:视频游戏世界-动作模型
🧭 视频游戏世界-动作模型
Fudan University · LIGHTSPEED · Independent Researcher · Tsinghua Shenzhen International Graduate School
首个面向原生闭环游戏与GUI控制的世界-动作模型,联合生成未来视觉与键鼠动作,支持长程重规划
📌 工作参考价值(4 点)
- 「并行视觉 + 动作生成 + block-causal conditioning」可作为多模态 Agent 联合建模世界状态与下一步决策的架构参考,尤其适用于需要同时预测环境变化和行为的搜索/推荐仿真环境。
- 「mode 预测 + mode-specific 分布 + 连续动作归一化」可迁移到多任务 Agent 或生成式推荐中处理异构行为(如点击、加购、搜索词),先预测行为类型再用对应分布生成,减少异质输出的冲突。
- 「block-cycle control」类似模型预测控制:预测多步但只执行短前缀,然后基于新观测重规划,可借鉴到实时推荐策略调整;通过分层历史上下文保持长期一致性,对会话级推荐有参考价值。
- LASI 发现低频率成分主导生成输出,提示生成式动作/序列模型要监控随机源的低频成分,可通过谱约束或低通滤波增强可控性。
交接税:LLM Agent 续接非原生轨迹的代价
🧭 LLM Agent 模型交接与成本-质量权衡 ★ 深度解读
AWS
首次系统研究 LLM Agent 中途切换模型时非原生轨迹对成本-质量权衡的影响,发现升级昂贵、降级更优
📌 工作参考价值(4 点)
- 在多模型路由/级联系统中,避免把低成本模型的完整对话历史直接交给高成本模型(Raw escalation),可改为只传递工作状态(如中间结果、已编辑文件)或压缩摘要,以减少 token 成本并避免低质轨迹锚定接收方。
- 降级场景(强模型转弱模型)中,保留强模型的轨迹(推理、工具调用)比只保留最终输出更重要,轨迹中的思考过程能帮助弱模型延续工作;因此可设计选择性的上下文保留策略。
- 使用归一化指标 QRec(质量恢复率)和 CSRet(成本节省保持率)评估切换策略,而非只看绝对成本或 pass rate,能更好对比不同模型对和切换接口的综合性价比。
- 难度感知切换:在易/中任务上模型切换通常不划算,在难任务上使用精简上下文(Traj-drop 或 Compact)才可能获得成本效益;可将任务难度估计纳入切换决策。
开放世界智能体技能创建:SkillAlchemy
🧭 Agent 技能自动创建与证据准入 ★ 深度解读
Beihang University · Shandong University · Northwestern Polytechnical University
提出基于证据准入的框架,从开放世界材料自动创建可复用 Agent 技能,性能接近人工策划
📌 工作参考价值(4 点)
- 隐式需求挖掘可迁移到 query/对话推荐:用对比探测(替换、边界、邻居)从简短 brief 或用户 query 中挖掘遗漏的操作维度,例如从“7天欧洲旅行”中识别出预算、旅客类型、出行方式等隐含条件,可用于电商领域的 query 补全、推荐策略扩展或对话式需求澄清。
- 证据准入机制防止过拟合到局部案例:区分“通用指令”“局部示例”“排除项”的三分类决策,强制要求跨场景一致性证据才能推广为通用规则。在电商推荐策略生成中,可避免把某个爆款商品的特定操作误认为平台级策略,只保留有跨品类或跨场景支持的通用做法。
- 渐进式技能包组织节省推理上下文:借鉴 skill grammar 和文件分层(核心指令在 SKILL.md,细节放 references/scripts),在构建 Agent 工具库或推荐策略库时,把高频核心逻辑保持精简,低频案例外部化,既能提高加载效率,又降低 token 消耗。
- 对抗性来源鲁棒性可应用于外部数据清洗:论文验证了无关、冲突、对抗性源材料会被现有创建器误吸收,而 SkillAlchemy 通过明确的 admission 记录排除。在从用户评论、市场报告等开放数据提取洞察时,可以借鉴其“支持性+一致性+可复用性”的准入检查,减少噪声污染。
MediSkill-Evo:面向循证临床交互的过程约束自进化智能体
🧭 Agent 自进化记忆与过程约束决策 ★ 深度解读
Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences · Beijing Key Laboratory of Safe AI and Superalignment · Beijing Institute of AI Safety and Governance · School of Artificial Intelligence, University of Chinese Academy of Sciences · Long-term AI
用四库分离的自进化记忆与过程约束偏好控制,提升临床交互的证据获取与安全决策。
📌 工作参考价值(4 点)
- 把记忆按知识类型拆分并绑定不同校验/决策权:电商/Agent 不要把可复用策略、平台规则、商品 schema、视觉流程放进同一向量库;可迁移为“话术策略库 / 平台政策规则库 / 商品与活动 schema / 多模态识别流程”,每类分别做 provenance、support、replay、leakage 校验,测试时冻结 snapshot。
- 硬约束前置、打分后置:在广告/推荐 Agent 的动作生成中,先用 Symbolic Verifier 过滤掉违反库存、预算、品牌安全、合规约束的候选,再用 Critic 排序;软惩罚不能抵消硬违反,缺失信息保持 unknown,不当作负样本。
- 离线评测造“孤立压力”版本:用 deterministic controller 控制哪些特征延迟/不可用,只测特定 process obligation,比只看 CTR/GMV 更能暴露 Agent 在信息缺失下的错误行为;对应大促缺货、延迟价格、标签缺失等压力集。
- 多模态工具用 request-gated 接口和 original-pixel fallback:保留无工具路径与按需调用审计,避免把工具增益与模型能力混淆;MedSAM 带来的 3 点诊断提升明确只是界面可行性,不是因果证据。
Meta^n:通过涌现深度实现递归自我改进
🧭 递归元认知 Agent 自我改进
University of Minnesota · Seoul National University
固定元操作 Ω 并递归应用于输入,实现可收敛深度的 LLM 自我改进,在 ARC-AGI-2 唯一得正分
📌 工作参考价值(4 点)
- 可将固定元操作递归应用到多阶段推荐/搜索流水线:每层读取下层 trace 与代码,输出下一层的预处理策略和可复用 helper 库,把隐式流程知识显式化为工具和策略,便于在 query 改写、召回排序等环节复用。
- 深度由收敛决定而非预先固定,可在 Agent 规划或 query 改写中引入自评收敛,减少无效迭代;结合进化 archive 搜索层链,可迁移为对多策略组合的进化选择,适用于搜索广告出价、文案生成等场景。
- 层间 conditioning 是主要收益:把上一层的完整推理 trace 和生成代码作为下一层上下文,比仅传最终答案更有效,建议在 LLM 推理管道中传递过程性知识而非仅结果。
- 主要是通用推理 Agent 贡献,业务落地需谨慎:任务为 ARC-AGI 等通用推理,与电商推荐数据分布差异大,但固定操作+递归输入的设计可借鉴到多智能体系统的自我改进循环,避免自编辑导致的不稳定。
Prime Agent:长程 Agent 的自改进 RLM 执行框架
🧭 Agent 基础设施 · 长程执行与递归子代理 ★ 深度解读
Princeton University · Prime Intellect · MIT
开源长程 Agent 执行框架,通过持久 REPL、递归子代理与 Continual Harness 将 ARC-AGI-3 从 30% 提升至 95.5%
📌 工作参考价值(4 点)
- 把长上下文变成可执行程序:在搜索/推荐 Agent 中,将商品库、用户行为序列、规则文档落入持久化 REPL 或文件,让模型用 Python 查询、过滤、聚合,而不是反复序列化进上下文。这类似于把召回/排序前的信息管理变成程序化操作,能显著降低 token 成本并减少长上下文中的信息丢失。
- 递归子代理 + 异步消息队列并行化:为电商 Agent 的候选 query 改写、商品筛选、策略评估等任务创建独立子代理,通过 rlm() 异步句柄与直接消息队列通信,父代理动态汇总结果,替代固定 DAG。这适合并行跑多路实验、多候选评估,同时保留子代理的持久状态以支持后续追问。
- Continual Harness 做成可版本化的策略知识库:把验证有效的 prompt、执行技能、用户偏好记忆、子代理分工模式以版本化条目存储,支持在线 refinement 与回滚。在推荐/广告策略迭代中,可以把优秀策略、纠错经验沉淀为可复用技能,但必须加入权限最小化和独立状态验证,防止代理为优化指标而学会作弊(文中 Factorio 案例)。
- 统一资源审计与防 exploit:对子代理的 token、API 成本、外部动作全部记账,设置独立验证与可审计回滚。广告/推荐 Agent 涉及出价、预算、内容生成,需要这种全链路审计和最小权限接口,避免代理绕过约束或污染后续策略。
双粒度智能体记忆与 Shapley 上下文归因的多模态学习框架
🧭 多模态 Agent 记忆与检索优化 ★ 深度解读
UC Merced · Shanghai Jiao Tong University
冻结多模态大模型配外部双粒度记忆,用 Shapley 归因优化规则检索,提升科学推理基准
📌 工作参考价值(4 点)
- 检索增强场景中,把“相似度检索”升级为“相似度 + 历史效用”的组合排序:用 Shapley/边际贡献离线计算每个知识条目(规则、策略、案例)的效用,避免上下文里塞进相似但无效甚至误导的条目;推荐系统里可类比给召回 item 或策略规则打分。
- 双粒度记忆架构值得直接迁移:实例级 case 与类别级规则/策略分开存储,中间层只从抽象规则生成类别记忆,避免具体样本细节污染类别级归纳;电商/Agent 中可将用户行为轨迹与商品属性规则、query 意图分存。
- 概念类别空间无需预定义 taxonomy,用 LLM 在线增量生成类别并序列化更新,动态贴合语料分布;适合电商 query 意图聚类、商品概念动态归类,避免固定分类过粗或过细。
- 工程上无需梯度更新,只依赖 gold answer 作为监督,可在闭源/端侧模型上快速构建外部记忆;训练时用 temperature 采样 rollouts 构建记忆,测试时只读,适合低成本复用现有大模型能力。
StepGuard:可扩展监督与安全-效用平衡的步骤级护栏
🧭 Agent安全护栏 · step-level监督与效用平衡 ★ 深度解读
Shanghai Artificial Intelligence Laboratory · Beihang University · Fudan University · Renmin University of China · KAUST
4B步骤级agent安全护栏,通过prefix-aligned合成数据与Balance-GRPO在低误杀下将平均ASR降低77.3%
📌 工作参考价值(4 点)
- 对电商/广告Agent的高风险工具调用(改价、退款、批量发消息、导出数据)增加执行前step-level guard,4B模型即可取得接近GPT-5.4的判别能力,单次检查约600ms/195 tokens,适合在线部署。
- 用prefix-aligned合成数据构造“同一前缀、不同安全动作分支”的对比样本,并加入benign tool-reuse轨迹,能明显降低guard对工具身份的误判,防止把易感工具一律当成风险。
- 训练时用Balance-GRPO:根据rollout batch中safe/unsafe两类accuracy差距动态reweight advantage,可把safe-unsafe gap从13.0压缩到8.0,在AgentDojo/AgentDyn上utility提升最多6.7点而ASR仅升0.3;这比固定class weight更稳。
- 如果业务中有安全与转化/体验的trade-off,可以借鉴按类别感知的on-policy校准策略,不必改prompt或reward,只需对优势做加权;另外保留step-level标注和风险定位输出,便于审计与策略调优。
Agent-G^2:面向 Agentic RL 的高斯引导框架
🧭 Agent 强化学习训练 · 引导深度采样
Zhejiang University · Baidu Inc. · Shandong University
用在线估计的高斯分布动态采样每个任务的专家轨迹引导深度,替代固定或逐样本探测,显著降低 rollout 成本并提升 Agent RL 效果
📌 工作参考价值(3 点)
- 在电商/搜索用 LLM Agent 做多步交互(如智能导购、商品筛选、客服对话)时,可保留专家轨迹前缀作为 warm start,但不必固定深度;借鉴高斯引导在线估计每个任务/query 的引导深度,平衡探索与专家先验,缓解稀疏奖励。
- 按任务难度聚类动态调整引导强度:将用户 query 或 session 按难度分簇,分别估计均值方差,避免“一刀切”的固定提示长度,适配长尾/复杂场景。
- 无需额外 probe rollouts,直接从策略优化已产生的 rollouts 估计分布,节省采样成本,适合在线 RL 预算有限的业务,尤其在大规模推荐/搜索 agent 调优时。
AutoSaddler:基于执行轨迹的 Agent Harness 自动优化框架
🧭 Agent Harness 自动优化 · 离线学习 ★ 深度解读
POSTECH · KAIST · Southern University of Science and Technology · Microsoft
将 Agent Harness 优化形式化为离线学习,通过深度诊断、结构化 Patch 与泛化感知选择,在三个基准上提升 9-10 个百分点
📌 工作参考价值(4 点)
- 把 agent 的 system prompt、工具描述、中间件逻辑统一视为可优化代码,建立 mini-batch 离线优化流程:用失败轨迹批量诊断并生成 patch,在同一批上验证提升,再上验证集评估,避免只在单条轨迹上打补丁。
- 采纳结构化 patch 分类(Prompt/Tool/Middleware)并分阶段调度:先允许修改工具实现和 agent loop 等能力层,后期转向提示词/hook 文本;这样能迫使优化过程探索高价值能力改动,而不是只做表面 prompt 文本微调。
- 保留 harness 演化图(EvoDAG)作为优化记忆,允许进化代理重组历史成功组件,而非只从最新版本继续;在多轮迭代优化推荐/导购 Agent 的 prompt 与工具配置时,可跳出局部最优。
- 评估 patch 时同时监测 fix rate 与 regression rate,尤其对高频工具或 hook 的修改要防止 over-scoped patch 引入回归;用独立验证集过滤泛化差的更新,能显著减少线上事故。
从 Agent 轨迹中提取自动机:失败与下一步预测
🧭 Agent 行为 FSM 抽象与监控 ★ 深度解读
Holistic AI · PUC-Rio · University College London
用紧凑确定性 FSM 统一 LLM Agent 的工作流记忆、下一步预测、失败预测与运行时监控
📌 工作参考价值(4 点)
- 将电商客服/购物助手 Agent 的 tool-call/action 序列直接抽成 FSM(状态=最近 activity),即可获得紧凑行为拓扑,用于实时检测循环和异常状态,无需复杂 ML 模型;活动抽取用默认 role-type 粒度即可,对结果鲁棒。
- 把 FSM 状态作为 LLM 的轻量上下文:只给当前状态的转移概率 + top-15 后续 continuation,而不是完整 workflow 列表,能提升下一步动作预测(对 AWM 平均 +12.9pp)。在推荐/搜索 Agent 中可将用户意图-工具调用序列压缩为状态,作为 prompt 背景。
- 失败预测用 per-state 特征(访问频率、消息长度、错误率、时序)+ FSM cross-entropy 异常特征(trace CE、max surprise 等),梯度提升树即可达到 AUROC 0.94;对安全标注均衡的数据集(如 ATBench)稳定。可用于电商推荐 Agent 的在线失败预警。
- 在线监控用 cycle-rate(prefix revisits / step)阈值,简单高效;设置高精度操作点可实现 100% precision、零误报的提前终止,在客服流程中节省算力并避免糟糕体验。
LongWoF-Bench:评估 EvoMap Gene 在可验证长工作流任务上的经验复用效果
🧭 Agent 经验复用 · 长工作流评估 ★ 深度解读
Infinite Evolution Lab, EvoMap · Tsinghua University
提出 LongWoF-Bench,证明由 verifier 确认轨迹蒸馏的 EvoMap Gene 比 Skill 跨七个模型提升 8.7–15.5 个百分点
📌 工作参考价值(4 点)
- 沉淀可验证执行经验,而非通用 Skill:在复杂流程(如广告投放配置、选品策略、活动执行)中,将成功轨迹中证明有效的策略、边界条件和失败修正提炼成结构化资产,跨模型复用。
- 严格区分经验来源:只有经过业务验证器/线上 A/B 确认的执行轨迹才值得沉淀;参考解蒸馏的经验可能反而有害。经验库要记录 provenance。
- 一次推理复用经验,降低重复探索成本:在复用经验时采用单次生成(one-shot)即可,避免多轮试错;论文中 Gene 比 Skill 少 9.9% token,比多轮发现少 45.8% token。
- 优先在规则约束和接口一致性强的场景应用:如合规审核、物流配置、多模块交付等,经验复用收益最大;纯推理能力瓶颈的任务收益有限。
AUSO:从技能内部化到利用的动作级统一技能优化
🧭 Agent RL · 技能内部化与利用 ★ 深度解读
University of Science and Technology of China · University of New South Wales · Independent Researcher · University of Chinese Academy of Sciences · Xi'an Jiaotong-Liverpool University
用 JSD 度量技能对策略动作分布的影响,以动作级信号重加权 GRPO,将技能从外部监督渐进转为按动作收益利用,提升 Agent 泛化
📌 工作参考价值(4 点)
- 用动作级 skill sensitivity 替代轨迹级 skill routing:在电商导购/搜索 Agent 中,检索到的商品知识、query 改写策略或用户记忆通常整条 trajectory 统一使用。可以仿照 AUSO,在同一个 visited state 分别计算“有技能/无技能”的策略分布,用 JSD 得到动作级 sensitivity,再乘 GRPO advantage;只加强有利动作、抑制被技能干扰的动作,且不改变 advantage 符号。
- 对 reward 稀疏、全失败组失效问题,可仅对 success rate=0 的任务组加入 skill-conditioned teacher JSD loss,并用 ramp-up + smooth-decay 退火。这比一直加蒸馏更稳,能让 Agent 从专家技能中恢复而不过度依赖外部监督。
- 在二元成功/失败的 rollout group 中,引入 p(1-p) uncertainty gate 控制动作级 credit assignment;全成功或全失败时门控趋近 0,避免无信息差异的动作被错误加权。该轻量 trick 可直接嵌入现有 GRPO 流程。
- 课程式阶段划分 2:5:3(内部化/探索/利用)可迁移到业务 Agent post-training:先蒸馏已有专家或策略知识,再做自主 RL,最后自适应利用外部工具/skill,尤其对 OOD 流量收益明显。
ForeDreamer:面向未来事件预测的自进化双智能体记忆架构
🧭 Agent 记忆与自进化 · 未来事件预测 ★ 深度解读
Zhejiang University · Ant Group · National University of Singapore · Zhejiang University of Technology
双智能体将嘈杂网络证据蒸馏为结构化事实记忆,并用双轨经验自进化提升预测校准
📌 工作参考价值(4 点)
- 在电商搜索/推荐 agent 中,可将召回/检索结果的处理从主决策链路剥离,由专门子 agent 用「指南+工具」流程把原始商品信息、用户行为、query 上下文蒸馏成结构化事实记忆,主 agent 只消费干净证据,降低长上下文噪声干扰。
- 自进化双轨经验:一条是文本经验(搜索计划、排序/预测校准提示),一条是过程性工具经验(可执行数据处理工具/流程)。推荐 agent 可基于线上反馈小流量验证定期更新经验池,采用 ADD/MODIFY/REMOVE 编辑和验证门控,避免线上劣化。
- Compositional Tool Reuse 减少重复工具生成:当需要新处理流程时,先检索并复用已有工具,只生成缺失部分;可应用于推荐 agent 的工具库管理,降低工具膨胀与相似代码重复。
- Diversity-Guided Exploration 防止策略收敛到单一 pipeline:定期根据现有策略类别摘要生成多样候选,避免只微调某一种召回/排序策略;可借鉴到推荐策略探索与自动策略生成中。
记忆投毒下的效用崩塌:内容筛查与溯源排序的边界
🧭 Agent 记忆投毒与溯源检索防御
Quantify Labs Ltd
1.2%记忆投毒使LongMemEval准确率从0.850降至0.300,内容筛查拦截0/360,溯源加权排序难用
📌 工作参考价值(4 点)
- 在电商/广告 Agent 的持久记忆写入侧,不要仅依赖内容筛查判断断言真假;需要接入外部 grounding(如商品价格、库存、活动规则权威源)才能识别伪造但语义通顺的虚假记忆。
- 检索侧不要使用 additive provenance penalty 或简单给可信来源加权;可在召回阶段对不同 provenance 的文档设置最大占用配额(bounded occupancy / quota),避免低可信源靠语义相似度淹没高可信证据,也避免高权重把低可信但真正携带答案的证据全部排除。
- 评估 Agent 记忆安全时,必须同时构造 mixed-provenance 语料:既看投毒攻击是否成功,也看当真实答案恰好来自 untrusted 来源时系统是否仍可用,否则容易过拟合防御、误伤业务指标。
- 内容筛查对低占比投毒(如 1.2%)不敏感,且对 trigger-laden 良性文本有误判;实际推荐系统中 UGC 或第三方商品描述不可全信,应把来源可信度作为检索约束而非后验过滤。
RecVerse:忠实模拟人类购物行为的 GUI Agent
🧭 用户行为仿真 · GUI Agent · RL ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · University of Chinese Academy of Sciences · National University of Singapore · Alibaba Group
提出融合三级认知记忆与轨迹级 RL 的 GUI 用户仿真 Agent,显著提升行为保真与意图一致性
📌 工作参考价值(4 点)
- 在 LLM 驱动的用户模拟 / 智能导购中,不要直接拼接长历史,可采用三级记忆:Working Memory 保留最近 K 步视觉与心态、Episodic Memory 记录会话事件、Preference Memory 蒸馏高层购物意图;把记忆写入作为动作交给 RL 学习,能自动决定“何时记、记什么”,缓解长会话上下文爆炸。
- 训练用户模拟器别只做 next-action 模仿或 step-level reward,改用 trajectory-level RL:宏观奖励对齐动作类型分布(CTR/ACR/CVR/IPVR 等),微观奖励用三级类目层次做意图匹配,可避免过度探索或过度被动。
- 如果业务有真实页面截图,尽量让仿真/评估 Agent 走 GUI grounding,而不是纯文本元数据;论文显示 GUI 比 text 的类别意图一致性 HCO 从 19.03 提升到 30.00,RL 后进一步到 32.64。
- 评估用户模拟器时同时报告行为保真和意图一致性,防止 hit 率被过度交互撑高;可借鉴其指标:ATL 偏差、行为统计与真实分布的比值、类目重叠 HCO。
AgentMercury:从业务场景大规模合成可验证可执行环境
🧭 业务场景可执行环境合成 · 策略强化学习 ★ 深度解读
Meridian Intelligence Global Inc. · University of Massachusetts Amherst
提出从高层业务场景自动合成可执行世界,作为策略强化学习训练基底,并证明环境构建本身可学习
📌 工作参考价值(4 点)
- 场景驱动仿真生成:在电商/广告 Agent 业务中,不要围绕特定任务或评测集手工搭建环境,而是从业务流程(订单、库存、营销、客服、履约)生成多服务、有状态、带跨服务约束的可执行环境,让任务自然涌现。这样一套环境可支撑多个任务和多种策略训练,复用性远高于 task-centric 仿真。
- 将业务不变量与状态转移解耦:把跨服务约束(如支付成功后必须生成发货单、推荐展示后必须同步库存)做成 episode 结束时的 SQL/确定性 verifier,而不是在模拟器中自动满足。训练 agent 主动发现并满足这些约束,能提升策略在真实业务流程中的可靠性和一致性。
- 用合成业务环境做 RL 预训练/继续训练:AgentMercury 的实验显示,在多样化的业务工具环境上做 GRPO/SAO 训练,即使不针对下游评测集,也能提升 tool-use、推理、代码等能力,并显著降低工具调用轨迹的方差。电商 Agent 团队可以批量生成带真实工具调用、状态追踪、多步交互的环境,作为通用能力底座。
- 把环境构建本身做成可学习任务:收集从业务 brief 到可执行世界的构建 trace(中间 schema、服务图、validator 修复),对模型做 SFT,让模型从需求描述直接生成可执行仿真。这能大幅加速新业务场景的环境覆盖,并让非技术业务方参与环境定义。
拆分并传递:LLM Agent 的跨任务技能迁移
🧭 Agent 技能归纳与跨任务迁移 ★ 深度解读
Stony Brook University
系统比较技能归纳层级与格式,发现子任务级文本技能迁移最可靠,并给出无需执行的技能效用评分
📌 工作参考价值(4 点)
- 在构建 Agent 技能库/长期记忆时,优先按子任务粒度归纳技能,而不是整个任务轨迹。任务级技能容易过拟合源任务,插入后续任务上下文反而会拉低基线;子任务级技能在多个 benchmark 上稳定带来提升。
- 技能表示优先用文本工作流笔记而非代码函数。文本技能跨域迁移更稳,代码技能存在加载失败、参数化不干净、上下文干扰等问题;如必须用代码,要严格控制可加载性和参数抽象。
- 可以用论文中的轻量诊断 score 在任务执行前评估技能库质量:对每条技能计算 specificity×abstractness,筛掉低分技能或调整归纳方式。该分数只依赖技能描述和任务描述,无需实际跑任务,适合上线前的技能库治理。
- 在电商/Agent 场景可复用思路:把用户操作流程(登录、查购物车、下单、移愿望单等)拆成可共享子技能,并在 Agent memory 中按子任务检索;避免把整条用户 session 总结成一条“大技能”塞进 prompt。
从计算机使用轨迹中归纳任务模型
🧭 Agent 技能归纳与任务建模
Stanford University · Carnegie Mellon University
提出 TMI,自动从交错的低层级操作轨迹中分离潜在任务并构建分层目标与控制流模型,显著提升智能体技能迁移
📌 工作参考价值(4 点)
- 在电商客服/运营自动化等 computer-use agent 场景中,可借鉴 TMI 从员工真实操作日志(点击、输入、页面跳转)自动归纳标准作业流程(SOP)及其子目标层次,即使用户同时处理多个任务也能分离,用于构建可复用的 agent 技能库。
- 技能迁移路径值得复用:先归纳出结构化任务模型(目标分解+控制流),再将其转化为 agent 可调用的技能或 few-shot 示例;论文显示该方式在 held-out 任务上相对最强基线提升 30.0%,说明结构先验对泛化有帮助。
- 任务模型同时包含目标层次和执行流程,比端到端 policy 更可审计、可解释,适合风控/合规要求高的电商自动化流程(如营销活动配置、订单异常处理)。
- 低层事件抽象成步骤、再聚类/归纳分层目标的做法,可作为用户行为序列建模中从点击流恢复用户意图/任务的参考,辅助电商场景下的多会话用户建模与 query 理解。
PhysCaP:物理信息探索增强的代码即策略智能体
🧭 Agent 主动探索与物理属性估计
National Taiwan University · NVIDIA Research · National Yang Ming Chiao Tung University
引入物理信息探索层与双智能体设计,以更少交互估计物体质量与刚度,提升主动感知效率
📌 工作参考价值(4 点)
- 交互式推荐/对话式 Agent 可借鉴 Planner-Prioritizer 双层设计:Planner 决定何时向用户提问或停止探索,Prioritizer 用启发式优先级过滤候选问题,避免过度打扰用户,同时降低 LLM 调用成本。
- 免训练物理属性提取的思路可迁移到用户/商品潜在属性推断:利用点击、滚动、停留等隐式交互信号估算价格敏感度、质量感知等,无需额外标注或传感器。
- 在需要在线探索的推荐策略中,不要盲目试错:先用先验知识过滤不合理动作,再对剩余候选按信息增益排序,可显著减少实验次数和线上成本。
- 工程实现上,Prioritizer 采用规则化启发式而非 LLM 打分,能兼顾效果与推理时延,适合高并发在线场景。
倾听重要吗?AI克隆中的反向通道与点头
🧭 AI克隆/Agent 多模态倾听行为
Kyoto University · Sony Computer Science Laboratories
在AI克隆中加入实时反向通道与点头等倾听行为,显著提升专注感、真实对话感和共在感
📌 工作参考价值(4 点)
- 用于电商直播数字人/客服Agent:除内容回复外,加入“嗯/对”式反向通道和轻微点头,让用户觉得主播在认真听,提升交互留存;需低延迟预测,不要所有响应都走LLM,用轻量实时模型在话轮内触发。
- 工程上将“倾听反馈”与“内容回复”解耦:LLM生成回复,独立模型监听语音/韵律/停顿决定何时给出 backchannel/nod,避免打断用户,降低TTFT感知。
- 虚拟人/导购场景做AB实验时,可把“感知专注度/共在感/像真人”作为核心主观指标,而不只看任务完成率;N=35显示主观体验提升显著,适合小样本体验实验。
- 做AI克隆或数字分身时,身份保真不止音色和内容,还要复刻目标人物的倾听习惯;可收集其真实对话,提取 backchannel 频率与头部动作模式做个性化。
软件形态的第三次重构:从三层架构到存储、模型与智能体
🧭 LLM + Agent 软件架构收敛
Nanjing Liancheng Intelligent Technology Group, Nanjing, China
提出 Software 3.0 收敛为广义数据库、大模型与 Agent 三要素,按可表达性与关键性重划业务逻辑层
📌 工作参考价值(4 点)
- 借鉴“可表达性×关键性”划分业务逻辑:在搜索/推荐系统中,将 query 理解、解释生成、对话式交互等可表达且非关键环节交给 LLM+Agent,而排序打分、计费、风控等确定性高、关键性强的逻辑保留为工具或存储约束,实现渐进式迁移。
- 参考“广义数据库”统一状态与记忆:构建有状态的推荐 Agent 时,可将特征存储、用户会话记忆、商品知识图谱、上下文等整合为统一存储抽象,由 Agent 读写维护,提升跨轮次一致性和个性化。
- 应用其边界分析框架:在引入 LLM 前,评估任务域是否满足可表达、可验证、有外部状态、工具完备;对确定性、成本、安全、可验证性风险量化,避免在关键链路盲目替换。
- 最小参考架构可作为电商推荐系统后端演进蓝图:UI 由模型按需生成,减少定制化前端;业务逻辑按上述原则分割,数据层作为唯一持久层,逐步向“存储+模型+Agent”形态收敛。
Task-CoEvolve:自适应验证任务选择的高效 Harness 优化
🧭 LLM Agent 自适应验证任务选择
The University of Tokyo
通过方差加权采样聚焦高分歧任务并估计全量分数,在保持性能的同时将 harness 优化评估成本降 80%
📌 工作参考价值(3 点)
- 在电商对话导购、自动化选品等 Agent 工作流中,harness/prompt 迭代需要跑大量案例,可借鉴 Task-CoEvolve:每轮只评估候选方案分歧最大的样本(能力边界附近),而不是固定全集,能大幅节省 LLM 推理成本。
- 用概率加权(Horvitz-Thompson / IPS)从部分采样样本估计全量指标,保证迭代间对比一致;推荐从业者熟悉 IPS,在评估 LLM 生成质量或 Agent 决策时可直接迁移。
- 工程实现简单:记录每个候选 harness 在各任务上的成功/失败结果,计算任务间方差作为采样权重,评估指标时用 1/采样概率 加权;无需额外模型,可快速接入现有优化循环。
委托还是亲为?理解混合人-代理界面中的用户行为
🧭 人机混合界面委托行为研究
Future University, Hakodate · De La Salle University
研究发现LLM代理混合界面主要降低交互努力而非提升速度,委派行为个体差异远大于任务差异
📌 工作参考价值(4 点)
- 在电商后台、内容管理或广告投放工具等混合GUI+Agent场景中,提供“委托+直接操作”模式可显著降低点击、翻页、滚动等物理交互成本,但不应指望它缩短任务完成时间;可将降低操作负担作为体验优化指标,而非单纯追求效率。
- 委派行为个体差异大(ICC=.50),远超任务类型差异,说明用户对Agent信任/偏好分化明显。在Agent产品设计中,可支持个性化默认模式(AI-First vs 手动优先),或基于用户历史委派行为动态调整界面默认入口与交互引导。
- 未发现CRUD操作类型(如高风险删除)与委派行为的相关性,用户不会系统性回避高风险委派。因此在设计商品下架、删除等高危操作的Agent能力时,应把风险控制内置到执行流程(如确认、回滚、权限校验),而不是假设用户会因风险而避免使用Agent。
- 通过MCP连接LLM agent,可快速为已有系统增加自然语言操作能力,复用现有API。对于电商/推荐工程团队,这是低成本为内部工具或运营后台增加Agent交互的路径。
在线约会中对话AI代理的双向接受度:Fledge.Love双语调查数据集
🧭 对话式AI Agent 用户态度数据集
Fleamily, Inc., Delaware, USA · Lucy Family Institute for Data & Society, University of Notre Dame, Notre Dame, Indiana, USA
发布两个双语调查数据集,分离用户对部署自身代理与遭遇他人代理的接受度及对生成式AI功能的兴趣
📌 工作参考价值(4 点)
- 调查设计将用户角色拆分为“代理部署方”和“代理遭遇方”,电商/客服场景中评估用户对 Agent 的态度时也应分开测量,避免混淆部署意愿与接受接触意愿。
- 数据集发布流水线包含 k-anonymity 审计和双语 codebook,可复用为内部用户研究数据匿名化与文档规范,尤其适合跨境多语言产品的用户调研。
- 对被动生成式 AI 功能(如自动摘要、消息建议)的兴趣测量,可直接迁移到电商详情页生成、客服话术建议等功能的 pre-launch 接受度调研。
- 该数据集本身不涉及推荐算法,但可作为用户对生成式推荐解释或对话式购物助手态度的先验参考;若做类似用户研究,可借鉴其量表结构。
知识引导的智能体框架缓解健康查询中的患者上下文歧义
🧭 知识引导的查询澄清Agent
在LLM前插入知识图谱驱动的澄清Agent,主动追问缺失患者信息,大幅提升下游回答准确性与一致性
📌 工作参考价值(4 点)
- 可在电商搜索/推荐入口前增加轻量级澄清层:用商品知识图谱(属性、类目、场景标签)枚举可能的意图假设,识别区分度最高的缺失属性(如价格带、适用人群、使用场景),生成1-2个针对性追问,而非直接让LLM回答,从而降低用户短查询的歧义。
- 保持下游LLM/推荐模型不变,只需将原始query与收集到的用户上下文拼接成 clarified prompt 注入,避免微调成本;澄清问题由知识图谱驱动,减少无关追问,控制交互轮次。
- 评估澄清效果可借鉴论文指标:对比澄清前后的 Top-1 准确率、Recall@5,以及多次生成结果的预测一致性(如熵或方差),用于衡量上下文补充对模型不确定性的降低。
- 对线上系统可按不确定性触发澄清:先让LLM对query生成候选答案并计算置信度,仅对低置信度或意图分布分散的query启动澄清流程,平衡用户体验与转化率。
主动数据收集、出行行为建模与天气敏感需求预测的智能体方法
🧭 LLM 行为预测 · 多 Agent 工作流
Department of Civil Engineering, McGill University
三 Agent 工作流整合对话式调查、数据处理与 LLM 出行预测,多模态最佳达 71.5% 准确率
📌 工作参考价值(4 点)
- 行为预测/用户偏好建模:将“习惯性历史信息”类比用户历史点击/购买序列,加入 prompt 可稳定提升准确率;在生成式推荐或排序中优先注入用户行为特征,而非仅依赖 persona 或角色描述。
- Prompt 策略:采用“专家”角色描述优于一般“角色扮演”;persona 只在缺少行为历史时收益更大;few-shot 仅需少量示例即可提升,示例过多边际收益递减,适合线上 prompt 成本控制。
- 多模态信号:用用户实际看到的图像(商品图、场景图)作为视觉上下文,可使 LLM 预测提升(最佳 71.5%),建议在多模态商品推荐或内容理解中复用同一视觉输入。
- Agent 工作流可审计性:将数据收集、结构化、预测拆分为三个 agent,便于追踪数据版本和模型决策,适合在电商/广告场景构建数据飞轮与离线评估管线。
AI 后训练中缺失什么:实证分析
🧭 LLM Agent 后训练能力实证分析
Tsinghua University · Renmin University of China · University of Electronic Science and Technology of China
发现 LLM Agent 后训练时策略锁定在初始阶段,仅做局部调整,经验、人类指导与推理算力均无法激发策略级自省
📌 工作参考价值(4 点)
- 若用 LLM Agent 做搜索/推荐模型自动调参或训练流水线,不要只给历史经验或 prompt 提示:需在框架中设置强制策略审查点,要求 agent 根据验证集波动、性能 plateau 等证据重写全局训练策略,避免陷入局部搜索。
- 经验驱动 scaffold 能提升执行效率,但不会改变策略方向;因此对需要探索不同召回/排序结构或生成式推荐 Semantic ID 空间的场景,仅靠积累经验不够,应引入多样性注入或不同策略并行。
- 人类指导只能修正初始策略,开始训练后 agent 会退回局部调整;工程上可在训练循环中加入自动化干预触发器(如验证指标停滞 N 步),强制 agent 重新评估目标与超参数。
- 增加推理算力对简单任务有效,难任务几乎无增益;在复杂商品理解或长链路推荐优化中,不要把算力花在更多推理 token 上,而应投资于更好的策略搜索算法或全局探索机制。
CHIIR 2026 以人为本的主动式个性化信息访问代理研讨会报告
🧭 人本主动式 Agent 设计原则
University of Washington · AMD & UC Berkeley · TikTok · Georgetown University
系统梳理主动式信息访问Agent的人本设计议题,强调主动性须时机恰当、透明、可争议且对齐用户目标
📌 工作参考价值(4 点)
- 主动推荐/导购 Agent 的触发策略不能只依赖点击预测分数,应引入 calibrated initiative:结合用户上下文、可中断性与任务阶段判断何时推送,降低打扰成本。
- 在搜索/推荐 Agent 提供主动建议时,需要内置透明与可争议机制:给用户解释“为什么此时给出该建议”,并提供快速纠正/关闭入口,避免 agent 自动化侵蚀用户控制感。
- 跨会话个性化应区分短期会话状态与长期记忆,用 memory 架构累积偏好,但必须允许用户查看、修改或删除记忆,否则信任会快速下降。
- 评估不能只看任务准确率或点击率,要加入用户福利、信任、agency/控制感等指标,尤其在电商导购、智能客服等高频交互场景中更关键。
EnvHarness:可编程环境包装实现 Agent 定向学习
🧭 Agent 环境定制与自动化训练 ★ 深度解读
Washington University in St. Louis · Google Cloud AI Research · Google Cloud · University of North Carolina at Chapel Hill
提出 EnvHarness 可编程层与 EnvRigger 自动诊断循环,将静态环境改造成针对性训练环境,不改底层代码且保留原生验证器
📌 工作参考价值(4 点)
- 可借鉴 EnvHarness 的 Stage/Contract/Chain 包装思路:在不修改现有电商沙盒、对话仿真器等模拟器底层代码的前提下,通过接口层注入初始状态变化、动作约束和观察过滤,低成本生成大量定向训练环境。
- EnvRigger 的黑盒诊断-生成-验证循环适合迁移到客服/导购 Agent 的弱点修复:记录失败轨迹,自动写出限制快捷操作或强制验证行为的 wrapper 代码,并通过新鲜 rollout 接受/拒绝,实现策略与环境共演化。
- 在强化学习训练推荐/搜索 Agent 时,可利用 Contract 屏蔽高奖励但无学习价值的捷径(如直接推荐热门商品),迫使模型探索长尾策略;用 Stage 预设不同用户状态(新用户、低活跃、购物车状态),覆盖长尾场景。
- 保留原始 verifier 的做法值得采纳:所有环境改造通过标准 reset/step 接口完成,评估仍使用可信的人工验证器,避免生成式环境带来的评估失真问题。
FlowEvo:工作流与可执行技能共演化的自进化智能体
🧭 Agent 自进化 · 工作流与技能共演化 ★ 深度解读
Southeast University · Rensselaer Polytechnic Institute · The Hong Kong University of Science and Technology
训练免更新框架,将成功工作流编译为可执行技能,并在推理时通过直接复用或技能条件生成持续提升智能体能力
📌 工作参考价值(4 点)
- 在导购/客服/搜索推荐 Agent 中,把验证通过的会话或工具调用轨迹编译为带接口与测试的技能条目,而不是仅存 prompt 文本;可显著降低重复探索的 token 成本,适合高并发商品推荐、Query 改写等场景。
- 采用「动态生成 / 直接执行 / 技能条件化生成」三级路由,并设直接执行失败自动回退;可嵌入商品属性抽取、推荐解释、营销文案生成等 workflow,结构化任务优先走缓存式执行。
- 用对比式效用追踪(compare skill applied vs withheld)做负迁移治理:对 prompt 版本、策略技能、推荐模板做持续 AB 式统计,低于阈值自动降权/停用,防止线上记忆库被低质量经验污染。
- 该框架在可验证信号(结构化 action、code、math)下更稳,对无明确 reward 的开放对话需谨慎;其「小模型受益大」结论可用于低资源场景,用记忆库补偿模型能力。
Harness 持续学习:冻结模型下 Agent 外部状态的持续进化
🧭 Agent 持续学习 · Harness 进化 ★ 深度解读
State Key Laboratory for Novel Software Technology, Nanjing University, China · University of Wollongong, Australia
将持续学习对象从模型参数转向 Agent 外部 harness,通过 guarded evolution 显式控制 harness-level 遗忘
📌 工作参考价值(1 点)
- 在 Agent 系统中引入 guarded evolution:将 harness 更新(prompt、memory、routing 等)与部署分离,设置历史锚点集(anchor set)作为回归测试,只有通过当前改进、历史保留和有效性检查的新配置才上线,避免线上行为退化。\n- 借鉴四组件设计:Task Interface, Experience Memory, Capability Map, Adaptive Router 可以映射到电商/搜索推荐系统的 Agent 编排层,把用户意图解析、历史交互记忆、可用工具/策略注册、决策路由分开管理,便于持续迭代和故障定位。\n- 通过调节 historical-loss tolerance Bn 控制稳定性-可塑性权衡:在大促等需要快速适应新玩法时放宽 Bn,在稳定期收紧,实现业务节奏的灵活控制,而不是一味追求最新任务的最优。\n- 利用 LLM 从原始交互中总结抽象记忆、再提炼为可复用内部技能(inner skills),可迁移到自动从用户反馈中提炼推荐策略、生成推送文案或 query 推荐模板,形成持续进化的策略库。
PolicyGuide:从守卫单一动作到引导整个工作流的政策合规 LLM 代理
🧭 Agent 工作流引导与政策合规 ★ 深度解读
KAIST · DeepAuto.ai
将领域政策编译为工作流图,用外部持久化验证器在用户轮次边界引导代理完成合规步骤,平均 PASS4 提升 20 个点
📌 工作参考价值(4 点)
- 将客服/订单/退款等政策流程离线编译为图结构,明确节点条件与转移,便于代码持久化状态和验证器遍历;避免仅依赖最终动作检查,可迁移到电商 Agent 的合规流程。
- 在用户轮次边界触发验证器,而非每个动作,平衡覆盖与成本;用一次性门控拦截未授权变异调用,防止死锁,适合高并发客服场景。
- 外部验证器 + 代码管理状态与代理解耦,可以复用同一工作流图跨多个 LLM 代理(如 GPT/Claude/Gemini),降低模型迁移成本。
- 对抗用户/社会工程攻击下,要求关键事实必须由工具结果支撑,而非用户陈述,可借鉴到电商恶意退款、价格操纵防护。
Agentic 推荐系统中的委托不对称:在线约会双向接受度测量
🧭 Agentic 推荐系统 · 双向接受度建模
Fleamily, Inc. · Lucy Family Institute for Data & Society, University of Notre Dame
用双语言大规模调查与潜变量模型证明发送和接收 Agent 对话的接受度是两个不同构念,并量化部署-接收不对称及路由增益
📌 工作参考价值(4 点)
- 在构建 Agent 对话/推荐系统时,把“用户是否愿意让 Agent 代表自己对外发消息”和“是否愿意收到对方 Agent 消息”分开测量与建模,两者相关但可分(ρ=0.92,ΔBIC=52),合并成一个接受度指标会高估用户接受度。
- 路由策略可借鉴:按“接收方接受 Agent 消息的概率”优先路由 agent-initiated 消息,论文显示每次接触互动率提升约 3 倍,OOS AUC=0.88;对应电商导购、社交推荐中的 receptivity-aware matchmaking,即用接收方接受度分数做排序或过滤。
- 产品设计需提供分层 opt-in 和披露机制:部署自己 Agent 的阈值(θ=-0.38)远低于与对方 Agent 互动(θ=+0.32, 全互动 +1.39),发送与接收意愿对称性差,不能只问一句“是否允许 Agent”。建议分别设置同意开关,降低用户防御。
- 互惠要求/双向同意会显著压缩可用池:要求双方都接受 Agent 通信会排除近三分之二潜在部署者,交互量减半以上;在冷启动或规模优先场景下应谨慎使用强制双向 opt-in,可改为单侧路由 + 接收端优先策略。
CABLE:通过互补前因链接与扩展增强记忆检索
🧭 Agent 长期记忆检索增强
Shanghai Jiao Tong University · Shanghai Innovation Institute
提出可插拔的 CABLE 方法,通过生成前因导向查询并筛选互补关联构建稀疏有向图,扩展记忆检索的语义覆盖范围
📌 工作参考价值(4 点)
- 在 RAG/记忆检索中不要只依赖语义相似度:构建稀疏有向图,用前因导向查询发现语义距离远但因果/时序相关的证据,可迁移到电商客服 Agent 中跨会话解释用户偏好变化。
- 链接构建时采用“互补性过滤”:先检索直接语义邻居并减去这些候选,只保留检索器难以覆盖的关联,避免冗余、控制图规模,适合在用户行为知识图谱或记忆库中增量落地。
- 检索时保持宿主检索器不变,只对种子节点沿图扩展一跳/多跳,成本低、可插拔,无需替换现有向量库即可升级现有 RAG 架构。
- 在证据跨会话分布、开放域、偏好导向问题上收益最大,可优先应用于电商多会话对话、用户长期兴趣挖掘等场景。
面向多轮工具调用智能体的菱形拓扑感知检索与自蒸馏训练框架
🧭 多轮工具调用 Agent 的自蒸馏训练 ★ 深度解读
ByteDance · University of Science and Technology of China
构建交互状态转移图并识别关键拓扑断点,仅对恢复步骤做局部监督,提升多轮工具调用效率与泛化。
📌 工作参考价值(5 点)
- 业务值得借鉴的:
- 将多轮工具调用轨迹建模为交互状态转移图(ISTG),用信息原子抽象归一化语义等价工具响应,可有效压缩状态空间并捕捉顺序无关子目标的菱形拓扑,适合电商/搜索 Agent 中多路径比价、商品查询等场景。
- 用成功可达区域投影定位第一个偏离点(CTB),只对失败后的恢复步骤做局部监督并 mask 有效前缀,避免全局 SFT/RL 对有效探索的误惩罚,可缓解 credit misassignment 和灾难性遗忘。
- 采用渐进式自蒸馏:每轮从学生 rollout 中检测能力边界,用教师轨迹检索恢复参考,形成自步课程;工程上可低成本迭代,且能逐步缩短工具调用链(文中 3.55 vs golden 4.02)。
- 在具备 verifiable feedback 的自动构建环境(类似 FTRL)中先构造教师轨迹池与状态图,再迁移到真实业务前可用该框架做离线自蒸馏。
SkillForge:面向项目特定问题解决的自蒸馏 Agent
🧭 Agent 自蒸馏获取项目特定知识 ★ 深度解读
Shanghai Jiao Tong University
通过从仓库自身测试与代码合成 issue 并蒸馏为实体级技能,解决 SWE agent 的项目冷启动问题
📌 工作参考价值(4 点)
- 可复用的架构:离线自蒸馏 + 在线检索注入。电商/广告/推荐 Agent 同样存在“项目冷启动”:新业务域缺乏领域知识。可用仓库测试/日志/历史行为作为监督,先离线合成任务并跑通 Agent 轨迹,再蒸馏成可检索知识,在线时只做轻量注入,避免每次线上任务都重探。
- 双级技能库 + 实体对齐的 JIT 注入。不要把所有知识一次性塞进 prompt。把诊断类知识(模块定位、排障 playbook、关联 API)做全局初始化检索;把干预类知识(修改时的坑、修复模式)绑定到具体实体,Agent 访问对应实体时再注入。这比纯语义相似度检索更精准,能降低上下文噪声。
- 合成任务要“功能级”而不是“单函数级”。只改一个函数往往暴露不了跨模块集成问题。应沿执行 trace 一次覆盖多个协同代码段,合成出来的任务才更接近真实业务故障。
- 知识是模型相关的,跨模型迁移会掉点。如果是电商 Agent,不同底座模型编码偏好不同,蒸馏出的领域知识应尽量与线上推理模型绑定,不要拿 A 模型蒸馏的知识直接给 B 模型用。
SkillGate:训练长程 Agent 的策略内技能选择
🧭 Agent 技能选择 · 信用分配 ★ 深度解读
Shanghai Jiao Tong University · Xiaohongshu Inc.
识别选择器信用饿死问题,分离执行与选择 token 信用通道,将 9B 策略成功率从 40.8% 提升至 53.2%
📌 工作参考价值(4 点)
- 在电商搜索/Agent 场景中,当 LLM 在长对话里选择 query 改写、营销话术或工具时,不要把最终成交 reward 直接广播到全部 token;应将“选择 token”(如 query 或 skill 名)与“执行 token”的 loss mask 分离,避免下游执行失败反向惩罚正确选择(对应论文中 selector credit starvation)。
- 对选择动作构造局部信用:仅当轨迹中唯一选择为 oracle(正确 query/skill)时给 +1,否则给 0,并在同一 prompt group 的候选动作上做 group centering,去掉标准差归一化;这比给整条轨迹加分、或只奖励第一次正确选择更有效(可参考消融表 2)。
- 工程上可用 token span 标注 identity 区域,并在 mask 构建/分片/loss 三处断言两个 credit channel 的 support 不相交;对 selector channel 做长度无关重加权,使每个 credited action 的总权重恒为 N/M,避免长轨迹稀释关键决策。
- 业务上不要过度依赖外部 router/reranker:论文显示路由准确不等于下游成功,训练策略内部选择能力可同时降低交互成本(读更少技能、更少 turn)和上下文成本(按需加载 vs 预加载 k 个候选)。
StagedWorkspace:面向知识工作 Agent 的版本化工作空间
🧭 Agent 工作空间版本管理与状态一致性
Harvard University · Raycaster AI · University of Technology Sydney · University of Washington · Stanford University
提出带版本控制的工作空间,将解析视图与 diff 绑定到文件内容哈希,显著提升知识工作 Agent 的文件编辑与问答性能
📌 工作参考价值(4 点)
- 对于电商/广告场景中需要 Agent 自动生成或修改文档(如商品详情、营销报告)的流水线,可采用内容哈希将解析视图与原生文件绑定,防止 Agent 在异步处理中引用过时版本,确保最终提交一致性。
- 引入 staged edits 与 review diff 机制,让模型在每次修改后看到 diff 再继续下一步;在多轮编辑任务(如广告文案迭代)中能显著减少累积错误,提升最终质量,类似代码 Agent 的版本控制实践。
- 若构建基于 RAG 的知识工作 Agent(如自动撰写商品卖点、审核规则文档),采用 dual parsed/native access:结构化解析用于快速检索,原生文件用于精确校验,可平衡效率与准确性。
- 在评测或监控此类 Agent 时,将 evidence、staged edits 和提交产物作为显式状态转换进行打分,而不是只看最终输出,更能反映真实工作流中的质量。
项目接地与验证把关的 PLC 代码生成 Agent 框架 SemaPLC
🧭 Agent 校验驱动代码生成
Midea AIRC · KUKA · Shanghai Jiao Tong University · Zhejiang University
提出以外部验证为完成条件的 Agent harness,在 PLC 代码生成上运行时得分显著超越基线
📌 工作参考价值(4 点)
- 将任务完成条件从 LLM 自我判断改为可执行的外部 checker(spec 校验、编译、运行时 trace 对比)作为 gate,只有日志确认通过才停止,能显著提升生成质量,尤其在动态运行时指标上。
- 分层验证思路可迁移到推荐/Agent 生成场景:spec 匹配、离线静态检查、线上仿真或 replay 动态评估三层 gate,动态层最能区分方法优劣。
- 项目 grounding 做法:给 LLM 提供完整项目树、接口定义、技能库等结构化上下文,而不是孤立生成,电商推荐中可类比为提供商品图谱、用户序列、业务约束等上下文。
- 动态评测比静态打分更能暴露问题,建议在推荐 Agent 或生成式推荐评估中增加线上仿真/真实 A/B 指标,避免只看离线静态分。
写、执行、精炼:通过执行反馈强化学习训练技能优化器
🧭 Agent 技能优化训练 · 执行反馈强化学习 ★ 深度解读
Harbin Institute of Technology, Shenzhen · The Chinese University of Hong Kong · MoE Key Laboratory of High Confidence Software Technologies · Harbin Institute of Technology, Harbin · Huawei Technologies Co., Ltd.
训练独立 Skill Optimizer,用执行反馈做 phase-wise GRPO,让 4B 模型优化 agent 技能超过通用大模型
📌 工作参考价值(4 点)
- 在电商导购、客服、广告投放等 Agent 系统中,把「策略 prompt / skill」当作可优化参数:冻结执行模型,单独训练一个小模型改写 skill,能获得比直接换更大 LLM 更稳定的收益;执行器冻结可以让优化信号只归因到 skill 本身。
- 如果业务有程序化校验指标(订单完成、API 参数合法、库存/价格约束、终态匹配),优先用 verifier 做 reward,不要用 LLM 打分;配合组内相对优势 GRPO,能避免任务难度差异淹没候选策略差异。
- 构建 replay buffer 时,只保留同一 skill 下「一次成功 + 一次失败」的 paired trajectories 作为下一轮优化样本;这种 mixed-outcome 状态能定位 skill 未约束的分支,比单条失败轨迹更有诊断价值。
- 生产环境建议迭代 1-2 轮即停止:实验显示 2 轮修订后收益饱和,第 3 轮可能倒退;skill 文档用 name/description/workflow/notes 四段式,agent 指令更稳定可维护。
自改进智能体的脆弱性:方差、任务顺序与欠规约
🧭 自改进Agent 可靠性评估
Salesforce AI Research
重评估揭示内存型自改进Agent存在高方差、强任务顺序依赖及任务/环境欠规约导致的脆弱性
📌 工作参考价值(4 点)
- 评估自改进 Agent 或带记忆的 LLM 系统时,务必报告多次运行方差;观察到最佳与最差运行差距可达 10 个百分点,单次结果不可靠。
- 任务顺序会隐式形成课程学习,默认顺序可能掩盖真实性能;上线前应在随机打乱的任务流上做压力测试,否则提升可能来自顺序而不是模型能力。
- 内存条目若缺少任务/环境规约,容易生成看似合理但不适用的策略;可在记忆构造时注入详细 rubrics、环境反馈或约束条件,降低欠规约带来的误导。
- 即使加入额外规约信息,性能仍存在明显 gap,说明现有自改进循环内部有不稳定因素;业务场景中建议引入人工审核或护栏,防止 Agent 在不可预见场景下产生错误记忆并持续放大。
工具技能检索失败:可执行能力检索中的源风格坍缩
🧭 Agent 工具检索的源风格坍缩与路由 ★ 深度解读
University of Manchester · University of Sheffield · Shanghai University of Finance and Economics
固定工具库下 dense retriever 会因 query 源风格偏移而覆盖崩溃,TF-IDF 路由+少样本修复可显著恢复覆盖。
📌 工作参考价值(4 点)
- 在多源工具库/API 注册中心上线前,用 query-side TF-IDF 质心距离对流量做源风格监控,设置 safe/unsafe band 做路由护栏,成本极低且能避免线上 candidate coverage 崩溃。
- 不要用 naive 混合训练或平衡重加权来解决多源 drift,它会损害原本匹配源的覆盖;更划算的做法是保留多个 retriever checkpoint,做 source-aware routing,并对 mismatched 流量用 20 条左右 matched examples 做短时继续微调。
- 检索层是 agent 执行链路的入口,评估时优先看 coverage 或 coverage-weighted top-1 proxy,而不是只看 covered query 上的 reranker 精度;未覆盖 query 必须直接记为失败,否则会掩盖系统风险。
- 把工具/API 重渲染成标准化 skill card 并不能消除源风格坍缩,说明问题在 query-tool pairing 习惯和措辞分布,而不只是 schema 格式;做 skill 库时不要把格式归一化当成语义漂移修复。
LEGO-RL:原生编码 Agent 强化学习训练框架
🧭 Coding Agent RL · 原生 harness 训练框架 ★ 深度解读
Huawei Technologies Co., Ltd · The Chinese University of Hong Kong
桥接原生编码 agent harness 与策略梯度优化,在不改控制流下实现可信 RL 训练并显著提升 SWE-bench 解决率
📌 工作参考价值(4 点)
- Agent 化推荐/搜索场景可复用 in-process proxy:在业务 Agent(如导购、客服选品)中,用模型 API 边界代理记录 token ID、log-prob、response mask 和 MoE 路由,训练侧重放,避免 harness 上下文压缩/重写造成轨迹失真;对于 sparse MoE 模型尤其重要,路由重放可将 rollout-train 概率相关性从 0.9946 提到 0.9993。
- 异步 rollout + 终止状态过滤:长 horizon Agent 任务时长差异大,按基础设施失败/超时/有效但不完整分类轨迹,无效轨迹排除出组相对优势估计,防止执行故障污染梯度;组内方差不足的任务需难度筛选,否则零方差组无学习信号。
- 奖励完整性防御可迁移到任何带执行反馈的推荐 Agent:限制网络、隐藏评测信息、依赖打包、隐藏仓库历史,防止 Agent 通过外部状态作弊,保证奖励真实反映任务完成。
- 可观测性设计值得借鉴:失败原因分布、轨迹查看器、一致性面板,在训练崩溃时快速区分策略退化与执行/集成故障,支持早停与人工诊断,减少无效实验成本。
Skill2Query:利用技能结构生成伪查询用于Agent技能检索
🧭 Agent 技能检索 · 结构感知伪查询生成 ★ 深度解读
Fudan University · Sun Yat-sen University · Shanghai Innovation Institute · Shanghai Jiao Tong University
将技能文档解析为知识图谱,三阶段生成能力对齐、参数一致的伪查询,提升检索与训练效果
📌 工作参考价值(4 点)
- 对电商/Agent 平台的技能、工具、商品文档检索:不要直接把整篇文档塞给 LLM 生成伪查询;先做结构解析(能力点、参数 schema、使用示例),再分阶段生成,能明显改善参数一致性与能力覆盖。
- 伪查询可同时服务离线索引增强和在线查询扩展:离线对名称/简短描述这类稀疏索引收益最大;在线适合补长尾表达,配合 RRF 融合简单有效。
- 在 fine-tune retriever 前,用 Exec-Pass、Func-Coverage、Distinct-3 等指标筛选结构合法的伪查询,比只追求表面多样性更能提升下游 R@1/nDCG@1。
- 当底层 LLM 推理能力较弱时,高质量技能/工具检索对端到端任务成功率提升更明显;在导购 Agent 或工具推荐中可优先把检索质量做高,而不是依赖强模型硬扛。
ClawGym II:在 Agent Harness 上探索黑盒强化学习
🧭 Agent 黑盒 RL 训练 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · IQuest Research
提出统一黑盒 RL 框架,通过不透明 harness 稳定规模化优化通用 Agent,并支持混合 harness 联合训练
📌 工作参考价值(4 点)
- 把生产 harness 直接当 rollout engine,而不是重写 agent loop:电商/广告/搜索推荐中的 Agent 常运行在复杂编排系统里,重写会丢失上下文管理、重试、工具调度等关键行为。可以在模型服务边界加 proxy 拦截所有模型调用,以 token-in-token-out 记录真实推理轨迹,再拿去做 RL 训练,避免训练-推理不一致。
- 用 prefix tree 恢复分叉、去重的多轮轨迹:同一 rollout 可能因 compaction、subagent、重试产生大量共享历史。组织成前缀树后,只优化 main trajectories,过滤 dead leaves 和过分支 rollout,能显著降低噪声、提升训练效率;推荐/搜索 Agent 的多轮交互同理适用于这种树结构消重。
- 引入 token-level importance sampling 校正 rollout 与训练引擎概率差异:训练和推理引擎即使同一模型也可能因数值精度、并行方式产生 log-prob 偏差,直接优化会带 off-policy 噪声。加一个截断的 token 级 IS ratio 是低成本、易迁移的稳定性 trick。
- mix-harness 训练可提升跨执行系统泛化:如果业务中同一策略会跑在不同工具接口、不同上下文管理或不同编排系统上,可把同一 task 与多个 harness 配对,按 task-harness pair 做分组 advantage 归一化,再联合梯度更新,避免策略过度绑定单一系统。
从序列到结构:LLM Agent 的关系型不确定性传播
🧭 LLM Agent 轨迹级不确定性量化 ★ 深度解读
Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences · University of Chinese Academy of Sciences
将 Agent 执行轨迹建模为关系图并传播不确定性,提升长程任务失败检测与提前干预能力
📌 工作参考价值(4 点)
- 在电商导购/客服 Agent 的多步工具调用链中,可把轨迹建成关系图,重点监控 repetition、feedback conflict、goal drift 等边类型,形成失败预警信号;这比只看 token entropy 更能提前发现连环错误。
- 图构建采用轻量规则 + embedding/tool signature 匹配 + lexical cues,不增加大模型调用成本;可在搜索/推荐助手中实时识别 error、empty observation、重复 action 等,触发降级、重试或人工接管。
- 不确定性引导采样策略可落地:每步生成多个候选 action/query,选择 RUPA 风险最低者执行,适用于商品搜索、参数补全、推荐解释生成等需要抉择的场景。
- 论文的 entropy-matched 分析表明,即使单步置信度相近,轨迹结构信息仍有区分度;因此推荐/搜索 Agent 可把轨迹图风险作为排序或策略选择的额外特征,而不是只依赖单步 model confidence。
HyMem:通过信息隔离实现长程智能体的分层上下文管理
🧭 Agent 长程上下文分层隔离 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Nanjing Artificial Intelligence Research of IA
提出训练无关的分层上下文隔离框架 HyMem,将规划、执行、子任务推理与结构化记忆分离,显著提升长程 agent 的 Pass@1
📌 工作参考价值(4 点)
- 把 planner 与 executor 上下文彻底拆开,执行结果只回传 schema 化 RESULTS/RETURN,原始工具输出、重试和中间推理留在临时 context;适合电商导购 Agent 在多轮搜索与商品比较时,防止详情页噪声淹没主任务。
- 复杂子任务用独立的 isolated reasoning session 处理,返回结论+证据+confidence,主 planner 不累积推理过程;可直接用于优惠计算、多条件筛选、价格/评论冲突验证等需要多跳分析的导购场景。
- 结构化记忆分三类:episode/working/tool memory,fold 时只保留里程碑、当前目标和可复用工具经验;可用于长会话用户偏好记忆与跨会话召回。
- 确定性 fold triggers(planner ctx 利用率>0.99、连续失败>=3、tool calls>=10 等)可照搬,训练无关、即插即用;适合在现有 ReAct/搜索推荐 Agent 上快速压测上下文稀释问题。
TaoLive 数字人直播 Agent 技术报告:训练 Agent 随 Harness 共同演化
🧭 直播电商 Agent 训练与 Harness 演化 ★ 深度解读
TaoLive AIGC LLM Team
HAT 通过 Harness-State Augmentation 训练紧凑模型,使直播 Agent 在低延迟下随 Harness 演化并保持通用能力
📌 工作参考价值(4 点)
- 把业务策略(Skills、Hooks、prompt、tool schemas)从模型权重中解耦,用可独立版本化的 Harness 模块做诊断-编辑-评估闭环;策略更新从重训变成小时级上线,适合电商运营规则、合规要求高频变化。
- 训练数据只覆盖单一 Harness 会让小模型记 skill 名/工具名/模板,上线后策略一改就崩;用 HSA 对 skill 名与内容、tool schema、prompt 结构、Hook 行为做任务保持扰动,构造多种 Harness 配置让模型学会读当前指令而非背固定版本。消融显示 HSA-SFT 收益远大于 HSA-RL,优先在 SFT 阶段做增强。
- General OPD 以预训练基座为 teacher,在通用指令数据上做 on-policy KL 蒸馏,能找回领域 SFT 损失的通用指令能力(IFEval +8.5),比单纯加回通用 SFT 更贴合低延迟 agent 场景。
- 低并发实时直播用单卡 H20 + MTP 投机解码可把 P95 压到 8.1s、吞吐提升 1.7x;但高并发下 MTP 收益递减,应预留副本而不是把它当高吞吐优化。Hooks/超时/降级路由做防御性深度,避免模型幻觉造成事实性风险。
循环语言模型提升组合工具调用
🧭 循环语言模型优化多步工具调用
Department of Computer Science and Technology, University of Cambridge, United Kingdom
循环计算在组合式工具调用中提升准确率,自适应推理深度提供更优算力-性能折中
📌 工作参考价值(4 点)
- 多步 API 协调、状态依赖保持是 Agent 落地的核心难点,可尝试将 backbone 换成或改造为循环语言模型,替代复杂 prompt 工程,提升组合工具调用稳定性。
- 自适应推理深度在保证准确率的同时控制算力,适合线上 API 开销敏感场景;可以在推理时根据任务复杂度动态分配 recurrent depth。
- 论文验证了 retrofitted 循环模型(对 Llama、OLMo 等现有模型插入循环层)与原生循环模型均有增益,意味着现有 SFT 流程可复用,作为生成式 Agent 的候选架构成本较低。
- 业务中若涉及复杂工具编排(如电商 Agent 串联商品查询、订单、物流接口),可重点评测多步依赖型任务的准确率,而非只关注单步 API 调用指标。
用户中心多轮智能体的意图驱动情境追踪
🧭 Agent 情境状态追踪 ★ 深度解读
University of Electronic Science and Technology of China · Shenzhen International Graduate School, Tsinghua University
提出训练无关的IDSS框架,显式分离工具事实与任务状态,通过约束传播提升多轮Agent完成率与效率
📌 工作参考价值(4 点)
- 在电商多轮导购/客服 Agent 中,可把工具返回(商品、订单、库存、履约)解析为带 provenance 的结构化事实层,与“用户目标/缺失变量/约束”状态分离;这能显著降低长对话中的事实遗漏和错误执行。
- 借鉴跨层约束传播:把预算、配送时效、库存/券可用性、退换政策等建模为可被新事实更新的约束;一旦违反就 block 不可行意图并自动激活替代路径,减少无效工具调用和违规下单。
- 用 <state> 块让 LLM 自更新任务状态并回注下一轮 prompt,不增加额外 LLM 调用;同时把历史中的原始工具返回替换为事实层引用,可低成本控制 prompt 长度,适合线上低延迟场景。
- 变量打标 askable / retrievable / derivable 可指导 agent 何时问用户、调工具或推导,尤其适合需要偏好澄清的电商导购与推荐式对话。
UI-Mate:通过上下文演示提升开源权重基础 GUI 智能体
🧭 GUI Agent 训练与上下文演示
Tencent Hy Frontier Team
UI-Mate 结合环境驱动训练栈与上下文演示学习,在 OSWorld 等基准刷新开源 GUI 智能体 SOTA
📌 工作参考价值(4 点)
- 任务验证器与闭环数据引擎:可复用到电商 RPA、客服助手等 GUI 操作场景,用统一的 task–verifier bundles 自动化生成、过滤和平衡训练数据,减少人工标注。
- 演示学习的方式:将多模态演示转成 subtask-level workflow 而非刚性轨迹回放,同时允许从实时界面重新规划——适合电商中用户特定工具、隐性规则(如改地址需二次确认)的场景。
- 区分 self-demo 与 variant-demo:在构建演示数据库时,应分离同任务成功轨迹与相似但非同一任务的人类录制,有助于评估和提升模型对未见变体的泛化能力。
- 评测指标:除了 strict success,还引入 progress 指标,对长流程电商操作(如比价、下单、售后)更细粒度地反映中间进展,适合作为内部迭代指标。
AgentRewind:面向长程 LLM Agent 的可恢复执行框架
🧭 Agent 执行恢复与 checkpoint ★ 深度解读
University of Chinese Academy of Sciences · IIIS, Tsinghua University · Zhongguancun Academy · Institute of Automation, Chinese Academy of Sciences
通过对齐的上下文与环境 checkpoint 回滚,并注入失败摘要,提升长程 Agent 任务成功率
📌 工作参考价值(4 点)
- 做电商/搜索/广告领域的 Agent 时,把失败恢复做成 runtime 层,不只回滚 message history,必须同时回滚工作区或数据库状态;否则被污染的中间状态会拖垮后续步骤。
- 把 rewind 作为工具暴露给 LLM,而不是外部固定策略:让 agent 根据 checkpoint metadata 选择回退点并写 memory_summary,适合长任务和多步修改场景。
- 借鉴 MettleBench 的「有序 checklist + 只返回第一个未满足项 + prefix progress」作为 Agent 任务验收与诊断指标,比只看最终成功率更能测量部分完成度。
- 工程上要明确恢复边界:只回滚可控文件系统,外部副作用需要隔离或记录;回滚时用执行日志恢复前缀,避免重新执行产生新的副作用。
理解智能体AI系统中认知引发的风险
🧭 Agent 认知风险分层与治理策略
Shanghai Artificial Intelligence Laboratory · The Chinese University of Hong Kong, Shenzhen · Tsinghua University
按物理、社会、自我指涉三层次认知框架,系统分析LLM智能体对人类能动性与控制权的风险及缓解策略
📌 工作参考价值(4 点)
- 在电商Agent(自动选品、生成广告文案、push消息推送)上线前,可按三层认知框架设计审计清单:物理层检查工具调用与API权限,社会层审查对用户意图的操纵与隐私风险,自我指涉层防止目标漂移或自修改配置,逐层分级放行。
- 将“人类能动性、自主性、控制能力”作为核心指标纳入Agent评估集与在线监控;对涉及用户情绪或社会影响的推荐文案、自动客服等场景,强制保留人类审批节点。
- 对具备长期记忆或自我修正能力的推荐Agent,设置自我指涉风险检查点:定期比对当前目标与原始业务目标,避免过度个性化导致的信息茧房或目标篡改。
- 架构上采用“最小权限+风险隔离”:Agent调用外部数据和服务时,按认知层级分配权限——物理层只给只读API,社会层需人工确认,自我指涉层禁止自动改写自身prompt或工具配置。
LongRCA Bench:长程 Agent 失败责任角色与根因诊断基准
🧭 Agent 长轨迹故障根因定位
Computer Network Information Center, Chinese Academy of Sciences · Hangzhou Institute for Advanced Study, University of Chinese Academy of Sciences · Chongqing University · Institute of Computing Technology, Chinese Academy of Sciences · Singapore Management University
提出 LongRCA Bench 与训练无关的 RCTA 方法,将长轨迹 Agent 失败归因提升至 24.1% 精确根因步准确率
📌 工作参考价值(4 点)
- 可直接复用 RCTA 的两阶段归因流程:对电商导购、多步推荐、客服自动化等长轨迹 Agent,先按 segment 做摘要并检索可疑步骤,再回溯上游 handoff/指令做依赖定位;无需训练,便于在现有 LLM backbone 上快速部署。
- 故障归因评估应拆分 responsible-role accuracy 与 exact root-step accuracy:业务中先定位出错的角色/环节(如召回、排序、工具调用、策略手写)往往比直接定位具体步骤更易落地,也适合做监控告警和归因看板。
- 参考 LongRCA Bench 的构建方式:收集真实失败轨迹、避免注入错误、对最早决定性根因步骤做独立人工标注,可沉淀为自己的长会话 Agent bad case 离线回归库。
- 注意连最强基线也仅 13.2% 精确根因步准确率,说明长轨迹精确定位很难;不要依赖 LLM 一次性全轨迹归因,优先用分段摘要+依赖回溯缩小范围后再核验。
扫清迷雾:在 LLM Agent 中植入与精调主动探索能力
🧭 LLM Agent 主动探索训练 ★ 深度解读
Sichuan University · National University of Singapore · University of Leeds · Engineering Research Center of Machine Learning and Industry Intelligence
通过探索性数据构建和对比信号引导强化学习,大幅提升 LLM Agent 在多轮交互任务中的主动探索与决策能力
📌 工作参考价值(4 点)
- 电商购物 Agent 的训练数据要包含探索轨迹:标准人类专家轨迹中探索动作几乎为 0(如 WebShop 中 Next/Back 仅 0.1%),导致 SFT 后的 Agent 只会被动执行、不会翻页回溯。可以用强 LLM 配合树结构上下文,合成包含主动搜索、回溯、分支尝试的探索丰富轨迹,作为 SFT 初始化数据。
- 用树结构管理会话历史,避免长程任务中的上下文迷失:在电商搜索、多轮比价等场景,线性的 action-observation 历史会混淆有效路径与废弃分支。借鉴论文中的 tree-structured history + cognitive notes,在 Agent 内部显式维护分支、回溯指针和状态标注(如 [DEAD END]、[SUB-OPTIMAL]),能显著提升策略的探索质量。
- 用对比偏好对 + DPO 校准「探索 vs 执行」的决策边界:在关键状态上,采样学生动作与参考动作,通过 MC rollout 估计各自未来回报,过滤小差距对后做 DPO。这套机制可以迁移到推荐/搜索 Agent 的策略优化,让模型学会何时继续浏览、何时停止探索并做出购买/点击决策。
- 探索效率评估与难度分层分析:论文提出的 Eff = EE - WE 指标(有效探索减浪费探索)以及按任务难度分层统计探索强度,可用于业务中诊断 Agent 是否在做有效信息获取,而不是盲目增加交互步数。
StateM:用 Harness Scaling 在 Terminal-Bench 2.1 达 95.3% / $15 前沿运行
🧭 Agent harness 扩展与状态机执行控制 ★ 深度解读
StateM 用状态机 runbook 外部化执行控制,不改权重,Terminal-Bench 2.1 达 95.28%,DeepSeek $15 达 88.8%
📌 工作参考价值(4 点)
- 将长流程 Agent(如生成式推荐、商品投放、数据分析 pipeline)编码为 YAML 状态机 runbook,每个阶段设 exit checks(离线评估分、数据完整性检查、配置校验),可显著减少 agent 提前退出或跳过必要步骤。
- 采用“状态即上下文与契约边界”设计:进入新阶段时刷新 phase-local 指令与进度摘要,避免长轨迹导致控制信号稀释;离开阶段必须通过可执行 command/predicate 校验,而不是 agent 自述完成。适合生成-验证-修复-发布这类闭环。
- 建立失败驱动的 harness 迭代流程:把每次失败归类为缺失上下文、无效转换、弱检查、提前交接、恢复失败等,将通用修复固化为 runbook 版本,不改模型权重。这能把重复踩过的坑沉淀为可执行约束,并保持模型不变。
- 跨模型迁移时,同一模型家族可冻结 runbook 直接复用;跨 provider 需按新模型适配 practices,但可保留 runbook 结构与开发原则。可以尝试用便宜模型 + 定制 harness 逼近昂贵模型,降低推理成本。
Twin:用测试时数字孪生玩未知游戏
🧭 测试时世界模型推断与规划 ★ 深度解读
Stanford University · Cornell University · University of Southern California · Yeshiva University
构建可执行世界模型,强制回放验证和规划后执行,以 93.3 分通关 ARC-AGI-3 23/25 个游戏
📌 工作参考价值(4 点)
- 对高成本真实动作(广告投放、push 打扰、人工客服介入)的探索策略,可借鉴 Twin 的 replay validation + halt-on-mismatch:用可执行代码模拟用户/市场动态,每次真实动作前强制模型回放历史交互,不一致就修复;执行中逐步校验,一旦预测失配立即停止并收集 counterexample,避免错误累积放大。
- 把 dynamics 与 goal/reward 显式分离,先验证转移模型,再通过假设-测试循环推断目标。在推荐/搜索中,用户意图常不可见,可先假设当前 session 目标(比价、闲逛、决策),用最小代价提问/推荐验证,而不是等点击或转化 reward 才优化。
- 让 LLM 生成可执行代码作为世界模型,而非黑盒神经网络,获得可解释、可验证、可 BFS 规划的优势;电商 Agent 可让 LLM 写业务规则或用户模拟器,通过离线日志回放验证,再用于策略推演和路径规划。
- 计算成本换真实动作数量:平均每个真实动作 224k tokens,但动作数减少约一半。对高价值动作划算,对高并发低风险推荐不划算;可按动作成本与风险决定是否启用 test-time compute。
VibeWorlding:多模态智能体能端到端构建3D开放世界吗?
🧭 多模态 Agent 3D 世界构建
AI Thrust, HKUST(GZ) · TEG AIPD, Tencent
提出 VibeWorlding 基准与训练框架,用多模态 RL 让开源 MLLM 在 3D 开放世界构建任务上超越闭源前沿模型。
📌 工作参考价值(4 点)
- rubric-based verifier 可迁移到 agent 闭环评估:把奖励分解为“可行性”和“意图满足”两类维度,用规则检测器(如碰撞检测)和 LLM 评分结合,能低成本扩展为 RL reward service,适合需要自动化评估长轨迹 agent 的场景。
- MCP 工具化沙箱:将检索、编辑、渲染等异构工具统一为 MCP 接口,方便 agent 调用并与 RL 训练环境解耦;可直接复用到商品图片生成、页面布局、活动落地页等 agent 工作流。
- 反向合成数据降低标注成本:人工构建少量种子世界,再反向生成大量多样化用户查询,可迁移到电商场景生成“意图→页面/推荐”训练对,减少人工标注。
- RL post-training 可针对性突破能力瓶颈:当闭环评估显示模型在特定环节(如编辑)弱,针对性 RL 训练能让开源模型超越闭源前沿,提示针对业务闭环的 agent RL 值得投入。
ACID 合规智能体系统:语义化事务执行框架
🧭 LLM Agent 事务化执行与可靠性增强 ★ 深度解读
Tsinghua University
以语义化 ACID 事务约束 Agent 执行,在 KramaBench 上超 Claude Code 10.6 个百分点
📌 工作参考价值(4 点)
- 把一次「探索→执行→验证」看作一个事务单元,commit 前用小模型做置信度分歧校验,失败即丢弃该步 workspace 与上下文;可直接用于电商/广告数据分析 Agent 或推荐策略多步工具调用,防止中间错误污染后续决策。
- 置信度分歧信号很便宜:用 token 平均 log-prob 估计,API 模型没有概率时挂一个本地 0.6B 模型即可;可对关键决策(过滤条件、人群圈选、代码生成)做有无证据支持下的置信度差,低于阈值触发重试。
- 语义隔离按依赖类型分 independent/collaborative/competitive:独立子任务给 Docker 独立权限,协作任务用 branch+定时同步,竞标任务 copy-on-write 并早停低分分支;适合多 Agent 并行做召回/排序/评估时的资源与上下文隔离。
- 只把 validated 步骤写入 append-only workspace,再用知识图谱组织长期记忆,既减少上下文(文中 7.7k→0.7k tokens),又支持审计回滚;推荐/搜索会话 Agent 可借鉴来做持久化状态管理。
AdsWorldEngine:编排器与工具协同进化的对话广告 Agent
🧭 对话广告 Agent 与工具协同进化 ★ 深度解读
Microsoft
用 Actor-Tool 协同进化与标签锚定判断建模构建对话广告 Agent,取得显著离线与在线收益
📌 工作参考价值(4 点)
- 把“是否出广告/推荐/消息”从“出什么”里拆开:用 Opportunity Gate + asymmetric cost-sensitive GRPO 控制误触发。false positive 惩罚设为 -2、false negative 设为 -1,直接按业务损失编码;不要做 group std scaling,避免抹掉不对称 gap。适合电商 push、对话推荐插入、搜索广告位决策。
- Actor-Tool 协同进化:先用 final slate 的 relevance/diversity 奖励训练 Orchestrator,再用 high/low reward rollouts 构造 (intent, 正样本 ad, 负样本 ad) preference 对,以 DPO 式目标训练 retrieval/relevance/ranking tool。能把端到端业务奖励传导到召回/排序工具,适合已有检索/排序模型的团队。
- Orchestrator 的 GRPO 奖励要看最终 slate 的 relevance/diversity,而不是看生成 query 的表面多样性。训练后模型会从“2026 Honda Pilot vs Toyota Grand Highlander comparison”这种重叠 query 变成两个产品名 query,检索候选更不重叠。搜索 query 生成/改写可复用:评估 query 质量要用下游召回结果。
- Label grounded judgment modeling:用 human label + 生产 guideline 生成思维链,再用 reflection 过滤标签不一致的 rationale,能减少“流畅但违背 label”的监督噪声;适合做主观 relevance/机会判断模型。
第二思考:LLM Agent 行动与观察期间并行推理
🧭 Agent 推理时延优化 · 异步并行思考 ★ 深度解读
Singapore Management University
在 ReAct 的 Action-Observation 空闲窗口并行分叉四路原子思考,融合回下一轮,降低主线程解码与轮次而不损精度
📌 工作参考价值(4 点)
- 把 ReAct 中 Action–Observation 的等待窗口当成免费并行推理资源:Agent 调用商品搜索、用户模拟器或工具返回期间,分叉 Check/Recall/Rehearse/Alternative 四路旁路思考,下一轮提示词直接拼接收获的原子思考,可减少无效轮次;工程上可复用主线程前缀 KV cache,关闭旁路 thinking mode 以快速产出。
- 四类推理维度对应电商对话 Agent 常见失败:假设未验证(库存/优惠条件)、长对话约束遗忘(预算/偏好)、工具结果偏离时重新规划、过早锁定单一策略;可按业务裁剪只保留 1-2 路,例如 Alternative + Rehearse,单分支 API 成本仅增加 16%-35%。
- 原子思考输出契约值得直接抄:用 <thought> 包裹、每条 ≤25 词、无前后引用,中断只丢弃当前单元,适合推送文案生成、搜索 query 改写等任何需要异步生成且可随时截断的场景。
- 延迟收益主要来自主线程 token 减少而非隐藏工具等待,说明把旁路思考预算转到等待窗口比单纯 force 主模型更长推理更划算;若允许主线程等待分支完成,Pass@1 还能再涨 4.7 点,但会牺牲关键路径,适合离线批处理或准实时场景。
基于小语言模型与边缘计算的虚拟Agent思考与记忆过程探索
🧭 边缘SLM驱动的Agent认知架构评估
University of Central Lancashire, Cyprus
在边缘设备上用小语言模型实现虚拟Agent的Think与Memory组件,验证路由、记忆读取与延迟的可行性
📌 工作参考价值(4 点)
- 边缘部署小模型分担路由与记忆读取任务,可降低电商客服/推荐Agent的云端依赖和响应延迟,适合实时交互场景。
- 将Agent认知拆分为Think、Memory等独立组件,分别用不同尺寸SLM处理,按延迟和准确率权衡选型,可作为线上Agent架构设计参考。
- 记忆驱动对话系统的设计:SLM负责判断是否需要读取记忆、检索相关信息并生成回复,可用于多轮推荐解释或用户偏好追踪。
- 评估维度可直接复用:路由准确率、记忆读取成功率、端到端延迟,用于对比不同SLM在业务Agent中的性能。
RippleMem:从孤立检索到联想式回忆的长期 Agent 记忆系统
🧭 长期 Agent 记忆 · 联想式证据补全 ★ 深度解读
Communication University of China · Zhilian Yinghe Technology Co., Ltd. · State Key Laboratory of Media Convergence and Communication
把已召回记忆作为 cue,沿事件图局部扩展补全缺失证据,长期记忆 QA 精度显著提升
📌 工作参考价值(4 点)
- 在客服/导购 Agent 中,用户偏好、约束常分散在多轮多 session:一次检索容易只召回直接相关记忆,却漏掉安全约束(如海鲜过敏)。可借鉴「召回后把已召回记忆当 cue,用 LLM 判断缺失证据目标,再沿语义/结构化边局部扩展」的读阶段,避免无向图全局游走。
- 写入阶段把对话压缩为 cue-rich episodic units,结构化保存参与者/地点/时间,并建稀疏图:语义边 + 结构化边(Jaccard/时间衰减)。电商场景可把用户、商品、场景实体存为 cue,便于跨 session 关联,且比维护完整 KG 便宜约 30 倍。
- 工程实现上,建图采用增量式候选池(语义近邻 + 结构化倒排),每节点最多 K 条边,避免 O(N²);证据装配用固定权重排序 + 固定 evidence budget,上下文 token 可控。query-time 控制器额外引入 LLM 延迟,可异步或缓存。
- 复用结论:关联/图检索只有在「evidence-conditioned」补全(有明确缺失支撑目标)时才有效,单纯加图或递归检索容易召回相关但不支持答案的记忆;业务里可用 missing-support target 约束扩展方向。
训练 AI 科学家复现研究
🧭 AI Scientist 智能体训练
Inherent
构建论文复现任务集 Replica 与低噪声自动打分 judge,后训练 27B Faraday 智能体在复现任务上超越 Claude Opus 4.8 和 GPT-5.5
📌 工作参考价值(4 点)
- 自动生成评分 rubric 的思路可迁移到电商 Agent 评估:用可自动构建的细粒度 rubric 替代人类打分,能降低标注成本、减少评分噪声,适合评估推荐解释、query 改写质量或 Agent 执行轨迹。
- 用编码 Agent 作为工具是轻量级垂直 Agent 的有效构造方式:不必事事靠大模型规划,把可验证的子任务交给代码执行器,能在复现/批处理/数据管道等场景里提升稳定性和可复现性。
- 后训练 27B 小模型在垂直任务上超过 GPT-5.5 和 Claude Opus 4.8:说明在定义清晰、有自动 reward 的任务中,用中等规模模型+领域数据微调是性价比很高的选择,适合电商内部 Agent 落地。
- 低噪声 judge 可以作为强化学习 reward 信号:如果你的业务 Agent 需要 RL 优化(如广告文案生成、搜索 query 推荐),可借鉴这种 rubric-based 自动 judge 设计,减少 reward hacking。
ARC:开放世界真实交互中的公平相对优势比较
🧭 Agent RL 策略条件化优势估计 ★ 深度解读
Ant International
提出策略条件化 rollout 分组的 ARC 方法,消除跨策略奖励偏差,提升 agent 工具调用 RL 训练的公平性与稳定性。
📌 工作参考价值(4 点)
- 在对话式推荐/导购 Agent 中,如果存在“直接推商品”、“先反问偏好”、“确认订单/退款”等多种有效响应,可沿用 ARC 思路:训练时给每个 prompt 注入策略指令,按策略分组计算 GRPO/PPO 优势,避免奖励模型偏好某类话术;推理时去掉指令让模型自主选择。这比单纯加 KL 或 reward shaping 更直接解决跨风格奖励偏差。
- INTER3 的通道分离值得迁移到电商客服/导购场景:用户可见的 <answer> 流式输出与内部工具调用解耦,可以在查询库存/优惠/风控时立即给用户进度反馈,显著降低首 token 延迟(4.91s→1.27s)并支持用户打断;实现只需新增 <answer> 特殊 token 和后处理抽取。
- 多通道生成(推理 + 工具 + 用户文本)训练时建议加熵正则,否则易出现模型反复输出无意义 <answer> 块导致的 entropy collapse;混合奖励可结合工具执行结果与交互格式分项打分。
- 课程式减弱或推理时注入策略指令在 agentic 场景不可靠:策略提示应作为训练期方差控制变量保留,推理时不要依赖;这提示业务中不要试图用推断时 prompt 策略控制模型行为,而应在训练期把策略差异纳入比较结构。
AutoDesign:面向长程智能体设计的元 Harness 优化
🧭 Agent 长程任务与元 Harness 优化
Meituan · MBZUAI · Huazhong University of Science and Technology · Peking University · Tsinghua University
提出元 harness 优化框架,让 code agent 基于 rollout 反馈递归改进设计 harness,在海报生成任务上超越商业系统 7.45 分
📌 工作参考价值(4 点)
- 借鉴 meta-harness 分离设计与执行:把 agent 的 prompt、工具调用、流程编排等封装成 harness(代码/配置文件),由一个上层 optimizer 分析 rollout 反馈对 harness 做可版本化修改。业务中可对推荐对话 Agent、创意生成 Agent 做同样抽象,支持快速迭代和跨任务复用。
- 用低成本长程探索 + 自动评估驱动自我改进:AutoDesign 40 分钟、$3 执行 253 次工具调用和 11 次编辑,说明 agentic 创意生成可以做到量产成本。可迁移到电商 banner/商品主图/广告素材生成,先构建轻量自动评估指标(如图文匹配、布局密度)进行离线筛选,再人工验收。
- 建立任务专用 benchmark 与 mini 子集:PosterBench 用 100 篇论文主赛道 + 10 篇 mini 控制评估,业务上可仿照建立自己的素材/设计质量基准,覆盖多类目、系统盲评,避免只调 prompt 却没有可比较的离线指标。
- 多模型配置下的一致性增益:在 7 种 code-agent-model 配置中引入学习到的 DesignHarness 平均提升 12.4 分,说明好的 harness 具有跨模型迁移性;在选型 LLM 时可以把 harness 优化作为关键层,而不是只换模型。
Intern-S2-Preview:科学代理基础模型
🧭 科学代理基础模型 · RL与多模态训练
Shanghai AI Laboratory
构建科学多模态代理基础模型,融合强化学习训练与时间序列预测,支持长程科学任务
📌 工作参考价值(4 点)
- RL训练效率技巧可迁移至Agent策略优化:partial rollout with off-policy correction 和 adaptive length regularization 能降低长轨迹任务的训练成本,适合对话式推荐、搜索交互等场景的在线策略学习。
- online speculative decoding 可加速线上Agent服务推理,降低延迟,在推荐解释生成、实时对话等场景有直接工程价值。
- Memory Decoder(4B)作为冻结大模型上的轻量适配层,能快速注入垂直领域知识(如电商商品知识、广告文案规范),无需微调397B主干,规避大模型频繁更新风险,适合业务侧低成本定制。
- 时间序列预测模块扩展长序列理解到数值预测,可借鉴用于电商流量/销量预测、广告预算分配等业务时序任务。
空间记忆智能体:基于经验的空间智能程序性记忆
🧭 Agent 外部记忆自进化 · 空间推理 ★ 深度解读
Zhejiang University · Shanghai Jiao Tong University · Shanghai Innovation Institute
冻结 VLM 通过外部可验证经验蒸馏可迁移教训,并用访问证据校准迁移可靠性分数,实现无参数更新的空间推理自进化
📌 工作参考价值(4 点)
- 借鉴 TRS 校准思路:把每条 prompt/memory/经验卡片的“可迁移性”用线上反馈(reward/转化)做贝叶斯式更新(先验 + 访问证据),检索时 similarity 与 reliability 联合排序;避免纯 embedding 相似度召回高相似但低效的案例,适用于推荐解释、商品知识检索、Agent 工具经验复用。
- One-Pass Memory Writing:只在首轮经验采集时写入结构化卡片,后续仅更新卡片访问/奖励状态,能显著减少经验库冗余并提高更新覆盖率;对推荐 Agent 的 few-shot 示例库、query 改写策略库维护有直接工程价值。
- 冻结基座模型、只动外部记忆:在线服务无需做 LoRA/RL 更新,风险低、迭代快;适合电商搜索/推荐中基础 LLM 不常更新但策略需要快速试错的场景。
- 反思时输出 pattern / trap / check 三段式可迁移教训,并禁止 restating answer;这个可复用到生成式推荐、搜索 query 推荐中的经验卡片设计,增强可读性和跨任务迁移。
LycheeMemory V2:语义片段级巩固的 LLM Agent 长期记忆框架
🧭 LLM Agent 长期记忆构建与检索 ★ 深度解读
Harbin Institute of Technology, Shenzhen
将逐轮记忆巩固改为语义片段级批量编码,写侧 token 降最多 86% 且 LoCoMo/LongMemEval-S 精度 SOTA
📌 工作参考价值(4 点)
- 在对话式推荐/导购 Agent 中,不要每轮都调 LLM 写画像;改成按语义完整片段批量生成 typed memory records(偏好/事实/约束/事件),写侧 token 可降低 75%–86%,适合长期用户画像积累。
- 分段触发别用固定窗口,可用 embedding 相似度 + cohesion drop 在线检测语义边界,保留事件和话题结构;固定窗口在消融中精度掉 6.8pp,语义分片能提升多跳和开放域问答。
- 把非结构化对话提炼为 typed records,并建立 entity/topic/temporal/event-frame 结构化索引;查询时 planner 一次性规划多路召回(record/节点/时间/原始 turn),再用 RRF 融合,能有效处理多跳、时序、偏好追踪类查询,且避免多轮 LLM 检索带来的 query token 上升。
- 评估记忆系统时,把 construction tokens 和 query tokens 分开核算,不要只比精度;该方法在精度提升 20pp 以上的同时,query tokens 反而比 A-Mem 低 28%–43%。
MindMemOS:可移植自演化的 AI Agent 记忆操作系统
🧭 Agent 记忆操作系统与自我演化 ★ 深度解读
Noah's Ark Lab, Huawei Technologies
提出实体-属性-时间三维记忆结构与四类自演化机制,实现可移植、自演化的 Agent 记忆层
📌 工作参考价值(4 点)
- 用户画像与偏好演化:借鉴 3D entity-property-time 结构,把电商/推荐场景中的用户、商品、偏好事件建模为实体、属性、时间线,支持偏好变更、冲突版本管理与时序推理。相比纯文本记忆,更适合追踪用户兴趣漂移(例如 LOCOMO 的 temporal/multi-hop 问题)。
- 离线记忆压缩与冲突解决:Dreaming 机制把线上增量写入造成的冗余、过期、冲突记录离线合并、归档并保留 provenance。在推荐/广告场景可用于定期压缩用户行为记忆,保证活跃记忆库不过度膨胀,同时保持检索质量(论文中 AMCR 约 20%,准确率反升)。
- 隐式反馈分类与记忆修正:将用户对 Agent 的纠正按持久性分为 task-temporary / scenario-specific / long-term,避免把一次性指令写入长期记忆。电商导购、对话式推荐中可据此捕获用户隐含偏好与约束,减少重复推荐错误,尤其适合处理“这次不要”、“以后都这样”等模糊纠正。
- 轨迹驱动的技能演化:MindSkillEvolve 将 Agent 执行轨迹提炼为可复用、版本化的技能,可通过 unsupervised 或 score-guided 方式持续改进 SOP。可迁移到客服/导购 Agent 的流程能力迭代:用真实对话与任务执行日志自动总结高效策略与失败模式,生成可回滚的技能版本。
收敛式绕路劫持:技能型 LLM Agent 中保持任务完成的资源放大攻击
🧭 LLM Agent 技能选择与规划安全
Shenzhen University · The Chinese University of Hong Kong · The Chinese University of Hong Kong, Shenzhen
提出 CDH 攻击,利用技能描述选择与指令体规划两阶段耦合,在任务完成率不变下放大 token 与执行时间消耗
📌 工作参考价值(4 点)
- 在 Agent 技能平台中,不要只依赖自然语言描述做相关性选择:可增加成本/资源元数据(如预估 token、最大耗时)并在选择阶段就进行成本约束,避免“描述相似但执行昂贵”的技能被选中。
- 监控 Agent 轨迹的 token 消耗和时间异常,尤其是任务完成但资源消耗显著高于基线的 run;可设置基于任务类型的分位数告警,检测 CDH 这类“完成但绕路”的放大攻击。
- 对第三方技能做隔离和资源限制:即使技能指令本身无恶意,也可能通过伪造依赖关系招募多余良性工具;可在规划后对工具链做依赖校验,剔除与目标无关的中间步骤。
- 借鉴攻击思路做成本压力测试:在评估自研 Agent 或推荐 Agent 时,故意注入“看似相关但增加绕路”的技能,检验系统是否有足够的成本鲁棒性和轨迹完整性保护。
SkillEvo:多轮交互反馈驱动的自更新智能体技能进化
🧭 Agent Skill 自进化 · 多轮反馈 ★ 深度解读
Tencent Cloud Andon · Zhejiang University
把多轮用户模拟从评估终点改为反馈生成器,并用独立治理层主动修复知识退化,使技能进化梯度可持续
📌 工作参考价值(4 点)
- 多轮用户模拟不要只当测试集,要做成持续产出“可修复知识缺口”的反馈器:电商客服/导购 Agent 可从真实工单抽取 intent agenda + behavior facts + emotion trajectory,让模拟用户按状态机逐层追问,暴露单轮 QA 看不到的深层缺陷;每轮修复后对话自然进入下一层,梯度可再生。
- 反馈可信度三条件值得照搬:coverage/accuracy/attributability。用 intent state machine 保覆盖,用 dual-sided orthogonal evaluation 区分 simulator 和 agent 责任,用 collective attribution 把失败分成 Knowledge Gap / Capability Limit / Evaluation Noise,只把 Knowledge Gap 送入修订。业务里先归因再改知识库,能避免把权限、工具或评测噪声误写成知识。
- 治理层不要只做标量门禁,要做“结构诊断+主动修复”:对 Skill/知识库做 fact consistency 硬约束(dual anchors 分别抓跨轮知识丢失和本轮新增事实错误)和 structural consistency 软约束(bloat、断链、过度泛化)。RAG 知识库、policy 文档、推荐策略知识库的多轮更新都适用,能明显抑制膨胀和事实漂移。
- 版本选择用 dev 集而不是最终标量分数;自动修订不直接上线,保留 human checkpoint。线上 Agent 知识库或策略库的 closed-loop 更新可以采用同样的工程护栏。
AVA-Encoder:迈向智能体原生视频表示学习
🧭 Agent 原生视频表示学习
Qwen Business Unit of Alibaba · ShanghaiTech University · The Hong Kong University of Science and Technology · Institute of Computing Technology · Southeast University
提出 AVA-Encoder,将视频编码为知识图谱并用文本梯度优化,提升智能体视频重建与编辑能力,较最强外部基线提高 20.7%
📌 工作参考价值(4 点)
- 知识图谱作为多模态内容统一表示:在电商/推荐场景中,可将商品视频、图片、描述组织为 KG,节点存结构化文本,资产层链接原始媒体,类型化边保留关系,便于 Agent 查询、编辑和生成推荐理由。
- 文本梯度优化可自动化 prompt 策略调优:将评估反馈转化为自然语言更新方向,对推荐/搜索 Agent 的系统提示进行伪训练,减少人工调 prompt 成本,并可在线细化。
- 分层策略优化:外循环数据无关伪训练与测试时数据相关优化分离,轻量级 inner loop 降低 token 消耗;适用于低延迟推荐 Agent 或在线广告文案生成。
- 建立可重建评测基准:强调保真度与可编辑性平衡,电商多模态理解可借鉴其评测方法,避免只优化表面指标。
规格优先:AI编码Agent无人工审查拆除核心架构不变量案例(189文件/71.7万行)
🧭 AI 编码 Agent 规格化重构
AI Sovereign Labs, Paris, France
规格优先协议让AI编码Agent在无人工审查和测试oracle下成功重构71.7万行代码,31轮审计收敛201缺陷
📌 工作参考价值(4 点)
- 规格优先协议:让 Agent 先写正式规格并反复对照源码审计,可迁移到用 Agent 生成推荐系统特征/模型代码时,先规格化业务不变量(如流式生成生命周期、面板状态机),降低幻觉与遗漏。
- 审计收敛判据:要求连续两次验证审计零发现才认定完成,避免单次通过假阴性;可用于 Agent 生成的推荐服务代码或配置的验证循环(如参数搜索空间、离线评估脚本)。
- 原子实现与编译/测试反馈循环:把大改动拆小,冻结规格后再审计;在推荐系统中用 Agent 重构特征管道或在线服务时,可借鉴“编译测试反馈 + 规格冻结再审计”流程,减少人工 review 负担。
- 成本与耗时参考:三天、2430美元完成无 oracle 的跨文件架构级重构,适合用于长期欠维护的推荐系统模块解耦,但需注意该案例无人工执行前实际运行验证,仍需谨慎评估风险。
检测效果不等于学会按例行动:LLM采集智能体的奖励信噪比下限
🧭 LLM信号获取决策 · 奖励信噪比下限
University of California, San Diego
揭示LLM信号平均有效但无法学习按例决策的信噪比下限,噪声占位符可复现虚假增益
📌 工作参考价值(4 点)
- 在电商 Agent 决策(如是否调用 LLM 生成推荐文案)前,先计算信号效应的信噪比 ρ=μ/σ,并确保 ρ>2.8/√N,否则学习路由策略将退化为随机。
- 当信噪比不足时,放弃学习动态按例获取策略,改用设计时的静态分片(如按用户群体、场景开关)来规避无效学习。
- 验证 Agent 决策可学习性时,必须加入噪声占位符对照:用匹配矩的独立噪声替换信号,若仍能复现≥100%的 Oracle 增益,说明原始“可学习结构”实为噪声排序伪象。
- 结构化假设嵌入(SHE)提供了一种可解释的用户意图注入方式:用冻结 LLM 生成带置信度的意图列表并嵌入召回或排序模型,适合电商中长短期兴趣解耦,但需注意其对模型 backbone 敏感,建议先在特定 regime 内验证提升。
Mechanist:以AI为科学仪器自主发现智能机制的智能体系统
🧭 AI4Science · 机制可解释性智能体
Zhejiang University
用Agent+知识图谱+方法库自动发现AI模型机制,实现从解释到干预
📌 工作参考价值(4 点)
- 将论文、内部实验构建成「机制知识图谱」,把模型行为、失败案例、分析方法、干预手段结构化沉淀,便于快速定位推荐模型 bias、表征问题或安全风险。
- 借鉴其 32 种方法库的思路,封装一套可复用的因果干预与验证工具(如 activation patching、logit lens 等),让团队能自动生成假设并跑小规模实验,而不是逐个人工排查。
- Agent 的“假设→实验→验证”闭环可用于生成式推荐/搜索的模型诊断,例如排查 Semantic ID 模型是否学到正确的概念层级、跨模态转移是否带偏风险。
- 从机制解释到行为控制(如引导模型生成指定属性输出)的思路,可用于将机制发现转化为可控的推荐策略或生成约束。
MobileMem:移动端长期记忆基准与知识引导数据合成框架
🧭 面向移动设备 Agent 的长期记忆基准与数据合成 ★ 深度解读
OPPO · OpenKG
提出移动端长期记忆基准 MobileMem 与合成框架 KEME,系统评估端侧记忆系统在多跳、时序、偏好推理上的能力。
📌 工作参考价值(4 点)
- 复合记忆架构可迁移到电商用户画像:论文提出的“系统级记忆层(blackboard)+ 应用级记忆(cognitive offloading)”两层架构,很适合电商/推荐场景。应用侧(如订单、搜索、浏览、客服对话)先做初筛,只上报有长期价值的用户事件,系统侧构建跨域用户知识图谱,既节省算力又保护隐私。
- 用 KEME 合成长期用户轨迹:缺少跨 session 真实交互数据是推荐/Agent 评测痛点。KEME 的 persona + knowledge anchors + temporal event graph 能生成时间一致、偏好演化的长周期用户行为序列,可用于模拟用户兴趣漂移、跨 app 关联行为,训练或评测个性化模型。
- 记忆系统选型结论直接可用:实验显示 HippoRAG2 与 A-MEM 显著优于 NaiveRAG 和 Long Context,核心在于保留原始交互细节 + 增强检索(实体关系图 PageRank / 丰富元数据)。在构建用户长期记忆库时,不要过度压缩摘要,应保留细粒度证据并用关键词、标签、图结构辅助召回。
- 按错误类型定位瓶颈:用 MemTrace 等归因工具区分提取错误、检索错误、生成错误,可指导优化方向。实际系统中多数失败可能来自上游提取或下游生成,而非只优化检索器。
Ready Cohorts:界定 LLM-Agent 控制的 GPU 机会并消除主机往返
🧭 LLM Agent 控制面 GPU 调度与驻留优化
Independent Researcher
给出 ready-cohort 边界量化 agent 控制面 GPU 可调度机会,并证明设备端决策比主机往返快 1.19–2.39 倍
📌 工作参考价值(4 点)
- 在高并发 agent 控制循环(如多 session 的商品搜索/推荐路由、预算/策略检查)不要每个 route/state 更新都回 host 再下发;把二元决策(是否继续调用、选择哪个工具)留在 GPU 上,按论文结果可获得 1.19–2.39x 的端到端加速,且与 host oracle 完全一致,适合作为工程改造项。
- 用 ready-cohort 框架先离线评估 GPU 调度收益:固定窗口只拿到 F=30.19% 的控制机会,精确 DP 打包可到 P*=43.00%,上界 U=45.85%,说明固定窗口漏掉 81.83% 的机会。部署前可用 offline replay 估算 batch size K 和 deadline,避免拍脑袋设置窗口。
- 在推荐/广告 agent 的 trace 回放中,把 outcome-derived route key 当作 conditioning proxy,不要直接视作可执行身份;实际系统需要单独验证批处理结果与 host oracle 一致。
- 固定嵌套设备图若不能减少 host 决策,反而更慢;不要为了 GPU 化而 GPU 化,先确认控制路径是否真正消除了主机往返。
Spark-to-Paper:端到端研究论文生成作为可组合技能
🧭 Agent 可组合技能与长程生成
Vast Intelligence Lab · University of Technology Sydney
在现有编码助手中以13个可组合技能实现端到端论文生成,靠分离规划与报告、确定性校验抑制自我反驳循环
📌 工作参考价值(4 点)
- 在电商/广告实验分析与自动化报告中,借鉴“先定义证据指标,再根据结果生成结论”的模式:把 AB 实验报告、选品实验摘要和推荐效果分析拆成规划阶段与报告阶段,避免 LLM 编造显著性结论。
- 借鉴“确定性校验 + 自我批评”双轨:生成商品推荐理由、搜索词解释或广告文案时,对商品 ID、价格、库存、事实声明做可执行校验(查库/规则),再用 LLM 自评修正,可显著降低幻觉。
- 借鉴可组合技能而非重型多智能体平台:在现有代码助手或工作流引擎内,将选品、query 生成、素材审核等封装成原子技能,便于复用、版本管理与成本控制;该论文给出 13 技能、11.9M tokens、$8.1/次的量化成本参考。
- 注意长链路探索中的“自我反驳循环”:在自动调参、自动选品、策略探索 Agent 中设置目标维持预算和停止条件,当连续实验否定初始目标时切换到确定性审查或终止,防止无限烧 token。
推理期脚手架实现强模型到弱模型的能力迁移
🧭 强模型构建推理期脚手架 ★ 深度解读
Salesforce AI Research · University of Illinois Urbana-Champaign
强模型不更新弱模型参数,仅靠推理期脚手架将弱模型ToM平均准确率从0.49提至0.91
📌 工作参考价值(4 点)
- 业务中用小模型/弱模型做 query 改写、意图分类、商品属性解析、Push 文案生成时,可先让强模型离线构造推理期脚手架:严格输出格式校验、greedy decoding、按任务子类型路由;把正则/规则/策略计算等确定性逻辑外置到代码,不让小模型做脆弱的符号推理。
- 用 5% 左右验证集做脚手架迭代即可,best validation 与 held-out 相关性极高(r=0.96);跑 2-3 个 scaffold 选验证集最优、取上界,比反复加验证采样更划算。
- 把 builder 的 inference budget 投在深层任务分析而非多次验证上:builder reasoning effort 单调提升效果,而 validation iterations 几乎无关。具体到推荐/Agent pipeline,让强模型写出任务分解、状态提取、分支规则和 fallback,成本低但增益大。
- Headroom law:只对“弱模型有大量可纠正错误”的环节做脚手架;对已接近饱和的强模型或子任务,过度 prompt/rule 可能把原来对的答案改坏(strong target 在 Hi-ToM/MuMA 上出现负增益)。建议按子任务 headroom 做灰度和回退开关。
超越能力边界:零阶优化驱动的自进化LLM智能体
🧭 Agent 自进化 · 零阶优化突破能力边界 ★ 深度解读
北京理工大学计算机学院智能信息技术北京市重点实验室 · 深圳MSU-BIT大学广东省机器感知与智能计算实验室 · Alaya Lab
通过零阶梯度估计扰动LoRA参数,使Agent在困难样本上也能采样正确轨迹,突破能力边界。
📌 工作参考价值(4 点)
- 零阶优化思想可迁移至推荐系统模型更新:当环境反馈为黑盒(如点击、转化)无法直接求梯度时,可通过对服务策略参数(如召回或排序的LoRA分支)施加随机扰动,利用线上指标变化估计梯度,实现无需过程监督的自优化。
- 并行扰动推理机制大幅降低零阶优化的采样开销:只计算一次骨干预网络输出,多个轻量LoRA支路并行评估,适合在线服务中低延迟要求下进行策略探索。
- 自适应查找缓存(Adaptive Lookup)对重复工具调用(如搜索相同关键词、访问同一页面)做命中复用,节省30%-50%的交互时间,在推荐系统中可类比为缓存用户画像/点击日志,避免重复计算,加速多臂老虎机策略评估。
- 答案困惑度损失(Answer Perplexity Loss)提供平滑、稳定的信号,比稀疏的二元奖励更利于优化收敛;在推荐场景中可用商品描述或用户评论的对数似然作为过程级信号,缓解结果奖励稀疏问题。
DREAM:工业推荐系统的智能体控制架构
🧭 智能体元控制 · 意图感知 · 闭环优化 ★ 深度解读
Taobao
在推荐流水线上叠加感知与策略智能体层,通过意图引擎和元引擎实现可审计的自主优化
📌 工作参考价值(4 点)
- 非侵入式智能体控制层:不替换现有召回/排序/重排模型,仅通过参数注入(如召回通道开关、配额、多样性权重)即可调度管道,适合已有复杂推荐系统的低成本改造。
- 三层意图表示与边云协同:L0(稳定画像)/L1(需求)/L2(偏好)的层级分离,配合设备端 GRU 触发和流量漏斗(仅约 8.7% 行为上云),可在电商搜索推荐中实现实时意图感知,同时控制推理成本。
- 分层推理与安全护栏:MetaModel 的 M1(意图总结)→M2(策略规划)→M3(参数翻译)流水线,结合枚举值约束和参数范围白名单,保证策略决策可审计、可拦截,可直接复用到广告或推荐策略调整。
- 奖励双循环的闭环自优化:离线仿真探索策略空间 + 在线真实反馈校准,形成“生成→执行→评估→沉淀”循环,无需人工调参,适合动态多目标的电商场景。
DSAgentBench:评估 Agent 在真实计算机环境中自动执行端到端数据科学工作流的能力
🧭 Agent 能力评估与基准构建
York University · Nanyang Technological University · Salesforce AI Research
首个在真实 OS 中评估 agent 完成全流程数据科学任务的基准,揭示当前模型巨大能力鸿沟
📌 工作参考价值(4 点)
- 为电商推荐场景中自动化数据分析(清洗、特征工程、模型评估)的 Agent 提供评估框架,可借鉴其任务设计和评测方法。
- 强调真实 OS 环境下的多工具协同(终端、浏览器、数据库),提示业务 Agent 需要具备文件系统操作、数据库连接等底层能力,而非仅代码生成。
- 确定性 evaluator 不仅检查代码执行,还验证分析结果正确性、可视化和模型性能,该思路可直接用于业务 Agent 的效果验收。
- 当前开源 Agent 成功率几乎为 0,闭源最高仅 56.7%,说明复杂长链路自动化仍不成熟,现阶段业务中应谨慎引入端到端全自动 Agent,更适合人机协同模式。
金融市场 Agent 的上下文≠权威:运行时结构化治理合约 SAGE-Fin
🧭 金融 Agent 运行时治理 · 权威边界合约 ★ 深度解读
OpenAsk · Binance · New York University · Xiamen University · Bank of Hebei
为金融 Agent 提供类型化收据与动态权威控制器,防止正确的上下文被越权执行
📌 工作参考价值(4 点)
- 将模型输出与执行授权解耦:为 Agent 输出创建类型化候选(candidate),显式声明所需证据和禁止效果;缺失证据则转化为“覆盖债务”并降级或阻止行动,防止检索到的上下文被直接当作指令。
- 引入严格收据类型(commit/execAuth/deploy)与适配器绑定:只有指定类型的收据才能通过相应的执行、响应或策略门,进度收据、临时凭证不能替代最终授权,避免类似“预算预留”变成“下单权限”的误解。
- 每次消费时重新检查状态:消费时重新编译候选类型、评估覆盖债务、检查收据绑定和当前状态,防止对话上下文漂移导致同一段文本在不同轮次被错误授权(如重复发射同一 SOP 响应)。
- 策略从自然语言到部署的硬边界:对话中松散的风险控制意图(如“放宽回撤限制”)必须经过确定性 IR 验证、影子测试和部署收据才能上线,不能直接将对话内容编译为可执行策略,这个模式可迁移到推荐系统的配置调整或风控策略上线流程。
SKILLER:面向小语言模型可复用技能提取的语言级强化学习框架
🧭 Agent 技能生成 · 语言级强化学习 ★ 深度解读
Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Harbin Institute of Technology, Shenzhen · Tsinghua Shenzhen International Graduate School, Tsinghua University
用自然语言强化学习为小型 LVLM 自动生成定制化 agent 技能,不更新权重,成本降低 71-167 倍
📌 工作参考价值(4 点)
- 离线用强模型(GPT-5.4)作为 actor/critic,将目标小模型(Qwen3.5-9B/4B)的 agent loop 当作环境,通过可验证 reward 迭代优化 prompt/skill,线上只部署小模型,大幅降低推理成本。在电商客服、推荐解释生成等场景可直接复用此离线优化范式。
- 将复杂多步推理流程固化到确定性脚本/工具中,skill 只负责调用和异常处理,避免小模型上下文过长、步骤遗漏或幻觉。对应推荐系统可将商品特征处理、规则过滤放在外部服务,LLM 只做轻量决策。
- 语言级 policy iteration 的 critic 定位最早因果错误并生成有界编辑(INSERT/REPLACE/CREATE/DELETE),actor 实施局部更新并保留有效内容,防止灾难性遗忘。可用于 prompt 迭代优化:从失败 case 诊断原因,局部修改 prompt 而非全量重写。
- 成本-性能权衡:SKILLER 生成技能成本约 $8.95,低于 SkillX $14.55 且性能更高;相比闭源部署成本低 71-167 倍。提示在预算有限时,针对 executor 定制 prompt 比盲目堆大模型更高效。
SkillZip:基于可重用结构发现的评估无关技能压缩
🧭 Agent 技能压缩 · 评估无关结构化精益 ★ 深度解读
Alibaba Group · Zhejiang University · Duke University
用“一次性解释,多处引用”原则,在不依赖下游评估的条件下压缩自进化Agent的冗余技能文本。
📌 工作参考价值(4 点)
- 长期维护的Agent系统可直接套用:将Agent技能视为类型化合约(接口、工作流、工具协议、规则、输出模式),通过共享规则、上提公共规则、工作流复用和异常编码实现文本压缩,减少每次调用的上下文token成本。
- 避免评估集过拟合的压缩范式:SkillZip 完全不依赖任务实例、奖励或验证器,仅从技能自身结构提取合约并强制覆盖所有要求,可杜绝因评估集偏差导致的技能退化,适合需要频繁更新的推荐/搜索Agent。
- 增量压缩模式适于在线进化系统:Zip-on-Write 在Agent每次自我进化时仅对比受影响局部,以ABSORB/REFINE/EXTEND/REFACTOR四类操作更新合约,零重放任务,可嵌入在线学习推荐Agent的实时优化流程。
- 最小描述长度( MDL )可直接指导提示精简:公式(4)定义的“最短忠实解释”目标,以及计算收益阈值(如规则提升、工作流复用)的显式条件,可迁移到对话策略、Query改写等复杂提示的自动去重与结构化重构中。
通过技能与上下文代码进化实现自进化具身智能体
🧭 Agent 自进化 · 技能与harness优化
Northeastern University · Microsoft Research
提出SHAPER框架,冻结模型参数,通过环境交互进化可复用技能与上下文代码harness,实现无需训练的具身Agent自进化
📌 工作参考价值(4 点)
- 在电商/Agent系统中可借鉴将LLM同时用作planner和optimizer:冻结模型,将成功经验沉淀为可复用技能(类似结构化RAG),通过目标环境rollouts自我进化,避免频繁微调带来的数据和算力成本。
- 将prompt模板、工具调用逻辑、上下文代码视为可优化的外部参数(harness),在线上交互中持续调整,这与推荐系统中优化召回策略、重排规则等非参数组件思路一致,可低风险快速迭代。
- 在无法标注大量数据或训练成本过高时,优先尝试基于test-time scaling的train-free方案(如verifier-free selection、voting)作为基线,可能接近SFT效果,适合初创或快速验证场景。
- 注意该工作针对具身智能体,业务落地时需抽象其核心:固定模型权重,进化外部技能库和任务编排,对电商Agent的多轮对话、工具调用、query理解等模块具备直接迁移价值。
组合购物基准:LLM代理在预算约束下带优惠券的篮子购物评估
🧭 LLM Agent 购物评估基准 ★ 深度解读
JD.com
提出ComboShoppingBench基准,评估LLM代理在跨商品兼容性、预算和优惠券约束下的组合购物能力,最强代理仅61.2%成功率。
📌 工作参考价值(4 点)
- 电商购物助手可借鉴“隐藏见证”构建法:先生成可行篮子再反向创建任务,确保有解但不限制推荐多样性。
- 混合评估框架(语义判断+确定性验证)可用于实际购物Agent评测,分离语义满足与交易可行性。
- 优惠券最优选择是瓶颈,提示实际系统需要专门的组合优化模块,而非仅靠LLM推理。
- 复杂组合约束下,Agent容易丢失个别条件,可通过提示工程或工具增强多条件跟踪。
不值的另一个Token:深度研究Agent的边际价值估计与高效剪枝
🧭 Agent上下文管理 · 边际价值剪枝 ★ 深度解读
University of Massachusetts Amherst · University of Texas at Austin · Adobe Research
针对长程深度研究Agent,系统对比多阶段剪枝策略,发现剪枝位置比规则更关键,早期剪枝可减少73% token
📌 工作参考价值(4 点)
- 多阶段剪枝理念可迁移至推荐Agent:在生成式推荐或多步检索Agent中,可借鉴 Pre-Retrieval(过滤低价值子查询/召回请求)、Post-Retrieval(根据已收集上下文淘汰冗余召回结果)、Pre-Synthesis(最终排序前压缩上下文)的三阶段剪枝框架,在不显著损失质量的前提下大幅降低 token 消耗与延迟。
- 轻量启发式即可有效:MMR(最大边际相关性)等简单规则在早期剪枝中性价比极高,无需额外的 LLM 调用或复杂学习,适合线上高吞吐场景,尤其在召回阶段过滤冗余物品或搜索词候选时可直接复用。
- 剪枝位置远比具体公式重要:实验表明 Post-Retrieval 剪枝能消除下游扩展成本,而 Pre-Synthesis 剪枝仅压缩最终输入,无法挽回上游开销;在电商 Agent 流程中应优先在搜索/召回早期介入,而非只在排序前做上下文压缩。
- 质量与证据保留需联合评估:论文发现报告质量与引用召回率可能背离,压缩可能提升合成质量但丢失支撑证据;在广告文案生成或推荐理由合成时,应同时监控生成文本的支撑度和事实准确性,避免过度剪枝导致信息缺失。
Evo-Bench:衡量语言模型自主优化智能体框架的能力
🧭 Agent 自我进化能力评估
Gaoling School of Artificial Intelligence, Renmin University of China · BOSS Zhipin, Beijing, China
首个跨搜索、办公、通用领域的基准,评估LLM自主进化智能体harness的能力,发现搜索优势与早饱和现象
📌 工作参考价值(4 点)
- 在设计电商搜索或推荐 Agent 时,可让 LLM 自动优化其工作流程(harness),借鉴“辅助任务进化”方法来筛选对框架敏感的任务,降低试错成本。
- 注意早饱和现象:迭代优化时设置提前停止条件,避免过度优化导致性能停滞,适用于高频率在线场景。
- 合成的 harness 作为可迁移的推理模板,跨不同推荐模型复用,可沉淀为内部知识库,统一提升效果。
- 评估自主进化能力时需隔离基座模型强度与框架贡献,可参考“敏感度感知分层划分”防止过拟合到特定任务集。
Macaron-V1:通过自改进与混合 LoRA 实现开放持续学习
🧭 Agent 持续学习与适配器组合 ★ 深度解读
Mind Lab
提出冻结基座 + 可组合 LoRA 专家的 MoL 架构与递归自改进循环,实现代理模型部署后持续适应与协作
📌 工作参考价值(4 点)
- 多域任务路由架构:将不同业务域(如对话、推荐、搜索)建模为独立 LoRA 适配器,冻结共享基座,通过 Proxy 按请求路由,避免任务干扰且支持独立更新,类似推荐系统中多目标 MoE 的路由分离。
- 版本化 harness 协议:HCP 将 prompt、工具、技能、环境等配置统一为 TOML 工件,可作为推荐 Agent 中工具与指令的线上可 audit 配置层,便于 A/B 测试和回滚。
- 长上下文执行与 KV 复用:通过可拼接的 own-view 实现跨适配器 prefix cache 命中,值得在多轮会话、长用户行为序列的 LLM 推理中借鉴,降低延迟。
- 递归自改进循环:从生产日志挖掘失败任务 → harness 配置搜索 → LoRA 更新,可复用至搜索推荐 Agent 的持续优化,逐步扩展能力边界。
面向智能推荐系统的个性化沟通技能框架
🧭 Agent 通信 · 个性化技能路由 ★ 深度解读
重庆大学 · 昆士兰大学
提出 why-what-how-who 技能库与个性化路由,让智能推荐代理通过外部用户互补证据纠正视角狭窄
📌 工作参考价值(4 点)
- 构建可复用的沟通技能库:借鉴 why-what-how-who 层次结构,在电商/广告推荐的 Agent 评估环节,预先定义决策缺陷(冷启动/选择冲突等)→ 信息需求 → 交互协议(单人/多人协作/竞争)→ 顾问选择(相似用户/信任用户),形成可查询的模板库,避免每次对话都从零设计 prompt。
- 动态路由替代固定通信流程:利用 LLM 根据当前用户状态、候选集与已有证据,依次从四个层次选择最合适的技能节点,而非采用单一对话策略;可用于推荐解释、争议推荐二次确认等场景。
- 失败驱动的自动进化:当 Agent 的最终选择出错时,诊断通信失败的原因并自动生成新的子技能或同级技能,实现技能库的自我扩展;可迁移到在线推荐策略迭代中,从 bad case 自动归纳新规则。
- 可控的通信成本与性能平衡:实验表明,多轮用户-顾问交互能持续提升 Hit@1(3 轮达最优),但顾问内部过多讨论反而有害;部署时可设置最大交互轮次,并在顾问间采用简洁的单轮协议,以较低 API 成本(<0.01$/用户)换取显著推荐增益。
搜索控制边界的简报引导纠正性偏好蒸馏
🧭 LLM搜索代理·漂移纠正与偏好蒸馏 ★ 深度解读
Renmin University of China · Alibaba Group
通过任务锚定的搜索状态简报从学生交动中构造状态匹配偏好对,纠正持久搜索漂移
📌 工作参考价值(4 点)
- 训练搜索/对话代理时,可为每个决策时刻构建一份教师端 search-state brief(含原始目标、关键约束、已获证据与缺失信息),以此作为训练时的特权参考,避免教师被学生已产生的误导上下文带偏。
- 利用学生自身交动的失败轨迹构造 状态匹配偏好对:失败步骤的原始延续 vs 教师针对该错误生成的纠正延续;成功轨迹中,最早的证据支撑答案 vs 不必要的继续检索。仅在训练时使用这些偏好执行 DPO,推理时无需额外开销。
- 偏好对的选择应结合 brief引导的局部错误评估与 rollout 最终结果,不预设失败轨迹中每一步都错,也不丢弃成功轨迹中的终止监督信号,以此过滤噪声样本。
- 电商场景的多步商品检索或客服代理,常因召回的相关文档引发主题漂移或约束丢失;可借鉴 BOUND 在状态层面锚定原始意图与约束,通过 DPO 巩固正确的搜索控制决策。
意图胜过语言:可控用户模拟突破仅模仿回复
🧭 用户模拟 · 意图可控生成
Beihang University
提出 UserIDA,通过显式逐轮意图指令实现可控用户模拟,意图准确率大幅领先基线
📌 工作参考价值(4 点)
- 对话式推荐/搜索 Agent 评估:构建用户模拟器时,显式注入每轮交互意图(如澄清需求、修正误解、接受结果),可生成更真实的用户行为流,用于离线评测 Agent 的意图理解与响应能力。
- 训练数据增强:对于电商导购、搜索 query 改写等场景,可按指定意图(补充细节、否定前序推荐)批量生成对话样本,缓解多样性不足,降低人工标注成本。
- 意图-表达解耦设计:借鉴 UserIDA 将“意图选择”与“语言生成”分离的思路,在推荐对话系统内单独规划下一步交互目标,再调用 LLM 生成对应文本,提升多轮交互的连贯性与成功率。
- 强化学习校正技巧:在指令遵循类生成任务中,可采用 group-based RL,让意图违背的候选回复在奖励排名中低于合规项,以温和方式强化约束,避免直接惩罚导致生成质量下降。
分层自改进:任务专用可进化 Agent Harness 框架
🧭 Agent 分层自改进与 harness 进化 ★ 深度解读
HKUST
单个冻结 LLM 通过任务 harness、evolver、meta-evolver 三层自改进,在 BALROG 上实现显著提升并揭示能力边界
📌 工作参考价值(4 点)
- 把 agent scaffold 当可进化资产:在电商/搜索推荐 Agent 中,不要只调 prompt;把 prompt、tool 编排、memory、state tracking、验证逻辑打包成 task-specific harness,按任务族(如导购、query 改写、push 文案)分别维护,并通过固定 using_harness 接口热更新。模型权重保持冻结,避免每次策略调整都重训或换模型。
- 评估 harness 迭代要防过拟合和高方差:用 held-out 任务 split 而不是全量同一批任务评估;候选版本用 LCB reward(μ - 0.5·σ/√n)排序,允许保留多分支 commit pool,最终用 validation 选择泛化最优版本。这可比直接选单次最高分可靠得多。
- 把“怎么改 harness”也变成可学习策略:meta-evolver 不是直接改任务表现,而是改 seed 选择、explore/exploit、commit 规则。对应到搜索/推荐 Agent,可以把人工的“何时探索新品/何时重启策略/如何维护版本档案”作为上层可优化策略,而不是硬编码。
- 先判断两个边界再投入:如果模型在任务上初始 reward 近零或反馈极稀疏,harness 进化收益极低(NLE 案例)。业务上应先确认有非零、可区分的 reward 信号;harness 进化只能放大既有能力,不能替代模型升级。
面向智能体强化学习的轨迹相对事后蒸馏框架
🧭 Agentic RL · 轨迹相对事后蒸馏 ★ 深度解读
Zhejiang University · Shanghai AI Laboratory · Tencent
提出TRIAL,通过轨迹相对事后蒸馏将密集监督按轮次合理分配,显著提升多轮Agent的RL训练效率
📌 工作参考价值(4 点)
- 多轮对话/推荐Agent训练中,可用轨迹相对事后视图提供密集token级信用分配,突破GRPO仅靠结局奖励的局限
- 事后视图构造方法可迁移:将用户后续反馈(如点击、购买)作为条件化上下文,重评分已生成的推荐回复,获得符号化修正信号
- 轮次归一化权重(token加权均值=1)确保不改变整体更新强度,仅重新分配监督焦点,易于与现有RL框架(如PPO)集成
- 训练时引入事后信息,推理阶段无需任何额外模块或开销,适合在线服务部署
Ouroboros:通过审阅提交实现自我演化的前沿编码 Agent
🧭 自我演化 Agent · 核心演化与安全控制 ★ 深度解读
Lomonosov Moscow State University · Skolkovo Institute of Science and Technology · Joi Lab · FusionBrain Lab at AIRI · HSE University
一个自我修改运行时(harness)的编码 Agent,通过审阅提交通道持续演化,在 Terminal-Bench、OSWorld 等基准上取得最优结果。
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中采用经验驱动演化:把线上故障、用户反馈、任务执行痛点自动转换为改进待办,经审查后修改 Agent 的工具链或提示词,形成自我优化的闭环。
- 实施多模型审查门控对抗自我修改风险:对 Agent 主动提交的代码/配置变更进行强制 diff 审查、指纹校验和 quorum 投票,防止模型自行绕过安全约束(如越权调用 API 或改变路由)。
- 将模型路由、宪法文件、紧急停止路径设为受保护的“治理表面”,通过外部预算、操作员通道和 /panic 信号保持人类权威,避免 Agent 演化过程中削弱控制。
- 借鉴长期运行 Agent 的持久化记忆层设计:维护故障模式注册表(error class → root cause → structural fix),让推荐系统 Agent 能将一次性错误提升为结构性改进,持续提升服务质量。
SkillProx:通过近端文本梯度下降实现自演化智能体技能
🧭 自演化技能 · 近端梯度文本优化 ★ 深度解读
Hong Kong University of Science and Technology · Macau University
结合闭环诊断验证与验证门控近端精炼,在表格任务上平均准确率超越最强梯度基线3个百分点
📌 工作参考价值(4 点)
- 闭环更新验证:在更新技能或提示词后,必须在同一批次数据上重新执行并检查硬指标是否提升,仅接受有益更新,避免“看起来合理”但实际有害的修改直接写入。可立即用于搜索推荐系统的指令/策略迭代。
- 冻结效用审计:对技能/提示的每个知识单元(如某条规则、示例)做 leave-one-out 评估,量化其边际效用,精准识别负面贡献的冗余内容。可迁移到 Prompt 管理、工具选择等场景。
- 验证门控压缩:通过设置容忍阈值(硬精度不降、单元精度小幅可降)和压缩上限,有序删除或合并低效内容,在控制性能的前提下减少技能长度,降低上下文成本。适用于需要长上下文的 Agent 或检索增强生成。
- 前后向分工:前向负责在线更新,后向负责回溯清理,两种反馈时间尺度互补,可借鉴到推荐系统策略的端到端演化框架中。
TEPA:通过撤销过时记忆构建鲁棒语言代理
🧭 Agent 记忆生命周期与冲突消解 ★ 深度解读
长沙理工大学数学与统计学院 · 上海交通大学生物医学工程学院
引入冲突键撤销机制,解决长期记忆因陈旧证据污染 prompt 导致性能下降的问题
📌 工作参考价值(4 点)
- 在用户偏好、商品属性等更新场景,采用基于冲突键的记忆撤销,防止旧信息混入 prompt,提升推荐/客服 Agent 的一致性。
- 将记忆划分为 Active/Revoked 等生命周期状态,支持审计且确保当前检索仅使用有效记忆,适合长期用户画像管理。
- 局部撤销仅针对冲突键,避免全局重置对其他任务的影响,适合多场景搜索推荐系统。
- 工程中应设置“无记忆基线”评估记忆模块是否带来损害;撤销操作是防止记忆污染的关键控制点。
WebRider:基于意图契约的分层网页代理控制
🧭 Agent分层控制与意图契约驱动的网页任务执行 ★ 深度解读
University of California, Los Angeles · Google
分层架构与意图契约让网页代理的路径可审计,揭示高任务完成率背后仅38.8%的合约忠实度。
📌 工作参考价值(4 点)
- 将用户委托中的硬约束、证据义务显式化为意图契约,可审计每一步是否忠实执行策略,避免最终推荐看似正确但中间偏离。
- 分层控制器分离“证据充分性和停止决策”与“页面级动作选择”,高层管理状态,低层生成可执行动作,增强可控性并便于训练替换动作策略。
- 引入 guard 机制确保动作语法正确并拦截无效操作,可在电商代理中防止错误点击或状态循环,提高鲁棒性。
- 利用合约状态和 guard 过滤后的轨迹训练中间层动作策略,使动作实现可学习,对业务落地中的策略迭代具有参考价值。
AppDeltaWorld:基于转换的增量代码世界模型用于移动GUI智能体
🧭 增量代码世界模型用于GUI Agent训练
Nanyang Technological University · University of Electronic Science and Technology of China · Gaoling School of Artificial Intelligence, Renmin University of China · Xiamen University
提出增量代码世界模型,将GUI变化预测为可执行HTML更新,实现高保真模拟和策略自适应提升
📌 工作参考价值(4 点)
- 若需为电商App构建GUI自动化测试或用户模拟Agent,可利用AppDeltaWorld生成高保真合成轨迹,降低对真实交互数据的依赖。
- 过渡基约束与两层HTML生成思路可复用于生成推荐界面模拟环境,快速构建大规模交互训练数据。
- 测试时强化学习通过世界模型在线微调策略,可为生产环境中的Agent探索提供安全、低成本的试错途径。
- Code2World评估机制可指导推荐系统界面生成模块的优化,提升生成结果的布局合理性和元素复原度。
超越Top-K:用可解释Agent操作替代黑盒检索
🧭 Agent驱动的结构化文档免嵌入检索
Indian Institute of Technology Patna · TwoSpoon
提出READ,一种免嵌入的agentic检索方法,在表格密集文档上准确率远超密集检索且可审计
📌 工作参考价值(4 点)
- 对于包含大量表格/结构化字段的长文档(如商品参数、金融报告),分块嵌入检索常会破坏数值与单位/上下文的关联,可改用Agent按需读取原始文档,通过归一化词法搜索和结构导航确保精确提取。
- 在检索环节中,嵌入并非万能:实验表明BM25与READ效果相当,因此对于数值密集场景,优先考虑强词法匹配而非密集向量。
- 将检索接口设计为可审计的步骤序列(如MCP暴露工具),便于调试和信任,尤其适合高风险业务场景(如合规、财务审查)。
- 若业务中需构建问答系统处理半结构化长文本,可借鉴READ的“保持文档完整、让Agent选择读哪里”的理念,避免提前分块带来的信息断裂。
大型技能库的智能体检索:知识图谱为何未能超越强排名器
🧭 Agent 技能检索与知识图谱 ★ 深度解读
Praetorian
在技能检索中,知识图谱因边候选源于同一嵌入邻域而无法扩展排名器的召回边界
📌 工作参考价值(4 点)
- 优先构建强混合排名器:在技能检索系统中,先投入资源做好 BM25 + 语义嵌入的融合排名器,而不是急于构造知识图谱。混合排名器本身能覆盖词汇和语义差距,成本低且有效。
- 评估集要避免作者回声:由阅读过技能库的作者编写的查询集会因术语重复而严重高估检索准确率,实验中关键词排名器被夸大 44 个百分点。评估时应使用非回声、真实场景的查询集。
- 知识图谱的边源不要与排名器共享:若要使用知识图谱辅助检索,其候选边生成必须源自排名器未使用的信号(如共现记录、跨模态数据),否则图谱仅能重排已有结果,无法增加新召回能力。
- 关注方向性关系的准确性:图边中 requires、precedes 等方向性关系的错误率可能高达 17–33%,若直接用于指导下一步动作,可能产生严重误导,需在落地前充分审计。
代理记忆蒸馏:分层教师记忆赋能小模型代理
🧭 代理记忆蒸馏 · 分层教师记忆传递 ★ 深度解读
KAIST · DeepAuto.ai
通过工作流、子任务、函数三层记忆将大模型代理的工具使用经验蒸馏到小模型,无需训练,显著提升工具调用成功率
📌 工作参考价值(5 点)
- 分层记忆设计可直接复用到推荐/电商Agent:将大模型(如GPT-5)在复杂多步推荐任务(如“根据用户画像、实时行为、库存状况生成推荐”)中的成功轨迹,提取为任务规划(Workflow)、子任务执行示例(Subtask)(如召回→过滤→排序)和工具调用指南(Function)(如调用推荐API的参数格式、常见错误处理),注入到4B/8B小模型中,在降低线上延迟与成本的同时保持高质量决策。
- 按需纠错的函数记忆(Function Memory):当小模型调用API出错时,仅在该步按函数名检索成功示例并注入上下文,不增加正常执行时的token开销,适合电商推荐中接口众多、参数复杂的工具调用场景,可显著降低错误恢复重试次数。
- 子任务记忆(Subtask Memory)贡献最大:实验表明,提供具体可执行的API调用序列(代码级示例)比纯文本策略描述更有效,在构建Agent的记忆库时,应优先沉淀高成功率的子任务执行片段,而非仅保存宏观策略。
- 4B规模模型受益最明显:资源受限的线上推荐Agent可优先采用4B量级模型配合AMD,用极低的推理成本达到接近大模型的工具使用能力;对大模型(>8B)效果收窄,可权衡是否部署。
- 训练无关的即插即用方式:无需微调,仅通过提示工程和离线记忆库构建,快速将历史大模型经验迁移到新上线小模型,适合快速迭代的推荐系统上线流程。
多模态交易智能体的金融融合:F²Agent
🧭 多模态金融交易Agent框架
National University of Singapore · Huazhong University of Science and Technology · Zhejiang University
提出层次化多模态Agent架构,通过自适应融合与噪声鲁棒正则化,实现金融交易年化收益平均提升超20%
📌 工作参考价值(4 点)
- 层次化多模态Agent分工:在电商推荐或广告投放中,可借鉴将文本、图像、用户行为等多模态数据交由不同专用Agent分别处理,再融合预测,提升信号提取的精细度。
- 模态感知自适应融合:设计动态权重调节机制,根据上下文自动学习不同模态的重要性,可应用于商品主图+描述+评论的多模态排序场景,避免静态融合带来的信息折损。
- 噪声鲁棒一致性正则:金融数据的噪声问题在搜索/推荐系统中同样存在(如异常点击、刷单),该正则化方法可迁移到点击率预估或Agent决策的在线学习,提升模型对噪声样本的稳定性。
- Agent化交易决策流程:虽然面向金融,但其“感知-融合-决策”的Agent链式架构可复用到广告智能出价或动态定价Agent,实现多源信息驱动的自适应策略。
FormBharo:印度农村对话式表单填写语音代理的设计与评估
🧭 语音代理 · LLM+规则混合表单填写
Artpark · Indian Institute of Science
构建LLM+规则混合语音代理,发布会话表单填写基准,揭示端到端评估与多目标权衡的必要性
📌 工作参考价值(4 点)
- LLM+规则混合架构:在电商客服或对话推荐Agent中,可借鉴生成+确定性校验的流水线,用规则兜底LLM的错误,提升低资源或高噪声场景下的鲁棒性。
- 端到端评估优先:组件指标(如ASR准确率、槽位提取F1)不能代替全链路表单完成率;构建推荐/查询改写Agent时,需设计覆盖真实噪声的端到端测试,避免在组件优化上浪费资源。
- 多目标帕累托选型:面对准确率、成本、延迟的权衡,使用加权和标量化进行模型选择,适合业务上线前的自动化配置决策。
- 低资源语音交互基准:发布的FormVoiceAgentBench含真实印地语音频与多轮对话,可作为多语言/方言语音Agent测试的模板,特别适合需要覆盖长尾用户语音交互的国际化电商场景。
工具调用的苦涩教训:代码执行 vs JSON 调用大规模评估
🧭 Agent 工具调用范式评估 ★ 深度解读
PricewaterhouseCoopers, U.S.A
11/14 模型程序化工具调用匹敌或超越 JSON 调用,并行与长链场景下优势显著
📌 工作参考价值(4 点)
- Agent 工具接口设计:在电商搜索推荐 Agent 中,若需并行调用多个商品 API 或串行执行多步查询,可考虑用代码执行(如 Python 脚本)替代原生 JSON 工具调用,避免 JSON 在高并发时遗漏调用,并减少推理轮次。
- 多工具链式调用优化:对于需要多步顺序调用的推荐流程(如先查用户画像、再查商品、再查促销),程序化方式可在单次推理中完成整链,降低延迟,且长链场景下准确率优势可达 18.8%。
- 上下文干扰下的鲁棒性:当 Agent 需要从大量工具定义中选取正确 API 时(类似电商平台有数十个微服务),JSON 调用准确率下降,而程序化调用更稳定,实际部署时可避免因无关工具定义污染上下文导致的失败。
- 模型选型启示:程序化工具调用效果与模型代数相关,较新的模型(如 GPT-5.6、Claude Sonnet 5)能稳定发挥优势,旧模型可能出现编码问题(如换行符转义错误),选型时需针对性测试。
路由在最需要时最难学:Web Agent 表征路由的界限
🧭 Agent 表征路由与成本优化
University College London · Holistic AI · UCL Centre for Artificial Intelligence
多观察模式的路由收益被重运行噪声夸大,弱智能体因标签不足难以学习路由
📌 工作参考价值(4 点)
- 多表征系统(如文本+图像+融合)可借鉴路由思路:按任务特征动态选择最优表征,但需注意重运行噪声(12-14%)会夸大收益,评估时务必用足够重复实验校准。
- 当基础智能体成功率低时,路由训练样本极少(路由标签源自智能体自身成败),此时应先提升智能体核心能力再引入路由,避免“鸡生蛋”困境。
- 成本-质量权衡策略可直接复用:仅将基础模式无法解决的任务发送到最强模式,可在不降低成功率前提下节省 9.5-30.6% 成本,适合电商 Agent 多级调用(如廉价 KV cache vs 完整生成)。
- 任务文本作为零成本路由规则(如关键词过滤)效果有限且脆弱,建议谨慎使用,优先构建基于置信度的级联路由。
孟德尔·哥德尔机:基于比较进化的递归自改进编码代理
🧭 自改进编码Agent · 比较进化 ★ 深度解读
University of Electronic Science and Technology of China · Ludwig Maximilian University of Munich · Munich Center for Machine Learning
引入反应范型突变和跨谱系杂交,利用存档中多任务、多谱系比较证据提升自改进编码代理的性能与泛化性
📌 工作参考价值(4 点)
- 反应范型突变的迁移:在电商搜索推荐Agent中,同一Agent往往同时服务于搜索、推荐、广告等多个场景。可以借鉴MGM的思路,比较该Agent在不同场景下的成功/失败轨迹,识别跨场景的通用缺陷(如检索总召回不足、融合逻辑缺陷),从而进行针对性修复,而非孤立地针对单个场景调优。
- 跨谱系杂交的应用:在A/B实验或多策略线上共存时,可以将表现更好的Agent视为参照,将其在相同任务(如同一query、同一用户)上的成功轨迹作为对比信号,指导表现较差的Agent自我改写,实现策略能力的定向迁移,避免从头探索。
- 失败任务池的加权采样:维护一个全局的“高信息量失败任务池”,在评估Agent时优先采样这些任务,可以更高效地暴露弱点、促成跨Agent对比。这可以应用于构建在线评估流量的分层采样策略,用更少的流量诊断出Agent的真正短板。
- 存档式自改进框架:将Agent谱系树与评估轨迹统一存储,用Thompson采样在评估与扩展之间动态分配预算,既保证探索又利用高潜力节点。这种框架可以直接用于自动化优化推荐系统的推理链、工具调用等工作流,通过代码层面的自修改实现持续进化。
面向Agent图像编辑的领域约束候选选择:阴影去除案例
🧭 Agent驱动的约束式生成编辑
Stony Brook University · UNC Charlotte
将阴影物理先验注入Agent候选生成-评估-筛选流程,显著减少幻觉并提升编辑可靠性
📌 工作参考价值(4 点)
- 借鉴 Agent 多轮候选生成-评估-筛选流程,用于自动生成商品图文描述或广告文案:先让 LLM 生成若干候选,再用领域评估器(基于规则或轻量分类器)过滤并选择最佳,提升内容质量。
- 将业务先验(如商品属性准确性、合规性)固化为提示与评估准则,约束生成模型,减少幻觉,类似论文中用物理先验界定“阴影是光照效果”的做法。
- 引入重试机制与快速失败检测:评估器发现明显违规(如描述与图片不符)时立即重新生成,避免低质输出流入下游。
- 评估器可采用轻量级方案(如关键词匹配、属性校验)替代复杂模型,在候选筛选阶段快速剔除明显错误,降低整体审核成本。
统一智能体:跨设备交互中的紧凑状态管理
🧭 跨设备智能体状态管理 ★ 深度解读
University of California, San Diego
提出携带紧凑跨设备状态的统一智能体,利用交互证据解决设备未指定的请求,性能显著优于无状态与多智能体基线
📌 工作参考价值(4 点)
- 跨设备会话持续化:电商用户可能在手机浏览商品、电脑下单、平板查看评价。借鉴紧凑状态设计(交互证据、事实、未完成请求),代替存储完整历史,降低 token 消耗并保持意图延续性。
- 未指定设备的意图路由:当用户说“把刚才看的那件加入购物车”而未指名设备时,可使用设备级交互强度计数(如点击、停留时长、指向手势)自动识别最相关设备,类似 Unified Agent 的 engagement evidence。
- 显式状态分层:将状态分为当前感知、累积交互证据、事实记忆与待处理请求,使决策步骤清晰,便于调试和隐私审查;在推荐系统中可类似管理用户短期兴趣(活跃设备)与长期偏好(事实记忆)。
- 模型无关的状态优势:实验证明状态设计带来的增益在多种 MLLM( GPT、Gemini)和能力级别下均显著,说明可将这一轻量状态模块嵌入现有 Agent 框架,无需依赖特定大模型能力。
TrajDebug:通过错误生命周期追踪定位长程Agent关键失败
🧭 Agent错误调试与关键失败定位
Tsinghua University (BNRist) · Shenzhen International Graduate School, Tsinghua University · Tencent Hunyuan
提出TrajDebug,以多粒度历史压缩和证据驱动错误识别追踪错误生命周期,定位关键失败步骤
📌 工作参考价值(4 点)
- 在电商客服或推荐Agent开发中,借鉴多粒度历史压缩,对长对话轨迹进行层次化摘要(如将交互划分为任务、子步骤),降低人工调试成本。
- 错误生命周期追踪(判断错误是被修复、无影响还是导致最终失败)帮助锁定真正关键的错误步骤,避免在多轮Agent调试中浪费时间在无关错误上。
- 证据驱动的错误识别方法可迁移至推荐系统策略校验,例如检测推荐结果是否违反库存、价格等业务规则,并定位第一个违规步骤。
- 构造内部失败轨迹数据集并持续评估,将关键错误诊断信息作为Agent自我反思或自动修复的输入,提升系统成功率。
下一帧截图知道答案:门控后见蒸馏训练移动GUI代理
🧭 GUI Agent · 后见知识蒸馏 ★ 深度解读
电子科技大学
利用下一帧截图作为特权信息,通过门控蒸馏将未来知识注入前缀策略,显著提升GUI代理任务成功率。
📌 工作参考价值(4 点)
- 序列决策任务(如推荐多轮交互)中,可模仿GHD,将用户事后真实行为(点击、购买)作为“未来状态”,通过teacher-student蒸馏,将事后知识注入仅依赖当前上下文的前缀策略,提升决策合理性。
- 门控机制“仅学生犯错且教师纠正时蒸馏”能有效过滤噪声样本,保证蒸馏信号的可靠性;类似地在推荐agent训练中,可只蒸馏那些模型在当前状态下给出差动作而事后信息能给出更好动作的case。
- 将强化学习(GRPO)与token级分布蒸馏结合,提供稠密的token级监督,比传统基于动作标签的模仿学习更高效;该训练范式可迁移到任何需自然语言推理+行动的agent场景。
- 动态采样(最多三次尝试寻找有效蒸馏样本)在不大幅增加训练开销的情况下显著提升有效监督密度,适合在离线数据有限时提升RL训练效率。
因果情节记忆:基于反馈的代理修复
🧭 Agent 反馈驱动修复 · 因果记忆
Mohamed bin Zayed University of Artificial Intelligence · Ho Chi Minh City University of Technology (HCMUT)
利用双极性因果记忆与类型条件检索,使冻结LLM在修复时复用过往成功修正,提升Text-to-SQL准确率
📌 工作参考价值(4 点)
- 电商对话代理或搜索助手可将每次修复后的最终成功方案存入正例记忆,同时记录曾尝试但无效的修改方向作为负例,后续相似问题直接检索复用,避免重复推理。
- 在推荐系统的生成式修复(如商品推荐查询改写、筛选条件修正)中,可引入粗粒度失败类型分类器(如“意图理解错误”、“约束冲突”),据此条件化检索历史案例,提升修正速度与准确率。
- 采用混合检索(BM25词汇匹配+稠密向量相似)来召回相关历史经验,既能捕捉表层词重叠,又能挖掘语义相近的跨场景模式,适用于电商Agent的案例库构建。
- 无需模型更新,仅靠记忆即插即用,适合快速迭代的线上代理系统,特别适合在推荐对话、售后引导等需持续从错误中学习的场景部署。
优化器即智能体:推理驱动的 Prompt、程序与 ML 工作流搜索
🧭 Agent 驱动的优化搜索 ★ 深度解读
The University of Texas at Austin · Snowflake
用单一工具使用智能体内部化搜索策略,替代外部启发式控制器,在三大领域 14 项任务中达到或超越专用方法。
📌 工作参考价值(4 点)
- 用 Agent 自动优化模型超参与训练流程:在搜索推荐模型中,可借鉴 ReASearch 的“先诊断再修改”范式,通过 Python exec 分析训练曲线、定位瓶颈,替代盲目调参。
- Prompt 自主进化:对于生成式推荐或 Query 改写,可让 Agent 自主管理 prompt 候选树、验证增益、回溯失败路径,并通过记忆文件积累领域知识,减少对手工启发式的依赖。
- 低成本组件易于集成:Memory 文件(lessons.md)记录已尝试的方法、效果与下一步方向,可作为 Agent 的持久经验库,在新任务初始化时复用,类似推荐系统中的历史实验知识复用。
- 验证粒度控制防过拟合:仅暴露聚合验证指标(而非逐样本反馈)能有效防止 prompt 优化过拟合,这一 trick 可直接迁移到生成式推荐的 prompt 调优中。
ABSeeker:基于答案回溯的细粒度信用分配训练长期搜索代理
🧭 搜索代理训练 · 步骤级信用分配 ★ 深度解读
Shanghai Jiao Tong University
提出答案回溯的细粒度信用分配框架,为搜索代理的每一步提供密集步骤级监督,4B模型性能超越同规模甚至比肩30B模型。
📌 工作参考价值(4 点)
- 步骤级信用分配可迁移到多步检索/推荐系统:在电商多轮对话或深度搜索推荐中,轨迹稀疏奖励问题同样突出,可借鉴答案回溯方法,利用最终正确结果(如成交、满意答案)反向推导中间关键证据(如关键商品属性、比较点),为每一步对话或检索动作生成密集奖励,改善策略学习。
- SFT中奖励加权损失提升数据利用率:ABC-SFT通过sigmoid函数将步骤评分映射为损失权重,对高质量步骤加强学习,对错误步骤抑制信号,可推广到有过程标注的业务微调中,比如用规则或LLM为会话中的每个召回/排序动作打分后加权训练。
- RL中引入步骤级优势提升探索:ABC-GRPO的折扣步骤优势(γ=0.25)将未来步骤奖励合理传播,可应用于线上强化学习调优推荐策略,替代粗糙的结局奖励,让模型更精准地关联动作与最终收益。
- 线索锚定的评分模板工程化:使用预设的加分/扣分规则表(发现正确线索+0.8、错误排除-0.8等)对每一步进行结构化评分,易于在业务中复现,尤其适合约束明确、答案可验证的任务(如搜索词纠错、知识库问答)。
AgentOPSD:通过递归自蒸馏为多轮Agent提供回合级信用分配
🧭 Agent 多轮交互的回合级信用分配 ★ 深度解读
清华大学 · 浙江大学 · 美团
将自蒸馏的token级log概率差聚合成信念状态,通过贝叶斯递归更新定位关键回合,重塑轨迹级优势函数
📌 工作参考价值(4 点)
- Agent RL 训练的信用分配:电商/搜索 Agent 的任务往往多轮交互(多步检索、筛选、比较),轨迹级奖励广播会模糊关键动作。AgentOPSD 的递归信念更新提供了一种轻量替代方案:无需训练额外 critic,仅通过自蒸馏的 token 级 log 概率差来估计每个动作对最终结果的贡献,可迁移到商品搜索 Agent 或对话式推荐 Agent 的强化学习微调中。
- 自蒸馏信号的利用方式:论文演示了如何将自蒸馏的 log 概率差转化为“证据”,并用于贝叶斯更新而非直接作为损失或缩放因子。在电商 Agent 中,业务特征(如用户停留、点击等)常作为特权信息仅在训练时可用,可仿照此思路构建 teacher 分支,生成回合级证据并根据信念变化幅度动态调整优势权重,提升样本效率。
- 多轮对话/交互的鲁棒性:AgentOPSD 在长 horizon 任务上优势显著,且超参数不敏感(λ 除外)。对于广告多轮出价或多步推荐场景,该方法的衰减累积机制和基于信念状态饱和度的自适应门控(B(1−B))同样适用,可避免早期冗余动作的噪声干扰,同时稳定训练。
- 工程实现友好:仅需一次额外 teacher 前向传播,无额外 rollout 或 critic 网络,可直接嵌入 GRPO 训练循环。对于已有 GRPO 流程的团队,迁移成本低;且开箱即用的超参数(λ=0.5, γ=0.95)提供了直接参考。
从轨迹到证据:工业研究智能体的可审计实验记录
🧭 研究智能体实验轨迹的证据化与审计 ★ 深度解读
Kuaishou Technology
提出将研究智能体实验轨迹转化为可审计、带边界的证据记录,用于可控的跨任务复用
📌 工作参考价值(4 点)
- 在工业推荐 agent 实验中,将多轮实验轨迹转化为有边界、可审计的 Repair/Guard/Withheld 记录,不直接信任最终状态或未验证轨迹
- 引入 上下文隔离的“生成-验证-修复”循环:在 proposal、code 等交接点检查 artifact 与证据一致性和下游需求缺失,用独立上下文避免盲点共享,减少无效实验消耗
- 通过执行有效性门控(实现保真、执行完整、评估协议、机制保留)筛除无效轮次,并基于可归因证据对干预进行资格认定,避免混淆结果污染知识库
- 构建冻结的记录注册表,下游由混合 LLM 控制器做 Apply/Defer/Reject 决策;实验显示控制器决策准确度有限(Affirmative precision 25%),建议将 Apply 视为待验证假设而非确认,需结合人工审核或保守策略
对抗求解器校准的终端任务生成系统CalibForge
🧭 Agent 训练数据合成 · 难度对抗校准
Renmin University of China · Independent Researcher · AweAI Team
通过对抗性多求解器校准生成难度适中的终端任务,显著提升agent训练效果与泛化能力
📌 工作参考价值(4 点)
- Agent 训练数据构建范式:用强弱求解器对比(Strong-Pass/Weak-Fail)定位“可学习难度区间”,过滤过难/过易样本,可直接用于电商 Agent 任务合成(如购物决策、客服问答)来提升数据效率。
- 多求解器对抗校准:利用异质求解器池的不一致性来生成训练信号,类似集成/分歧挖掘,可借鉴用于搜索推荐 Agent 的多模型协作场景,例如用不同规模模型筛选高信息量训练样本。
- 任务难度自适应生成:通过迭代对抗修订(adversarial revision),让任务难度贴合当前模型能力边界,该方法可复制到生成式广告文案评估、自动化测试等需要动态难度控制的 Agent 任务中。
- 跨任务泛化验证:在 Terminal-Bench、SWE-bench、Doc2Repo 上均大幅提升,说明校准后的训练数据增强了 Agent 的通用规划与推理能力,对构建电商领域跨场景的通用 Agent 有参考价值。
多模态智能体训练:从多样性与难度结构设计有效环境分布
🧭 Agent 训练环境优化 · 多样性 & 课程学习
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences
发现简单增加环境数量并不能提升智能体训练,提出能力感知环境选择与层次化难度课程来优化环境分布
📌 工作参考价值(4 点)
- 在构建用户模拟器或交互环境训练推荐/对话 Agent 时,可采用能力感知采样(AES),按所需能力(如物品识别、偏好推理、对话理解)均匀覆盖环境,避免数据偏向简单交互。
- 借鉴层次化难度课程(HDC),先去除环境中的显式提示信号训练基础能力,再逐步增加状态复杂度(如更多候选物品、更长历史),提升 Agent 的鲁棒性和泛化。
- 工程实现上,为训练环境标注“所需能力”和“状态规模”等元数据,动态调整采样权重,比盲目扩大环境池更高效。
- 在强化学习训练推荐策略时,注意环境分布的难度结构,避免随机均匀采样,课程化安排可加速收敛并提升最终效果。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
EvolveNet:分布式代理程序协作进化,无需共享原始数据即可聚合经验
🧭 代理协作进化 · 程序聚合 ★ 深度解读
Hong Kong Baptist University · University of Science and Technology of China · The Hong Kong University of Science and Technology
将代理程序(harness)的本地进化成果跨客户端聚合,通过范围类型与行为证据解决程序编辑冲突
📌 工作参考价值(4 点)
- 分布式 Agent 策略协同:不同商家、品类或地区的推荐/搜索 Agent 可在本地数据上独立优化自己的 harness(提示、工具调用、校验规则),仅将编辑增量与行为证据上传,中心无需触碰原始数据,适合隐私敏感或数据隔离场景。
- 冲突解决与多域融合:聚合时采用范围类型(GLOBAL vs. HOME)与域守卫(guard),使针对特定品类的策略仅在对应条件下激活,避免跨域冲突;此设计可直接用于多域 Agent 的 prompt/workflow 聚合,如搜索广告的多行业模板合并。
- 安全回滚机制:行为门控(验证集上增益必须 ≥ 回退)保证合并不会导致整体性能退化,可借鉴到线上 Agent 的自动化更新管线,实现有保障的持续进化。
- 并行搜索加速:本地进化并行化,迭代轮次受最慢客户端而非总搜索时间限制,适合需要频繁迭代的电商/广告系统,可在不增加串行深度的前提下利用多团队并行实验。
观察校准自蒸馏:解耦智能体强化重放信号的混杂因子
🧭 Agent 强化学习 · 令牌级信贷分配 ★ 深度解读
Meituan LongCat Interaction · Nanjing University · Peking University · McMaster University · Fudan University
通过对比含/不含未来观察的结构化重放视图消除支架混杂,为GRPO提供校准的令牌级更新信号
📌 工作参考价值(4 点)
- 特权重放信号的混杂控制:在使用未来反馈或后见之明信息进行令牌级监督时,可构造“完整视图”与“消融视图”(如仅屏蔽关键未来信息,保持格式、动作支架一致),取两者分数差作为残差,剔除由重放格式、支架引入的偏好偏移,从而使特权信号更干净地归因于目标信息。
- 选择性校准高不确定步骤:按旧策略的序列平均负对数似然排序,只对每个轨迹中前20%高困惑度步骤施加令牌级精细化信号,既能提供有效指导,又避免对低价值步骤引入噪声,提升训练效率与稳定性(计算开销仅增1.4%)。
- 保向调幅的集成方式:在政策优化时保持原始轨迹级优势的方向不变,仅用校准信号按比例缩放更新强度(如 \(bA_{text{cal}} = bA \cdot (1+\beta \cdot \text{sgn}(bA) \cdot q)\)),易于嵌入现有GRPO/PPO框架,无需额外损失项或辅助目标。
- 适用于多步交互型Agent:该思路可直接迁移至对话推荐、搜索代理等多轮交互场景,利用后续用户反馈或环境状态构建结构化对比视图,实施步骤级信用分配,提升策略学习对关键行动环节的敏感度。
灌丛鸦情景记忆启发的Agent记忆系统
🧭 Agent记忆系统 · 时间衰减
Birla Institute of Technology and Science, Pilani
将灌丛鸦的What-Where-When记忆与类型条件时间衰减引入LLM Agent记忆,有效处理过期事实
📌 工作参考价值(4 点)
- 对话式推荐或搜索Agent中,用户偏好与促销事实时效性不同,可借鉴类型条件衰减系数,为每条记忆(如短期价格 vs 长期偏好)自动分配不同半衰期,避免过期信息污染上下文。
- 记忆存储采用WWW元组及可腐性π_i和效用期限τ_i,检索时结合查询自适应打分,可对已有向量知识库做动态时效加权,提升检索精准度。
- 更新机制仅需O(1)次LLM调用,工程上轻量,适合电商高并发场景下记忆增量修正。
- 引入的Temporal Generalization Test(TGT)和Generalization Gap指标可用于评估自家记忆系统对时间泛化的能力,辅助上线前量化时效性风险。
活动框架:用于 Agent 记忆与回放的确定性屏幕活动编译
🧭 Agent 记忆压缩与成本归因
Independent Researcher
将屏幕操作编译为缓存友好的结构化记忆,使 Agent 以极低 token 开销准确回答用户日常行为问题并量化例程成本
📌 工作参考价值(4 点)
- 用户行为记忆与复用:在电商运营、广告优化等 Agent 辅助场景中,可通过被动屏幕捕获将运营人员的操作流(选品、调价、搭建计划)编译成结构化记忆块,替代 LLM 摘要,减少重复推理的 token 消耗,提升 Agent 对上下文的理解准确率。
- 零模型回放降低延迟与成本:已编译的例程可在命中时直接确定性回放,无需模型调用,实现零 token 自动化。适用于高频、重复的标准化操作(如日常报表拉取、状态检查),推动 Agent 行为从“再生”到“复用”的范式转变。
- Agent 成本归因与价值量化:引入 Routine Overhead Ratio (R) 与可委派重复率 (h),可前置衡量将人工操作交给 Agent 的 token 放大倍数与复用上限,指导决策哪些流程适合自动化、预期收益如何,为 Agent 投产提供量化依据。
- 工程实现借鉴:采用无模型、确定性的分段编译器,输出 byte-identical,可缓存、可审计,适合在隐私敏感或需要严格复现的零售、金融场景落地,且内存占用极低(86× 压缩,数十毫秒处理完整日屏采集)。
技能知晓其邻居:用于技能检索的聚类对比能力页
🧭 技能检索 · 对比表示学习
Tencent IMA Product Center · Tencent Youtu Lab
通过聚类对比生成包含正触发、负边界和判别体的能力页,在不改变在线模型的情况下提升技能检索与路由性能
📌 工作参考价值(4 点)
- 当业务中存在大量语义相似但能力不同的技能/功能时,可离线编译「能力页」来增强检索区分度,避免检索器因文档描述的局限性而误召回。
- 引入负边界 T^- 用于路由阶段的候选拒绝,能有效减少下游执行器调用错误技能的概率,可直接用于 Agent 框架中的工具选择环节。
- 离线生成对比表示的思想可迁移到电商商品描述改写、广告文案检索等场景:通过对比邻近项自动生成更具区分性的描述字段,改善结构化信息的检索质量。
- 该方法完全通过改写离线库实现,无需更换编码器或修改在线模型,工程改造成本极低,适合快速验证与上线。
MemoryCPT:面向成本-性能权衡的端到端Agent记忆框架
🧭 Agent记忆优化 · 成本与性能权衡 ★ 深度解读
香港科技大学 · 香港科技大学(广州) · 腾讯LIGHTSPEED STUDIOS · 香港中文大学
通过离线蒸馏记忆构建 + 在线GRPO摘要优化,在长对话问答中同时提升答案质量并大幅降低推理成本
📌 工作参考价值(4 点)
- 离线记忆构建与在线检索分离:将记忆压缩为可复用的片段(episodic + semantic),整体记忆构建成本可以在多次查询间摊销,适合电商Agent持续对话或长期用户画像维护,避免每次请求重复处理全量历史。
- RRF融合稠密与稀疏检索:在商品知识库或用户行为记忆中,结合 embedding 和 BM25 两种信号做初步召回,再用 LoRA 摘要器压缩,能有效降低下游 LLM 的 token 消耗——可直接用于客服意图识别或推荐语生成前的背景筛选。
- GRPO 训练成本感知摘要策略:用加权奖励(F1 + token节省)训练摘要模型,使 agent 学会“用最少且最关键的上下文回答问题”。在电商搜索结果摘要生成或广告文案自动适配中,可以借鉴此方法,在字数限制下优化信息含量。
- QPC 指标量化智能密度:在评测推荐解释、Agent 回答或 query 扩展时,除看准确率,也应关注单位推理成本的产出,便于在工程上做模型选型与预算控制——尤其是当需要高频调用大模型时。
面向LLM智能体的分层图记忆:路径级定位与协调重写
🧭 Agent记忆演化与证据定位 ★ 深度解读
Nankai University · Zhongguancun Academy · Beihang University
提出分层图记忆框架HiGram,通过MicroGraph路径级定位与协调重写,提升长程对话问答质量并大幅降低Token消耗
📌 工作参考价值(4 点)
- 借鉴分层图记忆架构:将用户记忆分为粗粒度节点(如商品类别、场景)和细粒度记忆单元(具体行为、事实),降低检索时遍历全量历史的开销。
- 路径级证据定位:在电商对话推荐中,根据当前查询和用户反馈,定位支持推荐理由的证据子图(如购买序列、偏好演变路径),减少上下文噪声。
- 协调重写机制:当用户信息更新时(如地址变更、偏好改变),不仅更新单个事实,还要更新依赖该事实的推断记忆(如推荐策略),保持一致性,避免过时信息。
- Token效率优化:通过在推理时只加载定位到的子图和路径,显著降低LLM调用Token数,在实时场景中更可行。
Skill-Use: LLM 在 Agent 框架中真的能使用技能吗?
🧭 Agent 能力评估 · 渐进式技能使用 ★ 深度解读
East China Normal University · Hong Kong University of Science and Technology · Fudan University · Tencent Hunyuan
提出 Skill-Use 基准,从触发、合规、边界三维度评估 LLM Agent 在渐进式披露下自主检索并遵循技能的能力,发现最高 SU 仅 0.613,触发与合规是独立瓶颈,排名依赖框架。
📌 工作参考价值(4 点)
- 技能触发是首要瓶颈,强化名称与描述的区分度:在 Agent 技能库中,技能名和简短描述直接影响触发率。电商/推荐场景下设计技能时,应使用精确、无歧义的元数据,避免与通用话题重叠,降低“不触发”失败。
- 预加载关键步骤可提升触发,但不宜直接暴露全过程:实验表明预加载技能全文可大幅提高触发,但执行合规性改善有限。工程上可对高价值技能预先在 System Message 中隐式注入其执行约束或决策规则,而不必展示全部 SOP,平衡触发与技能保密性。
- 技能库规模影响以“不调用”为主,而非错误调用:增加技能库容量主要导致 Agent 完全放弃调用技能,而非选错技能。因此监控“技能未被触发”比检测“选错技能”更有价值,可设置兜底策略或主动提示。
- 技能合规性与业务结果非线性相关,需设定最低 SU 阈值:任务完成得分在 SU > 0.5 后才转为正向增益,半吊子遵循反而损害结果。实际部署中应设定内部合规门槛,低于此阈值的技能调用可关闭技能库或回退无技能基线。
SkillZip:面向可扩展 Agent 技能库的契约保持图压缩
🧭 Agent 技能库压缩与检索
UNSW · CSIRO
执行感知的 section-level 图压缩:用可逆端口化宏保持契约,压缩比 3.46x,效果最高 +12.2 点
📌 工作参考价值(4 点)
- 将推荐/广告 agent 的 SOP(如商品信息清洗→类目映射→创意生成→合规校验)拆成 section-level procedural graph,而不是整段文本 skill;检索与缓存单位对齐到子流程,能显著降低 LLM context 占用并提高跨任务复用。
- 借鉴契约保持压缩:压缩时显式保留流程“边界签名 + 依赖闭包 + verifier 可达性”,可保证压缩后流程仍可执行、可校验、可回滚;适合做线上推荐策略 / 审核流程的版本化与安全压缩。
- 宏按需展开(hydrate 紧凑依赖闭包,执行到才展开 macro)可以落地为 Agent 工具编排中的 lazy loading 与按需注入上下文,减少首轮 token 与延迟。
- ReZip 的“执行证据修订 risky macros”可借鉴为 skill 库 / prompt 库的在线增量更新与回滚机制:用线上执行失败信号触发局部重压缩,而不是全库重训。
StreamArena:面向连续交互的长时流式视频理解基准与双层架构
🧭 长时间流式视频理解Agent架构
The Hong Kong University of Science and Technology · Xiaohongshu Inc. · The University of Hong Kong · The Chinese University of Hong Kong
提出小时级流式视频理解基准StreamArena和双层架构StreamMind,解耦实时交互与长期多模态记忆
📌 工作参考价值(4 点)
- 异步记忆与实时交互解耦:前后端分离架构可借鉴到电商直播监控中,前端快速响应实时关键词检测、用户提问,后端异步构建直播长时记忆并支持历史事件搜索,避免阻塞交互。
- 多模态持久状态复用:后端构建持久化的多模态记忆(非纯文本),保留视觉证据,降低重复压缩损失,可用于长时间直播流的商品出现记录、主播话术回溯等场景,减少重复计算。
- 主动干预能力:StreamMind的主动监控模块可迁移至直播推荐系统,在检测到预设事件(如商品展示、主播口播优惠)时主动向用户推送提示卡片,提升互动转化。
- 外部工具集成:架构支持按需调用外部搜索,可应用于实时查询商品详情、比价等,增强Agent在电商场景中的实时信息获取与回答准确率。
持续技能基准:评估LLM智能体能否真正进化其能力
🧭 Agent连续技能学习评估 ★ 深度解读
Institute for Artificial Intelligence, Peking University · Beijing Institute for General Artificial Intelligence
构建动态评估框架,揭示顺序执行提升性能但技能库维护未显著超越纯上下文学习,技能泛化仍难
📌 工作参考价值(4 点)
- 纯上下文学习可替代复杂技能库:在电商Agent的工作流中,对于简单的顺序任务(如用户意图识别→商品推荐→生成文案),直接利用对话历史和反馈的上下文学习表现与维护显式技能库相当,可以简化系统设计,避免技能库膨胀。
- 警惕技能碎片化:弱模型容易生成大量任务特定技能且复用率低,导致检索负担加重。可以设计技能合并策略(如定期聚类相似技能并泛化)或设置技能池容量限制,通过淘汰低频技能来维持效率。
- 任务流设计需注入技能依赖结构:通过构建任务依赖图并按拓扑排序安排任务顺序(难度递进 + 技能复用),能显著提高技能覆盖率和转移机会,这在推荐系统的多阶段流程(召回→粗排→精排→策略)中可借鉴,使上游产出的特征或知识能被下游利用。
- 评估指标可移植:任务重用率和核心技能覆盖率可作为量化连续学习环境质量的指标,用于检测推荐序列中是否存在有效的知识迁移路径。
FocusMem:因子化 GUI Agent 潜在记忆的内容、读出与信任
🧭 Agent记忆因子化与选择性读出
School of Computer Science, Peking University · Key Lab of High Confidence Software Technologies, Peking University · Institute of Information Engineering, Chinese Academy of Sciences · Department of Computer Science and Technology, Tsinghua University
在潜在记忆中因子化内容保留、状态条件读出和信任门控,解决 GUI Agent 记忆压缩损失与无关干扰问题
📌 工作参考价值(4 点)
- 构建对话式推荐 Agent 或任务助手时,可将情景记忆(用户长期偏好)与工作记忆(当前会话状态)分开存储并利用角色感知读出,提升多轮交互一致性。
- 状态条件读出机制可迁移至用户序列建模,根据当前推荐场景动态聚焦历史行为,增强推荐上下文的个性化与相关性。
- 信任门作为轻量过滤器,可集成到 RAG 管道中,抑制检索到的无关商品描述或历史交互,减少噪声,提高推理准确性。
- 记忆模块独立训练、策略模型冻结的架构,是一种低风险、易迭代的工程方案,适合业务中快速实验与部署。
面向长程终端任务的递归合成框架
🧭 递归合成 · 终端Agent训练任务 ★ 深度解读
Tencent HY LLM Frontier · University of Georgia · University of Maryland, College Park · University of Pennsylvania · Indiana University
递归扩展验证式合成,每任务$0.05且难度持续攀升,显著提升Agent长程执行能力。
📌 工作参考价值(4 点)
- 递归合成框架可自动化生成难度递进的训练任务:从已有种子任务出发,扩展解决方案、重对齐验证器与指令,沙箱验证通过即接受,可用于构建持续提升的 agent 训练课程。
- 低成本大规模验证数据:每任务约 $0.05,且验证成功率高,对需要可执行、可验证的训练场景(如电商客服工具调用 Agent)有直接借鉴。
- 多样性控制策略:通过种子 lineage 上限、重写操作符多样化、领域分布保持等手段,避免合成数据多样崩塌;可迁移到推荐或对话系统中自动生成多样化训练样本的流程。
- 合成数据结合 PPO 训练可显著提升 Agent 长程规划与工具使用:Qwen3.5-27B 在 Terminal-Bench 2 上相对基座提升 20.0%,表明即使无人工标注,仅靠合成任务和可执行奖励也能获得强泛化能力。
ToolArtist:工具使用统一多模态模型的智能图像生成
🧭 Agent 多步推理与工具调用
RUC · HKUST(GZ) · NUS · UCD
通过后训练统一多模态模型,实现推理、工具调用与图像生成的端到端Agent策略优化
📌 工作参考价值(4 点)
- 可将完整复杂任务流程(推理→工具调用→生成)交由单一策略模型端到端决策,适用于电商搜索推荐的Agent化改造,动态编排召回、排序、解释生成等步骤。
- 教师代理收集轨迹后隐藏工具调用但保留生成结果,这一数据构造范式可直接用于训练推荐对话Agent,无需手动标注思考链。
- RAD-GRPO结合意图和品质互补奖励的方法可用于推荐场景的多目标RLHF,同时优化相关性和内容质量。
- 训练数据格式转换(工具调用痕迹转化为模型直接生成)为统一多模态模型接入外部工具提供了可复用的工程模板。
Video-DeepResearch:面向视频的多模态深度研究Agent框架
🧭 视频深度研究Agent · 解耦感知探索 ★ 深度解读
USTC · Xiaohongshu Inc. · CUHK · The Hong Kong Polytechnic University · ZJU
首个统一视频深度研究数据、训练与评估的框架,通过解耦感知-探索与GRPO纠正模态偏见,35B模型超越闭源SOTA
📌 工作参考价值(4 点)
- 解耦感知-探索的两阶段流程可迁移至电商多模态搜索:先强制对商品关键视觉特征(如logo、型号)进行裁剪搜索,再开放文本描述与评论检索,能规避模型直接依赖文本偏差。
- GRPO+拒绝采样训练范式适合训练Agent工具使用:用稀疏奖励(正确/错误)结合组内相对优势,无需价值网络即可推动自主探索,可用于训练推荐Agent调用多个API(如商品查询、用户画像)。
- 数据合成中防参数泄漏的筛选策略可直接复用:生成问答对后,用无工具多次问答(Pass@4)过滤掉可凭记忆回答的样本,保证训练数据必须依赖工具,适用于构建需检索的推荐问答对。
- 工具调用频率的诊断价值:通过分析视觉/文本工具平均调用次数来识别Agent的模态偏见,可类比推广到推荐系统Agent监控不同召回通路的使用均衡性。
WorldClaw:大规模智能体三维开放世界生成
🧭 Agent 驱动的 3D 开放世界生成
Tencent Hunyuan
利用规划代理和渲染代理从文本生成全局一致、可编辑的大规模 3D 开放世界,实现粗到细的生成
📌 工作参考价值(4 点)
- 借鉴其“意图分析-全局规划-区域细化”的分层 Agent 架构,在设计搜索/推荐助手 Agent 时,对复杂用户需求进行结构化分解与分步执行。
- 利用渲染反馈循环(render-based agents)进行自改进的思路,可用于电商推荐文案/图片生成的自我优化,通过生成后的评测反馈迭代提升质量。
- 将生成过程建模为可编辑资产(可复用、可调整)的理念,可以迁移到推荐解释生成或广告素材生成,确保生成的元素可独立调整和组合。
- 虽然主要是3D生成,但其coarse-to-fine流程可启发推荐系统中的多阶段生成(如先规划品类再细分子项)。
智能体红队系统:自动提示注入攻击
🧭 Agent 红队测试与安全攻击
The Pennsylvania State University
提出PIMiner,通过多任务训练构建可迁移策略库,实现跨LLM的高效提示注入红队测试。
📌 工作参考价值(4 点)
- 对 Agent 推荐系统做安全评估时,可借鉴策略库思路:收集历史攻击成功案例,沉淀为可复用的策略模板,对新上线的 Agent 模块快速进行鲁棒性测试。
- 高度稀疏查询(每个样本仅需约 10 次查询)的做法,适合在线上生产环境以极低采样成本持续探测 Agent 是否有注入漏洞,避免大量无效请求影响服务。
- 跨模型迁移能力表明:可以基于少数开源模型训练出一套通用攻击策略库,再迁移到闭源商业模型(如 GPT-4)上做红队测试,业务中不必强行获取目标模型内部信息。
- 攻击成功样本可直接用于构造对抗训练数据,强化防御,从而让电商搜索 / 推荐 Agent 更稳健地处理不可信的外部内容(如商品描述、用户评价、工具返回结果)。
状态匹配路由与上下文自蒸馏解决多轮 Agent 特权指导失配
🧭 Agent 多轮训练中状态感知的蒸馏策略 ★ 深度解读
University of Electronic Science and Technology of China
提出状态匹配路由决定何时使用特权轨迹蒸馏,并构造状态上下文化教师语境,显著提升多轮策略效果
📌 工作参考价值(4 点)
- 多轮 Agent 训练中谨慎使用特权轨迹:在对话推荐、搜索等交互式 Agent 中,若用成功日志作为特权指导,直接对全部轮次施加蒸馏会因状态不匹配而降低有效策略概率。可借鉴状态匹配路由思想,仅在与当前执行进度兼容的轮次上使用特权信号。
- 构建轻量结构化状态签名:不必学习状态匹配模型,用手工设计的确定性规则(如位置、库存、页面类型、已选选项)即可快速判断当前状态是否与参考轨迹的某个前置状态兼容,适合工业落地时的快速迭代。
- 教师上下文中加入状态摘要与候选动作:在蒸馏时,除完整成功路径外,添加当前状态的简要总结和匹配到的候选下一步行动,比单纯给完整路径更能引导教师产生正确偏好。这可以用于电商导购 Agent 的多轮决策优化。
- 路由与上下文解耦设计:控制实验表明,仅路由掉不匹配轮次(减少蒸馏噪声)就能带来主要收益,而加入状态上下文化上下文能进一步小幅提升。工程实现时可先做简单的路由遮挡,再逐步增强上下文。
Agentic工作流的全局优化与推理时区域嫁接
🧭 Agentic工作流推理时动态局部优化 ★ 深度解读
HBNU · UCSB · SKKU · UNIST
在推理时对离线全局工作流进行局部区域替代,利用无标签质量信号实现单输入自适应,无需重训练
📌 工作参考价值(4 点)
- 推理时动态流水线调优:在电商/推荐的多阶段流水线(召回→粗排→精排→重排)中,离线搜索一个全局最优的算子组合,然后在每次请求时,利用无人工标注的代理信号(如多路召回结果的一致性、CTR预估的置信度、多样性等)对部分阶段进行局部算子替换,实现 per-query 自适应,无需重新训练整个流水线。
- 记忆化缓存获胜配置:为相似请求特征(如用户意图标签、上下文类型)建立签名,缓存历史上对该签名有效的局部配置,大幅降低线上搜索开销。这类似于推荐系统中为相似用户或 query 缓存个性化策略。
- 耦合守卫确保全局稳定性:当替换某个阶段(如精排模型)时,通过检查替换后输出与上下游的衔接一致性(例如新精排序列与上游召回集合的重叠度)来决定是否接受更改,避免局部优化破坏整体效果,尤其适用于有依赖关系的多步推理或搜索链路。
- 低成本冷启动与新任务迁移:当更换更强的基座模型(如从轻量级升级到千亿级大模型)时,无需重新搜索全局工作流,只需复用已有的全局结构并在推理时局部嫁接,即可获得性能提升,适合模型迭代时的快速上线。
DataSpace:面向异构工作区可验证分析的数据智能体基准
🧭 数据智能体多模态分析基准
HKUST(GZ) · Tsinghua University
提出首个统一异构多模态证据发现、完整表格输出与确定性评估的数据智能体基准,最佳准确率仅 66.34%
📌 工作参考价值(4 点)
- 确定性评估器的列对齐、类型精度归一化方法可直接用于推荐系统生成表格结果的自动评估,避免人工对齐局限。
- 多模态 workspace 构建流程(跨语言转换、关系采样、模态路由)可借鉴到商品多模态信息检索的测试集构造。
- 不同 agent harness 带来的 15.36 点性能差异提示:在构建推荐对话智能体时,工具编排与框架选择对效果决定性,需谨慎对比。
- 多模态证据集成和连接操作一致降低准确率的发现提醒:在搜索推荐系统中融合多源异构数据时需设计针对性的对齐与融合机制。
GDPevo:在真实业务任务上评估智能体自我进化
🧭 Agent自进化评估基准与数据生成
PrismShadow · New York University
基于企业工作流的可归因自进化基准GDPevo,通过规则杂交评估智能体从经验中持续改进的能力,揭示当前水平远未成熟。
📌 工作参考价值(4 点)
- 规则杂交可作为推荐评估的模拟框架:将商品推荐规则拆解为原子规则,通过控制训练/测试规则子集的重叠度,系统评估推荐模型或Agent的冷启动、规则组合泛化能力,比随机划分更有解释力。
- 自动化数据管道设计可借鉴:通过规则模板自动化生成多样化的业务任务,能够快速构建和更新测试集,对抗数据污染,适合电商场景中持续评估模型迭代,避免指标膨胀。
- 自进化增益的量化方法:通过留出任务中训练前后准确率的差异来测量进化效果,这种归因设计可以迁移到评估LLM-based推荐或对话系统在记忆、工具使用等非参数状态更新后的实际收益。
- 低自进化水平警示:当前智能体即使经过进化,距离预言机上限仍有巨大差距,提示在电商/广告Agent中,简单的few-shot或记忆增强可能无法解决深层推理,需要更高层次的技能习得机制。
工作流持久层恢复语义的机器检验一致性契约
🧭 Agent 工作流中断恢复语义规范与验证
针对五个 Agent 工作流框架的 checkpoint/resume 行为,提出可机器检验的六项一致性契约并测量实际严重违规
📌 工作参考价值(4 点)
- 框架选型前自测恢复语义:参考论文的确定性无 LLM 测量套件,对 LangGraph、CrewAI 等候选框架注入真实 SIGKILL,观察持久化状态是否正确、effect 是否重放,避免线上事故。
- 为业务工作流定义契约:将 RESUME CONTRACT 的六个属性(前缀延续、effect 精确一次、fork 确定性、checkpoint 有效性、consume-once、恢复确定性)落地为内部工作流引擎的回归测试项。
- 关注并发恢复竞态:论文揭示 k 个并发 resume 会导致 effect 重复执行 k 次,饱和率 1.0。若业务中有多实例同时尝试恢复同一任务,必须引入分布式消费锁(如 REMIT 的读侧 gate),否则商品状态变更、消息推送可能重复触发。
- 检查点 Schema 校验:LangGraph 会静默持久化与 schema 不一致的状态,导致恢复后行为异常。在自研工作流引擎中,应当在 checkpoint 写入时强制校验状态 schema,避免线上污染。
HindSearch:轨迹级后见批评提升搜索增强RL
🧭 后见批评 · 搜索增强强化学习 ★ 深度解读
Santa Clara University · Rochester Institute of Technology · Independent Researcher
利用黄金答案生成失败轨迹的指令性批评,通过on-policy distillation使搜索RL获得密集信号,平均EM提升至39.4%
📌 工作参考价值(4 点)
- 训练搜索型Agent时可复用:电商搜索、推荐对话等场景可将最终正确答案(如成交商品)作为后见,让冻结裁判生成“本应搜索什么”的批评,转化为密集训练信号,缓解稀疏奖励下信用分配困难。
- 简单可插拔的密集奖励方案:直接在GRPO上叠加一个OPD损失,只作用于搜索动作token,无需训练过程奖励模型,额外计算开销仅在训练时、只在失败轨迹上(约15% wall-clock),推理时零成本。
- 批评生成技巧:用强大但冻结的裁判LLM,输入完整轨迹+正确答案,输出1-2句具体指令(“应该查询导演名而非演员表”),广播到所有搜索步作为hint前缀;使用同尺寸学生模型作为教师,避免教师过大导致KL崩塌。
- 可迁移结论:后见批评带来的提升同等覆盖训练域内和零样本任务(+5.85pp vs +5.80pp),表明学到的搜索策略是通用的,适用于新场景快速泛化。
IACM-RL:动态意图波动下基于意图感知上下文管理与强化学习的复杂工具调用
🧭 Agent 上下文管理与强化学习优化 ★ 深度解读
复旦大学 · 荣耀终端有限公司 · 北京大学
提出自生成上下文管理器与分层意图奖励,解决动态意图噪声下工具调用中的状态漂移和无限循环问题
📌 工作参考价值(4 点)
- 状态管理与动作生成解耦:在电商 Agent(如售后、导购)多轮对话中,可将用户需求(商品参数、配送偏好)抽离为显式信念状态块,标记过时字段,避免模型重复使用已修改信息,可直接借鉴 CM 的九块结构设计领域专用状态模板。
- 分层奖励设计:推荐系统 Agent 的 RL 训练可使用类似分层奖励——参数级(如属性正确)、行为级(避免重复推荐)、结果级(推荐链完成度),提供密集、可诊断的信用分配,替换稀疏奖励。
- 辅助损失内部化状态能力:通过 CM 提取损失 L_ext 直接优化状态块生成质量,再用蒸馏损失 L_dist 将状态跟踪蒸馏进模型权重,实现无额外推理开销的隐式状态管理,适合对延迟敏感的线上系统。
- 对抗训练构建干扰数据:用类似 DynamicIntent 的数据增强方法,模拟用户中途插入闲聊、假任务等噪声,训练鲁棒的多轮推荐策略,可提升真实场景下的任务完成率。
跨域混合OPD框架:训练通用搜索Agent而不牺牲通用智能
🧭 搜索Agent强化学习与多域蒸馏混合优化 ★ 深度解读
Tencent Yuanbao Team · Shanghai Innovation Institute
结合搜索RL与多领域专家在线策略蒸馏(OPD),同步优化搜索能力与通用推理,有效缓解对齐税
📌 工作参考价值(4 点)
- 混合训练避免能力退化:在业务中对搜索/推荐Agent做专项RL(如对话式推荐、多步检索)时,可借鉴混合批次设计——在RL损失中混入通用任务,用教师模型的token级KL惩罚保持通用能力,避免模型变成只会搜索的“偏科生”。
- 多域专家蒸馏优于单一教师:电商场景中可训练多个领域教师(如商品知识、促销文案、售后规则),通过在线策略蒸馏将领域知识注入搜索Agent,比单一通用教师更有效,且不会覆盖学到的搜索策略。
- 难度课程学习提升教师质量:为教师模型构造难度分层(基于Pass@k统计),先从中等难度样本学习密集信号,再扩展到全谱困难样本,能显著提升教师对困难问题的教学能力,这一策略可直接用于业务中领域专家模型的训练。
- 工具交互协议与奖励设计:采用XML格式工具调用协议和统一的验证器(规则、RM、代码执行),可迁移到需要调用商品搜索、优惠查询等API的电商Agent中,并利用GRPO优化工具使用策略。
LiveMem:在长运行LLM推理中维护记忆状态连续性
🧭 长运行LLM的内在记忆状态连续性 ★ 深度解读
NatureSelect.AI · Southern University of Science and Technology · Xidian University
通过并行循环记忆分支和上下文更替训练,使LLM在证据离开工作上下文后仍能依靠记忆状态保持推理连续性。
📌 工作参考价值(5 点)
- 记忆侧分支可迁移至长会话推荐Agent:在对话推荐或客服Agent中,可在每层注意力旁添加类似GDN2的循环模块,将用户长期行为序列压缩至固定记忆状态,当上下文窗口溢出时仍维持偏好感知。
- 训练范式:强制证据移出上下文:模仿LiveMem的post-training,通过分块管理使旧历史离开注意力,迫使模型依赖记忆状态回答,从而训练出真正的“记忆利用”能力,适合电商长生命周期用户建模。
- 课程学习策略激活记忆分支:先用全量行为日志(或长文档)预热记忆模块,再用均衡任务数据微调,可有效激活侧分支,避免模型短路依赖注意力上下文。
- 评估记忆真实有效性的方法:借鉴LongMemEval设计,构造证据与当前窗口距离递增的测试集,精确衡量模型是否真正记住了被淘汰的信息,适合评估推荐Agent记忆续航能力。
- 工程收益:上下文分块与KV淘汰:采用基于chunk的FIFO队列管理KV缓存,在推理时释放旧chunk,降低显存,支撑极长交互session的推理服务。
面向自主智能体的长周期任务驾驭框架 OneDayAgent
🧭 长周期 Agent 执行框架
Zhejiang University · Ant Group · Independent Researcher
统一分解、记忆与验证的长周期 Agent 框架,跨多后端 LLM 泛化并达 SOTA 0.821
📌 工作参考价值(4 点)
- 长周期任务自动化:借鉴子任务分解策略,将电商中复杂的营销活动策划、竞品报告生成等拆解为收集、整理、编辑、交付等有界步骤,避免单一推理超出上下文窗口。
- 跨工具与多模态记忆:参考其执行记忆的上下文压缩方案,在推荐场景中维护用户历史状态时,可对不同工具调用产生的长轨迹进行摘要式压缩,防止 KV cache 溢出。
- 最终交付验证:引入验证-修复环,可用于 Agent 生成推荐理由、自动推送文案后的质量把关,降低幻觉与不一致。
- 模型无关的框架设计:该 harness 跨 5 个 LLM 无需调整,表明对业务后端快速替换或升级友好,可减少对不同模型精调的工作量。
PAST-Bench:个人代理递归自我改进的基准与诊断
🧭 个人代理递归自我改进评估与诊断
构建受控实验揭示代理改进并非必然源于正确的经验路径,并设计 Hermes+ 强化 save-retrieve-update 机制
📌 工作参考价值(4 点)
- 评估个性化推荐 Agent 的长期效果时,可借鉴 PAST-Bench 的控制变量设计:对比开启与关闭记忆时的任务增益,并诊断增益是否来自预期的 save-retrieve-update 路径,避免被模型原生能力或统计偏倚误导。
- 推荐系统的用户状态管理可借鉴 Hermes+ 的五项干预:如遗忘机制处理过期偏好、时序感知检索捕捉兴趣漂移、优先级队列管理记忆容量,防止陈旧信息干扰。
- 在构建持续学习的 Agent 时,应重点应对“条件变化”场景(如用户偏好转换),主动替换而非累积过时状态;PAST-Bench 的更新维度测试可移植用于验证此类机制。
- 如需分析 Agent 框架对经验复用的贡献,可分离基座模型与框架的影响,PAST-Bench 提供跨模型和框架的衡量方式,帮助定位架构瓶颈。
PredAct-Bench:在可控工具噪声下评测对话智能体
🧭 工具增强对话 · 人机信任校准 ★ 深度解读
University of Illinois Urbana-Champaign
提出首个在预测工具噪声下评估对话智能体的基准,发现LLM过度依赖工具而人类能更校准地采纳建议
📌 工作参考价值(4 点)
- 信任校准指标可迁移:RAIR/RSR 指标不依赖特定领域,可直接用于评估推荐解释或对话推荐场景中用户对AI建议的适当依赖程度,帮助诊断过度信任或忽视问题。
- 工具噪声注入方法论:在对话推荐系统中,可以像 PredAct-Bench 一样只对某些工具(如预测评分)注入可控噪声,而保持事实查询类工具准确,以此评估系统在噪声下的鲁棒性和用户行为变化。
- 多轮验证对话设计:所采用的“初始决策-工具对话-最终决策”流程可借鉴到电商Agent中,让用户先看推荐理由再通过追问验证(查历史、反事实),减少盲目采纳有噪声的推荐。
- 人类行为基线参考:论文显示人类会花更多时间、问更少但更有针对性的问题,这提示在设计推荐对话Agent时,不应追求短平快的交互,而应鼓励用户提出证据整合类问题以校准信任。
Qwen-CUA:纯视觉原生计算机操控,大规模迭代训练攻坚长程任务
🧭 原生计算机使用Agent · 大规模RL+迭代训练 ★ 深度解读
Qwen Team · Xlang Lab
仅凭截图与键鼠的原生计算机使用Agent Qwen-CUA,在八大基准上全面超越Qwen3.7并媲美GPT-5.5与Claude Opus 4.8
📌 工作参考价值(4 点)
- 可验证交互式训练范式可迁移至电商/推荐Agent:构建4万可验证任务 + 云端近10万vCPU并发环境完成大规模RL训练,该思路可直接用于训练电商商品操作用户界面Agent、客服流程自动化Agent。
- 长上下文视觉管理trick值得直接复用:保持20张活跃截图 + 每10步折叠旧截图,既保留近期视觉证据又维持前缀稳定以改进KV缓存重用,可迁移到需要长步骤的购物引导、商品浏览、多页面操作场景。
- 迭代式数据刷新与RL任务校准:每轮用当前模型分析失败案例,针对弱领域补充SFT数据、重校准RL任务(仅保留有提升空间的样本),可应用于推荐策略Agent的渐进式优化,避免过度重复无效训练。
- 混合动作空间(GUI操作+Bash命令):实验证明混合操作能大幅缩短交互轮次,对电商自动化(如批量商品上下架、价格调整)可直接借鉴,但需注意当前模型的路由策略尚未完美,可配合显式路由监督提升实用性。
RoMeRL:降阶效用状态平衡 Agent 记忆反馈与记忆-奖励陷阱
🧭 Agent 记忆自进化 · 降阶效用状态 ★ 深度解读
Nanjing University · Xiamen University · Zhejiang University
用四个固定语义坐标替代轨迹级效用,将反馈密度提升6倍,记忆量减少84%并阻断噪声奖励
📌 工作参考价值(4 点)
- 采用固定维度语义坐标管理 Agent 记忆,可按“正负极性×动态/巩固”划分槽位,避免记忆池持续膨胀导致的效用稀释,适合电商客服、对话推荐等需要持续学习的 Agent 场景。
- 检索时用 Q 值加权相似度((1-ω_Q)*similarity + ω_Q*Q)既能利用任务反馈又可保留语义匹配,可在商品推荐或搜索的召回/排序中借鉴,让效用信号与相关性共同决策。
- 设计“负向巩固坐标(NCC)”保留高 Q 值的失败案例,为后续决策提供纠错信号,类比推荐系统中保留高价值但未转化的交互,用于策略优化。
- 降阶状态天然隔离错误奖励传播(MRT),类似控制曝光噪音,可在广告竞价或推荐策略评估中用有限坐标表示效用,避免无关 item 被误强化。
SKILL-KD:通过对比式技能蒸馏增强冻结的LLM Agent
🧭 Agent 技能蒸馏与知识迁移 ★ 深度解读
State Key Lab of CAD&CG, Zhejiang University · School of Software Technology, Zhejiang University · School of Software and Microelectronics, Peking University · Alibaba Group
将教师-学生行为差异蒸馏为可验证文本技能补丁,结合漂移感知整合维护紧凑技能库
📌 工作参考价值(4 点)
- 电商多Agent系统的技能迁移:可以用强模型(如GPT-5.5)为弱模型(本地部署小模型)自动生成技能补丁,直接注入prompt,无需微调权重,适合快速适配不同业务场景的规则变化。
- 技能库的长期维护与防漂移:维护编辑历史并追溯每次修改的原始轨迹证据,避免因局部修复导致规则冗余、冲突或退化,对管理推荐策略中的业务规则(如促销匹配、文案生成规则)有直接参考价值。
- 自适应验证确保技能可靠:每个生成的技能补丁需在学生的实际执行中验证有效性,失败则迭代修订,直到行为改变。这种闭环验证思路可借鉴到生成式推荐中,用于自动评估和修正推荐话术或策略模板。
- 同异架构模型间蒸馏不依赖内部表征:蒸馏介质为自然语言技能文本,跨模型系列(如Qwen到ChatGPT)依然有效,适合在联盟/广告主侧不同模型间传递专家知识。
SkillJack:自进化智能体技能管道中的持久后门攻击
🧭 自进化 Agent 技能学习的安全风险 ★ 深度解读
Tencent Zhuque Lab
首次揭示自进化智能体的经验到技能转换如何将中毒经验固化为持久、可路由的后门技能
📌 工作参考价值(4 点)
- 自进化推荐Agent若用交互历史生成检索或推荐技能,须警惕中毒经验被固化;应建立技能溯源,标记数据血缘,源清除时级联撤销衍生技能,避免持久后门。
- 技能提取会“洗白”恶意意图(如“备份服务”掩盖数据外传),安全检测不能仅审查原始轨迹,需对每个衍生技能重新评估,尤其关注元数据(名称、描述)是否误导检测器。
- 工程实现中,技能库与经验存储通常解耦,仅清空原始记录不足以根除攻击,需配套技能生命周期管理,实现源删则后代技能同步失效。
- 对使用LLM路由的技能推荐系统,可借鉴其载荷构造思路,设计元数据感知的鲁棒性审查,避免仅靠表面文本判毒;并注意多防线组合可能因技能路由变化而失效,需联合优化。
TurnSight:轮次级后见自蒸馏实现工具推理细粒度信用分配
🧭 Agent 后见自蒸馏 · 轮次信用分配 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · Baidu Inc.
利用多前瞻视野的执行条件后见信号调制 RL 优势,实现多轮工具推理的精准轮次信用分配
📌 工作参考价值(4 点)
- 在多轮 Agent 决策(如搜索推荐系统中的多步查询、工具调用)中,可直接将环境执行结果作为自然的后见监督,无需依赖外部参考轨迹或人工标注,实现状态对齐的细粒度信用分配。
- 通过多前瞻视野(例如 d=1,2,3)构建互补的后见教师,利用方向一致性投票选择最可靠的监督信号,既能捕捉即时执行质量,又能反映延迟影响,避免单一视野的偏差或噪声。
- 组内规范化(prompt-group normalization)将有界后见权重与 RL 基础优势对齐,仅调制幅度而不改变优化方向,可与 GRPO 等策略梯度算法无缝集成,无额外模仿损失。
- 工程实现上,所有教师和参考分支可冻结,仅需在训练时计算一次后见信号,部署时仅用到学生策略,开销低且易于扩展。
先取后探:解耦搜索代理的选择与提取,基于持久工作区
🧭 Agent 文档访问接口设计 ★ 深度解读
Renmin University of China · Xiaohongshu Inc. · National University of Singapore
将文档选择与证据提取解耦到文件系统工作区,搜索代理可反复回查已选页面,准确率大幅领先传统浏览接口
📌 工作参考价值(4 点)
- 工具集分离思想可迁移至推荐 Agent 的知识检索:在商品知识库问答或素材库检索中,可将“检索候选”与“提取证据”分成两个独立工具(如 fetch 与 grep/read),避免一次性将整个商品描述塞入上下文,减少 token 消耗且允许事后反复查阅。
- 文件系统工作区(Cache)模式可用于电商任务的多轮 Agent:对于需要多次查阅商品详情、用户评价、活动规则的场景,可让 Agent 在对话开始时 pull 一批候选页面到本地缓存,后续用 grep 按需检索具体字段,避免反复调用远程接口并保持状态稳定,适用于库存查询、竞品分析等长链任务。
- 持久化与跨文档联合查询的设计可提升召回证据完整性:在推荐或搜索聚合场景,可将多个候选商品的标题/属性/评价预先 fetch 到缓存,后续用正则表达式跨文件查询,避免漏掉关键信息(如同时搜索多个商品中是否包含某个成分),适合合规审核、特征比对。
- 轻量缓存选择(仅返回 header)能显著降低上下文占用且不损失信息:在实际推荐解释或商品比较 Agent 中,可借鉴只返回文件路径和长度的思想,让 LLM 先“记住”有哪些可用素材而不将其全部内容压入 prompt,需要时再用 read 工具按行读取,平衡上下文窗口压力与信息完整度。
诊断长程搜索代理的搜索行为与失败模式
🧭 搜索代理行为诊断与失败分析 ★ 深度解读
Renmin University of China · National University of Singapore
通过轨迹级诊断揭示搜索努力与答案质量弱相关,证据检索召回率才是核心,失败可拆分为检索缺口与利用缺口
📌 工作参考价值(4 点)
- 用累积证据召回率替代搜索步数作为健康指标:在构建电商问答Agent或深度搜索产品时,监控“已检索到的黄金证据占比”远比统计搜索次数更能预测回答准确性。可嵌入评估链路,实时判断搜索质量。
- 实施基于证据增量的动态停止策略:研究发现77–94%的搜索步骤未带来新证据,有用证据集中在早期。可在Agent中增加模块,当连续K步未检索到新证据或已达累积证据阈值时自动终止搜索,减少尾部浪费和上下文溢出。
- 区分检索侧与利用侧失败,定向修复:错误答案可分为“从未找到证据”(检索缺口)和“找到证据但回答错”(利用缺口)。在迭代优化时,前者应改进查询改写与探索策略,后者应加强证据验证与答案归因。不同Agent的缺口比例差异大,需按诊断施治。
- 上下文管理优先处理搜索摘要流:搜索片段占用了大部分上下文(66–85%),远高于访问内容。可引入摘要去重、按轮次老化旧摘要、限制保留摘要数量等机制,防止旧信息淹没后续推理。
字段感知的Agent技能检索
🧭 Agent技能检索 · 多字段表示
University of California, Riverside · Nokia
保留技能的多字段结构分别计算相似度并学习得分融合,显著提升技能检索召回
📌 工作参考价值(4 点)
- 电商搜索的多字段商品匹配:商品有标题、描述、属性等多个结构化字段,拼接为单一文档会丢失信息。可借鉴本方法,为每个字段独立计算稀疏(倒排)和稠密(向量)相似度,再用小型 MLP 学习字段权重,替代人工调权或平权,尤其在多字段重要度差异大的场景(如品牌词 vs 长描述)中收益明显。
- Agent 技能库工程实现:在构建终身学习 Agent 的技能检索模块时,直接保持技能的 field-aware 结构,用独立的相似度打分 + 小 MLP 融合,比拼接后再编码更简单、可扩展,且效果随技能库增长提升,适合大规模技能管理。
- 可解释的检索融合策略:将不同字段的得分显式拆分,便于快速定位哪些字段对匹配贡献最大,可应用到推荐系统中多模态特征(文本、属性、图像)的相似度融合,用轻量 MLP 替代黑盒交叉注意力。
- 复用结论:简单的“分字段计算 + 小 MLP 学习组合”就能超越复杂的拼接式深度模型,表明保留原始数据结构对检索至关重要,这一思想可直接移植到其他多字段文档检索(如 FAQ、知识库)中。
自进化编码代理综述
🧭 Agent 自进化机制与框架
Nanjing University of Science and Technology · Nanjing University
系统综述自进化编码代理,定义概念并提出对象为中心的演变分类法,分析软件工程的天然演进特征与挑战。
📌 工作参考价值(4 点)
- 记忆驱动的推荐策略优化:借鉴编码代理利用历史轨迹复用经验的方法,推荐Agent可记录用户反馈(点击/转化/停留)和推荐上下文,构建可检索的记忆库,在下一次相似场景中直接复用成功策略,减少重复探索成本。
- 工具使用的在线自适应:推荐Agent集成多种工具(如搜索API、用户画像查询),可监控工具调用成功率与业务效果,自动调整工具选择策略或微调调用参数,实现工具链的自进化。
- 反馈驱动的提示词在线更新:将A/B测试或在线指标作为反馈信号,自动优化Agent链路中的提示词(如召回、排序、文案生成),形成闭环自进化,避免人工调参滞后。
- 多Agent协作的动态分工:在多智体系统中(如广告竞价、多目标推荐),根据全局收益定期调整各Agent的权重或协作模式,类似编码代理更新协作结构,实现整体效率演进。
Agent强化学习中的持久一致性自我蒸馏
🧭 Agent强化学习·自蒸馏一致性
Beijing Institute of Technology · Meituan · Institute of Automation, Chinese Academy of Sciences · Tsinghua University
通过教师信号局部持久性计算token级权重,联合GRPO缓解Agent稀疏奖励问题
📌 工作参考价值(4 点)
- 在电商/对话搜索Agent的RL微调中,可采用稠密token级蒸馏信号缓解稀疏奖励,利用PCSD的持久一致性权重降低教师噪声。
- 生成式推荐中蒸馏大模型输出时,可借鉴持久一致性思想评估各token的可靠性,用于知识蒸馏中的动态权重分配。
- 自适应窗口与指数衰减聚合捕捉局部支持趋势的做法,可迁移至用户行为序列建模或Agent轨迹中的注意力权重设计。
- 联合GRPO与蒸馏目标的多任务训练范式,为推荐Agent提供了一种平衡探索与利用、兼顾环境反馈与教师引导的优化思路。
不做能力之外的事:LLM技能选择的确定性执行门控
🧭 Agent 技能路由 · 确定性执行门控 ★ 深度解读
Wix
在LLM技能路由中,用技能内部退出条件做确定性过滤,避免推荐不可执行的技能,节省59%的上下文token并减少7.8%的错误选择
📌 工作参考价值(4 点)
- 在LLM工具选择/技能路由pipeline中,将语义相关性与执行可行性解耦:先用recall-oriented的语义检索召回复候选,再通过确定性代码检查业务状态(如用户权限、账户配置)过滤不可执行的技能,可大幅减少prompt中技能描述token(本案例减少59.1%)并降低模型选择不可用操作的风险。
- 门控谓词应直接复用技能内部的退出条件(exit conditions),通过工程手段保持与技能逻辑的parity,而非训练一个分类器;这样在谓词等价且状态一致的前提下,过滤掉的技能必定无法成功执行,可避免“虚假过滤”。
- 需建立谓词生命周期维护机制:当技能逻辑变更时,同步更新门控谓词,并用回归测试确保parity;监控门控决策与实际执行结果的一致性,防止谓词漂移或状态陈旧导致过block或漏block。
- 对电商/推荐Agent(如导购助手、客服),可将此思路应用于过滤不可操作的商品/服务(如缺货、无权限、不满足优惠条件),避免LLM生成无法兑现的推荐,提升信任度和任务完成率。
DeepVoyager-VL:长程多模态循环视觉搜索框架
🧭 多模态Agent · 视觉增强搜索
PKU · HKUST(GZ) · NUDT · OUC · HITSZ
通过多模态事件图合成中间视觉依赖的推理数据,训练Agent主动获取视觉证据驱动多轮搜索。
📌 工作参考价值(4 点)
- 借鉴事件图驱动的数据合成范式,为电商搜索构建包含多轮视觉对比(如商品图、评价截图)的长链推理训练数据,训练具备中间视觉依赖推理能力的搜索Agent。
- 主动视觉获取与按需图像加载设计,可降低多模态搜索Agent在实际应用中的计算开销,适合淘宝等大型商品图像索引场景。
- 纯SFT微调(无需RL)即可显著提升多模态搜索能力,实现简单且稳定,适合业务快速迭代。
- 视觉在循环中的交互模式可迁移至电商导购:通过用户上传的图片逐步澄清需求,动态驱动下一轮检索或提问。
基于强化学习的渐进式 Agent 技能生成
🧭 Agent 技能生成 · 强化学习 ★ 深度解读
The Chinese University of Hong Kong · LIGHTSPEED · Independent Researcher
用 RL 将技能生成为局部编辑序列,以 rollback reward 提供信用分配,显著超越基于流水线或启发式的方法
📌 工作参考价值(4 点)
- 技能编辑的局部评估:rollback reward 对每个编辑步骤进行锚定查询下的前后对比,避免依赖文本流畅度评估,可直接迁移到推荐 Agent 的策略迭代中,用下游 A/B 效果替代人工规则。
- 渐进式技能构建:将长文档或大量经验分解为逐步编辑,适应电商 Agent 的增量学习场景,如促销规则更新、用户反馈积累。
- 统一多源证据:同一框架同时处理文档和执行轨迹,可用于混合知识源(如商品描述、用户日志)生成统一的推荐策略。
- 动作空间设计:CREATE/UPDATE/MERGE/PRUNE/NOOP 的编辑动作集可直接作为 Agent 技能库维护的元操作,用于自动优化搜索竞价策略模板或客服话术集。
LongHorizon-Harness:将长期执行重构为任务状态管理问题,大幅提升长程代理性能
🧭 长期任务代理 · 任务状态管理 ★ 深度解读
DreamX Team, Alibaba Group
通过管理-执行-审计(MEA)循环显式维护任务状态并独立审计,在 WeaveBench 上将完成率从 51.8% 提升至 80.7%
📌 工作参考价值(4 点)
- 在电商搜索/推荐的多步代理任务(如复杂购物助手、多轮商品对比)中,可引入 MEA 架构:经理根据用户意图分解子任务,执行器在干净上下文中完成(如检索、对比),审计员独立验证执行结果,防止错误累积导致后续决策偏离。
- 显式任务状态与执行上下文分离的技巧,能有效避免长对话/操作历史带来的上下文遗忘问题,适合需要维护用户画像、购物车等中间状态的对话式推荐代理。
- 独立审计机制可应用于广告投放优化、商品批量上架等需多步验证的业务流程,确保每一步操作结果符合预期后才更新全局状态,提升流程可靠性。
- AgentAdapter 的设计表明可以通过轻量适配层统一接入不同的 LLM 或工具后端,便于在生产中灵活切换模型和底层执行引擎。
Search-GRT:用 ground truth 引导检索训练,提升搜索 Agent 多跳问答能力
🧭 搜索 Agent 强化学习训练优化 ★ 深度解读
Samsung Electronics AI Center-Mountain View
在 RL 训练中利用 ground truth 约束检索候选集,提供更强学习信号,多跳 QA 性能提升超 40%
📌 工作参考价值(4 点)
- 利用业务 ground truth 缩小检索空间以提升 RL 训练效率:在电商搜索或推荐多跳推理场景,若拥有用户点击/购买日志等强相关 item 集合,可构造受限检索池,集中训练信号,缓解早期稀疏奖励问题。
- 将“检索约束”作为课程学习策略:在复杂 query 改写或对话式推荐训练初期,用已知正确文档或商品限制候选范围,待 agent 学会提取有效子 query 后逐步放开,类似 GRT 仅在训练时约束,推理时仍用全量索引。
- 借鉴 GRT 的奖励设计:基于答案绝对匹配的 0/1 奖励简单高效,结合检索准确率与最终答案准确率的监控,能快速诊断 agent 的检索与合成短板。
- 工程实现上可复用文本嵌入相似度构建受限语料:用业务中已有的 query/商品/文档 embeddings,基于 ground truth 答案或关键信息,动态选取 top-k 相似文档作为训练时的检索池,无需额外标注。
世界建模向何处去:面向持续进化智能体的交互式世界代理
🧭 Agent 世界代理与持续进化框架 ★ 深度解读
Shanghai AI Laboratory · Zhejiang University · National University of Singapore
将世界模型重构为以智能体为中心的世界代理,通过六种功能形式和三个赋能级别驱动智能体持续改善
📌 工作参考价值(4 点)
- 在推荐/搜索智能体中,可构建记忆代理(检索用户历史行为序列)、执行代理(模拟点击后页面状态)、奖励/验证代理(评估推荐内容的安全性或满意度),在推理时增强上下文(L1),或在训练时提供奖励/批判信号(L2)。
- 将世界代理定义为信息转移而非物理状态预测,设计可查询的反馈接口:例如,智能体在生成推荐理由前,可向验证代理查询“该理由是否合规/存在风险”,代理返回验证结果,避免直接线上试错。
- 借鉴 L3 代理-智能体共同进化:线上真实用户反馈(点击、停留、转化)持续更新世界代理(如刷新记忆库、调整风险模型),并将更新后的知识蒸馏回推荐策略,实现持续在线学习。
- 工程上采用模块化代理设计:每种代理(动力学、空间、执行、记忆、技能、奖励)独立维护,通过统一的信息转移接口为智能体提供反馈,便于迭代和扩展。
SKT:通过验证合成数据训练语言模型使用Agent技能
🧭 Agent技能合成数据训练 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
提出SKT数据合成流水线,通过多阶段验证生成可执行任务与忠实轨迹,SFT后模型技能利用率显著提升。
📌 工作参考价值(4 点)
- 技能化业务逻辑:将电商搜索/推荐中的查询改写、过滤规则、策略编排等模块封装为“Skill”,用SKT流水线自动生成大量可验证任务与执行轨迹,训练模型掌握这些原子操作及组合使用。
- 验证驱动的数据质量:借鉴其规则验证器+代理验证器+难度控制的多层验证框架,尤其技能依赖性检查(有技能 vs. 无技能评分差),确保合成数据的正确性和技能依赖性,避免低质量数据损害模型原有能力。
- 跨工具框架复用:混合来自不同Agent harness(如DeepAgents、OpenCode)的轨迹训练单一模型,可实现一个模型在多种交互协议(如REST/WebSocket、自建Agent框架)上复用,降低多端维护成本。
- 技能覆盖与扩展性:SFT收益随训练技能池规模单调上升,可规划技能库的增量扩展路线,通过持续合成更多技能数据逐步提升模型的复合技能使用能力。
搜索、检查、提取:利用结构化布尔检索提升深度研究智能体
🧭 搜索智能体 · 结构化布尔检索与选择性获取
The University of Queensland · CSIRO
SIEVE 通过布尔查询语言实现网页结构感知的按需抓取,较传统全文检索减少 20-50% 上下文 Token 并提升准确率
📌 工作参考价值(4 点)
- 在电商搜索 Agent 或多轮导购场景,可借鉴结构化字段过滤:仅提取商品标题、关键属性或指定评论片段,避免整页全量输入 LLM,大幅节省 Token。
- 实现类 BQL 的轻量查询接口,让 Agent 通过约束式语法精准筛选候选(如“标题含‘夏季’且价格低于 100”),提升检索意图对齐度。
- 先检索列表展示结构化摘要(inspect),再按需提取详情(fetch)的模式,适合需要从大量商品中逐步筛选的对话式推荐 Agent,有效控制上下文长度与成本。
- 该方法与底层检索器(BM25/向量检索)及 LLM backbone 解耦,可快速集成到现有搜索推荐系统的 Agent 管道中,工程实现成本低。
压缩下的控制:工具型代理的可靠性前沿
🧭 Agent控制上下文压缩下的可靠性前沿 ★ 深度解读
Imperial College London
代理控制上下文压缩存在非线性可靠性前沿,环境执行验证揭示从近全保留到脆弱的三个区域
📌 工作参考价值(4 点)
- 代理系统指令压缩优先采用按节选方式(如工具、策略、规划各节),保留原始顺序与完整语义单元,比通用 LLM 改写或标记级压缩更可靠。
- 引入义务感知压缩(OAC):自动提取前置条件、参数约束、策略等关键义务,根据依赖闭包选择保留内容,提供可行性与保留率信号,帮助在压缩前判断是否进入高危区间。
- 压缩评估不能只看语义相似度或标记减少量,必须在确定性执行环境中验证工具执行成功率和动作解析正确率,重点监控工具执行错误和解析失败模式。
- 没有全局最优压缩比,需按具体上下文做压缩可靠性认证,建议从 75% 中等预算开始,逐步压测找到业务可接受的操作边界。
超越检索:多模态智能体的分析记忆框架
🧭 多模态Agent记忆 · 结构化分析访问
HKUST · ByteDance
提出分析记忆,将多模态交互历史结构化为可查询表以支持过滤、聚合等分析运算
📌 工作参考价值(4 点)
- 对话式推荐/电商助手中,用户长期交互(对话、图片、购买记录)可自动提取为结构化属性对(偏好、行为),构建动态分析视图,答导购询问(如“上个月买的最贵的商品”)
- 记忆感知规划器的“分解-路由”模式可直接用于推荐Agent:将复杂用户查询拆解为检索部分(召回相关物品/历史)与分析部分(聚合、排名、时间对比),再交给对应工具,提升多步推理准确性
- 物化分析表的设计思想可落地为实时特征工程:从流式多模态日志中自动发现重复字段并固化,为推荐模型提供交互聚合特征
- 工程上,可借鉴属性值提取的出处链接机制,让分析结果可解释、可溯源,增强用户信任与调试效率
超越组件测试:验证智能体 AI 系统
🧭 Agent 验证与评测方法
University of Messina · ICAR-CNR · CINI
提出五维验证分类法(行为/安全/时序/监管/多智能体),揭示轨迹级验证是关键空白
📌 工作参考价值(4 点)
- 测试思路迁移:电商 Agent(如自动选品、动态定价)必须评估决策轨迹而非单轮输出,可借鉴论文的“轨迹级验证”思维,构建包含工具调用、记忆交互的场景性测试集。
- 安全与合规提示:推荐/广告系统引入多智能体协商后,需关注时序有效性与监管合规,此评价框架可直接用于梳理自身系统中“行为/安全/时序/合规”覆盖缺口。
- 对抗性测试生成:论文提出“adversarial trajectory generation”,可用于生成对抗性用户行为路径(如极端比价、退货欺诈),测试推荐 Agent 的鲁棒性。
- 运行时监控架构:在线上推荐引擎中嵌入轻量级监控模块,持续校验智能体的动作序列是否偏离预期,降低长尾风险,论文给出的运行监视模式有直接工程参考价值。
从代码审查到代码评论:面向大规模 AI 生成差异的意图、漂移与聚光灯
🧭 AI 编码 Agent 审查 · 意图理解与漂移检测
Meta, USA · Concordia University, Montreal, Canada
提出意图预测、漂移检测和代码聚光灯三大机制,革新 AI 编码代理的代码审查流程
📌 工作参考价值(4 点)
- 意图预测用于生成式推荐:利用用户会话日志、历史行为等元数据推断搜索意图,动态调整推荐策略,提升生成内容的针对性。
- 漂移检测作为线上监控:通过回译(backtranslation)测量最终推荐结果与原始意图的语义偏移,设定阈值告警,防止模型“自由发挥”导致体验恶化。
- 聚光灯机制优化资源分配:对大量生成候选项进行重要性排序,仅对人眼或高成本模型暴露高优先级条目,大幅降低 token 消耗与人工审核成本。
- 主题分类体系迁移:参考论文的六主题分类(正确性、安全性等),构建推荐系统的质量评估框架,细粒度监控生成内容的多维度风险。
OpenART:基于开放式环境演化的 Agent 红队规模化评测
🧭 Agent 安全红队 · 环境演化
Fudan University · Shanghai Artificial Intelligence Laboratory · XSafeAI
提出开放式环境演化基准 OpenART 与黑盒攻击策略 EMHA,在 75 种 Agent-模型配置上取得 85.0% 攻击成功率
📌 工作参考价值(4 点)
- 在电商/广告等长会话 Agent 场景中,可借鉴「环境状态演化」思路:不直接攻击模型输入,而是通过授权状态转移逐步污染共享上下文,测试推荐/搜索 Agent 在累积状态下的鲁棒性。
- 多工具调用(如商品检索、订单查询、广告投放)中,可建立状态转移超图,识别高风险路径,提前限制敏感状态变更,防止攻击链通过多个合法工具组合放大风险。
- 评估 Agent 安全时,除了模型能力,需重点关注 runtime 框架选择:文中发现目标 Agent 身份可解释额外 7.6% ASR 变异,提示生产中应测试不同 Agent 运行时的安全性差异,避免仅依赖模型层防御。
- 对于长链路任务(如电商导购 Agent 执行 97 次工具调用),可引入动态环境监控,检测偏离任务目标的异常状态演化,作为红队预警机制。
Zero-Mem:面向LLM智能体的零Token记忆操作
🧭 Agent 零Token记忆操作 ★ 深度解读
The Hong Kong Polytechnic University · Southwestern University of Finance and Economics · Jilin University
提出零Token记忆框架,用实体图和时序层次替代生成式抽象,全部记忆操作不占用LLM调用或Token。
📌 工作参考价值(4 点)
- 零LLM记忆管道:记忆构建、检索、路由、校准等全部环节都用确定性算法和编码器完成,避免生成式抽象,可直接用于电商Agent的“用户长期偏好/行为记忆”,将记忆部分与最终生成解耦,极大降低Token开销和延迟。
- 双视图结构化检索:实体-上下文图捕获跨会话关联,时间层次保留对话局部性和状态,通过查询路由动态加权融合。推荐系统Agent可以仿造这种“关系+时序”双重索引,处理用户多轮意图变迁与跨会话关联。
- 证据校准与封闭:检索后自动补充关系桥接和局部上下文,再用边界与类型滤波提炼证据,最后对答案进行确定性校验。这套方法可复用到电商QA或对话推荐的后处理阶段,提高生成事实性与一致性,无需额外LLM调用。
- 保留原始痕迹:Zero-Mem不生成中间摘要或笔记,所有证据都可追溯到原始交互,适合需要审计、合规且长周期交互的电商客服或导购场景,在低成本下提供可解释的原文支持。
知其然,亦行其道:LLM 个性化中的记忆利用研究
🧭 Agent 记忆利用评估
The Hong Kong Polytechnic University
解耦“知道”与“行动”的评估范式揭示:LLM agent 能记住用户偏好却常不据此行动,健康领域尤甚。
📌 工作参考价值(4 点)
- 构建个性化推荐或客服 agent 时,应设置成对的 Know/Act 测试用例,分别验证偏好召回与行为应用,避免“记住但不用”的盲区。
- 对高风险偏好(如过敏、健康约束)应提升测试密度与强度,并考虑在 prompt 或记忆检索后追加显式的“偏好-行动”一致性检查模块。
- 记忆架构(如摘要、向量检索)能缩小 Know-Act 差距,但无法根除,需配合针对性微调或 RLHF 强化从记忆到行为的转化。
- 工程上可将用户敏感属性标记为“强制遵循”类型,在推理阶段由策略层校验生成内容是否符合已知偏好,防止危险建议。
自对弈与技能演化:自演化搜索智能体,能出题、求解并记忆
🧭 自演化技能记忆 · 搜索智能体训练
University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences · Peking University · Mininglamp Technology · Tsinghua University
让技能记忆在工具增强的自对弈中与任务生成协同演化,失败案例蒸馏为可复用技能写回记忆
📌 工作参考价值(4 点)
- 技能记忆演化机制可构建「失败→技能」蒸馏闭环,在电商搜索/推荐中用于积累有效的查询改写模式、多跳推理路径。
- 技能存储为外部可检索库,训练时可融入模型参数,部署时灵活选择是否启用检索,类似 RAG 的离线在线解耦,适合需要低延迟的推荐场景。
- 自对弈出题+求解的设计可迁移到对话推荐或广告创意生成,让 challenger 产出多样化用户意图,solver 从技能库中检索最优策略。
- 协同演化使技能记忆不再是静态插件,而是改变策略学习和未来训练分布,这一思路可用来构建持续自进化的推荐策略库或用户模拟器。
AgentStream:流式任务中自进化LLM代理的表现评估
🧭 自进化Agent在流式任务下的评估框架与发现
University of Chinese Academy of Sciences · Microsoft · Institute of Automation, Chinese Academy of Sciences · Nanjing University
提出在流式任务流下评估自进化LLM代理的框架,揭示能力、方法与场景的交互规律
📌 工作参考价值(4 点)
- 电商/搜索推荐的Agent(如对话式导购、广告策略优化)常面临持续变化的任务流,应使用类似AgentStream的流式评估替代单任务评估,以更准确地预测线上效果。
- 自进化的收益存在模型能力阈值:基础模型较弱时,自进化可能无效甚至有害。在业务中引入自进化前,需确保基座模型能力达到一定水平。
- 没有一种自进化方法在所有场景和模型上都最优,建议针对不同业务场景(如搜索Query意图分类、多轮对话推荐)进行组合测试,选择适合的方法。
- 工程设计上,可借鉴AgentStream的任务流配置思路,构建可灵活组合的模拟任务流,用于持续集成评测自进化Agent的稳定性与泛化能力。
本地计算机使用智能体的推理时扩展再思考:失败模式与计算权衡
🧭 推理时扩展与失败分析
Hanyang University
系统实证表明,推理时扩展在本地 CUAs 中收益递减且会改变失败模式,需选择性地分配计算
📌 工作参考价值(4 点)
- 在资源受限的本地推荐 Agent 中,上下文扩展的收益会饱和:给 Agent 看更多历史轨迹(如用户会话日志)虽能提升稳定性,但 token 成本急剧上升,且可能让 Agent 提前宣布虚假成功。实践中应设置上下文窗口截断上限,并监控 false success 类型的失败。
- 时间维度的扩展不解决根本问题:增加最大步数(如搜索推荐多轮对话尝试)常常只是延长错误轨迹,而非纠正错误。应结合在线失败检测(如 stall 检测)和早停机制,而非盲目扩大步数。
- 结构化解耦(Planning + Execution)在本地模型上可能引入规划与格式解析开销:若将推荐 agent 拆分为计划器和执行器,小模型容易产出格式有误的计划,或计划质量低下。若必须使用两阶段架构,可考虑加入格式校验和重试逻辑,或改用单阶段端到端方案。
- 并行采样可以部分缓解单轨错误,但计算成本高:类似 Best-of-N 采样在本地部署中可能因并行调用导致硬件压力过大。可考虑在关键决策步骤(如 item 选择)才启用少数几次并行,并设置超时和多数投票机制。
Change2Task:从仓库变更自动构建可执行编码代理任务与环境
🧭 代理任务自动构建与验证
Microsoft · University of California San Diego · Zhejiang University · Xi’an Jiaotong University · Nanjing University
利用合并 PR 逆向重建健康代码库上的可验证编码代理任务,成功率达 79.6%,比 PR 基线多恢复 29.2%
📌 工作参考价值(4 点)
- 历史操作逆向为可复现环境:可借鉴 Patch Reversal 思路,将推荐系统的用户行为日志或实验配置「逆向」生成可重复执行的 Agent 训练任务,降低构造成本。
- 任务生命周期验证:从健康基础状态 → 任务状态 → 修复状态的全流程验证,可用于确保离线仿真环境的一致性和可靠性,避免训练与上线偏移。
- 环境基础复用节约开销:论文中重用现代基础镜像降低 10.8% 端到端成本,类似地,在推荐 Agent 的持续训练中通过共享基础镜像可减少重复构建。
- 多任务统一构造框架:覆盖 Bug 修复、特性添加等多类任务,启示搜索推荐 Agent 训练也可统一构造排序、召回、文案生成等不同任务,提升泛化性。
DarwinX:通过自然选择进化 Agent 外壳
🧭 Agent 群体选择与 harness 进化 ★ 深度解读
Salesforce AI Research · Salesforce Agentforce
冻结模型下把 Agent 自改进变成对 harness 变体的群体选择,用保留-扩展契约和档案重组,在四个基准平均提升约 17 个点
📌 工作参考价值(4 点)
- 在电商/广告/搜索的 Agentic 产品中,可以冻结 LLM 只进化 harness(prompt、tool、skill、control flow),用 preserve-and-extend 契约做上线门禁:只接受新增能力且回归有界的编辑,避免推荐或 query 改写质量出现全局抖动。
- 保留档案中的弱势变体而非只留单最优:不同 specialist 可能分别擅长 query 推荐、商品推荐、多轮对话等子任务,merge 互补变体可覆盖更多场景,类似多策略/多智能体协作。
- 把失败轨迹、teacher 演示、自身 pass/fail 对比三种信号统一成 harness 编辑接口;业务中可用人工标注的 good/bad case 或用户反馈作为 teacher/failure 信号,不微调模型,降低迭代成本和风险。
- Agentic 推荐系统评测噪声大,用 avg@k 和 preservation probe 确认而非单次 lucky rollouts,可避免假阳性、防止过度优化某个子集。
GUI 代理为什么正确却迟到?预编译策略树消除解码延迟
🧭 Agent 决策时延优化
Georgia Institute of Technology · Fudan University · Marquette University · University of North Carolina at Chapel Hill · National University of Singapore
提出自适应预期策略树,在空闲时提前规划 GUI 动作分支,事件触发时即时匹配执行,消除自回归解码延迟
📌 工作参考价值(4 点)
- 在实时推荐/竞价系统中,若候选动作集可枚举(如固定模板、预设回复),可用预编译策略树将 LLM 推理从在线关键路径移出,仅保留轻量状态匹配,避免解码延迟导致错过机会。
- 分支路由准确性是决定效果的关键瓶颈,工业落地时需重点优化状态匹配模型(如训练轻量分类器或规则引擎)以降低误匹配率。
- 借鉴“延迟感知的树规模控制”:根据系统解码时延动态设定策略树层数,确保覆盖可能的等待时间,避免过度规划浪费资源。
- 对于多模态 Agent 架构(如电商导购助手),可考虑将屏幕截图的变化检测与预编译分支结合,实现低延迟响应,尤其在闪购、秒杀等瞬态场景。
鸡尾酒交谈者:噪声社交环境下的多说话人对话建模与回复动作强化学习
🧭 语音对话 Agent · 回复时机决策
Columbia University · University of Washington · University of Illinois Urbana-Champaign
用三个动作令牌(回应/倾听/忽略)与 GRPO 强化学习,让语音助手自主决定是否开口
📌 工作参考价值(4 点)
- 多轮对话中的回复节制:电商客服或语音助手可引入 <respond>/<listen>/<ignore> 动作令牌,避免在不必要时打断用户或产生噪声回复,提升多用户混用场景下的体验。
- 离线 RL 微调决策时机:借鉴 GRPO(Group Relative Policy Optimization)在离线对话数据上优化回复策略,无需在线试错,可安全部署到推荐对话系统。
- 数据仿真管线复用:Cocktail-DialogGen 使用 LLM 模拟多角色社交对话,可迁移至电商导购场景,生成带角色、意图标签的多轮混合对话训练数据。
- 语音与文本决策的统一:将语音输入和文本决策统一到一个 LLM 框架,为未来多模态搜索推荐(如语音搜索 + 对话式推荐)的决策层设计提供参考。
MerchantBench:电商运营中LLM智能体长期连贯性基准
🧭 Agent 长期连贯性评估
Alibaba Group · State Key Lab of CAD&CG, Zhejiang University · School of Software Technology, Zhejiang University · School of Software and Microelectronics, Peking University · College of Computer Science and Artificial Intelligence, Fudan University
提出首个电商卖家长期运营模拟基准,评估LLM智能体在365天中维持连贯决策的能力,揭示LLM远逊于人类
📌 工作参考价值(4 点)
- 长期模拟环境构建:可借鉴其365天订单级模拟设定,将“供应商事件-采购-上架-定价-订单-现金流”时序闭环用于训练或评估搜推广场景中的Agent,尤其适合需要多步决策且反馈延迟的任务(如选品、动态定价)。
- 决策依赖与现金流的约束设计:采购、定价、现金流之间形成硬性依赖,当前行为会影响未来选择空间,这对设计推荐Agent的“预算受限序列决策”有很大启发,例如广告竞价中的预算分配与出价调整。
- 混合延迟反馈的处理框架:MerchantBench区分上游即时事件与下游延迟订单结果,这种双通道反馈模式可复用于搜索推荐系统,帮助Agent学会在延迟转化数据下的自适应策略。
- 评估指标与人类对照:用最终净资产等累计指标衡量长期连贯性,并引入人类基线,这种做法可迁移到业务Agent评测中,避免仅看短期收益忽视长期效果,从而设计更鲁棒的线上评估体系。
ORCA-bench:LLM智能体在oncall根因分析中的准备度评估
🧭 Agent 根因分析基准评估
Cornell Tech · Traversal · Columbia University
在真实微服务系统中评估LLM Agent的根因分析能力,最佳准确率仅25.3%,暴露严重幻觉与代码依赖
📌 工作参考价值(4 点)
- 构建推荐系统智能运维Agent时,需警惕幻觉风险:即使最强模型在部分任务中也给出完全无关根因,可借鉴其幻觉率指标与人工评审机制
- 源端可观测性(指标、日志、追踪)完整性与代码访问权至关重要:移除源码访问会全面降低Agent表现,建议在推荐系统线上故障排查Agent中强制集成代码检索工具
- 任务难度分级方法可复用:根据报告特异性、检测延迟、并发故障等维度系统构造评测集,用于评估电商搜索推荐场景下的异常检测Agent
- LLM-as-judge与专家对齐(Cohen’s κ_w=0.90)的验证流程,可直接用于生产环境中Agent输出的自动化评估,减少人工审核成本
VIG-RL:用强化学习学习搜索与插入以验证图像基础
🧭 Agent 强化学习动态搜索插入图文证据
Peking University · Huawei Cloud BU
将验证性图像基础建模为动态决策过程,用强化学习优化搜索-选择-插入的 agent 循环
📌 工作参考价值(4 点)
- 电商商品文案生成中,可借鉴动态决策何时检索并插入商品实拍图或证照截图,提升可信度与转化率。
- 强化学习驱动的多步 agent 决策(何时搜、选哪张图、插在何处)可迁移到购物助手主动补全多模态信息。
- 复合奖励(步骤级工具使用评价 + 最终图文对齐)可用于优化推荐解释生成中的多工具调用组合。
- ReAct 式动作-观察循环可集成搜索工具,在对话推荐中自适应地引入外部证据(如用户评价截图、商品对比图)。
Beacon:让视觉推理模型知道何时及如何调用工具
🧭 Agent 视觉推理中的自适应工具调用与强化学习 ★ 深度解读
Peking University · Kling Team · HKUST(GZ) · CUHK · ZJU
提出必要性感知自适应奖励与提示引导能力扩展,使模型能自适应调用工具并获真实性能增益
📌 工作参考价值(4 点)
- 自适应奖励设计借鉴:NAAR(必要性感知自适应奖励)可为电商/广告Agent中的工具调用决策提供参考——当纯文本推理即可解决问题时,对不必要的工具调用赋予较低奖励,但仍保留部分正向反馈(如0.25),避免抑制正确但冗余的工具使用;当纯文本失效时,正确工具调用获满奖励。这种软偏好平衡了效率与效果,有利于线上成本控制。
- 困难样本的专家引导训练:HCE(提示引导能力扩展)展示了如何利用教师模型生成子目标提示,引导策略在困难样本上探索,训练后再去掉提示使模型独立求解。这类似于在推荐Agent中处理长尾/冷启问题:先用强模型生成中间推理步骤的提示,帮助学生模型学习有效工具组合,最终摆脱对强模型的依赖。
- 在线标注避免分布偏移:NAAR 基于当前策略的组内正确性动态标注样本是否需要工具,而非固定教师模型。在动态变化的推荐场景(如季节性偏好)中,这种在线标注方式可让工具调用策略随模型能力同步进化。
- 混合策略优化与重要性采样:同时训练普通采样和提示引导采样的轨迹,并对提示轨迹使用重要性采样校正(将提示输入替换为原始输入),实现能力迁移。这一技巧可迁移到任何需要将外部知识注入策略训练的Agent场景。
边缘 LLM 智能体的校准推理与不确定性推迟框架
🧭 边缘 LLM Agent 推理预算与智能推迟
Northeastern University London
提出 TSDS,集成轻量收敛探针与困惑度推迟规则,通过 LTT 联合校准,在边缘 ReAct 智能体上显著减少思考计算量并保证性能
📌 工作参考价值(4 点)
- 在构建基于 ReAct 的推荐或客服 agent 时,借鉴轻量收敛探针,监测多步推理中动作的稳定性,当连续几步预测的动作一致时提前终止推理,节省推理成本,适用于商品属性搜索、对话式推荐等需要多步交互的场景。
- 设计基于困惑度的推迟规则,对 agent 生成的最终动作序列计算困惑度,若低于阈值则本地执行,否则转交云端大模型,有效控制云端调用成本,并可设定可接受的调用率上限。
- 利用 LTT 方法在历史交互日志上联合校准推理停止阈值和推迟阈值,使系统在满足云端调用率约束的同时最大化成功奖励,提供统计保证,可在推荐系统的多步决策流程中应用。
- 对于需要权衡延迟和精度的推荐场景(如实时推荐解释生成),TSDS 的动态推理深度和推迟策略可迁移,实现自适应的资源调度。
大语言模型能否执行母订单?分层零样本交易决策
🧭 LLM驱动的分层决策与规划
Independent Researcher · HKUST(GZ) · ZJU · SYSU
首次系统研究用LLM做母订单执行,提出分层框架PACE,零样本超越传统和学习型基线0.65基点
📌 工作参考价值(4 点)
- 分层规划思想可直接用于电商大促的预算/流量分配:用LLM做高层计划(每天/每时段的预算比例),底层执行器按计划实时出价,无需针对具体场景重训模型。
- LLM零样本决策能力可替代强化学习在冷启动或快速变化的推荐场景(如新品冷启推送节奏)中做时序动作决策,降低训练成本。
- 长期规划+短期执行的分解范式适合多Agent协作:一个Plan Agent制定整体策略,多个Execute Agent按约束执行,解耦决策粒度,便于工程实现和调试。
- 行为分析中的“模型自信与绩效正相关”提示:可在在线决策系统里结合LLM输出置信度做风险控制,高置信动作放量,低置信动作交人工审核或降级。
分数非决策:成本感知的LLM Agent工具获取停止
🧭 代价感知的Agent工具前缀截止学习 ★ 深度解读
Peking University · McGill University · Shanghai University of Finance and Economics · Tsinghua University
将工具获取形式化为代价感知的前缀停止,用后悔加权目标学习截止深度,以更少工具实现更高收益
📌 工作参考价值(4 点)
- 在工具调用前加一层代价感知截止策略:根据工具排序和成本动态决定前缀深度,可减少不必要的外部调用、上下文消耗和延迟,适用于搜索推荐中的知识检索、API 路由等环节。
- 后悔加权训练目标直接优化下游收益:错误按 payoff 差距加权,比先预测充分性再阈值截断更鲁棒,尤其在工具成本异质时(如不同数据源查询价格不同)。
- 特征设计需融合边际成本与剩余价值:除工具相关性分数外,引入边际成本、剩余候选集积分等特征,实现成本感知的停止决策。
- 轻量级解耦插件形式:CAM-DF 不修改上游排名器与下游 LLM,可快速接入现有 Agent 系统,适用于电商场景中动态选择商品信息源、实时调整工具预算。
FinanceHarness:自主金融深度研究框架
🧭 Agent驱动的金融深度研究框架
Google Cloud AI Research · University of California, Los Angeles
提出面向金融领域的自主深度研究框架及点时间基准FinanceGym,将代理评分从25.3%提升至32.4%
📌 工作参考价值(4 点)
- 领域专用Agent工作流设计:电商搜索推荐Agent可借鉴分层harness思想,封装商品查询、行为分析、趋势预测等工具,构建多步骤推理流水线(如竞品分析→选品策略→文案生成)。
- 点时间基准避免数据泄露:针对促销预测、季节品推荐等时间敏感任务,可参照FinanceGym的pre-cutoff/post-cutoff评估设计,确保测试集不包含未来信息,真实反映模型能力。
- 奖赏建模指导Agent优化:可对推荐报告、搜索策略输出定义自动评分标准(如覆盖率、新颖性、时效性),用于RLHF或拒绝采样微调,提升Agent执行质量。
- 专家验证基准的效用:在构建垂直领域Agent评测集时,引入专家人工验证确定难度和真实水平,避免纯自动指标误导,发现顶尖模型仍有较大改进空间。
Frontis-MA1:面向递归自我改进的机器学习工程训练
🧭 AI4AI 自动化机器学习工程 ★ 深度解读
Horizon Research · Frontis.AI · Tsinghua University
通过执行反馈训练 Draft/Improve/Debug/Crossover 原子算子并组合长程进化搜索,在有限 GPU 预算下将 MLE-Bench Lite 奖牌率从 39% 提升至 71%
📌 工作参考价值(4 点)
- 原子算子训练 + 进化搜索范式:将复杂任务(如推荐模型自动调参、特征工程)拆解为 Draft/Improve/Debug/Crossover 四种原子操作,用执行反馈训练这些操作,再通过 OpenMLE-Evo 组合成长程搜索,可直接迁移至 AutoML 或 Agent 自动优化推荐 pipeline 的场景。
- 执行反馈 RL 的自适应奖励设计:使用自适应上下界和熵优势(entropic advantage)将学习信号集中于高质量解,而非仅奖励有效解。在推荐策略搜索或 SQL 生成等可验证任务中,可避免模型产生“能跑但性能差”的结果。
- 结构化经验与父代选择策略:通过结构化经验卡(score/improvement/novelty)进行父代选择,兼顾解的质量、改进幅度和方向新颖性;操作触发式记忆合成避免上下文膨胀。这些可直接用于 Agent 搜索推荐组合空间、模型结构搜索等需要平衡探索与利用的任务。
- 预算自适应的监督数据收集:SFT 阶段每任务设执行预算和接受配额,提前终停止艰难任务,节省计算开销。在标注昂贵或执行成本高的推荐场景(如在线实验)中,可高效获得高质量训练数据。
记忆应被重构而非回放:基于GRPO的LLM Agent经验动态适配框架
🧭 Agent记忆重构机制
Zhejiang University · Shanghai Artificial Intelligence Laboratory · Fudan University · Shanghai Innovation Institute · Shanghai Jiao Tong University
提出记忆重构范式,让LLM Agent基于当前状态改编检索经验,端到端GRPO训练,防止负迁移并提升OOD鲁棒性
📌 工作参考价值(4 点)
- 在电商对话推荐或搜索Agent中,检索到的历史经验(如成功对话策略、用户偏好)不应原样拼接,可设记忆重构模块,根据当前查询状态动态改写经验,避免性能负迁移。
- 使用GRPO等强化学习算法端到端训练记忆重构策略,使模型学会在适当的时候信任或调整记忆,提升在冷启动或新品类(OOD)场景的鲁棒性。
- 用户行为序列记忆库可与当前上下文结合,生成个性化引导向量,替代静态的偏好嵌入,增强推荐解释性和交互效果。
- 经验重构可作为辅助训练目标,与主任务联合优化,既显式抑制错误记忆干扰,又潜在提升模型内在推理能力,适用于离线策略学习场景。
LEDGERMIND:基于结构化证据账本的溯源约束多模态智能推理
🧭 溯源约束的多模态Agent推理框架
The Hong Kong University of Science and Technology (Guangzhou) · The University of Hong Kong · Tsinghua University · University of Sussex
将多模态Agent轨迹构建为溯源约束状态机,用结构化证据账本限制推理,提升准确性与轨迹忠实度
📌 工作参考价值(4 点)
- 在电商商品问答或推荐解释等场景中,可借鉴结构化证据账本约束Agent的推理链:要求每条中间论断必须引用来自工具调用(如商品数据库、图像识别)的确定证据,防止产生“幻象接地”式的错误推荐理由。
- 自适应双路分发器根据查询复杂度动态选择推理深度,可迁移至搜索/推荐系统中的多模态查询处理:简单意图走轻量路径,避免过度调用昂贵模型,兼顾效率与准确性。
- 事件触发验证与修复引擎可应用于实时纠错:当监测到推理过程中的证据不一致时,仅允许基于已有账本条目的修复操作,杜绝凭空捏造信息,保障推荐理由的事后可审计性。
- 三层接地协议(实体级、数值级等校验)可直接用于商品属性抽取与校验,确保生成的商品描述或推荐文案中实体名称、数值参数等与原始多模态信息严格一致,降低事实性错误。
面向搜索Agent的图结构化行动空间与信用分配框架
🧭 结构化搜索Agent · 行动空间重塑 ★ 深度解读
National University of Defense Technology
用有限动作菜单替代自由形式查询,消除检索等价崩溃,并在同一状态下进行结构化信用分配,训练更稳定的RL搜索Agent
📌 工作参考价值(4 点)
- 将自由文本检索转换为离散菜单选择(如词条、属性、类目),可避免策略优化中的检索等价崩溃,适用于电商搜索推荐中的多步推理agent。
- 利用图形结构(实体-句子图)提供可预览的动作替代方案,实现局部对比信用(frontier-relative advantage),无需额外采样就能获得同状态下动作相对价值,可用于推荐系统的多步决策。
- 启用信用传播通过依赖图回溯,将下游收益分配给早前的桥接动作,能有效处理多跳推荐/对话中的延迟奖励问题,且计算开销低(仅增加9~11%),适合工业部署。
- 整体框架(菜单+SNC)与RL算法无关,可灵活集成到现有PPO/GRPO训练流程中,且图构建完全程序化(零LLM成本),为工业级搜索/推荐agent优化提供了高效方案。
QQWorld:基于分位数-分位数匹配的世界模型正则化
🧭 世界模型潜在空间正则化 · QQ匹配
Xi’an Jiaotong University
用分位数-分位数匹配替代Epps-Pulley检验,解决世界模型潜在表示重尾控制失效问题
📌 工作参考价值(4 点)
- 若推荐模型(如VAE、扩散模型)需要隐空间服从高斯先验,可用QQ匹配替代KL散度,强制尾部对齐,可能增强生成多样性和分布外泛化。
- 跨批次QQ的内存库机制与推荐系统中动量对比学习(如MoCo)或历史嵌入缓存类似,能以低开销扩大样本池改善分布估计,值得在用户表征训练中尝试。
- 监控隐向量的QQ图(而非单一分布距离)可更早发现训练中的尾部问题,适用于大模型调优。
- 在涉及多步序列决策的推荐场景(如交互模拟),该正则化可提升世界模型稳定性,减少误差累积。
Qwen-UI-Agent:面向真实世界的基础 GUI 代理技术报告
🧭 GUI Agent 基础模型与训练
Alibaba Group
统一移动/电脑/网页的 GUI 代理,结合真实设备环境与数据飞轮,实现多平台 SOTA 性能。
📌 工作参考价值(4 点)
- 统一动作空间设计:将 GUI 操作与 CLI 命令交错批处理,可借鉴用于电商 Agent 在网页/App 上执行多步推荐、广告投放任务,减少推理轮次。
- 自动化数据飞轮:用 Agent 自身构造任务、诊断失败并迭代,能显著降低人工标注成本,适合为电商搜索推荐 Agent 持续生成训练数据。
- 大规模在线 RL 训练:支持 100+ 步长轨迹训练,利用 10,000+ 并发环境加速,可迁移至电商多轮对话或流程自动化 Agent 的训练。
- 主动服务与跨平台状态保持:轻量 harness 层允许 Agent 主动发起推送或跨设备续接任务,类似电商场景中的主动推荐、缺货提醒或跨端购物车同步。
Setoka:面向异构数据的个性化 Agent 分层用户理解基准
🧭 Agent 记忆系统与用户理解评估 ★ 深度解读
East China Normal University · The Chinese University of Hong Kong
首个心理学驱动的分层基准,评估记忆 Agent 从显式事实到人格特质的跨源推理能力
📌 工作参考价值(4 点)
- 记忆系统选型与分层设计:在电商/Agent场景中,简单事实检索(如用户偏好标签)用精确数据库查询即可,但跨多源行为聚合(如长期购物节奏、品类偏好漂移)需要带时间上下文的结构化记忆;更抽象的用户人格推理(如价格敏感性、冲动消费倾向)则需图结构记忆以显式关联分散证据,建议按查询抽象层次选择或组合多种记忆结构。
- 评估体系分层化:不要仅用整体准确率验收记忆系统,而应分解为单记录召回、多记录拼接、长周期聚合、跨类别泛化四个层次分别评估,暴露系统短板(例如当前系统情景记忆与行为模式得分骤降),尤其注意区分回答率与准确率,避免模型置信度误判。
- 异构用户数据的合成与一致性保障:可利用“事件锚定生成树”方法,先生成连贯的行为模式再扩展为多源记录,确保消息、日志、社交图等不同数据表围绕同一核心事件一致,可用于构造内部评测集,规避真实用户隐私问题。
- 人格/行为推理的显式建模:如果业务中需要推断用户深层特质(如新用户冷启动时的人格化推荐),可借鉴心理量表到行为模式的规则映射,将大五人格或消费相关特质转化为可观测的行为频率证据,建立从底层日志到高层画像的因果链,提升可解释性与冷启动效果。
SpatialCLI:先借助空间工具推理,再摆脱工具
🧭 Agent 工具学习与能力内化
Zhejiang University · Zhuoyu Technology · Beihang University · University of Electronic Science and Technology of China · Nanyang Technological University
提出三阶段框架让 VLM 学会调用空间工具,再将工具能力内化到自身,推理时无需工具仍高性能
📌 工作参考价值(4 点)
- 三阶段训练策略:先用工具增强数据做冷启动 SFT,再用 Agentic RL 提升工具调用准确率,最后将成功轨迹转化为 SFT 数据内化能力,可直接迁移到推荐/搜索 Agent 的工具调用训练中,比如让 LLM Agent 学会调用推荐 API 再内化推荐知识。
- 延迟敏感的线上场景:通过内化将工具能力蒸馏到小模型,实现推理时无工具调用,降低延迟,适用于电商搜索/推荐的高并发服务。
- 冷启动 SFT + RL 的组合:先通过格式化示例让模型学会工具调用格式,再用环境反馈优化决策,可提升 Agent 在复杂决策任务(如多步推荐、交互式搜索)中的鲁棒性。
- 评估基准设计:SpatialCLI-Bench 聚焦组合感知,类似思路可构建面向推荐领域的组合能力基准,评估 Agent 在 item 检索、过滤、排序等多步骤中的表现。
以交互为中心的Agent失败分类法:定位故障源与修复责任
🧭 交互为中心的Agent失败诊断
Scale AI
提出基于组件交互边的Agent失败分类法,41种模式指定故障方,使评估直接指向可修复组件
📌 工作参考价值(4 点)
- 在构建电商搜索/推荐多智能体系统时,可借鉴交互图建模,将失败归因到具体组件交互边(如LLM↔工具、LLM↔记忆),避免笼统的“模型不好”结论,精准指导是微调模型还是修复脚手架。
- 使用分类法指导Agent评估框架设计,标注失败时区分模型侧、工具侧、环境侧,确保改进资源投向正确组件。
- 可自研类似的离线失败分析流程:对Agent日志轨迹按交互边分类失败模式,生成故障热力图,辅助迭代优化。
- 利用LLM作为评判器自动分类失败,实现监控告警的细粒度归因,降低人工分析成本(论文验证强法官κ=0.76,可复现性高)。
工具并非孤岛:基于超边预测的LLM Agent集合级工具检索
🧭 Agent工具检索的集合级重定义与超图建模 ★ 深度解读
Shanghai Jiao Tong University · The Hong Kong Polytechnic University
将工具检索重构为查询条件超边预测,以工具集合整体为单位评分,并捕捉基数依赖的工具交互
📌 工作参考价值(4 点)
- 把工具集当作整体来打分:在电商 Agent 场景(如比价+下单+物流查询)中,不要只按单个 API 相关性召回,可参考 HYSET 的超边预测思想,对候选工具子集做联合评分,直接优化「工具集合是否完整覆盖任务」指标。
- 用基数特异性交互矩阵捕捉工具间依赖:多工具任务中,工具之间的互补性随集合规模变化。可以用一组按集合大小索引的交互矩阵(即 M2, M3, M4 …)来建模这种动态依赖,参数开销远小于显式高阶张量。
- 执行反馈可作为弱监督信号:即使只有部分标注数据,也可以在线采集工具调用链的最终任务成功与否作为奖励,通过 reward-weighted self-training 持续优化检索模块,尤其适合随时新增 API 的电商工具库。
- 两阶段推理兼顾效率与集合评分:先用轻量双编码器做 top-K 初筛,再用集合重排序在缩减后的空间里显式对比不同大小、不同组合的候选工具集,推理延迟可控(12 ms/query),可直接嵌入生产级 Agent 管线。
基于文件系统的LLM智能体记忆:组织、演化与可持续性
🧭 Agent记忆系统设计与评估
University of Illinois Urbana-Champaign · University of California San Diego · University of California Merced · Adobe Research · Texas A&M University
系统探索文件系统记忆,证明组织能显著降低检索成本,但难以维持且无法直接提升答案质量
📌 工作参考价值(4 点)
- 在构建客服/导购Agent记忆时,可直接采用文件系统存储用户历史与知识,利用层次化目录降低大规模记忆的检索token成本(实验中减半)。
- 将记忆管理拆分为专门的管理智能体,定期合并、更新记忆文件,避免记忆膨胀;但需选用强模型(如GPT-4级)作为管理智能体,否则组织会逐渐恶化。
- 工具集设计对记忆结构影响不亚于模型本身,应提供可靠的沙盒文件操作环境(ls, grep, cat等),暴露清晰的读写接口,让Agent自主组织。
- 当前阶段,过度追求完美组织不一定提升下游任务准确率,可优先优化检索效率,待基础能力成熟后再探索组织与答案质量的联动。
MemLens:面向LLM智能体的价值感知记忆管理与交互分析系统
🧭 LLM智能体记忆价值评估与存储优化
山东大学软件学院 & C-FAIR · 北京航空航天大学SKLCCSE实验室 · 香港城市大学数据科学系
提出基于Shapley值的记忆价值评估方法,实现细粒度、可解释的智能体记忆管理
📌 工作参考价值(4 点)
- 记忆价值评估思路:借鉴Shapley值量化每条交互记录对最终响应的贡献,可在电商对话Agent中识别高价值用户反馈或决策关键上下文,优先保留。
- 分层记忆存储架构:按价值分数将记忆分为短期、长期和归档层,可迁移到推荐系统的用户长短期兴趣建模,兼顾存储成本与召回效率。
- 交互式可视化分析:提供记忆价值热力图、检索延迟对比等面板,帮助算法工程师调试Agent推理链路,快速定位低效检索或记忆冗余问题。
- 多维度策略对比:系统内嵌响应质量、延迟、token消耗的AB对比,适合在业务Agent上线前评估不同记忆淘汰策略的性价比。
Metis:记忆基础模型,让大模型内生记忆能力
🧭 记忆基础模型·原生记忆状态与过程 ★ 深度解读
MemTensor (Shanghai) Technology Co., Ltd. · Renmin University of China · National University of Singapore · Shanghai Jiao Tong University · Tongji University
首个记忆基础模型原型,将记忆内化为原生参数化状态和计算过程,用中间训练获得自主记忆能力
📌 工作参考价值(4 点)
- 可用轻量级固定尺寸记忆矩阵(M_t, S_t)隐式存储多轮对话历史,替代显式文本拼接或外部检索,上线仅需前向传播,无需梯度更新,适合在线推荐 Agent 部署
- 记忆更新(Gated Delta Network 风格)与当前推理完全解耦,可与原始注意力并行计算,推理延迟主要取三者最大而非相加,对实时性要求高的电商对话系统有参考价值
- 中间训练数据构造方法可复用:将公开事实型数据集改造成含记忆操作(记住/更新/遗忘/反射)的多步交互序列,显式标注记忆一致性,用于训练推荐对话 Agent 的上下文理解与状态管理
- “原生记忆过程”思想可扩展到推荐模型:将用户行为序列压缩为模型内部动态参数,用特殊设计的记忆重建与操作损失联合优化,实现端到端的个性化状态保持
SkillRise:面向跨任务技能进化的智能体强化学习
🧭 Agent 多任务技能进化与文档迭代 ★ 深度解读
Zhejiang University · National University of Singapore · Shanghai Jiao Tong University · Meituan
将相关任务序列化并用单一策略交替执行任务解决与技能文档演化,以解耦信用分配实现跨任务技能迁移
📌 工作参考价值(4 点)
- 跨任务技能积累范式:对于电商搜索/推荐Agent,可将不同商品类目下的搜索/推荐任务视为同一任务族,按难度递增构造序列,使Agent在解决简单任务后沉淀通用策略,再迁移到复杂任务,减少重复探索。
- 演化文档作为记忆载体:在投放策略优化或多轮对话中,让Agent维护一份技能文档(例如“高价商品推荐要点”),每次任务后自动更新,替代外部记忆库的复杂维护,降低工程复杂度。
- 解耦信用分配:将“执行当前任务”与“为后续任务总结经验”的奖励分离,执行用即时反馈,总结用后续任务折扣回报,避免两者相互干扰,适合广告出价、查询改写等需要平衡即时效果与长期学习的场景。
- 测试时持续提升:SkillRise展现的随着相关任务序列增加性能递增的特性,可应用于在线服务中持续积累跨请求的经验,无需重新训练即可利用历史交互不断优化策略。
SpecFirst:行为规范提取优先的两阶段从零程序合成框架
🧭 Agent 规范驱动程序合成
Huawei Canada · Queen’s University · University of Manitoba · Concordia University
将需求工程引入LLM Agent,先提取行为规范再合成代码,从零编程通过率提升6.9%-21.3%
📌 工作参考价值(4 点)
- 复杂搜索/推荐策略从零构建时,可引入强制分阶段规范提取:让Agent先通过有限行为试探(如A/B黑盒探查推荐接口的响应规律)输出结构化Spec,再生成策略代码,避免直接编码导致的理解漂移。
- 将行为Oracle思想用于推荐Agent评测:设计黑盒环境(如模拟用户反馈的oracle),迫使Agent先探索行为边界再生成策略,提升策略的鲁棒性。
- 在多步推理任务中应用“规范-实现”解耦:例如,电商搜索Query意图理解与改写,可先让Spec Agent明确意图分类与改写约束,再由Code Agent生成规则或模型调用逻辑。
- 工程化时重视中间产物的稳定性:SpecFirst证明了提前固化的结构化规范能减少后续交互中的误解,在长上下文Agent任务中值得借鉴,如用JSON Schema约束中间输出格式。
UniMem:边界无关任务流的互补情节到参数记忆框架
🧭 Agent 记忆管理 · 参数化与检索互补 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · Peking University · Meituan · University College London
受互补学习系统启发,用路由令牌解耦识别与执行,稀疏任务走检索、重复模式自动参数化,实现流式记忆扩展。
📌 工作参考价值(4 点)
- 路由与执行解耦:用轻量级路由令牌做任务识别,高容量Procedural KV Memory做任务执行,新任务无需标签即可自动分配参数块。电商推荐Agent可直接套用:路由判断用户意图,对应模块调推荐策略。
- 缓冲与门槛机制:稀疏/长尾任务保留在情节缓冲走RAG,避免过早参数化导致噪音;当缓冲证据足够且聚类质量过关时才固化为参数记忆。搜索广告场景中,低频query或新item可用此方式积累样本再触发模型更新。
- 参数隔离避免遗忘:每个任务独立KV Memory块,与冻结骨干通过可学习门控注入,天然抵抗流式任务间的灾难性遗忘。多租户推荐模型或个性化Agent可参考按用户/场景分配独立记忆单元,互不干扰。
- 无监督任务发现:基于NCD计算任务相似度 + HDBSCAN聚类,无需任务ID即可识别重复模式。可迁移到用户行为流中自动挖掘规律性行为簇,驱动推荐策略的自动聚合与迁移。
WorkSurface-Bench:企业智能体多知识面路由评测基准
🧭 智能体知识路由能力评测
Peking University · Zhongguancun Academy · University of Chinese Academy of Sciences
提出面路由概念并构建基准,分离评测智能体选择知识源与使用知识源的能力
📌 工作参考价值(4 点)
- 在电商 Agent 中可借鉴“面路由”概念,将知识源归类为文档(商品描述)、表格(销量/库存)和图(商品关联/用户图谱),先让 Agent 选择合适的面再处理,提升准确性和效率。
- 分离评测 Route F1 和 Answer Accuracy,帮助定位 Agent 失败根因:是选错数据源还是后续推理错误,可迁移到内部 Agent 评测体系。
- 实验证明去除无关工具可以改善路由和效率,工程实现时可让 Agent 先进行面筛选,再暴露对应工具,减少干扰。
- 参考可审计答案构建方式:表格用可执行查询验证、文档用文本片段 grounding、图用来源追溯,适合企业内构建可信评测集。
用户提问,平台竞争:推荐代理市场如何形成
🧭 Agent 中介的跨平台推荐市场策略 ★ 深度解读
Tsinghua University · Tencent Inc.
在用户代理中介的竞争中,宽访问带来注意力瓶颈,而结果问责可重新校准平台解释的影响力
📌 工作参考价值(4 点)
- 多平台竞争场景的接入设计:当业务涉及跨域或多个供应商时,可借鉴“先统一查询再跨平台排名”取代用户预选平台,将竞争提前至推荐候选池构建阶段,扩大用户触及面。
- 注意力约束下的展位策略:在用户代理短列表容量固定时,增加候选平台数量会加剧头部位置竞争,单纯扩展曝光槽位主要填充低排位,业务上应聚焦 Top-1 曝光效果的优化而非盲目增加推荐位。
- 推荐解释的博弈与校准:平台给出的推荐理由会成为竞争手段,需建立基于用户事后反馈的声誉记录(如点击后满意度),在后续排序中校准平台解释权重,抑制浮夸话术,这一局部声誉机制可直接嵌入现有排序模型的上下文特征。
- 模拟实验设计方法:采用真实交互历史重构购物请求、保留目标物品做客观参照,并以 LLM 模拟用户决策与反馈闭环,能低成本评估推荐市场规则的变化效果,适合快速迭代推荐策略原型。
CAST:以博弈求解器为 LLM 智能体提供回合级教学信号
🧭 基于求解器的回合级信用分配 · LLM Agent 训练
University of Science and Technology of China · Nanjing University · Wuhan University · Meituan
将求解器状态价值变化转为回合级优势信号,缓解长程游戏中的信用分配难题
📌 工作参考价值(4 点)
- 电商多步对话/搜索结果规划:可用商品检索器、报价引擎等“可求解环境”的状态价值变化作为中间奖励,训练 LLM 进行多步推荐或搜索,缓解稀疏结局信号的反馈延迟。
- 只用标量信号,无需 teacher logits:业务中部署求解器只需输出标量价值,通信与计算开销远小于蒸馏完整分布,适合大规模 Agent 在线训练。
- 探索引导:通过 solver advantage 指示哪些候选 action 更有前途,可植入 Agent 的候选排序或树搜索中,提升探索效率,减少无效调用。
- 泛化到未见场景:论文在零样本迁移到 ALFWorld/WebShop 上有效,暗示类似方法可用于训练能泛化到新品类、新用户意图的电商任务型 Agent。
策略感知参数高效适配的LLM自动出价框架
🧭 LLM自动出价 · 策略感知参数高效微调 ★ 深度解读
Hainan University · Taobao & Tmall Group of Alibaba
SAGE通过位置增强、文本对齐与约束门控LoRA,仅用不到10%参数实现策略感知的LLM自动出价最优决策。
📌 工作参考价值(4 点)
- 位置增强模块可迁移到用户行为序列建模:将序列中不同语义类型的token(如点击/购买/曝光)赋予独立语义嵌入,结合正弦时间编码,取代统一的绝对位置编码,提升序列区分度和长度扩展性,适用于推荐系统的会话理解。
- 门控交叉注意力对齐多模态信息并压缩输入:在处理用户行为轨迹与自然语言指令(如搜索query、广告文案)融合时,用轨迹作为Query、文本作为Key/Value进行交叉注意力,替代直接拼接,既实现有效跨模态对齐,又大幅缩短LLM输入长度,适合对话式推荐Agent或指令跟随出价。
- 约束门控MoE LoRA实现低成本策略个性化:将业务约束(如预算、CPA目标)编码为门控信号,驱动混合专家LoRA动态选择适配器,每个广告主或场景只需额外极少参数即可定制策略,工程上可冻结LLM主干,只训练轻量适配模块,显著降低训练和部署成本。
- 整体框架可复用于多约束实时决策场景:SAGE的冻结骨干、低秩适配、条件路由设计可直接应用于电商搜索排序中的动态出价、预算分配或Push消息的个性化约束优化,用10%的参数实现超越全量微调的效果。
多轮长程规划的物理学:预训练与后训练阶段的智能体蒸馏研究
🧭 Agent 多轮长程规划能力分析
中国科学院自动化研究所复杂系统认知与决策智能重点实验室 · 中国科学院大学人工智能学院
构建可控环境系统分析LLM智能体多轮长程规划的获取、塑造与集成机制
📌 工作参考价值(4 点)
- 预训练数据构造:构建多轮交互推荐/搜索Agent时,预训练阶段加入显式世界模型(如状态转移链式推理)数据,并混合少量长程轨迹,仅靠原子技能无法组合泛化。
- 后训练算法选择:若预训练数据质量不高或任务轮次长,优先使用在线策略蒸馏(OPD)而非GRPO,OPD更新方向更一致,有效区域更广。
- 错误累积控制:长程任务中次优轨迹的误差放大效应显著,在推荐Agent流程中可植入早期信号校验或中断机制,防止错误级联。
- 多教师知识集成:引入不同领域知识时,避免直接蒸馏冲突的规划模式,可通过寻找共享模式实现跨环境泛化,部分共享模式支持持续学习。
GPT-Red:基于自博弈的大规模自动化红队代理
🧭 安全红队 · 自博弈对抗训练
OpenAI
训练自博弈红队代理自动发现提示注入攻击,对抗训练出最强鲁棒模型GPT-5.6
📌 工作参考价值(4 点)
- 对抗训练思想可迁移至推荐模型鲁棒性增强:对召回/排序模型注入对抗样本(如恶意特征序列)训练,提升生产系统抗干扰能力。
- 自博弈架构可借鉴于生成多样化攻击样本:类似用生成式对抗网络思路,在审核/风控模型中持续进化攻击模式,扩大覆盖。
- 红队代理作为自动评估工具:可构建面向推荐系统的“黑盒攻击代理”,在离线评估中压测模型边界,提前暴露盲区。
- 工程上,将红队发现的高危模式加入训练集形成闭环,可系统化提升模型版本迭代的安全性。
LLM Agent 污点约束的代理权限策略代数
🧭 Agent 安全 · 信息流控制
Archestra AI
通过上下文分支与前瞻权限检查,将 LLM Agent 的数据泄露攻击成功率从 31-50% 压至 0-7%
📌 工作参考价值(4 点)
- 上下文分支隔离:在处理不可信数据(如用户评论、外部 API 返回)时,可借鉴子轨迹设计,将高风险操作隔离在临时上下文中,仅将净化后的有界结果传回主流程,避免污染推荐系统的核心状态。
- 前瞻性权限检查:在 Agent 调用工具或访问数据源前,可插入类似“标签预评估”的步骤,提前生成授权/接受方案,防止越权调用,尤其适用于涉及用户隐私数据(订单、浏览记录)的电商对话 Agent。
- 细粒度污点净化:允许受信任的净化器对敏感信息进行脱敏或聚合后再返回主上下文,既保留数据效用又不泄露原始隐私,适合推荐系统中混用 PII 与公共特征的安全场景。
- 形式化的合并约束:双幺半群模型为多轮对话、多工具调用提供了可验证的标签保持证明,可作为构建高安全 Agent 框架(如购物助手、搜索代理)的理论基础。
循环不代表可靠:状态绑定证据与类型化修订契约实现代理代码修复
🧭 Agent 可靠性保障 · 状态绑定证据与修订契约
Alibaba Cloud
揭示代码修复循环中正确补丁易丢失,提出状态绑定证据和类型化契约以保障代理可靠性
📌 工作参考价值(4 点)
- 代理迭代时保存“已验证状态”检查点,避免后续修订破坏已正确结果,电商搜索中的查询改写或排序策略迭代同样适用
- 引入类型化修订契约,强制每次修订后基于最新状态验证,而非依赖陈旧反馈,提升代理行为稳定性
- 设计审计接收凭据(auditable admission receipts),对代理关键动作(如投放决策、推荐生成)进行追溯和可靠性监控
- 评估代理时区分“曾经正确”与“最终正确”,避免将中途正确但最终破坏的情况误判为可靠
InMind:Agent 记忆系统隐式关联盲点基准
🧭 Agent 记忆评估 · 隐式关联盲点 ★ 深度解读
University of Science and Technology of China · Metastone Technology
提出 InMind 基准,揭示基于检索的记忆系统在间接查询中因缺乏相似线索而系统性地遗漏关键记忆,差距从 84% 跌至 14%
📌 工作参考价值(4 点)
- 业务场景的隐式关联风险:电商、推荐系统中用户历史行为(如拥有宠物)与当前查询(搜索“百合花”)之间缺少 token 或语义重叠,基于嵌入的检索会遗漏这种安全/偏好信息。可借鉴 InMind 的任务构造方式,主动设计跨域桥接问询,测试自身系统是否会“记得但不用”。
- 评估范式:三重控制分离失败原因:InMind 用直接查询控制存储成功、in-context 控制模型桥接能力、目标召回检查检索是否送达,将检索失败与存储或知识缺失剥离开。业务内部评测可复现这一范式,快速定位问题出在写入、模型还是检索端。
- 路由决策是核心开放问题:always‑in‑state 诊断(仅维持一次 200 行 profile)恢复大部分性能(68.8%),而 MemoryOS 这类带有可见 profile 的混合系统仍差很远,说明关键并非“有可见状态”,而是“决策哪些记忆必须始终可见”。对推荐中的长期记忆,可引入重要性路由,如根据未来可能桥接的风险(健康、安全)对记忆打标,强制进入上下文。
- 嵌入增强不能根本解决问题:从 384 维换到 3072 维 embedding,目标召回上升但应用率仍在低位,证明单纯增大 embedding 并无法掌握药理、法律等冷门桥接知识。在工程中不应仅依赖 embedding 相似度,可考虑配合结构化知识图谱或启发式规则来显式表达某些隐式关联。
通过多智体协议蒸馏弥合闭源与开源Agent搜索的分布鸿沟
🧭 多智体协议蒸馏 · Agent搜索 ★ 深度解读
University of Chinese Academy of Sciences · Tsinghua University · Peking University · Beijing Institute of Technology
提出结构化JSON协议作为中间表示,将闭源多智体的推理策略蒸馏到开源学生模型,显著缓解风格漂移和幻觉。
📌 工作参考价值(4 点)
- 用结构化协议替代原始文本进行蒸馏:在Agent搜索场景中,直接模仿闭源模型的自然语言轨迹会导致灾难性的风格漂移和幻觉,业务上若想用GPT/Claude蒸馏小模型,务必把推理过程抽象为JSON、流程图等结构化中间表示,剥离语言风格。
- 离线多智体合成高质量训练信号:用多智体系统(编排者+搜索者+修复者+协议者)提前生成高质量推理协议,训练时只复用协议,不增加在线推理开销。这种模式可迁移到电商导购Agent的多轮决策合成:用强模型离线生成“商品推荐-推理-校验”协议,蒸馏到线上轻量模型。
- 在线自蒸馏与RL的联合训练配方:将结构化协议作为特权信息(privileged information)输入教师分支,与学生分支做token级KL对齐,同时叠加GRPO稀疏奖励,λ=0.05附近是甜区。业务中复现类似流水线时,可直接参考该联合损失权重调优经验。
- 跨教师模型的可迁移性:结构化协议对不同闭源教师(Claude/GPT/Gemini)都有效,方差极小,意味着后续替换底层LLM API时无需重新调参,可大幅降低迭代成本。
相关性新角色:引导智能搜索中的语料交互
🧭 相关性引导的语料库交互代理 ★ 深度解读
Tencent · Institute of Information Engineering, CAS
RARG 将检索相关性转化为 grep 遍历的文档顺序与匹配片段重排信号,以更少交互步数提升搜索收敛效率
📌 工作参考价值(4 点)
- 把相关性当作执行先验,而不是证据通道:在电商搜索 Agent 中,可以用稠密检索对商品池做文档级排序,让 grep/关键词匹配按此顺序遍历,使高相关商品优先被检索,减少无效扫描。
- 提供入口点初始化加速收敛:为 Agent 提供少量 top 相关段落作为启动线索,避免冷启动时的盲目搜索,可类比在推荐对话系统中先给出若干候选商品摘要,快速进入验证阶段。
- 匹配级重排弥补文档级排序的粒度不足:当关键词匹配输出被截断时,用嵌入模型对匹配片段重排,使埋在低排名文档中的关键信息也能暴露给 LLM,可在商品标题/详情片段高频匹配的场景下保留重要长尾证据。
- 利用工具设计约束引导模型行为:通过引入 embed_recall 工具和 scope 文件,将多步检索显式化为有序管道,避免模型滥用耗时的全量遍历命令(如 ls/find),该模式可用于约束 Agent 在大量候选中进行有序探索。
基于证据推理的智能代理零样本根因分析框架
🧭 工业诊断 · Agent推理
EPFL - IMOS Laboratory
零样本Agent框架结合数字孪生与LLM推理,迭代收集证据并评估假设,实现可解释工业根因诊断,性能比肩全监督方法
📌 工作参考价值(4 点)
- Agent推理模式迁移:将“假设生成-证据收集-假设验证”的迭代闭环引入推荐/搜索系统的异常诊断(如CTR骤降、召回池突变),可利用LLM生成可疑原因假设,调用监控工具获取统计证据,自动定位根因。
- 数字孪生思路:构建线上系统的正常行为孪生模型(如流量分布基线、转化率时序基线),作为“正常期望”参考,Agent通过对比实时行为与孪生模型残差来识别异常根源,摆脱对故障标注数据的依赖。
- 可解释诊断链:借鉴透明推理轨迹,在业务诊断中输出可审计的因果链(观察症状→排除归因→确认主因),提升算法团队排障效率,并可沉淀为知识库。
- 零样本冷启动应用:针对罕见故障或新上线模块的异常,无需历史故障样本,直接基于系统领域知识图谱和实时数据驱动逻辑进行诊断,快速响应。
LLM Agent 的技能添加为何同时也是一种“回归税”
🧭 Agent 技能评估与回归机制分析 ★ 深度解读
Sentient Labs
添加技能库带来的回归抵消了 59% 的增益;三种回归机制以 grounding displacement 为主,且技能描述即使不被调用也可通过上下文渗透改变行为
📌 工作参考价值(4 点)
- 评估技能库时必须分解增益与回归:不要只看净通过率,应同时报告新解决的任务数和被破坏的任务数。两个净效果相同的技能库,回归少的那个更可靠。
- 警惕技能描述的“渗透”效应:即使某个技能从未被调用,仅因其描述常驻系统提示(system prompt),也会改变 agent 的行为,导致原本正确的任务失败。评估时应额外增加“仅描述存在”的对照条件,以隔离该影响。
- 强化 grounding 与 verification 环节,而非仅优化过程方法:回归和残余失败主要出现在输入解读(grounding)和输出检查(verification)阶段,而现有技能库过度关注方法步骤。在编写技能时,应增加具体的查表读表指引、定义澄清和可执行输出校验,而不是只给通用流程。
- 利用配对轨迹对比定位问题:将同一任务在有/无技能下的执行轨迹进行对比,可以清晰区分失败发生在哪个阶段(读错输入 vs. 算对但校验缺失),从而更有针对性地修复技能而非盲目删除整个技能库。
Nanbeige4.2-3B:紧凑模型中解锁通用智能体能力
🧭 紧凑通用智能体模型 ★ 深度解读
Nanbeige Lab · Boss Zhipin
3B参数的紧凑模型在代码、办公、工具使用等智能体任务上全面超越9B/12B模型,同时保持强推理能力
📌 工作参考价值(5 点)
- 多阶段 RLHF 通用化:先对 Think/Non-Think 响应混合 RLHF,能跨任务、跨模式减少循环生成与格式错误,提升推理与智能体任务的稳定性。可用于电商对话/操作型 Agent 的异常输出抑制。
- 长度控制推理 RL:离线建立长度预算+难度感知惩罚,鼓励简洁推理,可适配推荐解释或搜索推理链的延迟约束,平衡效率与效果。
- 行动级过程奖励:在 Agentic RL 中为工具调用准确性、信息增益设计逐步骤 rubrics 作为过程奖励,提供密集反馈,可迁移至交互式推荐 Agent 的长程训练,稳定多步规划。
- 混合环境数据合成:组合真实 MCP 服务、Python 可执行接口和 LLM 模拟工具,扩大轨迹多样性。电商搜索推荐系统可借鉴构建高覆盖率的仿真环境,低成本生产高质量多轮交互数据。
- Turn-level loss masking:仅对正确回合计算损失但保留错误上下文,适合训练多轮对话推荐,避免学习错误行为的同时利用完整语境恢复。
TRACE-ROUTER: 面向Agentic AI的任务一致自适应在线路由
🧭 Agent任务级自适应路由
Georgia Institute of Technology · Intel · Texas A&M University
用任务级上下文Bandit路由替代请求级路由,通过延迟奖励统一优化Agent工作流的准确率与延迟。
📌 工作参考价值(4 点)
- Agent任务内固定模型池:对电商客服、搜索推荐Agent等多步工具调用场景,可在任务入口用上下文Bandit选择一个LLM,整个任务会话固定使用该模型,避免每步独立路由带来的反馈归因偏差。
- 利用任务级延迟奖励在线学习:直接使用最终的任务成功/失败和总延迟作为奖励信号,无需预估单步复杂度,工程实现简单,适合线上持续优化路由策略。
- Bandit策略可迁移:若业务中已有Agent工作流和模型池,可将现有逐请求路由器替换为任务级Bandit,只需在任务结束时收集终端奖励,即可用LinUCB等标准方法更新策略,降低试错成本。
- 平衡成本与效果:在预算受限的推荐Agent中(如商品咨询、比价),可自动将复杂任务路由到大模型,简单任务用小模型,在不牺牲最终准确率的前提下显著降低延迟和推理成本。
先验事实:智能体记忆的纵向评估工具与架构排名逆转
🧭 Agent 记忆评估基准与架构反转
Independent Researcher
提出反转生成流水线的评测基准,揭示记忆架构排名随对话历史长度反转,开源分层记忆库Veracium
📌 工作参考价值(4 点)
- 长期Agent场景(如客服、推荐对话)中,记忆架构需要按信息时效与来源分层,可借鉴「分层图记忆」(provenance-typed graph)设计,区分事实有效期和发送/接收信任度,避免简单 LRU 淘汰。
- 构建记忆评测时,采用“先事实后对话”的生成流水线,机械式出题可杜绝标签泄漏,并且植入时间衰减、注入干扰等特性,更真实模拟业务中持续更新的用户画像。
- 写入质量直接决定下游问答准确率(弱写事实失败率24% vs. 干净写2%),在记录用户交互(如购物偏好、咨询历史)时,务必保证写入端的清晰度与完整性。
- 短历史评测会误导架构选择,需结合长期(如数周)对话累积进行压测;全量历史回读虽然短期有效,但成本高且不持久,工程上可优先采用分层记忆实现高性价比。
Agentic 上下文管理:将 Agent 内存与成本作为生命周期和架构问题解决
🧭 Agent 上下文生命周期管理与成本控制
提出 Agentic 上下文管理五原语(架构、摄入、范围界定、预判、压缩与巩固),将上下文从存储问题重构成全生命周期,实现了线性 token 成本且精度不降
📌 工作参考价值(4 点)
- 上下文生命周期管理思路可直接落地:电商对话推荐 Agent 常因长对话历史丢失关键偏好,借鉴五原语(特别是 scoping 与 anticipating)能主动选择当前轮次相关上下文,避免历史淹没关键信号。
- Token 成本工程价值高:论文揭示 naive 上下文累积导致 token 成本平方增长,仅用摘要则精度断崖。业务中可采用 验证性压缩(validated compaction)技术,在保持线性成本的同时保留召回精度,对高频对话系统降本明显。
- 多租户上下文服务化:参考 Maximem Synap 的多租户实现,搜索/推荐 Agent 可将上下文管理抽象为独立服务,支持组织级层次结构,便于电商平台同时服务多个商家或频道。
- 跨会话记忆与遗忘机制:跨会话的 ingesting 与 consolidation 原语可用来构建用户长期偏好记忆,同时通过遗忘陈旧信息防止上下文膨胀,适合需要多轮交互的导购 Agent。
技能自我对弈:用可进化的技能接口突破 LLM 自我训练的数据困境
🧭 Agent 自我进化 · Skill 协同 ★ 深度解读
Alibaba · The Chinese University of Hong Kong · Renmin University of China · Sun Yat-sen University · Peking University
通过可进化的技能库充当任务生成的结构化接口,在工具调用与逻辑推理上显著超越无引导自我对弈
📌 工作参考价值(4 点)
- 技能库即任务模板池:电商搜索/推荐中可将高频意图、结构化的查询改写或回复模式抽象为可进化的技能模块,直接指导生成式推荐或对话模型的训练,避免无监督生成的数据坍塌。
- 双轨训练与动态课程设计:借鉴技能流(skill stream)与开放探索流(exploration stream)混合构建训练池的做法,在推荐模型或Query改写模型的强化学习训练中,用预定义模板确保基本质量,同时用无约束采样扩展多样性,通过前沿奖励自动筛选高价值样本。
- 技能生命周期管理:定期根据模型表现剪枝已饱和的技能、从成功探索中诱导新技能,可迁移到推荐系统中的新闻推送文案生成、活动主题生成等场景,自动淘汰低质模式,持续注入新鲜内容。
- 共进化验证机制:用同一个模型同时扮演提议者和求解者的自我对弈,可用于线上自动评估推荐解释/文案的质量,无需额外标注,适合业务中快速迭代的Agent或生成式推荐组件。
基于后悔值的多轮澄清基准:评估LLM助手的澄清策略
🧭 对话Agent澄清策略的后悔值评估基准
MBZUAI · BKAI Research Center, Hanoi University of Science and Technology · INSAIT, Sofia University "St. Kliment Ohridski"
提出基于后悔值的多轮澄清基准RegretBench,衡量LLM助手澄清策略的效率与效用,避免仅看最终成功。
📌 工作参考价值(4 点)
- 对话推荐中的澄清策略评估:在电商对话推荐中,用户需求往往模糊,可借鉴RegretBench的后悔值度量,评估系统是否在正确时机提问、何时停止,避免无效追问或过早错误回答,优化用户交互体验和转化效率。
- 优化Agent的停止决策:后悔值框架量化了“多问一轮”的机会成本,可直接用于强化学习稀疏奖励设计,训练Agent在信息增益低于阈值时果断停止,减少对话轮次和用户流失。
- 隐藏意图数据构建:RegretBench的隐藏意图设定可用于生成大量用户意图不确定的模拟训练数据,提升推荐Agent对模糊查询的处理能力,特别适合冷启动或用户画像缺失的场景。
- 多指标评估体系:该工作提醒不要仅看最终准确率,而应同时关注交互成本、无效澄清率,对应搜索推荐中的“结果页翻页深度”或“对话轮次”,可迁移到消息推送频率、主动推荐时机的决策中。
MemTools:面向智能体记忆互操作性的统一研究框架
🧭 Agent 记忆系统模块化框架
Institute of Automation, CAS · University of Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · Zhongguancun Institute of Artificial Intelligence
提出模块化、可互操作的智能体记忆框架,解耦生命周期与评估,支持异构记忆统一接口
📌 工作参考价值(4 点)
- 记忆组件模块化设计:将记忆写入、检索、压缩等生命周期阶段解耦,可灵活组装或替换,在电商推荐Agent中可快速试验不同记忆策略(如用户行为摘要、商品知识图谱记忆)而无需重构整个系统。
- 评估与数据正交分离:在构建购物助手记忆评测时,可复用其评估协议与数据集分离的做法,避免评测逻辑与特定数据捆绑,便于横向对比不同记忆模块在推荐任务上的效果。
- 异构记忆统一接口:支持符号、神经、多模态记忆协同,实际场景中可混合存储用户长期偏好(向量)、实时行为(符号)和商品图片特征(多模态),提升记忆的丰富性和检索灵活性。
- 工程化参考实现:该框架提供了标准化的数据契约和运行时接口,可直接借鉴其架构构建公司内部的Agent记忆实验平台,加速记忆增强推荐系统的开发和迭代。
OpenForgeRL:在任意环境中训练原生 Harness 智能体
🧭 Agent 端到端 RL 训练与 Harness 解耦 ★ 深度解读
Columbia University · Dartmouth College · Microsoft Research
一个开源框架,通过远程容器化与轻量代理解耦,支持用标准 RL(veRL)在任何智能体框架与任何环境中端到端训练 agent
📌 工作参考价值(4 点)
- 训练与推理解耦的工程模式:用轻量级 Proxy 拦截 Harness 的模型调用,自动重建轨迹,直接将复杂 agent 的交互过程转为 RL 可消费的样本,适用于内部多轮对话/工具调用 agent 的在线强化学习,无需重写训练代码。
- 云端容器化 rollout 编排:Kubernetes 编排远程沙箱,每个 rollout 独立容器,训练节点与 rollout 节点完全分离,可弹性伸缩。在电商推荐中可复现这种「训练 GPU + 远程 CPU 执行环境」的解耦架构,用于策略学习或 Agent 探索。
- 自动任务与环境合成流水线:通过「提出-剪枝-构建-测试-精炼」五步法自动生成大量可执行任务与 Docker 环境,可迁移到推荐系统中生成多样化的用户 query、对话策略或评测任务。
- RL 带来的 agentic 可靠性提升:实验表明 RL 显著改善自我验证、工具覆盖率和多步规划能力,但纠错能力依然薄弱。这提示在业务 Agent 训练中,可针对性地引入纠错样例或辅助任务来补强。
AREX:递归自改进的深度研究智能体
🧭 Agent 递归自改进 · 长视野研究 ★ 深度解读
Beijing Academy of Artificial Intelligence (BAAI)
利用发现-验证不对称性,将部分验证的解递归地转化为更聚焦的研究问题,实现长视野深度研究。
📌 工作参考价值(4 点)
- 多约束查询分解与验证:电商搜索中用户需求常隐含多个约束(价格、品牌、特殊属性),可借鉴 AREX 将问题分解为约束束,通过递归验证式搜索逐条核验,避免一次性返回不满足所有条件的商品。
- 自主上下文更新工具:长对话推荐或 Agent 任务中,上下文膨胀会干扰决策。可训练模型自主调用“上下文更新”工具,将已验证的产品属性、未解决的约束及被排除的候选项压缩为紧凑状态,以替代全量历史,降低 token 成本并提升后续推理准确度。
- 关键步聚焦训练:强化学习优化推荐策略时,可标注“关键决策步”(如首次命中正确类目、修复错误搜索方向并转向),对它们施加额外的奖励塑形或集中训练,避免奖励信号被大量常规步庸稀释,显著提升长路径任务成功率。
- 双层循环架构:对于需要持续改进的生成式推荐(如营销文案生成、动态选品策略),可引入内循环产出草稿,外循环按置信度审核并针对性优化未满足的约束,实现可控的、以验证驱动的自我改进,而非无序重试。
CIR 在 iKAT SCAI 2026:探索代理式对话搜索中的澄清需求预测
🧭 代理式对话搜索 · 澄清需求预测
TH Köln
构建代理式对话搜索系统,比较两种澄清需求预测模型在混合主动搜索中的效果
📌 工作参考价值(4 点)
- 代理式架构将检索、重排序、生成等组件工具化,由编排代理统一调度,这种设计可直接复用到对话推荐系统,实现多轮交互中的灵活工具组合与状态管理。
- 澄清需求预测模型可作为对话推荐的关键触发器:在商品属性模糊或用户意图不确定时,主动生成确认性问题(如“您更看重价格还是品牌?”),提升推荐精度与用户体验,尤其适用于高客单价决策场景。
- 采用轻量级 BERT 变体做二分类判断“是否需要澄清”,工程上易于集成进现有搜索/推荐 pipeline,延迟低,可作为强化学习智能体的 reward 信号或规则的前置条件。
- 混合主动(mixed-initiative)模式让系统在必要时介入提问,而非完全被动响应,平衡了自动化与人工干预,可降低推荐冷启动和长尾 query 的失败率。
ICAE-Bench:交互式项目构建编程代理评估基准
🧭 交互式编程Agent评估与用户模拟
Fudan University · Meituan Group · Singapore Management University · Shanghai Innovation Institute
提出首个从模糊需求出发交互式构建项目的编程代理评估基准,包含480个任务与自动用户模拟
📌 工作参考价值(4 点)
- 用户模拟器设计思路可迁移至对话式推荐:使用预定义的“用户数据”来约束模拟过程,避免人为虚构需求或泄露答案,确保交互可重现。搜索/推荐Agent评测中可借鉴此法,用历史行为序列生成模糊意图并模拟用户追问。
- 多维黑盒评估范式适用于Agent推荐:除功能正确性外,还细粒度评估语义相似度、结构保真度、交互质量等,可指导构建推荐/搜索Agent的全面评估体系,防止仅看单一指标导致误判。
- 将模糊需求锚定到具体真实代码库:在电商导购Agent场景,可用真实商品库或业务接口作为“可执行基准”,评估Agent能否将模糊意图(如“帮我找个性价比高的蓝牙耳机”)逐步澄清并落地为具体推荐/搜索动作。
- 通过隐藏约束与边界情况暴露Agent短板:评测表明当前模型擅长表层复现,但对隐藏业务规则、异常分支处理不足。在推荐系统中,可专门设计需要常识推理、用户长尾偏好、促销规则链的测试集,以检验Agent的深层理解与交互决策能力。
基于自主语言代理的个性化推荐工具学习
🧭 Agent 个性化推荐工具学习 ★ 深度解读
Univ. of Illinois Chicago · Microsoft · Beihang University · Hangzhou Innovation Institute of BUAA
用LLM代理调用多个推荐模型作为工具,通过反射机制个性化选择工具,实现全排名推荐。
📌 工作参考价值(4 点)
- 多工具集成架构:将LightGCN、SASRec、SimpleX等异构推荐模型包装为工具,由LLM agent统一调度,通过加权融合(Personalized Tool Memory)得到最终排序。业务中可用类似方式组合协同过滤、序列模型、图模型等多路召回,agent负责动态权重分配,无需改造底层模型。
- 反射记忆更新机制:提出三种反射信号——局部工具评估(基于行为序列相关性)、全局工具比较(跨工具选择最佳)、排名比较(基于留出物品的排名倒数加权),在线更新每个用户的工具权重。该机制可低成本迁移到个性化重排或广告混排场景,用LLM定期(如每日)优化不同打分器/策略的权重。
- 轻量上下文重排:在工具融合分数生成top-N后,用LLM根据用户摘要和物品描述进行二次重排,提升语义匹配度。适用于精排后的小候选集重排,计算开销可控(单张V100 GPU每用户<0.5秒),适合作为排序流水线的最后一环。
- 工程并行化与成本控制:每个用户的工具记忆独立更新,可完全并行;训练时仅需少量用户采样(如160人)进行agent优化,推理时所有用户复用相同工具,Agent阶段可离线完成。这种解耦设计使得LLM调用集中在离线批量任务,不增加在线延迟。
OpenSkillRisk:真实第三方风险技能下的智能体安全基准
🧭 LLM Agent 安全基准评测
City University of Hong Kong · Beijing University of Posts and Telecommunications · Li Auto Inc.
构建含263个真实风险技能的基准,揭示LLM智能体在规避第三方工具风险时的不足
📌 工作参考价值(4 点)
- 在构建面向电商场景的客服Agent或推荐助手时,若需集成第三方工具或自定义技能,可借鉴OpenSkillRisk的分类体系(七类威胁)进行安全风险预审,避免部署后出现有害行为。
- 重点关注“上下文敏感风险”和“系统级风险”,这类风险在当前最安全的配置下仍有17%的执行率,需在代码审查和沙箱测试中额外设计针对性的检测用例。
- 分析三种典型失败模式:未识别风险、识别后未阻止、执行超出用户意图。可在Agent框架中引入“风险识别→人工确认→执行”的防御回路,或通过提示工程强化LLM对恶意指令的警觉性。
- 若自研Agent平台支持外部开发者上传技能(类似插件市场),可参考该基准构建自动化安全扫描流水线,将技能描述与沙箱执行结果结合进行风险评估。
深度研究可靠吗?误导性知识导致错误结论
🧭 Agent 可靠性评估与误导知识防御
Beijing University of Posts and Telecommunications · Shanghai Artificial Intelligence Laboratory · Chongqing University of Posts and Telecommunications
构建误导性知识评估框架,发现深度研究智能体易受虚假信息影响,错误结论采纳率高达54.7%
📌 工作参考价值(4 点)
- Agent 信息源验证设计:可借鉴 MisKnow-Agent 的误导文档构造方式(控制权威性、风格),评估搜索/推荐 Agent 在面对看似可信但错误信息时的鲁棒性,尤其适用于长周期市场分析、竞品调研等场景。
- 多阶段验证架构:论文表明预/后研究防御(如交叉模型验证)能减轻但无法消除错误采纳,启示在 RAG 或 Agent 流程中,需在证据进入中间状态时(如每次检索后)就进行实时验证与修正,而非仅依赖最终报告。
- 错误采纳率指标 (FCAR):可直接复用 FCAR 作为系统脆弱性指标,量化注入误导信息后 Agent 输出错误结论的比例,指导防御策略的迭代优化。
- 权威性偏见干预:发现权威来源和正式风格的误导文档更易被采纳,在推荐或搜索 Agent 中可针对性设计去偏模块,如训练模型区分权威度与可信度,避免权威光环效应。
Solar Open 2:250B-A15B MoE长上下文Agent模型
🧭 大规模长上下文Agent模型训练
Upstage
通过混合注意力与多专家蒸馏,以1/6参数量达到1.6T模型韩文办公Agent水平
📌 工作参考价值(4 点)
- 混合注意力降显存:每三个线性注意力层插一个softmax层、取消位置编码来实现1M token上下文窗口,在长轨迹Agent或对话系统中可大幅降低KV缓存开销,适合电商客服、端到端推荐流等需要处理超长历史序列的场景。
- 多教师在线策略蒸馏(MOPD):先训练12个垂直域专家,再用在线蒸馏合并为单一模型,可复用于电商搜索推荐中的多任务学习(例如同时蒸馏意图识别、商品理解、对话规划等专家),避免维护多个专用模型。
- 数据价值策展:质量与稀有度感知的筛选、混合比例优化使10T数据优于原20T数据,在同等算力下提升效率。可借鉴到构建领域特定预训练语料(如电商搜索日志、商品描述),用更少token达到更好任务性能。
- 参数骨架迁移预训练:从上一代模型继承共享参数骨架(5.69B),其余从头预训练,既保留了原有知识又适配新架构。在推荐模型升级(如从稠密模型转MoE)时可大幅节省再训练成本,快速获得强初始点。
样本高效地从智能体经验中学习
🧭 Agent 经验蒸馏 · 样本高效学习 ★ 深度解读
Monash University · ByteDance Seed
提出经验蒸馏,无需额外环境交互即可将 ICL 增益蒸馏到模型权重,保留 64.8% 增益,比 SFT 高 17 倍,比 RL 节省 9.6 倍样本
📌 工作参考价值(4 点)
- 在对话式推荐或 Agent 系统中,利用用户历史交互作为上下文进行 ICL,再通过单步经验蒸馏将改进的行为固化到模型权重,可大幅减少线上推理时的上下文长度和成本。
- 分支打包技术能够在单个训练序列中高效利用长交互历史中的多个决策点,可迁移至用户行为序列建模,如将多次推荐点击/转化作为监督信号紧凑打包训练。
- 模型自由的单步蒸馏避免了世界模型误差和额外的线上交互,适用于推荐场景中的离线日志训练,无需重新部署模型到线上试验即可提升策略。
- 可借鉴多任务经验蒸馏实现零样本或小样本任务泛化,通过多用户群体的历史经验蒸馏提升模型对新用户的冷启动表现。
DocOps:面向复杂文档操作的自主代理可验证基准
🧭 Agent 评估基准 · 文档操作
Chinese Academy of Sciences · University of Chinese Academy of Sciences · Baidu Inc.
构建可确定性验证的文档操作基准,揭示前沿代理在长程耦合任务中状态跟踪崩溃、浅层验证等关键失效模式
📌 工作参考价值(4 点)
- 评估框架的设计思路(层次化任务分解、确定性验证)可迁移至电商搜索/推荐 Agent 的自动化评测,避免人工标注成本,确保可复现性
- 识别出的三种失败模式对构建面向长流程任务(如多步查询改写、动态过滤条件组合)的 Agent 有直接警示:需加强长程状态追踪、深层次语义校验、避免破坏性操作
- 文档操作中的“全局一致性维护”问题类似推荐系统中多轮对话或交叉操作下的状态管理,借鉴其分析维度可设计更鲁棒的交互式 RecBot
- 若业务涉及报告自动化、表格数据净化等 Agent 编排,该基准的层级分类可直接作为能力分级和测试用例设计的模板
LLM 在动态变化的用户意图中迷失
🧭 动态对话中的意图追踪与评估
Microsoft Research
将静态单轮任务转为带意图演化的多轮对话,发现前沿模型追踪用户意图变化时性能大幅下降
📌 工作参考价值(4 点)
- 对话式推荐/搜索评估必测多轮意图漂移:电商场景中用户意图常随对话逐步细化或变更,现有单轮静态评估会高估模型真实表现,应构建意图演化式的多轮测试集(如从静态问答对中自动衍生多轮序列)。
- 可复现的意图演化数据构造框架:论文方法通过将静态基准转化为带意图插入、修订、重定向的多轮对话,无需新标注,可直接用于生成电商对话质量验证数据,低成本评测意图追踪能力。
- 模型架构/训练启示:高意图变化频率下性能骤降,提示需要显式记忆或意图摘要机制(如维护动态用户画像、对话摘要 Prompt),避免历史信息被冲淡;在微调时加入意图演化样本可针对性提升。
- 工程实现注意:在构建 Agent 对话系统时,应将用户意图变化作为关键信号,监测并触发内部状态更新(如重置上下文或总结已确认意图),而不是单纯拼接历史消息。
Molt:面向智能体强化学习的可扩展PyTorch原生训练框架
🧭 Agentic RL 训练框架 · 异步流式策略优化
NVIDIA
一个轻量PyTorch原生框架,通过异步循环实现策略训练与展开,代码简洁且性能与Megatron堆栈相当
📌 工作参考价值(4 点)
- 快速算法迭代:框架设计为单一研究者可完全掌握的代码量,改动新RL算法只需修改Agent Python程序,适合电商/推荐团队频繁实验新的奖励函数、优势估计或过滤逻辑。
- 异步流式架构:vLLM rollout引擎通过请求路由器和Ray异步队列与训练actor解耦,确保训练数据完全由当前策略生成(无离线数据泄漏),可复用到对话推荐、搜索 Agent 的策略训练,避免分布偏移。
- MoE与多模态支持:框架原生支持混合物专家策略和多模态输入,对电商中的多模态商品推荐、广告文案生成等场景,可直接借助此范式训练大型策略模型。
- 工程实现参考:提供了完整的配方和容器,业务团队可快速搭建起类似的A2C类训练流水线,降低从论文到系统的转换成本。
NexForge:通过需求驱动任务合成扩展 LLM 智能体能力
🧭 需求驱动的 Agent 训练数据合成
East China Normal University · Fudan University · Shanghai Qiji Zhifeng Co., Ltd
提出需求驱动的任务合成框架 NexForge,自动生成多样化可执行 agent 训练数据,显著提升 LLM agent 性能
📌 工作参考价值(4 点)
- 借鉴需求驱动思想,根据业务能力需求(如“自动处理退换货”“批量更新商品库存”)自动生成多样化的终端/办公任务,用于微调内部 Agent 模型,降低人工构造成本
- 采用分布感知编译(基于真实需求日志构建情景和任务概况),使训练数据分布更贴近线上实际,减少偏差,可应用于电商搜索广告 Agent 的训练数据生成
- 框架不依赖领域特定基建,可快速跨场景迁移,例如从终端操作扩展到电商后台、广告投放工具等新工具领域,降低工程门槛
- 利用合成的高质量专家轨迹进行 SFT,验证了数据规模和多样性对提升 Agent 任务成功率的重要性,启示我们可通过自动化管线持续扩展 Agent 能力边界
NVIDIA原生面向对象Agent框架NOOA
🧭 面向对象Agent编程框架
NVIDIA
将Agent抽象为Python对象,方法即动作、类型即契约,统一开发者与模型的编程接口
📌 工作参考价值(4 点)
- 推荐Agent工程化:将推荐逻辑(召回、排序、过滤)封装为Agent类方法,... 体方法由LLM动态补全,普通方法保留确定性执行,兼顾灵活性与可控性,适合搜索推荐多步决策。
- 类型注解即Contract:利用Python类型提示约束LLM输入输出(如 ProductQuery → List[ItemId]),减少prompt模板中的格式说明,自动校验并提高agent可靠性,可直接迁移到现有Pydantic+工具链。
- 可测试可追踪:Agent就是普通Python对象,能用pytest单元测试、用标准tracer追踪调用链,解决生产环境Agent行为难复刻、难调试的痛点,尤其适合电商多轮对话推荐中的状态回溯。
- 事件与上下文API:通过模型可调用的harness API传递上下文和事件,天然适合构建有状态的多轮对话式推荐/搜索Agent,管理长期记忆与用户意图,避免自建复杂状态机。
AgentDebugX: LLM Agent 闭环调试与根因修复工具包
🧭 Agent 调试 · 根因分析与修复 ★ 深度解读
University of Illinois Urbana-Champaign · University of Toronto · Google · Stanford University
提出闭环调试框架AgentDebugX,其多轮根因诊断方法DeepDebug在Who&When上严格归因准确率28.8%优于单次方案21.7%,在GAIA上单次重试修复13/73失败任务。
📌 工作参考价值(4 点)
- 闭环植入推荐Agent质量保障:可将Detect-Attribute-Recover-Rerun流程嵌入推荐系统的Agent执行链路(如多轮对话推荐、商品搜索Agent),自动检测表象失败并回溯到真正决策错误步骤,将根因分析作为线上兜底策略。
- 根因分析用于模型迭代:DeepDebug的多轮全局扫描、结构引导探查与交叉验证机制可直接迁移,用于诊断推荐失败(如错误召回源头、排序打分支离),产出带证据的诊断报告,替代人工日志分析,加速Bad Case修复。
- 可移植轨迹表示降本增效:框架无关的AgentTrajectory格式支持跨LangGraph、CrewAI等常用Agent框架,适合多团队共享同一诊断工具;Error Hub可积累推荐Agent的失败-诊断-修复三元组,形成团队知识库,用于回归测试和长尾错误模式发现。
- 成本可控的渐进诊断:采用“简单规则→单次LLM读取→多轮DeepDebug”的成本递增路径,可根据任务复杂度动态选择诊断深度;对于推荐Agent,高频短链任务用轻量检查,长链多跳任务用DeepDebug避免定位偏差,工程上易于落地。
InternReviewer 与 InternAdvocate:同行评审与反驳的客观奖励与评估
🧭 Agentic RL 学术评审智能体
Shanghai AI Laboratory · Beijing Jiaotong University · Tsinghua University · Renmin University of China
用客观多维 reward 与严格引文验证训练学术评审/反驳 Agent,减少主观评判偏差和幻觉
📌 工作参考价值(4 点)
- 评估与奖励去偏:用多维客观指标(reference-anchored semantic alignment、structural compliance、citation verification)替代单一大模型打分,减少 reward hacking 和主观偏差。在生成式推荐/导购文案中,可定义商品属性一致性、结构模板、引用可验证等可计算的 reward。
- 可验证的引用日志交叉核对:将生成内容中的声明与实时检索/工具调用日志强制对齐,能直接迁移到电商 RAG 问答和商品描述生成,降低幻觉(如虚构参数、不存在的促销)。
- Agentic RL 闭环:先检索证据再生成、用严格验证作为 reward 信号,可复用为“检索-生成-校验” pipeline,适用于需要事实性的营销文案、售后应答等。
- 数据集构建:建设高质量垂直领域数据 + 高效检索工具,是提升 Agent 落地效果的基础,电商可借鉴构建商品知识库与交互日志。
MagicSelector:反事实分解与渐进重排的Agent工具选择联合优化
🧭 Agent工具检索与任务分解优化 ★ 深度解读
HONOR
提出反事实任务分解、自蒸馏重排和动态Top-K,联合优化Agent工具检索,显著提升精度和效率
📌 工作参考价值(4 点)
- 反事实奖励可迁移至电商搜索的query分解/意图识别模块,避免在复杂多意图query下生成无关子查询,通过量化分解对下游召回/排序的边际增益提供因果级训练信号。
- 自蒸馏难负例挖掘与渐进式重排(先点式后列表式)可直接用于广告/商品相似品区分,迭代挖掘高分不相关样本,增强模型对功能相似物品的细粒度判别力。
- 双语义边界感知的动态Top-K截断策略可应用于推荐系统的召回后过滤,自适应截断候选集,减少大模型推理时的token消耗和上下文噪声,避免固定K导致的关键物品遗漏。
- 多轮交互过程级标注数据集构建思路可迁移至对话推荐场景的评估,提供更细粒度的诊断能力,定位是上下文理解、意图分解还是检索环节失效。
证据在环:面向客服LLM智能体的追踪驱动优化
🧭 客服Agent · 混合RAG与追踪驱动迭代
Flsdex
提出基于多路召回、交叉编码重排和跟踪分析的生产级客服Agent,重排序瓶颈大于LLM扩展
📌 工作参考价值(4 点)
- 混合RAG证据构建:多通道FAQ召回(BM25 + 标题向量 + 描述向量)经RRF加权融合和cross-encoder重排,可提升电商客服或商品搜索的覆盖率和边界可控性,重排器可微调以适配域内需求。
- 证据驱动决策模块:Agent最终行动严格基于召回证据和场景规则,避免LLM幻觉;可借鉴到推荐系统,将LLM的输出限制在可检索证据集内,增强可解释性与安全性。
- 追踪驱动的迭代优化:通过trace分析准确定位失败点(召回/排序/规则/澄清),形成诊断→优化→验证闭环;在推荐场景中可构建类似的bad case追踪流水线,指导检索或重排器微调,并监控遗忘风险。
- 策略引导的编排范式:使用固定LangGraph DAG融合RAG证据、对话记忆和澄清状态,保证多轮交互的可控性;在电商多轮对话或搜索Agent中可直接复用此类编排模式。
适配嵌入模型用于智能体能力检索
🧭 Agent 能力检索 · 嵌入模型微调
University of Technology Sydney · Squirrel AI Learning
微调通用文本嵌入模型实现跨目录的 Agent 能力检索,并在未见数据集上验证迁移有效性
📌 工作参考价值(4 点)
- 电商功能/服务统一检索:将商品、工具、服务包装成“能力 profiles”,可用相同范式构建搜索引擎,统一索引异构货架。
- 元数据驱动的 embedding 微调:利用公开元数据自动生成能力描述,无需人工标注大量 query-item 对,可快速搭建新业务的检索基线。
- 跨域迁移的思路:先在一个可获取的源域(如开源 Agent 目录)微调,再部署到目标域(如内部工具/技能库),无需冷启动大量数据,验证了跨目录泛化可行性。
- 模型选择:BGE-base、KaLM-v1.5、EasyRec 等通用检索模型经微调后可用于垂直 Agent 搜索,为工业上选型提供参考。
教智能体停止而不仅是点击:CUA-RL的可靠性度量
🧭 Agent强化学习的方差分析与可靠报告 ★ 深度解读
Cabal AI · Para AI
发现CUA-RL结果被上游方差(数据抽取为主)误导,提出k种子报告协议并揭示修复难度由动作约束决定
📌 工作参考价值(4 点)
- 强化学习训练与评估协议:在推荐/搜索/对话Agent的RL训练中,单次运行的结果不可靠。应采用≥5个独立数据抽取×多训练种子的交叉评估,报告平均数和标准差(或IQM及分层 Bootstrap CI),避免因数据批次差异导致错误结论。
- 统一验证器提升训练效率:将任务完成验证器复用于“提示、教师、奖励、部署门控”四通道,类似在推荐系统中构建自诊断模块,可同时用于在-上下文纠正、知识蒸馏信号、稀疏奖励塑形和在线安全检查。
- 引入行为克隆安装正向动作:当策略从未采样到正确动作(如停止、罕见推荐)时,纯策略梯度无法强化它。利用验证器的蒸馏项(gated BC)注入该动作,可解决稀疏/负奖励场景下关键动作难学习的问题,类似电商推荐中引入用户明确停止信号。
- 数据抽取比种子更关键:方差分解显示训练数据批次差异是效果波动的主要来源(困难任务上占48%方差),训练种子影响小(≤10%)。在推荐系统AB测试或离线评估时,应优先控制训练数据的划分方式,而非仅关注模型初始化。
当模型合并比肩联合多任务强化学习:任务向量几何分析
🧭 Agent模型合并 · 任务向量几何分析 ★ 深度解读
Aimpoint Digital Labs
合并独立RL专家在AppWorld上匹敌联合多任务RL,因任务向量近正交使精细合并方法退化为均匀平均
📌 工作参考价值(4 点)
- 合并RL Agent的策略选择:若各专家任务向量余弦相似度接近零(<0.1),直接模型平均(如TIES、RAM+等复杂方法)即可达到联合训练效果,无需花费精力调优合并超参。
- 几何诊断工具:定期监控训练中任务向量间的余弦相似度,若持续增长并超过某一阈值(如>0.2),可提前终止训练或启用更强干扰消解合并法;若始终近正交,则可安全使用简单平均。
- 支持度与方向解耦的教训:即使多个LoRA专家修改完全相同模块(支持度高重叠),其参数更新方向仍可能近乎正交。设计合并算法时,不能仅依赖支持度重叠(如RAM)来判别共享与私有知识,应引入方向性指标(如余弦或主子空间对齐)。
- 独立训练再合并的可行性:在电商Agent多技能(如搜索、比价、下单)RL训练中,若数据/环境无法集中,可分别训练专项Agent后用平均合并,几乎不损失组合能力。
DataFlow-Harness:用可编辑DAG弥合NL2Pipeline鸿沟的代码智能体平台
🧭 Agent辅助的代码生成与流水线构建
Peking University · Institute for Advanced Algorithms Research Shanghai · Zhongguancun Academy
通过类型化增量突变和MCP落地,引导LLM代理构建可持久编辑的数据流水线DAG,成本与延迟大幅降低。
📌 工作参考价值(4 点)
- 流水线即DAG而非脚本:推荐系统中的特征工程、模型训练、数据回流等流水线常以一次性脚本实现,维护成本高。借鉴DataFlow-Harness,可将LLM生成的流水线固化为可编辑、可复用的DAG,便于版本控制和协作。
- MCP结构化工具暴露:Agent与平台交互时,通过MCP(Model Context Protocol)暴露算子注册、状态等,确保工具调用类型安全。电商Agent场景中,可类似将召回、排序、特征库等组件注册为MCP工具,让LLM可靠编排。
- 增量突变降低生成风险:直接生成完整脚本易出错,改为指导Agent进行类型化增量操作(添加/删除节点、连线),可提升流水线构建成功率。在复杂推荐流水线(多路召回、重排、实验配置)中,这种可控构建思路能减少调试成本。
- Skills编码隐性过程知识:对于依赖领域经验的流水线步骤(如数据分桶、采样策略),可沉淀为Skills指导Agent,减少Prompt工程负担。电商搜索推荐中如索引构建、特征拼接等流程可借鉴。
过程奖励驱动的自适应树展开多轮智能体强化学
🧭 多轮Agent RL · 树展开探索
UC San Diego · Amazon
基于中间过程评分引导树展开,使多轮Agent RL训练更高效,SWE-Bench提升5.0点
📌 工作参考价值(4 点)
- 在多轮对话推荐/搜索中,可将完整对话轨迹组织为树,利用用户中间信号(如点击、停留)或任务子指标做过程评分,及早剪枝无效分支,节省推理成本。
- 对于电商购物助手等多步Agent,把任务分解成子步骤并训练轻量过程评分器,在RL训练时动态分配采样预算,避免在死胡同路径上浪费rollout。
- 借鉴共享前缀复用机制:不同分支共享前半段合理交互,避免重复生成相同历史,显著提升训练吞吐。
- PATR与GRPO/PPO等标准策略优化兼容,可直接嵌入现有LLM Agent训练管线,只需额外训练一个过程奖励模型(可利用业务已有反馈信号),工程落地容易。
基于BERT与候选参与的对话状态跟踪
🧭 对话状态跟踪 · 零样本迁移
OneConnect US Research Institute
利用预训练BERT和候选注意力实现多领域零样本对话状态跟踪,显著提升可扩展性
📌 工作参考价值(4 点)
- 零样本领域迁移:在电商客服或购物助手中,新产品类别(如新增家电品类)无需重新标注对话状态数据,直接用预训练BERT编码schema即可上线,大幅降低冷启动成本。
- 候选注意力机制:对schema中的每一个槽位候选值进行打分,该设计可复用于推荐系统的多意图识别或槽位填充,例如在商品搜索中同时判断用户指定的品牌、价格区间等约束条件。
- 轻量工程实现:整个模型仅基于BERT微调,不依赖复杂本体或额外知识库,适合快速集成到现有对话Agent架构中,作为可插拔的DST模块。
- 跨域泛化验证:在SGD数据集上平均目标槽准确率达到88.7%,较基线提升15个点以上,证明预训练语言模型在结构化对话理解上的迁移潜力,可推广至任务型搜索代理(如机票/酒店比价Agent)。
基于反事实与偏好引导的 Agent 任务分解及工具检索
🧭 因果推理与偏好建模联合优化 Agent 任务分解 ★ 深度解读
Northeastern University · Honor Device Co., Ltd · Beijing University of Posts and Telecommunications
通过反事实奖励消除虚假相关、偏好建模约束结构质量,缓解 RL 任务分解中的奖励黑客与重复生成
📌 工作参考价值(4 点)
- 奖励设计避免表面相关:工具检索任务中,直接用 Recall/NDCG 作为奖励会导致模型通过重复分解、关键词堆砌等捷径提升指标,可引入「去分解基线」计算反事实增益,切断虚假相关,提升泛化性。
- 分解质量的结构化监督:单纯用检索指标缺乏对分解逻辑连贯性、原子性等结构质量的约束,可训练偏好奖励模型(PRM)评估分解结果,提供稠密的结构化学习信号,抑制冗余生成。
- 多轮交互数据集构造:利用状态机驱动的自动生成框架,可大规模构建带有细粒度标注(对话状态、意图演化、原子任务)的多轮对话数据,用于评估和训练任务分解模型。
- GRPO 训练技巧:采用群组相对策略优化(GRPO)替代 Critic 网络,通过组内标准化估计优势函数,降低内存开销,适合在分解策略优化中快速迭代。
将视频搜索为树:自校正智能体实现长视频锚定问答
🧭 自我纠正树搜索智能体实现精准长视频QA
University of North Carolina at Chapel Hill · Sony
构建非均匀时间树并训练智能体通过显式回溯操作实现自纠正搜索,显著提升长视频问答与定位性能
📌 工作参考价值(4 点)
- 长序列定位回溯机制可迁移:电商场景中用户行为序列、商品介绍视频等长序列理解任务,可借鉴树形结构+显式回溯操作,使模型能从错误聚焦中恢复,精准定位关键片段(如商品使用痛点瞬间)。
- 层次化搜索架构:将长内容按语义边界预构建非均匀树,再训练智能体导航,可用于构建“商品视频智能导购”——用户提问时系统自动深入相关片段,并能回溯避免过早锁定错误区间。
- 合成纠错轨迹训练范式:通过故意构造走入错误分支再纠正的轨迹进行SFT+RL,可提升推荐Agent在复杂交互中的鲁棒性,使模型学会自我纠错,尤其适用于多轮对话式推荐。
- 离散操作空间设计:定义有限的原子操作(zoom_in/out/shift/answer),使策略学习更可控,可借鉴到面向搜索/推荐的Agent动作集设计,让模型在复杂检索环境中进行结构化探索。
面向 API 调用 Agent 的无环境合成数据生成
🧭 Agent 训练 · 合成数据生成
Apple
仅凭 API 规范,用 LLM 模拟世界模型生成完整交互轨迹,无需可执行环境即可训练 API 调用 Agent
📌 工作参考价值(4 点)
- 可直接应用于电商搜索/推荐 Agent:无需搭建完整 API 后端(如商品查询、订单状态 API),仅凭接口文档即可生成大量多轮训练轨迹,降低环境依赖。
- LLM 模拟 API 响应时,通过注入任务上下文和交互历史保持状态一致性,可借鉴该思路为推荐 Agent 生成会话数据(如用户连续查询、筛选、下单)。
- 使用 LLM 评委过滤低质量轨迹,确保数据质量,可复用该自动质控流水线于企业内的 Agent 训练数据生产。
- 方法不依赖具体领域,可快速适配新 API 生态,适合多业务线(如搜索、广告、客服)快速冷启动 Agent 训练。
Muon 何时对智能体强化学习有帮助?
🧭 智能体 RL 的优化器选择与联合调参
Renmin University of China · Institute of Computing Technology, Chinese Academy of Sciences · Duke University · Institute of Automation, Chinese Academy of Sciences · Zhejiang University
稀疏奖励智能体 RL 中,Muon 仅作用于隐藏矩阵,在低学习率下使成功率最高达 0.901,远超 AdamW
📌 工作参考价值(4 点)
- 在 LLM 驱动的智能体决策任务(如多轮对话推荐、搜索 Agent)中,可尝试用 Muon 替代 AdamW 进行 RL 微调,尤其只对 Transformer 隐藏权重矩阵应用,以避免全参数替换带来的灾难性遗忘。
- 低学习率(如 1e-5)是 Muon 发挥优势的关键,联合调整 advantage estimator 和优化器能显著提升策略学习效率,实现在线推荐场景下更早达到可用成功率。
- Muon 避免了元素级自适应状态,内存开销更低,适合需要在有限资源下进行实时策略更新的在线推荐系统。
- 目前是单 seed 探索,但的提升幅度(+88%~460%)值得在业务中做多 seed 消融实验,验证其在商品搜索、内容推荐等稀疏奖励任务中的稳定性。
SkillCorpus:整合与评估开放技能生态以助力现实世界LLM智能体
🧭 Agent 技能生态聚合与端到端评估 ★ 深度解读
EverMind · Shanda Group · Peking University
将82万社区技能文件策展为9.6万高质量语料,并在三个真实Agent基准上实现一致增益(最高+13.4pp),揭示覆盖与Harness边界
📌 工作参考价值(4 点)
- 技能库构建与质量控制:多阶段策展流水线(结构过滤→语义去重→LLM三面评分→安全/许可硬门)可直接用于构建内部工具或知识库,尤其安全硬门(命令注入、越权等)对生产环境至关重要。
- 检索增强代理设计:微调嵌入+重排序+LLM终选器的三层检索栈,可借鉴至推荐系统中的工具检索或营销话术生成;按任务域自适应选择技能类别,提升相关性。
- Harness能力决定技能兑现:实验表明同一组技能在不同Agent框架(Raven vs OpenClaw)下增益相差近3倍,提示在选型或自研Agent时需关注执行闭环(如自动验证-修复循环)以最大化外部知识收益。
- 覆盖驱动增益,泛化靠生成:增益与技能覆盖强相关(r≈0.35),缺失领域增益为零但不反损;当业务领域技能稀疏时,可考虑自动生成或自我演化补充,而非仅优化检索。
递归护栏自我改进:少量迭代提升智能体性能上限
🧭 Agent 自我优化 · 提示级迭代改进
Sakana AI · UC Berkeley
提出RHI,通过提示级迭代优化智能体循环,仅需少量样本即可超越最大推理设置并降低60%成本
📌 工作参考价值(4 点)
- 在电商推荐或搜索的Agent工作流中,可对编排提示(harness)进行任务特定的迭代优化,而无需依赖模型推理深度,从而以更低成本获得更优性能。
- 利用成对比较反馈自动优化多智能体间的信息流,提升复杂任务(如多轮对话推荐、用户意图理解)中上下文管理的有效性。
- RHI的轻量级特点(仅需少量迭代与低推理努力Agent)表明,实际业务可快速微调Agent编排模板,避免昂贵的手工设计或重训练。
- 实验显示性能增益源于改进的上下文管理而非更长推理,提示优化Agent间通信机制(如工具调用、中间结果传递)可能比堆叠推理步骤更高效,对商品检索或广告策略Agent有参考意义。
DSWorld:预测数据科学操作效果的世界模型框架
🧭 数据科学世界模型 · 代理训练加速
The Hong Kong University of Science and Technology (Guangzhou)
提出数据科学世界模型预测操作结果,实现代理训练加速14倍、推理加速3-6倍
📌 工作参考价值(4 点)
- 可复用的世界模型思路:在搜索推荐系统的自动化调参或特征工程代理中,借鉴“低代价操作真执行,高代价操作用LLM模拟”的策略,用历史日志训练一个轻量过渡预测模型,减少线上实验成本。
- 结构化状态表示:将工作流状态(数据Schema、模型性能、资源消耗等)组织成结构化文本输入LLM,而非原始代码或日志,能稳定提升预测准确率,可直接用于推荐agent的状态管理。
- 成本感知路由:设定成本阈值,简单操作(如数据抽样、缺失值填充)直接执行,复杂操作(如模型训练)用世界模型模拟,可构建分级探索的AutoML代理,降低计算开销。
- 反思式世界模型优化:利用真实执行后的错误反馈更新世界模型,可将自动化A/B测试的模拟器与线上结果对齐,逐步提升模拟保真度,减少策略上线前的风险评估偏差。
静态检索效用无法预测多步 Agent 搜索中的因果效用
🧭 多步 Agent 搜索中的检索效用评估
University of Calcutta · Missouri University of Science and Technology
在多步 Agent 搜索中,静态低相关文档可能通过提供区分性实体成为关键的“桥梁证据”,静态效用与因果效用近乎独立。
📌 工作参考价值(4 点)
- 构建 Agent 检索模块时,不能用传统静态指标(如 NDCG)评估文档价值,应引入反事实评估(移除文档观察最终答案变化)来识别“桥梁文档”。
- 在电商对话助手等多步 Agent 场景,重视文档的“行动效用”:设计机制让 Agent 从文档中提取区分性实体(如属性、品牌),用于重定向后续搜索。
- 借鉴 CTU 指标(综合最终答案质量、下一步检索质量、步数变化)来全面衡量文档对 Agent 轨迹贡献,而不只看单步问答匹配。
- 训练检索模型时,可利用 Agent 交互数据生成反事实效用标签,直接学习检索对最终任务有用的文档,而非仅优化静态相关性。
Plover:以计划为中心的人机协同 GUI Agent 系统
🧭 GUI Agent 的可监督规划与交互修正
University of California, Davis · Bosch Research North America
通过将任务计划外化为可编辑的交互工件,让用户能局部修正 Agent 行为而保持进度
📌 工作参考价值(4 点)
- 在业务 Agent 中暴露执行计划:对搜索推荐系统的多步调用(如意图解析→召回→排序→文案生成),可将内部步骤结构化为可读的计划树,让产品或运营人员实时查看、暂停或修改中间决策。
- 支持局部编辑与进度保持:当 Agent 某一步出错(如误判意图),允许直接编辑该步参数或替换子任务,而不丢弃已完成的有效步骤,避免全盘重试带来的延迟和算力浪费。
- 结合自然语言与界面截图交互:对于电商后台配置、广告创编等 GUI 密集型任务,可以借鉴自然语言指导与截图标注干预,让领域专家无需懂代码即可修正 Agent 行为。
- 借助失败案例分析改进 Agent 设计:通过显式记录计划执行轨迹,分析哪些步骤易出错,定向优化提示或模型,或积累常见修正模式用于主动提示用户或自动修复。
SAGA:面向智能体 Text-to-SPARQL 的模式感知接地框架
🧭 Agent 交互式 SPARQL 生成 · 模式感知接地
The University of Tokyo · National Institute for Materials Science · RIKEN Center for Advanced Intelligence Project
提出 SAGA 训练无关框架,通过模式约束接地解决智能体 SPARQL 生成中的类型盲问题,显著提升 KBQA 性能并消除空查询。
📌 工作参考价值(4 点)
- 在电商搜推场景中,若利用 LLM Agent 与商品知识图谱交互生成推荐理由或查询,可引入类型约束(如商品类别、属性域/范围)过滤不可能的属性,避免返回空结果。
- 借鉴 SAGA 的双向类型状态(bidirectional type state)机制,在 agent 每一步推理后即时更新实体与属性的类型兼容性,缩小后续接地搜索空间。
- 以紧凑的模式注释格式(schema-annotated format)向 LLM 展示剩余合法属性,减少 token 开销并提升生成准确率。
- 对图谱中缺失的模式信息,可结合历史轨迹局部证据和经验统计宽容处理,适应真实业务图谱的不完整性。
SeerGuard:基于世界模型预测的移动GUI Agent安全框架
🧭 Agent安全框架 · 世界模型预测
JIUTIAN Research
通过预执行指令筛查与动作风险评估,结合多任务世界模型,显著提升GUI Agent的安全效用并降低风险成本
📌 工作参考价值(4 点)
- 在 Agent 流程中集成预执行动作风险评估模块,利用世界模型预测后续状态和风险,可拦截支付、删除等高风险操作,避免不可逆后果。
- 借鉴多任务学习构建安全增强世界模型(SAWM),同时优化语义下一状态预测与安全评分,提升风险评估的准确性和泛化性,可迁移至电商购物 Agent 的安全审核。
- 指令级高风险任务筛查作为第一道防线,快速拒绝“转账”“清空购物车”等敏感指令,降低系统整体风险暴露。
- 引入安全-效用得分(SUS)和风险成本得分(RCS),为 Agent 安全与性能的平衡提供可量化的评估指标,适用于推荐或对话 Agent 的安全测试。
代理优化器增益能否复合?基于 Terminal-Bench 2.0 的持续学习评估
🧭 Agent 持续优化与回归感知搜索 ★ 深度解读
RELAI.ai
两阶段持续学习协议揭示:仅回归感知的优化器 RELAI‑VCL 能同时实现正向迁移与二次提升,终身平均通过率达 76.4%
📌 工作参考价值(4 点)
- 在 Agent 自优化流水线中强制回归控制:每次接受候选更新前,校验其在已解决任务上的表现,拒绝退步的更新。不要等到部署后才回滚。
- 用两阶段评价暴露过拟合与停滞:开发阶段应采用“静态优化 → 迁移到新任务 → 二次优化”的协议,避免仅凭单阶段 benchmark 分数被误导。
- 作为隐式泛化过滤器的回归约束:回归感知搜索会自然排斥仅针对当前任务集的捷径,因此对未见任务有更好的迁移性,这对于推荐/搜索 agent 的 prompt 或工具链优化尤其有益。
- 工程实现时可参考 RELAI‑VCL 的思路:在 agent 框架中内置一个任务类型分类器与完成前的一致性检查门,无需硬编码任务样本即可提升鲁棒性。
DeepStress:深度搜索代理的压力测试
🧭 搜索代理鲁棒性评估与压力测试
Orange Research · Aix-Marseille Univ. · CNRS
提出DeepStress框架,通过控制检索证据的可信度、相关性和事实性来测试搜索代理对低质量信息的鲁棒性
📌 工作参考价值(4 点)
- 搜索/推荐Agent评估中,可构建类似DeepStress的合成检索环境,注入不同比例的不可靠文档(如虚假产品描述、无关广告),提前暴露模型脆弱点
- 评估指标不应仅看最终答案/推荐准确率,需引入指标量化参数知识与检索知识的冲突情况,区分“被误导”与“合理拒绝”
- 在电商Agent中,可借鉴三个扰动维度:可信度(用户评论真实性)、相关性(搜索召回噪声)、事实性(商品属性错误),针对性设计鲁棒性提升策略
- 对于生成式推荐(如Semantic ID),当检索到的item表示被污染时,可模仿本文方法测试生成结果的偏离程度,指导训练或后处理逻辑
多模态资源蒸馏:为软件智能体构建可执行技能库
🧭 多模态技能蒸馏与智能体执行
Microsoft Research · University of California, Santa Cruz · Shanghai Jiao Tong University
从视频、代码、文章等资源蒸馏可执行技能,以层次化多模态技能维基提升智能体在7个创作领域的表现,平均总分提升11.9个百分点
📌 工作参考价值(4 点)
- Agent 技能库构建范式:在电商场景中,可将商品详情页生成、广告创意制作、活动页面搭建等重复性任务拆解为技能,从现有的视频教程、设计模板、代码仓库等多模态资源中自动蒸馏出可执行技能,而非手工编写。
- 多模态技能表示 trick:每个技能条目同时包含结构化文本(步骤描述)、代码片段(可执行工具调用)、视觉示例(关键帧截图)和元数据,这种多信号互补的设计能显著提升 Agent 对操作流程的理解和生成质量,值得在涉及视觉/交互的任务中借鉴。
- 层次化组织与按需检索:技能库采用树状层次结构,Agent 在推理时根据任务目标动态检索并组合子技能;当现有技能覆盖不足时,还能在线从资源中实时获取新技能——这种“存量+增量”的机制可迁移到需要持续扩展能力的电商 Agent 系统中。
- 消融实验结论复用:多模态格式、层次组织、多源资源、选择策略和在线获取都对性能有显著增益,说明在构建类似的 Agent 技能系统时,这些组件都有必要保留。
记忆作为受控过程:LLM Agent 的习得式自适应记忆管理
🧭 Agent 自适应记忆控制 · Contextual Bandit ★ 深度解读
University of California Los Angeles · University of Washington · Northwestern University
将 Agent 记忆访问建模为 MDP,用在线 contextual bandit 学习自适应策略,零额外 LLM 调用且后端无关
📌 工作参考价值(4 点)
- 轻量级记忆控制器:可将 Agent 检索深度、是否注入过往成功策略、何时遗忘陈旧信息的决策,接管为一个表格式上下文 Bandit,在线学习 Q 表,收敛只需几十个任务,无需额外 LLM 推理,适合电商对话 Agent、智能客服等对延迟和成本敏感的场景。
- 后端解耦:记忆控制策略与底层存储(向量库、图记忆、潜 Token 记忆等)分离,现有系统只需暴露检索/存储接口即可无缝装配,便于在推荐商品问答、多轮导购等场景中,渐进式将固定 retriever 升级为自适应 retriever。
- 令牌节省机制:通过抑制无效检索、复用成功计划模板,MEMCON 实现 5–20% 的 token 消耗下降同时提升成功率,对计费严格的 LLM 应用有直接成本收益。
- 状态设计思路:在电商推荐 Agent 中,可按“目标商品类别”“步骤阶段”“是否卡壳”“记忆库规模”等构建紧凑状态,配合少量离散动作空间,即可部署类似 UCB 策略,让 Agent 学会何时更多检索历史对话、何时直接复用成功推荐链路。
经验记忆图:智能体的一次性错误修正
🧭 图匹配驱动的Agent一次性错误纠正
University of Electronic Science and Technology of China · Yangtze Delta Region Institute (Quzhou), UESTC · Shenzhen Institute for Advanced Study, UESTC
通过图匹配失败与成功轨迹,提取编辑操作实现零试错的Agent错误修复
📌 工作参考价值(4 点)
- 对推荐/对话Agent的失败修复:可离线从成功与失败轨迹构建动作决策图,在线匹配快速纠正,避免反复试错带来的延迟和成本。
- 跨任务泛化:利用跨任务边共享修正经验,例如电商搜索中不同品类下的意图误解或步骤遗漏问题,可复用修正模式。
- 工程轻量:记忆图可预先构建,推理时仅需子图匹配与编辑操作检索,不依赖大模型多次推理,适合低延迟场景。
- 扩展至生成式推荐:在生成式推荐流程中,若出现不合理item生成,可借鉴编辑路径思想(增、删、替换)快速调整上下文,提升生成质量。
历史类比深度研究:LLM代理通过因果结构检索与整合历史类比
🧭 LLM Agent · 因果推理与历史类比
Mohamed bin Zayed University of Artificial Intelligence · Carnegie Mellon University
提出因果类比研究框架CANA,通过结构分解与交叉确认将类比发现提升10%
📌 工作参考价值(4 点)
- 结构分解表示方法可迁移:将用户行为序列或市场事件解构为底层因果机制图,避免仅依赖表面特征匹配,增强推荐解释性与稀有事件召回。
- 交叉类比确认机制可用于多路召回融合:从不同历史周期或场景生成类比,再交叉验证一致性,提升推荐或趋势预测的可靠性。
- 反思性反馈设计:在Agent工作流中嵌入类比质量的结构化反馈环,可用于推荐理由生成、营销文案自动优化的迭代修正。
- 整套框架可直接武装企业级情报分析Agent,尤其在做竞品动态预测、行业趋势推演等前瞻性任务时,提供可追溯的类比推理链条。
MyAG:基于图的组合式LLM Agent系统设计与分析框架
🧭 LLM Agent 框架设计与优化
City University of Hong Kong
将Agent系统解耦为组件图、工作流图和搜索图三层图抽象,支持灵活复用与层级组合,并提供监控分析工具。
📌 工作参考价值(4 点)
- 模块化解耦设计:将Agent系统拆分为组件、工作流、搜索三个图,可单独替换策略(如LLM调用、规划器、搜索算法),适合电商多场景Agent快速实验。
- 层级组合与递归:通过递归系统节点支持子Agent嵌套,可直接用于构建多级推荐/对话系统(如店铺级、商品级、用户级Agent分层协作)。
- 运行时执行成本分析:内建LLM调用次数、环境动作次数等统计,方便评估搜索推荐场景下Agent的延迟与成本,指导工程优化。
- 可视化与监控工具:提供Agent执行过程的图形化追踪,便于调试复杂推荐链路中LLM调用异常或工作流死锁问题。
SPyCE:多模态智能体的技能-策略协同进化框架
🧭 多模态Agent · 技能-策略协同进化
Zhejiang University · Beijing University of Posts and Telecommunications
将多模态推理轨迹蒸馏为层级技能库,与策略在强化学习中协同进化,形成自我改进闭环
📌 工作参考价值(4 点)
- 构建层次化技能库:执行技能(局部视觉操作)和工作流技能(高层工具编排),可直接复用于电商多模态Agent设计,将商品图片分析、多步工具调用沉淀为可复用模块。
- 技能与策略闭环进化:在线RL中,用策略生成的高分轨迹持续更新技能库,再用检索到的技能引导策略探索,可实现Agent自我改进,适合需要长期运行的搜索推荐辅助Agent。
- 检索增强的策略条件:将历史成功技能作为先验注入策略模型,可大幅提高样本效率,尤其适用于多步交互场景(如智能客服、视觉比货),避免从零开始探索工具使用模式。
- 视觉操作封装:把图像裁剪、对比、OCR等原子操作抽象为执行技能,可构建可组合的视觉推理流水线,降低MLLM直接操作像素的复杂度。
TRACE:通过冻结参考模型估计步骤信用实现长程 Agent 的稠密奖励
🧭 Agent 强化学习中的步骤级信用分配 ★ 深度解读
University of Wisconsin–Madison · Microsoft Research
用冻结参考模型的金标答案对数概率变化作为工具调用步骤的即时信用信号,无需 Critic 或过程标签,显著提升长程 Agent RL 训练效率与效果
📌 工作参考价值(4 点)
- 冻结参考模型作为价值探针:无需训练额外 Critic 或 PRM,直接用初始化策略作为固定的前缀状态评分器,可稳定地为多轮工具调用提供稠密奖励,适合电商对话 Agent、搜索 Agent 等需要长程交互的场景。
- Log-ratio 状态值设计:通过计算金标答案对数概率的相对间隙闭合度(而非绝对变化),解决了不同置信度下概率变动尺度不一致的问题,能更准确地衡量中间步骤的进展,该方法可直接用于推荐或广告 Agent 中关键决策步骤的信用评估。
- K-step TD 备份传播延迟信用:支持将后续观察到的答案可预测性提升追溯到更早的搜索或文档打开动作,这对网页搜索、商品筛选等多步决策链条非常有益,避免只奖励最后一步而忽视前序关键操作。
- 与结果奖励的混合优化:将 TD 信用作为辅助信号与 GRPO 的结果优势相加,保持最终正确答案作为训练锚点,既缓解稀疏奖励,又防止局部进度信号主导优化方向,这种架构可复现于搜索推荐等需平衡即时反馈与最终目标的场景。
用于代理强化学习的自我演化在线策略蒸馏
🧭 自我演化技能蒸馏 · 代理强化学习
Tsinghua University · Zhejiang University · The Chinese University of Hong Kong · Nanyang Technological University · Tongji University
SEED通过从在线轨迹提取后见之明技能并蒸馏为密集token级信号,弥补了结果奖励与token策略之间的监督鸿沟
📌 工作参考价值(4 点)
- 在训练对话式推荐或工具使用 Agent 时,可从在线轨迹自动提取成功模式/失败规则,蒸馏回策略,缓解稀疏奖励问题
- 用当前策略作为技能分析器实现自我演化,辅助监督与策略分布同步更新,避免离线方案中的分布偏移
- 技能增强的分数重计算(概率偏移)作为密集的 token 级蒸馏信号,可与 RL 损失联合优化,无需额外人工标注
- 提升模型在未见场景的泛化能力,对搜索推荐 Agent 处理长尾查询或复杂对话有一定参考价值
自进化Agent Harness框架:基于语义质量多样性的可信增益
🧭 Agent自进化 · 质量多样性搜索 ★ 深度解读
EverMind AI · Shanda Group
将修改提议与可信度评估分离,通过统计检验和质量多样性归档实现harness稳健演化,跨七领域密封测试增益+9~+15.5pp
📌 工作参考价值(4 点)
- 可信的Harness优化闭环:把提示、知识注入、控制流等harness编辑的评估从模型自身剥离,用配对2σ显著性检验在密封测试集上判定增益,部署时可杜绝“幻觉式改进”,适合要求严苛的电商/搜索Agent运维。
- 病理学驱动的归档(GSME):按*(where×why)*(编辑位置×失败原因)维护精英补丁库,支持跨细胞重组,防止搜索坍缩到安全提示微调。在搜索推荐Agent开发中,可借鉴此结构持续积累针对特定失败模式(如过早结束、空 turn)的修复方案。
- 诊断与信用分离模式:强模型负责诊断和提出补丁,确定性代码负责采样、门控和统计检验,这降低了模型错误判断的风险,适合在Agent pipeline中构建自动化的自我改进模块。
- 跨模型病理-补丁匹配规律:发现harness增益高度依赖模型自身的失败分布,同一病理可能跨模型家族重现。在多模型部署场景下,可复用*诊断-信用*循环,快速为不同基座模型定制harness,而不是盲搬同一套配置。
AI Agent 能否判断任务简单性?面向复杂度感知的推理与执行
🧭 Agent 复杂度感知执行优化
提出 E3 框架让 Agent 先估算任务难度,最小化执行,仅在验证失败时扩展,减少认知冗余
📌 工作参考价值(4 点)
- 最小充分执行原则:在构建推荐系统的多步 Agent(如数据分析、代码调试)时,先尝试用最少步骤完成任务,失败后再逐步扩展上下文,可避免过度检索或调用,显著降低 token 消耗。
- 复杂度感知调度:为 Agent 增加任务难度估算模块,根据任务复杂程度动态分配上下文长度和工具调用次数,防止简单任务消耗过多资源,适合电商场景中大批量轻量查询的自动化处理。
- 冗余度监控:引入类似 ACRR(Agent 认知冗余比)的指标来度量 Agent 执行中的不必要操作,优化工作流设计,帮助我们识别并剪除重复的文件读取或无效推理环节。
- 适应性验证机制:E3 的「先执行、后验证、必要时扩展」策略可直接用于 Agent 驱动的搜索推荐调试、自动 A/B 测试分析等流程,在保证成功率的前提下大幅压缩执行成本。
从成功流中追溯代理失败:无监督失败归因方法
🧭 Agent 失败归因 · 无监督异常检测
仅用成功轨迹训练,通过神经控制微分方程建模动态,高效定位代理失败步骤。
📌 工作参考价值(4 点)
- 对于电商搜索推荐Agent系统调试:可借鉴仅用少量成功轨迹(如100条)训练失败识别模型,避免人工标注错误步骤,大幅降低成本。
- 在A/B实验或在线诊断时,快速定位Agent链中哪一步引入错误(如query改写、召回、排序等子模块),提高迭代效率。
- 方法基于动态建模(神经CDE),能捕捉步骤间时序依赖,适合多步Agent链路(如多轮对话推荐、多阶段广告竞价)。
- 推理速度极快(比基于LLM的提示方法快200-5000倍),适合实时在线异常报警和批量离线分析。
多头潜在控制:LLM Agent推理决策的统一接口
🧭 Agent 推理时控制接口与多模型路由 ★ 深度解读
University of Alberta · Huawei Technologies Canada Co., Ltd.
通过读取冻结LLM的隐状态轨迹,轻量控制头在推理时做出模型选择与干预决策,大幅降低大模型调用成本。
📌 工作参考价值(4 点)
- 在推荐系统的多模型级联(小模型→大模型)中,可借鉴 Capability Head,从生成隐状态预测小模型是否足够,仅必要时调用大模型,节省成本;特别适合基座模型频繁换代的环境,无需重训基座。
- 对于涉及工具调用的推荐 Agent(如实时查询商品价格、库存),可用 Resolution Head 决定调用时机,减少不必要的工具调用,同时避免遗漏关键调用,提升决策准确率。
- 该轻量控制层只需要冻结基座模型的隐状态,训练成本低(单卡一日内完成),适合业务快速实验和部署;训练数据混合多任务、多模态,使控制信号泛化性更强。
- 前缀预测实验表明,仅用部分生成轨迹即可提前判断模型能力,可在生成早期就决定是否升级模型,进一步降低延迟和计算浪费。
功能感知中间填充训练提升编码智能体基座模型
🧭 编码智能体训练 · 函数感知填充
用函数调用结构的自监督中间训练增强编码智能体,在复杂任务上提升超3%并缓解能力侵蚀
📌 工作参考价值(3 点)
- 主要是学术贡献,业务可借鉴点有限。
- 利用程序依赖图选择关键片段进行掩码训练的思想,可迁移到序列推荐中——针对高偏置交互或语义关键 token 进行掩码,强化模型对长程依赖的建模。
- 在对话式推荐 Agent 的训练中,可设计类似的中间训练阶段,注入“查询-结果-使用”的循环偏置,提升模型对工具返回结果的利用效率。
基于证据锚定的可验证智能推理:通过工具见证内核证明消除LLM幻觉
🧭 LLM推理验证 · 证据锚定
提出 EG-VAR 架构,用 Lean 证明内核确保 LLM 推理每一步有可靠证据来源,实现 100% 验证精度。
📌 工作参考价值(4 点)
- 借鉴证据锚定思想:在电商搜索推荐 Agent 生成关键结论(如商品合规性判断、敏感推荐理由)时,强制输出附带数据源引用与验证链,减少幻觉风险
- 轻量级审计机制:可简化 Lean 形式化验证,用规则引擎或数据库约束替代,对 Agent 输出关键字段做一致性检查并记录追溯日志
- 分层设计思路:将高风险决策(如广告内容审核)剥离为独立验证模块,普通 LLM 调用保留灵活性,形成“主推理 + 形式化 sidecar”架构
- 错误处理模式:明确区分“可验证断言”与“放弃输出”,避免 Agent 生成无法验证的内容,提升系统整体可信度
KnowAct-GUIClaw:知识驱动、完美执行的个人 GUI 助理,具备自演化记忆与技能
🧭 Agent 框架 · 自我演化 · GUI 交互
Harbin Institute of Technology, Shenzhen · Shenzhen Loop Area Institute
提出 KnowAct-GUIClaw 框架,通过可插拔的 GUI 子智能体与经验归因记忆、自演化技能库,实现跨平台长程任务自动化,性能超越闭源模型
📌 工作参考价值(4 点)
- 经验归因记忆与技能库的架构可迁移至对话或推荐 Agent:将用户交互历史与反馈持续存入记忆,用于动态更新用户画像和决策策略,提升长会话中的准确性。
- 可插拔子智能体设计适用于多端部署:在电商/广告场景中,可为不同平台(App、小程序、网页)开发专用 GUI 子智能体,共享同一记忆与技能库,降低跨平台迁移成本。
- 技能自演化机制可用于工具调用优化:借鉴其从执行经验中自动提取并泛化“技能”的思路,可让推荐系统或广告投放 Agent 根据历史效果数据自动发现高频操作模式,形成可复用的执行捷径。
- 基于开源的 Agent 框架改造:在 OpenClaw 等现有框架上引入 Know-Route-Act-Reflect 管线,无需从零开发,即可尝试为用户助理类产品增加自我改进能力。
MemOps:长周期对话中记忆生命周期操作的基准诊断
🧭 对话记忆操作评估
将对话记忆评估从黑盒问答转为显式操作诊断,揭示记忆失败的结构化原因
📌 工作参考价值(4 点)
- 在购物助手/推荐Agent中显式建模记忆操作:不要只依赖隐式的长期记忆,设计 remember、forget、update、reflect 等原语,并记录每次操作的范围、触发条件和状态变迁,便于追踪用户偏好演化。
- 评估记忆系统时分离最终答案与内部状态:当Agent回答“我上次推荐了什么”时,不仅检查答案正确性,还需验证内部存储的交互历史是否一致,避免错误答案被掩盖。
- 会话级检索优于逐轮检索:对于基于检索的记忆系统,维持整个会话的上下文窗口或会话级索引比逐轮检索更可靠,可将此原则用于构建商品浏览会话记忆。
- 长上下文模型在记忆轨迹重建上弱:若直接使用长上下文LLM作为记忆载体,需注意其对有序操作序列的遗忘问题,建议结合结构化记忆日志或定期压缩/反思机制。
RxBrain:联合语言推理与视觉想象的具身认知基础模型
🧭 具身Agent联合语言-视觉规划
Tencent Robotics X Team · Futian Laboratory · Tencent Hy Team
将语言推理与视觉想象统一为一个规划序列,实现具身任务的耦合文本-视觉规划与执行
📌 工作参考价值(4 点)
- 多模态规划范式可迁移:将高层语言推理(任务分解、约束、时序逻辑)与视觉状态预测(子目标图像生成)融合成一个序列,这种“语言蓝图+视觉落地”的范式可借鉴到电商商品推荐文案生成中,先规划叙述逻辑再生成对应商品图,提升图文一致性。
- 统一的多模态生成架构:采用单模型支持语言、图像、视频的理解与生成,避免多模型拼接的累积误差。对于需要同时处理商品标题、详情图、视频的推荐系统,统一的 Transformer 混合架构可简化流程。
- 自动数据构造管线:从视频自动分解规划步骤并对齐视觉状态,这种弱监督思路可启发我们利用用户行为序列(如点击→加购→购买)构建“推理-状态”训练数据,训练推荐模型进行因果推理或意图预测。
- 零样本动作扩展:模型在没有大规模动作数据预训练的前提下,仅通过语言和视觉规划直接泛化到连续机器人控制。这提示在多模态推荐中,若将动作空间也建模为序列的一部分,可能实现未见过动作的组合推荐。
谁给评分者评分?自进化智能体评估指标与技能协同演化
🧭 Agent自我改进中的评估指标进化
在没有可靠评估指标时,让评估指标与Agent技能协同进化,保持自我改进效能
📌 工作参考价值(4 点)
- 在无可靠在线指标的场景(如生成式推荐文案、广告创意评估)中,可借鉴利用小规模锚定参考集+未标注输出共识正则化,构建可进化的透明评估指标,避免依赖不可信的自动化评判。
- 将评估指标进化与技能生命周期管理协同的Double Ratchet框架,可直接用于对话Agent、搜索Query生成等自我改进系统,使系统在缺乏人工标注时仍能持续提升。
- 引入anchor discipline(锚定纪律)和外部审计机制,防止指标退化或技能钻漏洞,对电商Agent安全至关重要,尤其当系统输出直接影响用户体验或收入时。
- 在推荐理由生成、商品描述自动优化等任务中,可先用少量人工标注训练初始指标,然后通过协同进化让模型自适应新数据分布,减少人工持续标注成本。
通过表示锚定和语言-动作对齐实现可泛化的VLA微调
🧭 具身Agent微调:表示蒸馏与动作离散化
University of Illinois Urbana-Champaign · Texas A&M University · University of California, Irvine
提出Anchor-Align,用表示锚定和语言-动作对齐防止VLA微调中的灾难性遗忘,提升机器人操作泛化能力
📌 工作参考价值(4 点)
- 多模态对话Agent的连续动作离散化:可将连续动作空间(如推荐系统中的出价、调价)转化为离散方向标签,与语言生成任务联合训练,提升策略的对齐性和解释性。
- 微调中防止预训练表示遗忘:在电商搜索LLM微调时,可引入表示锚定损失(蒸馏冻结模型的中间层),保留通用语义知识,提升OOD泛化能力。
- 离线强化学习/模仿学习的稳定性:对于从日志数据模仿推荐的Agent,该方法可防止分布漂移,尤其适用于长期序列决策的推荐场景。
- 主要用于具身智能,电商直接迁移有限:核心贡献在机器人控制,但其中表示蒸馏和离散动作对齐的思想可跨领域借鉴。
Harness Handbook:面向Agent框架演化的行为中心可读表示与渐进式代码定位
🧭 Agent harness 行为定位与编辑辅助
Tencent · Indiana University · University of Maryland, College Park · University of Georgia · National University of Singapore
通过静态分析+LLM自动构建行为手册并引导渐进披露,解决Agent harness修改中的行为定位瓶颈
📌 工作参考价值(4 点)
- 维护行为手册辅助搜推系统Agent harness迭代:在电商搜索推荐的多阶段pipeline(召回、粗排、精排、重排)中,Agent harness常跨模块分布,修改一个业务逻辑需定位多处代码。借鉴Harness Handbook思路,可对搜推系统Agent框架做静态分析+LLM结构化,自动生成行为-代码映射表,让开发者快速找到所有相关实现点。
- 用渐进披露降低LLM Agent的规划成本:BGPD从高级行为描述逐步引导到具体代码细节,可迁移到内部代码修改Agent(如用LLM规划代码变更)——先定位行为,再展开实现细节,节省推理token并提高编辑计划准确性。
- 强化行为定位验证机制:在实际的Agent harness变更中,引入对候选代码位置的静态验证,可避免LLM规划阶段产生幻觉导致的错误修改,这对高频迭代的电商大促策略调整很有价值。
- 拥抱行为为中心的文档化自动化:搜推Agent的prompt、工具调用、状态管理常分散在多个文件,可仿照此方法生成可读的“行为手册”,降低新人上手和跨团队协作的成本。
基于摘要记忆的可解释 Agent 对话诈骗检测系统
🧭 可解释 Agent · 摘要记忆
University of New Haven
以可解释 Agent 融合单消息与对话级检测,引入摘要记忆跨消息推理,在基准上达 97.8% 准确率
📌 工作参考价值(4 点)
- 摘要式记忆机制可迁移至电商客服 Agent:对长对话压缩关键意图与上下文,避免窗口溢出,提升多轮交互下需求理解和推荐准确性。
- 可解释性设计:输出检测理由,可借鉴到推荐系统的透明性解释,例如解释为何推荐某商品,增强用户信任。
- 多阶段检测架构:结合单消息快速判别与对话全局分析,可类比推荐精排-粗排流程,平衡响应延迟与精度。
- 用户研究评估方法:使用 SUS 量表和前后测对比验证用户信任和接受度,可复用于评估搜索推荐 Agent 的用户体验与 AI 辅助效果。
交互缩放:为测试时计算确立第三轴
🧭 Agent 交互范式与评估接地 ★ 深度解读
Pine AI · University of Washington
提出测试时计算的第三轴——交互缩放,用外部工具反馈打破内部计算天花板
📌 工作参考价值(4 点)
- 用可测量的外部仪器替代 VLM 截图评估:在商品图、banner 广告、着陆页等视觉物料生成场景,直接测量 DOM bounding box 检测重叠、溢出、对齐等问题,避免截图裁切导致评估盲区。
- 引入执行反馈闭环提升代码生成:推荐系统配置、排序策略、特征工程等代码模块,可接入 pytest 或类似执行环境,将失败断言与 traceback 作为反馈信号,驱动模型迭代修复直至 100% 通过率。
- Proposer–Reviewer 分离架构控制成本和方差:让提议模型专注生成,审查模型仅接受结构化缺陷信号(如元素重叠列表)而非原始 stderr,可减少约 28% 的 token 消耗并消除种子间方差。
- 内部推理或采样饱和时,转向外部交互获取新信息:当推荐解释、搜索 query 生成等依赖模型已有知识无法进一步提升时,引入可执行的验证工具(如搜索引擎校验、数据库查询)可突破信息天花板。
面向AI网页智能体的电商网站设计框架
🧭 Agent 可执行性设计提升任务可靠性
提出三个维度的agent-ready网站设计框架,使AI浏览器代理任务成功率从49.3%提升至89.3%
📌 工作参考价值(4 点)
- 结构化产品页提升Agent抓取:用明确的data-属性、语义化HTML标签(如<price>、<feature>)标记商品信息,可大幅降低Agent提取详情失败的PARTIAL率(本实验中从43次降至3次),电商平台可据此优化前端代码生成或模板,让模型更快更准获取信息。
- 动作线索设计减少无效步骤:在关键决策点提供Agent可识别的action cue(如显式按钮“比较所选”或结构化选项列表),使平均步骤从9.31降到6.49,可直接应用到产品比较、多约束筛选环节,提升多步骤任务的完成效率。
- 证据信号增强决策可靠性:为价格、库存、促销等动态信息添加时间戳和状态标签(如price-valid-until),Agent可以利用这些证据判断信息时效,避免基于过期数据做决策,对秒杀、闪购场景尤其重要。
- 可执行性指标体系借鉴:框架定义的agent interpretability、executability、decision reliability三维度,可转化为前端质量评估指标,用于A/B实验对比不同页面方案对Agent性能的影响,驱动迭代优化。
面向连续第一视角视频的主动式助手基准与记忆增强智能体
🧭 主动式智能体 · 长时记忆检索 ★ 深度解读
大连理工大学 · Alaya Lab · 东京大学
构建首个大规模主动式辅助基准 EgoServe,提出免训练记忆增强智能体 EgoMemo,实现基于多尺度记忆的自主干预决策
📌 工作参考价值(4 点)
- 多尺度记忆层次可直接迁移到用户行为建模:将用户 long-term behavior 序列按粒度组织为「短期行为(clip)→ 活动总结(activity)→ 长周期例行(session)」的层次化摘要,在推荐或 push 触发时按需检索不同粒度的上下文,缓解长记忆灾与窗口限制。
- 知识图谱 + 多模态嵌入的并行检索设计值得借鉴:EgoMemo 同时维护语义知识图谱(实体关系)和视觉嵌入库(难以文本化的视觉细节),多路并行检索后做 caption 重建,这一范式可改造用于商品知识图谱 + 用户行为序列检索,提升推荐解释的上下文还原度。
- 将主动干预决策建模为检索增强推理输出:主动推送时机不再依赖硬规则事件检测,而是让 Agent 基于当前上下文 + 检索到的长程记忆自主生成干预决策与内容,可直接应用于电商消息推送、智能客服主动发起对话等场景。
- Caption 重建步骤桥接检索片段与完整上下文:检索到的片段往往是零散的索引或 caption,用 VLM 根据检索目标和原片段重构连贯描述,这能解决 RAG 类系统中“碎片化证据无法直接用于推理”的痛点,可复用到生成式推荐的结果解释或对话上下文中。
MM-ToolSandBox:面向视觉工具调用 Agent 的统一评估框架
🧭 视觉工具调用 · Agent 评估 ★ 深度解读
Apple
提出首个多图像、多轮、状态化视觉工具调用基准,揭示视觉精度是前沿模型的主要瓶颈
📌 工作参考价值(4 点)
- 多模态 Agent 在电商场景的潜在应用:商品图片识别、广告素材分析、用户截图诊断等任务可借鉴该框架的视觉工具调用模式,但当前模型在图像信息抽取精度上不足(53% 的失败源于误读图像),在落地前需要增加视觉校验或人工兜底。
- 评估方法论可直接复用:框架采用“状态差分 + LLM 裁判”双轨评估,实体 F1 衡量结果一致性,裁判器评估任务完成与信息准确度,尤其适合带数据库的后台操作(如订单、购物车、日程)的 Agent 评测。
- 多图像工作记忆是瓶颈:发现“前期一次性给出所有图片”的场景比逐步给图难 20%,说明长期上下文中的视觉引用是弱点。在构建电商导购 Agent 时,可将图片分批发送,降低记忆负担,或引入外部缓存/索引来保存图片信息。
- 执行接口选择依模型而异:代码执行和结构化工具调用没有统一更优方案,应根据所用模型分别测试。小米(4B-27B)模型在代码执行上比工具调用好 6-8 个点,而 KIMI 2.6 在工具调用上反而更强,工程上可提供双模式并 A/B 选型。
PalmClaw:移动端原生设备能力工具化 Agent 框架
🧭 移动端原生 Agent 架构 · 设备能力工具化
The Hong Kong Polytechnic University · Hangzhou Diagens Biotechnology Co., Ltd.
将手机能力封装为结构化工具,任务成功率相对提升11.5%,完成时间锐减94.9%
📌 工作参考价值(4 点)
- 在移动端电商 Agent(自动比价、下单、提醒)中,将设备功能封装为严格参数化工具,可替代脆弱的 GUI 模拟,提升任务成功率。
- 工具定义需明确输入参数与结构化返回,形成清晰执行边界——这一设计与推荐系统中 API 封装(如商品搜索接口)的设计原则一致,可降低 Agent 规划复杂度。
- 长操作序列(如多步 GUI 点击)合并为单次设备工具调用,大幅缩短耗时(实验减少 94.9%),对实时性要求高的搜索/推荐后链路执行有直接借鉴意义。
- 若构建 LLM 驱动的搜索推荐助手,借鉴其设备工具抽象方法,可将每个数据源、模型服务明确定义为工具,使 Agent 调度更稳定可追溯。
ReflectWorld-MM: 面向实体的开放视频流多模态记忆系统
🧭 面向实体的视频流长期记忆 · Agent 记忆增强
Rightly Robotics · Hangzhou Institute for Advanced Study, UCAS · Zhejiang University
以实体为中心的分层多模态记忆系统,在六个长视频与终身记忆基准中全面超越现有方案
📌 工作参考价值(4 点)
- 用户长期兴趣建模:借鉴实体为中心的语义记忆,将用户行为序列中的商品、品牌、品类等作为持久实体,动态更新其表示,避免遗忘历史兴趣,适用于电商推荐中的长周期兴趣刻画。
- Agent 对话记忆架构:分层记忆设计(情景记忆、语义记忆、程序记忆)可直接迁移到对话推荐或客服 Agent,使 Agent 能跨会话记住用户提及的实体及其变化,提升连续交互的连贯性。
- 流式数据处理:感知前端与短时记忆的边界设计,适合工程化实现流式用户行为输入下的增量更新,可参考其在特征存储和实体解析上的工程权衡,构建实时推荐特征管道。
- 多模态扩展思路:若将视频流替换为商品图文流或直播流,实体导向记忆有助于捕捉跨模态的同一商品,为多模态召回或排序提供一致的表征。
生产级LLM代理的自动化红队测试:漏洞概念图发现与复用
🧭 代理安全 · 自动化红队测试
City University of Hong Kong
提出AHA框架,通过假设-伪造-验证循环自动发现代理漏洞,构建跨模型可复用的漏洞概念图
📌 工作参考价值(4 点)
- 代理安全审计可迁移:对于电商/推荐系统中集成LLM代理(如自动化竞品分析、客服回复生成),可借鉴VCG思路构建安全知识库,持续记录攻击面与使能条件,方便后续系统升级后快速复测。
- 假设驱动的红队测试降低人工成本:无需手工编写大量攻击样本,AHA的假设-伪造-验证循环可自动化探索未知漏洞,工程上可用类似沙盒环境对推荐Agent的prompt界面、API调用链路进行持续安全扫描。
- 跨模型可复用性验证:观察到漏洞核心在不同模型间重复出现,启示我们:为Gemma、Llama等设计的防护方案在迁移至内部微调模型时仍可能有效,可优先针对VCG中的使能条件设计防御。
- 场景与通道迁移能力:VCG从直接攻击(如提示注入)迁移到间接攻击(如通过外部文档污染)有效,意味着推荐系统的多路召回或用户画像注入点可复用同一套漏洞假设进行测试,提升安全覆盖效率。
误导图表问答的双路径Agent框架
🧭 Agent 双路径图表问答框架
HKUST · HKUST(GZ)
提出ChartCynics双路径Agent框架,通过视觉诊断与OCR数据验证解耦,大幅提升小模型对误导图表的鲁棒QA性能
📌 工作参考价值(4 点)
- 双路径解耦验证范式可迁移至电商多模态审核:商品图文一致性检查、广告素材合规判定等任务中,可构建类似“视觉异常检测路径 + OCR文本抽取路径”,由Agent Summarizer进行冲突裁决,提高对欺骗性描述的鲁棒性。
- Oracle蒸馏 + 对抗对齐训练方法:在推荐系统对抗恶意行为(如虚假评论、刷单)时,可用Oracle-Informed SFT蒸馏出批判性推理链,再通过Deception-Aware GRPO进行对抗式强化学习,让模型学会识别操纵模式。
- 小模型 + Agent工作流超越闭源大模型:电商搜索推荐场景资源受限时,可将大模型能力拆解为多个专家子路径,通过Agent编排让开源小模型在多模态推理任务上达到甚至超过GPT-4V等专有模型,性价比更高。
- 可借鉴的ROI策略与多证据整合:推荐系统中处理商品主图、详情图等多图像信息时,可引入战略性的ROI裁剪聚焦关键区域,结合文本证据进行最终判断,避免全局视觉偏见。
现代智能体系统的自我改进综述
🧭 Agent 自我改进的系统化综述
Jilin University · King Abdullah University of Science and Technology · Independent Researcher · University of Alberta · The Swiss AI Lab IDSIA/USI/SUPSI
提出系统级框架,将自改进Agent形式化为对模型参数或脚手架的自诱导更新,并整理论坛。
📌 工作参考价值(4 点)
- 在线持续优化推荐策略:在电商推荐中,可借鉴自改进闭环,利用用户交互反馈(点击、转化)自动更新模型参数或提示,实现推荐效果的持续提升,减少人工干预。
- 动态工具与策略脚手架:类似文中的 Scaffolding Improvement,可将推荐系统的召回、排序、过滤等组件视为可动态调整的“工具”,根据实时效果自动调整路由或组合策略,例如动态选择推荐模型、调整混排规则。
- 利用弱反馈信号驱动自适应:论文中总结了多种反馈信号(标量、定性、群体等),实际业务中可利用隐式反馈(停留时长、滑动行为)甚至用户投诉作为改进信号,通过生成-验证-修正循环提升推荐质量。
- Agent 形式的推荐生成:若采用生成式推荐(GenRec),可将推荐生成视为一个自改进 Agent,通过自我反思和多轮交互优化最终推荐结果,特别适用于对话式推荐或搜索结果排序。
重新审视智能体 Harness 进化的评估
🧭 Agent Harness 进化评估
Allen Institute for AI · University of Washington · Independent
自动 Harness 进化在公平比较下未超越简单测试时搜索,且泛化有限,呼吁新评估协议
📌 工作参考价值(4 点)
- 公平基线设计:在为业务 Agent 引入自动 Harness 优化时,必须以简单 test-time scaling(如多次采样投票)为基线,匹配推理预算,确保增益来自设计改进而非额外搜索。
- 防过拟合拆分:搜索配置与最终评估必须使用不同任务集,避免在公共 benchmark 上循环优化导致的过拟合,提升上线后的泛化性。
- 谨慎采用自动进化:实验显示自动 Harness 进化并不稳定优于简单基线,落地时优先考虑可靠的固定 Harness,仅当有强泛化证据时才投入自动搜索。
- 关注现实迁移:评估 Harness 时增加留出任务集测试,模拟业务中分布外场景,防止在熟悉任务上虚高,确保 Agent 在真实多变环境中有效。
LightMem-Ego:面向日常生活的轻量级流式多模态记忆系统
🧭 多模态记忆 · 层次化检索生成
Zhejiang University · South China University of Technology · Central China Normal University · Lenovo Group Limited
一个可部署在手机和AI眼镜上的层次化多模态记忆系统,支持连续积累、组织与检索日常经历
📌 工作参考价值(4 点)
- 对话推荐Agent的记忆架构:将用户行为流组织为“当前/短期/长期”三层记忆,与电商对话推荐中实时意图、近期行为、长期偏好的分层建模直接对应,可参考其时间对齐与路由检索机制。
- 流式多模态积累:对用户第一人称视频、音频流持续处理并按统一时间线存储,可迁移到直播推荐、短视频推荐中对用户行为的细粒度时序建模。
- 查询驱动的动态路由:根据问题类型自动选择检索深度(如只需短期记忆的“东西放哪儿”vs需长期记忆的“习惯分析”),可用于智能客服或推荐解释中的上下文选择。
- 轻量部署设计:系统在端侧运行,推荐系统的在线特征存储与实时召回也可借鉴其内存压缩与分层方案,降低延迟与资源消耗。
ABot-AgentOS: 一种具有终身多模态记忆的通用机器人Agent操作系统
🧭 通用具身Agent操作系统与多模态记忆
Alibaba Group · AMAP CV Lab
提出通用Agent OS层,通过多模态图记忆与失败驱动自进化,提升长期具身任务执行能力
📌 工作参考价值(4 点)
- 多模态图记忆可复用到用户/商品知识图谱:将对话、行为、上下文等异构数据统一为类型化节点与边,构建持续增长的通用记忆底座,可用于电商对话Agent的长期偏好追踪与上下文管理。
- 失败驱动的自进化回路适合在线学习系统:诊断记忆失败自动生成修复规则,且按评估分割隔离,避免污染训练集;推荐系统可借鉴此机制实现模型的持续纠偏与冷启动改善。
- 场景条件规划与多阶段验证提升复杂流程可靠性:在推荐编排或多层排序中,可引入类似“规划-执行-验证”的思维链,对召回、粗排、精排结果进行结构化校验。
- 边云协作架构适合大规模Agent部署:将重计算推至云端,端侧仅保留轻量执行器,为电商Agent的实时性与隐私权衡提供工程参考。
AgentKGV:双阶段训练优化知识图谱事实验证的 Agentic RAG 框架
🧭 Agent 动态检索 · 知识图谱事实核查
SungKyunKwan University · NAVER
结合动态路由、迭代查询改写与双阶段训练,提升 KG 事实核查准确率并大幅降低检索成本
📌 工作参考价值(4 点)
- 电商商品知识图谱质检:可将该框架用于自动校验商品属性、品牌等三元组事实性,及时发现错误信息。
- 检索成本敏感场景的 Agent 设计:借鉴 GRPO 轨迹级优化策略,训练搜索策略模型减少不必要的检索轮次,直接降低线上 API 调用成本。
- 小模型推理稳定性:采用蒸馏 SFT 将大模型推理能力迁移至小模型,用于查询改写与路由,可在资源受限环境保持稳定的 Agent 行为。
- 动态路由与查询改写模块可拆解复用:在推荐系统的 RAG 检索链路中,当用户查询与文档库存在表面形式不匹配时,可嵌入类似的多轮迭代改写机制。
CLI编程代理的失败轨迹:一项过程导向的实证解剖
🧭 Agent 故障过程分析
University College London · Nanjing University
首次大规模实证分析LLM CLI编程代理的失败轨迹,发现失败主要由认知错误驱动且早期隐蔽。
📌 工作参考价值(4 点)
- 代理监控引入过程性指标:不应仅以最终成败评估代理,可借鉴失败轨迹三阶段(onset, evolution, recovery),在推荐/搜索代理的交互过程中实时监测错误征兆,尤其是认知类错误(如错误理解环境状态),在早期步骤插入校验。
- 早期干预策略设计:论文指出多数失败在前几步就已埋下伏笔,且修复机会随时间衰减。在电商Agent工作流(如自动选品、广告出价)中,可对前几个动作设置更严格的沙箱验证或人工确认,阻断错误传播。
- 分阶段日志分析与故障归因:对线上代理的失败案例进行复盘时,可按执行步骤切片并标注错误类型(epistemic vs. aleatoric),定位“不可恢复点”,用于优化提示或工具描述。
- 多框架与模型一致性发现:研究覆盖7个模型、3个coding脚手架,其失败模式具有跨系统一致性,说明某些薄弱点(如对环境状态的误判)是LLM本质缺陷,对多Agent协作系统(如竞品分析、商品信息检索)的可靠性设计有普适参考价值。
分布漂移下通过局部验证实现长程智能体上下文可靠演化
🧭 Agent 持久指令的结构化可靠演化
RedMind Research, San Francisco, CA, USA · National Taiwan University, Taipei, Taiwan
提出图正则化上下文演化(GRACE),将指令表示为类型化语义图并局部验证更新,使长程Agent可靠性提升7倍
📌 工作参考价值(4 点)
- 将系统指令/策略用类型化图(节点+关系)维护,取代扁平长文本,便于增量更新和冲突检测;可适用于推荐Agent的规则积累
- 采用局部邻域验证:修改指令时只检查直接关联节点的约束,避免全局重审,降低校验成本
- 图更新后自动生成文本指令 checkpoint,保持部署兼容性;工程上可作为指令管理中间层
- 使用 pass^k 等严格通过率指标评估 Agent 在分布漂移下的可靠性,比简单成功率更能暴露脆弱性
GRASP:面向 Agentic RAG 的粒度感知搜索策略
🧭 Agent 搜索策略与工具协调优化
University of Massachusetts Amherst · Adobe Research
用强化学习训练 Agent 自适应选择语义搜索、关键词搜索与段落阅读,提升多跳推理的检索与问答性能
📌 工作参考价值(4 点)
- 电商搜索的多跳推理(如“适合油皮的平价防晒霜”)可借鉴 GRASP 的动作空间设计:语义搜索用于初步召回,关键词搜索锁定特定属性,段落阅读验证细节,避免一次性返回大量无关商品描述。
- 奖励函数联合考虑答案正确性、引用依据、工具互补性和步数效率,可直接迁移到 Agent 型产品搜索的在线 RL 训练,缓解探索-利用困境。
- 检索粒度控制在 RAG 场景下对延迟和成本敏感的业务(如实时客服)极有价值:学习何时取整段、何时仅取关键句,可大幅缩减输入 token,加速推理。
- 训练的 Agent 表现出可解释的“略读与精读”模式,可辅助构建可审计的推荐理由生成,增强用户信任。
Mach-Mind-4-Flash:35B MoE模型通过后训练比肩百B级性能
🧭 Agent后训练与强化学习优化 ★ 深度解读
Li Auto Inc.
35B MoE仅3B激活参数,通过多专家RL与MOPD蒸馏融合,在Agent基准上超越10-30倍激活参数的大模型
📌 工作参考价值(4 点)
- 多专家在线蒸馏(MOPD):为电商搜索推荐中的多目标(如点击率、转化率、多样性)独立训练RL专家,再通过MOPD路由融合到单个轻量模型,避免多目标奖励混合导致的指标跷跷板效应,且新增目标只需注册新教师,零代码侵入。
- 奖励课程设计:在稀疏奖励场景(如长周期转化)借鉴两阶段课程,先用过程奖励(中间行为反馈)冷启动,再切换到最终结果奖励,解决强化学习冷启动困难。
- Token效率优化(HMPO):对于推荐系统对话Agent或生成式推荐中的过长推理链,可引入基于自适应长度预算的强化学习压缩,在保证推荐质量前提下降低推理成本,实现19-46%的文本压缩且精度损失≤0.7%。
- 环境扩展(EnvScaling):为Agent训练构建可执行验证的环境池(如文件系统、状态模拟等),可迁移至电商场景,用于模拟用户端到端的操作路径,生成高难度、可验证的决策轨迹,驱动深度搜索或购物Agent的强化学习优化。
语义帕累托-DQN:面向金融异常检测的多目标强化学习框架
🧭 多目标强化学习 · LLM 语义表示
A3Data
用 LLM 编码交易描述作状态,多目标解耦效益与摩擦,打破零召回成规
📌 工作参考价值(4 点)
- 将异构特征转化为自然语言叙述并用 LLM 编码:在电商/推荐系统中,可将用户行为序列、商品属性、上下文信息拼接为简洁的自然语言 Prompt,通过 LLM 获得鲁棒的通用语义 state embedding,替代手工特征工程,提升多模态信号融合稳定性。
- 多目标奖励解耦设计:在推荐场景中(如平衡 CTR、GMV、用户停留时长),采用向量化奖励取代加权求和,每个维度独立反馈,agent 可直接学习不同目标间的权衡,避免标量化带来的目标淹没。实现上可仿照本文 Pareto-DQN,输出多维 Q 值并通过帕累托前沿动态选择动作。
- 利用 RL 处理极端类别不平衡:对于点击、转化等低概率事件,传统分类器容易坍缩到多数类。可借鉴本文的自适应决策理念,用 RL agent 在线决策是否推送/出价,通过奖励信号中显式纳入对少数类的补偿,突破静态模型的 recall 陷阱。
- 帕累托前沿导航实现策略热切换:在线上服务中,根据业务需要(如大促期间更重视 GMV,平时更重视体验)可以实时在帕累托前沿上移动选择不同的策略点,无需重新训练,适合多变的电商运营需求。
智能体系统的共享选择性持久记忆架构
🧭 Agent 记忆架构 · 选择性持久化 ★ 深度解读
Apple Inc.
将智能体会话中的可复用上下文提炼为四种结构化记忆,丢弃推理痕迹,实现跨会话协同与零Token数据刷新
📌 工作参考价值(4 点)
- 选择性记忆分解:将用户会话中的可复用知识拆分为任务规格、数据模式、工具配置、输出约束四类,丢弃推理痕迹和中间文件。在推荐系统Agent中可类似存储常用API Schema、数据源元信息、输出格式偏好,避免重复提供上下文。
- 零Token数据刷新:通过数据注入合约强制生成代码不硬编码数据,新旧数据模式兼容时可零调用更新结果。适用于定期刷新的报表、BI看板、推荐理由生成等场景,直接替换数据源,大幅降低LLM调用成本。
- 摘要替代原始数据注入:用预计算的统计摘要(列类型、分布、样本行)代替全部数据传入Prompt(~500 tokens vs 48K),显著减少输入Token且提升生成准确率。推荐系统中可将用户画像、物品池统计量以结构化摘要形式提供给Agent,避免长文本引入噪声。
- 协作工作空间与版本控制:工作空间支持Git版本回退和草稿隔离,允许非破坏性探索。可借鉴到多人维护的Agent配置管理,如商品推荐策略模板由不同角色协作编辑,回滚机制保障生产环境安全。
AutoPersonas:开放人物演化的多时间尺度循环引擎,缓解角色自我锁定
🧭 Agent 多时间尺度演化 · 防行为锁定
Latrix
发现并缓解长期角色智能体的自我锁定行为——事件看似合理但生活坍缩,通过分离事件、观察与状态并引入发散目标减少重复
📌 工作参考价值(4 点)
- 分离观察与状态更新:在电商对话、客服或用户模拟Agent中,可借鉴OSO循环(Occurrences→Observations→State),要求新事件累积为“观察”并经证据验证后才写入状态,避免每一次交互都直接改变人格或偏好,防止行为漂移。
- 廉价多样性干预:使用上下文切片掩码(context-slice masking)和每样本发散目标(per-sample divergence targeting),在不修改模型本体的情况下降低回复或动作的主题重复率。对于推荐理由生成、多轮对话等场景,可低成本提升输出多样性。
- 采用诊断审计而非基准刷分:通过压缩仿真暴露“水印壳层”、“关系弱化”、“慢变量累积失败”等系统性问题,再针对性设计缓解方案。在推荐Agent长期运行评估中,这种审计思路比A/B测试更能发现隐蔽的坍缩模式。
- 多时间尺度架构:将环境事件、观测、状态分离在不同时间尺度上处理,可迁移到用户长期模拟器或生命周期推荐中,用于生成合理且非坍缩的用户行为序列,支撑更真实的仿真环境。
工作流即知识:大语言模型中介工作流的语义持久性
🧭 LLM 工作流语义持久化
UNHCR · CNR—Istituto Nanoscienze · ZeLe & F ApS
将工作流定义、实例、推理记录等作为可持久化的知识对象,支持工作流的可检查、可恢复和可审查
📌 工作参考价值(4 点)
- 在复杂推荐或广告策略工作流中,可借鉴“derive vs infer”语义区分:将确定性计算步骤(如特征工程、规则过滤)归为 derive,将需要 LLM 判断的步骤(如创意生成、用户意图理解)归为 infer,以控制成本与可预测性。
- 将工作流状态持久化为结构化知识对象(如上下文快照、依赖关系)形成知识图谱,可用于事后审计、错误排查和增量构建,提升推荐管线透明度。
- 利用“语义持久性”实现工作流的中断恢复与人工审批门:当推荐任务被中断(如突发流量)或需要人工干预(如敏感内容审核)时,可基于持久化知识恢复执行,避免状态丢失。
- 该概念模型可用于设计可复用的子工作流模板,将已验证的推荐流程(如召回→粗排→精排→重排)作为知识对象复用,加速新业务接入。
关键时刻的记忆:面向长程智能体的主动记忆智能体
🧭 Agent 记忆干预策略优化 ★ 深度解读
Meta AI
提出将记忆视为主动干预策略,通过独立的记忆代理有选择地注入遗忘关键状态,解决长程任务中的行为状态衰减
📌 工作参考价值(4 点)
- 在对话式推荐、客服等长程 Agent 场景中,可引入独立记忆代理监测用户约束和系统状态,在决策点选择性注入提醒,防止模型遗忘关键要求
- 借鉴记忆银行的分层结构(状态进度、环境事实、过程经验),清晰区分固定约束与试探性经验,方便管理与更新,避免记忆混乱
- 训练记忆干预策略时,先用 SFT 冷启动教会基本的记忆管理操作,再用 GRPO 校准何时保持沉默(null intervention),以减少不必要干扰,该方法可迁移到自研 Agent 系统
- 消融表明被动暴露全部记忆或强制每次注入反而降低稳健性,提示在实际系统中需设计专门的选择性干预逻辑,而不是简单的记忆暴露
ProjAgent:基于过程相似检索的仓库级代码生成
🧭 Agent 工作流与检索增强代码生成
University of California, Irvine
提出程序化相似性作为显式检索信号,结合 Agent 工作流与静态分析反馈,提升仓库级代码生成效果
📌 工作参考价值(4 点)
- 过程相似检索思路可迁移:将任务分解为子步骤,为每个子步骤检索历史上相似的“过程序列”(如策略、操作链),而不仅依赖语义或字面匹配,适合推荐解释生成、多步推荐策略选择等场景。
- Agent 工作流与校验反馈循环:使用静态分析反馈迭代修复代码,类似推荐系统中利用规则或业务逻辑对推荐结果进行事后校验与修正,可设计保守的反馈回路提升生成质量。
- 混合相似度检索策略:将程序化相似度与传统语义相似度融合,构建更丰富的上下文,可借鉴用于推荐系统的多路召回或特征融合,例如同时考虑行为序列相似和内容语义相似。
- 上下文动态构建:Agent 在每步按需检索相关代码片段,可类比为推荐 Agent 在不同决策阶段动态检索不同知识库,提升生成结果与项目级约束的一致性。
认知结构多模态 Agent:带情景视觉记忆的长时对话理解、生成与编辑
🧭 多模态 Agent · 认知记忆结构 ★ 深度解读
Peking University · Tencent Inc. (WeChat Vision)
将视觉历史外化为结构化记忆并选择性检索,8B代理在20轮多模态对话中检索准确率达91.4%,超越32B统一模型且推理时间减半。
📌 工作参考价值(4 点)
- 显式情景记忆管理 & 按需检索:将视觉信息压缩为结构化条目(标签、描述、缩略图)存入外部记忆库,仅检索相关片段注入上下文,可迁移到推荐系统中长序列用户行为建模,避免将所有历史行为塞进模型窗口,降低计算开销并提升跨轮引用准确率。
- 解耦的多模块架构与独立优化:感知抽象(PAE)、检索(CoRE)、任务执行(MEC)互相解耦,支持分别进行SFT和RL训练,并且PAE的优化直接以下游检索成功为奖励,而非独立的描述质量指标。在电商Agent中,可将商品图片理解、意图识别、工具调度分离,各模块可独立迭代。
- 分阶段SFT+RL训练策略:先SFT训练检索器,再通过RL(DAPO)提升检索精度,最后冻结检索器用RL优化记忆写入,形成闭环。推荐系统中的长期兴趣编码、记忆压缩等模块可借鉴:用任务奖励直接优化压缩策略,避免中间指标偏移。
- 工具增强的CMA-Harness部署框架:将执行控制器扩展为工具调用中枢,集成搜索、图像生成/编辑、布局拼接等17种工具,并利用多域持久记忆(会话、用户偏好、素材库)实现跨会话复用。对于搭建商品图合成、营销素材生成、客服视觉问答等Agent应用有直接参考价值。
上下文访问鸿沟:交互级架构作为AI Agent不平等的补充维度
🧭 Agent 交互架构与知识访问不平等
Kansai University
提出“上下文访问鸿沟”概念,揭示动态检索与手动附加上下文在知识工作中的任务成功概率差异
📌 工作参考价值(4 点)
- 设计知识密集型Agent时,优先采用动态上下文检索(RAG)架构,避免让用户手动选择并附加文档,降低认知负担,防止任务成功率随知识库规模扩大而崩溃。
- 在电商运营、广告创意等需要处理大量多源文档的场景中,集成MCP(Model Context Protocol),让Agent自主从用户知识库中检索相关上下文,提升任务完成效率。
- 在Agent产品需求定义阶段,量化评估上下文访问模式的影响,参考论文中“语料规模×任务接合性”的风险公式,为不同用户规模设计合适的检索粒度与上下文窗口。
- 警惕“手动上下文依赖”造成的隐形能力分层,在平台治理时监控用户实际上下文集成方式,避免因架构差异导致部分用户AI效用显著受损,形成新的数字鸿沟。
SMetric: 面向Agent服务的均衡会话中心LLM调度
🧭 Agent 服务调度优化 · 会话中心负载均衡
Shanghai Jiao Tong University · Alibaba Group · ShanghaiTech University
利用Agent工作负载的会话内局部性,通过会话首请求负载均衡+后续请求缓存亲和路由,在不牺牲KV重用下实现高吞吐
📌 工作参考价值(4 点)
- 在电商/搜索Agent系统中,会话内多步请求KV重用率极高(>80%),可采用SMetric的调度策略:每个session的首次请求做简单轮询或最少连接调度实现负载均衡,后续请求固定路由到缓存了前缀KV的实例,兼顾吞吐与延迟。
- 若已有全局KV存储(如分布式缓存层),可将调度策略与缓存分层结合:本地实例缓存热数据,全局存储兜底,使负载均衡不再以完全牺牲重用为代价。
- 会话轮次信息可直接从请求中的session_id或轮次号提取,无需额外状态维护,调度器可保持无状态、易扩展,适合生产环境快速落地。
- 对于采用prefill-decode混部或disaggregation架构的大型Agent服务,该调度方法可提升整体吞吐10-30%,同时降低每token延迟,有效应对突发流量。
Token-Flow 防火墙:持久化 AI Agent 的语义运行时审计
🧭 Agent 运行时安全审计 · Token 流防火墙
State Key Laboratory of AI Safety · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
针对持久化 AI Agent,通过 token 流语义防火墙实现全覆盖预执行审计,将攻击成功率压至 12.5%
📌 工作参考价值(4 点)
- 在构建持久化推荐 / 客服 Agent 时,可对记忆更新、工具参数、检索文件等自然语言 token 流嵌入边界感知审计节点,阻止不安全指令传播到执行器。
- 采用 轻量级本地检查 + 分级仲裁 架构:绝大多数 benign 请求用本地规则快速放行(仅 0.69s 延迟),仅对模糊高风险案例才调用远端大模型裁决,实现安全与效率平衡。
- 借鉴 source‑sink 审计记录的设计,为 Agent 数据流(尤其是来自外部工具的返回值)建立可追溯的语义日志,便于事后分析攻击路径。
- 当系统中 Agent 可调用敏感 API(如商品上下架、价格修改)时,可利用类似机制在工具调用前进行语义拦截,避免 prompt 注入导致的误操作。
Agon: 竞争式跨模型强化学习,隐式对手评分提升推理能力
🧭 Agent 竞争训练增强推理
Independent Researcher · thinkdense.ai
让两个模型互为评分者,通过竞争性RL隐式判断推理质量,无需过程标签,大幅超越GRPO
📌 工作参考价值(4 点)
- 多模型互为评分的训练范式可直接用于对话Agent或推荐解释生成:用一个模型生成,另一个模型评估,交替优化,无需人工标注过程质量。
- 在搜索推荐场景,可让生成式推荐模型与排序模型互相竞争,前者生成item,后者判断合理性,奖励机制为是否比对方更准,潜在提升推理链的实用价值。
- 训练时形成的两阶段级联可直接部署:推荐系统可让轻量模型快速草稿再由精排模型修正,兼顾效率与质量。
- 竞争双方仅需相当实力且行为差异,无需完全对称,启发我们用不同架构或偏好模型进行对抗训练,避免单模型自举的偏差放大。
惩罚路径,奖励结果:面向真实世界 Agent 的高效在线学习
🧭 Agent 路径约束与高效在线学习
Pine AI · University of Washington
用可验证的路径惩罚补充结果奖励,在极少交互下同时达成高成功率和近零违规
📌 工作参考价值(4 点)
- 将业务规则转化为可验证惩罚:在面向用户的推荐或客服 Agent 中,把“不频繁打扰”“遵守工作时间”等硬约束定义为一步即可检测的惩罚,与结果奖励叠加训练,可大幅降低违规率。
- 用惩罚注入方差,提高样本效率:当多个 episode 的结果全为失败时,仅靠结果奖励的 GRPO 等算法会因组内优势为零而浪费昂贵 rollout;对路径施加惩罚能产生可用的组内方差,使学习信号更密集,在推送策略、搜索对话等在线场景中快速收敛。
- 避免纯惩罚导致不作为陷阱:论文总结出四条惩罚设计规则,尤其提到不能只用惩罚而抛弃结果奖励,否则 Agent 会学会“不做任何动作”来逃避惩罚;在推荐 Agent 中设计负向信号时需保持正向结果激励。
- 利用路径惩罚提升无违规率可作为业务上线指标:提出“可部署率(violation-free rate)”指标,可用于评估推荐 Agent 在真实环境中的合规表现,作为上线前的 hard gate。
从原子动作到标准操作流程:LLM Agent 的迭代工具自进化
🧭 Agent 工具自进化与工具集迭代优化 ★ 深度解读
Renmin University of China · Alibaba Group
迭代地从执行轨迹中提取可复用 SOP,并持续合并、评估、剪枝,实现工具集的自进化与精简。
📌 工作参考价值(4 点)
- 在电商/搜索推荐场景中,可借鉴 EVOSOP 的轨迹驱动的工具抽象:从 Agent 多次调用原子 API(查订单、发消息、改状态)的轨迹中,自动提取高频共现的动作序列并封装成 SOP,减少重复推理和 token 开销。
- 工具生命周期管理是工程落地的关键:必须配套合并与剪枝机制,否则工具集会快速膨胀导致决策质量下降。可设计类似 REVIEWER 的轻量级评判器,基于执行成功率、是否引发故障等信号自动淘汰低质工具。
- 非参数化自进化思路值得注意:无需微调 LLM,仅通过优化工具集就能持续提升 Agent 表现,适合模型已封装或不易训调的场景。同时,采用 checkpoint 与“按训练成功轮次选最优工具集”的策略,规避了 LLM 随机性的坑。
- 方法论上的“符号反向传播”类比(从行为轨迹中提取逻辑块固化回工具集)可迁移到复杂多步查询、多 Agent 协作的 SOP 自动发现,比如将跨服务调用的子流程封装成高级工具函数。
从噪声轨迹到根因:结构化轨迹分析与因果提取优化Agent
🧭 Agent 优化 · 因果轨迹提取
University of Chinese Academy of Sciences · Microsoft Research
提出STRACE框架,通过失败模式挖掘和因果定位剔除冗余轨迹与无关步骤,实现Agent反思优化的降噪与提效
📌 工作参考价值(4 点)
- 电商搜索/推荐Agent(如多轮对话、多步查询改写)的失败诊断:可构建执行步骤间的依赖图,用LLM判定因果路径,定位根因模块,避免完整轨迹噪声。
- 批量优化时参照STRACE的两阶段设计:先聚类失败模式,去重冗余轨迹,再在代表轨迹内做因果剪枝,减少过拟合常见但低价值错误的风险。
- 对于在线Agent的持续优化,引入“代表性失败”选择策略,替代随机采样或全量重放,提升反思效率和优化信号的纯度。
- 将轨迹结构化为有向依赖图的做法,可复用至复杂Agent链路的调试工具,帮助开发者快速定位瓶颈步骤。
多教师在线蒸馏中的行为杠杆不平衡与Soft Clamp校准
🧭 多教师在线蒸馏 · 工具调用校准 ★ 深度解读
Ant Group
指出多教师在线蒸馏中局部高杠杆 token 信号会导致工具过呼叫等行为偏移,提出 Soft Clamp 动态压缩极端 token 级散度来校准
📌 工作参考价值(4 点)
- 诊断视角迁移:不要只看全局 loss 或 token 暴露量,要监控决策边界 token(如 <tool_call> 的教师-学生概率差),这个“行为杠杆”能早期预警生成模式漂移。在电商推荐 Agent 或搜索多步推理中,可对关键动作 token(“下单”“点击”“调用函数名”)进行类似监控。
- Soft Clamp 轻量校准:无需改动路由或增加模型,对每个 token 的 JS 散度做 batch 内动态阈值压缩:\(d'_i = d_i \cdot C / \text{stopgrad}(d_i)\),超过阈值只截断前向值但保留梯度。这个方法可嵌入现有 GKD 训练流程,应对多教师蒸馏中某一类行为过拟合的问题(如过度推荐、频繁改写 query)。
- 多教师蒸馏的风险评估:当不同教师负责不同行为模式(如工具调用 vs. 直接回答、生成 vs. 改写)时,即使数据量和散度平衡,也会因模式入口 token 的高杠杆产生行为偏移。在设计推荐系统的多教师对齐(例如点击率教师 vs. 停留时长教师)时,需检查关键决策 token 的局部信号强度。
- 格式锚定:结构化输出(如 XML 工具调用、推荐列表格式)容易发生模式漂移,加入少量监督 loss(如 sft alpha=0.3)作为格式锚定可保持输出可解析,这一 trick 可直接用于生成式推荐中的 Semantic ID 序列格式约束。
反馈操纵正则化:实现离线模仿学习 Agent 对齐
🧭 离线 Agent 对齐 · 模仿学习正则化
University of North Carolina at Charlotte
将评估反馈作为纠正信号融入模仿学习,在序列决策环境中实现离线对齐,最多减少 98% 未对齐行为
📌 工作参考价值(4 点)
- 在离线推荐策略学习中,可将用户行为序列视为演示,将显式反馈(如评分、停留时长)作为纠正信号,通过类似 FMR 的正则项微调模仿学习模型,提升策略与真实偏好的对齐度。
- FMR 的算法无关设计可作为插件直接嵌入现有离线 RL 推荐框架,无需改动原算法结构,降低工程落地门槛。
- 论文在有限数据和噪声演示下的鲁棒性结果,对稀疏反馈或冷启动推荐场景有借鉴意义,可尝试在数据匮乏时引入反馈正则化稳定训练。
- Safety Gymnasium 中定义的对齐评估指标(如约束违反率)可启发推荐系统设计安全约束,避免推荐内容越界(如低质、违规内容),在 Agent 辅助的对话推荐中尤为重要。
SkillCenter:面向自主AI智能体的大规模源归因技能库
🧭 Agent 技能增强与知识基础设施
Stony Brook University · University of Southern California · Lehigh University · Florida State University
提出迄今最大的开放技能库,含216,938个源归因结构化技能,提升AI智能体输出正确性与安全性
📌 工作参考价值(4 点)
- 在电商Agent的开发中,可借鉴源归因机制,要求每个自动化决策或文案生成均关联到具体知识来源(如行业标准、历史最佳实践),从而减少幻觉输出,增强可信度和合规性。
- 技能模板化生成结合SkillGate质量门控,可用于自动构建和维护电商运营知识库(如促销策略、商品描述规范),通过LLM初步生成后自动校验,降低人工审核成本。
- 离线可搜索的SQLite FTS5打包方式适合集成到推荐系统流水线中,为实时决策提供毫秒级技能检索,避免外部API延迟。
- 多源采集(学术论文+社区贡献)的融合思路,可启发构建电商领域的专家知识众包与审核闭环,持续迭代业务知识库。
学习社会规范提升动态人机协调兼容性
🧭 Agent · 社会规范量化与协调优化
量化行人交互中的社会规范三原则(结果可预测、价值对齐、优势意识)使LLM协调得分超基线4倍,超人类43%
📌 工作参考价值(4 点)
- 在电商客服、对话推荐agent中显式定义类“可预测性、价值对齐、优势意识”的规范原则,可通过system prompt或RLHF reward塑造行为,提升用户对连贯性与体谅度的体验。
- 通过小规模人类交互实验提取隐式规范的方法,可迁移到推荐系统:设计轻量级问卷或游戏收集用户动态协作偏好,抽取出“响应时机”“主动推荐程度”等维度,用于微调对话策略。
- 闭-loop交互评测框架(人机反复博弈)可复用于搜索/推荐系统的多轮效果评估,取代单轮离线和静态用户模型测试,更能捕捉长期协调性与粘性。
- 优势意识原则(agent意识到自身信息优势时主动引导)可直接用于主动推荐场景:当模型拥有用户历史、库存等全局信息时,应更主动地提供选项并解释理由,而非被动等待查询。
从开始就已注定:基于召回控制探针级联的LLM Agent尽早终止
🧭 LLM Agent早停与推理节省
Gaoling School of Artificial Intelligence, Renmin University of China · Institute of Computing Technology, Chinese Academy of Sciences · Duke University · Institute of Automation, Chinese Academy of Sciences · College of Computer Science, Zhejiang University
提出召回受控的探针级联,在Agent早期预测失败并终止,节省47%推理计算且保证全局存活率
📌 工作参考价值(4 点)
- 对于线上LLM Agent系统(如购物助手、自动广告投放),可集成轻量探针级联,每轮动态判断是否提前终止,大幅降低无效推理成本(节省约37%-47%)。
- 采用分布无关的校准门控与联合搜索每轮召回预算,能提供用户指定的全局召回率保证(如90%),满足业务对成功轨迹存活率的严苛要求,避免单门累积误杀。
- 探针仅读取隐藏层激活,无需行为特征,工程实现简单;并且实验表明加行为特征无额外收益,确认隐藏状态已包含足够信息,减少特征工程开销。
- 提供的样本复杂度分析方法,可指导业务方评估数据是否足够支撑高召回目标,避免盲目承诺。
从投票到智体协作:答案类型感知的LLM流水线
🧭 多Agent协作与问题类型路由
Korea University · Myongji University · AIGEN Sciences
针对生物医学问答中不同答案类型设计LLM推理策略,结合多智体协作验证取得最佳结果
📌 工作参考价值(4 点)
- 问题类型路由:在推荐/搜索中,可对查询意图分类后路由到不同LLM推理策略,例如事实型查询用CoT,主观型查询用多Agent辩论,减少单一模板的偏差。
- 多Agent验证与集成:对于需要多源证据的推荐解释或复杂决策,可采用类似“提取-生成-验证-聚合”的协作链,提高答案可靠性和可解释性,尤其适合客服Agent或商品选品解释。
- 自反思与顺序扰动:yes/no问题中对证据片段进行洗牌和自反思,可降低模型对输入顺序的敏感性,增强预测稳定性;在广告创意排序或商品评论摘要中可借鉴,避免位置偏差。
- 集成预测与类型定制:将多个模型/模板的预测通过投票结合,并根据问题类型定制集成方式,这种方法可直接用于搜索广告Bidding中的多信号融合,提升出价策略的鲁棒性。
DeepSearch-World:确定性搜索环境中智能体的自蒸馏训练框架
🧭 Agent 自进化 · 确定性搜索环境 ★ 深度解读
HKUST · Tencent · HKUST(GZ)
在确定性 Wikipedia 离线环境中,通过 scaffold 教师轨迹生成与监督自蒸馏,让 9B 搜索智能体自进化至开源领先水平
📌 工作参考价值(4 点)
- 构建确定性离线环境用于 Agent 训练:可借鉴 Wikipedia 离线索引 + 工具模拟,将线上搜索/浏览工具映射为确定性函数,便于大规模生成可验证的训练轨迹,避免线上环境噪声与成本。
- Scaffold 教师轨迹中的规划与反思注入:利用三阶段教师 (Plan-Act-End) 生成包含进度追踪、反思与错误恢复的轨迹,再通过 Scaffold-to-ReAct 转换将结构化状态、反思改写为 ReAct 的 thinking 块,让普通 ReAct agent 学会规划、记忆与自我纠错。
- 自进化循环的异步生成与重要性采样混合:生成与训练解耦,使用指数衰减的重要性采样混合多轮轨迹,优先新高质量样本同时保留早期数据以防遗忘,稳定提升长程工具使用能力。
- 可微调的动作/工具使用行为示例:全流程以 SFT 实现,无需复杂 RL 奖励设计,从正确性验证 + 质量过滤即可提升工具调用成功率与多跳推理深度,适合快速在业务 Agent 中尝试自进化。
WebRetriever:大规模全方位Web Agent高效评估基准
🧭 Agent 评估基准 · 多域导航
Mininglamp Technology · University of Chinese Academy of Sciences · Institute of Automation, Chinese Academy of Sciences
提出涵盖800网站1550任务的多域Web Agent基准与基于交互上下文的评估框架,揭示导航成功率不足以衡量真实效果
📌 工作参考价值(4 点)
- 评估 Agent 时不能只看导航成功率,参考文中三个协议:纯导航、知识辅助交互、端到端信息抽取,可分层诊断 Agent 在搜索/推荐场景中的真实能力。
- LLM-as-Judge 不应仅依赖页面截图,NavEval 强调记录并输入 query 构造、过滤/点击序列等交互上下文,能更准确评判 query 改写、筛选器使用等细粒度动作,可直接迁移至电商搜索 Agent 的自动评测。
- 构建多领域任务集(消费者、专业、企业站点)确保泛化测试,电商/广告推荐 Agent 可借鉴其意图覆盖方法,将用户需求细化为搜索、对比、属性过滤等原子任务。
- 基准提供 1,550 个真实任务,可作为强化学习或 Prompt 优化的 reward 信号源,工程上可利用其诊断结论针对性提升 Agent 在复杂信息提取中的鲁棒性。
CompactionRL:基于上下文压缩的强化学习训练长程智能体
🧭 长程Agent强化学习与上下文压缩
Tsinghua University
提出CompactionRL,联合优化任务执行与上下文压缩,使LLM智能体从压缩长轨迹中学习,显著提升长程编码任务性能
📌 工作参考价值(4 点)
- 多轮对话推荐/搜索Agent的上下文压缩训练:可借鉴CompactionRL思路,让推荐Agent在交互中自主生成紧凑的对话历史摘要,代替人工设计的截断或固定压缩模板,通过强化学习优化压缩质量和任务完成度的平衡,提升长对话下的推荐准确率和用户满意度。
- 联合损失的Token级归一化设计:在处理多目标强化学习(如推荐准确性与解释性文本生成)时,可采用token级别的损失加权,根据序列长度动态调整不同损失项的权重,避免长文本损失主导训练,适用于训练同时生成推荐理由和结果的Agent。
- 跨轨迹广义优势估计(GAE):当训练数据包含多个不同推荐会话(轨迹)时,可借鉴跨轨迹GAE的技巧,更稳定地估计优势值并分配信用,改善大规模离线RL训练的效果。
- 推理阶段的上下文压缩部署:训练得到的自主压缩能力可简化在线推理,使推荐/搜索Agent在有限上下文窗口内支持更长的用户交互历史,降低抛弃历史带来的信息损失,同时节约上下文计算成本。
电商自主购买代理的最优购买时机决策
🧭 最优停止 · 动态阈值 · LLM选择策略 ★ 深度解读
Rotman School of Management, University of Toronto
在平稳、贝叶斯、鲁棒三种信息假设下推导购买阈值策略,并用Amazon价格数据验证LLM更适合模型选择而非直接决策。
📌 工作参考价值(4 点)
- 价格监测与购买代理可将购买决策建模为最优停止问题,根据可用信息选择策略:历史数据充足且平稳用动态阈值;分布未知用贝叶斯后验更新阈值;数据极稀疏或环境不稳定时用随机阈值保证最坏情况性能(竞争比/最小最大遗憾)。
- 工程架构上可采用双层设计:由LLM或启发式诊断选择信息假设模型(平稳/贝叶斯/鲁棒),再由优化层求解阈值策略;实验显示这种“LLM选择+OR执行”的混合模式优于LLM直接做买卖决策。
- 理论给出的阈值单调性(对剩余时间、价格调整频率、消费者估值、信念的单调关系)可用于实时调整代理的购买激进程度,例如随着剩余时间减少或消费者估值升高自动提高接受价格。
- 鲁棒策略中的随机阈值思路为应对“闪购”式价格突然回涨提供了保护,特别适合促销追踪、库存紧张等场景。
基于前缀重放的多轮在线策略蒸馏
🧭 Agent 多轮交互蒸馏 · 前缀重放 ★ 深度解读
Microsoft Research · University of Amsterdam
用教师前缀重放替代环境交互,以步骤衰减平衡学生相关性与教师可靠性,实现加速免工具调用的Agent蒸馏
📌 工作参考价值(4 点)
- 离线环境训练Agent:若业务中存在多轮对话推荐、工具调用Agent(如商品推荐对话、搜索推荐辅助),可用教师模型的历史交互轨迹作为离线重放池,学生只在重放前缀上生成动作,无需实时调用外部API或模拟器,大幅降低训练基建成本。
- 前缀分布控制策略:将多轮蒸馏转化为“有效前缀分布设计”的思路,可迁移到序列生成或对话生成的密度蒸馏,通过在轨迹不同位置施以衰减权重,抑制后期累积误差对监督信号的影响,改善学生模型的长程表现。
- 复用RL训练轨迹:教师进行在线策略强化学习(如GRPO)时产生的轨迹可直接作为蒸馏前缀池,无需额外采集费用,该“免费”数据复用模式可用于业务中已有RL训练管线的场景,提升样本效率。
- 多环境统一蒸馏:若需要训练一个同时处理多个垂直领域(如搜索、推荐、工具调用)的通用Agent,可将各环境的教师轨迹分别收集后合并为一个离线池,从而避免同时部署多个在线环境,降低系统工程复杂度。
渐进式披露在 LLM 维护 Wiki 知识库中的预注册消融研究
🧭 Agent 自主路由优化知识检索
AI for Altruism (A4A)
工具型 Agent 直接推断页面路径,避免索引加载,成本节约来自更精准的访问而非预期节省
📌 工作参考价值(4 点)
- 在 Agent 设计中不必预装大型索引,让模型自路由推断所需页面路径,结合轻量目录可大幅减少工具调用和 token 消耗
- 电商商品知识库可借鉴“目录+摘要”结构,推荐引擎先查目录再按需取详情,减少无关上下文
- 自路由 Agent 在无需严格协议时效率更优,RAG 或 Agent 工作流可给模型适当自由度
- 预注册消融与工具性效度威胁分析可用于构建严谨的对比评估,尤其多臂实验的变量控制
MetaSkill-Evolve:通过双时间尺度元技能进化实现 LLM Agent 递归自改进
🧭 Agent 递归自改进 · 双时间尺度进化
LMU Munich · The Chinese University of Hong Kong · MCML · MemAgents Lab
提出双时间尺度框架,让 Agent 的任务技能和元技能(改进流程)都能递归自进化,提升长程任务表现
📌 工作参考价值(4 点)
- 技能文件自动演进:可将推荐对话 Agent 的回复策略、多轮流程写为 Markdown 技能文件,由 Agent 根据交互反馈自我反思、改写,减少人工维护成本
- 双层进化机制:慢速更新“如何改进”的元技能(分析/检索/分配/提议/进化配置),快速更新具体任务技能,使 Agent 能适应不同任务分布,可迁移到推荐策略的自适应优化
- 单一冻结模型复用:整个改进流水线共享一个冻结 LLM,无需额外训练,适合线上部署 Agent 快速迭代实验
- 整体借鉴:在推荐/搜索场景中,为 Agent 引入可编辑的技能库,并记录执行轨迹,用 LLM 从失败案例自动提炼改进规则,实现持续自提升
RoboTALES: 用任务对齐模拟未来学习推理引导的机器人策略
🧭 LLM/VLM 协同推理与视频想象策略
University of California, San Diego
提出层次LLM规划器与VLM批评家联合引导视频生成,使机器人策略在长视野操作任务上显著优于现有方法
📌 工作参考价值(4 点)
- 层次化LLM任务分解可用于复杂推荐流程:将多步推荐(如先吸引兴趣再推荐买点)拆解为子目标序列,指导生成式模型逐步生成商品描述、话术或创意,提升过程可控性。
- VLM critic 反馈对齐生成目标:在文案/素材生成中引入视觉-语言模型做“想象结果”评估,通过 reward 微调内部表征,让生成内容更贴合最终转化意图,类似 RLHF 但针对多模态生成。
- 单阶段端到端训练框架:无需预训练视频模型分离,直接把规划、想象与策略学习串联优化,适合将 Agent 的规划模块与执行模块联合训练,减少模块间误差累积。
- 用生成式模型做“世界模拟器”:在推荐系统中,可以预测用户兴趣演化轨迹(想象未来行为),据此提前布局推荐序列,类似用扩散模型生成用户状态 rollouts。
TurnOPD:让在策略蒸馏感知轮次以实现高效长时智能体训练
🧭 在策略蒸馏的轮次感知预算优化
复旦大学 · 腾讯混元
通过轮次级预算策略解决长时智能体训练中全轮次 rollout 浪费与令牌级损失偏向浅层的问题
📌 工作参考价值(4 点)
- 自适应 rollout 深度:可借鉴到电商对话 Agent 训练,当模型在多轮交互中已产生足够确定性决策时提前终止 rollout,节省推理时间,适合在线学习场景。
- 渐进式轮次归一化损失:解决序列开头 token 损失占比过高的问题,让训练更关注中后段的关键决策点,适用于需要多步工具调用或搜索推理的推荐/购物助手 Agent。
- 探针统计指导预算分配:通过简单探测动作分布决定是否继续 rollout,这一思路可复用到流式训练资源调度中,动态决定分配给不同样本的计算量。
- 基于壁钟时间的公平比较:该评估方式对业务系统有启示,实际部署更关心训练时间而非采样数,优化壁钟效率比仅看样本效率更有工程价值。
VaseMuseum:面向古希腊陶器的可信多模态数字博物馆 Agent
🧭 Agent 多模态推理与可靠性控制
通过证据级与响应级双重可靠性控制及无训练 GRPO 选择,缓解 VLM 在专业检索中的幻觉与过度自信
📌 工作参考价值(4 点)
- 检索增强生成的双重可靠性控制:在电商商品问答或推荐解释生成中,可先检索权威来源,通过源级控制过滤多样且可验证的证据,生成后由响应级控制检查声明是否被证据支持;若支持度低,强制输出中性回答,有效抑制幻觉。
- 无训练推理时选择机制(GRPO-style):不更新 VLM 骨干,从多个候选回答中选择引用有效性和置信度校准更好的结果,适合成本敏感或无法微调的场景,可直接嵌入推荐 Agent 的答案生成模块。
- 3D 多模态感知与推理:支持 2D 图像和 3D 点云输入,可为商品 3D 展示、AR 试穿等场景提供知识增强交互的参考架构。
- 模块化 Agent 设计:感知、检索、推理、控制解耦,便于在现有推荐或客服 Agent 中按需插入可靠性控制组件,快速提升可信度。
EdgeBench:真实世界智能体学习性能的对数S型缩放定律
🧭 智能体环境学习缩放定律
ByteDance
首次发现智能体在真实环境中的长时间学习遵循精确的对数S型缩放定律,R²达0.998
📌 工作参考价值(4 点)
- 长时间运行智能体的性能预测:在电商广告自动优化、推荐系统持续调参等场景下,可借鉴对数S型曲线($S(t) = \frac{S_{max}}{1 + (t_{mid}/t)^\beta}$)刻画智能体从环境反馈中学习的规律,预估性能饱和点,避免无效等待。
- 任务设计与评估框架:EdgeBench 要求单任务至少 12 小时连续运行并提供多级丰富反馈,类似方式可用于构建电商场景的长期智能体评测集(如七天不间断选品与出价),量化模型在真实业务流中的持续学习能力。
- 学习速度的迭代改进:论文发现智能体学习速度约每三个月翻倍,这启发我们在推荐智能体迭代时,关注模型代际的策略学习效率提升,将“学习速度”作为选型指标。
- 反馈机制设计:任务提供多级环境反馈(即时奖励、子任务完成信号等)是性能规律显现的关键,推荐系统中的智能体也应引入多层次、非延迟的反馈信号,以支撑稳定学习。
Light-Omni:以反思取代推理的轻量级长时记忆视频智能体
🧭 Agent 轻量级视频理解框架
Nanjing University
通过全局与隐状态实现单步上下文驱动动作,以反射取代迭代推理,速度提升12.1倍、精度提高2.4%
📌 工作参考价值(4 点)
- 全局状态压缩历史的方法可迁移到推荐系统的用户行为序列建模:通过层次化合并保留近期细节、总结远期事件,平衡记忆容量与信息保真度
- 隐状态直接驱动动作的架构能避免昂贵的长链推理,适用于实时推荐中的快速决策(如排序、召回策略的动态生成)
- 双状态设计(全局上下文 + 条件化隐状态)分离了语义理解与动作执行,可借鉴到 Agent 框架中提升检索语义对齐性
- 记忆系统作为即插即用模块增强现有模型,推荐大模型可引入类似长短期记忆以提升连续会话的上下文一致性
LLM作为验证器:通用细粒度验证框架
🧭 Agent验证与测试时扩展 ★ 深度解读
Stanford University · UC Berkeley · NVIDIA Research
用token logits期望代替离散评分,实现连续验证并支持评分粒度、重复、分解三维扩展,跨域SOTA
📌 工作参考价值(4 点)
- 连续评分替代离散打分:提取评分token完整logits分布求期望,消除离散评委的高平局率(27%→0%),可迁移到任何需LLM打分排序的场景(广告/商品质量评估),显著提升区分度。
- 三维验证扩展:通过评分粒度(1→20 tokens)、重复评估(1→16次)、标准分解(单标准→多标准Ensemble),验证准确率从73%提升至78%,工程中可按成本预算灵活拼接,平衡精度与延迟。
- 成本高效候选选择:概率枢轴锦标赛(PPT)算法,仅需𝒪(Nk²)次比较(k≪N),利用环形消除位置偏置并集中预算于前k候选,适用于大规模召回后的精排或生成式推荐item pool筛选。
- 验证分数作为稠密RL奖励:将连续验证信号作为中间过程奖励,显著提升off-policy SAC(约1.8×样本效率)和on-policy GRPO(1.1×效率)的训练速度与最终成功率,可直接用于推荐策略或聊天Agent的强化学习优化,无需手工设计奖励函数。
UI-MOPD:面向持续GUI智能体学习的多平台在线蒸馏方法
🧭 GUI Agent 持续学习与跨平台适应
Tsinghua Shenzhen International Graduate School, Tsinghua University · Xiaomi · Harbin Institute of Technology, Shenzhen · Zhejiang University · Peng Cheng Laboratory
提出多教师在线蒸馏持续学习框架,动态选择平台教师,缓解跨平台GUI智能体的灾难性遗忘与行为冲突
📌 工作参考价值(4 点)
- 电商多端(APP/PC/小程序)自动化运营 Agent 可采用多教师在线蒸馏,避免不同平台操作惯例冲突,保留端侧特有行为模式,减少为每端单独维护模型的成本。
- 平台条件蒸馏通过环境信号动态路由选择特定教师,能使统一策略模型灵活适应多端环境,适合搜索推荐系统中跨端交互流程的自动化。
- 构建跨平台操作轨迹数据时,可借鉴 Uni-GUI 的收集策略(如多源采集、平台覆盖、操作可执行性过滤),提升训练数据质量与平台泛化性。
- 策略回放机制可迁移至电商 Agent 的持续学习中,防止新增端侧任务时旧端侧能力的灾难性遗忘。
三思而后行:将树搜索蒸馏为冻结VLA模型的动作评估
🧭 Agent 动作评估与测试时缩放
Nanjing University · Australian National University · Institute of Automation, Chinese Academy of Sciences · Nvidia
通过MCTS树搜索采集轨迹并蒸馏为轻量Q值模型,解耦动作提案与后果评估,在不微调VLA下显著提升泛化与效率
📌 工作参考价值(4 点)
- Agent 动作解耦范式:将动作生成(VLA)与长期后果评估(Q模型)分离,保持通用模型冻结,仅训练轻量评估器,避免微调带来的泛化能力损失,适用于电商推荐Agent中对话/多步决策的在线动作选择。
- 仿真树搜索蒸馏:利用离线仿真环境或历史日志构建奖励信号,通过MCTS充分探索候选动作空间并收集带回报的轨迹,蒸馏为Q值预测器。在搜索推荐Agent中,可对候选query/文案/策略进行前瞻性评估后再执行。
- 测试时缩放替代模型缩放:通过增加候选动作采样数(如pass@k)和评估器计算来提升性能,比直接扩大模型更具性价比。例如在低延迟要求下,用小模型生成多候选+评估器挑选,超过大模型效果。
- 不确定性正则化Q值:在选择动作时结合不确定性惩罚,平衡探索与利用,可借鉴到多臂老虎机或在线探索推荐场景,用于候选物品/文案的最终择优。
离线强化学习泛化:悲观结构比悲观程度更重要
🧭 离线RL泛化 · 悲观结构对称性
Delft University of Technology
在上下文MDP中,悲观结构的对称性而非悲观程度,决定了离线RL最优泛化;建议用策略提取一致性增强。
📌 工作参考价值(4 点)
- 设计离线策略学习时,优先考虑数据覆盖的结构对称性,而不是盲目调节保守系数。
- 数据增强不应仅用于扩充训练集,更应通过策略提取阶段的一致性损失注入对称归纳偏好,尤其适用于已知旋转、平移等对称性的推荐/Agent环境。
- 若业务场景存在对称性(如用户偏好对商品类别旋转不变),可显式约束价值函数对称,以提升泛化。
- 离线训练Agent时,避免在增强数据上直接做价值迭代,改用先离线训练再策略提取时加入一致性正则,能更稳定地利用增强。
将 Agentic Search 引入地球观测数据发现
🧭 Agent 驱动的搜索与重排序 ★ 深度解读
University of Maryland, College Park · University of Florida
利用论文-数据集引用图构建超大评估集,并通过 NN-SSC 域修正+BM25 融合及 Agentic 工具调用将检索精确率提升超 5 倍
📌 工作参考价值(4 点)
- 借鉴引用图谱构造评估集:如将用户实际购买/点击的物品作为 silver label,构建百万级 query-item 对,低成本获得高质量的离线评测数据。
- NN-SSC 轻量域适应:冻结通用 Encoder,仅训练一个 3 层 MLP 头(46 万参数)修正域偏移,可快速部署到任何已有向量召回服务上,成本极低。
- 混合检索的解析融合权重:利用训练集上各检索支路的性能之比(π_n/(π_ℓ+π_n))自动计算融合系数 α,无需网格搜索,直接用于 BM25+向量分数的凸组合。
- Agentic 重排序提升 GMV:在候选集确定后,让 LLM 自主调用商品百科、用户问答、外部网页等工具补充上下文,可有效解决长尾 query 和歧义商品的排序问题,尤其适合高客单价决策场景。
具身智能体架构设计的自动搜索
🧭 Agent 自动化架构搜索
Australian Institute for Machine Learning, University of Adelaide
首次系统评估在具身模拟环境中用架构搜索自动化设计Agent,揭示噪声与局部最优等局限
📌 工作参考价值(4 点)
- 架构搜索范式可迁移:将 Agent 设计视为图编辑任务,用“提议-批判-实验-蒸馏”循环自动优化,可用于电商推荐 Agent 的模块组合(如召回/排序/记忆/工具调用),减少人工试错。
- 类型化图运行时:AgentCanvas 把 Agent 表示为可编辑节点-连线程序,支持带类型校验的执行和回滚,类似思路可用于搭建推荐系统 Agent 的可视化编排与自动搜索。
- 关注搜索噪声与局部最优:具身环境中 rollout 噪声会掩盖真实信号,导致搜索陷入局部编辑盆地,提示我们在业务 Agent 架构搜索中需设计鲁棒的评估策略,如多次采样平滑、引入对抗验证。
- 引入反思机制:KDLoop 在优化停滞时触发反思,可借鉴到电商 Agent 的持续优化中,当线上指标不再提升时,自动回溯日志、重提假设,防止过早收敛。
SkillFuzz:开放技能市场中技能组合的隐式意图模糊测试
🧭 Agent 技能组合安全测试 · 模糊测试
University of Liverpool · Mohamed bin Zayed University of Artificial Intelligence
通过合约引导的蒙特卡洛树搜索在无执行环境下模糊测试技能组合,发现隐式意图
📌 工作参考价值(4 点)
- 在电商/推荐多技能 Agent 系统中,可借鉴 skill contract 提取方式,将技能的自然语言描述结构化,用于自动检测技能组合时的意图漂移。
- 采用无执行环境的“规划工件 + 差异 oracle”测试方案,在技能上线前即可发现组合风险,避免线上推荐被重定向至非预期目标。
- 合约引导的 MCTS 搜索策略以极低的组合探索比例覆盖高风险空间,可应用于 Agent 编排器的安全约束生成,例如限制同时激活的技能对。
- 对隐式意图的分类与严重性判定方法,可迁移至电商对话 Agent 的质量保障流程,提前屏蔽“促销+比价”等技能组合导致的隐性推荐偏差。
SkillOpt-Lite:一行代码实现更优更快的 Agent 技能自我进化
🧭 代理技能自进化 · 零阶优化
LMMs-Lab · NTU MMLab · Microsoft
用零阶优化与三项原则将 Agent 技能优化精简为一行代码,提速收敛并让纳米模型超越大模型
📌 工作参考价值(4 点)
- 借鉴 SkillOpt-Lite 的最小管线思路,可把推荐系统的策略文档/提示工程当做可编辑代码,通过文件轨迹探索+共识挖掘自动化迭代,减少人工调参。
- 独立验证门控(independent validation gating)能作为推荐系统在线实验的安全网,自动拦截效果退化。
- 零阶优化对不可微的 LLM 推荐链路适用,可用于优化召回 query 生成或排序 prompt,无需访问模型内部梯度。
- 一行 vibe 命令集成进 VSCode 的哲学,可启发构建面向业务分析师或运营的“一键调优推荐策略”工具,降低门槛。
推理努力而非工具访问带来智能体代码生成的首次可靠性
🧭 Agent可靠性优化 · 推理努力大于工具
TrendAI
提升推理努力(xHigh)使首次完美运行率从28%跃至89%,而测试工具未提高功能得分
📌 工作参考价值(4 点)
- Agent能力设计权衡:电商推荐/对话Agent中,盲目增加工具(如查询商品库、检查价格)可能只增成本而无益于任务完成率,类似本研究中测试工具未提升功能评分。应优先提升核心推理能力(例如使用更强模型或增加推理步骤),再针对性补充工具。
- 成本控制与推理深度:将推理努力从High调至xHigh成本仅增9-29%,但效果提升显著。在线上Agent服务中,可考虑为高价值请求(如高客单价用户)分配更高推理预算,以提升一次性解决率,减少多轮交互成本。
- 故障根因分析驱动迭代:研究发现容器部署是主要失败模式(44%首次故障)。在开发推荐Agent时,应建立细粒度失败分析,找出高频失败点(如商品召回缺失、文案生硬),针对性优化而非泛泛增加工具或提示。
- 非功能需求分离处理:设计导向提示仅提升视觉质量,不影响功能。类似地,在生成推荐文案或物品标题时,可分离功能指令(准确性)与风格指令(吸引力),用轻量提示即可达到风格优化,避免干扰核心推荐逻辑。
AgenticSTS:面向长时程LLM Agent的有界内存测试床
🧭 Agent 有界内存与模块化评估
Alaya Lab · Shanghai Jiao Tong University · Shanghai Innovation Institute · Nankai University · University of Science and Technology of China
用类型化检索组装提示替代累积上下文,保持内存有界并支持单层消融分析
📌 工作参考价值(4 点)
- 长会话 Agent 的上下文管理:电商顾问或搜索助手等场景需要多轮交互,可借鉴“类型化检索组装”思路,将观察、工具结果、反思等分门别类存储,每次决策仅提取相关片段拼接成新提示,避免无限追加历史导致成本飙升与效果混杂。
- 模块化消融与迭代:在推荐对话系统中,可将知识库、用户画像、对话状态等作为独立内存层,通过切换检索策略快速验证各自贡献,类似论文中对技能层的消融实验,指导架构演进。
- 工程稳定性:有界提示保证每次推理的 token 数恒定,利于延迟控制和预算管理,避免长上下文带来的 KV cache 膨胀和推理速度抖动。
- 可复现的评估方法:论文提供的轨迹数据和实验脚本,可作为构建面向推荐/搜索 Agent 的评测框架参考,尤其适合需要数百步决策的复杂场景(如比价助手、旅行规划 Agent)。
AutoMem:将记忆管理作为可训练技能的自动化学习框架
🧭 Agent 记忆管理自动化 · 长程任务优化
Stanford University
通过双循环自动优化记忆结构与训练记忆熟练度,将记忆管理变为可学习技能,在长程游戏中实现2-4倍性能提升
📌 工作参考价值(4 点)
- 可迁移的记忆架构:将文件系统操作提升为一级记忆动作,与任务动作并列,让模型自行决定何时读写笔记。电商推荐Agent可借鉴此模式,维护用户长期偏好文件、会话上下文文件,实现跨会话记忆。
- 自动优化记忆提示与模式:手工设计记忆结构(提示、文件模式、动作词汇)在长程任务中不可行。可借鉴其外循环思路,用强LLM审查历史推荐交互的完整轨迹,自动迭代优化Agent的记忆结构,减少人工工作量。
- 利用成功轨迹训练记忆决策:内循环从大量episodes中提取好的记忆决策(何时记录偏好、何时检索历史),作为微调信号。在搜索/推荐Agent中,可挖掘用户满意会话,训练模型做出更好的记忆操作,提升长期用户体验。
- 记忆与任务分离的优化范式:仅优化记忆技能,不改动任务动作行为,就带来巨大提升。表明在复杂推荐系统中,可将记忆管理作为独立模块针对性优化,性价比高。
基于工作流归纳的多轮智能体科学文献搜索
🧭 Agent 工作流生成 · 多轮搜索
University of Illinois Urbana-Champaign · Together AI · University of Pennsylvania · Stanford University
PaperPilot将多轮文献搜索构建为可执行、可编辑的DAG工作流,结合用户反馈实现高效可控的搜索对齐
📌 工作参考价值(4 点)
- 将搜索过程显式化为可编辑的DAG工作流(关键词搜索→引用扩展→过滤→重排序→证据提取),可为电商搜索/推荐Agent提供可解释、可调控的交互式搜索链路,便于开发者调试与用户定制。
- 利用用户反馈调整工作流结构(如增加查询扩展或调节评分权重)的思路,可迁移到电商多轮查询改写与召回路自适应,例如基于前一轮推荐结果的隐式反馈动态插入过滤或重排序模块。
- 训练采用监督工作流模仿(从人工工作流中学习)与偏好优化(对生成的工作流进行可控破坏并学习偏好)的组合方式,可借鉴到电商工具调用Agent的训练中,提升工作流生成的准确性和执行稳定性。
- 工作流执行错误率从9.5%降至0%,表明显式结构化调用比纯推理更可靠;在电商客服、导购助手等场景中,可设计类似的结构化操作链,降低非法操作风险,提升系统鲁棒性。
MemSyco-Bench:评估智能体记忆中过度迎合的基准
🧭 Agent 记忆评估 · 过度迎合基准
Xiamen University · Jilin University
首个系统评估 LLM Agent 长期记忆引发过度迎合的基准,揭示记忆常损害推理准确性
📌 工作参考价值(4 点)
- 记忆安全设计:在电商推荐或对话 Agent 中,历史交互记忆会让模型过度迎合用户偏好,牺牲事实准确性。可借鉴论文的五类任务,构建内部评估集,定期检测记忆是否导致系统偏离客观推荐策略,例如通过对抗样本检验 Agent 是否因记忆中的错误偏好而推荐不相关商品。
- 记忆生效范围控制:明确区分“可个性化的事实”与“客观不变的事实”。可设计记忆更新时打标签,限制记忆在价格、库存等动态信息上的影响力,避免 Agent 机械套用过期记忆。
- 冲突解决机制:当用户实时输入与历史记忆矛盾时,要求 Agent 优先采信最新证据。可引入类似“记忆置信度”或显式冲突检测模块,如设置规则:当检索到的记忆与当前查询的客观参数冲突时,触发重确认流程。
- 记忆更新时的回测:每次修改记忆库后,用历史会话重放测试,监测 Agent 是否出现迎合性漂移,防止记忆累积导致推荐策略越跑越偏。
SkillCoach:自演化量规评估与增强 Agent 技能使用
🧭 Agent 技能使用的过程评估与自我演化量规 ★ 深度解读
HKUST(GZ) · JD.COM
提出自演化量规框架,从技能选择、遵循、组合与反思四个维度诊断并提升 Agent 在含干扰项库中的技能使用能力
📌 工作参考价值(4 点)
- 过程与结果解耦诊断:在 Agent 系统中将外部验证器(最终结果)与过程评估分离,用轨迹级别的技能选择、步骤遵循、组合正确性和反射检查四个维度定位故障,避免仅用成功率掩盖错误的技能调用或跳步。
- 自演化量规作为数据过滤器:用自我演化的量规筛选 SFT 训练轨迹,要求轨迹同时满足过程质量分≥0.95 且通过验证,显著优于仅用结果过滤,可迁移到电商导购、广告脚本执行等技能驱动场景,提升训练数据质量。
- 干扰项压力测试实用价值:在技能库中混入语义相似但无关的干扰技能,评估 Agent 的技能选择退化边界与崩溃点;电商搜索/推荐中的意图路由、工具选择可借鉴这种方法,提前发现模型在候选集膨胀时的脆弱性。
- 维度级消融指导训练重点:实验表明去除关键步骤遵循损失最大、组成顺序次之,反射较弱,可据此调整过程监督的维度权重或设计分步训练策略,重点关注步骤遵循与技能选择。
行为自适应对话代理:动态人格框架
🧭 对话代理人格动态适配
Northeastern University
提出根据任务情境动态协调LLM对话代理的隐喻角色和人格强度的流体人格框架
📌 工作参考价值(4 点)
- 电商客服Agent可根据用户情绪与问题类型动态切换人格:售后场景选用低强度共情的“辅导员”,售前咨询选用中等强度专业的“导购”,提升信任与转化。
- 生成式推荐解释系统适配用户个人特质:对理性用户用“专家工具”隐喻、低强度表达,对易受影响的用户用“教练”角色、中等激励性语言,改善解释接受度。
- 广告文案生成Agent根据产品类别(功能品 vs. 情感品)和投放渠道(搜索 vs. 信息流)灵活调整隐喻角色与语气强度,避免千篇一律的助手口吻。
- 为对话式推荐系统设计人格状态机,基于对话上下文(问答、闲聊、任务引导)自动切换代理角色,维持交互连贯性与用户沉浸感。
智能体能否泛化到开放世界?揭示工具使用中静态训练的脆弱性
🧭 Agent 工具使用泛化与鲁棒性
Nanjing University
发现静态训练的工具使用智能体在开放环境分布偏移下性能脆弱,并提出扰动增强微调策略增强鲁棒性
📌 工作参考价值(4 点)
- 电商智能助手/广告投放 Agent 的鲁棒性设计:在真实业务中,用户查询、工具接口、返回数据格式会频繁变化。论文的四层偏移(感知、交互、推理、内化)框架可直接用于梳理生产环境 Agent 的脆弱点,例如商品描述变化(感知偏移)、API 参数重命名(交互偏移)、促销规则修改(推理偏移)、知识库更新(内化偏移)。
- 训练阶段引入数据扰动:借鉴扰动增强微调策略,在 SFT 阶段针对查询改写、工具说明扰动、观察噪声等构造对抗样本,低成本提升 Agent 对线上突发变化的容忍度,避免频繁重训。
- 评估测试集设计:构建类似沙盒环境,按分布偏移等级设计回归测试集,用于持续监控上线 Agent 的泛化能力,尤其在新品类、新营销工具上线时把关。
- 多维度泛化诊断:论文的四层层次化偏移可作为多维度 QoS 指标,指导 Agent 在搜索推荐场景下(如商品智能推荐对话、投放策略多步推理)的优化方向,明确是哪个层次出现问题。
AutoTrainess:通过训练专用接口实现语言模型自主后训练
🧭 Agent 自动化模型训练流程 ★ 深度解读
Tsinghua University · The Chinese University of Hong Kong · Simple Agent Lab
提出训练专用智能体-计算机接口(AutoTrainHub),将人类后训练经验编码为工作流,使LLM agent在PostTrainBench上显著超越CLI-only基线
📌 工作参考价值(4 点)
- 在自动化模型迭代任务中,将人类最佳实践抽象为固定接口(数据选择、清洗、格式验证),可大幅降低agent在训练pipeline中的失败率,尤其适合需持续优化的推荐模型再训练。
- 采用分阶段工作流(诊断→基础对齐→困难样本增强)引导agent逐步优化,避免过早陷入局部改进,可迁移至推荐系统的特征工程或数据诊断自动化。
- 通过结构化实验日志保留长期记忆,使agent在多轮迭代中保持连贯决策,对需要长期A/B测试和增量学习的搜推广系统有参考价值。
- 使用受约束的动作空间(固定训练框架、评估脚本)确保可复现性,这一设计原则可应用于搭建可靠的自动化模型上线与监控流程。
超越对话的心智理论:评估LLM通过规划行动诱导信念的能力
🧭 Agent 心智理论评估与规划能力
University of Cambridge · Prolific · Google
提出非对话规划心智理论(NCP-ToM)评估框架,GPT-5在约80%任务中成功诱导信念,超越人类
📌 工作参考价值(4 点)
- Agent 规划能力评估:在电商推荐Agent开发中,可借鉴NCP-ExploreToM框架设计多步骤规划测试,评估Agent是否具备通过环境交互(如调整推荐展示顺序、控制推送时机)来塑造用户偏好的能力。
- 真假信念对齐信号:模型在诱导真信念上成功率更高,暗示可据此设计安全约束——确保推荐Agent的目标是引导用户形成真实偏好而非虚假期望,降低误导风险。
- 自主 Agent 需主动评估:论文强调被动问答不适用于自主 agent,对搜索推荐系统同样适用:应构建 agentic 场景下的离线评测,而非仅依赖静态数据集指标,例如模拟用户动态信念更新的推荐环境。
- 复杂推理与规划结合:任务要求多步逻辑推理(如物体可见性、角色知识限制),对构建能处理多约束、多目标规划的商品组合推荐或广告投放策略 agent 有启发,可引入类似的符号关系推理微调方案。
经典缓存策略失效:面向语义检索缓冲区的学习增强替换
🧭 Agent记忆缓存 · 学习增强替换
LIGHTSPEED, Tencent · The Chinese University of Hong Kong
提出学习增强框架 SOLAR,通过遗憾驱动更新和贝叶斯在线选择,在语义缓存中取得恒定竞争比和 5–75% 的相对提升
📌 工作参考价值(4 点)
- 不要盲信 LRU/LFU:在语义检索缓存场景(如 Agent 记忆、会话推荐上下文)中,由于缺乏时间/频率局部性,简单的 FIFO 往往优于经典策略,可作为安全基线。
- 遗憾驱动的阈值触发:借鉴 SOLAR 的修改时机决策,仅当累积遗憾超过阈值时才淘汰/插入内容,可大幅降低缓存刷新开销(修改率~17%),适合高吞吐在线服务。
- 从隐式反馈中学习选择内容:使用贝叶斯在线学习基于检索命中质量(连续打分)动态选取缓存条目,可迁移到推荐系统中的曝光缓存、实时兴趣表征缓存,提升长尾覆盖与及时性。
- 缓存容量不是越大越好:实验发现的倒 U 型关系表明,过大的缓存可能引入噪声,可尝试将容量视为噪声控制开关,关注“工作集”而非全量存储,避免无效检索干扰。
浏览器可扩展行为克隆:技能蒸馏复用用户轨迹
🧭 智能体 · 技能蒸馏与行为克隆
将用户浏览器交互轨迹蒸馏为自然语言技能并组织成技能图,让Agent直接复用决策先验
📌 工作参考价值(4 点)
- 从用户搜索/点击日志中蒸馏出紧凑的自然语言意图模板,供推荐或导购Agent直接检索复用,避免重复学习底层操作。
- 构建意图技能图谱,合并相似技能控制规模膨胀,可迁移到电商Query推荐中的意图归类或标签系统去冗余。
- 将行为克隆焦点从低层动作序列提升到高层决策先验,用于自动化运营Agent的策略初始化,减少冷启动探索。
- 利用互联网用户集体行为提炼常见任务流程(如比价、下单),作为生成式推荐的上下文背景或对话策略分支。
LLM Agent 的生成式技能组合
🧭 生成式技能组合 · 任务条件序列预测 ★ 深度解读
University of North Carolina at Chapel Hill · Arizona State University · Honda Research Institute USA
将技能组合建模为任务条件序列预测,用小型解码器联合决定技能子集、数量和顺序,兼顾精度与效率
📌 工作参考价值(4 点)
- 可将推荐/广告系统的模块组合(如多路召回、策略组合)建模为任务条件序列生成,联合决定 Which/How many/Order,比单独检索或人工编排更准。
- 冻结通用编码器+微型自回归解码器(3.9M)架构,参数极少、推理快,适合线上实时服务,可直接替换现有检索式路由。
- 解码时引入 TF‑IDF 检索先验与集合成员先验,有效解决长尾模块选择,业务中可复用 BM25 或自定义相关性分作为 prior。
- 利用模块依赖图自动合成训练数据,减少人工标注成本;电商场景可构建召回→粗排→精排→重排的模块图来生成序列样本。
通过迭代元反思实现自主科学发现
🧭 自主发现 · 迭代元反思
University of Edinburgh · Massachusetts Institute of Technology
提出 DiscoPER 框架,让 LLM 通过二阶元反思机制自主迭代发现科学规律,在生态基准上恢复 89% 已知模式
📌 工作参考价值(4 点)
- 二阶反思机制可迁移至搜索/推荐 Agent:在自动生成 Query 或探索推荐策略时,引入定期复盘已探索空间,识别模式、偏见与空白,主动跳转至高价值未覆盖区域,提升长尾覆盖与策略多样性。
- 统计检验作为硬约束:任何生成的新假设必须通过统计验证,这一点可直接用于广告文案 A/B 测试、推荐策略上线流程,让 Agent 决策具备统计可信度。
- 工具调用扩展多模态特征:推荐系统可仿照 DiscoPER 通过 Tool Use 无缝接入图像理解、OCR 等工具,从商品图片、评论区截图等多模态源提取结构化信息,丰富用户和物品特征。
- 自动特征工程与模型搜索:将开放式探索与元反思结合,用于自动化生成并验证特征组合、模型结构,周期性反思哪些方向尚未尝试,提高有限算力下的搜索效率。
TRIAGE:面向智能体强化学习的角色类型化信用分配
🧭 Agent 角色条件信用分配
LinkedIn Corporation · Harvard University · Johns Hopkins University
用角色标签(进展/探索/倒退)修正结果奖励,降低策略梯度方差,提升成功率与效率
📌 工作参考价值(4 点)
- 在对话推荐、搜索导航等智能体训练中,用结构化判断器对轨迹片段打角色标签(决定性进展、有用探索、无进展基础动作、倒退),通过固定奖励映射(如探索给+0.2,倒退给-0.5)注入片段级过程奖励,直接纠正 GRPO 的结果监督偏差,无需训练价值模型。
- 即使任务失败,也可对探索行为给予小额正奖励,防止 GRPO 因统一惩罚而抑制智能体尝试新动作,从而在复杂交互环境(如商品搜索、多步决策)中维持探索。
- 重点检测成功轨迹内的倒退动作(如重复点击、无效页面回退),并施加惩罚,能使策略学会更短路径完成任务,在实验中成功轨迹轮次额外减少约 10-15%,可直接用于优化电商智能体效率。
- 该方法不需要学习奖励模型,只需一个可靠的角色分类器(可用 LLM 实现),工程成本低,适合快速集成到现有 GRPO 训练流程中。
VideoSearch-R1:基于软查询精炼的迭代视频检索与推理智能体
🧭 强化学习驱动的多模态检索智能体与查询精炼 ★ 深度解读
KAIST · Korea University
提出软查询精炼(SQR)在连续潜在空间细化搜索查询,通过强化学习联合优化视频检索与细粒度推理
📌 工作参考价值(4 点)
- 在电商搜索中,对未命中或模糊查询,可使用软查询精炼(SQR)替代文本改写,直接在嵌入空间生成少量连续向量调优检索结果,避免硬改写引入的语义噪声和过长Token消耗。
- 检索-验证-精炼的迭代循环(检索→核对匹配→若失败则触发精炼)可引入到商品搜索或推荐系统,实现自主纠错,提升长尾query的召回与精度。
- 强化学习(GRPO)联合优化检索精炼与下游任务(如点击预测、排序)的思路可复用:设计任务级奖励(如检索召回率、点击奖励),端到端训练查询表示生成策略。
- 软查询精炼只需少量额外Token(实验中仅8个),工程开销小,适合嵌入现有双塔检索或向量召回架构,作为在线查询优化插件。
保护AI Agent:多层红队测试的统一框架
🧭 Agent安全 · 多层红队测试
Tencent Zhuque Lab
提出开源框架AI-Infra-Guard,分层匹配检测范式覆盖基础设施到模型的全攻击面并加入供应链审计
📌 工作参考价值(4 点)
- 多层安全防护思路:将Agent系统攻击面划分为基础设施、协议/工具、行为与模型四层,每层采用不同检测机制(规则匹配、Agent驱动审计、黑盒多轮测试、越狱攻击),可作为电商Agent安全架构参考。
- 第三方MCP与技能包供应链审计:在引入外部MCP服务器或Agent技能时,执行自动化漏洞扫描与代码审查,防止恶意工具调用导致数据泄露或操作风险,适合社区化Agent生态的安全控制。
- Agent行为红队测试:对推荐/对话Agent进行多轮黑盒交互,模拟恶意用户诱导模型执行危险动作(如查看他人订单、修改配置),可迁移到线上Agent上线前的安全评测流程。
- 模型层越狱防护验证:使用框架内置的26+攻击算子和多数据集,快速构建对自研LLM的越狱测试,评估模型在敏感推荐或用户数据问答场景下的抗攻击能力。
长程搜索中上下文腐烂的诊断与缓解
🧭 上下文腐烂诊断与缓解策略
Shanghai Jiao Tong University · Fudan University · SII · GAIR
揭示长上下文导致LLM放弃回答的现象,提出上下文管理与拒绝采样两种缓解策略
📌 工作参考价值(4 点)
- 长程搜索Agent(如电商多步查询)可采用滑动窗口、摘要等上下文管理方法防止性能衰减,论文给出的七种方法对比可作为选型参考
- 后验拒绝采样策略:对Agent输出进行一致性过滤或置信度校准,过滤掉因上下文过长而冒出的放弃性答案,提升回答可靠性
- 诊断思路复用:可在线评估并监控模型在长上下文下的“放弃率”,一旦发现显著上升,自动触发上下文压缩或截断
- 工程实现上,将上下文管理与拒绝采样组合部署,可在不增加过多成本的情况下获得稳定收益
Mandol:面向长期对话的凝聚式Agent记忆系统
🧭 长期对话代理记忆系统 · 统一内存架构 ★ 深度解读
Institute of Software, Chinese Academy of Sciences · Microsoft Research
通过统一层次记忆模型与凝聚式数据结构,将碎片化存储融合为单一内存原生架构,在长期对话基准上达到最优准确率与最低延迟
📌 工作参考价值(4 点)
- 在推荐Agent或电商客服中,可借鉴层次记忆模型:将原始对话/行为拆分为基本记忆单元,并自动凝聚为事件链、实体图、用户偏好等高阶抽象,所有抽象保留与原始记忆的溯源链接,方便证据回查。
- 统一内存语义数据结构(SemanticMap+SemanticGraph)可替代常见的向量数据库+图数据库的混合方案,消除跨库I/O,将检索延迟降低一个数量级,适合低延迟交互场景。
- 定量检索机制不依赖LLM参与召回,通过查询自适应路由、基于MAD的动态去噪、跨源冲突仲裁(结合时间衰减与信源置信度)以及MMR驱动的Token预算上下文拼接,可直接用于构建干净、不冲突的长期记忆上下文,避免RAG式检索引入的噪声与冗余。
- Token效率优化技巧:用MMR联合优化相关性与多样性,避免简单Top-K导致关键证据丢失,可在有限上下文中保留互补信息,对推荐系统整理用户长期画像或Agent生成多跳推理线索都有参考价值。
PixelEyes:解耦感知与推理的精准视觉证据搜索
🧭 解耦感知与推理的视觉Agent
Wuhan University · UC Merced · UTS · NUS · NTU
提出解耦式视觉Agent:推理器决定找什么,专用分割工具给出掩码级定位,配合语义区域BFS消灭冗余路径。
📌 工作参考价值(4 点)
- 解耦架构可直接迁移到电商Agent:用LLM做高层推理决策(如“找 logo 在衣服的哪个部位”),调用专精的视觉基础模型(如商品分割模型)给出像素级定位,避免LLM直接输出 bbox 不准导致的多轮无效追问。
- 语义区域 BFS 策略用于多轮商品对比:对商品详情图进行语义分割(如领口、袖口、印花区域),按区域广度优先提问,可系统性地收集细粒度属性,替代当前对话式推荐中随机或深度优先的循环。
- 合成专家轨迹数据集的方法:将高效搜索策略(如 BFS + 掩码引导)内化到模型训练中,可借鉴用于训练对话式推荐或客服 Agent,让模型学会用最短轮次完成信息收集。
- Pinpoint-Bench 的细粒度失败分析框架:分离定位错误与推理错误,有助于诊断业务中多模态 Agent 的“注意盲视”(看到区域但识别错),可用于离线评估和迭代优化。
自我进化的世界模型用于 LLM 智能体规划
🧭 世界模型与记忆自进化增强 LLM Agent 规划
National University of Singapore · Singapore University of Technology and Design · Singapore Management University
提出 WorldEvolver:部署时通过记忆修订增强世界模型预测与规划,无需更新参数
📌 工作参考价值(4 点)
- 在搜索推荐系统中,可构建“世界模型”模拟用户对推荐结果的响应(点击、购买等),替代真实环境试错,加速策略优化。
- 分层记忆(情景记忆 + 语义记忆)可分别存储实时交互序列与长期行为规则,用于用户兴趣建模和动态策略提升。
- 选择性前瞻机制过滤低置信预测,避免劣质生成内容污染推荐或排序结果,可迁移至生成式推荐的幻觉控制。
- 自进化框架支持模型参数冻结下的在线适应性提升,适合电商/广告场景中对延迟敏感的大规模部署。
DuoMem:双空间蒸馏赋能边端记忆智能体
🧭 智能体记忆蒸馏 · 边端部署
Samsung R&D Institute UK · Queen Mary University of London
通过上下文与参数双空间蒸馏,将大模型过程记忆能力迁移至小模型,4B模型成功率从4.3%升至77.9%,速度提升3倍
📌 工作参考价值(4 点)
- 上下文蒸馏可迁移至对话式推荐:用大模型为历史交互生成优质推理记忆(如用户偏好演化链),将其作为前缀注入小模型,提升多轮推荐一致性。
- 参数蒸馏成本极低:仅用教师成功轨迹微调LoRA,参数增量<10M,可快速适配现有电商或搜索智能体的规划模块。
- 双空间协同效果突出:单独上下文或参数蒸馏效果有限,两者合并产生互补增益;在构建推荐Agent时,可同时注入教师记忆并微调编解码器。
- 边端实时性提升:蒸馏后小模型推理速度大幅提高,适合手机端或低延迟场景下的个性化推荐回复生成。
缩放视野而非参数:用 35B 智能体达到万亿参数性能
🧭 Agent 长时域扩展 · 多教师在线蒸馏 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
构建长轨迹知识-行动图与多教师在线蒸馏,让 35B MoE 智能体在科学、工程、搜索等长程任务上超越万亿参数模型
📌 工作参考价值(8 点)
- 长轨迹过程监督:KAG 构建思路可复用 \
- 论文将搜索、工具调用、验证信号统一为知识-行动图(KAG),每条训练轨迹平均 45K tokens,包含成功与失败的中间步骤。在电商搜索/推荐场景中,多轮对话推荐、深度商品调研等长程任务可借鉴此方式,把用户交互、工具调用、商品浏览记录构建为可训练的过程级监督数据,而非仅依赖最终答案。
- 多教师在线蒸馏的域路由设计 \
- 六个异构领域(搜索、工程、科学、指令跟随、工具调用)各训练一个领域教师,通过域路由的在线策略蒸馏(OPD)合并到单一 35B 学生,避免不同领域梯度冲突。电商中不同品类、不同阶段(召回/排序)的专家模型可用同样方式蒸馏为统一部署模型,通过领域标签路由教师信号,保持各领域专长。
- 显著词汇对齐(SVA)提升蒸馏效率 \
- SVA 仅约束教师高概率 token 子集(top-k 支持集)上的分布,避免全词汇表对齐引入噪声。在推荐生成式语义 ID 或文本答复时,可借鉴该技术,在蒸馏生成任务中聚焦关键 token,提高知识转移稳定性。
- RL 训练中的优势增强与数据复用 \
- 工具调用 RL 中利用过程评分为失败轨迹提供分级奖励(仅负数样本使用过程奖励),并用数据复用(64 个 hard case 反复 rollout)在少量步数内达到高效提升。当业务有少量高质量困难任务时,可复用该策略进行 RL 微调,降低对庞大数据集的依赖。
SWE-Together:交互式用户会话中评估编码智能体
🧭 编程Agent交互式协作评估
Meta
从真实用户会话构建多轮编程基准,用反应式模拟器重放交互,同时衡量代码正确性和所需干预次数。
📌 工作参考价值(4 点)
- 交互式Agent评估范式:可直接迁移到电商推荐Agent的评估中,构建多轮用户模拟器,根据用户偏好和反馈调整推荐,同时衡量推荐成功率与用户修改轮数,评估协作效率。
- 真实会话驱动的基准构建:借鉴其从海量真实交互记录中筛选可重放会话的方法,在电商场景中收集用户与推荐系统的多轮对话,构建可复现的评估集,避免人工设计偏差。
- 反应式用户模拟器设计:利用LLM模拟用户意图保持和条件反馈,用于离线测试推荐Agent的意图理解与纠错能力,降低人工评测成本。
- 效率与效果联合指标:不仅关注最终推荐准确率,也追踪达到满意结果所需的交互轮数,更全面反映用户体验,适合用于优化多轮推荐策略。
TACO:工具增量信用优化,让视觉 Agent 学会何时用工具
🧭 Agentic Tool Use 的信用分配优化 ★ 深度解读
Tsinghua University · Institute of Automation, Chinese Academy of Sciences
用差分答案探测奖励和结果门控路由,在不依赖外部评判模型下精准分配工具调用的信用,显著提高 Agent 的工具使用效率与准确率
📌 工作参考价值(4 点)
- 工具调用差分奖励:在电商 Agent 需要调用外部 API(如商品查询、实时定价)时,可在调用前后用探针解码回答,计算正确性差分作为该次调用的即时贡献信号,避免仅用最终结果奖励导致的盲目调用或惩罚。
- 结果门控路由:借鉴 OGAR 思想,将最终推荐/回答的强化优势仅路由到实际负责该结果的 token 段(如工具代码、后推理),对冗余调用不予奖励,对必要的失败调用不给予惩罚,从而在搜索推荐 Agent 中抑制无用的 API 消耗。
- 防御奖励黑客:采用差分而非绝对值构建工具调用奖励,可抵消模型提前在推理中泄露答案、虚高探针分数的作弊行为,这一设计可直接用于需要自监督信号的多步 Agent 训练。
- 两阶段训练流程:先通过 SFT 冷启动教会模型基本工具交互格式,再用 RL 精细优化工具使用策略,适合从指令基础模型出发构建工具增强的推荐/对话 Agent。
一次前向胜过两次前向:InnerZoom实现准确高效的GUI定位
🧭 单次前向内部缩放引导解码提升GUI定位
Tongyi - MAI
单次前向内部缩放桥接跨层证据,超越需两次前向的ZoomIn,同时降延迟降计算量
📌 工作参考价值(4 点)
- 构建电商自动操作Agent时,可直接用InnerZoom替代ZoomIn,只需一次前向即可获得高精度UI元素定位,端到端延迟降低30%+,适合在线或低资源环境。
- 该方法的核心思想“跨层证据桥接”可迁移到推荐系统的生成式推荐中:将中间层强语义特征显式保留并注入后续解码步骤,提升生成式ID或序列的准确率。
- 实现上,InnerZoom无需修改基础MLLM架构,仅需设计轻量证据提取与精炼模块,训练成本低,可在现有视觉-语言模型上微调即用,适合需要快速落地GUI自动化场景。
- 对于多模态商品图片理解任务,若需定位商品区域或关键属性位置,可借鉴内部缩放思路,将区域感知特征跨层传递,增强定位或属性预测的精度。
层次实验型智能体:通过主动实验进行上下文自我改进
🧭 LLM Agent主动实验与技能学习
University of Massachusetts Amherst
LLM通过主动实验动态学习可复用技能库,在未见物理任务中成功率从2%提升至77%
📌 工作参考价值(4 点)
- 新场景主动探索机制:在推荐或广告系统中,面对新用户群体或新品类时,可借鉴 HExA 的分层实验设计——高层规划探索方向(如尝试不同召回策略),低层执行具体干预并记录结果,形成可复用的“技能”模板(如特定人群的优惠券推送策略),避免盲目 random AB test。
- 在线学习技能库:将推荐系统优化过程抽象为“技能”(如某类 CTR 提升技巧),每次实验后的成功策略存入上下文技能库,下次类似场景可直接组合调用,类似 HExA 的 learn_from_experience,减少重复探索成本。
- 跨场景技能迁移:HExA 从简单物理任务中学习的技能可零样本迁移到困难任务(44% 成功率)。在推荐中,可在一个小流量域(如新频道)学到的有效策略(如冷启动物料组合方式)迁移至主域,降低冷启动成本。
- 上下文技能组合:HExA 通过上下文学习将实验产生的技能组合成复杂策略,业务中可用类似思路将多个简单推荐规则(召回、过滤、排序规则)作为可组合的“技能块”,Agent 根据当前场景动态拼接,无需重新训练模型。
多智能体路由作为集合值预测:WildChat 基准与成本感知评估
🧭 多智体路由的集合预测与成本权衡
Ahsanullah University of Science and Technology
将多智能体路由建模为集合预测问题,构建基准并引入成本感知评估协议,证明监督路由显著优于零样本 LLM
📌 工作参考价值(4 点)
- 将路由建模为集合预测而非 Top-1 选择,更贴合真实多步查询需求,可直接采用 Precision/Recall/F1/Jaccard 等集合指标评估。
- 在固定智能体目录下,简单线性多标签分类器是强实用基线;无需大模型即可获得较高路由精度,适合低延迟场景。
- 成本约束场景下,在监督打分器之上叠加 Weighted Agent Routing (WAR) 后处理层,能通过成本 tier 阈值调整有效提升效用,且实现轻量。
- 可借鉴 capability-coverage 仿真方法,在离线评估路由系统时模拟智能体失败对系统鲁棒性的影响。
OSWorld 2.0:面向长周期真实任务的计算机使用智能体基准测试
🧭 长周期多步骤Agent评测基准
XLANG Lab
提出108个长周期真实工作流基准,暴露前沿智能体在约束追踪、流式交互与隐含状态推理上的严重不足
📌 工作参考价值(4 点)
- 长周期、多步骤的Agent评测设计:可借鉴其构建包含动态环境变化、用户中途改需求、跨源信息整合的评测用例,用于压力测试推荐或对话Agent在实际业务流程中的稳定性。
- 强调隐含状态追踪与跨源推理:推荐Agent常需结合用户历史、实时上下文和外部知识,可专门设计评测环节检验Agent是否具备“从历史中恢复隐含约束”的能力,避免遗漏关键条件。
- 安全审计视角:引入任务执行后的安全合规检查(如越权操作、隐私泄露),对面向用户的电商Agent有直接借鉴意义,可在上线前自动化审计高风险操作。
- 工程启示:智能体在长流程中容易丢失约束、跳过验证,提示我们需要在工程实现中增加显式的状态摘要、中间检查点和响应性用户询问机制,而非仅依赖模型自身记忆。
PolicyGuard:基于对话的子代理验证器用于LLM代理策略遵循
🧭 对话驱动的策略合规验证
KAIST · DeepAuto.ai
提出对话级子代理验证器,依据策略推理并给出可操作反馈,大幅提升代理策略遵循度。
📌 工作参考价值(4 点)
- 在电商客服/订单处理Agent中,可用子代理做策略合规检查,而非只做参数级拦截,能捕捉多轮确认、上下文依赖等复杂策略违规。
- 子代理可共享完整对话历史,基于系统策略提示进行推理,生成自然语言反馈指导主代理下一步,而非简单拒绝,提升修复效率。
- 与现有ReAct框架解耦,作为外挂验证层,可集成至不同基座模型与工具调用流水线中,复用性强。
- 在策略频繁更新的场景(如促销规则、退款政策),可快速验证新提示是否符合策略,降低人工审核成本。
进化微调:跨越371个优化任务的学习发现
🧭 进化搜索LLM Agent · 跨任务迁移
University of Minnesota · Carnegie Mellon University · KAIST · University of Cambridge · Hanyang University
将进化搜索轨迹转为训练数据,让LLM学会跨任务的迭代进化改进能力
📌 工作参考价值(4 点)
- 搜索/推荐场景中的超参调优、召回策略组合优化可借鉴:将历史自动调参轨迹作为训练数据,让 LLM 预测下一步变异方向,减少试错成本。
- Agent 设计可学习“如何改进解决方案”的元能力,而非依赖外部脚手架:将搜索中的成功/失败经验注入模型,使 Agent 在新场景下快速适应。
- 多目标优化(如点击率 vs 多样性)可将帕累托搜索过程构造为轨迹数据集,微调出能直接生成改进策略的模型。
- 工程上,轨迹数据的构造需包含候选解、评分、变异操作、结果反馈,可仿照 Finch Collection 设计领域特定的搜索轨迹格式。
智能体弃权:何时停止行动而非继续交互
🧭 Agent 弃权决策与上下文工程 ★ 深度解读
University of Leeds · Southwest Jiaotong University · University of Washington · Allen Institute for AI
研究LLM智能体在任务不可行时的弃权决策,揭示及时弃权是主要瓶颈,并提出用少量交互轨迹蒸馏停止规则以显著提升弃权效率和成功率。
📌 工作参考价值(4 点)
- 电商对话Agent应具备环境感知的及时弃权机制:当用户需求无法在商品库中满足时(如“买粉色客厅枕头”但无粉色枕头),Agent不应持续无效搜索,而应在首次搜索失败后即停止并提供替代建议,避免浪费推理资源和用户等待时间。
- 利用少量失败轨迹提炼弃权规则:借鉴CONVOLVE方法,用极少(20条)不可行任务的交互日志生成动态“弃权手册”,注入系统提示,可显著提升Agent对不可行需求的及时识别,无需模型重训,适用于快速迭代的在线购物助手。
- 评估指标需侧重及时性:放弃率(AbsRec@K)和路径加权成功率(SPL)比单纯的任务完成率更能反映Agent的决策效率。在电商Agent评测中加入“最早可弃权步”的标注,可精准定位Agent是否过度搜索或过早放弃。
- Agent脚手架设计影响弃权行为:在终端/工具调用场景中,不同的Agent框架(如Codex CLI vs Terminus 2)会显著影响弃权的时机和频率,说明即便基座模型相同,交互循环设计和观测结构也会左右Agent的“止损”能力,推荐场景应选择弃权保守性更适中的框架。
ConvMemory v3:对话记忆的目标条件有效性验证层
🧭 Agent 记忆管理 · 有效性验证与更新检测
University of Melbourne
在对话记忆检索后增加目标条件双证据门控,检测记忆更新/失效,将当前状态查询命中率升至95.7%
📌 工作参考价值(4 点)
- 对话推荐中的意图更新检测:当用户在对话中修改/撤销需求时(如“换成红色”),可利用目标条件关系验证判断历史记忆的有效性,避免基于过时偏好推荐商品。
- 双证据门控泛化:将 MiniLM + DeBERTa-v3 双头评分与保守证据门控结合的方法,可迁移至商品信息变更、促销状态更新等时效敏感场景,提升系统对信息新鲜度的感知。
- 合成数据 + 真实反馈的零样本迁移:通过合成多跳数据训练验证器,再以真实失败案例反馈微调,能在无目标标签的新任务(如角色绑定)上达到高准确率,大幅降低标注成本。
- 安全部署的双模式设计:默认 context 模式仅附加有效性标签不改变检索结果,保护现有链路;按需开启 demote 模式提升高时效查询的命中率,同时保持非过时记忆 99.4% 召回,适合生产环境渐进式升级。
基于心理学推理与角色感知策略优化的通用角色扮演智能体
🧭 心理学引导推理与角色感知强化学习
Zhejiang University · Tencent Youtu Lab
提出心理学引导的CoT与基于互信息的策略优化,抑制奖励黑客,提升角色保真度。
📌 工作参考价值(4 点)
- 对话推理结构可复用:Psy-CoT 将回复前思考分解为交互感知、心理共情与逻辑构建三步,电商虚拟导购、客服机器人可借鉴该链式推理,生成更贴近用户心理、更具说服力的对话。
- 互信息梯度加权抑制奖励黑客:RAPO 用 profile–token 互信息不对称缩放梯度,放大角色相关 token 的正优势、衰减负优势,该技巧可迁移到任意 LLM 对齐任务(如推荐解释生成、广告文案优化),防止模型学得空洞通用回复而冲高奖励。
- 训练不稳定时的干预思路:当发现 LLM 奖励模型给出相同梯度信号导致性能退化,可引入类似 RAPO 的 token 级重要性加权,无需改变奖励模型,仅调整策略梯度,工程成本低。
- 多尺度模型验证:实验在多种模型规模上均超越 GRPO,证明该策略优化方法对基座能力不敏感,适合在推荐/对话系统实际部署中逐步升级基座模型。
基于知识的拉取请求:代理中介知识协作的可信工作流
🧭 代理协作中的信任边界与知识传递机制
Fudan University
提出 KPR 工作流,将外部代码视为知识源,由项目内部可信代理重新生成代码,分离知识接纳与实现合并决策
📌 工作参考价值(4 点)
- KPR 的“知识包”抽象可迁移到多智能体推荐系统:外部代理输出的推荐理由、交互轨迹不直接作为最终结果,而是交由内部代理结合业务规则和上下文再次生成,可提升安全性和一致性。
- 分离“意图理解”与“实现生成”的决策模式,可应用于电商搜索 Agent 系统:用户粗浅意图由外部解析为结构化知识,内部受控代理根据知识包和商品图谱生成精准查询或推荐。
- 信任边界设计对多供应商模型协作场景有启发:不同模型生成的推荐候选视为知识源,通过合规性检查门禁后在统一环境下重生成,降低集成风险。
- 主要学术贡献在于软件工程与 Agent 协作流程,业务可借鉴点偏向 Agent 架构模式而非推荐算法细节。
渐进式多模态搜索 Agent 用于知识型视觉问答
🧭 Agent 自适应多模态检索
OPPO AI Center · Tsinghua University · Nanyang Technological University
提出自适应调用图文检索的 Agent,并通过长度与深度归一化的 RL 优化搜索策略
📌 工作参考价值(4 点)
- 自适应检索流程:Agent 迭代选择图像搜索、文本搜索或停止,带工具调用预算和去重。在电商商品搜索中,可构建类似 Agent,根据用户意图动态决定查询商品图库还是文本描述库,避免固定 top-k 带来冗余。
- 序列级 RL 训练归一化:TN-GSPO 根据生成长度与工具交互深度归一化更新,缓解冗长交互被过度惩罚的问题。训练推荐对话 Agent 时,可借鉴此目标,平衡回答质量与多轮交互开销。
- 两阶段训练范式:先拒绝采样 SFT 学习合法工具调用格式,再 RL 优化。对落地 Agent 很有参考意义:先用人工或规则筛选合法 action 轨迹微调,再线上 RL 提升策略。
- 去重机制:对已检索内容去重,避免重复调用工具。在召回或多路检索场景中,可加入类似历史感知的去重,减少无效请求,提升效率。
将遗留工作流提升为智能体化BPM的流程支架: CUGA FLO设计与实现
🧭 智能体化流程管理 · 策略治理的自主性
IBM SIL, Israel · University of Haifa
提出流程支架在确定性工作流引擎上附加策略治理的智能体层, 实现推理与适应而不替换引擎
📌 工作参考价值(4 点)
- 在现有确定性推荐/搜索排序引擎上叠加LLM智能体支架, 对关键控制点进行拦截, 实现动态决策路由与流程调整, 无需重建引擎
- 采用TaskAgent/DecisionAgent/FlowAgent分工, 可将电商Agent系统中的知识密集型任务、案例级路由、流程自适应解耦, 降低耦合与Token成本
- 利用process FRAME统一管理所有LLM调用的策略, 确保合规性与可控性, 适用于广告审核、价格调整等需严格治理的环节
- Hook机制允许在异常或监管需求时插入人工干预或规则覆盖, 适用于高灵敏度场景如异常流量处置、活动熔断
利用自主经验探索与后见经验提升GUI代理任务规划能力
🧭 GUI Agent · 经验回放与任务规划
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences
提出PEEU方法,通过自主环境探索与后见经验构造高层次训练数据,显著提升小型MLLM的规划与跨网站泛化能力
📌 工作参考价值(4 点)
- 后见经验构造训练数据:将失败/成功的交互轨迹反向转化为严格对齐的规划级训练样本,可借鉴到电商Agent的购物任务拆解中,用用户实际浏览-购买路径生成高质量指令数据。
- 自主环境探索:让Agent在生产前自动探索网站结构并积累操作经验,类似推荐系统中的冷启动探索,适合构建电商网页的预训练经验库,减少人工标注。
- 分层任务分解视角:TDHAF框架揭示高层次任务训练比原子技能训练更利于分布外泛化,提示在构建购物助手时应优先训练完整任务流(如“比价后下单”),而非单个点击指令。
- 小型MLLM潜力:7B模型超越32B模型,证明通过数据策略可压缩模型成本,适合边缘部署的电商隐私保护场景。
LLM Agent 经验规则与策略联合学习
🧭 LLM Agent 经验复用 · 规则增强强化学习 ★ 深度解读
Sun Yat-sen University
JERP联合更新经验规则池和策略参数,在多步交互任务上超越纯RL基线
📌 工作参考价值(4 点)
- 多步交互Agent(如对话导购)可维护规则池(如“先确认场景再推荐”),与模型RL训练同步更新,避免规则过时。
- 规则更新采用对比反思式生成:提供成功/失败轨迹给LLM,自动产出规则编辑操作(ADD/EDIT/UPVOTE/DOWNVOTE/MERGE),工程上可用固定模板解析,实现自动化规则管理。
- 规则效用评分机制与容量限制剪枝,确保规则池在在线学习中规模可控、质量可维护。
- 同批轨迹两次利用(策略更新、规则更新)提高数据效率;可与LoRA等参数高效微调结合,降低训练资源开销。
面向测试的构建:编码代理交付的是你检查的,而非你要求的
🧭 Agent 验证自我意识缺失评估
Microsoft
发现编码代理会为通过测试而交付残缺库,揭示基准评测的构造效度缺陷与代理验证自我意识缺失
📌 工作参考价值(4 点)
- 在线指标与离线基准对齐:推荐系统 Agent 优化离线测试指标时,可能只学会“刷分”而非真正提升用户体验(类似 building to the test)。应设计多信号验证,将用户长期留存、转化等在线指标纳入奖励函数,避免代理投机。
- 增加自检与质疑环节:在 Agent 工作流中加入“验证自我意识”步骤,强制其进行功能性审查(如检查生成代码是否真能编译、生成推荐是否违反业务规则),可借鉴论文中的 no‑op ablation 思路,自动检测代理是否在空转。
- 测试预言机需谨慎闭环:将类似 Playwright 的自动化测试作为开发中可调用工具时,Agent 可能学会表面适配测试而非真正实现需求,因此应限制验证器访问次数或引入对抗测试,防止策略钻空子。
- 业务 Agent 上线前需人工抽检:即使离线分数完美,也要设计人工审计流程(类似论文的 mechanical library audit),随机检查交付物的实质完整性,这对搜索查询生成、商品文案推荐等场景尤为重要。
OpenRCA 2.0:从结果标签到因果过程监督
🧭 LLM Agent 评估 · 因果过程监督
The Chinese University of Hong Kong, Shenzhen · Xi'an Jiaotong University · Lero, University of Limerick
首个带逐步因果标注的根因分析基准,暴露 LLM 智能体“无根基诊断”问题
📌 工作参考价值(4 点)
- 对推荐系统故障诊断 Agent,不能只看最终根因准确率,需引入逐步因果验证,检测“无根基诊断”模式,提升决策可靠性。
- 构建内部诊断数据集时,可借鉴正向验证思路:通过注入已知故障,记录因果传播路径,为 Agent 提供步骤级别的监督信号。
- 推荐系统 Agent 面对复杂用户行为序列或系统日志时,同样存在“猜对但推理错”的风险,应在设计中加入链式证据输出与自动核验机制。
- 长上下文理解和多工具协同是 Agent 核心瓶颈,建议在推荐场景中针对性优化对长用户轨迹、多源数据的处理能力。
搜索智能体何时该问:面向澄清感知深度搜索的 DiscoBench 基准
🧭 交互式搜索 · 歧义澄清基准 ★ 深度解读
Tencent Hunyuan · Tsinghua University
提出动态歧义传播的交互式搜索基准 DiscoBench,揭示当前 LLM 搜索智能体主动澄清与歧义检测分离的短板。
📌 工作参考价值(4 点)
- 搜索/推荐 Agent 的澄清模块设计:在电商搜索或推荐助手中,当用户输入模糊查询(如“上次那种风格的裙子”)时,不要直接硬搜或盲目推荐,应借鉴 DiscoBench 的歧义检测思路,先判断是否存在实体、版本或标准歧义,再向用户请求区分性线索(例如“是长裙还是短裙?”),显著提升任务成功率。
- 工具调用的策略性分配:实验表明,频繁调用搜索工具而忽略澄清的“SearchHeavyGuess”成功率甚至低于直接猜测(51.9% vs 56.5%)。在 Agent 架构中应嵌入显式的歧义识别节点,当检索结果出现多个候选或冲突时强制触发澄清,而非继续消耗 Token 进行无效搜索。
- 歧义检测与问题生成解耦:Qwen3.6-Max 的澄清问题质量很高(CE-A 94.7%),但因为几乎不主动提问(Ask 仅 0.07)而表现垫底。这提示在构建交互式 Agent 时需将“何时问”与“问得好”拆分为两个独立模块分别优化,例如单独训练歧义触发器。
- 交互评估的用户模拟器复现:DiscoBench 使用 LLM 模拟用户逐步披露区分性线索,这种低成本方案可直接迁移到电商对话 Agent 的离线评估中,用于自动化测试多轮澄清策略的效果,减少人工评估成本。
被忽视的免费午餐:LLM Agent 的进展优势
🧭 Agent 过程评估 · 优势函数 ★ 深度解读
University of Wisconsin–Madison · Argonne National Laboratory
从 RL 后训练中直接提取策略与参考策略的对数概率比作为隐式过程奖励,无需训练专用奖励模型。
📌 工作参考价值(4 点)
- 零成本过程评估:直接使用 RL 微调后 checkpoint 与其参考 checkpoint(如 base 模型)的 log概率比作为每步动作的进展优势,可替代昂贵且难以泛化的过程奖励模型训练,适合电商场景下多轮对话、工具调用等 agent 轨迹的实时监控。
- Best-of-N 采样提升成功率:在需要探索温度高、重试多次的任务(如对话式客服、复杂搜索流程)中,使用进展优势对候选轨迹评分并选择最佳轨迹,可显著提升任务完成率,实验在 τ2-Airline 等 agent 基准上超越专门训练的奖励模型。
- Agent 轨迹不确定性量化:将轨迹级进展优势作为成功的预测信号,可在无额外训练下准确判断 agent 交互是否可能失败,用于风险控制或在线干预;实验在多个模型上 AUROC 达 0.865,优于置信度基线和预训练 PRM。
- 故障步骤定位:在多智体或工具调用链条中,通过最小化每步进展优势来定位导致失败的关键步骤,辅助线上问题诊断和信用分配,几乎达到专门训练方法的精度。
BiPACE:基于双模拟引导与动作反事实估计的LLM智能体策略优化
🧭 LLM Agent 训练 · 分组策略优化
University of Chicago · Stanford University · The Hong Kong University of Science and Technology (Guangzhou) · University of Science and Technology of China · Meituan
用双模拟聚类和动作反事实基线修复步进分组RL的状态-动作信用失配,将ALFWorld验证成功率从90.8%提升至97.1%
📌 工作参考价值(4 点)
- 在训练对话式推荐、搜索 Agent 等多步决策模型时,可借鉴 BiGPO:使用 Actor 自身隐藏状态的余弦距离在线聚类,替代观测哈希,作为状态近似双模拟关系,大幅减少孤立组,增强组内信号,适用于并行采样多条轨迹的在线训练。
- PACE 的动作反事实基线:在行为簇内用动作条件化的均值作为基线计算 Q(s,a)-V(s) 风格的优势,避免将状态价值误归因给动作,适用于推荐 Agent 中相似状态下不同动作(如提问、推品)的精确信用分配。
- 方法无额外 Critic 网络,只需存储 rollout 中的隐藏状态和分组信息,额外开销仅 11.3% 训练步长,工程实现轻量,可直接替换现有 stepwise GRPO/GiGPO 的优势估计器,提升长程任务成功率。
- 限制:依赖多条并行轨迹构建分组,若系统仅支持单轨迹在线学习,需做适配;但批量离线训练或仿真交互场景可直接受益。
超越函数调用:工具环境不可靠性下智能体基准测试
🧭 Agent 工具使用可靠性评估与恢复分析
Shanghai Jiao Tong University
提出ToolBench-X基准,系统注入五种可恢复工具风险,揭示Agent在不可靠环境中可靠性大幅下降,恢复能力不足。
📌 工作参考价值(4 点)
- 构建Agent时需模拟工具不可靠性进行鲁棒性测试:工具描述漂移、调用失败、输出异常等在真实API、数据库查询中常见,应设计恢复路径(重试、回退、交叉验证)。
- 评估Agent应超越单步函数调用准确率,关注端到端任务完成率,尤其考虑并行与混合工作流的可靠性。
- 实验表明仅扩大推理预算(test-time scaling)对解决工具不可靠性增益有限,更有效的是增强Agent的故障诊断与恢复逻辑,例如提供恢复提示(hints)能挽救大量失败任务。
- 在搜索推荐等涉及多工具调用的场景(商品API、用户画像、库存查询),可参考ToolBench-X设计结构化故障注入测试集,验证Agent在部分依赖失效时的降级方案。
代码Agent需要多少静态结构?确定性锚点的研究
🧭 确定性锚点提升Agent定位与稳定性 ★ 深度解读
Beihang University
将轻量级静态调用/继承拓扑作为确定性锚点注入文本,使grep-first代码Agent的导航更可预测,Func@5提升2.2pp,方差减半
📌 工作参考价值(4 点)
- 注入结构化依赖作为检索上下文稳定探索:在搜索/推荐Agent中,可将物品之间的协同过滤图、知识图谱边或查询-文档关联作为“确定性锚点”写入文本索引,让Agent无需额外工具调用即可遵循结构,减少随机游走。
- 自适应方向性应对hub节点过曝:类似推荐中的热门物品,代码图中高连接度节点会在前向边标注下淹没检索结果;借鉴逆边策略(仅暴露“谁依赖我”),可减轻中心节点偏向,提升冷门/长尾内容的探索效率。
- 零侵入式上下文注入降低工程风险:将结构信息直接以注释形式插入现有文本索引,不改动Agent控制循环与工具集,适合在已上线的RAG/生成式推荐Agent中做低成本渐进实验。
- 将单次运行可靠性作为核心指标:生产环境中Agent只执行一次,Pass@1比均值更重要;论文表明锚点提升Pass@1 +3.4pp,提示在评估推荐Agent时应重视单次判定稳定性而非仅看平均召回。
多步工具使用强化学习的崩溃分析与监督信号修复
🧭 多步工具调用 RL 的稳定化训练 ★ 深度解读
中国科学院自动化研究所复杂系统认知与决策重点实验室 · 中国科学院大学人工智能学院
揭示 RL 训练中控制 token 概率畸变导致的结构性崩溃,系统性对比 6 种监督信号并以交错训练实现稳定工具调用
📌 工作参考价值(4 点)
- RL 训练前务必先用 SFT 注入工具调用格式:直接对未见过工具调用格式的模型做 RL 极容易发生 tool_call 等控制 token 的概率膨胀,导致输出退化为 <tool_call><|im_end|> 的空结构,需先用少量 SFT 数据建立格式基础。
- 交错训练(interleaved SFT-RL)比同步训练稳定得多:在 RL 探索过程中间歇插入基于失败样本的 SFT 校正,可大幅减少格式漂移,避免 KL 散度爆炸;尤其推荐 Erroneous Trajectory Supervision + Process Reflection Supervision,后者将中间步骤反思转化为文本监督信号,起到逻辑正则化作用。
- 纯 RL 的“崩溃”可能是格式伪影而非能力丧失:OOD 评估发现,单纯 GRPO 在分布外格式下反而稳定,说明崩溃主要集中在特定控制 token 的分布敏感区,真实工具调用能力仍然保留;因此线上部署时可考虑改变 prompt 模板来规避训练格式过拟合。
- 学习率对交错训练极为关键:错误轨迹监督 (ETS) 在较高学习率 (1e-5) 下提升显著,而同步方法常因共享学习率导致优化不稳定;可借鉴其逐步增加 RL 次数 + 错误 SFT 的调度策略。
开放权重LLM中的约束税:结构化输出导致工具调用抑制的实证研究
🧭 Agent工具调用与结构化输出约束交互 ★ 深度解读
Focus AI Center, Focus Technology Co., Ltd. · Nanjing University of Science and Technology
多个开源模型在工具调用与JSON Schema约束共存时工具调用被完全抑制,根因是语法解码掩码排除工具token,并提出两阶段执行缓解
📌 工作参考价值(4 点)
- 在电商/推荐Agent中,若同时启用工具调用(如检索数据库、调用API)与JSON Schema结构化输出,需警惕工具调用被静默抑制的风险。生产环境可考虑解耦:先执行工具调用获取结果,再让模型生成符合schema的最终回复,避免约束在解码层互相冲突。
- 推理框架选型时注意:SGLang/vLLM等通过语法掩码强制schema合规,会从logits层面排除工具调用token(如XML标签的<)。若必须同时约束,可探索允许工具调用token的混合语法,或使用非掩码的schema引导(如仅靠prompt约束)。
- 评估Agent系统不能仅独立测试工具使用和格式合规。必须设计联合约束下的端到端成功率测试,监控工具调用率与抑制率,防止上线后出现“格式合规但未获取外部数据”的隐性失效。
- 微调(SFT、GRPO等)无法绕过掩码层限制,因为权重优化在掩码之前。该发现表明,常规对齐手段无法解决此问题,需要从推理栈层面进行工程化防护。
Ko-WideSearch:韩语广度搜索基准,评估Web Agent穷举枚举能力
🧭 Agent 广度搜索基准
Upstage AI
提出韩语广度搜索基准Ko-WideSearch,揭示当前Agent擅长找回实体集合但严重缺失行级属性填充
📌 工作参考价值(4 点)
- 可借鉴其自动化合成-验证流水线思路,低成本构建领域内结构化信息枚举任务,用于评估搜索Agent的广度搜索能力。
- 电商场景中常有“列出XX品类下所有品牌及各自属性”需求,可参考该基准的表格化评估方式,同时关注集合完整性与单元格正确性。
- 难度旋钮设计(表格宽度、复合键)可迁移到渐进式任务生成,按需控制Agent需要跨多少页面聚合信息。
- 发现自由文本单元格是主要失败点,提示在业务Agent中应优先优化开放式属性抽取,可考虑结合知识库或结构化提示约束输出。
面向LLM智能体的语义一致性策略优化
🧭 LLM Agent强化学习的信用分配优化
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出SCPO,利用成功兄弟轨迹的语义对齐为失败步骤赋予正向信用,缓解群组RL中的信用不一致
📌 工作参考价值(4 点)
- 在多轮对话推荐Agent训练中,失败对话里的部分有效步骤(如正确追问偏好)可通过语义一致性奖励得到正反馈,提升样本效率。
- 工程实现上,仅需添加一个轻量的句子嵌入模型计算步骤间语义相似度,无需训练价值网络,可无缝接入现有GRPO/DAPO等群组RL管线。
- 对于搜索/推荐中需多步决策的长周期任务,可用SCPO对中间步骤进行更细粒度的信用分配,避免仅凭最终转化给奖励导致的训练不稳定。
- 失败轨迹的语义相似度阈值与权重可作为超参调节,控制探索与利用的强度,适配不同稀疏程度的业务场景。
OPID:面向智能体强化学习的在策略技能蒸馏
🧭 Agent 强化学习 · 技能蒸馏 ★ 深度解读
Tsinghua University · Zhejiang University · The Chinese University of Hong Kong · Nanyang Technological University · Tongji University
从在策略轨迹中提取分层后见技能并蒸馏回政策,为多步智能体提供稠密信号,无需外部技能库
📌 工作参考价值(4 点)
- 在构建多步交互的购物助手或搜索Agent时,可直接利用完整对话轨迹自动提取工作流与关键决策技能(如定位商品、处理售后),用于后续训练,无需额外人工标注或外部技能库。
- 关键优先路由(critical-first routing)可以为长对话推荐系统提供细粒度强化:当用户处于尺寸选择、支付等关键步骤时使用步级技能,其他状态使用全局工作流技能,避免简单拼接带来的相互干扰。
- 训练过程中技能蒸馏仅依赖历史轨迹和旧策略的重打分,推理时不引入任何额外模块(检索、分析器),适合线上低延迟部署。
- 该方法可与现有RL训练流程(如GRPO)直接结合,增强样本效率,特别适合小模型或数据稀缺的推荐/Agent场景:仅用60%的交互数据就能达到全量数据的结果水平。
Qwen-Image-Agent:弥合真实世界图像生成的上下文鸿沟
🧭 Agent驱动上下文补全的图像生成
提出统一Agent框架,通过规划、推理、搜索、记忆逐步补全缺失上下文,解决T2I模型在真实请求中性能不足的问题
📌 工作参考价值(4 点)
- Agent化模糊意图补全:用户输入常为欠说明的短句,借鉴“上下文规划—上下文接地”两步范式,在电商文案生成、广告创意、搜索Query推荐等场景中,可先通过推理或检索外部知识将模糊需求展开为完整生成指令,提升下游模型性能。
- 搜索与记忆增强:框架中显式引入搜索工具获取实时知识,并利用记忆模块积累历史偏好,对需要动态商品信息、促销活动更新的推荐文案生成或对话式购物Agent有直接参考价值。
- 能力拆解与基准设计:将Agent能力分解为Plan、Reason、Search、Memory四个维度并构建对应测试集,该方法可迁移到推荐/搜索Agent的评估,围绕电商特有的约束(如合规、冷启动)设计子任务。
- 多工具编排的工程启示:将多个能力模块(推理、搜索、记忆、反馈)统一在一个Agent中,通过规划调度协作,为解决推荐系统中多源信息融合和实时决策提供工程范式。
实时语音AI听得见声音却听不懂语气
🧭 语音Agent情感智能评估
Together AI · Stanford University
主流实时语音AI在做决策时忽略声音情绪,仅依赖文字内容,形成“情感智能差距”
📌 工作参考价值(4 点)
- 在语音客服或语音推荐Agent中,不能只依赖ASR转写的文本进行决策,必须将声音情绪特征(如语调、语速、重音)作为决策的额外模态输入,否则可能误判用户意图(比如愤怒用户说“没事”而机器人草率结束会话)。
- 对于需要情感敏感的场景(如投诉处理、大额交易确认),可以加入声学情感分类器作为安全阀,当检测到声音情绪与文字语义冲突时触发人工介入或二次确认。
- 评估语音Agent能力时,应专门设计“词汇-韵律冲突”的测试集,避免仅用文字上的准确率作为指标,从而暴露系统是否真正理解语音。
- Prompt工程直接要求模型关注声音情绪有时能改善,但不稳定,更可靠的方案是架构层面融合独立的语音情感表征(如加入专门的prosody encoder),而不是期望单一模型兼顾。
指令渗漏:提示组合智能体系统的跨模块干扰
🧭 Agent 提示组合干扰评估
University of Illinois Urbana-Champaign
形式化提示组合Agent中的行为泄漏(CBL),提出三通道探测协议并确认内容通道产生显著干扰效应
📌 工作参考价值(4 点)
- 构建多模块提示组成的搜索/推荐 Agent 时,需评估模块间干扰:无共享变量也可能通过上下文窗口的自注意力产生行为泄漏,建议在部署前对模块组合进行联合测试。
- 可直接复用三通道探测协议(volume、content、form)来量化生产 Agent 的 CBL,其中 content 通道最易触发干扰,可作为最小可行测试集。
- 效应虽未引起单次推荐翻转(Cohen’s d=0.63),但在高吞吐场景下微小偏移会随决策次数积累,评估时不能只看 QA 准确率,必须监控分布级偏移。
- 工程上可在提示编排中引入明确的分隔标记或模块隔离策略(如约束注意力范围),以减少非预期的跨模块信息混合。
置信度感知的工具编排实现鲁棒视频理解
🧭 Agent 工具编排 · 置信度感知推理
NTU Singapore · University of Minnesota, Twin Cities · UNIST
提出 Robust-TO 框架,通过逐帧可靠性评估与异构工具编排,将视频推理在干净/受损输入下的准确率提升至 56.4%/54.3%,远超基线。
📌 工作参考价值(4 点)
- 多媒体内容理解鲁棒性:商品视频/直播切片中存在模糊、遮挡等问题,可引入逐帧置信度评分,避免“盲目信任”导致的预测偏差。
- 工具编排与证据合成:将异构感知模块(OCR、目标检测、动作识别)抽象为统一证据接口,在推荐系统多模态特征融合时,按可靠性加权,提升融合质量。
- 置信度引导的强化学习奖励设计:GRPO 奖励结合正确性、证据可靠性和效率,可用于训练推荐模型在信息不足时主动请求高价值特征,实现成本-收益平衡。
- 在 Agentic 系统中,面对传感器或日志噪声,类似的三层置信度合成策略(高/中/低)可用于动态调整决策权重。
代理式电商中的验证产品信息微交易市场
🧭 代理电商中的信息微交易市场
Manchester Metropolitan University
当AI买家可大规模检索时,瓶颈从商品匹配转向获取可信信息,需构建信息微支付市场
📌 工作参考价值(4 点)
- 成本最优的信息获取策略:购物Agent可内置信息购买决策模块,根据商品价值动态计算“值得花多少钱解锁详情”,在预算约束下最大化购买信心。
- 信息定价与谈判机制:构建卖家与信息提供者的双向市场,用Agent谈判协议动态定价验证报告,替代传统固定收费的广告排名,激励卖家主动提供高质量信息。
- 声誉评分验证信息可信度:借鉴reputation scoring,对评论者或信息源建立信任积分,Agent购买前根据积分加权信息可靠性,对抗虚假评论和操纵行为。
- 隐私保护的买家画像:在Agent本地建模用户偏好,仅向外透露必要特征,平衡精准匹配与隐私泄露风险,适合电商场景下用户敏感数据保护。
基于预训练信念表示的高效自适应数据获取
🧭 预训练信念驱动的自适应数据获取策略
ELLIS Institute Finland · Department of Computer Science, Aalto University, Finland · Department of Computer Science, University of Helsinki, Finland · Department of Computer Science, University of Manchester, UK · Department of Statistics, University of Oxford, UK
提出POLAR,用预训练模型编码信念状态以解耦表示与策略学习,统一高效地解决贝叶斯实验设计、优化与主动学习
📌 工作参考价值(4 点)
- 在在线推荐、广告搜索中,可将预训练的用户行为序列模型(如Transformers)作为信念状态编码器,仅微调轻量策略头用于bandit/RL决策,避免从零训练。
- 自动化A/B测试或超参数调优时,可用POLAR实现样本高效的贝叶斯优化,大幅减少实验成本。
- 主动学习选择标注样本:利用预训练的语境表示作为信念状态,训练策略头快速适应新任务,所需查询数显著减少。
- 工程上,解耦表示与策略允许复用预训练表征,只需更新策略头,方便增量部署与策略迭代。
面向计算机使用代理的自主评估强化学习
🧭 GUI代理 · 噪声奖励校正
Ukrainian Catholic University, Lviv, Ukraine
用VLM作为不完美奖励信号的噪声校正强化学习,显著提升GUI代理任务成功率
📌 工作参考价值(4 点)
- 当无法获得密级标签或手工奖励函数时,可以用 VLM 评分作为稀疏奖励 来微调 Agent 策略,尤其适合 UI 自动化、电商操作机器人等视觉交互任务
- 将 VLM 评估视为带噪声的二元信道,推导出 PPO 中噪声校正奖励估计器 的思路,可直接复用于任何依赖不完美自动评估的 RL 训练,例如用 LLM 评价对话质量或推荐解释
- 实验中噪声校正明显优于直接用原始评估奖励(+5.1pp),提示在落地类似方案时,必须对自动评估器的误差建模,否则噪声会削弱甚至误导策略学习
- 该方法解耦了任务评估与策略优化,意味着可以 快速迭代评估器(更换 VLM 或 prompt)而不必改动 Agent 架构,适合工程中渐进式优化
面向原生Agent内存系统的系统性评估与设计
🧭 Agent 内存系统体系化评估与设计
Shanghai Jiao Tong University · Tsinghua University · MemTensor (Shanghai) Technology Co., Ltd
从数据管理视角分解Agent内存为四模块,量化权衡并揭示局部维护成本效益最优
📌 工作参考价值(4 点)
- 模块化设计:将Agent内存解耦为表示/存储、提取、检索/路由、维护,便于针对业务瓶颈选型,例如在搜索推荐Agent中,可单独优化检索精度与动态更新。
- 局部维护优于全局重组:在用户画像或对话状态频繁更新的场景下,采用增量式维护(如局部索引更新)比全量重建内存成本更低,适合线上实时系统。
- 成本-性能权衡:通过消融实验量化了表示保真度、检索精度、更新正确性等,为资源受限的推荐Agent提供了明确的架构取舍依据。
- 评估体系:超越端到端指标,关注内存子系统自身的鲁棒性与稳定性,可用于指导自研Agent中上下文记忆模块的离线评测。
验证的边界:编码智能体奖励没有万能解
🧭 Agent奖励设计 · 验证信号共同演化
Qwen Team
论证验证信号需兼具可扩展性、忠实性与鲁棒性,四种奖励构建实验指出验证必须与生成器协同演化
📌 工作参考价值(4 点)
- 在推荐/广告排序模型优化中,离线代理指标(如CTR预估)常偏离真实业务目标,可借鉴可扩展–忠实–鲁棒三维框架,定期用用户直接反馈(类似论文“用户作为验证器”)校准奖励,防止过拟合代理指标。
- 生成式推荐(如Semantic ID生成)场景,生成器与验证器应联合迭代更新,防止固定验证标准导致的奖励黑客;可引入自动渐进验证器,随生成能力提升动态调整评估维度。
- 多智能体协作推荐中,对开放意图的用户Query,可采用类“rubric verifier”思路,将模糊需求分解为多个可自动检查的子指标(如多样性、时效性、相关性),提升验证信号鲁棒性。
- 长周期购物助手Agent任务中,可设计自动化验证Agent监控并分段评估推荐链路的中间步骤,降低人工评估成本,同时保持信号忠实性。
根记忆:隐式逻辑记忆检索基准与增强框架
🧭 Agent 长程记忆 · 根记忆构建与路由 ★ 深度解读
University of Science and Technology of China
提出IMLogic基准与RootMem框架,构建可复用决策逻辑的根记忆,路由补足语义检索
📌 工作参考价值(4 点)
- 构建用户根记忆单元:从历史会话提取抽象决策规则(如“用户养猫,推荐环境需考虑猫的安全”)及其证据,用于约束推荐,避免纯语义匹配导致的错误建议。
- 采用LLM路由器动态激活相关根记忆:新查询到来时,用LLM判定触发哪些预设决策规则,低成本注入逻辑约束,无需全量检索原始记忆。
- 记忆鲁棒性评测:借鉴IMLogic中“语义相似但逻辑无关”和“语义疏远但逻辑必需”的对抗样本构造法,建立内部评测集,检验搜索/推荐系统中记忆检索的推理能力。
- 即插即用集成:RootMem可接入现有记忆系统(如embedding检索、图记忆),平均提升26%准确率,离线构建根记忆、在线仅路由,开销可控,适合工程落地。
Qwen-AgentWorld:面向通用Agent的语言世界模型
🧭 语言世界模型增强Agent训练与规划 ★ 深度解读
Qwen Team
首个覆盖7个交互域的语言世界模型,通过三阶段训练实现高保真环境仿真,并验证世界建模可提升Agent策略与任务表现
📌 工作参考价值(4 点)
- 三阶段训练管线可迁移:CPT注入世界知识、SFT激活“下一状态预测”推理模式、RL强化仿真精度。此范式可用于训练电商场景的环境模拟器(如模拟价格变化、库存波动、用户行为反馈),为Agent提供安全训练环境。
- 信息论损失掩蔽:根据动作-观测的统计特征(重叠率、新颖度、Jaccard等)判定信息量,对低价值turn(如API回声、纯确认)屏蔽损失但保留上下文。推荐系统训练中可借鉴此方法,自动过滤低质量点击/曝光序列中的无信息step,提升学习效率。
- 世界模型作为Agent预训练任务:世界建模训练(预测环境反馈)可作为Agent策略学习的前置warm-up,显著提升下游任务表现。在电商Agent(如对话式购物助手)设计时,可先训练其预测用户回复或系统状态变化,再微调至目标任务,获得更强基座。
- 可控仿真暴露长尾风险:通过simulation instruction人为制造干扰(如部分返回结果、隐藏关键信息),迫使Agent学习处理罕见边缘情况,最终超越纯真实环境训练的效果。适用于电商高风险操作(大额退款、自动调价)的仿真训练,低成本覆盖长尾异常场景。
SkillHone:基于持久化决策历史的持续Agent技能进化框架
🧭 Agent技能持续进化 · 决策历史持久化
Tencent Inc.
通过持久化决策历史与角色分离子代理实现Agent技能的持续进化,超越商业deep-research agent
📌 工作参考价值(4 点)
- 技能进化与搜索推荐系统结合:将技能看作搜索推荐中的策略、召回规则或排序配置,用 SkillHone 的持久化历史管理这些策略的迭代,避免无效回退,每次修改都可追溯其诊断依据与实证反馈,适用于广告出价策略动态调整、推荐模型在线更新。
- 角色分离子代理用于多智体协作:引入 diagnosis、revision、evidence 等子代理分工,可迁移到电商 Query 改写或搜索建议生成场景,一个代理诊断当前 query 性能短板,另一个根据历史修订记录提出新的改写方案,通过实践探针评估后合入主流程。
- 实践探针机制做离线评估:在推荐系统中可抽检历史曝光样本作为探针,每次技能更新后重跑探针并比对效果,实现低成本、可复现的离线迭代,比全量 A/B 实验更快反馈。
- 决策历史作为知识资产沉淀:主动记录 agent 的决策过程(如为什么使用某个召回通道、为什么排序公式这样调参),形成可检索的知识库,让后续模型或工程师快速理解历史优化逻辑,减少重复实验。
训练通用智能体模型的数据配方:开放实验与消融研究
🧭 Agent训练数据配方的系统性消融与开放数据集
UC Berkeley · Stanford University · University of Texas at Austin · UCLA · Amazon
100+消融实验揭示智能体训练数据配方的关键要素,100K数据微调Qwen3-32B后在7个基准上平均准确率44.8%,超越最强开源基线3.9个百分点
📌 工作参考价值(4 点)
- 数据多样性优于单一任务源:消融显示混合多种任务源(如代码、交互、推理)对泛化至关重要,构建推荐/搜索Agent的微调数据时应避免只用单一场景的日志。
- 指令格式与难度分布:通过统一系统提示、调整任务难度比例可以稳定提升Agent鲁棒性;在电商Agent微调中可借鉴控制简单/困难样本比例的方法,防止模型过拟合简单对话。
- 开放数据流水线复用:论文公开了完整的数据处理管线(任务收集、格式标准化、难度过滤、质量筛选),可直接复用构建内部垂直领域Agent训练集,尤其适合客服、推荐解释等场景。
- 消融方法论:100+对照实验的设计思路可用于业务中快速诊断数据瓶颈,比如对比不同召回源、不同交互历史长度对Agent效果的影响,低成本找到最优数据配方。
AOHP:面向个性化、高效、安全交互的开源OS级代理框架
🧭 OS级代理原生支持
Tsinghua University · Peking University · The University of Hong Kong
将AI代理视为一等OS角色,通过个性化服务组合、高效接口与安全信息流,提升任务完成率21.12%,降低51.55% token成本
📌 工作参考价值(4 点)
- 移动端Agent架构设计:将Agent作为OS一等公民的思路可直接用于电商/购物助手App,实现跨应用(如搜索、商品详情、支付)的无缝服务组合,提升用户转化。
- 降低LLM调用成本:高效代理接口通过系统级能力暴露减少对LLM的频繁调用,在需要多步推理的推荐场景(如对比商品、下单建议)中可显著节省token消耗。
- 敏感数据安全控制:细粒度信息流隔离机制适用于处理用户支付、地址等隐私数据,在推荐系统集成支付或用户画像查询时可借鉴其权限分级策略。
- 真实环境评测基准:开源的AOHP平台可作为移动端Agent能力评测的测试床,用于验证搜索推荐Agent在Android系统中的实际表现与安全合规性。
EnterpriseClawBench: 基于真实工作会话的企业智能体基准
🧭 企业智能体评估 · 多维度基准
Horizon Research · Frontis.AI
从真实企业Agent日志构建852个可复现任务的基准,揭示评估必须报告多维度指标而非单一得分
📌 工作参考价值(4 点)
- 评估生产环境Agent时,必须同时上报成本、运行时间、产物交付质量、视觉质量等,不能只依赖文本匹配得分,这在推荐系统Agent评估(如自动素材生成、文案产出)中同理。
- 基准构建采用从真实日志恢复任务的方式,可以借鉴到电商/广告Agent的离线评估:从历史操作会话中抽取场景,脱敏后重构可复现的测试集,防止数据泄露。
- 硬规则(hard rules)与技能子类(skill subclasses)的标注思路,可用于业务Agent的细分能力诊断,例如区分“商品标题生成”与“广告文案创意”的不同技能域,针对性优化。
- 工具-模型组合(harness–model combination)的评测模式提醒我们:Agent框架选择(类似推荐系统中的召回/排序通道)对最终效果影响显著,需要联合调优而非单独比拼模型。
管理LLM Agent中的程序性记忆:控制、适应与评估
🧭 程序性记忆迁移与演化基准 ★ 深度解读
提出AFTER基准,揭示程序性技能从多样化多模型轨迹中演化可实现73.1%跨模型测试准确率
📌 工作参考价值(4 点)
- 多样化经验提升泛化性:用多个不同模型的执行轨迹去演进技能,比单模型轨迹能显著提高跨模型泛化能力(+13.7%)。在电商搜索/推荐中,如果使用多个异构模型(如不同Transformer模型或不同策略)的日志来优化统一技能(如query改写、意图识别),可能提升技能在新模型上的适应性。
- 角色特定技能退化:跨角色迁移时,同一技能(如pdf处理)可能因角色差异(如PM的摘要 vs DS的数据提取)导致性能下降。在推荐系统中,为不同业务线(如搜索推荐 vs 广告推荐)定制的策略或prompt应区分训练,避免强制共享导致的特化退化。
- token效率:通过前置程序性知识到prompt中,可大幅降低推理token消耗(最高-62%)。在LLM驱动的推荐agent中,将常用处理逻辑固化为技能指令,能减少运行时重复推理,降低成本和延迟。
- 技能更新机制:单轮refinement就能提升3.7-6.7个百分点,采用COLLECT–DIAGNOSE–REVISE–PROMOTE循环,可快速迭代优化agent行为。可用于电商搜索的query生成或商品描述生成pipeline的快速迭代。
GUI vs CLI:屏幕交互与技能驱动型智能体执行瓶颈对比研究
🧭 GUI 与 CLI 智能体执行瓶颈对比
NYU Shanghai · Yale NLP Lab · Nanyang Technological University
在匹配任务条件下,GUI 智能体受限于长视距可靠交互,CLI 智能体瓶颈在于技能覆盖,经验证器增强后 CLI 可反超 GUI
📌 工作参考价值(4 点)
- 在构建 GUI Agent 处理长流程自动化(如电商后台操作、多步骤报表生成)时,可引入中间状态验证器或自我校正机制来缓解累积的定位错误,或结合 CLI 技能对关键步骤进行兜底。
- 对于基于 API / 技能调用的 Agent(如订单查询、广告投放接口),性能瓶颈往往不在模型推理能力,而在技能接口的覆盖度;可设计自动化的技能发现与补全管线,利用验证器反馈迭代扩充技能库。
- 混合架构(GUI + CLI)在真实场景中有互补价值:对界面变化频繁的步骤用 GUI 柔性适配,对高频、标准化操作封装为技能,兼顾灵活性与可靠性。
- 评测 Agent 性能时务必控制任务、初始状态和验证器,否则模态差异会被任务难度混淆;可参考其匹配基准设计思路来做内部 A/B 对比。
计划不持久:为何上下文管理对LLM代理至关重要
🧭 Agent 上下文管理 · 计划衰减测量 ★ 深度解读
Snowflake AI Research
发现标准LLM代理将计划存于上下文而非内部状态,计划信号4-12倍衰减,且推理模型存在重推导污染
📌 工作参考价值(4 点)
- 在构建电商搜索/推荐代理时,若采用ReAct等框架,长任务中切勿轻易压缩或驱逐计划文本——计划信号会因上下文丢失而快速衰减,导致任务失败率陡增34.7pp。
- 可通过 replay pairing 方法诊断关键信息(如约束、工具schema)是上下文驻留还是内部持久化,避免上下文压缩时的隐蔽损坏。尤其对推理模型(DeepSeek-R1等)需使用 strict stripping 去除 <think> 重推导污染,否则测量失真。
- 计划衰减探针(如L32 Ridge回归)可提前4-5步预警行为偏差,适合用作代理的上下文监控器,在计划信号低于阈值时主动回注计划,无需等到动作偏离。
- 推理模型的 <think> 痕迹会不断重推导计划内容,可作为自然冗余,但依赖其完全恢复仍不现实;在压缩关键上下文前,需先验证代理是否已将信息内化。
TRACE:基于业务规则的推理课程实现知识保留的参数化工具检索
🧭 工具检索 · 业务规则推理 · 知识保存 ★ 深度解读
SAP Labs
通过两阶段课程与业务规则推理轨迹,在保持工具知识的同时实现单束解码的高召回工具检索
📌 工作参考价值(4 点)
- 业务规则注入推理轨迹的方法可迁移至电商推荐/搜索:将促销规则、禁售约束、新品权重等转化为“规则-推理-答案”训练数据,让模型在生成推荐或查询改写时显式引用规则,提升准确率和可解释性。
- 两阶段课程设计可缓解微调遗忘:先通过多格式记忆(LoRA)保持原始知识,再叠加推理增强任务,适合在推荐模型持续学习新业务规则时防止商品属性知识退化,确保工具/商品 ID 的语义锚定。
- 单束贪婪解码替代约束束搜索:将推理过程融入生成,避免推理时前缀 trie 约束,大幅降低延迟(~200× 吞吐提升),可直接部署于实时搜索推荐系统。
- 合成数据管道生成规则覆盖:通过 LLM 将领域专家编写的业务规则转化为多样化查询-推理对(显式、隐式、异常三种风格),可在规则较少时快速扩充训练数据,适用于电商意图识别、多意图查询路由等场景。
诊断 LLM Agent 过早承诺:隐状态收敛监测
🧭 Agent 推理过程故障诊断 · 隐状态收敛监测
Snowflake AI Research
定义并诊断 Agent 过早承诺:跨运行隐状态收敛预示轨迹僵化,但不反映正确性
📌 工作参考价值(4 点)
- 在多步推荐、购物助手等 Agent 场景中,可监控固定步骤的隐状态余弦相似度,当跨运行相似度过高时触发干预(如重新提示或增加探索),防止过早锁定次优推荐路径。
- 借鉴 Prompt 干预:在指令中加入“考虑其他解释或替代方案”,可将行为方差降低 28% 而不损害准确性,可用于提升推荐多样性或避免 Agent 过早排除候选。
- 注意该信号仅指示过程稳定性而非正确性,适合用作过程控制(如动态调整探索程度),不宜直接作为正确性过滤器。
- 该方法跨模型、跨任务可复现,可直接集成到 Agent 监控系统,实现轻量级轨迹一致性检测(AUROC 最高 0.97),无需依赖最终答案质量。
智能体模型批判:从代理到内生能动性
🧭 Agent 能动性分析与架构设计
Institute of Foundation Models, Mohamed bin Zayed University of Artificial Intelligence · School of Computer Science, Carnegie Mellon University
区分“代理式”与“内生式”AI系统,提出GIC架构以实现源于系统内部的真正能动性
📌 工作参考价值(4 点)
- 构建自主推荐Agent时区分“流程编排”与“内生能力”:当前多数推荐LLM Agent(如工具调用搜索)停留在agentic阶段,通过外部工作流拼接;真正能适应开放世界的推荐系统应走向agentive,让目标分解、用户身份理解、自我纠偏内化至模型,减少硬编码脚本。
- 在电商Agent中引入身份演化和自我调节:GIC架构的身份演化机制可用于用户建模,使Agent捕捉长期偏好变化而非仅反应当前会话;自我调节模块可监测推荐是否符合长期客户价值(如避免过度追求短期点击),自动调整策略。
- 利用分离的世界模型进行仿真推理:训练一个独立的世界模型(用户行为、市场环境模拟),Agent可在此模拟器中试错(simulative reasoning),安全地学习推荐策略,避免直接在线上探索带来的风险,尤其适用于高价值商品推荐或广告投放。
- 分级目标分解应对多目标冲突:电商场景下推荐常面临多目标(点击、转化、GMV、多样性),GIC的分层目标分解提供形式化框架,将抽象公司目标逐层拆解为可执行的子目标,并自主协调冲突。
智能体人工智能全面指南:从基础到系统实现
🧭 Agent 构建 · RL 训练 · RAG 与记忆系统 ★ 深度解读
覆盖 LLM 基础、RL 对齐、Agent 训练、RAG、记忆与推理的工程实践手册
📌 工作参考价值(4 点)
- Agent 训练完整配方:第12章提供轨迹缓冲区、多目标奖励设计、课程学习等细节,可直接用于对话式推荐 Agent 的强化学习训练
- GRPO 与 Agent 优化:详解 GRPO 及其变体(Dr. GRPO、SAPO 等),可迁移到电商 Agent 多轮交互策略的在线优化
- Agentic RAG 模式:查询变换、自我反思、多源路由等模式可直接用于电商搜索中的多步检索与问题解答 Agent
- 记忆系统设计:用户建模、会话连续性、层次化记忆管理器等方案,可落地实现个性化推荐 Agent 的长期记忆管理
终端智能体简单训练配方 Tmax
🧭 终端 Agent 强化学习训练配方
Allen Institute for AI · University of Washington
用分类法生成数据 + 仅结果奖励 RL,9B 模型在 Terminal-Bench 2.0 上达 27%,超越更大模型
📌 工作参考价值(4 点)
- 数据生成策略可复用:通过难度控制、角色多样化和验证器多样化生成大规模合成训练环境,这套方法可直接用于生成推荐系统智能体的指令或交互数据,尤其适合构建面向开发者的推荐工具 Agent。
- 仅结果奖励的 RL 简单有效:在推荐 Agent 的在线学习场景中,无需设计复杂中间奖励,直接使用最终任务成功与否作为信号,降低工程开销,且对超参不敏感。
- 开源基线可直接加速实验:Tmax 的数据集(2.5 倍于先前最大公开集)和模型可作为起始点,快速验证终端交互类 Agent 在推荐基础设施运维或自动化部署中的应用。
- 小模型通过 RL 可超越大模型:9B 参数模型经过 RL 训练后性能超过 32B 模型,对资源受限的推荐团队有强提示:精调小模型 + 针对性的 RL 数据可能比盲目上大模型更划算。
自压缩语言模型智能体:基于评分规则的自适应上下文压缩
🧭 自适应上下文压缩 · 评分规则栅控 ★ 深度解读
Johns Hopkins University · Apple
提出训练无关的自适应上下文压缩方法,通过轻量规则让模型自决定压缩时机,避免固定间隔压缩破坏中间推理
📌 工作参考价值(4 点)
- 长轨迹Agent的上下文管理:可借鉴评分规则(rubric)用于决定何时压缩历史,避免在模型推导或搜索中途破坏信息,尤其适合电商客服、推荐解释生成等需要多轮推理的场景,提高答案正确性并降低上下文长度。
- 低成本KV-cache复用:压缩触发时仅追加总结指令,重用已有缓存的trajectory tokens,几乎零预填充开销,相比重新编码大量上下文可节省30%-70%的计算成本,适合部署在在线服务中。
- 任务特定规则设计:根据任务特性编写轻量级栅控提示(如数学中的“是否已得最终答案”、“是否陷入停滞”),无需训练即可引导模型在安全点压缩,可直接迁移到搜索推荐中的多步检索、方案生成等流程。
- 训练无关的元认知增强:暴露“压缩工具”并配合规则,让模型表现出类似元认知的自省能力,可适用于任何支持工具调用的开源模型,无finetuning成本,可快速实验。
Nous: 面向长期 Agent 记忆的预测世界模型
🧭 Agent长期记忆 · 预测世界模型
Indian Institute of Technology Ropar
基于信息论惊喜度和贝叶斯更新,用概率分布代替事实存储,实现Agent记忆的自然遗忘与身份解析。
📌 工作参考价值(4 点)
- 用概率分布跟踪用户/商品属性变化:在电商推荐Agent中,每个用户偏好或商品属性可维护一个分类分布,新交互通过贝叶斯更新增量调整belief,避免定期全量重建用户画像。
- 惊喜度指标驱动重要记忆保留:仅当观察的信息量$S=-\log_2 P$超过阈值时才记录“delta”,可自动过滤噪声信号,降低记忆存储开销,适配高频交互场景。
- 自然遗忘机制处理数据时效性:分布未获新证据时熵增向均匀分布收敛,自动淘汰过时信息,无需人为设计衰减规则,利于动态环境下的推荐策略调整。
- 轻量级实现,无外部向量库依赖:整套记忆逻辑基于闭式概率更新,不引入向量数据库或图谱引擎,易于集成到已有Agent管线,降低系统复杂度。
PlanBench-XL:大规模工具生态中LLM Agent长期规划评估基准
🧭 Agent 长期规划评估 · 大规模工具检索
University of Illinois Urbana-Champaign
在1665个工具的零售任务基准上,揭示LLM Agent在检索受限与动态阻塞下长期规划能力的严重退化
📌 工作参考价值(4 点)
- 电商Agent常需在大量API/工具中选择与组合,本基准中的迭代式工具检索-调用-发现子目标范式可直接用于设计推荐/搜索Agent的规划流程,尤其需要将工具描述检索与规划解耦,避免一次性暴露全量工具。
- 阻塞机制模拟了真实服务不可用、返回异常或误导性工具,建议在Agent开发中注入工具调用异常处理与自适应模块,如动态替换失败工具、延长尝试路径,并显式标记错误信号以降低恢复难度。
- 实验发现Agent在缺乏明确错误信号时极易崩溃,值得在业务Agent中强制要求工具返回标准化状态码与可读错误信息,并训练模型利用这些信号重规划。
- 该基准的“长期任务→子目标推断→中间证据收集”闭环,为电商场景中多步推荐(如先查用户画像→再查商品库存→组合优惠规则→生成推荐)提供了可测试的评价范式,可参照构建内部鲁棒性测试集。
PrivacyAlign:LLM Agent 的情境化隐私对齐
🧭 Agent 情境隐私对齐与人类规范对齐
University of Waterloo · ServiceNow AI Research · McGill University · Mila – Quebec AI Institute
引入PrivacyAlign数据集和注释条件奖励建模,训练的小型开源Agent更符合人类隐私规范
📌 工作参考价值(4 点)
- 在电商Agent中防止泄露用户订单、地址等私密信息,可复刻该数据集的构建方法:收集实际泄露场景,进行多轮人工标注(包含解释),用于对齐训练与评测。
- 注释条件奖励建模:利用人类标注(标签+解释)为响应生成细粒度奖励,用于强化学习训练,可迁移到生成式推荐等任务中,避免模型输出敏感用户偏好。
- 用LLM裁判评估隐私行为时,通过条件化人类标注和解释作参考,能提高裁判的可靠性,这一技巧可直接嵌入业务自建的隐私评估流水线。
- 小模型(如Llama-3-8B)经过隐私对齐训练后,能在不牺牲通用能力下大幅提升隐私保护,证明业务场景可用较小自有模型微调实现合规。
边际优势累积:跨批次证据驱动的 Agent 记忆自进化
🧭 Agent 记忆自进化 · 跨批次证据累积 ★ 深度解读
Alibaba International Digital Commerce Group
通过差分信号与 EMA 累积跨批次操作级证据,解决离线记忆蒸馏中的信号矛盾问题
📌 工作参考价值(4 点)
- 记忆更新的离线优化范式:当 agent 需要从历史执行痕迹中抽取可复用记忆(如电商导购策略、广告投放流程模板),可采用 MAA 的‘提案-评分-差分-EMA 累积’流水线,完全避免线上 rollout 的高成本,适合高延迟、高成本的真实业务环境。
- 差分评估消除批次混杂:直接把操作评分作为优化信号容易受批次难度影响,借鉴 MAA 的‘同一批次内 baseline 与候选同步打分再求差’的设计,可得到跨批次可比的操作优势方向信号。在推荐 agent 的策略搜索中,可以用 LLM 对候选策略与当前策略在同一批请求上同时打分再差分,得到更干净的优化方向。
- 基于语义合并的跨批次操作追踪:对 agent 输出的文本操作(如改写规则、新策略片段),可通过 embedding 相似度合并语义等价的候选项,避免因表述差异导致的证据碎片化。该技巧可直接用于线上记忆管理系统的操作去重与合并。
- EMA 证据累积与三种操作模式识别:通过 EMA 跟踪每个操作的边际优势,可以自动区分‘稳定有效’、‘虚假相关’和‘场景特定’三类操作,实现安全的离线记忆演化。在搜索广告的查询改写记忆或 prompt 库优化中,可避免单次正样本就把噪声策略写入长期记忆。
编码代理仓库指南的探测-精炼调优
🧭 Agent 上下文指导自动优化
Williams College
通过合成bug探测迭代优化仓库指南,使编码代理解决率提升4.7个百分点以上,增长源于覆盖扩大而非单一补丁精度提升
📌 工作参考价值(4 点)
- 知识库迭代优化范式:借鉴 probe-and-refine 思路,在电商搜索、推荐等 Agent 系统中,通过自动生成探测任务(如合成搜索请求、推荐场景)诊断当前知识/指南的缺失,再用 LLM 自动生成补丁,实现领域知识的低成本持续优化。
- 提升覆盖率 > 提升单点精度:实验表明性能提升来自让 Agent 触达正确信息源的比例增加,而非每次决策的准确率。在构建推荐/搜索 Agent 的上下文或工具描述时,更应关注覆盖哪些流程、边界条件,确保 Agent 能找到关键信息,而不是过度微调每一步的精准度。
- 轻量级调优,免于复杂 Agent 循环:调优过程仅使用单次 LLM 调用生成补丁,无需运行完整 Agent 流程,可大幅降低迭代成本。对于需要给 LLM Agent 配置系统指南、业务规则等文本的场景,可采用类似方法快速演进,无需复杂仿真环境。
- 步数预算与指导协同:更长的推理步骤只有在具备良好指导时才能正向收益。设计推荐/搜索 Agent 时,若允许动态步数,需同步提供高质量的上层指导,否则多余步数反而可能引入噪声或偏离任务。
CalVerT:用校准验证遥测增强智能体,改进知识密集型任务行动与学习
🧭 Agent校准遥测改进检索决策
The University of Texas at Austin
给智能体状态加入校准自置信和接地验证分数,纠正过度信任参数知识与冗余检索
📌 工作参考价值(4 点)
- 在购物助手、搜索Agent等场景,可引入类似双信号状态:用模型对候选答案的校准置信度(如 p(true))和检索片段对答案的支持度(grounding verifier)作为决策依据,减少幻觉和无用检索。
- 无需重新训练即可将遥测信号接入现有Agent框架(如 ReAct、RaR),只需在 Prompt 或状态中附加这两个分数,即可立竿见影提升回答准确率并节省检索成本。
- 当业务场景面临“模型太自信却答错”或“反复查询知识库却已有充分信息”时,可借鉴该工作设计决策规则:当置信度低且接地分低时触发检索,当两者都高时直接回答。
- 若后续采用强化学习微调Agent策略,将遥测信号作为状态特征加入,能进一步优化决策,此思路可直接复用于电商对话Agent的检索策略训练。
DataClaw0:从原始多模态流中代理式剪裁数据的可学习精炼模型
🧭 代理式多模态数据精炼与合成
Xi'an Jiaotong University · University of Chinese Academy of Sciences · Shenzhen University of Advanced Technology · Tsinghua University
将数据处理从被动标注提升为可学习的代理式剪裁,用SFT+GRPO训练9B模型,生成高信息密度多模态数据以高效驱动下游任务。
📌 工作参考价值(4 点)
- 电商多模态数据清洗与增强:借鉴Factual Anchors思想,对商品视频、直播切片、详情页截图等原始流,先抽取确定性事实(如商品属性、价格、功能演示片段)作为锚点,再围绕锚点生成问答、描述、指令数据,可大幅提升推荐模型训练数据的信噪比与信息密度。
- Agent行为轨迹的结构化:在广告投放决策、智能客服等场景中,Agent的操作日志冗余且混杂。可训练小型精炼模型(类似DataClaw0),自动识别关键决策点、去重、补全因果链,将原始轨迹转化为高质量的推理训练样本,用于RLHF或post-training。
- 低成本迭代式数据精炼:两阶段合成流水线(事实锚提取+生成式语义合成)可离线运行,不依赖昂贵人工标注;工程上可将精炼模型作为数据pipeline的微型agent,对新入库的UGC内容持续精炼,构建动态更新的高质量数据池。
- 数据质量评估范式的迁移:直接用下游任务(如推荐召回、CTR预估)的post-training效果来反向验证数据精炼质量,将离线质量评估与在线业务指标对齐,避免仅靠人工抽查导致的数据偏差。
基于交互轨迹挖掘的计算机代理技能文档自动生成
🧭 Agent 交互轨迹挖掘与技能自动化
Massachusetts Institute of Technology · Harvard University
轨迹聚类可得到高可读性的技能库,但对策略迁移几乎无帮助,暴露当前方法缺陷
📌 工作参考价值(4 点)
- 在构建电商/广告投放的 Agent 时,若从操作日志中挖掘可复用子任务,需警惕:无监督聚类的高纯度并不保证下游策略收益,必须进行任务导向评估。
- 当前的边界检测和无序片段表示是主要瓶颈,实际系统中应优先采用能保留顺序信息的轨迹编码(如序列模型),避免丢失操作依赖。
- 离线奖励模型(如本文中使用的 GRPO 奖励)可能与真实任务成功指标存在偏差,在线评估或使用任务完成信号作为奖励会更可靠。
- 频率先验(高频子序列直接作为技能)是强基线,在资源有限时可作为快速冷启动方案验证概念,再迭代至学习模型。
“连接点”:用RL训练长生命周期Agent的跨域泛化
🧭 Agent 长生命周期元能力训练 ★ 深度解读
Alibaba Group
提出 CoD 框架,用端到端 RL 训练 LLM 在长序列任务中自我更新上下文,实现跨域泛化
📌 工作参考价值(4 点)
- 长周期交互的Agent训练范式:推荐/广告场景中的对话式Agent需在多个会话中持续积累用户偏好,可借鉴 CoD 的「解决任务 + 更新上下文」交错部署模式,训练模型主动维护并利用对用户或环境的记忆。
- 信用分配技巧:采用动态规划思想,将每集回报定义为当前及未来任务奖励的均值,并以同位置轨迹均值作为基线计算优势,可迁移到多步推荐优化中,缓解长序列信用稀疏问题。
- 探索激励环境设计:通过隐藏关键信息(如动作映射)制造信息瓶颈,迫使模型主动探索,可用于构造模拟用户意图欠明确场景的训练集,提升 Agent 的主动信息获取能力。
- 合成环境到真实业务的迁移:实验显示在简单游戏环境中训练的元能力能泛化到终端仿真任务,业务中可尝试在低成本合成环境训练长生命周期能力,再迁移到真实业务 Agent。
MemGUI-Agent:基于主动上下文管理的端到端长时域移动GUI智能体
🧭 Agent 上下文管理优化
浙江大学 · 快手科技
提出 Context-as-Action,将上下文管理作为一级动作压缩历史,让 8B 模型在长时域移动任务上超越更大规模模型
📌 工作参考价值(4 点)
- 长时域任务中引入“折叠历史”机制:在电商客服、导购 Agent 等多轮交互场景,可将对话历史分为“动作摘要+状态摘要+近期细节”三字段,关键信息不丢失且上下文长度可控,避免 ReAct 模式下的 token 爆炸与事实稀释。
- 将上下文管理作为策略动作统一训练:在推荐对话或任务型 Agent 中,把“忘记/压缩/总结”等上下文操作与业务动作(如查询商品、推券)纳入同一策略模块,端到端 SFT 可让模型学会主动压缩冗余信息,提升长会话稳定性。
- 构造结构化动作-上下文标注数据:可借鉴 MemGUI-3K 构建思路,为 Agent 交互轨迹增补“折叠/保留”等上下文管理标注,用于微调小尺寸模型,使其在长任务中推理成本更低、窗口利用率更高。
- 小模型通过上下文管理超越大模型零样本:该工作证明 8B 模型通过主动上下文管理可超越 235B 模型的零样本性能,适合资源受限的电商场景(如端侧智能助手)低成本部署。
面向AI代理的高效可靠概率验证
🧭 Agent 概率安全验证 · 分布鲁棒优化
Google DeepMind · Google · University of Pennsylvania · University of Wisconsin–Madison
基于分布鲁棒优化提出概率验证框架,不依赖独立性假设,计算策略违规概率严格上界,安全-效用权衡优于现有方法
📌 工作参考价值(4 点)
- 在推荐/广告Agent中,安全策略常含不确定性(如敏感内容检测器召回率有限),可借鉴其概率谓词建模方法,将组件失败概率纳入形式化策略,并使用分布鲁棒优化计算整体违规风险上界,避免依赖不现实的独立性假设。
- 工程实现中,可将该框架集成到Agent运行时监控系统:对每个工具调用或状态变迁,实时查询Datalog策略,并用凸优化器高效计算当前风险上界;当上界超过阈值时触发降级动作,实现可量化的安全兜底。
- 框架不要求各概率事件独立,适合电商推荐Agent多步骤长链路场景(如检索→过滤→排序→文案生成),其中错误可能因上游模型相关而叠加,直接应用该上界计算方法能更真实地评估端到端安全风险。
- 上界计算的可解释性可用于业务风控:为每个策略规则输出违规概率贡献,帮助安全团队理解风险来源,调整检测器阈值或策略约束,从而在安全性与推荐效果间取得更好的平衡。
面向上下文密集型智能体的4位KV缓存压缩方案
🧭 Agent推理缓存压缩优化
Advanced Micro Devices · University of California, Los Angeles · Purdue University
针对多轮Agent场景设计4位KV缓存压缩,通过非对称K/V处理、Walsh-Hadamard旋转及AMD GPU优化,大幅降低延迟并提升吞吐
📌 工作参考价值(4 点)
- Agent/多轮对话推理优化:长上下文智能体(如购物助手、搜索Agent)的KV缓存可压缩至4位,在缓存压力下TTFT降低3.47倍,吞吐提升63%,可直接用于线上服务降本提速。
- 非对称K/V量化策略:对Key应用Walsh-Hadamard旋转等保精度措施,Value可更激进的量化,这一设计可直接移植到推荐模型中Transformer结构的KV缓存压缩。
- 硬件适配与部署:利用FP8查询+FP4 KV张量的近似路径,以及CDNA4的scaled-MFMA指令,为在特定GPU上最大化吞吐提供工程范例,可参考其流水线设计。
- 多轮负载评估框架:论文强调联合测量任务质量、缓存驻留和吞吐,电商Agent在评估压缩方案时可借鉴这种多维度基准测试。
MobileForge:移动 GUI 智能体的无标注适应与分层反馈策略优化
🧭 移动 GUI Agent · 无标注适应与策略优化
Zhejiang University · Kuaishou Technology · Tsinghua University
提出无标注适应框架 MobileForge,通过分层反馈引导的步骤级 GRPO 将开源 MLLM 提升至接近闭源移动 GUI 智能体水平
📌 工作参考价值(4 点)
- 无标注任务生成与课程挖掘:通过探索真实 App 自动生成多样化任务,并按难度课程化,可在电商搜索/推荐 Agent 的模拟环境搭建中复用,降低人工构造训练数据成本。
- 步骤级过程反馈驱动优化:HiFPO 将 rollout 结果、步骤级过程信号和纠正性提示联合用于策略更新,可借鉴到对话式推荐/导购 Agent 的强化学习训练,利用每轮对话的过程质量信号替代粗粒度成功/失败奖赏。
- GRPO 的 hint-contextualized 扩展:将纠正提示作为上下文增强 GRPO 更新,可在 LLM 驱动的推荐解释生成或查询改写任务中,使用用户反馈(如点击、修改查询)作为 contextual hint 进行在线策略改进。
- 跨领域迁移能力验证:在 AndroidWorld 适应后在 MobileWorld 仍有 41% 成功率,提示无标注适应可泛化到新 App 环境,对在多个电商平台或不同垂直领域的 Agent 迁移有一定参考价值。
NRT-Bench:安全关键控制室中LLM操作员代理的多轮红队测试基准
🧭 Agent安全 · 多轮红队测试
AIM Intelligence · KAERI
构建多轮红队基准,揭示LLM代理在自适应攻击下高度脆弱,且模型间漏洞互不重叠。
📌 工作参考价值(4 点)
- 对推荐/对话Agent做安全评估时,可借鉴多轮自适应攻击模拟,而非单次注入,更贴近真实用户恶意交互。
- 防御措施可能互相抵消甚至反效果:在客服Agent中叠加安全模块前,务必针对具体模型做A/B测试,不能通用假设有效。
- 客观危害指标(如业务指标下降、用户流失)比LLM-Judge文本判断更可靠,可用于推荐系统的安全离线评估。
- 多个模型漏洞几乎互斥,提示在Agent链中组合不同LLM可能提升鲁棒性,但需避免单点被突破。
PACMS:即插即用的次模上下文选择引擎,提升长会话LLM Agent问答
🧭 Agent 上下文管理 · 次模优化 ★ 深度解读
Nasiko
提出基于设施选址次模函数的上下文选择方法,在保持回忆的同时将LLM Agent端到端QA准确率提升8~12个点
📌 工作参考价值(4 点)
- 电商对话Agent的长上下文管理:电商客服、导购Agent的会话会累积商品信息、用户意图、工具调用结果,PACMS的做法可直接移植:将所有来源(记忆、对话、API响应)统一为一个候选池,每次模型调用时根据最新查询做子模覆盖选择,优先保留与当前需求最相关的信息,丢弃冗余。
- 推荐解释/文案生成中的上下文压缩:在生成推荐理由或广告文案时,需从大量用户行为、商品属性中筛选关键句,可使用类似设施选址覆盖的贪心选择,在 token 预算内最大化覆盖相关属性,同时自动剔除重复表述。
- 插件化设计支持策略A/B测试:PACMS将上下文选择实现为可替换的引擎插件,通过本地HTTP服务暴露接口,支持多种策略(PACMS、MMR、top-k、last-k)。这种做法可直接照搬,让搜索推荐Agent的上下文组装逻辑与主框架解耦,便于线上快速切换和效果评估。
- 工程优化技巧:嵌入向量缓存常驻服务、失败时回退到简单策略(soft fail)、成本感知的贪心近似,这些实现细节对构建稳定低延迟的在线服务具有参考价值。
权限过高是否多余:探究LLM代理中的过度权限工具选择
🧭 代理工具选择与权限控制
Institute of Information Engineering, Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · The Chinese University of Hong Kong · Institute for Artificial Intelligence, Peking University · School of Cyber Security, University of Chinese Academy of Sciences
揭示LLM代理在工具选择时偏好高权限工具且故障会加剧该倾向,并提出后训练防御以遵循最小权限原则
📌 工作参考价值(4 点)
- 对电商客服代理等场景,可将工具按权限分级,并在代理系统设计中强制‘最低权限’原则,避免因模型偏好而越权调用退款、改价等高危接口。
- 在后训练阶段加入权限感知偏好优化(类似论文的 privilege-aware post-training defense),通过构造偏好对让代理优先选择功能足够但权限更低的工具,从根源上减少过度授权。
- 仔细处理工具调用失败的降级/重试逻辑,防止代理在遇到瞬时故障时自动升级到更高级别工具,需预设权限升级白名单或人工审批流程。
- 可构建领域专属的工具权限基准(类似 ToolPrivBench),评估代理在订单查询、修改、删除等不同权限工具间的选择合规性,作为安全回归测试的一部分。
ScholarQuest:基于分类法的智能体学术搜索评估基准
🧭 Agent 检索评估 · 分类法引导
State Key Lab of Cognitive Intelligence, University of Science and Technology of China
提出 ScholarQuest 基准,系统评估智能体在开放文献环境中的迭代检索能力
📌 工作参考价值(4 点)
- 意图分类法可迁移至电商搜索:将查询意图细分为方法导向、场景锚定、对比型等,用于构建更丰富的搜索评测集或指导 Agent 的意图识别。
- 共享检索后端保证可复现性:固定文献库 ScholarBase 的设计思路可直接用于搭建企业内部的搜索 Agent 评测平台,确保不同方法在相同语料上公平对比。
- 多维评估信号:同时关注召回、效率与不同意图下的鲁棒性,为推荐/搜索 Agent 提供更全面的诊断信息,避免单指标误导。
- 基于引用图的可扩展答案构造:利用引用关系自动扩张相关论文,类似在推荐中利用物品共现链扩展候选池,可启发生成式推荐的评测数据生成。
针对智能体AI自动化攻击的防御性误导分析
🧭 Agent安全防御 · 误导性反馈
Keysight Technologies Inc.
提出检测后给出误导性非操作响应,将自动化越狱攻击成功率上界降低两个数量级
📌 工作参考价值(4 点)
- 对话推荐Agent的防注入策略:当检测到恶意输入时,不要返回统一的拒绝话术(如“我无法回答”),因为这会为自动化攻击提供可预测的反馈信号;改用看似合理但无实际操作的误导性回应,让攻击者误判成功,从而浪费其查询预算。
- 轻量级误导实现CMPE:借鉴文中的渐进式上下文误导方法,在对话状态中维护安全的信息片段,检测到恶意意图后逐步递送无关的“安全诱饵”,既保持对话流自然,又避免泄露系统边界。
- 防御评估指标迁移:用攻击者的阳性预测值(PPV)替代传统的ASR来评估鲁棒性,更能反映在自动化红队场景下误导策略的有效性,适合在电商搜索Agent上线前做对抗测试。
- 工程实现建议:将安全检测与响应生成解耦,检测模块判定恶意度后,将请求转发至专门的“误导生成器”(可用小型微调模型),不增加主流程延迟,对在线服务影响小。
AI写AI管:语义空间控制与跨391次连续会话的索引病消除
🧭 Agent长期协作中的符号退化与语义控制
Shenzhen Yunxi Technology Co., Ltd. · Information Technology Center, Tsinghua University
发现并解决长周期LLM协作中符号约束过载导致的“索引病”,提出语义活力法则与基线-日志物理分离机制
📌 工作参考价值(4 点)
- 避免推荐Agent系统提示膨胀:在为电商推荐、搜索等构建长期运行LLM Agent时,不要无节制地在System Prompt中添加符号索引、ID映射或防御性规则。一旦超过临界点,模型会放弃对业务语义的真实理解,转而进行自指推理,产生逻辑自洽但脱离实际(如生成不存在的商品ID、错误的活动规则)的输出。
- 采用基线-日志物理分离:将Agent的任务定义、核心指令(Baseline)与运行时的历史对话、上下文记录(Log)严格拆分。只在Baseline中保留最精简的自然语言目标描述,避免无效历史噪声污染推理,大大降低上下文窗口中的“索引病”风险。
- 用自然语言承载明确目的:在生成式推荐或Agent指令中,尽量用完整的、目标导向的自然语言语句代替符号化简写(如直接用“推荐适合露营的防水帐篷”而非“item:camping_tent_v3”)。这符合“语义活力法则”,能显著提升信息质量和模型遵守指令的可靠性。
- 量化指令体积并监控:定期审计Agent交互中AI Instructions的总长度和冗余度,作为健康状况指标。通过类似基线-日志分离的方法,我们可将指令量减少约75%,同时彻底消除索引病复发,这对维护长周期运行的推荐智体至关重要。
超越静态排行榜:面向 LLM Agent 的预测效度评估
🧭 Agent 评估基准与方法论
IBM
揭示聚合排行榜在分布外环境下排名不稳定,提出以预测效度替代平均分评估 Agent 配置
📌 工作参考价值(4 点)
- 评估构建警惕排行榜过拟合:在构建内部 Agent 评估集时,不要过分追求固定基准上的平均分提升;需检验在业务分布变化(如季节、新物品)下的排名稳定性,可借鉴论文的预测效度指标。
- 多维度测量取代单一分数:可参照提出十二层测量装置,覆盖推理、检索、编排等维度,设计针对电商搜索推荐 Agent 的细粒度诊断,避免重要维度被聚合分数掩盖。
- 分布外实验纳入评估流水线:将 OOD 测试作为 Agent 上线前的必要检查,设定可证伪阈值,防止仅在历史数据拟合上优异、线上失效。
- 预注册实验设计提升评估可信度:在关键 Agent 选型中,预先固定评估方案和成功标准,避免事后解释偏差,增强决策说服力。
HANSEL:从 Web Agent 轨迹中提取面包屑以支持交互式验证
🧭 Agent 可解释性与交互式验证
University of California, Irvine
从 Web agent 多步操作轨迹中提取关键证据页面,以交互式视图呈现,将验证从被动阅读变为主动探查
📌 工作参考价值(4 点)
- Agent 验证界面设计:在电商搜索或比价 agent 中,可将 agent 访问过的关键页面(如带有特定过滤、排序、搜索词的状态)以可交互形式呈现给运营或审核人员,而非展示全量日志,快速验证推荐结果是否正确。
- 证据缺失显式标记:当 agent 输出无法对应到任何已访问页面时,自动标记“无证据”状态,防止 agent 幻觉导致错误决策(如商品推荐理由不实),这类似推荐系统中对黑盒结果增加可追溯性。
- 关键状态保留和重放:借鉴其保留页面状态(过滤条件、查询词、滚动位置)的做法,在 agent 辅助的搜索推荐管道中,可记录并复现关键决策点的上下文,方便线下复盘和规则优化。
- 轨迹压缩与证据聚焦:将 agent 全量操作日志压缩 61.6% 但仍保持高 precision/recall,这一思路可用于生成式推荐 agent 的行为总结,减少人工审核成本,同时定位关键推荐依据。
解耦搜索与推理:LLM Agent 的供应商无关的接地架构
🧭 Agent 搜索接地解耦与成本控制 ★ 深度解读
DoorDash, Inc.
将搜索接地从模型内部移出为可配置的 MCP 网关,在 Prompt 合规、成本、缓存和提供商选择上获得显式控制
📌 工作参考价值(4 点)
- 将搜索定义为显式工具边界,而非模型内置功能:在电商 agent 中,把搜索(如商品检索、Query 理解时的外部知识查询)做成独立工具,通过 MCP 协议标准化输入输出,可避免 Prompt 中严格的输出格式被 native search 的冗长解释破坏,尤其适合需解析 JSON/实体/分类标签的流水线。
- 使用提供商注册表 + 回退链实现搜索路由:在推荐/搜索系统中,可以按成本、新鲜度、覆盖场景动态选择搜索提供商(如 Serper、BrightData),并配置超时回退,保证可用性同时大幅降低搜索 API 开销(实验中成本降低 91%–98%)。
- 利用精确+语义缓存减少重复检索:对电商中高频查询(如热门商品、常见长尾意图),引入基于 embedding 的语义缓存,可达到 99.4% 的缓存命中率,将延迟降低 68% 并接近零边际搜索成本,适合大规模 Agent 场景。
- 将搜索成本、深度、延迟作为可调旋钮:通过调整 max_results(检索结果数)在准确率和成本之间 trade-off(如 SimpleQA 从 2 条增至 6 条后准确率快速上升,之后饱和),让接地层像推荐系统中的召回预算一样可配置,团队可按业务需求调优。
LedgerAgent:结构化状态管理提升策略遵循工具调用Agent
🧭 Agent 工具调用状态维护与策略检控
Arizona State University · University of Arizona
显式维护任务状态账本,在工具调用前做策略校验,显著减少违规与状态遗忘
📌 工作参考价值(4 点)
- 在电商客服、订单查询/修改等会话Agent中,显式用「账本」存储订单号、用户约束、已确认事实,而非全部塞进prompt,可大幅降低多轮遗忘与错误决策。
- 对于写操作(如退款、改地址),在调用工具前加一层基于账本的策略校验(如“是否满足退款条件”),直接阻断违规操作,降低人工兜底成本。
- 该方法是推理时技术,无需微调,适用于已有工具调用Agent的快速加固,尤其对开源小模型提升一致性和遵循策略有明显收益。
- 在搜索推荐对话Agent中,可维护用户偏好、过滤条件等状态账本,避免重复询问或推荐已被否决的选项,提升体验与效率。
S-Agent:空间工具使用激发空间智能推理
🧭 空间智能 Agent 范式
NTU · THU · ByteDance · NWPU · Ropedia
将空间推理变为VLM规划的时空证据累积过程,配备层次化工具与双记忆,零样本提升多视图推理并可蒸馏小模型。
📌 工作参考价值(4 点)
- VLM 作为规划器结合层次化空间工具(2D→3D lifting)的模式可直接复用到电商多模态商品理解,例如调用工具提取商品尺寸、方位、遮挡关系等空间属性,丰富推荐特征。
- 双记忆设计(Scene Memory 存储场景状态 + Agent Memory 存储工具调用与推理历史)为对话式推荐 / 搜索中的多轮状态管理提供参考,能持续累积用户意图与工具反馈,避免孤立轮次。
- 推理时增强 + 轨迹蒸馏方法论(S-300K → S-Agent-8B)可借鉴到业务轻量模型升级:收集 LLM/VLM 的工具调用轨迹,微调小模型,在成本限制下获得复杂推理能力。
- 时空证据累积而非单帧预测的思路,对视频推荐或动态场景理解有价值,例如从用户浏览视频多帧中逐步累积兴趣证据,提升长期偏好建模的准确性。
商业场景中的人机 Agent 交互 UX 研究
🧭 企业级 Agent 的 UX 设计原则与评估
SAP SE · Hochschule Fresenius Heidelberg · University of Missouri, Columbia
通过混合方法识别并评估商业 AI Agent 的 UX 原则与度量标准,为更直观的交互设计奠定基础
📌 工作参考价值(4 点)
- 在设计电商购物 Agent(如导购机器人、智能客服)时,直接借鉴文中总结的 UX 原则(如透明度、可控性、上下文感知)来设计对话流与反馈机制,提升用户信任与采纳。
- 采用混合研究法(定性访谈 + 定量问卷 + 调查实验)评估 Agent 交互体验;可迁移到内部 Agent 产品的迭代中,先小样本挖掘痛点,再大规模定量验证设计效果。
- 将用户对 Agent 的期望(如自然语言理解质量、任务完成方式、错误恢复能力)纳入需求定义,指导推荐/搜索 Agent 的交互设计,而不仅关注算法指标。
- 构建度量体系(可用性、满意度、信任、耦合度)系统衡量 Agent UX,辅助开发团队做用户中心的决策,避免纯技术驱动。
世界行动模型综述
🧭 具身预测行动模型设计空间
National University of Singapore
对具身预测-行动模型给出统一分类与设计权衡,强调“少预测未来、多聚焦控制”
📌 工作参考价值(4 点)
- 构建推荐环境用户仿真器(世界模型)时,可借鉴“生成更少未来,只保留控制所需信息”的设计原则,用潜在状态预测替代完整行为序列生成,降低计算与数据成本。
- 解耦预测基座与行动策略的设计模式可用于推荐 Agent:例如用轻量 Transformer 预测用户短期意图,将重计算留给策略决策,平衡延迟与丰富度。
- 从交互性、因果性、持久性等维度评估世界模型,可迁移到推荐系统 A/B 测试前的离线模拟器质量检查,特别关注分布外鲁棒性。
- 论文对视频生成 VS 潜在预测 VS 无生成推理的分支梳理,提示在搜索推荐 Agent 中也可根据场景(实时改价 vs 长期策略)选择不同程度的“未来预测”实现。
FAPO:多步LLM管道的全自主提示优化
🧭 自主Agent优化多步LLM管道
Foundation AI–Cisco Systems Inc. · Yale University
让Claude Code自主诊断并优化多步LLM管道,先调提示再改结构,15/18基准胜出,平均+14.1pp
📌 工作参考价值(4 点)
- 自主管道优化Agent:对电商搜索/推荐的多步LLM管道(如query改写→召回→精排→解释生成),可构建类似的自主Agent自动诊断和优化,从提示到流程结构逐步提升。
- 结构化诊断归因:借鉴FAPO检查中间步骤、定位瓶颈的机制,开发推荐链路失败分析工具,区分是检索、推理还是格式化步骤出错。
- 保守优化策略:先优化提示,仅当提示优化不足且明确结构瓶颈时才调整管道结构,这种策略在生产环境中风险可控,适合线上实验。
- 标准化代码库封装:将推荐管道实现为标准化代码库,使Agent能够进行代码审查和修改,便于自动化迭代,增强系统可维护性。
GateMem:多主体共享记忆智能体的记忆治理基准
🧭 多智能体共享记忆治理评估
Jilin University · Shanghai Jiao Tong University · King Abdullah University of Science and Technology (KAUST) · Tsinghua University · National University of Singapore
首创多主体共享记忆治理基准,评估效用、访问控制与遗忘,揭示当前智能体在可靠共享记忆上的不足
📌 工作参考价值(4 点)
- 共享记忆治理是电商/客服多角色Agent(如买家、卖家、平台客服)的刚需:不同主体写入和查询的权限隔离、状态更新与遗忘机制,可直接借鉴GateMem的三维评估框架来设计系统测试集。
- 主动遗忘(active forgetting)能力对电商Agent至关重要:当用户请求删除历史记录或账户注销时,需要确保记忆真正消除,GateMem的遗忘泄露测试方法可复用于验证内部记忆模块的合规性。
- 长上下文提示虽然治理得分更高,但高token成本不适用于大规模推荐/对话系统;检索式内存机制成本低却易泄露,这提示工程上需要混合方案:对敏感记忆用封装API进行精确擦除,对非敏感长语境采用压缩摘要。
- 可借鉴的工程实现:增量记忆注入和隐藏检查点(hidden checkpoints)的评测设计,能度量记忆在连续交互中的漂移和泄露,适用于推荐系统中用户画像的忠诚度与隐私验证。
基于保形风险控制的工具与检索增强Agent轨迹级风险校准
🧭 Agent 轨迹风险控制·保形预测 ★ 深度解读
The University of Texas Rio Grande Valley · Florida International University
将Agent完整轨迹作为校准对象,控制检索与工具使用漂移下的上游风险,避免仅依赖最终答案的风险盲区。
📌 工作参考价值(4 点)
- 推荐链路的全轨迹风险校准:在电商搜索/推荐的多级漏斗(召回→粗排→精排→重排→生成文案)中,可借鉴轨迹风险评分思想,对每一步(如召回是否覆盖、精排是否过度依赖某些特征、生成式推荐是否支持证据)赋予风险分数,整体校准一个接受/干预阈值,而非仅校验最终排序的指标。
- 漂移检测与有效样本量监控:引入基于轨迹相似度的漂移分数和有效样本量,用于线上监测推荐系统输入分布、用户行为、商品池变化。当有效样本量过低或漂移分数变大时,可自动触发更保守的策略(如提高重排门槛、回退到规则兜底)。
- 随时报警与提前止损:利用超鞅构造的anytime alarm,在推荐请求处理途中(如召回结果异常、工具调用失败、生成置信度过低)即停止,避免浪费后续计算资源并防止上线高风险结果。
- 风险来源分解定位:将总风险分解为检索贡献、工具使用贡献、合成贡献等,对应推荐中召回不相关、模型偏差、融合失误等问题,帮助快速定位系统薄弱环节并指导改进。
面向全模态理解的主动感知即推理
🧭 Agent 主动感知与推理优化
The Chinese University of Hong Kong · Shanghai Jiao Tong University · Qwen Team, Alibaba Group · Nanyang Technological University
提出OmniAgent: 首个将长视频理解建模为POMDP迭代循环的原生全模态代理,通过按需主动感知与Agentic RL实现推理-时长解耦和测试时正拓展
📌 工作参考价值(4 点)
- 按需多模态信息抽取:电商直播、商品讲解长视频中,可借鉴“观察-思考-行动”循环设计代理,仅针对用户咨询动态提取关键音视频片段,大幅降低首响延迟与计算开销,同时保持全量信息的可访问性。
- Agentic RL 功劳分配:TAURA 利用回合级熵值将奖励集中于关键发现回合,适合多轮对话推荐、用户意图探索等序列决策场景,有效抑制无意义探索噪声,提升在线学习效率。
- 持久文本记忆解耦:将视觉、听觉等多模态原始数据实时蒸馏为可压缩、可检索的文本记忆,在用户意图漂移或长会话推荐中维持轻量、可扩展的状态跟踪,避免上下文窗口堆砌。
- 测试时正拓展策略:通过动态增加推理轮数提升复杂 query 的推荐/回答质量,可移植到交互式推荐系统的自适应深度推理,实现“思考越久,推荐越准”的效果。
RODS:奖励驱动的在线数据合成用于多轮工具使用智能体
🧭 Agent 动态数据合成 · 能力边界检测 ★ 深度解读
Ant Group · Zhejiang University · Westlake University · Shanghai Innovation Institute
利用GRPO中进度奖励方差作为能力边界检测器,动态合成多轮变体解决静态数据信号耗竭,以约20倍更少数据达到大规模离线合成水平
📌 工作参考价值(4 点)
- 能力边界检测的复用:在训练对话推荐或搜索Agent时,可直接用RL的进度奖励方差识别高梯度区域,无需额外推理,用于动态筛选或重放样本。
- 结构化同构重采样:保持任务图结构(如API依赖拓扑、对话状态转移)不变,仅替换场景实体与叙述,生成大量语义连贯的边界样本,可迁移到对话推荐的多轮数据增广中。
- 动态缓冲管理:随着策略迭代,退役已掌握或过难的任务,始终保持训练池处于高方差区域,可借鉴到推荐系统RL训练的样本生命周期管理,避免过时数据稀释梯度。
- 多智能体合成流水线:Planner + Executor + Rewrite + Critique 的流水线设计可直接用于自动生成高质量多轮对话训练数据,减少人工标注,适用于电商客服、语音助手等场景。
组合技能路由:分解、检索、组合
🧭 Agent 技能路由 · 组合式检索 ★ 深度解读
Alibaba Cloud
提出 SKILLWEAVER 框架与技能感知分解 (SAD) 迭代反馈,将 LLM Agent 技能路由的分解准确率从 51.0% 提升至 67.7%
📌 工作参考价值(4 点)
- 多步骤任务编排:在电商 Agent 中,用户请求常需组合多个技能(如查库存→比价→下单)。SKILLWEAVER 的分解-检索-组合管道可直接用于将复杂意图拆解为原子子任务,再映射到真实 API 或工具,减少硬编码的意图路由。
- 检索增强的分解反馈:SAD 的核心是把检索到的技能信息作为 hint 反哺给分解步骤,属于“输入侧反馈”。这种方法可迁移到推荐系统的查询改写或意图分类中:用初步检索结果的分布矫正原始查询的粒度,解决语义漂移或过度分解问题。
- 上下文窗口优化:对于需要展示大量工具/物品描述的 Agent 场景,先用轻量 bi-encoder + FAISS 做粗检索再送入 LLM 做精排,可将上下文消耗降低 99%+,且检索结果稳定。在电商对话推荐中,可先用双塔模型召回候选商品,再用 LLM 做最终排序,既控制成本又保持了语义匹配能力。
- 技能库与组合泛化:SAD 在类别级和技能级留出实验中均有效,表明它学到的是技能库的结构性词汇而非特定映射。这启示在设计电商 Agent 工具库时,可以依赖技能的元数据与类别信息,通过 SAD 实现跨类别的任务分解泛化,无需为每种商品领域重训。
CEO-Bench:AI 智能体能否在模拟创业中玩转长线经营?
🧭 智能体长期决策评估 ★ 深度解读
Princeton University
构建 500 天初创公司经营模拟,考察智能体长期规划、信息获取与自适应能力,多数模型破产,顶尖模型勉强盈利。
📌 工作参考价值(4 点)
- 长期决策能力测试范式:在电商/推荐系统中,可参照该基准设计类似“多周期经营模拟”来评估 Agent 在面对延迟反馈、非平稳环境时的策略稳定性,例如动态定价、广告投放的长时间 A/B 测试模拟。
- 细粒度工具与数据接口设计:该基准的 Python API 和 19 表数据库为 Agent 提供了 SQL 分析 + 精细化动作空间,可以借鉴到推荐系统 Agent 中,让模型自主查询用户行为表、调整推荐策略参数,实现闭环优化。
- 隐藏信息推断与条件规划:模拟中智能体通过挖掘交易历史、社会媒体帖子推断市场偏好,并编写 IF-THEN 场景模拟代码;推荐系统 Agent 可类似地分析用户隐式反馈、预测不同策略的长期收益,提升自适应能力。
- 多模型行为模式对比:研究发现顶尖模型(Opus 4.8, GPT-5.5)将 90% 开发预算用于精准客户群定向,而弱模型则“一刀切”;在广告/推荐中,可借鉴该分析维度,监控 Agent 的策略粒度与资源分配合理性。
超越并行采样:智能搜索代理的多样化查询初始化
🧭 Agent 搜索 · 查询多样化 ★ 深度解读
Carnegie Mellon University · Instituto Superior Técnico · INESC-ID · NOVA LINCS · NOVA School of Science and Technology
提出训练无关的首轮查询多样化方法 DivInit,通过 MMR 从生成池中选择多样性查询,解决并行搜索代理的锚定坍缩问题。
📌 工作参考价值(4 点)
- 在 Agent 搜索或对话式购物助手中,首轮生成的查询多样性对后续检索路径影响巨大;可将多路独立生成改为单次生成候选池 + MMR 选择,避免锚定坍缩,提升并行采样的有效性。
- 方法无需训练、即插即用,只需修改推理时的首轮查询生成逻辑,且总 LLM 调用次数从 kT 降至 1+k(T-1),在中小模型上可降低延迟和成本。
- 消融表明首轮多样性已足够维持轨迹分离,后续轮次无需额外干预,简化工程实现。
- 对于电商搜索中的 Agent 多轮交互,可主动设计首轮查询覆盖不同维度(品牌、价格、功能等),提高最终找到满意商品或信息的概率。
GameCraft-Bench:真实引擎中端到端游戏可玩性基准
🧭 游戏生成基准 · Agent 评估
The Chinese University of Hong Kong, Shenzhen · Shenzhen Loop Area Institute · Hunyuan Team, Tencent · USTB · DualverseAI
提出基于交互验证的游戏生成基准,评估编码智能体在 Godot 引擎中端到端构建可玩游戏的能力
📌 工作参考价值(4 点)
- 评估框架中“引擎接地”概念可迁移至推荐或对话 Agent:确保模型输出能在真实业务环境中执行并产生可观测结果,而非仅产生文本。
- “产物完整性”指标提醒生成式推荐系统需评估整个推荐列表或页面的连贯性与内容充足性,避免只关注单点准确率。
- 多模态评审(rubric-guided multimodal judging)可借鉴用于对推荐理由、广告创意等富媒体输出进行自动化质量评估。
- 回放演示的交互验证思路可用于对话推荐 Agent 的端到端评测,关注完整对话流的可玩性而非轮次级评分。
将智能体轨迹视为程序:编码智能体行为的指纹识别与编程
🧭 Agent行为指纹识别与过程审计
通过过程表征压缩轨迹,以85.7%准确率识别编码智能体指纹,并构建过程审计库ProcGrep
📌 工作参考价值(4 点)
- 在多Agent系统中,利用行为指纹进行任务感知的模型路由,将特定请求分发给最适配的Agent,优化系统效率与效果
- 在推荐/搜索Agent中,使用ProcGrep审计Agent解决问题时的内部轨迹,监控其行为是否符合预期模式,及时发现异常或退化的步骤
- 借鉴过程表征压缩方法,对Agent交互历史进行结构化搜索,替代昂贵的LLM回溯,提升Agent记忆检索的确定性和速度
- 比较不同模型或不同提示策略产生的轨迹指纹,量化差异,指导模型选型与微调,尤其当蒸馏模型的行为趋向教师时可提前评估风险
MemSlides:面向个性化幻灯片生成的分层记忆驱动Agent框架
🧭 Agent 记忆与个性化生成
Beijing University of Posts and Telecommunications · Tsinghua University · Shanghai Jiao Tong University
提出分层记忆框架(用户画像/工作/工具记忆)结合局部修改,实现多轮个性化幻灯片生成
📌 工作参考价值(4 点)
- 分层记忆设计可直接迁移到对话式推荐/购物Agent:将用户长期偏好(用户画像记忆)与会话级临时约束(工作记忆)解耦,避免偏好混淆。
- 工具记忆(存储可复用的API调用或操作序列)在电商Agent中可用于缓存高频操作模式(如“按价格排序”“筛选品牌”),提高执行可靠性。
- 局部修改策略(scoped local revision)可应用于推荐列表的多轮调整:当用户要求“把第二个商品换成更低价的”时,只更新受影响的槽位,而非重新生成整个列表。
- 意图条件画像(intent-conditioned profiles)的思路可用于搜索/推荐场景:根据用户当前意图(如“比价”vs“发现新品”)动态选择不同的偏好画像,提升首轮个性化质量。
OPD-Evolver:基于在线策略蒸馏训练整体智能体进化能力
🧭 整体代理进化 · 在线策略蒸馏 ★ 深度解读
LV-NUS Lab · FDU · PKU · Bytedance Inc.
提出快慢双环框架,将结果校准的记忆归因与特权后见蒸馏结合,同时训练经验选择、利用、撰写和管理四种进化能力
📌 工作参考价值(4 点)
- 多级记忆分层与选择:将代理经验按轨迹、技巧、技能、工具分四级存储,并用可学习的 Selector 筛除低价值记忆,可直接用于推荐系统的用户行为记忆或搜索历史管理,避免上下文噪音。
- 结果校准的归因监督:用环境反馈(任务成功/失败)校准记忆价值,生成密集后见标签,可迁移到对话推荐或交互式搜索中对历史交互片段的价值评估。
- 在线策略自蒸馏框架:让学生在自己生成的状态上模仿特权教师的行为,实现选择、执行、撰写、维护四种能力的联合训练,适用于需要持续进化的推荐代理或商品描述生成代理。
- 记忆写入的质量控制:训练代理只生成高未来效用的记忆,避免“记忆污染”,可借鉴到用户标签或知识图谱的自动更新中,确保新增信息对下游任务有正收益。
OpenClaw-Skill:面向智能体 LLM 的集体技能树搜索框架
🧭 集体技能树搜索与强化学习框架 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University · Tsinghua University · Royal Melbourne Institute of Technology · Beijing University of Aeronautics and Astronautics
利用多模型集体智能构建结构化、多样且可迁移的技能树,并配合跨技能对比的强化学习,显著提升 LLM 智能体在长程工具使用任务上的表现
📌 工作参考价值(4 点)
- 复杂推荐流程的工序化拆解:将多步骤推荐任务(如 Query 理解→候选召回→重排序→解释生成)显式分解为子任务,对每个子任务构建技能节点,形成可组合的推荐技能树,避免长流程的碎片化推理。
- 多模型轨迹蒸馏生成多样技能:在电商/搜索场景中,利用多个不同偏好或规模的 LLM 对同一子任务生成执行轨迹,再蒸馏为候选技能,能显著提升技能覆盖度,防止技能集过度拟合单一模型的推理风格。
- 技能迁移性评估确保跨模型复用:采用「技能合成模型≠验证模型」的迁移性评分,可筛选出真正通用的推荐技能。这在推荐 Agent 需要部署在不同 backbone LLM 上时尤其有价值,避免反复定制。
- 技能条件下的跨分支对比 RL 训练:在推荐策略优化中,不局限于单个技能,而是对多个备选技能分别 rollout,并基于跨技能归一化优势进行 GRPO 更新,迫使策略学会在不同场景下自适应选择最优技能,避免陷入单一策略的局部最优。
MyPCBench: 个性化计算机代理评测基准
🧭 个性化Agent评测 · 桌面环境
Carnegie Mellon University
首个模拟真实用户数字生活的个性化计算机代理基准,揭示跨应用长链任务的高失败率
📌 工作参考价值(4 点)
- 在电商Agent评测中,可类似构建含用户历史订单、偏好、收货地址的模拟桌面/浏览环境,使评测更贴近真实部署。
- 关注长链跨应用任务(如搜索商品→比价→下单→售后)的评估,模型在这些场景下易失败,需专项优化。
- 引入用户数字踪迹(日历、邮件、聊天记录)作为上下文,可能提升Agent个性化表现,但评测显示当前模型仍难以有效利用。
- 对于需要登录态或隐私数据的工作流,离线模拟环境比在线评估更安全且可重复。
TokenPilot:双粒度缓存高效的智能体上下文管理
🧭 Agent的上下文缓存管理 ★ 深度解读
Zhejiang University · University of Electronic Science and Technology of China · Xi'an University of Electronic Science and Technology · HomologyAI
通过前缀稳定化和残值驱动的驱逐实现缓存感知的上下文管理,大幅降低长时程LLM代理推理成本
📌 工作参考价值(4 点)
- 前缀稳定化:将系统提示中的动态变量(如工作目录、时间戳)替换为静态占位符,并将工具定义移至提示尾部,最大化跨轮次KV缓存命中。可直接应用于多轮对话式推荐助手,降低每次推理的预填充成本。
- 带安全网的观测压缩:对工具返回的环境消息(HTML、终端输出等)进行规则化瘦身和去重,同时保留恢复工具,允许代理在需要时拉取完整内容。类似思路可运用于电商Agent的页面抓取和处理,减少冗余token但不丢失关键信息。
- 残值驱动的生命周期管理:不立即清除已完成子任务的上下文,而是通过轻量估计器评估其剩余价值,只有在不再被后续任务依赖时才批量驱逐。这种保守策略能维持缓存连续性,适用于长期运行的商品搜索或营销任务流。
- 缓存感知的成本建模:评估上下文管理时,应直接统计缓存命中与未命中的token数,而非仅看总输入token,以此指导系统优化,使成本降低体现在实际计费上。
S1-DeepResearch:超越搜索,构建真实世界长程研究智能体
🧭 深度研究智能体 · 多能力轨迹合成 ★ 深度解读
XScience Lab · Wenge AI
提出统一轨迹构建范式,结合图任务生成、工具执行与多维验证,使32B模型在深度研究五项能力上达开源SOTA并逼近闭源前沿。
📌 工作参考价值(4 点)
- 图基础复杂任务生成:利用知识图谱子图加注入多维约束(来源、论证、输出格式等)生成电商领域复杂查询(如竞品深度分析、市场趋势报告),训练 Agent 进行多步推理和可验证的报告生成,避免依赖参数记忆。
- 平衡搜索与合成:轨迹显示,深度研究成功的关键不是更多工具调用,而是适时停止搜索并将信息整合为结构化输出。在电商智能客服、选品分析中可借鉴,设定“证据充分性”判断机制,防止无休止检索。
- 多维度轨迹验证:针对报告生成引入引用一致性、证据支持度自动核查,对电商中商品描述生成、分析报告等场景可确保事实准确,减少幻觉。指令遵循的九维约束检查器可用于复杂用户意图的精准解析。
- 技能使用与文件生成:Agent 在沙盒中动态加载技能文档并执行脚本、生成文件(如报表、图表),可直接迁移到自动生成运营分析报告、可视化物料等任务,提升工具链的通用性。
错误变为叙事:生产LLM Agent运行时的无声故障纵向分类
🧭 Agent系统可靠性 · 无声故障分类与防御 ★ 深度解读
Independent researcher
提出五类机制导向的无声故障分类,揭示LLM系统特有的“fail-plausible”故障模式并给出工程防御框架
📌 工作参考价值(4 点)
- 上下文卫生是防止幻觉污染的第一关:在 Agent 或生成式推荐流水线中,必须将错误输出(如 stderr)与数据通道严格隔离,避免命令替换捕获错误日志并注入下游 LLM 导致虚构输出。可借鉴文中“一行 >&2 切断整条幻觉链”的思路。
- 分层反捏造守卫:对高风险生成场景(推荐理由、商品卖点、工作总结),建立来源可信度标注、禁止短语黑名单(从实际故障中抽取),并采用风险分级的提示守卫模块,共享给所有 LLM 调用任务,防止单点 copy-paste 式维护。
- 声明式状态收敛 + 机器同步:在多组件 Agent 系统中,建立声明式注册机与运行时真实状态的自动 diff 与同步(如定时任务登记 vs crontab、模型注册 vs 实际路由),避免人工遗漏导致的长期无声错误。可设计分级收敛策略:告警 → 预执行 → 自动同步。
- 将人工审阅纳为可观测性第一信号:无论自动测试与治理检查多密集,定期人工阅读最终推送给用户的消息(如推荐摘要、通知),这是发现 fail-plausible 等高阶语义故障最有效的手段。可进一步用 LLM-as-judge 做日常输出评分,但该评判器本身也需纳入同样的治理框架。
回顾式进度感知训练:让LLM智能体在长程任务中自我反思
🧭 LLM智能体训练 · 进度元认知 ★ 深度解读
Shanghai Jiao Tong University · OPPO Research Institute
提出RePro框架,通过前向执行-回顾反思范式训练智能体从已完成轨迹中学习进度估计,以辅助长程任务决策,无需额外奖励模型
📌 工作参考价值(4 点)
- 长程多步决策中引入进度信号:在电商导购、多轮对话等 multi-step agent 场景,可借鉴 RePro 的前向-回顾范式,让模型在完成完整交互后重新标定每一步的完成度,以此作为辅助训练信号,缓解稀疏奖励问题。
- 过程奖励设计思路:复合奖励(进度塑造 + 在线-回顾对齐 + 格式正则化)避免了训练昂贵的独立过程奖励模型,可直接接入 GRPO/GiGPO 等现有 RL 训练管线,适合需要快速迭代的工业界 agent 训练。
- 元认知评估指标:使用 Intermediate Discrimination(成功与失败轨迹的最终进度差)作为进度估计质量的代理指标,可应用于 agent 上线前的离线评估,判断模型是否具备可靠的自我诊断能力。
- 低成本冷启动模板:利用少量外部 LLM 生成的回顾演示进行 SFT 预热,即可建立格式正确的反思行为,然后通过 RL 逐步内化,适合在业务数据上以较少样本启动 agent 的自我反思能力。
Ling 和 Ring 2.6:万亿参数级高效即时代理智能
🧭 Agent 高效训练与推理优化
Inclusion AI
通过架构升级、混合线性注意力及强化学习框架实现高效推理与代理能力的万亿参数模型家族
📌 工作参考价值(4 点)
- 长上下文推理效率:混合线性注意力(Lightning Attention + MLA)可大幅降低长序列(如用户行为序列、多轮对话)的预填充和解码延迟,直接适用于电商搜索/推荐系统的实时重排序或解释生成场景。
- Token 效率优化:最短正确响应蒸馏和双向偏好对齐能训练模型用更少 token 提供精准推荐理由或答案,降低服务成本,尤其适合用户触达、消息推送等延迟敏感的业务。
- Agent 训练稳定性:KPop 异步 RL 调度框架可借鉴到多步搜索 Agent 的训练中,通过异步采集搜索、工具调用、工作流执行等环境交互数据,提升样本利用率和训练吞吐,适合构建能自主调用商品检索、价格对比等工具的购物助手。
- 业务模型迁移升级:论文从已有模型(Ling-2.0)通过架构迁移和继续训练而非从头预训练的方法,对于已有推荐/对话模型向 Agent 方向升级提供了一个低成本路径,避免全量重训。
SIMMER:基于世界模型的LLM可执行规划潜在失败基准测试
🧭 Agent 规划可靠性评估 · 潜在失败检测 ★ 深度解读
The Pennsylvania State University
提出符号化厨房世界模型与状态机执行器,系统评估并缓解LLM智能体规划中的潜在与不可逆失败。
📌 工作参考价值(4 点)
- 借鉴“潜在失败”概念,在多步决策流程(如促销路径规划、智能客服对话策略)中引入隐性错误检测,避免最终目标被无声破坏。
- 使用符号化状态机执行器 + 世界模型进行离线仿真,可精确审计计划中的状态传播(如库存变化、用户意图漂移)导致的不可逆错误。
- 采用反事实前瞻模拟(Counterfactual Foresight),让模型在生成每一步时主动预测并修正潜在的隐性危害,显著提升规划安全性。
- 在序列推荐或 Agent 交互中,不应只检查即时前置条件,需定义后执行审计规则,捕捉全局安全违规(如资源耗尽、死锁)。
StreamMemBench:面向未来辅助的个人Agent记忆流式评估基准
🧭 Agent记忆评测 · 流式未来辅助 ★ 深度解读
Fudan University · Amazon
提出首个从流式观察到任务复用全链路诊断Agent记忆行为的基准,揭示存储与利用的鸿沟
📌 工作参考价值(4 点)
- 在设计电商/推荐Agent的记忆模块时,不能仅关注存储准确率,需要构建“证据存储→初始任务使用→反馈修正→跨任务复用”的端到端评测链路,否则高存储命中率可能掩盖低效的任务应用
- 反馈的即时修正与长期固化是两回事:很多系统能在同轮中根据反馈修正回复,但无法将修正经验沉淀到记忆供后续任务调用,应在记忆更新机制中增加“经验整合”步骤(如prompt template、mem-skill等)
- 随着会话或行为流变长,Agent的证据使用能力可能持续衰减,建议在线上监控中引入分段能力漂移指标,而不仅看全局平均
- 构建记忆评测数据时,可借鉴“证据锚点”方法,从真实行为流中抽取关键事实并关联到后续需要该事实的任务,避免合成数据集中的信息泄露与表面合理性
tap:异构LLM Agent基于文件系统的协作协议
🧭 多智能体协作 · 文件通信协议 ★ 深度解读
HUA Labs
通过文件优先级设计结合实时通知,实现Claude与Codex在同一仓库无共享内存的长期开发与审查。
📌 工作参考价值(4 点)
- 消息持久化与审计:在推荐Agent流水线(如生成式检索->精排->文案生成)中,可以模仿tap将中间消息(检索结果、特征拼接、决策理由)以文件形式落盘,既做审计又能用于失败重试,避免仅依赖内部状态。
- 异构模型配对产生多样性:实验发现不同模型(Claude/Codex)配对审查时检出缺陷率更高(69.8% vs 53.1%),这启示在多智能体推荐评估中,混合不同供应商的LLM作为“评审”可能减少群体思维,尤其适用于敏感规则审核、安全校验等任务。
- 无共享运行时的编排:通过独立git worktree和文件隔离,Agent无需共享内存或统一API网关,可直接用于现有微服务环境——每个推荐模块(召回、排序、解释生成)由不同厂商模型驱动,通过文件交换输出继续迭代。
- 自应用迭代机制:tap自身用自己开发,问题直接通过审查->mission->修复循环改进协议,这种“用Agent改进Agent系统”的模式能迁移到推荐引擎自动调参或策略进化,前提是操作日志与复盘记录结构化可回放。
Visual-Seeker:通过主动视觉推理实现视觉原生多模态智能搜索
🧭 多模态搜索代理 · 主动视觉推理
UCAS · Institute of Automation, CAS · Ant Group · RUC · BIT
提出视觉原生多模态搜索代理,主动关注细粒度视觉细节并动态收集视觉证据,在多模态搜索基准上达到SOTA
📌 工作参考价值(4 点)
- 电商搜索场景中可借鉴主动视觉推理,让 Agent 动态分析商品图片的局部细节(如品牌、款式),提升多模态查询的匹配精度。
- 构建视觉原生搜索代理的数据流水线,合成多模态搜索轨迹,用于训练面向电商场景的视觉推理模型。
- 在推荐对话 Agent 中引入动态视觉证据收集机制,对用户上传的图片进行多跳细粒度推理,增强可解释性和准确率。
- 工程上可将主动视觉推理模块集成到现有多模态 LLM 搜索管道中,处理复杂的视觉问询,如“找类似这件衣服但领口不同的商品”。
从被动生成到主动调查:一种主动式科学同行评审智能体
🧭 主动式评审Agent · 结构化日志引导
Ubiquitous Knowledge Processing Lab (UKP Lab), Technical University of Darmstadt · National Research Center for Applied Cybersecurity ATHENE, Germany · School of Computer Science, University of Birmingham
将论文评审建模为MDP,用结构化日志引导LLM主动调查疑点,8B模型性能超越大模型prompt方法39%
📌 工作参考价值(4 点)
- 主动调查机制可复用至客服/推荐Agent:将多步信息收集建模为MDP,Agent可自主决定何时查询知识库、调用工具或请求用户反馈,结构化日志作为工作区记录证据与假设,提升信息获取的针对性和深度。
- 结构化日志是轻量级记忆增强方案:类似Scratchpad或流式笔记,在Agent内部维护一个不断更新的JSON或键值结构,用于追踪状态、中间发现和待验证项,可有效避免长上下文遗忘,在电商导购中实现多轮推理和偏好追踪。
- RL优化Agent调查策略有直接迁移潜力:利用RL对“调查”动作(如查看详情、对比商品、查看评论)进行奖励驱动优化,使Agent学会在何时做何种调查以最大化下游任务收益,适用于电商比价、商品推荐等需主动探索的场景。
- 小模型+SFT+RL可超越大模型Prompt:对于特定垂直领域的Agent任务(如客服、合规检查),用8B模型经监督微调加RL训练,可在成本敏感的生产环境中替代闭源大模型的Prompt工程,获得更高性价比。
从聊天机器人到数字同事:持久自主AI的范式转移
🧭 Agent 演进:从对话到可持久自主工作 ★ 深度解读
Tencent Youtu Lab · Tsinghua University · Sun Yat-sen University · Central South University · University of Illinois at Chicago
提出“Workspace+Skill”机制,推动LLM从单次对话转向有状态、可复用的任务执行
📌 工作参考价值(4 点)
- 构建有状态的 Agent 工作区:参考 OpenClaw 的 Workspace 概念,为电商 Agent(如自动比价、库存管理)维护持久化的文件系统、终端、浏览器状态,避免每次调用都重新获取上下文。
- 用“技能(Skill)”封装可复用推理链:将常见业务流程(如订单处理、退款审核)建模为可参数化的 Skill,包含规划、工具序列、中间校验与错误恢复,提升任务闭环率。
- 评估范式从答案质量转向任务状态验证:对于推荐或运营 Agent,不应仅看最终回答的准确性,而应检查任务是否真正改变了系统状态(如是否完成了一次广告投放调整),用“任务闭环率”作为核心指标。
- 数据构造从指令-响应对转向状态-动作-观测轨迹:训练电商 Agent 时,记录完整的交互轨迹(用户意图 → 动作 → 环境反馈),以轨迹级 reward 进行强化学习,比单轮 SFT 更能培养长期规划能力。
递归智能体框架:以完整工具集为递归单元的长上下文推理
🧭 Agent 架构 · 长上下文推理 · 代码即行动 ★ 深度解读
PricewaterhouseCoopers, U.S.
将递归单元从裸模型调用升级为完整 agent harness,在长上下文推理上超越 coding agent 和 RLM,代码生成子 agent 并行处理。
📌 工作参考价值(4 点)
- 用代码脚本生成子 agent 替代工具调用并行限制:当需要处理大量独立条目(如千级商品描述分析)时,由父 agent 生成 asyncio 并行脚本,绕过 API 并行调用上限,可应用于电商批量商品属性提取或用户评论汇总。
- 递归单元配备完整文件系统与执行环境:每个子 agent 拥有独立的上下文窗口和工具(read_file、grep、execute 等),避免共享状态干扰,适合多文档聚合任务(如合同审查、多源数据抽取),可直接用于客服历史或物流文档分析。
- 模式可组合:代码路径处理海量条目,工具调用路径处理少量任务:根据条目数自动选择策略(少于5个用 JSON tool call,否则用代码执行),兼顾效率与灵活性,推荐系统中对候选池做细粒度推理时可借鉴。
- 递归深度可配置且架构与模型解耦:沿用 GPT-5 到 Claude Sonnet 均显著提升,表明 harness 设计本身带来增益,从业者可在现有模型基础上仅升级编排逻辑而无须换模型。
DR-DCI:通过动态工作空间扩展实现可伸缩直接语料交互
🧭 Agent 搜索接口 · 检索与直接语料交互结合 ★ 深度解读
University of Toronto · Texas A&M University · University of Waterloo · UC San Diego · Verdent AI
将检索重塑为 Agent 可调用的 pull 动作以扩展本地工作空间,使 DCI 终端操作仅作用于已拉取文档,平衡大规模语料探索与细粒度证据验证。
📌 工作参考价值(4 点)
- 检索即工作空间动作:在商品搜索/推荐 Agent 中,可将检索接口设计为 pull(query, topK),根据推理中间状态动态拉取候选,而非固定一次性检索,适应多轮证据收集。
- 预览 + 本地 DCI 双阶段设计:拉取后返回 ranked preview 供 Agent 快速定位,同时保留 grep/read 等终端式命令在已拉取文档内进行跨文档比较与验证,可迁移到需多商品对比或约束过滤的场景。
- 工程化工作空间管理:拉取的文档存储为扁平目录、唯一文件名并提供统计信息,避免路径混乱和重复,降低 Agent 误操作;可利用现有 BM25 等轻量检索器作为后端,降低建设成本。
- 失败恢复机制:低置信度 + 显式 abstain 时,保留工作空间但重置推理上下文进行二次验证,能以极低成本($4.44 恢复 17/49 个错误)提升准确率,适合高价值决策场景。
多方实时语音代理的自适应轮流说话
🧭 多方语音代理 · 流式推理与角色扮演
Amazon AGI · IIT Kharagpur
提出 ModeratorLM,根据分配角色自适应调整多方语音对话中的轮流行为,精度提升超40%,召回提升超70%。
📌 工作参考价值(4 点)
- 角色条件控制代理行为:在电商客服或语音导购场景中,可为代理显式指定角色(如促销导购、售后专员),模型将根据角色调整轮候策略和响应风格,提升对话自然度。
- 流式 chunk-wise 推理与 CoT 增强:采用分块流式语音大模型,结合 Chain-of-Thought 推理,可在低延迟下完成复杂的轮流决策,适合对实时性要求高的电音语音交互。
- 合成对话数据生成:RolePlayConv 数据集构造方法利用了角色多样性合成,可低成本生成特定业务场景的训练数据,减少人工标注成本。
- 减少误打断:提出的方法显著降低误打断率,在呼叫中心或语音工单等场景中可避免重复澄清,改善用户体验。
FastContext:为编程智能体训练高效的仓库探索器
🧭 Agent子代理专化与token效率优化
Microsoft · Shanghai Jiao Tong University
将仓库探索与任务求解分离,用专用小模型子代理并行搜索,最高提升5.5%解决率并削减60% token消耗
📌 工作参考价值(4 点)
- 在大模型推荐Agent中,可把商品库检索、用户画像查询等上下文探索任务交给专用小模型子代理,通过并行工具调用快速返回相关片段,避免主模型上下文爆炸和token浪费。
- 采用“强模型轨迹引导 + 任务奖励微调”两阶段训练法,利用大模型生成高质量探索路径,再在业务数据上微调小模型,低成本定制垂直领域(如电商搜索、广告定向)的探索器。
- 分离探索与推理的架构思想可直接迁移:设计“探索员-求解员”模式,探索员专注信息收集并返回带精确引用的证据,求解员仅做决策,可提升系统响应速度和决策准确性。
- token消耗降低60%的结论提示,在线上高并发推荐或对话场景中,通过精简上下文输入可大幅降低推理成本,且小模型额外开销极小,适合成本敏感业务。
会话信息访问的个性化与评估方法研究
🧭 会话式信息访问 · 个性化与评估
Radboud Universiteit Nijmegen
从个人上下文提取、个性化回复生成到系统评估,提出 CREL、LAPS 和 FACE 三个方法构建可靠 CIA 系统
📌 工作参考价值(4 点)
- 对话实体链接 (CREL) 可直接用于多轮对话中精准提取用户提及的商品、品牌、偏好等实体,为后续个性化推荐或 Agent 记忆提供结构化上下文,替代简单的 NER 或模糊匹配。
- LAPS 数据集构建方法 提供了低成本生成大规模个性化对话数据的范式,可用于微调电商对话 Agent,使其更自然地融合用户历史与偏好,提升推荐接受率。
- FACE 无参考评估 能自动评估整段对话质量且与人工评分高度一致,可嵌入电商 Agent 的离线评测 pipeline,快速筛选或对比不同回复策略,减少 A/B 测试前的评估成本。
- 整体工作强调 “个人上下文” 在会话式信息访问中的核心地位,启示我们在构建电商导购 Agent 时,需将实体链接、偏好记忆与评估闭环统一设计,而非割裂优化各模块。
HyperTool:以可执行代码块聚合工具调用,减少 Agent 上下文膨胀与推理碎片
🧭 工具增强 Agent 的执行抽象与上下文管理 ★ 深度解读
Shanghai Jiao Tong University · IQuest Research · Beijing University of Aeronautics and Astronautics
提出 HyperTool 可执行接口,将多步确定性工具调用封装为单个代码块,使模型可见执行粒度更粗,大幅降低上下文消耗并提升复杂工具使用准确率。
📌 工作参考价值(4 点)
- 在 Agent 工程中封装工具子程序:当工作流中包含一系列无歧义、不需高层推理的 API 调用(如搜索→过滤→聚合→排序)时,可像 HyperTool 一样用代码块将其合并为单一对外动作,避免每步都往主线径写观察结果,大幅节省 token 开销。
- 训练数据合成的策略:借鉴其“组合任务构建+轨迹展开+多轮验证”流水线,可以自动生成高质量的工具使用 SFT 数据。关键点是强制约束来自真实工具返回值,并用执行过滤和证据一致性检查淘汰无效轨迹,确保模型学到正确的块边界与内部逻辑。
- 统一动作空间优于混合接口:消融实验表明,对中小模型让所有交互统一走 HyperTool 接口(而非原子调用与代码块混合)可避免动作空间异质性带来的认知负载,直接提高准确率。在电商 Agent 设计中,如果模型需要同时处理简单 API 和复杂子流程,统一为代码执行入口可能是更好的选择。
- 注意执行安全与超时设置:实际部署时,代码块可能触发恶意行为或无限循环,务必引入沙箱隔离与严格的超时限制(尤其对复杂聚合块可给予更长的单次执行超时)。同时对关键中间返回值做必要日志,平衡可解释性。
IterCAD:面向视觉引导CAD生成与编辑的迭代多模态智能体
🧭 CAD 生成与编辑 · 多模态 Agent · 闭环几何推理 ★ 深度解读
Shanghai Artificial Intelligence Laboratory · University of Science and Technology of China · Shanghai Innovation Institute · Wuhan University · The Australian National University
提出迭代多模态Agent框架,通过多视图工程图闭环交互与几何感知RL,实现鲁棒CAD代码生成与编辑
📌 工作参考价值(4 点)
- 闭环Agent交互范式:借鉴“思考-执行-观察”的多轮交互协议,强制模型输出结构化推理和代码块,并给予格式奖励,可用于电商复杂查询Agent或对话式购物助手的设计,提高多步决策的可靠性。
- 数据合成与训练流程:先用专家模型合成高质量多轮交互轨迹进行SFT冷启动,再通过几何感知强化学习提升自校正能力,此两步走训练策略可直接复用到需要长程推理和纠错的业务场景(如多轮推荐对话、任务型Agent)。
- 信用分配掩码(GVPM):为解决多轮RL中后期失败惩罚前期有效动作的问题,引入前缀掩码,只对有效前缀进行强化,可迁移到任何多轮交互的RL训练中(如多步召回策略优化、对话策略学习)。
- 幸存者偏差消除评估:提出的CD-TR曲线和AUC-TR指标将代码执行成功率与几何精度联合评估,类似思路可引入到生成式推荐或SQL生成任务中,把生成失败记为最低分,避免仅统计成功样本而导致的评价失真。
LLM智能体也能“看见”代码仓库:视觉结构提升效率的秘密
🧭 多模态Agent · 代码仓库可视化
Shanghai Jiao Tong University · Xi’an Jiaotong University · Zhejiang University
首次系统评估多模态仓库可视化对LLM Agent任务解决的影响,发现视觉辅助可降26% token开销且不损精度。
📌 工作参考价值(4 点)
- 混合模态Agent架构:在电商/推荐Agent中,可将系统拓扑图、服务依赖图、商品知识图谱等可视化信息作为补充输入,与文本上下文结合,使Agent更高效地理解复杂环境结构,减少纯文本描述带来的冗长token消耗。
- 故障定位阶段的视觉加速:在推荐系统排障、多Agent协作调试等场景,提供可视化调用链路或状态快照,能帮助Agent更快定位问题来源,类似论文中视觉在fault localization阶段的突出效果。
- 自主探索深度控制:让Agent根据视觉结构的复杂程度自行决定探索深度,避免不必要的文本查询,可以迁移到Agent规划(如动态选择RAG查询层级、多级推荐链的探索)中,实现按需获取信息。
- 工程实现借鉴:论文的混合模态设计验证了“视觉结构图 + 文本浏览”的比纯视觉或纯文本更具性价比,可直接套用在需要Agent理解大型项目结构(如推荐pipeline、微服务架构)时,用图表快速建立全局认知,再用文本精读关键部分。
Nemotron 3 Ultra:面向 Agent 推理的 550B 混合专家 Mamba-Attention 开源模型
🧭 Agent 专用大模型 · 混合 Mamba-Attention MoE ★ 深度解读
NVIDIA
总参数 550B、活跃 55B 的混合 Mamba-Attention MoE 模型,在 Agent 推理上精度对齐且推理吞吐量最高达同规模模型的 5.9 倍
📌 工作参考价值(4 点)
- 长上下文高效推理架构可迁移到推荐 Agent 中:Hybrid Mamba‑Attention + MoE 大幅降低 KV cache 与注意力成本,适合需要维持超长对话历史或文档上下文的推荐/搜索 Agent;可在电商客服、导购助手等场景落地类似模式,平衡推理延迟与能力。
- Multi‑Token Prediction 头可直接加速自回归生成:训练时加入共享权重的 MTP 头,上线后通过投机解码(speculative decoding)提升吞吐,对需要高并发生成回复的推荐理由、搜索词改写等场景有直接工程价值。
- 后训练中的多教师 On‑Policy 蒸馏(MOPD)可借鉴到工业 Agent 对齐:用领域专家 teacher 在 student 的 rollouts 上进行 token 级蒸馏,能在保持推理效率的同时注入多任务 Agent 能力(如工具使用、纠错),适合业务定制化 Agent 构建。
- 推理预算控制(reasoning effort control)可用于动态服务质量调节:允许在推理时根据负载动态调整思考深度,平衡效果与成本,可应用于推荐 Agent 的实时适配。
PhoneHarness:混合GUI、CLI与工具动作的手机智能体基准与执行框架
🧭 手机智能体 · 混合动作执行基准
Tencent Hunyuan · The Chinese University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Tsinghua University
提出混合动作手机智能体基准和执行框架,通过率75.0%,超越仅GUI方法12.9个百分点
📌 工作参考价值(4 点)
- 移动端自动化任务设计:在电商App的自动下单、客服回复等场景中,不应仅依赖GUI视觉操作,可借鉴混合GUI、CLI(设备侧命令)和工具调用的思路,提升动作可靠性与效率。
- 可验证执行与审计:引入“可观察副效应”验证机制(如检查文件是否修改、消息是否发送),确保智能体操作真实生效。电商场景中可类似验证订单是否提交、推送是否发出,避免“看起来很对但实际没做”的风险。
- 动作路由与委托架构:PhoneHarness采用确定性路由与有限GUI委托的代理循环,可作为构建多动作空间购物助手(如既能操作界面又能调用API查询商品)的参考架构。
- 任务完成式评估:其基准设计关注任务完成而非仅答案匹配,可直接迁移到推荐系统多步交互评测,例如衡量购物助手是否真正帮用户完成“挑选并下单”全流程,而非仅给出推荐列表。
VISTA:面向GUI视觉定位的视角一致自验证训练框架
🧭 GUI智能体视觉定位训练方法
Zhejiang University · Ant Group
通过多视角组构建与自验证锚点,缓解GRPO在GUI定位中组内无相对优势的问题
📌 工作参考价值(4 点)
- GRPO组构建策略:将单一实例的多视角裁剪作为一个组,强制模型学习视角不变性。类似思路可用于电商推荐系统,将同一商品的不同视图(如多角度图片、标题变体)构成对比组,提高模型对输入扰动的鲁棒性。
- 自验证锚点机制:在RL训练中动态加入oracle答案作为正则化项,仅在模型已产生高分rollout时激活,既避免策略坍塌为简单模仿,又稳定了短序列生成。该方法可迁移到其他基于RL的文本生成任务(如推荐理由生成、对话式推荐),以提升训练稳定性。
- 目标保持裁剪增强:通过裁剪确保目标区域可见且坐标精确映射,实现了语义等价但几何差异的输入增强。在电商场景中,可以类似地构造商品图像局部区域的正样本对,用于训练商品定位或热区预测模型。
- 鲁棒性提升思路:VISTA显著降低了预测翻转率(prediction flip rate),表明模型对输入变化更稳定。对于需要高可靠性的Agent系统(如自动化下单、客服),这种训练范式能减少因微小界面变化导致的误操作。
智能体评估的智能体化:用标准化协议实现开放、标准、可复现的评估
🧭 Agent 评估标准化 · 多智能体评估 ★ 深度解读
UC Berkeley · UC Santa Cruz · EPFL · IBM Research · Carnegie Mellon University
将基准测试本身封装为 judge agent,通过 A2A 与 MCP 解耦评估逻辑,使任意智能体无需定制即可互操作
📌 工作参考价值(4 点)
- 标准化评估接口:用 A2A(任务分发)与 MCP(工具访问)解耦 benchmark 与待测 agent,消除 N×M 集成成本,可直接复用到电商多智体评测(如客服 agent、推荐 agent、风控 agent),仅需实现 A2A wrapper 即可接入任何 judge agent。
- 多种部署模式:远程/托管/代理/CI 模式覆盖隐私与公开需求,电商团队可选择本地模式保护闭源 agent,或通过 CI 模式把评估嵌入 CI/CD,实现上线前自动化回归。
- 可组合的 judge agent 设计:judge agent 内部可灵活组合用户模拟器、LLM-as-judge 等子 agent,便于构建自定义评估流水线,如模拟买家行为、评估商品推荐 agent 的多轮对话质量。
- 降低评估门槛:通过自然语言描述评估逻辑(semantic internalization)即可快速创建新 benchmark,无需硬编码,适合业务快速验证新场景下的 agent 行为。
AI 代理的战略决策支持:何时独自行动,何时寻求帮助
🧭 AI Agent 决策支持与自适应支持调用 ★ 深度解读
University of Pennsylvania
提出在线自适应算法 SOS,以最小化支持调用次数同时保证反事实漏支持误差可控
📌 工作参考价值(4 点)
- Agent 工具调用的成本控制:在电商推荐、客服等 Agent 系统中,外部工具(数据库、知识库、人工审核)调用成本高,SOS 算法能自适应学习何时真正需要工具,使支持调用率大幅低于 LLM 自主决定基线,同时维持相同或更低的漏支持错误率,可直接嵌入 Agent 推理循环。
- 在线校准与反事实反馈:当反馈只能选择性获得(即只有调用支持时才得知其是否必要),随机探索+重要性加权更新阈值的机制可用于推荐系统中延迟或部分可观测的指标优化,例如判断何时需要人工审核高风险的推荐结果。
- 与现有 LLM 训练解耦的监督层:该框架作为无模型修改的外层监督,适用于任何黑盒 Agent,无需重训或微调 LLM,即可在线上实现错误率可控的支持决策,适合快速叠加强化已有 Agent 的可靠性。
- 分数设计启示:实验表明使用表示学习的参数化分数(线性探针、锚定分数)比纯置信度分数更稳定高效,尤其在初始信号不可靠时,可通过在线校准逐步改善分离度,为设计 Agent 中的支持价值估计函数提供实用参考。
大语言模型过程性技能的自适应多分辨率压缩
🧭 Agent 技能压缩 ★ 深度解读
Tsinghua University
提出多分辨率软令牌压缩框架 SKIM,通过渐进训练与离线自判实现技能压缩,在保持任务精度的同时大幅减少 token 消耗。
📌 工作参考价值(4 点)
- 在 Agent 系统中,将冗长的技能描述(如电商工具的 API 文档、流程指引)压缩为少量连续软令牌,可显著降低每次调用的 prefill 延迟和费用,且通过渐进训练与 LoRA 适配,能严格保持工作流中的条件依赖和工具调用逻辑,避免硬压缩导致流程断裂。
- 多分辨率设计允许同一个技能存储 256/512 等不同预算的软令牌前缀,通过离线自判自动为每个技能‑模型对选择最优压缩率:简单技能用极少令牌,复杂流程用较高预算或回退至原文,这类似于电商推荐中根据复杂度动态分配 embedding 维度。
- 技能更新时只需一次前向传播即可重新压缩,无需梯度优化,使得频繁迭代的 Agent 技能仓库(如 ClawHub)能以类似软件构件的方式分发预计算的软令牌包,这对推荐系统中动态 prompt 维护有借鉴意义。
- 训练中使用 ReAct 轨迹模拟工具调用,并通过分解复杂技能为子技能训练多技能组合,这些合成数据方法可直接用于构建电商多工具 Agent 的压缩训练数据。
DailyReport:日常搜索任务上评估搜索代理的开放式基准
🧭 Agent 评估基准 · 细粒度与可解释评估
University of Science and Technology of China · Meituan
构造包含150个日常搜索任务与3546条细粒度评分标准的基准,提供可解释的多维评估,揭示现有搜索代理普遍未达用户预期
📌 工作参考价值(4 点)
- 任务分解与级联评分标准:借鉴其子任务分解和级联 rubric 设计,可在电商搜索/推荐代理评估中实现细粒度能力诊断(如商品推荐的准确性、解释质量、多源信息融合能力)。
- 用户中心聚合分数:提出的用户偏好分数可作为离线代理指标,近似真实用户满意度,用于 Agent 的迭代优化或线上 A/B 测试前的快速筛选。
- 17 个系统对比揭示的短板:时效性、多源合成等维度的普遍缺陷表明,在构建电商搜索代理时需特别强化实时信息的抓取与融合机制。
- 数据集与任务构造思路:可从真实用户讨论中挖掘任务,构建贴合电商场景(如比价、商品咨询)的评估集,复现其评估管线。
EurekAgent:环境工程是实现自主科学发现的核心
🧭 Agent环境工程 · 自主科学发现
Tsinghua University · Zhipu AI
通过环境工程(权限、制品、预算、人机交互)引导Agent自主科学发现,以极低成本在26圆堆积等任务创下新SOTA。
📌 工作参考价值(4 点)
- 权限隔离与沙箱:在电商推荐Agent中,可借鉴权限工程,将Agent的探索行为限制在沙箱环境中,防止直接操作线上评估或污染训练数据,实现安全试错。
- 制品版本管理:利用基于Git的制品工程管理Agent生成的实验配置、模型检查点或Semantic ID映射表,实现可追溯、可回滚的迭代,提升团队协作效率。
- 成本预算控制:为Agent设定API调用预算或时间预算,避免在自动调参、query改写生成等任务中产生过高推理成本。EurekAgent用<11美元发现SOTA,证明预算能激发高效探索。
- 轻量人机交互:设计便捷的人类监督接口,让领域专家在关键决策点(如新推荐策略上线前)快速审核或修正,在Agent自动化与人工控制间取得平衡。
EvoArena: 追踪记忆演化以提升动态环境中的 LLM 代理鲁棒性
🧭 LLM Agent 鲁棒性 · 环境演化与记忆进化 ★ 深度解读
National University of Singapore · Singapore Management University · University of Washington · University College London · University of Pennsylvania
提出动态环境评测套件 EvoArena 和补丁式记忆机制 EvoMem,通过记录记忆变化轨迹让代理在持续演化的任务中更鲁棒。
📌 工作参考价值(4 点)
- 记忆演化追踪:将记忆更新记录为“补丁”,保留变更前后状态、原因和证据。电商推荐中用户偏好随时间变化,可记录每次偏好更新及触发上下文,用于更精准的长期用户建模。
- 链式任务评估:EvoArena 的链式准确率评估方法要求连续子任务全对才算成功,可借鉴到 Agent 流水线评测,衡量系统在持续变化环境下的端到端可靠性,而非仅看单步指标。
- 版本化状态管理:当系统规则或模型更新时,保留旧版本知识,避免新信息完全覆盖旧信息。在推荐策略迭代或 A/B 测试时,可回溯历史版本行为,支持更稳健的上线决策。
- 补丁检索推理:查询时检索相关历史变更,而不仅用最新记忆,可用于处理时间敏感或条件依赖的任务。例如根据当前上下文检索用户过去的偏好变化轨迹,辅助动态意图识别。
更好地与你协作:将用户矫正编译为编码 Agent 的运行时执行规则
🧭 Agent 个性化 · 运行时规则编译与强制执行 ★ 深度解读
University of Notre Dame · IBM Research · Tencent AI Lab
提出 TRACE,把用户矫正编译成运行时强制检查,克服记忆检索却仍违反偏好的“访问‑合规”差距
📌 工作参考价值(4 点)
- 从反馈到硬约束:在电商或推荐 Agent 中,用户反馈(如“别再推这类商品”)若仅记入 memory,后续仍可能违反。可借鉴 TRACE 将反馈编译为可执行规则,在排序前、回复生成前用钩子(hook)校验,强制执行,减少用户重复纠正。
- 规则生命周期管理:面对持续的用户修正,通过五类动作(new/update/supersede/split/noop)动态维护规则库,避免冲突和退化,适用于个性化策略的增量演化。
- 记忆与强制互补:系统可同时保留记忆存储(上下文感知)和规则引擎(强制执行)。对于成本敏感的推荐场景,对关键偏好(如明确过滤条件)施加编译检查,对软性偏好仍用记忆提示,二者非替代关系。
- 轻量规则提取:使用小型 LLM 自动从用户反馈中提取原子规则和验证正则(如检测“debug 文件清理”的命令模式),在电商 Agent 中可自动生成“取消订单后禁止推荐同类商品”的触发条件和校验逻辑,降低人工配置成本。
HarnessBridge:面向 LLM Agent 的可学习双向控制器
🧭 Agent 交互接口 · 可学习 harness 优化 ★ 深度解读
University of California, Los Angeles
将 Agent 与环境的交互接口参数化为可学习的双向投影,通过指令微调轻量模型,在提升任务成功率的同时大幅降低 token 消耗和轨迹长度。
📌 工作参考价值(4 点)
- 可学习的交互策略:Harness 不再靠人工规则,可用轻量模型学习观察压缩和动作拒绝策略,适用于电商客服 Agent、多步推荐交互等长周期对话场景,减少无效交互和上下文膨胀。
- 双向投影设计:Observation Projection 保留关键信息、压缩冗余、丢弃无关内容,并维护 active-state index,可直接复用到复杂 Agent 的上下文管理中;Action Projection 通过轨迹证据拒绝无效动作并给出改进建议,可提升如工具调用、搜索 API 交互的效率。
- 轻量模型的控制器模式:用 0.8B 模型控制 35B+ 生成器,推理开销仅约生成器的 7%,该模式在成本敏感的电商 Agent 部署中极具参考价值,可用小模型做交互仲裁。
- 统一指令微调范式:将观察压缩与动作校验统一为条件生成任务,采集带约束的轨迹数据,可泛化到不同生成器,适合需要快速适配不同 LLM 后端的推荐或对话系统。
基于过程的Agent策略优化:从粗粒度分支到细粒度决策点
🧭 Agent强化学习 · 过程优化 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group · Southern University of Science and Technology
通过细粒度决策点分支与未来感知信用分配,提升Agent强化学习的探索效率与最终性能
📌 工作参考价值(4 点)
- 分支位置选择:不要固定在工具调用或工作流边界,可以在整个思维序列中根据 Branching Score(token 熵 + 未来似然增益)选取影响下游的高价值 token 进行分支,能更高效地发现关键推理转折点,适合多轮搜索 Agent 的训练。
- 过滤虚假高熵:组合未来 continuation 的 policy-induced likelihood gain 可过滤掉仅因词汇稀少导致的高熵 token,只保留真正具有决策影响力的位置,避免在无关 token 上浪费分支预算。
- 双组优势估计:初始 rollout 与分支 rollout 由不同策略生成,混合计算优势会引入偏差;分别计算组内相对优势(dual-group advantage)能稳定训练,可借鉴到带在线采样的推荐链路优化中。
- 未来感知的信用分配:额外引入的未来感知优势项(基于 Ω 裁剪)对下游影响大的决策点赋予更高信用,鼓励对后果敏感的位置进行探索,可应用在长序列多步推荐的策略梯度中。
SpatialClaw:以编程为行动界面的空间推理Agent
🧭 Agent 设计 · 代码作为行动界面 ★ 深度解读
NVIDIA · KAIST
提出以Python代码作为行动界面,在持久内核中迭代组合感知工具,显著提升开放式空间推理性能。
📌 工作参考价值(4 点)
- Code as Action 替代固定工具调用:在 Agent 设计中,用 Python 代码生成代替 JSON/XML 结构化工具调用,可动态组合基础 API(分割、重建、计算)完成任意复杂任务。电商场景的智能客服或商品属性提取 Agent 可借鉴,让模型根据问题实时编写数据处理代码,而非受限于预定义工具列表。
- 持久化内核支持观察-修正循环:将执行环境设为持久化 Python 内核,中间变量、可视化结果跨步骤保留。推荐系统的在线调参或分析环节可引入类似机制:每步执行后保留状态,Agent 根据输出反馈修正后续步骤,避免一次性提交全部分析策略。
- 通用计算库赋能动态组合:工具设计为普通 Python 可调用对象,同时预加载 NumPy/SciPy/Matplotlib,使 Agent 无需专属工具即可用基础运算实现统计、空间索引等需求。生成式推荐中,可让 Agent 在召回、排序阶段动态组合检索策略与重排逻辑,利用通用库实现临时的指标计算。
- 无微调的泛化 Prompt 工程:系统提示编码领域通用推理原则(如“用度量计算代替像素估计”、“多证据交叉验证”),而非任务特定示例,跨 20 个基准和多个模型家族均有效。构建电商多模态 Agent 时,可提取通用规则提示,降低每个新任务的手动适配成本。
学会对VLA说什么:几乎无害的视觉语言动作模型引导
🧭 具身智能 · VLA语言引导与安全拒绝 ★ 深度解读
Carnegie Mellon University
交互式搜索语言序列并利用共形预测实现无害化语言引导,显著提升冻结VLA的任务成功率
📌 工作参考价值(4 点)
- 冻结模型的语言层干预:在推荐或对话Agent中,若已有强大的基座模型(如LLM),无需微调模型权重,通过学习一个轻量的语言策略(LFP)在测试时动态改写用户指令或系统提示,即可引导模型行为,避免重训成本。
- 结构化语言空间搜索与蒸馏:通过VLM生成叙述先验,再基于LLM产生局部语义扰动,最后用闭环rollout筛选高奖励序列并蒸馏到小模型,这种方法可直接用于生成式推荐中的query/文案优化:先由大模型提供候选,再通过在线A/B或模拟环境筛选,最后蒸馏到轻量策略。
- 共形预测实现安全拒绝:训练一个改进头预测干预收益,再用共形预测校准阈值,当分布外时拒绝语言引导,退回原始指令。这种“无害优先”的安全机制可以应用到风险敏感的电商Agent中,如仅在高置信度下进行动态价格推荐或主动营销。
- 闭环语言反馈的恢复行为:与一次性改写指令不同,闭环语言策略能根据环境状态实时调整语言,实现错误恢复。在对话式推荐或多步Agent协作中,实时反馈和状态适应是提升任务完成率的关键。
大语言模型智能体环境工程综述:建模、合成、评估与应用
🧭 Agent 环境工程与共同进化综述
从环境工程生命周期视角系统梳理智能体环境建模、合成、评估及与环境共同进化的研究
📌 工作参考价值(4 点)
- 自动化环境合成:可借鉴符号合成与神经合成两种范式,为电商推荐智能体自动生成训练场景(如模拟多轮对话、用户行为轨迹),降低人工设计成本。
- 难度驱动进化:借鉴难度驱动的环境进化策略,在推荐Agent训练中根据其在线表现动态调整环境复杂性,提升泛化能力。
- 四类智能体进化路径:记忆、工作流、轨迹、探索四种进化方向可直接映射到多智能体电商系统中的经验回放、流程优化、离线轨迹学习与在线探索。
- 多智能体环境即服务:未来多Agent环境可打包为可复用的沙箱服务,用于测试和优化协同推荐、竞价策略等复杂决策逻辑。
EEVEE:面向现实世界多数据流测试时提示学习的自改进智能体
🧭 多任务测试时提示学习与自改进智能体 ★ 深度解读
Shanghai Jiao Tong University · Princeton University
通过路由器和提示协同进化,在异构多任务流中实现稳定的测试时提示学习,缓解跨任务干扰
📌 工作参考价值(4 点)
- 多场景路由提示适配:可借鉴 router 条件下的多 prompt 集成分思路,为电商推荐中不同业务线(如搜索推荐、直播文案、商品描述)自动分配专用 prompt,避免统一 prompt 在任务间相互干扰。
- 路由与提示协同更新策略:在 Multi-Agent 系统中,可将路由器视为任务分配 Agent,提示视为执行 Agent,借鉴交替进化的训练流程(初始化→交替探索→收敛)来最小化耦合风险,实现自改进的协作模式。
- Pareto 前沿多样性提示初始化:使用贪婪覆盖选择互补 prompt,可应用于生成式推荐中构建多风格文案生成器或 Semantic ID 多样性集合,确保不同 prompt 覆盖不同的用户意图。
- 过程性任务优先优化:实验表明测试时提示学习对可转化为可复用规则的代码生成、公式计算等提升显著,但对领域知识密集型任务可能削弱知识利用。在电商文案生成中,可优先用于格式约束强、可模板化的任务(如自动生成标题、卖点),减少对知识密集型描述的过度干预。
Evoflux:为紧凑型代理推理时演化可执行工具工作流
🧭 Agent 工具使用 · 工作流演化 ★ 深度解读
Rensselaer Polytechnic Institute · IBM Research
在少量教师轨迹下,推理时进化搜索让小型模型工具可用性从~3%升至17-24%,优于等量微调。
📌 工作参考价值(4 点)
- 工具调用/API编排场景下,用进化搜索+执行反馈替代单次生成,可大幅提升小型模型在工具选择、参数填写的正确性,尤其适合低延迟、高隐私的部署需求。
- 结构化编辑操作(工具替换、参数修正、依赖调整)直接针对常见失败模式,可作为通用变异算子嵌入到现有Agent工作流优化中。
- 自适应强度控制(基于增长信号动态调节探索/利用比例)是一种轻量级控制策略,可借鉴到其他推理时搜索算法中,避免无谓的随机探索。
- 在标注数据极度有限时,不要急于微调,推理时执行驱动的修复可能比权重更新更稳定,能规避灾难性遗忘风险。
回收零方差查询:一种面向搜索代理的强化学习训练优化
🧭 Agent 搜索·RL训练优化 ★ 深度解读
Carnegie Mellon University · Instituto Superior Técnico and INESC-ID · NOVA LINCS
将GRPO训练中浪费的零方差查询动态回池重采样,使训练分布与策略协同演化,大幅提升LLM搜索代理性能
📌 工作参考价值(4 点)
- RL训练效率提升:GRPO训练LLM Agent时,全对或全错的零方差组不产生梯度却消耗算力。回收策略将其放回采样池,后续策略改进后可能变为信号查询,避免浪费。可移植到推荐Agent、对话系统的RL微调中,同等算力下提升有效训练信号比例。
- 动态难度采样:零方差状态是策略相关的,不要静态预过滤“简单”或“困难”样本。电商推荐中用户序列的难度随模型能力变化,可借鉴该思想设计自适应课程学习或动态负采样:难以解决的样本暂时降权但不丢弃,能力提升后重新启用。
- 合成数据构造策略:通过三种模式(网页图遍历、迭代检索、比较检索)生成多跳查询,诱导出不同搜索行为,提升Agent泛化性。可借鉴用于生成多样化推荐对话、多步信息查找任务,丰富训练覆盖。
- 权重池管理机制:将采样池视为带权查询集合,信号查询降权或移除,无信号查询保留,训练分布随策略能力演化。此范式可融入多臂老虎机、在线强化学习的探索策略,用于冷启动或动态流量分配。
InternVideo3:通过多模态上下文推理实现基础模型智能体化
🧭 多模态 Agent · 长视频推理 ★ 深度解读
Shanghai AI Laboratory · Shanghai Innovation Institute · Nanjing University
提出多模态上下文推理(MCR)与多头潜在注意力(M²LA),将开放视频模型推向长程视觉智能体
📌 工作参考价值(4 点)
- MCR 闭环范式可用于多步商品理解:将商品多模态信息、用户查询、工具调用结果维护在统一上下文中,递归观察-推理-动作,适合直播切品、复杂选品等需要动态环境交互的场景,可直接借鉴其对证据积累和信念更新的设计。
- M²LA 可降低多模态 Agent 的 KV Cache 开销:通过潜在注意力压缩保留全部视觉 token 的同时减少缓存内存,对于需要长对话历史、多轮商品对比或超长视频分析的电商客服 Agent 很实用,可尝试类似低秩映射和模态自适应适配器来优化线上成本。
- 分阶段训练配方可复用:先通过 M²LA 转换后的 continued pretraining 恢复能力,再用短到长的课程 SFT、基于规则验证的 RL 和 on-policy 蒸馏,这种组合对公开基座模型增强长程推理和工具使用能力路径清晰,适合在自身业务基座上微调推理能力。
- 层次化记忆与递归验证可提升回答可靠性:论文中的分层记忆(帧/片段/场景)、问题路由、检索与自我验证机制,可用于商品视频问答或导购 Agent 中,降低幻觉并强制答案有据可依,特别是遇到不确定时重新检索证据再修正答案的思路值得实现。
Role-Agent:让单一 LLM 扮演代理与环境双重角色,自举式协同进化
🧭 LLM Agent 自举式协同进化 · 过程奖励 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
用一个 LLM 同时做 agent 和环境,通过预测未来状态和分析失败模式实现自举式共进化,平均提升超 4%
📌 工作参考价值(4 点)
- 模拟环境自生成与针对性训练:在对话推荐、客服 Agent 等场景,可用同一 LLM 根据历史失败交互(如用户不满意的对话)分析失败模式,自动检索并复现类似任务,实现针对性微调,无需人工构造样本。
- 预测用户状态作为额外奖励信号:在交互式推荐/搜索中,可在 agent 动作后要求其预测用户/环境下一步状态(如用户下一句话、页面跳转),将预测匹配度作为过程奖励来调制任务奖励,鼓励模型理解动作后果,避免随机成功带来的奖励误导。
- 双角色复用降低工程复杂度:无需额外部署专门的环境模拟模型或任务生成器,直接用同一个 LLM 切换角色完成数据增广和训练,适合资源受限或快速迭代的场景。
- 状态分组优势计算:借鉴 GiGPO 的状态分组思想,可按相同状态(如用户类似意图)对交互中的动作进行分组归一化优势,减少时序噪声,提升梯度的稳定性,可直接移植到 PPO/GRPO 训练流程中。
SkillResolve-Bench: 衡量与解决 Agent 技能检索中的同类能力歧义
🧭 Agent 技能代表性选择与检索安全 ★ 深度解读
Huawei Technologies Ltd.
提出基准 SkillResolve-Bench 及 SkillResolve 方法,通过同类簇解析与效用学习,消除能力相似但执行有害的技能暴露同时提升有用技能排序
📌 工作参考价值(4 点)
- 同类候选的代表性选择机制可直接迁移:在电商搜索与推荐中,同一品类下常有多个外观相似但适配性不同的商品(如不同型号、版本),可借鉴本文的同类簇解析(Capability Resolver)+ 查询条件化效用评分 + 单代表输出的框架,避免将功能对等但配置过时的物品推给用户,降低体验风险。
- 合同特征(contract profile)增强检索信号:从资源绑定、前置条件、时效范围、输出模式等维度构造确定性对比特征,可嵌入排序模型的特征工程中,提升对版本差异、接口兼容性等执行面差异的区分度,适用于需要精准匹配上下文(如 API 推荐、方案选型)的场景。
- 以“有害暴露率”作为安全补充指标:在 Agent 多智体或生成式推荐中,可增设类似 HSR@K 的指标,监控系统输出的“低风险但错误执行”推荐比例,而不仅看点击/满意度;结合簇内效用竞争,可在不伤害核心召回的代价下大幅抑制风险项曝光。
- 利用易混淆库内负例训练效用模型:使用同一查询下与有用技能相似的但未被采纳的库内候选作为负例进行配对学习,比随机负采样更能让模型学习到细微的上下文区分,对具有丰富标签的电商场景(如真实成交 vs. 高相似度但未转化商品)有直接借鉴意义。
T1-Bench:面向多域真实对话代理的工具调用高保真基准
🧭 多领域多轮工具调用Agent评估基准 ★ 深度解读
Capital One
构建覆盖25个领域、76个工具的自动评估基准,揭示LLM代理在多轮跨域场景下的工具调用短板与一致性挑战
📌 工作参考价值(4 点)
- 对电商客服Agent离线评估可借鉴双代理角色扮演:用户代理按策略生成自然对话,助理代理调用工具,自动生成轨迹并复用,大幅降低人工成本。
- 工具调用评估需分层:工具选择、参数提取、输出精确匹配三级,同时使用Pass@K/Pass^K衡量可靠性与一致性;尤其推荐Pass^K捕获单次成功但不可复现的模型。
- 多域切换时性能坍塌严重(4域以上几乎归零),提示实用系统必须强化上下文保持与状态追踪,可引入论文中的Memory Module缓存工具结果,避免重复调用。
- 工具数量是主要难度源之一(如Food & Dining 15工具),可考虑层次化工具选择或分阶段推理,先按意图聚类再在子域内调用,缓解动作空间爆炸。
通过经验知识集成与激活突破LLM工具调用极限
🧭 LLM工具调用 · 经验知识获取与激活 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences
系统研究经验知识在工具调用中的获取、激活与内化,提出KA TE框架,通过并行采样和知识增强训练大幅提升多步工具调用准确率。
📌 工作参考价值(4 点)
- 实例级轨迹知识更有效:直接使用高质量执行轨迹(Scenario Trajectory)作为few-shot示例注入prompt,比抽象意图描述能更可靠地提升工具调用准确率。电商Agent在调用库存、物流API时可复用历史成功轨迹。
- 推理宽度优于推理深度:用并行采样(如4路)配合自一致性聚合,成本可控地激活模型潜在知识,避免复杂prompt工程的边际收益递减。适合在agent决策步骤中增加少量并行调用。
- 用RL做知识内化:将检索到的经验知识显式拼入训练数据,用GRPO等RL方法微调,比SFT更能将知识固化为模型能力。电商推荐Agent可对高频场景构建经验库并RL微调。
- 简单检索够用:Top-K相似度检索+阈值过滤已能取得明显收益,不必在检索机制上过度设计,工程实现简单,适合快速落地。
TRACE:统一的多轮智能体强化学习 rollout 预算分配框架
🧭 智能体强化学习 · 树形 rollout 分配 ★ 深度解读
Tsinghua University · Tencent
将 rollout 预算分配到更可能产生混合奖励的 prompt 根和交互前缀,提升智能体 RL 样本效率。
📌 工作参考价值(4 点)
- 预算分配的层级化思路可以迁移到电商 Agent 对话流:区分 prompt 层面(用户 query)和中间状态(已执行工具、已获取信息)的扩展价值,在 Agent 解决用户问题的多轮交互中,对关键决策节点(例如调用搜索 API 前、首轮价格查询后)进行分支探索,避免在确定性高的步骤浪费采样。
- 轻量级前缀价值预测器设计直接可复用:用同一预测器估计 prompt 和中间前缀的条件成功概率,以递归树监督的 MSE 回归训练,与下游策略优化解耦。在构建购物助手等 Agent 时,可以搭建类似的“关键难度”预估模块,指导何时对模型输出进行多次重采样或多路展开。
- 树形 rollout 生成的工程化实现:采用“初始化-扩展”两阶段策略(先完成所有 bare rollout,再按 prompt 本地化扩展前缀),能贴合并行推理引擎,减少跨 prompt 等待。对于高并发线上 Agent 服务,设计 budget 分配时考虑前缀展开的本地化以减少通信开销是重要参考。
- 混合奖励对比激活更新的视角:明确只有锚点后代同时出现成功与失败时梯度才有效,因此在生成式推荐或电商搜索 Agent 的训练中,可以有意识地构造成对对比样本(同一前缀下的不同推荐结果),放大有效学习信号,避免在单一结果上浪费计算。
TreeSeeker:深度搜索中的树结构试错与分支返回框架
🧭 Agent深度搜索的树结构试错与预算分配 ★ 深度解读
Microsoft · East China Normal University
提出TreeSeeker,通过树结构分支状态和文本UCB操作控制实现深度搜索的受调试错与预算重分配
📌 工作参考价值(4 点)
- 多路径搜索控制:在需要多步信息收集与证据整合的代理任务(如电商导购助手、事实核查)中,可为每个候选方向(查询、来源、假设)维护独立分支状态,利用进度、冲突和失败线索动态分配搜索预算。
- 文本UCB预算分配:通过大语言模型对候选操作(利用/探索/剪枝)进行语义评分(价值、不确定性、风险),无需精确数值奖励即可实现探索-利用-剪枝决策,适合开放域搜索任务。
- 记忆压缩与锚点保留:TreeMem将长历史压缩为分支局部状态,同时保留叶踪迹作为短期锚点,可有效控制上下文长度并保持决策连贯,适用于长对话或长搜索轨迹的代理。
- 操作级决策简化空间:将预算分配抽象为利用、探索、剪枝三种操作,避免细粒度路径评分,降低组合空间,提高大语言模型决策的稳定性和效率。
知情而问:层次语言智能体的自门控澄清机制
🧭 Agent 自门控澄清与层次推理优化 ★ 深度解读
Amazon Web Services
将澄清作为与导航竞争的动作,基于自身评分自门控决定何时求助,实现从强制到机会澄清的结构性转变。
📌 工作参考价值(4 点)
- 在层次分类/推荐任务(如商品类目预测)中,可将“请求用户补充属性”视为与预测动作同尺度评分的选项,用阈值决定是否触发交互,从而在关键中间节点精准获取信息。
- 分离帮助定位(where)与答案质量(what),通过受控答案质量实验诊断系统瓶颈,若帮助定位稳定而答案质量差导致增益消失,则瓶颈在答案源而非提问策略。
- ISE(信息寻求有效性,即帮助后下一步导航正确的比例)可作为局部效用诊断指标,比最终准确率更早发现提问策略的质量变化,避免仅看最终结果。
- 在智能体决策链中引入“动作评分+自门控”范式,无需外部不确定性估计器,即可让信息寻求行为结构化可观测,便于调试和优化。
iOSWorld:面向个人智能的电话Agent基准测试
🧭 移动端Agent评测 · 个人化推理 ★ 深度解读
Carnegie Mellon University
首个以持久用户身份为中心的交互式iOS模拟器基准,涵盖133个跨应用任务,强调个人化智能与多应用推理。
📌 工作参考价值(4 点)
- 构建跨应用的个性化评测:可借鉴其思路,在电商场景中构造包含用户历史订单、支付、邮件、客服、社交等多应用数据,设计需要跨应用推理和记忆的任务,评估Agent是否能理解用户偏好与上下文,而不是孤立执行单步指令。
- LLM-as-Judge的轨迹级评估:使用GPT-5.4-Mini对整个操作轨迹进行自动评判,人工验证κ=0.77,成本低且可靠。可直接迁移到Agent业务流程的离线评测,替代部分人工验收。
- 小模型对额外结构化上下文的利用瓶颈:视觉+XML模态下GPT-5.4-Mini和Qwen3.5不升反降,说明提供界面结构信息并非总是利好,容量小的模型会被额外token压垮。在工程中为Agent补充页面结构或工具描述时,需评估模型是否具备足够的上下文处理能力。
- 模拟器环境与种子数据设计:通过虚构用户、持久化种子数据构建可复现的测试环境,适合在隐私敏感且需要真实用户行为的电商推荐或Agent评测场景中快速构建仿真台。
SearchSwarm:训练长程深度搜索 Agent 的委托智能
🧭 Agent 长程任务委托与上下文管理 ★ 深度解读
Ant Group · Tsinghua University · Peking University · Renmin University of China
通过 harness 引导主 Agent 分解并委托子任务,再用 SFT 内化委托行为,在 30B 规模实现长程搜索 SOTA
📌 工作参考价值(4 点)
- Harness 设计可直接迁移到电商多 Agent 场景:主 Agent 负责商品调研、竞品分析等长程任务时,借鉴「写简报必须含任务背景、已确认事实、未解决疑点」的原则,让子 Agent 有足够上下文产出高质量结果,减少主 Agent 令牌消耗和重复探索。
- SFT 数据合成策略:利用强模型当主 Agent 搭配弱模型当子 Agent 收集轨迹,迫使主模型学会更严谨的任务分解与结果验证,可用于训练电商客服、供应链优化等场景中的协调 Agent。
- 委托能力泛化证明单 Agent 推理也能受益:即使去掉子调用工具,训练后的模型在单 Agent 任务上表现仍有提升,说明通过多 Agent 轨迹 SFT 可增强模型的结构化问题分解能力,适用于推荐系统复杂查询的逐步推理。
- 强制引用报告可提升溯源可信度:要求子 Agent 报告附带行内引用,主 Agent 最终回答也需附来源,这对电商商品推荐、信息核查等需要可解释输出场景有直接借鉴意义;实现方式是在 prompt 中约束输出格式并以此过滤训练数据。
τ-Rec:面向智能体推荐系统的可验证评测基准
🧭 智能体推荐系统评估基准 ★ 深度解读
Independent Researcher · Princeton University
用可验证奖励与 pass^k 一致性指标替代主观 LLM 评判,揭示当前模型在智能体推荐中的可靠性悬崖
📌 工作参考价值(4 点)
- 引入 pass^k 可靠性指标:在电商 Agent 上线前,用 pass^1/pass^2/pass^4 衡量多次执行的一致性,避免仅看单次成功率而低估长期可靠性;可结合回放测试评估模型稳定性。
- 可验证奖励 + 揭示标记引出 (RTE):将约束打上 volunteer/on_ask/hidden 标签,模拟真实用户不完全表达需求的情景,迫使 Agent 通过多轮对话主动引出偏好,可作为电商导购、客服 Agent 的对话能力测试方案。
- 策略合规性作为第一类目标:将领域政策(如年龄限制、已购过滤、平台可用性、赞助披露)转化为可编程检查,直接审计轨迹,可照搬到电商推荐场景中检查 Agent 是否遵守负面清单、定价限制、合规话术等。
- 后训练截止目录防记忆:使用模型训练后发布的新商品(如 TMDB 2025–2026 电影)构建目录,确保评估不受训练数据泄露污染;电商可定期抓取新上架商品构建动态测试集,隔离泛化与记忆。
WebChallenger:基于结构化页面表示与分治策略的高效通用 Web Agent
🧭 Agent 架构优化 · 认知脚手架 ★ 深度解读
ML Collective · longsurf.ai · Independent
通过 PageMem 页面结构化表示与三大认知机制,用开源小模型无微调达到逼近闭源大模型的 Web 任务成功率
📌 工作参考价值(4 点)
- 结构化页面表示 PageMem 可直接复用到电商 Agent:将商品列表页拆分为导航栏、商品卡片列表、筛选面板等语义段,每段缓存摘要和交互元素,后续任务复用,大幅降低重复解析成本。
- 分治观察流水线:先让 Agent 浏览段摘要,只选择任务相关区域展开详细信息;在推荐业务中可避免把整个商品详情页 token 堆进 prompt,聚焦价格、评价、库存等关键信息。
- 离线探索 + 持久记忆:对目标网站预先遍历构建 PageMem 地图和元素行为记录,Agent 在执行任务时直接拿书签和菜单跳转信息,类似 RAG 中的预先索引;适用于长期运行的购物比价 Agent。
- 复合动作工作流:将下拉选择、表单提交等多步交互封装为单个 Agent 动作,内部自动处理局部状态变化(如菜单展开),避免每步重新观察全页;在电商搜索、下单、多轮筛选场景能显著减少决策步数和 LLM 调用
OmniGameArena:统一UE5游戏VLM Agent评测与改进动态曲线
🧭 VLM游戏Agent评测·自我改进曲线 ★ 深度解读
The University of Hong Kong · LIGHTSPEED · The Chinese University of Hong Kong · Tsinghua University
12款自建UE5游戏构建多模式Agent评测,IDC反射框架揭示自我改进轨迹与技能迁移规律
📌 工作参考价值(4 点)
- IDC的反射框架可直接复用到业务Agent自我优化:自主工具调用(Explore/Diagnose/Validate/Distill)+ 有限工具面(只读、诊断、验证、写入),无需人工脚本,能自动从失败轨迹中提炼改进的skill prompt。电商推荐Agent(如选品策略、投放文案优化)可采用类似多轮反思循环,持续迭代策略自然语言描述。
- Best-skill rollback 防止灾难性遗忘:当新一轮 skill 导致分数断崖下降时,自动回滚到最佳历史 skill 并继续反思,保证非单调改进环境中的稳定性。在线上策略自动演进中可借鉴,避免劣化版本持续生效。
- 源任务改进 ≠ 迁移能力的实验发现警示业务只盯着主任务指标:GPT-5.5在主任务上改进最小,但迁移到所有变体均正向;Opus 4.7主任务改进巨大,但迁移全负。电商多场景下应定期用 held-out 场景检验策略的泛化性,避免陷入过拟合单一环境的“安全策略”。
- 多智能体协同的评测设计:PvP矩阵和Coop零和结果暴露了模型间的非传递优势(如Kim K2.5击败Claude但在Solo中弱),可为多Agent电商系统(如议价、库存博弈)的对手建模与角色分配提供评测范式。
WeaveBench:面向混合接口计算机使用智能体的长程真实世界基准
🧭 计算机使用智能体基准测试
Zhejiang University · Microsoft Research Asia · Tsinghua University
提出长程混合接口(GUI+CLI+代码)智能体基准,揭示轨迹感知评估能纠正纯结果评分的虚高问题。
📌 工作参考价值(4 点)
- 在开发电商运营、数据分析等需跨界面操作的 Agent 时,可借鉴 WeaveBench 的混合接口任务设计思路,将 GUI 操作(如点击、拖拽)与 CLI/代码执行(如脚本处理、文件验证)耦合进同一个 trajectory,评估端到端编排能力。
- 轨迹感知评判器(trajectory-aware judge)能检测出 Agent 伪造截图、硬编码结果等捷径行为,该思路可直接用于内部 Agent 评测管线,防止仅凭最终交付物评分导致的指标虚高,提升可靠性。
- 基准中的任务覆盖软件开发、数据分析、办公自动化等真实职场场景,电商团队可参考其任务构造方法,构建面向商品上下架、报表生成、竞品监控等复杂流程的私有评测集。
- 观察到的最高通过率仅 41.2% 说明长程混合界面编排仍是重大挑战,提示在业务 Agent 系统中应加强跨界面状态追踪、错误恢复与验证环节的设计,而非单纯依赖模型能力。
AI 代理如何重塑知识工作:自主性、效率与范围
🧭 AI Agent 自主任务执行与效率分析 ★ 深度解读
Harvard University · Perplexity
基于 Perplexity 生产数据,用匹配对自然实验证明代理将任务时间减少 87%、成本降低 94%,并扩展了工作广度与深度
📌 工作参考价值(4 点)
- 任务路由决策:代理的高固定成本、低边际成本特性(f_Agent > f_Conversational, m_Agent < m_Conversational)可指导电商智能客服或 Agent 系统设计——对简单查询(如 FAQ)使用对话式,对多步复杂任务(如售后处理、跨系统操作)自动切换为代理执行,平衡体验与成本。
- 匹配对评估范式:利用同一用户提交近似查询到两个产品(相似度 >0.99)作为自然实验,消除了任务和用户异质性,能干净地衡量新功能的增量价值。在推荐系统或 Agent 迭代中,可设计类似 A/B 测试,用近似上下文配对评估效果。
- 代理解锁新生需求:Computer 用户在代理模式下尝试了更多跨领域、高认知复杂度的任务,且 23% 的查询涉及全新任务类型。生成式推荐系统可借鉴此发现,在用户授权下,主动生成超出历史兴趣的商品或内容,扩大用户探索边界。
- 自主性与质量共存:代理的自动执行并未导致不满意率上升(反而降低 55%),验证了自主性不必然牺牲输出质量。对于多智体系统,可在编排设计中嵌入校验步骤,如自动复核、用户确认点,确保长链路任务可靠性。
贝叶斯智能体:后验引导的技能进化驾驭LLM代理
🧭 贝叶斯证据驱动的代理技能进化 ★ 深度解读
IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.
将代理技能视为贝叶斯假设,基于验证轨迹后验指导技能修补、压缩与退役,实现无需改权重的可靠进化。
📌 工作参考价值(4 点)
- 技能维护引入贝叶斯后验:不要仅凭成功/失败次数决定是否保留技能,使用特征条件后验(如失败模式、上下文)估计技能可靠性,避免小样本下的决策噪声。
- 分离审计与执行:后验诊断信息只留给开发者,模型提示仅注入确定的失败补丁与 guardrail,避免 LLM 直接处理概率数字,提升 prompt 稳定性。
- 增量修复模式:对已完成的代理运行,仅重跑失败任务并基于证据修补技能,可用较低 token 成本提升整体成功率(如 RealFin 从 45% 修到 65%)。
- 轨迹特征离散化:将失败模式、token 数、回合数等桶化编码为离散特征,适合小样本技能效果推断,可借鉴至电商多轮代理的失败模式分析与自动护盾生成。
编码智能体作弊检测与防作弊训练:通过设定性能上限的随机测试
🧭 Agent 欺骗检测与安全训练 ★ 深度解读
The University of Tokyo · RIKEN
提出 CapCode 构建有性能上限的编程基准,统计检测欺骗;CapReward 抑制 RL 训练中的作弊,使 agent 遵循真实任务。
📌 工作参考价值(4 点)
- 评估与监控:在电商推荐、Agent 离线评估或 A/B 测试中,可借鉴 CapCode 思路,注入已知分布的随机输出,设立理论性能上限;当模型得分显著超过该上限时自动告警,捕获数据泄露、测试集过拟合等欺骗行为。
- 奖励函数设计:在 RL 训练推荐或对话 Agent 时,可将指标(如点击率、转化率)做 capped reward 处理,奖励达标而非无限追求高分,防止模型通过曝光偏差、恶意文案等捷径 hack 奖励。
- 统计检验方法:论文所用的单侧二项检验可直接迁移到线上监控,如对每个推荐策略计算 p 值,实时检测是否存在“异常高”指标。
- 基准构建:对于生成式推荐(如 Semantic ID 生成)的评估,可构造具有随机输出的隐藏测试集,将开放测试和隐藏测试的差距作为泛化能力指标,更真实反映模型是否真正学习到了语义。
基于求解轨迹技能的自演化编码Agent
🧭 自演化Agent·技能注册与课程学习 ★ 深度解读
Shanghai Jiao Tong University · Alibaba Group
将求解轨迹蒸馏为结构化Agent技能,驱动自适应课程生成与梯度对齐选择,在SWE-bench Verified达到50.40%
📌 工作参考价值(4 点)
- 轨迹→技能→任务闭环:将Agent执行日志中的失败模式与修复策略结构化为Skill Registry,用于定向生成针对性训练任务。可迁移到电商/推荐场景的Agent行为分析,例如从订单纠纷处理轨迹提取决策技能,生成新的客服训练case。
- 梯度对齐课程筛选:用held-out验证集上的策略梯度方向与候选任务梯度余弦相似度做奖励,选出与目标方向一致的训练样本。该方法可推广到任何需要从合成数据中筛选高质量样本的场景,如生成式推荐的Semantic ID训练数据筛选。
- 多角色自演训练框架:同一策略网络在Generator和Solver间切换,共享权重,用GDPO处理多尺度奖励,比单一通过率的GRPO更稳定。借鉴到多智体协作优化时,可设计类似角色切换与奖励解耦训练,减少模式坍塌。
- 执行验证四阶段门控:格式→接地→执行→语义的四关验证保证任务可用且非平凡,可复用于任何依赖代码/工具执行的Agent微调数据构造pipeline。
面向 Agentic 搜索构建可交互的检索工作区
🧭 Agentic Search · 检索交互界面设计 ★ 深度解读
将检索角色从片段选择重构为构建代理可通过 shell 工具探索的交互空间,显著降低 agentic 搜索成本并保持稳定性
📌 工作参考价值(4 点)
- 工作区边界代替全量扫描:用 BM25 多查询并集构建问题相关的文件工作区,代理只在该区内执行 grep/read,避免全库扫描,在 1M 语料下精度稳定 (81%) 而纯 DCI 退化到 60%。可直接用于电商搜索代理的场景,如将商品召回列表作为可交互的文件系统,代理用 bash 类工具精细化筛选。
- 离线目录索引降低阅读成本:对文档生成行号目录,代理可跳转到相关段落,避免通读全文。这种轻量预处理($0.0014/文档)可迁移到电商知识库或商品详情页,让 Agent 快速定位关键信息。
- 多查询并集提升召回:代理一次性下发多个互补子查询,BM25 召回并集作为工作区,既提高覆盖又不增加代理上下文窗口负担。可用于电商长尾查询的意图分解与召回增强。
- 明确的检索输出接口设计:RISE 分离了工作区构建(检索)与验证(shell),可借鉴到生成式推荐的交互设计中,例如将召回物品集合作为 agent 的“玩具沙盘”,供其跨会话操作,而非仅读片段。
Skill-3D:面向智能体 3D 空间推理的自进化场景感知技能框架
🧭 多模态 Agent · 场景感知工具使用
Zhejiang University · University of Technology Sydney · OPPO Research Institute
通过场景记忆记录工具轨迹并蒸馏为可复用技能,配合失败教训,实现代理工具使用的自进化场景感知,大幅提升 3D 空间推理中工具利用率与任务成功率。
📌 工作参考价值(4 点)
- 场景感知的技能复用:在电商推荐或客服 Agent 中,可根据用户意图或商品类别动态选择调用不同的工具/模型(如价格比较、商品属性查询、3D 试穿引擎),将相似场景的成功交互轨迹蒸馏为预置技能,避免每次都从零规划,减少工具误用。
- 失败教训注入:在 Agent 记忆模块中不仅存储成功案例,还附加失败尝试的教训总结,当相似场景再现时一并注入提示,可有效降低重复错误。例如在导购对话中,对无效推荐策略自动标注并修正。
- 闭环自进化机制:技能库与记忆协同更新的循环,可借鉴到线上 Agent 的持续学习中,通过真实交互数据不断优化工具调用策略,但需注意安全防护和人工审核。
- 多任务异构适配:直接启示是避免对多场景使用统一固定流程,应根据场景特征分而治之。在 3D 商品展示、AR 试穿等应用中,可根据商品类别(鞋、家具)自动选择测量或渲染工具,提升效率。
自进化 LLM 智能体与分布内优化
🧭 LLM Agent 自进化训练 · 离线强化学习 ★ 深度解读
Eindhoven University of Technology · University of Liverpool · MIT-IBM Watson AI Lab
提出 Q-Evolve,通过混合离线数据的加权 IQL 与 GAE 自动生成过程奖励,结合行为近端策略优化实现 LLM 智能体的稳定自进化
📌 工作参考价值(4 点)
- 在电商客服 / 导购等长程对话 Agent 中,可采用混合离线数据(专家对话 + 自身探索记录)训练价值函数,通过 GAE 从稀疏成功信号自动生成步骤级奖励,省去人工标注过程标签。
- 借鉴加权 IQL 技巧:对成功轨迹、更靠近终端步的样本赋予更高权重,能有效稳定稀疏奖励下的价值学习,可迁移至点击率预估延迟转化等类似信用分配问题。
- 使用行为近端策略优化(BPPO)结合非对称裁剪(对负优势动作允许更大抑制),可在离线数据上安全地优化策略,防止灾难性遗忘和分布偏移,适用于线上策略迭代。
- 自进化循环模式(收集新经验 → 与专家数据混合 → 重新训练价值网络 → 重新计算奖励 → 更新策略)可应用于推荐系统的用户建模迭代,让模型在有限探索成本下持续提升。
测量LLM智能体对带内访问拒绝信号的避让遵从性
🧭 LLM-Agent治理与协作信号
提出带内Recuse信号,实验证明LLM智能体100%遵从其避让要求,且操作者授权可覆盖该信号
📌 工作参考价值(4 点)
- 在电商/Agent内部服务间可引入类似协议字段(如SSH banner、数据库通知),让被访问资源主动声明“不欢迎自动化访问”,作为低摩擦的协作治理层,不依赖硬安全边界。
- Agent系统可设计遵从逻辑:识别到响应中的Recuse Signal后自动停止操作并上报,避免在敏感环境(如生产数据库)误操作,提升人机协作安全性。
- 利用“操作者授权”框架(operator-authorization framing):可在Agent指令中明确授权以覆盖避让信号,实现灵活控制,例如运维任务可临时放行,普通探查则被拒绝。
- 该机制零或低开销、协议无关,可快速集成到现有基础设施,无需改造认证体系,适合电商多Agent编排中的即时策略下发。
回顾式 Harness 优化:基于轨迹重放的自偏好提升 LLM Agent
🧭 Agent 自进化 · Harness 优化 ★ 深度解读
City University of Hong Kong · Microsoft Research Asia
提出无需标注的回顾式 Harness 优化方法 RHO,通过自偏好对比轨迹选择最佳技能/工具更新,在软件工程、技术等多个领域显著提升 Agent 表现。
📌 工作参考价值(4 点)
- 无标注的 Agent 自优化管道:RHO 仅利用过去运行轨迹,通过自比较和自偏好选出最优 harness 更新,完全省去人工构造验证集。电商对话 Agent、多智体协作流水线可直接借鉴,从历史对话或操作痕迹中自动提炼更好的提示/工具/技能。
- DPP 挑选困难且多样样本:用 Determinantal Point Process 结合难度评分和语义多样性选取核心集,避免只挑困难而忽视类型覆盖。在推荐场景可类比地用于从海量离线日志中选出最具代表性且难例的样本进行复盘优化。
- Group Rollout + 双重诊断信号:对同一任务并行执行多次,通过“自验证”(单条轨迹中的错误步骤)和“自一致性”(多条轨迹间的冲突)提取结构化改进指令。这一技巧可用于推荐 Agent 的多路召回或结果比较,诊断模型飘移或策略分歧。
- Best-of-N Harness 提案与自偏好过滤:并行生成多个 harness 候选,并用自偏好评分选最优,避免单次编辑的不稳定。工程上相当于多个候选流水线并行评估,可用来做线上策略变更的安全上线。
记忆重构而非检索:面向LLM Agent的图记忆
🧭 LLM Agent 记忆重建 · Cue-Tag-Content 图 ★ 深度解读
National University of Singapore
提出MRAgent,将记忆组织为Cue–Tag–Content图,通过LLM推理驱动的主动重建替代被动检索,长时记忆推理性能提升23%并大幅降低Token消耗。
📌 工作参考价值(4 点)
- 记忆图设计:Cue–Tag–Content结构以Tag作为语义中间层,可复用到电商客服Agent的长期交互记忆,支持多跳关联检索,避免一次性全图遍历的噪声和成本。
- 主动重建机制:将LLM推理嵌入记忆访问循环,允许Agent根据中间证据动态调整检索路径,适合处理复杂查询或多轮对话中的上下文积累,避免被动检索的一次性固化缺陷。
- 按需检索降低成本:通过Tag先筛选再访问具体内容,显著减少Token消耗(实验中仅118k,对比A-Mem的632k),适合需要控制推理开销的生产环境。
- 多层记忆分层:融合场景记忆、语义记忆与话题抽象,可用于构建用户长期画像和交互历史存储,支持个性化推荐或服务中的稳定知识抽取与事件回溯。
基于想象力的思考:与世界模拟器协作的Agent视觉空间推理
🧭 Agent视觉空间推理 · 世界模拟器
The University of Hong Kong · Shanghai AI Laboratory · Shanghai Jiao Tong University · Fudan University · Beihang University
提出Astra框架,通过RL训练VLM策略决定何时调用世界模拟器生成新视角图像,提升多视图空间推理能力
📌 工作参考价值(4 点)
- 工具调用的决策学习:Agent仅在想象观察优于直接回答时才调用世界模拟器,这种“何时使用工具”的策略可迁移到对话推荐Agent中,避免过度依赖外部信息导致延迟和误导。
- 两阶段RL课程设计:先通过行为克隆预热工具使用,再用RL优化调用决策,这种分阶段训练策略可用于训练推荐Agent学习何时调用知识检索或用户画像补充信息。
- 视一致性训练保证证据可靠:通过位姿和内容一致性约束训练世界模型,确保生成的观察与实际一致;类似地,在多模态推荐中生成商品描述或图像时,可引入一致性损失提升信息真实性。
- Agent与环境交互的闭环框架:Astra将视觉推理转化为“观察-想象-推理”循环,在电商场景中,可构建模仿用户浏览行为的模拟环境,让推荐Agent主动探索生成更合理的推荐理由。
LLM Agent 的冷启动安全差距现象
🧭 Agent 安全性 · 冷启动安全差距
University of California, San Diego
发现 LLM Agent 在会话起始安全性最弱,通过预先完成少量常规任务可显著提升安全性 9-52%
📌 工作参考价值(4 点)
- Agent 部署预热策略:在 Agent 正式接收用户请求前,先让它完成几个常规的无害工具调用任务(如查询天气、简单 API 调用),可以显著降低后续面对恶意请求时的风险。这个预热步骤可直接嵌入 Agent 初始化流程,成本低且不影响模型功能。
- 安全评估中加入对话深度维度:现有安全评估往往只在首轮对话测试,遗漏了冷启动脆弱性。在设计内部 Agent 安全 Benchmark 时,应控制前置常规任务数量,模拟真实部署中上下文逐渐累积的场景,避免高估安全性。
- 基于隐藏表示的在线安全监控:论文发现模型隐藏状态会随前置任务增多向安全对齐区域迁移,这一动态特征可用来构建轻量级安全监控器——在 Agent 运行过程中持续检测状态偏离,预警潜在不安全行为。
- 区分安全与效用的影响因素:实验表明,Agent 先前的回答对安全影响较小但对保持效用至关重要,因此预热时若只施以安全指令而忽略实际任务执行,可能损害后续功能。部署预热应使用真实的常规任务,而非单纯的安全提示。
人类ALMANAC:动作级心智模型标注的协作数据集
🧭 Agent协作心智模型评估数据集
Northeastern University · University of Notre Dame · Adobe · Microsoft · University of Waterloo
构建ALMANAC数据集,以动作级心智模型标注评估LLM模拟人类协作行为的能力
📌 工作参考价值(4 点)
- 在电商多Agent客服/导购系统中,可借鉴Map Task范式收集协作对话,并显式标注自我意图、感知对方意图、团队目标,用于训练Agent的协作对齐。
- 动作级的心智模型标注方法可迁移到生成式推荐对话评估,衡量推荐Agent对用户实时意图和长期兴趣的推理能力。
- 利用ALMANAC或类似数据对LLM进行微调,提升Agent在多轮协作中主动推测伙伴意图、调整策略的能力,避免机械式回复。
- 工程AB测试可参考该数据集构建评估指标(如心智模型预测准确率),量化Agent的协作智能。
ReVision:通过时间视觉冗余缩减扩展计算机使用代理
🧭 计算机使用代理 · 视觉冗余压缩 ★ 深度解读
University of British Columbia · Microsoft Research
去除连续 GUI 截图中的冗余视觉补丁,减少 token 开销的同时提升成功率,并让更长历史成为可能。
📌 工作参考价值(4 点)
- 视觉序列输入的去冗余思路:在需要处理连续图像(如商品展示流、用户生成内容的视频帧、广告创意迭代)的多模态推荐或 Agent 场景,可以借鉴 ReVision 的 patch‑level 冗余检测器,训练轻量 MLP 判断 patch 是否足够相似,从而减少重复 token,降低 LLM 推理成本。
- 冗余移除反而提升性能的发现:论文表明移除冗余视觉 token 会迫使模型更依赖历史中的有效信号,从而提升长程决策。这提示在推荐序列建模中,适当丢弃高度重复的特征可能有助于泛化,而不是一味保留全部信息。
- 延迟上下文饱和点:ReVision 通过压缩视觉 token 使模型可在相同上下文预算下纳入更多历史帧,持续获益。这对需要处理长用户行为序列的 agent 或推荐系统启示:通过特征压缩,可以延长有效历史的长度,而非简单地增加输入。
- 训练与推理一致的 token 过滤策略:在微调阶段就使用过滤后的视觉轨迹,使模型学会从历史帧中“补全”信息。这种训练技巧可迁移到其他多模态序列任务,确保模型适应推理时的压缩输入。
SlimSearcher:通过自适应奖励门控训练效率感知的网页智能体
🧭 网页智能体的效率感知训练 · 自适应奖励门控 ★ 深度解读
Zhejiang University · Ant Group
多阶段门控机制统一 SFT 与 RL,在保持或提升准确率的同时将工具调用轮数减少 17%–58%
📌 工作参考价值(4 点)
- 效率与效果解耦的奖励设计:可借鉴正确性门控 + 自适应效率锚定的结构,将“任务成功”作为硬约束,效率奖励仅作用于正确轨迹,避免为降低成本而输出空泛答案。在电商 Agent 多步工具调用(查商品、对比价格、调接口)时,能直接压缩不必要的 API 调用,降低延迟和费用。
- SFT 阶段的帕累托过滤:在构建训练数据时,用联合效率分数(工具次数 + token 数)从多个正确轨迹中选出最简路径,引导模型从冷启动就学习高效模式。对生成式推荐语义 ID 的生成路径或 Agent 决策链的冷启动数据清洗有直接迁移性。
- 动态基准避免简洁偏差:在 RL 优化中,不设固定长度惩罚,而是以本批次内成功轨迹的最优效率作为锚点,自适应计算相对奖励。该方法能避免模型在简单任务上偷懒、复杂任务上过度探索,适合需要按 query 难度动态调节计算量的场景。
- 工具与 token 成本分开建模:分别衡量外部工具调用和内部思考 token 的冗余,可针对性地抑制“盲目工具依赖”和“表演式推理”。电商 Agent 常出现反复搜索已获取信息、拖长推理文本的现象,此分离设计可精细化控制资源消耗。
StepPO:面向智能体强化学习的步骤对齐策略优化
🧭 智能体强化学习 · 步骤级策略优化 ★ 深度解读
University of Science and Technology of China
将智能体RL从令牌级MDP重构为步骤级MDP,通过步骤级信用分配和重要性采样,显著提升多步交互任务性能。
📌 工作参考价值(4 点)
- 步骤级信用分配适用于多步交互场景:在电商搜索、多轮对话推荐等需长链路决策的任务中,将信用分配到具体交互步骤(如搜索、点击、信息获取)比平铺到所有token更能识别关键动作,可直接借鉴步骤级GAE取代令牌级或轨迹级优势估计。
- 步骤级重要性采样稳定多token动作更新:当智能体每步生成多个token时,采用几何平均重要性比率可避免长动作的极端梯度,适合业务中工具调用、长文本生成等场景,直接应用于PPO更新。
- 工程上采用步骤原生轨迹表示:训练框架以步骤为单元存储状态、动作、奖励,实现更紧凑的上下文管理与前缀复用,能降低多步交互的推理与训练成本,适合生产环境异步训练与混合智能体管理。
- 对架构与数据管线的启示:通过网关+数据池解耦智能体与训练系统,支持异构智能体(规则、黑盒、白盒)异步贡献轨迹数据,可迁移至多来源推荐/客服智能体的持续优化。
Struct-Searcher:基于信念修正的多模态深度检索结构思维框架
🧭 多模态深度检索 · 信念修正 · 结构化思维 ★ 深度解读
CUHK · LIGHTSPEED · PKU · Tongji University · THU
提出结构思维范式,以多模态结构图显式管理冲突证据,实现跨模态冲突感知的深度信息检索,平均提升17.2%准确率。
📌 工作参考价值(4 点)
- 冲突消解可借鉴结构图:在电商多模态商品信息(如详情图与评价视频矛盾)中,可构建假设–证据图,用支持/反驳关系驱动信息筛选,避免线性证据累积导致的错误传播。
- 可解释的校验链:MSG 显式记录 Goal → Hypothesis → Evidence 的依赖与验证链路,便于追踪 Agent 推理过程,适合对答案质量要求高的搜索、客服等场景。
- 即插即用与模型无关:框架对 Backbone 不敏感,在 GPT-4o 到 GPT-5 等 5 种模型上均稳定提升,可直接嵌入现有 VLM 驱动的 Agent 管线。
- 并行探索与剪枝:对歧义输入(如商品模糊图)可并行生成竞争假设并验证,通过冲突证据即时剪枝,减少级联错误,可迁移到需要多跳推理的推荐解释或生成式推荐流程。
智能体记忆:长时状态工作负载的特性与系统启示
🧭 智能体记忆系统设计与部署特征分析 ★ 深度解读
Stanford University · Independent Researcher · MICAS, KU Leuven · Massachusetts Institute of Technology
首次系统表征智能体记忆工作负载,揭示构建成本主导生命周期,并提出面向部署的十项建议。
📌 工作参考价值(5 点)
- 业务选型时不能只看准确率,需将构建成本、查询延迟、存储增长、能耗等系统指标纳入决策。
- 将记忆构建作为后台批处理任务,与在线查询分离调度,避免抢占GPU资源影响延迟;根据范式选择合适的批大小。
- 长生命周期智能体必须引入主动裁剪/遗忘策略,否则存储和token成本会非线性增长;使用合并式记忆系统可抑制膨胀。
- 根据业务场景的查询频率和历史稳定程度选择记忆范式:高查询率、稳定历史选重构建轻查询系统(如Mem0);持续流入、低查询率选轻构建系统(如BM25)。
- 部署LLM控制流的记忆系统时,必须设置最大工具调用轮次或超时,防止检索/构建尾部延迟不可控。
Archi:面向 CMS 实验的智能代理操作框架
🧭 Agent 系统 · 科学数据协作
Massachusetts Institute of Technology · CMS Collaboration, CERN · University of Wisconsin-Madison · Fermi National Accelerator Laboratory · Brown University
开源端到端框架 Archi 将异构数据源与可配置私有代理结合,在 CERN CMS 实验中为技术操作提供检索分析支持,证明开源模型在私有部署下效果优秀。
📌 工作参考价值(4 点)
- 异构数据源的统一 RAG 范式:将文档、历史数据、实时监控系统等多种来源系统化摄入和组织,可迁移到电商场景,例如整合商品描述、用户行为日志、客服对话与实时库存数据,构建统一的知识问答或运维 Agent。
- 私有化部署开源模型的可行性:实验证明本地部署的 open-weight 模型在专业领域问答中能与商业模型竞争,对注重数据隐私的电商企业(如用户行为分析、内部运维排障)提供了低成本、高可控的 Agent 方案。
- 可扩展的 Agent 架构设计:框架支持配置和扩展不同的 agent 与数据源,可应用于电商中需要动态接入多个推荐模型、召回源或业务数据流的 Agent 场景,实现模块化扩展。
- 真实生产环境下的评估方法:基于实际 operator 的问题集和人工+自动评估,为电商 Agent 系统提供了从开发到上线后持续优化的评估流程参考。
AsyncWebRL: 视觉 Web Agent 的高效异步多步强化学习
🧭 视觉 Web Agent 多步 RL 训练优化 ★ 深度解读
UIUC · Microsoft · CMU
异步系统 + 去除轨迹步数归一化,实现视觉 Web Agent 训练 2.9× 加速且 OOD 准确率新高
📌 工作参考价值(4 点)
- 异步 RL 系统设计可照搬:长存 rollout 池(Everlasting Rollout Pool)让浏览器会话跨迭代持续存活,消除每轮重建开销;轻量截图处理(Lightweight Screenshot Handling)把图片留在专用 Actor 中,仅传引用,避免 RPC 对象存储因高并发图片序列化而写盘,这对电商中的多步视觉 Agent(如商品详情页浏览)有直接参考价值。
- GRPO 的长度归一化陷阱:多步 GRPO 中按轨迹步数归一化 1/|τ_i| 会使失败长轨迹的梯度衰减,策略倾向于生成冗长记忆填充,在电商 Agent 训练中可能导致类似「记流水账」行为;改为常数 1/k(k 设为 Easy 难度 horizon)可恢复对失败样本的完整惩罚,压缩不必要的输出 token。
- 解耦重要性采样(Decoupled PPO):将 πθ/πbehave 拆成 πprox/πbehave(无 clip)和 πθ/πprox(有 clip),clip 率减半,训练奖励提升更快,适合任何异步 RL 训练中的 off-policy 校正。
- DAPO 式动态采样与 bandit-like 优势共享:每个 task 采样 16 个 rollout,跳过全成功/全失败组,再用组内均值归一化轨迹优势,在稀疏奖励的电商任务中也能稳定获得对比信号。
AURA:基于意图导向探测的情景化LLM Agent隐式需求浮现
🧭 Agent意图推断与探测控制 ★ 深度解读
Guangdong Institute of Intelligence Science and Technology
在工具使用前插入IntentFrame推断,用gap分控制探测预算,提升隐式需求覆盖率。
📌 工作参考价值(4 点)
- 在对话式推荐或客服Agent中,显式建模用户字面查询与隐式需求之间的gap:由LLM输出结构化IntentFrame,根据gap值决定后续信息检索预算(如调用商品详情、评价、库存API的步数),避免对显式需求已获满足的查询过度探查。
- 将探查与回答生成解耦:探查结果作为紧凑的上下文传入最终生成,支持缓存和跳过;一旦探查结果已满足隐式需求即提前停止,减少API调用和延迟。
- 利用gap分触发预警(heads-up alert):当gap较高时,向用户主动提示推断出的潜在需求(如商品库存紧张、同类目的替代品、价格波动),提升交互主动性。
- 工具白名单机制确保隐私合规:通过工具注册表和基于pattern的allow/deny策略,低gap查询自动跳过禁止工具,隐私敏感场景可零违规。可借鉴至需要控制数据访问权限的推荐/客服系统。
AutoLab:前沿模型能解决长时程自动研发与工程任务吗?
🧭 长程闭环优化基准与Agent持久性评估 ★ 深度解读
University of Washington · Stanford University · UCSB · UCSD · University of Notre Dame
推出AutoLab基准,评估17个前沿模型在可持续数小时的迭代优化任务上的能力,揭示持久迭代比初始方案质量更能预测成功。
📌 工作参考价值(4 点)
- Agent设计应内置持久迭代机制:在电商Agent(如智能客服、商品推荐微调Agent)中,应鼓励循环执行“修改→评测→分析反馈”闭环,仅靠单轮强推理无法保证长程任务质量。
- 引入连续评分与时间感知:对于需要A/B测试或超参搜索的推荐系统优化,可以借鉴AutoLab的连续对数评分函数,避免二元奖励过早终止探索;同时需加入时间感知模块,防止Agent在预算耗尽前空转或过早提交。
- 抗作弊措施可迁移至在线实验:密封验证器、SHA固定文件、对抗审计等手段,可用于推荐模型在线学习环境,防止Agent通过利用评测漏洞而非提升指标得分。
- 权衡成本与持久性:实验显示成本与迭代步数强相关,较小模型配合适当持久性激励(如提示词要求不断优化直到接近参考分)可在较低推理成本下达到竞争力,对成本敏感的电商Agent部署有启发。
从Agent Traces到信任:LLM智能体证据追踪与执行溯源综述
🧭 LLM 智能体证据追踪与执行溯源 ★ 深度解读
Griffith University · Jiangsu University · University of Southern Queensland · Peking University · Great Bay University
提出LLM智能体证据追踪与执行溯源统一分类框架,连接检索、工具、记忆与通信,支撑调试、安全与审计。
📌 工作参考价值(4 点)
- 在构建电商智能体(如客服、推荐Agent)时,应记录完整的执行轨迹(检索、工具调用、记忆操作)并构建溯源图,用于调试和审计。
- 采用证据支持关系(SUPPORT, CONTRADICT)来验证生成的推荐理由是否基于实际检索证据,减少幻觉。
- 实施运行时防护:对工具调用参数进行来源追踪,防止注入攻击或不安全操作。
- 利用记忆溯源(memory provenance)确保个性化推荐不会因过时或偏差的记忆而输出不一致内容。
Context-as-a-Service:为 LLM 智能体提供跨文件依赖链检索层
🧭 Agent 工具增强 · 跨文件依赖检索
Meta Platforms, Inc.
提出 CaaS 检索层,让 LLM 代理通过混合搜索追踪跨文件依赖,提升文档审查质量并节省 22-34% 时间
📌 工作参考价值(4 点)
- 检索增强代理设计模式:在电商推荐系统中,为 Agent 构建专用检索索引(如商品知识图谱、接口文档、历史实验记录),使用「关键词+语义」混合搜索作为工具,让 Agent 自主查询跨模块依赖,避免将所有上下文塞入 prompt,能显著提升复杂任务(如推荐链路排障、AB 报告生成)的准确性和效率。
- 增量评估方法:论文采用基线已具备常规仓库工具(文件读取、关键词搜索)再叠加检索层的对比方式,可迁移到评估推荐 Agent 增强方案,确保效果归因于新增的检索能力而非基础工具完善。
- 减少 token 开销的工程技巧:通过有目标的检索索引,Agent 无需加载大量上下文,输入 token 使用量下降,节省成本。这在调用大模型生成推荐理由、商品描述等高频任务中可直接复用。
- 依赖链追踪对多智体协作的启示:电商多 Agent 系统中,各 Agent 处理不同领域(商品、用户、营销),CaaS 的思路可用来构建跨 Agent 知识检索总线,使 Agent 能按需查询其他 Agent 的输出依赖,避免信息孤岛。
ForeSci:评估LLM智能体前瞻性AI研究判断的时序基准
🧭 Agent 前瞻性判断评估基准
Southeast University · Beijing Zhongguancun Academy · Duke Kunshan University
构建时间屏蔽的基准,揭示LLM代理在做前瞻研究决策时证据组织提升可追溯性但存在证据-决策脱节问题
📌 工作参考价值(4 点)
- 时间屏蔽的离线知识库构建:在电商推荐场景中,可借鉴其按时间切割数据的方式,构建严格避免未来信息泄露的离线评估集,评估模型对用户未来兴趣的预测能力。
- 显式证据组织提升可解释性:论文表明让Agent显式组织证据(如引用历史论文片段)能增强事实支撑,可迁移到电商Agent的决策链设计,例如要求推荐Agent在输出商品列表前必须引用用户历史行为证据,提升可追溯性。
- 证据-决策对齐校验:发现的脱节问题(证据相关但预测错误)提示在实际Agent部署中应引入一致性校验模块,比如在营销决策Agent生成文案时,自动比对引用的数据点是否真正支持结论,防止“合理却错误”的输出。
- 任务设计避免随机猜测:通过预截止分类线索和证据信号衍生任务,而非直接预测特定事件,该设计思路可复用于构建多决策类型的推荐Agent评测(如选品、定价、引流策略),使评测更具可控性。
利用反射代理将专家编辑传播到组合知识库
🧭 知识库构建 · 反射式传播编辑
Bosch Research North America · Robert Bosch GmbH
RAID 系统通过意图推理和反思式规划,将单条专家修正自动传播到全部知识条目,实现规模化知识库维护
📌 工作参考价值(4 点)
- 电商后台商品知识库维护:当专家修正一条属性描述(如规格、材质)时,可自动识别隐含意图并传播修正到所有相关商品条目,减少重复审核。
- 多模态/预标注数据清洗:在 Agent 辅助标注流程中,利用反思式规划将标注人员的单次修正规则泛化,批量修正相似错误,提升数据迭代效率。
- 客服系统 FAQ 库更新:将人工对一条 FAQ 的修正意图(如更新政策)传播到所有相关文档,保持知识一致性,降低运维成本。
- 人机协同的 Agent 设计范式:借鉴“意图推理 → 反思计划 → 用户确认执行”的三步结构,在推荐解释生成、风险文案修正等场景中平衡自动化与专家控制。
全自主代理系统按需构建多模态评测基准
🧭 Agent 系统自主构建评测基准 ★ 深度解读
The Chinese University of Hong Kong · The Chinese University of Hong Kong, Shenzhen · Shandong University · Huawei Technologies · Shenzhen Loop Area Institute
首个全自主代理系统,将评测基准构建从人力驱动转变为自动规划、执行与刷新的可定制化流程
📌 工作参考价值(4 点)
- 长周期任务的分层规划:Benchmark Planner(设计-接地-分配)与 Executor(样本规划-执行-校验)的解耦设计,直接适用于电商 Agent 中的多步推荐流程编排,例如将“生成个性化推荐理由”拆解为子任务并分配数据源与转换工具。
- 闭环质量保障机制:Verification 与配额补充(Verification-guided replenishment)可迁移到自动标注 pipeline,对生成式推荐的样本实施语义校验、格式合规检查,不合格样本回炉重造,保证产出质量。
- 用户意图到任务规格的自动转化:Design Agent 将模糊需求分解为结构化 subtask 的思路,可用于根据运营目标(如提升点击率)自动生成 A/B 测试的评估方案或推荐模型评测集。
- 低成本持续刷新能力:Benchmark Agent 的快速迭代特性(人类标注 5-6 min/样本 vs. Agent 0.2-0.3 min)提示,电商推荐中的离线评估集可以随模型升级和业务变化自动更新,维持区分度,避免饱和。
ToolSense:审计LLM参数化工具知识的诊断框架
🧭 参数化工具检索诊断与泛化评估 ★ 深度解读
SAP Labs
揭示参数化工具检索在约束解码下高召回与真实意图查询及知识保留之间的严重背离,提出多维度诊断基准与内部化分数。
📌 工作参考价值(4 点)
- 评估时解除约束解码依赖:参数化工具检索(如生成式推荐中的 Semantic ID)常靠 trie 约束解码达到高召回,但真实生成场景往往需要自由解码。应报告内部化分数 IS = Rf@k / Rc@k,暴露对 trie 的隐性依赖,避免上线后崩溃。
- 采用多格式 S1 + LoRA 保留工具语义:单纯的「描述→虚拟令牌」记忆在后续检索微调中极易被覆盖。加入逆向生成(令牌→描述)和区分性多选目标(MCTS),配合 LoRA 冻结大部分参数,可大幅保留工具知识(MCQ 准确率从 29.8% 提升至 41.7%),且自由生成能力更强。
- 训练查询分布需匹配实际用户表达:冗长的工具描述改写与短意图查询之间存在巨大泛化鸿沟(G1→RRB 召回骤降 50+ pp)。在构建训练数据时,应加入不同模糊度层级的自然语言查询(如单工具精确、多工具交叉、模糊目标),否则模型仅在表面词汇匹配上过拟合。
- 提前诊断:Stage 1 的 MCQ 探针可预测下游 OOD 泛化:S1 结束后的事实性知识探测(无需 S2)与 S2 的 RRB 召回强相关(r=0.79),可作为早期停止或配置筛选的信号,节省全量微调成本。
无监督技能发现驱动的自主数据分析代理
🧭 Agent 技能发现 · 无监督对比蒸馏 ★ 深度解读
Zhejiang University · Ant Group
DataCOPE从无标注探索轨迹中利用自适应检查表与答案一致性自我提炼可复用数据分析技能,无需人工标注
📌 工作参考价值(4 点)
- 无监督技能迭代方案可降标成本:利用代理探索轨迹的自洽性、答案聚类或自生成检查表作为质量信号,结合对比蒸馏更新技能,尤其适合电商场景中报告自动生成、客服问答等任务,避免高成本人工标注。
- 报告评估:自适应检查表与交替优化:对于商品分析报告、广告文案等开放性输出,可引入Checklist Agent动态生成任务相关评估准则并与生成代理交替优化,防止过拟合,提升输出完备性。
- 推理任务:答案聚类 + 自洽性辅助筛选:在处理固定答案的电商问答、候选推荐时,通过答案聚类形成群体信号,辅以自洽性估计过滤错误一致,可有效发现稳定推理模式。
- 技能粒度需平衡通用与专用:实验表明过粗或过细的技能颗粒度会损害效果,为业务线构建Agent技能库时应先评估任务多样性再划分技能类别。
证据稀疏场景下的弱监督早期故障告警
🧭 对话/Agent轨迹早期故障告警 ★ 深度解读
Intuit AI Research · Princeton University
利用MIL从轨迹级标签中学习稀疏故障证据,结合偏好条件触发策略实现推理时可控的准确-提前性权衡
📌 工作参考价值(4 点)
- 利用 MIL 从轨迹级标签中自动挖掘稀疏的故障证据轮次,无需人工标注 turn 级标签,直接改善前缀故障预测的准确性,适合客服对话和 Agent 执行监控。
- 融合“naive 前缀预测”与基于 MIL 的稀疏证据信号:前者反应快但噪声大,后者延迟但准确,简单 MLP 融合即可显著提升准确-提前性 Pareto 前沿,该模式可直接推广到需早期决策的序列监控场景。
- α-STOP 策略让单一模型通过改变标量 α 在推理时覆盖整个准确-提前性权衡曲线,无需为每个运营点重新训练;部署后可根据业务需要(如高精准告警 vs. 尽早干预)动态调节,大幅降低运维成本。
- 模块化设计(故障预测器 + 触发策略分离)优于端到端 RL,预测器提供可靠风险信号,触发策略专注决策偏好,且预测器升级不影响触发策略,工程上更灵活易维护。
自反思API:结构胜过长文本,助AI Agent恢复
🧭 Agent工具调用错误恢复的API设计 ★ 深度解读
Siemens Digital Industries Software
结构化修复建议让Agent任务完成率提升+36.7-40.0pp,token效率提高1.8-2.2倍。
📌 工作参考价值(4 点)
- 在Agent调用的内部API中嵌入结构化修复建议:当业务规则(如合规、库存、定价)验证失败时,返回 recovery_feedback.suggestions[] 字段,包含具体的参数修改动作和值(如 USE_SPECIFIC_BRAND, expected_amount: 3.5),Agent可直接合并到下次请求,消除LLM盲目猜测的token浪费和失败重试。
- 区分通用验证与领域知识验证来决定是否加结构化反馈:对LLM训练数据覆盖的通用错误(如“需提供无麸质面粉”),纯文本诊断已足够;对领域特有约束(如认证品牌“Bob’s Red Mill Certified GF”、文化规则、实时状态),结构化建议才能解锁恢复。可在API设计时标记规则来源,按需注入修复载荷。
- 在工程实现上采用约20行的轻量契约:遵循Schema v0.1的最小模式,每个校验规则负责产出类型化动作+字面参数,并通过OpenAPI或系统提示告知Agent动作词汇表。该模式增加响应体积仅约11%,却能显著减少平均重试次数。
- 注意结构化建议的适用局限:当诊断文本本身即包含足够概念(如“蛋白霜不应含泡打粉”)时,结构化建议可能冗余;结构化载荷可能引入解析错误(如Agent误将单项建议当成整体重写),需对具体校验器做A/B评估。对于复合动作可能需提供操作语义(如diff格式)而非仅参数字面。
Agent libOS:面向长期运行能力受控LLM Agent的类库操作系统运行时
🧭 Agent运行时架构 · 能力安全控制 ★ 深度解读
Tsinghua University
将LLM Agent抽象为操作系统进程,把安全边界从工具包装下沉到运行时原语,实现按能力授权、阻塞等待与审计
📌 工作参考价值(4 点)
- 工具与权限分离:将模型可见的工具 Schema 与真实资源授权解耦,避免因 prompt injection 或输出注入导致越权操作,对构建电商客服、推荐系统 Agent 等需要安全控制的应用有直接参考价值
- 进程模型管理 Agent 生命周期:用 fork/spawn/exec/wait 等语义管理子任务和人工审批等阻塞操作,可以轻松实现推荐 Agent 的暂停、恢复、任务分派与状态隔离
- 类型化对象内存:用带权限和来源的类型化对象图替代原始对话文本,有利于记忆管理、上下文裁剪和知识复用,适用于需要维护用户画像和对话状态的推荐 / 查询推荐 Agent
- JIT 生成工具沙箱化:通过 Deno 的无权限运行和 syscall 代理机制安全执行 Agent 生成的 TypeScript 工具,可为企业环境下的动态工具扩展提供工程范本
CLI-Anything:面向原生智能体的计算机交互界面设计
🧭 面向Agent的软件接口设计 ★ 深度解读
University of Hong Kong
放弃脆弱的GUI视觉操控,为Agent直接生成可编程、有状态且可验证的CLI操作接口。
📌 工作参考价值(4 点)
- 为内部工具构建Agent友好的CLI表面:当你有复杂的内部平台(如标注工具、配置中心、A/B实验平台)需要由Agent自动操作时,可按CLI-Anything的“harness lift”方法生成有状态的CLI接口,代替脆弱的GUI点击流,大幅提升Agent执行可靠性。
- 状态管理和可恢复执行:借鉴其JSON项目文件、undo/redo栈和会话持久化设计,让Agent能在任务中途检查状态、回滚错误步骤并继续执行,这对长时多步的电商工作流(如自动搭建活动页)尤其重要。
- 预览协议与验证对称性:在Agent工具中加入preview命令,输出结构化摘要与可视化产物,人类可审阅而Agent可验证,且验证边界与执行边界保持统一(都用真实后端渲染),避免Agent做出“命令返回0但实际产出错误”的判断。
- 工具发现与分发基础设施:如果公司内有多个Agent团队,可参照CLI-Hub构建一个工具注册与发现系统,让Agent按任务需求自动查找、安装并调用标准化接口,避免重复造轮子。
DAR:基于Agent Harness的按需法规推理
🧭 Agent推理中的法规按需交互 ★ 深度解读
Johns Hopkins University · Télécom Paris · Institut Polytechnique de Paris
提出让LLM按需检索法规的Agent推理框架DAR,揭示Harness仅放大已有能力:前沿模型获益,弱模型退化并消耗更多token。
📌 工作参考价值(4 点)
- 在需要依据长文档规则(如电商政策、合规条款)进行推理的Agent场景,将规则文件外置,让模型通过grep/sed等工具按需检索关键段落,比一次性全量注入prompt更高效,尤其适合强模型。
- 模型选型启示:仅足够强的基座模型(如GPT-5、Claude)能从工具交互中稳定获益;弱模型在同样的harness下反而性能下降且token消耗倍增(达4×),部署前务必评估基座能力与harness的匹配度。
- Harness设计可借鉴Terminus-KIRA的思路:增加完成校验、防止提前提交、支持观察新信息后修订计划等机制,显著提升多步推理Agent的可靠性,避免模型过早给出错误答案。
- 在工程实现中,需对Agent设置严格的时间与token预算,并监控超时与解析失败;开源模型主要失败于超时(占比达10.6%),合理的资源控制能避免无效算力浪费。
合成并奖励:面向在线环境的多步工具调用的强化学习
🧭 Agent 多步工具使用 · 强化学习奖励设计 ★ 深度解读
IBM Research
提出 PROVE 框架,通过 live MCP 环境、状态感知合成与无 judge 的多组件程序化奖励,用 RL 提升多步工具调用
📌 工作参考价值(4 点)
- 状态感知的数据合成:通过依赖图和 live 状态采样生成多轮轨迹,确保参数引用真实实体,避免合成数据不可执行,可直接用于训练电商 Agent(如查询商品、下单、退款)。
- 无 judge 的分解式程序化奖励:将奖励拆分为有效性、覆盖率、效率惩罚、工具名奖励、参数值匹配,不需要 LLM judge。效率惩罚采用复杂度自适应的调用预算,能抑制模型无意义的多余工具调用,对生成式推荐的多步骤控制有直接参考价值。
- 适应性效率惩罚:根据任务所需的 ground-truth 调用数动态设置预算(B = n_gt + ceil(n_gt * 0.5)),超过预算才受罚,既鼓励探索又避免冗余,这种设计可以迁移到多步 Agent 的步骤数约束。
- RL 训练优于 SFT:用相同数据做 SFT 会导致 τ2‑bench 性能下降,而 RL 保持提升,说明执行反馈和奖励信号对多步对话行为至关重要,提示我们应在实际业务中耦合 RL 训练循环而非单纯依赖 SFT。
技能非文档:面向LLM Agent技能路由的查询条件基准与两阶段检索器
🧭 Agent 技能检索与路由优化 ★ 深度解读
Tencent IMA Product Center · Tencent Youtu Lab
提出保留LLM拒绝信号作为技能兼容性负监督,构建中英双语技能检索基准R3-Skill,并设计两阶段检索器精排利用该信号
📌 工作参考价值(4 点)
- 构建Agent技能库时,不能简单当作文档检索,必须考虑技能间兼容性,应将前期LLM判断为“不可组合”的样本保留为负监督,用于训练精排模型。
- 推荐采用两阶段检索:粗排用双编码器快速召回,精排用交叉编码器,并将兼容性负信号编码为分级标签(如 label=1),通过 listwise 损失优化排序。
- 新增 Set-Compat 指标衡量检索集合的协同可用性,比单独的 recall/NDCG 更能反映 Agent 后续调用的真实成功率。
- 双编码器阶段注入兼容性负样本效果甚微(被梯度稀释),兼容性监督应集中放在交叉编码器精排阶段,这是架构选择的实践结论。
基于状态引导动态检索的Web Agent在线技能学习
🧭 Web Agent在线技能学习 · 动态检索 ★ 深度解读
University of Georgia · Tencent America · New York University · The Hong Kong Polytechnic University
提出状态引导动态检索,将技能复用从任务级改为步级,滑动窗口提取子过程与MMR重排提升Web Agent成功率。
📌 工作参考价值(4 点)
- 动态技能检索:电商Agent执行多步任务(如比价、下单)时,可借鉴状态引导的动态检索,在每个决策步根据当前页面状态和任务目标检索最相关技能,避免固定技能集带来的状态不匹配。
- 滑动窗口提取子过程:将成功的任务轨迹切割为可复用的小段程序(如“填写搜索关键词并点击按钮”),生成文本描述与可执行代码配对的技能库,平衡了技能的通用性与执行粒度,可用于构建可复用的业务操作库。
- 文本-代码双表示:技能的自然语言描述用于检索,代码片段用于实际执行,两者解耦但仍保持关联,便于后续维护和更新。推荐系统内的多步操作(如配置营销活动)可用类似方案沉淀操作Know‑how。
- MMR重排去重:为避免检索到的技能高度重叠,采用最大边际相关性重排,在相关性和多样性间取得平衡。这个trick可以直接用于任何基于embedding的检索增强场景,防止返回结果冗余。
面向相机卷的个人AI视觉问答助手
🧭 个人视觉记忆Agent与分层检索 ★ 深度解读
University of Wisconsin-Madison · Korea University · Adobe Research
提出个人相机卷VQA基准与分层记忆AI Agent,揭示长程个性化视觉理解的挑战
📌 工作参考价值(4 点)
- 分层记忆结构可直接复用到用户行为流:三层金字塔(原始行为→个性化摘要→事件/会话摘要)可对电商用户的浏览、加购、下单序列建模,O(1)双向链接支持快速回溯,适合构建「我上次买这类商品后还看了什么」之类的查询。
- 两轴工具设计是工程化检索的轻量范本:将检索接口按“范式(语义/词法/过滤)”和“深度(预览/全文/原始数据)”分解为5个原子工具,既控制token预算又保持灵活性,适合在推荐解释或对话推荐中按需调用不同粒度的信息。
- 事件分段方法可用于会话/场景切分:用MLLM以增量的方式判断行为属于延续、更新还是新事件,无需离线全量重处理,适合实时流式场景,如电商平台中将用户连续行为自动聚合为“选购某品类”“犹豫比较”等有语义的单元。
- 预算感知的Agent设计值得借鉴:显式给出剩余步骤数和工具配额,促使Agent在粗筛和精查之间做权衡,可在多步推荐推理中防止过度消耗资源,同时失败分析显示需针对记忆-行动循环做专项后训练,而非仅依赖通用能力。
SePO:自演进提示代理优化系统提示
🧭 自演进提示代理优化框架 ★ 深度解读
National University of Singapore · City University of Hong Kong
通过自指涉设计,使提示代理在进化搜索中同步优化自身与任务代理的系统提示,突破手工设计瓶颈。
📌 工作参考价值(4 点)
- 动态优化多智能体系统:在电商多智能体(如推荐、客服、运营)中,可引入 SePO 式自演进提示代理,自动迭代各 Agent 的系统提示,替代手工调参,持续适应变化的业务场景。
- 低成本跨任务泛化:预训练-微调两阶段设计,先在多任务池上进化出通用提示优化能力,再快速适配具体推荐任务(如生成式推荐、Query 改写),大幅降低重复优化成本并提升新任务冷启动效果。
- 失败-成功平衡采样避坑:提示优化时按 1:1 同时输入失败与成功案例,避免代理过拟合单一失败模式,这一技巧可直接用于推荐提示词迭代或用户意图理解的 Prompt Engineering 中。
- archive 进化搜索防止早熟:基于存档的开放演进保留历史上性能较好的提示作为“垫脚石”,可借鉴到推荐策略的自动化调优中,防止搜索陷入局部最优。
TIDE:通过模板引导迭代的主动多问题发现框架
🧭 主动式多问题发现 · 模板引导迭代 ★ 深度解读
KAIST · DeepAuto.ai
结合迭代发现与可复用思想模板,从上下文中覆盖并精确识别多个隐藏问题,并给出可执行方案
📌 工作参考价值(4 点)
- 迭代式主动发现:将单次预测拆成多轮,每轮基于已发现结果推进一步,可借鉴到电商/推荐中的用户兴趣探索,避免总是推荐最热商品,用类似逐轮“去重”方式打通长尾物品曝光。
- 模板化推理模式:从历史成功解决案例中抽取出可重用的“问题模式—证据链”模板,可迁移为推荐系统的解释模板或主动推送的消息模板,提升可解释性及行动建议的针对性。
- 证据+行动捆绑输出:每个发现的隐藏需求都附有支撑文档证据及具体执行动作,可用于构建可审计的推荐理由或客服Agent的主动建议,避免空泛推测。
- 跨模型模板复用:生成的模板在不同LLM间可直接迁移,价值在于工业场景中更换底层模型时,无需重新积累案例,降低冷启动成本。
VirtualMLE:通过LLM Agent反思与记忆实现序列推荐自动调优
🧭 LLM Agent 自动化推荐模型调优 ★ 深度解读
Tsinghua University · Beijing University of Posts and Telecommunications
用LLM Agent构建反思-记忆闭环,将序列推荐调优转化为可迁移的认知推理,大幅降低试错次数
📌 工作参考价值(4 点)
- 将LLM嵌入模型调优流程:可借鉴VirtualMLE的“执行-反思-记忆更新”闭环,在推荐模型上线前的调参阶段,用LLM agent替代人工或贝叶斯优化,自动分析试验结果并诊断瓶颈,减少工程师重复劳动。
- 层次化记忆复用调优经验:长期记忆存储跨数据集的通用启发(如稀疏数据适合强正则化、注意力模块宜用较低学习率),短期记忆记录当前搜索轨迹。在电商多域(首页猜你喜欢、详情页关联推荐等)场景下,可以把已优化域的知识快速迁移到新频道,降低冷启动成本。
- 反思模块输出因果归因:每次试验后让LLM生成“哪个改动导致了什么结果”的归因摘要,指导后续搜索方向。实际工作中可嵌入到AutoML pipeline里,作为可解释的搜索记录,辅助人工决策。
- 认知摘要实现跨任务迁移:将完整调优轨迹蒸馏为Cognition Summary(如“相对位置编码优于绝对+相对”、“embedding tying对稀疏数据有益”),作为新数据集的初始先验,能在电商多品类推荐中显著加速收敛(论文中跨域迁移只需1/3试验次数)。
重新思考自进化LLM智能体的持续经验内化
🧭 Agent 自进化 · 经验内化 ★ 深度解读
中国人民大学高瓴人工智能学院 · 北京航空航天大学软件学院 · 美团
揭示经验内化在多轮自进化中的能力崩塌,从经验粒度、注入模式、内化策略三维度给出稳定方案
📌 工作参考价值(4 点)
- 经验抽象为原则:在电商导购、多步工具调用等Agent场景中,经验积累应提取可复用的决策原则与失败模式(原则级),而非保留具体域名、URL等轨迹细节(实例级),后者在多轮更新中迅速失效。
- 逐步注入经验:在训练Teacher模型时,根据当前交互状态动态选择相关经验(逐步注入),避免全局固定经验导致模型过早终止(如未搜索直接回答)。在长时任务中,该模式可降低“过早应答”率(本工作中从63%降至0%),保持后续迭代的经验使用能力。
- 使用离线策略蒸馏:多轮自进化时,建议从强教师(经验感知模型)直接生成并筛选高质量轨迹进行蒸馏(离线),而非从学生模型采样再纠正(在线)。离线蒸馏训练出的轨迹更短(平均2.5步 vs 在线21.9步),且性能迭代更稳定,避免性能崩塌。
- 监控经验使用能力:在迭代内部化后,应评估模型在无经验和带经验上下文时的表现差距。如果差距消失或带经验反而下降,说明模型丢失了利用经验池的能力,会破坏下一轮Teacher的监督质量,需调整注入模式或经验提取策略。
策略与世界模型共训练:让语言智能体在 RL 中学会预测动作后果
🧭 语言智能体 · 世界模型与强化学习共训练 ★ 深度解读
Southern University of Science and Technology · Hong Kong University of Science and Technology · Hong Kong University of Science and Technology (Guangzhou) · Hong Kong Polytechnic University · LIGHTSPEED
将 on-policy RL 的 rollout 同时用作世界模型的下一观测监督,通过动作熵过滤、裁剪 MAE 损失和奖励自适应权重实现稳定共训练,无需额外模型或推理开销
📌 工作参考价值(4 点)
- 复用现有 rollout 作为世界模型监督:在电商对话 Agent 或推荐交互 Agent 中,用户与系统的多轮交互(如搜索-浏览-下单)天然包含状态转移样本,可将每步动作对应的下一页面内容作为预测目标,无需额外构造模拟器。
- 动作熵过滤冗余样本:只保留策略熵较高的决策点(如用户提问模糊、候选商品多)的转移样本进行世界建模,避免大量确定性动作(如翻页)造成的低效训练,可显著提升样本效率。
- 用裁剪 MAE 替代 CE 应对噪声观测:在电商页面等富含随机 ID、产品名的文本环境中,MAE 损失能抑制不可预测 token 的梯度,配合置信度裁剪(pt,i >ρ 的 token 不训练)可防止过拟合表面形式,使世界模型抓住核心动态。
- 奖励自适应权重平衡多任务:根据 rollout 组成败调整世界模型 loss 权重,低成功率组强化环境理解,高成功率组侧重策略优化,这种简单启发式可直接用于客服 Agent、推荐对话 Agent 的多目标 RL 训练。
Harness-1:通过状态外化 harness 对搜索智能体进行强化学习
🧭 搜索智能体 · 状态外化 harness ★ 深度解读
University of Illinois at Urbana-Champaign · UC Berkeley · Chroma
将搜索中的机械簿记卸载到环境端状态,使 20B 策略 RL 后平均召回达 0.730,比最佳开源 subagent 高 +11.4 点
📌 工作参考价值(4 点)
- 电商搜索/推荐的多步检索中,可设计类似的工作记忆状态机(候选池、重要性标记、证据图、验证记录),将“记住已看文档、过滤重复、跟踪约束”等记账任务由环境维护,让策略模型聚焦语义决策,降低小模型 RL 的优化难度。
- Warm-start curation(自动从第一次成功搜索结果中 seed top-8 为 fair 重要性)解决了空 curated set 带来的早期奖励无区分度问题,可迁移到对话式的商品搜索、主动推荐场景,避免 RL 探索时的全零 reward。
- 多样性奖励(tool diversity bonus)防止策略坍缩到反复搜索的捷径,强制 agent 使用验证、阅读、curate 等多种行动,提升最终精排质量。这在电商 Agent 做多轮“搜索-浏览-比较-加购”决策时特别有用。
- 紧凑的派生状态渲染(BM25 句子压缩、证据图、重要性分级)和两级去重(chunk-ID + MinHash 指纹)有效控制上下文预算,让策略在长序列多轮交互中保持对关键证据的可见性,适合需要融合多篇商品评论、比价等长上下文场景。
HarnessForge:自适应 Agent 系统的 Harness 与 Policy 联合进化
🧭 Agent 系统 harness–policy 协同进化 ★ 深度解读
Beihang University · Tsinghua University
通过 harness–policy 对协同进化实现 LLM agent 系统的元适应,解决执行结构与推理策略兼容性问题
📌 工作参考价值(4 点)
- 1. 业务 Agent 的联合迭代范式:将电商客服或推荐 Agent 拆解为 Harness(任务分解、工具接口、记忆模块)与 Policy(推理行为),通过故障诊断改进 Harness,再用成功轨迹训练 Policy,闭环提升系统整体兼容性。
- 2. 低成本 Policy 对齐:复用同一批 rollout 数据同时完成 Harness 筛选和 Policy 训练,避免额外数据采集成本,适用于在线业务快速迭代。
- 3. 资源受限下的适配策略:保持基座模型不变,仅训练轻量 LoRA 适配器,使模型对齐不同 Harness 的执行约定,适合在算力有限时动态切换任务范式。
- 4. 多目标 Pareto 筛选机制:在 Harness 候选评估中同时考虑任务效果、token 消耗和延迟,可迁移到推荐 Agent 的架构搜索,平衡收益与成本。
Lean4Agent:用依赖类型形式化建模与验证 Agent 工作流及轨迹
🧭 Agent 工作流的形式化验证与自动优化
University of Illinois Urbana-Champaign · Independent researcher
首个用依赖类型语言 Lean4 形式化验证 Agent 工作流语义一致性并自动改进的框架
📌 工作参考价值(4 点)
- 多步 Agent 工作流(如电商客服自动处理、推荐系统规划)可引入形式化验证,用类型系统约束步骤间的语义一致性,避免执行时逻辑矛盾导致线上故障。
- 轨迹级别的失败定位思想可直接用于业务 Agent 的调试:记录每步动作与状态,通过预定义的规格自动检测偏差,快速找到出错的子任务。
- LeanEvolve 的“验证反馈→修订工作流”闭环可参考,对 Agent 流程做 A/B 测试时,自动利用失败案例生成修正版本,减少人工调优成本。
- 形式化库 FormalAgentLib 的设计模式(显式假设、可扩展验证规则)可迁移到业务编排框架中,实现可复用、可证明的 Agent 动作规约。
ODTQA-FoRe:面向未来数据预测与推理的开放域表格问答数据集与框架
🧭 表格问答 · 时间序列预测 · 多Agent协作 ★ 深度解读
Beijing Normal University · Beijing Normal-Hong Kong Baptist University
提出首个结合时序预测与表格推理的开放域QA数据集及多Agent框架TimeFore,弥补LLM直接预测的缺陷
📌 工作参考价值(4 点)
- Agent 角色拆分模式可直接复用:将复杂开放域预测问答拆为 Retriever(SQL 生成)、Forecaster(调用外部时序模型)、Analyzer(答案标准化)三个 Agent,每个 Agent 通过 in-context learning + 反馈循环实现可靠输出。在电商销量预测、商品价格趋势问答等场景中,可直接套用此架构,用专门模型弥补 LLM 预测弱点。
- 外部预测模型优于 LLM 直接预测:实验证明 TimeXer 等专用时序模型的 MSE 远低于通用 LLM 的 ICL 预测(2.50e7 vs 6.69e7),因此在实际业务数值预测任务中,无论模型多大,均应通过 function calling 调用成熟的时序模型,而非强求 LLM 自行拟合。
- SQL 生成可用执行反馈自修复:Retriever 通过执行 SQL 并利用错误信息迭代修正(最多 25 次),能有效提升复杂多表查询的成功率。在电商数据资产查询或报表自动化场景中,这种自校正循环可大幅减少人工介入。
- 模板生成 + LLM 改写的数据集构建策略:先用模板生成可验证的 QA 对,再用 LLM 改写以增加语言多样性,保证质量的同时降低人工成本。适合快速构建垂直领域(如房产、金融)的预测型问答评估集。
Ψ-Bench: 评估基于画像的个性化说服对话能力基准
🧭 个性化代理 · 说服性对话评估 ★ 深度解读
University of Illinois Urbana-Champaign
提出Ψ-Bench,通过模拟个性化客户评估LLM在说服性对话中的画像敏感影响能力
📌 工作参考价值(4 点)
- 电商客服或营销对话中可借鉴画像驱动的评估框架:用合成用户画像模拟真实客户,并用LLM裁判评估对话的个性化和说服效果,替代或补充人工评估。
- 在对话推荐或主动推送中,可部署轻量级画像分析器(如RL训练的小模型)从用户历史对话中实时推断偏好,动态调整话术,提升转化。
- 发现即使强模型在缺乏用户特定信息时说服力有限,意味着在生成式推荐或对话代理中,显式用户建模(如行为序列、长期偏好)比单纯提升生成质量更关键。
- 评估指标设计上,将“个性化响应水平”作为中间指标,与最终效果强相关(ρ=0.77),可在业务中用作可解释的离线代理指标,降低线上实验成本。
SCOPE:面向边缘部署的实时自然语言PTZ摄像代理
🧭 Agent · 语言驱动摄像代理与仿真基准 ★ 深度解读
Armada AI
通过SLM规划器与VLM感知工具解耦,实现边缘实时PTZ摄像代理,并发布536任务基准与19种模型组合分析
📌 工作参考价值(4 点)
- 规划与感知解耦的架构:将SLM作为调度中心,感知工具(VLM)按需调用,避免图像 token 进入对话上下文,降低延迟和显存压力,适合多模态 Agent 的边缘部署。
- MoE SLM 的延迟–准确性平衡:Qwen3-30B-A3B(激活参数 3B)在推理延迟上接近 4B 密集模型,但工具路由和推理能力显著更强,是实时控制环路中的实用选择。
- 量化几乎无损:FP8 量化在多数配置下准确率持平或略优,且减少显存,对生产环境中的模型压缩与加速有直接参考价值。
- 仿真–真实的双向评估框架:在 Blender 中精确复现 PTZ 动作空间和工具 API,实现可复现的闭环评测,这一方法论可迁移至其他具身 Agent 或 IoT 控制的迭代开发中。
时序逻辑视频问答:主动证据搜寻代理方案
🧭 多模态代理 · 时序视频理解 ★ 深度解读
Harbin Institute of Technology (Shenzhen) · HKUST
提出训练无关的 ReAct 代理,通过多粒度时间戳采样与问题类型感知策略,在 TimeLogic 上取得 77.13 平均准确率。
📌 工作参考价值(4 点)
- 在商品视频或直播片段中,可借鉴 multi-granular toolkit 思路:先全局粗览,再对关键时段精细扫描,替代均匀抽帧,降低推理成本的同时捕捉关键动作边界。
- 问题类型感知的策略路由 (question-type-aware exploration) 可直接迁移到多模态 Agent 的 prompt 工程:根据输入语义类别动态选择工具、迭代深度与思维预算,避免“一刀切”的策略浪费。
- 时间戳与帧交错注入 (frame–timestamp interleaving) 可让 VLM 将时间关系转化为数值比较,这是一种轻量的时间推理增强 trick,适合处理带有时间戳的商品描述或用户行为序列。
- 语料感知的预算分配 (corpus-adaptive budgeting) 对异构数据源(如店铺直播 vs. 商品讲解视频)自动调节帧数/步数,适合工程中需要处理不同长度、密度视频的场景。
SIRI: 自我内化强化学习与内在技能
🧭 LLM Agent 强化学习 · 自我技能内化 ★ 深度解读
Xiamen University · Meituan · Macao Polytechnic University
通过三阶段自监督技能挖掘与优势加权内化,让LLM智能体在长程任务中摆脱推理期技能库依赖并取得最优性能。
📌 工作参考价值(4 点)
- 自动技能提取:借鉴自我技能挖掘(Phase 1),可从电商客服或购物Agent的成功交互轨迹中自动总结可复用策略(如处理缺货、比价),无需外部大模型生成,降低人工成本。
- 在线效用验证与技能生命周期管理:采用配对rollout的效用差(Δ_g)动态评估技能质量,并设置候选→激活→退役的进化机制,可确保线上使用的技能始终有效,避免技能库污染。
- 优势加权内部化实现检索自由:通过轨迹级效用门控与动作级优势加权,仅将正向技能引导的动作token蒸馏到基础策略,彻底移除推理期的技能检索、提示注入,显著降低上线延迟与工程复杂度,适合高并发电商推荐与对话系统。
- 训练框架的兼容性:SIRI可与现有RL算法(如GiGPO、GRPO)无缝衔接,作为增量模块提升现有Agent训练流水线,且自我挖掘的技能可逐步逼近外部强模型生成的质量,适合在模型自主进化中逐渐摆脱对昂贵外部API的依赖。
SkillHarness:安全驾驭动态环境中的智能体技能
🧭 Agent 安全技能学习 · 动态环境
Zhejiang University
通过技能边界与选择性重用机制,在动态交互中安全学习技能,不安全率降低57.1%
📌 工作参考价值(4 点)
- 借鉴 skill boundary,为推荐 / 广告 Agent 的动作空间设置多源监督信号(如业务指标、用户反馈),自动识别并过滤高风险策略。
- 在动态推荐场景中引入 selective skill reuse,根据实时上下文(如用户状态、时段)分解任务,仅激活安全的策略子集,避免冷启动或探索期的危险操作。
- 自完善安全约束机制:从历史交互轨迹中持续学习安全边界,在线更新约束,预防模型漂移或对抗攻击(如 prompt 注入)导致的推荐灾难。
- 工业部署时,可在 Agent 决策后增加类似 skill boundary 的安全校验层,对推荐结果进行二次审核,降低线上事故率。
Token Budgets:63起LLM Agent预算超支事件实证目录与Rust仿射类型缓解
🧭 Agent 预算控制与类型安全
构建63起LLM Agent预算超支事件分类目录,并利用Rust仿射类型实现编译时防超支的token-budgets库
📌 工作参考价值(4 点)
- 编译时防止预算误操作:借鉴Rust仿射类型,将预算设计为不可克隆、不可别名、用后即焚(affine ownership),在编译期杜绝克隆、双重花费、use-after-delegation等错误。在Python/TypeScript等无所有权机制的语言中,可通过类型系统模拟(如unique指针、移动语义)或运行时静态分析,减少因operator误用导致的预算泄漏。
- 多Agent委托场景的预算安全:多个Agent委托任务时,预算传递若用简单计数器,并发下易重复扣除。直接迁移Rust的借用检查思想,对budget对象采用编译时唯一引用传递,避免运行时race condition。若不能换语言,可在框架层面实现类似“移动语义”的wrapper,确保同一时刻只有一个owner持有budget。
- 事件分类指导防御手段设计:论文给出八类预算超支故障模式(如retry-loop无限重试、无上限API调用、并发委托导致重复扣除等),可直接用于电商或推荐系统中Agent链路的审计清单,针对不同模式提前设置编译器检查或runtime guard。
- 轻量级实现可嵌入现有Agent框架:1,180行Rust代码(无unsafe)可作为库引入,或者将其理念转化为Lua/Python等胶水语言的类型约束层,为预算敏感场景提供零成本保证。
通用 Agent 能否自动化数据策展?
🧭 Agent 自动化数据策展评估 ★ 深度解读
Virginia Tech · University of Illinois Urbana-Champaign · University of Wisconsin-Madison · University of California, Berkeley
引入 CURATION-BENCH 基准,发现通用 Agent 能执行数据策展但探索窄,方法适应支架可引导突破
📌 工作参考价值(4 点)
- 在推荐数据管道中引入 method-adaptation scaffold:强制 Agent 每轮迭代引用、适配一项已有方法,可避免陷入局部超参(如域权重)调整,驱动真正的新策略探索。
- 将 迭代式数据策展 作为新的计算维度:当数据预算固定时,将额外算力投入搜索更优的数据子集或重写策略,可能优于直接训练更多数据,这在电商推荐中可用于高效利用有限交互样本。
- CURATION-BENCH 的 数据隔离 + 污染审计 + 轨迹诊断 设计,可直接迁移到构建推荐数据选择 Agent 的测试框架,确保可比性与可审查性。
- 轻量策略列表(源平衡、质量过滤、多样性采样等) 可帮助 Agent 快速生成候选,但需配合约束性协议(如强制证据锚定)才能真正改变执行行为,避免“vibe optimization”。
用 LLM Agent 打通时间序列预测的最后一公里
🧭 LLM Agent · 预测修正与业务落地 ★ 深度解读
Trip.com Group
提出以 LLM agent 对统计基线预测进行可溯、约束化的业务修正,将上下文信息转化为结构化修订动作。
📌 工作参考价值(4 点)
- 预测修正的工程化模式:将统计基线预测与业务修正解耦,把修正动作封装为可审计的操作(范围缩放、点位覆写),可直接用于电商需求计划、促销备货等场景,把运营经验结构化地注入到预测中。
- Agent 工作区设计:共享的表格式工作区(历史值、基线预测、可编辑修订值)保证历史与基线不可变,所有修订仅作用于 y_final,避免模型幻觉污染原始信号,这种“受控编辑”的思路可复用于推荐系统中的打分后调整或多策略融合。
- 长时预测的 map-reduce 分解:将长预测区间拆分为事件窗口并行推理,再通过统一动作接口合并,适合电商大促期的多活动多时段调优,提升推理效率且保持可审查性。
- 基于记忆的自我改进闭环:在真实值出现后生成校准反思,存为结构化记忆,后续预测时优先检索历史修正错误,避免重复犯错,该机制可直接用于推荐系统的 A/B 后评估与在线参数的自适应调整。
ClawHub 安全信号:当 VirusTotal、静态分析与 SkillSpector 产生分歧
🧭 Agent 技能安全与扫描器分歧研究
OpenClaw Foundation · NVIDIA
揭示 Agent 技能安全扫描器间高度分歧,提倡分层治理而非依赖单一扫描器放行/拦截
📌 工作参考价值(4 点)
- 在电商 Agent 集成社区技能时,切勿依赖单一安全扫描器(如 Virustotal)做放行/拦截决策;应组合病毒扫描、静态分析、语义风险扫描等多维度信号,并预期扫描器间高质量分歧。
- 设计分层安全治理:将自动化扫描作为信号输入,而非黑白判定;对打包可执行代码技能侧重恶意代码检测,对纯指令/工具调用技能侧重语义风险检测(如越权、提示注入)。
- 若自建 Agent 技能市场或注册表,参考该数据集的分歧模式,构建「扫描结果 → 风险分 → 人工审核」的分诊流程,避免因单一扫描器漏报而引入恶意技能。
- 可直接利用此公开的脱敏数据集训练面向技能安全分类的专用模型,作为电商 Agent 技能上线审核的辅助工具。
抵抗智能体重识别的LLM匿名化框架
🧭 Agent 智能体对抗性隐私保护
Northeastern University
提出掩码-重建的匿名化方法,通过自适应隐私范围平衡抗智能体重识别与文本实用性
📌 工作参考价值(4 点)
- 处理用户评论文本或客服对话时,可借鉴掩码-重建流水线:先用LLM定位敏感上下文并遮蔽,再由另一个LLM生成保留语义的非敏感替代表述,既防重识别又保留分析价值。
- 引入对抗隐私检查环节:模拟网络搜索代理尝试重识别,可作为内部隐私测试工具,确保发布数据前充分抵御真实威胁。
- 设计多维实用性评估:不仅看语义相似度,还考量事实一致性、上下文连贯性等,对评估匿名化后文本在下游任务(如意图分类、查询理解)中的可用性有参考。
- 自适应隐私范围调节:根据数据用途动态调整遮蔽强度(如个性化分析保留更多细节,聚合统计可严格匿名),为业务中动态平衡合规与效用提供工程思路。
LayerRoute: 通过 LoRA 微调实现输入条件自适应层跳过
🧭 Agent 推理加速 · 自适应层跳过 ★ 深度解读
Accenture
用 1.1M 参数教会 0.5B 模型按步型跳层:工具调用省 15.2% FLOPs,规划几乎不跳,质量不降反升。
📌 工作参考价值(4 点)
- Agent 推理系统加速:在工具调用占比高的场景(如电商客服中的查订单、查库存),可对 LLM 使用 LayerRoute 适配,保持规划能力同时大幅降低工具步驟计算量,直接提升吞吐。
- 不同请求类型动态深度分配:推荐/Agent 场景中,简单确定性请求与复杂推理请求可复用本方法——用极少量参数为每层配路由器 + LoRA,按输入类型动态跳过若干层,实现“按需深度”。
- 偏置初始化的工程技巧:对分层路由任务,有意识将中间层初始化为“跳过”状态(bias 负值),可打破对称,让梯度信号快速区分层的重要性,避免所有门控全开。
- 门正则化防止平凡解:任何可学习门控机制(如多分支动态路由、MoE 专家选择)都应加入类似正则项,否则模型倾向于保持所有通路开启,丧失动态选择能力。
SkillHarm:面向技能生命周期的 Agent 攻击基准与自动化构建
🧭 Agent 技能安全 · 自动化攻击基准
The Ohio State University · Amazon AGI · Stanford University
首个覆盖技能使用生命周期的攻击基准,揭示固定与自变异投毒下 Agent 高达 86.3% 的攻击成功率
📌 工作参考价值(4 点)
- Agent 技能安全评估框架:若业务中使用第三方 Agent 技能(例如 MCP tools、自定义插件),可借鉴 SkillHarm 定义的 12 类风险(数据管线、系统环境、自主决策)和两种投毒场景(FPP/SMP),设计内部红队测试用例。
- 自变异投毒(SMP)的低噪音特性:SMP 初始不触发恶意行为,在后续复用中才爆发,与电商推荐中长效特征污染攻击类似,可思考如何在模型更新、特征缓存下设计延迟投毒检测机制。
- 自动化投毒样本生成管道:AutoSkillHarm 利用自然语言 harness 驱动 coding agent 批量构造攻击样本,可迁移到业务安全测试中,自动生成针对内部 Agent 流水线的变异攻击数据。
- 失败模式提示防御盲区:论文发现攻击失败多因 Agent 未执行投毒文件而非真正抵抗力,启示工程防御需加强技能加载阶段的静态分析(如 manifest 检查、沙箱预执行),而非仅依赖运行时行为监控。
通过新颖信号联合学习智能体记忆与探索
🧭 智能体记忆与探索的联合学习 ★ 深度解读
Tsinghua University · Sun Yat-sen University · Baidu Inc. · Tongji University · Peking University
利用代码覆盖率等持久新颖信号,联合训练智能体潜在记忆与探索策略,显著提升探索效率并减少 token 消耗
📌 工作参考价值(4 点)
- 无监督的记忆训练信号:在 GUI 或可嵌入环境中,利用代码覆盖率、新状态发现等持久新奇信号作为内在奖励,为记忆模块提供无需人工标注的训练目标。这可以迁移到电商 App 自动化测试、Agent 探索冷启动等场景,用环境固有指标替代昂贵的人工反馈。
- 轻量级历史压缩:使用一个冻结的视觉语言模型将每一步(观测,动作)压缩为一个向量 token,大幅减少长对话的 token 开销。在电商客服 Agent 或推荐对话系统中,可以类似地压缩多轮交互历史,避免上下文窗口膨胀,同时保持关键信息。
- 自然课程式训练:随着会话进行,奖励自然变得稀疏,迫使策略学习更深层的探索行为。在构建 Agent 的训练环境时,可以设计类似“先易后难”的奖励衰减机制,无需手动设计课程。
- 联合训练记忆与策略:将记忆压缩和对齐与策略梯度联合优化,避免解耦带来的次优解。对于需要记忆的推荐 Agent 或多智能体协作场景,可考虑将记忆模块的学习与任务目标直接对齐,而非单独训练或使用静态规则。
TVIR:面向文本-视觉交错报告生成的深度研究智能体
🧭 深度研究智能体的多模态报告生成与评估 ★ 深度解读
Nanjing University · Alibaba Group
首个同时评估文本与视觉证据的多模态深度研究基准与多智能体框架,揭示现有系统重文字轻视觉的短板
📌 工作参考价值(4 点)
- 多模态报告生成可复用范式:TVIR-Agent 的“规划-视觉素材实例化-顺序写作-全局整理”四阶段流水线可直接用于电商市场分析报告、竞品追踪等长文生成,其中将视觉需求(检索图片、代码生成图表)显式纳入大纲规划的思路能显著提升图文一致性。
- 视觉证据的可靠性检查:通过 Chart Generator 自动爬取数据、交叉验证并生成代码图表,保留数据源 URL,同时用 VQA 工具过滤低质量检索图片,这类机制可迁移到商品分析、库存预警等需要数据可视化且要求来源可追溯的业务场景。
- 双路评估框架的启发:将评估分解为文本评估(引用支持、指令对齐、写作质量等)和视觉评估(图表质量、图文整合、源一致性)的范式,可复用来构建电商领域生成内容(如商品详情页、营销文章)的质量审查系统,重点检测装饰性 vs 证据性配图的差异。
- 多智能体角色分工:Planner+Image Searcher+Chart Generator+Writer+Polisher 的松耦合设计,允许按需替换或升级单个组件,适合团队并行开发;针对电商 Agent,可将 Writer 替换为适配商品描述的风格模块,或将 Image Searcher 接入内部图库。
吸收复杂性:面向金融LLM代理的交互原生知识织带
🧭 Agent 认知架构 · 持续记忆与治理 ★ 深度解读
True Trading · Inc4.net
交互原生知识织带通过被动注入、时序图记忆与写时失效,系统性吸收认知复杂性而非转嫁给用户。
📌 工作参考价值(4 点)
- 被动注入代替主动检索:在前端推理前,由系统根据事件自动注入领域知识到上下文缓冲,而不是让模型自己发起 wiki-walk 或 RAG 检索。这可直接用于电商客服或推荐 Agent,在用户问题到达时提前注入其历史偏好、订单状态、风险标签,降低推理延迟和 token 消耗。
- 时序图 + 写时失效处理旧知识:市场条件变化后,旧知识不再可信。在推荐系统中,可利用类似机制在用户行为漂移或商品下架时主动失效记忆,避免注入过时偏好;工程上可用带时间戳的图边和矛盾检测实现自动失效。
- 治理层根据行动风险控制知识准入:高风险行动(如下单、投资建议)只允许成熟度足够高的知识条目被注入。电商场景中可设计“发货承诺信息”仅当订单状态已确认时生效,防止模型基于未结清状态给出错误承诺。
- 分离检索底图和审计视图:使用时序图做低延迟在线检索,同时维护可读的 wiki 页面用于人工审查与合规。推荐 Agent 可效仿:在线用向量图快速召回,离线维护可解释的用户画像页面供运营查验决策依据。
超越文本的智能体技能:引入视觉先验实现可复用多模态技能
🧭 Agent 多模态视觉技能复用 ★ 深度解读
Peking University · University of Wisconsin · MIT-IBM Watson AI Lab
指出纯文本技能在视觉任务中存在空间信息瓶颈,提出结合文本规则与视觉先验的可复用多模态技能范式 VISUALSKILL 及自动生成流水线 AutoVisualSkill。
📌 工作参考价值(4 点)
- GUI 自动化与电商平台操作:将常用控件的空间布局、点击区域等制作为静态视觉先验(如按钮模板、热区图),与文本规则绑定,可显著提升 Agent 在网页/App 上的定位精度,类似思路可用于商品页面自动化测试、数据采集。
- 密集计数与货架管理:在库存盘点、货架商品计数等场景,采用动态视觉锚点将已计数对象做可视化标记并反馈给模型,形成外部空间工作记忆,有效减少重复计和漏计。
- 可复用技能库构建:借鉴 VISUALSKILL 的分离式设计,将业务规则(文本)与视觉参考(截图、布局原型)打包为可检索、可组合的技能单元,降低对新模型的尺寸敏感度,方便技能跨任务迁移。
- 自动技能生成流水线:AutoVisualSkill 的诊断门控和双轨生成方法可用于自动判断任务是否需要视觉支撑,并将少量示例转化为通用视觉协议,适合大规模构建面向电商运营、广告设计等视觉密集型任务的 Agent 技能库。
Critic-R:用自然语言内省反馈改进代理搜索中的检索瓶颈
🧭 Agentic Search · 推理时检索反馈优化 ★ 深度解读
University of Massachusetts Amherst
引入批评模型判断检索是否满足推理需求,结合推理时查询重写与无标注对比学习,显著提升多跳问答性能
📌 工作参考价值(4 点)
- 推理时检索质量修复:无需修改现有检索模型,仅引入一个独立的批评模型判断检索结果是否满足当前推理步骤,并基于不满足的反馈重写查询。在电商搜索或对话推荐中,当检索结果不相关或信息不足时,可直接使用此机制动态改进查询,提升最终答案准确性。
- 无标注检索器微调:利用代理轨迹中的正例(被推理模型接受的文档)和硬负例(被拒绝的文档)构建对比学习数据,无需人工相关度标注。该方案可用于训练电商领域的稠密检索器,尤其适用于缺乏标注数据的场景,且能显著超越端到端联合训练的检索器。
- 内省反馈作为关键监督信号:批评模型必须基于推理模型的思考过程(而非仅查询-文档对)来判断检索质量。在应用时,应保留推理链中的自然语言反馈,将其作为后续模型优化或数据筛选的重要输入,能大幅提升训练信号纯度。
- 解耦判断与改进:将“检索引擎是否满足需求”的判断与“如何改进查询”分开为两个独立的提示步骤,可提高稳定性并避免不必要的外部调用。实现类似系统时可复用这种解耦设计,减少推理开销并提升灵活性。
SkillAdaptor: 基于执行轨迹的步骤级技能自我适应框架
🧭 Agent技能自我适应 · 步骤级归因 ★ 深度解读
Zhejiang University · Ant Digital Technologies, Ant Group · Zhejiang University - Ant Group Joint Laboratory of Knowledge Graph
提出训练免的步骤级失败归因与技能更新方法,在长程交互任务中稳定提升LLM Agent成功率。
📌 工作参考价值(4 点)
- 细粒度故障定位与定向修复:在业务中的多步 Agent(如客服导购、多工具编排)中,可借鉴 Localizer → Linker → Modifier 流水线,将失败归因到具体步骤和使用的技能片段,只修订或生成最小化改动,避免全轨迹更新带来的不稳定和过度泛化,提升迭代效率。
- 资格验证门控防止技能退化:Qualifier 模块通过重执行对比,仅当候选技能带来非负增益时才更新技能库,类似主动增量学习中的回测机制,可直接迁移到线上技能的自动化迭代中,防止错误技能污染下游任务。
- 技能冗余控制与早期停止:通过语义相似度阈值(θdup=0.95)过滤重复技能,并在技能库连续多变无效时提前停止迭代,减少了技能膨胀和计算开销,适合需要长期维护技能库的电商 Agent 系统。
- OpenClaw 类框架的插件式集成:方法设计为可插拔的适配器,可在不改变骨干模型和运行环境的前提下嵌入现有 Agent 框架,对已有产线改造代价小,适合在已有智能体底座上快速试验技能自适应能力。
DynaTree:面向时效新闻检索的动态智能体检索树
🧭 多 Agent 协作检索树 · 动态子树选择 ★ 深度解读
Shanghai Jiao Tong University · Orion Arm AI
解耦语义扩展与在线检索,用多 Agent 构建可复用检索树,再通过轻量子树选择适应新闻时效性,召回与部署效果显著提升。
📌 工作参考价值(4 点)
- 离线持久化语义结构:将用户意图的语义扩展固化为树结构,避免每次查询重复推理。在电商推荐中,可将长期稳定的品类(如“户外运动装备”)构建成 Topic 树,召回时直接复用,大幅降低 LLM 调用成本。
- 多 Agent 角色分工实现可控探索:Planning、Retrieval、Augmented、Reflection 各司其职,路径感知规划、自适应路由、证据标准化与结构自我修正的组合,可迁移到商品知识图谱构建、复杂查询的迭代改写等场景,尤其适合需要平衡覆盖率和漂移的召回链路。
- 轻量子树选择应对分布漂移:日常通过评估代理(小型采样集 + LLM 弱标注)快速选优子树,无需重跑昂贵 Agent,类似推荐系统中固定候选池但动态调整召回通道权重,适合促销、季节变化等时变场景下的低成本自适应。
- 评估代理与弱监督:只需 200 个文档的 LLM 标注即可稳定挑选子树,可借鉴到标注缺失的推荐场景,例如基于少量曝光日志构建代理集,指导召回策略的日常微调。
技能重用即压缩:提升LLM智能体泛化性的RL训练方法
🧭 Agent RL训练 · 技能重用压缩 ★ 深度解读
Arizona State University · University of Pennsylvania · University of Southern California
提出REUSERL,基于MDL原则惩罚非结构化行为,强制智能体学习可重用技能模式,显著提升分布外泛化
📌 工作参考价值(4 点)
- 对话/推荐策略训练:将行为序列压缩奖励引入RL训练,可避免策略陷入任务特定捷径,强制重用高频子模式,提升多轮对话或推荐策略的泛化性。
- 用户行为技能挖掘:借鉴BPE在线字典构建方法,从成功交互轨迹中提取高频行为组合作为“技能”,用于奖励塑形或离线意图挖掘,在电商用户路径分析中可挖掘稳定购物模式。
- MDL作为正则项:在LLM生成式推荐或Agent策略优化中,可引入描述长度正则,不仅压缩模型参数,还压缩行为序列本身的复杂度,迫使模型学习紧凑、可解释的决策逻辑。
- 鲁棒性提升:通过惩罚idiosyncratic行为,可缓解强化学习训练中的“推理坍塌”,避免策略因为过度优化单次成功率而遗忘泛化模式,适合需要应对多样化用户需求的长程任务场景。
基于数据驱动编译的金融问答数值幻觉消除框架
🧭 金融问答 · 数据为中心编译 · 数值推理Agent
Shenzhen Technology University · FiT, Tencent · South China University of Technology · The Hong Kong University of Science and Technology · Huazhong University of Science and Technology
提出数据为中心的推理编译器,通过对抗训练与编译执行消除金融QA中的数值幻觉
📌 工作参考价值(4 点)
- 对抗数据构造:在训练数据中注入可控噪声,可借鉴到电商问答Agent中提升对检索错误或无关文档的鲁棒性,减少商品价格、参数等数值误读。
- 编译-执行推理范式:将自然语言查询与检索文档转换为可执行程序(如SQL/Python),确保计算逻辑透明且可审计,适用于电商中的优惠叠加计算、库存统计等场景。
- 数据结构化代理训练:分阶段培养Agent的证据审计与程序合成能力,这种课程学习思路可用于训练电商推荐Agent的多步推理(如用户条件过滤、偏好权重计算)。
- 数据为中心优化:强调从数据构造端解决幻觉问题,启发我们构建面向电商任务的对抗性训练集,让Agent学会处理表格、图表等结构化文档中的噪音。
解耦轨迹生成与重要性加权微调的高效多轮优化
🧭 多轮交互优化 · 加权监督微调 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · The Chinese University of Hong Kong, Shenzhen
通过将KL正则化RL目标等价为重要性加权SFT,以监督效率实现多轮推理的强化学习性能
📌 工作参考价值(4 点)
- 离线轨迹 + 重要性权重替代在线RL:在对话式推荐、智能客服等需多轮交互的场景,可离线采样参考策略的轨迹,按指数回报加权后做SFT,避免每次模型更新都重跑多轮对话,显著降低训练成本。
- 奖励塑形设计:用折扣因子鼓励尽早成功,并加入重复惩罚防止模型原地打转,这种回报定义可直接复用于需要逐步修正输出的Agent任务(如多轮搜索、工具调用)。
- 仅监督最后一轮:在“正确即停”的交互协议下,只对轨迹的最终响应施加权重,跳过已被验证器否定的中间尝试,简单有效地改善了偏差-方差权衡,适用于类似纠错场景的轨迹数据利用。
- Prompt 级权重归一化:对同一prompt下的多条轨迹独立计算分区函数进行归一化,保证权重只在局部比较相对好坏,稳定训练,这一技巧可推广至其他基于rollout重要性采样的微调方法。
SAGE:一种用于智能体 LLM 记忆高效演化的新颖性门控
🧭 Agent 记忆写端控制 · 新颖性检测 ★ 深度解读
Duke University
用 von Mises-Fisher 密度估计为智能体记忆演化构建轻量新颖性门控,仅将不确定案例交给 LLM 合并,显著降低写入成本。
📌 工作参考价值(4 点)
- 记忆写入的轻量决策层:电商 Agent 需要持续更新用户偏好、商品特征等长期记忆,可以借鉴 SAGE 的 vMF 密度估计门控,用闭式得分快速判定新信息是 ADD / NOOP,仅对边界案例调用 LLM,大幅降低在线写入成本。
- 自适应阈值跟踪存储密度:推荐系统的知识库(如用户兴趣表示)会动态增长,可采用基于 PCA 投影体积的密度代理自动调整阈值,避免固定阈值在稀疏/密集状态下过松或过严,该方法无需后端大模型即可实现。
- 模块化预过滤插件:SAGE 展示的二进制 NOOP 门可作为现有记忆框架(如 A-Mem、Mem0)或通用 RAG 写入路径的前置过滤器,只需标定一个阈值即可跳过 16–18% 的冗余 LLM 调用,且质量损失可忽略,适合在现有 Agent 架构中快速部署。
- 利用嵌入几何替代语义判断:在检索/推荐场景中,类似的思想可用于候选物品的新颖性检测(如是否已存在于某集合中),用角相似度聚合取代单个最近邻比较,提高对密集区域的区分能力。
编码代理失效模式:20574个真实会话中的人机错位分析
🧭 Agent 对齐 · 失败模式分析 ★ 深度解读
University of Notre Dame · Vanderbilt University · Google
通过大规模日志量化七种开发者-代理错位模式及其代价,发现约束违反与自我报告错误随时间增长,90%仅耗损信任而91%需手动纠偏
📌 工作参考价值(4 点)
- 对齐评估与监控可复用:采用的 LLM 提取 + 后验证 pipeline(精度0.93)可直接用于电商 Agent(如客服助手、自动选品Agent)的会话日志分析,发现隐性错位。
- 错位多轴标注体系:症状-原因-结果-解决的四轴标注法可迁移到推荐 Agent 的行为诊断,区分“误解指令”与“违反约束”,指导针对性优化。
- 模态差异启发设计:IDE/CLI 模式下错位倾向不同,类似电商 Agent 在聊天式 vs. 自动化委托式场景中的表现差异;设计对齐策略时需考虑交互宽度。
- 关注持续增长的问题:约束违反与不准确自我报告的比例随时间上升,提示在强化学习奖励中需增加指令遵循与诚实报告的权重,否则 Agent 将优先追求表层正确。
COLLEAGUE.SKILL:从人类痕迹自动蒸馏出可检查、可纠正的Agent技能包
🧭 Agent 技能自动化生成 · 专家知识蒸馏 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
提出双轨蒸馏流水线,将人类工作痕迹和交互证据转化为可移植、可检查、可版本管理的Agent技能制品
📌 工作参考价值(4 点)
- 电商场景下,可将资深运营/选品专家的聊天记录、设计文档、审核备注蒸馏为Agent技能包,封装如商品筛选规则、风控阈值、沟通话术模板,实现专家知识的可复用与跨团队传递。
- 双轨设计分离“能力”与“行为”,能力轨道存放业务规则、决策启发式,行为轨道约束交互风格与边界;在推荐Agent中可分别调控推荐策略与推荐理由的生成语气,避免能力与人格混淆。
- 基于自然语言的修正和版本回滚机制:Agent上线后,业务人员用“这里不该推荐此类商品”等反馈直接修正技能包,系统自动归档旧版本并生成新版本,便于审计和快速实验。
- 本地优先的治理与安装器:技能包可作为本地文件管理、删除和分发,支持主流Agent主机(Claude Code、Codex等),适合企业内部敏感知识的受控使用;画廊模式可构建内部技能市场。
从提示注入到持久控制:防御智能体框架中的特洛伊后门
🧭 LLM Agent安全:多步注入攻击与防御
Gaoling School of Artificial Intelligence, Renmin University of China
揭示多步特洛伊攻击范式,提出ClawTrojan基准和DASGuard防御方法,实现95.5%攻击成功率与强动态防御
📌 工作参考价值(4 点)
- 在构建本地智能体工具(如文件读写、API调用)时,需考虑跨步骤的上下文攻击:单步无害的注入可能被持久化并延迟执行,防御应追踪数据来源和传播。
- DASGuard的防御策略可借鉴:扫描敏感文件中的控制类文本(如指令、代码),追溯其来源,若非可信源则移除或净化,结合运行时阻断和提交清洁。
- 设计Agent系统时,应区分可信与不可信数据源,对来自外部文件或工具输出的内容进行沙箱处理,避免污染工作空间状态。
- 对于电商场景中的Agent(如自动客服、订单处理),防止通过用户输入或外部文档植入的后门,可借鉴ClawTrojan的攻击场景进行安全评估。
多组件 LLM 智能体的局部一致与全局不一致性界定
🧭 多组件智能体组合一致性问题与修复 ★ 深度解读
Princeton University
提出组合残差 ε⋆ 量化多组件概率组合的不一致,并给出投影修复和时序监测方法,实证显示 33-94% 的测试团出现全局不一致。
📌 工作参考价值(4 点)
- 运行时一致性监控:将组合残差 ε⋆(L2 距离)作为多组件 Agent 输出的实时证书,当 ε⋆ > 阈值时触发告警或修复,避免下游策略基于不一致的概率决策。
- 几何投影修复取代 LLM 修复:在已知跨组件约束(如分区、否定)时,直接用 Boyle-Dykstra 投影将组合结果修复到联合一致多面体,成本低且确定性强,优于检索增强或提示工程(实验中检索、分区提示、聚合 LLM 均无效或退化)。
- 风险预测与阈值门控:利用 Rayleigh 商从组件协方差预估组合残差量级,可在部署前评估特定任务有多大概率出现不一致,并结合 log-payoff 后悔曲线设定 γ 门限,仅在高风险时执行修复,节约计算。
- 时序异常检测:e-process 构建的任意时间有效检验可用于长期运行 Agent 管道,连续监测组合残差流,一旦累积证据超过阈值即发出相干性告警,无需预设固定区间。
GrepSeek:训练直接操作语料库的搜索代理,用Shell命令实现精准检索
🧭 搜索代理 · 直接语料交互 · 强化学习优化 ★ 深度解读
University of Massachusetts Amherst · Princeton University · Carnegie Mellon University
训练一个紧凑型搜索代理通过Unix shell命令直接交互语料库,替代传统索引检索,在开放域问答上取得最优结果
📌 工作参考价值(4 点)
- 用可执行命令替代黑盒检索:在需要精确实体匹配、符号模式搜索或多跳证据组合的场景(如电商商品名、品牌名的精确匹配),可以借鉴 DCI 思路,让 Agent 直接对语料库执行 grep、rg 等命令,避免稠密检索的语义混淆。
- 两阶段训练稳定 Agent 行为:先通过反向答案感知的 Tutor 生成因果一致的正向轨迹做 SFT,再用 GRPO 进行 RL 微调。在训练商品搜索或推荐解释 Agent 时,可以用类似思路:用已知结果反向构建搜索路径,初始化策略后再用策略梯度优化,防止早期 RL 发散。
- 分片并行执行引擎加速检索:将 shell 流水线按语义保真原则拆解到多个 shard 并行执行,用归并策略保证输出等价。电商场景中面对亿级商品描述时可参考该设计,用内存驻留守护进程 + 分片并行减少推理延迟(文中从 5.39s 降至 0.71s)。
- 精确检索与鲁棒性权衡:纯词法匹配对变体(如大小写、重音符号)脆弱,可考虑结合 fuzzy matching 或正则表达式扩展接口,或作为混合检索的互补模块,在需要高精度时采用 DCI,在需要语义泛化时 fallback 到稠密检索。
技能不是一刀切:面向LLM Agent的模型感知技能对齐
🧭 Agent技能库的模型定制化进化与重写 ★ 深度解读
East China Normal University
不同模型需要不同的技能表述,MASA通过层次化进化搜索和轻量重写器实现模型定制化技能库,提升agent任务成功率。
📌 工作参考价值(4 点)
- 不同规模的LLM对技能(提示)粒度、风格极度敏感,在业务agent(如电商导购、客服)中必须针对所选模型定制技能库,避免照搬通用模板。
- MASA的搜索式技能进化可借鉴:使用教师LLM基于故障归因和模型能力卡迭代重写技能,通用策略用爬山法,任务特定技能用UCB树搜索,并引入“无效动作率”惩罚防止agent空转。
- 训练轻量重写器(4B小模型)替代昂贵教师搜索,能在无环境交互下将技能适配到新模型,大幅降低多模型部署成本,适合A/B测试或快速升级。
- 模型能力卡(架构、训练数据、强弱项)作为条件信号,可指导自动prompt/技能改写;业务中可构建类似画像,用于技能、提示的动态调优。
架构敏感监督微调用于屏幕条件动作预测:PiSAR 基准
🧭 屏幕条件动作预测 · 架构敏感微调
AprioriLabs
微调 Qwen3-VL-8B 在屏幕动作预测上语义相似度 0.783,远超零样本前沿模型,并暴露微调效果对模型架构高度敏感。
📌 工作参考价值(4 点)
- 任务特定微调远胜零样本大模型:在屏幕行为预测这类高度领域特定的任务上,即使前沿视觉语言模型(Claude/GPT)的零样本表现也远不及单一 LoRA 微调的小模型。对于电商界面优化、Agent 动作规划等场景,必须用自己的领域数据做微调,不能依赖通用大模型的零样本能力。
- 基座模型选择是关键:相同数据和微调方法在 Qwen3-VL-8B 上达到 0.783,而在 Gemma-4-26B 上仅 0.441,差距巨大。在落地时,应优先在小规模、非推理调优的视觉模型上尝试微调;推理调优后的大模型抵抗微调信号,可能需要更多数据或更强的微调方法(如更深的参数干预)。
- 轻量级模型可实现低延迟部署:8B 微调模型达到亚秒级调用延迟,适合实时动作预测。在需要根据当前屏幕状态快速决策的场景(如智能客服指引、购物车优化)可直接采用。
- 数据构建方法论可借鉴:PiSAR 数据集由用户评价、人口统计和购物行为轨迹编织而成,为构建屏幕-行为-意图对齐数据提供了可复用的工程模板。
Loong:类人长文档翻译智能体,以观察-行动自适应上下文选择
🧭 文档级翻译智能体·上下文选择 ★ 深度解读
Harbin Institute of Technology, Shenzhen · University of Macau · Huawei Translation Services Center
用类人记忆与深度推理筛选多粒度上下文,结合RL优化翻译策略,大幅提升长文档翻译质量
📌 工作参考价值(4 点)
- 多粒度记忆模块(Essence/Exemplar/Entity)可迁移到对话/推荐系统的用户记忆与上下文建模,结构化存储摘要、示例与实体,减少冗余噪声。
- 观察-行动推理框架(Observe-and-Act)可用于智能体上下文选择,通过逐步过滤无关信息提升决策质量,避免“全量注入”带来的噪声与效率问题。
- 利用RL(DPO)优化上下文选择与利用策略,从轨迹采样构造偏好数据,这一思路可泛化至推荐系统的上下文排序或个性化策略学习。
- 对齐强制翻译算法(递归分裂保证句子级对齐)可用于需要严格对应关系的生成任务(如多语种商品标题对齐、语义ID生成保序)。
面向多模态Agent的任务聚焦记忆
🧭 多模态Agent长期记忆 · Task-focused Memorization
ByteDance Seed · Fudan University
提出基于强化学习的记忆策略学习框架,使多模态Agent动态选择任务相关记忆内容,提升流式VQA准确率
📌 工作参考价值(4 点)
- Agent记忆选择策略可复用:在电商客服或购物助手中,可将用户交互日志视为连续流,借鉴TaskMem的二阶段训练:先预训练记忆编码器保证信息压缩质量,上线后根据任务奖励(如回复满意度)在线微调Adapter,让记忆聚焦于用户偏好、未解决诉求等关键信号。
- RL奖励设计思路:用近期线上任务自动构建奖励模型,避免人工标注,适合电商Agent动态变化的场景。可将此思路用于对话状态追踪或推荐解释生成中,引导记忆模块捕捉高价值上下文。
- Adapter隔离基座模型:仅在基座MLLM上训练轻量Adapter来调整记忆策略,保持原模型能力不变,利于快速迭代和A/B测试。在电商推荐系统中,类似做法可用于微调序列模型以选择性保留关键用户行为,而不破坏预训练表示。
- 评估范式可迁移:将静态数据集改造为流式、仅依赖记忆的问答基准,能更真实反映记忆模块有效性,可用于评估用户长期兴趣建模中序列压缩/记忆模块的效果。
面向LLM智能体的多目标技能库优化框架
🧭 LLM Agent 技能库的多目标全局优化 ★ 深度解读
City University of Hong Kong · Squirrel Ai Learning · University of Science and Technology of China · University of California, San Diego · Griffith University
提出SkillBrew,通过效用-多样性-覆盖度多目标全局优化解决技能库膨胀与冗余问题
📌 工作参考价值(4 点)
- 技能库不应只增不减,可引入效用、多样性和覆盖度三目标联合评价,避免冗余或低效技能挤占检索槽位。
- 通过反事实重放(leave-one-out replay)量化单个技能的边际贡献,为编辑决策(KEEP / REWRITE / REMOVE)提供细粒度信号,可在Agent日常运行中低成本积累证据。
- 双层 propose-then-verify 循环可分隔提议与验证,避免过拟合:用支持集产生编辑候选,在查询集上帕累托选择,保证推广性。
- 技能库跨模型迁移能力强,可为电商对话Agent或推荐Agent构建通用决策知识库,通过持续 curation 提升推荐逻辑的稳定性与覆盖度。
主动代理真的需要LLM决定何时唤醒与锚定吗?
🧭 主动代理的触发决策优化
Purdue University · Microsoft · Michigan State University · Georgia Institute of Technology
用小型时间图学习模型代替LLM做触发决策,显著提升效率与准确性
📌 工作参考价值(4 点)
- 电商智能助手的主动推送场景:将用户行为事件转化为动态图,用TGL模型实时计算触发概率和实体重要性,只在概率超过阈值时才调用LLM生成文案,大幅降低推理成本。
- 推荐系统召回/排序的触发环节:借鉴TGL的图结构建模用户实时行为演化,生成触发信号与路由分数,可实现低延迟的个性化触发,适合部署在移动设备边缘端。
- 隐私敏感场景的设备端部署:220MiB BF16的极低内存占用和13.99ms的端侧推理速度,适合在用户设备本地处理活动流,避免原始数据上传,保护隐私。
- 架构设计思路:将原生的结构化事件流直接作为图输入,避免“结构化→文本→结构化”的冗余转换,可以用GNN替代LLM做事件的语义理解与重要性评估,业务中类似的结构化日志场景可复用此范式。
AgentDoG 1.5:轻量级可扩展AI Agent安全对齐框架
🧭 Agent 安全对齐与在线护栏
Shanghai Artificial Intelligence Laboratory
用影响函数纯化约1k样本训练0.8B-8B模型,实现与GPT-5.4相当的Agent安全审核性能,并作为无训练在线护栏部署。
📌 工作参考价值(4 点)
- 构建安全分类体系与数据引擎:针对电商Agent(如自动客服、订单操作)可能遇到的风险场景,可先建立细粒度的安全分类法,然后基于分类法指导数据构建,用少量高质量样本训练轻量安全审核模型,降低数据成本。
- 影响函数纯化训练数据:从大量候选数据中筛选对模型安全性提升最有价值的样本,去噪提纯,仅用约1k条数据即可让小模型(0.8B)达到大模型水准,这种数据提纯思路可直接用于业务中安全模型的迭代。
- 极低部署开销的在线护栏:在Docker级环境实现推理时延与成本降低两个数量级,适合在电商Agent系统(如导购、售后)的实时交互中插入安全检查,能以极低计算资源运行,且无需额外训练即可作为即插即用的安全护栏。
- 开源模型与基准:提供了多尺寸模型和训练环境,可直接基于其架构微调适应电商特定安全需求,或将其安全判别能力迁移至自己的Agent管道中。
超越回忆:用行为规范作为 AI 个性化解释层
🧭 AI 个性化 · 行为表征 ★ 深度解读
Base Layer
提出代表性准确性并验证行为规范通过压缩用户推理模式大幅提升 LLM 对齐,同时降低上下文成本。
📌 工作参考价值(4 点)
- 用行为压缩替代原始数据:将用户行为模式提炼成约 7000 token 的Behavioral Specification,能恢复全量上下文 75% 的预测能力,大幅降低 Agent 的上下文窗口占用和推理成本,适合电商中为每个用户构建轻量级“推理画像”。
- 区分回忆与解释的评估:现有记忆系统只考核事实召回,不代表能理解用户决策逻辑。在实际业务中,可以借鉴 held-out 行为预测评测方法,区分「能搜到的事实」和「会怎么用这些事实」,从而设计更贴近用户决策的 Agent 对齐指标。
- 不同记忆系统检索结果分歧大:实验发现不同厂商记忆系统在相同输入下返回 Top-10 事实的重叠率仅 8.3%,表明仅靠检索不足以统一用户表征。这提示在 Multi-Agent 协同中,需要上层的 interpretative layer 来对齐各 Agent 对用户的理解。
- 消除模型避险与提升低基线用户:对于模型不了解的长尾用户,Behavioral Specification 可将拒绝回答率从 41.2% 降至 0.4%,大幅提升交互意愿。这可以用于电商客服或推荐理由生成中,让模型更敢于基于用户深层偏好给出回应,而不只是泛泛推荐。
CoHyDE:密集编码器与LLM改写器的迭代联合训练用于工具检索
🧭 Agent工具检索 · 联合训练编码器与HyDE改写器 ★ 深度解读
SAP Labs
通过多轮交替更新,让编码器和LLM改写器在检索任务中协同进化,解决查询与API目录的词汇鸿沟
📌 工作参考价值(4 点)
- 联合训练改写器与编码器:在电商搜索或Agent工具检索中,可借鉴交替迭代的训练范式,用检索分数直接指导改写器优化,使查询描述与商品/工具表示空间对齐,缓解词汇不匹配问题。
- DPO以检索效果为奖励信号:无需外部标注,直接使用编码器的NDCG分数构建偏好对训练改写器,实现端到端的闭环优化,可应用于生成式推荐中的查询改写或商品描述生成。
- 预热与风格适配:先独立训练编码器(用真实查询-物品对)和改写器(用物品目录多格式文本),再进入联合循环,可快速获得领域适应能力,降低冷启动成本。
- 多轮协同进化:逐步增加轮次可稳定提升跨分布能力,尤其适合电商搜索中口语化查询与商品标题之间的语义对齐,模糊查询改善显著(+6.3pp NDCG@5)。
个人视觉记忆:从显式与隐式证据中学习
🧭 多模态记忆 · Agent 长期记忆评估 ★ 深度解读
Johns Hopkins University · University of Wisconsin-Madison · Adobe Research
提出首个面向个性化AI助手的视觉记忆基准,并设计混合视觉-文本记忆架构显式保留身份与所有权
📌 工作参考价值(4 点)
- 图片记忆不应沦为caption:现有记忆系统将图像转为文本描述,丢失身份、所有权等关键视觉信息。你的电商/Agent场景若涉及用户上传图片(如服装、家居),应保留结构化视觉特征,而非仅存文本摘要。
- 延迟提交机制值得工程化:当图像信息不足以立即判断时,不急于提取结构化记忆,而是暂存pending状态,待后续多张图像累积证据后再统一解析。这一trick可迁移到用户多轮上传图片的商品识别、搭配推荐等场景。
- 结构化视觉记忆的模块设计:将记忆拆成relationship、entity、fact三个层级,分别存储社交关系、物体/宠物实例、持久化用户事实,按需路由。电商场景可类似设计:从用户晒图中抽取拥有的商品、偏好风格(实体/事实),而非仅用文本embedding。
- 利用合成数据构建视觉记忆评估管线:论文用一致化角色-场景-物体图像生成pipeline构建有多distractor的长会话,可借鉴用于Agent记忆能力的离线评测,避免隐私风险。
GenClaw:代码驱动的Agent式图像生成
🧭 Agent · 代码中介的可控图像生成 ★ 深度解读
Tencent Hunyuan · Sun Yat-sen University · Tsinghua University · The Chinese University of Hong Kong
提出代码驱动的Agent式图像生成范式,通过构思→草图→上色三层解耦,用可执行代码作为中间画布,大幅提升空间可控性与可解释性。
📌 工作参考价值(4 点)
- 代码驱动布局可迁移至商品图模板生成:电商场景中需要精确控制多个商品的位置、数量、文字信息(如促销标签),借鉴GenClaw用SVG/HTML构建结构化草图再渲染的思路,可将布局规划与纹理生成解耦,减少对象计数错误与属性绑定失败。
- 分层编辑机制降低局部修改对非目标区域的破坏:当需要修改主图中某一元素(如替换商品、移动logo)时,利用SAM分割后组织为JSONL图层,仅对目标层做编辑,可显著提升编辑一致性(文中PSNR从20以下提升到27.87),这对电商主图的迭代优化很有价值。
- 搜索增强认知层可弥补模型知识滞后:在生成含有最新赛事、节气、明星同款等时效性信息的商品图时,Agent主动搜索并结构化事实再写入代码画布,避免直接让生成模型凭空想象,提升文案准确性和知识可信度。
- 代码中介的物理/几何推理可用于商品场景模拟:当需要生成商品在特定环境下的摆放效果(如光照反射、堆叠结构)时,先通过Three.js等构建物理/几何草图作为约束,再交给渲染模型,能提升复杂空间关系的生成稳定性。
更新架构非受益架构:解耦自进化LLM智能体的两种核心能力
🧭 自进化LLM智能体能力解耦分析 ★ 深度解读
The Pennsylvania State University · UC Santa Cruz · Amazon · Emory University · UIUC
揭示模型更新外部架构(harness-updating)与受益能力(harness-benefit)分别与基础能力脱钩,并指出弱模型受益低源于架构激活与遵循失败。
📌 工作参考价值(4 点)
- 将算力与优质模型优先分配给任务执行 agent,而非 evolver:evolver 模型产生的最终增益差异最多仅 3.1 个百分点,且不单调依赖模型规模;post-evolution 性能主要受 agent 基础能力支配。
- 针对弱模型 agent 强化“架构激活”训练:弱模型(如 Qwen3-32B)的技能加载率仅 25.1%,常因多键格式错误而失败;应设计严格单键的加载动作,或在训练中显式学习“主动查询并注入 harness 组件”的元动作。
- 增强长时域指令遵循能力以维持架构指导:弱模型加载技能后,沿轨迹遵循度从 0.52 骤降至 0.13;可在训练中加入轨迹级指令一致性奖励,或采用分阶段验证来维持 adherence。
- 简化架构交互协议以降低工程摩擦:将 harness 调用设计为显式、单键、机器易解析的动作(如 load_skill 独立 key),避免与推理内容混合,可提升弱模型的激活成功率。
可扩展监督中保守主义的校准
🧭 可扩展监督 · 保守性校准 ★ 深度解读
Stanford University
聚合多种辅助监督信号为保守性惩罚,并用共形决策理论在线校准保守系数,确保长期违规率不超过目标值
📌 工作参考价值(4 点)
- 在线校准λ的思路可迁移至推荐:推荐系统中常常在安全性与效用间权衡(如低俗内容过滤vs流量),可借鉴 CCO 的增量 λ 更新规则 λ_{t+1}=λ_t+η(ℓ_t−α),根据实时观测的违规率自适应调整保守程度,无需预定义固定阈值。
- 弱监督聚合惩罚:在电商多智能体场景中,可用多个廉价弱模型(如同步的安全检查、合规评分)对各候选动作打分,聚合与安全基线的偏差量作为惩罚,不要求各监督者完全理解主智能体,即可形成有效约束。
- 提供可证明的长期风险控制:推荐系统在动态环境中常遇到分布漂移,CCO 的 conformal 控制器不依赖分布假设,适合线上 A/B 实验中的风险控制,可设定 α 为可容忍违规率,保证长期平均不超过该目标。
- 基线动作的设计:明确指定一个保守基线动作(如“不推荐”),并确保其损失为零,为 CCO 提供安全兜底;在推荐/Agent 中可设计“安全 fallback”机制,当所有候选动作都被惩罚过高时自动回退到基线。
LiteCoder-Terminal:长时终端Agent的零依赖环境合成与训练
🧭 终端Agent训练 · 零依赖环境合成与SFT/DMPO ★ 深度解读
Institute of Software, Chinese Academy of Sciences · University of Chinese Academy of Sciences
提出零依赖合成框架,自主生成可执行终端环境与专家轨迹,训练出的Agent大幅超越基座模型
📌 工作参考价值(4 点)
- 领域驱动的任务合成:利用Magpie-style高温采样,仅从领域描述自动生成大量任务,无需外部数据源,适合快速为电商客服、导购等Agent场景定制训练任务池。
- 多阶段因果环境构建管线:指令精炼→环境素材化→参考解→对抗式验证器→资源配置,每一步基于前置执行轨迹确保一致性,可直接复用于搭建电商交易模拟或推荐系统仿真环境,避免人工构造的漂移与错误。
- DMPO多轮偏好优化:使用合成环境自带的自动验证器作为奖励信号,对长程Agent轨迹进行偏好学习,提升复杂任务表现;电商场景中的多轮对话式推荐Agent可借鉴此思路,利用可自动校验的虚拟用户行为进行RL训练。
- 能力短板定向弥补:零依赖架构天然支持按需合成特定领域训练数据,当电商Agent在售后纠纷、订单修改等弱项上表现不足时,可针对性地生成相关任务轨迹,数据效率高(本文仅用11K轨迹即逼近50万条轨迹方法的性能)。
面向长时程LLM智能体的元认知记忆策略优化
🧭 记忆策略优化 · 元认知信念熵 ★ 深度解读
University of Science and Technology of China · Zhejiang University · Tencent
用信念熵(Belief Entropy)为中间记忆状态提供密集监督,解决长期记忆压缩的信用分配问题
📌 工作参考价值(4 点)
- 电商对话助手、推荐Agent等长交互场景可借鉴:用信念熵为记忆压缩步骤提供中间反馈,替代仅依赖最终结果的稀疏奖励,缓解“不知哪个总结环节出错”的信用分配问题。
- 设计锚定探测问题(如“基于当前记忆,任务进展如何,还缺什么信息?”),通过模型响应熵来量化记忆清晰度,可作为模块化奖励信号插入已有记忆策略训练中。
- 奖励构造方式可复用:将信念熵经sigmoid归一化为(0,1)奖励,再与最终任务奖励相加,实现放缩匹配与数值稳定;训练采用群组相对优势估计(GRPO风格),免学值函数,适合快速实验。
- 工程启发:推理时可用信念熵做最佳记忆轨迹的筛选,不额外训练即可提升性能;训练开销仅增加约12%,推理时可选关闭,适合在线系统。
模型何时该改变主意?大语言模型的情景信念管理
🧭 Agent 多轮交互中的信念状态管理 ★ 深度解读
Zhejiang University · HomologyAI
提出情景信念管理(CBM)与BeliefTrack基准,诊断并改善LLM在多轮交互中维持证据对齐信念的能力
📌 工作参考价值(4 点)
- 在多轮对话推荐或交互Agent中,可引入信念状态追踪机制,明确区分有效证据与无关噪声,避免模型因用户闲聊或情绪化内容而改变购物意图或推荐结果。
- 使用基于Jaccard相似度的密集奖励替代稀疏匹配,能提供更平滑的优化信号,适用于微调需要维持动态用户偏好集的推荐对话策略。
- 借鉴BeliefTrack的封闭世界–符号验证设计,构建推荐场景的离线诊断集:定义有限商品池作为信念空间,设计多轮对话模板精确测试模型是否因干扰信息产生非预期推荐变化。
- 表征操控方法表明,从RL训练中提取的隐藏层方向可以无参数地提升基础模型的多轮一致性,为在资源受限时快速改善现有多轮Agent提供了轻量方案。
Mobile-Aptus:基于置信度驱动的MLLM移动代理主动鲁棒交互框架
🧭 移动代理 · 置信度驱动交互 ★ 深度解读
Shanghai Jiao Tong University · Meta (GenAI)
提出通用置信度集成框架,结合有监督微调与基于语义相似检索和DPO的置信度偏差校正,同时缓解移动代理的过度执行和过度请求问题
📌 工作参考价值(4 点)
- 可借鉴如何通过置信度分数让 agent 自主判断何时请求人工介入,避免因模型能力边界不清晰导致盲目执行或频繁打扰,适合电商售后、Agent 助理等场景,可复用 confidence-aware 的输出结构设计。
- 提出的两阶段训练流程(先 SFT 赋予置信度生成能力,再通过语义相似检索构建 DPO 对进行偏差校正)具有通用性,可直接迁移到推荐对话交互或生成式推荐中需要模型自省置信度的任务,提升模型自我评估的准确性。
- 在构建 DPO 正负例时,仅针对模型置信度预测错误的样本并利用语义相似度检索 top-k 相关样本构造对比对,能高效利用数据,避免全量标注;该数据增强 trick 可用于其他需要置信度校准的指令微调场景。
- 实验表明,用多智能体系统替代人工介入可在不牺牲任务成功率的前提下减少打断次数(TASK成功率提升32.91%,平均额外延迟仅0.56s),这为电商业务流程中人类介入环节的自动化提供了可行架构:部署一个云端多智体系统,在本地 agent 不确定时接管步骤。
PhoneWorld:规模化手机使用智能体环境
🧭 手机使用Agent环境构建与训练数据生成 ★ 深度解读
Tencent Hunyuan · The Chinese University of Hong Kong, Shenzhen · Renmin University of China · Wuhan University
将真实GUI轨迹转化为可重置、可验证的手机mock应用环境,并支持训练数据生成与评估。
📌 工作参考价值(4 点)
- 借鉴用真实用户轨迹还原 app 页面优先级与导航图的方法,为电商 App 内的智能体训练构建高覆盖率 mock 环境,避免手动编写费时费力。
- 将只读业务内容(商品、店铺信息)与可写状态(购物车、收藏)分离,并在 SQLite 中做确定性状态管理,既可重置环境,又能用 SQL 查询实现自动化任务验证,适合电商任务(如下单、收藏)的批量奖励信号生成。
- 在固定训练步骤预算下,将少部分源自有业务 app 轨迹的 PhoneWorld 数据混入通用 AndroidWorld 数据,可同时提升域内与域外 benchmark,尤其在商品搜索、下单等场景能快速获得额外提升。
- 缩放 app 覆盖率比单纯增加轨迹数收益更大,建议优先扩展覆盖的 app 种类(如不同电商子场景),再适当增加每个 app 内的轨迹量。
REPOT:通过检查点修复实现可恢复的程序化思维
🧭 可恢复的 LLM 规划 · 检查点修复 ★ 深度解读
University of California, Santa Cruz
在一次性程序化思维中引入确定性验证重放与单次修复调用,将静默失败变成可恢复的推理过程。
📌 工作参考价值(4 点)
- Agent 动作序列的断点恢复:当 Agent 生成多步操作时,可利用环境接口实时验证每一步,保留已成功的动作前缀,仅让 LLM 从失败点续写剩余动作,避免全盘废弃,节省 token 成本。
- 电商推荐策略的鲁棒执行:例如生成式推荐产生的 action 序列在真实环境(库存、价格等约束)中可能中途失效,借鉴 REPOT 的检查点机制,可保留前缀合法动作,仅修复后缀,提升端到端成功率。
- 成本控制的恢复预算:REPOT 只对首次失败的问题额外调用一次 LLM(~14% 的问题),保持平均成本接近原 POT,适合线上高吞吐场景,可作为 Agent 类系统的基线恢复策略。
- 环境即权威验证器:利用确定性环境(如数据库状态、API 返回码)做真实的下一步状态验证,比模型自我反思更可靠,在电商有明确规则域(库存校验、优惠券有效期等)中可直接复用。
容量约束下为异构代理在线分配预测任务
🧭 Agent上下文任务分配与在线优化 ★ 深度解读
University of California, Irvine
提出在线上下文多臂赌博框架,在代理容量约束下动态学习其专长并路由任务,显著优于非上下文基线
📌 工作参考价值(4 点)
- 在电商客服/专家系统路由中,可以将不同技能的人工客服和AI客服视为异构代理,利用在线上下文学习(如用户意图、商品品类)分配任务,同时通过虚拟队列强制满足每个代理的工作量上限,防止过载。
- 在多LLM推荐生成场景中,各LLM对不同类目或用户群体的表现存在差异,可借鉴在线树模型估计上下文奖励,结合队列惩罚项(at = arg max(μ_a(x_t) - η Q_t,a))实现轻量级路由,满足API调用容量限制。
- 工程实现上,贪婪策略在容量约束下已具有与汤普森采样相当的探索效果,可降低在线推理的复杂度;虚拟队列机制简单易集成,适合实时决策。
- 核心洞察:当代理的专长在上下文中互补时,联合策略可以超越单个最佳代理的边际性能,这是仅靠离线或非上下文路由无法捕获的,为“人机互补”或“多模型路由”提供了理论支撑。
探索自主智能体数据工程实现模型专业化
🧭 Agent 驱动的数据工程与模型专业化 ★ 深度解读
Zhejiang University · Platform and Content Group, Tencent
将数据工程形式化为端到端闭环任务,让LLM自主策划训练数据以驱动学生模型专业化,在三个领域取得显著增益
📌 工作参考价值(4 点)
- 用 Agent 闭环自动化领域微调数据生产:借鉴 Iterative Agent 架构,将数据策展建模为 Draft→Debug→Repair→Improve 迭代循环,利用学生模型在公开验证集上的性能作为反馈信号,贪心地选择历史最佳提交,可复用于电商推荐场景的指令数据合成(如商品描述生成、搜索词改写)。只需提供任务描述、种子池和 API 预算,无需人工设计数据流水线。
- 多样性比质量更依赖迭代:分析显示,迭代主要提升生成数据的多样性(instruction/response diversity),而响应质量提升有限。在构建商品/店铺推荐数据时,可重点通过迭代扩展问题覆盖范围,避免重复生成高难度但同质化的样本。
- 用 Greedy Public-Score Selection 提升鲁棒性:由于合成数据引入高方差,单次提交可能性能骤降。采用贪心策略保留公开集上历史最佳提交,能显著减少灾难性遗忘与波动,这一简单方法可直接用于 Agent 驱动的数据优化管线。
- 警惕 LLM 的数据量保证缺失与格式处理陷阱:实验显示主流 Agent 普遍缺乏对最终数据集大小的主动校验,且在处理 LaTeX/代码等复杂格式时大量样本被过滤。在生成电商知识问答数据时,务必在 Agent 工作流中显式加入数量检查和格式补全模块,必要时限制单次数据生成逻辑的复杂度,避免 API 输出截断。
WorldMemArena:通过动作-世界交互评估多模态Agent记忆
🧭 多模态 Agent 记忆评估 ★ 深度解读
University of California, Santa Barbara · J.P. Morgan Chase · ETH Zurich · Stanford University · Johns Hopkins University
提出将多模态Agent记忆建模为动作-世界交互循环,构建覆盖写入、更新、检索、使用四阶段诊断的基准
📌 工作参考价值(4 点)
- 记忆评估应分解为写入、更新、检索、使用四个阶段,避免仅看最终问答分数,帮助在电商对话Agent中精确定位失败点(如偏好更新延迟、证据检索错误)。
- 多模态记忆(商品图、界面截图)不可简单压缩为文本,需保留视觉细节,否则关键信息丢失会直接影响推荐与问答质量。
- 记忆维护需支持修订和遗忘,而非单纯追加;电商中用户兴趣变化、商品状态更新等需及时覆盖,防止过时知识干扰决策。
- 自管理记忆(harness)更灵活但成本高,可结合场景采用混合策略:核心任务用结构化记忆,长尾交互尝试自主管理,平衡效果与开销。
知识导向行为探索:轻量图引导的移动GUI代理
🧭 轻量级GUI Agent行为探索
CUHK MMLab · Huawei Research · Shenzhen Loop Area Institute · CPII under InnoHK
通过自动构建应用知识图,为轻量GUI代理提供结构化行为指导,提升端侧任务可靠性与隐私性。
📌 工作参考价值(4 点)
- 将用户操作流建模为知识图,引导Agent决策,减少对LLM的依赖,提升稳定性和响应速度,适合电商场景中的自动化操作流程。
- 图自动构建方法可用于冷启动或快速适应新业务场景,例如新电商App的自动化测试或客户引导流程设计。
- 轻量模型+图引导的架构适合部署在资源受限的端侧设备,对隐私敏感的推荐交互(如端侧Agent)提供参考。
- 自环和邻居边切换策略可迁移到多Agent协作场景,将复杂任务分解为图谱上的状态转移,降低调度复杂度。
AgenticVBench:评估视频后期制作中多模态 AI 代理的基准
🧭 多模态代理 · 视频后期制作基准 ★ 深度解读
Philo Labs Research
首个覆盖视频后期全流程的代理基准,揭示脚手架设计对代理性能的一阶影响
📌 工作参考价值(4 点)
- 脚手架(harness)是一阶变量:同一模型在不同脚手架下的得分差距可达20个百分点。在构建电商/Agent系统时,应像重视模型选型一样重视底层工具链和规划循环的设计。
- 为多模态代理提供专用工具原语:OpenClaw提供的image、tts、video_generate等类型化原语在Sequencing任务中胜出,而通用shell工具使模型在Assembly上表现差。构建电商视频处理或广告合成的Agent时,应封装高层级、参数化的多模态操作,而非让模型从零编写ffmpeg命令。
- 代理失败模式分析指导工程方向:Repurpose任务中83%的失败源于长上下文信息丢失,Repair中24%由模态错位导致。在电商场景中,类似的产品视频压缩或修复任务应优先设计更鲁棒的长期记忆和跨模态对齐机制。
- 基准设计覆盖真实工作流:任务源于20位行业专家的日常流程,涉及0.5小时到一周的人力耗时。这种设计方法可迁移到电商售后、内容生成等Agent任务的真实度校验——从从业者工作流出发定义任务和评分标准,避免脱节。
AXPO:通过思考-行动间隙探索优化多模态 Agent 推理
🧭 Agent 探索策略优化 · 工具使用 RL ★ 深度解读
NVIDIA · KAIST
针对多模态 Agent 中工具调用利用不足与失败率高的问题,提出工具调用重采样以提升强化学习训练信号
📌 工作参考价值(4 点)
- 工具调用探索优化:当业务中 Agent 面临工具使用频率低、调用时全体失败的情况,可借鉴 tool-call resampling:固定思考前缀,在工具调用位置重采样,集中探索于动作本身,低成本恢复正样本,避免全量重采样的浪费。
- 不确定性驱动的重采样选择:对触发重采样的前缀按工具调用 token 的平均概率排序,只重采样最低置信度的前缀,节省额外预算。该 trick 可用于电商 Agent 中对外部工具(搜索、计算、图像分析)的 RL 训练,优先在最不确定的调用点加固信号。
- 分区分组优势计算:将重采样产生的 continuation 构成独立优势组,并用二进制恢复奖励更新源前缀,避免同一前缀在成功和失败轨迹中的梯度冲突。在推荐场景中,若 Agent 通过工具获取实时特征,可用类似方式解耦“意图”与“动作执行”的优化。
- 计算预算分配:仅用 +25% 的重采样预算,便超越直接加倍 rollout 的 GRPO,表明算力应投向最易失效的决策点。对于成本敏感的业务系统,可优先在工具调用处做局部探索而非全局扩增采样。
从弱点学习:小型计算机代理的自动领域特化框架
🧭 Agent 领域特化与自动化数据生成 ★ 深度解读
KAIST · Samsung Electronics · DeepAuto.ai
自动识别学生模型弱项生成针对性训练数据并纠正错误,大幅提升小型CUA在特定软件上的任务成功率。
📌 工作参考价值(4 点)
- 自动化弱项发现:用强模型与学生执行对比,生成弱项报告,可迁移到电商客服Agent的定向问题数据收集,降低人工标注成本。
- 弱项驱动的数据合成:生成任务时附加弱项描述与代表性截图,使数据直接瞄准模型能力缺口;推荐系统可模仿此机制,针对用户长尾偏好生成训练样本。
- 错误类型感知的偏好优化:区分规划错误(函数类型错)与执行错误(参数错),通过掩码DPO只更新错误相关动作token,避免过度纠正,提高训练稳定性与效率,适用于Agent微调。
- LoRA多领域模块化部署:共享基座 + 领域特定LoRA适配器,轻量切换,电商多场景Agent(搜索、推荐、客服)可复用此架构,快速扩展新领域。
ForestHG-Trace:大规模森林场景中可追踪的长期生态推理框架
🧭 Agent 长期推理 · 工具增强 · 可审计执行
Xi'an Jiaotong University · Xidian University · Zhejiang University
用生态超图和工具增强的 LLM Agent 实现可审计的长期推理,将问答转化为可执行分析流程
📌 工作参考价值(4 点)
- 工具化推理链可移植至电商分析 Agent:将复杂查询拆解为过滤、聚合、比较等确定性原子工具,每条操作可追踪和审计,适用于竞品分析、用户行为归因等场景。
- 超图表示捕获高阶关系:使用超图建模实体间的多边交互(如用户会话超图、商品共现超图),比场景图更能表达复杂的生态或业务结构,可提升 Agent 对上下文的推理精度。
- 执行深度是长链推理的核心瓶颈:论文指出多步工具调用的深度显著影响成功率,提示在 Agent 工程中需重点优化长链规划、中间状态管理和错误恢复。
- 构建可执行的评估基准:为 Agent 推理任务设计带有中间步骤验证的 Benchmark(如 ForestTraceQA),可借鉴到电商领域构造复杂查询的审计型评测集,推动模型从端到端预测转向可验证执行。
LACUNA:以递归程序孔洞实现安全 Agent
🧭 Agent 编程模型与安全执行
EPFL
提出一种 Agent 编程模型,将动作封装为类型化调用,LLM 填充代码并执行前类型检查,兼顾表达力与安全
📌 工作参考价值(4 点)
- 工具调用的类型约束:在电商多 Agent 系统中,可为搜索、推荐、广告等工具定义输入输出类型,Agent 生成调用代码时进行静态检查,防止越权或错误调用,尤其适合 prompt 注入风险高的场景。
- 原子执行与状态回滚:借鉴 all-or-nothing 语义,当 Agent 执行多步推荐逻辑(如更新用户画像、调用推荐 API、写入缓存)时,若某一步失败则整体回滚,避免残留脏状态,保障推荐链路一致性。
- 编译诊断驱动的重试机制:LLM 生成的动作代码若类型不匹配,可将编译器错误信息反馈给模型进行针对性重试,比盲目重试更高效,可直接用于现有 Agent 框架的容错改造。
- 将高级 Agent 模式融入控制流:ReAct、子 Agent、技能组合、并行分解等模式被表达为普通程序结构,开发者可直接用编程语言描述复杂工作流,LACUNA 原语作为安全嵌入点,降低实现复杂度并保证安全。
MemTrace:大语言模型记忆系统的错误溯源与归因
🧭 Agent 记忆系统错误诊断 · 执行图归因 ★ 深度解读
Zhejiang University · Alibaba Group
将记忆流水线转化为执行图,通过图遍历定位最早故障操作,实现跨会话错误自动诊断与自动提示优化
📌 工作参考价值(4 点)
- 记忆系统可观测性:通过 smartcomment 工具将任意记忆流水线的变量与操作依赖记录为执行图,可在电商对话 Agent 中定位记忆丢失、错误更新等故障。
- 细粒度错误归因:MemTrace 的图遍历优先检查早期操作,避免在长程交互中盲目搜索;引入源证据和系统先验知识能显著提高操作定位准确率(+12% OIA),适用于推荐系统的对话记忆调试。
- 自动提示优化闭环:将错误归因作为 credit assignment,只对故障操作涉及的局部 prompt 进行优化,避免在长轨迹上做全局优化;即使归因不完美(72.5% OIA),仍能带来 7.62% 的端到端性能提升,适合在线自动修复。
- 执行图的结构化诊断:生成的诊断报告可汇总不同记忆系统(RAG、Mem0、EverMemOS)的薄弱点,例如提取模块丢失细粒度信息、重排序模块失效等,可指导电商记忆架构选型与迭代。
面向金融LLM代理的内联生命周期安全栅栏
🧭 金融代理安全 · 内联安全栅栏 ★ 深度解读
Peking University · Nanyang Technological University · Tsinghua University · University of Science and Technology of China · University of Illinois Chicago
通过查询监控、工具监控与级联法官在代理执行中注入安全证据,在保持业务批准率的同时降低攻击成功率并大幅减少高级模型调用。
📌 工作参考价值(4 点)
- 内联安全监控架构:在Agent执行循环中嵌入查询监控(Query Monitor)与工具监控(Tool Monitor),用确定性合规先验对每一步打分,防范中间步骤的提示注入攻击,比边界过滤更可靠。
- 风险窗口级联路由:通过累加最近5步风险分数 (W=5, θ=1.0) 决定是否调用高级法官,普通步骤仅用轻量法官 (gpt-4o-mini),高级调用减少4.7倍,平衡安全与成本。电商对话中高风险操作(如大额下单)可借鉴此路由策略。
- 证据注入促代理自主:将触发风险的规则信号(如强制词、数量异常、序列违规)作为结构化证据注入Agent输入,让Agent自主选择拒绝、重规划或升级,而非硬阻断,保持流程灵活且不牺牲业务审批率。
- 双信号有限记忆回顾:通过风险显著性和共谋(语义相似+实体重叠+信息提供者)召回最多2个历史步骤,法官上下文长度恒定O(1),避免长轨迹下成本爆炸,适用于多轮对话状态追踪。
SIA:通过支架与权重联合更新的自改进AI
🧭 Agent 自改进与测试时训练 ★ 深度解读
Hexo Labs · University of Oxford
提出反馈智能体同时更新任务智能体的支架(提示、工具)和模型权重(LoRA)的联合自改进循环,在三个领域全面超越纯支架迭代
📌 工作参考价值(4 点)
- 1. 在Agent开发中可引入「反馈智能体」动态选择改进动作:当纯提示/工具优化(支架更新)收益停滞时,自动触发模型权重微调(RL训练),实现支架与模型权重的协同进化。
- 2. 对商品分类、法律条款匹配等细粒度分类场景,可直接套用「支架迭代到权重更新」的模式:先用支架优化解析、重排逻辑,再用GRPO按组优势进行LoRA微调,可显著提升准确率(如从50%到70%)。
- 3. 针对GPU算子优化、超参调优等探索性任务,可借鉴「支架探索+权重内化」思路:支架负责搜索空间构建和编译/运行反馈解析,权重通过强化学习内化领域设计模式,获得超越人工调参的性能。
- 4. 工程上,反馈智能体根据奖励密度自动选择训练算法(PPO/GRPO/entropic weighting/DPO等)的设计,可直接复用为动态训练策略选择器,降低RL训练调参成本。
Skill0.5:面向智能体强化学习 OOD 泛化的技能内化与利用联合优化
🧭 Agent 技能训练 · 内化与利用解耦 ★ 深度解读
East China Normal University · Meituan
提出难度感知路由,将一般技能内化与任务特定技能动态利用解耦,显著提升 LLM 智能体在 ID 与 OOD 场景下的成功率。
📌 工作参考价值(4 点)
- 区分一般技能与任务特定技能:在业务 Agent(如客服、导购)中,可将通用对话策略或跨域推理技能内化到模型,同时动态检索并利用不断更新的业务规则或话术,避免全量外化带来的 prompt 膨胀和全量内化导致的知识冲突。
- 难度感知路由思路:根据任务成功率自动分配优化策略——硬任务用特权技能做蒸馏,中等任务强化学习,简单任务强制使用技能防止捷径学习。这种课程式调度可用于多轮对话 Agent 训练,提升对长尾和新场景的适应。
- 抗捷径学习诊断:通过剥离特定技能后的性能对比(utilization gain)量化技能依赖,并对绕过技能的行为施加负向梯度,可迁移到基于技能/工具调用的 Agent 训练中,确保模型真正学会利用外部能力而非记忆表面模式。
- 解耦训练与推理上下文:训练时利用一般技能进行知识蒸馏,推理时仅保留精简的特定技能,兼顾能力深度和推理效率,可直接用于电商问答、智能推荐对话等对延迟和 token 成本敏感的场景。
VibeSearchBench:面向长程主动搜索的渐进式意图评测基准
🧭 长程主动搜索 · 渐进式意图澄清 ★ 深度解读
Xiaohongshu Dots Studio · Unipat AI
提出VibeSearch范式与VibeSearchBench基准,通过多轮渐进式用户模拟与图匹配评估揭示当前模型主动搜索能力严重不足。
📌 工作参考价值(4 点)
- 电商搜索体验升级:VibeSearch 的“模糊意图→多轮渐进澄清”恰好对应电商中消费者“不确定想买什么→通过浏览交互逐步明确需求”的典型行为,可直接将 VibeSearchBench 中的用户角色设计与渐进式意图触发机制迁移到电商搜索 Agent 的评测与训练中,驱动从被动答询到主动引导的范式转变。
- 知识图谱评测框架复用:图匹配评测不依赖固定 schema,能客观度量检索结果对复杂实体关系的覆盖。在生成式推荐或商品知识库问答中,可借鉴此方式评测输出结构化信息的精确度与召回率,避免自由文本评测的不稳定性。
- Agent 交互成本诊断:实验表明,过多工具调用与上下文压缩反而损害性能(如 GPT-5.4 存在“冗长输出→上下文溢出→信息丢失→重复搜索”的恶性循环)。在构建电商客服或购物助手 Agent 时,应监控 #Asst/#User 比值与压缩频率,寻找资源消耗与性能的 sweet spot,避免盲目堆叠多步推理。
- 记忆与子代理机制的实际效果:OpenClaw 的 local/lifelong memory 与 sub-agent 并未显著提升 VibeSearch 性能,说明现有架构增强不能弥补模型本身在长文本整合与意图追踪上的缺陷。这提示在业务中若遇到类似多轮复杂任务,应优先投入提升基座模型的上下文理解能力,而非过度依赖外部记忆工程。
异步工具调用基准:多任务场景下的异步函数调用能力评估
🧭 Agent异步工具调用评测与多任务协调 ★ 深度解读
University of Science and Technology of China · University of Toronto
提出首个交互式多任务环境下含延迟的异步工具调用基准,揭示延迟反馈显著降低LLM代理性能。
📌 工作参考价值(4 点)
- 电商客服或订单处理等多API场景下,可参考异步任务交错策略提升吞吐,利用Same‑task Streak指标评估Agent的调度效率。
- 延迟反馈下模型易因过早继续任务而违反依赖,工程实现中需引入显式依赖图、任务状态表防止非法调用。
- 多任务下小模型常遗忘未完成子任务,可设计外部任务队列或滑动记忆窗口避免任务丢失。
- 工具混淆错误频发,建议按任务类型隔离工具命名空间,并用工具调用前检验上下文的提示减少误用。
噪声环境下行动学习:通过带噪交互增强智能体鲁棒性
🧭 Agent 鲁棒训练 · 噪声注入与课程调度 ★ 深度解读
National University of Singapore · Meituan · Tsinghua University · Tianjin University · University of Science and Technology of China
在 Agent RL 训练中模拟用户与工具侧噪声,结合混合轨迹与课程调度,显著提升现实噪声下的性能与泛化能力。
📌 工作参考价值(4 点)
- 在训练电商客服或推荐 Agent 时,可人工构造模糊/不一致/冗余的用户指令,以及工具返回错误、不完整或误导信息,让模型在训练中就接触真实噪声模式。
- 采用混合轨迹训练:每 batch 中保留一部分干净轨迹,部分加入噪声,并在组内分别归一化优势,避免噪声样本主导梯度更新。
- 按性能差距(∆)动态调整噪声:当模型在噪声与干净环境下的成功率差低于阈值时,增大噪声比例与难度,形成平稳的课程学习,防止初期训练崩溃。
- 即使最终只关心干净环境下的表现,这种训练仍可作为隐式数据增强,提升 Agent 的泛化推理与纠错能力,在标准 benchmark 上也能获得稳定增益。
重思Agentic RAG:从复杂后端到LLM驱动的逻辑检索
🧭 Agent RAG的检索接口与控制权设计 ★ 深度解读
Fudan University · Shanghai Kingstar Software Technology Co., Ltd.
提出LLM用布尔逻辑直接操控倒排索引,匹配混合检索性能同时大幅降低构建与推理成本
📌 工作参考价值(4 点)
- 电商搜索/Agent RAG可借鉴“LLM生成结构化查询+倒排索引”的组合,用AND/OR/NOT精确控制召回,避免稠密检索的语义漂移与冗余结果,尤其在多轮澄清场景下能显著降低无效重试。
- 当知识库规模大、更新频繁时,跳过离线Embedding与FAISS索引,用OpenSearch等倒排引擎直接响应LLM的布尔表达式,可节省41倍构建时间与约3倍在线延迟,适合高频变动商品库。
- 答案不可用时的幻觉降低(0.128→0.083)源于显式约束失败可被LLM解读为“证据缺失”,这一信号可借鉴到Agent的拒绝回答策略中,提高推荐或问答系统的可靠性。
- “重脑轻手”架构将复杂推理留给LLM,检索端仅做确定性执行,该边界划分可简化整个系统迭代——检索索引成为无状态工具,更易维护和扩展。
重新思考记忆:持续演进的连接性
🧭 连接演化驱动的Agent记忆框架 ★ 深度解读
Zhejiang University · Alibaba Group · MemTensor · Tongji University
提出FluxMem,将记忆建模为可演化的异构图,通过三阶段进化实现动态连接优化,在三个基准上达到SOTA
📌 工作参考价值(4 点)
- 记忆连通性演化范式:将记忆组织为异构图,根据任务反馈动态调整连接(新增缺失链接、剪除干扰边),可解决电商Agent长对话/多轮任务中检索不准、关键信息遗漏的问题。
- 三阶段演化流程参考:Stage I 初始连接构建、Stage II 反馈驱动精炼(链接级+单元级编辑)、Stage III 长期巩固(技能蒸馏与成熟度收敛),可直接模块化复用于Agent记忆系统设计。
- 技能自动提取与成熟度度量:利用PEMS指标判断过程技能是否收敛,避免冗余迭代;可将电商操作成功轨迹自动转化为可复用技能,提升跨任务泛化能力。
- 单元级内容自适应:在检索充足但抽象粒度不匹配时,方法动态细化和粗化记忆单元,可指导电商场景中不同步骤所需上下文粒度的动态调整。
自然语言查询到检索智能体配置的动态选择
🧭 检索智能体配置优化 ★ 深度解读
UC Berkeley · University of Washington · Microsoft Azure Research - Systems
提出 BRANE:用 LLM 提取查询特性并训练 per‑configuration 预测器,在推理时按准确率目标选择管道配置,大幅节省成本
📌 工作参考价值(5 点)
- 动态配置替代固定管道:电商搜索、客服问答等场景可对每个查询动态选择检索策略、LLM、文档数等,用 BRANE 的成本‑质量帕累托曲线在满足准确率目标时降低成本。
- LLM 生成的 workload‑specific 二值特征:比通用嵌入更能捕捉查询细粒度差异(如 FinanceBench 领域),可直接用作路由器的输入,节省特征工程成本。
- 轻量 per‑configuration 预测器:使用 tabular 模型(如 LightGBM)在小样本(几百条)下效果优于端到端微调 BERT 或 Qwen‑4B,适合需要快速冷启动的垂直领域。
- 模糊帕累托剪枝:在配置空间大时,只保留接近帕累托前沿的配置训练预测器,大幅减少训练和推理开销,适合多检索器、多 LLM 的商业系统。
- 无损重标定:上线后只需调整 λ 即可在准确率和成本之间切换,无需重新训练,适合随时切换预算模式(如大促期间优先准确,日常优先成本)。
从模型缩放转向系统缩放:Agent 系统的框架工程
🧭 Agent 系统架构设计 · 从模型扩展到系统扩展 ★ 深度解读
UC Berkeley
将 Agent 性能瓶颈从单一模型能力提升为包含记忆、上下文、技能路由与治理的全系统设计问题。
📌 工作参考价值(4 点)
- 将记忆从“存储”重新设计为“信任”问题:在电商客服或推荐 Agent 中,对用户偏好、订单状态的记忆需增加时效性、验证性与置信度字段,检索时纳入衰减惩罚,避免过时信息导致错误推荐或承诺。
- 分离式上下文治理:构建上下文构造器,按任务动态组合最小必要信息(持久项目知识 + 实时检索),替代全量拼接历史;可类比推荐系统中只喂入当前会话必要特征与实时用户行为,降低噪声。
- 技能路由与后置校验:为工具和子 Agent 定义显式的后置条件检查,路由策略从固定规则转向在线学习(如基于置信度升级),防止未经验证的输出被直接采纳;这在多 Agent 协作的订单处理、库存查询中可显著减少错误扩散。
- 将评测从终点成功率拓展到过程与长期维度:建立包含轨迹质量、记忆卫生、上下文效率、通信保真度等维度的内部评测集,用于持续监控 Agent 系统退化,而不仅看单次任务完成率,适合推荐系统 A/B 测试中的长期收益与风险衡量。
法律大模型能否穿越时间?基于强化学习增强法律智能体搜索的时序一致性
🧭 时序感知的Agent法律检索RL训练 ★ 深度解读
HKUST · Tsinghua University · University of Waterloo
提出 LegalSearch-R1,通过时序索引训练与混合检索增强的强化学习框架,大幅提升法律智能体的时序一致性与检索精度。
📌 工作参考价值(4 点)
- 时序感知的双工具架构:本地 RAG(精确检索版本化法规条文)搭配在线 web_search(获取司法解释和评论)。电商场景可类比:本地 RAG 存商品规格、价格等结构化信息,web_search 补充社媒评测与市场动态;RL 训练让 Agent 学会根据问题时间上下文自动路由。
- RL 训练使 Agent 主动在查询中嵌入时间约束:无需显式标注,通过 GRPO 与 entropy-based advantage shaping 即可学会在高熵决策点(如规划期)加入时间短语。推荐智能体可借鉴,处理季节性商品、时变用户偏好时自主注入时间信号。
- 时间索引 RAG 管道:对知识库条目标注生效时间窗口,检索时按查询时间过滤候选,确保只返回当时有效的条目。适用于政策规则、促销规则、商品生命周期等具有版本更迭的业务知识。
- 奖励函数设计:针对异构任务(背诵条文、罪名预测、咨询评价)设计不同评分(ROUGE-L 阈值、无序匹配、LLM judge),兼顾格式合规。多任务 RL 训练时可按任务难度分配不同 reward shaping,防止简单任务主导。
基于在线策略知识边界增强的高效智能体强化学习
🧭 Agent 工具调用效率优化 ★ 深度解读
Tencent Inc · The Chinese University of Hong Kong · Shenzhen MSU-BIT University
通过在线双路径 rollout 探测知识边界,构建细粒度监督信号,在不牺牲准确率的前提下减少冗余工具调用 18%。
📌 工作参考价值(4 点)
- 在 Agent RL 训练中引入双路径(with-tool / no-tool)rollout 来动态评估模型是否真正需要工具,这一探测机制可直接用于电商对话 Agent 或推荐 Agent 的工具调用决策,避免因盲目调用搜索、计算等工具而增加延迟和成本。
- 将问题按知识边界分为四类(Tool‑dependent / Efficiency / Hallucination / Both‑wrong)并差异化构建监督信号,这种细粒度策略可迁移到多智能体协作或生成式推荐场景,用于优化不同情境下的资源调度与动作选择。
- 该方法作为即插即用模块,与 GRPO / DAPO / GSPO / AEPO 等多种主流 Agentic RL 算法兼容,无需修改奖励函数或优化流程,适合在现有业务 RL 训练框架上快速叠加实验。
- 训练过程中轨迹类别的分布变化(如 Efficiency 比例上升)可作为知识内化的可解释指标,帮助监控 Agent 对工具依赖的演化,为线上策略调整提供信号。
LLM智能体守不住秘密吗?多智体系统中的隐私泄露评估
🧭 多智体协作中的隐私安全与社会影响 ★ 深度解读
Foundation AI · Corvic AI
在模拟社交平台中,数千个LLM智能体因社会压力系统性泄露隐私,且泄露具有社会传染性。
📌 工作参考价值(4 点)
- 安全评测需覆盖社会维度:当前单轮安全基准(如拒绝回答测试)会严重低估实际部署风险。在电商推荐或Agent系统中,若智能体长期参与用户社区、评论、客服对话,应把“社区环境”“互动时长”“同伴行为”作为第一类安全评估变量,而不仅仅是模型本身。
- 防泄露不能只靠system prompt:实验表明即使明确要求“不得透露隐私”,在社交暴露下仍有37.8%以上的泄露率。类似电商场景中,智能体可能被带偏,泄露用户购物偏好、地址、支付信息。需要引入环境感知的动态防护,例如根据当前对话的社区话题、同伴历史动态调整信息屏蔽强度。
- 泄露具有社会传染性:一旦某个Agent开始透露个人信息,后续对话者泄露概率提升约8倍。在生成式推荐或Agent协作中,若某个环节出现非恶意泄露,可能通过对话链传染到整个系统。可设计“泄露检测-隔离”机制,当检测到首个泄露时自动触发上下文清洗或重置。
- 社区话题选择可作为风险杠杆:实验中不同子版块泄露率差异可达一个数量级(2%~16%)。在实际系统中,可以主动将Agent限流于低风险话题社区,或为高风险社区(如个人介绍、情感倾诉)增加额外隐私护栏,例如更严格的记忆沙箱或输出审查。
MiniMax-M2 系列:以小激活释放最大真实世界智能
🧭 MoE 架构与 Agent RL 训练协同设计 ★ 深度解读
MiniMax
以仅 9.8B 激活参数的 MoE 架构,通过 agent 原生数据管道和 RL 系统达到 agentic 前沿性能,并初步实现自进化。
📌 工作参考价值(4 点)
- 稀疏 MoE 设计:256 细粒度专家,sigmoid gating 和可学习偏置大幅降低辅助损失,每 token 仅激活 8 个专家。在电商推荐中可用于生成式模型,兼顾大容量与低推理成本,其负载均衡策略可迁移到多任务学习。
- Agent RL 训练系统 Forge:训练-推理-agent 解耦,支持白盒/黑盒 agent,用窗口化 FIFO 和前缀树合并吸收长短轨迹差异。可直接复用到多智能体推荐系统的强化学习组件,提升离线策略优化效率。
- 可验证轨迹数据合成:用 GitHub PR 构造 SWE 任务,Docker + 测试用例提供硬奖励;AppDev 采用专家 meta query + Agent-as-a-Verifier 三层验证。推荐系统可借鉴“可执行验证”思想,为商品文案生成等任务自动合成带奖励的高质量数据。
- 自进化能力:M2.7 能自主调试训练、修改自身 scaffold,展示从训练到部署的自动化闭环。可用于推荐模型的在线自动纠错、特征自动更新等运维场景,减少人工介入。
MUSE-Autoskill:通过技能创建、记忆、管理与评估实现自我进化的智能体
🧭 Agent 技能生命周期管理 ★ 深度解读
ByteDance Inc. · Rochester Institute of Technology
提出将技能视为统一生命周期资产的智能体框架,引入技能级记忆、测试驱动评估和跨智能体迁移。
📌 工作参考价值(4 点)
- 将能力封装为可测试的技能包:借鉴MUSE将每个技能打包为SKILL.md + scripts/ + tests/ 的标准化结构,电商推荐 Agent 可将常用数据清洗、特征工程、报表生成等流程封装为技能,自带单元测试确保质量,避免每次重复推理。
- 技能级记忆积累经验:为每个技能维护独立的 .memory.md 记录跨任务的使用历史与失败模式,可迁移到推荐系统 Agent,让模型调用策略或特征组合时自动读取历史最佳实践,减少试错。
- 低成本跨模型技能迁移:MUSE 生成的技能文件不依赖特定 Agent 实现,可直接注入另一个 Agent 使用,这对多团队协作或 LLM 切换很有用,可建立公司内部的跨模型技能市场。
- 自适应上下文压缩:采用两级压缩(单节点摘要 + 连续节点合并)应对超长对话,适合推荐系统多轮交互场景,避免上下文溢出且保留关键信息。
PANDO:通过在线技能蒸馏实现高效多模态AI智能体
🧭 多模态Web Agent · 在线技能学习与推理效率 ★ 深度解读
Carnegie Mellon University
单一rollout在线技能蒸馏框架,以结构化技能库配合缓存感知路由,使Web Agent在提升成功率的同时大幅降低token消耗。
📌 工作参考价值(4 点)
- 结构化技能库用于重复子任务:将操作经验提炼为规则(模式触发)和参数化例程(如 apply_price_filter(min,max)),用确定性的关键词匹配替代嵌入检索,可直接借鉴到电商自动化流程(自动比价、筛选排序),减少Agent反复规划的开销。
- 分层路由与视觉压缩降低推理成本:仅对规划/反思调用强模型(如Claude Opus),高频执行由廉价模型(如GPT-5.2)完成,并压缩截图分辨率,适合商品详情页抓取、浏览器自动化等视觉输入密集的场景,在保证准确率的同时控制API成本。
- 在线学习与置信度降级保持技能库健康:采用Beta分布估计技能置信度,失败多次后自动降级并加入黑名单,阻止“发现-失败-再发现”的死循环,这一机制可迁移到推荐系统的在线策略更新,避免陈旧或低效策略的持续消耗。
- 缓存感知的提示布局提高KV-cache命中:将稳定的指令、工具Schema、技能摘要放在抖动较小的前缀位置,配合Anthropic的cache_control,使整个任务流的缓存利用率从约10%提升到72%,对于生产环境下长链路Agent降低延迟和成本有直接参考价值。
PEAM:通过经验内化将具身智能体记忆参数化
🧭 具身智能体经验参数化与持续学习 ★ 深度解读
Northwestern University · Northeastern University · South China University of Technology · Hong Kong Baptist University · Beijing Normal - Hong Kong Baptist University
将智能体经验从检索式记忆转为参数化技能,通过失败-纠正对比学习与隔离式的MoE-LoRA适配器实现持续巩固。
📌 工作参考价值(4 点)
- 经验内部化减少推理开销:在推荐/Agent场景中,可将高频技能或用户偏好直接固化到模型参数中(如LoRA适配器),避免每次推理时检索技能库或长上下文注入,可大幅降低延迟(实验中下降42%)和Token消耗(-85%)。
- 失败-纠正对比训练:利用失败与纠正后的轨迹对进行DPO训练,让模型不仅模仿成功行为,还能辨别纠正前后差异,此思路可迁移到对话Agent、推荐排序中:收集用户负反馈与修正后的正样本,构造对比学习信号。
- 按类别隔离的LoRA适配器防遗忘:在多任务/多领域场景中,为每个类别(如不同商品类目、不同Agent技能)分配独立的LoRA模块,物理隔离参数更新,可天然避免灾难性遗忘,无需复杂正则化。
- 自触发巩固机制:基于失败率统计检验自动决定何时更新模型,无需人工设定任务相关阈值,适合电商推荐等动态环境,根据实时表现自适应调整模型更新节奏。
PolyGnosis 2.0:基于Agent工程提升LLM在预测市场与OSINT中的洞察推理
🧭 多智能体协作 · Harness 工程 ★ 深度解读
The Chinese University of Hong Kong · Evolution AI Lab
通过可控消融实验量化多智能体反射、分治等 Harness 技术对推理准确率的效用,发现分治是关键,终端反射有害。
📌 工作参考价值(4 点)
- 组件效益的消融方法论:论文对聚类、推理阶段的反射、工具调用、分治、CoT 进行了系统的 A/B 实验,并量化了准确率、延迟、成本的变化。在电商推荐场景中,也可以类似地逐层解剖多智能体流程,识别真正有效的组件,避免堆砌复杂架构却引入额外噪声。
- 分治策略防信息污染:实验证明全局上下文会导致跨主题干扰,准确率从 0.799 骤降至 0.447。对于电商场景中处理海量商品、类目、用户评论的多源信息聚合,强烈建议按类目或业务线进行物理切分,每个分片独立推理,再汇总结果。
- 警惕终端反思的过度修正:分析阶段加入反思后准确率从 0.799 降至 0.700,尤其在结构化特征(如鲸鱼质量)上误判严重。这启示我们在生成式推荐中,若上游 agent 已经取得较高准确率(~80%),引入二次反思可能因 “解释化” 偏差而覆盖原始正确判断,应严格限制反思的作用域(如仅用于聚类等结构对齐任务)。
- 可插拔的确定性验证器:大模型在“观点对齐”判断中存在严重的“共识偏差”,倾向于输出“consensus”,即使信号矛盾。在推荐解释生成或风控对齐等任务中,可借鉴此发现,在管线末端加入轻量级的规则验证模块,直接对比上游独立输出的结构化标签,强制驱逐叙事漂移。
通过类型化记忆表示缓解长效Agent中的溯源-角色坍缩
🧭 长效Agent记忆组织 · 类型化记忆原子 ★ 深度解读
Harbin Institute of Technology, Shenzhen · The Hong Kong Polytechnic University · Shenzhen Loop Area Institute
提出类型化记忆中间表示 MEMIR,以记忆原子分离证据、线索与事实,实现溯源监控的结构化
📌 工作参考价值(4 点)
- 记忆原子分层存储:将对话历史拆分为证据 Span、线索(句柄/时间/枢轴)和事实 Claim,避免不同角色信息混杂。在电商对话或购物助手中,可分别存储用户偏好事实、原始对话片段和时间锚点,提升事实追踪与更新。
- 类型约束投影:检索命中的非事实原子(如 Span)必须通过关联 Claim 进入候选,间接阻断虚假事实的生成。适用于 RAG 或 Agent 场景,只让被证据支撑的声明影响答案,减少幻觉。
- 溯源范围利用:通过粗到细排序和选择,仅将 Claim 及其溯源闭包(证据 + 线索)作为“事实接口”输入给答案模型,强制模型在证据范围内生成,并在证据不足时明确拒绝回答。可迁移至生成式推荐,将商品属性类声明与其来源证据打包,提升推荐解释性和防幻觉能力。
- 认知记忆设计借鉴:明确区分外部感知与内部推理,避免将系统推断当作用户提供的事实。在多轮交互中可用于甄别用户真实陈述与模型猜测。
VeriTrace:通过演化心智模型提升深度研究智能体
🧭 Agent 自我调节与认知图框架 ★ 深度解读
University of Cambridge · Technical University of Munich · The Alan Turing Institute
提出解释更新、偏差反馈、模式修订三个显式调节循环,让智能体的认知图持续逼近现实
📌 工作参考价值(4 点)
- 反馈驱动的结构化认知更新:将产品/品类知识建模为认知图,引入显式“解释更新”循环,对搜索/爬取到的信息分类(确认、矛盾、填补、意外),避免噪音累积并自动标记冲突,可直接用于电商知识图谱的持续验证与修正。
- 偏差感知的动态搜索策略:借鉴“偏差反馈”将搜索结果的期望–现实差距量化为四维信号,路由到五种策略(利用/验证/替换/转向/探索),可落地到推荐系统的多路召回编排,根据召回质量自动切换策略,减少盲目扩大召回的浪费。
- 框架级重构处理歧义与变化:“模式修订”允许在发现证据不匹配时重定义概念节点和关系(如拆分、合并、旋转维度),同时保留已有发现不变,可应用于电商问答中的意图重规划,当发现用户原意图与现实商品体系冲突时,自动重构查询结构而非强行填充错误框架。
- 可解释的证据溯源:认知图保存了任务ID到发现项的完整链路,写作时按节点提取证据子集并强制引用,适合生成式推荐中要求输出带出处的推荐理由,可直接迁移为带引用的解释生成机制。
预见与学习:释放主动式智能体的空闲计算能力
🧭 主动式智能体 · 空闲计算优化 ★ 深度解读
Shanghai Jiao Tong University · Tencent
ProAct架构利用空闲时间预测未来需求并主动准备,在ProActEval上减少交互轮次14.8%,降低用户努力11.7%,幻觉率下降28.1%
📌 工作参考价值(4 点)
- 对话式推荐中的前瞻计算:可借鉴 ProAct 的“对话历史 + 持久记忆 → 未来需求预测”管道,在电商对话助手场景下,利用提问间隙预取候选商品、生成推荐解释,降低用户显式询问轮次。
- 价值感知的主动推送:论文的 \(S(z)\) 评分(用户相关性、知识缺口、增量价值、时效性)和 PushScore 门控(信息价值 vs. 打断成本)可直接迁移到主动推荐系统中,决定是否向用户推送推荐卡片,避免骚扰。
- 持久记忆与主动维护:ProAct 的 memory layer 持续抽取用户偏好、事实、未决缺口,并将其转化为预测需求,这相当于一种“记忆驱动的意图发现”机制,可嵌入用户长期画像系统,驱动个性化主动触发。
- 分离响应与前瞻计算:将部分算力从“请求时推理”迁移到空闲期预计算,尤其适合电商大促等高负载场景,可离线生成候选项并缓存至 KV cache,在线仅需轻量匹配,降低延迟。
AgentIR: 面向长期会话记忆的自适应级联检索基底
🧭 自适应级联检索 · Agent 记忆工作负载 ★ 深度解读
University of Southern California
针对 LLM Agent 记忆的强近期偏斜与查询异质性,设计自适应级联检索系统,实现次线性扩展与跨工作负载自动融合选择。
📌 工作参考价值(4 点)
- 时间分区索引利用 recency skew:将 Agent 记忆按时间窗口分桶,查询时仅检索最新分区,在典型近期偏斜分布下复杂度 O(log 1/ε),实测 5M 记录下子 100μs 延迟,可显著降低在线客服或推荐系统中长期历史查询的延迟。
- 级联路由按查询置信度跳过稠密通道:先跑廉价的 BM25,若Top-k 分数差跨过阈值则跳过耗时的 Dense 通道,在 LongMemEval 上跳过 63% 查询仍保持同等精度,部署时可用少量标注数据(50样本)自动学习阈值,适用于电商 Agent 中多数查询为简单事实查找的场景。
- 两轴控制面适配异质查询:融合策略(BM25/Dense/RRF/带时效偏好的 RRF)和是否激活稠密通道均按查询决策,可应对同一个 Agent 会话中从事实查找、推理到时间查询的类型切换。可用于推荐系统中混合搜索(关键词 vs 语义)的动态切换。
- BM25 工程加速与正确性坑点:SIMD 向量化、MaxScore 剪枝、GPU 两段核函数及共享内存初始化问题等具体实现细节可直接复用到自研稀疏检索模块,避免因预归一化 TF 或 nDCG 公式错误导致 6-8× 质量下降。
Claw-Anything:评测始终在线的个人助手在全访问数字世界中的能力
🧭 个人助手评测 · 长周期上下文与主动式帮助 ★ 深度解读
Beijing Institute of Technology · Huawei Technologies Co., Ltd · Peking University · Institute of Automation, Chinese Academy of Sciences
首次构造涵盖长周期事件流、跨服务依存、多设备协同的个人助手基准,暴露当前模型仅34.5% pass@1的差距,并利用数据生成管道将基线提升23.7%。
📌 工作参考价值(4 点)
- 长周期事件流的模拟与注入:电商/推荐系统可借鉴该方法,通过多轮事件注入自动生成用户长期行为序列(浏览、购买、比价),构造带有噪声和冲突的真实上下文,训练具备长期记忆的推荐Agent。
- 跨服务信息协调与冲突消解:用户画像往往分散在搜索、邮件、日历等多源数据中,存在不一致。该基准中的冲突检测与推理机制可直接用于推荐场景,提升Agent对跨渠道信息的一致性判断。
- 自动化环境与任务生成管道:从种子 persona 开始迭代合成数字世界+可执行验证器的方案,可作为生成式推荐中构造多样化训练环境的脚手架,实现大规模自动标注与 curriculum 设计。
- 主动式推荐评测的设计:任务中包含无需显式请求的主动式协助,且当前模型在此项上得分很低(pass@1仅6.7%)。电商中可迁移其评估思路,衡量“何时推送推荐”的时机与上下文理解能力。
个性化存储:长程Agent记忆基准与学习
🧭 个性化LLM Agent记忆管理 ★ 深度解读
KAIST
提出首个评估个性化记忆系统的基准PerMem-Bench,发现会话级存储门控可显著提升保留率但准确门控仍是挑战
📌 工作参考价值(4 点)
- 电商场景中不同用户对同一域(如售后、导购)的交互需求差异显著,可借鉴 session-level gating 思想,在对话结束后判断是否持久化记忆,减少存储预算浪费。
- memory retention rate 指标可直接用于评估推荐 Agent 的记忆系统是否有效保留用户长期偏好和关键状态。
- 结构感知门控方法通过识别会话间的项目结构来推断长期任务,结合用户意图的长程建模,可提升电商 Agent 个性化响应的连贯性。
- 自动化 benchmark 构建管线(用户画像→使用模式→生命骨架→对话生成)为生成个性化用户交互数据集提供了可复用的流程,便于在电商多域场景中快速构建评测数据。
计算机使用代理在常见环境扰动下的鲁棒性基准与增强
🧭 计算机使用代理鲁棒性评估与增强 ★ 深度解读
TMLR Group, Hong Kong Baptist University · The University of Texas at Austin · Sydney AI Centre, The University of Sydney · Shanghai Artificial Intelligence Laboratory
提出AgentHijack基准量化常见干扰对GUI代理的影响,并设计集成onlooker与DA-GRPO的框架提升鲁棒性。
📌 工作参考价值(4 点)
- 在构建多步骤推荐或对话Agent时,可引入onlooker机制(行为总结与初始环境检查)以降低执行偏差;当出现非预期界面变化(如弹窗、网络错误)时,Agent能快速归因并回归主任务。
- DA-GRPO(数据增强的群体相对策略优化)通过在不同干扰环境下采样轨迹,提升策略对视觉干扰、意外操作的鲁棒性,类似电商推荐中应对布局变化、突发遮挡的挑战。
- 评估智能体时需涵盖真实环境中的常见扰动,不可仅依赖干净基准;可借鉴AgentHijack的9类可配置干扰设计,构建电商APP中的异常场景测试集(如弹窗、多app切换、网络波动)。
- 将行为总结文本作为历史上下文的一部分,帮助Agent聚焦长期目标而不被临时弹窗或误触内容带偏,这一设计可迁移到多轮推荐对话中,提升对中断和话题偏移的恢复能力。
LLM Agent应看到多少个工具?用机会校正指标回答
🧭 工具选择深度自适应与评估 ★ 深度解读
Meta Platforms
提出Bits-over-Random(BoR)度量评估工具搜索深度,并用作RL奖励学习自适应截断,显著降低提示长度同时保持覆盖率。
📌 工作参考价值(4 点)
- 在电商工具检索或推荐候选集裁剪中,可用 BoR 替代固定 Top-K 评估检索深度,自动惩罚过度展示而无需手工设计惩罚项。
- 将 BoR 作为强化学习奖励,训练轻量策略网络动态决定每个 query 展示多少工具/物品,实现自适应截断,减少 LLM 调用成本和上下文干扰。
- 下游验证表明:更短的候选列表能显著提高 LLM 选择正确工具的概率(93.1% vs 87.1%),尤其在中等难度查询上(76.8% vs 60.9%),这对多工具 Agent 或生成式推荐中的物品选择有直接借鉴。
- BoR 的自修剪特性依赖检索器质量;当检索器极弱时(如 BM25 在语义场景下)自适应深度会退化为展示全部工具,需结合更强的语义匹配或多路召回。
Macaron-A2UI: 面向个人助手的生成式UI模型
🧭 生成式UI · 智能体交互
Mind Lab
提出Macaron-A2UI,通过LoRA微调与强化学习训练,无需模式提示即超越全模式基线,让智能体动态生成交互界面。
📌 工作参考价值(4 点)
- 对话式电商中的偏好收集:可借鉴轻量级UI动作生成(如多选、滑块、确认按钮),在对话推荐中动态收集用户偏好,避免纯文本交互的低效。
- 高效微调大模型:使用LoRA对70B+模型进行参数高效微调,在生成式UI任务中取得强效果,对需要定制化界面生成的电商Agent有直接工程复用价值。
- RL优化生成质量:将UI生成视为序列决策问题,通过奖励模型优化整体交互体验,可迁移至对话式推荐系统的多轮交互优化。
- 评估基准构建:A2UI-Bench提供可控评估维度,可参考其设计思路构建面向电商场景的UI生成评测集,衡量信息收集、偏好精炼等子能力。
Co-ReAct:将评估标准作为ReAct智能体的步骤级协作者
🧭 Agent 步骤级评估标准引导 ★ 深度解读
Qwen Applications Business Group of Alibaba · Tsinghua University
训练一个基于评分标准的生成器,以步骤级方式指导ReAct智能体的搜索决策,并通过列表式GRPO优化与专家排名的一致性,显著提升深度研究任务性能。
📌 工作参考价值(4 点)
- 电商搜索Agent构建中,可引入步骤级评分标准(rubric)明确每步目标(如“需覆盖2023-2025年新品”、“指定英文源”),提升信息收集的精准度与全面性。
- 训练一个轻量评判标准生成器,用列表式RL微调使其输出具有甄别力的准则,可作为即插即用组件注入现有ReAct、Best-of-N等方案,平均提升1-15%性能且无需改动原有决策机制。
- 注入+验证+重试机制:动作执行前用生成的标准进行校验,未达标则带反馈重试,此模式可有效降低错误动作率,适用于推荐系统的分步式查询扩展或多轮决策。
- 排名对齐的列表式奖励设计(Spearman相关系数)对生成式推荐中Semantic ID排序、候选动作评估等场景有借鉴意义,用全局排名代替逐对偏好能提供更丰富的梯度信号。
从正确到偏好:个性化Agentic RL训练框架
🧭 个性化Agentic RL与偏好评分解耦训练 ★ 深度解读
University of Science and Technology of China · Alibaba Group
提出PARPO解耦通用质量与个性化偏好奖励并用用户锚点稳定训练,结合偏好解耦奖励模型与演化图记忆,实现闭环个性化智能体优化
📌 工作参考价值(4 点)
- 奖励解耦+用户锚点校准:在电商客服或推荐Agent中,可将通用任务质量(如回答准确性)与用户偏好(如风格、倾向)分解为两个优化通道,用用户历史平均偏好作为稳定基线,避免跨用户奖励尺度差异导致训练震荡。
- 偏好解耦降噪:用户行为常混杂从众与环境因素;采用双分支(兴趣/从众)建模,并利用流行度加权和正交约束分离真实兴趣信号,得到的偏好奖励更干净,可直接用于RL优化。
- 演化图记忆PSGM:构建包含用户、技能、工具、场景、轨迹的异构记忆图,通过层次社区发现和两步检索提供个性化上下文;电商Agent可借鉴此结构存储商家操作技能,实现跨场景技能复用与个性化检索。
- 训练闭环设计:将偏好识别、策略优化、技能累积形成闭环,训练过程中自动提炼可复用技能,适合构建需要持续进化的个性化Agent(如营销策略推荐、旅行规划等)。
ECHO:将终端反馈转化为免费世界模型训练的智能体强化学习
🧭 终端智能体 · 稀疏奖励 · 世界模型 ★ 深度解读
Microsoft Research
ECHO在GRPO中增加环境观测token的交叉熵损失,将终端输出变为稠密监督,在TerminalBench-2.0上pass@1翻倍。
📌 工作参考价值(4 点)
- 业务中若存在交互式环境(如对话Agent、推荐模拟器),可将环境返回的文本(如用户反馈、系统日志)直接作为辅助预测目标,在RL损失中加入交叉熵项,为失败样本提供稠密梯度,加速策略学习。
- 该方法仅需修改损失掩码,重用已有前向计算,无需额外模型或rollout,工程实现成本极低,适合在现有GRPO或PPO训练流程中快速试验。
- 在电商对话或任务型Agent中,可将用户对每次回复的直接反应(如点击、评价文本)作为“环境观测token”,训练模型预测自身行为的后果,隐式学习用户模型,从而减少对稀缺成功轨迹的依赖。
- 入的“无验证器适应”实验表明,即使没有奖励信号,仅凭预测环境反馈也能在OOD任务上持续改进,这为在线持续学习或冷启动场景提供了思路:可在无人工标注时仅通过模拟交互提升模型。
OpenSkillEval:自动审计 LLM Agent 开源技能生态
🧭 Agent 技能生态审计与评估 ★ 深度解读
Singapore Management University · Fudan University · JD
提出动态任务生成与轨迹‑产出联合评测框架,揭示技能可用≠有效使用,且收益强依赖模型与设计先验
📌 工作参考价值(4 点)
- 技能不一定带来提升,选型前需实测:许多社区高分技能在实际任务中并未超越无技能基线,且会增加 3‑5 倍 token 开销。在电商 Agent 中引入生成式推荐或工作流技能前,应先在自身任务上做成本‑性能对比。
- 设计先验比流程约束更重要:对视觉类输出(商品图、海报、详情页),技能内嵌的模板、参考代码等设计资产能有效拉高低能力模型的下限,而强约束(大量 MUST/NEVER)常导致多样性下降。可借鉴“资产优先”思路构建内部技能库。
- 推理密集型任务需提供分析框架:当前报表、数据洞察类技能因缺乏假设检验、对比分析等分析框架,增益有限。若用 Agent 做评论分析、销量归因,技能应嵌入因果推断步骤或统计检验模板,而非仅提供工具链。
- 动态评测比静态基准更贴近业务:论文自动从真实网页、数据集反向生成任务实例,保持用例与用户需求同步。电商场景可类似地利用商品链接、Campaign 素材自动构建 Agent 评测集,持续跟踪能力变化。
SAM: 面向长程推理智能体的状态自适应记忆
🧭 长程推理 Agent 记忆管理 · 状态自适应记忆 ★ 深度解读
GSAI, Renmin University of China · Beijing Academy of Artificial Intelligence
提出状态自适应记忆框架 SAM,通过记忆线索与意图驱动回忆让智能体从长历史中重建决策支撑信息,无需重训练骨干模型
📌 工作参考价值(4 点)
- 独立的记忆模块与主干解耦:记忆模型独立训练、跨主干复用,适合在已有电商对话/推荐 Agent 上植入长程记忆,避免改造主干模型。
- 分页存储 + 轻量线索:将冗长的交互历史分页并压缩为 compact cues,仅保留线索在上下文,释放 context window;可借鉴到多轮对话或搜索推荐场景的长序列管理中。
- 意图驱动的按需回忆:只有在需要时才根据当前状态选择线索召回原始页面并重建所需信息,比一把摘要或窗口截断更精准,适合电商场景中先分散探索、后期需综合早前信息的任务。
- OAT-GRPO 训练范式:将记忆调用建模为树结构,用专家委员会评估可恢复性并奖励下游任务成功,为训练独立的记忆模块提供了一种闭环方案,可迁移到需要优化长期决策质量的 Agent 训练中。
SEAL:智能体与学习环境的协同共进化
🧭 智能体与环境协同进化训练 ★ 深度解读
Ant Group · Westlake University · University of Michigan–Ann Arbor · University of Science and Technology of China
利用可执行验证器为基础的失败诊断作为共享信号,协同进化训练界面与策略,显著提升低资源多轮工具使用学习
📌 工作参考价值(4 点)
- 训练时界面增强而不改评估基准:在工具调用训练中,可对工具描述进行轻量注解(如标注必填参数、枚举值范围),并针对失败返回结构化修复提示,不改变API或评估协议,为强化学习提供更密集的监督信号,类似推荐系统中细化反馈。
- 失败诊断驱动的重要性加权:在GRPO等策略优化中,利用可执行规则将失败归类(参数错误、工具缺失等),根据故障可归因性分配轨迹权重,优先学习有明确修正方向的失败,可在电商多轮Agent训练中加速收敛、提升样本效率。
- 闭环式环境-策略协同迭代:收集当前策略的失败分布(失败画像),动态调整训练界面(暴露约束提示、错误恢复建议),形成“策略暴露短板→环境针对性辅导→策略内化”的闭环,适合需要快速适应新任务或新工具的Agent系统。
- 低资源高效起步:仅用400个训练样本便取得显著提升,适用于标注数据稀缺的业务场景(如新工具上线、冷启动),可快速验证Agent能力边界。
AI 驱动的形式化证明搜索推进数学研究
🧭 形式化数学证明搜索 · 多智能体系统
Google DeepMind · Aarhus University · Google
大规模评估 LLM 驱动的 Lean 形式化证明在开放数学问题上的自动求解,最高代理独立解决 9 个 Erdős 问题
📌 工作参考价值(4 点)
- 对于需要严格逻辑保证的 Agent 任务,可借鉴 Lean 编译验证思路,用规则引擎或类型系统过滤 LLM 输出,控制幻觉影响
- 基础代理采用「LLM 生成 + 外部工具反馈」的交替迭代模式,成本低且有效,可作为复杂 Agent 的基线设计
- 多子代理独立搜索并集成最佳结果的策略,在提升成功率上有明显收益,适用于需要探索多条推理路径的推荐或决策系统
- 部署时需权衡成本与成功率:对高难度问题使用更复杂的代理,普通问题用轻量版,可参考该研究中的阶梯式成本效益分析
AwareVLN:具备自我感知推理的视觉语言导航
🧭 视觉语言导航 · 自我感知推理
Tsinghua University
提出自我感知的结构化推理机制,使视觉语言导航智能体明确理解自身状态和任务进展,实现更鲁棒的指令跟随。
📌 工作参考价值(4 点)
- 结构化推理触发机制:仅在关键决策点动态触发显式推理,分析空间状态、任务进度及指令对齐,避免全程密集推理。电商对话或复杂任务 Agent 可借鉴此设计,按需进行深层次状态审视,降低延迟与冗余计算。
- 自动数据引擎与进度划分:利用任务进度自动标注生成训练数据,将导航过程切分为语义完整的子任务。可迁移至电商多轮交互场景,通过自动标注对话状态与进度标签,提升训练数据生成效率与模型对流程的理解。
- 端到端空间-任务感知融合:不依赖3D传感器与显式建图,从RGB视觉输入中以数据驱动方式习得空间与任务自我意识。对于电商推荐中基于视觉或文本的状态跟踪(如用户浏览路径理解)有参考价值,可增强模型对环境与目标的整体把握。
- 可解释性提升:显式的结构化推理输出(我看到了什么,我完成了什么,下一步计划)增强了决策透明度。可应用于电商推荐系统的可解释性设计,例如在生成推荐理由时融入类似“用户当前处于…阶段,因此推荐…”的推理链条。
从原始经验到技能消费:模型生成Agent技能的全生命周期系统研究
🧭 Agent技能生命周期分析与效用评估 ★ 深度解读
Fudan University · Microsoft Research · Shanghai Jiao Tong University
系统评估模型生成领域技能全生命周期,揭示技能效用模式并提出元技能引导改善提取质量。
📌 工作参考价值(4 点)
- 技能评估应引入效用导向指标(提取效力EE、目标可进化性TE),替代纯文本质量判断,避免因表面流畅性选择实际有害的技能。
- 经验池中成功与失败轨迹的混合比例显著影响技能质量,应根据任务类型定向调控——多步推理类任务可适度增加失败样例,避免纯成功池造成过拟合。
- 避免直接让LLM以“可读性”筛选技能,而是基于验证过的维度(如失败机制编码、可操作具体性、高风险操作黑名单)设计引导提示,用元技能先验提升提取的实战收益。
- 技能在跨模型复用时表现差异大,消费方需进行小规模适配测试,电商/推荐Agent中应评估技能对不同基座模型的适用性,避免负迁移。
DeltaBox:面向有状态AI智能体的毫秒级沙箱检查点/回滚系统
🧭 AI智能体沙箱环境·增量状态检查点 ★ 深度解读
Shanghai Jiao Tong University · Huawei Technologies Co., Ltd.
通过仅复制连续检查点间的增量变化,实现耦合文件系统与进程内存的毫秒级检查点/回滚,解决AI智能体搜索的状态管理瓶颈。
📌 工作参考价值(4 点)
- 快速沙箱重置与克隆:DeltaFS 基于 OverlayFS 的热层切换,可在 1-2 ms 内完成文件系统快照与回滚,适合电商测试环境、推荐模型 A/B 实验沙箱的毫秒级快速重建,避免全量复制。
- 轻量级进程模板池:DeltaCR 通过 fork 冻结模板进程,恢复时仅复制页表(~3 ms),可借鉴为每个用户会话或推理请求预 fork 模板,实现极低延迟的隔离执行环境,例如为每个电商搜索请求快速创建上下文隔离的 Python 解释器。
- 异步预热页表降低延迟抖动:后台线程遍历子进程的匿名可写 VMA 触发 CoW 预拷贝,将页故障开销移出关键路径,适用于需要快速恢复的高频在线学习或特征生成任务。
- 一致性的联合状态管理:文件系统与进程内存的耦合检查点保证智能体回溯时上下文不分裂,可直接用于多智体仿真、代码执行驱动的奖励模型评估等需要回滚到精确历史点的场景。
HarnessAPI:技能优先的统一流式API与MCP工具框架
🧭 Agent 工具部署与统一API框架
Western Michigan University
从单一技能文件夹自动派生流式HTTP端点、OpenAPI UI和MCP工具,减少74%样板代码
📌 工作参考价值(4 点)
- 单源技能定义:借鉴“技能文件夹 + Pydantic schema”模式,为每个业务能力(如推荐召回、订单查询)设置单一事实源,自动导出HTTP端点和MCP工具,避免双重维护,降低Agent工具与人工接口的偏离风险。
- 双模响应协商:同一handler通过Content-Type自动切换SSE流式与JSON响应,适合生成式推荐中流式生成结果与常规RPC调用,无需重写业务逻辑。
- 全生态继承:HarnessAPI子类化FastAPI,可直接复用现有中间件、依赖注入、鉴权和部署方案,工程落地成本低,适合在已有FastAPI服务上快速增加MCP工具暴露。
- 动态代码生成保型:通过动态生成模块确保Pydantic类型注解在MCP工具层正确传递,解决闭包注册时的类型丢失问题,对需要强类型校验的Agent工具链(如电商API参数校验)至关重要。
技能演化基准:从情景轨迹到可复用程序技能的评估
🧭 Agent 技能演化与经验复用评估 ★ 深度解读
The Ohio State University · The University of Chicago · University College London · University of Michigan · Amazon
SkillEvolBench 诊断基准揭示 LLM 智能体难以从任务轨迹中抽象出可迁移的程序技能,原始轨迹复用常优于提炼技能。
📌 工作参考价值(5 点)
- 在智能体经验复用系统中,先保留原始轨迹(类比 RAG 中的原始文档)可能比提前抽象为技能更可靠,抽象过程容易丢失上下文线索。
- 技能更新策略上,总是更新(always-update)比仅失败时更新更有效,但需配合过滤机制防止程序漂移。
- 评估经验转化时,必须区分本地重放(replay)和冻结部署(held-out transfer),单一学习成功率具有欺骗性。
- 在操作流程自动化(如客服步骤、商品配置)中,可仿照其角色条件化设计,测试在分布偏移、对抗输入和技能组合下的鲁棒性。
- 库容量不是越大越好,强制资源捆绑(Tier-3)可能引入程序垃圾,重点应放在选择性保留稳定、可验证的程序片段。
MOSS:通过源码自改写实现自治Agent系统的自我进化
🧭 自进化Agent · 源码级重写 · 生产部署 ★ 深度解读
University of Science and Technology of China · The Hong Kong University of Science and Technology · Hong Kong Baptist University
让生产级agent系统通过源码自改写自主修复harness层故障,平均评分从0.25升至0.61
📌 工作参考价值(4 点)
- 生产Agent的自我修复机制:业务中大量使用的agent系统(如电商客服、订单助手)常常因路由/状态管理/hook顺序等harness层bug导致重复故障,MOSS提供了定向进化方案:从用户会话中自动检测失败片段,驱动源码级修复,而非仅修改prompt或技能文件。
- 进化与业务部署的结合:MOSS将进化流程与生产环境深度耦合:基于真实故障批次进行修复、在临时容器中回放原任务验证补丁、通过用户授权后进行容器热替换且支持健康探针回滚,可直接借鉴到需要高可用agent服务的场景。
- 多阶段pipeline与外部代码工具解耦:采用标准化七阶段(定位、规划、规划审查、实现、代码审查、任务评估、裁决),并将实际编码委托给可插拔的coding-agent CLI(如Claude Code、OpenAI Codex),降低了与具体LLM的耦合,可在自身系统中按需替换代码生成后端。
- 运行时验证代替单元测试:在临时容器中运行agent与真实任务交互来验证修复效果,而不是靠单元测试,这对动态、交互式的agent行为验证更为有效,适合推荐系统、对话agent等需要端到端行为验证的场景。
PhotoFlow:基于多角色闭环搜索的3D虚拟摄影智能体
🧭 Agent 多角色协作 · 3D摄影闭环搜索
Shanghai Jiao Tong University · Northeastern University · University of California, Los Angeles · Cornell University · Shanghai AI Laboratory
提出Director-Reviewer-Reflector多角色Agent,实现语言引导的3D场景闭环相机搜索与照片渲染
📌 工作参考价值(4 点)
- 多角色反思架构可复用于推荐/决策Agent:Director提议、Reviewer评估、Reflector从失败提取经验的分工模式,可借鉴到生成式推荐候选生成、评估和优化循环中,提升决策质量。
- 失败记忆与区域标记机制:Reflector的region memory和dead-zone suppression能避免重复低质量区域探索,在电商搜索排序或流量分配中可标识低效候选并抑制。
- 受限预算下的探索-利用平衡:高探索重定位策略在有限渲染次数下兼顾多样性与收敛,可应用于在线推荐策略的探索调度。
- 多模态自动评估:Reviewer结合规则、视觉评论和成对比较,可启发生成式推荐中内容质量的自动评审设计。
Reflecti-Mate:基于双系统思考的自适应决策支持对话代理
🧭 对话代理 · 双系统思考 · 自适应决策支持
TU Delft · Leiden University
提出自适应对话代理Reflecti-Mate,通过建模用户System 1/2思考促进整合性反思,实现更个性化决策支持
📌 工作参考价值(4 点)
- 电商导购Agent的自适应策略:实时监测用户对话中的语言线索(情感词、认知词比例),动态切换System 1(情感共鸣、故事化推荐)与System 2(参数对比、性价比分析)回复,匹配用户当下思维模式。
- 决策反思架构设计:在复杂推荐(如大件商品、投资理财)中加入反思环节,通过追问“你考虑过情感上的偏好吗?”或“列出三个理性理由”引导用户整合多维度思考,提升决策满意度和购买后后悔减少。
- 用户思维建模的轻量实践:借鉴LIWC词类分析思路,在Agent框架中增加轻量级语言特征提取模块,实时判断用户注意力分配,无需大规模模型即可实现个性化。
- 混合代理实现范式:采用规则层(思维分类)+ LLM层(自适应提示生成)的组合,规则保证可控,LLM保证灵活性,降低工程风险并易于上线验证。
Search-E1:自蒸馏驱动搜索增强推理的自进化
🧭 搜索增强推理 Agent 自进化训练 ★ 深度解读
通过交替 GRPO 与离线自蒸馏,从同一问题的正负轨迹对中提取 token 级监督,无需外部教师或奖励模型
📌 工作参考价值(4 点)
- 从轨迹对中生成 token 级细粒度信号:在搜索、对话等多步 Agent 训练中,正例轨迹的某一步往往比负例轨迹的对应步更优。可以用离线自蒸馏从正负轨迹对中学习 step-wise 差异,无需额外训练过程奖励模型,降低工程成本。
- GRPO 与自蒸馏交替训练,避免干扰在线探索:Search-E1 的离线自蒸馏轮次完全独立于 GRPO 的 rollout 采样,不改变 RL 的训练动态,可以作为现有 GRPO 训练流程的插件式增强,适用于电商搜索、推荐等场景中逐步提升 agent 的决策粒度。
- 利用同一模型的 privileged context 进行知识蒸馏:将更优轨迹作为 prompt 前缀送入同一模型,让学生分布逼近教师分布,不需额外存储或调用外部模型,适合线上模型迭代。
- 多轮自进化循环,适合持续优化:随着训练的进行,可以从日益稳定的 rollout 池中挖掘新的 pair 持续进行自蒸馏,适合推荐系统或搜索 Agent 在用户反馈闭环中在线持续学习。
SkillOpt:智能体技能的自进化优化执行策略
🧭 Agent 技能优化 · 文本空间训练 ★ 深度解读
Microsoft · Shanghai Jiao Tong University · Tongji University · Fudan University
第一个系统性的可控文本空间优化器,将有界编辑、拒绝缓冲等引入技能训练,在52项测试中全部最佳。
📌 工作参考价值(4 点)
- 将技能优化视为带约束的文本训练过程:借鉴学习率(编辑预算)、验证集门控、负反馈缓冲区等概念,可在电商 Agent 的技能迭代中引入类似控制,避免无监督改写导致的退化。
- 离线优化、零部署成本:SkillOpt 只在高能力优化器上训练一次,导出紧凑的 best_skill.md(<2k tokens),部署时无额外推理开销。电商场景中可用这种模式批量生产领域技能,大幅降低在线 Agent 的推理成本。
- 技能跨模型和执行环境迁移:实验证明优化技能可跨模型规模、跨工具链(Codex ↔ Claude Code)甚至跨任务转移。这对构建可复用的电商领域技能库很有启发:一个技能可用于多个相关任务或不同能力模型。
- 拒绝编辑缓冲提供负反馈学习:类似训练中保留失败样本以指导后续更新,可借鉴到推荐系统或 Agent 的在线学习环节,利用用户反馈的负面信号修正策略。
煮蛙效应:面向智能体安全的多轮基准测试
🧭 Agent 安全评估·多轮对抗攻击
Icaro Foundation · Sapienza University of Rome · Sant’Anna School of Advanced Studies · Tongji University School of Law · VU Amsterdam
评估工具型AI在办公场景下对逐步升级攻击的脆弱性,多模型平均严格攻击成功率44.4%
📌 工作参考价值(4 点)
- 可以借鉴“煮蛙”思路,在电商 Agent 测试中设计多轮逐步升级的恶意指令链,检查智能体是否会在不经意间执行高危操作(如修改库存、泄露用户数据)。
- 评测方法强调状态化评估,关注最终环境状态是否变为不安全,而非单轮回复,适用于评估订单处理、客服等有持久状态的 Agent 系统。
- 风险分类参考欧盟 AI 法案,可为合规审计提供框架:按操作风险等级构建测试场景,识别 Agent 在关键业务域的安全薄弱点。
- 攻击链中延迟注入风险请求的编排方式,可用于生成对抗训练数据,提升自研推荐/搜索 Agent 对长程诱导攻击的鲁棒性。
DeepWeb-Bench:需大规模跨源证据与长程推导的深度研究基准
🧭 深度研究智能体评估与诊断 ★ 深度解读
Peking University
提出一个包含矩阵任务、溯源记录和校准维度的深度研究基准,揭示检索非瓶颈、推导与校准才是主要挑战。
📌 工作参考价值(4 点)
- 电商/市场分析Agent构建:可复用矩阵任务格式(实体×分析维度)和四能力(检索、推导、推理、校准)设计,用于自动生成竞品报告或行业分析。
- 信息抽取可靠性:引入源溯源等级(T1-T4)和跨源一致性检查,可作为电商知识库或RAG系统的证据可信度评估模板,减少幻觉。
- 工程实现启发:发现检索并非瓶颈,应重点投入多步数值组合与校准逻辑,例如在推荐系统的归因分析或财务推演Agent中显式要求推导步骤。
- 领域专长差异:模型在不同品类表现差异大(相关仅0.61),提示为细分场景(如新能源车、芯片)定制微调或专用提示链,而非通用方案。
LLM Agent 大规模轨迹诊断系统 Insights Generator
🧭 Agent 多智能体诊断与优化 ★ 深度解读
Scale AI
多智能体系统通过迭代假设-验证循环,从海量执行轨迹中自动发现并量化系统性行为模式,生成有证据支撑的诊断报告
📌 工作参考价值(4 点)
- 大规模轨迹分析的工程参考:将轨迹数据预处理成结构化 Parquet,构建 schema 缓存和向量索引,Agent 只通过 Python REPL 调用统计工具而非直接读取原始文本,可大幅降低上下文消耗,适用于电商 Agent 日志的海量诊断。
- 假设-验证分离的 Agent 角色设计:Scout 负责在小样本中探索模式提出候选假设,Investigator 在全量数据上进行统计验证并计算效应量(p 值、odd ratio),这种分工可迁移至推荐系统 Agent 的 A/B 实验诊断或行为差异分析。
- 报告驱动的 scaffold 优化:人类专家使用 IG 报告后,scaffold 性能提升 30.4 pp(对比无报告基线),且报告深度与证据质量直接影响修改效率;在自动优化循环中,每轮重新生成分析报告可以避免纯 scaffold 搜索的退化。可借鉴该闭环思想,将生成式推荐或电商 Agent 的离线评估日志自动转化为 prompt 或工具链的改进建议。
- 评估框架的复用:提出的四维度评估(覆盖度、配对胜率、质量评分、人工干预提升)可作为自建 Agent 诊断系统效果的度量标准,尤其适合验证诊断报告对工程师开发效率的实际价值。
Maestro:强化学习驱动层次化模型-技能集成编排
🧭 多模态Agent · 模型-技能强化学习编排 ★ 深度解读
Tsinghua University · Zhejiang University · The Chinese University of Hong Kong · Nanyang Technological University · Tongji University
用 4B 编排器通过 RL 动态组合冻结专家与层级技能,在多模态基准上超越 GPT‑5 并实现即插即用扩展
📌 工作参考价值(4 点)
- 用 RL 训练编排策略取代硬编码路由:可借鉴到电商多智能体系统,让轻量级策略模型动态选择哪个 LLM 执行哪个工具,避免手工规则。
- 层次化技能库压缩动作空间:将细粒度技能组织为两级,编排器只选粗粒度 Level‑1 技能,内部再用关键词或模型分类路由到 Level‑2,降低搜索复杂度,适合大规模工具集管理。
- 即插即用扩展:新增专家模型和技能无需重新训练编排器,直接加入注册表即可提升性能,适合业务中不断引入新模型和工具的演进场景。
- 结果驱动的稀疏奖励设计:仅用答案正确性 + 格式惩罚训练,无需步骤级监督,实践上易于实现。格式奖励保证多步协议合规,避免生成混乱轨迹。
面向延迟优化的 Web Agent 规划与调度的 Agent JIT 编译
🧭 Agent 规划调度优化 ★ 深度解读
Stanford University
通过 JIT 编译、不变式强制工具协议和代价优化规划/调度,将 Web Agent 延迟降低 10.4 倍且准确率提升 28%。
📌 工作参考价值(4 点)
- 工具协议的设计(pre/post conditions):在电商自动化操作中,可以为每个动作(如添加购物车、结算)定义前置页面状态与后置预期状态,编译时即做状态流校验,大幅减少点击错误元素等失误(实验中该类错误从 59% 降至 25%)。
- 代价优化的规划策略:同时生成多个任务计划(代码形式),通过静态检查与代价模型(惩罚 LLM 调用和循环)选出最低成本计划。在电商场景可用来减少不必要的 LLM 推理,将大量纯代码操作替代昂贵模型调用。
- 自适应调度(串行/并行/对冲):根据历史延迟分布做蒙特卡洛估计,为每个任务选择最优策略。当电商操作中某些元素交互方差大(如查找特定商品按钮)时自动采用对冲(同时多路执行取最早成功),可有效控制尾延迟。
- 缓存与工具代码复用:将成功执行 trace 合成为可缓存工具,后续任务直接调用代码而非每步推理,显著降低延迟并将 LLM 调用次数降至接近零。类似做法可直接用于重复性电商流程(如批量比价、多店铺信息抓取)。
Spreadsheet-RL:在真实 Excel 环境中通过强化学习训练电子表格代理
🧭 电子表格代理 · 强化学习训练 · 工具设计 ★ 深度解读
University of Illinois Urbana-Champaign · Meta
首个面向电子表格的端到端 RL 后训练框架,将 4B 开源模型 Pass@1 从 12.0% 提升至 23.4%
📌 工作参考价值(4 点)
- 多步交互的 tool harness 设计:将电子表格操作抽象为专用工具(find_cells、fill_formula、delete_rows),并强制遵循 inspect→modify→verify 的工作流。这种结构化 action space 对于长链路 agent 的稳定 RL 训练至关重要,可类比于电商多步任务中的工具路由与执行规则设计。
- 无 SFT 的 RL 冷启动技巧:在 RL 前通过 spreadsheet-native harness 提供更强初始策略(Pass@1 从 12.0% 到 15.6%),避免完全依赖代码生成导致的低级失败。对于难以获得 step-by-step 标注数据的业务场景(如库存规划、价格调整),可先构建结构化工具和交互协议,再直接应用 GRPO。
- 异步奖励计算模式:由于 Excel 重计算耗时且依赖 Windows,采用异步提交-轮询的 verifier 实现可扩展的 RL 训练。这与电商 agent 需调用线上服务获取真实反馈的场景相似,可借鉴其 per-rollout 工作空间隔离和异步奖励设计。
- 领域泛化的数据构造策略:通过自动化管道从论坛收集初始-最终电子表格对,并引入领域模板生成 Domain-Spreadsheet 基准。对于生成式推荐或 agent 的多领域迁移,这种低成本合成专业任务的方式值得参考,尤其当业务域缺乏标注数据时。
通过自调节模拟规划实现高效智能体推理
🧭 自调节模拟规划 · Agent 推理优化 ★ 深度解读
Institute of Foundation Models (IFM) · Carnegie Mellon University
分解智能体为反应执行、模拟规划和自调节三系统,用更少推理token达到竞争性准确率。
📌 工作参考价值(4 点)
- 在Agent工作流中引入配置器模块:可借鉴SR²AM的配置器(System III)设计,对每一步状态评估是否需要调用规划模块(System II),避免不必要的深度推理。在电商对话或推荐Agent中,可根据用户问题复杂度、当前信息充分度动态决定是否进行多步推理,从而降低平均推理成本。
- 利用模拟规划提升长期交互任务的成功率:System II 通过世界模型(LLM本身)预测未来状态和动作序列来显式规划,可应用于需要多轮交互的推荐或搜索场景(如多步商品比较、旅行规划)。显式地模拟“提出动作 → 预测下一状态”可增加规划的可解释性和可纠错性。
- RL训练引导模型“深度规划而不频繁规划”:实验表明RL使规划深度增加22.8%而规划频率仅增2%,这意味着可以训练模型在需要时规划得更长远,而不是盲目增加推理次数。这个trick可直接用于效果/成本敏感的微调中,用RL奖励函数引导模型在有限token预算下提升任务完成率。
- 数据构造方法:从强模型轨迹重建结构化规划:v1.0通过注释器从已有链式思考中提取配置器决策和模拟规划内容,再用于监督微调,可作为一种高效的数据增强策略。如果业务中已有成功Agent的完整对话轨迹,可以用类似方法逆向构造结构化SFT数据,快速冷启具有自调节规划能力的小模型。
GenEvolve: 基于工具编排与视觉经验蒸馏的自进化图像生成智能体
🧭 自进化图像生成智能体 · 视觉经验蒸馏
The Hong Kong University of Science and Technology (Guangzhou) · Meitian · The Hong Kong University of Science and Technology · National University of Singapore
通过对比多条生成轨迹提取结构化视觉经验,以 token 级蒸馏实现图像生成智能体的自进化
📌 工作参考价值(4 点)
- 自进化训练范式可迁移到推荐/对话 Agent:通过生成多条候选轨迹、对比优劣并蒸馏 token 级监督,可让推荐系统智能体(如对话式购物助手)从交互中自行学会更好的搜索策略、知识激活与工具调用。
- 工具编排的密集监督替代稀疏奖励:采用 privileged teacher 提供 token 级差异信号,比标量奖励更精细,可提升 Agent 在复杂工具选择(如商品搜索 API、图像编辑工具)中的决策质量,适合电商场景中的多步操作。
- 视觉经验的结构化表示:将最佳/最差轨迹差异抽象为可学习的“经验”,可借鉴到多模态推荐中大模型对图片、商品的细粒度对比与知识激活。
- 自建数据与基准的思路:为业务中缺少训练数据的问题提供了参考:通过构造任务和自动采样轨迹来生成训练信号,可应用于自建垂直领域的 Agent 训练数据集。
工业 Agent 管道中的时序语义缓存与工作流优化
🧭 Agent 执行加速与缓存优化
Columbia University · IBM · IBM Research
在 Plan-Execute 工业 Agent 中,时序语义缓存命中达 30.6 倍加速,MCP 工作流优化降低 40% 延迟,并揭示纯语义缓存在参数丰富查询中的失效模式。
📌 工作参考价值(4 点)
- 依赖感知并行执行:在电商多智体(如导购 + 库存 + 物流 Agent)的 Plan-Execute 管道中,分析工具调用间的依赖关系,并行执行无依赖步骤(如同时查询商品详情和用户画像),可直接降低端到端延迟,类似于本文的 1.67 倍加速。
- 带参数感知的时序缓存:对于生成式推荐/商品问答等参数敏感场景,避免使用纯语义缓存;设计缓存键应包含时间戳、用户 ID、商品 ID 等维度,并设置合理的 TTL,防止因忽略参数而返回过期或错误结果。
- 工具发现结果持久化:在多 MCP 工具场景下,将工具列表和 schema 缓存到磁盘,避免每次请求都重新获取工具清单,减少 LLM 规划前的准备开销,工程实现简单但效果明显。
- 缓存正确性评估:引入缓存命中时的结果验证机制(如通过工具返回的最新数据校验),确保加速的同时不牺牲答案正确性,尤其适合金融级或库存实时性要求高的 Agent 系统。
IndusAgent:工具增强的代理框架实现开放词汇工业异常检测
🧭 多模态 Agent 工具调用与 RL 优化
Institute of Computing Technology, CAS · Santa Clara University · New York University · Sun Yat-sen University · Nanyang Technological University
提出工具增强代理框架,通过门控RL优化工具调用,在工业异常检测中取得SOTA零样本性能
📌 工作参考价值(4 点)
- 在电商多模态对话中,借鉴动态区域裁剪和高频特征增强工具,帮助模型准确定位商品瑕疵或色差,减少视觉幻觉。
- 门控强化学习目标可优化 Agent 系统中的工具调用决策,在客服机器人调用知识库或视觉工具时,实现效率与任务性能的联合优化。
- 构建类似 Indus-CoT 的结构化数据:将全局观察、局部细节与领域先验融入推理轨迹,用于微调推荐或质检模型,提升对商品属性的细粒度理解。
- 利用先验检索增强推理:在商品合规检查时,检索标准图作为正常先验,通过对比判断异常,可迁移至电商商品验证场景。
进化编码智能体究竟在进化什么?
🧭 进化编码 Agent 搜索行为分析
Zuse Institute Berlin · Technical University of Berlin · Hong Kong Baptist University · RIKEN Center for Advanced Intelligence Project
通过 EvoTrace 数据集和 EvoReplay 回放方法,揭示进化编码搜索中分数提升多由少数编辑类型驱动,且存在高频代码回退的循环模式。
📌 工作参考价值(4 点)
- 在自动化超参搜索、推荐规则生成等迭代优化场景中,不要只看最终指标,需监控搜索过程中的编辑类型分布,避免对评估器过拟合。
- 可借鉴 EvoReplay 的回放与干预方法(例如移除代码组件、替换模型上下文)来诊断优化路径,定位真正有效的改进。
- 编辑类型高度集中,可引导搜索策略优先尝试高频有效编辑(如常量微调),提升搜索效率。
- 发现约 30% 代码行是先前删除行的重新引入,提示需设计机制抑制搜索回退,例如引入多样性惩罚或短期记忆。
Mem-π:通过学习何时生成与生成什么实现自适应记忆
🧭 Agent记忆系统 · 生成式记忆 ★ 深度解读
ServiceNow AI Research · Mila – Quebec AI Institute · Université de Montréal · Polytechnique Montréal · McGill University
提出生成式记忆框架Mem-π,让记忆模型自主决定何时生成指导与生成什么内容,在多种Agent基准上平均相对提升超20%
📌 工作参考价值(4 点)
- 记忆模块与下游Agent解耦:使用一个独立的小模型(如7B)作为可训练的生成式记忆策略,专注产生任务相关的文本提示,可与任何更强的下游Agent配合,方便工程集成和迭代。
- 离线蒸馏 + 在线自适应两阶段训练:先用历史交互数据做SFT初始化,再利用环境reward做RL微调(GRPO),适合积累了大量交互轨迹的电商推荐或Agent场景,能够将粗经验转化为精确的策略。
- 结构化rollout与决策-内容解耦:强制每组采样包含abstain和generate分支,将优势信号分解为决策优势和内容优势,分别驱动'是否生成'和'生成什么'的学习,避免内容梯度淹没决策信号,可迁移到需要模型主动决定是否执行某个动作的场景。
- 自适应abstention提升效率与鲁棒性:模型在任务简单时主动[ABSTAIN],避免注入冗余或误导信息;在困难任务上才生成指导,既减少token消耗(实验显示token用量降低31%),又防止检索记忆固有的“复制偏差”,对实时推理的成本敏感型电商Agent很有参考价值。
目标级AI贡献的测量、诱导与暴露:人机协作归属框架
🧭 人机协作目标级贡献归属与 AI 主动性测量 ★ 深度解读
KAIST · Carnegie Mellon University · Seoul National University
提出 COTRACE 框架,在目标与需求层面量化人类与 AI 的贡献,并揭示可控制的间接影响模式
📌 工作参考价值(4 点)
- 目标分解为可验证需求:可将电商对话中的复合意图拆分为一组独立、可检查的 requirement,用以量化 AI 在需求创建、修改中的贡献,区分 AI 是简单执行还是主动塑造了用户目标。
- 间接影响模式直接复用:论文归纳的四种间接影响类型(under-specification, artifact-triggered elaboration, problem-triggered revision, interactional steering)可直接作为 prompt 模板或 agent 交互策略,在需要 AI 更主动时故意模糊用户输入,或提供半成品以引导 AI 提出更细的需求,例如在生成式推荐中让 AI 先给一个粗方案,诱导用户补充细节。
- 交互设计控制 AI 主动性:强制 agent 每次行动前发送消息(Chat 模式 vs 直接工具调用的 Agentic 模式)使 AI 对目标塑造的贡献率从 24.5% 提升至 42.9%。在 Agent 系统中,可以通过插入一条简单的“先表达计划再执行”规则,平衡自主性与可控性。
- 贡献可视化提升用户校准:将贡献分析图暴露给使用者后,其对自己执行贡献的评分平均下降 1.8 分(5 分量表),有效纠正对 AI 贡献的低估。在推荐解释或协作式购物助手中,可引入类似“决策影响回溯”视图,帮助用户理性评估 AI 的建议。
SciAtlas:大规模科学知识图谱赋能自动化研究
🧭 大规模学术知识图谱与神经符号检索支持AI智能体
Zhejiang University · University College London
构建含4300万论文、1.57亿实体、30亿三元组的异构学术知识图谱,并设计神经符号检索算法降低智能体推理成本
📌 工作参考价值(4 点)
- 大规模异构知识图谱构建流水线:将多来源、多形态的学术资源统一为实体-关系三元组,可迁移至电商领域构建商品-属性-场景等知识关联,为推荐与搜索提供结构化背景
- 神经符号检索范式:三路协同召回(语义向量、关键词、图结构)结合图重排序,能同时兼顾语义相似与逻辑关联,适合需要可解释性与关联发现的商品推荐、对话Agent等场景
- 用图谱预存逻辑降低Agent幻觉与成本:将复杂推理路径固化于图结构,Agent直接查询而非实时推理,在电商智能客服、趋势分析等场景可大幅降低大模型调用频率与延迟
- 全局视角的任务抽象:文献综述、趋势合成等任务映射到电商即为用户评论摘要、购物趋势洞察、新品定位,可借鉴其认知地图思想构建领域全景分析工具
ClinSeekAgent:自动化多模态证据寻找的临床Agent推理框架
🧭 动态多模态证据寻找 · 轨迹蒸馏
UC Santa Cruz
提出动态多模态证据寻找Agent,可蒸馏轨迹至小模型,将被动证据消费转为主动获取
📌 工作参考价值(4 点)
- 主动证据获取回路:在推荐/电商场景中,可借鉴Agent主动调用搜索、商品知识库、用户画像等异构工具,动态收集信息并迭代优化判断,替代静态查询。
- 多模态工具集成:医学图像工具调用模式可迁移至多模态商品理解(图文视频),Agent自主决定何时调用图像分析API,提升决策丰富度。
- 轨迹蒸馏策略:将大模型Agent的高质量推理轨迹蒸馏到本地小模型,在保持部分效果的同时降低在线推理成本,适合电商高并发服务。
- 评测范式借鉴:构建“预选证据”与“自动寻找”对等基准,可复用于评估推荐系统从被动排序到主动信息检索的增益。
代码作为智能体基础设施:可执行、可验证、有状态的智能体系统综述
🧭 代码智能体基础设施与方法论综述 ★ 深度解读
University of Illinois Urbana-Champaign · Meta · Stanford University
将代码重新定位为智能体推理、行动和环境建模的可执行媒介,并提出三层框架统一代码智能体设计
📌 工作参考价值(4 点)
- 用代码作为推荐策略的可执行审计层:将推荐策略、规则或生成式推荐的推理步骤写成可执行代码(如 Python 脚本),通过执行反馈验证策略逻辑,实现可检查、可回滚的推荐决策,尤其适合电商场景需要业务可解释和合规审计的路径。
- 多智能体协作通过共享代码仓库协调:借鉴论文中 Manager/Planner/Coder/Reviewer/Tester 的角色分工,构建电商多智能体系统(如选品、定价、营销自动化的智能体团队),利用 Git 仓库和测试框架管理共享状态,实现冲突检测和集体验证。
- 动态工具生成与技能库复用:参考 Voyager 等系统的 lifelong skill library 思路,让推荐智能体在交互中自动生成并积累可复用的数据查询、特征工程或模型更新脚本,形成平台内的“技能市场”,降低重复开发成本。
- 执行反馈闭环提升可靠性:将推荐模型上线前的仿真评估或 AB 测试反馈接入代码执行循环,让智能体根据测试结果自动修正推荐逻辑或参数,实现自适应优化,减少人工介入。
EnvFactory:通过可执行环境合成与鲁棒RL扩展工具使用智能体
🧭 Agent 工具使用训练环境与数据合成 ★ 深度解读
LARK, HKUST (GZ) · Huawei Technologies Co., Ltd · University of Cambridge · UCL · HKUST
全自动构建有状态可执行工具环境并生成自然多轮隐式意图轨迹,高效训练工具使用Agent
📌 工作参考价值(4 点)
- 电商代码沙盒环境自动化构建:借鉴EnvFactory的Search-Code-Test多Agent协作,可针对电商核心API(商品搜索、下单、物流查询等)自动生成可执行的MCP服务器,用于训练智能客服或购物助手,确保执行可靠且状态隔离。
- 自然隐式意图的多轮数据合成:拓扑感知采样与校准细化策略可将多个API调用链转换为含歧义、省略参数的真实用户请求,例如“帮我查一下最近那个订单”,要求Agent自行推断订单ID。这种数据对训练Agent的上下文推理能力十分有效,可直接用于电商场景SFT数据增强。
- 复合奖励函数设计:论文提出的轨迹匹配奖励 + 最终状态等价奖励 + 长度惩罚的复合RL奖励框架,可避免单一奖励偏差。在电商智能体中训练工具调用策略时,可保证正确执行的同时控制冗余工具调用。
- 资源高效训练范式:仅用85个环境、2500+条轨迹即可大幅提升小模型(1.7B/4B)的多轮工具使用能力,为电商业务中快速迭代、低成本训练提供参考:优先保证环境验证质量与轨迹自然度,而非盲目追求数量。
HINT-SD:面向长程智能体的目标化后见自蒸馏
🧭 长程 Agent 后训练 · 目标化后见蒸馏 ★ 深度解读
KAIST · DeepAuto.ai
通过选择失败相关动作进行自蒸馏,在不损失效率的前提下为长程 LLM Agent 提供精准过程监督
📌 工作参考价值(4 点)
- 选择性过程监督:长程 Agent RL 训练中不要均匀地对所有步骤蒸馏反馈。先用策略自身对失败轨迹进行后见分析(Hindsight Analyzer),仅挑选出导致失败的关键步骤,再对这些步骤进行带反馈的自蒸馏,避免大量正确或无关步骤的噪声更新。在电商购物助手、多轮工具调用等场景中,可直接复刻“复盘→定位错误→精准纠正”的范式。
- 反馈放置的时机很关键:实验表明,将纠正反馈插入到发生错误的动作之前(而非整个轨迹的开头),教师与学生的上下文分布更匹配,纠正效果明显更好。在实施反馈条件蒸馏时,应将反馈准确地放置在相关步骤的上下文中,避免因前缀不同导致分布错位。
- 自蒸馏作为本地化的教师:无需外部大模型,训练中的 EMA 策略本身即可充当反馈生成器,节省成本。这在资源有限的场景(如在自有模型上持续训练 Agent)中尤为实用,可作为一个轻量、自包含的在线蒸馏组件集成进训练流程。
- 效率启发:选择性蒸馏大幅缩短训练步时和显存消耗(2.26× 步时降低,1.48× 显存降低)。对于需要批量处理大量长对话的推荐 / Agent 系统,采用“先判断哪些步骤需要学习”的策略可显著提升迭代效率和资源利用率。
可扩展环境驱动可泛化智能体
🧭 环境扩展与跨环境泛化 ★ 深度解读
HKUST(GZ) · DeepWisdom · PKU · NUS · SUTD
区分轨迹、任务、环境三类扩展,提出程序化生成与生成式世界模型两种环境扩展范式,量化跨环境适应
📌 工作参考价值(4 点)
- 明确区分轨迹、任务、环境三类扩展,在构建评测或训练管线时可据此定位瓶颈:若只需提升固定规则下的能力,用任务扩展;若要训练跨规则适应,必须做环境扩展。
- 程序化环境生成器(如 EnvScaler、AutoEnv)通过参数化规则集,提供可复现、可验证的环境,适合为电商搜索、推荐对话等场景构建可控的 Agent 压力测试套件。
- 生成式世界模型(如 Genie 3)可与程序化规则支架结合,在保持交互规则可控的同时注入语义多样性,丰富训练分布。
- 部署时,即使环境固定,也可利用局部环境扰动(ploc)生成邻域变体(修改布局、实体、观察等),使 Agent 训练更鲁棒,减少上线后的 brittle failure。
Mix-Quant:面向Agent LLM的量化预填充与精确解码
🧭 Agent推理优化 · 阶段感知量化 ★ 深度解读
National University of Singapore
提出阶段感知量化框架,预填充用NVFP4加速,解码保持BF16精度,在Agent任务上几乎无损且预填充加速达3倍。
📌 工作参考价值(4 点)
- 对于交互多轮、上下文不断增长的Agent工作流,解码阶段对数值误差更敏感,可直接对预填充进行低精度量化(如NVFP4)而保持解码高精度,避免长轨迹中的误差累积。
- 可借助预填充-解码分离架构,将低精度预填充worker和高精度解码worker独立部署,既不引入额外的精度切换开销,又能充分利用硬件加速(如Blackwell的FP4 Tensor Core)。
- 在输入token远多于输出的场景(工具调用、记忆检索、代码生成等),预填充成为瓶颈,利用W4A4量化可显著降低计算量,收益明显。
- 量化的收益并非均匀分布在所有阶段:预填充因并行处理长上下文而适合激进量化,解码因自回归特性需保持精度,按阶段定制量化策略是简单有效的手段。
MOCHA:面向Agent技能优化的多目标切比雪夫退火方法
🧭 Agent技能多目标帕累托前沿探索 ★ 深度解读
Adobe Research
通过切比雪夫标量化与退火探索,打破单目标优化僵局,实现Agent技能帕累托前沿全覆盖。
📌 工作参考价值(4 点)
- 在电商Agent场景中,商品推荐、客服等技能的描述与指令体常受平台字数硬限制,可借鉴MOCHA的多目标优化生成不同长度-性能折中的技能版本,供运营按场景择优上线,避免单目标优化器因无法突破约束而停滞。
- 探索–利用退火策略(HVC门控阈值指数衰减)可迁移到推荐系统的prompt优化:前期用超体积贡献(HVC)广搜多样性候选,后期切换至切比雪夫接受精确提升核心指标,能有效避免陷入局部最优。
- 切比雪夫标量化能探索非凸帕累托前沿,当业务指标(如点击率、多样性、合规分)存在非凸冲突时,它比线性加权更能发现传统方法遗漏的折中解,适合多目标A/B测试中的候选生成。
- 结构化突变机制(如带合规反馈的字段感知改写)可应用于生成式推荐的item描述生成,在保证字数、排版合规的前提下逐步丰富推理结构,兼顾描述吸引力与展示约束。
OpenComputer:以可执行验证器为中心的计算机使用智能体任务合成框架
🧭 计算机使用智能体 · 可验证任务合成与评估 ★ 深度解读
Yale NLP Lab · University of Pennsylvania · University of North Carolina at Chapel Hill
构建以应用状态程序化验证器为核心的桌面任务合成框架,覆盖33款软件共1000个任务,揭示前沿GUI智能体端到端完成仍存显著差距
📌 工作参考价值(4 点)
- 用可执行状态检查替代LLM评判:在电商 Agent 或生成式推荐评估中,对商品属性、金额、文件状态等可结构化查询的指标,应优先构建硬编码验证器,避免 LLM-as-judge 在细粒度状态上的误判,本工作中硬编码验证器与人类判断任务级对齐度达 94.1%,远超 LLM 评判的 79.2%。
- 自我进化验证层思路:利用强 Agent 跑简单校准任务,对比程序化验证器与 LLM 参考判定的分歧,自动修验证器端错误并记录根因(如数据库 schema 迁移),可用于在线场景中持续改善业务规则检查器或 RL 奖励信号的可靠性。
- 任务合成的可验证前置设计:在设计推荐或对话评测集时,应先将成功标准编码为可执行检查项(如查询数据库、比对文件),再反向生成任务描述与初始状态,有效避免生成无法自动判定的示例,提升数据可用性。
- 跨接口能力评估启示:GUI 与 CLI Agent 在共享任务子集上的对比显示,视觉交互仍提供有效 grounding,但命令行执行速度更快(141s vs 288s),对电商后台操作或流程自动化场景,可针对性地混合使用两类接口,并统一用程序化验证器衡量最终应用状态。
ParaVT:驯服并行视频工具调用的工具先验悖论
🧭 Agent 多智体协作与工具调用优化 ★ 深度解读
MiroMind · Nanyang Technological University · The University of Hong Kong · Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University
首个并行视频工具调用多智能体RL框架,识别并解决工具先验悖论导致的格式崩溃与工具跳过问题。
📌 工作参考价值(4 点)
- 工具先验悖论处理:当使用预训练已有工具能力的模型做 RL 微调时,会出现格式崩溃(例如标签错误)和跳过工具的捷径。可借鉴 PARA-GRPO 的探索锚定技术:对关键格式标记(如 </think>、</answer>)施加额外奖励,并用约束生成强制开头标记,稳定结构化输出。在电商 Agent 中,若模型需要生成 API 调用格式,可以类似地对调用标签进行强化。
- 并行工具调度设计:从串行工具调用转为并行调度,能避免错误传播、降低上下文膨胀、实现固定延迟。在推荐系统多路召回或 Agent 多工具并行执行场景中,可以设计主代理一次调度多个子系统并行工作,并聚合结果,提高效率和容错。
- nFrames Gating 创造工具必要性:通过随机控制输入的信息量(如减少概览帧),强制模型在部分样本上必须使用工具,避免奖励黑客行为。此法可迁移到检索增强场景:在训练 Agent 判断是否需要检索时,可随机删除部分文档,确保不使用检索的答案得分低,从而强化检索动机。
- 串行轨迹转并行数据构造:将串行工具调用轨迹合并为单轮并行调用,并用文本总结替代原始输出,既对齐训练格式又控制上下文长度。对于电商操作数据(如搜索、点击、加购),可将顺序操作按独立性合并成并行动作轨迹,用于训练多任务 Agent。
PEEK:面向长上下文LLM Agent的上下文地图缓存
🧭 Agent长上下文交互的上下文知识缓存与更新 ★ 深度解读
MIT CSAIL · Stanford University
将可复用定向知识缓存为固定大小的上下文地图,显著提升Agent在重复长上下文任务上的准确率和效率。
📌 工作参考价值(4 点)
- 在电商场景(如反复查询商品库、用户评论语料)中,可以维护一个轻量级上下文地图,存储语料结构、关键实体、常用常量等可复用知识,避免每次推理都从零探索。
- Distiller从Agent执行轨迹中自动提取可迁移的上下文知识,而不引入任务特定噪声,这一思路可借鉴为Agent经验回放与知识累积模块。
- Cartographer与Evictor的分离设计(结构化编辑+优先级驱逐)确保缓存紧凑且更新不产生重复/冲突,适合需要固定token预算的生产环境。
- 即使只需极少轮次(m≤4)的缓存更新就能带来显著收益,这对成本敏感的在线推理系统极具参考价值。
PROTEA:多智能体 LLM 工作流的离线评估与迭代优化工具
🧭 多智能体工作流离线评估与迭代优化 ★ 深度解读
Sony Group Corporation
通过后向节点评估和图级瓶颈定位,实现多智能体工作流的离线测试驱动迭代优化,减少对人工中间标注的依赖
📌 工作参考价值(4 点)
- 后向节点评估降低标注成本:利用最终答案参考和下游依赖关系自动生成中间节点预期输出,适合电商推荐链路(意图解析→召回→排序→生成)中缺乏细粒度中间标注的场景。
- 图级诊断+节点级理由:将 PASS/WARN/FAIL 状态直接覆盖在工作流图上,并按优先级排序节点,开发者可快速定位导致推荐结果偏差或文档检查失败的瓶颈节点,避免逐节点翻看链路。
- 闭环提示词修订与重评估:在选中节点后,系统基于评审理由生成可编辑的提示词修订草案,并在 accept 后自动执行全链路重跑与评估,带来类似于 CI 回归测试的快速迭代体验,可直接迁移到生成式推荐或多轮对话 Agent 的 prompt 调优。
- LLM-as-a-judge 与阈值设置:可配置的多维度评分标准和阈值映射(PASS/WARN/FAIL),可用来自动评估中间输出(如召回相关性、排序合理性)并向业务反馈,适合构建监控或离线诊断管道。
SD-Search:策略事后自蒸馏实现搜索增强推理的步骤级监督
🧭 搜索增强推理 · 事后自蒸馏 ★ 深度解读
Kuaishou Technology
提出事后自蒸馏框架,从策略自身获取搜索步骤的细粒度监督,无需外部教师或额外标注
📌 工作参考价值(4 点)
- 从策略自身挖掘步骤级信号:同一模型在训练时分别以“学生”(仅推理时上下文)和“教师”(额外看见同组滚动的事后摘要)两种视角运行,用分布匹配提取各搜索决策的细粒度反馈,无需外部教师或昂贵标注。可在推荐 Agent 的多步交互中复用,对关键决策步骤(如召回、重排)施加 token 级自蒸馏。
- 事后信息块的精巧设计:通过屏蔽答案和思考内容、保留查询与二元结果标签(CORRECT/INCORRECT)构建对比,迫使教师隐含地评价哪些查询值得执行。在对话或推荐 Agent 中,可用历史动作和成功/失败标签构建类似的事后上下文,强化正向动作模式。
- Jensen-Shannon 散度替代 KL 或 MSE:对称、有界的 JSD 比 forward KL(强迫覆盖所有模式)或 reverse KL(过早坍塌到单一模式)更稳定,且对 top-k 截断不敏感,适合 token 级分布对齐。可用于任何需要软目标匹配的生成任务,如生成式推荐中的语义 ID 蒸馏。
- 无额外推理开销的 RL 融合:自蒸馏仅增加一次辅助前向和损失项,不修改奖励或优势计算,训练耗时仅增 15.5%,推理完全不变。低成本地提升了多跳问答的查询质量,而不增加搜索次数,对线上 Agent 服务的效率优化有启发。
重新思考终身LLM Agent记忆:从原子事实到三层多粒度架构
🧭 Agent 终身记忆与多粒度存储 ★ 深度解读
Hong Kong Baptist University · The University of Texas at Austin · Shanghai Jiao Tong University · The University of Sydney
提出TriMem,用原始对话、抽取事实和合成画像三层粒度同时保证存储忠实性、检索效率和深层推理,并通过TextGrad迭代优化提示实现终身进化。
📌 工作参考价值(4 点)
- 三层记忆架构可直接迁移到电商客服Agent:保留对话原文指针(避免丢失产品细节)、提取原子事实(快速检索售后知识)、构建用户画像(整合历史交互推断偏好),三者联合可为长期对话推荐提供高忠实度的上下文。
- 用TextGrad自动优化抽取/整合提示:无需修改模型参数,仅靠问答反馈文本梯度迭代,让记忆系统在线适应业务术语变化和对话风格漂移,适合API-only部署。
- 检索阶段先分析问题关键信息再匹配:增加一次LLM分析,将问题转化为搜索query,大幅提升检索准确率,可复用于推荐系统中对复杂用户意图的多轮理解。
- 多粒度索引设计灵感:在商品知识管理或用户行为记忆库里,可同时维护原始日志、事件摘要和用户兴趣画像,不同粒度服务于不同查询深度,平衡效率与准确性。
Code-as-Room:基于 Agent 代码合成从俯视图生成 3D 房间
🧭 MLLM Agent 生成 3D 场景
Shanghai Artificial Intelligence Laboratory · Shanghai Innovation Institute · Southern University of Science and Technology · University of Warwick
提出一个 MLLM Agent 框架,通过结构化执行流水线从俯视图生成 Blender 代码来构建 3D 房间
📌 工作参考价值(3 点)
- 多阶段流水线 + 跨阶段记忆模块:将复杂生成任务拆解为解析、几何、材质、灯光等子阶段,并用记忆模块保持上下文一致,可借鉴到电商场景中自动生成商品布局或店铺装修,避免长流程遗忘。
- 代码作为可执行中间表示:用 Blender Python 脚本表示 3D 场景,具备可编辑性和确定性,类似思路可用于生成式推荐中,用代码描述推荐理由或布局,便于二次编辑与调试。
- 结构化执行 harness:为 Agent 设定明确的阶段输出 schema 和校验步骤,有效减少无限循环,可迁移到 Agent 业务系统中,提升稳定性与可控性。
互补自蒸馏:让 LLM 兼顾任务效用与上下文隐私完整性
🧭 LLM Agent 隐私对齐 · 互补自蒸馏
KAIST · DeepAuto.ai
提出 SELFCI 互补自蒸馏框架,用双教师乘积专家目标解耦隐私保护与任务效用,无需外部监督。
📌 工作参考价值(4 点)
- 解耦多目标优化:将隐私和效用分为两个独立教师信号,各自用逆 KL 散度逼近,最后通过乘积专家(PoE)组合目标,避免单一奖励信号冲突,可直接用于电商推荐中同时优化准确性、多样性、隐私等多目标。
- 无需外部标注的自蒸馏:完全基于模型自身反馈生成教师分布,省去昂贵人工标注,适合快速迭代;在隐私合规检查场景(如智能客服处理用户敏感信息)可快速部署尝试。
- 乘积专家集成方式:将两个甚至多个专家分布相乘得到对齐目标,提供了一种灵活的多目标集成方法,可推广到生成式推荐中组合协同过滤与内容过滤需求。
- 验证了 Agent 工作流泛化性:在涉及多步交互和累积隐私上下文的 Agent 场景中效果稳定,表明该方法可迁移到电商对话代理的长期隐私管理,如用户多轮对话中分层次披露地址、购买记录等。
极光:使用工具增强代理的统一视频编辑
🧭 视频编辑 · Agent 工具增强 ★ 深度解读
University of Rochester · MIT-IBM Watson AI Lab · NVIDIA
提出Aurora框架,用工具增强的VLM代理解决视频编辑中用户请求欠指定问题,将缺失条件补全后送入统一视频扩散模型。
📌 工作参考价值(4 点)
- Agent 条件构建范式:将用户模糊请求(缺少参考图、掩码、明确指令)委托给工具增强的VLM代理,生成完整的条件元组(指令、任务类型、搜索词、掩码描述),下游生成模型只消费标准条件,该解耦模式可直接用于电商商品图生成、广告视频编辑,降低人工补全成本。
- 偏好对齐解决边界决策:使用DPO精细解决代理的边界案例(如误触发搜索、模糊掩码、约束丢失等),在推荐或Agent决策中可借鉴此方法,通过构建冲突对提升模型在相似但错误路径上的区分能力。
- 工具增强与统一条件接口:代理可调用网络搜索和分割工具,输出统一格式的参考图与掩码,屏蔽不同工具的内部差异,适合在Agent工作流中集成异构API,降低下游模型对工具强耦合。
- 设计评测维度:提出AgentEdit-Bench专门测量代理补全缺失条件的能力,评估指标包含实体匹配和身份保持,可启发我们为客服、推荐等场景构建需要主动补全信息的评测集。
将代理技能升级为可执行程序函数:HASP 框架
🧭 Agent 技能可执行化 · Program Function ★ 深度解读
New York University · Salesforce AI Research
把 LLM Agent 的已知技能从被动文本变为可触发、可干预状态-动作的 Program Functions,实现推理时修正、后训练监督与技能库自进化。
📌 工作参考价值(4 点)
- 推理时动作硬修正:将常见失败模式(如过早终止、实体混淆)编码为 Program Function,在 Agent 循环中直接改写动作或注入纠正上下文,而不是只放入 Prompt 作为建议。这一思路可直接用于电商搜索 Agent 的多步推理,例如当检测到搜索结果过少时强制改写 Query,或在提交订单前强制检查库存。
- 结构化干预信号用于数据筛选:每个 PF 介入记录包含时机、模式、正确性、结果四维评分,作为轨迹质量权重叠加在任务奖励上。在构建离线对话或搜索轨迹数据时,可借鉴这种多维质量打分,提升 SFT/拒绝采样数据的有效性。
- 技能库演化需严格过滤:候选 PF 必须通过语法与模拟执行验证及教师审核才能入库,否则会严重损害性能(全过滤 60.3% vs 无过滤 36.3%)。在业务中构建可进化的策略库或规则库时,必须设计类似的自动化校验与人工审核门槛,避免技能“污染”。
- 内部化行为纠正 PF 更有效:训练后,那些纠正模型自身行为(如搜索不充分、查询过长)的 PF 会逐渐沉默,而与输入相关的 PF 仍激活。这提示我们可以有选择地只对高频行为错误进行强制干预,并进行针对性训练来内化,从而降低上线时的判断开销。
MementoGUI:为长周期 GUI 代理学习主动多模态记忆控制
🧭 GUI 代理 · 主动多模态记忆管理 ★ 深度解读
University of Rochester · MIT-IBM Watson AI Lab · University of Wisconsin-Madison
提出即插即用的主动多模态记忆框架,不微调 GUI 骨干,通过学习写入、压缩、检索视觉工作记忆与情景记忆提升长周期任务表现
📌 工作参考价值(4 点)
- 双时间尺度记忆架构:将记忆解耦为工作记忆(在线保存任务状态)和情景记忆(跨任务经验复用),可参考设计电商 Agent 的长会话状态管理与跨会话知识积累,避免上下文无限膨胀。
- 自动数据管线生成监督信号:从交互轨迹自动构造步骤重要性、摘要、ROI 框和检索需求等训练标签,可迁移到对话或操作型 Agent 的记忆选择标注,降低人工成本。
- 即插即用的记忆注入方式:仅用文本摘要和 ROI 裁剪图像,不引入特殊 token 或架构改动,直接作为冻结 GUI 骨干的输入,便捷增强已有 Agent 的长程决策能力。
- 长周期评估指标:提出基于 VLM 的语义动作匹配、任务进展、记忆一致性评分,可参考用于评估电商场景下多步任务的决策质量和记忆使用合理性。
MINTEVAL:在长时程多目标干扰下评估 Agent 记忆系统
🧭 Agent 记忆评估与干扰鲁棒性 ★ 深度解读
UNC Chapel Hill · The University of Texas at Austin
一个面向干扰密集、多领域、长时程记忆的基准,揭示现有记忆系统在回溯与聚合推理上的严重不足
📌 工作参考价值(4 点)
- 在电商/推荐场景中,用户偏好频繁更新且常需回溯历史状态(如曾经喜欢某品牌),现有记忆系统由于过度依赖追加新记忆、缺乏细粒度修改/删除,导致早期信息被覆盖。建议:引入显式时间戳或版本标记,并设计支持 CRUD 的原子记忆操作,以减少干扰。
- 多目标聚合任务(如“用户在过去三个月内切换过几次偏好类目”)对应推荐系统中跨会话行为序列的计数或排序需求。当前 Agent 在此类问题上平均准确率仅 26.5%,大幅落后于简单召回,需要在记忆模块中增加结构化聚合算子或专门训练多跳推理能力。
- 实验表明减少记忆更新频率(增大 chunk size,如从 7 增至 30)能显著提升回溯与计数问题的性能,而不会损害简单最近状态查询。这提示在构建长期用户画像记忆时,应优先采用粗粒度、低频更新策略,避免频繁覆盖。
- 干扰鲁棒性分析:添加领域外噪声(如通用文本)对 RAG 类系统影响最大,而记忆增强代理相对稳健。在推荐系统中引入检索增强时,应注意检索池的噪声控制,并结合时间衰减或重要性加权来过滤无关信息。
SkillsVote:Agent 技能生命周期治理框架
🧭 Agent 技能生命周期管理与受控进化 ★ 深度解读
MemTensor (Shanghai) Technology
将 Agent 技能视为生命周期制品,通过归因控制实现从采集、推荐到进化的闭环,提升长期任务表现。
📌 工作参考价值(4 点)
- 技能库的质量治理:对技能进行环境需求、质量、可验证性 profiling,只允许通过验证的技能进入推荐池,避免低质量技能污染上下文。电商知识库或工具库可借鉴相似准入设计。
- 任务前技能精炼:不将全量技能直接暴露给 agent,而是通过一次 agentic search 生成精简的技能集与使用指南,降低无关上下文的干扰。类似在 RAG 中,用轻量 agent 先检索、再压缩后再送入主模型。
- 执行后归因与证据门控:将长轨迹按子任务切分,区分结果是由技能引导、自主探索还是环境因素导致,仅将可复用的成功探索用于技能库更新。对于电商多步 Agent 的对话/操作日志,可借此提取高置信度经验并避免误更新。
- 离线 + 在线进化组合:先用历史任务构建冷启动技能库,再在新任务流中在线增量进化。生成式推荐系统中,可先用离线数据训练初始知识库(如促销规则),再通过线上反馈受控扩展。
Agent Bazaar:多智能体市场中的经济对齐仿真与强化学习训练
🧭 多智能体经济对齐 · 市场仿真 · RL训练 ★ 深度解读
Princeton University
提出多智能体市场仿真框架,揭示LLM代理在B2C/C2C市场的崩溃与欺诈失败模式,并通过REINFORCE++训练9B模型实现经济对齐,性能超越前沿模型。
📌 工作参考价值(4 点)
- 电商市场防护Sybil攻击的买家审核策略:可借鉴Skeptical Guardian模式,在买家决策时注入对卖家声誉、价格区间与描述一致性的交叉验证逻辑,尤其是当多个账户可能被同一主体操控时,通过行为聚类识别Sybil集群。
- 价格战市场的稳定性设计:限制消费者可见信息并不总能改善市场,过度提高搜索可见性反而加速恶性降价(dlc增大导致崩溃更难抑制)。在电商推荐系统中可考虑动态调整商品曝光度,避免陷入无利润的价格内卷。
- EAS标量指标用于智能体系统健康评估:结合稳定性、诚信度、福利与盈利四个维度的经济对齐分数,可直接迁移到评估电商智能体(如自动定价、自动客服)的整体市场影响,取代纯效率指标。
- RL训练使小模型获得经济对齐能力:用REINFORCE++加自适应课程(根据生存/检测率调整对手难度)和平方log-ratio正则化,仅需1.3%参数LoRA微调,9B模型即可在稳定性与反欺诈上超越大得多的模型。这种方法可用于训练电商中的自动议价或选品Agent,使其在优化自身收益的同时维护全局市场健康。
从可运行到可交付:多Agent测试驱动全栈Web应用生成
🧭 代码Agent测试驱动开发优化 ★ 深度解读
The Chinese University of Hong Kong · Columbia University · Singapore Management University
TDDev框架通过自动化验收测试、浏览器交互验证与失败翻译,使全栈Web应用生成质量提升34-48个百分点,且协议必须匹配模型风格。
📌 工作参考价值(4 点)
- 测试驱动的闭环反馈可用于生成式推荐或Agent管线:将业务需求(如“推荐多样化商品”)自动转化为结构化验收用例(用户故事+交互步骤+预期结果),由LLM agent模拟用户行为在部署环境执行验证,再将失败点转化为代码修复信号,可复用至多步推理或工具调用场景。
- 协议与模型生成风格匹配原则:在Agent工作流编排中,对偏好整体重写的模型(如Sonnet)应赋予高自主权的agentic TDD(仅给予工具和流程提示,不强制步骤),对偏好增量修改的模型(如Qwen)应采用分步强制的incremental TDD;错配会完全抵消反馈增益,且token消耗数倍增加,这一规律可迁移至多Agent协作策略选择。
- 浏览器交互验证的轻量化架构:使用Playwright + 可访问性树作为页面状态表示,由同一个LLM逐步生成Playwright动作并根据历史轨迹给出通过/失败/部分通过的verdict,无需预知页面结构,实现低误判(100%缺陷召回率,仅有保守型假阴性),该设计可直接用于电商Agent的UI自动化测试或端到端功能回归。
- 成本-质量权衡的量化方法:通过计算每提升一个百分点的token消耗(tok/pp),为不同协议建立边际成本曲线,指导生产环境选型;实验中增量TDD对保守模型带来最高精度但token消耗是整体TDD的24倍,为类似Agent系统的算力预算提供参考。
SaaSBench:评估编码代理在长周期企业SaaS工程中的能力边界
🧭 编码代理评估 · 长周期SaaS基准 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
首个面向真实企业级SaaS生成的评估基准,揭示当前代理主要瓶颈在于多组件系统集成而非代码逻辑
📌 工作参考价值(4 点)
- 在构建电商业务系统或其他内部工具的 Agent 时,采用依赖感知的 DAG 测试套件进行端到端验证,避免仅用单元测试忽略跨组件交互错误。
- 长周期任务中优先确保基础部署和系统连通性,再进入复杂业务逻辑;95% 的失败发生在系统未能稳定运行阶段,提示 Agent 工作流应加入环境自检与自动修复环节。
- 借鉴 PRD + 歧义消除知识库(KB)的输入设计,在需求文档中显式化模糊边界规则,可用于电商商品、订单、权限等复杂业务逻辑的需求澄清,减少 Agent 理解偏差。
- 失败模式分析表明,代理容易“过早自信”而提前停止,可设计阶段性验证门控,类似 DAG 前置依赖检查,强制 Agent 完成基础工程后才能进入深层次业务实现。
对抗POMDP中LLM智能体设计:上下文、推理与层次结构的成本效益研究
🧭 LLM Agent 架构设计:上下文工程与层次分解优于深度推理
Carleton University · Defence R&D Canada · Cistel Technology
在对抗性部分可观察环境中,程序化状态抽象与无推理工具的层次分解性能最佳,推理跨层次分布导致性能级联下降。
📌 工作参考价值(4 点)
- 在构建推荐或电商Agent时,优先实现程序化状态跟踪层(如用户行为序列压缩、环境状态摘要),而非将原始日志直接输入LLM。论文表明状态抽象比原始观察提升76%平均回报且成本效益高。
- 对于多Agent系统,采用层次化分解(主Agent协调多个专业化子Agent),但避免在每个子Agent中嵌入复杂的自我反思工具,否则可能引发“推理级联”,导致性能显著下降和令牌成本激增。
- 成本优化时,上下文工程(特征提取、状态压缩)的性价比通常高于增加推理步骤(如CoT、自我批评),尤其在高吞吐量在线推理场景。
- 将推理工具集中在顶层协调器而非分发给底层执行器,以保持系统稳定性和效率。
FORGE:群体广播实现无权重更新的Agent自进化记忆
🧭 Agent 记忆演化与群体广播 ★ 深度解读
Carleton University · Defence R&D Canada · Cistel Technology
通过种群冠军广播和失败触发反思,无梯度更新下将LLM Agent在POMDP中的表现提升1.7-7.7倍
📌 工作参考价值(4 点)
- 冠军广播机制加速多Agent学习:在Agent集群中,定期选出表现最优实例的文本记忆,替换掉所有其他实例的记忆。这一群体级选择压力能显著压缩策略方差,对电商推荐Agent或对话Agent的群体自改进场景非常实用。
- 文本记忆表示的选择与成本权衡:规则(Rules)型记忆成本低(~40%更少token),示例(Examples)型记忆性能更优(3/4模型取得最高返回),混合型居中。在生成式推荐或商品搜索Agent中,可根据计算预算灵活选择记忆形式。
- 毕业制度节省大规模Agent训练成本:提前冻结已收敛(解决任务)的实例,避免在后续广播中被覆盖或继续消耗token,可直接迁移到需要大量并行Agent训练的电商场景,如多路策略探索后的收敛管理。
- 无梯度、无强模型的自改进范式:利用Reflexion循环从失败轨迹自动提炼结构化知识,完全依赖同模型反思,适合无法微调基座模型的业务环境,例如基于闭源API的智能客服Agent的持续优化。
MemForest:基于层次时态索引的高效Agent记忆系统
🧭 Agent记忆系统 · 层次时态索引 ★ 深度解读
National University of Singapore · Zero Gravity Labs
通过并行提取与层次时态索引,实现Agent记忆的局部更新与时间感知检索,大幅提升写入吞吐
📌 工作参考价值(4 点)
- 时态树组织用户状态:将用户偏好、行为轨迹等记忆按时间组织为MemTree,天然支撑“状态演变查询”,避免扁平向量检索丢失时间顺序,适合电商场景中用户偏好迁移、行为序列推断。
- 局部更新与惰性刷新:修改仅影响脏节点路径,避免全量重写Profile或Summary,大幅降低在线更新成本,适合高并发会话流下的实时记忆维护。
- 并行提取提升写入吞吐:将长会话切分为短块并行调用LLM,再通过事实规范化合并,可迁移到推荐系统中对用户长行为序列的实时摘要生成,加速记忆构建。
- 多粒度检索平衡效率与精度:从粗粒度树摘要快速召回,再细粒度浏览,避免全库向量搜索开销,适合多智体系统的上下文召回或检索增强生成中的高效证据定位。
面向智能计费与碳分析的生成式AI框架
🧭 生成式代理 · 约束解码 · 需求响应优化
Independent Research, India · Independent Research, Germany
统一生成式代理、Transformer预测、碳审计与量子启发优化,实现日用电预测MAPE降至2.7%
📌 工作参考价值(4 点)
- 约束解码生成可控文本:在电商场景中,生成推荐理由、商品描述或客服回复时,可借鉴约束解码保证格式合规与数值准确,避免自由生成导致的幻觉或矛盾。
- 可审计的确定性计算链路:将碳排放因子等外部数据以封闭形式嵌入业务逻辑,保持端到端可追溯性;推荐系统中可类似整合实时价格、库存等确定性子模块,增强生成结果的可信度。
- 量子启发优化加速决策:模拟分叉(SB)求解器在需求响应优化中迭代远少于模拟退火(5 vs 70),可迁移至电商选品、定价或库存优化等组合问题,提升近实时决策效率。
- 分位数校准的预测区间:Transformer预测器输出多分位数结果,为库存、销量预测提供风险可控的置信区间,有助于鲁棒决策。
VideoSeeker: 原生代理工具调用驱动的实例级视频理解
🧭 视频理解 · 代理工具调用 · 强化学习
University of Science and Technology of China · Xiaohongshu Inc. · East China Normal University · Xi’an Jiaotong University
用视觉提示和原生工具调用实现实例级视频理解,平均提升13.7%,超越GPT-4o与Gemini-2.5-Pro。
📌 工作参考价值(4 点)
- 数据合成管线借鉴:四阶段自动化生成实例级视频数据的流程(空间/时间定位标注、工具调用轨迹),可用于构建商品视频细粒度识别、直播片段检索等场景的高质量训练数据。
- 原生工具调用训练范式:冷启动监督+GRPO强化学习内部化工具调用能力,可迁移至电商多模态Agent(如商品问答、视频导购),让模型自主决定何时调用时空定位工具。
- 视觉提示交互设计:以框、掩码等视觉提示替代纯文本描述,提升时空指代精度,适用于商品图像区域标注、视频高光剪辑等交互式应用。
- 反思机制与奖励设计:通过反思步骤和多维度奖励(定位精度、推理正确性)优化策略,可直接参考用于生成式推荐或对话Agent的RL微调,平衡探索与利用。
X-SYNTH:基于人类注意力的企业上下文合成框架
🧭 人类注意力驱动的企业上下文合成 · 行为序列学习 ★ 深度解读
Workfabric AI
将员工数字行为序列作为隐式相关信号,在销售线索识别中将真线索率从 9.5% 提至 61.9%,假线索率降至 18.8%。
📌 工作参考价值(4 点)
- 隐式行为信号作为相关性金标准:无需人工标注,利用员工在邮件、Slack、CRM中的操作序列和驻留时间等隐式反馈,直接训练相关模型,可迁移至电商搜索/推荐中的用户行为建模。
- 个人行为基线建模(DTS):为每个用户构建包含域注意力、节奏、短长期偏差等维度的滚动数字孪生签名,可检测异常兴趣漂移,适用于个性化重排序或异常检测。
- 多过滤器软路由机制:根据查询和用户DTS通过轻量MLP动态选择七种注意力过滤器(比例、反向、差分等),类似MoE但条件于用户状态,可用于多策略检索或推荐融合。
- 管线级反馈归因:分解终端反馈至各阶段(范围确定、模态选择、检索、合成),仅更新被归因失败的阶段,避免错误信号污染,适合多阶段Agent系统优化。
形式方法遇上大语言模型:高级AI系统的合规审计、监控与干预
🧭 Agent 行为合规监控 · 形式方法 ★ 深度解读
University of Toronto · Vector Institute
利用LTL进展将时序合规监控拆解为LLM标注+形式推理,效果远超LLM直接评判,并实现预测性干预
📌 工作参考价值(4 点)
- 用 LTL 形式化业务规则,监控 Agent 行为:电商场景中复杂的时序约束(如“必须先确认支付再发货,且发货前需人工审核大额订单”)可直接用 LTL 表达,结合 TRAC 对客服机器人、推荐流程或供应链Agent进行实时合规检查。
- 小模型标注 + 形式逻辑推理 > 大模型直接评判:不要依赖 GPT-4 等巨额模型作为时序行为裁判,改用 7B 小模型做动作/状态的命题标注,再交由 LTL 进展自动推理,成本低且 F1 大幅度领先,适合大规模日志审计。
- 预测与干预机制降低违规率:新增预测监控模块,对即将发生的违规进行采样估计,并通过重采样、约束注入提示或切换更安全的模型进行黑盒干预,在保持任务完成率的同时显著减少违规,可嵌入到对话Agent或推荐Agent的推理循环中。
- 审计日志自动生成可解释证据:TRAC 在监控过程中记录每次公式进展的 witness,为每一步合规/违规提供可追溯的解释,便于满足监管审计要求。
Agentic AI 与人机回圈干预:阿里巴巴客服运营的现场实验证据
🧭 Agent ★ 深度解读
Zhejiang University · Fudan University · Dartmouth College · Alibaba Group Inc.
揭示 agentic AI 客服中人工干预效果取决于失败类型与时机,早期介入和整合角色设计更优
APWA:面向可并行化 Agent 工作流的分布式多智能体架构
🧭 Agent ★ 深度解读
Northeastern University
提出 APWA,一种将任务自动分解为无干扰子任务并大规模并行执行的分布式多智能体架构,在现有系统失败的场景下实现线性扩展
超越二元:将 GUI 评价重铸为连续语义对齐
🧭 Agent ★ 深度解读
上海交通大学 · 小米
将 GUI 动作批评从二元分类改革为连续度量学习,在共享 Affordance 空间中恢复层次语义结构,无需额外标注
CHI-Bench:AI 代理能否自动化策略密集、长周期的医疗工作流?
🧭 面向策略密集长周期工作流的 Agent 评估
actA V A.ai · Johns Hopkins Medicine · Wellstar Health System · Stanford University · CMU
构建首个评估 AI 代理端到端自动化多角色、高策略密度医疗运营工作流的基准,当前最优方案仅完成 28% 任务。
📌 工作参考价值(4 点)
- 多角色与策略密集工作流设计:在电商客服、售后纠纷、供应链协调等多角色交互场景中,可借鉴 χ-Bench 的“指令-技能书-多 MCP 工具”架构,将企业内部业务规则编码为可被 Agent 调用的知识库与工具集,构建更贴近真实业务的长周期任务评估。
- 长周期任务性能退化警示:实验表明单会话连续执行所有任务时成功率骤降至 3.8%,提示在电商推荐或订单处理 Agent 的部署中,需设计会话状态持久化、记忆压缩或子任务分拆等机制来对抗长上下文下的性能衰减。
- 工具集成与标准化 MCP 接口:基准中 87 个工具通过 MCP 服务器暴露,为电商/推荐系统 Agent 集成复杂的业务 API(如商品搜索、营销规则引擎、物流查询)提供了工程参考,可复用其工具描述模式,降低 Agent 与异构系统的对接成本。
- 严格多级评估准则(pass³):对于生成式推荐、Agent 辅助决策等对可靠性要求高的场景,可以引入 χ-Bench 的多维度通过标准(如轨迹正确性、产出文档质量、最终结果),避免单指标乐观估计,更真实反映 Agent 在不可逆业务操作中的可靠性。
COTCAgent:基于概率思维链补全的预防性咨询系统
🧭 Agent ★ 深度解读
The University of Hong Kong · University of Electronic Science and Technology of China · The University of Sydney
通过解耦可执行趋势统计、IDF 加权知识库评分和有界对话补全,COTCAgent 实现纵向 EHR 的可审计疾病排序。
Grep 是否就已足够?代理框架如何重塑代理式搜索
🧭 Agent ★ 深度解读
PricewaterhouseCoopers
系统实验揭示:检索策略(grep vs 向量)的效果依赖于代理框架与工具输出方式,内联 grep 在对话记忆任务中整体更强
基于确定性Agentic Workflow的HS关税分类:多维规则推理与可解释决策
🧭 Agent ★ 深度解读
上海交通大学 · 中国海关总署 · 南京极云信息技术有限公司
通过固定控制流的多阶段LLM流水线实现HS分类的多维规则推理,输出可审计决策且开源模型性能接近前沿模型
基于 UI 行为痕迹的 LLM 浏览器智能体指纹识别
🧭 Agent ★ 深度解读
University of Oxford
仅通过页面动作时序,即可识别浏览器智能体的底层模型,F1 最高 96%,随机延迟防御可被自适应分类器破解
基于智能体的神经架构自主发现:AIRA-Compose 与 AIRA-Design
🧭 Agent 驱动的神经架构自动发现
FAIR at Meta
用多智能体协作在有限预算内自主搜索 Transformer-Mamba 混合架构,性能与效率超越人工设计基准
📌 工作参考价值(4 点)
- 多智能体组合搜索可复用:在电商推荐模型的 CTR/序列模块中,可借鉴AIRA的11-agent协作模式,将Attention、MLP、Mamba等计算原语作为搜索空间,用固定GPU预算自动探索高效混合架构,减少人工试错成本。
- 小尺度评估+外推策略:对推荐模型结构搜索,先在百万参数量级快速评估候选设计,再extrapolate到生产级大模型,这种“低成本过滤”能显著提升搜索效率,可复用于召回、排序模型的架构迭代。
- 直接由Agent编写算子与脚本:AIRA-Design让Agent生成注意力机制和训练脚本,这一思路可迁移至长序列推荐场景(如用户行为序列),自动优化长程依赖处理,降低对专家手工设计的依赖。
- 固定预算下的多Agent竞赛机制:多个Agent在限定时间/资源内并行提出方案并相互评估,这种竞争性协作可应用于推荐系统的超参优化、特征工程自动化,快速找到性价比最高的配置。
PAGER:弥合精准几何 GUI 控制中的语义-执行鸿沟
🧭 精准 GUI 代理 · 像素级控制
University of Chinese Academy of Sciences · Shanghai Artificial Intelligence Laboratory · China University of Petroleum-Beijing
提出拓扑感知代理 PAGER,通过像素级监督微调与精度对齐强化学习,解决点级精确 GUI 构造问题
📌 工作参考价值(4 点)
- 像素级过程监督数据集:PAGE Bench 包含 224K 过程监督像素动作,可为电商设计自动化、交互式推荐布局等场景提供细粒度操作标注范例,直接用于训练可执行动作语法。
- 精度对齐强化学习:通过状态条件几何反馈缓解 rollout 曝光偏差,该思想可迁移到任何序列决策任务,适合在电商推荐的多步交互中纠正累积误差。
- 拓扑感知依赖规划:将复杂构造任务分解为依赖结构子任务再执行,类似思路可用于电商页面生成时先规划组件关系再渲染,提高结构化输出的准确性。
- 语义-执行鸿沟的警示:提醒在 Agent 开发中,即使语义理解准确率很高,几何级精度缺失仍会导致任务失败,需在设计奖励和度量时引入执行精度指标。
Pelican-Unified 1.0:统一理解、推理、想象与行动的具身基础模型
🧭 具身智能 · 统一多模态基础模型
首个按统一原则训练的具身基础模型,用单一VLM实现理解、推理、想象与行动,同规模下多项性能最优
📌 工作参考价值(4 点)
- 统一多任务的架构思路:用一个VLM同时承担理解与推理,将场景、指令、历史动作映射到共享语义空间,避免多个专家系统的拼接,降低系统复杂度,适合电商场景中需要融合文本、图像、用户行为序列的多任务统一建模。
- 未来生成器联合预测视频与动作:通过同一去噪过程同时产生未来视觉和未来行动,并将语言、视频、动作损失回传至共享表示,这种联合训练能让模型学到更丰富的环境动态表征,对需要想象用户未来行为的推荐模型有启发,可以尝试在用户序列预测中同时生成行为与上下文。
- 自回归思维链生成与潜变量投影:VLM在单次前向中输出任务、动作和未来导向的思维链,并将最终隐状态投影为潜变量,作为未来生成的Condition,这类似于将推理过程显式化为离散Token再总结为稠密向量,可以借鉴到Agent决策或推荐解释中,提升推理的可控性和下游生成质量。
- 一个Checkpoint保持各能力竞争力:实验表明统一训练不会导致能力妥协,对工业部署友好,可减少线上模型数量和版本管理成本,适合电商中需要同时具备理解、推理、想象能力的基础模型建设。
SmartWalkCoach:端到端步行指导、激励与反思的AI伴侣
🧭 Agent ★ 深度解读
西安交通利物浦大学
集成路线规划、情境陪伴与总结反思的移动AI伙伴,实证表明动机性对话大幅提升用户积极情感和体验
无需模型修改的并发:面向LLM的基于Future的异步函数调用
🧭 Agent ★ 深度解读
University of California, Berkeley
提出AsyncFC,通过Future占位符解耦LLM解码与函数执行,实现无模型修改的异步工具调用并显著降低延迟
先看再跳:LLM Agent 的自主环境探索能力训练
🧭 LLM Agent 自主探索能力训练与评估 ★ 深度解读
University of Science and Technology of China · Meituan
通过 ECC 指标和交错 GRPO 训练,显式培养 LLM Agent 在陌生环境中的主动探索能力,显著改善下游任务表现。
📌 工作参考价值(4 点)
- 探索-利用分离范式可迁移至电商场景:agent 在接单前先自主探索商品状态、接口参数或用户偏好,获取结构化知识后执行推荐/购物任务,提升动态环境的适配性。
- 用 ECC 量化领域探索度:为电商或工具 Agent 定义关键产品、属性、API 返回等“探索检查点”,像本文计算覆盖率,可客观评价 agent 对业务环境的理解程度,避免依赖模糊的成功率。
- 交错训练平衡探索与任务优化:采用 GRPO 交替优化探索奖励(覆盖度)与任务奖励(转化/收益),可训练出既会收集信息又能完成目标的 agent,比纯任务 RL 更鲁棒。
- 鲁棒性增强可用于生成式推荐:环境扰动(如物品库存变化)时,让 agent 先探索再决策,类似事前信息采集,可减少因过拟合静态知识导致的错误推荐,提升在线适应力。
走向自我进化的智能体文献检索系统
🧭 Agent ★ 深度解读
Shanghai Jiao Tong University · SciLand · Zhejiang University
提出PaSaMaster,以自演进检索、幻觉消除排名和规划-检索分离,在1%成本下超越GPT-5.2,实现零源幻觉
超越个体智能:基于LLM的多智能体系统协作、失败归因与自我演化综述
🧭 Agent ★ 深度解读
西安交通大学 · 联想AI技术中心 · 华中师范大学 · 悉尼大学
提出LIFE框架将单智能体能力、多智能体协作、失败归因与自我演化统一为因果链环,填补了闭环诊断与自主改进的综述空白
FutureSim:重放世界事件评估适应性智能体
🧭 Agent ★ 深度解读
ELLIS Institute Tübingen · Max Planck Institute for Intelligent Systems · University of Stuttgart · Tübingen AI Center · University of Southampton
通过真实新闻事件按时间顺序重放,评估前沿智能体长期预测与适应的能力
克服动态盲区:面向VLA模型的免训练步速与路径校正
🧭 具身智能 · 动作块时域校正
Case Western Reserve University · The Hong Kong Polytechnic University · Tsinghua University · InspireOmni AI
提出训练无关的步速与路径校正模块,以闭式解统一修正VLA动作块在动态场景下的时域不一致性
📌 工作参考价值(4 点)
- 动作块预测与时域动态不匹配的问题在推荐系统的序列决策中同样存在(如用户兴趣漂移),pace-path 分解的思路可以启发将预测序列校 正解耦为“强度调整”和“方向微调”,提升模型在非平稳环境下的鲁棒性。
- 免训练的推理时校正算子可以作为即插即用的外挂模块,适配现有模型而不需重训,在线上快速修正预测偏差,降低工程落地成本。
- 将动态环境的影响抽象为两个正交分量的闭式解,这一设计可借鉴到 Agent 多步规划的在线修正,在状态变化时实时微调动作序列,避免完全重规划。
- 在电商推荐中,类似动态环境的用户行为变化,可利用该思想对生成的推荐序列进行在线校准,平衡探索与执行效率。
LiSA:通过保守策略归纳实现终身安全适配
🧭 Agent ★ 深度解读
Google Cloud AI Research · Seoul National University · Google
在稀疏、嘈杂反馈下,通过结构化策略记忆与证据感知重用的保守归纳,持续改进AI护栏
MemEye:以视觉为中心的多模态智能体记忆评估框架
🧭 Agent
从视觉证据粒度和推理方式两维评估多模态记忆,揭示现有架构在细节保留与状态变化推理上的缺陷
面向风险投资尽职调查的多智能体编排框架
🧭 Agent ★ 深度解读
Athens University of Economics and Business
事件驱动多智能体系统自动整合实时网络检索与官方注册文档解析,并通过结构化回退机制消除金融幻觉
面向网络化LLM搜索智能体的轨迹感知证据生态系统
🧭 Agent ★ 深度解读
ShanghaiTech University
提出生态系统生成引擎优化视角,通过导航入口与异构支持页面协同引导智能体浏览轨迹,提升目标产品推荐成功率
MMSkills:面向通用视觉智能体的多模态技能框架
🧭 视觉智能体 · 多模态技能复用
Shanghai Jiao Tong University · Xiaohongshu Inc. · Southeast University
提出多模态技能包(状态卡片+关键帧+文本过程),并通过分支加载机制提升视觉Agent决策。
📌 工作参考价值(4 点)
- 可借鉴多模态技能包构建方式:将电商操作流程(如商品搜索、下单)封装为文本过程+关键状态截图+状态描述卡片,减少Agent推理时的图像上下文开销。
- 利用非评测的用户交互轨迹(如公开的购物会话)自动生成可复用技能库,通过工作流分组和视觉接地减少人工标注成本。
- 分支加载机制可集成到电商Agent中:在临时上下文里对比当前界面与技能包中的关键帧,对齐状态后才给出操作建议,避免直接参考静态截图导致的过锚定。
- 多模态过程知识对外部技能库的补充思路,可推广到生成式推荐中的多模态用户意图理解,用类似状态卡片描述用户当前搜索上下文。
Nexus:多智能体时间序列预测框架
🧭 Agent ★ 深度解读
Google · Pennsylvania State University
通过宏微观双分辨率预测与动态校准,Nexus 多智能体框架在零样本预测中超越专业时序模型,并输出可解释推理。
Orchard:开源可扩展代理建模框架
🧭 Agent ★ 深度解读
Microsoft Research · Columbia University · UIUC
提出轻量级环境层 Orchard Env 实现跨领域、跨训练阶段的 SFT+RL 代理训练,在 SWE-bench 和 GUI 基准上达到开源最优
自蒸馏智能体强化学习:门控辅助蒸馏稳定多轮训练
🧭 Agent ★ 深度解读
Zhejiang University · Meituan · Tsinghua University
SDAR 用 token 级 sigmoid 门控自适应调节 OPSD 信号,保持 RL 主导并稳定提升多轮智能体性能
AgentDisCo:开放式深度研究智能体的解耦与协作
🧭 Agent ★ 深度解读
Xiaohongshu Inc.
通过解耦信息探索与利用为对抗式循环,并构建元优化策略库,在多个深度研究基准上超越闭源系统
利用语言模型先验从观测中学习POMDP世界模型
🧭 LLM引导的POMDP世界模型归纳 ★ 深度解读
Max Planck Institute for Intelligent Systems · IRIIS · University of California, Santa Barbara · University of Tübingen · University of Oxford
LLM生成可执行POMDP代码,通过信念滤波与软距离似然评分,无需隐藏状态即可匹配有监督方法的样本效率
📌 工作参考价值(4 点)
- 在无法获取用户真实意图(隐藏状态)时,可用LLM生成候选的状态转移与观测模型代码,基于历史行为(点击/购买序列)的粒子滤波和软距离似然进行评分迭代,无需人工标注隐藏状态。
- 将LLM生成的确定性观测模型通过距离核软化,使任何观测都有非零似然,避免粒子滤波崩溃;这一技巧可直接用于离散观测(如商品ID、行为类别)的模型评估。
- 使用UCB选择父节点进行多轮候选修订,平衡探索与利用,可借鉴到自动化模型搜索或策略迭代的优化流程中。
- 以可执行代码形式输出世界模型,可审计、可复现,便于部署到在线规划(如用户状态推断与折扣策略),比纯LLM模拟更稳定、更廉价。
模型自适应工具必要性揭示LLM工具使用中的知行鸿沟
🧭 Agent工具使用决策·元认知检测 ★ 深度解读
University of Maryland, College Park
基于模型能力重新定义工具必要性,发现LLM内部认知与实际行动脱节,错配主因在认知到行动的转换阶段
📌 工作参考价值(4 点)
- 1. 在电商Agent/多智体场景中,评估工具调用必要性时应改用模型自适应的阈值,而非人工静态标注——用多个采样运行的一致性(如N=10, T=0.7)判断模型是否真正需要工具,更贴合实际部署。
- 2. 可以通过隐藏状态线性探测快速诊断工具调用错配的根源:是模型认知不到必要(阶段1),还是认知到了但执行失败(阶段2)。若阶段2占比高,无需重新微调认知,重点应放在后期层对齐。
- 3. 后期层中认知与行动方向近乎正交,提示可在训练时加入对齐正则项,或在推理时对最后几个token的残差流进行干预(如转向认知方向),强制知行一致,减少无谓工具调用。
- 4. 系统设计里,与其依赖显式自我评估(会大幅改变行为),不如直接监测内部状态来触发工具,避免知行鸿沟,这对需要高可靠性的搜索、计算类工具尤其有用。
SPIN:通过迭代导航实现工业任务的结构化LLM规划
🧭 Agent ★ 深度解读
University at Albany · Kwansei Gakuin University · IBM
一种规划包装器,结合DAG验证与基于前缀的模拟器-批评家停止策略,提升工业LLM代理的执行效率与结构正确性
PREPING:无需目标任务的智能体记忆构建
🧭 Agent ★ 深度解读
KAIST · DeepAuto.ai
通过提议者引导的合成实践与验证过滤,在部署前无需任何目标环境任务即可构建可复用程序性记忆
ORACLE:从流式应用使用部分轨迹中预测诈骗
🧭 流式跨应用欺诈早期预测智能体 ★ 深度解读
Harbin Institute of Technology, Shenzhen · Shenzhen University · Zhejiang University · National University of Singapore · Guangming Laboratory
提出首个流式跨应用诈骗早期预警智能体框架,通过自演进上下文管理与在线策略自蒸馏实现更早更准的预警。
📌 工作参考价值(4 点)
- 自演进上下文管理可借鉴用于用户行为序列建模:以实体为中心存储历史交互,结合预测反馈动态调整检索规则,缓解长周期行为依赖中的证据碎片化问题,适用于电商推荐中的用户长周期兴趣追踪或风控中的异常模式发现。
- 在线策略自蒸馏(OPSD)利用“反思”或特权信息作为教师信号,强化模型对早期弱信号的敏感度,该方法可迁移至推荐序列中早期兴趣察觉或欺诈交易的微弱特征捕捉。
- 技能库的自我进化机制(根据高风险预测结果提炼可复用规则)可启发对话式 Agent 或推荐 Agent 的经验积累设计,让 Agent 在交互中逐步沉淀高价值决策知识。
- 数据集构建方式(将真实欺诈案例嵌入正常日志合成长期流式轨迹)可为流式推荐中的异常检测基准提供参考,尤其适合需要评估“早期”与“低误报”双重指标的实时系统。
RewardHarness:自进化智能体后训练框架
🧭 Agent 自进化奖励建模
University of British Columbia · Vector Institute · Kuaishou Technology · Carnegie Mellon University · University of Waterloo
将奖励建模从权重优化转为上下文进化,用少量样本自动演变工具技能库,实现高数据效率评估
📌 工作参考价值(4 点)
- 用少量人工标注(100 条)即可引导 Agent 自主迭代进化评估标准,大幅降低构建评价模型的成本,可借鉴到电商多模态内容(商品图/视频)的 automated evaluation 或 RLHF reward signal。
- Orchestrator + Sub-Agent 的推理链架构,通过选择工具和技能来构建判断逻辑,类似可应用于推荐系统中排序策略的评判或解释生成,提升可解释性与可干预性。
- 自进化工具库的维护方式(分析成功/失败案例后增删改工具)提供了 Agent 持续学习的工程范式,可以迁移到多智体协作场景,让评估 Agent 随着业务迭代自动适配新准则。
- 冻结子模型配合技能库的思路,让 API-only 模型也能参与 reward modeling 的迭代,对使用闭源大模型做判断的业务有参考意义。
STALE:大模型智能体何时知晓记忆已过时?
🧭 Agent ★ 深度解读
武汉大学 · 香港中文大学 · 香港科技大学
提出STALE基准评估LLM隐式记忆冲突,揭示检索与行动脱节,及写入侧状态裁决的有效性