应用手册任务:揭示语言模型长程程序推理的缺陷
🧭 长程程序推理评测
Manulife
构建 TAM 基准,用两类真实手册任务评估 GPT-5,发现精确匹配仅 1% 和 15.5%
📌 工作参考价值(4 点)
- 业务中高度规则化、需要跨文档查询的任务(广告政策、促销/优惠券规则、售后条款)不要直接交给 GPT-5 端到端生成最终判定;应拆成可校验的子步骤,每步做精确匹配或规则引擎兜底,LLM 只做信息抽取/语义匹配。
- RAG 和 ReAct 在长程手册任务上没解决根本问题,说明长文档检索准确率是瓶颈;可先做语义切分、section-level 索引、规则预先结构化(如将条款转成可执行 DSL/知识图谱),把“翻手册”转化为确定性查表。
- 建立内部评测时,用逐条人工验证的 exact-match 指标,不要只看模型输出“像不像”;TAM 的构建方法可复制到自己的业务手册/政策库上,先测 GPT-5 类模型的基线。
- Agent harness 可能因循环步骤长而累积错误,建议设置中间状态校验点、限制 ReAct 步数,并把高置信度规则提前缓存到上下文。
人类建造的最后一个AI:走向真正的递归自我改进
🧭 递归自我改进与Agent自治路线图
Shanghai Jiao Tong University · Theseus Labs · Tsinghua University · ByteDance · Shanghai AI Lab
提出递归自我改进的完整路线图与 Headroom-Closed Index,系统梳理从执行自治到元改进的演化路径
📌 工作参考价值(4 点)
- HCI(Headroom-Closed Index)可以作为衡量模型在特定任务上还有多少提升空间的诊断指标:在电商搜索/推荐场景中,可先用 HCI 评估当前 LLM 在 query 理解、意图改写、生成式推荐等任务中的能力天花板,避免在不值得投入的方向上做无谓的迭代。
- RSI 的自治等级框架可直接映射到推荐系统 Agent 的构建:先实现 improvement-execution autonomy(自动执行模型更新、策略调整),再逐步升级到 improvement-strategy autonomy(自动选择训练数据、loss 设计、超参搜索),最后尝试 experience-acquisition autonomy(自动从线上反馈中挖掘新经验)。
- 论文强调不同场景对 RSI 的要求和速度不同:电商推荐属于反馈信号密集、环境变化快的场景,更适合从经验获取自治切入;而生成式商品推荐(GenRec)需要结合 Semantic ID 生成与用户行为反馈,可借鉴 RSI 中环境适应自治的思路,让 Agent 自动调整生成策略以适配活动、季节等变化。
- 持续学习与元改进在推荐模型中的工程化落地:借鉴文中经验获取与递归元改进,可以在现有推荐模型迭代 pipeline 中加入自动化的数据选择、在线评估和策略回滚机制,减少人工调参,提升模型对新品类、新用户的适应速度。
朴素提示词优化:重新思考复杂提示词搜索的必要性
🧭 提示词优化 · 教师-学生轻量迭代 ★ 深度解读
Purdue University
提出单谱系迭代的提示词优化方法NPO,用强教师模型结合轨迹反馈,以更少rollout达到或超越复杂搜索方法GEPA
📌 工作参考价值(5 点)
- 提示词工程做减法:NPO 证明在固定 student 模型下,用单谱系 + 滑动窗口轨迹反馈 + 强教师(如 GPT-5.5)就能达到甚至超过 GEPA 等复杂搜索方法;在电商/广告 agent 中可直接套用此简单框架,避免维护多个候选 prompt 池和 Pareto 选择,节省工程复杂度。
- 公平评测技巧:使用共享伪随机种子生成环境实例,让不同方法在完全相同的问题分布上比较,降低环境噪声;在业务 AB 测试或策略对比时,若环境可 seed,可借鉴此设计提高对比的统计可靠性。
- 约束解码隔离格式错误:用 token-level trie 约束模型输出合法动作(如 JSON 字段、合法选项),使性能评估专注决策质量而非格式好坏;在电商推荐/搜索等结构化输出场景(如生成 query、商品属性)可显著减少不必要的失败,同时保留 reasoning 自由。
- 跨模型迁移 prompt:在便宜小模型上优化出的 prompt 可直接迁移到同家族大模型且收益保持(如 Qwen3-8B 优化后迁移到 Qwen3-32B),跨家族也有正向收益;实际工作中可先在小模型上迭代 prompt,再部署到线上大模型,避免重复优化成本。
- 防泄漏监控:对比优化 prompt 与训练/验证集答案的重叠度,发现主要积累训练集信息而验证集几乎不泄漏;业务中做 prompt 自动优化时也应监控此类污染,避免上线后效果虚高。
PILOT:长程智能体实时自我改进
🧭 Agent 多智体协作与实时自改进
AllSpark Team
提出 supervisor-worker 架构,通过 live steering 与 live self-evolution 实现长程智能体实时自我改进,显著提升成功率与 token 效率
📌 工作参考价值(4 点)
- 将执行与监督分离(supervisor-worker),主 agent 实时 redirect/abort 子 agent,避免单一上下文注意力分散;在电商 Agent 工作流(自动选品、广告投放、客服)中可引入独立监督者角色,及时纠正长流程偏差。
- live self-evolution 将运行中暴露的失败模式蒸馏成可复用 skills/memory,形成经验沉淀;推荐系统中可将 bad case / 成功策略实时固化到知识库或 prompt 中,降低重复错误。
- 论文观察到输出 token 大幅下降(最多 47.4%),成功评估效率提升 110%+,说明 supervisor 及时中止无望执行可显著降低推理成本;线上 LLM Agent 可设置 abort 条件,提升 ROI。
- 方法基于 frozen backbone,无需修改模型权重,适合工程直接复用;可将 PILOT harness 抽象成通用 Agent 编排层,用于搜索推荐场景中的多步 reasoning / 工具调用。
StarHarness:用分层搜索为企业环境演化 Agent Harness
🧭 Agent harness 演化 · 环境适配 ★ 深度解读
ServiceNow · Mila · Université de Montréal
提出 StarHarness,在冻结模型下分层搜索演化 Agent harness,企业基准提升 20-35pp 并可跨模型迁移
📌 工作参考价值(4 点)
- 对电商/广告/搜索推荐里的 Agent 工具链,可以不微调模型,先优化 harness(prompt、tool schema、MCP 参数预处理、subagent 结构、finish 逻辑);本文在 4-12 个 accepted patches 内拿到 20-35pp 提升,工程成本很低。
- 借鉴其分层任务池:按 baseline failure mode、task score、verifier pass rate 抽样,再把任务拆成 proposer 可见 search set、隐藏 selection set 和 held-out;能直接评估泛化、防止 harness 搜索过拟合到具体 case。
- 演化循环中加入便宜门控:scope/import/smoke 校验 + 单任务 test flip,不通过就不跑全量 selection eval;生产环境可大幅降低搜索成本。
- 实际可复用的修复类型:清理 null/empty/placeholder 参数、补充 schema 约束、把隐式业务规则写进 prompt(如 priority 与 impact/urgency 联动、保留 relationship 字段)、把日期/金额计算下沉到确定性工具;这些都适合迁移到订单、商品、营销工具等有状态业务 Agent。
AdsWorldEngine:编排器与工具协同进化的对话广告 Agent
🧭 对话广告 Agent 与工具协同进化 ★ 深度解读
Microsoft
用 Actor-Tool 协同进化与标签锚定判断建模构建对话广告 Agent,取得显著离线与在线收益
📌 工作参考价值(4 点)
- 把“是否出广告/推荐/消息”从“出什么”里拆开:用 Opportunity Gate + asymmetric cost-sensitive GRPO 控制误触发。false positive 惩罚设为 -2、false negative 设为 -1,直接按业务损失编码;不要做 group std scaling,避免抹掉不对称 gap。适合电商 push、对话推荐插入、搜索广告位决策。
- Actor-Tool 协同进化:先用 final slate 的 relevance/diversity 奖励训练 Orchestrator,再用 high/low reward rollouts 构造 (intent, 正样本 ad, 负样本 ad) preference 对,以 DPO 式目标训练 retrieval/relevance/ranking tool。能把端到端业务奖励传导到召回/排序工具,适合已有检索/排序模型的团队。
- Orchestrator 的 GRPO 奖励要看最终 slate 的 relevance/diversity,而不是看生成 query 的表面多样性。训练后模型会从“2026 Honda Pilot vs Toyota Grand Highlander comparison”这种重叠 query 变成两个产品名 query,检索候选更不重叠。搜索 query 生成/改写可复用:评估 query 质量要用下游召回结果。
- Label grounded judgment modeling:用 human label + 生产 guideline 生成思维链,再用 reflection 过滤标签不一致的 rationale,能减少“流畅但违背 label”的监督噪声;适合做主观 relevance/机会判断模型。
Macaron-V1:通过自改进与混合 LoRA 实现开放持续学习
🧭 Agent 持续学习与适配器组合 ★ 深度解读
Mind Lab
提出冻结基座 + 可组合 LoRA 专家的 MoL 架构与递归自改进循环,实现代理模型部署后持续适应与协作
📌 工作参考价值(4 点)
- 多域任务路由架构:将不同业务域(如对话、推荐、搜索)建模为独立 LoRA 适配器,冻结共享基座,通过 Proxy 按请求路由,避免任务干扰且支持独立更新,类似推荐系统中多目标 MoE 的路由分离。
- 版本化 harness 协议:HCP 将 prompt、工具、技能、环境等配置统一为 TOML 工件,可作为推荐 Agent 中工具与指令的线上可 audit 配置层,便于 A/B 测试和回滚。
- 长上下文执行与 KV 复用:通过可拼接的 own-view 实现跨适配器 prefix cache 命中,值得在多轮会话、长用户行为序列的 LLM 推理中借鉴,降低延迟。
- 递归自改进循环:从生产日志挖掘失败任务 → harness 配置搜索 → LoRA 更新,可复用至搜索推荐 Agent 的持续优化,逐步扩展能力边界。
大型技能库的智能体检索:知识图谱为何未能超越强排名器
🧭 Agent 技能检索与知识图谱 ★ 深度解读
Praetorian
在技能检索中,知识图谱因边候选源于同一嵌入邻域而无法扩展排名器的召回边界
📌 工作参考价值(4 点)
- 优先构建强混合排名器:在技能检索系统中,先投入资源做好 BM25 + 语义嵌入的融合排名器,而不是急于构造知识图谱。混合排名器本身能覆盖词汇和语义差距,成本低且有效。
- 评估集要避免作者回声:由阅读过技能库的作者编写的查询集会因术语重复而严重高估检索准确率,实验中关键词排名器被夸大 44 个百分点。评估时应使用非回声、真实场景的查询集。
- 知识图谱的边源不要与排名器共享:若要使用知识图谱辅助检索,其候选边生成必须源自排名器未使用的信号(如共现记录、跨模态数据),否则图谱仅能重排已有结果,无法增加新召回能力。
- 关注方向性关系的准确性:图边中 requires、precedes 等方向性关系的错误率可能高达 17–33%,若直接用于指导下一步动作,可能产生严重误导,需在落地前充分审计。
优化器即智能体:推理驱动的 Prompt、程序与 ML 工作流搜索
🧭 Agent 驱动的优化搜索 ★ 深度解读
The University of Texas at Austin · Snowflake
用单一工具使用智能体内部化搜索策略,替代外部启发式控制器,在三大领域 14 项任务中达到或超越专用方法。
📌 工作参考价值(4 点)
- 用 Agent 自动优化模型超参与训练流程:在搜索推荐模型中,可借鉴 ReASearch 的“先诊断再修改”范式,通过 Python exec 分析训练曲线、定位瓶颈,替代盲目调参。
- Prompt 自主进化:对于生成式推荐或 Query 改写,可让 Agent 自主管理 prompt 候选树、验证增益、回溯失败路径,并通过记忆文件积累领域知识,减少对手工启发式的依赖。
- 低成本组件易于集成:Memory 文件(lessons.md)记录已尝试的方法、效果与下一步方向,可作为 Agent 的持久经验库,在新任务初始化时复用,类似推荐系统中的历史实验知识复用。
- 验证粒度控制防过拟合:仅暴露聚合验证指标(而非逐样本反馈)能有效防止 prompt 优化过拟合,这一 trick 可直接迁移到生成式推荐的 prompt 调优中。
HarnessOpt-Bench:大模型Harness优化评测基准
🧭 大模型Harness自动化优化基准测试
Scale AI
首个评估LLM端到端Harness优化的基准,揭示模型差异大于框架且原生框架不总占优
📌 工作参考价值(4 点)
- 在搜索推荐系统的Agent搭建中,可引入类似Harness优化流程:以LLM自动迭代提示词、工具组合、控制流,基于离线的固定评估预算搜索最优配置,替代纯人工调参。
- 借鉴信任执行环境(TEE)设计,为优化过程建立沙盒,严格隔离测试集,防止信息泄露,同时跟踪资源消耗与版本历史,确保线上Agent迭代的安全性。
- 选择优化器模型时优先考虑本基准中表现更强的模型(如GPT‑4o),因其优化增益显著高于弱模型;业务中可先对候选模型进行简易评估,再投入自动化调优。
- 初始种子Harness对最终增益影响大,推荐由领域专家设计多个有差异的种子基线,再让优化器在预算内探索,以获得更稳定和泛化的性能提升。
IACM-RL:动态意图波动下基于意图感知上下文管理与强化学习的复杂工具调用
🧭 Agent 上下文管理与强化学习优化 ★ 深度解读
复旦大学 · 荣耀终端有限公司 · 北京大学
提出自生成上下文管理器与分层意图奖励,解决动态意图噪声下工具调用中的状态漂移和无限循环问题
📌 工作参考价值(4 点)
- 状态管理与动作生成解耦:在电商 Agent(如售后、导购)多轮对话中,可将用户需求(商品参数、配送偏好)抽离为显式信念状态块,标记过时字段,避免模型重复使用已修改信息,可直接借鉴 CM 的九块结构设计领域专用状态模板。
- 分层奖励设计:推荐系统 Agent 的 RL 训练可使用类似分层奖励——参数级(如属性正确)、行为级(避免重复推荐)、结果级(推荐链完成度),提供密集、可诊断的信用分配,替换稀疏奖励。
- 辅助损失内部化状态能力:通过 CM 提取损失 L_ext 直接优化状态块生成质量,再用蒸馏损失 L_dist 将状态跟踪蒸馏进模型权重,实现无额外推理开销的隐式状态管理,适合对延迟敏感的线上系统。
- 对抗训练构建干扰数据:用类似 DynamicIntent 的数据增强方法,模拟用户中途插入闲聊、假任务等噪声,训练鲁棒的多轮推荐策略,可提升真实场景下的任务完成率。
PAST-Bench:个人代理递归自我改进的基准与诊断
🧭 个人代理递归自我改进评估与诊断
构建受控实验揭示代理改进并非必然源于正确的经验路径,并设计 Hermes+ 强化 save-retrieve-update 机制
📌 工作参考价值(4 点)
- 评估个性化推荐 Agent 的长期效果时,可借鉴 PAST-Bench 的控制变量设计:对比开启与关闭记忆时的任务增益,并诊断增益是否来自预期的 save-retrieve-update 路径,避免被模型原生能力或统计偏倚误导。
- 推荐系统的用户状态管理可借鉴 Hermes+ 的五项干预:如遗忘机制处理过期偏好、时序感知检索捕捉兴趣漂移、优先级队列管理记忆容量,防止陈旧信息干扰。
- 在构建持续学习的 Agent 时,应重点应对“条件变化”场景(如用户偏好转换),主动替换而非累积过时状态;PAST-Bench 的更新维度测试可移植用于验证此类机制。
- 如需分析 Agent 框架对经验复用的贡献,可分离基座模型与框架的影响,PAST-Bench 提供跨模型和框架的衡量方式,帮助定位架构瓶颈。
TRACE:通过冻结参考模型估计步骤信用实现长程 Agent 的稠密奖励
🧭 Agent 强化学习中的步骤级信用分配 ★ 深度解读
University of Wisconsin–Madison · Microsoft Research
用冻结参考模型的金标答案对数概率变化作为工具调用步骤的即时信用信号,无需 Critic 或过程标签,显著提升长程 Agent RL 训练效率与效果
📌 工作参考价值(4 点)
- 冻结参考模型作为价值探针:无需训练额外 Critic 或 PRM,直接用初始化策略作为固定的前缀状态评分器,可稳定地为多轮工具调用提供稠密奖励,适合电商对话 Agent、搜索 Agent 等需要长程交互的场景。
- Log-ratio 状态值设计:通过计算金标答案对数概率的相对间隙闭合度(而非绝对变化),解决了不同置信度下概率变动尺度不一致的问题,能更准确地衡量中间步骤的进展,该方法可直接用于推荐或广告 Agent 中关键决策步骤的信用评估。
- K-step TD 备份传播延迟信用:支持将后续观察到的答案可预测性提升追溯到更早的搜索或文档打开动作,这对网页搜索、商品筛选等多步决策链条非常有益,避免只奖励最后一步而忽视前序关键操作。
- 与结果奖励的混合优化:将 TD 信用作为辅助信号与 GRPO 的结果优势相加,保持最终正确答案作为训练锚点,既缓解稀疏奖励,又防止局部进度信号主导优化方向,这种架构可复现于搜索推荐等需平衡即时反馈与最终目标的场景。
AI Agent 能否判断任务简单性?面向复杂度感知的推理与执行
🧭 Agent 复杂度感知执行优化
提出 E3 框架让 Agent 先估算任务难度,最小化执行,仅在验证失败时扩展,减少认知冗余
📌 工作参考价值(4 点)
- 最小充分执行原则:在构建推荐系统的多步 Agent(如数据分析、代码调试)时,先尝试用最少步骤完成任务,失败后再逐步扩展上下文,可避免过度检索或调用,显著降低 token 消耗。
- 复杂度感知调度:为 Agent 增加任务难度估算模块,根据任务复杂程度动态分配上下文长度和工具调用次数,防止简单任务消耗过多资源,适合电商场景中大批量轻量查询的自动化处理。
- 冗余度监控:引入类似 ACRR(Agent 认知冗余比)的指标来度量 Agent 执行中的不必要操作,优化工作流设计,帮助我们识别并剪除重复的文件读取或无效推理环节。
- 适应性验证机制:E3 的「先执行、后验证、必要时扩展」策略可直接用于 Agent 驱动的搜索推荐调试、自动 A/B 测试分析等流程,在保证成功率的前提下大幅压缩执行成本。
智能体系统的共享选择性持久记忆架构
🧭 Agent 记忆架构 · 选择性持久化 ★ 深度解读
Apple Inc.
将智能体会话中的可复用上下文提炼为四种结构化记忆,丢弃推理痕迹,实现跨会话协同与零Token数据刷新
📌 工作参考价值(4 点)
- 选择性记忆分解:将用户会话中的可复用知识拆分为任务规格、数据模式、工具配置、输出约束四类,丢弃推理痕迹和中间文件。在推荐系统Agent中可类似存储常用API Schema、数据源元信息、输出格式偏好,避免重复提供上下文。
- 零Token数据刷新:通过数据注入合约强制生成代码不硬编码数据,新旧数据模式兼容时可零调用更新结果。适用于定期刷新的报表、BI看板、推荐理由生成等场景,直接替换数据源,大幅降低LLM调用成本。
- 摘要替代原始数据注入:用预计算的统计摘要(列类型、分布、样本行)代替全部数据传入Prompt(~500 tokens vs 48K),显著减少输入Token且提升生成准确率。推荐系统中可将用户画像、物品池统计量以结构化摘要形式提供给Agent,避免长文本引入噪声。
- 协作工作空间与版本控制:工作空间支持Git版本回退和草稿隔离,允许非破坏性探索。可借鉴到多人维护的Agent配置管理,如商品推荐策略模板由不同角色协作编辑,回滚机制保障生产环境安全。
AutoMem:将记忆管理作为可训练技能的自动化学习框架
🧭 Agent 记忆管理自动化 · 长程任务优化
Stanford University
通过双循环自动优化记忆结构与训练记忆熟练度,将记忆管理变为可学习技能,在长程游戏中实现2-4倍性能提升
📌 工作参考价值(4 点)
- 可迁移的记忆架构:将文件系统操作提升为一级记忆动作,与任务动作并列,让模型自行决定何时读写笔记。电商推荐Agent可借鉴此模式,维护用户长期偏好文件、会话上下文文件,实现跨会话记忆。
- 自动优化记忆提示与模式:手工设计记忆结构(提示、文件模式、动作词汇)在长程任务中不可行。可借鉴其外循环思路,用强LLM审查历史推荐交互的完整轨迹,自动迭代优化Agent的记忆结构,减少人工工作量。
- 利用成功轨迹训练记忆决策:内循环从大量episodes中提取好的记忆决策(何时记录偏好、何时检索历史),作为微调信号。在搜索/推荐Agent中,可挖掘用户满意会话,训练模型做出更好的记忆操作,提升长期用户体验。
- 记忆与任务分离的优化范式:仅优化记忆技能,不改动任务动作行为,就带来巨大提升。表明在复杂推荐系统中,可将记忆管理作为独立模块针对性优化,性价比高。
打破评估悖论:基于计算不可约约束的高熵搜索评估
🧭 搜索评估 · 计算不可约约束
Jinan University · Tencent Youtu Lab · The Chinese University of Hong Kong
提出 VERITAS 框架,利用计算不可约约束生成可验证的穷举搜索任务,解决高熵搜索无法完整评估的难题
📌 工作参考价值(4 点)
- 电商搜索 Agent 评估新范式:当前电商搜索 Agent 常需穷举品类、属性组合等,但缺乏完整 ground truth。可借鉴 VERITAS 生成可控难度、可自动验证的测试任务,例如定义“检索所有满足复杂哈希条件的商品 ID”,成本极低且无需人工标注。
- 防止 Agent 走捷径:在推荐或广告物料生成场景中,若用 LLM 评判完整性容易导致循环论证。引入计算不可约约束(如不可优化的哈希条件),能确保 Agent 必须真正遍历商品库或知识图谱,而不是靠记忆或模式猜测,适合评估真实系统的探索能力。
- 生成式推荐的训练数据增强:VERITAS 能无限生成多样化的高熵查询-答案对,可作为强化学习或 SFT 的训练数据,提升模型穷举不在单一召回通路内物品的能力,特别适合需要覆盖长尾商品的生成式推荐。
- 线上评估轻量化:边际成本仅为哈希计算,可将 VERITAS 任务嵌入日常回归测试,持续监控 Agent 在开放式搜索任务上的能力退化,对搜索事业部的工程实现非常友好。
ScholarQuest:基于分类法的智能体学术搜索评估基准
🧭 Agent 检索评估 · 分类法引导
State Key Lab of Cognitive Intelligence, University of Science and Technology of China
提出 ScholarQuest 基准,系统评估智能体在开放文献环境中的迭代检索能力
📌 工作参考价值(4 点)
- 意图分类法可迁移至电商搜索:将查询意图细分为方法导向、场景锚定、对比型等,用于构建更丰富的搜索评测集或指导 Agent 的意图识别。
- 共享检索后端保证可复现性:固定文献库 ScholarBase 的设计思路可直接用于搭建企业内部的搜索 Agent 评测平台,确保不同方法在相同语料上公平对比。
- 多维评估信号:同时关注召回、效率与不同意图下的鲁棒性,为推荐/搜索 Agent 提供更全面的诊断信息,避免单指标误导。
- 基于引用图的可扩展答案构造:利用引用关系自动扩张相关论文,类似在推荐中利用物品共现链扩展候选池,可启发生成式推荐的评测数据生成。
超越奖励工程:长上下文强化学习的数据配方
🧭 长上下文强化学习数据配方
OpenBMB · Tsinghua University
以简单的数据配方替代复杂奖励工程,仅用结果奖励GRPO即可大幅提升长上下文推理及Agent任务表现
📌 工作参考价值(4 点)
- 构建面向长文档的推荐/搜索Agent时,可借鉴检索、多证据合成、推理三类混合数据配方,提升模型在冗长轨迹中定位、整合关键信息的能力。
- 仅使用outcome-based GRPO,无需复杂奖励工程,工程实现轻量、易迁移,适合业务线快速试错。
- 14K的小规模高质量数据即可带来显著收益,在业务数据稀缺时尤其有参考价值。
- 可将该数据范式迁移到多轮对话推荐、长序列用户行为分析等Agent任务中,微调模型的长上下文推理能力。
SkillResolve-Bench: 衡量与解决 Agent 技能检索中的同类能力歧义
🧭 Agent 技能代表性选择与检索安全 ★ 深度解读
Huawei Technologies Ltd.
提出基准 SkillResolve-Bench 及 SkillResolve 方法,通过同类簇解析与效用学习,消除能力相似但执行有害的技能暴露同时提升有用技能排序
📌 工作参考价值(4 点)
- 同类候选的代表性选择机制可直接迁移:在电商搜索与推荐中,同一品类下常有多个外观相似但适配性不同的商品(如不同型号、版本),可借鉴本文的同类簇解析(Capability Resolver)+ 查询条件化效用评分 + 单代表输出的框架,避免将功能对等但配置过时的物品推给用户,降低体验风险。
- 合同特征(contract profile)增强检索信号:从资源绑定、前置条件、时效范围、输出模式等维度构造确定性对比特征,可嵌入排序模型的特征工程中,提升对版本差异、接口兼容性等执行面差异的区分度,适用于需要精准匹配上下文(如 API 推荐、方案选型)的场景。
- 以“有害暴露率”作为安全补充指标:在 Agent 多智体或生成式推荐中,可增设类似 HSR@K 的指标,监控系统输出的“低风险但错误执行”推荐比例,而不仅看点击/满意度;结合簇内效用竞争,可在不伤害核心召回的代价下大幅抑制风险项曝光。
- 利用易混淆库内负例训练效用模型:使用同一查询下与有用技能相似的但未被采纳的库内候选作为负例进行配对学习,比随机负采样更能让模型学习到细微的上下文区分,对具有丰富标签的电商场景(如真实成交 vs. 高相似度但未转化商品)有直接借鉴意义。
端到端大规模上下文压缩模型
🧭 长上下文推理加速 · 软令牌压缩 ★ 深度解读
New York University · University of Maryland · Princeton University · Columbia University · Meta FAIR
通过大规模端到端训练编码器-解码器,以软令牌压缩KV缓存,在长上下文任务上实现更优的速度-质量帕累托前沿
📌 工作参考价值(4 点)
- 软令牌压缩可直接接入现有推理引擎:与难以兼容 vLLM/SGLang 的 KV 缓存淘汰方法不同,LCLM 输出的软令牌序列天然适配分页注意力,可直接降低电商搜索、推荐模型在长用户序列中的 prefill 延迟和显存占用。
- 编码器窗口批量压缩策略:通过固定窗口编码并批量并行,可将长用户历史或商品描述压缩为少量潜在向量,适应突发长上下文,适合在多智体任务中维护持久记忆,降低对话轮次间的 KV 缓存重计算。
- 自适应扩展 Agent 框架:借鉴论文中的 EXPAND 工具设计,在推荐解释或多轮对话中,可以先用高压缩比概览全部用户行为,再按需精准解压相关片段,实现高效的长序列检索与生成结合。
- 多阶段训练 recipe 可复用:适配器预热 → 编码器训练 → 解码器解冻 → SFT 的阶段式训练,有效控制灾难遗忘,适合将现有生成式推荐模型改造为上下文压缩器,尤其在使用 LoRA 微调时参考其分阶段学习率设置。
LACUNA:以递归程序孔洞实现安全 Agent
🧭 Agent 编程模型与安全执行
EPFL
提出一种 Agent 编程模型,将动作封装为类型化调用,LLM 填充代码并执行前类型检查,兼顾表达力与安全
📌 工作参考价值(4 点)
- 工具调用的类型约束:在电商多 Agent 系统中,可为搜索、推荐、广告等工具定义输入输出类型,Agent 生成调用代码时进行静态检查,防止越权或错误调用,尤其适合 prompt 注入风险高的场景。
- 原子执行与状态回滚:借鉴 all-or-nothing 语义,当 Agent 执行多步推荐逻辑(如更新用户画像、调用推荐 API、写入缓存)时,若某一步失败则整体回滚,避免残留脏状态,保障推荐链路一致性。
- 编译诊断驱动的重试机制:LLM 生成的动作代码若类型不匹配,可将编译器错误信息反馈给模型进行针对性重试,比盲目重试更高效,可直接用于现有 Agent 框架的容错改造。
- 将高级 Agent 模式融入控制流:ReAct、子 Agent、技能组合、并行分解等模式被表达为普通程序结构,开发者可直接用编程语言描述复杂工作流,LACUNA 原语作为安全嵌入点,降低实现复杂度并保证安全。