当 Agent 失败：归咎于模型还是执行框架？
🧭 Agent 执行框架评估与匹配
Shanghai Artificial Intelligence Laboratory
提出模型-执行框架匹配度评估框架，发现无单一最佳组合，OpenCode 跨模型最稳
📌 工作参考价值（4 点）
- 选型 Agent 执行框架时，不要只看最终任务分数，建议同时监控 VCR（有效完成率）和 Token Load，避免高分数掩盖高失败率或高 token 浪费。
- 不同模型适配不同 harness：内部构建 Agent 平台时，可以为每个主力模型分别评测 harness 的 Model-Harness Fit，而不是统一采用一个“最佳”框架。
- 在电商搜索/推荐 Agent 场景中，大量交互式工具调用和长上下文任务会放大模型-框架不匹配问题，可引入 Interaction Residuals 定位具体哪个组合在哪些步骤频繁失败。
- Token Load 包含失败尝试，适合作为成本控制指标：当框架重试机制激进时，即使任务最终成功，也可能消耗数倍 token，影响线上性价比。
分离思考与拼写的高效生成式推荐
🧭 生成式推荐 · Semantic ID 推理优化 ★ 深度解读
将生成式推荐中 backbone 的历史建模与 SID 逐码生成解耦，由轻量 decoder 完成 beam search，实现 3-8 倍吞吐提升且精度不降
📌 工作参考价值（8 点）
- 架构选择：重 encoder + 轻 decoder 分离 serving
- 在生成式推荐（Semantic ID）线上推理中，让大 backbone 只跑一次 prefill 输出固定大小的 next-item concept（如 1KiB），beam search 全部下沉到 2 层 256 宽的轻量 decoder。concept 可作为 per-user state 预计算并缓存，在线只有轻 decoder 参与 decode，避免大模型反复处理 O(BK) 个 decode token。
- 输入侧融合 item SID tokens 降低 prefill
- 用 MLP 把每个 item 的 K 个 code embedding 融合成单个 token，历史长度从 TK 降到 T；训练时通过 block-causal mask 为每个位置提供下一 item 的 gold prefix targets，实现 dense training，一次前向即可监督所有 transitions。
- 轻 decoder 训练用教师分布做 label smoothing
- 将 full-backbone teacher 在 gold prefix 上的 next-code 分布与 one-hot 混合（α 为 KD 权重），作为 decoder 的 CE 目标。在小数据集上可带来 16-23% NDCG@10 提升，且 teacher 仅训练时使用，不增加 serving 成本。
- 复购/重复消费场景加 history pointer
- 对音乐、视频、电商复购等 repeat-heavy 领域，基于 backbone last state 对历史 item 的 attention 构造 pointer，与生成分布混合（gate 由 last state 学习）。在 Yambda 数据集上，pointer 将 Deco NDCG@10 从 0.079 提升到 0.171，几乎追平 FlatGR。
Frontier-OPD：发现智能体能力边界并教会其超越
🧭 Agent 在线蒸馏 · 学习前沿 ★ 深度解读
Tsinghua University
通过学习前沿动态选择教师干预点，并用学生后续行为验证指导质量，提升多智能体在线蒸馏效果
📌 工作参考价值（4 点）
- 在电商/Agent 微调里，不要随机采样教师补充数据：用 on-policy 学生 rollout 计算 teacher-student token logprob gap，按共享状态聚合，挑『难但可救』的决策点做教师干预，比均匀采样明显提升。
- 状态抽象可复用：把归一化 observation + available actions 哈希成 state key，合并重复访问；同时做 trajectory-balanced 加权，避免死循环轨迹拉高节点分、占用干预预算。
- 教师指导必须验证『学生能否接住』：只加 teacher bridge，不检查后续学生 continuation，会浪费算力；建议用 matched-window agreement gain（bridge+continuation vs 原轨迹等长窗口）做过滤。
- 线上持续学习时，每轮更新后重新采样重建 frontier，让数据分布跟随当前策略；若目标是尽快达到可上线成功率，接受额外单步成本可能反而缩短总训练时间。
个性化查询基准：评估检索对用户表达差异的鲁棒性
🧭 个性化检索鲁棒性评测基准
Monash University · University of Queensland · Southeast University
构建首个个性化查询表达差异基准 PQB，揭示检索效果高不等于对句法与书写错误鲁棒
📌 工作参考价值（4 点）
- 构建用户表达差异测试集：从真实用户历史文本中挖掘个性化句法习惯和常见书写错误，生成同一信息需求的多版本 query，用于评估检索/排序模型在真实用户表达波动下的稳定性。
- 评估模型鲁棒性与效果分离：不要只看整体 nDCG/MRR，需单独报告模型对句法变化和拼写错误变化的敏感度；高效果模型可能对用户表达变化更脆弱，在电商搜索中直接导致长尾用户流失。
- 用 LLM 生成 query 变体 + 人工校验：可用 LLM 基于用户历史文本生成个性化句法改写和拼写错误变体，再用 LLM 评估与少量人工标注做质量校验，低成本构造大规模鲁棒性测试集。
- 检索架构选择参考：论文覆盖 lexical、learned sparse、dense bi-encoder、late-interaction、hybrid 五类检索架构，其鲁棒性差异可作为电商搜索技术选型的参考——需根据业务对用户输入噪声的容忍度选择合适架构。
构建而非游玩：自改进 LLM 研究代理造出匹敌顶尖玩家的炉石酒馆战棋 AI
🧭 多代理自改进与 RL 训练
Nanjing University · Shanghai AI Laboratory
自改进 LLM 研究代理系统 AutoTavern 从零构建模拟器和 PPO 策略，训练出的 AI 在天梯表现超越顶尖人类玩家
📌 工作参考价值（4 点）
- 将 LLM 用于「构建工具/策略」而非「直接实时决策」：让 LLM 离线生成模拟器、校准对手、特征或规则，在线推理仍用轻量模型，可兼顾效果与延迟，适合推荐系统实时打分场景。
- 类型化研究记忆 + 验证门（verification gates）值得借鉴：把实验结论、模型改动历史、A/B 结果存成结构化条目，新代理或新方案先过验证再采纳，减少 LLM 幻觉导致的上线事故。
- 用 PPO 训练策略时，对手/用户模拟器必须校准到真实分布（calibrated to real games），否则 sim-to-real gap 会毁掉效果；电商推荐做 RL 时应定期用真实日志更新用户模拟器。
- 构建专用决策 benchmark（类似 TavernBench），同时评测效果指标和推理延迟：LLM 在推荐决策上可能准确率高但延迟达数十秒，无法满足在线约束，必须评测真实时间窗口内的可用性。
HarnessMM：通过守卫决策复用与递归自改进提升 Agent 工具链 Token 效率
🧭 Agent 工具链推理复用与配置自改进
Tsinghua University · Microsoft Research Asia
用守卫决策复用替换工具反馈后的重复推理回调，不改模型权重即可降低Agent harness token成本
📌 工作参考价值（3 点）
- 在电商/导购类 Agent 中，工具返回收据后若满足预设 guard（如价格、库存未变），直接用缓存的动作参数继续执行，避免重复调用 LLM；把“已解析的工具调用”做成可执行决策图，存字面参数与依赖，工程上可大幅省 token。
- 引入 Certified Callback Substitution：在模型-工具边界注册回调替换时，保留原生接口并记录删除慢回调，新语义或证据不足就回退原模型，实践中保障效果不下降。
- 借鉴 RSI：固定模型权重，用训练/评估反馈迭代优化 harness 配置（守卫阈值、缓存策略），验证集选优，能以低成本对线上 agent 配置做自动调参。
J-Comm：基于雅可比引导的 LLM 智能体间潜在通信
🧭 多智能体潜在通信与推理加速
The University of Melbourne · Shanghai Jiao Tong University
用无需训练的 GEAR 潜在推理与 H+J 隐式/雅可比双通道接口，让不同宽度 LLM 智能体高效传递推理状态并大幅减少文本 token
📌 工作参考价值（4 点）
- 可将 H+J 接口用于跨模型 Agent 协作：H 通道传递连续输入，J 通道注入雅可比中间状态，无需共享 KV cache 或相同宽度，适合电商多模型（如召回/排序/文案 Agent）异构部署。
- GEAR 属于训练免重排：在已有模型 embedding 上按几何共识单调优化 token 候选，可直接作为 LLM 推理后处理，低成本提升生成质量。
- J-Comm 相对 TextMAS 减少 19.2–74.8% 文本 token，能在 Agent 密集交互（如商品文案生成、对话式推荐）中显著降低推理延迟和 token 成本。
- J 通道的 vocabulary-indexed Jacobian-lens 坐标提供中间计算的可观测视角，可用于模型诊断、蒸馏或跨模型知识迁移。
基于 On-Policy 自训练的数据无关大语言模型自我改进
🧭 LLM 自训练 · 数据自由自我改进
Google · Ulm University
用高层主题描述合成问答与推理轨迹，在无外部监督下完成 on-policy 自蒸馏并跨领域提升模型能力
📌 工作参考价值（4 点）
- 在搜索/推荐场景中，仅凭类目或主题描述即可为模型合成针对性训练数据，显著降低人工标注 query-答案对的成本，可用于意图识别、query 改写、推荐理由生成等任务的领域适应。
- 将 on-policy 自蒸馏用于对话式推荐 Agent：让模型自己生成用户 query 和响应轨迹，再用自身生成的高置信度推理作为 dense token 目标，减少 offline SFT 的 exposure bias，改善在线交互表现。
- 合成 privileged reasoning traces（如逐步决策过程）并对模型进行蒸馏，可迁移到电商多步推理场景，例如购物决策路径生成、广告创意推理、客服多轮对话策略优化。
- 该框架不依赖外部教师模型，适合在业务数据敏感、无法调用 GPT-4 等外部 API 的私有化部署环境中做持续自我改进，且能保留非训练领域能力，降低灾难性遗忘风险。
可解释稀疏微调 TopKLoRA 实现忠实电路发现
🧭 稀疏 LoRA 微调与电路可解释性
University of Oxford · University of Cambridge · Neuralk-AI
提出 TopKLoRA 稀疏 LoRA 变体，仅激活 k 个最大 latents，用于定位并精准移除后门电路
📌 工作参考价值（4 点）
- 在业务 LLM 微调中引入 TopKLoRA 稀疏激活，可大幅减少 adapter 参数量和推理开销，同时保留性能，适合部署多个轻量适配器进行 A/B 测试或个性化微调。
- 利用 TopKLoRA 的稀疏电路发现能力，对电商/广告场景中涉及内容生成、推荐解释的模型进行行为审计：定位哪些 latent 维度对应特定输出（如生成违规文案、偏见推荐），实现精准裁剪而不影响整体指令遵循。
- 当模型可能在开放数据或用户反馈上微调时，可借鉴该方法构建“模型 organism”并搜索后门电路，建立安全检测流程，防止恶意数据投毒导致推荐或对话策略被操纵。
- 对于 Agent 与 LLM 结合的多模块系统，可将 TopKLoRA 用于各子模型的适配器部分，通过梯度路由构造局部化电路，便于诊断单点故障或恶意行为在链路中的传播。
跨 item 与 code 空间的并行生成式推荐知识蒸馏
🧭 生成式推荐 · 知识蒸馏跨 item/code 空间 ★ 深度解读
The Hong Kong University of Science and Technology · University of Science and Technology of China
用 item 空间分布匹配和 code 边际匹配两个蒸馏目标，把序列模型的软分布迁移到并行语义 ID 推荐器
📌 工作参考价值（4 点）
- 已有并行 SID 生成式召回/排序模型（如 RPG、AsymRec）只吃 hard label，可以低成本引入预训练 SASRec 之类的 item 级 teacher 做软标签蒸馏，线上推理不增加 teacher，只换训练目标。IDM 提 Recall，CMM 提 NDCG，可按业务指标侧重选择。
- 跨 space 投影实现简单：用固定 item-to-code 分配矩阵 M_h，正向 M_h 聚合 student 各 head logits 成 item 分数，反向 M_h^T 聚合 teacher item probs 成每个 code position 的 marginal，代码量小、可复用。
- 训练时注意 loss 尺度：hard label 和蒸馏 loss 梯度范数差异大，先用若干 batch 计算两者梯度 L2 范数比的中位数做系数校准，再加线性 ramp 逐步引入蒸馏，能避免训练初期的破坏性梯度。
- 若要同时拿召回和排序收益，建议分别训练 IDM 和 CMM 两个学生，线上做 score-level fusion（如 0.5/0.5），比 joint training 更稳；teacher temperature 用原始分布即可，不要提前做温度平滑或锐化。
每条边都要有引文：用语言模型代理构建医疗软件采用情况的引文支撑知识图谱
🧭 LLM Agent 构建引文支撑知识图谱
Medical Physics Unit, Department of Oncology, McGill University · Toboggan Labs
构建每边必有逐字引文的知识图谱流程，以确定性爬取、预算化ReAct agent、分层grounding和多模型投票达到0.94精度/0.71召回
📌 工作参考价值（4 点）
- 在商品/品牌关系抽取中，强制每条三元组都有源页面逐字引文，并用字符串匹配定位证据，可大幅提高 KG 可追溯性和线上信任度，适合电商商品知识补全、竞品客户案例采集。
- 借鉴其分层 grounding：先用宽松抽取器高召回，再用 referent step 读整页解决“只提到一侧”的指代问题，叠加确定性规则过滤明显错误，最后用多模型投票九准则裁决，可复用到商品属性、合作品牌、集成关系等抽取任务。
- 使用预算化 ReAct agent 搜索全网，配合确定性爬取厂商官网，在成本可控的前提下扩大证据覆盖，可用于监控竞品动态、构建行业采用图谱或生成可引用证据的推荐理由。
- 用投票生成的置信度分数替代固定规则，在相同精度下保留更多正确关系，并缓解长上下文退化与 run-to-run 方差；工程上可将长文档拆成有界窄模型调用，用字符串匹配证据做锚定。
面向多智能体系统的企业 RAG 知识层：先组织后检索
🧭 企业 RAG · 多 Agent 知识组织
Cognizant, Plano, Texas, USA
将本体置于 artifact 层，用元数据注册表与导航超图先组织后检索，实现结构化消歧避免跨服务规则混淆
📌 工作参考价值（4 点）
- 结构化过滤优于向量排序：在电商/广告 RAG 中，同名词如「优惠券」「活动价」在不同业务线含义不同，向量检索容易返回高相似但错误上下文的片段。可先解析查询到 artifact ID 或业务域，用元数据约束候选集，让错误来源的内容不进入排序，而非依赖打分压过。
- 轻量元数据注册表替代重型本体：不要一开始就构建内容级实体关系图，成本高且难以维护。利用生成式语料自带的 provenance（来源服务、组件、域、类型）做稀疏元数据索引，几天内即可上线，适合快速迭代的推荐/广告知识库。
- 超图定义在文档/规则 artifact 而非实体上：跨服务旅程查询（如从商品详情到订单到售后）可以用 artifact 超图导航，先确定相关 artifact 集合，再做向量检索，避免实体链接爆炸。
- 新服务按约定接入：设计一套轻量 schema（服务名、域、类型），新接入业务线只要按约定注册元数据即可扩展，无需重新训练或构建图，适合多业务线快速扩展的 Agent 工作流。
PatEx-Gym：面向专利审查新颖性评估的智能体现有技术搜索框架
🧭 Agentic 搜索与轨迹合成
中国科学院深圳先进技术研究院 · 中国科学院大学 · 大连理工大学 · 深圳理工大学
构建专利审查 agent 基准与轨迹合成方法，训练 4B 模型在现有技术搜索上接近大模型效果
📌 工作参考价值（4 点）
- PASS 以文档访问作为隐式相关性信号来自动合成搜索轨迹，无需人工标注；可借鉴到电商搜索中，用用户点击、停留、加购等行为日志构造 agent 训练数据，省去昂贵标注
- 将搜索过程分解为 query 内部行为、query 间进展、轨迹级证据质量三个层次，可迁移到商品对比、选品 Agent 的 reward 设计或数据筛选，提升搜索策略学习效率
- 4B 小模型仅靠 SFT 合成轨迹即可达到大模型 agent 的竞争性能，适合业务中低延迟、低成本的部署约束，可先训一个轻量 agent 再逐步扩展
- 其 harness runtime 支持迭代搜索、文档访问、OA 生成的完整闭环，对搭建自营 agent 评测环境有参考意义，尤其适合需要复杂检索和推理链路的场景
PreView：通过预处理视图和提示增强 GUI 定位
🧭 GUI 视觉定位 · 输入预处理增强冻结模型
Independent Researcher
提出轻量辅助预处理器 PreView，为冻结 GUI 定位模型生成局部放大视图与候选特定视觉/文本提示，无需微调提升定位准确率。
📌 工作参考价值（4 点）
- 在电商/广告领域的 Agent 自动化（如 RPA、后台操作、广告审核）中，面对高分辨率复杂界面，可借鉴 PreView 的轻量辅助模型预测候选中心、裁剪放大局部视图，显著降低 VLM 输入分辨率和 token 成本，同时提升小控件点击准确率。
- 候选特定 cue 设计可直接复用：用红圈标记 + 位置提示（如“在左上角附近”）作为视觉 cue，结合候选身份/功能的简短文本描述（如“这是一个‘立即购买’按钮”），消除多控件密集布局下的歧义，这对商品详情页、广告落地页元素定位与合规检测尤其有用。
- 冻结主干模型、仅训练轻量预处理模块的范式适合业务快速迭代：无需重训或微调现有 VLM/grounding 模型，可快速适配不同界面风格和业务场景；中心细化机制可借鉴为 coarse-to-fine 定位策略。
- 注意视觉输入预算管理：论文分析了视觉输入 budgets，启示在部署时可根据目标控件数量动态调整裁剪视图数量与分辨率，平衡准确率与推理成本。
ReGE：通过经验合成让 Agent 变得更强
🧭 Agent 经验合成与复用 ★ 深度解读
University of Waterloo · University of North Carolina at Chapel Hill · University of British Columbia
把多次尝试的轨迹与产物联合合成为自包含指导，低 token 成本提升同模型后续执行成功率
📌 工作参考价值（4 点）
- 如果已经在做 agent 或搜索推荐的多路并行采样（例如同一个 query 跑多个策略），别只做投票或 best-of-n；把完整轨迹截断后直接喂给一个 coach 一次性合成“执行计划 + 关键事实 + 失败坑点”，能显著减少指导构建 token（>95%）且保留成功率。
- 工程实现上，截断原始轨迹（steps 120 / reasoning 200 chars / commands 160 chars / artifact 6000 chars）而不预先做 per-trajectory LLM 摘要，可避免独立摘要的信息割裂，Joint synthesis 比 Independent summaries 短约 1/4，总 tokens 降约 20–32%。
- 即使 source 池中都是失败尝试，也能提取可用操作路径（如浏览器任务的打开方式），因此不要丢弃失败的 rollout；mixed 成功/失败池带来的增益最大。
- 低端模型 + ReGE 可达到高端模型同等成功率而成本仅 28%，这为在线服务降本提供了可复用模式：用便宜模型做多次尝试 + 一次性经验合成，替代单次昂贵模型。