AutoSaddler：基于执行轨迹的 Agent Harness 自动优化框架
🧭 Agent Harness 自动优化 · 离线学习 ★ 深度解读
POSTECH · KAIST · Southern University of Science and Technology · Microsoft
将 Agent Harness 优化形式化为离线学习，通过深度诊断、结构化 Patch 与泛化感知选择，在三个基准上提升 9-10 个百分点
📌 工作参考价值（4 点）
- 把 agent 的 system prompt、工具描述、中间件逻辑统一视为可优化代码，建立 mini-batch 离线优化流程：用失败轨迹批量诊断并生成 patch，在同一批上验证提升，再上验证集评估，避免只在单条轨迹上打补丁。
- 采纳结构化 patch 分类（Prompt/Tool/Middleware）并分阶段调度：先允许修改工具实现和 agent loop 等能力层，后期转向提示词/hook 文本；这样能迫使优化过程探索高价值能力改动，而不是只做表面 prompt 文本微调。
- 保留 harness 演化图（EvoDAG）作为优化记忆，允许进化代理重组历史成功组件，而非只从最新版本继续；在多轮迭代优化推荐/导购 Agent 的 prompt 与工具配置时，可跳出局部最优。
- 评估 patch 时同时监测 fix rate 与 regression rate，尤其对高频工具或 hook 的修改要防止 over-scoped patch 引入回归；用独立验证集过滤泛化差的更新，能显著减少线上事故。
长时程音视频生成：持久故事与交互世界
🧭 多模态生成 · 长时记忆与几何控制
Joy Future Academy, JD
JoyAI-Echo-1.5 用跨镜头记忆与 6-DoF 几何控制实现角色持久和交互世界，并以 Self-Gradient Forcing 训练因果生成器
📌 工作参考价值（4 点）
- 长视频变体的 composable cross-shot memory 聚合多镜头视觉证据和 speech-filtered speaker cues，可借鉴到电商短视频广告生成中：显式维护商品/人物外观与音色记忆库，避免多镜头口播或商品展示中的角色漂移，提升跨镜头一致性。
- 世界模型变体将异构导航输入统一为 calibrated metric 6-DoF 相机轨迹，经 geometry-aware conditioning 注入，可迁移到虚拟直播间、3D 商品展示或交互式试衣间，使鼠标/键盘/手柄等不同控制信号映射到统一几何表示，简化多端交互接入。
- 训练技巧 progressive teacher forcing + short/long-horizon Self-Gradient Forcing 在自生成 rollout 上训练，将一个双向模型转为 causal few-step generator，可借鉴到推荐系统里的用户行为序列生成或 query 序列预测，减少 teacher forcing 导致的 exposure bias，提升长序列生成一致性。
- 工程实现上，将 speech-filtered full-shot audio 作为 speaker cues 绑定音色，可复用于电商数字人直播的音画同步与角色一致性，降低对多模态对齐标注的依赖。
从 Agent 轨迹中提取自动机：失败与下一步预测
🧭 Agent 行为 FSM 抽象与监控 ★ 深度解读
Holistic AI · PUC-Rio · University College London
用紧凑确定性 FSM 统一 LLM Agent 的工作流记忆、下一步预测、失败预测与运行时监控
📌 工作参考价值（4 点）
- 将电商客服/购物助手 Agent 的 tool-call/action 序列直接抽成 FSM（状态=最近 activity），即可获得紧凑行为拓扑，用于实时检测循环和异常状态，无需复杂 ML 模型；活动抽取用默认 role-type 粒度即可，对结果鲁棒。
- 把 FSM 状态作为 LLM 的轻量上下文：只给当前状态的转移概率 + top-15 后续 continuation，而不是完整 workflow 列表，能提升下一步动作预测（对 AWM 平均 +12.9pp）。在推荐/搜索 Agent 中可将用户意图-工具调用序列压缩为状态，作为 prompt 背景。
- 失败预测用 per-state 特征（访问频率、消息长度、错误率、时序）+ FSM cross-entropy 异常特征（trace CE、max surprise 等），梯度提升树即可达到 AUROC 0.94；对安全标注均衡的数据集（如 ATBench）稳定。可用于电商推荐 Agent 的在线失败预警。
- 在线监控用 cycle-rate（prefix revisits / step）阈值，简单高效；设置高精度操作点可实现 100% precision、零误报的提前终止，在客服流程中节省算力并避免糟糕体验。
GRAFT：面向多维 facet 的科学文献探索图蒸馏生成式检索
🧭 生成式检索 · 图蒸馏与 facet 归因 ★ 深度解读
King's College London
将多维 facet 论文关系图蒸馏进生成式检索器，用 coverage-aware 蒸馏与 graph-RRF 保留覆盖和归因，免索引推理
📌 工作参考价值（4 点）
- 多面关系建模：把商品/内容之间的关系显式拆成多个 facet（如功能、场景、风格、人群），每条边带类型+强度；召回/推荐时按 facet 分别检索并保留「为什么推荐」的 provenance，直接输出推荐理由。
- 生成式推荐 ID 设计：用自然语言 facet-item/卖点短语作为 DocID，而非数字 cluster ID，能显著复用 LLM 先验；论文中自然语言 DocID 比 numeric codebook R@20 高 2.4×。
- 解决长尾/冷启动的 coverage-aware distillation：生成式训练里若只按边均匀采样，稀疏图会导致 16% item 从未被作为 target 训练；落地时可采用 min-coverage floor + reverse-neighbour fallback 补齐全量商品覆盖，尤其对冷启动物品有效。
- 用 graph-RRF 做多路召回融合：对每个 facet 的生成候选按 RRF 打分后乘以 query-candidate 图边权重，无边的候选归零过滤；可借鉴到商品知识图谱/关系图与生成式推荐融合，防止模型生成「幻觉邻居」；论文中 graph-RRF 相比 plain fusion R@20 +13.38%。
环境正则化策略优化：用 Query-KL 解耦 LLM 训练的稳定与探索
🧭 LLM 强化学习训练稳定性优化 ★ 深度解读
AMAP, Alibaba Group · Xi’an Jiaotong University · JD.com · Beijing Normal University · National University of Singapore
提出 ERPO，将 KL 正则从输出侧移到输入 query 分布侧，在保持探索的同时控制训练环境漂移
📌 工作参考价值（4 点）
- 在生成式推荐/query 改写等 LLM RL 训练中，可尝试用 Query-KL 替代或补充 Policy-KL：约束模型对输入 prompt 的似然漂移，而不是限制输出分布，从而保留输出空间探索，缓解长程训练崩溃。
- 工程实现低成本：用 pre-RL 参考模型预计算并缓存训练集中每个 query 的 log-likelihood，训练时直接复用当前 policy 的前向结果计算 Query-KL；无需额外 forward pass，可直接插入现有 GRPO/PPO/RLOO 框架。
- 对每个 query 按参考模型下的似然做加权（低概率 query 降权），可降低梯度方差、减少对长尾/低质 prompt 的过拟合，适合电商/搜索中 user query 分布不均的场景。
- 用多温度采样（如 0.1~1.5）评估 RL 训练后的模型稳定性，能暴露高温解码下的性能退化，比单一温度更全面；可作为生成式模型上线前的稳定性测试手段。
开放世界多智能体环境中的自主数学发现
🧭 多智能体开放世界协作与知识累积
DualverseAI · University of Cambridge · University of Hong Kong · University of California San Diego
在无中心协调的多智能体开放环境中，AI 智能体自主协作完成多项数学发现并产出可解释定理与分析
📌 工作参考价值（4 点）
- 共享文献库机制：多个 LLM 智能体异步贡献和引用彼此的中间结果，形成可累积的知识库。在电商推荐/广告场景中，可让多个 Agent 分别探索不同用户群或商品类目的策略，通过共享“发现日志”避免重复试错，加速全局优化。
- 无中心协调的自组织协作：不依赖固定流水线或中央调度器，智能体自主选择研究方向。适合动态变化的业务环境（如大促、季节性选品），可部署多个并行探索 Agent，根据实时数据自主调整目标，减少人工编排成本。
- 可解释性要求：智能体不仅输出数值结果，还生成定理和分析，使产出可被人类理解。在生成式推荐或 Agent 决策中，强制输出结构化推理过程而非仅最终答案，便于业务方审计、验证和信任模型决策。
- 完整交互日志与验证代码开放：透明记录所有智能体对话和决策轨迹，有利于调试和回溯。线上推荐 Agent 系统应记录每一轮多智能体交互、中间产物和最终采纳理由，形成可审计的“决策链”，支撑后续评估与合规。
LongWoF-Bench：评估 EvoMap Gene 在可验证长工作流任务上的经验复用效果
🧭 Agent 经验复用 · 长工作流评估 ★ 深度解读
Infinite Evolution Lab, EvoMap · Tsinghua University
提出 LongWoF-Bench，证明由 verifier 确认轨迹蒸馏的 EvoMap Gene 比 Skill 跨七个模型提升 8.7–15.5 个百分点
📌 工作参考价值（4 点）
- 沉淀可验证执行经验，而非通用 Skill：在复杂流程（如广告投放配置、选品策略、活动执行）中，将成功轨迹中证明有效的策略、边界条件和失败修正提炼成结构化资产，跨模型复用。
- 严格区分经验来源：只有经过业务验证器/线上 A/B 确认的执行轨迹才值得沉淀；参考解蒸馏的经验可能反而有害。经验库要记录 provenance。
- 一次推理复用经验，降低重复探索成本：在复用经验时采用单次生成（one-shot）即可，避免多轮试错；论文中 Gene 比 Skill 少 9.9% token，比多轮发现少 45.8% token。
- 优先在规则约束和接口一致性强的场景应用：如合规审核、物流配置、多模块交付等，经验复用收益最大；纯推理能力瓶颈的任务收益有限。
面向竞技编程的多专家 LLM 接力系统 MARS
🧭 多智能体接力与专家检索
MIRAI · London Institute for Mathematical Sciences · AXXX
MARS 用主题专家接力+RAG 检索算法理论，在 CodeContests 以 3.3 倍更低成本逼近 CodeSIM
📌 工作参考价值（4 点）
- 在电商/广告 Agent 系统中，把通用 planner/coder/debugger 角色改成按业务域或环节划分的专家（如召回专家、创意生成专家、竞价策略专家），每个专家挂载领域知识库，用检索决定每次任务激活哪些专家。
- 采用 RAG 为专家注入领域理论或历史案例，而不是单纯依赖 LLM 通才能力；在推荐/搜索场景可检索历史成功策略、类目知识或用户画像模板。
- 引入 sandbox 验证环节：每轮让候选方案在业务仿真器或离线评估集上跑分，专家根据结果保留、修复或转交，类似代码沙箱换成广告投放模拟或推荐 A/B 估计器。
- 专家间用结构化 packet 传递候选方案、验证结果、错误信息和下一步期望，降低多 agent 沟通成本；最后设一个固定 infrastructure-fixer pass 统一输出格式，可借鉴到 agent 输出治理。
MobilePA-Bench：复杂真实任务中移动规划代理的基准测试
🧭 移动 Agent 规划评估 · 工具调用基准 ★ 深度解读
MAI Team · Alibaba Token Hub · Alibaba Group
提出有状态、工具中心的移动规划代理基准，覆盖工具调用、子代理协作、记忆与技能四维能力
📌 工作参考价值（4 点）
- 评估 Agent 工具调用时，用 stateful sandbox 执行真实工具并返回动态反馈，比静态字符串匹配更能暴露运行时错误（如权限拒绝、依赖顺序）。电商场景可模拟库存、订单、用户画像等实时状态，让 Agent 在真实约束下做决策。
- 验证阶段按证据类型分桶（Tool Call / State Change / Agent Behavior），不同任务用不同 checker，避免单一指标过严或过松。可迁移到电商 Agent 评估：下单类任务看最终订单状态，推荐类任务看是否调用正确检索工具并合理追问。
- Memory Usage 维度要求 Agent 必须先显式调用 search_user_memory 检索用户偏好/历史，再规划动作，否则 gate 直接判失败。这启示电商个性化 Agent 应强制显式记忆检索，而不是依赖模型隐式猜测。
- Skill Usage 用预打包复合技能替代原子工具逐步规划，能显著降低长程任务错误累积（Skill 分数普遍高于 Memory）。在电商中，可将“下单+优惠券+支付”“退款+库存回补+通知”等流程封装成 skill，提升整体成功率。
同一Agent不同答案：RAG中语料引发答案漂移的重复感知审计
🧭 RAG 索引更新答案漂移审计
Carnegie Mellon University
提出Snapshot Compatibility Audit，用同快照重复分歧校正跨快照差异，量化RAG索引更新导致的答案漂移
📌 工作参考价值（4 点）
- 上线前做兼容性回归：每次更新商品知识库、搜索语料或索引版本时，不要只看整体准确率/点击率，用同一批query做快照对比；在每个快照内对同一query重复采样多次，估计生成随机性基线；跨快照不一致减去同快照基线即为索引引起的真实漂移，可避免把LLM随机性误判为更新影响。
- 关注repeat-stable semantic flips：用LLM判断答案语义是否真变化，并筛出重复采样中稳定翻转的query；这些是索引更新真正伤害或改变用户体验的场景，应优先修复或设置告警。同义改写不应算作churn，语义判断能降低误报。
- 聚合指标会掩盖局部恶化：即使整体准确率基本不变甚至上升，仍可能有个别高频或长尾问题答案翻转；建立query/商品粒度的回归测试集，跟踪答案级兼容性指标如excess churn，而不是仅依赖平均指标。
- 成本可控：论文用400题即可统计显著检测到约6-10pp的漂移；在电商客服、商品问答、推荐理由生成等RAG场景中，可以构造几百条核心query做轻量上线前审计。
无CoT数据下推理后训练：混合SFT优于下一块推理RL
🧭 推理后训练 · 数据混合与RLVR ★ 深度解读
University of Science and Technology of China · Shanghai AI Laboratory
同一RLVR预算下，单阶段混合no-CoT与long-CoT的SFT比next-chunk reasoning RL效果更好且省60倍以上算力
📌 工作参考价值（4 点）
- 将高质量 long-CoT 与业务中大量“无 CoT”文本（搜索日志、运营方案、商品知识、用户问题简答）在同一个 SFT 阶段混合训练，再做 RLVR/DPO；不要先无 CoT 后 long-CoT 的顺序 SFT，否则会跨阶段遗忘。适合电商/Agent 中难以标注 CoT 但知识密度高的语料。
- 评估 Agent 推理、query 理解、推荐理由生成等能力时，不要只看 SFT 后中间 checkpoint；无 CoT 混合会造成格式混乱，pre-RLVR 掉点不代表能力差，应以 RLVR 后的最终 ceiling 做决策。
- 若想用 next-chunk reasoning 类 RL 从日志/文档中挖掘隐式推理，注意高熵 token ≠ 需要推理的困难 token；这类目标易塌缩为局部补全模板，且训练算力是混合 SFT 的 60 倍以上。优先把预算花在数据混合而非新增 RL 阶段。
- 对搜索/推荐/导购 Agent：保留短答案 + 长推理的联合 SFT 格式，后续用 verifier reward 修复格式不稳定，比中途切换训练目标更有效。
AUSO：从技能内部化到利用的动作级统一技能优化
🧭 Agent RL · 技能内部化与利用 ★ 深度解读
University of Science and Technology of China · University of New South Wales · Independent Researcher · University of Chinese Academy of Sciences · Xi'an Jiaotong-Liverpool University
用 JSD 度量技能对策略动作分布的影响，以动作级信号重加权 GRPO，将技能从外部监督渐进转为按动作收益利用，提升 Agent 泛化
📌 工作参考价值（4 点）
- 用动作级 skill sensitivity 替代轨迹级 skill routing：在电商导购/搜索 Agent 中，检索到的商品知识、query 改写策略或用户记忆通常整条 trajectory 统一使用。可以仿照 AUSO，在同一个 visited state 分别计算“有技能/无技能”的策略分布，用 JSD 得到动作级 sensitivity，再乘 GRPO advantage；只加强有利动作、抑制被技能干扰的动作，且不改变 advantage 符号。
- 对 reward 稀疏、全失败组失效问题，可仅对 success rate=0 的任务组加入 skill-conditioned teacher JSD loss，并用 ramp-up + smooth-decay 退火。这比一直加蒸馏更稳，能让 Agent 从专家技能中恢复而不过度依赖外部监督。
- 在二元成功/失败的 rollout group 中，引入 p(1-p) uncertainty gate 控制动作级 credit assignment；全成功或全失败时门控趋近 0，避免无信息差异的动作被错误加权。该轻量 trick 可直接嵌入现有 GRPO 流程。
- 课程式阶段划分 2:5:3（内部化/探索/利用）可迁移到业务 Agent post-training：先蒸馏已有专家或策略知识，再做自主 RL，最后自适应利用外部工具/skill，尤其对 OOD 流量收益明显。
从静态多级小语义码本到动态单级大语义码本：生成式推荐
🧭 生成式推荐 · Semantic ID码本优化 ★ 深度解读
Kuaishou Technology
单层大语义码本替代多层残差量化结合曝光感知动态更新，缩短SID并提升生成式推荐效果与吞吐
📌 工作参考价值（4 点）
- 若业务在用生成式推荐/Semantic ID，优先评估单层大 codebook + hash disambiguation 结构：把 [256,256,256] 换成 [1024,512] 可减少一个自回归位置，paper 中 FLOPs 降约 48%，QPS 提升 28%–47%；务必保留稳定的 hash-based disambiguation token 解决物品碰撞，且不参与语义重建。
- 面对 item 新老更替与曝光漂移，不要只定期全量重训 codebook：维护 exposure 时间衰减权重 w(t)=γw(t-1)+(1-γ)a(t)，a=1+log10(pv)；用上一版 partition 做 anchor，EMA 更新中心，并在重分配目标里加 λ·w·I(切换) 惩罚高曝光 item 的 SID 变化，可明显减少训练目标跳变。
- 先做 codebook 离线筛，再跑下游模型：指标用 reconstruction cosine similarity、code utilization、cluster load P95/max/CV、full-SID collision、temporal change rate（item/PV weighted），能把每个候选 codebook 的下游训练成本省下来。
- 若要上线生成式推荐，需按 serving 架构（decoder / LazyAR / MTP）分别评估自回归解码成本；缩短 SID 是直接且稳定的吞吐优化路径，即使效果打平，也可作为工程优化单独上线。
EnSI-RAG：实体结构索引的长文档问答检索增强框架
🧭 长文档 RAG · 实体结构索引 ★ 深度解读
University of Illinois Urbana-Champaign
用实体中心 passage 和 entity-structure index 做检索句柄，把证据定位与答案生成解耦，提升长文档 QA 精度
📌 工作参考价值（4 点）
- 商品/店铺知识库构建：不要用固定 chunking；对每个商品/SKU/商家建实体中心 passage，抽取 type + property/relation/aspect（如价格、规格参数、店铺关系），用 [entity][type][field:value]→psg_id 建离线索引。线上从原始 passage 生成答案，避免表格拆散、属性与值分离。
- 多跳对比/选购问答：把同类商品对比、品牌关系、优惠条件建模为 relation 或双向 relation（如替代品、配件、belongs_to），保留一对多 set-valued 映射而不是折叠成唯一记录；LLM 只做证据合成，不负责搜索。
- 工程实现：offline LLM 抽取成本高但可摊销；online 只需 1 次 retrieval planning + 1 次 generation，适合高 QPS 场景。对商品 spec 表使用 row-level 而非 table-level 粒度；检索深度未必越大越好，可先从小 k 开始调。
- 属性粒度按域选择：标准化粗粒度属性能减少稀疏性，但法律/精确规格类需保留细粒度；电商可对标准品类用粗粒度类目属性，对参数敏感品类保留原始参数名。
FIRM-Video：先检查再评分实现可靠文本到视频奖励建模
🧭 文本到视频奖励模型 · 评估基准
Shanghai Jiao Tong University · Tencent Youtu Lab · Tongji University
提出 check-before-score 清单驱动框架，构建 90K 训练数据和基准，8B 奖励模型在 VBench 上 Best-of-8 采样达最优
📌 工作参考价值（4 点）
- 在电商视频/广告创意评估中，可将整体评分拆为「指令遵循、世界一致性、感知质量」等维度，并为每个维度构建 checklist；先逐项验证视频证据再聚合分数，避免 LLM 整体打分时的漏检和归因混淆。
- 对商品视频生成或文案+视频的联合评估，可借鉴「prompt 分解为加权原子要求」：把用户/运营指令转化为可独立验证的细粒度要求（如颜色、质地、动作、文字），每项单独打分后加权求和，提升判断的稳定性和可解释性。
- 感知质量维度采用通用视觉缺陷分类（如模糊、闪烁、压缩伪影等），可作为广告素材机审/质量分系统的先验检查表，结合 LLM 做可解释的缺陷定位。
- 将 checklist 验证结果转化为自然语言分析再训练端到端 reward model 的做法，可复用于构建创意内容优选模型：先用结构化检查生成监督信号，再蒸馏到小模型，用于线上 Best-of-N 采样或创意排序。