Video-RSI：通过 Harness 进化的视频理解 Agent 递归自我改进
🧭 Agent 自我改进与工具/harness 进化
Tsinghua University · Harbin Engineering University
让视频理解 Agent 用自身 LM 修正可执行 harness，通过主动回访视频与成本感知进化提升精度并降低视觉成本
📌 工作参考价值（4 点）
- 可将「看哪些帧/片段、调用哪些工具、如何利用观察」抽象成可执行 harness 层，在电商直播切片、商品视频理解等场景中，按准确率与视觉成本（如帧采样数、API 调用量）做多目标筛选与保留，控制推理成本。
- 失败诊断时不要只依赖当前执行 trace，可让 Agent 主动回访原始视频/用户行为序列等原始数据，用额外观察区分竞争性失败解释（是检索遗漏、描述丢失还是推理错误），这一思路可迁移到搜索推荐 Agent 的调试与自改进。
- 利用 Agent 自身 LLM 生成 harness 修订，并用验证集筛选可复用修改，形成递归自我改进闭环，减少人工调优工具/策略的工作量。
- 直接业务价值有限：论文面向视频理解基准，与电商推荐核心链路（召回、排序、query 推荐）结合度不高，但层次化工具控制与成本感知进化思路值得 Agent 架构设计参考。
WEFT：通用智能体工具使用后训练的全系统扩展框架
🧭 Agent 工具使用后训练 · 全系统扩展与自进化 ★ 深度解读
East China Normal University · Fudan University · Shanghai Innovation Institute · Renmin University of China · Shanghai Qiji Zhifeng Co., Ltd
构建可扩展交互系统、执行驱动自进化与稳定训练，WEFT 在多个工具使用基准上超过同规模环境扩展基线。
📌 工作参考价值（4 点）
- 在构建电商工具调用训练环境时，不要只堆 API/MCP 数量；建立「执行证据→失败归因→修订环境/任务/校验器」的闭环。具体 trick：用状态 diff 和工具返回来做 verifier，先修环境 bug 再训模型，减少“模型背锅”。
- SFT 数据构造用 prefix-preserving rejection sampling：以原子任务（如“查商品→加购物车→下单”）为边界，失败只重采样当前原子任务的 attempt，保留已验证前缀和状态快照，提高长链路训练轨迹利用率。
- RL 中做 atomic-turn credit assignment：对每个原子任务组内做 group-relative 归一化，只对当前 turn 的 policy token 施加 advantage，避免 trajectory-level reward 把无关前缀也更新；对检测到重复/格式错误/接口违规的成功段，mask 正 credit。
- 部署层面，可用类似 MegaMCP 的共享服务+私有状态隔离：MCP/工具服务共享 Python 进程，数据库 copy-on-write 克隆，workspace 隔离，快照支持重试/候选采样，降低大规模 rollout 成本（upload 降 95%、内存降 77-95%）。
WUSH-KV：数据自适应变换的 KV Cache 低比特量化
🧭 LLM 推理优化 · KV Cache 量化 ★ 深度解读
Institute of Science and Technology Austria (ISTA) · ETH Zürich · Red Hat AI
用 WUSH 数据自适应可逆变换对 KV cache 做低比特量化，2-bit 下 Qwen3-8B 全面优于 OSCAR
📌 工作参考价值（4 点）
- 对需要长上下文/高并发 LLM 服务的推荐与 Agent 系统，KV cache 内存是主要瓶颈。可借鉴将可逆变换与量化解耦：校准阶段按每个 head 的 Gram 矩阵（缓存张量自身统计）+ Hessian（下游消费者敏感度）构建变换，允许非正交各向异性缩放，比固定 Hadamard/随机旋转在 2-bit 下显著降低误差。类似思路可用于用户/物品 embedding 缓存或特征存储的低比特压缩，关键是 Hessian 选下游任务对扰动的敏感度。
- 值侧变换可在离线折叠进权重（V→WV、WO），在线零额外开销；键侧变换因 RoPE 无法折叠，放在 RoPE 之后，每新增 token 只多做一次 d×d 矩阵乘。工程上优先折叠 value 侧，key 侧用固定在线 transform，避免逐位置补偿。
- 保留 sink token 和最近 token 的 FP16 窗口（例如 sink=64, recent=256）并用批量量化 flush（chunk 8/16）可在大幅降低平均位宽时保护长上下文和生成质量；该策略与具体量化器无关，可直接迁移。
- 校准只需 128 条序列、一次完成，跨 bitwidth 复用；量化器可选 QuEST 或 OSCAR-style percentile-clipped affine，证明 WUSH 与 QuEST 搭配接近最优。在 SGLang 中集成时，可沿用 OSCAR 的 cache 管理策略，不必为 WUSH 重新调参。
异构多智能体 LLM 的免预填充跨家族 KV 缓存迁移
🧭 多智能体异构 LLM 缓存迁移
University of Southern California, USA · Seoul National University, Republic of Korea · New York University, USA
冻结两端模型，通过结构对齐、映射与校准实现跨家族 KV 缓存迁移，免预填充加速异构多智能体通信
📌 工作参考价值（4 点）
- 多角色 Agent 系统若采用不同模型家族（如大模型做规划、小模型做执行），在共享长上下文（如用户历史、商品列表、prompt 模板）时，优先用 KV cache 迁移替代重新 prefill，可显著降低首 token 延迟。
- 跨模型 KV 对齐可采用“冻结两端 + 小型映射器/校准器”的方式，不扰动原有模型权重，部署风险低；若要落地，可在固定模型对（如主链路模型↔轻量 reranker）预训练映射器。
- 长上下文收益更大（32K 下加速 10.7×），适合电商会话中拼接长商品序列、多轮决策历史；短上下文也有收益但需评估额外映射开销。
- 该方法与文本通信在多智能体基准上表现持平，说明在可靠映射下可无精度损失换取推理加速，适合对延迟敏感的在线 Agent 编排。
源条件中继引导缓解音视频大语言模型幻觉
🧭 多模态LLM幻觉缓解 · 训练免干预
Harbin Institute of Technology, Shenzhen · Peng Cheng Laboratory, Shenzhen · Fudan University
提出训练免方法SECRET，通过源条件中继引导抑制跨模态干扰，缓解AVLLM源混淆接地幻觉
📌 工作参考价值（4 点）
- 训练免的表示引导（steering）思路可迁移到电商多模态场景（商品视频理解、直播切片审核、图文一致性校验）：对LLM内部问题表示做方向性修正，无需微调即可抑制无关模态干扰，快速上线。
- 业务中跨模态冲突常见（如商品主图与描述不一致导致问答错误），可借鉴“源条件对比表示”：利用不同模态路径干预构造对比样本，用其表示差异引导原始状态，提升模型对指定源信息的遵循能力。
- 路径干预分析定位干扰通路的方法，可用于诊断自有多模态Agent或推荐解释模型中的跨模态信息污染，为模型裁剪和推理优化提供依据。
- 与RAG/推荐系统结合时，可对检索到的多模态候选做源条件重定向，避免LLM被无关信源带偏，提升生成结果的grounding可靠性。
在线策略参数更新方向支撑LLM后训练泛化
🧭 LLM后训练·参数更新方向约束
State Key Lab. of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Meituan
提出OPSFT：约束SFT沿在线策略累积更新方向更新，仅少量在线策略步即可将泛化优势迁移给监督微调
📌 工作参考价值（4 点）
- 在需要保留在线策略泛化能力但训练预算有限的场景，可先跑少量 on-policy 步骤提取累积参数更新方向，再用 OPSFT 将大规模 SFT 更新投影到该方向，避免全量线上采样成本。
- 对已有高质量人工标注/线上反馈轨迹的电商导购 Agent 或文案生成模型，可将这些轨迹作为 OPSFT 的 SFT 数据继续训练，不会破坏之前在线策略学到的探索与泛化能力。
- 该方法提供了一种从在线策略到离线 SFT 的“方向蒸馏”机制，适合工业界在 RLHF/DPO 与 SFT 之间做低成本的训练范式切换。
- 注意该方法主要针对 LLM 后训练流程，不直接改变推荐/召回模型架构；若业务中需要频繁迭代生成式模型，可在训练 pipeline 中作为正则项复用。
贝叶斯可靠性记忆：多智能体咨询的鲁棒自适应机制
🧭 多智能体可信咨询 · 在线贝叶斯记忆 ★ 深度解读
DeCLaRe Lab, Nanyang Technological University · Peking University
用在线贝叶斯可靠度记忆同时决定信任谁与是否咨询，使中心模型在误导信息下保持鲁棒
📌 工作参考价值（4 点）
- 在线贝叶斯可靠性记忆适合流式稀疏反馈，用少量 verify label 即可更新模型/工具/召回源的可靠度；电商/推荐中标注昂贵，可先以 1% 流量反馈冷启动。
- 无参数 attention bias：对低可靠来源 token 的 attention logit 加 γ log(p/max_p)，可直接嵌入现有多路 RAG、多模型融合或 Agent 集成，无需 finetune，适合防止不可靠外部知识污染主模型。
- 是否咨询/调用外部能力的决策规则值得借鉴：比较“可靠证据收益” T(ρ-κ) 与“不可靠证据损失” (1-T)δ，并计算可信阈值 T*；可迁移到 Agent 中决定是否调用工具/咨询其他模型，或推荐系统中决定是否触发外部广告/LLM 重排。
- Worker routing：把可靠度记忆用于子任务到 worker 的分配，比历史成功率更快识别 capable worker；可借鉴到多模型/多策略路由和级联系统，降低无效调用成本。
超越教师分配：领域归一化的多教师在线策略蒸馏
🧭 多教师策略蒸馏 · 领域归一化
Nanyang Technological University · Yale University · University of Manchester
提出 DN-MOPD，按领域反馈 spread 重缩放，解决多教师策略蒸馏中反馈尺度失衡问题
📌 工作参考价值（4 点）
- 在多任务/多专家蒸馏或 RL 融合时，不要只做任务路由，还要监控并平衡不同 reward/teacher 反馈的尺度；可提前统计各领域反馈的标准差，按该值重缩放，避免高方差信号主导共享模型。
- 如果在线估计 spread 成本高，可直接使用离线测得的固定领域权重，论文表明固定权重接近测量值时性能相当，便于工程落地。
- 对电商搜索推荐中的多目标强化学习（如点击率、转化率、GMV 约束），不同目标 reward 方差差异大，容易让某个目标主导策略，可借鉴按目标 spread 归一化再加权。
- 在 Agent 或多 teacher 集成场景，评估各 teacher 反馈分布，优先降权高方差域，而不是单纯提升弱势域，控制实验显示调低主导域反馈是关键。
超越束搜索：生成式推荐的构造性修复与候选补全
🧭 生成式推荐 · Semantic ID 修复与候选补全 ★ 深度解读
Beijing Institute of Technology · China Meteorological Administration · Tsinghua University · Singapore Management University
用可行性区间刻画identifier分配修复，结合最小叶子替换与候选补全提升生成式推荐新item召回
📌 工作参考价值（4 点）
- 目录扩容时不要只依赖 beam rerank：用保留前缀上界 U_i=已评估前缀 logprob + item correction 和 item-level 协同预测器对 beam 外物品做候选补全，预算控制在 20/80 个额外评估即可显著提升 Recall/NDCG。
- 旧 Semantic ID 不一定要推翻重训：先按 Theorem 1 的区间条件判断 assignment repair 可行性，再用 integral min-cost flow 求最小叶子替换，保留旧 ID 的同时让新 item 进入 Top-K，降低重训与历史兼容性风险。
- 合并生成概率与协同分数为单一排序得分，并对新 item 做校准（λ、γ、b 控制 scale/shift），避免冷启动新 item 被生成分数压制；校准参数在验证集上选。
- 停止条件 t_K > max U_i 可给出全局 Top-K 证书；线上可做成本自适应：预算内满足才输出证书，否则返回已评估最高分。
Draft-KV：学习语言模型间有价值的潜在通信
🧭 LLM 潜在通信 · KV Cache 传输
City University of Hong Kong · University of Science and Technology of China · University of Electronic Science and Technology of China · AIPD, Tencent · Theory Lab, Huawei
提出 Draft-KV，用 sharer 草稿过程的 KV 状态经门控侧记忆接口传给 frozen 小模型，显著提升协同推理
📌 工作参考价值（4 点）
- 在多模型 Agent 链路中，让大模型（sharer）提前对候选 query/商品/用户意图草拟推理，并把草稿过程的 KV cache 暂存为侧记忆；线上由小模型接收这些 KV 做最终决策或生成，接口参数仅 ~1M，两端模型冻结，部署成本远低于全量微调。
- 接口设计可借鉴「线性投影 + 门控 attention 分支」：不把通信状态注入主隐层，而是作为 side memory 参与注意力，避免干扰小模型已有表示；门控可控制通信信息的权重，便于线上 A/B 开关和降级。
- 训练采用两阶段 progressive：先做 message reconstruction 对齐表示，再转到 answer supervision；并加入 mismatched message 的 guard 损失，防止通信缺失或错配时模型被带偏，这对推荐中的多路召回/多模型融合也有参考。
- 验证通信是否真被使用：用随机替换消息做控制实验，若替换后指标几乎不变，说明增益来自接口结构而非信息内容；在推荐/广告引入 LLM 通信或增强时，应做同样消融，避免伪提升。
分数阶状态空间转移用于长序列建模
🧭 长序列建模 · 分数阶状态空间 ★ 深度解读
Huawei Noah's Ark Lab, Montreal Research Center, Canada
用分数阶动力学替换指数遗忘，通过有限指数模态近似实现高效选择性SSM长序列建模
📌 工作参考价值（5 点）
- 用户长期行为序列建模可直接借鉴：电商/广告场景通常有数月甚至跨年的点击、浏览、购买序列，传统 SSM/RNN 的指数衰减会快速抹掉早期兴趣。FRAC 的分数阶动力学生成幂律记忆，能在更长时间范围保留历史影响，适合作为用户长期兴趣记忆模块。
- 多时间尺度记忆银行的具体实现：将状态转移分解为 log-spaced 指数衰减模态，用可学习 α_t 控制衰减强度，并用 token-dependent λ_t 做选择性调制。这种设计与用户行为中不同时间尺度模式（如近期强兴趣、历史稳定偏好）天然对齐，可直接嵌入现有 user encoder。
- 工程实现与训练效率：FRAC 保持一阶仿射递归，可用 chunked parallel scan 并行训练/prefill，自回归解码有界状态，且有 custom Triton kernel。对需要低延迟、长序列增量更新的推荐/广告检索系统来说，架构可迁移。
- 读写对齐技巧：read/write 路径共享 softmax(-α_t log τ_m + g(u)_m) 的对数时间尺度寻址，能提升信息写入和读取的一致性。在用户行为表示中可类比为让不同时间尺度的兴趣槽位在写入和读取时使用同一套寻址逻辑，增强记忆可检索性。
- 若业务序列普遍较短或已由 Transformer 覆盖，收益可能有限；但对长上下文行为建模和实时增量计算场景值得尝试。
何时纠错才算修复：工具型 LLM 内部干预的机制审计
🧭 LLM 可解释性 · 工具决策审计
University of the Chinese Academy of Sciences, China · School of Computer Science, University of Birmingham, UK
SAKIKO 审计框架揭示激活干预的行为迁移不等于修复，并量化附带损伤
📌 工作参考价值（3 点）
- 评估内部干预或 steering 修复工具调用/动作决策时，不要只看 accuracy / net gain；增加 destination-resolved 指标（如翻转矩阵：被干预改对的 vs 改错的基线正确样本），并在上线前审计 collateral damage。
- 干预应做成 router-conditioned：先定位动作类型决策对应的 router/分类子层或关键 attention head，再对局部 hidden state 做方向干预；全局 residual stream steering 容易引入无关动作损伤。
- 采用 前瞻冻结统计许可：预先设定目标增益，将干预方向与同预算随机方向做统计比较；对有限样本下的“看起来不错”的点估计，应报告置信区间/检验结果，避免把噪声当成修复。
何时用选择取代提取？一项基于类型决策模型的智能体记忆预注册测试
🧭 Agent 记忆选择与重排序
Independent Researcher
预注册实验表明：在紧凑预算下，用类型决策模型单次选择原始对话轮次，效果非劣于 LLM 提取记忆且成本极低；重排序增益随预算增大而减弱
📌 工作参考价值（4 点）
- 对话式推荐 / 客服 Agent 的记忆模块可优先采用「原始对话轮次选择 + 轻量判别模型（typed decision model）」，不必先做 LLM 事实提取，写入成本可降低几个数量级，在预算紧张时效果非劣，适合高吞吐场景。
- 重排序的投入应视最终保留的上下文预算而定：如果 context window 只能容纳少量候选（如 3/30），重排序收益显著（+17.4 / +9.1）；如果预算充裕，收益递减（+1.5 / +1.1），可省去该环节降本增效。
- 在匹配上下文长度下，轻量 typed decision model 可作为 LLM reranker 的低延迟替代（约 1/3 延迟），用于召回后的候选筛选，尤其适合对时延敏感的在线推荐服务。
- 实验采用预注册 + 非劣性检验，这种评估范式适合迁移到业务算法替换场景：证明新策略「不差」而非「更优」，可加速低成本方案的灰度上线。
记忆是一种派生：长期智能体中的分布式证据悖论
🧭 Agent 长期记忆写入审计 ★ 深度解读
New York University
提出 DERIVAUDIT 审计框架，揭示记忆写入中证据分散导致有效记忆被误拒、无效组合更难检测的分布式证据悖论
📌 工作参考价值（4 点）
- 在电商/推荐 Agent 的用户长期记忆系统中，不要只保存单轮抽取事实，应将“写入门控”做成派生验证：对每条候选 memory 用写入前历史做 BM25 检索补充证据（如 top-12、总 budget 16），避免因 writer 附带 citations 不全而误删有效信息；该方法在论文中使 provenance-repaired 保留率从 58–86% 提升到 93–98%。
- 对记忆进行组合语义校验，显式拆解语义义务：区分事实、关系、时态/状态变化，例如用户历史中“计划购买某品类”和“有高消费偏好”不能组合成“已购买该品类”或“因高消费而购买”；可使用 SUPPORTED / CONTRADICTED / INSUFFICIENT / AMBIGUOUS 四路标签替代简单 yes/no。
- 注意验证粒度悖论：让 verifier 检查更多细粒度正确事实（增加检查项）可能显著降低有效记忆准入率（Gemma 从 93.3% 掉到 2.6%）。在线上 admission gate 中，不要盲目增加检查项或抬高 threshold，需按模型分别校准，并监控有效记忆留存率。
- 下游效果量化：失真记忆和缺失记忆都会大幅降低后续回答/推荐质量（失败率增加 84–100pp）。可借鉴其干预实验，对用户画像或 Agent memory 注入 distortion / 删除 valid 条目，测量下游任务失败率变化，以确定记忆质量的实际业务影响。
LongCat-DeepResearch：基于ResearchSpec的多智能体深度研究报告系统
🧭 多智能体深度研究与长文生成 ★ 深度解读
Meituan LongCat Team
用紧凑的ResearchSpec替代全文迭代，结合并行研究员与全局-局部编辑，提升深度研究报告质量
📌 工作参考价值（4 点）
- 将早期迭代从完整文档转移到紧凑可执行的 ResearchSpec（章节范围、研究问题、必需实体、源线索），避免在巨大上下文中反复重写全文，适合改造现有 agent 生成报告/方案的流程。
- 采用 并行独立研究者：每个 section 单独上下文搜索、阅读、撰写，保留完整 section draft，不依赖共享压缩历史，可缓解长上下文中证据丢失；类似做法可迁移到多路召回或者子任务并行执行。
- 编辑阶段分离全局决策与局部文本生成：Global Editor 只指定归属和冲突，Local Editor 基于 directive 修改既有 section，避免整篇重写带来的成本和不稳定，适合需要多轮修订的长文/方案生成。
- 数据构建接口化：用同一套 harness 生成（query, ResearchSpec, traced sections, edit directives），再用于模型 mid-training 和 post-training，实现系统能力与模型能力的迭代闭环。