HySparse2：两级 KV 共享的混合稀疏注意力
🧭 长上下文高效稀疏注意力与 KV 共享 ★ 深度解读
Xiaomi LLM-Core
通过两级 KV 共享使 prefill 只跑一半模型，同时提升长上下文检索并降低 KV 缓存
📌 工作参考价值（4 点）
- 在电商/搜索 Agent 场景，工具返回长文本、多轮会话累积导致 prefill 成为主要延迟；可借鉴 self-decoder/cross-decoder 分离：prefill 只执行 self-decoder（约半模型），cross-decoder 的 full-attention KV 由 self-decoder hidden states 投影生成。在 prefill-decode disaggregation 下，prefill 节点只需部署一半权重，显存和算力直接减半。
- 稀疏注意力选择粒度很关键：对多轮 Agent 轨迹、检索历史，token-level top-k 明显优于 block-level（RULER-v2 +6.57、2-needle MRCR-v2 +8.14、GraphWalks +5.55）。如果业务正在用 block sparse 做长上下文召回或会话压缩，且 token-level kernel 可用，应尽早切换；至少在检索关键层保留 token-level。
- 强制最近窗口进入稀疏选择，可以替代单独的 SWA 分支：省掉额外投影参数、局部 KV cache 和级联依赖，使 early exit prefill 成为可能。对需要保留最近会话/商品浏览状态的推荐 Agent，固定保留最近 128 token 是低成本且有效的局部建模。
- KV Bridging 只在 full-attention 层间连接，保留独立投影但共享 source hidden，可以在几乎不损失质量的前提下压缩 KV cache（1M 时 2.69GB vs 6.72GB/12.09GB）。对超长上下文电商 Agent，可考虑用跨层 KV 共享替代或叠加量化压缩。
即时记忆：为 LLM Agent 学习任务自适应记忆策展
🧭 Agent 记忆 · 读时策展 / GRPO ★ 深度解读
Salesforce AI Research
把记忆策展从写时推迟到读时，保留原始轨迹并按当前任务合成紧凑 payload，用 GRPO 以即时成功奖励训练策展器，显著提升 Agent 成功率与效率
📌 工作参考价值（4 点）
- 把用户行为序列 / 任务执行日志以原始轨迹存入记忆库，不在写入时总结；推理时用当前 query 或 task 条件化地检索并动态生成 brief，可适配不同下游任务，避免信息过早丢失。
- 训练一个独立于执行器的轻量策展器（curator），用 GRPO 以即时任务奖励（成功与否）更新；奖励无延迟，无需人工分组相关任务，训练稳定且可跨 executor 迁移。
- 工程上：检索用 BM25 仅在任务描述上做，轻量解耦；存储时用 LLM-as-judge 只滤出成功轨迹，比保留全部并标注是否正确更有效；生成的紧凑 payload 能降低 executor 输入 token 50% 左右和步数 28% 以上。
- 冷启动直接空记忆库上线即可，warm-start 收益不大；若需进一步提升，可做一次 staged bank refresh（用训练好的 curator 重建训练库）但收益有限。
扩散草稿 + 自回归验证加速文档 OCR
🧭 扩散草稿 + 自回归验证加速生成
Trillion Labs · Korea University · Seoul National University
参数共享 AR-block-diffusion 模型并行草稿 + AR 验证，实现 OCR 解码 3.94 倍加速
📌 工作参考价值（4 点）
- 生成式推荐/广告文案等 input-grounded 长文本任务可借鉴：用 diffusion 并行生成多个 draft token，再用共享参数的 AR 路径做因果验证，接受多 token 提交，无需额外 drafter 网络。
- GRPO 直接优化共享 drafter 参数，用序列级或结构级奖励（如文本格式、关键词覆盖）避免 diffusion trajectory likelihood 估计，训练更稳定且可优化业务目标。
- 自推测解码可嵌入现有 serving 框架（如 SGLang），平均每 forward 提交 9.7 tokens，适合高吞吐低延迟的在线文案生成、query 推荐场景。
- OCR/文档理解中的结构化输出（HTML/LaTeX）奖励信号可类比于电商场景的结构化商品描述、广告落地页生成，可直接复用奖励设计思路。
量化模型走到哪，就在哪训练：低比特推理的在线策略蒸馏
🧭 低比特量化 · 在线策略蒸馏 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · School of Artificial Intelligence, University of Chinese Academy of Sciences · Zhongguancun Academy · City University of Hong Kong · NJUST
用在线策略蒸馏把教师监督放到低比特量化模型自己的生成轨迹上，将 MATH-500 平均保留率从 35% 恢复到 70%
📌 工作参考价值（4 点）
- 若线上部署低比特 LLM 做 Agent 规划、长推理或长文案生成，QAD 后不要直接上线：补一个少量步数的 on-policy 蒸馏阶段，用模型自己的 rollout 配合冻结 BF16 teacher 和任务 verifier，能显著减少重复循环和 budget exhaustion。
- 蒸馏阶段可以非常简单：反向 KL token-level + group-relative advantage，β=1 固定无需调参；每个 step 8 prompts、G=32/64 rollouts，几十到数百 step 即可，GPU-hours 比 QAD 少 14–23 倍。业务上可低成本验证。
- 教师选择：1.7B 以上的低比特学生用自身 BF16 副本通常足够，不必上更大教师；只有 0.6B 这类学生本身太弱时才需要更强教师。这能省掉大模型推理成本。
- 训练/部署一致性很关键：rollout 必须走部署时的量化前向路径（INT8 activations + low-bit weights），才能把量化扰动纳入训练分布；类似在生成式推荐、query 改写或 Agent 路径采样中，应让训练 rollout 与实际服务链路一致，避免 teacher-forcing 与线上自回归之间的 exposure bias。
MAGIC：通过增量构建与稠密奖励强化学习生成混合粒度智能体图
🧭 多智能体任务自适应拓扑生成 ★ 深度解读
提出混合粒度多智能体组织图生成，局部选择单智能体或可复用组，以稠密奖励 RL 直接优化构建策略，在 8 个基准上全面领先
📌 工作参考价值（4 点）
- 业务多智能体 pipeline（如电商搜索/推荐 Agent、广告文案生成、客服）常固定拓扑；MAGIC 的做法是把角色库做成 single/group 可选，局部决定子任务是否需要小组协作，能显著降低 token 成本并保持精度。可直接借鉴：将高频子任务封装为可复用 group 模板，简单子任务保留 atomic agent。
- 训练构建策略时可放弃先搜索再 SFT，直接用 on-policy RL + potential-based reward shaping；用固定 probe 集评估部分图效用，给中间 ADD 决策稠密信号，在任务反馈稀疏、API 预算有限时更划算。
- potential 由 probe utility + structural complexity + role repetition 三部分构成，总回报保持不变（potential-based shaping），最终任务分数被重分配到中间步骤，适合离线日志/仿真环境训练组织策略。
- 工程上注意训练与推理成本分离：推理只执行最终组织；训练 probe 评估可缓存复用。这对线上 LLM Agent 编排有直接参考价值。
能干但简约：提取并刻画前沿模型隐藏的思维链
🧭 LLM 隐藏思维链提取与推理结构刻画
Department of Computer Science, Aalborg University · Department of Electronic Systems, Aalborg University · Seafill
通过标准 API 注册自定义工具诱导闭源模型外化中间推理，发现提取推理匹配原生 CoT 且 Astra 拥有 token 高效的有向推理
📌 工作参考价值（4 点）
- 在 Agent 或推荐链路中用闭源 LLM 且需审计中间决策时，可通过标准 API 注册一个轻量自定义工具（如 think(step)）诱导模型外化推理；先在开源模型上对照原生 CoT 验证外部化痕迹性能一致，避免只得到事后合理化。
- 评估 query 推荐、文案生成、排序解释等 LLM 任务时，除最终准确率外引入 token 效率、推理步骤类型、推理树等指标：关注模型是否提前锁定正确轨迹、把简单步骤内化，从而选择更适合线上、成本更低的模型。
- 多 Agent 或生成式推荐 pipeline 中对中间推理做结构化记录，用于错误归因和可追溯性，防止正确答案来自错误推理；高风险策略如营销文案、价格解释尤其适用。
- 不要用 trace 长度作为推理质量代理：更强模型可能话少但关键，应关注有效推理步骤密度和正确轨迹选择早晚。
让 harness 成长而非上下文：从无策略脚手架到可复用专家智能体
🧭 Agent harness 自动增长优化 ★ 深度解读
Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Shenzhen University of Advanced Technology · University of Macau
通过任务反馈把重复控制固化为可执行代码，LLM仅做语义推理，实现低成本高成功率Agent
📌 工作参考价值（4 点）
- 把高频控制路径（query 改写、结果校验、状态机流转、停止条件、重试策略）从 prompt/上下文固化到代码，LLM 只负责语义比较和最终生成；对电商搜索 Agent、客服 Agent 等高频请求场景，可显著降低单次 token 与成本。
- 建立 function-level trace 和失败窗口：线上失败日志关联到具体函数，优化器只修改被 trace 覆盖的有限代码面，避免全量重写；这能形成可维护的“局部重训练”工程闭环。
- 引入 held-out gate 与 checkpoint 回滚：每个修复候选必须在固定验证集上不降低成功率才接受，防止修复当前 case 导致历史能力退化；持续优化推荐策略或 Agent 逻辑时尤其关键。
- 小模型部署友好：将可复用控制移到代码后，4B 模型在 WebArena-Verified 上成功率达到 45.3%，而 Tool-Calling 只有 6.7%；端侧或低成本电商/搜索 Agent 可优先采用代码 harness 而非依赖大模型在线规划。
REFLEX 结合 Jev 实现 LLM 智能体的高效选择性控制
🧭 Agent 选择性控制与强模型调用优化
Nanyang Technological University
REFLEX 用 Jev 做快速类型决策层，低置信或需生成时调强 LLM，100 任务基准上 95% 成功并减少 72.7% 强模型调用
📌 工作参考价值（4 点）
- 架构拆分：在电商导购/广告投放 Agent 中，把“选哪个工具、参数是否合法、是否继续”等有限集合决策从生成式 LLM 中剥离，用轻量分类器或 Jev 类模型先做 typed decision；仅当置信度低于阈值或需要自由文本生成时再调用强模型，可省 70%+ 强模型调用，降低延迟与成本。
- 回退设计：对边界场景（如退款/价格修改等高风险动作）要保守，即便轻量模型置信度不低，也设置 authorization boundary 附近强制回退或人工/强模型复核；因为论文显示授权边界附近的 near-valid alternatives 是主要失败来源。
- 动作空间控制：候选工具/动作数量不要过大，尽量合并语义相近的 action；论文指出可靠性依赖 action-set size，过大会削弱 Jev 选择质量，可先在业务数据上测 action-set size 的影响曲线。
- 先做基线：如果已有便宜生成式模型（如 GPT-4o mini/Gemini Flash）的 cascade 路由准确率已经很高，typed decision layer 可能收益有限；建议先做离线对比实验，再决定是否引入 Jev，而不是直接上。
塞壬之歌：当近端背景语境压过远端证据
🧭 长上下文注意力机制 · 重尾相关性对齐
Australian Artificial Intelligence Institute (AAII), University of Technology Sydney
识别长上下文 LLM 的 Proximity Trap，并提出重尾相关性对齐机制 LYRA，把更多注意力导向任务相关证据
📌 工作参考价值（4 点）
- 在电商搜索、RAG 或 Agent 长记忆场景中，不要把长上下文优化只等同于“扩大窗口”或“距离加权”；需要显式对抗近端无关内容的干扰，例如在 memory / context 读取层增加相关性门控或对注意力分布做重尾变换。
- 可以借鉴 LYRA 的 t-distributed heavy-tailed relevance alignment 思路：在检索增强、用户历史建模或商品详情拼接时，对 token 级的 relevance score 做重尾映射，避免注意力被大量近端噪声 token 稀释，让远端关键信息获得更高概率质量。
- 构建与 ProxBench 类似的评测：在 prompt 中注入大量近端但任务无关的背景文本，测试模型能否稳定利用远端证据；这比单纯 LongBench 更能暴露实际 Agent / 搜索推荐场景下的上下文干扰问题。
- 若自训长上下文排序或生成模型，可加入近端干扰样本，并设计 relevance-aware 的注意力匹配损失，帮助模型学习“位置近不等于任务相关”的归纳偏置。
SpeakerMem-R1：面向多方对话的以说话人为中心双轨记忆
🧭 多方对话长期记忆 · 双轨记忆与RL训练
State Key Lab of CAD&CG, Zhejiang University
双轨记忆+RL训练Writer-R1，解决多方对话长期记忆的消息归属与关系理解瓶颈
📌 工作参考价值（4 点）
- 双轨记忆可迁移到电商多方会话场景：售后群聊、直播互动、多人协作等场景中，用户与客服/主播/其他买家发言交错，现有记忆系统易丢失人物关系和观点归属；借鉴 SpeakerMem-R1 的 verbatim track + structured track，将原始消息与提取出的 person-level/group-level 状态分开存储，查询时按 entity/event/time 融合，能显著提升关系类问题的回答质量。
- 用小模型做结构化记忆写入更贴合生产环境：论文训练 Writer-R1 负责从对话中抽取说话人归属和状态更新，而非直接调用超大模型做长时间维度的记忆管理；电商客服/Agent 团队可以对自有会话数据做 SFT+GRPO，训练一个轻量记忆写入器，降低 API 成本和延迟，同时满足数据隐私要求。
- speaker-conditioned GRPO 可用于归属纠错：将说话人信息作为奖励条件，结合 SpeakerLevenshtein 惩罚归属错误，比单纯 SFT 更能提升消息归属准确率（控制实验中 57.38%→68.20%）；在训练自己的对话总结或状态抽取模型时，可借鉴这种领域可验证的 RL 奖励设计。
- person-level 与 group-level views 互补：对电商推荐中的用户画像建模有启示——同时维护个体兴趣状态和群体共享状态，避免只关注个人历史而丢失群组上下文（如家庭采购群、企业采购团队）。
贪心解码并非精度不变：LLM 推理中的跨精度输出分歧
🧭 LLM 推理 · 精度一致性
University of Tennessee, Knoxville · University of Chicago · Amazon · University of Texas at Austin
证明 BF16/FP16 下贪心解码会系统性分歧，提出低 margin 触发 FP32 LM head 重算，一致性提升 22–36pp 且延迟开销 <4%
📌 工作参考价值（4 点）
- 线上 LLM 推理要显式固定 dtype：BF16 与 FP16 不能视为等价，尤其 greedy decode 用于召回/排序/文案/query 改写时，跨精度差异会造成离线在线或 A/B 的隐性不一致。可在服务配置中锁死 MatMul/attention/lm_head 精度，并用固定 prompt 集做跨精度 diff 测试。
- 如果需要在低精度下保持与高精度输出一致，不要全模型 FP32 重算；可移植 selective FP32 lm_head recomputation：仅当 top-2 logit margin 低于阈值时用 FP32 重算 lm_head，低 batch 单流下延迟 <4%，一致性显著提升。可封装成 inference wrapper 或 engine option。
- 注意适用边界：batch size >= 8 或端到端 FP8 下 body 误差主导，该方法失效；不要把它当作确定性保证。限流/批处理场景需要单独评估。
- 对 LLM 驱动的推荐/Agent pipeline，若输出 token 用于下游决策（商品 ID、工具调用、query 改写），低 margin token flip 会级联放大；可针对低 top-2 margin 的高风险样本做高精度重算或投票，并监控 margin 分布作为质量信号。
腾讯混元 A13B 技术报告：80B 总参、13B 激活的 MoE 高效 LLM
🧭 高效 MoE LLM 与双模式 CoT 训练 ★ 深度解读
Tencent Hunyuan Team
开源 80B/13B 激活 MoE，通过双模式 CoT 与强化学习在推理和 Agent 任务上逼近更大模型且吞吐更高
📌 工作参考价值（4 点）
- 双模式 CoT 可用于生产级 LLM 路由：/no think 适合商品问答、摘要、搜索 query 理解、自动补全等高 QPS 低复杂度场景；/think 适合购物导购规划、广告投放策略、深度搜索等复杂 Agent 任务。可按 query 复杂度、用户延迟预算或任务类型做策略路由，省 token 降延迟。
- Agent 数据构造方法可直接迁移：多角色合成引擎（user/planner/tool/agent/checker）+ 沙箱/MCP/合成工具 + 30 类系统指令 + 20K 格式组合，能低成本生成多样化工具调用数据；再针对高频任务（Excel 处理、深度搜索）做增强，适合电商购物助手、广告 Agent、搜索 Agent 的 SFT 数据 pipeline。
- Agent RL 奖励设计值得复用：格式奖励（特殊标记与顺序正确给 1）+ 正确性奖励（tool/parameter/value 一致性）能稳定训练工具调用；对推荐/广告投放的 API 调用、商品搜索参数解析等可定义可验证奖励，再叠加 sandbox 或执行反馈做 RL。
- MoE 推理部署配置可作为选型参考：80B 总参、13B 激活，配 GQA、Expert Parallel、FusedMoE，支持 vLLM/SGLang/TensorRT-LLM 与 INT8/W8A8/KV Cache FP8，batch 32 约 1982 tokens/s；对实时推荐/Agent 场景，快思考模式 + 量化可显著降低推理成本。
WhatWorkedBench：评测 AI Agent 实验理解能力
🧭 AI Agent 实验理解与自适应实验设计评测
Carnegie Mellon University · Tsinghua University
构建 WhatWorkedBench 基准，衡量 Agent 在预算内实验后预测组件组合效果的准确性
📌 工作参考价值（4 点）
- 在业务 Agent 做离线调参/工作流组合优化时，不要依赖完整网格搜索，可让 Agent 在预算内主动选择少量配置测量，再用 GP 或 pair-effect ridge 推断全配置响应面，直接降低实验成本。
- 静态分析代码等价性，把行为完全相同的配置合并成同一组，作为先验约束注入 GP；论文中该 trick 将小样本恢复从 0.248 提到 0.462，适合推荐/广告流程中大量冗余开关或等价组件组合。
- 多组件组合实验（如召回/粗排/精排策略开关）优先建模主效应 + 成对交互，用 pair-effect ridge 在少量新测量下选优并控制误差，避免全阶交互带来的样本需求爆炸。
- 内部评估 Agent 实验推断能力时，可借鉴该 benchmark 方式：用穷举离线结果构建数值控制记录，让 Agent 提交预测表，再对照完整参考效果算 recovery，而非只看最终推荐指标。
Whisper 编码器剪枝：移除六层并用无标签蒸馏恢复
🧭 语音模型压缩 · Encoder 层剪枝
Technical University of Denmark · Laerdal Medical
按留一层 WER 变化排序剪掉 Whisper 编码器 6 层，再用无标签语音蒸馏恢复精度，无需自定义推理
📌 工作参考价值（4 点）
- 层重要性排序思路可直接迁移到 Transformer 编码器剪枝：在推荐/搜索模型中对 Encoder 层做 leave-one-out 敏感性分析（如用 A/B 指标或 loss 变化），定位冗余层，避免盲剪。
- 零样本剪枝 + 无标签蒸馏的组合适合业务场景缺乏标注数据时压缩模型：用大量无监督域内数据做蒸馏恢复精度，降低标注成本。
- 压缩后保持原始架构（只是更浅的 Encoder）能避免自定义推理代码，可无缝复用现有推理优化和部署工具，这对线上快速迭代很重要。
- 对语音搜索、客服语音识别等多模态入口模型，可借鉴该剪枝蒸馏 pipeline，在延迟敏感场景下用少量精度损失换取明显推理加速。
学习发现有趣的数学定理
🧭 LLM 数学定理发现 · 形式化证明库
FAIR @ Meta · New York University · CERMICS, ENPC, Institut Polytechnique de Paris
定义证明长度/陈述长度比作为定理有趣度代理，训练27B模型预测证明难度并用于自扩展数学库
📌 工作参考价值（4 点）
- 轻量代理指标设计：在业务中可类比“信息密度/交互深度”定义内在质量分（如 query 长度 vs 后续点击/转化链长度），训练低成本打分模型替代大模型或人工标注，用于候选排序。
- 中等规模 reward/scorer 模型：27B 即可超过 frontier 通用模型，说明特定领域可训小模型做难度/效用预测，降低线上打分成本，适合广告创意/商品文案候选筛选。
- 自扩展库 + 去重过滤：生成候选后按指标选择并过滤与已有库高重叠项，从 91.9% 降到 30.6%，可借鉴到推荐/广告生成场景，避免生成结果与历史素材同质化。
- 迭代构建优质候选池：以自扩展方式逐步加入经证明有效/有趣的候选，可迁移到 query 推荐、push 文案库的自动扩量。