SANTA++：通过代表性键采样注意力以减少 KV 读取
🧭 LLM 长上下文推理 · 稀疏注意力采样 ★ 深度解读
University of California, Santa Barbara · Flucta
训练自由随机注意力方法，用代表性键路由团队采样，以 16%-22% KV 读取保留 94%-99% 精度
📌 工作参考价值（4 点）
- 在需要长上下文 LLM 推理（如用户长期行为序列、商品详情、多轮对话历史）的服务中，采用“代表性键 + 团队采样”做 decode 期稀疏 attention，可在 KV 读取降到 16%-25% 时仍保留接近 dense 的精度，适合降低在线推理成本。
- prefill 后一次性用 k-means 或 contiguous 分块构建 parent groups，再在每个 parent 内选 actual-key representatives（首点最近均值，后续逐次最远点），decode 阶段固定复用；避免逐 token 全量扫描，尤其在 batch-one 长序列下成本低。
- GQA 架构下，多个 query head 共享 KV head 的团队划分与代表键读取，但各 head 独立采样并保留自己的 inclusion correction，可进一步提升吞吐；与 MLA 等压缩 KV 表示互补，已在 DeepSeek-V2-Lite 上验证仍有 token 稀疏性。
- 实际部署注意：contiguous 分块可省去 k-means 预处理，虽然某些任务略降精度但访问更低；预算 S 是团队数而非 token 数，需要按团队大小和头间重叠重新估算实际 KV 读取。
SEABench：自进化智能体内源性失配基准
🧭 自进化智能体安全与归因评测 ★ 深度解读
University of Virginia · ELLIS Institute Tübingen
提出 SEABench 基准，用成对非进化智能体与归因评分量化自进化导致的安全退化
📌 工作参考价值（4 点）
- 在推荐/Agent 工作流里，自更新（controller/memory/tools）会把上游“更全、更快、更一致”的用户反馈固化成跨场景规则；上线前用成对非进化版本跑同一批安全/隐私测试，只有归因到自更新且基线安全时才允许推进。
- 工具/技能面最容易被污染且危害最大：错误会变成可复用可执行能力。给工具默认安全参数（如脱敏默认开启、高风险操作必须显式 opt-in），对工具变更做更强的静态检查和脚本化回归。
- CoT 风险线程监控可以做低误报的在线护栏：对推理中“范围扩张 / 未支撑断言 / 安全边界被覆盖”等 risk thread 做分类 + 语义校验，生产环境 FPR 约 10% 时能挡下约 71% 有害输出；但工具/技能型缺陷可能不在 CoT 中暴露，必须加输出或调用结果级校验。
- 可借鉴其 TextGrad 级联改写 + LLM-as-judge 的轨迹发现方法，给推荐 agent 造纵向压力测试序列：上游任务只要求效率/完整性，下游评估是否出现隐私泄露、上下文混淆、护栏腐蚀。
上下文语言模型：让模型原生管理自身上下文
🧭 Agent 上下文管理 · 原生可编辑上下文 ★ 深度解读
University of Washington · Meta Superintelligence Labs · MIT · Trillium Labs
提出 Context Language Models，将上下文作为可编辑文件交给模型原生管理，在长 horizon Agent 任务上同时提升效果并降低推理成本
📌 工作参考价值（4 点）
- 长会话电商导购/客服 Agent：让模型自主编辑上下文文件（用户画像、候选商品、搜索过程），用 Bash/Python 原地更新、精简、备份，替代固定 summary 或人工工具，降低 token 成本并提升效果。
- 多 Agent 工作流（并行选品、多路召回协调）：维护多个上下文文件/内部 tracker，orchestrator 以原地编辑管理状态，减少重复传递。
- 在线推理优化：用户多轮修改筛选条件/商品 id 时，用 Suffix Cache Reuse 复用未变 suffix 的 KV cache，降低重 prefill FLOPs，适合高并发推荐服务。
- 训练 RL 时用 success-gated efficiency advantage，仅对成功轨迹施加 FLOPs 优势，避免失败轨迹获得效率奖励；stepwise GRPO 处理非连续上下文编辑。
伸缩式语言模型
🧭 弹性 LLM 训练 · 随机前缀监督 ★ 深度解读
University of Cambridge · University of British Columbia · Google
单次训练让嵌套级联每个深度前缀均为有效语言模型，AULB降43–44%
📌 工作参考价值（4 点）
- 业务需要为不同延迟/成本部署多档 LLM 或小模型时，可尝试嵌套宽度递增架构 + 随机前缀全锚点训练：单次训练得到一个可任意深度截断的模型，替代多份 artifact，降低 GPU 成本（论文中比 vanilla 三模型方案低 1.7 倍）。
- 若只有少数固定 latency 档位，把 prefix sampler 集中在目标出口深度，可在单次训练的同时获得接近独立子模型的出口质量；若需要弹性降级或流量自适应，用 uniform sampler 换取全深度连续覆盖，两者是采样分布上的训练期选择。
- 中间深度崩溃的主因之一是 readout head 未校准而非主干能力不足；若不重训，可先对崩溃前缀做 cheap head-only fine-tune，虽仍落后全训练约 6 倍，但能恢复部分可用性，适合快速止血。
- 该方法在 200M 代理规模验证，迁移到 7B+ 的推荐/Agent 在线服务需自行验证；但每步仅两次 forward-backward、推理无额外开销，工程上易试错。
生成式检索器学习语义ID时如何保留语言生成能力
🧭 生成式检索的语义ID防遗忘训练 ★ 深度解读
University of Glasgow · Brave
SpeakGR用on-policy蒸馏的正向KL正则，在SID检索微调中保留LLM文本分布，语言drift降低81-94%且检索不降
📌 工作参考价值（4 点）
- 在电商/搜索的生成式召回（如物品Semantic ID或文档SID）中，仅用SID CE微调会让LLM的对话/解释能力迅速崩溃：PPL从31.69涨到53966，Top-1一致性从100%掉到0.13%。因此如果系统还需要模型回答追问、解释结果或澄清query，必须在SID阶段加语言保持损失。
- 可复用轻量正则：准备一个prompt池（WikiText自然前缀 + 指令/QA类），每步约6条；学生以文本-only rollout生成前缀（mask SID logits，temperature 0.8/top-p 0.9/top-k 20），冻结base模型给出同前缀next-token分布，最小化正向KL（重新归一化到原始词表）。比offline replay更稳定，几乎不增加额外模型。
- 三阶段训练（doc→SID、伪query→SID、真实query→SID）里，语言正则可在Stage1用λ0=0.1并逐步加强；若不想手动调权，可用Adaptive SpeakGR：对preservation KL做EMA，λ按clip(K/ε−1)乘性更新，ε取0.5–2较稳，过严的ε反而双输。
- 工程上要单独统计SID mass：SFT-only在文本上下文里有4–26%概率分配给SID token，而SpeakGR可降到0.2–0.6%；保持前向KL的同时需mask SID logits，避免评估语言时SID泄漏。
SPRINT：基于平均概率速度的单步生成式推荐
🧭 生成式推荐 · Semantic ID · 单步生成 ★ 深度解读
University of Technology Sydney · New York University Abu Dhabi · University of California, San Diego
把 Semantic ID 生成建模为平均概率速度，单次前向输出完整 SID，并用双层级流对比保持 token 连贯性
📌 工作参考价值（4 点）
- 如果做 SID 生成式召回/排序，优先尝试 OPQ 而非 RQ-VAE/RQ-Kmeans：OPQ 的并行独立子空间更适合一次性预测全部 token；本文消融显示换 RQ 会明显掉点，可作为架构选型依据。
- 在单步并行解码 SID 时，单纯 per-token CE/contrastive 不够，必须加 SID 级整体打分：把 decoder 的 L 个位置隐状态 concat 后 MLP 成 user 侧表示，与 item SID embedding 做 cosine 对比，能显著抑制“每个 token 合理但组合非法”的问题；item 侧 SID embedding 可离线预计算，线上只多一次矩阵乘。
- 线上推理保持 all-mask 输入、trie 约束解码，分数 = token 概率 log-sum + SID 级相似度，单次 forward 即可出 topK；相比 masked diffusion 可拿到 8-10×加速，适合对 latency 敏感的电商推荐候选生成。
- 训练时把 source time 以较大概率锚定在 all-mask（ρ=0.75~1），并采样约 100 个 negative SID 做对比，可在不大幅增加训练成本下同时提升收敛速度和精度。
STEPQuant：Delta-rule 循环状态的时空误差感知量化
🧭 线性注意力循环状态量化压缩
Zhejiang University · NLPR & MAIS, Institute of Automation, CAS · Tsinghua University · City University of Hong Kong · Harvard University
提出时空感知的循环状态量化框架，按误差幅度与记忆寿命分配精度，并联合拟合 key-row/value-column 尺度
📌 工作参考价值（4 点）
- 若在线推荐/Agent 部署了 Qwen3.8-27B、Kimi-Linear-48B-A3B-Instruct 等混合线性注意力模型做生成式召回、query 改写或工具调用，可直接采用 STEPQuant 对循环状态做 6-bit 后训练量化，在接近 FP32 精度下获得 5× 状态压缩和大幅显存下降，适合大并发服务。
- 可借鉴其时空混合精度分配思想：在维护 user state / memory 时，不对所有维度一视同仁，按“记忆寿命”和“对输出误差的敏感度”做非均匀量化；长期偏好或高敏感维度保留 FP16/INT8，短期临时状态可降到 4-bit。
- 联合拟合 key-row 与 value-column 缩放系数的做法，对推荐模型里矩阵型状态（如 user embedding × topic embedding、长期兴趣矩阵）有启发：先离线估计各行列对最终 loss/输出的影响，再定制 scale 而非全局 uniform。
- 如果团队自研推理框架，可参考它在 SGLang 中的 GPU kernel 集成方式，将状态压缩与 serving 显存核算结合，上线前用长/短生成 benchmark 做精度-显存回归。
TabFM-Auto：LLM Agent 自进化表格基础模型流水线
🧭 LLM Agent 驱动表格数据流水线自动进化 ★ 深度解读
Google Research · Google DeepMind · University of Southern California · Harvard University · University of Texas at Austin
将 LLM 编码代理与冻结表格基础模型结合，只进化数据流水线，拿下 TabArena 与 MLE-Bench-Tabular 榜首
📌 工作参考价值（4 点）
- 冻结主模型、只让 LLM agent 搜数据/特征/采样/后处理：在推荐/广告 CTR 模型上，可冻结已训练好的排序/召回模型，让 agent 围绕它生成特征工程、样本选择、校准代码，用离线验证集反馈，避免边改模型结构边训练的噪声。
- 从列名/元数据自动生成领域特征：电商表格中大量业务字段（价格、类目、用户/商品 ID），LLM 可生成 price_ratio、category co-occurrence、user-item graph degree 等显式特征，免去模型从原始数值中隐式推断。
- 上下文采样 + 先验校准应对不平衡：类似论文中对少数类过采样多视图并在 log-odds 空间做先验修正，适合电商点击/转化率预估中的正负样本不平衡、稀有类目。
- 严格测试隔离与防泄漏：搜索只在单 fold 训练集内部 3 折 CV，沙箱禁网且不挂测试集；分类数据 shuffle 防止行号/排序泄漏。这些工程细节可直接照搬进推荐模型自动调参/特征搜索 pipeline。
TabFM：表格数据的零样本基础模型
🧭 表格基础模型 · 零样本学习 ★ 深度解读
Google Research
400M参数表格基础模型，以in-context learning实现零样本监督预测，在TabArena 51数据集上超越AutoML与现有表格基础模型
📌 工作参考价值（4 点）
- 针对推荐/广告中的表格数据预测（CTR/CVR、用户行为特征建模），可以借鉴 TabFM 的行列解耦注意力：列向 ISAB 做 O(T·m) 跨样本聚合，行向 SAB + RoPE 做特征交互，CLS tokens 池化支持 16k 样本不爆炸，适合大规模样本 in-context 推理。
- TabFM+ 的推理期多视图增强很实用：随机列排列 + 交叉特征/SVD 特征注入 + NNLS 集成 + Platt 校准；在冻结模型权重下即可提升稳健性，可低成本迁移到现有特征工程管线。
- TabFM-Auto 思路：用 LLM 生成特征工程代码，内部闭环 CV 评分迭代，冻结主模型权重；可借鉴做推荐系统特征自动发现，如交叉特征、聚合特征、目标编码等，减少人工试错。
- 纯合成 SCM 数据训练的通用表格表示能零样本迁移，提示可以构建因果结构模拟用户/物品特征生成，减少对真实标签数据的依赖，用于冷启动或小样本场景。
特权表征在线策略自蒸馏用于智能体强化学习
🧭 Agent RL · 特权表示自蒸馏 ★ 深度解读
University of Florida · University of Illinois at Chicago · Case Western Reserve University · Vanderbilt University · Weill Cornell Medicine
提出 PR-OPD，用分层隐藏状态对齐替代 token 概率蒸馏，把智能体自生成技能的特权优势传给无技能策略，推理零额外开销
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 的 RL 训练中，若手头有事后信息（用户真实意图、成交/退货、人工反馈），可让同一策略先跑 GRPO，再对每条轨迹生成 hindsight skill，用无技能/有技能两次前向做 teacher；蒸馏目标用隐藏状态对齐，而不是输出 logits/KL。很多点击/转化信号是稀疏 episode reward，这样能把事后信息变为稠密监督。
- 工程实现很轻：只增加一个每层轻量 MLP projector（512 维隐藏层），teacher 与 student 共享权重，推理时丢弃 projector；不引入外部 teacher 模型、技能库或额外推理开销，适合线上部署。
- 小模型直接对齐原始 hidden state 可能崩，务必保留 projector；并且要对齐所有层而非只 last layer，因为技能信息在中间层最强；先 warm start 是关键，WebShop 上 N=120 优于 N=100，10-30 个监督步已经能拿到大部分收益。业务里可先纯 reward 训练到一定成功率，再开启表示蒸馏。
- 有些改进不会体现在 top-1/token 概率上（如 action token 概率几乎不变但隐藏状态大幅变化），所以训练日志不能只看 loss 或 token accuracy；可以通过线性 probe 诊断隐藏状态是否携带可迁移信息，再决定用表示对齐。
TIPS：仅用结果监督RL训练生成式过程奖励模型
🧭 生成式PRM训练 · 结果监督RL ★ 深度解读
Renmin University of China · Tsinghua University · University of Electronic Science and Technology of China · Shanghai Jiao Tong University
TIPS仅用3.2K结果标签轨迹，经GRPO强化验证思维链，ProcessBench F1达85.2，超过更大PRM与强判官
📌 工作参考价值（4 点）
- 在需要过程诊断/归因的 Agent 链路（如导购多轮对话、多工具调用、query 改写规划）中，可用该框架训练一个生成式 step judge：让模型输出 CoT + 逐步有效标签 + final label，reward 只看 final label 是否正确，用 GRPO 优化整个序列；推理时直接取 step_labels 作为过程分，省去人工逐步标注。
- 优先选有思维链先验的 thinking 模型或 reasoning-distilled 模型做基座。论文中 Qwen3-4B-Thinking 比 Instruct 多涨 7.5 F1；弱基座容易走“只看最终结论”的 shortcut，逐步判断先升后降，因此可用 ORM 准确率平台期 + 回复长度下降作为早停信号。
- 对电商推荐/搜索场景，可把该方法用于推荐解释或排序理由的逐句正确性判断，以及 query 规划、工具调用链路的错误步骤定位；但要优先选择步骤正确性直接决定最终结果的 task（SQL 生成、API 参数校验、数值/规则链路），因为业务最终反馈如点击/转化与单步正确性耦合较弱时收益会显著变小。
- 训练成本极低：仅需 3.2K 条 outcome-labeled 轨迹即可在 8×A800 上单 epoch 完成，适合为长尾场景快速冷启动一个内部 judge。
通过跨 harness 适配的检索增强技能优化
🧭 Agent 技能优化 · 跨 harness 检索适配 ★ 深度解读
Korea University · KAIST · Meta AI
检索外部技能语料并用 Cross-Harness Adaptation 适配到目标任务与执行环境，同时强化技能初始化和失败驱动更新
📌 工作参考价值（5 点）
- 构建内部“技能/策略语料库”（如大促玩法 SOP、不同平台投放经验、query 改写案例），按 heading 切成段落级索引；检索时用 BM25 返回 top-K=5，避免整篇文档带来的无关信息，K 再增大会引入噪声。
- 借鉴 Cross-Harness Adaptation：把外部知识/代码片段转成目标系统的对象、命令、单位，做三件事——删 source-specific 名词、只保留当前 requirement 相关、工具参数行为必须被目标 harness 描述确认；这在多平台/多渠道（Web vs App vs 小程序、不同广告 API）迁移 SOP 时尤其实用。
- 用 RASI 做零 rollout 冷启动：新任务或新 agent 先由 LLM 从 task/harness 描述生成 requirement-query 对，检索并适配成 lessons 后直接合成 skill，避免昂贵试错；实验显示即使只开放 1% 语料也有明显收益。
- 更新阶段不要只依赖 rollout 文本梯度：从失败轨迹反推“缺失知识”并生成检索 query，用外部知识补充参数知识，候选 skill 必须过验证集才接受；在成本上可做到与 TextGrad/WikiSkill 同等 rollout 数，甚至 API 成本更低。
- 生产落地注意 benchmark 泄漏：按仓库级别把已知任务/数据集相关技能加入 blocklist，防止检索到作弊或过拟合片段。
通过 LLM 引导剪枝改进最近邻图索引
🧭 LLM 离线精修图索引 · 语义检索 ★ 深度解读
University of Wisconsin–Madison · MIT
提出 LGP，在 DiskANN/HNSW 图索引上离线用 LLM 替换低价值邻居，弥合几何构造与语义评估错配
📌 工作参考价值（4 点）
- 可在现有 HNSW/DiskANN 等图索引上增加离线 LLM 精修环节：对每个节点，用两跳非邻居构造小候选池，先按结构冗余/两跳可达性筛到 M=12~24，再让 LLM 只选 B=2 个语义互补候选替换低价值边；不改查询链路，直接提升低 search width 下的召回与 NDCG。
- 该方法的收益在窄 search width/低距离计算预算下最大，适合召回候选受限、重排器无米下锅的场景；可作为索引侧优化，和 query-time rerank/RGS 等互补。
- 工程上 LLM 调用只发生在离线构图阶段，按节点短list 调用，成本可控；可先对高流量 query 相关节点或重要类目做部分精修（β=0.25/0.5），再逐步放开到全图。
- 语义选择模型越强收益越明显（Qwen3-32B > Qwen3-8B），且对 embedding 模型鲁棒；建议用非推理模式的小 LLM/VLM 控制成本，避免破坏图导航。
通过执行反馈学习可泛化的测试时自适应 Harness 修订
🧭 Agent harness 自适应与元学习 ★ 深度解读
Carnegie Mellon University · Johns Hopkins University
训练一个 proposer 用执行反馈修订 frozen solver 的 harness，实现无需参数更新的测试时自适应与跨任务泛化
📌 工作参考价值（4 点）
- 在电商/Agent 工作流里，可把「query 改写、检索重排、工具调用、结果校验」等串成可执行 harness，用一个较小的 proposer 模型（4B 足够）只改 harness 代码、不改主模型参数，测试时用业务反馈迭代修订，降低大模型频繁微调成本。
- 训练 proposer 时，反馈问题和打分问题要拆开：反馈用于构造下次 revision 的 execution report，打分用于 RL reward，避免 reward hacking；GRPO 的 reward 建议加上 edit validity 和可执行性 bonus，能明显降低无效 proposal 比例。
- 测试时不要只做 one-shot 修订：用 small proposal budget 做多轮 sequential revision，每轮基于 development score 保留当前最优 harness；论文在 QA 场景里 10 轮总预算 80 次 proposal 能超过独立 80 次 proposal 的 oracle best，适合在线 A/B 式自适应。
- 对多跳检索/问答类 pipeline，可学习让 harness 把「用于生成下一跳 query 的摘要」和「最终 answer 的证据」分离：query 生成用摘要，answer 直接读原始 passage，这种结构在跨域 QA 上更稳。
Transformer 过早停止思考，微小 LoRA 修复上下文链跟随
🧭 LLM 链式推理深度与轻量 LoRA 干预
Georgia Institute of Technology
发现基础模型在上下文引用链上仅能跟随1.4–3.6行，早期层加rank-8 LoRA可扩展至数十行，默认答案低估了计算能力
📌 工作参考价值（4 点）
- 在搜索/推荐 Agent 处理多跳规则、属性继承或长会话状态时，先评测基础模型在长链条上下文跟随上的真实上限；若出现早期断裂，可在单个早期 Transformer 层加 rank-8 LoRA 做任务微调，冻结主模型，低成本解锁长链推理。
- 利用论文的冻结模型测量方法定位“最后有效干预层”，将 LoRA 插入该层附近，而不是每层都加 adapter，可减少训练参数与调参成本，并快速诊断现有 LLM 的推理瓶颈。
- 对需要循环迭代的 agentic 工作流（多轮检索/重写、复杂促销规则计算），可复用“同一 LoRA 在每次循环生效”的结论，通过 Loop+LoRA 扩展可达深度，无需重训大模型。
- 注意这是任务特定 LoRA，不同业务任务需单独训练，但释放的潜在能力提示应重新评估默认模型输出，避免因默认早停而低估 LLM 的可用计算深度。