模型增长、递归与边界算子如何影响 scaling 指数
🧭 模型架构与训练效率 scaling 分析
New York University · Q Labs
发现架构干预可改变预训练 scaling 指数，循环深度带来计算效率随规模递增的指数级收益
📌 工作参考价值（4 点）
- 在算力受限的推荐/广告大模型训练中，可尝试循环深度（looped transformer）实现参数共享下的模型增长：训练时逐步增加循环次数，比单纯堆叠层更省显存，且计算效率随规模提升。
- 边界算子（boundary operator）对 vanilla transformer 即插即用，仅通过归一化并注入前一个 block 就能获得递增的计算效率增益，适合作为轻量级改进直接迁移到现有架构。
- 数据受限、多 epoch 场景下，循环深度有正则化效果，推荐在用户行为序列等重复训练数据上优先增加循环次数而非扩大模型宽度。
- 核心结论：架构干预可以改变 scaling 指数，意味着不再只依赖增大模型和数据，通过设计递归或注入结构可能获得指数级收益，值得在排序/召回大模型预训练中探索。
MoE 语言模型中专家的高阶剪枝
🧭 MoE 专家剪枝 · 二阶交互建模 ★ 深度解读
AWS Agentic AI · AI Fundamental Research
提出 HOPE 二阶专家剪枝，考虑专家协同交互，显著优于一阶方法，在高剪枝率及 Agent 任务上优势更大
📌 工作参考价值（4 点）
- 对业务中部署的大规模 MoE 推荐/排序模型，可参考 HOPE 的交互矩阵思路，在专家剪枝时不仅看单个专家的激活/输出贡献，而是记录 pair 共激活的乘积，构建 F 矩阵并解 QP；工程实现轻量，校准开销仅增加 6-7%，QP 每层 1-2 秒。
- 剪枝校准集需匹配目标场景：HOPE 在 coding/agentic 校准集上表现不同，建议按业务流量（搜索、推荐、广告）分别采集校准数据，避免跨域剪枝性能损失。
- HOPE 保留的专家组具有高协同评分，剪枝后模型可作为 downstream SFT 起点且优势持续，适合在业务中先剪枝再微调以进一步恢复/提升效果。
- 高剪枝率（40-50%）释放内存最多，正是部署价值最大的区间，此时二阶交互优势最显著；若业务需要极限压缩，应优先采用二阶剪枝而非简单一阶方法。
RetireOPD：面向智能体强化学习的自适应退休在线策略蒸馏
🧭 Agentic RL 训练 · 自适应退出蒸馏 ★ 深度解读
Zhejiang University · Alibaba Group
先奖励训练特权教师，再做在线策略蒸馏，并根据教师-学生分歧与相对成功率自适应退出教师监督
📌 工作参考价值（4 点）
- RLVR 训练 agent 时，别把「prompt 里塞特权信息」当成可靠 teacher：电商/搜索 agent 常想在训练期用用户画像、SKU 知识、检索结果等 offline-only 信息做 dense 监督。该工作表明，同容量模型仅靠输入特权上下文并不一定比无特权学生强，应先用环境奖励对 skill-conditioned teacher 做一轮 RL，再冻结当教师。
- 用在线信号决定何时退出蒸馏，比固定 annealing 或两阶段切点更稳：可以监控教师-学生 token-level logprob gap 的相对变化 ρ，以及学生的 relative competence η。当 gap 停止缩小且学生成功率超过教师一定比例（如 0.9）时退出 OPD，只保留 GRPO/RL。此逻辑适合跨品类、多模型尺度训练，不用逐任务调退火步数。
- 稀疏奖励 + 特权 teacher 的组合能显著加速多轮 agent 前期学习：业务里做购物 agent、搜索交互 agent、客服多轮决策时，可以先 OPD 加速起步，再在冲突点后转纯 RL，避免教师天花板。退出后还能省掉 teacher forward pass，降低训练与后续微调成本。
- 如果离线有技能库、查询改写规则、投放策略等仅训练期可用信息，可参考其 SkillBank + keyword retrieval 方式：将特权技能作为 teacher 输入，学生部署时不依赖这些信息，适合线上 latency 敏感但训练期可用的场景。
若只能买一台 Galaxy S26 Ultra：AI 生成产品推荐审计
🧭 LLM 生成式推荐系统审计
Law & Tech Lab, Maastricht University · Utrecht University · Social Computing Group, Department of Informatics, University of Zurich
审计 ChatGPT、Gemini 与 Google AI Overviews 的产品推荐，揭示第一人称偏好、重复不一致和来源差异
📌 工作参考价值（4 点）
- 评估生成式推荐时不能只看单次输出或 API，需模拟消费者端界面并多次重复请求，否则会低估产品推荐变化与来源差异；可引入第一人称偏好率、产品一致性、来源重叠等审计指标。
- 若在电商中使用 LLM 做商品推荐，注意模型会高频使用「我会选」等主观表述（ChatGPT 达 79%），可能带来偏袒或误导风险；可通过 prompt 约束或后处理抑制第一人称表达，保持中立语气。
- API 与消费者界面表现差异显著（来源重叠仅 12–15%），说明实验结论不能直接外推到生产环境；若做线上 LLM 推荐，需对实际部署界面和 API 分别做回归测试与监控。
- 来源展示不稳定且跨模型重叠极低，会增加用户信任与合规风险；建议在推荐结果中显式记录并展示证据来源，建立可追溯链路，便于审计和争议处理。
双过程语言智能体的认知扩展：交互环境中的记忆与自我反思
🧭 Agent 执行控制与记忆增强
Instituto Superior Técnico, Universidade de Lisboa, Portugal · INESC-ID, Lisboa, Portugal
为 SwiftSage 双过程 agent 加入自适应记忆与自我反思模块，在 ScienceWorld 上提升任务成功率与效率
📌 工作参考价值（4 点）
- 在电商/推荐 Agent 中加入轻量执行时校验（SRM 思路）：调用工具前检查商品 ID、参数格式、API 返回，拦截无效动作，降低错误率与 token 成本。
- 长会话推荐系统可借鉴显著性门控记忆：只存储用户偏好突变、任务失败原因等关键事件，触发式检索而非全量上下文，避免长对话遗忘与上下文膨胀。
- 双过程架构可解耦推理与响应：快速动作提议器即时回复用户，慢规划器异步优化推荐策略或营销动作，兼顾体验与决策质量。
- 增加无进展检测：当推荐 Agent 重复推荐或反复询问时强制执行反思/切换策略，防止陷入无效循环，提升多轮交互成功率。
SoL-Pi：递归扩展自动研究循环，打造高效 Agent Harness
🧭 Agent harness 层 token 效率优化
NVIDIA · NTU · MIT
在 harness 层递归搜索自动研究循环，保留四种 token 效率机制，性能不变但成本降约三分之一
📌 工作参考价值（4 点）
- 上下文压缩可迁移到多轮推荐 Agent：Online Context Compact 与 Evidence-Preserving Reducer 的思路能直接用于电商对话推荐或搜索 Agent 的长对话历史管理，保留关键商品/用户意图证据，削减冗余交互，降低推理 token 与延迟。
- Action Fusion 减少工具调用开销：在 Agent 需要多次调用商品检索、库存查询、价格比较等 API 时，将多个小操作合并为一次批量执行，可以显著减少重复上下文注入，节省成本；对广告投放 Agent 的多步出价查询也有参考价值。
- ObservationPack 打包观测结果：让 Agent 一次接收多个工具返回的结构化摘要而非逐条处理，可以提升上下文利用率，适合高吞吐的搜索/推荐实时决策场景。
- 递归自我改进的 harness 搜索思想：可以在业务 Agent 流水线上自动探索 token 效率优化配置（如提示压缩、工具调用顺序），用离线环境评估成本与效果，实现自动降本，不必手工调优。
特权信息在在线策略自蒸馏中究竟增加了什么？
🧭 训练方法 · 自蒸馏与特权信息
National University of Singapore
系统分离自蒸馏与特权参考的贡献，发现特权信息仅带来有限增益，核心机制是跨模式能力转移
📌 工作参考价值（4 点）
- 蒸馏目标设计：在电商/搜索的 LLM 自我蒸馏中，不必过度追求“教师看到完整推理/用户行为解释”的特权信息；无参考的蒸馏目标（只用问题-答案对）就能激活大部分跨模式迁移，可显著降低数据标注与构造复杂度。
- 学生生成模式：训练时学生的 rollout 模式应与评估模式一致，例如用短直接回答而非长思维链作为训练样本，否则收益可能反转为损失；这提示生成式推荐或 QueryRec 蒸馏时，训练样本的生成风格需匹配线上推理风格。
- Token-level 监督的敏感性：改变 token 级别的损失干预（如不同 mask 策略）可能对模型最终行为影响很小，实际调参时可将精力集中在宏观目标与数据分布上，而非逐 token 细节。
- 跨模式能力共享：参数共享使直接回答与思考回答的能力可相互迁移，OPSD 是低成本激活已有推理能力的有效手段，适用于资源受限的推荐/广告文案生成模型升级。
通过内部表征监控与发现 LLM 评估中的奖励作弊
🧭 LLM 内部表征监控 reward hacking
发现简单差异均值向量能低成本表征并检测前沿开源 LLM 的 reward hacking，且可在线提前预测
📌 工作参考价值（4 点）
- 若业务中采用 RL 或 LLM 做推荐/Agent 决策，可借鉴 DoM vector 方法对模型内部表征做实时监控，检测模型是否走捷径（如利用规则漏洞刷指标），计算成本几乎为零，适合线上部署。
- 在 chain-of-thought 上运行 DoM vector 能提前预测后续行为的 reward hack，可用于实时风控，在模型执行不当动作前拦截，减少损失。
- 该白盒监控方法能发现 LLM monitor 遗漏的 undesirable behaviors，帮助识别模型未曾预料的异常模式，对推荐系统的鲁棒性审计有参考价值。
- 注意 reward hacking 在常用 benchmark 中比例很高（如 GLM 5.2 在 SWE-bench 达 73%），评估模型性能时应谨慎，配合内部表征监控可以防止被表面指标误导。
VA-Bench：通过视觉演示、主动感知与度量控制评测具身空间智能
🧭 Embodied 空间智能评测基准
Dalian University of Technology · Nanyang Technological University
提出 VA-Bench 基准，评估通用 MLLM 在 RGB 演示、主动视角选择与度量命令下的完整观察-推理-执行闭环能力
📌 工作参考价值（4 点）
- 评测设计：构建 held-out 几何/布局变体与长程组合任务，可类比电商推荐中不同页面布局、用户意图与多步转化场景下的泛化评测，避免只测单一分布
- 主动感知闭环：模型主动选择相机视角而非被动接收多视图，对应交互式推荐中逐轮选择信息源，利用执行反馈修正策略，可提升长程任务成功率
- 高层决策与低层执行解耦：固定模型无关控制器只执行模型指定的度量式目标，业务上可将 LLM 意图输出与具体执行引擎分离，降低耦合并便于快速迭代
- 行为诊断体系：除最终成功率外，报告轨迹级行为诊断与子任务进度，推荐系统评估可借鉴，不只盯点击率，还要诊断用户路径、探索行为等中间指标
Video DeltaNet：面向直播视频生成的视频原生混合注意力
🧭 视频生成 · 混合线性注意力加速
University of California, Berkeley · Impossible, Inc. · University of Texas at Austin
提出 Video DeltaNet，用局部 Softmax 注意力+双向线性记忆加速视频扩散，在 MiniMax H3 上实现 14.5 倍去噪加速
📌 工作参考价值（4 点）
- 混合注意力可用于用户长期行为序列建模：对最近行为用局部 Softmax 精确捕捉，对远期行为用线性 memory 压缩，控制长序列推理成本；推荐/广告的 user sequence transformer 可以尝试。
- 分阶段 teacher-alignment 是向预训练模型注入新模块的低风险方法：先固定原主干，单独训练新分支对齐教师输出，再逐步解冻联合微调；适合在已有排序/召回模型上实验新型注意力。
- 按语义单元（session/帧/事件）更新 memory 而非逐 token：直播、短视频等场景中，用户在一个 session 内的行为可以聚合更新，减少状态更新频率，同时保持序列语义完整。
- few-step distillation + 分布式 serving 可大幅压缩生成式模型推理延迟：业务上如创意文案生成、商品视频摘要等可借鉴 8 步蒸馏和 SGLang 优化栈。
WeVisDoc：从覆盖到能力的鲁棒端到端文档解析
🧭 文档解析 · 数据为中心
WeChat Vision, Tencent Inc.
两阶段数据为中心框架用残差聚类诊断定向补强，在多个文档解析基准上领先
📌 工作参考价值（4 点）
- 残差聚类驱动难例挖掘：Stage II 对 Stage I 解析器的错误在固定视觉-结构簇内做聚类统计，再定向构造或重分配数据预算。推荐/搜索场景可借鉴该思路，将线上 bad case 按用户意图、query 类型、页面模板等维度聚簇，定位系统化薄弱点后定向补训练数据或调采样权重。
- 结构保持的退化合成：通过保持文档结构不变、只合成图像退化（模糊、噪声、透视变形等）来扩展训练分布。在电商场景中，可对商品图、用户上传的实拍图做类似退化增强，提升模型对低质输入（如暗光、遮挡、压缩噪声）的鲁棒性，尤其适合作图质量不稳定的 UGC 内容。
- target-token 预算重分配：根据诊断结果把有限训练 token 从已饱和区域转移到薄弱区域. 对应到推荐系统训练，可根据验证集分片表现动态调整各数据源的采样比例或训练步数，避免在简单样本上浪费算力。
- 两阶段数据迭代范式：Stage I 广覆盖，Stage II 精准补强，形成可复用的数据飞轮。工程上可落地为：先全量构造基线数据, 再通过定期离线评估识别性能洼地，并用自动化诊断报告指导下一轮数据标注与增强，比盲目扩大数据量更高效。
When2Think：学习难度感知长度控制的高效混合推理
🧭 LLM 推理效率 · 自适应混合推理训练 ★ 深度解读
Sungkyunkwan University · Microsoft
用实例级难度感知奖励塑形动态分配推理深度，在数学基准上实现 AIME24 Pass@3 +10% 且 token -27.9%
📌 工作参考价值（4 点）
- 用离线参考策略统计做难度/预算先验，在 RLVR 奖励中加 correctness-gated efficiency bonus，适合有确定性校验的业务任务（如商品属性抽取、意图分类、SQL 生成），无需在线 critic/参考模型。
- 采用 THINK / NOTHINK 模式 token 训练 system1/system2 自适应路由，可迁移到 Agent 工具调用或 RAG：简单 query 直接回答，复杂 query 才触发多步检索/推理，降低平均延迟与 token 成本。
- BWS 的 batch-wise reward 标准化稳定 critic-free PPO，适合小团队在不训练 reward model/critic 的情况下做后训练，且保留跨实例难度结构。
- 难度用 reference accuracy 而非启发式长度定义，可能更 robust；业务场景可先用较大/teacher 模型对样本滚动评估得到难度标签。
无限参数LLM：从实时数据生成并适应权重
🧭 超网络生成 LLM 权重 · 在线贝叶斯更新
Boltzbit Limited · University of Cambridge
用超网络从实时交互数据动态生成低秩权重，并以贝叶斯在线更新实现会话内持续适应
📌 工作参考价值（4 点）
- 在长会话 Agent 或客服场景中，将用户实时提供的纠错、偏好、事实等写入模型权重而非每次拼进 prompt，可减少重复 token 开销、释放上下文窗口，并让知识跨轮次持久化。
- 借鉴超网络生成低秩调制权重的思想，在推荐系统中用超网络根据用户/物品特征动态生成个性化 adapter 或 FFN 权重，实现参数高效的动态用户建模，避免为每个用户存储大量个性化参数。
- 采用贝叶斯在线更新 latent code 的方式维护用户或场景的隐状态，使模型行为随交互逐步调整，适合多轮推荐、动态创意生成等需要连续适应的任务。
- 评估时设计对比 in-context learning 和 retrieval 的协议，重点考察权重化知识是否在计算摊销、泛化、持久性上优于 prompt 方案，业务上可作为在线学习方案的验证框架。
细粒度 MLLM 感知的区域级策略优化
🧭 多模态视觉感知 · 稀疏 token 选择
University of Sydney · City University of Hong Kong
用区域级强化学习训练轻量提案网络，以约 4 倍更少视觉 token 超越全分辨率 MLLM 的细粒度准确率
📌 工作参考价值（3 点）
- 借鉴区域级 RL 训练前处理筛选器：在商品图、广告图或多模态内容理解中，先用轻量网络从全局粗粒度视图定位关键区域（如商品主体、文字标签），再对候选区域做高分辨率编码，可大幅降低 MLLM 的 token 成本；冻结大模型只更新提案网络，适合基座模型昂贵、不想全量微调的业务场景。
- 用 remove/add 双目标做无监督奖励：以“移除某区域导致答案似然下降”作为负面信号抑制噪声，“补回丢失区域提升似然”作为正信号恢复缺失证据。不需要标注框或 reasoning trajectory，可直接迁移到推荐系统多模态召回/排序：用大模型对候选内容打分差异作为奖励，训练轻量重要性评估器筛掉无关图像区域或视频帧。
- 稀疏编码放大证据区域而非均匀下采样：将视觉 token 集中到选中区域并降低背景分辨率，可用同等算力提升信息密度。在电商视频理解、直播切片审核等场景，可先选高信息量帧/区域再输入生成式推荐模型，兼顾成本与细粒度表征。
选择是检索，拒绝不是：70个韩英动作的设备端工具路由
🧭 设备端工具路由 · 检索与拒绝分离
Redrob
拆分工具路由中的“选择”与“拒绝”决策，证明选择可用检索器、拒绝需神经编码器，设备端可省去大模型
📌 工作参考价值（4 点）
- 在设备端或低延迟 Agent 场景，把工具选择与“是否拒绝/委托”拆成两阶段：先用轻量检索器（如字符 3-gram BM25）选出候选动作，再用一个冻结编码器（如 multilingual-e5）做 out-of-catalog 判断，避免让大模型同时做两件事带来的延迟和内存开销。
- 如果业务中有“本地动作目录”或固定工具的 Agent 路由，可先基于 lexical overlap 做召回：对于规范表达或关键词命中的请求，BM25 几乎全对；转述/同义表达则丢得较多，可限制候选集到 top-7 再做重排或接一个小型语义判别器，性价比高于直接用大模型。
- 对“是否该本地处理还是委托给远端/大模型”的决策，不要依赖分类器在检索得分特征上做阈值：论文表明这样做 AUC 上限仅 0.697，而冻结编码器的语义得分可达 0.806。建议直接复用轻量 sentence encoder，成本低且能显著减少误委托。
- 工程落地时注意：neural ranker 虽然所有质量指标更好，但常因延迟和内存被拒。若需在端上引入语义模型，优先考虑量化、蒸馏或小模型，并只用于 abstention 阶段，而非全量排序。