你的学习率调度可能并不合理：权重归一化训练中的有效学习率调度
🧭 大模型预训练优化 · Effective LR
ByteDance Seed · Peking University
证明 WN 训练增益主要来自有效学习率轨迹，提出 AIR 调度，在 128B MoE 预训练上比 cosine 降损约 0.01
📌 工作参考价值（4 点）
- 若你在 LLM4Rec / 生成式推荐模型预训练中采用 weight normalization 或固定范数约束，应把 LR schedule 设计对象从 nominal LR 切换到 effective LR，否则会错失 WN 的降损收益。
- 工程上可直接用 AIR 替代 cosine：用 affine 修正 1/√t 衰减以匹配预设 peak/terminal LR，在 128B MoE 实验中比 cosine 的 terminal training loss 低约 0.01，且超参鲁棒性更好，适合线上预训练 pipeline 快速替换。
- 在优化器或训练约束切换（如 WN ↔ WD）时，保持相同 ELR 轨迹可复现训练动态，便于做 infra 对齐和消融实验，减少重新调参成本。
- 优先优化 late-stage LR schedule：早期 LR 选择对最终损失影响较弱，晚期 ELR 调度是主要收益来源；调参资源应集中在后期 schedule 上。
上下文嵌入：超越单一黄金块的分级蒸馏
🧭 上下文嵌入训练与评测 ★ 深度解读
Perplexity AI · turbopuffer
用查询感知压缩模型蒸馏分级 chunk 相关性替代 gold-chunk 标注，发布 9B/0.6B 模型并刷新多基准 SOTA
📌 工作参考价值（4 点）
- 用 query-aware 压缩模型/reranker 产生 token 级 graded relevance，聚合为任意 chunk 软标签，替代二值 gold chunk；既避免标注绑定分块，又让支撑证据不再被当负样本。电商搜索、长商品详情、合同、政策文档检索可复用这套在线蒸馏链路。
- 文档级检索可采用 multi-vector + MaxSim：每个文档保存多个 chunk embedding，查询-文档相似度用最高 chunk 分数；在 RAG/商品召回中比单向量更细粒度，且不增加 chunk 数存储。
- 评测不要只看单一 gold chunk，应标注 answer groups + evidence groups，并报告 Answer@K、Evidence recall、Tokens to full coverage；这能暴露排序在 aspect coverage 与读取代价上的真实差异。
- 大模型蒸馏小模型保持共享 embedding space，让索引侧用 9B、查询侧用 0.6B，配合 MRL 1024/2048 维度 + int8 量化，可在不同存储/延迟预算下切换。
需求交互时：通过相互依赖规格扩展长程编码
🧭 编码代理 · 规格合成与强化学习
LLM Core, Xiaomi · Peking University · University of Hong Kong
CodeSpecWeave 合成带相互依赖规格的任务并用 RL 训练编码代理，显著提升长程开发表现
📌 工作参考价值（4 点）
- 任务设计上，可构造具有相互依赖约束的合成任务（例如同时满足相关性、多样性、商业指标约束），迫使模型进行联合推理，避免退化为简单清单，提升生成式推荐或 query 推荐策略的鲁棒性。
- 数据质量保障上，借鉴 review agent 审计多条 solution trajectories 的做法：在离线样本生成或评估中，用多个模型交叉验证候选输出的合理性和正确性，过滤隐藏缺陷或误判，提高训练数据可靠性。
- 训练范式上，在仿真环境或历史日志中合成带多目标约束的任务，用强化学习优化策略模型，使其在复杂业务约束下（如用户体验与商业收入平衡）学习长期收益。
- 评估体系上，构建包含多维规格的基准，揭示模型在处理相互依赖约束时的能力边界，指导针对性迭代。
用单一算法训练基础模型
🧭 基础模型统一训练范式
Carnegie Mellon University · Johns Hopkins University · Aurora Innovation
将预训练、SFT、RL 统一为单一似然训练目标，把 RL 视作对模型生成分布的最大似然拟合
📌 工作参考价值（4 点）
- 在业务 LLM 迭代中，可放弃严格分阶段 SFT→RLHF 流水线，用统一似然目标直接混合静态标注与模型生成样本，减少多阶段维护成本和切换误差，尤其适合电商文案生成、对话策略等需要快速试错的场景。
- 把 RL 步骤改写为在模型自身生成分布上的最大似然拟合，可降低 reward hacking 风险并稳定训练；在推荐系统用用户行为反馈作为偏好信号时，可借鉴该视角设计更平滑的在线学习目标。
- 将数据选择、配比和训练时机作为核心调参对象，而不是算法切换；可在电商推荐中用行为日志、人工标注、模型生成样本做动态配比，统一训练提升覆盖率和准确率。
- 统一训练提供更强持续学习起点：上新品类、适配新用户群体或增量更新推荐模型时，可沿用同一训练器而不必重启多阶段流程。
用 JEPA 证明并改进柏拉图表征假说
🧭 多模态表示对齐 · JEPA 理论
Brown University · New York University · AMI Labs
证明基于“好视图”的 JEPA 可跨模态对齐表征，且比 next-token 高效 42 倍
📌 工作参考价值（4 点）
- 多模态商品/内容塔可尝试用 JEPA 式“同一商品/场景的两个视图”构造正对，替代或辅助 CLIP 式图文对比，降低对大规模成对数据的依赖。
- 正对质量优先于数据规模：在电商语料中构造标题 vs 属性描述、原图 vs 增强视图等 good views，可能以远小于 next-token 预训练的样本量获得跨模态对齐，节省训练成本。
- 文本塔单独自监督训练后仅需学习一个旋转矩阵即可实现图像-文本检索/文案生成，适合为商品图生成短描述或跨模态召回。
- 若业务中有不成对的图文/视频/行为数据，可借鉴其 pair-free 零样本评测思路，验证表征对齐是否足够支撑下游任务。
Youtu-Parsing-Omni：单编码器、统一模式的全模态解析
🧭 全模态文档解析 · 统一 schema 与自进化训练
Tencent Youtu
提出一个编码器与统一 schema 的全模态解析器，将文档、图像、音频、视频解析为带时空定位的结构化记录
📌 工作参考价值（4 点）
- 统一 token-role schema 可减少多任务解析头：在电商内容理解中，商品主图、详情页、短视频封面、直播切片往往需要多套解析模型。将不同任务输出统一为带角色标签的 token 序列（如文本、坐标、时间戳），能让 Agent 直接读取并定位证据，降低格式转换和后期拼装成本。
- OSAD 自进化蒸馏适合标注稀缺场景：电商属性抽取、广告素材审核等场景标注成本高、数据漂移快。可先用少量种子数据训练，再用自身 rollout 与参考条件副本做 token 级蒸馏，迭代刷新参考模型，形成“模型生成—自我蒸馏—权重刷新”闭环，减少对新增人工标注的依赖。
- 用预训练 LLM 初始化编码器并共享权重：对于强文本感知需求的任务，如海报 OCR、商品标题识别、价格标签读取，LLM 初始化的编码器能显著提升文本阅读能力。可将现有多模态编码器的文本分支替换为 LLM 初始化，并让各模态共享权重以压缩参数量。
- 视频帧关注并发音频的融合层：在直播切片或口播视频理解中，将音频作为并发信号引入帧特征融合，能改善时序定位和证据引用。对于商品讲解视频，可更准确地定位口播内容对应的画面片段，为后续推荐理由生成或广告素材自动剪辑提供结构化输入。
预测答案引擎引用：开源决策模型与蒸馏4B重排学生模型
🧭 生成式引擎优化 · 引用预测重排蒸馏
TW3 Partners (Citead)
用LoRA微调Qwen3-Reranker-4B蒸馏27B决策模型，预测答案引擎引用份额，性能与教师差异不显著
📌 工作参考价值（4 点）
- 可直接复用其蒸馏思路：用大模型/决策模型（如Jev或开源27B）为候选内容打分作为教师标签，再用 LoRA 微调小参数量重排器（Qwen3-Reranker-4B），大幅降低线上打分成本且性能接近教师，适合电商/广告中预测 LLM 会引用哪些商品卖点、评论或内容。
- 教师打分方式影响学生上限：论文发现让教师逐条 passage 独立打分（而非 group 打分）能消除位置/上下文偏差，建议在构建蒸馏数据时同样采用 pointwise 标注，避免 listwise 评分中的锚定效应。
- 多引擎投票一致性可作为弱监督信号：十个引擎对同一候选源的引用具有组内 Spearman 0.704 的相关性，可用多个 LLM 裁判或引擎输出的一致票数生成伪标签，减少人工标注成本，实用性强。
- 开源了模型、基准、所有 scorer 预测和代码，可直接用于生成式搜索优化、内容营销预测，也可迁移到电商场景预测答案引擎会引用哪些产品描述或用户问答。
在线稠密强化学习训练规划-接地智能体用于真实 iOS 应用 UI 导航
🧭 UI Agent 在线强化学习训练 ★ 深度解读
Apple
用在线 RL 训练解耦的规划与接地 UI Agent，结合稠密/终局奖励与 GiGPPO，使 8B 模型在真实 iOS 任务上接近或超越 Gemini
📌 工作参考价值（5 点）
- 规划与 grounding 解耦：对话/导购 Agent 可把“策略决策”（是否推荐、是否反问、何时切换商品）与“执行层”（调用 API、生成卡片、点击元素）拆开；RL 只训练前者，后者用 SFT/规则冻结，训练成本大幅下降，线上也便于独立迭代。
- 稠密过程奖励 + 不对称折扣：用 LLM-as-a-Judge 对每一步的“业务进展”打分，但 dense 奖励要打折（如 γ=0.5），最终转化/成交奖励不打折。这能防止刷步骤分、拖时长，同时给稀疏转化提供中间信号。
- ASK USER 动作与模拟用户：在导购/搜索推荐 Agent 里显式加入“反问用户”原语，训练阶段用轻量 LLM 模拟用户偏好和回答，能提升交互式偏好澄清与个性化能力。
- critic warm-up 与高 critic lr：在 RL 训练推荐或对话策略时，先冻结策略训练 critic 15 步，再把 critic 学习率设为策略 100 倍，可避免初期优势噪声导致策略崩坏；critic 最终丢弃，不必精调。
- GiGPPO 思路可迁移到多并发 rollout 的搜索/推荐 Agent 训练：用状态相似度（如图像 hash 或 embedding）跨轨迹共享价值信号，尤其适合状态空间大、精确重复少的 GUI/会话场景。
重构智能体图像编辑：扩展动作与观察空间
🧭 Agent 动作/观测空间扩展与并行评判
UC San Diego · Adobe Research
并行调用多类编辑器、为候选附验证记录并用 VLM 列表式评判，提升成功率并降低 judge 调用
📌 工作参考价值（4 点）
- 在生成式推荐、文案/主图生成 Agent 中，避免单一模型反复 retry：并行生成不同模板/模型/策略的候选，再用 Listwise 比较一次筛选；原文显示并行比顺序精修在 78.5% 的已决定比较中更受专家偏好，且 judge 调用至少减半。
- 为每个候选附结构化 verification record（变化图、局部前后对比、mask、数值统计、代码核验事实等），off-the-shelf VLM 就能超过 finetuned reward model；迁移到电商场景时，可为候选附上价格/利益点一致性、属性匹配、CTR 预估等证据。
- 评判器扩展 observation space 比 finetune reward model 更划算：用规则/代码/检索结果生成证据，提升 VLM judge 的可靠性，尤其是没有稳定 GT 的生成任务。
- 可作为 data engine：用 Agent 并行生成多候选 + VLM judge 构建偏好对，蒸馏训练更强的生成式推荐或文案模型。
A-RSI：零数据多模态自改进的自适应任务刷新
🧭 零数据多模态自改进训练
用训练日志中的奖励方差与准确率动态刷新任务池，实现零外部数据的多模态递归自改进
📌 工作参考价值（4 点）
- 在 RLVR/self-play 持续训练中，用训练日志中的 reward variance 和 accuracy 趋势作为任务池刷新信号，替代依赖验证集或线上 AB，可降低离线指标过拟合风险，适合推荐/广告模型的长期自训练。
- 任务生成与答案校验解耦：用可执行 program/schema 生成题目并单独审计答案，而不是 self-consistency；电商场景可基于商品 schema、用户行为规则生成可编程校验的合成任务，自动清洗噪声 label。
- 维护 model-authored program 库做零外部数据合成，可迁移到商品文案、query 推荐语料增强；用 property-based check 自动验证 reward 与刷新规则，适合离线规模化生产训练数据。
- 自适应刷新机制减少人工调参：监控窗口内学习信号下降（如 reward variance 降低或 accuracy 平台期）再触发新任务生成，能平衡训练成本与效果。
AskStream：流式视频理解不确定性下何时与如何主动提问
🧭 多模态流式视频主动交互智能体
Institute of Automation, Chinese Academy of Sciences · Beijing Academy of Artificial Intelligence · Hunan Normal University · Minzu University of China
引入主动 ask 动作的流式视频理解基准，评估模型在视频与用户不确定性下的提问与回答策略
📌 工作参考价值（4 点）
- 在电商直播、视频客服等流式交互场景中，可把 Agent 的动作空间从 wait/answer 扩展为 wait/ask/answer：当模型对用户意图或视频内容置信度低时，主动发起澄清问题，避免停止等待或生成幻觉答案。
- 参考 AskStream 的帧级时间窗标注，把“何时提问”建模为序列决策问题；在真实流式视频数据上标注每一帧或每一时间窗应执行 wait/ask/answer，用于训练主动交互策略。
- 设计类似 Ask-F1 的评估指标，同时考虑回答质量、提问代价与等待收益，而不只看最终答案准确率；在推荐/广告交互中可迁移为“澄清问题的性价比”，平衡打扰率与信息增益。
- 落地成本提示：该基准集中于视频理解，工业界需先构建领域内不确定性标注，但可复用其问题定义与评测框架来低成本启动。
AutoRSE：评估 LLM 推荐工程师 Agent 的自主进化能力
🧭 LLM Agent 自主改进推荐算法评估 ★ 深度解读
University of Science and Technology of China · National University of Singapore
构建 AutoRSE 框架，量化 LLM RSE-Agent 自主改进推荐算法的能力与瓶颈
📌 工作参考价值（4 点）
- 实际可先用 LLM agent 做工程级优化：hyperparameter tuning、模型集成、训练策略调整。在生成式推荐（HSTU/TIGER）等尚未饱和场景，单靠这些就能拿平均 16.1% 的相对提升；而在 CTR 任务 AUC 接近饱和时，agent 收益有限。
- 若想让 agent 产出算法创新，不要只靠它自我 brainstorm。建立外部 idea library（顶会论文、竞赛方案、专家经验提炼成短条目）注入给 agent，比 self-generated ideas 平均高 13.35%，novelty 也明显更高。
- 评估 agent 不能只看最终分数，要做 trajectory-level 分析：把实验按策略分类（参数调优/集成/训练策略/特征/架构/损失），能暴露 agent 真实能力边界；工程优化占比越高，说明创新瓶颈越重。
- 可复用其 12 小时单卡预算 + 隐藏测试集 + 强制持续运行协议，在内部做 agent 优化竞赛或离线评测，避免 agent 提前停下或只做少量修改。
词汇已在眼前：适配预训练可解释特征做生成式推荐
🧭 生成式推荐 · 可解释词汇复用 ★ 深度解读
Central South University · The Hong Kong University of Science and Technology (Guangzhou) · Hong Kong Polytechnic University · Queen Mary University of London · Microsoft
复用预训练稀疏自编码器特征索引作为语义 ID，无需额外词汇学习，实现高效且可解释的生成式推荐
📌 工作参考价值（4 点）
- 如果业务中有商品文本描述，可尝试用现成 P-SAE（如 SAELens 的 GPT-2 SAE、Gemma Scope）提取特征索引作为商品的离散语义表示，替代 RVQ 等需要训练的 tokenizer；跨域或新品类冷启动时无需重新拟合词汇表，显著降低 tokenization 成本。
- PID 构建的优先级公式 $\pi_{ij}=\log(1+a_{ij})\log(1/\rho_j)$ 本质是“激活强度 × 逆文档频率”，可借鉴到商品属性标签抽取：高频通用属性降权，保留有区分度的长尾属性，同时保留相对强度向量，避免相似商品共享相同 token 序列导致碰撞。
- SPA 的监督设计值得迁移：除了预测 ID 序列，还预测归一化激活强度，并用 Hellinger 距离作为强度一致性惩罚；更重要的是 preference alignment loss 让目标 item 的分数高于其他候选，而不是仅优化似然。在生成式推荐中，对相似商品（共享主导特征）尤其关键，可以提升排序指标。
- 检索解释方案：将候选分数差分解到每个特征 token 的贡献，并关联预训练语义标注，可用于线上推荐理由生成、badcase 归因和特征级 A/B 实验；通过编辑历史激活强度还能做可控曝光（steering），适合做可解释的策略干预。
COMPOTE：抗坍缩多假设学习的序列推荐
🧭 多假设序列推荐 · 抗坍缩训练 ★ 深度解读
Criteo AI Lab, Paris, France · Sorbonne Université, CNRS, ISIR, Paris, France
用退火 winner-takes-all 训练多假设头防止坍缩，仅凭 item ID 超越生成式与多兴趣基线
📌 工作参考价值（4 点）
- 可直接迁移的训练目标：共享 Transformer 编码器 + 多个独立 MLP 头，用 ℓτ = −τ log Σ_m p_{m,y}^{1/τ} 训练；从高温均匀更新退火到低温 winner-takes-all，能稳定地让多头按商品类目/意图区域分化，替代依赖路由或多样性正则的多兴趣建模。
- 推理侧用 max-similarity 聚合 cosine 分数即可，无需 catalogue-wide softmax 归一化；论文验证各头 logZ 方差很小，因此可直接接入向量数据库/ANN 检索，适合电商大目录低延迟召回。
- 诊断多头是否坍缩：记录测试集上各头输出方向的平均 pairwise cosine similarity；若接近 1.00，说明架构或路由没用，先换退火 WTA 目标，而不是继续加容量或加 MoE。
- 做消融时用等容量单头模型、等权 ensemble、routing/MoE 三个对照，可干净地归因多假设目标本身；电商场景中用户短会话天然多意图，多假设头比单头更能覆盖候选意图。
从交互到能力：以任务推进为状态与监督的 GUI 智能体记忆
🧭 Agent 任务状态与经验记忆 ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · Shandong University
将已验证任务进展作为在线状态与离线监督，从跨应用长程任务中学习可复用操作
📌 工作参考价值（4 点）
- 在电商导购/任务型 Agent 中，把用户已确认的约束（预算、尺码、偏好、收货地址）作为 verified task progress 绑定到剩余决策节点，后续只推进依赖已满足的目标，避免跨商品页/订单页重复询问。
- 从成功与失败的会话中抽取「局部有效操作」作为可复用算子：定义入口输入、期望结果、验证条件，例如「给定尺码+偏好筛选候选商品」或「根据地址+支付方式完成下单」，即使整单未成交也能沉淀有效环节供后续会话复用。
- 区分 draft/attempt/confirmed：在推荐流程中只把「加入购物车」「提交订单」等强确认信号作为状态更新依据，不把生成过程或中间点击误判为已完成结果，减少错误状态对后续决策的污染。
- 借鉴 Evidence Cache 和按依赖召回：为多轮推荐对话缓存商品详情图、用户历史 SKU 属性等结构化证据，按剩余需求的 input dependencies 按需读取，降低上下文 token 并提高信息可用性。