答案验证的多教师自蒸馏：多域LLM能力整合
🧭 多教师蒸馏 · 答案验证 · 多域LLM整合 ★ 深度解读
National University of Defense Technology · Zhejiang University · Intelligent Game and Decision Lab
MT-SDPO用答案验证按样本选择正确教师，结合自锚定与特权蒸馏，将多域教师整合为单一LLM策略，提升最弱域并缩小域间差距
📌 工作参考价值（4 点）
- 多域/多任务LLM post-training时，不要按领域标签路由教师；对有可验证答案的任务（如选品打分、参数判断、query改写），用程序化校验器按样本筛选正确教师，再聚合所有正确反馈，可提升最弱域并缩小域间差距。
- Self-anchor 思路：先用学生自己生成且验证正确的 rollout 作为同组错误 rollout 的 privileged context，减少外部教师查询成本；只有学生失败时才查询外部教师，能明显降低训练开销。
- 蒸馏 teacher feedback 时引入词法/规则 sanitizer，过滤掉泄露正确答案或参考选项的反馈，防止模型只学会背答案；电商推荐解释、搜索词生成的 teacher feedback 同样需要这种防泄漏机制。
- 工程实现：离线先缓存每个样本的 eligible teacher set，训练时不必重复回答；推理只保留 student，丢弃教师池、verifier 和 EMA 副本，利于部署。负结果显示：若初始化已经均衡，在线蒸馏收益有限，应先评估最弱域 headroom 再决定是否投入在线阶段。
对话生成制品修订传播的低成本测试时计算探索
🧭 LLM 评估 · 修订传播与测试时计算
NTT, Inc.
提出对话生成制品的修订传播基准，评估九种测试时计算方法，三路并行采样+选择最具性价比
📌 工作参考价值（3 点）
- 在对话式商品推荐或营销文案生成中，用户只给出局部修改请求（如更换目标人群）时，容易造成预算、卖点、行程等字段不一致；可以把该工作的方法迁移进来：在修订 prompt 中显式让模型列出所有受影响字段或依赖关系，并做一次自检，确保局部改动被传播到所有相关部分。
- 测试时多采样+选择是低成本的准确率提升手段：生成 3 个候选修订，用 LLM-as-judge 或 medoid 选择最优，比单次生成或长链反思更划算，适合线上低延迟、低预算的 LLM 修订任务。
- 可以建立小规模“修订传播”评测集，模拟用户局部修改请求，检查模型是否同步更新关联字段，作为对话式推荐助手或内容生成引擎的离线回归评估。
EVOHARNESSBENCH：评测 Agent 应对演进式 Harness 的基准
🧭 Agent 评测基准 · Harness 演化
Salesforce AI Research
首个将非平稳性置于外部 Harness 的 Agent 评测基准，揭示工具/技能/智能体扩充带来的遗忘与适应冲突。
📌 工作参考价值（4 点）
- 在电商 Agent 系统中新增工具、技能或子 Agent 时，必须配套回归评测：将旧任务集作为固定验证集，持续监控新版本上线是否导致旧能力退化（harness-induced forgetting）。
- 工具/技能库应按版本管理，支持回滚；新增能力时优先采用可插拔、模块化设计，避免全局改写路由或提示导致旧行为被覆盖。
- 自演化经验回放并非总能提升适应能力，尤其在工具/技能高速迭代时；可考虑按能力轴隔离经验池，或对历史经验做衰减加权，而不是简单均匀回放。
- 业务中“保留旧能力”与“快速适应新能力”可能冲突：部署评估（只测旧任务）和适应评估（只测新任务）需同时报告，不能仅看总体分数。
FlowBalance：验证器校准的轨迹平衡自改进
🧭 LLM 自改进训练 · 轨迹平衡
Tencent HY LLM Frontier · University of Pennsylvania
用 verifier 校准 on-policy 自引导分数，并通过轨迹平衡训练稳定的推理自改进
📌 工作参考价值（4 点）
- 在生成式推荐/QueryRec 的 LLM 后训练中，若已有 outcome verifier（如点击、转化、相关性），可借鉴 group advantage 校准 self-guidance 符号：正优势保留密集信号、负优势反转、无偏好时禁用，避免 dense same-model 信号强化伪自信。
- 轨迹平衡替代逐 token 模仿 loss，对长文本生成（推荐理由、搜索词扩展、商品文案）训练更稳定，能缓解长度坍塌和模式集中，适合带 terminal reward 的离线增强场景。
- 冻结策略视图产生自引导分数的方法，可在 RLHF/DPO 管线上低成本复用，减少额外 critic 或 token 级标注需求；若业务能定义可靠 verifier，可让 LLM 在搜索推荐 Agent 的推理链路上保持策略多样性。
- 无明确 outcome verifier 或奖励稀疏的业务场景，方法借鉴价值有限，主要适用于可自动判定的任务（如数学、代码、结构化查询生成）。
Gated DeltaNet 为何能承受 4-bit 量化：混合 27B LLM 循环部分的 NVFP4 W4A4
🧭 混合 LLM 循环层 4-bit 量化推理优化
Minima AI
对 Qwen3.8-27B 全部 496 个线性层（含 GDN）做 NVFP4 W4A4，精度持平 BF16 且更小更快
📌 工作参考价值（4 点）
- 混合架构中 linear-attention/循环层（Gated DeltaNet）可以激进 W4A4，不必保留 8/16-bit；尤其对 decay/write-strength 门控投影，softplus/exponential 和 sigmoid 会压缩 GEMM 误差，量化敏感度低。
- 部署 NVFP4 时若按模块逐层校准，需注意 kernel fusion 后的 global scale 不匹配问题：应统一重算或修正 fused GEMM 的 scale，否则精度会显著下降。
- 长上下文场景可以把 KV cache 用 FP8 存并校准 scale，几乎无性能损失，能恢复约 83% 的长上下文 KV 惩罚；这是低成本优化长文本推理的有效手段。
- 16-element block scaling 能有效控制残差流中的极端 outlier，对电商/Agent 场景下需要低比特推理的混合 LLM 是一条可复用的工程路径。
Iris：攀登搜索前沿
🧭 搜索 Agent 训练与评估方法 ★ 深度解读
AllSpark Team
通过网页超链接反向构造多跳搜索任务、双层轨迹过滤与SFT-RL迭代爬升，训练出开源同参数范围最强的搜索Agent
📌 工作参考价值（4 点）
- 数据合成：在电商/推荐的 QA、选品理由、query 改写数据中，把可搜索锚点（商品标题、类目名、品牌名）改写为描述性引用，消除字符串匹配捷径；再用双条件验证（闭卷答错 + 给知识子图答对）筛出真正需要多跳推理的样本。
- 轨迹过滤：对 LLM 生成的推荐解释/搜索对话轨迹，用滑动窗口 zlib 压缩比快速检测重复和循环；turn 级 judge 从数据中归纳失败模式 rubric，只 mask 最多 10% 差 turn，保留上下文、减少训练噪声。
- RL 工程：长会话训练可用 request-level partial rollout 中断并在下步从 committed prefix 恢复，配合 truncated importance sampling 纠正不同权重版本的 logprob 偏差；集群内部署 GenRM 与摘要器，避免外部 API 依赖。
- 评估/上线：将 context management 与策略能力分开报告，固定工具、上下文预算、judge，分别看无 CM 和有 CM 的结果；识别 CM 收益来自任务是否经常耗尽上下文，高成本重试只作为上限探索，不作为默认配置。
可编辑视觉设计：编码 Agent 驱动的分层设计生成
🧭 Agent 驱动的可编辑视觉设计 ★ 深度解读
Tencent Hunyuan · Sun Yat-sen University · Tsinghua University · The Chinese University of Hong Kong · Shanghai Jiao Tong University
让 VLM 先调用图像模型做美学参考，再写原生 HTML/CSS 交付可分层编辑的设计
📌 工作参考价值（4 点）
- 广告/活动页创意生成：把“先出参考图再写 HTML/CSS”流程用于 banner/海报/商品主图。不要直接用扩散出 PNG，而是让图像模型只提供构图与色彩参考，由 Coding Agent 写原生 DOM，文案层、素材层、背景层分离，运营可拖拽改字换图，适配多渠道尺寸和文案合规修改。
- 素材资产层单独生成 + 绿幕/alpha 抠图，避免从参考图裁切导致的像素污染与图层纠缠；在电商商品图、活动背景、icon 等素材库可复用，提升素材可维护性。
- 渲染自修复闭环：将 headless 浏览器确定性检查（元素溢出、资源加载失败、DOM 畸形）与 VLM 截图审美评审结合，适合广告创意平台做自动质检和改稿，减少人工巡检；一轮/两轮局部 patch 即可收敛。
- Agent Design Replay / 过程可视化可作为创意平台的可追溯能力：记录 prompt→参考图→素材→代码→修改轨迹，让运营/设计师理解 AI 决策并介入，比黑盒出图更利于团队协作审核。
跨模态安全漂移中的安全意识迁移（多模态大语言模型）
🧭 多模态安全对齐 · 表示迁移
Tsinghua University · Beijing University of Posts and Telecommunications · Northwestern Polytechnical University
提出安全感知表示迁移（SRT），冻结 MLLM 骨干下通过方向修正缓解跨模态安全漂移，提升安全性并保持通用能力
📌 工作参考价值（4 点）
- 多模态场景（如商品图+咨询文本、广告图文审核）不能只做纯文本安全过滤，需评估图文联合语义风险；可参考该工作构建图像-文本联合安全评估集，专门测“良性文本+风险图片”的请求。
- 若线上 MLLM 需要快速安全加固，可借鉴 SRT 思路：不微调大模型，仅在隐藏表征上学习一个安全方向偏移，用少量不安全样本训练轻量适配器，便于部署和回滚。
- 论文发现视觉风险线索注意力不足导致拒答弱，提示可在注意力层加监督/正则，或使用视觉 token 重要性加权，增强对风险区域的感知。
- 对于 Agent/推荐系统接入多模态 LLM，建议在 system prompt 中显式加入跨模态安全指令，并在离线评估中加入跨模态攻击样例，防止“文雅提问+危险图片”绕过策略。
利用上下文集成统一保形语言任务
🧭 Conformal Prediction 与上下文集成评分
Signal 1 AI · Layer 6 AI
提出 Conformal Relevance 框架，用上下文样例策展与集成构建评分函数，兼顾覆盖与简洁并减少手工提示工程
📌 工作参考价值（4 点）
- 在电商搜索/推荐中需要覆盖与简洁平衡的场景（如搜索摘要、推荐理由生成、广告文案过滤），可直接用 conformal prediction 校准 LLM 评分，自动保证覆盖率，同时优化简洁性，替代手工规则。
- 用历史标注数据策展少量高质量上下文示例，替代逐任务写 prompt 评分函数，降低多类目、多任务场景下的维护成本；示例多样性提升评分鲁棒性。
- 集成多个 LLM 评分或同 LLM 的不同示例组合，利用文中 complementarity condition 判断是否有助于提升最差情况得分，指导工程上选择有效集成方案，用于粗排或候选过滤。
- 在生成式推荐中，若要保证生成内容覆盖关键卖点且不冗余，可借鉴该框架对生成结果做 conformal 筛选，同时用上下文集成提高简洁性判定质量。
LLaDA-Image：全开放训练配方构建强大图像生成器
🧭 图像生成 · 开放训练配方
AGI Research Center, Inclusion AI
从零训练6B DiT图像生成模型，开源权重与代码，在Qwen-Image-Bench双榜达到开源SOTA
📌 工作参考价值（4 点）
- 电商商品图/广告素材生成：可借鉴其 image-only pre-training 策略，先利用海量无标注商品图构建视觉生成先验，再做文本对齐，降低对配对图文数据的依赖。
- 训练效率优化：parameter-free RMSNorm 搭配 Muon optimizer 替换 LayerNorm/Adam，可减少显存占用并提升大模型收敛稳定性，适合在自研 DiT 或生成式推荐模型中试验。
- 推理加速：TwinFlow 蒸馏至 2-4 步采样，可用于实时商品素材生成、Agent 内图像生成模块的低延迟部署。
- 数据配方参考：220M 训练样本中 98% 为真实图像，说明高质量真实数据是生成质量的关键，电商可加强商品图质量治理并充分利用 UGC 素材。
MaxKernel：面向 TPU 的智能体内核生成系统
🧭 多智能体 TPU 内核生成
Google · Google DeepMind
MaxKernel 多智能体系统利用 LLM 与实时编译反馈，在 TPU 上自动生成并优化高性能内核，匹配专家手写调优基线
📌 工作参考价值（4 点）
- 多智能体专业化分工可迁移到推荐 Agent 工作流：将规划、实现、自调试、测试、profiling 拆成独立子智能体，共享同一套工具和上下文；在搜索推荐场景中，可类似拆分 query 理解、召回策略、排序模型评估、A/B 实验分析等角色，降低单 Agent 复杂任务失败率。
- 实时反馈闭环驱动自主优化：MaxKernel 利用编译错误、性能指标、硬件 trace 作为环境反馈，让 Agent 自动迭代；这对应推荐系统中的在线指标、实验报告、bad case 分析等反馈回路，可用作 Agent 自动调参、自动特征工程或 prompt 优化。
- 按任务复杂度切换三种协作模式：HITL 适合高风险策略调整，Auto 适合批量优化，Graph-Based Search 用于全局探索设计空间；推荐/广告业务中，低风险自动优化、高风险人工审核的组合策略可直接借鉴。
- 对纯推荐业务直接价值有限：核心是底层 kernel 生成，业务可借鉴点主要在 Agent 架构与反馈闭环方法论，而非推荐算法本身。
面向分布外推荐的生成式反事实对齐与风险控制选择
🧭 OOD 推荐 · 反事实生成 + 保形 FDR 控制 ★ 深度解读
Southern University of Science and Technology · University of Pennsylvania
提出 GenCAR：离线用 LLM 生成反事实候选并微调排序模型，在线用 conformal+BH 控制 proxy-label FDR，不调用 LLM 提升 OOD 推荐恢复
📌 工作参考价值（4 点）
- LLM 离线反事实样本生成：在场景变化（大促、季节、推荐位策略）前，用 LLM 基于用户 stable preference anchors 生成目标环境候选，通过 trust radius 过滤后微调精排模型，避免在线 LLM 成本。
- 风险控制的选择层：借鉴 conformal p-values + BH/BY 对推荐集合做 FDR 控制，按批次决定输出数量；允许空列表相当于“不推荐”，适合付费/敏感场景（广告、消息推送、商品推荐）的体验保障。
- 偏好-环境解耦的 SCM 架构：将用户 embedding 分解为 stable preference 和 environment 两部分，只更新 item embedding 进行反事实微调，可稳定适配环境变化，适合流量分布频繁变化的业务。
- 轻量对齐预测器替代在线 LLM：用 LLM 生成的 proxy label 训练一个 MLP/score head，在线只计算 embedding 得分，既保留语义对齐信号又保证 <1ms 延迟。
面向 Web Agent 的判别式世界模型
🧭 Web Agent 世界模型判别式训练
University of California, Berkeley · MIT-IBM Watson AI Lab · Cal Poly San Luis Obispo · Xero
用预测状态匹配训练世界模型，使预测表示能区分不同动作结果，提升 PRM 动作排序与端到端任务成功率
📌 工作参考价值（4 点）
- 训练状态模拟器时对齐下游排序目标：不要只做 next-state 重建，应加入判别式目标，使预测状态可区分不同动作的后果。在电商/搜索的 agent 场景中，若用世界模型模拟用户点击或意图变化，可改用 contrastive 或 ranking loss 训练，以辅助后续动作打分。
- 构建分支式决策数据集：从真实交互轨迹中记录每个决策点的候选动作及各自后续状态，用于训练判别式世界模型。可借鉴到搜索推荐 agent，通过离线用户日志构造“动作-结果”对比样本，避免昂贵在线探索。
- PRM/ranker 增强：将世界模型预测的状态表示拼接到 PRM 输入，能比仅用动作特征提升动作排名。在做推荐 agent 的多步决策时，可设计类似的 process reward 模型，用预测用户状态辅助评估候选推荐或 query。
- 测试时采用“候选生成 + 预测状态 + 打分”的 pipeline，可提高端到端成功率。在电商 agent 中可对候选商品或 query 做模拟排序，减少试错。
面向相机条件世界模型的奖励建模方法 WorldReward
🧭 多模态奖励建模 · VLM 视频评估
Fudan University · Tencent Hunyuan · Shanghai Innovation Institute · Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory
用 VLM 将长视频按动作分块并投票聚合，统一评测动作一致性与视觉质量
📌 工作参考价值（4 点）
- 长序列生成（如多步商品推荐、对话式导购、视频广告脚本）中，可借鉴“动作对齐分块 + 结构化证据 + 逐块决策投票”的思路，避免长上下文稀释局部关键信号，适合构建 LLM 评估器或奖励模型。
- 偏好数据构建可复用其管线：先由 frontier VLM 生成结构化判断，再用工具化 agent 审计和定向人工复核，降低标注成本并提高一致性，适用于内容生成质量评估、AIGC 审核等场景。
- 在电商多模态生成（如商品视频、虚拟试穿）中，建议拆分“任务完成度”与“画质/自然度”双 reward 分别聚合，避免单一指标失衡，便于 RL 后训练。
- 若业务涉及“按指令生成视频/图片”，可参考其 benchmark 设计：按人类偏好分维度（动作/外观/运动）测量 reward model 一致性，而非只看整体分数，从而更精准定位模型短板。
OmegaUse-SOP：基于人类演示的专业计算机使用SOP工程
🧭 GUI Agent 技能工程化
Baidu, Inc. · Ningxia Electric Power Engineering Co., Ltd.
提出SOP Engineering系统OmegaUse-SOP，将人类专业软件操作演示转化为可复用GUI Agent技能，提升专业SOP任务可靠性
📌 工作参考价值（4 点）
- 对电商运营自动化（如自动操作广告投放后台、商家后台、ERP）的Agent，可借鉴Observe-Reason-Configure-Execute四阶段：先录制人类专家操作轨迹，再抽象成语义级步骤，配置领域规则，最后执行时逐步grounding+验证，而不是让LLM一次生成全部操作，能显著提高可靠性。
- 将SOP与Agent分离，类比prompt engineering，把“专业技能”作为可迭代资产：每次执行失败或人工修正后，回流更新演示和规则，形成企业专属的Agent技能库，类似推荐系统中的用户行为反馈闭环。
- 步骤级验证（step-wise verification）思路可迁移到多步Agent任务中，例如在电商选品、广告调价等流程中，每一步生成后由规则或轻量模型校验中间状态，避免错误累积导致任务失败。
- 多模态轨迹（截图+事件流）可作为训练/微调数据，尤其适合缺乏API的专业软件场景；在电商内部工具中，若某些操作只能通过GUI完成，此方法可低成本积累领域专家知识。