LazyTrain：有限资源下大模型训练的零浪费产出优化
🧭 LLM 训练资源调度优化
IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.
将checkpoint选择、激活放置、重计算与CPU-GPU-NVMe通信重叠建模为混合整数调度，并耦合混合8-bit算子提升单卡训练效率
📌 工作参考价值（4 点）
- 层流式执行器上将 checkpoint 选择、激活 offload、重计算与 PCIe/NVMe 传输显式建模为混合整数调度问题，避免通信暴露在关键路径；自研微调平台或单卡多卡调度时可把“何时 offload/重计算”做成可求解策略而非硬编码规则。
- 8-bit 优化器状态与快速梯度裁剪耦合为混合算子，压缩优化器状态省显存，同时用快速裁剪掩盖 CPU 端更新延迟；适合 LoRA/QLoRA 或全参微调中优化器状态占显存大、需单卡大 batch 的场景。
- 消费级 GPU（RTX 3090）上最大可行 batch size 各模型规模可增加 1，能直接服务推荐/CTR/CVR 模型 LLM backbone 的对比学习、多任务微调，降低单卡试错成本。
- 离线求解调度策略、训练时执行的思想可迁移到推荐系统训练中，把 embedding offload、参数服务器通信、数据搬运也显式建模为调度问题，提升 GPU 利用率。
LODESTAR：可信熵是导航而非测量——强化极化器防止冻结 LLM 被错误证据自信误导
🧭 RAG 答案选择 · RL 训练提示干预
Research Center for Information Technology Innovation, Academia Sinica, Taiwan
用 RL 训练固定 prompt 干预串，提升冻结 LLM 在 RAG 答案选择中对误导证据的鲁棒性
📌 工作参考价值（4 点）
- 生成式推荐/搜索候选重排：用 frozen LLM 的预测熵筛选候选时，注意低熵可能因上下文误导而不可靠。可在 prompt 前加一个固定的“polarizer”提示串（如“请先检查证据可信度”类），用离线 RL 训练，不改模型权重，在线零成本提高鲁棒性。
- 训练技巧：RL 奖励可来自 gold 标签与 LLM judge 组合，离线构建标签，推理时不依赖 judge。适合业务中无实时标注但离线有部分人工/gold 数据的场景。
- 架构选择：保持 LLM 冻结，只优化一个短的自然语言干预，比 fine-tune LLM 成本低且易于 A/B 测试；推荐系统可对不同候选池/域分别训练 polarizer 字符串。
- Agent 检索后答案融合：在 Agent 的 retrieve-then-answer 流程中，对多个检索证据采用基于熵的选择时，可引入干预提升对误导证据的韧性；消融实验证明能降低误导段落被读取概率。
漏斗感知的转化-营收联合 uplift 建模与多层级优惠券分配
🧭 多臂 uplift · 漏斗耦合 + 预算分配 ★ 深度解读
AMap Alibaba Group
硬耦合转化概率与条件价值的漏斗结构，配套预算分配与审计不确定性层
📌 工作参考价值（4 点）
- GMV 目标建议改成硬漏斗：mu_gmv = mu_conv * mu_val，用 BCE 训练转化头、转化者子集上 log(1+GMV) MSE 训练价值头；在转化率 4.6%–45.4% 的零膨胀优惠券场景，比直接 GMV 回归的 PEHE 低 18–48%。
- 不要用 narrow-α conformal 下界驱动预算分配，重尾/零膨胀下容易塌缩成全不发券；优先用 RCT 臂均值锚定后的点估计输入 Lagrangian 分配器，或把 α 放宽到 0.10–0.20。
- 离线评估多臂补贴策略时，建议扫 LP 前沿或 EOM 曲线，得到 (ΔGMV%, ΔROI) 完整 tradeoff，而不是只看单点 AUUC；策略匹配子集上用 Hájek IPW 估计更贴近 RCT 日志。
- 若漏斗日志模糊或异步，可换 soft penalty；但在支持关系确定、零膨胀严重的真实 RCT 场景，硬耦合更稳。共享表示可能带来跨头协方差，理论方差优势只能当 regime heuristic。
LycheeMemory V2：语义片段级巩固的 LLM Agent 长期记忆框架
🧭 LLM Agent 长期记忆构建与检索 ★ 深度解读
Harbin Institute of Technology, Shenzhen
将逐轮记忆巩固改为语义片段级批量编码，写侧 token 降最多 86% 且 LoCoMo/LongMemEval-S 精度 SOTA
📌 工作参考价值（4 点）
- 在对话式推荐/导购 Agent 中，不要每轮都调 LLM 写画像；改成按语义完整片段批量生成 typed memory records（偏好/事实/约束/事件），写侧 token 可降低 75%–86%，适合长期用户画像积累。
- 分段触发别用固定窗口，可用 embedding 相似度 + cohesion drop 在线检测语义边界，保留事件和话题结构；固定窗口在消融中精度掉 6.8pp，语义分片能提升多跳和开放域问答。
- 把非结构化对话提炼为 typed records，并建立 entity/topic/temporal/event-frame 结构化索引；查询时 planner 一次性规划多路召回（record/节点/时间/原始 turn），再用 RRF 融合，能有效处理多跳、时序、偏好追踪类查询，且避免多轮 LLM 检索带来的 query token 上升。
- 评估记忆系统时，把 construction tokens 和 query tokens 分开核算，不要只比精度；该方法在精度提升 20pp 以上的同时，query tokens 反而比 A-Mem 低 28%–43%。
MindMemOS：可移植自演化的 AI Agent 记忆操作系统
🧭 Agent 记忆操作系统与自我演化 ★ 深度解读
Noah's Ark Lab, Huawei Technologies
提出实体-属性-时间三维记忆结构与四类自演化机制，实现可移植、自演化的 Agent 记忆层
📌 工作参考价值（4 点）
- 用户画像与偏好演化：借鉴 3D entity-property-time 结构，把电商/推荐场景中的用户、商品、偏好事件建模为实体、属性、时间线，支持偏好变更、冲突版本管理与时序推理。相比纯文本记忆，更适合追踪用户兴趣漂移（例如 LOCOMO 的 temporal/multi-hop 问题）。
- 离线记忆压缩与冲突解决：Dreaming 机制把线上增量写入造成的冗余、过期、冲突记录离线合并、归档并保留 provenance。在推荐/广告场景可用于定期压缩用户行为记忆，保证活跃记忆库不过度膨胀，同时保持检索质量（论文中 AMCR 约 20%，准确率反升）。
- 隐式反馈分类与记忆修正：将用户对 Agent 的纠正按持久性分为 task-temporary / scenario-specific / long-term，避免把一次性指令写入长期记忆。电商导购、对话式推荐中可据此捕获用户隐含偏好与约束，减少重复推荐错误，尤其适合处理“这次不要”、“以后都这样”等模糊纠正。
- 轨迹驱动的技能演化：MindSkillEvolve 将 Agent 执行轨迹提炼为可复用、版本化的技能，可通过 unsupervised 或 score-guided 方式持续改进 SOP。可迁移到客服/导购 Agent 的流程能力迭代：用真实对话与任务执行日志自动总结高效策略与失败模式，生成可回滚的技能版本。
MOON：多目标正交归一化更新用于多任务学习
🧭 多任务学习优化 · 矩阵几何梯度操纵
Institute of Artificial Intelligence, Beihang University · Beijing Advanced Innovation Center for Future Blockchain and Privacy Computing, Beihang University · Beijing Academy of Artificial Intelligence (BAAI) · Center for Applied Statistics, School of Statistics, Renmin University of China
在矩阵几何下做多目标梯度操纵，用谱-核范数几何与正交归一更新提升多任务优化效率
📌 工作参考价值（4 点）
- 多任务推荐/广告模型里任务冲突常见，现有梯度操纵方法（MGDA、PCGrad、FAMO）都把参数展平成向量，在欧氏空间操作，忽略了 Transformer 权重矩阵的几何结构。改用矩阵几何下的谱-核范数梯度方向和正交归一更新，可直接替换现有 MTL 优化器，特别适合含 Embedding 矩阵、Attention 权重矩阵的模型。
- 工程实现上：对每个任务梯度矩阵做 SVD 或谱范数归一化，再合并成正交归一方向，计算开销可控；可先对共享底层参数应用，避免全模型展开。
- 若业务中使用多目标融合（如 CTR、CVR、GMV、时长），可尝试在共享底层或 MoE 专家层用该更新规则，替代简单梯度加权，可能改善任务间冲突和收敛速度。
- 注意论文主要验证在通用多任务学习基准，直接迁移到大规模推荐系统需先做离线小规模对比实验，确认收益与额外计算成本。
你确定吗？指令微调对置信度和词汇多样性的影响
🧭 指令微调改变置信度与 rationale 多样性
Cohere Labs Community · Laboratoire Hubert Curien, UMR CNRS 5516, Saint-Étienne, France · School of Computer Science Engineering and Technology (SCSET), Bennett University, Greater Noida, India · School of Physical Therapy, Faculty of Health Sciences, Western University, London, Canada
在问答基准上评估匹配基座与指令微调模型，发现指令微调一致改变置信度但非均匀改变 rationale 词汇多样性
📌 工作参考价值（4 点）
- 在电商/推荐场景用 LLM 生成推荐理由或解释时，指令微调后的模型 verbalized confidence 可能系统性偏高，与真实准确率脱钩；上线前需要额外做 confidence calibration，不要直接采信模型自述置信度。
- 若用 LLM 批量生成商品卖点、用户 push 文案，需监控跨样本 rationale 多样性：指令微调可能使生成内容趋于同质化，建议引入多样性约束或后处理去重。
- 将 surface-level 词汇多样性（如 Unique-2）作为生成多样性监控指标时，注意它可能与语义多样性（cross-rationale diversity）不同向变化；最好同时监控两类指标，避免误判。
- 在 Agent 链路中让 LLM 输出思考过程或理由时，指令微调带来的置信度变化可能影响下游决策；可在 prompt 中要求模型更客观地报告不确定性，或使用 logit-based 校准替代 verbalized confidence。
PlayWorld：以 Agent 玩家为基础的世界模型长程目标基准
🧭 世界模型评估 · Agent 自适应交互
The University of Hong Kong · Kling Team, Kuaishou Technology · The Chinese University of Hong Kong · Zhejiang University
用多模态 Agent 玩家按长期目标交互评测世界模型，揭示当前模型长程一致性与状态演化不可靠
📌 工作参考价值（4 点）
- 评估思路迁移：在推荐/Agent 系统中，用“目标驱动的模拟用户”评估长程交互（如多轮对话推荐、会话搜索），而非固定脚本；Agent 自适应调整动作，更接近真实用户行为，能暴露固定序列评测掩盖的问题。
- 维度拆分：借鉴其将评估拆为几何一致性、交互保真度、状态演化等维度，可对应推荐系统的会话一致性、用户反馈建模、记忆/状态保持等维度，分别设计测试场景，避免单一指标失真。
- 工程实现：使用多模态 Agent 根据观察帧和动作历史动态决定下一步，可复用到对话式推荐评测中，构建“用户模拟器”用于离线评估，降低人工标注成本。
- 注意局限：世界模型与电商场景有距离，但这类“目标驱动交互评估”对评估生成式推荐和个性化 Agent 的长程一致性有一定启发，业务落地需改造。
嵌入者的困境：LLM 更好，但成本多高？
🧭 文本嵌入与 LLM 成本效益对比
Harvard University · Stanford University · Independent Researcher
控制成本对比 10 个 LLM 与 26 个嵌入模型，发现 LLM 总体仅高 0.4 分，且仅在推理重型检索领先，成本最高贵 1431 倍
📌 工作参考价值（4 点）
- 在商品相似度、分类、聚类等经典任务上，专用 embedding 模型（甚至小模型）性价比极高，不要盲目用大 LLM 替换；LLM 仅在推理密集型检索（复杂 query 理解、多跳推理）才值得考虑。
- 若用 LLM 做检索，注意 reasoning tokens 占推理成本 28-81%，可通过限制 reasoning budget（如关闭 thinking 或降低 max tokens）在多数场景保持或提升检索质量，显著降低 API 成本。
- 构建 embedding 服务时，用类似 MTEB(LLM) 的基准做成本-质量 Pareto 前沿分析，结合自身业务指标选择前沿模型；同时关注本地 GPU 吞吐，open LLM 比同 GPU 上的 embedding 模型慢 2.5-736 倍。
- 电商/搜索场景可分层：embedding 模型负责粗排和相似度召回，LLM 仅用于长尾 query 改写、意图解析或复杂检索，避免全量 LLM 推理。
潜在在线策略自蒸馏
🧭 LLM Agent 在线策略自蒸馏训练 ★ 深度解读
National University of Singapore · Beijing University of Posts and Telecommunications · Shanghai Jiao Tong University
让 OPSD 的特权上下文从手工设计变为可学习的潜在表示，联合蒸馏提升 agent 与代码策略，样本效率显著优于 GRPO/Skill-SD
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 训练中，可将历史成功会话（用户目标+操作序列+结果）检索并压缩成 latent tokens 条件化 teacher，让学生从自己的 rollout 中稠密学习，避免人工写死“成功策略/提示模板”；线上推理只保留学生，不增加延迟。
- 使用 on-policy self-distillation 时必须加 privileged-margin 约束，否则 teacher 会退化到 student，联合训练效果反而比冻结 composer 更差；可用结果奖励（如转化/点击）加权 per-token advantage，margin 建议设在 0.05 左右。
- latent context 注入生产推理引擎不必改底层 embedding，用 placeholder sentinel + dummy token ids 即可兼容 vLLM/SGLang；训练后 composer 和检索索引可以完全离线。
- 在 RLVR 采样预算有限（如每天 1-2k 条 rollout）且需要快速策略迭代的推荐/广告 Agent 场景，latent-teacher 稠密监督比纯 GRPO 样本效率高很多，可作为内部训练组件复用。
全面回忆代价几何：智能体记忆系统服务成本基准测试
🧭 Agent 记忆系统成本与精度基准
Bricks Technology, Thailand
系统对比三种 agentic 记忆系统与滚动窗口/全量转录基线，发现成本不可由对话长度预测且成本-准确率无赢家
📌 工作参考价值（4 点）
- 长期对话 agent（客服、导购、推荐助手）引入记忆系统时，不要只按对话长度或消息大小预估成本；记忆系统的内部行为（抽取、总结、检索）才是主要成本变量，必须实测 profiling，否则成本可能偏差 18-69%。
- 上线前做 break-even 分析：对比全量 transcript 重发、固定滚动窗口和记忆系统的单轮 serving 成本，确定在会话多少轮后记忆系统才开始省钱；本实验中最便宜系统数十轮即可回本，最贵系统 400 轮内从未回本，选择错误会持续超支。
- 成本与准确率联合评估：642 个 LoCoMo 问题上各系统准确率仅 21-54%，没有系统同时占优；若业务对准确率敏感，先定准确率底线，再在满足底线的系统中选成本最低者。
- backbone 选择对成本的影响与记忆系统本身同样大，甚至可能抵消记忆系统的节省；做记忆系统选型时必须联合 backbone（如 GPT-4o vs. 轻量模型）一起压测，不能只换记忆系统而沿用原模型。
全能科学家：全模态全学科AI科学家
🧭 自主科研多代理 · 多模态感知
National University of Singapore · University of Oxford
端到端多模态AI科学家，从原始异构证据直接完成研究全流程，感知层让论文质量显著提升
📌 工作参考价值（4 点）
- 在推荐/搜索Agent中，让LLM直接感知原始多模态证据（商品图、视频、音频、评论原声）而非只接收预计算标量特征，可以保留空间/时间/跨通道关系，提升推荐解释或商品描述的事实一致性。
- 采用“ideation-experiment-writeup”三代理分工结合确定性管道，把生成任务拆为提案、执行、总结，可迁移到自动化选品、广告文案实验、营销报告生成等场景。
- 借鉴“idea/rigour/claim checks”代码执行校验：对LLM生成的推荐文案、结论做可执行验证，例如数值引用检查、统计显著性检查，增强输出可信度和可追溯性。
- 感知层与代理解耦的设计，便于在商品知识图谱构建、多模态商品理解等业务中逐步引入多模态原始数据。
让协同信号发挥作用：面向序列推荐的图感知大语言模型
🧭 生成式推荐 · Graph-aware LLM ★ 深度解读
浙江大学 · 中国科学技术大学
将全局 item 共现关系分桶为可学习 attention bias 注入 LLM，无需外部图编码器即可联合建模语义与协同信号
📌 工作参考价值（4 点）
- 在 LLM 生成推荐候选时，用「item token + item-item 共现分桶 attention bias」替代直接拼接 CF embedding，可缓解协同表示与文本空间不对齐；工程上只加少量 bias 参数，适合 LoRA 微调。
- 共现强度用等频分桶（如 5 桶）作为离散 relation，比原始稀疏频率更稳定，且只从训练集统计；在电商 item 候选上可直接计算 item co-occurrence 或 query-item 共现并复用。
- 保留 Text-Text 与 Item-Text 关系显式建模，能减少 LLM 语义能力损失；消融显示三类关系互补，缺少任一都会掉点，尤其全局 Item-Item 关系对跨序列协同至关重要。可借鉴做「graph bias」式的知识注入，不必改 LLM 结构。
- 推理侧采用 trie-constrained beam search 限制生成到合法 item 集合，是 LLM 电商候选生成落地的必要工程手段；item token 从现有 CF 模型 embedding 经 MLP 投影初始化，可复用 SASRec 等已有向量。
Sci-Surf：基于人类反馈与智能摘要的科学文献发现导航
🧭 LLM用户画像驱动的个性化推荐
Zhejiang University · Tongji University · Google Cloud · Westlake University
集成LLM用户画像与多模态论文摘要的意图中心型学术推荐系统，在线评估提升10.4%
📌 工作参考价值（4 点）
- LLM verbalized profile 可迁移到电商用户画像：将用户行为序列用 LLM 总结成自然语言画像，作为召回/排序模型的额外特征或 prompt 上下文，捕捉静态标签难以表达的 nuanced intent。
- 反馈驱动的画像迭代机制：真实用户反馈持续 refine profiles，类似在线学习。电商推荐中可设计定期批量更新用户画像，用 LLM 总结近期交互生成动态兴趣描述。
- 多模态内容理解：论文图文生成结构化博客式摘要，可借鉴用于商品详情页优化、feed 流内容描述生成、广告创意文案自动生成。
- 在线评估指标：采用 predictive alignment 衡量画像与真实偏好的对齐度，比单纯离线 AUC 更有说服力，业务中可引入类似指标评估画像质量。
SCOPE-Router：面向执行任务的开集成本感知 VLM 路由
🧭 VLM 路由 · 成本感知训练 ★ 深度解读
CASIA · UCAS · NUS · Tencent
提出执行导向 VLM 路由基准、开集双塔路由器和成本感知训练目标 CRM+RCCR，在三个基准上取得最佳 Rank Score
📌 工作参考价值（4 点）
- 成本感知损失设计可直接迁移：将成本编码为连续 relevance target（正确且最低成本为 1，其他正确模型按成本指数衰减，错误为 0），用 per-pair BCE 替代 softmax CE，避免多正样本梯度稀释。在电商多模型路由（如广告创意生成、商品文案生成）中可直接替换现有分类器 loss，无需改动模型结构。
- 开集模型接入方案实用：为新模型构造行为 profile（正确性、成本、价值向量、语义汇总向量），只需在约 1024 条校准集上跑一次即可加入路由池，无需重新训练路由器。适合频繁上线新模型/版本的业务场景，如 LLM API 切换或多模态内容审核模型更新。
- 混合校准集选择策略可复用：按 50% 随机 + 30% 诊断（模型分歧度 + 成本分布）+ 20% 多样性（聚类质心）采样，有限的标注预算下最大化 profile 区分度。在自建路由训练数据或评估模型互补性时可以参考。
- 架构无关的 CRM+RCCR 目标可试用于现有路由系统：论文实证在 RouterDC、ZOOTER、CosineCls、VLC 四个不同架构上 Rank Score 提升 1.25–6.21 点。若业务已有简单的 query-model 打分器，可将该 loss 嵌入微调，获得成本感知能力。