面向科学领域的终端环境自监督扩展
🧭 终端Agent环境自动化与SFT缩放
Tencent HY LLM Frontier · University of Georgia · University of Maryland, College Park · National University of Singapore · Hong Kong Polytechnic University
用现有科学软件工作流自动生成可验证的终端Agent训练样本，SFT后显著提升Terminal-Bench 2
📌 工作参考价值（4 点）
- 可用现有业务软件/API工作流自动生成(SFT)训练样本：给定输入schema和公开输入输出对，让LLM重构可编辑程序，再用隐藏配置验证，避免逐任务人工标注reference solution，适合电商/广告中的工具调用、查询生成等Agent任务。
- 层次化verifier思路可迁移：把语义比较、结构有效性、反捷径检查组合起来，防止模型学出表面匹配但语义错误的生成结果，对QueryRec和生成式推荐中的评估尤其重要。
- 已验证的高质量轨迹比单纯语料规模更有效：对verified trajectories做oversampling后SFT，在matched-token对照中全面领先，说明业务数据应优先筛选行为可验证样本，而不是直接堆量。
- 公共反馈支持迭代修订的机制可以改造成在线训练：先让Agent在公开样例上尝试，失败后根据反馈修改，最后在隐藏集上验证，类似强化学习中的self-play数据生产。
Mingbird：本地优先 Agent 框架让小型开源模型完成真实任务
🧭 Agent harness 本地小模型任务执行优化
University of Science and Technology Beijing · Honor Device Co., Ltd.
Mingbird 通过十项机制补偿小模型故障，在 LRAB 与 τ²-bench 上显著超过 goose/opencode/agent-mini
📌 工作参考价值（4 点）
- 小模型做工具调用时，优先治理 prefill 预算而非只靠模型截断：可把工具 schema 压缩到字节级配额，尤其适合端侧或低延迟搜索推荐 Agent。
- 在 Agent 完成提交前增加“重读任务/用户 query”的 finish gate，能减少静默放弃与提前结束；可用于多轮 query 改写、推荐解释生成等需可靠终止信号的场景。
- 采用签名级 loop detection 监控工具调用序列（函数名+参数模式），而不是文本相似度，能更快终止无效循环，节省 token 与延迟。
- 若业务有隐私或成本限制，可考虑 2-9B 本地模型 + 强 harness 做降级链路，通过工程补偿换取小模型可用的任务完成率，而非直接升级大模型。
MoLE：互补视觉推理的潜在专家混合
🧭 视觉推理 · 潜在专家混合
Tongji University, China · Hong Kong Polytechnic University, Hong Kong · Alibaba Group, China · University of Electronic Science and Technology of China, China
用潜在专家混合让不同 latent token 提取互补视觉证据，在相同 latent 预算下显著提升视觉推理
📌 工作参考价值（4 点）
- 在多模态商品理解/搜索中，若用 latent token 做视觉推理，避免让多个 token 共享 value projection；可给每个 latent expert 独立 routing/value，迫使它们提取互补视觉证据，减少冗余。
- 两阶段训练可直接复用：先强制视觉证据走 latent pathway 学习专业化表示，再恢复 direct visual access，无需预定义专家角色或中间视觉标签，适合业务多模态 VLM 微调。
- latent summary experts 聚合互补表征，能在固定 latent budget 下提升推理性能，适合多图/多区域商品理解等需要控制计算成本的场景。
- 用 latent-state similarity 和 attention diversity 作为诊断指标，评估多专家或多模态融合是否真正学到互补信息，有助于排查模型冗余。
能下棋并解释走法的语言模型
🧭 LLM 与专家编码器融合训练
Princeton Language and Intelligence, Princeton University
4B 模型结合沉默专家棋类编码器与迭代 Bellman 式自蒸馏，棋力达 2697 Elo 且可解释走法
📌 工作参考价值（4 点）
- 电商推荐中已有的高精度但不可解释模型（如精排 CTR/CVR、向量召回）可作为 silent expert encoder，用 cross-attention 接入指令微调的小型 LLM，低成本生成推荐解释或决策理由
- 采用“候选决策—结果分析—整合解释—蒸馏回模型”的迭代 self-distillation：让 LLM 分析推荐列表 top 候选的用户后续行为并蒸馏回模型，可同时提升策略质量与解释一致性
- 先做概念级 QA 课程（如“用户为何点击该商品”）再进入完整解释生成，能稳定从专家表示中抽取可读知识，避免直接生成错误解释
- 4B 模型达到 frontier 水平，说明用领域 expert encoder + 小模型蒸馏可大幅降低线上推理成本，适合电商高 QPS 场景
OmniSeek：面向多轮音视频推理的原生工具集成
🧭 Agent 多轮音视频推理与工具检索
University of California, Davis · Adobe Research
将 Omni-LLM 变为主动多轮推理 Agent，动态检索关键音视频片段以支撑跨模态长上下文推理
📌 工作参考价值（4 点）
- 多模态长视频/直播/商品讲解等场景，别让模型一次吞下整个序列；可以借鉴 OmniSeek 的做法，让 Agent 先粗略定位，再调用工具按时间窗口取回关键音频或视觉片段追加到上下文，既省计算又能保持细节证据。
- 数据冷启动可复用“合成多跳 CoT 轨迹 + SFT + 两阶段 RL”路线：先造带交错的证据检索轨迹让模型学会多轮工具调用，再用可验证奖励做策略优化，适合业务中缺乏真实交互标注的场景。
- Audio-Visual Necessity 奖励是防止多模态捷径的有效 trick：在训练目标里显式惩罚只依赖单一模态的成功轨迹，可迁移到电商多模态模型，避免模型只抄文本或只靠图片就能答题。
- 工具返回原始音视频片段而不是高层特征，能保留稀疏关键证据，类似多模态 RAG；在直播切片问答、广告素材审核、智能客服等场景可以直接套用这种“检索-追加-再推理”的循环。
缺失的原语：诊断与修复大语言模型数学推理
🧭 数学推理诊断与后训练蒸馏 ★ 深度解读
Texas A&M University · Harvard University · Vanderbilt University · Stanford University · DARPA
提出 Mathematical Primitive 与 PRIM benchmark 诊断结构性理解，并用 ABSORB 蒸馏框架提升推理
📌 工作参考价值（4 点）
- 在推荐/Agent 场景中，把复杂推理拆成「意图/结构发现」与「执行/生成」，用诊断 benchmark 定位瓶颈是 discovery 还是 execution。例如 query 推荐中区分「用户意图识别」与「候选生成/排序」，不要只看最终指标掩盖能力差异。
- 做 privileged information 蒸馏时，教师侧不要给完整 solution，而是给 concise structural hint（如 query 的语义类目、用户意图标签、商品属性约束），并采用 bounded override / one-sided clamp 限制教师过度覆盖学生自身策略，减少已解决 case 的回退。
- 后训练样本优先选择 discovery-limited failures：模型拿到正确 hint 就能解的问题，修复收益约为联合失败 case 的 3 倍。对应推荐系统中可优先构造「给了正确类目/意图就能推对」的 hard case 用于 SFT 或蒸馏。
- 评估体系增加结构性理解维度（如能否从完整 session 中识别核心购买动机），避免单纯 final answer accuracy 掩盖模型能力画像差异，尤其在迭代模型版本时用于回归监控。
SEER：面向时序预测的自进化事件推理与检索
🧭 自进化 Agent · 事件检索增强时序预测 ★ 深度解读
Google Cloud AI Research · University of Virginia
用预测误差驱动检索记忆与因果知识库更新，显著提升事件驱动时序预测的准确性与可解释性
📌 工作参考价值（4 点）
- 在电商需求预测/广告转化预估中，把动态外部事件（价格调整、大促、供应链、热搜）作为可更新的文本上下文，而不是静态特征；用 retrieval memory 生成搜索 query 扩展候选，再用 selection memory 做噪声过滤，两个组件解耦，避免信息过载。
- 闭环反思机制可用于推荐/搜索的在线学习：将预测残差（销量/CTR 偏差）和推荐理由对比，更新「检索记忆」与「因果规则库」，离线回放、线上冻结，避免直接更新模型参数；尤其适合已有 LLM 推荐理由或文案生成场景。
- 严格时间边界与 fact-check 约束对推荐系统外部特征同样关键，确保只用截至请求时刻的商品新闻/库存/价格，防止特征穿越导致线上翻车。
- 蒸馏 IF-THEN 因果规则不仅提升可解释性，还能让 Agent 主动拒答/过滤高噪声样本（如选择性股票预报、选品），提升精度；电商中可迁移到「是否推荐、推什么品类」的不确定性决策。
SoftServe：面向深度学习的可扩展拟牛顿法
🧭 深度学习优化 · 拟牛顿法
University of Massachusetts Amherst · CCM, Flatiron Institute · Cornell University
提出无需线搜索和曲率修正的可扩展拟牛顿族 SoftServe，通过正定曲率估计与 Newton-Schulz 迭代训练大规模网络
📌 工作参考价值（4 点）
- 推荐/广告模型常存在病态优化区域：长尾 item/user embedding 梯度方差大、多任务 loss 尺度差异显著。可尝试 SoftServe 的 diagonal 曲率预处理，作为 Adam 的替代或 warmup 后切换，减少手调 epsilon/weight decay 的敏感性。
- 工业级推荐模型参数巨大，Kronecker-factored 变体可对 layer-wise 曲率做结构化近似，类似 K-FAC 但保证正定，适合 Transformer/特征交互层；工程上用 Newton–Schulz 迭代通过矩阵乘法实现，便于 GPU/TPU 加速。
- 该方法强调无需 line search，减少分布式训练中的通信与超参搜索成本；在离线 CTR/CVR 或召回模型训练中，可先在病态子任务（如 autoencoder 特征压缩、辅助 loss）上验证收敛速度与最终 loss。
- 注意：论文主要面向通用深度学习优化，不是推荐/检索架构本身；落地前需评估其对稀疏 embedding、动态数据流和在线更新的兼容性，初期以离线对比实验为主。
SOLO：基于扫描采样倒排列表的可认证召回相似性搜索
🧭 向量检索 · 可认证召回 ANN 索引
CICESE
SOLO 索引以无排序启发式的扫描倒排列表实现可证明召回，在 1GB 内存下 Deep-100M 召回 0.9977
📌 工作参考价值（4 点）
- 大规模向量召回的内存优化：在商品 embedding 库亿级甚至十亿级时，SOLO 的扫描式倒排索引只需少量字节/对象（如 10.7 字节）即可达到 0.9977 召回，远低于 HNSW/DiskANN 的内存下限；适合作为电商推荐召回的高性价比底座，尤其在内存受限的在线服务或边缘部署中。
- 可认证召回特性：SOLO 召回等于覆盖概率，可通过一次查询样本的 ground-truth pass 离线算出所有操作点，无需在线反复 A/B；可将召回 SLA 直接与索引参数绑定，降低质量风险。
- 动态更新友好：插入等于一次搜索、删除精确，相比 HNSW 的复杂删除和图维护，更适合商品频繁上下架、embedding 定期更新的场景；可简化索引运维。
- 结构可扩展：路由与扫描分离、叶节点扫描的设计便于与压缩/量化 embedding 结合，进一步节省内存；且路由器可递归索引，适合构建分层/多级召回。
TACO：面向 LLM 微调的三值绝对最大列单稀疏优化器
🧭 LLM 全参微调内存优化器
University of Central Florida · Mohammed VI Polytechnic University
用每列最大梯度符号的稀疏更新替代 AdamW 状态，优化器状态降 174 倍，单卡 H100 可全参微调 30-32B 模型
📌 工作参考价值（4 点）
- 在需要全参微调 LLM 的业务（生成式推荐、Agent 策略模型、query/文案生成）中，可用 TACO 替代 AdamW/AdamW8bit，显著降低优化器状态和峰值显存；据论文 OPT-13B 上优化器状态 27.7GB→0.16GB，峰值显存 80.6GB→27.5GB。
- 适合继续微调已用 AdamW 预训练或 SFT 过的模型：TACO 保留一阶梯度更新几何，可减少切换优化器带来的掉点，而 Muon 在 AdamW-pretrained 模型上可能退化。
- 工程落地可按层拆分：对二维权重矩阵使用 TACO，对 embedding/head 等使用 AdamW 或低内存方案；只存储每列绝对值最大梯度的符号及少量低精度分量，避免动量和二阶矩。
- 单卡 80GB H100 能全参微调 30-32B 模型，降低硬件门槛，适合资源受限团队在推荐搜索场景中训练 LLM。
图信息语义 ID：平衡语义与协同信号的分层图划分框架
🧭 生成式推荐 · 图层次 Semantic ID ★ 深度解读
Huawei Ireland Research Centre
将 Semantic ID 构建重定义为图上层次划分，统一内容型与协同型 SID 方法，两个实例带来最高 +52% Hit@10
📌 工作参考价值（4 点）
- 把 SID 构建当成分层聚类/图划分，而不是单纯 representation learning：业务里设计生成式推荐 item tokenization 时，可以先问“什么图、怎么递归切分”，而不是只选 encoder。内容相似不等于行为相似，协同边能纠正语义聚类的偏差。
- RQ-GAE 的图重建正则很值得复用：在标准 RQ-VAE 目标上加一个 subsampled neighbourhood softmax 项，直接对量化后的 latent 做邻域预测，不需要重建全邻接矩阵，适合大 item catalog；工程上可低成本给现有 RQ-VAE 管道注入协同信号。
- 图信息输入和重建 loss 要一起用：消融显示只把 item embedding 换成图传播表示（APPNP）在部分数据集会掉点，只加图 loss 更稳；两者组合才最优。如果把 APPNP 的 α 调得过大、太接近原始语义 embedding，也会损失协同增益。
- RecDMoN 适合小/中型 catalog，且要关注 SID 空间均衡性：其 Gini 指数远低于 spectral clustering，说明更均衡的层级前缀对下游生成式推荐更友好；但 dense adjacency 限制了大规模应用，需要稀疏化/采样后再考虑。
VISTA：交互世界中的视觉推理框架
🧭 视觉增强多模态 Agent 长程推理
Massachusetts Institute of Technology
多模态模型通过无损视觉记忆和主动视觉检索，在交互环境中大幅提升推理与行动效率
📌 工作参考价值（4 点）
- 无损视觉记忆可复用：在电商多模态 Agent 中，保留商品图、详情页截图等原始视觉信息，避免早量压缩，提升长程浏览与比较任务的表现。
- 主动视觉检索机制：让模型自行决定何时回看历史视觉观察（如之前看过的商品、对比图），减少人工设计的状态管理，适用于购物助手、视觉搜索等交互场景。
- 迭代视觉工具调用：将视觉输入拆解为可重组的片段（裁剪、放大、并排比较），在推理时动态调用，比一次性全图编码更灵活，适合复杂商品页面的多区域分析。
- 低适配成本：VISTA 的设计便于迁移到不同视觉环境，从业者可尝试将类似 harness 嵌入已有 VLM Agent，快速提升在视觉决策任务中的表现。
外部观察者或更清晰：基于隐藏状态探测的大模型跨模型跨度级幻觉检测
🧭 LLM 幻觉检测 · 隐藏状态探测
LIX, École Polytechnique · LIPN, Sorbonne Paris Nord · School of Electrical and Electronic Engineering, Nanyang Technological University
提出用隐藏状态探针定位幻觉起始与延续 token，并发现外部小模型观察者可匹敌生成模型自检测
📌 工作参考价值（4 点）
- 在生成式推荐或 Agent 链路中，可用隐藏状态探针做幻觉 onset 实时检测：不必等整段生成完成，发现 onset token 就触发回退、改写或检索，用于商品描述、广告文案等高价值生成场景。
- 跨模型监控架构值得借鉴：用一个小模型作为外部观察者读取大模型生成时的 hidden states，成本低且可独立部署，适合做大模型生成内容的在线质量守门。
- 相比 RAG 外部检索，内部探针没有额外网络延迟，适合隐私受限、需要本地推理的搜索/推荐场景；可把探针作为轻量插件挂在 Transformer 特定层输出上。
- 训练检测头时建议从 token 级升级到 span 级标注，业务上更对应“哪一句开始跑偏”，便于精确定位和修复；可构造自己的 span 标签（如商品属性不一致片段）来训练。
无需模型：文本熵率过滤缓解迭代微调崩溃
🧭 迭代微调多样性维护与数据过滤
Adelaide Data Science Centre, University of Adelaide · School of Mathematical Sciences, University of Adelaide
提出基于 Kontoyiannis 熵率估计器的纯文本过滤器，在不访问模型的情况下有效提升迭代微调多样性
📌 工作参考价值（4 点）
- 合成数据微调管道可直接引入熵率过滤：在生成式商品描述、搜索 query 或广告文案的迭代训练中，用 Kontoyiannis 熵率估计器对合成样本打分，过滤低多样性样本，避免模型输出重复化；无需调用模型 API 或持有 logprob，工程开销低，适合无模型推理权限的场景。
- 多 Agent 系统多样性监控：将文本熵率作为多智能体生成内容的实时监控指标，当熵率持续下降时触发干预（如提高采样温度或注入新提示），防止 Agent 间输出趋同。
- 替代传统 logprob-based 过滤：论文显示 logprob 过滤在该任务上无显著收益，业务中若已使用 perplexity 等模型依赖的过滤，可尝试替换为纯文本熵率过滤，可能获得更好的多样性且更轻量。
- 少样本验证结论：熵率估计器跨域适用，可作为生成式推荐模型微调时的通用质量代理，用于快速评估数据集的多样性是否充足。
消融即剂量：抵消权重与自修复的假象
🧭 模型可解释性 · 自修复机制
Lexsi Labs
提出自修复源于消融前已有的反事实增益，组件响应服从仿射定律并可由固定权重预测
📌 工作参考价值（3 点）
- 在 LLM 推荐 / Agent 的模块消融中，不要只看“删掉某个 LoRA / 记忆模块后指标变化很小”就认为该模块不重要；自修复会掩盖因果贡献。可把干预强度连续化（如缩放隐藏状态 λ），拟合 E_r(λ)=own_r+γ_rλ，用斜率而非二进制消融判断真实作用。
- 若你的业务要对 LLM 中的风险 / 偏见子模块做 unlearning 或 circuit 剪枝，先测量下游单元的 γ_r 符号与幅度；固定权重可预估哪些单元会抵消删除信号，避免越高删、下游补偿越大。
- 对于 Agent 多模块 pipeline，当移除某工具 / 检索模块后整体效果“没掉”，要区分是模块没用还是其他模块在补偿；建议用多档剂量干预（0, 0.25, 0.5, 1, 2 等）替代单点消融，找出剂量 - 响应曲线，定位真实瓶颈。