恶意软件分类模型的概念漂移检测与自适应重训练
🧭 概念漂移检测与自适应重训练
Department of Computer Science, San Jose State University · Faculty of Information Technology, Czech Technical University in Prague
用OCSVM等漂移检测触发模型重训练，在精度与周期重训相当下大幅减少重训次数
📌 工作参考价值（4 点）
- 将 OCSVM 作为无监督漂移检测器，监控推荐模型输入特征分布或预测分数分布，超过阈值触发重训练；相比每日/每周定期全量重训，可大幅节省 GPU/训练资源，同时保持效果。
- 借鉴三场景对比实验：static（不更新）、periodic（固定周期更新）、drift-aware（检测到漂移才更新），用 Pareto Front 量化精度与训练成本 trade-off，帮助决定线上模型的更新策略与触发阈值。
- 生产上可对用户行为序列、商品属性、embedding 统计量（均值/方差/分布）构造特征向量，用 MMD 或 MK-Means 做轻量漂移检测，并与自动训练流水线集成，实现模型自适应更新。
- 注意：恶意软件漂移模式与电商推荐漂移不完全一致，但“漂移检测 + 事件触发重训”的框架可直接迁移；OCSVM 实际部署需调优核函数与 nu 参数。
通过平滑 MMD 对齐增强大语言模型的数值预测
🧭 LLM 数值预测 · 分布对齐训练损失
College of Computer Science, Sichuan University, Chengdu, China · Dongfang Electric (Chengdu) Academy of Science and Technology Co., Ltd., Chengdu, China · Institute of Medical Information & Library, CAMS & PUMC, Beijing, China
提出 SMMD 损失，用数值距离核与图平滑将对齐预测分布，一致提升 LLM 数值精度
📌 工作参考价值（4 点）
- 数值敏感推荐场景损失替代：在需精确数值的任务（如价格预估、销量预测、广告出价、用户评分）中，可将标准交叉熵替换为 SMMD，将输出视为连续分布对齐而非离散 token 分类，减少“数字错位”错误。
- 数值子词表与距离核设计：显式划分数值 token 子词表，构造基于值距离的 RBF 核，将 token 概率分布映射到数值空间进行 MMD 匹配。电商搜索排序中的分数校准、点击率预估等场景可直接复用此核构建策略。
- 局部平滑正则引入：利用核图在相邻数值间施加输出残差平滑约束，抑制跳变预测。推荐系统中用户偏好分数、物品特征值等的生成，可借鉴该平滑项提升预测一致性与鲁棒性。
- 即插即用训练组件：SMMD 仅修改损失项，不改变模型结构，可轻量集成到现有 LLM fine-tune 流程中，尤其适合需要数值输出的 Agent 决策（如动态定价、预算分配）。
基于均值漂移交互粒子系统的贝叶斯推断离散化方法
🧭 粒子系统贝叶斯采样 · MMD 最小化
Center for Computational Science and Engineering, Massachusetts Institute of Technology · Laboratory for Information and Decision Systems, Massachusetts Institute of Technology
提出均值漂移交互粒子系统，通过 MMD 最小化逼近目标分布，实现免归一化常数的贝叶斯积分近似。
📌 工作参考价值（4 点）
- 推荐系统中贝叶斯模型（如贝叶斯个性化排序）的后验推断常面临多模态挑战，该方法的交互粒子系统能有效捕捉多模态和 anisotropy，避免模式坍缩，从而提升参数估计的准确性。
- 方法不依赖归一化常数，且支持无梯度实现，适用于优化非可微排序指标（如 NDCG）的场景，可直接用于粒子优化。
- 粒子系统实现简单，易于并行化，可用于需要在线更新后验的实时推荐或动态定价场景。
- 对于生成式推荐中的隐变量模型，可将此方法用于近似后验采样，替代传统的 MCMC 或变分推断，提高采样多样性和效率。