#Denoising

5 篇

Thinking with Looped Flows

用循环流思考

🧭 循环神经网络与概率流推理

EPFL · KAIST · University of Amsterdam · Carnegie Mellon University · TU Wien

提出循环流模型，用局部去噪目标训练循环网络，推理时积分概率流实现计算扩展，在ARC-AGI等基准上超越先前的循环模型

📌 工作参考价值（4 点）

循环生成模型训练中，若梯度只截断少数步（如在线生成式推荐的多步解码），可借鉴局部去噪目标：每一步只做当前噪声水平的去噪，不要求整个循环链端到端可微，缓解早期步骤无法支持后续步骤的问题。
推理时通过更细的时间网格积分概率流，用更多计算换取更好预测，适合对延迟敏感的业务按负载动态调整解码步数，实现在线算力弹性伸缩。
从不同初始噪声采样可获得多个有效预测，可用于生成式推荐中产出多样化候选 item，后续用排序模型筛选或做多样性打散，兼顾覆盖与准确。
循环状态与流状态解耦（先运行去噪器更新循环状态，再执行 ODE/SDE 步），工程上易于模块化，可分别优化状态传递逻辑和数值积分器。

Reasoning | 2026-09-10 | cs.LG | score 7/10

Beyond Modality Harmony: Orthogonal Purification and Topology-Guided MoE for Conflict-Aware Multimodal Recommendation

超越模态和谐：正交净化与拓扑引导MoE的冲突感知多模态推荐

🧭 多模态推荐 · 去噪融合

City University of Hong Kong · The Hong Kong Polytechnic University

提出OrthoRec，用协同引导正交净化和拓扑感知MoE解决多模态推荐中的模态-拓扑冲突

📌 工作参考价值（4 点）

多模态融合改造成残差净化思路：电商图文/视频常存在标题党、主图诱骗，直接 concat 或 gate 会污染协同信号。可借鉴 CGOP：先用纯协同 embedding 作为锚，把视觉/文本特征投影到平行/正交方向，只保留平行分量并做能量归一化后残差注入，低成本缓解模态噪声。
多模态专家融合不用 softmax 门控：TAR-MoE 用解耦 sigmoid 门控替代传统 softmax 注意力，打破“模态之间零和竞争”，每个模态专家可独立决定注入强度。在电商多模态排序/召回模型中可直接替换融合层，避免视觉强、文本弱的 item 被错误压制。
对比学习负样本别强行对齐：safe-SSL 对矛盾 pair 动态降低对比损失，适合电商中图像与交互语义不一致的样本。如果业务在多模态对比学习时遇到噪声对，可加入置信度惩罚或自适应温度，而不是全量强制对齐。
稀疏 item 鲁棒性有直接价值：实验显示对稀疏 item 的改善，说明该去噪机制在新品/长尾商品多模态建模上可能比复杂跨模态模型更稳。

RecSys | 2026-09-02 | cs.IR | score 7/10

Multimodal Recommendation Orthogonal Purification Mixture-of-Experts Graph Neural Networks Contrastive Learning Denoising

DrEM: Dual-Side Robust Ensemble Ranking from Noisy User Preference Predictions in Video Recommendation

DrEM：面向带噪 pxtr 预测的双侧鲁棒集成排序框架

🧭 推荐系统 · 集成排序 · 鲁棒学习 ★ 深度解读

Shenzhen University · Kuaishou Technology

提出 DrEM，用共享 logit 噪声模型同时校正 pxtr 噪声造成的监督侧偏好翻转和特征侧输出不稳定

📌 工作参考价值（4 点）

电商/广告多目标融合排序中，上游 pCTR/pCVR/pCVR 等分同时充当特征和代理监督是常见做法；可直接复用 DrEM 的双侧结构：监督侧做 pair 级 flip 校正，特征侧做一致性正则，并让两侧共享同一噪声参数。
上游预测噪声方差无法观测，工程上可用 DrEM 的 bucketing + probit 估计：按 pxtr 分桶，用后验行为均值与预测均值的聚合偏差反推 logit 空间 σ²，便于流式更新。
特征侧不要无脑加对抗扰动；先做 preference-preserving filtering，只对扰动前后序一致的 pair 施加 rank consistency，避免与主 ranking loss 冲突。
线上收益对稀疏互动目标更明显（Follow/Comment 提升超 1%）；如果业务关注收藏、评论、转发等稀疏行为，应优先在这些 pxtr 任务上做 flip 概率驱动的自适应校正和 item 级扰动。

RecSys | 2026-08-13 | cs.IR | score 9/10

Robust Learning Ensemble Ranking Prediction Noise Rank Consistency Industrial RecSys Denoising

Beyond Noisy Signals: Dual-Level Denoising for Multi-modal Sequential Recommendation

超越噪声信号：多模态序列推荐的双层去噪框架

🧭 多模态序列推荐 · 双层图频域去噪

University of Science and Technology of China

提出图低通滤波和频域自适应滤波的双层去噪，联合清洗多模态特征与序列行为噪声，显著提升推荐鲁棒性

📌 工作参考价值（5 点）

### 可以借鉴到电商推荐工作中
特征层面图低通滤波去噪：利用物品语义图上的拉普拉斯平滑作为低通滤波器，能有效抑制预训练视觉/文本特征中与推荐意图无关的高频噪声。在构造电商场景的商品多模态特征（如商品图、描述）时，可直接复用此轻量模块，无需引入复杂注意力，计算开销小。
序列层面的频域去噪：通过 FFT 将用户交互序列变换到频域，用可学习的频率滤波器自适应增强良性信号、衰减异常点击等随机噪声。对于电商/广告场景中常见的误触、短暂兴趣等噪声行为，该模块能显著增强序列建模的稳定性，可插入现有 Transformer 或 SASRec 类骨干结构。
多模态对比对齐目标：引入跨模态对比损失，强制视觉与文本表征在语义上一致，能弥补模态间语义鸿沟。在构建商品多模态特征库时，可用此约束训练更好的对齐编码器，或直接在召回模型中加入该辅助损失。
整体架构即插即用：DDMSR 的 denoising 组件均可独立拆解，作为现有推荐模型的增强插件。对于已有序列模型（如 BST、DIEN），只需要在特征输入层和序列编码层分别接入图滤波与频域滤波，实验显示在多个公开数据集上稳定提升 3–8%，适合快速 A/B 测试验证。

RecSys | 2026-07-21 | cs.IR | score 7/10

Multi-modal Sequential Recommendation Denoising Graph Low-pass Filter FFT Contrastive Alignment

GCIB: Graph Contrastive Information Bottleneck for Multi-Behavior Recommendation

GCIB：图对比信息瓶颈用于多行为推荐

🧭 多行为推荐 · 图信息瓶颈去噪 · 对比学习语义对齐 ★ 深度解读

Tianjin University · Anhui University

通过图信息瓶颈去噪辅助行为图结构，并结合跨行为对比学习实现语义对齐，提升稀疏目标行为的推荐精度

📌 工作参考价值（4 点）

结构级噪声过滤：在辅助行为图上直接做边级去噪，而非仅压缩表征。使用目标行为偏好引导的边保留概率（MLP融合user/item embedding），通过Gumbel-Softmax实现可微的边丢弃，可借鉴到电商多行为数据清洗，仅保留与购买/加购等目标行为相关的辅助交互。
HSIC正则替代互信息最小化：由于图结构互信息难以直接优化，采用HSIC衡量去噪前后图节点表征的独立性作为压缩项，计算高效且可微。在推荐系统的特征选择或图去噪场景中，可作为轻量级冗余抑制手段。
跨行为对比对齐：将去噪后的辅助行为表征与目标行为表征作为正例构建对比损失（InfoNCE），用户侧和物品侧分别计算。这能缓解目标行为稀疏时的监督信号不足，尤其适合交易型电商场景中购买行为少、点击/浏览行为多的情况。
分层编码设计：先通过全局异质多行为图LightGCN编码获得共享初始化，再分别在目标图和去噪辅助图上做浅层传播（2-3层），最终简单平均融合。这种轻量级设计易于工程实现和增量更新，对行为频繁变化的电商场景友好。

RecSys | 2026-05-25 | cs.IR | score 8/10

Multi-Behavior Recommendation Graph Information Bottleneck Graph Contrastive Learning Denoising Graph Neural Networks