AI Papers Daily

#diffusion

4 篇

The Lattice of Transition Laws

转移法则格：扩散与自回归解码调度的统一框架

🧭 生成模型统一解码调度与成本预测

University of Pennsylvania

将扩散、自回归及混合模型统一为 corruption lattice 上的路径，用依赖成本预测不同解码调度性能

📌 工作参考价值（4 点）

• 在生成式推荐或文本生成中，不必固定 AR 顺序或全并行扩散，可根据数据依赖图/树深设计中间解码调度，平衡推理延迟与生成质量。
• 利用预训练模型权重估计成对依赖成本，可低成本预测不同解码策略的排序，用于离线筛选最优推理策略，减少在线实验成本。
• 对于商品序列或图结构数据（如购物车序列、类目树），treedepth 给出最少零成本并行步数，可用于并行生成商品描述、推荐理由等任务时估计加速上限。
• 在支持混合解码的推理框架中，可先用依赖成本排序候选 schedule，再小规模验证，替代全量解码调参，提升工程效率。

Other | 2026-10-07 | HF Daily | score 7/10

diffusionautoregressiondecoding scheduletreedepthcorruption latticegenerative models

Diffusion Drafts, AR Verifies: Accelerating Document OCR with Self-Speculative Decoding

扩散草稿 + 自回归验证加速文档 OCR

🧭 扩散草稿 + 自回归验证加速生成

Trillion Labs · Korea University · Seoul National University

参数共享 AR-block-diffusion 模型并行草稿 + AR 验证，实现 OCR 解码 3.94 倍加速

📌 工作参考价值（4 点）

• 生成式推荐/广告文案等 input-grounded 长文本任务可借鉴：用 diffusion 并行生成多个 draft token，再用共享参数的 AR 路径做因果验证，接受多 token 提交，无需额外 drafter 网络。
• GRPO 直接优化共享 drafter 参数，用序列级或结构级奖励（如文本格式、关键词覆盖）避免 diffusion trajectory likelihood 估计，训练更稳定且可优化业务目标。
• 自推测解码可嵌入现有 serving 框架（如 SGLang），平均每 forward 提交 9.7 tokens，适合高吞吐低延迟的在线文案生成、query 推荐场景。
• OCR/文档理解中的结构化输出（HTML/LaTeX）奖励信号可类比于电商场景的结构化商品描述、广告落地页生成，可直接复用奖励设计思路。

Other | 2026-09-22 | cs.CL | score 6/10

self-speculative decodingdiffusionOCRGRPOinference accelerationAR verification

Multimodal Unlearning Across Vision, Language, Video, and Audio: Survey of Methods, Datasets, and Benchmarks

多模态遗忘：视觉、语言、视频与音频的综述

🧭 多模态遗忘 · 选择性去学习

University of Maryland, Baltimore County · University of Notre Dame · UNC Chapel Hill

系统梳理多模态遗忘的干预点、方法、数据集与基准，建立跨架构的统一分类体系

📌 工作参考价值（4 点）

• 电商/推荐系统中数据删除与模型矫正：若用多模态模型生成商品描述或推荐，当用户要求删除个人数据或平台需移除版权物料时，可借鉴参数高效遗忘方法（如 LoRA 适配器、梯度编辑），在不重训模型的前提下定向遗忘。
• 消除跨模态不良关联：在搜索推荐中，用联合图文表征可能产生性别、种族等偏见关联（如“医生→男”），可采用架构约束遗忘或解码时干预，切断特定跨模态联系，同时保留通用能力。
• 在线服务安全迭代：面对舆情或法规变化，需紧急屏蔽某类商品或内容，可利用训练时的“遗忘正则项”或数据侧屏蔽，快速使模型停止生成相关推荐，避免全量回退。
• 评估体系参考：综述整理了多模态遗忘的度量维度（遗忘强度、保留度、效率、可逆性、鲁棒性），从业者可据此设计离线验证指标，确保遗忘操作不影响推荐核心指标。

Other | 2026-07-08 | cs.MM | score 6/10

multimodalunlearningsurveyvision-languagediffusionsafety

Nemotron-Labs-Diffusion: A Tri-Mode Language Model Unifying Autoregressive, Diffusion, and Self-Speculation Decoding

Nemotron-Labs-Diffusion：统一自回归、扩散与自推测的三模式语言模型

🧭 扩散语言模型 · 自推测解码

单模型支持自回归、扩散、自推测三种解码模式，在吞吐和效率上显著超越开源AR和扩散LM。

📌 工作参考价值（4 点）

• Agent 系统低延迟推理：在对话或实时推荐 Agent 中，可切换至自推测模式，用扩散模型快速生成草稿再由 AR 验证，有效降低首 token 延迟和端到端耗时。
• 离线批量生成任务：生成大量商品描述、广告文案等场景，启用纯扩散模式并行解码，大幅提升吞吐，降低 GPU 成本。
• 灵活部署与资源管理：三模式架构允许根据 Concurrent Users 动态切换：高并发用 AR 减少排队，低并发用自推测提升交互体验，离线任务用扩散最大化硬件利用率。
• 训练范式迁移：联合 AR 与扩散训练的策略可借鉴至推荐系统，用于同时捕捉序列依赖（用户行为序列）和全局规划（推荐列表多样性），提升生成式推荐的质量。

LLM | 2026-07-06 | HF Daily | score 7/10

diffusionautoregressiveself-speculationthroughput optimizationtri-modeparallel decoding