AI Papers Daily

#dLLM

2 篇

BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding

BlockPilot：基于扩散推测解码的实例自适应块大小策略学习

🧭 推测解码 · 实例自适应块大小

AMAP, Alibaba Group

提出从预填充表示学习预测最优块大小的策略，突破固定块限制，提升扩散推测解码效率

📌 工作参考价值（4 点）

• 在大模型在线推理（如对话式推荐、搜索 Agent）中，可集成该自适应策略，根据 prompt 的预填充特征动态选择最优块大小，无痛提升加速比，且预测开销极小。
• 方法即插即用，无需修改原扩散推测解码框架，适合在已有推理管道中快速部署，降低工程改动成本。
• 揭示了最优块大小的局部结构——集中在训练块尺寸附近，可据此设定搜索范围或剪枝预测类别数，简化策略学习。
• 对于需要低延迟响应的业务场景（如实时广告文案生成、个性化推送），该技术能有效减少端到端延迟，提升用户体验。

LLM | 2026-06-29 | HF Daily | score 6/10

speculative decodingdiffusion modelblock sizeadaptive policyinference accelerationdLLM

Learning from the Self-future: On-policy Self-distillation for dLLMs

从自我未来学习：面向扩散LLM的在线策略自蒸馏

🧭 扩散LLM后训练 · 在线自蒸馏

Tsinghua University · Technical University of Munich · Nanyang Technological University · University of British Columbia · University of Texas at Austin

首个面向扩散大语言模型的在线自蒸馏框架，通过后缀条件化与步骤级监督实现高效后训练

📌 工作参考价值（4 点）

• 若业务中采用扩散模型做生成式推荐（如商品语义ID序列生成），可借鉴d-OPSD的后缀条件化设计：将已生成的未来token作为条件，为当前token提供稠密监督，无需额外的前缀特权信息。
• 步骤级监督（step-level KLD）比token级监督更适配迭代去噪训练过程，可在扩散推荐模型的微调中替换逐token loss，提升生成质量与训练效率。
• 该方法样本效率极高（仅需RLVR 10%的优化步数），在大规模推荐模型训练中可大幅降低算力成本，适合资源受限场景的模型后训练。
• 自未来经验蒸馏的思路可推广至其他序列生成任务，例如用llm生成搜索query时，利用模型自身后续生成的内容作为监督信号，强化长程一致性。

Training | 2026-06-16 | cs.CL | score 7/10

OPSDdLLMself-distillationdiffusion modelsreasoningsample efficiency