AI Papers Daily

#Plug-and-Play

6 篇

Beyond Truncation: Rethinking LLM Decoding as Ensemble Pruning

超越截断：将 LLM 解码重新定义为集成剪枝

🧭 LLM 解码 · 集成剪枝

Institute of Statistics and Big Data, Renmin University of China · Big Data and Responsible Artificial Intelligence for National Governance, Renmin University of China · Center for Applied Statistics, Renmin University of China

提出 Mahalanobis-Ensemble Decoding，基于 token 嵌入相似度做集成剪枝，提升解码多样性且近乎零开销

📌 工作参考价值（4 点）

• 在电商/广告文案、搜索 query 推荐等文本生成场景，可直接作为解码端插件，用 token 语义相似度矩阵做候选剪枝，减少重复 token 和语义冗余，无需重新训练模型。
• 若业务中已有 LLM 生成候选商品描述、推送文案或 Agent 规划路径，可把 ME-Decoding 的 adaptive-bandwidth kernel 思路迁移到自有 token/item embedding 上，构造 Mahalanobis 距离驱动的多样性目标，提升候选集召回质量。
• 该方法强调 near-linear 复杂度和 early stopping，适合线上推理延迟敏感场景；在 beam search 或采样前对候选 token 做一次轻量剪枝，可作为低成本的多样性增强层。
• 对生成式推荐中的 Semantic ID 或多 token 生成路径，可用相似度矩阵动态 discount 冗余路径，缓解生成结果坍缩到高频 ID 或重复 token 的问题。

LLM | 2026-09-16 | cs.LG | score 7/10

LLM DecodingEnsemble PruningMahalanobis DistanceToken DiversityPlug-and-Play

OmniHarness: Harnessing Generalizable Visual Generation via Symbolic Policy Learning

OmniHarness：符号策略学习实现可泛化视觉生成

🧭 Agent 策略学习 · 视觉生成

Beihang University · The Chinese University of Hong Kong · National University of Singapore

将验证过的执行抽象为可组合符号策略，结合中间验证与自引导练习，免训练实现跨任务泛化与持续能力扩展

📌 工作参考价值（4 点）

• 策略库抽象：将验证成功的 Agent 执行轨迹转成 symbolic policy，剥离实例特定输入，保留通用 SOP 与适用条件，可显著提升新任务泛化；在电商 Agent 中可把高转化对话流程、工具调用序列沉淀为可复用策略，减少重复试错。
• 中间验证而非最终反思：在长链路任务（如商品推荐中的多步 tool call、广告素材生成）中加入 step-level 校验，使错误在早期被发现并触发策略调整，比只在失败后反思能节省大量 token 和时延。
• 自引导练习与能力边界探索：在真实业务流量前，让 Agent 自己生成接近能力上限的练习任务并执行，用执行反馈迭代策略，无需人工标注下游数据即可完成冷启动策略库构建。
• 冻结模型参数、在线更新策略：只更新策略库而不微调 backbone，方便线上快速实验与回滚；对已有 agent 框架可即插即用（frozen policy snapshot），与现有系统兼容性好。

Agent | 2026-09-12 | HF Daily | score 6/10

Symbolic Policy LearningVisual AgentSelf-directed InquiryIntermediate VerificationPlug-and-Play

Self-Gating Attention for Efficient Time Series Forecasting

自门控注意力：高效时间序列预测

🧭 高效注意力机制 · 时序预测

提出即插即用的自门控注意力，以线性复杂度维持预测性能，避免冗余注意力计算。

📌 工作参考价值（4 点）

• 在推荐系统的用户行为序列建模中，可直接替换标准自注意力，省略 query/key 投影，显著降低长序列的计算和内存开销，适合高并发在线推理。
• 共享注意力矩阵 + 轻量残差的设计，可应对行为序列中常见的重复模式（如周期性、固定套路），对电商场景的点击序列预测有直接迁移价值。
• 即插即用特性允许快速集成到现有 Transformer 推荐模型（如 SASRec、BERT4Rec）中，仅需微小改动即可获得推理加速。
• 在边缘设备或资源受限推理环境下，SGA 能保持竞争力性能，适合部署在移动端推荐、实时出价等延迟敏感系统。

Other | 2026-07-02 | cs.LG | score 6/10

Self-Gating AttentionLinear ComplexityTime Series ForecastingEfficient TransformerPlug-and-PlayDeployment-Oriented

TRUST: Item-Calibrated Interval Evidence for Temporal Session-Based Recommendation

面向时序会话推荐的物品校准间隔证据

🧭 时序会话推荐 · 物品校准时间感知

揭示相同时间间隔在不同物品上代表不同兴趣强度，提出物品校准的间隔评分函数，即插即用提升时序会话推荐

📌 工作参考价值（4 点）

• 核心trick：不以全局分布看待时间间隔，而是按物品建立各自的间隔分布，用该分布校准当前间隔的“兴趣证据”强度，可迁移到电商用户实时行为序列建模。
• 架构可插拔：提出的评分函数是模型无关的，可嵌入现有基于图或序列的会话推荐模型中，用于邻居采样权重、图传播或兴趣聚合，适合快速实验验证。
• 工程实现：只需预计算每个物品的间隔分布（如均值/std或分位数），在线时计算当前间隔的相对位置，轻量级，适合低延迟推荐场景。
• 业务洞察：电商中不同品类/商品的生命周期和消费节奏差异大，用统一时间衰减或窗口会损失信息，物品校准的思路可推广到其他时间敏感特征（如商品浏览时长、购买周期）。

RecSys | 2026-06-25 | cs.IR | score 7/10

Temporal Session-Based RecommendationItem CalibrationInterval ScoringGraph Neural NetworksPlug-and-Play

NGM: A Plug-and-Play Training-Free Memory Module for LLMs

NGM：即插即用、无需训练的LLM记忆模块

🧭 LLM记忆增强 · 训练无关即插即用

Nanjing University

提出训练无关的N-gram记忆模块，通过平均token嵌入构建表示并用余弦门控注入，显著提升代码和知识密集型任务性能。

📌 工作参考价值（4 点）

• 电商搜索/推荐中，商品标题、品牌、规格等高频短语可利用N-gram缓存跳过大量计算，直接注入LLM的表示层，提升推理速度与事实准确性。
• 在多轮对话Agent中，可将用户重复提到的实体或结构化信息（如订单号、地址）通过NGM快速恢复，减少遗忘和重复生成。
• 完全无训练，即插即用，无需修改骨干模型权重或增加可学习参数，适合快速A/B测试和已有模型的无损增强。
• 余弦相似度+ReLU的门控机制简单高效，可作为其他知识注入场景（如检索增强生成）中轻量级融合模块的设计参考。

LLM | 2026-05-15 | HF Daily | score 7/10

N-gram MemoryTraining-FreePlug-and-PlayLLMCosine GateKnowledge Injection

MeMo: Memory as a Model

MeMo：将记忆建模为可插拔的专用模型

🧭 LLM ★ 深度解读

National University of Singapore · MIT · A*STAR · University of Tokyo · Liquid AI

一种模块化框架，通过训练小型记忆模型并采用结构化多轮查询协议，无需修改LLM即可融入新知识，同时捕获跨文档关系并抵抗检索噪声

LLM | 2026-05-14 | cs.LG | score 9/10

MemoryLLMKnowledge IntegrationPlug-and-PlayRAGData Synthesis