HARP：面向 LLM 推荐的训练-free 双画像 Agent 通信
🧭 LLM Agent 推荐 · 双 Profile 通信 ★ 深度解读
Harbin Institute of Technology, Shenzhen · Great Bay University · Shenzhen Loop Area Institute
将 LLM 推荐重构为用户-物品双 Profile 通信，用检索侧同质性门控和反思更新提升推荐准确率
📌 工作参考价值（4 点）
- 将用户与物品建成 schema 对齐的双 Profile（用户：interests/quality_bar/context/behavior，物品：serves/quality_signal/context/audience），物品侧用规则抽取零额外 LLM 调用，降低大规模 item 画像成本
- 把 profile 相似度作为检索阶段的门控因子（BaseScore * (α+(1-α)H)）重排序候选，而不是拼进 reranker prompt，避免 context 带宽被挤占，实测是最大收益来源
- 用户画像更新采用单次 reflective pass + 确定性 critic 门控：基于最近 hit/miss 案例生成候选画像，只接受覆盖度更高的提案，防止无梯度更新造成画像漂移
- 通道分解设计（pairwise disjoint + 线性加权）让 homophily 分数按通道可加性独立归因，便于线上 debug 和分通道调权
RangeSWA：连续扩散语言模型的免训练长度外推
🧭 连续扩散语言模型 · 长度外推
Clemson University · University of Ottawa · PayPal · actA V A AI
提出训练无关的 RangeSWA，通过滑动窗口+远程块摘要+动态检索缓解连续扩散语言模型长文本生成的重复与漂移
📌 工作参考价值（4 点）
- 长序列生成（如商品详情文案、营销邮件、多轮对话 Agent 的长期记忆）可借鉴“局部窗口 + 远程块摘要 + 检索”的混合注意力策略：不重新训练，只改推理时 attention mask 和 token 组织，减少长输出的重复和跑题。
- 位置重映射与条件注意力校正的思路可迁移到已有 LLM/扩散推荐模型做长度外推：将训练时位置范围线性/非线性映射到更长范围，同时对 conditioning 的注意力权重做校正，避免因训练分布偏移导致的崩溃。
- 去噪阶段自适应窗口调度值得在扩散式生成推荐（如连续扩散生成 item embedding 或描述）中尝试：前期大窗口保持全局一致性，后期缩小窗口强化局部细节，可平衡多样性与准确性。
- 但连续扩散语言模型本身在电商/广告场景尚未成为主流，落地需先评估该范式与自回归模型相比在成本、延迟上的优势；该方法主要为学术贡献，工程迁移门槛较高。
J-Comm：基于雅可比引导的 LLM 智能体间潜在通信
🧭 多智能体潜在通信与推理加速
The University of Melbourne · Shanghai Jiao Tong University
用无需训练的 GEAR 潜在推理与 H+J 隐式/雅可比双通道接口，让不同宽度 LLM 智能体高效传递推理状态并大幅减少文本 token
📌 工作参考价值（4 点）
- 可将 H+J 接口用于跨模型 Agent 协作：H 通道传递连续输入，J 通道注入雅可比中间状态，无需共享 KV cache 或相同宽度，适合电商多模型（如召回/排序/文案 Agent）异构部署。
- GEAR 属于训练免重排：在已有模型 embedding 上按几何共识单调优化 token 候选，可直接作为 LLM 推理后处理，低成本提升生成质量。
- J-Comm 相对 TextMAS 减少 19.2–74.8% 文本 token，能在 Agent 密集交互（如商品文案生成、对话式推荐）中显著降低推理延迟和 token 成本。
- J 通道的 vocabulary-indexed Jacobian-lens 坐标提供中间计算的可观测视角，可用于模型诊断、蒸馏或跨模型知识迁移。
更好的推理，而非更大模型：结构锚定的高效可靠推理框架
🧭 结构化不确定性削减 · 多轮推理
Huawei Research Canada · Huawei Technologies Co., Ltd. · Central University of Finance and Economics
训练无关的 SGUR 框架用先验加权图匹配与主动信息增益消减多轮推理不确定性，医学诊断 Hit@3 达 92.5% 且 token 少 5 倍
📌 工作参考价值（4 点）
- 可把业务知识构建成共享 schema 的异构图数据库，将用户当前行为/属性作为 query graph，再做先验加权部分图匹配，而不是对所有边等权检索；先验权重可由历史数据中的关系频率或决策增益得到，重点强化与最终决策相关的边。
- 主动信息增益策略可迁移到对话式推荐或 Agent 客服：不要问次要属性，而是按信息增益最大的节点/属性发起下一轮询问或补特征，既减少 token 消耗，也降低用户负担，同时系统性剪枝候选空间。
- 训练-free 框架可叠加在任意 LLM 后端上，适合业务快速上线验证；较小后端模型配合结构约束，可逼近甚至超过 10 倍规模的大模型，有助于降低线上推理成本。
- 对 Graph-RAG 类方案有直接启示：不要把所有图边一视同仁，先验权重让检索更聚焦决策相关关系，减少噪声，提升命中率。
P2T：免训练将过程奖励分解为 Token 级奖励
🧭 RL 奖励归因 · Token-level reward ★ 深度解读
Chinese University of Hong Kong · Hong Kong University of Science and Technology · University of Hong Kong
提出训练免费的 token 级奖励归因方法，用梯度一阶泰勒近似从 PRM 分解过程奖励，加速 RL 训练并提升推理表现
📌 工作参考价值（4 点）
- 若业务中已有可微分的奖励模型（如用户满意度预测、转化模型、Critic、视觉质量模型），可直接用其梯度对生成序列做 token/action 级归因，无需训练新 reward model；公式简单：token influence ≈ ∇_{e_i} R(E)·(e_i - e_null)，一个 backward pass 拿到全序列。
- 将粗粒度奖励作为 baseline 再叠加归一化影响权重，而非直接用影响分数作为奖励，能显著降低梯度噪声；η 从 0.25 到 1.0 都稳，业务上无需精细调参。选择 null token 用模型 padding token 比 EOS/zero embedding 更稳。
- 训练 Agent/生成式推荐策略时，如果只有最终 outcome label（点击/转化/任务成功），可接入现成 PRM 或可微分 reward model，用 P2T 方式分解到每个 action/token，加速 RL 收敛；论文显示达到同等效果可少 3-4 倍训练步数。
- 注意 PRM 质量决定上限；若 PRM 在目标域不可靠，收益有限，应先验证 PRM 在该域判断准确，且 α 可从小增大。
知识图谱即文件：工具创建与使用协同演化的 Agent Harness
🧭 Agent 知识图谱搜索与工具演化 ★ 深度解读
Texas A&M University · University of Oregon
让 LLM 直接读写完整节点/边文件并现场编写图访问代码，训练自由即在 STaRK 上超越最强基线
📌 工作参考价值（4 点）
- 对文本富商品/内容知识图谱，不要只提供固定的 neighbors/get_node/search 工具（截断 top-k 易漏掉关键证据）。可把完整节点记录和边表导出为 jsonl/tsv 文件，让 agent 直接用 shell/grep/Python 做任意图访问，避免预定义 API 的证据瓶颈。
- 大输出存文件：多跳遍历或全节点扫描常超出上下文，可把完整输出写入 scratch 文件，只给模型看 head/tail 和大小提示，后续代码再搜索/过滤完整输出。这个 trick 对电商商品大量评论、论文摘要、知识图谱邻居列表等场景很实用。
- 允许 agent 在一个任务内多轮编写并修订 Python 程序，而不是只允许单次代码生成或纯工具调用。消融显示多轮编程相比单次程序提升约 6.2 overall H@1，相比 shell-only 提升 6.9 点；单次程序只恢复约十分之一增益。
- 让执行反馈驱动工具演化：保留历史代码和输出文件，复用前面程序出现的节点 ID，失败后优先修订上一程序。trajectory 中 48.4% 的程序包含前序输出里的 ID，失败后 88.6% 的下一程序会修订上一程序；更强模型会更早编程、更多复用输出、更高修订率。
GeoPair：保持几何的跨层分解实现无训练 Transformer 压缩
🧭 Transformer 压缩 · 跨层矩阵分解
MWS AI · ITMO University
提出训练无关的跨层共享字典分解框架 GeoPair，通过优化跨层配对保持各层激活几何，实现高效 Transformer 压缩
📌 工作参考价值（4 点）
- 可直接用于电商/广告场景中 Transformer 塔（如用户行为序列建模、多模态编码器）的后训练压缩：用校准数据离线优化跨层权重配对，无需微调，适合快速上线低延迟推理。
- 跨层共享字典分解能显著降低大模型部署内存，尤其适合多任务或多模态推荐模型中共用 backbone 的场景；比起逐层独立分解，它利用层间冗余，参数效率更高。
- 结构化稀疏与共享字典联合优化，能同时减少参数量和计算量，对移动端或边缘推理有直接工程价值。
- 方法论上可迁移：不要简单按相邻层或启发式层级合并，而是用优化目标显式保持每层激活几何，等价于用校准数据做结构搜索，在压缩与精度之间取得更好平衡。
反思、修订、复用：GUI Agent 的无训练技能演化
🧭 GUI Agent 技能演化 · 训练自由反思修订
Zhejiang University · UESTC
提出训练自由的 EvoSkill-GUI，将技能作为多文件包通过反思-修订-复用循环持续从执行反馈中改进，在三大 GUI 基准上最多提升 16.2%
📌 工作参考价值（4 点）
- 技能包多文件结构化：将 retrieval metadata、plans、backup localization、failure-recovery rules、failure cases 分文件管理，业务 Agent（如客服自动化、营销流程）可借鉴把关键过程知识模块化，方便局部更新，避免整体重写。
- 反思-修订-复用闭环：部署后从失败轨迹自动修订技能，不需重新训练模型；推荐/广告 Agent 可利用线上失败样本持续改进执行策略，提升动态环境鲁棒性。
- 即时 in-rollout 修订 + 隔离 critic：执行时遇到弹窗/页面变化可立刻根据备用定位和恢复规则调整；critic 在信息隔离下诊断避免被错误轨迹污染，对构建可靠自动化流程有参考。
- 训练自由，低成本迭代：无需 GPU 训练，仅依赖 LLM 推理与文件编辑，适合需要快速适应界面改版或流程变化的电商运营自动化场景。
HarnessVLN：统一免训练具身导航的 Agent Harness 框架
🧭 具身导航 · 训练免 Agent 框架
Nanjing University · AGIBOT · Tsinghua University
提出训练免的 Agent Harness 框架，通过统一工具接口、三重验证与时空图记忆，统一指令跟随与物体目标导航并刷新 SOTA
📌 工作参考价值（4 点）
- 统一工具接口与 Harness 分层：将感知、检索、接地、执行等封装为工具，由 Harness 统一校验、派发、更新，可复用到电商 Agent 中，把商品召回、意图识别、策略执行等模块解耦为工具，降低切换模型/场景的成本。
- 规划结果的多重验证：在派发动作前用空间证据、几何可行性、子目标一致性做校验，可借鉴到搜索广告投放 Agent：对出价、选品、文案等 proposal 做规则/模型校验，减少无效执行与资源浪费。
- 分层事件记忆与持久时空图：将任务进度、执行历史、失败标注沉淀为结构化图，类似用户 session 内的行为轨迹 + 商品关系图，可用于推荐/对话 Agent 的状态追踪、失败恢复与增量证据累积。
- 可替换 Navigation Executor：把高层计划与底层执行解耦，同一 Harness 协议可跨模拟器与真机迁移，可借鉴到推荐实验平台：策略层统一，执行层适配不同流量/线上环境。
ViSAR：面向视觉文档问答的无训练自适应-k检索
🧭 视觉文档RAG·自适应k检索
INSA Lyon, CNRS, LIRIS UMR 5205 · EPITA Research Laboratory (LRE) · Lowit
在嵌入空间构造查询条件页面级相似度矩阵，动态决定检索页数，降低RAG延迟并保持或提升准确率
📌 工作参考价值（4 点）
- 可借鉴动态 top-k 思想：在电商/广告场景中，为商品详情页、广告落地页或用户评价做 RAG 时，不再固定召回条数，而是根据查询复杂度动态截断，能显著减少输入 LVLM 的 token 数和首字延迟。
- 利用 late-interaction 编码器产生的 page-level 相似度矩阵作为查询语义激活图：该方法无需训练，直接基于 embedding 空间的 MaxSim 等运算，可在现有向量检索链路上快速实现，适合业务侧低成本验证。
- 将相似度矩阵的统计结构（如激活分布、峰值集中度）作为检索质量信号，用于重排或决定是否触发多跳检索/补充上下文，类似于推荐中 uncertainty-aware 的截断策略。
- 论文结果显示自适应检索在多个编码器与 LVLM 组合下最高降低 58.7% 延迟且准确率不降，证明“检索质量感知的上下文裁剪”在视觉富文档问答中有效，对多模态商品理解、店铺资质审核等 RAG 任务有直接迁移价值。
RSLM：面向近似最近邻搜索的训练自由向量量化
🧭 向量检索 · ANN索引量化 ★ 深度解读
Google Zurich · Technical University of Munich · University of Copenhagen · Google San Jose
训练自由的分块旋转量化方案，在1-4bit/维下保持召回，降低ANN索引内存与带宽
📌 工作参考价值（4 点）
- 在 IVF/树型索引的 rescoring 阶段，用训练自由旋转量化（尤其相对残差量化）替代 trained PQ/SQ，可省去离线 k-means 训练，快速接入新 embedding 版本或新业务数据集；4-bit RelApproxGlobal 在多个数据集达到 100% recall@20@30，2-bit 达 99%+ recall@20@40，适合 RAG/推荐候选召回的大候选池。
- 采用 block-wise FWHT（块大小 128）实现 O(D) 旋转复杂度，避免 dense rotation O(D^2) 和全局 FWHT 的维度 pad 问题；在非标准维度如 2049 时，编码吞吐比 TurboQuant 快约 36 倍（128k vs 3.5k items/s），适合线上实时 query 预计算。
- 显式校正最终重建向量的 L2 norm（而非只校正残差）对 MIPS 排名很重要，能替代 ScaNN anisotropic loss 的调参；实现时用 2 字节自定义浮点 UE7M9 存 scale，Rslm4Lite 把 scale 隐写到前 16 维的最高 bit，实现零额外元数据，内存对齐更优，吞吐显著提升。
- 在低 bit 场景（1-2 bit）Rslm_Global 超过 Faiss PQ 和 ScaNN AVQ，说明固定 codebook + 旋转 + 全局 norm 校正是一个可复用的低带宽候选评分方案；但注意低维数据增加 scale 存储占比（如 glove 100d 1-bit 增加 15%），更适合高维 embedding。
PACE：统一的压缩-提取范式加速视觉语言模型推理
🧭 VLM推理加速 · token压缩
Sun Yat-sen University · Power Dispatch Control Center, Guangdong Power Grid Co., Ltd. · Shenzhen Loop Area Institute
训练无关的VLM推理加速框架，通过像素自适应压缩和动态双注意力提取，仅用10%视觉token保留93.8%性能，TTFT加速3.1倍
📌 工作参考价值（4 点）
- 电商商品图像理解：对大规模商品图进行VLM推理（如属性提取、图文一致性校验）时，可借鉴APC在编码前评估像素信息密度，对背景简单或冗余区域降采样，降低视觉编码器计算量，显著缩短首token延迟，适合实时性要求高的在线服务。
- 多模态Agent在搜索/推荐中的应用：当Agent需要理解用户上传图片或商品图来辅助推荐时，DDAE融合视觉编码器内部信号和LLM语义信号，可在严格token预算下保留关键视觉细节（如商品logo、纹理），避免性能损失，提升交互响应速度。
- 训练无关、即插即用的设计便于快速集成到现有VLM服务，无需微调即可部署，适合频繁迭代的线上系统；10%视觉token保留93.8%性能、3.1倍TTFT加速的结论可作为token预算设定的参考基准。
- 架构上，将压缩前置到编码器之前、提取后置到LLM之前，形成两级优化，这种“先压缩后提取”的范式可以启发多模态推荐中其他模态（如视频帧、音频）的token优化，在保持性能的同时降低整体推理成本。
Case2Flow：面向患者病例的指南流程图多模态检索
🧭 多模态检索 · 医疗流程图
Karlsruhe Institute of Technology · Helmholtz Information and Data Science School for Health (HIDSS4Health) · University Hospital Essen
提出训练-free 的 CRISP 评分，抑制无用 patch 并加入双向对齐，显著提升病例到流程图检索
📌 工作参考价值（4 点）
- CRISP 的 patch 抑制与歧义 token 折扣可直接迁移到商品主图/广告创意的多模态检索：背景杂乱、促销文案 token 常引入伪匹配，在 late-interaction 阶段做后处理即可提升 Recall，无需重训模型。
- 双向 query-image 对齐思路适用于“用户 query ↔ 创意/商品图”互搜场景，能降低单向相似度误报，可作为排序重打分模块加入现有召回链路。
- FlowAtlas 的合成对齐数据管线（从结构化文档/决策树生成 case-flowchart 对）可借鉴用于生成电商 SOP/政策文档与商品或广告场景的匹配对，低成本构造多模态检索训练/评测数据。
- 失败模式分析（关键词过度依赖、背景 patch 匹配）值得在电商图文检索评估中复现，帮助定位精排模型偏置。
PhysCaP：物理信息探索增强的代码即策略智能体
🧭 Agent 主动探索与物理属性估计
National Taiwan University · NVIDIA Research · National Yang Ming Chiao Tung University
引入物理信息探索层与双智能体设计，以更少交互估计物体质量与刚度，提升主动感知效率
📌 工作参考价值（4 点）
- 交互式推荐/对话式 Agent 可借鉴 Planner-Prioritizer 双层设计：Planner 决定何时向用户提问或停止探索，Prioritizer 用启发式优先级过滤候选问题，避免过度打扰用户，同时降低 LLM 调用成本。
- 免训练物理属性提取的思路可迁移到用户/商品潜在属性推断：利用点击、滚动、停留等隐式交互信号估算价格敏感度、质量感知等，无需额外标注或传感器。
- 在需要在线探索的推荐策略中，不要盲目试错：先用先验知识过滤不合理动作，再对剩余候选按信息增益排序，可显著减少实验次数和线上成本。
- 工程实现上，Prioritizer 采用规则化启发式而非 LLM 打分，能兼顾效果与推理时延，适合高并发在线场景。
训练自由 LLM 推荐的后置物品精炼：利用协作信号
🧭 训练自由 LLM 推荐 · 协作信号后置精炼 ★ 深度解读
KAIST · Snap Inc.
提出 CoRRe，在不微调 LLM 的前提下，通过共购图方向传播与流行度模长校准精炼物品嵌入，大幅提升训练自由推荐效果
📌 工作参考价值（4 点）
- 在电商/推荐中，若已用 LLM 生成用户兴趣 query embedding，可对物品标题 embedding 做后处理：构建 item-item 共购图（R^T R），做对称归一化传播，再与原始语义 embedding 加权组合，无需训练就能融合协作信号，适合作为零成本召回/粗排增强。
- 物品流行度对检索分数影响显著，可对 embedding 模长做 popularity^alpha 校准；超参 alpha 通常取 0.05-0.2，数据集不同最优值差异大，建议按业务域单独验证。
- 该方法证明 pre-LLM 的 RAG/rerank 注入协作信号增益有限，post-LLM 对 item 表示直接精炼更有效；在资源受限或冷启动场景可优先尝试训练-free 后处理路线。
- 若业务有共购/共点击数据，可以完全复用该框架：用 LLM 文本编码器得到统一向量空间，再叠加图传播与模长校准，实现快速迭代验证。
FlowEvo：工作流与可执行技能共演化的自进化智能体
🧭 Agent 自进化 · 工作流与技能共演化 ★ 深度解读
Southeast University · Rensselaer Polytechnic Institute · The Hong Kong University of Science and Technology
训练免更新框架，将成功工作流编译为可执行技能，并在推理时通过直接复用或技能条件生成持续提升智能体能力
📌 工作参考价值（4 点）
- 在导购/客服/搜索推荐 Agent 中，把验证通过的会话或工具调用轨迹编译为带接口与测试的技能条目，而不是仅存 prompt 文本；可显著降低重复探索的 token 成本，适合高并发商品推荐、Query 改写等场景。
- 采用「动态生成 / 直接执行 / 技能条件化生成」三级路由，并设直接执行失败自动回退；可嵌入商品属性抽取、推荐解释、营销文案生成等 workflow，结构化任务优先走缓存式执行。
- 用对比式效用追踪（compare skill applied vs withheld）做负迁移治理：对 prompt 版本、策略技能、推荐模板做持续 AB 式统计，低于阈值自动降权/停用，防止线上记忆库被低质量经验污染。
- 该框架在可验证信号（结构化 action、code、math）下更稳，对无明确 reward 的开放对话需谨慎；其「小模型受益大」结论可用于低资源场景，用记忆库补偿模型能力。
划分支持集并重构残差：面向视频生成与世界模型的训练-free稀疏注意力
🧭 训练-free 稀疏注意力加速视频 Transformer
Texas A&M University
训练-free稀疏注意力，通过响应耦合分区与探针拟合残差重构，在视频生成和世界模型中保持质量并加速1.48-2.61倍
📌 工作参考价值（4 点）
- 对长序列用户行为建模的 Transformer 推理，可借鉴训练-free 稀疏注意力：先按 query 与 key 的响应相关性做块划分，再用少量 probe query 精确计算残差，用仿射校正补偿被跳过的注意力，避免重新训练。
- 适合已有预训练电商/推荐大模型在线上做低成本加速，不需改权重，直接以更低的 executed-pair density（如 22-26%）换取 1.5-2.6x 端到端吞吐提升。
- 探针拟合成本低、效果贡献大，可以在工程实现中作为轻量残差模块嵌入，优先保证 probe 数量和选择策略，而不是复杂的分区方法。
- 若有多头注意力且头间分布差异明显，可做 head-dependent 稀疏策略，本方法中的响应耦合分区思路可迁移到不同 head 和长序列场景。
ParaTempo：基于时序置信度的高效并行推理
🧭 LLM 推理 · 分支级动态计算分配
Shanghai Jiao Tong University · University of Pennsylvania
无需训练的异步并行推理框架，用时序置信度驱动分支剪枝/早退/分叉/投票停止，降延迟 21.8-32.2%、token 18.1-30.3% 且精度持平
📌 工作参考价值（4 点）
- 生成式推荐/Agent 多路径决策：可把“周期性探测答案分布 + 时序置信度”作为分支管理信号，替代 final consensus 或局部 token confidence，更早识别低质分支；适合电商复杂 Agent 的规划/工具调用、搜索 Query 多路改写投票等在线场景。
- 工程实现无需训练，异步不等待慢分支：对商品文案多版本生成、RAG 多路检索答案生成等，可借鉴“低置信剪枝 → 高置信早退 → 释放算力分叉新分支”的编排，降低 token 量与 P99 延迟。
- 时序置信度计算可复用：对每个分支按滑动窗口聚合最近 probe 的答案分布，度量 dominant answer 集中度，作为收敛预警/停止投票信号，比 token-level entropy 更稳定；在生成式推荐语义 ID 投票或用户意图多解评估中可试。
- 停止条件可参考 confidence-weighted vote 集中而非全分支完成，适合需快速响应、长尾分支拖累明显的业务。
减少矩阵乘法：面向 LLM 推理的输入自适应矩阵积降维
🧭 LLM 推理加速 · 动态矩阵乘剪枝 ★ 深度解读
University of Chicago · Stony Brook University · Independent Researcher
提出训练无关、输入自适应的 RMM，通过激活 L2 范数 TopK 收缩乘轴，以可预测方式加速 LLM 推理
📌 工作参考价值（4 点）
- 在线服务 LLM 推荐/Agent 时，可优先对 attention 内部 QK^T / PV 做按输入 L2 范数的 TopK 降维，RR 0.8 左右通常几乎无损；MLP 保持保守，避免模型崩溃。
- 用 retention ratio 作为统一算力档位，线上可按 QPS/延迟动态调节，获得平滑可控的精度-效率折中，适合流量峰谷调度。
- 实现时用 Triton 融合 norm+TopK+gather+GEMM，避免选择开销抵消收益；长序列（>2048）下加速更明显，更适合长用户行为摘要/推荐解释生成。
- 动态 per-token 维度选择比静态子空间更稳；工程上可在 prefill 后固定或定期刷新，减少逐 token TopK 开销。
对齐即一切：时间序列基础模型的免训练检索增强预测
🧭 检索增强预测 · 免训练时序对齐
Stanford University · Amazon
提出免训练的时序对齐方法Align-RAG，证明冻结模型自身即可动态利用检索上下文，无需训练适配器
📌 工作参考价值（4 点）
- 在电商销量/广告点击预测中，可直接使用“幅度缩放+相位平移”的对齐方法，将检索到的相似时间序列与当前序列对齐后输入冻结预测模型，无需训练任何适配器，降低工程复杂度。
- 用户行为序列预测（如下次购买时间、点击路径）可借鉴此思路：对检索到的历史行为窗口进行均值和方差归一化，并基于互相关计算最佳滞后，再作为冻结基座模型的上下文，有望提升零样本泛化能力。
- 对推荐系统的RAG设计启示：冻结大模型本身已具备动态利用检索上下文的能力，应优先采用无参数的输入对齐基线，避免过早引入可学习的融合模块，减少训练成本和过拟合风险。
- 工程实现简单高效：对齐仅需计算均值和方差（幅度缩放）及整数滞后（相位对齐），易于集成至现有检索增强推理流水线，可作为时序预测任务的默认基线。
因果情节记忆：基于反馈的代理修复
🧭 Agent 反馈驱动修复 · 因果记忆
Mohamed bin Zayed University of Artificial Intelligence · Ho Chi Minh City University of Technology (HCMUT)
利用双极性因果记忆与类型条件检索，使冻结LLM在修复时复用过往成功修正，提升Text-to-SQL准确率
📌 工作参考价值（4 点）
- 电商对话代理或搜索助手可将每次修复后的最终成功方案存入正例记忆，同时记录曾尝试但无效的修改方向作为负例，后续相似问题直接检索复用，避免重复推理。
- 在推荐系统的生成式修复（如商品推荐查询改写、筛选条件修正）中，可引入粗粒度失败类型分类器（如“意图理解错误”、“约束冲突”），据此条件化检索历史案例，提升修正速度与准确率。
- 采用混合检索（BM25词汇匹配+稠密向量相似）来召回相关历史经验，既能捕捉表层词重叠，又能挖掘语义相近的跨场景模式，适用于电商Agent的案例库构建。
- 无需模型更新，仅靠记忆即插即用，适合快速迭代的线上代理系统，特别适合在推荐对话、售后引导等需持续从错误中学习的场景部署。
面向多模态大模型的趋势感知训练自由视觉Token剪枝
🧭 多模态LLM高效推理 · Token动态剪枝
Xiamen University · Xiamen Ocean Vocational College · Sino-Russian Research Center for Digital Economy
通过捕捉注意力流动量实现动态可逆的视觉Token剪枝，避免“晚期绽放”关键token被过早丢弃
📌 工作参考价值（4 点）
- 在多模态Agent或电商内容理解中，处理商品图片、视频时可采用注意力动量追踪，识别并保留初始被低估但深层关键的视觉token，避免误剪，提升下游任务精度。
- 训练自由特性可直接集成到现有多模态LLM推荐或对话系统，无需重新训练，降低部署成本；超过77.8%的token缩减可显著加速推理，支撑实时交互。
- 可逆剪枝设计为复杂场景（如用户拍摄的模糊、遮挡商品图）提供容错，动态修正机制可适配其他模态的token筛选，如文本序列中后期关键token的保留。
- 方法不依赖额外模型结构，适合在电商搜索、广告生成等流量密集型场景中快速实验并上线，作为通用的效率优化插件。
情感驱动自纠正：免训练提升视觉语言模型可靠性
🧭 情感信号触发VLM自纠正
University of Information Technology, Ho Chi Minh City · Carnegie Mellon University · Harvard University · Northwestern University · Mohamed bin Zayed University of Artificial Intelligence
发现情感信号可零训练激活VLM自我反思，提出外部验证+情感提示的免训练自纠框架ESC
📌 工作参考价值（4 点）
- 在对话推荐/商品问答中，当模型首次回复可能不可靠时，注入情感提示（如“再仔细想想，这个推荐似乎有问题”）触发自我纠正，提升解释质量。
- 无需微调，低成本增强多模态模型在商品图片理解、广告文案生成等场景的准确性，尤其适合资源受限的线上系统。
- 结合简单的验证器检测潜在错误响应，可作为Agent内部反思模块，在输出前自动触发二次推理，减少事实错误和幻觉。
- 情感作为控制信号的想法可迁移至用户交互设计，例如用户不满时自动触发模型重新生成更谨慎的回答，改善体验。
基于注意力头的训练无关多模态文档问答归因方法
🧭 多模态归因 · 注意力头定位
University of Massachusetts, Amherst · Adobe Research, San Jose
利用预填充注意力头与校准阈值实现训练无关的多模态问答证据定位，速度提至七分之一。
📌 工作参考价值（4 点）
- 在推荐系统、对话 Agent 生成解释时，可借助注意力头快速定位关键证据（如用户历史行为、物品描述片段），无需额外训练，降低工程复杂度。
- 利用特定层的注意力头选择与校准阈值，可做实时归因，适合高延迟敏感的电商推荐解释场景。
- 思路可迁移至多模态商品问答：结合商品图片和描述，用类似方法自动高亮答案对应的图片区域或文本 span，提升购物体验。
- 训练无关的特性适合冷启动或频繁变更的情景，避免为归因重新训练模型，降低迭代成本。
用于免训练滑动窗口适配的NLL引导全注意力层选择
🧭 长上下文推理效率优化
Analemma
提出用答案标记的负对数似然下降来指导层选择，仅1/4全注意力层即接近1/2的精度
📌 工作参考价值（4 点）
- 对于需要长上下文的电商对话Agent或多文档RAG，可部署混合注意力模型，用该方法离线校准选择保留全注意力的层，显著降低推理延迟和KV cache开销
- 校准只需在目标数据集上计算每层用滑动窗口后的NLL下降，耗时约15分钟，无需训练，可快速适配新模型或新任务
- 该方法不依赖特定模型架构，可广泛应用于各种Hybrid Attention模型，灵活调整计算预算
- 在Agent设计中，若需要平衡长期记忆与推理效率，该层选择策略可作为推理成本的精细控制手段
信任边际：大语言模型中参数记忆与检索证据的无训练仲裁
🧭 训练无关的RAG答案仲裁 · 参数记忆与检索置信度权衡
DCST, Peking University
提出TrustMargin，一种无训练即插即用的仲裁层，利用模型自身似然评分选择直接生成或RAG答案
📌 工作参考价值（4 点）
- 在电商问答或商品知识查询中，可利用似然比（TrustMargin）自动判断直接回答与检索增强回答的置信度，无需额外训练，即插即用。
- “参数先验边际”思想可迁移到推荐解释生成：检测模型对检索到的商品属性是否“熟悉”，避免将不常见的属性强行加入解释。
- “证据绑定边际”提供了一种无监督的问题-证据相关性度量，可用于过滤噪声检索结果，提升 RAG 在电商客服、商品描述生成中的可靠性。
- 该方法不依赖特定检索器，可集成到现有 RAG 流水线中，对生成式推荐的答案选择、多路召回结果仲裁具有参考价值。
解耦语义与逻辑：一种面向视频RAG的免训练由粗到精流水线
🧭 视频RAG · 免训练粗精检索与生成
Huazhong University of Science and Technology
提出免训练两阶段Video RAG方案：粗召回用纯视觉/文本摘要避免噪声模态，细粒度推理过滤用LLM实现逻辑对齐与persona遵守
📌 工作参考价值（5 点）
- 面向电商/Agent/生成式推荐从业者，可借鉴的工程化落地点：
- 两阶段解耦范式：将检索拆分为语义召回与逻辑重排序，召回时主动隔离ASR/OCR等噪声模态（仅用视觉摘要和全局文本），保持向量空间纯净，避免低质量信号污染；在推理阶段再引入全模态，适合多模态内容理解时对抗噪声。
- LLM作为自适应过滤Agent：用商业LLM实现迭代推理式重排序，显式检查候选项与用户persona的逻辑一致性，可迁移到对话式推荐或query改写中，用于剪枝语义相似但意图不符的候选item/query。
- Prompt Sculpting强约束生成：通过prompt工程迫使生成器输出结构化JSON并带精确来源引用，保证可追溯性；在电商场景中可用于从多源视频/直播/评论中生成规范化的商品摘要或问答，降低幻觉。
- 全免训练方案：不依赖标注数据进行微调，适合快速业务验证和资源受限环境，可直接复用现有视觉/文本编码器和LLM。
时序逻辑视频问答：主动证据搜寻代理方案
🧭 多模态代理 · 时序视频理解 ★ 深度解读
Harbin Institute of Technology (Shenzhen) · HKUST
提出训练无关的 ReAct 代理，通过多粒度时间戳采样与问题类型感知策略，在 TimeLogic 上取得 77.13 平均准确率。
📌 工作参考价值（4 点）
- 在商品视频或直播片段中，可借鉴 multi-granular toolkit 思路：先全局粗览，再对关键时段精细扫描，替代均匀抽帧，降低推理成本的同时捕捉关键动作边界。
- 问题类型感知的策略路由 (question-type-aware exploration) 可直接迁移到多模态 Agent 的 prompt 工程：根据输入语义类别动态选择工具、迭代深度与思维预算，避免“一刀切”的策略浪费。
- 时间戳与帧交错注入 (frame–timestamp interleaving) 可让 VLM 将时间关系转化为数值比较，这是一种轻量的时间推理增强 trick，适合处理带有时间戳的商品描述或用户行为序列。
- 语料感知的预算分配 (corpus-adaptive budgeting) 对异构数据源（如店铺直播 vs. 商品讲解视频）自动调节帧数/步数，适合工程中需要处理不同长度、密度视频的场景。
无需训练的循环 Transformer：冻结模型推理时循环层块提升性能
🧭 推理时循环复用层块
在冻结的预训练模型上，通过阻尼子步骤循环中间层块，无需微调或架构改动即可显著提升推理性能
📌 工作参考价值（4 点）
- 可直接对现网 LLM（如 Qwen、DeepSeek 等）在推理时套用循环包装器，无需重新训练或微调，适合快速上线和成本敏感场景。
- 循环中间若干层并除以迭代次数的阻尼策略，可作为一种轻量级「深度增强」手段，在低延时约束下提升模型推理质量，例如用于电商 Agent 的多步推理、复杂指令遵循等。
- 该方法不修改模型权重和架构，可配合现有推理优化（KV cache、量化等），可在已有工程框架中低成本实现。
- 提供的层选择策略（中间层块）和迭代次数阻尼关系，可作为超参直接迁移到其他模型上，用于微调受限环境下的性能补强。
Swift Sampling：利用泰勒级数采样时序惊喜帧
🧭 视频帧重要采样 · 时序惊喜检测
Boston University · Microsoft Research India
用泰勒展开预测视频特征轨迹，选出偏离预测的时序惊喜帧，零训练、极低开销
📌 工作参考价值（4 点）
- 轻量级无训练帧选择器：仅需计算一阶/二阶特征差分的泰勒残差，无需辅助网络或调参，可直接插入现有多模态大模型的视频帧采样阶段，大幅降低 token 开销。
- 适用于电商视频理解：在商品直播、产品解说等长视频中，可自动定位产品亮点或内容转折，提升视频问答、摘要生成的效率与准确性。
- 通用时序惊喜检测：泰勒残差思想可泛化至用户行为序列、对话流等，用于抽取信息量大的关键时刻，辅助构建更高效的 Agent 记忆或推荐特征提取。
- 经济部署：增加的计算量仅为基线的 0.02 倍，比同类方法便宜 30 倍，适合大规模视频处理或实时场景。
NGM：即插即用、无需训练的LLM记忆模块
🧭 LLM记忆增强 · 训练无关即插即用
Nanjing University
提出训练无关的N-gram记忆模块，通过平均token嵌入构建表示并用余弦门控注入，显著提升代码和知识密集型任务性能。
📌 工作参考价值（4 点）
- 电商搜索/推荐中，商品标题、品牌、规格等高频短语可利用N-gram缓存跳过大量计算，直接注入LLM的表示层，提升推理速度与事实准确性。
- 在多轮对话Agent中，可将用户重复提到的实体或结构化信息（如订单号、地址）通过NGM快速恢复，减少遗忘和重复生成。
- 完全无训练，即插即用，无需修改骨干模型权重或增加可学习参数，适合快速A/B测试和已有模型的无损增强。
- 余弦相似度+ReLU的门控机制简单高效，可作为其他知识注入场景（如检索增强生成）中轻量级融合模块的设计参考。
达尔文家族：MRI可信加权进化合并实现语言模型推理的无训练扩展
🧭 LLM
通过梯度自由的权重空间进化合并，无需训练即可重组已有检查点的潜在能力以提升推理性能
克服动态盲区：面向VLA模型的免训练步速与路径校正
🧭 具身智能 · 动作块时域校正
Case Western Reserve University · The Hong Kong Polytechnic University · Tsinghua University · InspireOmni AI
提出训练无关的步速与路径校正模块，以闭式解统一修正VLA动作块在动态场景下的时域不一致性
📌 工作参考价值（4 点）
- 动作块预测与时域动态不匹配的问题在推荐系统的序列决策中同样存在（如用户兴趣漂移），pace-path 分解的思路可以启发将预测序列校 正解耦为“强度调整”和“方向微调”，提升模型在非平稳环境下的鲁棒性。
- 免训练的推理时校正算子可以作为即插即用的外挂模块，适配现有模型而不需重训，在线上快速修正预测偏差，降低工程落地成本。
- 将动态环境的影响抽象为两个正交分量的闭式解，这一设计可借鉴到 Agent 多步规划的在线修正，在状态变化时实时微调动作序列，避免完全重规划。
- 在电商推荐中，类似动态环境的用户行为变化，可利用该思想对生成的推荐序列进行在线校准，平衡探索与执行效率。