注入还是导航？交易法律文档LLM分析的令牌高效检索
🧭 RAG检索策略比较与效率优化
Syntheia Pty Ltd
比较全量注入、嵌入检索与LLM导航索引，证明检索可大幅降低token消耗且质量不降
📌 工作参考价值（4 点）
- 结构感知分块（structure-aware chunking）：对电商中的长文档（商品说明书、合同、政策）进行结构分块，避免全文注入，大幅降低推理成本，可迁移到产品FAQ或合规文档问答。
- 嵌入检索+重排序管道：嵌入检索（NAVEMBED）配合重排序能在长文档QA中达到与全量注入几乎相当的质量，同时输入token减少17⁻30倍，适合构建低延迟、低成本的商品知识库检索。
- 紧凑结构化索引与LLM导航：对于成本敏感的Query改写或推荐解释生成，借用LLM导航结构化索引（NAVINDEX）的思路，用极轻量的索引替代大段文本，使回答上下文减少约56倍，成本降低25%。
- 缓存交叉规则：论文导出的封闭解可用于决策何时缓存全量文档更划算，可借鉴到广告素材库或推荐理由生成等有固定语料的场景，指导缓存策略以优化总成本。
AgentLens：以轨迹审查评估生产级编程代理
🧭 代理评估 · 轨迹审查
Explyt · St. Petersburg Department of the Steklov Institute of Mathematics · St. Petersburg State University
提出基于LLM审查完整交互轨迹的编程代理评估基准，提供可解释评价用于诊断与回归检测。
📌 工作参考价值（4 点）
- 从结果评估转向过程评估：在电商对话Agent（如导购助手）中，不仅评估最终推荐商品是否准确，还需审查对话轨迹的指令遵循、工具调用、错误恢复，以提升用户体验。
- LLM轨迹审查用于回归检测：借鉴nightly评估管道，用LLM编写审查脚本，自动对比新旧版本Agent的轨迹，捕捉产品回归（如回答风格变差、幻觉增加）。
- 形式化验证+LLM审查混合策略：对可客观验证的部分（如商品ID有效性、API调用格式）用形式化检查，对主观质量（解释流畅性、推荐理由合理性）用LLM审查，兼顾准确性和灵活性。
- 开放任务评估：对于生成商品描述、推荐文案等没有唯一正确答案的任务，采用整体轨迹质量评分，替代简单的pass/fail。
CanniUplift：缓解电商激励分配中商家与激励双重蚕食效应的 uplift 框架
🧭 Uplift 建模 · 多源蚕食缓解 ★ 深度解读
Taobao & Tmall Group of Alibaba
通过平台全局对齐和兑换分解去噪，解决电商 uplift 建模中的跨店替代与激励混合噪声问题
📌 工作参考价值（4 点）
- 平台级全局对齐 (PGA) 可直用于多卖家营销场景：在卖家级 uplift 模型上增加一个聚合平台 GMV 的约束头，训练时要求所有候选卖家的预测之和逼近用户真实平台总 GMV，隐式捕捉跨店替代效应，缓解仅优化单店带来的“零和”增量。实现简单，可在现有 local uplift 模型上扩展。
- 兑换分解去噪 (RDD) 显著净化 uplift 信号：将处理方的结局拆分为“兑换路径”和“未兑换路径”，通过兑换概率加权融合，避免未兑换的有机转化被误归因为激励增量。该思路可用于含有兑换/核销环节的优惠券、满减活动，即使无兑换标签，也可通过类似分解减少伪增量。
- Treat-Attention 增强个性化激励表示：用候选激励（店铺+券）作为 query 对用户行为序列做交叉注意力，生成候选级交互向量，更精细捕捉用户对不同激励的异质性响应。可迁移到广告、推荐场景的候选感知特征交互。
- Tweedie 损失适用于零膨胀长尾 GMV 预测：直接建模 GMV 的复合分布（点质量+连续正值），相比 MSE 更稳定，适合电商 GMV、转化金额等变量的 uplift 预估。
CompactionRL：基于上下文压缩的强化学习训练长程智能体
🧭 长程Agent强化学习与上下文压缩
Tsinghua University
提出CompactionRL，联合优化任务执行与上下文压缩，使LLM智能体从压缩长轨迹中学习，显著提升长程编码任务性能
📌 工作参考价值（4 点）
- 多轮对话推荐/搜索Agent的上下文压缩训练：可借鉴CompactionRL思路，让推荐Agent在交互中自主生成紧凑的对话历史摘要，代替人工设计的截断或固定压缩模板，通过强化学习优化压缩质量和任务完成度的平衡，提升长对话下的推荐准确率和用户满意度。
- 联合损失的Token级归一化设计：在处理多目标强化学习（如推荐准确性与解释性文本生成）时，可采用token级别的损失加权，根据序列长度动态调整不同损失项的权重，避免长文本损失主导训练，适用于训练同时生成推荐理由和结果的Agent。
- 跨轨迹广义优势估计（GAE）：当训练数据包含多个不同推荐会话（轨迹）时，可借鉴跨轨迹GAE的技巧，更稳定地估计优势值并分配信用，改善大规模离线RL训练的效果。
- 推理阶段的上下文压缩部署：训练得到的自主压缩能力可简化在线推理，使推荐/搜索Agent在有限上下文窗口内支持更长的用户交互历史，降低抛弃历史带来的信息损失，同时节约上下文计算成本。
电商自主购买代理的最优购买时机决策
🧭 最优停止 · 动态阈值 · LLM选择策略 ★ 深度解读
Rotman School of Management, University of Toronto
在平稳、贝叶斯、鲁棒三种信息假设下推导购买阈值策略，并用Amazon价格数据验证LLM更适合模型选择而非直接决策。
📌 工作参考价值（4 点）
- 价格监测与购买代理可将购买决策建模为最优停止问题，根据可用信息选择策略：历史数据充足且平稳用动态阈值；分布未知用贝叶斯后验更新阈值；数据极稀疏或环境不稳定时用随机阈值保证最坏情况性能（竞争比/最小最大遗憾）。
- 工程架构上可采用双层设计：由LLM或启发式诊断选择信息假设模型（平稳/贝叶斯/鲁棒），再由优化层求解阈值策略；实验显示这种“LLM选择+OR执行”的混合模式优于LLM直接做买卖决策。
- 理论给出的阈值单调性（对剩余时间、价格调整频率、消费者估值、信念的单调关系）可用于实时调整代理的购买激进程度，例如随着剩余时间减少或消费者估值升高自动提高接受价格。
- 鲁棒策略中的随机阈值思路为应对“闪购”式价格突然回涨提供了保护，特别适合促销追踪、库存紧张等场景。
DSpark：半自回归生成与置信调度推测解码
🧭 推测解码 · 半自回归 · 置信调度 ★ 深度解读
Peking University · DeepSeek-AI
半自回归架构缓解并行预测因果衰减，置信调度动态剪枝低信心后缀，系统吞吐与交互速度显著提升
📌 工作参考价值（4 点）
- 半自回归草稿架构：在并行骨干后追加轻量马尔可夫/RNN头，仅引入极低延迟开销（<2%），大幅缓解并行预测的多模态冲突和接受率衰减。类似思路可用于电商搜索推荐中的对话助手、自动回复生成等低延迟场景，在保持并行速度的同时提升生成连贯性。
- 置信度驱动的动态调度：通过置信头估计前缀生存概率，结合硬件吞吐曲线动态选择验证长度，让高并发下自动回收低信心token的计算资源。在推荐系统的消息推送、搜索词改写等LLM调用中，可借鉴此机制，根据服务负载动态调整生成预算，避免盲目固定长度造成的容量浪费。
- 异步调度与核函数解耦：生产部署中采用历史预测近似当前容量，延迟调度与CUDA图回放兼容，同时通过展平序列与标记张量实现变长验证的高效执行。工程上为推荐系统的LLM推理服务（如推荐理由生成、用户查询补全）提供了可行的低开销动态批处理方案。
- 顺序温度缩放校准：对累积置信度进行逐位置校准，使生存概率估计更准确，支撑硬件感知调度。该校准方法可直接复用于需要可靠概率输出的在线调度场景，如流量分发、个性化推送的置信过滤。
对象感知的视觉token合并：多向量VL检索的高效压缩
🧭 多向量视觉-语言检索中的对象感知token压缩
The Catholic University of Korea · Korea University · AIGEN Sciences Inc.
提出对象感知token合并框架SaMer，在MaxSim下将视觉token压缩至K个质心，减少16.09×存储并提升R@1
📌 工作参考价值（4 点）
- 可迁移到电商多模态搜索索引压缩：商品图片的 ColPali 表示通常 token 量极大，SaMer 的对象感知合并能保留关键物体证据，缩减索引存储 16 倍, 适合大规模商品库的轻量化多向量检索。
- 训练时仅需对象标注，推理时零开销：借鉴其合并先验设计，可在商品多模态模型训练阶段利用目标检测或分割标注指导 token 合并，推理阶段无需检测器，直接端到端压缩，实现低成本部署。
- MaxSim 友好压缩策略：SaMer 通过聚类形成语义质心而非直接丢弃 token，确保每个质心覆盖不同对象区域，使查询仍能匹配到细粒度证据，这比传统剪枝/池化更适合电商搜索中属性或区域敏感的匹配（如 logo、文本区域）。
- 可与现有双塔架构兼容：只需微调共享投影层，冻结视觉与文本主干，改动量极小，适合在已有的 ColPali/ColQwen 商品检索服务中插入，快速获得压缩与精度收益。
基于前缀重放的多轮在线策略蒸馏
🧭 Agent 多轮交互蒸馏 · 前缀重放 ★ 深度解读
Microsoft Research · University of Amsterdam
用教师前缀重放替代环境交互，以步骤衰减平衡学生相关性与教师可靠性，实现加速免工具调用的Agent蒸馏
📌 工作参考价值（4 点）
- 离线环境训练Agent：若业务中存在多轮对话推荐、工具调用Agent（如商品推荐对话、搜索推荐辅助），可用教师模型的历史交互轨迹作为离线重放池，学生只在重放前缀上生成动作，无需实时调用外部API或模拟器，大幅降低训练基建成本。
- 前缀分布控制策略：将多轮蒸馏转化为“有效前缀分布设计”的思路，可迁移到序列生成或对话生成的密度蒸馏，通过在轨迹不同位置施以衰减权重，抑制后期累积误差对监督信号的影响，改善学生模型的长程表现。
- 复用RL训练轨迹：教师进行在线策略强化学习（如GRPO）时产生的轨迹可直接作为蒸馏前缀池，无需额外采集费用，该“免费”数据复用模式可用于业务中已有RL训练管线的场景，提升样本效率。
- 多环境统一蒸馏：若需要训练一个同时处理多个垂直领域（如搜索、推荐、工具调用）的通用Agent，可将各环境的教师轨迹分别收集后合并为一个离线池，从而避免同时部署多个在线环境，降低系统工程复杂度。
渐进式披露在 LLM 维护 Wiki 知识库中的预注册消融研究
🧭 Agent 自主路由优化知识检索
AI for Altruism (A4A)
工具型 Agent 直接推断页面路径，避免索引加载，成本节约来自更精准的访问而非预期节省
📌 工作参考价值（4 点）
- 在 Agent 设计中不必预装大型索引，让模型自路由推断所需页面路径，结合轻量目录可大幅减少工具调用和 token 消耗
- 电商商品知识库可借鉴“目录+摘要”结构，推荐引擎先查目录再按需取详情，减少无关上下文
- 自路由 Agent 在无需严格协议时效率更优，RAG 或 Agent 工作流可给模型适当自由度
- 预注册消融与工具性效度威胁分析可用于构建严谨的对比评估，尤其多臂实验的变量控制
量化并扩展迟交互检索模型的理论容量
🧭 迟交互检索理论容量分析
Center for Intelligent Information Retrieval, University of Massachusetts Amherst
证明 MaxSim 可复制任意非负稀疏内积并引入 Signed MaxSim，实现任意实向量内积复制，带来理论解释和实验提升。
📌 工作参考价值（4 点）
- 在搜索/推荐中遇到带否定词的查询（如"无糖巧克力"），可直接使用 Signed MaxSim 建模负向信号，比标准 MaxSim 有理论保障且效果显著提升（实验 nDCG@10 从 0.008 到 0.788）。
- MaxSim 等价于软 OR 聚合，能评估正 CNF 逻辑表达式（如"红色 AND (裙子 OR 连衣裙)"），可将其作为复杂用户意图分解与合并的工具，为多条件筛选提供统一相似度计算。
- 理论证明 MaxSim 的表达能力至少不弱于向量内积，且更节省表示空间（k 稀疏只需 O(k) 维），在物品量巨大的电商图库中可替代点积作为高效匹配算子。
- Signed MaxSim 使迟交互模型能处理既有正例又有负例的混合向量，适合用户多兴趣建模与多模态表示，可直接用于召回或精排阶段的相似度计算。
MetaSkill-Evolve：通过双时间尺度元技能进化实现 LLM Agent 递归自改进
🧭 Agent 递归自改进 · 双时间尺度进化
LMU Munich · The Chinese University of Hong Kong · MCML · MemAgents Lab
提出双时间尺度框架，让 Agent 的任务技能和元技能（改进流程）都能递归自进化，提升长程任务表现
📌 工作参考价值（4 点）
- 技能文件自动演进：可将推荐对话 Agent 的回复策略、多轮流程写为 Markdown 技能文件，由 Agent 根据交互反馈自我反思、改写，减少人工维护成本
- 双层进化机制：慢速更新“如何改进”的元技能（分析/检索/分配/提议/进化配置），快速更新具体任务技能，使 Agent 能适应不同任务分布，可迁移到推荐策略的自适应优化
- 单一冻结模型复用：整个改进流水线共享一个冻结 LLM，无需额外训练，适合线上部署 Agent 快速迭代实验
- 整体借鉴：在推荐/搜索场景中，为 Agent 引入可编辑的技能库，并记录执行轨迹，用 LLM 从失败案例自动提炼改进规则，实现持续自提升
MIRAGE：无需训练的模型无关防御，抵抗检索增强生成中的错误信息污染
🧭 RAG 错误信息防御与事实性恢复
Mohamed bin Zayed University of Artificial Intelligence (MBZUAI) · INSAIT, Sofia University “St. Kliment Ohridski”
提出一种训练无关、模型无关的防御方法，通过跨文档声明图和多源一致性门控恢复RAG事实性
📌 工作参考价值（4 点）
- 在电商搜索/推荐系统里，若用 RAG 增强物品描述或评论摘要，可借鉴 MIRAGE 的多源一致性验证：对多路召回（不同数据库、不同站点）抽取原子声明，用 NLI 构建声明图，仅保留多文档支持的声明，减少单品描述中的虚假信息。
- 面向 Agent 系统中检索知识冲突的应对：当检索到的证据相互矛盾时，可以设置“防御门”退回参数化回答或拒答，避免 Agent 被污染信息误导，提升决策可靠性。
- 污染检测的工程化思路：定义最小编辑的污染类型（如明确错误、矛盾、误导、捏造），可用于线上 A/B 测试或离线评测，量化检索或生成环节对输入噪声的鲁棒性。
- 无需训练、模型无关的设计使其能即插即用到现有 RAG pipeline，适合快速迭代的工业场景，无需重训练或更换生成模型。
Nemotron-Labs-Diffusion：统一自回归、扩散与自推测的三模式语言模型
🧭 扩散语言模型 · 自推测解码
单模型支持自回归、扩散、自推测三种解码模式，在吞吐和效率上显著超越开源AR和扩散LM。
📌 工作参考价值（4 点）
- Agent 系统低延迟推理：在对话或实时推荐 Agent 中，可切换至自推测模式，用扩散模型快速生成草稿再由 AR 验证，有效降低首 token 延迟和端到端耗时。
- 离线批量生成任务：生成大量商品描述、广告文案等场景，启用纯扩散模式并行解码，大幅提升吞吐，降低 GPU 成本。
- 灵活部署与资源管理：三模式架构允许根据 Concurrent Users 动态切换：高并发用 AR 减少排队，低并发用自推测提升交互体验，离线任务用扩散最大化硬件利用率。
- 训练范式迁移：联合 AR 与扩散训练的策略可借鉴至推荐系统，用于同时捕捉序列依赖（用户行为序列）和全局规划（推荐列表多样性），提升生成式推荐的质量。
RoboTALES: 用任务对齐模拟未来学习推理引导的机器人策略
🧭 LLM/VLM 协同推理与视频想象策略
University of California, San Diego
提出层次LLM规划器与VLM批评家联合引导视频生成，使机器人策略在长视野操作任务上显著优于现有方法
📌 工作参考价值（4 点）
- 层次化LLM任务分解可用于复杂推荐流程：将多步推荐（如先吸引兴趣再推荐买点）拆解为子目标序列，指导生成式模型逐步生成商品描述、话术或创意，提升过程可控性。
- VLM critic 反馈对齐生成目标：在文案/素材生成中引入视觉-语言模型做“想象结果”评估，通过 reward 微调内部表征，让生成内容更贴合最终转化意图，类似 RLHF 但针对多模态生成。
- 单阶段端到端训练框架：无需预训练视频模型分离，直接把规划、想象与策略学习串联优化，适合将 Agent 的规划模块与执行模块联合训练，减少模块间误差累积。
- 用生成式模型做“世界模拟器”：在推荐系统中，可以预测用户兴趣演化轨迹（想象未来行为），据此提前布局推荐序列，类似用扩散模型生成用户状态 rollouts。
视觉即统一多模态生成
🧭 视觉任务统一为多模态指令生成
SenseTime Research · Nanyang Technological University · The Chinese University of Hong Kong · Peking University · Shanghai Jiao Tong University
将异构视觉任务统一为多模态生成，单一模型通过指令输出文本或图像，匹配专家系统
📌 工作参考价值（4 点）
- 统一生成范式可迁移至电商推荐：将召回、排序、解释等任务统一为自然语言指令驱动的多模态生成，降低多任务工程开销。
- 指令与视觉提示机制可直接用于多模态搜索Agent：允许用户通过自然语言和区域/属性提示灵活指定需求，模型输出文本或结构化推荐结果。
- 异构标注转指令数据集的方法可复制到推荐场景：将点击、购买、评论等行为数据转化为指令-回答对，支持推荐模型的指令微调。
- 从预训练多模态模型出发，混合任务数据保持能力的训练策略，适合构建兼具通用知识与业务专长的推荐Agent。