无索引动态边缘检索：能量尾部感知的部分扫描
🧭 边缘向量检索加速 · 动态 MIPS
Khalifa University
提出 ETAR，通过保留查询高能量坐标与低精度表示加速动态 MIPS，兼顾高召回与简单更新
📌 工作参考价值（4 点）
- 在推荐系统召回阶段，若使用内积打分（如双塔 embedding），可借鉴 ETAR 的查询能量裁剪思路：对 query 向量按平方值从大到小累加，直到覆盖总能量的 90%-95%，仅在这些维度上做部分内积，跳过尾部长尾，大幅减少每次请求的计算量。
- 对于需要频繁更新（新商品上架、用户行为流式更新）的在线召回，ETAR 的无索引设计避免了索引重建成本，天然适配流式数据；可在边缘/移动端部署个性化召回，如手机端本地推荐，利用 ARM 设备上实测最高 6.9 倍加速。
- 低精度表示与全精度 rerank 的组合值得落地：先用低精度（如 int8/float16）估算相似度筛选候选，再对固定数量候选用全精度向量精确重排，实测召回 99.2% 的同时延迟显著下降，适合精度敏感但延迟有限的生产环境。
- 该方法也可用于 Agent 的本地检索记忆或工具调用时的向量匹配，在资源受限环境中实现快速相似度搜索，减少对服务端依赖。
先验证再蒸馏：提示级教师门控的在线策略蒸馏
🧭 On-policy distillation 教师门控 ★ 深度解读
AllSpark Team
通过 verifier 探针按 prompt 门控教师信号，可靠才用稠密 OPD，否则退回 verifier-grounded GRPO
📌 工作参考价值（4 点）
- 蒸馏 / 生成式推荐中不要无条件信任 teacher：可对 teacher 生成的候选或软标签加一道低成本验证。用与最终 reward 一致的验证器（业务规则、点击 / 转化标签、代码单测等）采 KT=3 个样本，按 prompt 级通过率决定是否采用 teacher 信号；不过门就退回基于 outcome 的 GRPO 或直接 mask。
- 利用异步 pipeline 里空闲的 teacher 节点做 reliability probes：推荐系统离线训练中教师打分节点常因等学生 rollout 而闲置，把探针生成放在该窗口可把 GPU 利用率从不足 10% 拉到 70% 以上，end-to-end 时间开销仅约 6%。
- 硬路由优于信号插值：TGOPD 不使用加权混合 OPD 与 GRPO，避免不同密度、不同来源信号互相干扰。工程落地简单，且消融显示大部分收益来自屏蔽坏信号而非 fallback。
- 阈值设置从简：三探针两票通过（KT=3, τ=2/3）或多数投票即可，无需精细排序。对缺少精确 verifier 的开放域任务，可先用可自动判定的弱标签（如规则、分类器）验证，扩展受限时优先关注自信错误的高风险 prompt。
协同进化生成式检索：查询与物品双侧关键词空间的强化学习联合优化
🧭 生成式检索 · 双侧关键词协同进化 RL ★ 深度解读
University of North Carolina at Chapel Hill · Apple
用双侧 LLM 生成关键词并直接做倒排索引匹配，通过 SFT 对齐与交替 GRPO 协同进化，F1 最高提升 36.1%
📌 工作参考价值（4 点）
- 可直接落在电商/广告关键词召回系统：用两个 LLM 分别生成 item 侧搜索词和 query 侧扩展词，再通过倒排索引匹配，天然兼容广告主 keyword bidding 和现有 keyword-based 基础设施，比只优化 query 侧更贴近业务可控性。
- SFT 对齐初始化便宜且有效：先用 base LLM 离线为每个 item 生成关键词，再按相关 item 的关键词池聚合出 query 目标关键词；这样能避免 RL 冷启动，也适合用行为/成交 labels 构造对齐数据。
- item 侧用 counterfactual marginal reward 优化全局 F1 很实用：工程上通过缓存参考索引和只计算受影响 query 集合，避免每次 rollout 重建全量索引；在业务中可以把 F1 换成加权 F-measure，按 precision/recall 优先级调节，例如更严地惩罚无关广告。
- 给 query 生成器加搜索结果或在线提示，能明显提升效果：Internal 数据集上 +Search Results 将 F1 从 0.3963 提升到 0.4379，适合解决拼写错误、非英文、实体型 query；在 Agent 搜索/推荐场景中，可把已有检索结果作为 context 注入生成器。
语言模型可以控制自身注意力
🧭 LLM 长上下文稀疏注意力 ★ 深度解读
KAIST AI · Google DeepMind
提出声明式注意力协议，让模型在思维链中显式声明注意力范围，零训练实现长上下文稀疏注意力
📌 工作参考价值（4 点）
- 在长上下文多轮对话（电商客服、购物助手、推荐解释 Agent）中，把历史对话、商品信息、检索结果切分为可寻址片段，让模型通过 <focus> 标签声明需要关注的片段，可减少 50% 以上的 KV cache 读取，适合大 batch 在线服务降延迟。
- 与 RAG/工具调用结合：将检索到的商品/广告/知识片段作为模拟工具返回的“magic chunk”，模型在推理中自行选择关注哪些片段，避免每步全量扫描，可显著降低多文档推理成本。
- 工程上可直接复用论文的 vLLM 集成思路：通过 hook 改写 KV cache block table 实现块对齐掩码，不改内核、兼容 FlashAttention，适合快速在现有推荐/搜索 Agent 服务中落地。
- DA 的注意力计划以文本形式输出，可审计模型在推荐解释、搜索排序中具体关注了哪些输入，用于优化上下文构造和检索策略；未来还可结合 KV cache offloading 实现可逆上下文压缩，适合长会话 Agent。
语言强化学习的兴起：Verbal RL 统一框架与三大支柱
🧭 Agent 语言反馈驱动学习统一框架 ★ 深度解读
AI Foundations, Capital One · University of Minnesota
提出 Verbal Reinforcement Learning 统一框架，按语言反馈介入时机分为 grounding、deliberative feedback、learning signal 三大支柱
📌 工作参考价值（5 点）
- 在电商推荐 Agent 中，把用户自然语言任务描述（如“推荐适合夏天通勤的连衣裙”）作为 grounding signal，定义目标、商品属性状态和可执行动作（过滤、排序、解释），而不是硬编码规则。
- 推理阶段引入外部工具反馈（库存 API、价格校验、评价摘要）作为 grounded critique，修正推荐结果和解释文案，避免模型自说自话的盲区。
- 将用户对推荐结果的文字反馈（“太贵了”“风格不喜欢”）收集为偏好对，压缩成标量信号用于 DPO/PPO 训练，持续改进推荐策略；同时保留原始文本用于 feedback-conditioned SFT，保留更丰富的纠错信号。
- 训练一个专门的 feedback-tuned critic 来评估推荐解释质量或商品匹配度，替代通用 LLM 自评，能显著提升反馈可靠性和校准性，减少 sycophancy 偏差。
- 对用户反馈做 provenance 追踪，区分真实偏好、噪声和对抗注入，防止恶意反馈操纵推荐策略，尤其在 UGC 电商场景中。
语言与非语言智能体的隐状态协作研究
🧭 LLM 与非语言 Agent 的隐状态协作 ★ 深度解读
Adobe Media and Data Science Research · IIIT-Delhi · IIT Kanpur · SUNY at Buffalo
提出隐状态内部化，将非语言 agent 的连续表示投影为 latent tokens 注入 LLM，显著优于文本化协作
📌 工作参考价值（4 点）
- 用 latent tokens 替代文本描述传递模型信号：在对话推荐或生成式推荐中，若 LLM 需要融合精排模型/用户模型的连续表示（如 embedding、CTR 分布），训练一个轻量投影器（类似 LatentBridge）将这些表示作为 continuous tokens 注入 LLM，可避免将 embedding 离散化或文本摘要造成的信息损失。两阶段训练（先冻结 LLM 训练投影器，再联合 RL/SFT）能稳定收敛。
- 让 LLM 自主决定何时查询子模型：内部化后 LLM 学会任务特定的查询策略（如反事实查询、多步前瞻），且平均调用次数降低，可控制推理成本。在对话式搜索或策略规划中，允许 LLM 按需调用子模型（如检索器、精排器）并注入隐状态，能提升多步推理能力。
- 识别“不可文本化”信号：类似 Puzzle Interest 的任务，如果业务中存在无法用文本代理表示的信号（例如商品有趣度、用户偏好不确定性），latent injection 比 verbalization 有显著优势。可以设计类似评测来量化文本化损失。
- 工程细节可迁移：投影器为三层 MLP，输出维度与 LLM hidden size 匹配；使用特殊 token 锚点 + 连续 embedding 覆盖的方式注入；RL 采用 DAPO 可稳定联合训练，推理成本可控。
CAMIE：面向 Snap 动态商品广告检索的协同参与多模态商品嵌入
🧭 多模态商品嵌入 · 协同参与对比学习召回 ★ 深度解读
Snap Inc.
用用户旅程中的共同参与对微调 LLM/MLLM 骨干，得到统一多模态商品嵌入并上线 Snap DPA
📌 工作参考价值（4 点）
- 用共同参与 pair 替代内容相似度监督：在电商/广告 I2I 召回中，从用户 Session 或归因窗口挖掘共现商品对（view/click/加购/购买均可），用对称 in-batch InfoNCE 微调商品编码器，比单纯内容相似度更贴近转化目标。业界常纠结“只保留高意图事件”，但该文证明：全漏斗事件带来的训练规模增益（+8.9% R@10）大于只保留加购/购买的事件纯度增益（+1.6%），可优先保规模。
- 一个 checkpoint 服务多模态 / 纯文本 / 纯图片三种召回面：通过 renderer 控制字段（image/title/brand/description/category），同一个 MLLM 骨干能同时支持多模态和文本检索。在 Snap 场景文本-only 仅比专用文本微调差 1.1pp R@10，可直接替换独立文本编码器；但纯图片 serving 明显弱于专门视觉塔，电商图像替代类召回建议保留专用 image encoder。
- 行为监督的增益大于骨干升级：对照实验表明，在相同的 co-engagement pair、目标函数、负样本、LoRA 设置下，SigLIP2 和 CLIP 双塔也能达到接近 CAMIE 的召回水平，说明业务里如果已有轻量双塔，优先把训练信号换成共同参与 pair，比急着换 LLM 骨干收益更稳；MLLM 的增量主要在文本侧和训练 headroom。
- 工程部署可复用：离线用 512 维 embedding，线上截取前 128 维匹配现有 ANN 索引，控制索引成本；对百万级商品目录用 10M 训练对即可达到较好效果，训练规模扩展到 100M 对进一步提升，适合电商场景逐步扩量。
超越极化：逐点重排序中思维链的生成式约束
🧭 CoT 推理在逐点重排序中的生成式瓶颈
University of Chinese Academy of Sciences · Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences · Tencent
实证表明 CoT 在逐点重排序中的性能差距跨尺度稳定且训练干预难以消除，根因是离散文本生成限制连续相关性信号
📌 工作参考价值（4 点）
- 在电商搜索/推荐排序中，若用 LLM 做 pointwise 打分（query-item 相关性），应优先选择直接输出数值的评分头，避免让模型先输出 CoT 再打分；CoT 的离散 token 生成会降低排序信号分辨率，导致分数极化和校准偏差。
- 论文证明即使通过 RL、细粒度监督、结构解耦等干预，相对排序 gap 依然存在，说明该瓶颈是范式层面的，不是数据或模型容量问题；业务中不要期望通过调优 CoT 模型达到与直接打分模型相同的排序性能，更务实的方案是改用 listwise/pairwise 方法，或将 CoT 用于 query 理解、解释生成等非排序环节。
- 如果需要可解释推荐理由，建议两阶段：先用直接打分模型完成排序，再用独立的解释生成模型基于已排序结果生成理由，避免 CoT 介入排序决策。
- 设计生成式排序模型时，应尽量避免强制文本推理，可考虑连续表示或隐式推理机制，以减少信息损失。
超越排序准确率：评估 LLM 在复购推荐中引用的特征理由
🧭 可解释推荐 · LLM 特征理由评估 ★ 深度解读
Walmart Global Tech
提出跨模型特征掩码协议，证明 LLM 不适合作复购排序器但可作经验证的推荐解释层
📌 工作参考价值（4 点）
- 生产复购推荐不建议用 LLM 直接打分排序；保留 XGBoost/VNN 等监督排序，LLM 只做解释层。若要尝试，先在小样本验证 LLM 分数是否超过 personal-frequency 等轻量 baseline，不要期望超越监督模型。
- 复购场景解释应引用结构化行为特征（cadence/frequency/recency/user context/item popularity），并约束 LLM 输出 exact feature names；这能把解释绑定到特征，方便 audit 和后续特征消融。
- 用“跨模型特征掩码”评估解释特征质量：对 LLM 引用 top-3 特征做训练集中位数替换，在目标模型上看 Precision/Recall/NDCG 下降；比只看排序分更接近 outcome-grounded，可以与 TreeSHAP/IG 对比，但需注意数据集差异。
- 证据卡建议加 percentile 视图（同用户内/全局 item 分布）帮助 LLM 判断相对强度；文本解释需单独做 groundedness check（group precision/numeric consistency），防止流畅但不可靠的解释。
从检索结果中学习：语义检索的在线 RL 微调
🧭 语义检索 · 在线 RL 微调 ★ 深度解读
Alibaba Group
提出 PAO，在冻结文档索引下只对正 advantage 样本做 RL 更新，避免 embedding 几何塌缩并提升检索效果
📌 工作参考价值（4 点）
- 工业双塔召回中文档索引冻结是常态，PAO 的 RL 更新只作用于 query encoder，无需重建索引；可直接改造现有 REINFORCE：对 advantage 加 I(A>0) mask，并加入 KL 到预训练 reference policy，工程落地成本低。
- 如果业务上用 reranker 或点击信号作为 reward 做在线 RL，不要无差别惩罚低 reward 样本。标准 policy gradient 的负向 push 会破坏预训练语义流形；优先只利用正 reward 的 pull 信号，能更稳定地做 retriever-reranker 对齐。
- 与直接蒸馏 reranker soft distribution 相比，positive-only policy gradient 在冻结索引下更稳，尤其深层召回 Recall@50 提升更明显；当目标是对齐精排偏好时，可优先考虑 PAO 而非全局 KL 蒸馏。
- 使用标准化 advantage 降低方差；β=0.1~0.3、τ≈1.0 是较稳健的超参区间。注意 reward model 的偏差会传导到召回，若 reranker 偏好标题党，需要多目标或额外约束。
CRISP：基于结构质量路由的悬崖感知输入自适应稀疏预填充
🧭 动态稀疏注意力·长上下文预填充优化 ★ 深度解读
University of Oregon · Adobe Research · Hanoi University of Science and Technology
用结构质量代理替代JSD路由，以噪声地板阈值替代累积覆盖阈值，消除长上下文预填充的O(n)噪声积累
📌 工作参考价值（5 点）
- ## 可借鉴点
- 如果电商/Agent 场景中需要对长商品描述、评论、用户会话或多轮记忆做长上下文 LLM 推理加速，prefill 阶段可优先考虑动态稀疏注意力；CRISP 的 Cstruct 路由只需最后 query block 的代理注意力在首尾 anchor 区间做切片，省去 JSD 需要的 pooled matmul 与 KL 开销，工程实现更轻。
- 稀疏 token/block 选择不要用固定累积覆盖（如 top-p 累计 0.95）。有 attention sink 的模型容易早停在 sink 漏掉信号，或为凑阈值收 O(n) 噪声；改为相对噪声地板阈值（如 block 质量 p_j > αμ），α=1.0 可作为免调默认，业务侧更稳。
- 部署时建议加 context length 门限：论文在 8k 时稀疏仍比 dense 慢约 4x，64k 以上才开始反超；短 prompt 服务不必开启稀疏预填充。长上下文 RAG/检索类任务收益最大，聚合/多跳任务需评估精度-覆盖权衡。
- 可复用 VS/PE 双路径思想：对低熵/高集中 head 用结构模式选择，对高熵 head 用 pooled estimation；不要对所有 head 使用同一种稀疏策略。
电商生成式检索：联合学习 Embedding 与 Codebook 的同商品簇一致性方法
🧭 生成式检索 · 联合训练 Embedding/Codebook ★ 深度解读
Alibaba Group
用同商品簇信息联合训练 embedding 与 codebook，消除两阶段误差累积，提升生成式电商检索召回
📌 工作参考价值（4 点）
- 电商场景中，可利用商品簇（同 SKU/同款不同卖家）作为强监督：对每个商品采样同簇商品并计算均值 embedding，加 MSE 拉近商品 embedding 与簇均值，能显著提升 Semantic ID 的一致性；可直接复用现有商品关系（ASIN/货号）构造训练信号。
- 避免两阶段训练：将 RQ-VAE 的 codebook 与 embedding model 联合优化，同时引入 query-product 对比学习，让 codebook 不再只依赖静态商品 embedding；实现时可将 InfoNCE 分别加在原始 embedding 和量化重构表示上，端到端对齐查询与商品空间。
- 引入新 token 的 LLM 微调可采用两阶段：先 product info -> product ID，再 query -> product ID，让模型先掌握新特殊 token 的语义，再学习查询到 ID 的映射，对生成式检索 fine-tune 更稳定。
- 规模配置可参考：5 层 codebook、每层 32 码、768 维、GTE 编码器、Qwen2.5-7B；20M 商品 + 40M query 训练即可获得稳定提升；ALSP 指标适用于评估同簇商品 ID 的一致性。
E-SENS：面向负约束检索的排除敏感惩罚方法
🧭 RAG · 负约束检索优化
Independent Researchers
训练无关重排方法 E-SENS，用陷阱查询相似度惩罚排除概念，减少否定敏感检索中的违规召回
📌 工作参考价值（4 点）
- 电商搜索/推荐中用户常含否定词（如“非雪纺”“不含酒精”），现有嵌入召回容易命中否定概念；可借鉴 E-SENS：用 LLM 抽取否定片段生成 trap query，在召回或重排阶段对候选商品做相似度惩罚，无需训练即可上线。
- 广告否定关键词可类似处理：为每个否定词构造排除向量，从广告相关性分数中减去，减少 exclusion 流量上的无效曝光。
- 工程实现上，trap query 应尽量紧凑，避免引入多余语义；惩罚强度作为超参，可在评测集扫描 recall-violation 曲线，取满足召回底线下的最小违规点。
- 在 Agent/RAG 知识召回中，若用户明确排除某类内容，可由 LLM 先提取排除约束并生成 trap query，对召回结果重排过滤，降低后续生成违规风险。
Enoki：高效的多层次幻觉检测
🧭 幻觉检测 · 多粒度事实校验
提出 Enoki 开放信息抽取框架，借助文本锚定事实验证与投影，同时完成 claim 级验证和 span 级定位，资源更少定位更优
📌 工作参考价值（4 点）
- 借鉴 Enoki 的共享表示：用一次 Open IE 抽取得到文本锚定三元组，同时输出 claim 级事实校验和 span 级风险片段定位，避免分别部署两套系统，适合电商商品描述、营销文案等生成内容的实时事实性校验。
- 工程上采用多后端设计，LLM-based、encoder-based、rule-based 抽取器统一接口，便于按场景在准确率与推理成本之间切换：高价值场景用 LLM 抽取保障精度，低延迟批量场景用 encoder 或规则。
- 将未支持三元组投影回原 span，可直接用于前端高亮或解释，提升 Agent 输出可解释性与用户信任，例如客服回答中高亮存疑片段。
- EnokiQA 数据集提供 claim 与 span 对齐标注，可用于微调内部小模型或评测幻觉检测模块，降低自建标注成本。
分层多智能体系统实现长程遥感任务可靠求解
🧭 多智能体分层协作与强化学习优化 ★ 深度解读
Beijing University of Posts and Telecommunications · Hunan Normal University
提出 Manager-Specialist 分层多智能体架构，通过步骤级验证和分层强化学习大幅提升小模型长程工具调用与任务成功率
📌 工作参考价值（4 点）
- 复杂长链路业务（选品→人群定向→素材生成→投放→复盘）可借鉴 Manager-Specialist 分层：Manager 负责全局规划、步骤级验证和失败重规划；Specialist 按业务阶段分组工具（如召回/排序/出价），减少跨域工具混淆。
- 在中间产出设置 schema/一致性/约束检查，维护结构化中间状态，支持 fail 重试、uncertain 交叉验证，避免错误在长链路中传播；这对广告投放、推荐策略生成等容易因上游错误导致下游失效的场景尤其有用。
- 训练技巧可复用：两阶段 SFT 先注入领域知识再做 workflow 对齐，能低成本提升小模型业务能力；强化学习时对工具调用按 tier 给分（幻觉工具 -1，域内错误工具 -0.5，正确工具 0.5+执行分），比只奖励最终成功提供更稠密训练信号；Manager/Specialist 分开计算 advantage 后合并 loss，共享 backbone + LoRA 减少部署成本。
- 在小模型上通过结构化层次和验证控制即可接近大模型效果，业务资源受限时不必盲目上大参数量模型。