HARP:面向 LLM 推荐的训练-free 双画像 Agent 通信
🧭 LLM Agent 推荐 · 双 Profile 通信 ★ 深度解读
Harbin Institute of Technology, Shenzhen · Great Bay University · Shenzhen Loop Area Institute
将 LLM 推荐重构为用户-物品双 Profile 通信,用检索侧同质性门控和反思更新提升推荐准确率
📌 工作参考价值(4 点)
- 将用户与物品建成 schema 对齐的双 Profile(用户:interests/quality_bar/context/behavior,物品:serves/quality_signal/context/audience),物品侧用规则抽取零额外 LLM 调用,降低大规模 item 画像成本
- 把 profile 相似度作为检索阶段的门控因子(BaseScore * (α+(1-α)H))重排序候选,而不是拼进 reranker prompt,避免 context 带宽被挤占,实测是最大收益来源
- 用户画像更新采用单次 reflective pass + 确定性 critic 门控:基于最近 hit/miss 案例生成候选画像,只接受覆盖度更高的提案,防止无梯度更新造成画像漂移
- 通道分解设计(pairwise disjoint + 线性加权)让 homophily 分数按通道可加性独立归因,便于线上 debug 和分通道调权
KITE:将检索构建为长期对话记忆的决策过程
🧭 Agent 长期记忆检索决策化
Memoket AI Research · Universität Stuttgart · Georgia Institute of Technology · Tsinghua University
KITE将长期对话记忆检索变成受控主题索引上的可检查决策过程,LoCoMo/LongMemEval-S准确率93.5%/86.0%,仅约1.6k tokens
📌 工作参考价值(3 点)
- 在电商客服/对话式推荐 Agent 里,长期记忆不要只依赖 embedding 相似度;可以维护一个受控的主题/商品/意图词汇表,把查询编译为显式检索计划,根据问题包含的时间、实体、主题条件去定位历史证据,提升可审计性。
- 对结构化主题索引遗漏的表面细节,用 BM25 等稀疏词法检索兜底,适合找回订单号、SKU、地址、优惠码等精确字符串,避免 embedding 模糊匹配丢失关键信息。
- 受控索引的动态扩展与合并可用于治理电商知识库和会话 topic;固定 lookup/ranking 执行路径可降低 LLM 调用成本,每题仅约 1.6k reader-context tokens,对高并发成本敏感的 Agent 场景有直接复用价值。
长时智能体记忆:互补式记忆构建与整合
🧭 Agent 长程记忆 · 混合存储与整合 ★ 深度解读
Microsoft
提出情节记忆+结构化关系记忆的混合存储,并通过离线聚类整合压缩16%以上记忆且性能几乎不降
📌 工作参考价值(4 点)
- 会话级记忆构建:电商客服/导购 Agent 可在 session 结束后批量抽取两类记忆,减少逐轮 LLM 调用,同时保留跨轮上下文;关系记忆采用 (实体, 关系, 客体, 时间戳, 来源上下文) 结构,便于后续查询、更新和溯源。
- 双存储分离检索:查询时同时检索情节记忆和关系元组,关系条目更短、预算内可多取,适合「用户历史偏好/订单/承诺」等电商 QA 场景;固定 top-k 且 k=10 已饱和,能省 token 和延迟。
- 离线 UMAP+HDBSCAN 聚类整合:定期对 embedding 聚类做 merge/delete,可压缩 16–34% 存储,适合长生命周期用户档案;min_cluster_size 取 5–10 能在压缩率和准确率间取得平衡。
- 关系记忆的 provenance/timestamp 设计可直接迁移到推荐系统的用户画像:不仅存「用户喜欢什么」,还存「何时为何说」,避免旧偏好覆盖新偏好。
长程持续学习中的 Harness-模型协同框架
🧭 Agent 持续学习 · 经验检索与参数更新协同
Huzhou Normal University · Alibaba Group · Zhejiang University · Ningxia University
HaMo 将轨迹蒸馏为策略经验卡供即时检索,并以经验条件持续学习目标实现快慢协同,提升长程 Agent 的保留与迁移能力。
📌 工作参考价值(4 点)
- 在电商/Web agent 中,把成功购物、搜索、交易等多步轨迹压缩成策略级经验卡(目标、前置条件、操作步骤、适用上下文),检索时按当前任务上下文召回,而不是直接存原始 log,可降低噪声并提升跨任务复用。
- 采用快慢结合:线上先走非参数记忆即时复用,离线用检索覆盖度筛选「紧凑且互补」的少样本轨迹做参数更新,避免频繁全量训练和遗忘;该思路可直接迁移到推荐系统的持续学习/增量训练。
- 经验条件训练目标可迁移到 RAG-style agent:不仅把检索到的策略拼进 prompt,还要用专门目标让模型学会读懂检索结果、判断其是否适用、并按策略执行,这比单纯加外部 memory 更稳定。
- 若做导购、push 文案、搜索 query 生成等长程任务,可建立跨 session 流程经验库,按场景召回候选策略,再用小模型微调内化,兼顾线上 latency 与跨域泛化。
Lean Finder V2:面向 Mathlib 的语义搜索与查询消歧
🧭 语义搜索 · 查询改写与消歧
Simon Fraser University · Rice University · University of Pittsburgh
用对抗训练生成大规模短歧义查询,结合模型微调与输入层改写,在 MathlibQR 上至少相对提升 11%
📌 工作参考价值(4 点)
- 用对抗训练补足“短歧义 query”数据:电商搜索里“苹果”“nike 卫衣”等短查询经常缺 context;可仿照用生成模型 + 判别器迭代生成大量带标签的歧义 query,而不是只靠真实日志,显著扩充训练集,解决数据稀疏。
- 模型层 + 输入层双层消歧:同时 fine-tune 检索模型(增强对短 query 的鲁棒性)并在检索前对 query 做改写/补全(如加类目、属性、别名),两者互补;在商品搜索或 Agent 工具检索中可分开评估增量,避免只做单一层。
- 面向真实短查询做人类评估基准:构建少量人工标注的短 query benchmark,用 unlabeled 真实 human/agent 交互做 ranking 评估,比离线 dense retrieval 指标更贴近线上体验。
- 检索质量直接挂钩下游 agent 任务成功率:与 Claude Code 集成后证明 proof success 提升,说明 Agent 工具检索/商品召回改善能直接转化为任务成功;建议将检索召回作为 Agent 流程中的关键优化点。
语言智能体记忆的价值
🧭 Agent 记忆价值决策论 ★ 深度解读
MemTensor · Shanghai Jiaotong University · The Hong Kong University of Science and Technology (Guangzhou)
提出决策论框架,量化记忆在保留、使用、恢复与修订中的价值,并用反例和诊断揭示信息时序、检索接口、读策略与需求不确定性的作用
📌 工作参考价值(5 点)
- 把存储内容和 reader 使用分开评估:线上 Agent 记忆系统故障时,不要只看检索命中。可以固定 reader,对比不同持久化状态(例如完整日志 vs 摘要 vs 索引)的 realized value;再用固定证据、换 reader 评估使用缺陷。这能避免把“没存”和“没用”混为一谈。
- 存 locator 而非完整内容:论文的 pointer 例子显示,一个与答案互信息为 0 的地址指针,能把付费恢复成本从期望 2.5 次读取降到 1 次。在电商/推荐 Agent 中,记忆可以存用户会话的检索键、商品 ID 索引或版本号,而不是完整上下文;需要时通过 BM25 或 database read 获取,兼顾容量与延迟。
- 写记忆时考虑未来 query 是否已知:query-agnostic 写入需要更多容量保留区分度。构建用户级 memory 或 session 摘要时,如果未来任务是开放式的,不要过早做不可逆压缩;保留可恢复路径(比如原始日志指针),按需求概率和恢复成本做分配。
- 把测量过程 J 和系统 Σ 分离:论文中同一输出在 strict operation rule 下 17/28 接受,consequence-based check 下 22/28 接受,差异 17.9 个百分点。做线上 A/B 或 offline eval 时,应固定评分规则、损失定义和 label 标准,否则会把 scorer 变化误判为记忆系统改进。
- 修订时记录依赖关系,按依赖闭包更新:不要按项目/文档边界更新记忆。记录 source、object、version、reason,商品属性或用户偏好变化时,只更新受影响的结论、计划和缓存,减少误改和遗漏。
真实 PMID,错误论文:生物医学声明验证代理的 Harness 设计
🧭 Agent 检索 harness 设计与瓶颈分析
Independent Researcher
对照实验表明检索而非推理是医疗文献验证代理的瓶颈,自写查询代理提升召回但预算利用不足
📌 工作参考价值(4 点)
- 在需要检索工具的 LLM 应用(如电商导购、客服问答、商品知识库问答)中,直接用用户原始 query 做单次检索往往不可靠,应让模型自己改写/生成多个查询,或采用 ReAct 式迭代检索,能显著提升召回和最终答案质量。
- 检索质量通常是整体效果的瓶颈,而不是推理能力:即便给予黄金文档,模型准确率仍有较大提升空间,因此应优先投入优化检索/召回环节,而非只调大模型推理。
- 对返回结果进行“存在性检查”不够,必须做相关性校验:模型可能吐出真实存在的商品 ID 或文档 ID,但与问题无关,应增加一个独立的 LLM judge 或相关性过滤步骤。
- 让 agent 具备搜索预算意识:实验发现 agent 只使用了不到一半的搜索预算,可设计显式的预算消耗策略(如强制步数、每次搜索的查询数量限制)以充分探索检索空间。
检索增强生成(RAG)的组合性评估
🧭 RAG 流水线组合评估
IBM · Weizmann Institute of Science
系统评估RAG各阶段技术组合,发现孤立增益不可叠加且最优组合随语料规模变化
📌 工作参考价值(4 点)
- 在电商/Agent的RAG知识库或购物问答中,不要只按单模块离线指标选型:三种检索技术孤立预测+47%联合提升,组合后仅+17%,单点提分可能被其他阶段抵消。
- 同时跟踪检索质量(如NDCG@10)和最终忠实度/业务指标;组件对两者增益方向可能相反,避免为召回率牺牲生成质量。
- 语料规模从小规模实验到全量商品库/百万级文档时,必须重新验证最优组合;小语料最优配置不一定在大语料保持,应做分规模子集测试。
- 借鉴LASAGNA思路搭建内部RAG实验框架,固定其他阶段做单变量替换,支持不同语料规模与多指标报告,沉淀可复现的pipeline配置。
多步 Agent 工具推荐:检索任务所需的每一个工具
🧭 Agent 工具检索与推荐 · 成本优化 ★ 深度解读
Arcade.dev
部署的 Tool Recommendation 系统用固定三工具接口为多步 Agent 提供全目录 8200+ 工具,实现工具链完整性与端到端成本双赢
📌 工作参考价值(4 点)
- 固定接口 + 检索重排替代静态工具列表:当 agent 需要触达大量 API/工具/技能时,不要把所有 schema 塞进 context,而是暴露 SelectTools、UseTool、ListApps 等少数元工具,按需检索并执行;权限过滤放在 gateway 层,保证推荐结果符合用户 scope,可直接迁移到电商导购/客服 agent 管理商品查询、订单、优惠券等海量工具。
- 评估指标用 Completeness@K 而非 Recall@K:多步任务缺一个工具就失败,例如“查库存→比价→下单”三工具缺一不可;在内部工具检索 benchmark 上加入 Completeness 指标,能更好反映端到端成功率,而不是平均召回。
- 成本优化必须看实际账单(含 prompt cache)而非仅输入 token:输入 token 减少不代表账单同比例下降,因为缓存输入便宜得多;应明确 caching 规则、用美元账单对比,并识别静态列表与动态检索的盈亏平衡点(约 25-28 个工具,或搜索频率 >0.63 次/工具调用时静态列表更便宜)。
- 多步 agent 失败主因常是 agent 没发起搜索/任务拆解不清,而非排序错误:可在 prompt 中显式引导 agent 每个任务只搜索一次、一次搜索一个动作,并监控首次推荐覆盖率与未发起搜索占比,针对性迭代提示词。
基于子序列关联过滤与广度感知选择的LLM查询扩展幻觉词抑制
🧭 LLM查询扩展幻觉过滤 ★ 深度解读
Indian Institute of Technology (BHU), Varanasi, India · University College London, London, UK · Halmstad University, Halmstad, Sweden
用跨上下文可再现性与语料支撑度识别幻觉term,在nDCG@10无损下将注入query的无支撑词减少85%-93%
📌 工作参考价值(5 点)
- 可直接复用 SAFE-QE 的过滤评分:对 LLM 生成的候选扩展词/phrase,用「随机扰动 prompt 后的重现率 ρ(t)」+「与 top-k 相关文档的最大支持度 γ(t)」做加权,公式 s(t)=γ(t)-λρ(t)(1-γ(t))+μfreq(t)。在电商搜索 query 改写、广告关键词扩展中,能有效识别并降权「无论上下文都被生成但无商品/文档支撑」的幻觉词。
- 词选择不要固定 top-k,改为带 grounding 约束的 budget 最大覆盖问题:用贪心近似(1-1/e)从候选词里选最多覆盖伪相关文档/商品 faceting 的子集,避免多个高分词重复覆盖同一意图。电商多意图 query(如“苹果”)尤其需要这种 breadth-aware selection。
- 稳定性过滤很便宜:对 LLM 采样 N 次,只保留 freq(t)≥θ 的稳定 term,能额外过滤掉少量采样中出现的幻觉词。工程上可简单并行多次采样,几乎不增加线上复杂度。
- 建立 HETR 监控指标:在业务评估里同时看「幻觉率」和「幻觉负载=HETR×注入词数」,不要只看率;强 retriever / dense retrieval 下生成式扩展收益小,但幻觉过滤的收益最大,这时候尤其值得上线。
- 结论可迁移:一个 0.5B 小生成器 + 过滤器,faithfulness 可以超过 9B HyDE,说明过滤机制比生成器规模更重要;训练无关、检索器无关,适合低成本接入已有 generate-then-expand 流程。但注意 grounding 阈值 τg 需要按 retriever 分别标定(SPLADE 下的伪相关集合会让更多候选通过阈值)。
面向法律推理的可验证检索:结构驱动知识图谱
🧭 RAG · 知识图谱结构化检索
Technische Hochschule Ingolstadt
用结构驱动解析构建法律知识图谱,比较多种 KG 感知分块与检索策略以提升引文检索准确性
📌 工作参考价值(4 点)
- 可将结构驱动解析迁移到电商/广告领域:基于商品类目树、属性 Schema、活动规则等层级结构构建 KG,替代固定长度分块,提升召回语义完整性。
- 在客服导购 Agent 或规则问答系统中,要求输出附带来源证据(如具体条款、商品属性路径),实现可验证引用,降低幻觉风险。
- 混合检索策略可借鉴:先经 KG 导航缩小候选范围,再做向量相似度匹配,平衡精确性与召回率,适合规则密集、文档规模大的场景。
- 对生成式推荐中的可解释性有参考意义:生成 item/文案时绑定结构化来源,便于后续审计与用户信任建立。
GeopoliticalQA:情报报告检索与生成基准
🧭 RAG 检索与生成基准评测
Mantis Analytics
构建 415 份情报报告、5,525 条 QA 的地缘政治 RAG 基准,系统评估检索与生成
📌 工作参考价值(4 点)
- 在电商/Agent 知识检索场景中,chunk 级检索质量不必依赖超大 embedding 模型;中等规模开源编码器 bge-m3 可与大 10 倍模型持平且优于商业 API,可先用这类模型做成本可控的域内检索。
- 文档画像先行的问题生成 pipeline 可用于构建电商搜索/推荐领域的合成评测集:先对商品/报告进行结构化画像再生成问题,并配合 LLM-as-judge 做质量过滤,提升训练与评测数据可用性。
- 即使给定黄金证据,复杂推理类问题(对应商品选品、活动归因、风险判断等)仍是生成瓶颈;在 RAG Agent 中应加强多步推理、证据整合与结果校验,而非只优化召回。
- LLM-as-judge 协议验证数据集质量的方法可直接迁移到搜索 query 改写、推荐理由生成等任务的离线评估,减少人工标注成本。
RIT-RAG:检索诱导树在文档语料中导航
🧭 Agentic RAG 树结构导航
IBM · IIT Kharagpur
用检索块位置诱导多文档子树,让 LLM Agent 在结构上导航并选择性阅读,提升复杂文档问答准确率
📌 工作参考价值(4 点)
- 借鉴“检索提出位置、Agent 决定阅读”的分离设计:把检索结果映射到商品文档、帮助中心或政策文档的目录树片段,让 Agent 在局部子树上推理而非直接读 chunk,能更好利用结构信息并控制上下文长度。
- 离线为每个文档/类目构建树索引(TOC、sitemap、商品属性层级),在线用宽召回 chunk 诱导多个候选子树,避免“先选文档后无法纠错”,适合多来源、超长文档库。
- 在客服/售后场景中,Agent 选择性读取节点并改写查询,可以降低 LLM token 消耗,同时提高回答准确率和可溯源能力;可以在现有 RAG pipeline 上增加结构索引层。
- EntQABench 是 284 万级技术文档 QA 基准,可用于评估大规模文档库的检索和 Agent 导航能力,但电商领域还需自建结构评估集。
找到正确平衡:LLM 检索中的相关性与多样性
🧭 RAG 检索多样化自适应策略
Université du Québec à Trois-Rivières
提出基于候选池冗余与查询证据需求的查询自适应规则,选择性启用检索多样化,避免损害相关性与答案质量
📌 工作参考价值(4 点)
- 在电商 RAG/商品问答中不要全局默认启用 MMR 或多样性重排:生产数据若候选池干净,多样化会降低相关性与答案质量;先用已有 embedding 统计 top-k 最近邻中有效 distinct 文档数,再决定是否开启多样性。
- 多证据场景(如从多个商品评价/卖点综合回答)可借鉴 query-adaptive 触发条件:当 top-k 选择的 distinct 文档数低于查询所需证据条数时再触发多样化,否则回退到最近邻;该规则无需额外模型,可跨数据集和 encoder 迁移。
- 当使用重叠 chunking 或商品库中有同款/相似描述时,可通过 RNG-Score 的 margin 检测重复结构,作为降级信号;margin 明显时说明冗余高,适合切换多样化,否则直接保留 NN 结果。
- 工程实现可把“有效不同文档数”做成轻量在线统计特征,与召回/重排解耦,避免因盲目开多样性浪费 context budget 或漏掉关键证据。
因果记忆策略:通过干预检索使记忆效用可识别
🧭 Agent 记忆管理 · 因果识别 ★ 深度解读
Illinois Institute of Technology
提出 CMP,用随机化检索暴露恢复记忆效用的可识别性,解决确定性检索下的 positivity violation
📌 工作参考价值(4 点)
- 在 RAG / 生成式推荐或用户画像记忆系统中,离线估计某个 item 或 memory 的增量价值时,必须警惕召回/检索阶段的 positivity 问题:未被召回的 item 其效用不可识别,导致基于效用的 eviction 或降权策略退化为随机。可借鉴 CMP:保留固定比例曝光槽位,对候选 item/memory 以已知 propensity 随机采样,强制产生 support。
- 采用平衡分配(balanced assignment)替代独立随机:固定每个 item 的曝光次数,propensity 精确已知,方差可解析计算;估计器用 self-normalized IPW(等价于 arm 均值差),便于工程实现。
- 对不可逆操作(如删除记忆、商品永久下架、从长期候选池剔除)采用单边弃权(one-sided abstention):Bayes 最优规则要求只有当估计效用显著低于负阈值时才执行不可逆操作,避免误删高价值 item。
- 识别出 utility 不等于能做出 retention 决策:per-query utility 在特定 query 上 AUC 很高,但跨 query 聚合困难,无法用单个标量代表长期价值。这提示在推荐/搜索中,item 价值随上下文变化,需要 query-conditioned 模型而非全局打分,且保留/淘汰决策需考虑未来查询分布的不确定性。
ScholarCatalyst:检索能启发新研究的论文的基准
🧭 科学文献检索基准与Agent评测
Stanford University · Seoul National University · University of Washington · Carnegie Mellon University · Allen Institute for AI
构建207篇论文的作者标注检索基准,揭示Agentic搜索未超越嵌入检索(R@20 0.42 vs 0.48)
📌 工作参考价值(4 点)
- 对搜索/推荐中的复杂长尾查询,不要盲目叠加 Agentic 循环:强嵌入检索 + 合理 rerank 可能已达上限;应优先优化底库 embedding、索引和 query 理解。
- 用“项目完成者回看哪些早期论文真推进了项目”的方式构建评估集,能捕捉比点击/相关性更接近“灵感价值”的主观相关性;电商推荐可借鉴让业务 owner 标注哪些商品/内容真正影响决策。
- 时间切分很重要:论文基准只允许检索项目开始前的文献,对应推荐/搜索中训练与评测需严格按 timestamp 切分,避免未来信息泄漏。
- 自动标注 pipeline 通过 author 标注+理由生成可规模化,可用于构建需要专家判断的检索/排序训练语料,帮助模型学习领域专家直觉。
MERGE:生成式增强的多LLM检索集成
🧭 生成式查询扩展 · 多LLM集成 ★ 深度解读
University of Waterloo · National Taiwan University · Rakuten Group, Inc. · Rakuten Asia Pte. Ltd. · Taiwan Rakuten Ichiba, Inc.
两阶段多LLM查询扩展框架,用任务驱动自动提示优化在BM25上实现最高+14.9 nDCG@10提升
📌 工作参考价值(4 点)
- 电商搜索中,买家口语化 query 与商品标题/属性词之间常有词汇 gap,可借鉴 MERGE 两阶段设计:多个异构小模型各自扩展候选,再用稍大模型融合成一条查询,无需改语料或重建索引,可直接接入现有 BM25/Elasticsearch 流程。
- 用下游检索指标(如 nDCG@10、点击率或相关性人工评估)代替 LLM judge 做 prompt 优化,在 20% dev 子集上跑小 tournament,能自动把「seed prompt 可能削弱检索」转为稳定收益;适合快速迭代新模型或新增 generator 时免去手工 prompt 调优。
- APO 收敛后的 prompt 可能不是自然语言、读起来像 token 包,但它生成的 query 可读性没问题,不影响线上使用;可接受这种 prompt 形态,重点看最终 query 质量。
- 输出是 plain text query,只做一次 BM25/ES 检索,没有 rank fusion 和重索引开销;既能 query-time 在线扩召回,也能离线作为训练数据增强供 dense retriever 使用。
记忆系统 Mnemon:原始记录、快速判断、慢思考
🧭 Agent 记忆系统 · System 1/2 分工 ★ 深度解读
用 System 1 决策模型在读取时批量判断原始记录,后台只建索引,以 <4k tokens 上下文在 LoCoMo 达 91.7%
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中,保留用户原始行为/对话记录,不在写入时抽取事实或建图谱;后台定期构建 topic timelines(用户关注点变化)、value histories(偏好值变化,如价格阈值、品类偏好)、standing instructions(用户明确要求,如“不要推已购买”),并链接回原始记录。读取时用小型决策模型批量判断哪些记录与当前请求相关、是否过期、满足哪个需求,只把少量相关记录喂给 LLM,大幅降低回答上下文和成本。
- 将记忆读取拆成 System 1/System 2:System 1 用廉价决策模型对候选记录做独立 yes/no 判断(是否相关、是否过期、满足哪个信息需求),System 2 仅写搜索查询、命名需求、生成回答。可以借鉴到推荐 Agent 的检索/过滤架构:用轻量模型粗筛候选池,LLM 只做高价值规划和生成,避免 LLM 逐条判断候选的延迟和成本。
- 引入固定预算和显式规则:view 大小、pool 大小、循环轮数、判断阈值等。规则只依赖判断顺序和二分结果,不依赖校准,因此可以替换决策模型而无需重新调参。工程上可让系统在长历史上保持近似恒定成本(从 100K 到 10M tokens 成本仅增长 1.11 倍)。
- 评估时使用有效成本指数 ECI = (1-accuracy) + context/full_context_cost,统一衡量错误和上下文代价,适合线上 Agent 对比模型/记忆策略,避免只优化准确率而忽略成本。
从兴趣到语义ID:检索接地的生成式推荐信用分配
🧭 生成式推荐 · Semantic ID · RL 信用分配 ★ 深度解读
Emory University · Microsoft · Cornell University
用冻结检索器执行生成兴趣查询,按查询命中证据把检索奖励局部化到 interest span,缓解 SID 精确匹配奖励稀疏
📌 工作参考价值(4 点)
- 在电商/生成式推荐中,如果使用 LLM 直接生成 item ID(Semantic ID),可以要求模型同时输出结构化的“用户兴趣 query”,用已有的商品检索服务执行每个 query,把“目标商品是否被召回”作为辅助 reward;这比单纯 exact-match item reward 提供更密的训练信号。
- 信用分配不要 broadcast 到整段 trace:记录每个 query 的命中 indicator,positive rollout 只把 retrieval advantage 路由到命中 query 所在 token span;negative rollout 平分到所有 query,final SID span 不给 retrieval reward。这种 span-level 路由在消融里明显优于整段 broadcast。
- 推理时把生成的兴趣 query 直接当成召回接口:合并 top-K 结果做去重,作为候选池;如果后端是受限 beam search,可用候选 SID 构建 trie 约束解码,而不是只在全目录上 beam search。论文 oracle 显示选对 query 时 Recall@10 可以 11.95→14.93,说明兴趣条件解码有空间。
- reward retriever 用 4B embedding 已接近 8B,训练 cutoff 选 50 是中间甜点,不必盲目增大 encoder/扩大 K;这个结论在预算有限时可以直接复用。
基于领域适配检索增强生成的金融合规自动化问答
🧭 RAG 领域适配与忠实性评估
University of Bonn · Lamarr-Institute for Machine Learning and Artificial Intelligence · Universitat Rovira i Virgili · Fraunhofer IAIS
用三阶段领域适配检索器与 RAFT-LoRA 微调紧凑模型,显著提升合规问答召回但暴露 grounding 评估缺口
📌 工作参考价值(4 点)
- 检索器领域适配可采用三阶段训练:entailment tuning 将 question-passage 匹配重构为 premise-hypothesis 重建,再用 in-batch negatives 做对比学习,最后与 BM25 做 score-level fusion,能大幅提升 Recall@10。
- 生成侧用 4-bit 量化的 2B-12B 小模型 + RAFT-LoRA 微调可提升答案质量,且对小模型收益更大;适合对延迟和成本敏感的场景,但需注意 RAFT 需要检索上下文。
- 评估 RAG 生成质量时,RePASs 这类综合分不能证明忠实性:闭卷模型得分与全 pipeline 仅差 0.011,却不引用且误报义务。业务中必须单独设计 grounding/citation 评估,不能只看端到端分数。
- 领域适配后的模型跨域迁移差(文中从 ADGM 规则到澳大利亚判例法失败),若业务要覆盖多法规/多语料,需分别适配或多任务训练。
VLM 长文档问答流水线的实证研究
🧭 长文档 VLM QA 流水线实证
Amazon
图像检索 top-k 页面输入是 token 效率与准确率均衡选择,Agent 收益随 VLM 规模增大才显现
📌 工作参考价值(4 点)
- 在商品详情、说明书、财报等多模态长文档处理中,优先尝试图像 embedding 检索 top-k 页面/区块而不是全量文本入库,token 可降到全页输入的 1/7 到 1/4,且准确率不降反升。
- Agent 工具调用(page/table/figure/search)不是小模型的免费午餐:Qwen3.5-4B/9B 上落后静态页面输入,27B 才持平,Sonnet 4.5 才领先。实际选型时先评估静态管道,再决定是否把预算花在 agentic 流程上。
- 文本检索侧一个现成 cross-encoder rerank 就能匹配很重的多阶段 LLM 管道,工程上可用轻量 reranker 替代 LLM 重排,节省成本和延迟。
- 最强流水线之间互补,oracle 路由能提升约13点,但证据类型路由几乎无效;说明自动路由很难,可先通过人工分析问题类型或构建更强路由特征,不要盲目上路由模型。
自进化搜索索引
🧭 自进化索引优化 · LLM Agent 检索 ★ 深度解读
Yonsei University · Samsung Research · University of California, Irvine · Korea University
提出 SELF-INDEX 框架,让索引自主诊断检索缺陷、选择性修订索引键并主动探索查询需求,跨语料与检索器一致提升检索性能
📌 工作参考价值(4 点)
- 在电商/内容搜索中,可借鉴 SELF-INDEX 的「索引即键集合」思路:为每个商品/内容维护一组可检索键(标题、类目、属性、卖点短句),由 LLM 根据检索反馈自动改写/增删这些键,避免人工设计 query 扩展或语义标签。
- 用 co-retrieval profile 作为诊断信号,发现哪些商品键缺乏区分度或未覆盖用户 query 意图;Self-Validation 的 faithfulness/specificity/separation 三准则可直接作为生成式索引质量控制,过滤幻觉或宽泛键。
- Query Simulator 通过采样文档生成 plausible query 并用 Jaccard dissimilarity 去重,能低成本扩充优化 query 覆盖长尾需求,适合广告关键词推荐、搜索词扩展等场景。
- 搜索 Agent 中,优化索引键可同时提升答案准确率并减少 search calls;在电商导购 Agent 可减少与搜索中台交互次数和线上 API 成本。
文本嵌入模型的后训练量化失效图谱:四个模型家族的实测研究
🧭 模型量化与检索嵌入压缩
ThakiCloud
在检索嵌入模型上系统验证量化启发式建议,发现嵌入表保护和模块敏感度排序均不可迁移,蒸馏学生模型在极端量化下更优
📌 工作参考价值(4 点)
- 量化检索 embedding 模型时不要直接套用 LLM 量化经验:embedding table 并不总是需要最高优先保护,INT4/g16 下各模块独立量化损失差异不足 1 个 NDCG 点,均匀量化即可,无需复杂的混合精度分配。
- 在 INT3 及以下位宽,模块敏感度排序因模型家族而异(Qwen 中 FFN 最敏感,BGE-M3 和 E5 中 attention 最敏感),需要针对自有模型重新测量,不能依赖通用排序。
- 重建误差代理可用于筛选全局位宽,但不可用于选择具体保护哪些 tensor,因为其跨位宽的强预测力是 range-extension 伪影;实际选型应在目标检索任务上做 per-query bootstrap 检验。
- 若需 INT3/INT2 极端压缩,可考虑训练一个更小的蒸馏学生模型并量化,可能比直接量化大模型更优(文中 109M 学生 INT3 在 68.4 MB 下 NDCG@10 达 78.04,优于 0.6B 教师量化版本的 64.46 / 297.9 MB),但注意这种优势仅限蒸馏任务内。
先思后链:多语言实体链接中的稀有性、推理与检索
🧭 多模态实体链接 · 推理+检索
Carnegie Mellon University
提出训练免的视觉-语言模型框架,结合迭代搜索与推理,提升多语言多模态实体链接在稀有实体上的准确率
📌 工作参考价值(4 点)
- 稀有度定义不能只看流行度(如 pageviews),应加入知识图谱结构指标(文档丰富度、连接度),能暴露不同失败模式;在电商长尾商品/实体识别中,可以用类似多维稀有度切片评估模型,避免只优化头部。
- 训练免框架实用性强:用 reasoning-capable VLM 动态搜索 Wikipedia 并迭代收集证据,无需微调即可部署;适合在业务中快速构建多语言实体链接/消歧模块,尤其处理长尾 query 或冷启动实体。
- 推理与检索互补的结论可直接迁移到 RAG/Agent 系统:单独检索能提升稀有实体但可能损害整体,单独推理对稀有实体帮助有限;组合使用时,让模型在推理循环中根据检索反馈调整判断,比一次性生成更稳健。
- 多模态信息(如图像中的文字、logo)对消歧很有价值;在电商商品匹配、query 到商品实体链接中,可以利用商品图片中的文字信息辅助文本匹配,并配合外部知识库检索。
从代码大规模合成有依据的智能体技能
🧭 代码挖掘 · 技能合成 · Agent 流程增强 ★ 深度解读
Ant International
Code2Skill 从 GitHub 代码挖掘并验证 100 万+可复用技能,检索增强后智能体平均提升 11.7%
📌 工作参考价值(4 点)
- 构建可复用的业务 skill bank:不只依赖 agent 轨迹,可把推荐/广告/搜索系统中的特征工程、策略规则、pipeline 代码片段蒸馏为带 when-to-use、invariants、anti-goals 的技能卡,供 LLM Agent 检索增强。
- 用 source-body-blind reconstruction 做 grounding 质检:只给技能描述让 LLM 重构实现,再用 source-aware judge 对比源实现过滤不支持或过度概括的记录,能有效抑制技能库幻觉,可迁移到知识库/规则库审核。
- 技能注入位置比数量更重要:planning-time 与 post-generation critique 比 generation-time prompting 更稳;RL 中作为 reviewer 提升最大。业务上优先把检索到的技能/知识放到规划、评审或 verifier 侧,而不是直接拼进生成 prompt。
- 用 compact summary 替代完整记录可减少约 89% context 且性能不降,适合降低 LLM 调用成本与 KV cache 压力;对候选技能做摘要化而非全量拼接。
超越检索:面向流式视频理解的渐进潜在记忆演化
🧭 流式视频 MLLM 的渐进潜在记忆
Nanjing University of Science and Technology · Ant Group · National University of Singapore · The Chinese University of Hong Kong
提出 LatentStream,将流式视频记忆从 store-and-retrieve 转为 retrieve-and-internalize,通过层级记忆与渐进置信度优化取得 SOTA
📌 工作参考价值(4 点)
- 借鉴“查询无关层级压缩 + 查询相关检索内化”两段式记忆架构:电商用户行为序列建模可先用无查询的自适应聚类(如 Jenks natural breaks)压缩长短期兴趣,收到请求后再用 query 检索相关证据并内部化为固定长度 latent 表示,平衡内存与推理精度。
- 固定内存预算下的短/中/长期分层组织可迁移到 Agent 或在线推荐系统的会话记忆管理,避免历史状态无限增长,适合延迟敏感的长序列处理。
- Progressive confidence-guided optimization 用分组预测熵构建层级奖励,可应用于多步推理或交互式推荐,对中间状态逐层优化置信度,提升最终输出稳定性。
- retrieve-and-internalize 方式比将检索证据直接拼接到上下文更节省 KV cache,适合长视频/直播理解、多轮对话 Agent 等需持续累积历史的在线场景。
超越上下文窗口:面向数据中心的智能体的持久发现上下文
🧭 Agent 记忆增强检索
Megagon Labs
引入持久发现上下文记忆层,复用任务意图到数据对象的映射,提升后续检索质量
📌 工作参考价值(4 点)
- 在电商搜索/推荐场景,可把历史成功 query→item/attribute 映射作为轻量记忆层,避免每次请求重复做语义解析与召回;尤其适合长尾 query 或数据目录频繁变化的场景。
- 元数据稀疏或缺失时,记忆检索可能优于元数据检索。对商品冷启动、长尾类目、非标品可尝试用历史交互记忆补充召回,而不是只依赖属性倒排。
- 自动生成记忆有效,意味着无需人工维护映射表,可通过 LLM 自动抽取意图-对象对并写入记忆;工程上可低成本落地,与现有 RAG/检索流程叠加。
- 注意可复现的干扰失败模式:记忆冲突或错误映射会降低效果。建议加入置信度阈值、来源标记、过期淘汰或按任务域隔离机制,避免脏记忆污染检索结果。
双粒度智能体记忆与 Shapley 上下文归因的多模态学习框架
🧭 多模态 Agent 记忆与检索优化 ★ 深度解读
UC Merced · Shanghai Jiao Tong University
冻结多模态大模型配外部双粒度记忆,用 Shapley 归因优化规则检索,提升科学推理基准
📌 工作参考价值(4 点)
- 检索增强场景中,把“相似度检索”升级为“相似度 + 历史效用”的组合排序:用 Shapley/边际贡献离线计算每个知识条目(规则、策略、案例)的效用,避免上下文里塞进相似但无效甚至误导的条目;推荐系统里可类比给召回 item 或策略规则打分。
- 双粒度记忆架构值得直接迁移:实例级 case 与类别级规则/策略分开存储,中间层只从抽象规则生成类别记忆,避免具体样本细节污染类别级归纳;电商/Agent 中可将用户行为轨迹与商品属性规则、query 意图分存。
- 概念类别空间无需预定义 taxonomy,用 LLM 在线增量生成类别并序列化更新,动态贴合语料分布;适合电商 query 意图聚类、商品概念动态归类,避免固定分类过粗或过细。
- 工程上无需梯度更新,只依赖 gold answer 作为监督,可在闭源/端侧模型上快速构建外部记忆;训练时用 temperature 采样 rollouts 构建记忆,测试时只读,适合低成本复用现有大模型能力。
WARP:面向群体意见的 Wasserstein 对齐 RAG
🧭 RAG 检索校准 · Wasserstein 对齐意见分布
Amazon.com
用 Wasserstein 距离校准 RAG 检索证据的情感分布,避免少数意见被淹没
📌 工作参考价值(4 点)
- 在电商评论摘要、用户反馈聚合等场景,top-k 检索容易偏向主流意见,可借鉴 WARP 思想:先估计总体意见分布(如情感强度分布),再用 Wasserstein 距离选择文档子集,使检索证据的分布与总体对齐,避免生成有偏的回答。
- 工程实现上,WARP 提供三种变体适应不同候选池规模(稠密/稀疏/可变),亚秒级延迟,可在线作为 RAG 检索后处理模块,与现有向量检索无缝集成。
- 将 Wasserstein 距离作为检索校准的优化目标,比 KL/JS 更合理,因为它保留了情感强度之间的序数关系——强烈负面与强烈正面混淆的代价高于相邻强度混淆。在涉及情感、评分等有序标签的场景中可优先考虑。
- LLM 生成阶段对检索证据分布敏感,WARP 实验表明校准检索能显著提升生成质量(86% 偏好),因此构建“群体意见总结”类 Agent 时,应将检索校准作为生成前必要步骤。
面向Cessna 172维修手册的多模态RAG降低技师检索负担
🧭 多模态RAG垂直领域知识检索
Purdue University · Clemson University
开发多模态手册检索器与MRAG流程,在维修手册上实现93.37% recall@5和87.20%答案语义相似度
📌 工作参考价值(4 点)
- 电商/推荐场景可迁移:将商品文档、规格表、示意图做多模态RAG,让客服或导购Agent同时检索图文页面,而不是只依赖文本切片,提高复杂产品问答质量。
- 评估方法可直接复用:用合成查询按信息类型(程序、图示、警告/安全、规格)分层构造测试集,能更细粒度定位检索瓶颈,比单一整体指标更利于迭代。
- 工程实现参考:把检索和生成拆开分别评估 recall@5 和生成相似度,便于定位问题是出现在召回还是生成;同时记录单查询耗时和成本,作为上线前可行性门槛。
- 多模态可解释性可借鉴:用热力图可视化页面上哪些区域被检索模型关注,可用于排查错误召回、做人工审核,也便于向业务方解释模型为何推荐某张图或某个手册页。
LineageRAG:构建带来源锚定的证据谱系增强 GraphRAG
🧭 GraphRAG 多跳证据溯源与锚定
XiaoLab, Beijing University of Posts and Telecommunications · Xi'an Jiaotong University
为每个证据需求构建显式谱系并通过原文字段锚定来源,显著改善多跳检索与生成效果
📌 工作参考价值(3 点)
- 在电商知识图谱/商品属性图上做多跳推理时,可先将用户 query 拆成多个证据需求(如品类、属性、场景约束),并在图谱遍历中保留每个候选与需求的绑定关系,避免最终结果只覆盖部分意图。
- Agent 做多步检索/推荐解释时,可借鉴 lineage completion:用已检索片段的 provenance 选择互补证据,并强制对每个需求提供原文字段支撑,缺少支撑的需求触发补召回或降低置信度,从而提高可解释性和防幻觉能力。
- 工程上可把“需求初始化 → 需求条件检索 → 谱系补全 → 来源锚定”拆成独立模块,在电商 RAG pipeline 中输出带有引用来源的结构化证据链,便于 debug、评估和线上链路追踪。
驾驭记忆:记忆智能体中记忆基质的整体评估
🧭 Agent 记忆基质评测与自适应路由
University of Illinois Chicago · University of Washington · McGill University · MBZUAI · University of California, Los Angeles
统一评测多种记忆基质,发现无单一最优,需按任务类型与历史长度做自适应路由
📌 工作参考价值(4 点)
- 记忆基质选型不是检索越强越好:在事实性 QA(如客服问答、商品知识库)中,dense/sparse 广泛检索有增益;但在多步决策(如导购 Agent、谈判流程)中,过度检索会挤占动作关键上下文,建议控制检索数量或设置相关性阈值。
- 长历史下中等长度表现好的基质可能成本激增或变脆:用户长期偏好存储不宜直接套用现有结构,需设计分层、压缩、refinement 机制,或按会话长度、任务类型动态路由到不同存储介质。
- 评测要同时看效率与任务指标:在自己的 Agent 评测 harness 中加入 memory 读写的 token 成本、延迟、检索命中率等,避免只优化下游准确率而忽略工程可行性。
- 把 memory substrate 抽象为可替换组件并统一接口,方便在推荐对话、个性化搜索等场景中快速对比 dense/sparse/structural/parametric 等不同存储方案。
RAGSieve:检索增强生成中知识投毒的自引用局部对比检测
🧭 RAG安全 · 自引用局部对比检测
Nanjing University of Information Science and Technology · Meituan
提出自引用局部对比检测框架,在查询时和语料入库时无需投毒标签识别RAG投毒文档
📌 工作参考价值(4 点)
- 在RAG检索后、生成前增加轻量检测层:对同一次检索的 top-5 与 rank 6-20 候选做分布对比(如相似度集中度、排名跃迁),发现异常文档直接过滤,不需要全局阈值,适合多品类电商检索结果分布差异大的场景。
- 语料入库阶段构建文档局部邻域图,检测与语义相似但词法不同邻居的密度异常,可提前拦截协同注入的商品描述、评论或UGC内容,降低在线风险。
- 方法无需投毒标注或可信参考语料,适合业务冷启动或无标注数据时快速上线防御。
- 联合部署查询时和入库时检测,攻击成功率从67.4%降至14.0%,且对干净检索F1影响有限,可作为RAG安全模块直接嵌入现有pipeline。
面向端侧上下文学习的无梯度任务条件检索
🧭 输出条件化的无梯度检索对齐
City University of Hong Kong · Institute of Automation Chinese Academy of Sciences
CoRA 利用输出信息构建条件空间,无需微调即可将冻结编码器转为任务导向检索器,支持端侧多模态示例选择
📌 工作参考价值(4 点)
- 无梯度任务适配:在推荐或搜索中,可用少量任务样本(如高转化 item 的标题或图像)构建条件空间,将已有编码器快速适配为任务专用检索器,无需重新训练或反向传播,适合快速 A/B 测试。
- 端侧高效检索:低秩压缩将检索索引缩小至原始表示的 1/50~1/100,且查询时仅需输入编码和预计算索引,适合移动端或边缘设备的实时个性化推荐。
- 多模态扩展:可将商品图、详情描述等视觉特征纳入条件空间,直接检索多模态示例,为图文推荐或广告创意优选提供轻量方案。
- 离线构造与双通流式处理:采用闭式岭回归和双通算法避免储存完整拟合矩阵,可处理百万级候选集,适合大规模电商场景下构建任务条件索引。
判别式LLM反击:用双塔模型替代生成式推荐检索
🧭 LLM双塔检索 · 判别式推荐 ★ 深度解读
Meta
将LLM作为共享背板的双塔检索器,配合蒸馏与连续思考,性能匹敌生成式推荐且可规模化部署
📌 工作参考价值(4 点)
- 双塔+LLM的务实路线:放弃生成式检索的Token解码,改用LLM编码器生成用户和物品的向量,通过ANN检索。对于物料量大的电商/广告系统,这种方案更易落地,无需担心Token到物品ID的映射错误和自回归延迟。
- 蒸馏技巧:从Cross-Encoder教师转移动态排序知识:用Cross-Encoder对同一候选集计算更准确的分数分布,然后以KL散度蒸馏到双塔学生。实操中可使用“yes/no”输出头计算logit差作为分数,同时加一个以用户历史为条件的Token预测辅助任务来增强教师,提升蒸馏上限。
- Token级特征压缩与层剪枝:将连续特征用有限标量量化(FSQ)离散化为少量Token,减少输入长度,提升QPS 19.7%;对Transformer进行层剪枝(搜索代理指标评估重要性)再知识迁移,可再提速10%,几乎无损。
- 数据效率与模型时效性:LLM双塔在仅用0.5%训练数据下即可匹敌生产DLRM基线;模型冻结后连续数天性能几乎不降,而传统DLRM因物品ID分布漂移损失严重,该特性可大幅降低重训成本,适合推荐系统频繁更新的场景。
SkillCorpus:整合与评估开放技能生态以助力现实世界LLM智能体
🧭 Agent 技能生态聚合与端到端评估 ★ 深度解读
EverMind · Shanda Group · Peking University
将82万社区技能文件策展为9.6万高质量语料,并在三个真实Agent基准上实现一致增益(最高+13.4pp),揭示覆盖与Harness边界
📌 工作参考价值(4 点)
- 技能库构建与质量控制:多阶段策展流水线(结构过滤→语义去重→LLM三面评分→安全/许可硬门)可直接用于构建内部工具或知识库,尤其安全硬门(命令注入、越权等)对生产环境至关重要。
- 检索增强代理设计:微调嵌入+重排序+LLM终选器的三层检索栈,可借鉴至推荐系统中的工具检索或营销话术生成;按任务域自适应选择技能类别,提升相关性。
- Harness能力决定技能兑现:实验表明同一组技能在不同Agent框架(Raven vs OpenClaw)下增益相差近3倍,提示在选型或自研Agent时需关注执行闭环(如自动验证-修复循环)以最大化外部知识收益。
- 覆盖驱动增益,泛化靠生成:增益与技能覆盖强相关(r≈0.35),缺失领域增益为零但不反损;当业务领域技能稀疏时,可考虑自动生成或自我演化补充,而非仅优化检索。
认知结构多模态 Agent:带情景视觉记忆的长时对话理解、生成与编辑
🧭 多模态 Agent · 认知记忆结构 ★ 深度解读
Peking University · Tencent Inc. (WeChat Vision)
将视觉历史外化为结构化记忆并选择性检索,8B代理在20轮多模态对话中检索准确率达91.4%,超越32B统一模型且推理时间减半。
📌 工作参考价值(4 点)
- 显式情景记忆管理 & 按需检索:将视觉信息压缩为结构化条目(标签、描述、缩略图)存入外部记忆库,仅检索相关片段注入上下文,可迁移到推荐系统中长序列用户行为建模,避免将所有历史行为塞进模型窗口,降低计算开销并提升跨轮引用准确率。
- 解耦的多模块架构与独立优化:感知抽象(PAE)、检索(CoRE)、任务执行(MEC)互相解耦,支持分别进行SFT和RL训练,并且PAE的优化直接以下游检索成功为奖励,而非独立的描述质量指标。在电商Agent中,可将商品图片理解、意图识别、工具调度分离,各模块可独立迭代。
- 分阶段SFT+RL训练策略:先SFT训练检索器,再通过RL(DAPO)提升检索精度,最后冻结检索器用RL优化记忆写入,形成闭环。推荐系统中的长期兴趣编码、记忆压缩等模块可借鉴:用任务奖励直接优化压缩策略,避免中间指标偏移。
- 工具增强的CMA-Harness部署框架:将执行控制器扩展为工具调用中枢,集成搜索、图像生成/编辑、布局拼接等17种工具,并利用多域持久记忆(会话、用户偏好、素材库)实现跨会话复用。对于搭建商品图合成、营销素材生成、客服视觉问答等Agent应用有直接参考价值。
量化并扩展迟交互检索模型的理论容量
🧭 迟交互检索理论容量分析
Center for Intelligent Information Retrieval, University of Massachusetts Amherst
证明 MaxSim 可复制任意非负稀疏内积并引入 Signed MaxSim,实现任意实向量内积复制,带来理论解释和实验提升。
📌 工作参考价值(4 点)
- 在搜索/推荐中遇到带否定词的查询(如"无糖巧克力"),可直接使用 Signed MaxSim 建模负向信号,比标准 MaxSim 有理论保障且效果显著提升(实验 nDCG@10 从 0.008 到 0.788)。
- MaxSim 等价于软 OR 聚合,能评估正 CNF 逻辑表达式(如"红色 AND (裙子 OR 连衣裙)"),可将其作为复杂用户意图分解与合并的工具,为多条件筛选提供统一相似度计算。
- 理论证明 MaxSim 的表达能力至少不弱于向量内积,且更节省表示空间(k 稀疏只需 O(k) 维),在物品量巨大的电商图库中可替代点积作为高效匹配算子。
- Signed MaxSim 使迟交互模型能处理既有正例又有负例的混合向量,适合用户多兴趣建模与多模态表示,可直接用于召回或精排阶段的相似度计算。
面向智能体工作文档推理的档案基准 AGORA
🧭 Agent 文档探索推理评测
Fudan University · Zhejiang University · Shanghai Qiji Zhifeng Co., Ltd.
构建跨域大规模真实档案基准,要求智能体在超长上下文中主动探索检索证据,最强模型仅达59.4%准确率
📌 工作参考价值(4 点)
- 多步探索范式:在电商商品库、政策库等超大规模非结构化文档上构建问答任务时,借鉴其 agent 多轮检索、证据定位与交叉验证的流水线设计,而非依赖一次性长上下文扫描。
- 防泄漏基准构建:采用跨文档任务合成、实体混淆与难度过滤构造评测集,可迁移到内部 agent 离线评估,防止模型记忆导致分数虚高。
- 跨域鲁棒性检验:覆盖农业、金融、法律等 8 个域,提示推荐/搜索系统若接入 agent 需在多个业务域分别评测,避免单域过拟合。
- 上下文窗口超限场景:当文档总量远超模型窗口时,强制 agent 主动探索与选择性检索,为电商导购、客服 agent 在长尾商品/长文档下的策略设计提供参考。
用户作为印迹:将每用户记忆内化为局部参数编辑
🧭 用户事实的局部参数编辑与共享推理
Pine AI
把用户事实稀疏写入 Engram 的哈希记忆表,推理技能由共享适配器承载,实现高精度个性化且不干扰推理
📌 工作参考价值(4 点)
- 可将用户长期偏好(商品偏好、搜索历史等)压缩为 Engram 行编辑写入模型,免去每次推理时检索或 prompt 拼接的延迟与 token 成本。
- 共享推理适配器 + 多用户稀疏编辑的架构支持高并发个性化推理,适合电商搜索推荐等需实时读取用户记忆的场景。
- 编辑透明可控:写入的事实只影响特定触发词,不污染其他主题回答,有利于金融、医药等高合规领域的推荐安全性。
- 多用户编辑可叠加存储于同一模型,无需维护独立 LoRA 权重,大幅降低部署成本,工程实现更友好。
MCompassRAG:话题元数据作为段落级检索的语义指南针
🧭 RAG 检索优化 · 话题元数据引导
University of British Columbia · University of Salerno · ServiceNow Research
用话题元数据增强段落嵌入并通过LLM蒸馏训练轻量检索器,实现高效、精确的话题感知检索
📌 工作参考价值(4 点)
- 电商搜索/推荐场景的文档切分优化:商品描述、评论往往混合多主题,直接使用粗粒度段落会引入语义噪声。可借鉴用商品类目、属性等元数据增强段落embedding,让检索结果更精准。
- 低延迟检索器蒸馏:用LLM作为教师蒸馏一个轻量双编码器,推理时无需调用LLM,显著降低线上检索延迟和成本,适合高并发实时推荐系统。
- 话题感知的Agent检索:在多跳推理或Agent工作流中,当需要从大规模非结构化文档中提取证据时,可引入话题元数据引导检索,减少无关片段干扰,提升事实准确性。
- 工程实现简单:只需在现有dense retriever基础上注入话题embedding,无需改动索引结构,易于迁移到商品库、帮助中心文档等场景。
平稳即兼容:基于d-Simplex固定分类器的表示学习
🧭 模型更新时兼容表示学习
证明用d-Simplex固定分类器学到的平稳表示天然兼容旧模型,并结合对比损失捕获高阶依赖,无需重索引即可支持不间断检索。
📌 工作参考价值(4 点)
- 电商/推荐系统向量索引更新痛点:模型迭代时通常需要全量重嵌物品,成本极高。本文证明固定d-Simplex分类器可使新旧嵌入分布对齐,实现无需重索引的直接兼容,大幅降低工程开销。
- 训练技巧:采用固定原型(d-Simplex等角紧框架)作为分类器权重,结合交叉熵与对比损失的凸组合,既保持类别可分离性又强制旧模型兼容性,训练过程即满足兼容约束,可嵌入现有微调流程。
- 在Agent多智体中,若各Agent维护独立向量记忆库,模型替换时使用该方案可保证记忆库嵌入不失效,避免重新编码历史数据,保障服务连续性。
- 实验表明对比损失的加入能捕获高阶分布依赖,弥补纯交叉熵仅对齐一阶矩的不足,提示在类似表示对齐任务中可考虑矩差异损失与对比损失的协同。
Harness-1:通过状态外化 harness 对搜索智能体进行强化学习
🧭 搜索智能体 · 状态外化 harness ★ 深度解读
University of Illinois at Urbana-Champaign · UC Berkeley · Chroma
将搜索中的机械簿记卸载到环境端状态,使 20B 策略 RL 后平均召回达 0.730,比最佳开源 subagent 高 +11.4 点
📌 工作参考价值(4 点)
- 电商搜索/推荐的多步检索中,可设计类似的工作记忆状态机(候选池、重要性标记、证据图、验证记录),将“记住已看文档、过滤重复、跟踪约束”等记账任务由环境维护,让策略模型聚焦语义决策,降低小模型 RL 的优化难度。
- Warm-start curation(自动从第一次成功搜索结果中 seed top-8 为 fair 重要性)解决了空 curated set 带来的早期奖励无区分度问题,可迁移到对话式的商品搜索、主动推荐场景,避免 RL 探索时的全零 reward。
- 多样性奖励(tool diversity bonus)防止策略坍缩到反复搜索的捷径,强制 agent 使用验证、阅读、curate 等多种行动,提升最终精排质量。这在电商 Agent 做多轮“搜索-浏览-比较-加购”决策时特别有用。
- 紧凑的派生状态渲染(BM25 句子压缩、证据图、重要性分级)和两级去重(chunk-ID + MinHash 指纹)有效控制上下文预算,让策略在长序列多轮交互中保持对关键证据的可见性,适合需要融合多篇商品评论、比价等长上下文场景。
MemConflict:在记忆冲突下评估长期记忆系统的诊断框架
🧭 长期记忆评估 · 记忆冲突诊断 ★ 深度解读
Renmin University of China · Shanghai University of Finance and Economics · MemTensor (Shanghai) Technology
提出记忆冲突诊断框架,评估系统在动态、静态、条件冲突下检索与排序有效记忆的能力
📌 工作参考价值(4 点)
- 在推荐/对话Agent的用户画像管理中,不能仅看最终回答准确率,需要白盒检查记忆检索与排序,确保模型使用了正确的用户信息。
- 借鉴MemConflict的冲突分类:对用户偏好变化(动态)、矛盾信息(静态)、条件性偏好(条件)分别设计记忆更新与查询策略,避免因冲突导致错误推荐。
- 通过注入语义相似的干扰记忆(如其他用户的相似信息)测试记忆系统的鲁棒性,可以迁移到电商推荐中模拟竞争商品描述或相似用户画像的干扰。
- 工程实现上可采用"冲突感知"排名机制:对检索到的记忆候选进行时间有效性、事实一致性、上下文适用性的打分,提升长期用户建模的可靠性。
需要时思考:自适应推理驱动的多模态嵌入与双LoRA架构
🧭 Multimodal
提出自适应推理框架,通过双LoRA和路由门动态决定是否生成思维链,实现高效且更优的多模态检索嵌入
Granite 嵌入多语言 R2 模型
🧭 Other ★ 深度解读
IBM Research
基于 ModernBERT 的多语言嵌入模型族,支持 200+ 语言与 32K 上下文,在检索、代码和长文档任务上达到领先水平,并提供同类最优的 97M 参数压缩模型。
前瞻性引导的记忆检索:语言模型的前瞻思考
🧭 RAG ★ 深度解读
University of Washington · Microsoft Research
提出前瞻性引导检索(PGR),通过模拟未来场景触发相关记忆,解耦存储与检索,大幅提升长期个性化助手的召回率
自进化记忆架构:LLM智能体通过自动研究自我优化检索
🧭 LLM ★ 深度解读
UNC-Chapel Hill · UC Berkeley · UCSC
首个通过LLM闭环诊断自主进化检索配置的记忆框架,实现AutoResearch,无需人工调参