重新思考 LLM 增强协同过滤的语义对齐：谱解耦方法
🧭 LLM 增强协同过滤 · 谱解耦 ★ 深度解读
Nara Institute of Science and Technology · Kyushu University
发现 LLM 语义中的非主奇异分量对推荐有用，而对齐会抑制这些分量；提出无参数预测层解耦融合 UniSpecRec
📌 工作参考价值（4 点）
- 不要用 MLP/对比学习把语义 embedding 强行投到 ID 空间；直接在预测分数层做线性融合，保留各自空间，通常优于对齐，且无额外参数。
- 对 item/user 语义 embedding 做 SVD，使用 power 谱滤波 f(σ)=σ^p（p 在 0.1-0.6）抬高非主奇异分量，能稳定提升 Recall/NDCG；alpha 约 0.35 可固定或粗搜。
- SVD 可离线做，复杂度 O((|U|+|I|)d_s^2)，推理只做矩阵乘法；适合大规模电商 item 库和冷启动/稀疏场景。
- 评估 LLM embedding 时，不要只看余弦相似度或主成分；跨 encoder 方差可衡量对齐方案的稳定性，解耦方案更鲁棒。
AdaWidth：面向稠密检索的查询自适应嵌入宽度
🧭 稠密检索 · 查询自适应嵌入宽度 ★ 深度解读
University of Washington
正交前缀适配器加查询路由器，在共享前缀下按查询分配嵌入宽度，匹配 SOTA 且维度减少 55%-84%
📌 工作参考价值（4 点）
- 双塔召回/商品搜索中，可以冻结已上线 encoder，加 Householder/WY 正交适配器对 query/item 共同旋转，保证全宽内积不变、全宽 KPI 不变；item 离线旋转一次，在线只算前缀，风险低。
- 在线先做 64 维前缀召回/排序，路由器只读已有排序的 score gap、熵等 rank-order 特征，判断是否不稳定；只对 top ρ 的 query 升级到 128/256 维，平均维度下降且无需额外 encoder 前向。
- 容量规划可参考 prefix sufficiency：所需维度随语料规模对数增长、随检索深度对数下降；大促候选池膨胀时不用线性扩维，可按 log N 调整。
- 低资源场景用 F=8 的 Householder 适配器仅约 13.8K 参数，比 dense adaptor 少 50-280 倍，效果仍领先 baselines，适合轻量部署。
AnTrap：评估Android GUI Agent对运行时异常的鲁棒性基准
🧭 GUI Agent 鲁棒性评估与对抗训练
Zhejiang University · Yale University · Tongji University · University of Chinese Academy of Sciences
提出AnTrap基准系统注入动态对抗扰动，揭示GUI Agent普遍脆弱并区分可学习与推理瓶颈异常
📌 工作参考价值（4 点）
- 将线上 Agent 可能遇到的弹窗、误操作、状态死锁等异常抽象为分层陷阱（State/Thinking/Action/Round），在部署前构建对抗测试集做压测，提前暴露脆弱环节。
- 用 GRPO 在含陷阱环境中训练可修复大部分单步状态/动作层异常，适合作为上线前的鲁棒性微调步骤；但状态死锁等深层上下文陷阱无法仅靠环境训练解决，需要额外引入记忆、回溯或规则兜底机制。
- 借鉴其“保持任务可解”的扰动构造管道：在业务环境中注入异常时保留原始任务可达性，避免测试集失真，从而准确度量鲁棒性而非任务难度。
- 对电商推荐 Agent，可将广告弹窗、支付中断、页面跳转异常等作为 State 层扰动，将模型选错工具或遗漏步骤作为 Thinking/Action 层陷阱，系统化定位故障来源。
CAFE：自我改进搜索智能体需要协同进化的反馈
🧭 搜索 Agent · 反馈协同进化 ★ 深度解读
Fudan University · Tencent LLM Department
提出 CAFE 框架，共享参数模型交替扮演搜索 agent 与 critic，通过在线反馈奖励整形与离线偏好优化让反馈随策略协同进化
📌 工作参考价值（4 点）
- 在搜索/推荐 Agent 中引入显式 <request_feedback> 动作，用共享 backbone 做 role-conditioned agent/critic，避免单独部署 critic 的额外开销；适合多轮商品搜索或深度信息检索 Agent，让模型在轨迹中途主动请求诊断。
- 奖励整形技巧可直接借鉴：CFE 用同一 prompt 下 call feedback 与 skip feedback 的成功率差作为请求反馈的 utility 信号，再配合 repeat penalty；feedback-aware advantage shaping 对反馈前/后 token 分开加权，避免强化错误的失败前缀，改善 RL 中的信用分配。
- 离线反馈优化用 RDPO：从 on-policy rollout 中挖掘 prefix-matched 成功/失败反馈对，用 DPO 训练反馈生成，比只用成功轨迹的 SFT 更干净，能缓解只有最终成交/转化标签导致的 outcome confound，适合业务中无逐步人工标注的场景。
- 交替更新策略值得工程化：不要固定 critic 或 agent 单侧优化，否则会 plateau；每轮 agent RL 后用最新 rollout 更新 critic，保持反馈与当前策略的错误分布对齐，可参考 100 步 RL × 5 轮的节奏。
长期人机对话记忆评估：从直接追问到自然整合的 MemUse
🧭 LLM 长期对话记忆评估
Graduate School of Informatics, Kyoto University
发现直接问答记忆准确率与用户满意度无关，提出自然整合评估基准 MemUse，揭示 71 点巨大差距
📌 工作参考价值（4 点）
- 在电商导购/客服 Agent 中，长期记忆评估不要只看「直接提问能否答对」（Direct QA），这类指标与用户满意度可能无相关；应在真实对话流中挖掘「记忆时刻」，评估模型是否在自然回复中主动且恰当地融入历史信息。
- 建立集成感知的自动化评估：对每个记忆时刻，用 LLM-as-judge 检查回复是否自然引用了相关历史事实（而不是仅仅能否回答事实问题）；该指标与满意度相关性更强，可用于回归测试。
- 检索增强记忆系统往往只优化 top-k 准确率，但可能存在高检索准确、低实际使用的问题；可通过「引用率」等下游指标暴露该 gap，指导改进方向：不仅提升检索命中，还要提升相关性检测和上下文融合能力。
- 直接 QA 准确率从 19.7% 到 70.1% 变化，但满意度无显著差异，提示团队在迭代记忆模块时不要过度依赖离线 QA 基准，要做用户满意度 A/B 测试或应用内行为指标。
长运行AI Agent记忆中的压缩悬崖
🧭 Agent 长期记忆压缩与安全规则保留
University of Passau, Passau, Germany · IT:U, Linz, Austria
提出 Knowledge Triage 框架，通过分类与确定性算子避免安全规则在长上下文压缩中快速丢失
📌 工作参考价值（4 点）
- 将 Agent 上下文知识分为需逐字保留的安全/合规规则与可粗粒度压缩的日志/经验，不同类别走不同压缩策略，避免生产 Claude /compact 这类统一 summarization 造成规则坍塌。
- 在电商/推荐 Agent 中，价格上下界、库存状态、平台政策、prompt 约束等规则适合用 TypeCompact 按类型保真度压缩，并附加确定性验证器检查规则是否完整，防止多轮任务后策略漂移。
- TypeRetrieve 的“规则 pinned ahead of relevance”思路可直接用于 RAG/长期记忆：先返回适用规则，再按相关性补充内容，保证召回合规边界。
- AgentArtifactCorpus 可作为测试压缩/检索策略的外部基准，尤其适合评估长流程 Agent 在不同压缩轮次下的安全规则 retention。
超图嵌入索引：高效稠密向量检索
🧭 向量检索 · 倒排索引
Sodhana
HEI 按高激活潜维度组合组织文档，用倒排索引生成候选并保留语义排序
📌 工作参考价值（4 点）
- 在电商向量召回中，可将商品/用户 embedding 的高激活维度组合构造成倒排索引，替代或混合 HNSW，降低线上粗排阶段延迟与内存占用；适合作为大规模候选生成层。
- 采用多个互补超图（不同维度子集、不同激活阈值、不同语义簇）做多路召回，再融合重排，能提升长尾商品或冷门内容的覆盖，避免单超图维度增加带来的组合爆炸。
- 引入 activation diversity 作为诊断指标：评估当前训练出的 embedding 是否适合坐标倒排索引；若 diversity 低，可考虑加稀疏正则、维度解相关或调整训练目标，使向量更可索引。
- 该框架对 embedding 的稀疏/高激活特性有依赖，在业务中可先对已有向量做激活分布分析，判断是否值得迁移到倒排索引路线。
D^3-MOPD：自适应动态领域调度的高效多教师蒸馏
🧭 多教师蒸馏 · 在线动态调度
AllSpark Team
提出零开销动态调度器，复用每领域reverse-KL信号在线调整多教师蒸馏的数据混合比例，大幅提升收敛效率与性能
📌 工作参考价值（4 点）
- 借鉴 per-domain loss/KL 轨迹作为在线调度信号：在多任务/多域推荐模型（如首页推荐、搜索、广告域联合训练）中，定期追踪各任务的收敛速度与剩余提升空间，动态调整采样比例，避免固定混合导致快任务过拟合、慢任务欠训练。
- 使用 off-process 异步 watcher 实现零开销调度：不侵入训练主循环，适合在现有训练框架中轻量集成，无需改动核心代码即可获得收益。
- 调度策略可迁移到多场景 LLM 微调：当不同领域数据收敛速度差异大时，优先分配资源给“难但可学”的领域，减少已饱和领域的采样，能显著降低达到目标性能所需的训练步数。
- 结论“领域越多、收敛模式差异越大，动态调度收益越大”提示：在电商多域多目标场景下，随着接入业务域增多，这类自适应调度可能带来超线性训练效率提升。
递归式经验-工作记忆演化：面向长程 Agent 的验证门控记忆架构
🧭 Agent 长期记忆与递归自改进 ★ 深度解读
NUS · Stanford University · University of Oxford · Princeton University
Recuris 用工作记忆驱动技能调用，将失败定位到记忆组件并验证门控演化，在长程任务上提升成功率
📌 工作参考价值（4 点）
- 长程电商/客服 Agent 的状态管理：把会话目标拆成 pending/done/blocked 的 verified state，每个 goal 带支持证据；只在执行事件（如确认下单、改地址、退款调用前）由 harness 注入对应技能，而不是把全量 SOP 或工具说明放 prompt。全量注入在本实验中反而比无技能更差（模型控制 65.6 vs 无技能 82.0），说明“何时调用”比“内容多少”更关键。
- 失败复盘与技能库更新：记录结构化 trace（状态→调用技能→动作→环境反馈→提案状态→检查器判定），用固定 Meta-Agent 把失败归因到技能缺失、状态更新错、调用时机错、校验器误判四类组件；只修补命中组件，再经 held-out 验证门控。可以迁移到 agent 评测流水线或 SOP 迭代，避免全量重写记忆。
- 验证门控的必要性：候选补丁必须在修复源失败的同时不回归 anchor tasks。电商技能库更新时也建议保留历史成功案例作为回归集，避免新规则破坏已有能力。
- Test-time adaptation：对高价值单任务（如大订单异常、投诉处理）可用多次尝试 + 一位 verifier 的反馈，在局部更新经验记忆后重试；但一定要与 budget-matched 简单重试对照，否则会混淆增益来源。
对话式音乐推荐的多模态语义扩展与受限LLM重排
🧭 多模态检索融合与LLM约束重排的对话推荐 ★ 深度解读
National Institute of Technology Kurukshetra · Queen Mary University of London
三阶段多模态检索+轻量重排+LLM persona生成，融合7路embedding与BM25，Blind B综合0.3213，发现LLM注入仅在窄范围有效
📌 工作参考价值（4 点）
- 多召回通道融合：采用加权RRF替代简单线性打分，并用差分进化在验证集上自动搜索权重；本工作MRR +19.5%，且行为/协同信号权重可远高于文本语义信号。电商搜索/推荐可对CF、语义embedding、BM25、属性match分别召回后加权RRF融合，离线调权。
- LLM二次排序/改写采用“保守注入”：仅在正确item已部分出现但排名不足（例如top20内1-5条）时触发LLM干预；本工作无差别注入54会话导致nDCG -18.9%，而仅9会话介入得到+0.8%。工程上应设置严格触发条件并灰度验证。
- 生成阶段用RAG绑定真实候选并强制提及，结合多persona轮转与presence/frequency penalty，可提升Distinct-2和Judge、减少模板重复与幻觉。电商导购/push文案可借鉴：让LLM从检索结果中选2个真实商品解释，并用不同人设轮转。
- 端到端部署一致性：离线验证过的LLM与reranker不要轻易为降本替换；本工作GPT-4.1改GPT-4o-mini使响应质量损失约0.176复合分，省略reranker再损失约0.096。上线前需评估复合指标对组件替换的敏感度。
多模态学习的自适应层次表征联盟
🧭 多模态分层共享-私有专家框架
Fudan University · University of Southern California · Cornell University · University of New South Wales · Peking University
提出AHRA分层共享-私有专家框架，缓解跨模态语义粒度错配并提升噪音与缺失鲁棒性
📌 工作参考价值（4 点）
- 多模态商品理解中，不要默认各模态在最终层对齐；用 layer-wise CKA 识别语义深度差异：商品文本/标题往往需深层抽象，商品图/短视频帧的视觉证据在浅中层就可判别，可在对应层级做 shared 对齐，减少浅层视觉信息被 flatten。
- 共享/私有专家分解 + private decorrelation 可迁移到多通道用户/物品表示：跨场景共享专家建模共性，场景或模态专属专家保留细粒度信号，避免搜索/推荐/广告多域数据互相干扰。
- sparsity-controlled soft-gating（foreground exam）适合多模态 item tower 的 token/feature 选择：对缺失或噪声模态自动降权，增强 task-relevant private token，提升线上缺图/缺描述时的鲁棒性。
- 层次 co-fusion 的 intra-level coordination + inter-level semantic selection 可用于多尺度融合商品图文与用户行为序列，动态选择最有利的语义层级，而非固定 concat/attention。
FashionKG-RAG：知识图谱增强的时尚问答检索增强生成
🧭 知识图谱增强 RAG · 时尚问答
构建领域级时尚知识图谱 FashionEcoKG，并设计训练无关的 PG-RAG 框架，通过双粒度路径重排提升时尚问答准确率
📌 工作参考价值（4 点）
- 构建领域知识图谱时不要止步于物品属性/关系，可借鉴 FashionEcoKG 的 agentic 三阶段管道：从权威教材抽取高保真知识核心，再做跨域增强和生成式扩展，捕获电商领域的完整生态（设计、生产、营销、穿搭等），降低 LLM 幻觉。
- PG-RAG 的 Dual-Granularity Path Re-Ranking 可直接迁移到通用 RAG 检索后排序：先用剪枝后的 query skeleton 提升召回，再用原始完整 query 对候选路径逐条做 agentic 审查，兼顾召回和精确率。
- 训练无关（training-free）框架适合快速落地，无需微调 LLM，只需在检索和重排环节做结构化处理，适合电商搜索推荐团队在现有 RAG 管线上增量部署。
- 对时尚/导购类 Agent，可以将领域 KG 作为工具或知识源，结合 skeleton 提取和路径重排，让 Agent 回答“这件衣服适合什么场合”等知识密集型问题时更有依据。
丰富-检索-排序：超越上下文路由的规模化能力发现
🧭 Agent 能力发现 · 检索-重排 ★ 深度解读
Amazon AGI
将 Agent 能力发现重构为离线丰富+在线检索-重排，在 7,278 个工具上以约一半成本领先 Search&Pick 6.5pp，并比全量上下文便宜 70 倍
📌 工作参考价值（4 点）
- 如果业务里要用 LLM 从上千个 API/agent/tool 中选调用，不要让它读全量 registry：改为 BM25+dense 召回 top-15，再单次 LLM listwise rerank。这样成本与 registry 规模解耦；Nova Micro 扫描显示单阶段全量路由在 N≈500 后崩，可作为架构切换的经验阈值。
- 离线把稀疏的 item/tool 元数据改写成结构化 profile（summary、action-led description、keywords、正/负 usage examples）一次完成，供检索和 reranker 共用。干净公开数据上 enrichment 无收益（甚至 -4.4pp），但元数据只剩 name 时 Match@1 +25.6pp、Recall@15 0.134→0.467；先评估自家商品/工具 metadata 稀疏度再决定是否上。
- 做错误归因：约70%的大规模 miss 在 retrieval，换更强 reranker 只 +3pp。优先提升一阶段召回（hybrid、更好 dense encoder、字段加权）而不是继续优化 reranker prompt。
- 打分信号可设计成可插拔加权：LLM 0.50 + BM25 0.05 + Quality 0.30 + Intent 0.15，字段缺失自动 renormalize；在有 trust/type 元数据时 Quality+Intent 额外 +4.5pp。这种统一配置可以跨 tools/agents/skills 复用，避免每种能力单独调参。
风险感知的Agent工具检索重排序
🧭 Agent 工具检索的风险感知重排序 ★ 深度解读
University of Science and Technology of China · University of Electronic Science and Technology of China · Lanzhou University · Fenz.AI · University of Glasgow
提出轻量双头重排序框架，在保持相关性的同时通过可调风险惩罚和规则过滤降低高风险工具暴露
📌 工作参考价值（4 点）
- 在电商/广告的 Agent 工具调用或 API 选择场景，可以在召回后增加双头重排序：冻结已有 encoder，只训练两个轻量 MLP 头（相关头 + 风险头），用 s = f_rel - λ f_risk 融合，λ 作为推理时旋钮控制安全-效用平衡，头部参数量仅 20 万，推理开销极小。
- 对商品/内容候选做类似风险标注（如合规风险、敏感类目、价格操纵风险），定义 RVR@k / SRR@k 类指标监控 top-k 风险暴露，作为 NDCG/MRR 之外的安全补充指标；该论文的标注方案（三 LLM 投票 + 人工复核）可直接复用。
- 规则过滤器思路可迁移到严格合规场景：重排后叠加硬约束（如最多一个高风险商品、相似度去重），提供可解释的保守操作点，适合需要审计的推荐/搜索候选集。
- ToolGraph 的分数平滑主要提升相关性而非安全，若要在业务中引入 item 关系图（如同店铺、共现、类目）做平滑，应将其定位为相关性增强模块，安全控制需依赖独立的风险头或规则。
FrontierChallenge：评估科学工作流完整执行基准
🧭 科学工作流智能体评估基准
提出跨领域科学工作流基准，揭示高部分得分与置信完成声明均不保证端到端交付
📌 工作参考价值（4 点）
- 借鉴其评估思路：为多步 Agent 任务定义完整交付物清单（required deliverables），而不只看最终答案；在电商场景可设计包含策略输出、代码、报告等一致性的端到端验收集。
- 采用 Pass Rate 和 Avg Score 双指标：Pass Rate 衡量端到端全对比例，Avg Score 捕捉部分进展，避免只优化平均分掩盖完整交付能力不足；推荐系统离线评估可区分“部分正确”与“全流程完成”。
- 关注模型虚假完成声明：75.5% 非通过轨迹仍声称完成，提示在业务 Agent 中需增加交付物校验与一致性检查，不能依赖模型自报成功或语言层面的置信表达。
- 按领域拆分评估：部分领域部分分数极高但完整通过率近零，说明简单任务高分不迁移到复杂工作流；在电商多域 Agent 上线前应分域测试端到端通过率。