RIT-RAG：检索诱导树在文档语料中导航
🧭 Agentic RAG 树结构导航
IBM · IIT Kharagpur
用检索块位置诱导多文档子树，让 LLM Agent 在结构上导航并选择性阅读，提升复杂文档问答准确率
📌 工作参考价值（4 点）
- 借鉴“检索提出位置、Agent 决定阅读”的分离设计：把检索结果映射到商品文档、帮助中心或政策文档的目录树片段，让 Agent 在局部子树上推理而非直接读 chunk，能更好利用结构信息并控制上下文长度。
- 离线为每个文档/类目构建树索引（TOC、sitemap、商品属性层级），在线用宽召回 chunk 诱导多个候选子树，避免“先选文档后无法纠错”，适合多来源、超长文档库。
- 在客服/售后场景中，Agent 选择性读取节点并改写查询，可以降低 LLM token 消耗，同时提高回答准确率和可溯源能力；可以在现有 RAG pipeline 上增加结构索引层。
- EntQABench 是 284 万级技术文档 QA 基准，可用于评估大规模文档库的检索和 Agent 导航能力，但电商领域还需自建结构评估集。
RoboRSI：复杂真实环境中稳定高效可复用的机器人自我进化
🧭 多智能体机器人技能自进化
通过Top-Down Skill Refinement将任务分解为分层技能，多智能体协作实现机器人技能自我进化与复用
📌 工作参考价值（4 点）
- 任务分层与责任归属：将复杂 Agent 工作流分解为 compound/atomic/base 技能，并明确定义输入-输出契约，每个失败可定位到具体技能分支，避免全局重写。电商 Agent 中可将“选品策略”“生成文案”“出价”等拆为独立技能，定位问题更精准。
- 验证后发布（Reviewer gate）：新技能或修复必须经过执行证据验证才能进入可复用库，防止低质量更新污染系统。推荐系统中策略更新可比照设置回归验证关卡。
- 稳定序列固化为 compound skill：频繁出现的成功技能序列可封装为高级技能，减少后续规划 token 和推理时间。例如广告投放中“查询库存→生成标题→选目标人群”可固化为复合技能，降低 LLM 调用成本。
- 人在环（objectives and corrections）：用户只提供目标和纠正，不参与细节，多智能体自主规划、执行、诊断。电商 Agent 可让运营设定目标（如提升 GMV）和纠正，系统自主迭代。
RSI-Anything：用世界模型解锁递归自改进
🧭 世界模型驱动的递归自改进
提出基于预测世界模型的递归自改进框架，在代码、GUI、科学任务中提升成功率并降低交互成本
📌 工作参考价值（4 点）
- 可借鉴其「预测选择 + 条件自适应」思路：在电商 Agent 或推荐流程中用世界模型预筛候选 action / 训练样本，减少对昂贵外部反馈（人工标注、在线实验）的依赖。
- 将 policy 与 world model 作为配对版本管理，通过 component / compatibility check 决定是否保留更新，能防止 Agent 多模型链路中的版本漂移，适合多阶段生成式推荐管线。
- GUI 评估中平均 actions 减少 39.4%，说明世界模型引导能在保持任务完成率的同时降低交互步数，对需要控制 token / 工具调用成本的 Agent 工作流有直接迁移价值。
- 小规模但一致的提升模式：代码修复 26.3%→29.2%→31.2%，说明预测选择与模型自适应可叠加，业务上可作为低成本增量优化手段。
SAIL：通过科学感知循环实现科学智能体智能
🧭 科学智能体训练循环
IQuest Research
35B总参/3B激活的开源科学智能体，用失败诊断自动生成训练任务，性能媲美更大模型
📌 工作参考价值（4 点）
- 业务 Agent 失败诊断闭环：用强模型分析业务 Agent 的失败 case，定位是检索证据选择、规划修订还是工具调用能力不足，再基于业务知识库自动生成带交互轨迹和可执行环境的训练样本，比人工标注更可规模化。
- 小模型逼近大 Agent 能力的训练组合：先做子能力 specialist SFT（如 query 改写、搜索结果筛选），再用多个 frontier model 做多教师 on-policy 蒸馏，最后接入 Agentic RL。适合电商/搜索推荐场景下用低成本模型达到大模型 Agent 效果。
- MoE 架构降低推理成本：35B 总参 / 3B 激活的设计在保持推理低延迟的同时提升多任务能力，对需要实时响应的搜索推荐 Agent 有直接参考价值。
- 搜索型任务重点优化证据选择：论文发现文献任务失败主要来自证据选择，提示可以在搜索推荐 Agent 中显式构造 query 改写、召回结果排序、引用证据一致性等训练数据，而非只依赖端到端生成。
SignRAG：面向无标注手语翻译的统一检索增强框架
🧭 手语多模态翻译 · RAG 与强化微调
Macau University of Science and Technology · University of Macau · Institute of Automation, Chinese Academy of Sciences · Yale University · VIVO AI Lab
提出SignRAG，结合分层预训练、目标域检索增强与检索效用强化微调，首次在CSL-Daily全指标超越基于标注的手语翻译方法
📌 工作参考价值（4 点）
- 将“目标域检索库”视为业务内高质量少样本池：为特定商品类目或活动页建立小型 retrieval gallery，推理时注入 top-k 实例，可减少全量参数微调成本。
- RUG-RFT 的“检索效用奖励”值得迁移：用质量+效用双 reward 训练模型分辨哪些检索结果是正/负干扰，可用于推荐解释生成、Agent 工具调用路径选择等场景。
- 分层对齐思路可复用：先学习视觉/文本模态对齐，再与 LLM 联合训练，能缓解跨模态优化不平衡；在多模态商品表示接 LLM 时可参考。
- 无 gloss 超越有监督结果说明：检索增强+弱监督可能替代昂贵结构化标注，在商品属性补全、Query 改写等任务中可尝试。
SkillContrast：差异引导的 Agent 技能重排文本选择
🧭 Agent 技能检索重排 · 差异文本选择
Huawei Technologies Co., Ltd. · Department of Obstetrics, Shanghai East Hospital, Tongji University School of Medicine
训练无关的文本选择器，保留候选技能间差异与局部上下文，压缩重排输入并提升干净命中
📌 工作参考价值（4 点）
- 在 LLM/Agent 重排环节需要压缩候选输入时，不要只按 query 相关性抽句；可对候选集合做差异对比，保留版本、适用条件、资源限制等只有部分候选具备的区分信息，帮助 reranker 区分相似技能/商品。
- 该方法训练无关，可作为 reranker 前置的文本选择模块，适合业务快速接入；生产环境可用字符/段落 diff 或属性对比生成差异片段，控制单候选 token 预算。
- 对电商/广告中相似商品、素材或 skill 的重排，可尝试对候选标题、属性、卖点做“差异化选择”，突出规格、适用人群、价格条件等关键差异，提升 LLM 排序准确率并降低调用成本。
- 注意模型规模影响：较小 reranker（0.6B）可能因信息损失而弱于全量输入，较大模型（4B）可保持甚至提升；建议在目标模型上验证 token 节省与效果平衡。
σTransfer：μP参数化下从小网络到大网络迁移不确定性
🧭 μP参数化 · Laplace不确定性迁移
University of Cambridge · Spotify
利用μP推导先验协方差缩放，使Laplace近似中的精度选择可零样本从小模型迁移到大模型
📌 工作参考价值（4 点）
- 大模型不确定性评估省钱：在LLM/Transformer上做Laplace近似或贝叶斯推断时，先用μP参数化，在小模型上sweep先验精度，再零样本迁移到大模型，避免大模型上昂贵的posterior sweep。工程上可直接降低OOD检测、主动学习、拒答决策所需的计算成本。
- μP参数化是迁移的基础：若模型采用μP，先验协方差需按宽度缩放（论文中推导的重缩放），否则精度选择不随宽度稳定。迁移到业务模型时，需要同时采用μP初始化与对应缩放，不能只调精度。
- 后验决策可跨尺寸复用：论文验证了采集函数、OOD得分、拒答决策在后验稳定性下也能直接迁移，无需构造大模型后验。这对线上推荐/搜索系统里的不确定性相关模块（如置信度过滤、探索策略）有参考价值：可以只在小模型上调策略，再部署到大模型。
- 适合模型升级场景：当业务从1B模型升级到7B模型时，可复用已调好的先验精度，避免重新调参，加速约2.3～330倍（取决于任务），且NLL损失极小。
所有判决并非平等：重新思考 LLM 裁判可靠性
🧭 LLM-as-a-Judge 可靠性审计
PayPal
对 LLM-as-a-Judge 进行系统可靠性压力测试，提出可信判决率 T，并发现 rubric 打分比成对胜负更可信
📌 工作参考价值（4 点）
- 在电商/搜索评估链路中不要用单次 LLM 成对判定作为 ground truth：至少交换待比较项顺序、重复采样多次、记录一致性；可引入类似可信判决率 T 的联合概率作为上线门槛。
- 位置偏差对 pairwise 评估影响严重，尤其是困难样本；推荐策略 A/B 对比、query 改写/生成质量评估应优先使用整体 rubric 打分（分维度评分），而不是直接问法官谁赢。
- temperature=0 不等于确定性；若业务依赖 LLM 自动打分生成训练信号（如 RL reward），必须显式固定 seed、多轮采样并丢弃不一致样本，防止错误信号被误认为稳定标签。
- 可靠性是 item-specific 的，不适合只看模型级平均准确率；对高价值场景（大促文案、头部商品推荐理由）按 item/类目统计置信度，低可信样本人工复核。
推理驱动的视觉编辑基准与 RISE-Agent
🧭 视觉编辑推理基准与 Agent 评估
Shanghai Jiao Tong University · Southeast University · South China University of Technology · Microsoft Research Asia · Fudan University
构建首个推理驱动视觉编辑基准 RISEBench++ 及训练无关 Agent，覆盖六类推理并评估58个模型
📌 工作参考价值（4 点）
- 复杂指令的分层拆解：将用户编辑需求按时间、因果、空间、逻辑、反事实维度解析，可借鉴到电商商品图修改、广告素材编辑等场景，提升指令遵循精度。
- LMM-as-a-judge 的校准评估：结合人工校准的大模型裁判，可用于生成式推荐结果、文案或图像修改的多维度离线评估，降低人工评测成本并提高一致性。
- 训练无关 Agent 工作流：RISE-Agent 的规划-执行-验证闭环，适合直接嵌入商品图或营销素材生成的业务流，先做推理规划，再调用修图/生成工具，最后用验证器自查，无需额外训练。
- 多图条件输入保持外观一致性：多参考图机制可迁移到电商场景中跨图保持品牌 VI、模特、商品外观一致，减少多步编辑中的风格漂移。
VFold：对称性感知的跨层 Value Cache 压缩
🧭 LLM 推理 KV cache 压缩
Johns Hopkins University · George Mason University
利用 value cache 跨层对称性做无损合并，不改模型结构，可与量化/剪枝组合进一步压缩
📌 工作参考价值（4 点）
- 适合长上下文 Agent/RAG/LLM 排序服务：在不改模型结构、不重新训练的前提下，于 decode 前对 value cache 做跨层对称合并，可直接降低显存占用，线上可插拔。
- 可与 KV cache 量化或 key cache pruning 组合：先做 VFold 式 value 合并，再做高压缩比量化/剪枝，能在 memory 受限条件下换更大 batch 或更长上下文；需用 LongBench/RULER/多轮工具调用等业务指标回归。
- 工程实现上只需读取 value cache 并做轻量融合/索引，对注意力结构无侵入，适合已经冻结模型参数的线上推理框架（如 vLLM、TensorRT-LLM）外挂使用。
- 可离线检测各层 value 表示的余弦相似度/CKA，定位高冗余层，再决定合并范围；若用 LLM 做序列推荐或用户行为编码，类似跨层冗余也可能存在，值得做一次成本极低的探测。
ViSkill：用演化视觉原生技能强化 VLM 智能体
🧭 Agent 强化学习 · 视觉技能库
Zhejiang University
提出 ViSkill，将成功轨迹编码为视觉原生技能卡，检索引导推理与奖励塑造，形成技能库与策略优化闭环
📌 工作参考价值（4 点）
- 视觉原生技能表示：在电商导购/UI 自动化 Agent 中，截图、布局标注等视觉信息不要全部文本化；把成功交互的关键帧保存为“视觉技能卡”，检索后直接作为多模态上下文，减少空间关系丢失，提高策略泛化。
- 技能库与策略优化闭环：将成功轨迹蒸馏回技能库，并让检索技能同时用于推理和奖励塑形，使技能积累与策略改进互相强化；业务 Agent 可用类似机制积累成功会话片段，提升样本效率。
- 冷启动机制：用少量高质量演示初始化技能库，加速早期 RL 训练；新业务或新场景上线时，可从历史专家轨迹构建种子技能库，减少冷启动成本。
- 奖励塑形技巧：引入检索技能相似度作为辅助奖励，有助于稳定训练，但需监控技能库陈旧度避免误导策略。
Work2Skill：捕获人类 GUI 经验以归纳可复用智能体技能
🧭 Agent 技能归纳与复用
Shanghai Jiao Tong University · Fudan University · Nanyang Technological University · Zhejiang University · Shanghai Qiji Zhifeng Co., Ltd
提出 Work2Skill 框架，从人类 GUI 演示中自动归纳可复用技能，显著提升多个执行模型的任务成功率
📌 工作参考价值（4 点）
- 构建领域操作技能库：把电商运营、广告投放、客服工单等复杂后台操作的人类专家录屏与键鼠事件、UI 树对齐，自动抽取可复用的 workflow rules 和 completion checks，将流程规则与任务特定参数分离，供 Agent 在新任务中直接调用。
- 采用按需证据检查的归纳方法：不一次性解析长轨迹，而是让 LLM Agent 根据问题动态检索关键片段，避免长上下文噪声，适合从海量操作日志或工单记录中提取高质量 SOP。
- 搭建高质量演示采集管道：参考 WorkRecorder 的多模态对齐与完整性/成功筛选，企业内部可持续积累经过验证的专家示范，形成训练与评估数据闭环。
- 技能与执行模型解耦：验证技能注入对四种执行模型均有提升，说明可将技能作为独立模块叠加在 LLM/VLM Agent 上，便于迭代和迁移到不同业务场景。
先验还是反馈？LLM 在适应神经算子时依赖什么
🧭 LLM 科学代理决策归因
University of Surrey · Compare the Market
通过干预实验证明 LLM 在神经算子调参中同时依赖任务先验与实验反馈，而非仅靠初始上下文
📌 工作参考价值（4 点）
- 在 LLM 驱动的超参/策略搜索中，可利用 LLM 的领域先验作为初始配置，替代随机或贝叶斯优化冷启动，提升预算有限场景下的早期性能。
- 评估 Agent 是否真正利用反馈时，借鉴其干预设计：重排历史反馈分数、做保值重写、冷启动基线，避免只看最终指标造成虚假归因。
- 对搜索推荐中的自动调参/模型选择，可让 LLM 根据任务描述生成候选配置，再用反馈迭代；注意先验会随任务描述变化，如学习率需随任务调整。
- 局限：论文面向科学计算神经算子，业务可借鉴点主要在 LLM 决策归因方法和 warm-start 思路，需自行验证在电商/推荐场景的迁移效果。
以更少训练学习更多：不确定性引导的渐进收缩实现高效推理后训练
🧭 LLM 推理后训练 · 数据收缩
National University of Singapore · Nanjing University · Fudan University · The University of Sydney · The Chinese University of Hong Kong
用不确定性引导的渐进收缩框架，将推理监督压缩至全量SFT的0.22%训练预算，且维持或提升推理性能
📌 工作参考价值（4 点）
- 在电商/推荐场景用 LLM 生成商品卖点、推荐理由或搜索 query 理由时，可借鉴「不确定性引导的数据筛选」：先对生成轨迹做蒙特卡洛树展开，计算中间步骤的 token 概率方差或模型置信度，只保留高不确定性的样本用于 SFT，能显著降低训练数据量而不丢效果。
- 两阶段收缩可以拆成「离线静态筛选 + 在线动态路由」：离线基于教师模型的不确定性先压缩语料，在线根据学生模型当前 loss 或梯度变化决定是否继续使用某样本，这种策略适合在增量训练或弱标注业务数据上做持续微调。
- 弱到强泛化结果提示：用较弱/较便宜的模型先对大规模生成数据进行筛选，再用筛选后的数据训练更强模型，能降低推理数据标注成本；这在需要大量 LLM 生成内容但标注预算有限的推荐文案、对话式推荐场景很实用。
- 过程级不确定性比只看最终结果的正确性更精细：在处理多步推理链（如购物决策解释、Agent 路径规划）时，可以定位到具体哪一步不稳定，从而针对性补充监督信号或修复 prompt，而不是重训整个样本。
用价值表示预测对齐泛化
🧭 LLM对齐泛化预测 · 价值表示
Carnegie Mellon University · Mila - Quebec AI Institute · McGill University · ETH Zurich · University of British Columbia
建立对齐泛化预测任务，激活表示比文本描述更准（ρ=0.45 vs 0.05），并构建首个经验价值分类
📌 工作参考价值（4 点）
- 电商/广告场景下，通过 RLHF/DPO 对齐业务目标（如用户满意度、多样性）时，可构建类似“对齐泛化矩阵”：对每个业务指标微调小模型，测量对其他指标的行为影响，用激活表示预测目标间冲突，提前识别相互干扰。
- 该方法用模型在应用特定策略/价值观时的隐层激活作为 embedding，比直接用文本描述效果好得多（ρ=0.45 vs 0.05）。在 Agent 或多任务推荐模型中，可采集策略提示下的激活构建“业务目标向量”，用于度量策略相似性、辅助多目标权重设计。
- 论文发现多价值对齐目标中价值相似度与模型鲁棒性显著相关。实际可借鉴该指标评估多业务指标组合的冲突程度，避免训练目标过窄导致线上行为漂移。
- 跨模型共享价值空间的初步证据支持构建统一目标表示：如召回、粗排、精排等多个模型协同的推荐系统，可用相同“业务价值向量”对齐不同模型的行为，提升整体一致性。注意预测精度仍有限（ρ=0.45），适合作为粗筛或辅助决策工具。