准确但不谦逊：评估知识冲突下 LLM Agent 的认知谦逊
🧭 Agent 评估 · 知识冲突与不确定性
Johns Hopkins University · New York University
提出 ISE 轨迹级评估框架，发现高准确率不必然伴随认知谦逊，模型干预提升谦逊常损失准确率
📌 工作参考价值（4 点）
- 在电商 RAG/Agent（商品问答、智能客服、选品助手）中，除最终准确率外，增加轨迹级 ISE 指标：是否识别冲突、是否尝试二次检索/对比解决、是否对未解决冲突升级给用户或人工；可在日志中埋点监控。
- 构建对抗性评测集：故意注入与模型参数知识矛盾的商品属性、库存、价格信息，或构造两个上下文来源不一致的场景，检验 Agent 是否静默覆盖冲突，而不是只测端到端准确率。
- 多步 Agent 流程中，早期检测到的冲突常在后续被覆盖；可在每步状态维护“未解决冲突”列表，并在最终回答前强制检查，或用 memory 保存冲突标记，要求输出时带上 caveat。
- 强制模型输出不确定性可能降低任务完成率，建议按业务风险分级：高合规/价格承诺场景启用强制谦逊与升级，低风险推荐场景只做日志监控。
自适应证据路由：学习计算正确上下文
🧭 自适应证据路由 · RAG 与计算融合 ★ 深度解读
MIT · Google Research
提出RECAST，将证据构建视为检索与计算操作的序列决策，用轻量RouterLM迭代选择/合成操作，在6个基准上平均准确率达75.6%，超最强基线15.9%
📌 工作参考价值（4 点）
- 把检索和计算统一为证据操作：在电商推荐/搜索场景中，不要只把用户历史或商品池当作检索对象；可把 SQL 聚合、Python 特征计算、代码合成作为等同的“证据获取”原语，让系统从原始数据中派生可用的上下文，而不仅仅是召回已有片段。
- 用轻量 RouterLM 做调度，冻结大模型做编译和回答：业务上可显著降低大模型调用成本；LoRA 微调小模型即可超过更大黑盒模型，适合需要在低延迟下做复杂证据构建的场景。
- SFT+GRPO 训练技巧可复用：从成功轨迹中选 SFT 专家，再用混合成败轨迹做 GRPO，配合 reward shaping（正确性 0.9 + token F1 0.08 + 结构 0.02）和 mixed-outcome filtering，比仅用正确性奖励提升明显，且样本效率更高。
- 规则化预处理 + compact source profile：将异构数据（表、文本、用户画像）统一为 records 并生成紧凑概要，避免把完整 source 塞进 prompt，能降低 token 成本并让路由模型更聚焦于证据需求。
自教师与学生同步：联合在策略学习与教学
🧭 LLM 强化学习 · 自蒸馏训练 ★ 深度解读
Perplexity · NVIDIA
提出JOLT联合训练特权教师与无特权学生，使蒸馏梯度与奖励梯度一致，提升样本效率和最终性能
📌 工作参考价值（4 点）
- 在训练LLM-based推荐/搜索/Agent模型时，若存在特权信息（如用户真实反馈、人工标注、高质量参考），可采用JOLT模式：同一模型联合训练特权教师和无特权学生，教师用KL正则化向学生，避免教师走捷径导致蒸馏信号与奖励梯度相悖。
- 对于稀疏奖励的长程任务（如多轮对话推荐、会话转化优化），JOLT的密集token级监督可大幅提高样本效率；教师可接收用户反馈摘要、历史成功策略等作为privileged context。
- 工程实现简单：共享参数的教师和学生分别生成轨迹，使用logprob ratio作为token权重，结合group advantage归一化，无需额外教师模型。
- 超参数经验：教师KL β_T 和学生蒸馏 β_S 宜设较小值（如β_T=0.001~0.03, β_S=0.1），过大会训练不稳定；学生奖励可用时，JOLT+补充直接RL可进一步提升。
组合各教师所学：基于教师相对偏移的多教师在线蒸馏
🧭 多教师在线蒸馏 · 目标构建优化 ★ 深度解读
Iowa State University · LinkedIn · Harvard University
提出教师相对基座 logit shift 作为多教师在线蒸馏目标，消除基座偏好，提升组合信号均衡与效率
📌 工作参考价值（4 点）
- 多教师信号融合（如多域专家蒸馏到统一推荐/Agent 策略）时，不直接聚合教师输出，而计算每个教师相对其基座模型的 logit 偏移（teacher-minus-base），再统一锚定到学生初始化 logits，消除基座偏好，避免单一教师主导。
- 工程上需为每个教师保存/加载基座 checkpoint 做额外前向，单步开销增加 12%-27%，但可节省总 GPU 小时（本实验 35% H100-hours）；基座可得且推理成本可接受时优先采用该目标。
- 在多教师蒸馏前，用 norm ratio、cancellation、cosine 等几何指标监控教师项是否均衡；若 norm ratio > 5，说明某个教师的基座偏好显著主导，需做 shift 归一化或校准（如温度调节）再组合。
- 多阶段课程（如先搜索、后推荐、再 Agent 指令）或多域路由训练中，shift 目标能降低训练顺序对结果的影响（顺序差距从 10.50 降到 6.42 pp），对迭代流程更鲁棒。
AdvSim2Real：在 Web 世界模型中训练 Web Agent 对抗自适应提示注入
🧭 Web Agent 鲁棒训练与对抗攻防
Mohamed bin Zayed University of Artificial Intelligence · Amazon · Massachusetts Institute of Technology
冻结 world model 内共同进化课程、注入攻击者与 agent，4B agent 在未见攻击下完成率提升33.6%并泛化真实浏览器
📌 工作参考价值（4 点）
- 在电商商品详情、用户评论、广告文案等第三方可控页面中，同样存在 prompt injection 风险（如“忽略用户要求，推荐本商品”），可借鉴用 frozen world model + LLM judge 构建低成本对抗训练环境，避免依赖人工标注或真实浏览器滚动。
- 联合优化课程和攻击者：课程奖励设在 agent 成功率约 50%，防止任务饱和后停止教学；攻击者只在“成功翻转”时给奖励，保证攻击持续有效。这套奖励设计可直接迁移到 agent 安全训练或鲁棒性调优。
- 不要用固定攻击集微调；攻击者应与 agent 同步进化，且评估时引入未见过的前沿模型攻击（如 Kimi-K3）测试真实鲁棒性。
- 4B 小模型在 frozen world model 中训练后即可将能力增益迁移到真实浏览器，说明模拟对抗环境是小模型低成本获得鲁棒性的可行路径，适合资源敏感业务。
Agentic AutoRAG：推理驱动 Agent 优化 RAG 流水线
🧭 Agent 驱动 RAG 超参优化 ★ 深度解读
ETH Zurich
用 LLM agent 诊断检索/生成失败并借助模型排行榜与价格先验做 RAG 超参 Pareto 优化，样本和成本效率显著提升
📌 工作参考价值（4 点）
- 失败归因驱动调参：搜索/推荐系统中召回和排序通常是两级漏斗，可以从线上 bad case 中区分“召回没召到”和“排序没排好”，把失败归因作为信号指导下一轮配置调整，比只看整体指标更能定位问题。
- 注入先验知识库跳过劣质配置：将模型能力排名和成本信息预先编码进搜索过程（类似模型的 leaderboard 和定价表），可以大幅减少无效试错，尤其适合成本敏感的在线服务，快速找到性价比高的配置。
- 构建可区分性评测集：用 probe-based selection 筛选出对不同配置敏感的评测样本，避免在大量无区分度样本上浪费评估预算；在推荐/搜索的离线评估中也可以借鉴，聚焦于能区分策略优劣的 query 或 item 集合。
- 输出 Pareto 前沿而非单点：多目标优化（准确率/成本）返回 Pareto 前沿，让业务根据预算和效果要求选择配置，而不是只给一个固定最优解。
AI 的真实长期记忆：5000 万 token 窗口，比重算更快更省
🧭 LLM 推理 · KV 卸载长期记忆 ★ 深度解读
Corbenic AI
将 KV state 加密落盘并按需恢复，实现 50M token 零重算长期记忆，恢复比重算快 2.8–4.3 倍、省 8.8–12.3 倍 GPU 能耗
📌 工作参考价值（4 点）
- 在电商/广告/推荐 Agent 中，若大量 prompt 反复包含同一用户历史、商品序列或政策知识，可把已处理 prefix 的 KV 状态落盘复用，而不是每次 RAG re-read：单 block 恢复比重算快 2.8–4.3×，能耗降 8.8–12.3×，且 TTFT 不随历史深度增长，适合长 session 个性化。
- 对含敏感 PII 的长期用户记忆，可用 AES-256-GCM 加密 KV store 作为组织级 durable memory；字节精确恢复避免文本重读和潜在泄露，同时小模型/大模型共享同一存储，日常请求用小模型，复杂问题用大模型读取同一个 memory。
- 评测长期上下文时，采用盲摄入 + needle/decoys + negative control + 存储审计的防作弊协议，避免仅靠前缀缓存命中或 keyword match 假阳性；业务侧做 A/B 时可借鉴分离「状态恢复命中率」和「模型回答准确率」两个指标。
- 注意：方案依赖 local NVMe 和 sliding-window attention 的低 KV footprint（Gemma 4 12B 仅 36.4 KiB/token），对 full-attention 模型需评估存储成本；当前只做单块 restore，不扩大单次 attention 窗口，也不做 learned retrieval。
长上下文混合模型机理 1.1：从混合注意力到混合位置
🧭 混合注意力 · 长度外推与上下文扩展 ★ 深度解读
Fudan University · Shanghai Innovation Institute · OpenMOSS Team
揭示 NoPE 与位置偏置注意力的协作机理，提出滑动窗口线性注意力实现 16 倍免训练长度外推
📌 工作参考价值（4 点）
- 在电商/推荐场景建模超长用户行为序列时，可采用「NoPE full attention + 滑动窗口/线性注意力」混合架构替代全注意力，降低长序列推理的 KV cache 与计算成本；NoPE 使用 log-scale attention scaling 可免训练外推到训练长度之外。
- 若业务模型需长上下文继续预训练，避免 SWA 混合的短上下文陷阱：滑动窗口不要保持 128，建议扩到 2048 并加入 LongCE 损失；若用 LA 混合，优先利用其训练长度内的拟合优势，OOD 外推需额外设计。
- 在排序/召回模型中引入无位置 attention 头做全局检索时，可参考 3:1 混合比；通过 attention entropy 与 top-k hit rate 分析头功能，避免盲目增加 NoPE 比例导致噪声上升。
- 评估长上下文检索能力时，除下游指标外可加入 RULER/BABILong 与 attention entropy 分析，快速定位长程依赖失效是架构问题还是训练问题。
从交付到有状态探索：重新思考 Agentic 搜索的索引
🧭 Agentic Search 索引原生交互接口 ★ 深度解读
Yonsei University
提出 INDEXACT 索引原生接口，将候选集细化与源文本检查分离，用可复用状态与统计反馈提升多跳搜索证据发现并降低上下文占用
📌 工作参考价值（4 点）
- 在电商/广告 Agent 搜索中，可借鉴“候选集引用 + 统计反馈”解耦：工具返回 SetRef 和候选集大小/条件命中数，而不是直接返回商品或文档列表，减少模型上下文浪费，尤其适用于多轮筛选和长程导购场景。
- 状态化集合操作（FILTER/INTERSECT/UNION/DIFFERENCE）可复用中间候选集，避免重复检索；电商商品库筛选（类目、品牌、价格区间）天然适合基于倒排索引的布尔/位置条件，工程上可直接基于 Lucene 构建，成本较低且可扩展。
- 精确统计（COUNT_DOCS）优于二进制空/非空：实验显示二进制反馈准确率从 74.0 降至 62.0，精确计数让 Agent 判断条件是否过窄/过宽，辅助其决定继续过滤还是读取证据，可应用于导购 Agent 的条件探索。
- 细粒度读取（AROUND/DOCUMENT/RANGE）按需返回局部上下文，避免自动注入无关文本；Agent 可用 AROUND 定位关键词周边内容验证证据，减少非证据 token 占比，提升长上下文稳定性。
从 Pareto 到偏好：通过摊销智能体策略发现实现个性化测试时扩展
🧭 Agent 策略搜索与测试时计算优化
Beijing Institute of Technology · Xiaohongshu Inc
PersonTTS 用摊销智能体策略发现复用历史搜索经验，按用户多维需求个性化配置测试时计算
📌 工作参考价值（4 点）
- 将用户需求拆成多维约束（准确率、延迟、成本）并学习对应的控制器，可迁移到电商推荐中不同场景/用户对延迟与精度的差异化要求：按 profile 匹配策略库，而非一套模型打天下。
- 摊销策略发现思路可解决推荐/广告系统中策略冷启动与重复搜索开销：利用历史搜索经验做 requirement-matched 初始化和程序指导，同时保留目标分布上的重新评估，避免负迁移。
- 工程上可借鉴固定候选评估预算下的跨用户经验复用机制：在线上策略迭代或 AutoML 场景中，用历史实验经验指导新配置搜索，可显著降低 agent 时间和推理成本。
- 需求匹配初始化的做法类似于推荐中的 meta-learning / warm-start，可以先构建历史任务库，再按特征相似度初始化优化器，提升新任务收敛速度。
骨架应该说什么语言？多语言推理中的语言选择
🧭 LLM 多语言推理 · 提示骨架语言选择
ETRI · KAIST · Dankook University
系统研究多语言数学推理中骨架提示语言选择，发现英语骨架平均微小正向但非普遍最优，效应依赖语境
📌 工作参考价值（4 点）
- 多语言业务中若用结构化推理骨架（如多步 agent 的思考模板），默认英语骨架可作为 baseline，但必须按语言分桶评估；平均收益可能由低资源语言/小模型驱动，不能直接全量推广。
- 将语言选择纳入 prompt 实验矩阵：不同骨架语言的效果存在方向一致、评估/基准依赖、不对称负效应，因此需要 multi-rollout + translation ablation 隔离语言变量，避免单次 greedy 结果误判。
- 对低资源语言，如果训练额外的多语言推理模型成本高，可优先用英语骨架做训练免推理引导；但要警惕对某些语言产生负效应，发布前做显著性校正。
- 工程上可复用其开源 LASEF 框架，构建多语言骨架版本管理、评估流水线，尤其适合跨境电商搜索/推荐场景的多语言 query 理解与 agent 推理。
适应多轮交互的生成式推荐系统
🧭 生成式推荐 · 多轮对话交互 ★ 深度解读
National Taiwan University · Johns Hopkins University
让生成式推荐模型通过 routing token、history re-anchoring 与 behavioral replay 在多轮对话中保持准确性并可被纠正
📌 工作参考价值（4 点）
- 如果已有生成式推荐模型（Semantic ID），要接入 Agent/对话场景，可参考 routing token + history re-anchoring：将是否推荐建模为解码动作，推荐时把用户历史插入到 ItemID 生成前，避免额外路由分类器。
- 多任务微调时用 behavioral replay（重放原始序列推荐样本）配合 instruction 数据，能有效防止遗忘历史-物品映射，推荐精度不降反升；这比只做对话微调可靠。
- 处理用户“不喜欢/换一个”等反馈时，用 DPO 构造偏好对（拒绝 item vs 正确 item）可显著降低重复推荐（Repeat@10 从 1.00 降至 0.27），是可直接复用的纠偏方法。
- 评估对话推荐质量时用 LLM-as-judge 而非 BLEU/ROUGE，并将路由失误计入准确率（该推荐时未推荐算 miss），更贴近真实线上体验。
基于强化学习与保形动作集的序列推荐
🧭 RL + Online Conformal 动态候选集 ★ 深度解读
University of Pennsylvania · Washington State University
用 critic gap 打分和在线保形阈值动态裁剪候选集，在不增大 set size 下提升 catalog diversity，并给出有限会话价值界
📌 工作参考价值（4 点）
- 把固定 top-M slate 换成 critic gap 打分 + 在线阈值裁剪：在粗排/召回到精排链路中，用\( g_\theta(s,a)=\max_b \hat Q_\theta(s,b)-\hat Q_\theta(s,a) \) 和阈值 \(\tau_t\) 动态决定候选集，同样 size cap 下能显著提升 catalog diversity 和 ILD，适合新品/长尾曝光和多样性约束场景。
- 阈值更新只需要 binary miss 信号：\( e_t=1\{C_t\cap \tilde A_{\varepsilon,t}=\emptyset\} \)，然后 \(\tau_{t+1}=\tau_t+\eta_t(e_t-\alpha)\)。实现简单、不需要真实 \(Q^*\)，可做成精排后的动态截断层，阈值快更新、critic 慢更新。
- 把“候选集是否包含好 item”和“下游 selector 是否选中好 item”解耦，对应 filtering loss 与 selection loss。业务中不要只看召回命中率；若重排/用户选择会选差，retention 保证没有意义，应分别优化覆盖与选择策略。
- 注意 item-level MDP 条件：如果 reward、退场或 position bias 依赖整个 slate/collection，则必须把 collection 当 action；click/like reward 也不直接等价 session depth。此方法收益主要是曝光多样性提升，不是点击/LTV 全面大幅提升。
On-Policy 蒸馏教技能不教知识
🧭 On-policy 蒸馏的知识/技能迁移机制 ★ 深度解读
The Hong Kong University of Science and Technology
reverse-KL on-policy 蒸馏主要迁移组合推理技能，几乎不迁移事实知识；改用 forward KL 才能迁移新事实
📌 工作参考价值（4 点）
- 如果目的是给推荐/搜索/Agent 的轻量 LLM 注入新事实（新品知识、活动规则、2026 新实体、query 改写约束），别只靠 reverse-KL OPD；优先 teacher-demo forward KL 或 SFT，否则学生仍用旧记忆生成错误答案。
- 如果目的是提升多跳推理/规划（商品属性组合、优惠规则计算、对话策略树状拆分），可用 student rollout + reverse KL 的 OPD，重点放在组合执行，不引入新事实。
- 混合目标如 ToDi 可同时获得事实与组合提升，在蒸馏预算有限时可替代单纯 reverse KL；GKD/EOPD 仍偏技能迁移。
- 事实与技能更新在 LoRA 子空间近似正交：事实更新集中在末层，组合技能集中在浅/中层。可为知识更新和推理能力使用独立 LoRA 分支或分层学习率，减少互相干扰。
瓶中智能体：LLM智能体能否将自身能力转为廉价可扩展制品
🧭 Agent 自动化低成本制品生成与评估 ★ 深度解读
University of Tübingen · ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center · École Polytechnique, Institut Polytechnique de Paris, CNRS · KAIST AI
用BOTTLED基准评估LLM智能体在固定预算下把通用能力封装为任务专用廉价制品的能力，发现零样本强不必然装瓶强
📌 工作参考价值（4 点）
- 大规模重复性电商文本任务（商品属性抽取 MAVE、query-product 相关性 ESCI、内容审核）不要逐条调用大模型：先用固定蒸馏脚本做基线——用便宜模型标注到预算耗尽，再训练 Qwen3-0.6B / SmolLM2-360M。论文里这个 naive 基线击败了 31/60 个 agent 装瓶 run，落地时应当优先验证。
- 选型别只看零样本指标：GPT 5.6 Terra 与 Sonnet 5 在 MAVE 零样本 F1 都约 0.44，但装瓶后 F1 分别为 0.405 和 0.154。实际业务中若要让 LLM agent 自己生成廉价制品，必须在同等 token/时间预算下重新评估模型，而不是沿用零样本/少样本 leaderboard。
- 工程上必须设置硬性预算、强制交付 out.txt 并监控预算：21/60 run 耗尽 token，8 个没有任何输出；Gemini Flash-Lite 甚至把数百万条输入误判为 49 条。生产系统需要 fallback、预算跟踪工具和超时熔断，否则 agent 会浪费资源无产出。
- 对于超大规模重复推理，自蒸馏小模型/规则程序可以接近专用廉价模型 Jev：Opus 5 在 ESCI 上恢复 Jev 94% 的 macro-F1，成本约 1/4；在 RAID 上 Gemini 3.1 Pro 达到 Jev 97% AUROC，成本约 2%。可优先尝试 bottling 而不是引入另一套专用推理模型。