校准模型级联：低成本的赞助搜索相关性离线标注
🧭 离线标注 · 模型级联 · 按类校准 ★ 深度解读
Walmart Global Tech
将精度与成本解耦：领域微调提供近20点精度提升，校准级联再节约一半计算量
📌 工作参考价值（4 点）
- 自动标注管线设计：先部署小模型 (Cross-Encoder) 处理绝大多数简单样本，仅对低置信度实例级联到更大 LLM，可在保持精度的同时节省约 50% 推理成本，适合大规模 query-item 相关性标注。
- 按类校准优于全局校准：对每个预测类别分别拟合 isotonic 回归，能够修正类别特异的过/欠置信，提升级联路由的准确性 (+0.6pp)；在分类器置信度用于触发不同策略时，推荐采用 per-class 校准。
- 模型规模与数据预算的联合规划：小模型（如 DeBERTa）学习曲线饱和早，大模型（8B）能持续从更多数据中获益；可根据标注预算将难例递交给大模型，最大化样本效率。
- 输入模板的严格一致性：微调后的分类头对 prompt 格式极度敏感，细微变化会导致精度下降 10–15 个点；生产环境必须固化模板并与训练时完全对齐。
信息感知的 KV 缓存压缩用于长推理
🧭 LLM 推理优化 · 熵感知 KV 压缩
Shanghai Jiao Tong University · University of Edinburgh
提出熵感知的 KV 缓存压缩框架 InfoKV，结合预测不确定性与注意力得分，提升长推理效率。
📌 工作参考价值（4 点）
- 长对话/文档推理的部署加速：在电商搜索推荐系统的多轮助手、售后长文档分析等场景，可直接用 InfoKV 压缩 KV 缓存，减少显存占用与解码延迟，无需重新训练模型。
- Agent 长期记忆的高效管理：Agent 在维护对话历史或用户行为序列时，利用预测不确定性筛选对远期推理关键的信息 token，既保留关键上下文又控制缓存大小，提升持续交互的响应速度。
- 混合重要性评估范式：将 token 级熵信号与传统的注意力权重结合，是一种低成本、即插即用的重要性评分增强方式，可迁移到其它需要上下文剪枝的 LLM 应用中（如 RAG 中的长文档分块选择）。
- 解码阶段动态压缩：InfoKV 在解码阶段同样有效，适合流式生成时不断增长的 KV 缓存管理，可降低线上长时生成过程的尾部延迟。
延时验证破坏多智能体LLM信念：不稳定阈值与最佳纠错器放置
🧭 多智体延时验证稳定性与最优纠错放置
Independent Researcher, Tel Aviv, Israel
揭示多智能体LLM中验证延迟引发信念振荡的阈值，并给出贪心最优纠错器放置策略
📌 工作参考价值（4 点）
- 多智能体推荐系统（如规划-执行-验证链）中，验证节点的延迟需严格控制：延迟过大会导致信念振荡，影响推荐结果一致性，可参考稳定性阈值公式（如延迟2时阈值=1/φ）调节验证频率与强度。
- 纠错器（人工审核/强规则）的放置预算有限时，使用本文的贪心算法选择影响力大的节点进行纠错，能获得(1-1/e)近似最优的稳定性提升，可直接迁移到多智体关键节点选择。
- 事实性推荐任务（如基于知识图谱）应将回答锚定在非符号化的真值源上，形成吸收边界来消除振荡，避免纯符号信念传播导致的脆弱性；对于非事实性任务（如创意推荐），需额外引入收敛机制。
- 若系统中出现输出反复翻转，可检查验证延迟与通信延迟是否接近，此为最不稳定区，通过异步解耦或缩短延迟可缓解。
指令渗漏：提示组合智能体系统的跨模块干扰
🧭 Agent 提示组合干扰评估
University of Illinois Urbana-Champaign
形式化提示组合Agent中的行为泄漏(CBL)，提出三通道探测协议并确认内容通道产生显著干扰效应
📌 工作参考价值（4 点）
- 构建多模块提示组成的搜索/推荐 Agent 时，需评估模块间干扰：无共享变量也可能通过上下文窗口的自注意力产生行为泄漏，建议在部署前对模块组合进行联合测试。
- 可直接复用三通道探测协议（volume、content、form）来量化生产 Agent 的 CBL，其中 content 通道最易触发干扰，可作为最小可行测试集。
- 效应虽未引起单次推荐翻转（Cohen’s d=0.63），但在高吞吐场景下微小偏移会随决策次数积累，评估时不能只看 QA 准确率，必须监控分布级偏移。
- 工程上可在提示编排中引入明确的分隔标记或模块隔离策略（如约束注意力范围），以减少非预期的跨模块信息混合。
置信度感知的工具编排实现鲁棒视频理解
🧭 Agent 工具编排 · 置信度感知推理
NTU Singapore · University of Minnesota, Twin Cities · UNIST
提出 Robust-TO 框架，通过逐帧可靠性评估与异构工具编排，将视频推理在干净/受损输入下的准确率提升至 56.4%/54.3%，远超基线。
📌 工作参考价值（4 点）
- 多媒体内容理解鲁棒性：商品视频/直播切片中存在模糊、遮挡等问题，可引入逐帧置信度评分，避免“盲目信任”导致的预测偏差。
- 工具编排与证据合成：将异构感知模块（OCR、目标检测、动作识别）抽象为统一证据接口，在推荐系统多模态特征融合时，按可靠性加权，提升融合质量。
- 置信度引导的强化学习奖励设计：GRPO 奖励结合正确性、证据可靠性和效率，可用于训练推荐模型在信息不足时主动请求高价值特征，实现成本-收益平衡。
- 在 Agentic 系统中，面对传感器或日志噪声，类似的三层置信度合成策略（高/中/低）可用于动态调整决策权重。
Autodata：代理式数据科学家自动生成高质量合成数据
🧭 代理式数据合成 · 迭代自我改进
FAIR at Meta
提出代理式数据科学家框架，通过迭代生成、评估与元优化，将推理算力转化为高质量模型训练数据
📌 工作参考价值（4 点）
- 搭建推荐数据飞轮：借鉴Autodata的循环流程（生成→定性检验→定量评估→优化配方），构建自动化合成数据管线，尤其在长尾商品/查询等欠缺真实样本的场景，持续产出难例。
- 用下游指标反馈优化生成策略：把离线模型性能（如AUC）或线上AB指标作为reward，元优化数据生成agent的prompt或采样策略，让生成的数据更贴合业务模型需求，类似自动超参调优。
- 在搜索推荐中迁移Agentic Self-Instruct：将任务定义为“生成搜索词-商品对”或“对话推荐场景”，通过self-instruct + 反思迭代，自动扩写训练集，尤其适合冷启动和少样本领域。
- 工程落地上注意成本控制：论文通过增加推理计算换取数据质量，实际部署时可对复杂任务才启用agent迭代，简单任务用固定模板，避免线上生成延迟过高；合理设置评估检查点与早停机制。
巴西电商产品属性值提取：基于LLM与黄金标注集的方法
🧭 LLM赋能属性提取 · 巴西电商 ★ 深度解读
LuizaLabs · Mackenzie Presbyterian University · University of São Paulo
用精心设计提示词的LLM代替传统NER，在巴西葡语商品属性提取上F1提升约15个百分点
📌 工作参考价值（5 点）
- 用LLM+提示工程直接做商品属性提取：无需微调，为每个品类定制提示词（任务说明、上下文、输出JSON格式、few-shot示例），可快速替换传统NER，特别适合多品类、多语种电商快速迭代。
- 构建黄金标注集的方法论：使用Cochran公式确定每类产品的样本量（95%置信度、5%误差，约385条），20个品类共覆盖数十万产品，可作为评估模型质量的无偏基准，也适合作为业务内部模型评测的固定验证集。
- 结构化输出设计：提示词中明确要求JSON输出，下游可直接解析入属性库、供搜索/推荐使用；对电压、尺寸等多值或歧义属性，提示词中需提供具体格式和示例，可大幅减少后处理。
- 工程部署考量：文中对比了自托管开源模型（VM部署，可预见延迟和成本）与闭源API（Gemini 2.5 Flash-Lite，1000并发请求平均1.3s但偶发30s）。推荐高吞吐场景优先自托管，避免API延迟波动和rate limit。
- 属性标准化仍是痛点：同一属性存在多种写法（“bivolt”“110/220V”），LLM虽能提取但一致性不足，建议后续增加规则或正则规范化层，或对LLM施加更严格的输出格式约束。
层次偏序模型用于排名聚合
🧭 偏序排名聚合 · 层次聚类
University of Oxford · University of Auckland
将偏序排名模型扩展到层次结构，建模分组偏好并保持不可比性，优于现有方法。
📌 工作参考价值（4 点）
- 在推荐系统中，用户行为（点击、购买）常表现为偏序关系而非全序，使用偏序建模可更准确地捕捉偏好不确定性，避免强制排序带来的噪声。
- 层次结构允许跨用户群组共享信息，可应用于冷启动用户或稀疏评分场景，通过纳入群体先验提升预测精度。
- 无监督聚类扩展 HCPO 能自动发现用户群体结构，可直接用于用户分群或兴趣聚类，替代传统 k-means 等硬聚类方法。
- MCMC 推断输出后验分布，可提供不确定性量化，有助于推荐可解释性及风险控制，例如在广告投放中评估偏好排序的置信度。
大规模零样本检索的极端元分类框架
🧭 极端分类 · 零样本检索元分类 ★ 深度解读
Microsoft Research, Bengaluru, India · Microsoft, Redmond, USA · Indian Institute of Technology Delhi, India
提出 EMMETT 元分类框架，为未见过的物品动态合成分类器，实现零样本检索精度最高 15% 提升，线上 CTR 增益 4.2%
📌 工作参考价值（4 点）
- 冷启动物品快速向量化：借鉴 IRENE 的“选择已有分类器→元分类器生成”流水线，新商品无需重训模型，只需用 ANNS 检索少量相似商品的分类器（如 K=3），经单层 Transformer 融合即可上线，延迟仅毫秒级。
- 训练策略冻结基座：冻结预训练的编码器和已知物品分类器，仅训练轻量生成器，避免过拟合，使新零样本泛化更鲁棒；业务中可将商品 embedding 和分类器视为固定模块，新增物品只更新生成器。
- 损失函数设计：训练时用邻居分类器替代物品自身分类器模拟零样本，加权二元交叉熵强调正样本，该思路可直接迁移到推荐召回或广告匹配的冷启动物品表示学习。
- 工程化推理解耦：分类器选择（ANNS）与元分类器生成（单层 Transformer）分离，新物品入池仅需一次生成器前向和索引插入，适合大规模、频繁更新的广告或商品推荐系统。
代理式电商中的验证产品信息微交易市场
🧭 代理电商中的信息微交易市场
Manchester Metropolitan University
当AI买家可大规模检索时，瓶颈从商品匹配转向获取可信信息，需构建信息微支付市场
📌 工作参考价值（4 点）
- 成本最优的信息获取策略：购物Agent可内置信息购买决策模块，根据商品价值动态计算“值得花多少钱解锁详情”，在预算约束下最大化购买信心。
- 信息定价与谈判机制：构建卖家与信息提供者的双向市场，用Agent谈判协议动态定价验证报告，替代传统固定收费的广告排名，激励卖家主动提供高质量信息。
- 声誉评分验证信息可信度：借鉴reputation scoring，对评论者或信息源建立信任积分，Agent购买前根据积分加权信息可靠性，对抗虚假评论和操纵行为。
- 隐私保护的买家画像：在Agent本地建模用户偏好，仅向外透露必要特征，平衡精准匹配与隐私泄露风险，适合电商场景下用户敏感数据保护。
对话到发现：属性感知的对话商品搜索助手
🧭 对话产品搜索 · 属性感知策略 ★ 深度解读
Adobe Research · Microsoft Research · UC Berkeley
D2D通过属性不确定性引导与推荐时机控制，成功率提升22–30%，弃标率降低，成功对话缩短27.5%
📌 工作参考价值（4 点）
- 属性选择的可解释启发式：用属性不确定性（APU）与累积熵（ACE）的乘积选择询问属性，比完全依赖 LLM 判断更可控、可解释，可直接迁移到电商搜索助手的槽位填充（slot-filling）模块。
- 推荐时机的置信区间重叠准则：当 top- k 项目得分置信区间重叠度低于阈值时才推送商品，避免过早推荐导致用户反感。这一规则简单、无模型依赖，适合嵌入实际对话推荐引擎的决策层。
- 耐心建模用于仿真评估：结合推荐相关性、问题冗余度、认知负荷等多因素更新用户耐心，构建更真实的离线用户仿真，可用于 A/B 测试前的策略选优。
- 模块化 LLM 调用降低成本：将属性偏好更新、推荐决策、响应生成拆分成独立的小模型调用，每轮输入 token 远小于全上下文 LLM，实测输出 token 减少 51%，适合成本敏感的在线服务。
改进的大语言扩散模型
🧭 大语言模型扩散训练与推理优化
Renmin University of China · Beijing Key Laboratory of Research on Large Models and Intelligent Governance · Engineering Research Center of Next-Generation Intelligent Search and Recommendation, MOE · ByteDance Seed
8B 全双向掩码扩散语言模型从零预训练 12T tokens，大幅超越 LLaDA 并与自回归模型竞争
📌 工作参考价值（4 点）
- 生成式推荐场景可尝试用扩散模型替代自回归生成，尤其适合需要高吞吐、非自回归解码的物品标题、描述或语义 ID 生成。
- 全双向注意力在用户序列建模、查询改写等需要全局上下文的推荐任务中可能提升效果。
- 掩码扩散训练与变长生成技术可应用于对话式推荐响应生成，平衡效率与多样性。
- 置信度评分为推荐候选集排序提供新思路，如计算 item 置信度辅助精排。
规模能拯救大语言模型的塑性损失吗？
🧭 LLM持续学习的塑性损失标度律
Zyphra
发现LLM塑性损失遵循可预测的亚线性标度律，增大模型仅能延缓而无法根除。
📌 工作参考价值（4 点）
- 搜索推荐系统若需持续增量训练（在线学习），应监控模型在新任务/分布上的快速适应能力，警惕塑性损失导致更新失效。
- 单纯增大模型规模（如从1B升到10B）只能把塑性损失出现时间向后推，无法彻底避免；对于长期运行的业务模型，需考虑周期性重置部分参数、采用弹性权重巩固或正则化策略。
- 即使数据分布平稳（如电商流量自然漂移），长时间训练也会累积塑性损失；定期用固定预算在新数据上微调并评估性能下降，可作为预警指标。
- 借鉴标度律思路，可在模型升级时预估塑性损失风险的延迟收益，辅助资源投入决策。
基于多智能体语义重写的隐私保护RAG
🧭 多Agent语义重写实现隐私保护RAG
North China Electric Power University · University of Florida · University of Macau · Macau Millennium College
通过多Agent协作语义重写去除检索内容中的隐私，将LLaMA-3-8B信息泄露从144例降至1例，且离线预处理无在线延迟
📌 工作参考价值（4 点）
- 电商/推荐系统若用RAG检索含用户隐私的文档，可借鉴多Agent语义重写，在构建商品描述或用户画像时去除PII，平衡隐私与语义保真度。
- 异步预处理模块的设计不影响在线服务延迟，适合集成到数据ETL管道中，对实时推荐系统友好。
- 隐私提取-语义分析-重构的三Agent协作模式可复用到内容安全审核，多个代理协同检测并改写敏感信息。
- 对生成式推荐模型，在生成item文案时可用类似方法防止模型泄露训练数据中的隐私信息。
基于预训练信念表示的高效自适应数据获取
🧭 预训练信念驱动的自适应数据获取策略
ELLIS Institute Finland · Department of Computer Science, Aalto University, Finland · Department of Computer Science, University of Helsinki, Finland · Department of Computer Science, University of Manchester, UK · Department of Statistics, University of Oxford, UK
提出POLAR，用预训练模型编码信念状态以解耦表示与策略学习，统一高效地解决贝叶斯实验设计、优化与主动学习
📌 工作参考价值（4 点）
- 在在线推荐、广告搜索中，可将预训练的用户行为序列模型（如Transformers）作为信念状态编码器，仅微调轻量策略头用于bandit/RL决策，避免从零训练。
- 自动化A/B测试或超参数调优时，可用POLAR实现样本高效的贝叶斯优化，大幅减少实验成本。
- 主动学习选择标注样本：利用预训练的语境表示作为信念状态，训练策略头快速适应新任务，所需查询数显著减少。
- 工程上，解耦表示与策略允许复用预训练表征，只需更新策略头，方便增量部署与策略迭代。