MEMPROBE：通过隐藏用户状态恢复审计 Agent 长期记忆
🧭 Agent长期记忆的可审计评估 ★ 深度解读
University of Illinois Chicago · KU Leuven · UC San Diego
将 Agent 记忆视为可审计产物，从遗留记忆重建隐藏用户状态，直接量化记忆质量
📌 工作参考价值（4 点）
- 恢复审计评估：对电商客服、推荐对话等 Agent 系统，定期从记忆库中重构已知用户属性（如偏好、历史事实），与真实值比对，而非仅看下游任务指标，直接暴露记忆质量。
- 分离写入与检索诊断：采用“全量导出（dump_all） vs 系统 top-k 检索”的双模式对比，快速定位是记忆写入遗漏还是检索索引不足，指导优化写入策略或检索模块。
- 强化情景记忆绑定：针对用户单次关键交互（如退货纠纷原因），要求记忆系统不仅存储事件表面，还要保留事件与后果的因果链，提升后续个性化推荐的上下文深度。
- 检索感知的整合策略：在写入时即考虑后续检索场景，将原始对话转化为简洁、可检索的结构化摘要，确保关键偏好能在有限的 top-k 召回中命中，避免“存储了却拿不出”的困境。
面向计算机使用代理的自主评估强化学习
🧭 GUI代理 · 噪声奖励校正
Ukrainian Catholic University, Lviv, Ukraine
用VLM作为不完美奖励信号的噪声校正强化学习，显著提升GUI代理任务成功率
📌 工作参考价值（4 点）
- 当无法获得密级标签或手工奖励函数时，可以用 VLM 评分作为稀疏奖励 来微调 Agent 策略，尤其适合 UI 自动化、电商操作机器人等视觉交互任务
- 将 VLM 评估视为带噪声的二元信道，推导出 PPO 中噪声校正奖励估计器 的思路，可直接复用于任何依赖不完美自动评估的 RL 训练，例如用 LLM 评价对话质量或推荐解释
- 实验中噪声校正明显优于直接用原始评估奖励（+5.1pp），提示在落地类似方案时，必须对自动评估器的误差建模，否则噪声会削弱甚至误导策略学习
- 该方法解耦了任务评估与策略优化，意味着可以 快速迭代评估器（更换 VLM 或 prompt）而不必改动 Agent 架构，适合工程中渐进式优化
面向原生Agent内存系统的系统性评估与设计
🧭 Agent 内存系统体系化评估与设计
Shanghai Jiao Tong University · Tsinghua University · MemTensor (Shanghai) Technology Co., Ltd
从数据管理视角分解Agent内存为四模块，量化权衡并揭示局部维护成本效益最优
📌 工作参考价值（4 点）
- 模块化设计：将Agent内存解耦为表示/存储、提取、检索/路由、维护，便于针对业务瓶颈选型，例如在搜索推荐Agent中，可单独优化检索精度与动态更新。
- 局部维护优于全局重组：在用户画像或对话状态频繁更新的场景下，采用增量式维护（如局部索引更新）比全量重建内存成本更低，适合线上实时系统。
- 成本-性能权衡：通过消融实验量化了表示保真度、检索精度、更新正确性等，为资源受限的推荐Agent提供了明确的架构取舍依据。
- 评估体系：超越端到端指标，关注内存子系统自身的鲁棒性与稳定性，可用于指导自研Agent中上下文记忆模块的离线评测。
任务特定LLM蒸馏的缩放定律
🧭 LLM蒸馏缩放定律与监督格式
NVIDIA
量化了领域特定LLM压缩中数据集大小、压缩比、监督格式的缩放规律，发现思维链监督能恢复剪枝损失的通用知识。
📌 工作参考价值（4 点）
- 若对电商搜索/推荐中的 LLM 进行压缩（如商品分类、意图识别），使用思维链（CoT）监督可以显著恢复结构化剪枝损失的通用知识，避免模型变成纯粹的领域专家而丧失泛化能力。Label-only 蒸馏（直接 logit KD 或 LoRA fine-tune）会导致通用能力塌陷。
- 迭代剪枝+蒸馏（每步剪枝后重新蒸馏）明显优于一次性剪枝，更匹配生产环境中逐步压缩模型的工程流程；该策略可迁移到实时服务对延迟敏感的场景。
- 缩放定律给出明确的数据量-压缩比关系，实践中可据此预估：要将模型压缩到目标大小，需要准备多少领域数据；数据集过小时，CoT 监督的数据效率优势更明显。
- LoRA 蒸馏在 label-only 设定下保留了比直接 logit KD 更多的通用知识，如果由于成本无法生成 CoT 标注，优先选用 LoRA 蒸馏作为折中方案。
ShutterMuse：基于多模态大模型的实时摄影指导
🧭 多模态大模型 · 拍摄指导
Fudan University · StepFun
构建拍摄时机摄影指导基准与统一多模态模型，联合优化构图决策与姿态推荐
📌 工作参考价值（4 点）
- 多模态决策+细化联合建模：将构图决策（是否调整）与细化（精确裁剪区域）统一到一个模型，可借鉴到电商场景中，例如商品展示图的自动评估与局部优化，或广告创意的整体布局判断与元素微调。
- 场景条件生成式推荐：通过场景图片生成主体姿态建议，本质上是一种条件生成式推荐。在虚拟试穿、搭配推荐中，可以根据用户输入的场景（如背景、环境）直接推荐合适的姿态、穿搭或商品，提升交互体验。
- 统一多任务减少推理成本：用一个 MLLM 同时处理摄影师侧和主体侧任务，避免多模型流水线。推荐系统中可将召回、排序、解释生成等合并，降低工程复杂度与延迟。
- 结构化视觉标注增强可解释性：训练中加入关键点等结构化数据，使模型输出可执行的视觉指导。可将类似思路用于商品关键属性（如领型、袖长）的结构化标注，提升模型对细粒度属性的控制力。
TheoremGraph：桥接形式化与非形式化数学
🧭 数学知识图谱 · 形式化-非形式化链接
University of Washington Math AI Lab
构建统一语句级依赖图，连接非形式化数学文献与形式化库，发布提取工具与匹配数据集。
📌 工作参考价值（4 点）
- 多源抽取与置信度标记策略：从非结构化文本（如商品描述、用户评论）提取实体关系时，可同时记录提取器来源，让下游按需权衡精度与覆盖率，适用于商品知识图谱构建。
- 跨域实体对齐的轻量方案：将不同平台/模态的实体用生成式自然语言简短描述（slogan）映射到共享嵌入空间，通过余弦门控+LLM裁决筛选高置信度匹配，可用于跨电商站点的商品对齐或冷启动语义链接。
- 图扩展（graph expansion）增强检索：在召回/排序阶段，利用知识图谱的一阶邻居扩展实体表征，不依赖昂贵重排模型即可接近有监督重排效果，适合低延迟推荐场景。
- 工程化 MCP 接口与 API 设计：论文发布的 extractor、HTTP API、MCP 接口为构建内部可检索知识图谱工具链提供了可复用的架构参考。
TokenMinds：基于语义ID与LLM的工业级双模态用户建模
🧭 生成式用户建模 · Semantic ID ★ 深度解读
Google DeepMind · YouTube
提出双输出编码器-解码器架构，同时生成离散语义ID用户令牌和稠密嵌入，在YouTube排名系统中实现互补增益
📌 工作参考价值（5 点）
- 离散用户表示对齐候选集：将用户兴趣压缩为与物品共享的SID前缀，可用Prefix Embedding Mapping或可学习子词嵌入（LE）投影到稠密空间。电商场景可对商品SID做同样设计，直接用SID序列表示用户历史与意图，减少跨模态鸿沟，尤其适合图文、搜索词等多模态融合。
- 双输出设计平滑过渡：同时产出稠密嵌入和离散令牌，既兼容现有DNN排序模型，又注入离散语义信号。在现有推荐系统引入生成式用户建模时，可采用类似双通道策略，避免全量重构；稠密侧做主力特征，离散侧做互补特征，通过注意力池化等方式融合。
- 异步推理架构解耦成本：在用户行为服务（UBS）框架下离线生成用户表征并缓存，实时打分仅读取，将重生成延迟完全屏蔽。大模型上线时，可参照此模式以KV缓存和定时刷新实现超高吞吐，单用户推理339ms在后台完成，存储仅需1280B，这对电商/广告海量用户场景极具参考价值。
- 跨场景统一建模提效：通过<LFV>/<SFV>等场景条件令牌，以及多上下文解码（共享编码器一次前传、分支波束搜索），将长短期视频场景合入单模型，训练算力减半，推理算力降低31%。若业务存在多个推荐流（如猜你喜欢、购后推荐、首页Feeds），可用相同技术方案统一建模，降低维护成本并从异质信号迁移学习。
- Token适配与训练技巧：训练时采用前瞻窗口采样（预测未来24h内多个目标，非下一项）、截断SID前缀（更粗粒度）、历史长度约1K watch即可饱和，这些都是可迁移的调参经验。可学习嵌入（N-gram/SPM）远优于静态前缀映射，下游模型重新学习SID语义空间能带来显著线上收益。
V-Zero：无需答案标签的在线策略蒸馏与对比证据门控细粒度视觉推理框架
🧭 视觉推理 · 无监督蒸馏
Sichuan University · Xi'an Jiaotong University · TeleAI of China Telecom · Peking University
将在线策略蒸馏重新解释为负例无关的stop-gradient对齐，并提出对比证据门控解决轨迹级判别缺失，显著提升细粒度视觉推理效率
📌 工作参考价值（4 点）
- 在线策略蒸馏（OPD）替代标注：在商品图文理解、多模态推荐 Agent 中，可借鉴 OPD 让 MLLM 从自身生成的推理轨迹中学习，彻底摆脱人工标注答案标签的依赖，大幅降低标注成本。
- 对比证据门控机制：用问题相关的区域裁剪（正例）与无关区域（负例）构成视觉对比对，自动评估推理轨迹质量并门控 token 级蒸馏。可用于电商详情页细粒度问答、广告图文一致性校验等场景，提升模型对局部证据的利用能力。
- 训练效率跃升：V-Zero 比 SFT 方法快 5 倍以上，比 RL 基线快 10 倍以上，直接节省计算资源。在搜索推荐 Agent 的视觉子任务训练中，可优先考虑此类免探索、免标注的高效蒸馏方案。
- 与 Agent 框架的集成：方法天然适合 Agent 的多步推理，可将对比证据门控作为内部信号，指导 Agent 在搜索、推荐过程中更精准地聚焦可解释的视觉证据，并实现自我改进。
验证的边界：编码智能体奖励没有万能解
🧭 Agent奖励设计 · 验证信号共同演化
Qwen Team
论证验证信号需兼具可扩展性、忠实性与鲁棒性，四种奖励构建实验指出验证必须与生成器协同演化
📌 工作参考价值（4 点）
- 在推荐/广告排序模型优化中，离线代理指标（如CTR预估）常偏离真实业务目标，可借鉴可扩展–忠实–鲁棒三维框架，定期用用户直接反馈（类似论文“用户作为验证器”）校准奖励，防止过拟合代理指标。
- 生成式推荐（如Semantic ID生成）场景，生成器与验证器应联合迭代更新，防止固定验证标准导致的奖励黑客；可引入自动渐进验证器，随生成能力提升动态调整评估维度。
- 多智能体协作推荐中，对开放意图的用户Query，可采用类“rubric verifier”思路，将模糊需求分解为多个可自动检查的子指标（如多样性、时效性、相关性），提升验证信号鲁棒性。
- 长周期购物助手Agent任务中，可设计自动化验证Agent监控并分段评估推荐链路的中间步骤，降低人工评估成本，同时保持信号忠实性。
优化迭代平均语言模型：面向返回模型的训练改进
🧭 迭代平均感知的自适应优化器设计
Columbia University
提出PACE优化器，通过将在线权重拉向指数移动平均，提升最终返回的EMA模型性能
📌 工作参考价值（4 点）
- 直接替换AdamW：PACE是一个即插即用的AdamW封装，仅增加两个额外超参数（控制强度和削波系数），在SFT和预训练场景下对学习率、衰减策略等设定鲁棒，可以快速验证于自己的LLM微调流水线。
- 配合EMA评估提升生成式推荐模型效果：在生成式推荐（如Semantic ID生成）或对话Agent的LLM微调时，常返回EMA模型作为最终发布模型。PACE主动让优化过程适应EMA，有望获得更好的泛化表现。
- 稳定训练，放宽学习率调参约束：论文显示PACE允许使用更高学习率或更有限的学习率衰减，从而可能减少调参开销并加速收敛，适合需要快速迭代的业务场景（如大促期间的模型更新）。
- 关注优化器与模型平均的协同：无论使用EMA还是Polyak平均，此工作提醒我们可以针对返回的平均形式反向设计优化器，这是一种可迁移到其他平均策略（如SWA）的设计思路。
边说边想：推理时知识迁移实现高响应智能语音助手
🧭 多智体协作 · 推理时知识迁移
Paul G. Allen School of Computer Science & Engineering, University of Washington
提出对话填充技术，用小模型即时生成响应并流式融合大模型知识，实现毫秒级首响应且精度接近前沿模型。
📌 工作参考价值（4 点）
- 在延迟敏感的电商客服或语音推荐场景中，可部署双模型架构：小模型（如 135M-1.7B）作为前台，秒级生成自然语言响应；大模型作为后台异步推理，输出精准结果后再流式更新小模型后续生成内容，平衡响应速度与答案质量。
- 借鉴「对话填充」任务设计，构建合成数据集训练小模型：用大模型生成的多轮对话作为 Reasoner 输出，让 Talker 学习在生成中途插入新事实而不中断话语流，此训练范式可直接复用于回复改写、澄清追问等场景。
- 工程实现上，可复用 ConvFill 的流式知识整合机制，让实时推荐结果（如补货提醒、优惠信息）在语音播报进行中动态插入，避免用户等待完整生成，提升感知流畅度。
- 用户研究结果显示，小模型方案在检索类任务中尤为受欢迎，提示在需要外部知识检索的对话推荐（如根据用户实时 query 调取商品知识库）中，该方案能同时满足低延迟和高准确率要求。
CAVEWOMAN：大模型在输入输出压缩下的行为研究
🧭 LLM 推理成本与语义保真度评估
Independent · Adobe Research
输入压缩反而增加成本并损害准确性，输出压缩能省钱但导致语义偏离基线
📌 工作参考价值（4 点）
- 在电商/搜索等依赖 LLM 生成文案、推荐理由等的场景中，不要通过压缩用户输入（如缩写查询词、省略语法）来节省成本，实验证明这会迫使模型输出更长回复，总成本反而上升，且准确性显著下降。
- 输出压缩（如限定模型简短回答）能有效降低 API 调用成本，尤其在使用开放权重模型时；但需注意，即使答案正确，其表面文本可能与无压缩基线产生语义偏离，因此需额外监控生成内容与原始风格的一致性。
- 实现时可将输出压缩作为成本控制手段，结合语义对齐度指标（如 entailment 检测）确保压缩后内容不违背原意，适合高频生成场景（如自动回复、消息推送）。
- 如果使用自建模型，可按 token 计费时优先压缩输出；若模型输出长度不可控，可设置最大 token 数来硬性限制，但需权衡准确性和语义偏移。
大规模多模态推荐的URecJPQ：联合乘积量化实现内存高效模型
🧭 多模态推荐模型压缩 · 联合乘积量化
University of Bari Aldo Moro · University of Glasgow · Spotify
用联合乘积量化将用户/物品ID与多模态特征压缩为共享子嵌入拼接，在参数量减少98%+的同时保持推荐精度
📌 工作参考价值（4 点）
- 在电商/广告等大规模多模态推荐场景，可直接采用 联合乘积量化（JPQ） 替换全量 ID 嵌入表：为每个 user/item 分配多组码本中的码字索引，拼接得到嵌入向量，将参数量压缩 98%–99%，大幅降低 GPU 显存占用和检查点大小。
- 多模态侧，可将预训练的模态特征（文本、图像等）也纳入量化框架，例如对模态编码器输出做分桶或学习离散码本，避免存储每个 item 的完整 dense 向量，特别适合物品库频繁更新的广告系统。
- 实验发现，在婴童产品等某些品类上，量化后模型 Recall 反而提升 85%，暗示嵌入压缩带来的正则化效应能缓解稀疏数据下的过拟合，可尝试在 cold-start 或长尾 item 上刻意使用更高压缩比。
- 工程落地几乎零成本：URecJPQ 仅修改嵌入查找层，不改变模型主干架构，可以直接嫁接到现有双塔、DIN 等模型上，快速上线测试。
打破评估悖论：基于计算不可约约束的高熵搜索评估
🧭 搜索评估 · 计算不可约约束
Jinan University · Tencent Youtu Lab · The Chinese University of Hong Kong
提出 VERITAS 框架，利用计算不可约约束生成可验证的穷举搜索任务，解决高熵搜索无法完整评估的难题
📌 工作参考价值（4 点）
- 电商搜索 Agent 评估新范式：当前电商搜索 Agent 常需穷举品类、属性组合等，但缺乏完整 ground truth。可借鉴 VERITAS 生成可控难度、可自动验证的测试任务，例如定义“检索所有满足复杂哈希条件的商品 ID”，成本极低且无需人工标注。
- 防止 Agent 走捷径：在推荐或广告物料生成场景中，若用 LLM 评判完整性容易导致循环论证。引入计算不可约约束（如不可优化的哈希条件），能确保 Agent 必须真正遍历商品库或知识图谱，而不是靠记忆或模式猜测，适合评估真实系统的探索能力。
- 生成式推荐的训练数据增强：VERITAS 能无限生成多样化的高熵查询-答案对，可作为强化学习或 SFT 的训练数据，提升模型穷举不在单一召回通路内物品的能力，特别适合需要覆盖长尾商品的生成式推荐。
- 线上评估轻量化：边际成本仅为哈希计算，可将 VERITAS 任务嵌入日常回归测试，持续监控 Agent 在开放式搜索任务上的能力退化，对搜索事业部的工程实现非常友好。
电商统一多任务相关度建模：对比LLM与Cross-Encoder的任务路由架构
🧭 多任务相关度建模 · 任务路由架构 ★ 深度解读
Walmart Global Tech
首次对比三种任务路由架构在LLM和Cross-Encoder上的效果，发现解码器仅靠文本前缀时若去掉前缀会崩塌，私有层可完全恢复，多任务训练提升低资源任务最高+14%。
📌 工作参考价值（4 点）
- 多任务框架设计: 将6种实体对关系（query-ad, query-query, ad-ad等）统一用三点相关度分级联合训练，利用数据丰富任务（如query-ad）的知识转移到低资源任务（如product-type-product-type），直接提升低资源任务准确率最高14%，适合电商搜索推荐中多种相关性场景的统一建模。
- 任务路由选择: 对于Cross-Encoder，用文本前缀就够了，去掉前缀换成多分类头几乎无损失（~1%）；对于decoder-only LLM，必须加私有Transformer层（MHP），否则去掉文本前缀后模型会崩塌（Gemma-2-2b从87.14%掉到55.59%）。如果用LoRA微调LLM做多任务，务必配套私有层。
- 集成方案: 将LLM和Cross-Encoder的MHP模型做多数投票，利用两类模型的错误多样性（如LLM在抽象任务上更强，Cross-Encoder在词汇丰富任务上更强），在453K测试集上达到89.96%准确率，比文本前缀集成高1.92%，且MHP私有层训练出的模型多样性更强，适合构建高精度离线标注或线上集成。
- 工程效率权衡: Gemma-2-2b（2B）用LoRA（~2M可训参数）搭配MHP后准确率88.04%，接近Llama-3-8b（88.27%），且推理速度快于大模型，适合低延迟线上场景；ModernBERT（396M）用于批量离线标注效果最好（97.81%在ad-ad任务），但泛化到抽象任务弱，可按任务类型选模型。