PFA:长序列生成式推荐中注意力可渐进聚焦
🧭 生成式推荐 · 稀疏注意力加速 ★ 深度解读
Alibaba International Digital Commerce Group · Zhejiang University
利用 GR 解码中注意力渐进聚焦与跨步排名一致性,PFA 通过共享重要性排名和几何预算缩减,加速长序列生成式推荐
📌 工作参考价值(4 点)
- 对长序列生成式推荐,可借鉴"早期构造共享重要性排名 + 后续几何缩减预算",替代每步每 beam 独立 top-k,消除重复选择和 KV gather 开销,尤其适合 beam width 大、序列长的电商召回/广告候选生成。
- 工程实现上,用 beam 生成概率加权聚合注意力分布来挑选关键历史 token,比每个 beam 独立选更稳定且能共享连续 KV cache;可先 reorder KV cache,后续直接前缀截断,降低非连续内存访问。
- Step-aware KV projection:为不同解码步分配独立 KV 投影参数,成本低但能显著缓解复用 token 带来的表示退化,适合层级 SID 生成。
- 若业务采用生成式推荐,可保留 Step 0 全注意力做全局探索,不用过早压缩历史,对长序列效果稳定。
统一生成式排序:面向异构电商推荐的跨业务榜单生成
🧭 生成式排序 · 多业务混排与广告价值融合 ★ 深度解读
Alibaba Group
在淘宝异构候选集上统一生成多业务排序列表,结合反馈监督与广告debias塔,在线GMV提升2.10%
📌 工作参考价值(4 点)
- 若做生成式排序或混排,优先一次生成最终异构列表,避免“单业务生成 + mixrank”的两阶段方案。论文对照实验显示统一生成在线 GMV 比 staged 方案多出约 0.72pct,说明最终列表上下文应在一个生成过程内被建模。
- 广告/商业化场景中,可复制“训练期 ad debiasing tower + 在线只加当前 eCPM”的架构:tower 只看 ad 特征和 logged eCPM,训练后移除,推荐分与当前 eCPM 相加。这样能避免历史广告政策污染推荐分,并兼容 GSP 定价,不需要改动拍卖逻辑。
- 反馈监督可拆成两个层次:WSFT 用 feedback 加权 item-level NLL,PermPO 用同一反馈计算 DCG 构造 list-level preference pair。二者互补,适合在曝光序列之外引入转化/交易信号,提升 ranking quality。
- 处理千级候选可用低秩候选注意力(Linformer 式),把候选轴 KV 投影到少量 latent components,一次编码后 beam search 复用。论文在生产中仅增加 12ms 延迟,说明该方案能满足在线低延时约束。
KL-MOPD:面向生成式推荐的多目标在线策略蒸馏
🧭 生成式推荐 · 多目标蒸馏 ★ 深度解读
Zhejiang University · Alibaba Group · Alibaba International Digital Commerce Group
用初始学生与教师 token 级 KL 差异加权,解决生成式推荐多目标蒸馏中的 token 级不平衡,提升联合目标
📌 工作参考价值(4 点)
- 在生成式推荐(Semantic ID 逐 token 解码)中,多目标融合要下沉到 token 级做 on-policy 蒸馏,而不是只做 item 级 loss 或分数融合;否则中间步骤的 token 错误会直接导致正样本检索失败。
- 工程实现上,先用 initial student 和两个 teacher 计算每个 token 的 KL 散度,得到权重 alpha_{j,t} 并预计算一次;训练时直接作为 token 蒸馏 loss 的加权系数,不增加额外前向/反向开销,适合线上大规模部署。
- 若已有 CTR、CVR/GMV 等单目标 teacher,可以直接套用该加权方法:在每个 token 上给离学生更远的 teacher 更高权重,优先补强当前步骤的薄弱目标,缓解解码后期某目标被忽略的问题。
- 电商广告场景验证:十亿级工业数据离线 joint metric +3.19%,线上 A/B 广告收入 +1.63%、GMV +2.20%,说明 token 级多目标蒸馏能带来真实业务收益。
拍立淘MMSearch2.0:统一端到端多模态生成式搜索技术报告
🧭 生成式检索 · Semantic ID · 多模态电商搜索 ★ 深度解读
Taobao & Tmall Group of Alibaba
直接由图像+自由文本生成商品Semantic ID,统一相似/编辑/搭配意图,上线拍立淘带来显著GMV提升
📌 工作参考价值(4 点)
- 可直接复用「Sample–Beam rollout」:RL 训练时采样 reasoning prefix,SID 部分用 beam search 生成,使训练 rollout 与线上 beam-decoding 对齐;做生成式推荐/搜索的 GRPO 时能有效减少 train-serve mismatch。
- 用「混合 reasoning budget SFT」把 No-think / Low-think / High-think 训进同一个模型,线上通过 system prompt 切换 think budget,无需为不同延迟要求训多个模型或加意图路由;适合在候选生成与复杂查询场景复用。
- 数据生产采用可组合工具链:Coarse-Filter、Fine-Filter、Query-Text-Gen、CoT-Gen、Quality-Control,并按 cold-start / real-traffic / continuous production 配置不同 workflow;新意图冷启动可先用 proxy 商品关系合成数据,上线后用真实流量回流清洗,再持续混入生产。
- 三层 hierarchical SID(每层 8192 codebook)+ 原生 VLM 直接 beam decode SID 作为检索结果,省去独立召回/排序和意图分类器;已有成熟召回排序链路时,可先作为候选召回源 interleave,A/B 验证后再扩大流量。
GLOBE:面向生成式搜索电商商品优化的结构化智能体记忆演化
🧭 生成式搜索 GEO · Agentic Memory ★ 深度解读
AI Lab, CTO Division, LG Electronics, South Korea
把商品改写策略存成字段级行为手册,用排名反馈持续演化、去冗余并淘汰有害策略
📌 工作参考价值(4 点)
- 将商品 listing 优化从整篇 prompt 改写拆成 field-scoped behavior:每个 behavior 定义 edit operation + 允许字段(title/features/description)+ 冲突关系,可避免跨字段错误和过拟合关键词;电商可直接把 SEO/GEO 规则落成这种结构化手册。
- 用 rank gain 作为反馈,按 batch 聚合并更新 behavior 的 helpful/harmful/neutral 计数、score = h+ - h-,设 probation Nmin=5 再淘汰;比逐 episode 更新更稳,适合在线排序反馈有噪声的场景。
- Moderator 做 embedding dedup(cos > 0.9)+ LLM 功能去重,再由 Curator 提交;防止反馈演化膨胀出冗余或过拟合 ranker 的 behavior,全流程保持 handbook compact,cross-ranker 迁移更好。
- 推理阶段冻结 handbook,只用 active behaviors 单次编辑,无迭代搜索;训练阶段多智能体成本高但线上轻量,可考虑把 handbook 蒸馏到小模型或作为静态规则库。
瓶中智能体:LLM智能体能否将自身能力转为廉价可扩展制品
🧭 Agent 自动化低成本制品生成与评估 ★ 深度解读
University of Tübingen · ELLIS Institute Tübingen, Max Planck Institute for Intelligent Systems, Tübingen AI Center · École Polytechnique, Institut Polytechnique de Paris, CNRS · KAIST AI
用BOTTLED基准评估LLM智能体在固定预算下把通用能力封装为任务专用廉价制品的能力,发现零样本强不必然装瓶强
📌 工作参考价值(4 点)
- 大规模重复性电商文本任务(商品属性抽取 MAVE、query-product 相关性 ESCI、内容审核)不要逐条调用大模型:先用固定蒸馏脚本做基线——用便宜模型标注到预算耗尽,再训练 Qwen3-0.6B / SmolLM2-360M。论文里这个 naive 基线击败了 31/60 个 agent 装瓶 run,落地时应当优先验证。
- 选型别只看零样本指标:GPT 5.6 Terra 与 Sonnet 5 在 MAVE 零样本 F1 都约 0.44,但装瓶后 F1 分别为 0.405 和 0.154。实际业务中若要让 LLM agent 自己生成廉价制品,必须在同等 token/时间预算下重新评估模型,而不是沿用零样本/少样本 leaderboard。
- 工程上必须设置硬性预算、强制交付 out.txt 并监控预算:21/60 run 耗尽 token,8 个没有任何输出;Gemini Flash-Lite 甚至把数百万条输入误判为 49 条。生产系统需要 fallback、预算跟踪工具和超时熔断,否则 agent 会浪费资源无产出。
- 对于超大规模重复推理,自蒸馏小模型/规则程序可以接近专用廉价模型 Jev:Opus 5 在 ESCI 上恢复 Jev 94% 的 macro-F1,成本约 1/4;在 RAID 上 Gemini 3.1 Pro 达到 Jev 97% AUROC,成本约 2%。可优先尝试 bottling 而不是引入另一套专用推理模型。
MiniCorp:AI Agent 公司模拟器与纵向反事实数据生成
🧭 多智能体企业模拟与数据生成
Microsoft · University of Illinois Urbana-Champaign · Princeton University · Northeastern University · UCLA
构建电商公司多智能体模拟器,生成纵向反事实企业数据,用于训练和评估能自主运营的 Agent
📌 工作参考价值(4 点)
- 构建“模拟器+真实业务反馈”沙盒:在电商场景中,可建立市场模拟器生成反事实数据,用于训练决策 Agent,避免直接在生产环境试错。
- 使用 checkpointing 机制回放同一情境的不同决策,对比长期效果(如广告预算、定价策略),弥补历史日志无对照组的缺陷。
- 显式注入长期战略目标(如持续探索弱回报广告)可以防止 Agent 短期优化,对电商中需要平衡探索与变现的场景(如新品冷启动)有直接借鉴意义。
- 按角色划分多 Agent 并记录通信过程:内部世界按市场、财务等角色分工,记录讨论内容,便于审计和策略优化,也可作为 prompt 设计参考。
LLM Agent 的来源偏好:测量、成因与缓解
🧭 Agent 端到端搜索中的来源偏好测量与缓解 ★ 深度解读
Graduate School of Data Science, Seoul National University
LLM Agent 在端到端搜索中因来源域名产生选择偏差,即使内容一致也偏好特定站点,且可通过平衡训练与缺失信息干预缓解
📌 工作参考价值(4 点)
- 在电商/Agent 评估中引入 requirement-matched pair + Bradley-Terry 方法监控来源偏差;用 inversion rate 衡量来源偏好是否压倒 item 质量,可作为线上选品 Agent 的公平性指标。
- 工程上,URL/域名是来源偏好的主要信息载体;隐藏文本中的来源名作用小,因此做盲评或上线时可考虑对 Agent 屏蔽 URL 或标准化来源展示,减少域名对决策的影响。
- 精调 LLM 选择模型时,DPO/偏好数据中 source 与 preferred label 的相关性会学习成 shortcut;把 source 与 label 的配对比例平衡到 50% 可将已有来源偏好拉回中性,避免某个电商平台/供应商被系统性偏袒。
- 当商品属性缺失时(如价格),Agent 会用来源先验脑补;补充缺失属性或 prompt 中明确“来源与属性无关/指定某来源通常低价”可显著降低偏好,尤其后者对线上 prompt 工程成本低,但需知道哪个来源被歧视。
AdaM-Rec:面向多模态推荐的自适应模态路由框架
🧭 多模态推荐 · 自适应模态路由 ★ 深度解读
University of Queensland · Alibaba Group · Southeast University · Adelaide University
AdaM-Rec 用 LLM 智能体通过历史正样本伪查询做代理召回评估,动态路由文本与多模态召回预算
📌 工作参考价值(4 点)
- 对多路召回系统,可以用“历史正样本伪查询”做在线代理评估:为每个 query 生成与当前粒度一致、指向用户已购/点击商品的伪 query,在小候选池上比较文本向量和多模态向量的命中 rank,据此动态分配召回 quota,代替固定融合权重。
- 将 LLM 作为策略控制器输出路由参数(分支权重和总预算),并结合相似用户的历史参数做 warm start;实验显示小预算时聚焦单一优势模态优于均分,可指导长尾流量召回策略。
- 排序前按召回来源做特征裁剪:对文本召回候选过滤视觉属性,减少不相关视觉信号对相关性打分的干扰,尤其适合功能/规格型 query。
- 工程上注意开销:agentic 路由增加推理成本,但可通过轻量文本编码器(如 0.6B)和控制迭代步数来平衡,多模态编码器容量对效果更敏感。
纠正即预测:多模态属性值抽取的伪值校正
🧭 多模态商品属性抽取 · 伪值校正 ★ 深度解读
Alibaba International Digital Commerce Group
将多模态属性值抽取重构为伪值纠正任务,训练时混合检索伪值与占位符,推理用固定占位符实现免检索单次预测
📌 工作参考价值(4 点)
- 把分类/抽取任务改造成“伪值纠正”范式:训练时给模型一个可纠正的初始假设(检索候选或占位符),让模型依据多模态证据决定保留还是纠正,而不是直接生成。这比直接生成更能逼出细粒度证据校验,适合属性补全、商品理解、意图分类等电商任务。
- 检索增强避坑:不要将检索候选当 RAG 上下文拼接,而是作为待验证的 pseudo-value 放进 prompt 让模型纠正。这样可以减少输入 token(本文 233 vs 585),提升 QPS(4.77 vs 1.45),并对检索错误更鲁棒;在搜索推荐场景中,对 query 分类、类目预测也可以借鉴。
- 用 Self-Consistency Refinement 做扰动样本挖掘:对同一输入换多个伪值看预测是否变化,不一致样本加入第二阶段微调。这种针对“输入扰动不稳定”的信号比通用困难样本更有效,可以迁移到 prompt/上下文敏感任务的稳健性训练。
- 部署设计采用“训练复杂、推理简单”:训练时用检索伪值学到修正行为,推理只需固定占位符触发,免在线检索和迭代 refine,保持接近直接生成的吞吐,适合大流量生产系统。
Allegro 互补推荐:从共购噪声到语义兼容
🧭 互补商品推荐 · 双塔+类别映射 ★ 深度解读
Allegro.com · NVIDIA
生产级互补推荐框架 AlleCompanion:用 Category Adapter 和 ComCat 类别映射抑制共购噪声,在 Allegro 实现购物车 GMV 提升 15-21%
📌 工作参考价值(4 点)
- 用类别映射解耦业务规则与模型:将专家规则、LLM 推理、人工标注与共现统计融合成一个 Complementary Category Mapping(类似 ComCat),线上作为目标类别条件输入模型,业务规则更新无需重训。对电商互补/搭配推荐尤其适用,可维护性远高于改训练数据。
- 双塔中加入 Category Adapter + 重建损失:把目标互补类别 embedding 拼接到 query 塔,并加 auxiliary classification/reconstruction loss,能在 latent space 内直接约束检索类别,避免后处理 hard filter 导致候选不足(论文中 hard filter 即使采样 15 倍也只剩 7 个有效候选)。
- 数据清洗要克制,专家知识放映射层而非训练集:用最小 pair count 和同 department 不同 category 启发式重平衡训练数据能提升互补占比,但过度用专家规则过滤/合成训练集会大幅降低 Recall(纯专家规则 Recall@20 仅 0.0818)。建议保留大部分真实交易分布,把领域知识注入映射层。
- 不同场景/位置调混合策略:结算前 in-cart 场景用 same-category(互补+替代混合)带来 GMV +15-21%,而产品页 sponsored 纯互补也有广告收入提升;说明电商推荐需要按 placement 分别配置互补/替代比例,而非全局统一模型。
全局蒸馏、局部适配:面向可扩展升级推荐的推理蒸馏与产品类型测试时训练
🧭 LLM知识蒸馏与测试时适配用于商品关系推荐 ★ 深度解读
Amazon Everyday Essentials Technologies
将LLM推理蒸馏成轻量embedding对分类器,并用商品类型级测试时训练进一步适配,实现无LLM推理的高效升级推荐
📌 工作参考价值(4 点)
- 离线蒸馏替代在线LLM:在电商catalog级商品关系判定中,用LLM离线生成标注+理由,蒸馏到15.5M参数embedding-pair分类器,推理仅需两个预计算768维向量,速度提升5000倍,成本降低10000倍。该方法可直接迁移到商品替代/互补关系、query-商品匹配等大规模打分任务。
- 保留细粒度标签比二分更有效:蒸馏时保留LLM的四分类(similar、反向升级、升级、不相关)标签比合并成二分类更能让rationale监督发挥作用(AUC 0.912→0.924 vs 0.911→0.911)。在业务中若关系本身有方向或等级,不要为了简化而合并类别。
- 按品类/商品类型做轻量测试时适配:每个product-type用少量专家标注support set(K=32)微调LoRA adapter,比全局统一adapter提升更显著(AUC 0.940 vs 0.929),而且推理成本不变。适合新品冷启动或品类间标准差异大的场景。
- Support set复用降低标注成本:同一批专家标注示例既作为LLM的few-shot演示,又作为测试时训练的梯度监督,最大化样本利用率。工程实现时可将此设计为统一的数据pipeline。
LLM4AIGQ:面向多兴趣挖掘的AI引导查询生成框架
🧭 生成式query推荐 · 多兴趣LLM ★ 深度解读
Huazhong University of Science and Technology · Alibaba Group · Nankai University
用SFT-RL-DPO三阶段训练LLM,从多行为序列中分解多兴趣并生成高价值引导query,线上nearline生成+在线检索
📌 工作参考价值(4 点)
- 用教师模型(更大LLM)对历史行为序列做兴趣分割并生成引导query,再让小模型SFT学习单兴趣风格,避免直接多兴趣SFT导致的模式坍缩;可迁移到电商搜索词推荐、push文案生成等场景。
- RL多层级奖励设计:将think过程匹配、query长度与商业价值(judge模型S/A/B评级)、兴趣内语义与风格多样性、兴趣间内容多样性分开奖励,用GRPO优化;这种细粒度奖励拆解适合多目标生成式推荐任务。
- DPO蒸馏推理能力:用RL checkpoint的think输出作为正样本,非think输出作为负样本,并过滤语义相似度高的pair,实现非think模式下的推理能力迁移,大幅减少线上推理token,降低延迟。
- 工程部署:nearline生成+在线检索映射表,每N次交互触发LLM生成query写入表,在线直接检索;同时用LLM对item标题做短标题压缩,输入token减少26.8%,RT降低10.7%,值得在LLM serving中复用。
MERGED:通过生成专家推理蒸馏的多模态实体解析
🧭 多模态实体解析 · 推理蒸馏 ★ 深度解读
Amazon
无需人工标注,多教师VLM生成推理标签,共识SFT+分歧DPO蒸馏7B学生,PR-AUC超32B基线6.32%且成本降6倍
📌 工作参考价值(4 点)
- 关系定义频繁变化的电商场景(exact/variant/substitute),可直接用多教师 VLM 生成结构化标签与 reason;共识样本用于 SFT,分歧样本用 meta-judge 选偏好做 DPO,无需等待人工 SOP 审核,可把新关系上线周期从月级压缩到天级。
- 让模型输出 label+reason+confidence 的 JSON,并用 label 和 confidence 合成标量分,方便接入现有排序/召回链路;7B 学生单样本 <1s、成本约 $600/百万,适合百万级实时商品匹配。
- 冷启动迁移时不要从基座从头训:从已有相邻任务 checkpoint 继续做一轮 MERGED,10K 样本即可显著提升,适合跨市场/跨品类关系定义快速扩展。
- 生成式推荐/Agent 中若需要模型自我解释,可复用 meta-judge 偏好构造思路,提升 reasoning-label faithfulness;但需评估 meta-judge 的一次性大模型成本。
电商运营基准:评估长程自主业务运营的 LLM Agent
🧭 Agent 长程运营评测基准 ★ 深度解读
Qwen Team, Alibaba Group · Taobao & Tmall Group, Alibaba Group · HKUST
首个开源电商运营基准,融合确定性谈判、动态事件与真实数据,评估 LLM Agent 全年自主经营的多维能力
📌 工作参考价值(4 点)
- 确定性对手内核:在评估谈判/交互 Agent 时,将对手定价、让步、接受/拒绝逻辑做成确定性规则内核,LLM 只负责语言渲染,避免对手模型随机性污染评估;业务中训练电商谈判机器人的奖励函数也可用此分离增强可复现性。
- 现金流延迟与破产约束:采用银行/托管/钱包三账户和 9 天结算延迟,能暴露 Agent 只追求 GMV 而忽视流动性的问题;在电商运营 Agent 或推荐系统收益模拟中,加入类似延迟结算和破产惩罚可避免短视策略。
- 信息不对称工具设计:让查询返回标签(如高/中/低利润潜力)而非具体参数,迫使 Agent 通过探索和结果推断学习,而不是直接读取底层数据;在构建智能运营助手时,可有意隐藏部分系统参数,训练模型做因果推断和试错。
- 多维评估雷达图:不要只用利润/GMV 作为唯一指标,应同时评估欺诈损失、现金流回撤、运营效率(每工具调用产出)、学习能力(重复采购降价趋势);在选型推荐/运营 Agent 时建立类似能力画像,否则可能选到高利润但高风险模型。
PailitaoGR:生成式图像检索中的潜在以图思考方法
🧭 生成式检索 · Semantic ID · 视觉商品搜索 ★ 深度解读
Alibaba Group
在原始查询图上内化目标聚焦与选择性辅助证据利用,实现不裁剪缩放与不 OCR 阅读,生成式检索平均提升 13.8%
📌 工作参考价值(4 点)
- 在拍立淘类图像检索/生成式推荐中,可借鉴“能力内化”架构:用轻量 Target Token Scoring + Token-level Residual Modulation 对 visual token 做目标加权,不改变主干,推理零额外延迟;把显式 grounding/crop/OCR 能力蒸馏进单一模型,避免多步工具调用。
- On-policy distillation 对自回归 SID 生成很有价值:教师和学生共享学生自己采样的 prefix,蒸馏 top-K 候选分布,比 ground-truth prefix 蒸馏更贴近推理时的错误前缀场景,能降低 train-inference mismatch。
- 利用 SID 的 coarse-to-fine 结构设计 attention guidance:fine/medium token 用 ROT mask 惩罚目标框外注意力,coarse token 保持高熵广注意;这一思路可迁移到任何 hierarchical Semantic ID 的商品检索,提高解码对主体商品的判别性。
- 辅助信息(如 OCR 文本、品牌标)引入要加 utility/accessibility 双门控:只有当 OCR 教师相对 Crop 教师有增益且学生自己也能利用该信号时才 transfer,否则 suppress/skip;能避免无关水印或背景文字误导,适合电商 query 图中常见噪声。
自刷新检索驱动的实时电商目录对话推荐
🧭 实时电商目录增量检索对话推荐 ★ 深度解读
Infobip
提出自刷新检索器,用stable ID与双哈希只重嵌入新增/语义变化商品,将实时目录增量同步到向量索引,支撑低成本WhatsApp对话购物助手
📌 工作参考价值(4 点)
- 增量索引可直接落地电商搜索/推荐:用 stable product ID + full hash + semantic hash 对商品变化分类,只重嵌入新增/语义变化商品,价格库存等 metadata-only 只更新过滤字段。这样可以在高频变动的促销/库存场景中保持向量索引实时性,避免全量重建的成本。
- LLM 使用做减法:对话侧只让 LLM 做意图分类和偏好引导,检索/重排/多样性走专用函数。生成路径 free 让成本、延迟可预测,适合大规模线上 QPS;换成小模型或规则也不会影响核心推荐效果。
- 同步安全机制值得抄:拒绝空/不完整快照防止误删;先准备 embedding 再写,先 upsert/metadata update 再 deletion;非事务写需加 staging/rollback 和异常 delta 监控。这些是生产上目录刷新容易踩的坑。
- 架构解耦便于多商户/多渠道扩展:VectorStore interface + 单一 model proxy,使商品 feed 接入、embedding 模型、前端渠道可替换;语言检测后英文检索本地语言回复可降低多语言 embedding 成本。
触发式推荐CTR预估的级联相关性驱动网络
🧭 触发式推荐 · 相关性与兴趣融合 ★ 深度解读
Taobao & Tmall Group of Alibaba
提出CRRN,通过trigger-target交互门控、级联注意力融合与类别辅助pairwise loss,在TIR场景显著提升CTR
📌 工作参考价值(4 点)
- 在承接页/详情页相似推荐中,不要把trigger当作普通特征;用element-wise乘法+coaction门控做显式交互,参数量小、工程友好,能捕捉同类别/品牌/价格段等高阶关系。
- 引入类别辅助pairwise loss:利用商品类别构造“相关点击 > 非相关点击 > 相关曝光 > 非相关曝光”的偏序,不用额外数据就能强化相关性排序,适合电商商品/广告场景。
- 意图预测辅助任务:用页面级类别与trigger是否一致作为label,训练时辅助监督,线上不引入额外特征和延迟;同时用预测意图分和cosine相似度做显式门控融合,可解释且便于调试。
- 工程上该模型额外增加2ms推理延迟,训练时间增加约7分钟,适合低延迟承接页;在线统计显示同类+相关类占比大幅提升但保留约11%不同类,可作为相关性/个性化平衡的参考阈值。
RecVerse:忠实模拟人类购物行为的 GUI Agent
🧭 用户行为仿真 · GUI Agent · RL ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · University of Chinese Academy of Sciences · National University of Singapore · Alibaba Group
提出融合三级认知记忆与轨迹级 RL 的 GUI 用户仿真 Agent,显著提升行为保真与意图一致性
📌 工作参考价值(4 点)
- 在 LLM 驱动的用户模拟 / 智能导购中,不要直接拼接长历史,可采用三级记忆:Working Memory 保留最近 K 步视觉与心态、Episodic Memory 记录会话事件、Preference Memory 蒸馏高层购物意图;把记忆写入作为动作交给 RL 学习,能自动决定“何时记、记什么”,缓解长会话上下文爆炸。
- 训练用户模拟器别只做 next-action 模仿或 step-level reward,改用 trajectory-level RL:宏观奖励对齐动作类型分布(CTR/ACR/CVR/IPVR 等),微观奖励用三级类目层次做意图匹配,可避免过度探索或过度被动。
- 如果业务有真实页面截图,尽量让仿真/评估 Agent 走 GUI grounding,而不是纯文本元数据;论文显示 GUI 比 text 的类别意图一致性 HCO 从 19.03 提升到 30.00,RL 后进一步到 32.64。
- 评估用户模拟器时同时报告行为保真和意图一致性,防止 hit 率被过度交互撑高;可借鉴其指标:ATL 偏差、行为统计与真实分布的比值、类目重叠 HCO。
Think-to-Personalize:统一推理与检索的用户中心个性化密集检索
🧭 LLM 推理驱动的个性化查询改写与密集检索 ★ 深度解读
University of Science and Technology of China · Meituan
提出 TTP 框架,用 LLM 显式推理用户历史生成意图增强查询,并与密集检索端到端联合训练,线上订单量提升 0.46%
📌 工作参考价值(4 点)
- 端到端联合优于解耦流水线:把 LLM 生成的 intent-enhanced query 与共享检索编码器联合训练,比独立 rewrite-then-retrieve(Decoupled-Stage)在 General 上 Recall@20 高 1.63 个点,Broad 上高 3.66 个点;电商搜索/召回链路若已有 LLM 改写模块,可尝试将其嵌入检索塔共同优化。
- 意图增强数据构造可复用:用大模型按偏好抽取、意图消歧、查询纠正三类进行改写,生成 5 候选,再用 reranker 按 ground-truth 成交商品过滤并采样 top3,同时保留不改写样本防止过度个性化;这套流程可直接迁移到搜索 query 改写、搜索建议或 push 文案生成。
- RL 对齐的两个关键 trick:GRPO 中用冻结 SFT 模型计算检索奖励,避免 reward hacking(unfrozen reward model 导致平均 R@20 从 44.97 暴跌到 29.53);奖励用 ΔS_pos + ΔS_margin 两项,并动态选择奖励最大的 rollout 作为对比正样本,显著稳定训练。
- 在线效率方案:head query 走离线个性化 cache(覆盖 10.59% QV),miss 用蒸馏 305M 双塔实时服务,蒸馏时加入 <q_r, p+> 和 <q, q_r> 目标,保留大部分效果(平均 R@20 43.10 vs 教师 44.97),端到端延迟仅增 0.15ms,适合大规模部署。
电商产品媒体排序的序列化多模态证据优化
🧭 多模态媒体排序 · 离线策略优化 ★ 深度解读
Amazon.com Inc.
两阶段效用引导框架学习前缀转化效用并训练生存加权自回归策略,将决策关键媒体前置
📌 工作参考价值(5 点)
- 两阶段解耦:先学习并冻结轨迹效用模型作为 reward,再训练 Pointer Network 排序策略,避免直接对稀疏终端转化做 REINFORCE;适合 item/媒体 slate 排序,稳定且易于调参。
- 生存加权 reward-to-go:用用户到达位置的概率乘以边际效用作为逐步奖励,显式将高价值媒体前置,降低滑动深度;比终端回报和点击代理更贴合转化目标。
- PAL 双塔去位置偏差:训练时位置塔吸收 slot 偏差,推理/策略优化时丢弃,防止位置效应污染内容表示;离线评估中移除 PAL 会同时损伤 CVR 和 MSC。
- 交互特征 masking:训练期按概率将 dwell/click/zoom 替换为 mask token,推理全 mask,弥合 train-serve 分布差异;在实时交互特征不可用的排序场景可复用。
- 冻结效用模型支持 leave-one-out counterfactual 归因,无需媒体级标签即可评估每个媒体贡献,用于内容审计、低价值替换和类目级媒体策略。
MACS:固定目录下可靠对话式电商推荐的混合多智能体框架
🧭 多智能体对话式推荐 · 硬约束确定性执行 ★ 深度解读
Stanford University · University of Southern California · Amazon · Massachusetts Institute of Technology
混合 shopping/merchant 双 agent 架构,用确定性 SQL 约束与跨轮 slot 状态实现最高约束合规与零漂移
📌 工作参考价值(4 点)
- 架构分离防幻觉:LLM 只做语言交互与偏好抽取,产品检索、SQL 过滤、品牌排除、价格/规格硬约束全部由 merchant agent 确定性执行,shopping agent 不直接碰 catalog。这个可以直接迁移到电商 agent 或对话推荐系统,确保不返回目录外商品、不违反品牌排除。
- Session-persistent slot dictionary:把预算、排除品牌、最低规格作为 typed slot 跨轮持久化,支持覆盖(预算更新)与反转(“HP 也可以”),并直接映射到 SQL WHERE;比靠 prompt 记忆可靠得多,适合多轮导购场景。
- 渐进放松 + 显式披露:当硬约束结果 <3 个时,按优先级放松可选规格,但价格上限与品牌排除永不放松;回复中明确告知用户放松了哪些约束。这样既能保证有结果,又不误导用户,对电商推荐体验重要。
- 评估拆分为确定性约束检查 + LLM 文本质量评分:约束用 SQL 验证、品牌用 regex 验证,文本质量用 G-Eval;避免 LLM-as-judge 循环。业务上可以复用这种混合评估框架,快速定位是约束违规还是表达质量差。
教师保留完整Token,学生高效合并:面向广告推荐的电商序列建模TM20K
🧭 超长序列建模 · 知识蒸馏 · Token合并 ★ 深度解读
ByteDance
通过全注意力和两阶段蒸馏,用三种Token合并将电商序列扩展到20K,在线广告收入提升1.036%,延迟仅增5.6%
📌 工作参考价值(4 点)
- Token合并三策略可直接复用:相同商品ID局部合并(LITM)可聚合短时间窗口重复行为,去噪并减少序列长度;位置自适应合并(PATM)对近期行为保留完整,对远期行为激进压缩,符合兴趣衰减现实;层间金字塔合并(LPTM)让底层用长序列提取细粒度,上层用短序列做高层抽象,这种分层压缩在Transformer中容易实现。
- 两阶段蒸馏框架适合工业超长序列落地:让昂贵的教师模型只训练一次,不参与在线推理,将计算开销剥离;学生模型用廉价Token合并压缩序列,通过蒸馏恢复大部分精度,突破了长序列的效率瓶颈。
- 全注意力优于目标注意力:实验证明在20K电商序列上全注意力AUC比目标注意力高约0.25%,且GPU利用率更高,说明序列内交互对预测很重要,不应只用目标-序列注意力。
- 工程实现技巧:LITM和PATM在CPU上合并原始特征而非嵌入,避免GPU-CPU带宽瓶颈;QK Norm可稳定超长序列训练;Stack Sequence重新排列变长序列的token以减少无效padding,节省显存约10GB。
DEGR:双探索驱动的生成式重排序实现自适应跨请求上下文桥接
🧭 生成式重排序 · 探索性奖励模型 ★ 深度解读
JD.com
提出双探索生成式重排序,通过混合监督-强化学习与探索性奖励模型自适应平衡即时与探索价值,提升电商推荐效果
📌 工作参考价值(4 点)
- 探索性奖励模型设计:将“序列探索价值”量化为可学习奖励,结合上游 pCTR 动态调整权重,在低质量候选集时自动优先保留浏览潜力,可直接迁移到搜索推荐的重排阶段,尤其适用于冷启动或召回质量波动场景。
- 混合优化范式(SL + EDC + AR-ORPO):监督学习保持在线分布稳定性,探索多样性约束(EDC)缓解并行解码头的语义坍缩,AR-ORPO 利用奖励值作为软权重建构偏好列表替代硬排名,比标准 ORPO/DPO 更鲁棒,适合生成式推荐或 Agent 策略优化中的对齐训练。
- 并行解码与高效采样:多头并行生成 + 群组束搜索/启发式混合采样,将序列生成复杂度从 O(M) 降至 O(M/K),线上 TP99 仅增加 3.2ms,可直接用于低延迟的实时重排或对话式推荐生成。
- 跨请求上下文桥接思路:显式建模当前请求的探索行为对未来点击/浏览的影响,可在精排或重排阶段加入类似“未来请求增益”辅助任务,提升长期用户活跃度。
MerchantBench:电商运营中LLM智能体长期连贯性基准
🧭 Agent 长期连贯性评估
Alibaba Group · State Key Lab of CAD&CG, Zhejiang University · School of Software Technology, Zhejiang University · School of Software and Microelectronics, Peking University · College of Computer Science and Artificial Intelligence, Fudan University
提出首个电商卖家长期运营模拟基准,评估LLM智能体在365天中维持连贯决策的能力,揭示LLM远逊于人类
📌 工作参考价值(4 点)
- 长期模拟环境构建:可借鉴其365天订单级模拟设定,将“供应商事件-采购-上架-定价-订单-现金流”时序闭环用于训练或评估搜推广场景中的Agent,尤其适合需要多步决策且反馈延迟的任务(如选品、动态定价)。
- 决策依赖与现金流的约束设计:采购、定价、现金流之间形成硬性依赖,当前行为会影响未来选择空间,这对设计推荐Agent的“预算受限序列决策”有很大启发,例如广告竞价中的预算分配与出价调整。
- 混合延迟反馈的处理框架:MerchantBench区分上游即时事件与下游延迟订单结果,这种双通道反馈模式可复用于搜索推荐系统,帮助Agent学会在延迟转化数据下的自适应策略。
- 评估指标与人类对照:用最终净资产等累计指标衡量长期连贯性,并引入人类基线,这种做法可迁移到业务Agent评测中,避免仅看短期收益忽视长期效果,从而设计更鲁棒的线上评估体系。
深度学习因果检索优化:Pinterest高效电商分发触发策略
🧭 因果学习 · 检索触发策略优化 ★ 深度解读
Pinterest, Inc. · LinkedIn
将检索级触发决策建模为因果提升问题,利用随机化数据与双重稳健多任务学习,离线重放选择阈值,线上大幅缩减购物触发并提升整体参与度
📌 工作参考价值(4 点)
- 触发决策因果化:将“是否触发某类候选集”视为增量预估问题,而非相关性排序,可直接用于电商推荐中控制商品卡片、广告坑位的展示频次,避免过度分发损害用户体验。
- 反事实数据收集与DR训练:通过随机化Holdout流量获得无偏反事实数据,使用Doubly Robust伪结果训练uplift模型,配合多任务学习与事件级上采样,可复用到消息推送、广告投放等稀疏事件的触发决策中。
- 离线重放评估与阈值选择:基于随机化日志的线性时间复杂度重放算法,提供不同阈值下的业务指标曲线,与线上效果高度一致,无需频繁线上实验即可迭代策略,工程成本低。
- 解耦学习与决策:模型只学习潜在结果和提升信号,策略阈值通过离线重放选择,二者解耦,使产品侧可审计、可解释地调整触发力度,无需重新训练模型。
面向AI网页智能体的电商网站设计框架
🧭 Agent 可执行性设计提升任务可靠性
提出三个维度的agent-ready网站设计框架,使AI浏览器代理任务成功率从49.3%提升至89.3%
📌 工作参考价值(4 点)
- 结构化产品页提升Agent抓取:用明确的data-属性、语义化HTML标签(如<price>、<feature>)标记商品信息,可大幅降低Agent提取详情失败的PARTIAL率(本实验中从43次降至3次),电商平台可据此优化前端代码生成或模板,让模型更快更准获取信息。
- 动作线索设计减少无效步骤:在关键决策点提供Agent可识别的action cue(如显式按钮“比较所选”或结构化选项列表),使平均步骤从9.31降到6.49,可直接应用到产品比较、多约束筛选环节,提升多步骤任务的完成效率。
- 证据信号增强决策可靠性:为价格、库存、促销等动态信息添加时间戳和状态标签(如price-valid-until),Agent可以利用这些证据判断信息时效,避免基于过期数据做决策,对秒杀、闪购场景尤其重要。
- 可执行性指标体系借鉴:框架定义的agent interpretability、executability、decision reliability三维度,可转化为前端质量评估指标,用于A/B实验对比不同页面方案对Agent性能的影响,驱动迭代优化。
SynthAVE:电商属性抽取的规模化合成标注与多模型验证框架
🧭 多 LLM 协同标注 · 属性抽取验证 ★ 深度解读
Amazon
用 21 个异质 LLM 组成的投票仲裁机制验证合成标注,与人类专家一致性达 95.2% (κ=0.92),错误校正率 83.1%
📌 工作参考价值(4 点)
- 数据质量兜底:业务中大量使用 LLM 生成商品属性标签(材质、颜色、适用年龄等)时,可引入 3–5 个异质模型 + 多 prompt 的轻量投票团进行盲评,仅对分歧样本投入人工复核,可将人工复审量压到 5% 以下而保持 97%+ 准确率。
- 一致性作为置信度信号:仲裁团的一致程度可直接用作标签可信度——全票通过(36% 样本)几乎无错(0% 翻转),低一致样本(<50%)自动转人工,实现风险分级工作流。
- 低成本规模化清洗:全文 7 模型 ×3 prompt 的成本约 $0.023/商品,仅保留最高性价比的 3 个家族(如 Claude、Nova、GPT)可降至 $0.002/商品。此类配置适合百万级商品库的背景批量纠错。
- 回避模型家族偏差:选择来自不同供应商、不同架构的模型,而非同家族不同尺寸,能显著降低系统性误判——文中 Claude 家族与 Qwen 家族间一致性仅 κ≈0.57,这种异质性恰恰是集成可靠的保障。
快速可行的基于排列的约束重排序以实现收益最大化
🧭 约束优化重排序 · 排列近似算法 ★ 深度解读
Avito · MSU, AI Center
提出 PermR 排列邻域搜索算法,在 0.05 秒内近似求解收益最大化 ILP,线上收入提升 2%
📌 工作参考价值(4 点)
- 重排序建模为 ILP:以当前生产排序的指标值作为约束下界,保证可行且不显著损害用户体验,可直接借鉴到电商搜索重排场景。
- 排列邻域搜索算法 PermR:通过交换相邻商品提升目标或修复约束,复杂度极低(≤0.05s),适合线上实时部署;采样概率由商品得分差驱动,清晰可复现。
- 位置偏置使用指数衰减(γ_j = 0.97^j)计算曝光收益,可按平台实际曝光率拟合;多条约束可定义在不同截断前缀(如 top-5 相关度),适应分屏业务需求。
- 离线/在线验证流程:先离线评估 ILP 最优上限、确定 PermR 迭代次数(如 750),再上线 A/B(14 天,56M 查询),最终收益 +2%,适合作为搜索/推荐重排模块的落地范本。
巴西电商产品属性值提取:基于LLM与黄金标注集的方法
🧭 LLM赋能属性提取 · 巴西电商 ★ 深度解读
LuizaLabs · Mackenzie Presbyterian University · University of São Paulo
用精心设计提示词的LLM代替传统NER,在巴西葡语商品属性提取上F1提升约15个百分点
📌 工作参考价值(5 点)
- 用LLM+提示工程直接做商品属性提取:无需微调,为每个品类定制提示词(任务说明、上下文、输出JSON格式、few-shot示例),可快速替换传统NER,特别适合多品类、多语种电商快速迭代。
- 构建黄金标注集的方法论:使用Cochran公式确定每类产品的样本量(95%置信度、5%误差,约385条),20个品类共覆盖数十万产品,可作为评估模型质量的无偏基准,也适合作为业务内部模型评测的固定验证集。
- 结构化输出设计:提示词中明确要求JSON输出,下游可直接解析入属性库、供搜索/推荐使用;对电压、尺寸等多值或歧义属性,提示词中需提供具体格式和示例,可大幅减少后处理。
- 工程部署考量:文中对比了自托管开源模型(VM部署,可预见延迟和成本)与闭源API(Gemini 2.5 Flash-Lite,1000并发请求平均1.3s但偶发30s)。推荐高吞吐场景优先自托管,避免API延迟波动和rate limit。
- 属性标准化仍是痛点:同一属性存在多种写法(“bivolt”“110/220V”),LLM虽能提取但一致性不足,建议后续增加规则或正则规范化层,或对LLM施加更严格的输出格式约束。
解耦搜索与推理:LLM Agent 的供应商无关的接地架构
🧭 Agent 搜索接地解耦与成本控制 ★ 深度解读
DoorDash, Inc.
将搜索接地从模型内部移出为可配置的 MCP 网关,在 Prompt 合规、成本、缓存和提供商选择上获得显式控制
📌 工作参考价值(4 点)
- 将搜索定义为显式工具边界,而非模型内置功能:在电商 agent 中,把搜索(如商品检索、Query 理解时的外部知识查询)做成独立工具,通过 MCP 协议标准化输入输出,可避免 Prompt 中严格的输出格式被 native search 的冗长解释破坏,尤其适合需解析 JSON/实体/分类标签的流水线。
- 使用提供商注册表 + 回退链实现搜索路由:在推荐/搜索系统中,可以按成本、新鲜度、覆盖场景动态选择搜索提供商(如 Serper、BrightData),并配置超时回退,保证可用性同时大幅降低搜索 API 开销(实验中成本降低 91%–98%)。
- 利用精确+语义缓存减少重复检索:对电商中高频查询(如热门商品、常见长尾意图),引入基于 embedding 的语义缓存,可达到 99.4% 的缓存命中率,将延迟降低 68% 并接近零边际搜索成本,适合大规模 Agent 场景。
- 将搜索成本、深度、延迟作为可调旋钮:通过调整 max_results(检索结果数)在准确率和成本之间 trade-off(如 SimpleQA 从 2 条增至 6 条后准确率快速上升,之后饱和),让接地层像推荐系统中的召回预算一样可配置,团队可按业务需求调优。
VISTA:面向交互式智能体评估的混合用户仿真工具包
🧭 交互式智能体评估 · 混合用户仿真 ★ 深度解读
Columbia University · Arklex.ai
结合 UI 与 API 混合仿真并引入覆盖率、真实感等六项指标,更全面地暴露智能体故障
📌 工作参考价值(4 点)
- 混合仿真架构:在电商客服或对话式推荐 Agent 评估中,可借鉴 UI 交互与 Mock API 相结合的方式,用 API 可靠提供用户订单、账户等结构化信息,避免纯 UI 导航的噪声与误操作,同时更全面地触发 Agent 故障。
- 覆盖率指标用作自动质量信号:工具转移熵、工具分布熵、轨迹距离等指标无需人工标注就能衡量仿真多样性;实践中可用其持续监控仿真器是否能充分探索 Agent 能力边界,作为评估有效性的代理指标。
- 故障自动识别框架:LLM-as-Judge 从 helpfulness/coherence/relevance 等五维度评分后合并故障理由,可自动化地归类 false information、repetition 等典型错误,辅助 Agent 迭代优化。
- 真实感一致性的自动评测:用户画像、目标与领域知识一致性评测采用参考无的 LLM 判断,与人类评分正相关(ρ=0.60),可作为仿真质量快速反馈信号,无需昂贵人工评估即可调优仿真策略。
面向生成式推荐的噪声鲁棒自适应损失平衡 GRPO
🧭 生成式推荐 · RL后训练 ★ 深度解读
JD.com · Waseda University · University of Electronic Science and Technology of China
通过样本级门控让 GRPO 只在策略不确定且奖励可靠时才更新,解决奖励模型噪声问题。
📌 工作参考价值(4 点)
- 在生成式商品推荐(如 Semantic ID 召回)的 RL 后训练中,不要均匀信任奖励模型:对每个样本分别计算策略侧难度(ground truth 是否落在策略 top-τ 之外)和奖励侧判别力(RM 是否把正确项排在头部且彻底压制无关负例),仅当两者同时满足时才施加 GRPO 更新,其余样本仅用监督 NLL 损失。这种选择性更新可避免重复奖励模型噪声。
- 保留监督 NLL 作为稳定锚点,GRPO 作为附加项,通过一个二值 clip 系数 gating。超参数只需要两个比例 τ、ρ(阈值比例),基于排名确定,不受绝对分值影响,易于迁移和调参。
- 奖励判别力诊断中,使用来自同一 batch 其他 query 的生成负例作为“跨样本扰动项”,无需额外模型即可检验 RM 的局部校准程度,计算成本极低,是实用技巧。
- 经过离线(HR 提升与低幻觉)和线上 A/B(有效 IPV、UCTR、停留时长显著增长,类目多样性未降)验证,方法在真实电商场景中可安全、稳定地提升 RL 训练效果,避免 reward hacking 引起的多样性坍塌。
LoomVideo:5B 参数统一多模态视频生成与编辑的高效架构
🧭 多模态视频生成与编辑统一架构 ★ 深度解读
Peking University · Alibaba Group
用 MLLM + Deepstack 注入 + 零开销 Scale-and-Add 条件机制,在 5B 规模实现统一视频生成编辑并加速 5.41 倍
📌 工作参考价值(4 点)
- 用 MLLM 替代 T5 编码多模态输入:在电商商品视频生成或虚拟试穿中,可直接使用多模态大模型(如 Qwen3-VL)处理交错图文指令,而无需单独设计文本编码器,提升对商品属性、换装等复杂要求遵循能力。
- Scale-and-Add 零开销条件注入:避免在视频编辑时拼接源视频 token 导致序列翻倍、注意力计算平方增长。在需要融合历史帧或源视频的任务中(例如动态商品展示、视频重渲染),可直接将源视频潜变量按时间步缩放后加到目标潜变量,实现极速推理。
- Deepstack 多层特征注入:将 MLLM 每一层隐藏状态经 MLP 投影后作为 DiT 对应层的 cross-attention key/value,实现深层次语义对齐。这种设计可迁移到跨模态推荐或内容生成中,提升多模态条件遵循能力。
- 三阶段渐进训练 + RL 后训练:先低分辨率对齐 MLLM,再提分辨率引入重建/编辑,最后加入多参考图等多任务微调,并辅以 RL 优化人类偏好。该管线可借鉴用于训练电商场景的统一生成式模型,从单任务逐步扩展,稳定提升质量。
架构敏感监督微调用于屏幕条件动作预测:PiSAR 基准
🧭 屏幕条件动作预测 · 架构敏感微调
AprioriLabs
微调 Qwen3-VL-8B 在屏幕动作预测上语义相似度 0.783,远超零样本前沿模型,并暴露微调效果对模型架构高度敏感。
📌 工作参考价值(4 点)
- 任务特定微调远胜零样本大模型:在屏幕行为预测这类高度领域特定的任务上,即使前沿视觉语言模型(Claude/GPT)的零样本表现也远不及单一 LoRA 微调的小模型。对于电商界面优化、Agent 动作规划等场景,必须用自己的领域数据做微调,不能依赖通用大模型的零样本能力。
- 基座模型选择是关键:相同数据和微调方法在 Qwen3-VL-8B 上达到 0.783,而在 Gemma-4-26B 上仅 0.441,差距巨大。在落地时,应优先在小规模、非推理调优的视觉模型上尝试微调;推理调优后的大模型抵抗微调信号,可能需要更多数据或更强的微调方法(如更深的参数干预)。
- 轻量级模型可实现低延迟部署:8B 微调模型达到亚秒级调用延迟,适合实时动作预测。在需要根据当前屏幕状态快速决策的场景(如智能客服指引、购物车优化)可直接采用。
- 数据构建方法论可借鉴:PiSAR 数据集由用户评价、人口统计和购物行为轨迹编织而成,为构建屏幕-行为-意图对齐数据提供了可复用的工程模板。