IntentGEO:面向推荐场景的意图感知生成式引擎优化
🧭 生成式推荐 · GEO 内容优化 ★ 深度解读
Renmin University of China · National University of Singapore
提出 AMO,用固定推荐指令核心加学习追加策略,防止 prompt drift,提升多意图下 item 可见性
📌 工作参考价值(4 点)
- 做 LLM 生成式推荐/电商 GEO 时,不要只评 topic-level 查询;用 P 系列(需求具体度)和 Q 系列(决策阶段)构造多 intent slots,能暴露改写策略在强匹配请求下的负收益(P5 普遍负增益)。
- Prompt optimization 容易把显式推荐指令漂移成促销话术(keywords/call-to-action),可借鉴 AMO 的 anchored 结构:固定推荐核心(事实留存、推荐理由),只学习可追加的改写策略,避免 seed 性能被优化破坏。
- 工程上可直接复用 citation-conditioned reward:用保留引用 rank 前后差、新引用、丢失引用的差分信号做 meta-optimizer 的反馈和验证,比全 prompt 优化更稳定。
- 若业务要接 agentic 推荐链路或闭源助手(如豆包 API),同一份改写可不重新训练直接迁移;AMO 在 agentic 和 Doubao 下均保持最高均值 rank gain,说明 anchored prompt 有较好跨界面复用性。
UserArena:长程购物 Agent 交互式用户模拟基准
🧭 用户模拟器 · 长程购物 Agent 基准 ★ 深度解读
Leiden University · Renmin University of China · Alibaba Group · Institute of Computing Technology, Chinese Academy of Sciences
构建真实电商长程交互基准与五级评估协议,并提出 on-policy trajectory distillation 提升用户模拟器保真度
📌 工作参考价值(4 点)
- 借鉴五级评估协议(L0-L4)构建业务用户模拟器验收流程:从动作解析有效率、下一步行为准确率、到序列分布和群体分层保真,最后对比策略 A/B 效果;尤其关注不平衡动作(如滚动占38%)用宏观 F1 而非微平均。
- OPTD 的训练策略可迁移到序列决策模型的离线训练:用 trajectory-level intent 作为 teacher 的 privileged context,在 student 自己的 rollout 上做 token-level 蒸馏(JSD),并用 trust region 限制意图影响,可减少 exposure bias 和稀疏监督,提升长程一致性。
- 建立模拟器-线上校准闭环:将相同策略对在模拟器中对比效果,与生产 A/B 效果比较(如 effect ratio 和 error),确保模拟器结论可指导业务决策;OPTD 达到 0.713× effect ratio,远好于通用大模型。
- 数据层面:整合用户跨会话长期行为(平均 10+ 会话)来训练和评估模拟器,比单会话更能揭示行为惯性;可结合用户属性、视觉上下文、完整动作空间来提升模拟器保真度。
Decision4Rec:基于知识与活跃图谱的多智能体推荐决策模型框架
🧭 决策模型重排 · 多智能体候选池 ★ 深度解读
Università degli studi di Bari Aldo Moro · Otto-von-Guericke University · Leibniz Institute for Educational Media | Georg Eckert Institute
将决策模型(Jev/Kev)用于推荐重排,结合场景知识图谱语句和多智能体候选池,在稀疏Amazon目录上NDCG@10提升25%-36%。
📌 工作参考价值(5 点)
- 用决策模型(Kev/Jev)替代生成式LLM做重排:直接输出候选概率,确定性单次前向,便于线上校准与风险控制;用Luce模型+两次随机顺序可消除位置偏差。
- 把场景行为编码为相对尺度语句(top 10%/often)而非原始次数,使同一个rerank模型可跨品类/新店铺复用;知识图谱计数可实时更新,无需重训。
- 多智能体候选池中始终保留现有精排模型完整top列表,其它来源仅作为特征修正顺序,避免简单rank fusion对原有召回造成负向影响。
- 训练rerank记录时严格防泄漏:统计特征不能包含target、不补缺失target、target所在的最后一步不能被第一阶段模型训练过;这对构建高质量推荐rerank数据很实用。
- 训练0.8B开源决策模型即可在多数设置中打平甚至超过商业Jev,性价比高。
异质智能体共进化:专用基础模型与LLM Agent的互惠学习
🧭 专用模型与LLM Agent共进化训练 ★ 深度解读
Meta AI · University of Virginia
提出 HACE 框架,让专用基础模型与 LLM agent 互惠共进化,在推荐、蛋白质功能、材料稳定预测上全面超越收敛后基线
📌 工作参考价值(5 点)
- 用 LLM agent 做“经验筛选器”提升收敛后的推荐模型:让 agent 基于当前 specialist 的预测生成候选,只保留贡献 r_i = q_A - q_S > 0 的 verified response,再用这些 response 选择 specialist 的训练样本。电商推荐中可对已收敛的 SASRec/HSTU/Wukong 类模型继续榨取提升,尤其长尾/冷门类目。
- 融合打分公式很轻量,可直接上线实验:joint prediction 使用 s_i(c) + λ a_i(c),agent 分数按 log reciprocal rank 衰减,λ 通过交叉验证在固定网格上选择。这种 fusion 不改变 specialist 结构,适合快速接入现有排序链路。
- 保留更新需做 paired validation,避免噪声回滚:每次 specialist 或 harness 更新后,在同一 validation batch 上用当前 agent 做配对评估,只接受 ΔJ > 0 的 proposal。工程上可作为在线/离线模型迭代的安全门控。
- harness 进化搜索可自动发现上下文/课程策略:论文中 harness 搜索会自动移除 genre metadata、隐藏候选排名、把课程指向 hard cases。对应推荐系统可进化地决定给 agent 看哪些特征/上下文、以及哪些训练样本进入下轮 specialist 微调,减少人工试错。
- agent 与 specialist 不必同构,小 agent 也可能够用:实验显示 Gemma-4 E4B 比更大的 26B-A4B 带来更稳定提升,说明业务中不必追求超大 LLM agent,计算资源配置可优先给 specialist 微调。
AgentWebRec:在用户代理网络中通过紧凑证据融合实现个性化推荐
🧭 Agent Web 多智体协作推荐 ★ 深度解读
Beihang University · The Hong Kong University of Science and Technology (Guangzhou)
将推荐重构为 Agent Web 上的任务时证据获取与融合,通过 query-response 交互与置信度门控协作,在不集中代理记忆的情况下提升个性化推荐
📌 工作参考价值(4 点)
- 用户侧 Agent 记忆管理:在不汇聚原始交互数据的前提下,通过 query-response 接口获得紧凑任务证据,适合跨平台/合规场景下的用户偏好建模;可把私有记忆检索改为候选语义锚定 + 时间衰减 + 预算控制,降低无关上下文稀释。
- 条件协作机制:用本地决策置信度 κ 作为门控,只有低置信才请求邻居代理提供偏好模式,并将每个邻居返回的 pattern 通过 RefineLLM 融合;这能避免无差别引入噪声,控制推理成本和延迟,适合电商推荐中稀疏用户或长尾场景。
- 平台侧 item 语义增强:利用语义邻居构造支持集并用 AbstractLLM 丰富候选商品描述,可以作为后续检索的 anchor;对描述不完整、长尾商品尤其有益,可直接借鉴到商品理解、query 改写或广告创意生成中。
- 用户代理网络拓扑构建:实验表明基于 item 共现构建用户边优于 persona 相似度或随机边,说明行为共现是更可靠的人群同质性信号;在构建用户人群、Lookalike 或协同过滤图时可优先采用行为共现作为边权重。
HELIX:净化并统一大规模推荐中的特征交互与序列建模
🧭 统一特征交互与序列建模的排序架构 ★ 深度解读
Data - Global E-Commerce Recommendation Video Team
用单向可复用 KV cache 与 Mixup-PerToken-FFN 联合扩展特征交互和序列建模,电商视频 GMV/用户提升约 6%
📌 工作参考价值(4 点)
- 把候选无关的用户行为序列编码成可复用 KV cache,候选侧只做 cross-attention 读取,强制单向信息流。这样在 serving 多候选、training 多样本时都能摊销 encoder 成本;如果搜广推系统里要接入用户长序列,这是可落地的架构选择。
- 异构特征交互可考虑用 Mixup-PerToken-FFN 替代 self-attention:参数免费的 Mixup 按通道切片重组 token,再用 token-wise SwiGLU 做非线性交互,比 self-attention 更适配稠密异构特征,且省计算。
- 序列 encoder 采用金字塔 query 压缩:按特征重要性给每条序列分配最近 token 预算,而不是全局截断或统一池化;配合 padding-free 变长执行,能显著降低长序列训练成本。
- 训练稳定性上,对 SwiGLU 的 gate/up 分支做非参数归一化可以避免 FP16 激活溢出;QK-Norm 和 value-side gated attention 在推荐排序模型里也有稳定 AUC 增益。
生成探索、选择利用:对齐 LLM 标题生成与个性化推荐
🧭 生成式推荐 · 个性化标题生成 ★ 深度解读
Baidu Inc., Beijing, China
用 GSPO 训练 LLM 一次生成多样标题候选,再由实时反馈选择器做个性化利用,CTR 提升 2.57%
📌 工作参考价值(4 点)
- 把“生成”与“选择”解耦:不要让 LLM 做最终排序,而是让它生成 5-10 条语义多样的候选标题/文案;再用轻量实时 ranker 根据用户即时行为、兴趣标签、上下文选择最优。这种架构能有效对抗用户画像噪声与 LLM 模式坍塌,电商标题、广告文案、push 文案均可复用。
- 用 GSPO 组内相对优势替代 DPO/PPO 的绝对奖励:组内归一化迫使候选差异化,避免生成重复安全文案;同时可让 LLM 单次推理生成整个候选集,显著降低推理成本。若在业务中做生成式推荐,可优先考虑组内对比训练,而非简单 SFT 或逐样本 RLHF。
- 分层奖励设计:把 CTR 预测、faithfulness(质量模型/NLI)、novelty(编辑距离)、set diversity(IoU)拆开加权。质量护栏防止 reward hacking 生成 clickbait;电商内容信任度要求高,这点尤其关键,建议显式加入事实一致性与安全约束。
- 在线冷启动用 Confidence-Aware Thompson Sampling + 统计终止:给新候选 Beta 先验,只有在小样本或高置信时才继续探索,并设置 τ_max 安全预算;成熟后切到深度 ranker 融合用户画像、实时兴趣标签和语义嵌入,兼顾探索效率与长期收益。
跟随偏好却错失最优:AI住房推荐的合规无优化审计
🧭 LLM推荐系统审计与优化缺陷诊断
Harvard University · Independent Researcher
大规模审计发现LLM在住房推荐中几乎完美遵守硬约束,但39%的推荐被同池中更优选项严格支配
📌 工作参考价值(4 点)
- 在电商/推荐场景中,对LLM推荐不要只检查约束合规,应引入支配性检测:从候选池中计算被严格支配的比例,作为线上部署前的诊断指标,可提前暴露“只满足条件但非最优”的问题。
- 将LLM作为推荐器时,需要显式的优化目标或后处理层:论文显示仅靠自然语言指令无法让模型自动寻找更便宜/更快的选项,可在LLM输出后用规则或排序模型在满足约束的候选中选择Pareto最优项。
- 大规模候选集会放大优化差距(候选集越大,LLM推荐与最优的租金差距越大),因此在大规模召回的电商/广告场景中,应先用检索或粗排缩小候选集,再让LLM做精细推荐,避免直接让LLM面对海量候选。
- 该审计成本极低(约57美元完成近万次调用),可在业务中构建自动化评估管道,用真实商品/广告库存定期审计LLM推荐质量,监测是否出现“合规但不优化”的漂移。
自底向上聚类构建生成式检索 Semantic IDs
🧭 生成式推荐 · 自底向上 Semantic ID ★ 深度解读
Cornell Tech, Cornell University · PayPal
提出自底向上层次聚类生成 Semantic IDs,保证唯一性并保留嵌入局部结构,提升下游生成式检索效果
📌 工作参考价值(4 点)
- 电商生成式推荐中,可直接用自底向上聚类对商品文本 embedding 生成 Semantic IDs,避免 RQ-VAE 训练和 codebook collapse 调参;唯一性由构造保证,不再需要追加去重码,简化线上 ID 映射。
- 冷启动上新:新商品只需找最近邻已有商品,继承前几层码字并分配唯一末位码即可纳入生成式检索,无需重建整个 ID 空间,适合频繁上新的电商场景。
- 层级设计中可通过 cluster size cap 控制每个簇的商品数量,避免头部类目簇过大导致解码搜索空间不均;同时监控 silhouette score、avg rows per ID、簇内类目纯度等指标。
- 注意自底向上聚类簇数通常少于典型 RQ-VAE codebook,粗粒度簇的类目纯度可能下降;在强类目体系场景可结合类目树约束或增加层级来改善。
个性化任务依赖图缓解多任务推荐中的信号衰减
🧭 多任务学习 · 任务依赖图 ★ 深度解读
Huawei Technologies Co., Ltd.
PTDG以低秩动态任务图和因果GCN消息传递,缓解多任务推荐深层转化目标的信号衰减
📌 工作参考价值(4 点)
- 在电商/广告多目标转化(点击→加购→下单→支付)中,不要用全局固定漏斗依赖;用低秩分解(rank q≈T/3)从 item/user/scenario 特征生成动态任务邻接矩阵,再叠加因果掩码,能适配不同商品/场景的转化路径差异。计算上每个 item 只增加一次低秩矩阵乘法和 GCN 传播,在线延迟仅 +8 ms,适合 serving SLA。
- 借鉴因果掩码+自适应 shortcut 的消息传递:在任务图上允许 Click→Pay 等跳过中间环节的捷径,避免深层稀疏目标信号被层层衰减;这比固定层级 AITM 更灵活,尤其适合稀疏深层目标(支付、复购)的 CVR 预估。
- APM 结构化解耦共享参数:根据任务正样本率设置 mask 率,稀疏任务 mask 率更高(如低至 0.7),密集任务低(0.2),并线性 warm-up。相比 PCGrad 等梯度投影,训练开销几乎为零,推理无额外参数,可直接替换 MMoE/PLE 的共享底层。
- 用 EMA 归一化每个 task loss 权重(loss / EMA(loss))是稳定多任务训练的轻量 trick,可以快速在现有 MTL 模型中验证。
MURAL:基于自适应边学习的多模态不确定性感知推荐
🧭 多模态推荐 · 动态图与不确定性融合
American University · Ulsan National Institute of Science and Technology · Michigan State University
用动态自适应边学习和不确定性感知融合,解决多模态推荐静态图与噪声融合瓶颈
📌 工作参考价值(4 点)
- 动态边学习替代静态 item-item 相似图:推荐系统里用可微检索 + ANN 实时构建 item 图,能跟随用户行为变化,O(N log N) 复杂度适合大规模商品库。
- 不确定性感知多模态融合:对商品标题、图片、视频等模态建模 aleatoric uncertainty,动态降低噪声模态权重,在 UGC 素材质量参差时提升稳定性。
- Teacher-student 对齐到行为信号:将多模态表征蒸馏到协同过滤表征,用点击/购买等行为 anchor 做对比学习,避免模态噪声破坏协同信号。
- 鲁棒性与可解释性:在数据缺失/损坏场景下有效;通过模态权重可解释垂直域依赖,如时尚重图、电子重文本,便于业务沉淀特征优先级。
世界模型引导的反事实用户参与模拟强化学习
🧭 世界模型反事实用户模拟 · 推荐策略 RL ★ 深度解读
The Chinese University of Hong Kong · Zhejiang University · ByteDance China · MoE Key Lab of High Confidence Software Technologies, CUHK
用冻结 LLM 用户参与世界模型并行预测多候选 item 的异质反馈,转化为奖励训练 1.7B 推荐策略,跨域匹配或超过更大 LLM。
📌 工作参考价值(4 点)
- 把用户反馈模拟器当作离线 RL 奖励源:对同一 history 采样 G 个候选 item,让 UEWM 并行预测反馈,构造 same-state 反事实比较;这比从 logs 学 policy 或 SFT distillation 更符合策略梯度对「同状态多动作」的需求。
- 多信号反馈向量化 + 权重映射奖励:将点赞、分享、差评、评分、评论文本统一向量化,再用权重向量映射为标量 reward;在电商场景可以把点击、加购、收藏、评论情感按业务目标加权,而不是只看点击率。
- 小模型策略优化可落地:用 8B 模拟器奖励训练 1.7B 学生模型,在 Amazon Books/Movies 和 Google Local 上超过 SFT蒸馏和 DeepSeek-GRM 奖励,说明可低成本获得接近大模型的推荐策略,适合粗排/召回级小模型精调。
- 跨域迁移的边界要清楚:UEWM 从中文短视频迁移到英文电商/本地生活做评分/评论预测有效,说明学到的是「从历史推断用户动态」的通用过程;但它是纯文本、只建模用户侧动态,缺少视觉/价格/库存/平台侧约束,接入业务时需补齐多模态与曝光分配机制。
Stageboost:基于反事实估计的商品详情页信号推荐模型
🧭 电商信号推荐 · 反事实估计
eBay India · eBay Israel · eBay USA
eBay利用两阶段XGBoost反事实估计在商品详情页优化信号展示,GMB提升0.08%
📌 工作参考价值(4 点)
- 借鉴反事实估计校正信号展示偏差:记录信号曝光与转化数据,用IPW/DR等方法估计每个信号对转化的因果增益,而非简单看CTR,避免位置偏差误导。
- 两阶段解耦价值评估与组合优化:先独立预测信号收益,再在placement容量约束(如Urgency最多1个,Conversational最多2个)下求最优组合,提升可解释性和工程可控性。
- 对高客单价商品强化信号推荐:实验表明高平均价格商品转化提升显著,可针对此类商品增强信任/紧迫感类信号(如库存、退货政策)的投放。
- 工程上采用XGBoost,训练快、可解释,适合电商大规模候选信号的线上快速迭代。
微信多模态 Embedding 技术报告:WeMM-Embedding 家族
🧭 多模态表征学习 · 通用 Embedding ★ 深度解读
WeChat Vision, Tencent Inc.
2B/4B/9B 通用多模态 embedding 家族,两阶段训练与蒸馏在 MMEB-v2 达 80.6 SOTA,并大规模落地微信推荐搜索
📌 工作参考价值(4 点)
- 通用多模态 item embedding 直接复用:商品/视频/图文内容统一走 <embedding> 末 token 出向量,可在召回、排序特征、用户序列建模、跨域理解中复用;视频场景可一次前向同时拿到“视频帧-only”和“视频+ASR文本”两种表示,适配不同召回通道。
- 多任务 pair 统一格式优于分开训练:把搜索 query、商品详情、内容描述、分类标签、点击/转化分级相关统一成 (instruction, source, target, hard_negatives, relevance),用 task-consistent batch 和 duplicate-aware masking,能显著提升 in-batch negatives 质量;该技巧可直接迁移到电商搜索/推荐 embedding 训练。
- 用 Semantic ID 做数据平衡和难负例挖掘:对 pair 表示做 RQ-KMeans 得到三层语义 ID,按频次降采样高频语义、保留长尾,配合 MLLM 质量过滤和检索难负例,特别适合缓解电商长尾商品和新品冷启动;MRL 输出 256/512 维可降低向量索引成本,同时保留 97% 以上性能。
- 蒸馏策略可压缩学生模型:2B/4B 用 9B teacher 的 batch 内双向相似度分布做 KL 蒸馏,不像 one-hot 对比损失那么硬,能高效传递细粒度关系;在广告/推荐小模型迭代时可用此方法把大模型能力压到线上可部署尺寸。
TREC 2025 产品搜索与推荐评测任务概览
🧭 电商搜索与推荐评测 · 产品关系数据集
University of Illinois Urbana-Champaign · Coursera · Snowflake · Coupang · Waseda University
提供 TREC 2025 产品搜索与推荐评测框架,新增区分互补/相关关系的产品推荐标注数据集
📌 工作参考价值(4 点)
- 产品关系建模:借鉴其区分 complementary(互补,如配件)与 related(相关,如替代品)的思路,在电商推荐中构建更细粒度关系标签,用于训练排序模型或构建知识图谱,提升推荐可解释性和多样性。
- Query 扩展任务:在搜索/推荐中,query expansion 可用于生成式推荐(LLM4Rec)的 prompt 设计或 query 特征增强;可参照其评估框架设计离线和在线指标,验证扩展 query 对检索效果的影响。
- 对话式产品发现:数据标注为 complementary/related 为对话式购物代理(Agent)提供候选商品关系基础,可用于约束 LLM 生成的候选 item 集合,减少幻觉,提升上下文相关性。
- 开箱即用评测:若公司需快速验证检索/推荐模型,可复用该 benchmark 作为外部评测集,节省自建标注成本;同时其任务设计启示内部评测集应区分“互补”和“相关”,避免混淆。
检测效果不等于学会按例行动:LLM采集智能体的奖励信噪比下限
🧭 LLM信号获取决策 · 奖励信噪比下限
University of California, San Diego
揭示LLM信号平均有效但无法学习按例决策的信噪比下限,噪声占位符可复现虚假增益
📌 工作参考价值(4 点)
- 在电商 Agent 决策(如是否调用 LLM 生成推荐文案)前,先计算信号效应的信噪比 ρ=μ/σ,并确保 ρ>2.8/√N,否则学习路由策略将退化为随机。
- 当信噪比不足时,放弃学习动态按例获取策略,改用设计时的静态分片(如按用户群体、场景开关)来规避无效学习。
- 验证 Agent 决策可学习性时,必须加入噪声占位符对照:用匹配矩的独立噪声替换信号,若仍能复现≥100%的 Oracle 增益,说明原始“可学习结构”实为噪声排序伪象。
- 结构化假设嵌入(SHE)提供了一种可解释的用户意图注入方式:用冻结 LLM 生成带置信度的意图列表并嵌入召回或排序模型,适合电商中长短期兴趣解耦,但需注意其对模型 backbone 敏感,建议先在特定 regime 内验证提升。
位置偏差破坏LLM列表重排序的偏好一致性
🧭 LLM重排序可靠性评估 ★ 深度解读
RMIT University
提出成对/全局/输出三层一致性指标,揭示LLM重排序的排列敏感性远超曝光偏差修正所能解决
📌 工作参考价值(4 点)
- 评估LLM重排序器时须同时关注排列一致性:仅看HR/nDCG不够,应加PPI(成对不稳定度)、GPI(全局不一致度)、LOC(列表输出一致性)来量化候选顺序敏感度,确保排序函数在各输入排列下输出稳定偏好。
- 常见偏差修正方法可能掩藏更严重的偏好结构破坏:STELLALW能平坦化位置曝光并提升HR@5,但PPI/GPI/LOC在实验中均最差,说明仅减小平均曝光偏差不足以恢复全局一致的偏好,业务落地不可单指标驱动。
- SGS(顺序贪心选择+重排)在一致性和曝光偏差上取得了较好平衡,但需要K次推理(K=候选集大小),适合对一致性要求极高且可接受推理延迟的场景;Bootstrapping(多次随机打乱聚合)是轻量替代,在一致性上也有明显提升。
- 工程生产建议对同一请求多次打乱候选顺序,计算排名的一致性(如Kendall’s τ)作为在线监控指标,防止因模型更新或Prompt调整引入排列不稳定性,并结合边际曝光曲线指导系统优化。
LLM生成式检索在Snapchat短视频推荐中的工业级落地
🧭 生成式推荐 · 语义 ID 与 LLM 工程落地 ★ 深度解读
Snap, Inc.
首次部署 LLM 生成式检索:多模态 PPR 行为 SID + 两阶段词汇接地 + 推理优化,线上观看时长提升 0.37%
📌 工作参考价值(4 点)
- SID 构建加入 PPR 共现对比损失:用 Pagerank 从用户-视频二部图挑选高质量正样本对,做对比学习,可显著缓解码本碰撞、注入协同信号,视频 ID 唯一率从 16.8% 提升至 32.1%。电商推荐中可以用商品共购图或用户行为图生成类似正样本对,改善语义 ID 的区分度。
- 两阶段 LLM 训练(CPT+SFT):先用视频描述做 SID 到文本的生成任务,冻住 LLM 只训练新加入的 SID embedding,使新 token 与模型的语义空间对齐;再在用户交互序列上全量 SFT。CPT 可稳定提供额外 0.8%~1.2% 的 Recall/Pass@k 提升,且成本低(一次性训练),值得在引入新 ID 体系时复用。
- 高吞吐推理的工程组合:TensorRT-LLM CUDA 原生 beam search 替换 Python 实现,结合分布式 worker-loop 架构和异步 IO,实现 45.7 倍吞吐提升。对于需要大 beam 宽度的生成式推荐推理,这套组合可直接迁移。训练侧用动态序列打包 + FlashAttention-2 变长支持 + torch.compile 获得 3.6 倍训练提速,同样适用于短序列用户行为训练。
- 架构选择启示:相同参数量下,decoder-only LLM(Qwen3)比 T5 encoder-decoder 在 SID 检索 Pass@32 上高出约 1.5 倍,且缩放至 600M 仍保持显著优势,说明生成式检索应优先选用 decoder-only 预训练架构。
扩散模型解决冷启动推荐的跷跷板困境
🧭 冷启动物品推荐 · 扩散模型生成表示 ★ 深度解读
Shanghai Jiao Tong University · Xiaohongshu Inc.
提出DiffCold扩散框架,用检索增强聚合与模拟对齐统一温冷表示,同时提升冷热物品性能
📌 工作参考价值(4 点)
- 扩散模型用于物品嵌入生成:用内容特征作为条件引导逆扩散过程,在温物品上训练,对冷物品生成与温物品分布一致的嵌入,电商可直接移植到新品冷启动,避免跷跷板困境。
- 检索增强的起点初始化:对冷物品,基于内容相似度检索top-k温物品,聚合其嵌入作为扩散起点,远优于纯噪声,保留个性化信息,工程实现简单,适合大规模线上推理。
- 模拟表示对齐训练技巧:训练时用温物品的内容和聚合起点模拟冷生成过程,并通过对比学习对齐到真实温表示,这种“模拟冷启动”的对齐策略可推广到其他生成式表示学习场景。
- 轻量级扩散设计:步数T=20、线性调度即可达最优,时间开销与普通模型持平,证明扩散模型在推荐系统中能够兼顾效果与效率,可低成本部署。
解耦残差量化:诊断与构建鲁棒推荐语义ID
🧭 生成式推荐 · Semantic ID 鲁棒性诊断与解耦量化 ★ 深度解读
Shopee
提出期望重叠率与有效码本容量框架诊断语义ID退化,并展示解耦残差量化(DRQ)分离连续表示学习与离散分配
📌 工作参考价值(4 点)
- 解耦设计可分别优化连续表示和离散分配:在电商物品语义ID构建中,先训练一个良好对齐与均匀分布的连续VAE隐空间(融合多模态内容+行为对比学习),再冻结后进行层次K-Means聚类,能避免STE梯度带来的几何坍缩与码本欠训练。
- 诊断框架直接用于评估现有tokenizer:利用期望重叠率Oπ与有效码本大小Keff,可以量化分布惩罚(码使用Gini/熵)与几何惩罚(码向量间距)。若Keff远小于名义K,说明码本大量浪费,应及时调整码本大小或增加EMA等分布平滑策略。
- RQP-VAE的EMA+死码复活是解决索引坍塌的廉价工程trick:当遇到热门物品挤占码本时,可借鉴RQP-VAE,用指数移动平均更新码心并定期重置低利用码,使码使用接近均匀,无需改动整体架构。
- 多指标选型避免单一维度陷阱:实验中重构保真(DRQ-VAE最强)、符号鲁棒性(RQP-VAE最强)、软语义匹配(DRQ-VAE+CL最强)存在互斥,做tokenizer选型时需根据下游任务(精确检索vs.语义召回)权衡,不能只看重建误差或碰撞率。
通过显式上下文反馈实现LLM推荐中的用户偏好对齐
🧭 LLM推荐 · 显式反馈整合 ★ 深度解读
University of Illinois Chicago · Meta
论证将评论文本等显式反馈深度融入LLM推荐流程,以实现细粒度偏好对齐、提升多样性与可解释性
📌 工作参考价值(4 点)
- 评论驱动标签系统:从用户评论中抽取出结构化偏好标签(如 #LightWeightPhone、#NoJumpScares),作为召回过滤信号或重排特征。电商场景下可将标签异步生成并接入实时排序管线,低延迟融合语义理解。
- 负面信号图谱构建:将用户明确批评的属性构造成负面偏好图,避免推荐触发用户厌恶的商品(如“电池差”“太甜”),既能减少无效曝光,又能提升信任度。
- 用户属性跨域复用:利用用户自述的身份标签(素食主义者、专业摄影师)在不同业务线间传递稳定的偏好约束,实现从商品推荐到内容推荐的跨域对齐。
- 可解释性提升:在推荐理由中引用用户的原话或提炼的偏好点(如“因为您提到不喜欢跳跃惊吓,我们避免推荐此类影片”),增强推荐透明度和用户控制感。
强化偏好优化用于推理增强推荐
🧭 生成式推荐 · 推理增强 ★ 深度解读
City University of Hong Kong · Kuaishou Technology
解耦LLM推理与推荐head,用GRPO+可验证奖励优化CoT质量,实现检索精度与推理可解释性双提升
📌 工作参考价值(4 点)
- 推理与检索解耦:采用LLM生成文本级CoT,专用Rechead做item检索,避免直接微调LLM隐藏状态破坏推理能力,适合工业推荐中LLM作为上游理解模块,下游用已有高精度检索模型承接。
- 轻量级推理融合头:Rechead用小型句子编码器+Transformer+软门控嵌入CoT,可过滤噪声,可作为排序模型的辅助特征;在线上部署时,只需将LLM生成的CoT/Answer转成稠密向量注入排序模型,已获得1.348%收入提升。
- RL多目标奖励设计:格式、NDCG、CoT语义一致性、压缩率、熵差组合奖励驱动GRPO,可借鉴到对话式推荐或Agent推理链优化,尤其熵奖励能促进生成高信息密度token。
- 两阶段迭代训练:先冻结LLM训Rechead,再冻结Rechead用RL调LLM,避免非平稳奖励,适合业务上微调LLM时已有稳定评分器(如精排模型)的场景。
SkillsVote:Agent 技能生命周期治理框架
🧭 Agent 技能生命周期管理与受控进化 ★ 深度解读
MemTensor (Shanghai) Technology
将 Agent 技能视为生命周期制品,通过归因控制实现从采集、推荐到进化的闭环,提升长期任务表现。
📌 工作参考价值(4 点)
- 技能库的质量治理:对技能进行环境需求、质量、可验证性 profiling,只允许通过验证的技能进入推荐池,避免低质量技能污染上下文。电商知识库或工具库可借鉴相似准入设计。
- 任务前技能精炼:不将全量技能直接暴露给 agent,而是通过一次 agentic search 生成精简的技能集与使用指南,降低无关上下文的干扰。类似在 RAG 中,用轻量 agent 先检索、再压缩后再送入主模型。
- 执行后归因与证据门控:将长轨迹按子任务切分,区分结果是由技能引导、自主探索还是环境因素导致,仅将可复用的成功探索用于技能库更新。对于电商多步 Agent 的对话/操作日志,可借此提取高置信度经验并避免误更新。
- 离线 + 在线进化组合:先用历史任务构建冷启动技能库,再在新任务流中在线增量进化。生成式推荐系统中,可先用离线数据训练初始知识库(如促销规则),再通过线上反馈受控扩展。