ConAlign：平衡有偏与无偏推荐的条件对齐框架
🧭 推荐去偏 · 流式条件对齐 ★ 深度解读
Kuaishou Technology
提出条件门控对齐机制，选择性传递有偏知识，在流式训练下平衡有偏环境准确度与无偏偏好估计。
📌 工作参考价值（4 点）
- 可用于线上推荐系统，部署小比例随机流量收集无偏数据，训练无偏塔并与有偏塔通过条件对齐连接，在不损害主业务指标的前提下提升长期多样性。
- 条件门控 I_cond：仅当有偏塔损失更低时才激活对齐，避免无偏塔被过度纠正；电商/广告场景可借鉴，选择性利用曝光偏差信号。
- 跨塔设计：无偏塔拼接有偏塔倒数第二层隐向量，用 stop-gradient 防止梯度回传，低成本实现知识迁移，适合流式训练。
- 快手线上 A/B 结果：DAU +0.069%，LT7 +0.029%，兴趣多样性显著提升，验证了去偏对长期留存的正面影响，为电商平台追求用户长期价值提供实证。
CORE：电商搜索统一级联序数相关性评估框架
🧭 序数感知的搜索相关性评估 ★ 深度解读
Meituan · Beijing Institute of Technology
将多级相关性预测重构为题序二分类级联，用步级GRPO优化LLM推理并蒸馏至BERT，线上坏例率降低15.94%
📌 工作参考价值（4 点）
- 级联二分类适配序数标签：电商搜索相关性有自然顺序，高相关必须精准、低相关允许模糊，改为级联二分类可避免平坦多分类的代价不敏感，在线模型用双头BERT即可实现，计算量零增加。
- 结构化推理+步级GRPO：为LLM设计“意图分析→高/非高→中/低”的推理步骤，各步有独立二分类奖励，归一化到同阶段比较，避免容易步骤主导训练。这种细粒度信用分配可迁移到其他多步决策场景（如Agent规划）。
- 低成本移植LLM推理能力：用PostCoT蒸馏，让LLM将答案放在前缀，从首个token提取logits，按头聚合成对齐信号，结合硬标签训练双头BERT，既利用LLM的推理优势又满足在线延迟要求。
- 阈值校准控制线上风险：双头设置阈值τ1、τ2可单独调整，业务可按高召回或高精度要求调优，线上实测Badcase率下降15.9%，适合电商对排序错误零容忍的场景。
CoRT：基于反事实回放的令牌级评分标准引导策略优化
🧭 令牌级信用分配 · 反事实回放
Nanjing University · ByteDance · University of Chinese Academy of Sciences
提出反事实回放计算令牌级信用权重，在不引入辅助模型的情况下改进 GRPO 的令牌级优势分配
📌 工作参考价值（3 点）
- 令牌级信用分配可直接用于对话/推荐理由生成训练：在电商客服或推荐文案生成中，常根据语义、格式等多条标准打分，将优势信号均匀广播到所有 token 会导致噪声。CoRT 的令牌级加权方法可复制到类似场景，提升训练效率和生成质量，无需额外评分模型。
- 反事实回放思路可迁移到评估对齐任务：在搜索推荐系统的 LLM 评估（如 RAG 生成质量评价）时，可通过构造“有评分标准 vs. 无评分标准”的提示对比，自动获取每个 token 对评分标准的依赖程度，作为细粒度奖励信号。
- 纯推理侧实现，工程成本低：CoRT 仅用两次前向传播（带与不带评分标准提示）计算 log-likelihood 差异，无需训练单独的 token 评分器，可直接插入现有 GRPO 训练流程，适合资源受限的团队快速实验。
D-Score：基于谱分析的大模型幻觉检测信号
🧭 LLM幻觉检测 · 隐藏状态谱方法
Department of Computer Science and Engineering, University of Bologna
提出D-Score，利用隐藏状态奇异值方向数检测LLM幻觉，单次前向传播无需外部工具
📌 工作参考价值（4 点）
- 在电商/推荐场景中，LLM生成推荐理由或商品描述时，可集成D-Score作为轻量级幻觉过滤器，仅需单次前向的隐藏状态，不增加额外推理延迟。
- 方法不依赖外部知识库或多轮生成，适合高并发在线系统，可在生成后实时判定文本可信度，降低人工审核成本。
- 隐藏状态谱特征对事实冲突敏感，可作为RAG检索增强生成中的补充校验信号，辅助判断生成内容是否与检索证据一致。
- 可将D-Score思路迁移至Agent行为检测，例如监控Agent生成的计划或动作是否与内部模型知识矛盾，增强Agent可靠性。
大型语言模型记忆机制综述
🧭 LLM记忆机制综述
提出以架构为中心的LLM记忆分类框架，沿表征、更新、持久性三轴统一碎片化研究。
📌 工作参考价值（4 点）
- 长期用户建模：在电商推荐Agent中，可借鉴显式记忆存储（如外部KV Cache）持久化用户跨会话行为，解决长期偏好漂移问题。
- 混合记忆架构：采用短/长期记忆协同设计，短期记忆负责实时上下文（如浏览序列），长期记忆存储压缩画像（如购买历史Embedding），平衡延迟与个性化。
- 在线记忆更新：利用参数高效微调（如LoRA）实现轻量级在线用户兴趣更新，无需全量重训，适合千人千面的动态推荐场景。
- 记忆路由与压缩：将多源异构用户数据（点击、搜索、购买）通过记忆路由器动态写入不同存储分区，并结合记忆压缩技术降低存储开销，提升长序列处理效率。
DecoEvo：文本空间中求解器与评分准则技能的解耦共进化
🧭 文本空间共进化优化 · 自动评估准则生成
Tsinghua University · University of Chinese Academy of Sciences · Peking University · Qwen Business Unit of Alibaba
提出解耦共进化框架，分别优化求解器与评分准则生成器，避免评估准则退化并提升性能
📌 工作参考价值（4 点）
- 在电商搜索/推荐场景中，当需要为生成式模型（如商品描述、推荐理由）自动设计评估标准时，可借鉴DecoEvo同时迭代优化生成策略和评分准则，避免人工制定准则的局限。
- 解耦的准则更新机制（需求覆盖审核、响应区分度审计）可以单独用于改进现有的自动评估框架，提升评估维度覆盖和区分能力，尤其适合代理或多智体系统的在线性能诊断。
- 该方法不修改模型权重，仅维护外部文本技能，工程实现轻量，适合在业务中快速试错多组提示词和评估标准，降低对模型内参数调整的依赖。
- 在构建电商智能客服或对话Agent时，可利用criterion-level反馈不断挖掘回复弱点，驱动评分准则同步进化，实现更全面的闭环优化。
多轮长程规划的物理学：预训练与后训练阶段的智能体蒸馏研究
🧭 Agent 多轮长程规划能力分析
中国科学院自动化研究所复杂系统认知与决策智能重点实验室 · 中国科学院大学人工智能学院
构建可控环境系统分析LLM智能体多轮长程规划的获取、塑造与集成机制
📌 工作参考价值（4 点）
- 预训练数据构造：构建多轮交互推荐/搜索Agent时，预训练阶段加入显式世界模型（如状态转移链式推理）数据，并混合少量长程轨迹，仅靠原子技能无法组合泛化。
- 后训练算法选择：若预训练数据质量不高或任务轮次长，优先使用在线策略蒸馏（OPD）而非GRPO，OPD更新方向更一致，有效区域更广。
- 错误累积控制：长程任务中次优轨迹的误差放大效应显著，在推荐Agent流程中可植入早期信号校验或中断机制，防止错误级联。
- 多教师知识集成：引入不同领域知识时，避免直接蒸馏冲突的规划模式，可通过寻找共享模式实现跨环境泛化，部分共享模式支持持续学习。
GPT-Red：基于自博弈的大规模自动化红队代理
🧭 安全红队 · 自博弈对抗训练
OpenAI
训练自博弈红队代理自动发现提示注入攻击，对抗训练出最强鲁棒模型GPT-5.6
📌 工作参考价值（4 点）
- 对抗训练思想可迁移至推荐模型鲁棒性增强：对召回/排序模型注入对抗样本（如恶意特征序列）训练，提升生产系统抗干扰能力。
- 自博弈架构可借鉴于生成多样化攻击样本：类似用生成式对抗网络思路，在审核/风控模型中持续进化攻击模式，扩大覆盖。
- 红队代理作为自动评估工具：可构建面向推荐系统的“黑盒攻击代理”，在离线评估中压测模型边界，提前暴露盲区。
- 工程上，将红队发现的高危模式加入训练集形成闭环，可系统化提升模型版本迭代的安全性。
记忆层：联合训练推荐模型的内置缓存
🧭 训练-服务一致性 · 嵌入式缓存联合训练 ★ 深度解读
Meta
将物品嵌入缓存变为训练-服务共享的可写组件，消除表示不一致，冷启动提升5-6%，NE gap降低86%
📌 工作参考价值（5 点）
- 将离线批量评估替换为可训练的嵌入缓存：在粗排/精排中，可将物品塔输出写入共享嵌入表，训练时直接读取该表计算损失，推理时也读取同一表，消除特征源和新鲜度差异，大幅缩小训练-服务 NE gap。
- Writeback 精确赋值技巧：用学习率 η=1 的 SGD 优化器，通过构造梯度 g_wb = cached − target 实现 exact assignment，将物品塔输出写入缓存，无需额外优化器状态或自定义 CUDA 内核，工程实现简单。
- 多表训练（Multi-Table Training）覆盖全候选池：同时将从训练流和候选池流读取数据，合并特征后通过一次物品塔前向写入缓存，训练损失仅用训练样本，确保缓存包含全量候选物品，不再依赖单独的每小时批量评估服务，降低维护复杂度。
- Raw Embedding Streaming 实时更新缓存：在训练 TBE 预取时捕获更新后的嵌入，通过异步流水线每秒推送到预测器，达到约 20 秒延迟，比分钟级批量流式更新显著提升新鲜度，冷启动物品召回提升超 2×。
- Always-on 兜底消除硬 fallback：用少量通用特征（如作者 ID）生成 always-on 嵌入，缓存命中时与缓存嵌入融合，缺失时只用 always-on 嵌入，模型通过学习自动调节依赖权重，使冷启动物品和缺失物品仍能获得合理分数，避免固定负分或随机降级导致的体验和指标损失。
LaRec：释放大模型隐式推理能力的生成式推荐框架
🧭 生成式推荐 · 隐式推理与强化对齐 ★ 深度解读
University of Chinese Academy of Sciences · Xiaohongshu
通过步骤级对齐与过程方向对齐提供细粒度隐式监督，结合个性化高斯混合引导的 RL 探索，实现高效且多样的生成式推荐
📌 工作参考价值（4 点）
- 隐式推理的步级对齐迁移：用强LLM生成目标导向的CoT，将各步隐状态作为教师信号对比学习，可复用于电商搜索query理解、用户偏好挖掘等任务，用少量隐式token替代显式推理，显著降延迟。
- 过程方向对齐损失：约束隐状态演化方向逐步骤指向目标item语义向量，防止“语义空转”。此设计可直接用于生成式召回模型，提升多步推理的语义连贯性。
- 个性化锚定探索：基于用户历史交互物品嵌入构建高斯混合分布，采样作为初始隐状态扰动，有效限制RL探索范围，避免崩溃。适合需要可控多样性的广告文案生成、push推送选词等场景。
- 两阶段训练范式（预训练对齐 + GRPO RL微调）：复合奖励（命中+语义相似度）提供密集学习信号，对LLM-based推荐系统的多路径探索对齐具有工程参考价值。
LLM Agent 污点约束的代理权限策略代数
🧭 Agent 安全 · 信息流控制
Archestra AI
通过上下文分支与前瞻权限检查，将 LLM Agent 的数据泄露攻击成功率从 31-50% 压至 0-7%
📌 工作参考价值（4 点）
- 上下文分支隔离：在处理不可信数据（如用户评论、外部 API 返回）时，可借鉴子轨迹设计，将高风险操作隔离在临时上下文中，仅将净化后的有界结果传回主流程，避免污染推荐系统的核心状态。
- 前瞻性权限检查：在 Agent 调用工具或访问数据源前，可插入类似“标签预评估”的步骤，提前生成授权/接受方案，防止越权调用，尤其适用于涉及用户隐私数据（订单、浏览记录）的电商对话 Agent。
- 细粒度污点净化：允许受信任的净化器对敏感信息进行脱敏或聚合后再返回主上下文，既保留数据效用又不泄露原始隐私，适合推荐系统中混用 PII 与公共特征的安全场景。
- 形式化的合并约束：双幺半群模型为多轮对话、多工具调用提供了可验证的标签保持证明，可作为构建高安全 Agent 框架（如购物助手、搜索代理）的理论基础。
MEMOIR：面向偏好漂移的时序行为记忆推荐框架
🧭 时序偏好进化建模 · 对比学习 ★ 深度解读
Independent Researcher
用LLM编码时间窗口语义记忆并显式建模偏好进化轨迹，在高低偏好漂移用户上获得排序质量提升
📌 工作参考价值（4 点）
- 时间窗口语义记忆：将用户交互历史按日历月分窗，用自然语言描述每个窗口并送入 LLM 生成语义记忆嵌入，可作为电商中用户长期兴趣演化的轻量级表示。
- 进化方向一致性约束：引入 L_dir 惩罚连续进化方向向量的余弦偏差，对偏好单调漂移的用户（如从休闲转向正式）有用；在业务中可针对品类转换明显的用户群体单独启用该损失。
- 进化感知聚合：融合当前状态、进化方向与预测未来状态，让同一当前偏好但不同轨迹的用户得到不同向量，适合需要区分“新用户刚入圈”与“老用户稳定消费”的场景。
- 漂移分层洞察：论文发现 LLM 进化建模的优势集中在高/低偏好漂移用户群（NDCG@10、MRR 提升），对业务意味着可以在用户分群后对易漂移人群启用该模型，或作为重排序信号补充。
MODUS：仅用解码器的任意模态到任意模态统一建模
🧭 解码器仅有 · 任意到任意多模态建模
EPFL · Apple · University of Copenhagen · CUHK · University of Geneva
提出解码器仅有的任意模态到任意模态统一框架，无需特定头或损失，支持链式生成与自我验证
📌 工作参考价值（4 点）
- 多模态搜推统一表示：将商品标题、描述、图片、属性等异构模态统一 token 化，用单一解码器模型完成多模态理解与生成，可简化特征工程与模型部署。
- 跨模态增强与验证：利用模型生成深度、法线等中间模态，增强商品图像理解；或在生成描述后，用另一模态（如图像）对文本输出进行自我验证，提升生成质量与可信度。
- 链式生成与多步推理：通过中间模态链式生成（如文本→草图→商品图），实现复杂创意内容生产，适用于动态广告物料生成、个性化推荐理由可视化等场景。
- 工程实现轻量化：取消模态专用头与多任务管道，所有模态共享同一个 Transformer 解码器，降低多模态业务维护成本，便于快速扩展新模态。
Mosaic：基于异构专家舰队的工业级用户嵌入平台
🧭 用户表征多专家舰队 ★ 深度解读
Meta
设计四种异构专家模型分别捕捉用户行为侧面，结合MRM与CRL消除冗余，离线NE与线上多面指标均提升
📌 工作参考价值（4 点）
- 模型架构选择：将用户信号拆分为稀疏ID、密集统计、行为序列和下游任务对齐四类，分别使用记忆型哈希表、DCN/MHTA等密集交互网络、HSTU序列模型和CoTrain端到端梯度对齐，避免单一模型在多目标上共享容量的折中。
- 增量信息保障：当已有多个嵌入在线上服务时，新嵌入训练可引入MRM（对相关任务做Spearman聚类，用笛卡尔积构建细粒度复合监督标签）与CRL（余弦冗余损失，鼓励新嵌入与已有嵌入正交，配合warm-up调度），有效对抗边际收益递减。
- 评估提效：CoEval 冻结用户塔并在下游排序器中就地计算ΔNE，跳过特征日志积累与回流重训，可将迭代周期缩短3~5倍；User Tower Zero-Out 则可快速衡量上游模型中用户塔的增量值，二者均值得在解耦用户建模流程中推广。
- 混合在线/离线服务：根据新鲜度需求选择CPU在线、GPU在线或GPU离线批量生产用户嵌入；GPU在线推理叠加AOTInductor编译、模型拆分与2小时TTL的memcache，累计可降低79%的GPU用量并微幅改善延迟。
OmniDelta：面向全模态LLM的技能驱动令牌压缩预算分配
🧭 全模态LLM推理优化 · 令牌压缩预算分配
Zhejiang University · Qwen Application, Alibaba · Carnegie Mellon University · University of Chinese Academy of Sciences · University of Science and Technology of China
提出无训练的意图感知+内容感知双层动态预算分配，在不改变总压缩比下提升全模态LLM效率
📌 工作参考价值（4 点）
- 意图感知模态间分配：在推荐场景中处理视频+音频的商品讲解时，可根据用户查询意图（如“查看材质”或“试听音质”）动态调整视觉与音频令牌保留比，避免平均分配浪费资源。
- 内容感知模态内分配：利用局部复杂度和时间冗余性重分配帧/音频段预算，可在短视频推荐中仅保留关键帧，降低推理成本而不丢失信息。
- 训练免费、即插即用：框架无需修改模型或重新训练，可直接集成到现有多模态推荐模型中，快速获得压缩效益。
- 显存与延迟优化显著：25%保留比下降低22%显存、1.64倍加速，适合大规模在线推荐服务中多模态内容的高吞吐处理。