归因但不增量：大规模广告的蚕食修正归因框架
🧭 广告归因 · 增量实验校准 · 层级分配 ★ 深度解读
TikTok
以增量实验为因果锚点，将稀疏实验信号转化为每日归因修正，大幅消除付费广告归因中的蚕食偏差
📌 工作参考价值（4 点）
- 实验校准归因信号：部署轻量级修正层，将已有的增量实验作为校准锚点，每天修正渠道级归因量，无需替换现有归因管道，直接产出更接近真实增量的 DNU，用于 nROI 计算与预算决策。
- 代理变量建模泛化实验 Lift：利用有机基线代理特征、节假日/季节性、渠道投放强度等持续可得的特征，将稀疏实验 Lift 泛化到全量渠道×日粒度，工程实现简单（广义线性模型+Huber 损失），抗噪声且可解释。
- 层级约束分配保证操作性：在渠道日总量校准后，通过归一化倾向得分将修正量分配到广告计划、版位、设备等细粒度业务单元，并强制父子聚合一致性与可行性边界，避免修正信号泄漏到无关分支，使预算调整更精准。
- 滚动评估与自动重校准：采用前向滚动实验设计，新完成实验只用于评估后续周期，避免数据泄露，并可周期性重训模型以适应市场变化，适合持续运行的广告系统。
HarmVideoBench：面向大模型的有害视频多层理解基准
🧭 多模态安全审核 · 动态检索增强
Central South University · Tsinghua University · ByteDance Inc · Tencent · Nankai University
构建首个多层次有害视频诊断基准并配套边界感知检索方法，将LVLM理解能力提升至84.4%
📌 工作参考价值（4 点）
- 在商品视频审核中，可借鉴“可观察证据→片段内含义→超出片段推理”三层框架设计评测集，避免只做二分类漏判隐性违规。
- BCR 的推理边界预测机制可嵌入多模态 RAG 审核链路：模型先判断是否需要检索外部知识，降低高并发审核场景的推理延迟与成本。
- 该基准暴露了现有模型依赖表面捷径的缺陷，建议在推荐系统的内容理解评测中加入对比测试，防止因浅层匹配误判而放过违规内容。
- 动态按需检索的思路可迁移至 Agent 的视觉推理任务，例如商品短视频的自动解说生成，仅在需要外部产品知识时触发检索，提升生成效率。
何时高概率答案正确？LLM序列概率与正确性对齐研究
🧭 LLM解码概率与正确性对齐分析
Max Planck Institute for Intelligent Systems · ELLIS Institute Tübingen · AI Center Tübingen · University of Tübingen · IMPRS-IS
量化LLM解码中序列概率与正确性的对齐关系，发现仅在固定数据集内概率可预测正确性，调参或换方法无效
📌 工作参考价值（4 点）
- 电商推荐中使用LLM生成商品描述或推荐理由时，不要依赖调整温度、top-k等解码超参数来提升事实准确性，提高序列概率不一定带来正确性提升
- 构建基于LLM的推荐Agent时，若用生成概率作为置信度过滤候选动作，需注意只在固定解码配置下有效，改变采样策略会破坏概率与正确性的对齐
- 在自我一致性（self-consistency）投票中，序列概率加权可能无效，建议等权投票或引入外部验证器
- 对于同一提示的多次生成，概率不能可靠区分好坏，应避免用概率选择最佳回答，考虑其他校准方法
极简 Unigram 分词器 MinGram：高压缩且形态对齐
🧭 分词器训练优化 · 极简 Unigram
Writer, Inc.
用 BPE 种子与硬 EM 简化 Unigram 训练，实现更高压缩与形态对齐，下游 LM 训练优于 BPE
📌 工作参考价值（4 点）
- 在特定领域语料上训练高效 tokenizer：电商/广告/搜索文本（商品名、查询词）往往有特殊频率分布，MinGram 可利用 BPE 种子快速训练出高压缩且形态更合理的 tokenizer，降低序列长度，从而加速 Transformer 推理与训练。
- 优化生成式推荐中的 token 化策略：若将物品表示为 Semantic ID 或序列生成，tokenizer 直接影响序列长度和解码效率。MinGram 的高压缩与对齐特性可减少 token 数，提升生成速度且可能改善 ID 表示质量。
- 多语言场景下的轻量 tokenizer 训练：对于跨国电商或搜索，MinGram 简化训练流程，去除后缀数组等重操作，易于对不同语言快速定制 tokenizer，同时保持优于 BPE 的压缩和下游 bits-per-byte。
- 直接复用压缩优先模式：若需要极致压缩以降低存储/带宽成本（如客户端模型、实时搜索），可使用其压缩导向变体，在保持合理对齐的前提下匹配最强分词压缩器。
基于第一性原理的视觉 Token 最优保留集剪枝，实现高效多模态大模型推理
🧭 多模态大模型高效推理 · 视觉 token 剪枝
Peking University · University of Electronic Science and Technology of China · Nanyang Technological University · Beijing Academy of Artificial Intelligence
提出任务相关性、信息覆盖与语义多样性三原则的免训练剪枝模块 TOPS，可大幅削减视觉 token 且保性能
📌 工作参考价值（4 点）
- 若业务中多模态推荐系统处理商品图片，可直接嵌入 TOPS 模块，在几乎不损失准确率的前提下大幅减少视觉 token 计算量，降低推理延迟与成本。
- 三原则（任务相关性、信息覆盖、语义多样性）可迁移至长文本或混合模态输入，例如在 Agent 检索增强场景中，对用户行为序列、文档内容进行关键 token 筛选，节省 LLM 的 KV cache 并提高效率。
- 免训练、模型无关的剪枝方案适合快速实验与部署，无需修改模型结构或重新训练，可针对不同 MLLM 骨干即插即用，降低工程接入门槛。
- 剪枝后性能不降反升的观察（缓解幻觉）可为轻量化多模态模型设计提供思路，未来在端侧推荐或实时交互 Agent 中有潜在价值。
基于模型辅助采样的随机梯度优化
🧭 训练优化 · 梯度估计方差削减
University of Turku, Department of Computing
将调查抽样中的模型辅助估计引入小批量梯度计算，构造更低方差的梯度估计器，可无缝嵌入现有优化器
📌 工作参考价值（4 点）
- 训练推荐模型（如 CTR/CVR 预估）时，可用该方法替代默认的均匀小批量采样，降低梯度方差，加速收敛，尤其适于中等维度特征空间场景。
- 与 AdamW 等带动量的优化器组合时，能在约一半训练轮次达到同等或更好泛化，适合大规模工业模型缩短训练周期。
- 实现简单：只需在数据加载器中替换采样逻辑，并维护一个轻量辅助模型（如一个小型预测网络），不改变优化器内部更新规则，工程侵入性低。
- 可借鉴其“辅助信息”思路：在搜索/推荐系统中，利用曝光偏差、用户活跃度等先验知识构建采样权重，进一步降低在线学习中的梯度估计误差。
基于心理学推理与角色感知策略优化的通用角色扮演智能体
🧭 心理学引导推理与角色感知强化学习
Zhejiang University · Tencent Youtu Lab
提出心理学引导的CoT与基于互信息的策略优化，抑制奖励黑客，提升角色保真度。
📌 工作参考价值（4 点）
- 对话推理结构可复用：Psy-CoT 将回复前思考分解为交互感知、心理共情与逻辑构建三步，电商虚拟导购、客服机器人可借鉴该链式推理，生成更贴近用户心理、更具说服力的对话。
- 互信息梯度加权抑制奖励黑客：RAPO 用 profile–token 互信息不对称缩放梯度，放大角色相关 token 的正优势、衰减负优势，该技巧可迁移到任意 LLM 对齐任务（如推荐解释生成、广告文案优化），防止模型学得空洞通用回复而冲高奖励。
- 训练不稳定时的干预思路：当发现 LLM 奖励模型给出相同梯度信号导致性能退化，可引入类似 RAPO 的 token 级重要性加权，无需改变奖励模型，仅调整策略梯度，工程成本低。
- 多尺度模型验证：实验在多种模型规模上均超越 GRPO，证明该策略优化方法对基座能力不敏感，适合在推荐/对话系统实际部署中逐步升级基座模型。
基于知识的拉取请求：代理中介知识协作的可信工作流
🧭 代理协作中的信任边界与知识传递机制
Fudan University
提出 KPR 工作流，将外部代码视为知识源，由项目内部可信代理重新生成代码，分离知识接纳与实现合并决策
📌 工作参考价值（4 点）
- KPR 的“知识包”抽象可迁移到多智能体推荐系统：外部代理输出的推荐理由、交互轨迹不直接作为最终结果，而是交由内部代理结合业务规则和上下文再次生成，可提升安全性和一致性。
- 分离“意图理解”与“实现生成”的决策模式，可应用于电商搜索 Agent 系统：用户粗浅意图由外部解析为结构化知识，内部受控代理根据知识包和商品图谱生成精准查询或推荐。
- 信任边界设计对多供应商模型协作场景有启发：不同模型生成的推荐候选视为知识源，通过合规性检查门禁后在统一环境下重生成，降低集成风险。
- 主要学术贡献在于软件工程与 Agent 协作流程，业务可借鉴点偏向 Agent 架构模式而非推荐算法细节。
渐进式多模态搜索 Agent 用于知识型视觉问答
🧭 Agent 自适应多模态检索
OPPO AI Center · Tsinghua University · Nanyang Technological University
提出自适应调用图文检索的 Agent，并通过长度与深度归一化的 RL 优化搜索策略
📌 工作参考价值（4 点）
- 自适应检索流程：Agent 迭代选择图像搜索、文本搜索或停止，带工具调用预算和去重。在电商商品搜索中，可构建类似 Agent，根据用户意图动态决定查询商品图库还是文本描述库，避免固定 top-k 带来冗余。
- 序列级 RL 训练归一化：TN-GSPO 根据生成长度与工具交互深度归一化更新，缓解冗长交互被过度惩罚的问题。训练推荐对话 Agent 时，可借鉴此目标，平衡回答质量与多轮交互开销。
- 两阶段训练范式：先拒绝采样 SFT 学习合法工具调用格式，再 RL 优化。对落地 Agent 很有参考意义：先用人工或规则筛选合法 action 轨迹微调，再线上 RL 提升策略。
- 去重机制：对已检索内容去重，避免重复调用工具。在召回或多路检索场景中，可加入类似历史感知的去重，减少无效请求，提升效率。
将遗留工作流提升为智能体化BPM的流程支架: CUGA FLO设计与实现
🧭 智能体化流程管理 · 策略治理的自主性
IBM SIL, Israel · University of Haifa
提出流程支架在确定性工作流引擎上附加策略治理的智能体层, 实现推理与适应而不替换引擎
📌 工作参考价值（4 点）
- 在现有确定性推荐/搜索排序引擎上叠加LLM智能体支架, 对关键控制点进行拦截, 实现动态决策路由与流程调整, 无需重建引擎
- 采用TaskAgent/DecisionAgent/FlowAgent分工, 可将电商Agent系统中的知识密集型任务、案例级路由、流程自适应解耦, 降低耦合与Token成本
- 利用process FRAME统一管理所有LLM调用的策略, 确保合规性与可控性, 适用于广告审核、价格调整等需严格治理的环节
- Hook机制允许在异常或监管需求时插入人工干预或规则覆盖, 适用于高灵敏度场景如异常流量处置、活动熔断
决策对齐的不确定性量化评估
🧭 决策对齐的不确定性评估
Technical University of Munich · Helmholtz AI · MCML · Konrad Zuse School of Excellence in Reliable AI · LMU Munich
提出决策对齐准则与先验加权效用度量，使不确定性评估能真正反映下游决策效用
📌 工作参考价值（4 点）
- 在点击率/转化率预估的不确定性评估中，避免仅依赖 NLL 或 ECE，而是直接使用与业务决策（如广告出价、推荐排序）对应的效用函数，构建决策对齐的离线评估指标。
- 当有业务先验（如商品热度、用户活跃度）时，可将其编码为先验权重，设计先验加权效用度量，使 UQ 模型的选择自动偏向对高频或高价值样本更准确的预测。
- 在 Agent 或推荐系统的策略学习阶段，用决策对齐的评分规则作为 reward 或验证标准，驱动模型不确定性估计更符合最终线上收益。
- 工程上，可参考文中的先验加权评分规则实现，只需在现有对数得分基础上乘以由决策先验和效用函数决定的权重，低成本将通用 UQ 评估升级为决策敏感的版本。
可移植查询生成的奖励信号设计：工业语义职位搜索案例研究
🧭 生成式查询推荐 · 奖励工程
LinkedIn Corporation
在RL查询生成中，奖励塑造远比优化器选择关键，规则奖励底线可抑制GRPO的奖励黑客行为
📌 工作参考价值（4 点）
- 奖励塑造优先于算法选择：在电商搜索/广告文案生成等RL微调场景，即便用GRPO/PPO等先进算法，若奖励信号不鲁棒，模型仍会走捷径（如抄袭输入）。应把主要精力放在设计抗黑客的奖励函数上，算法选择相对次要。
- GRPO的组归一化脆弱性：GRPO由于使用组内相对优势，更容易被虚假奖励信号利用。若业务使用GRPO训练查询/文案生成，务必监控模型是否退化为逐字复制，可通过规则底线奖励（如检测抄袭时给予低分）来纠正。
- 推荐使用critic-free优化器：RLOO、REINFORCE++等无critic方法天然抵抗奖励黑客，在难以精确建模价值函数时更安全，可直接上线尝试。
- 评估时独立于训练奖励模型：训练阶段奖励模型会夸大性能（本案例中2.4倍），部署前必须用独立的、跨家族的裁判模型或人工评估来测量真实质量增益。
利用自主经验探索与后见经验提升GUI代理任务规划能力
🧭 GUI Agent · 经验回放与任务规划
Institute of Automation, Chinese Academy of Sciences · University of Chinese Academy of Sciences
提出PEEU方法，通过自主环境探索与后见经验构造高层次训练数据，显著提升小型MLLM的规划与跨网站泛化能力
📌 工作参考价值（4 点）
- 后见经验构造训练数据：将失败/成功的交互轨迹反向转化为严格对齐的规划级训练样本，可借鉴到电商Agent的购物任务拆解中，用用户实际浏览-购买路径生成高质量指令数据。
- 自主环境探索：让Agent在生产前自动探索网站结构并积累操作经验，类似推荐系统中的冷启动探索，适合构建电商网页的预训练经验库，减少人工标注。
- 分层任务分解视角：TDHAF框架揭示高层次任务训练比原子技能训练更利于分布外泛化，提示在构建购物助手时应优先训练完整任务流（如“比价后下单”），而非单个点击指令。
- 小型MLLM潜力：7B模型超越32B模型，证明通过数据策略可压缩模型成本，适合边缘部署的电商隐私保护场景。
LLM Agent 经验规则与策略联合学习
🧭 LLM Agent 经验复用 · 规则增强强化学习 ★ 深度解读
Sun Yat-sen University
JERP联合更新经验规则池和策略参数，在多步交互任务上超越纯RL基线
📌 工作参考价值（4 点）
- 多步交互Agent（如对话导购）可维护规则池（如“先确认场景再推荐”），与模型RL训练同步更新，避免规则过时。
- 规则更新采用对比反思式生成：提供成功/失败轨迹给LLM，自动产出规则编辑操作（ADD/EDIT/UPVOTE/DOWNVOTE/MERGE），工程上可用固定模板解析，实现自动化规则管理。
- 规则效用评分机制与容量限制剪枝，确保规则池在在线学习中规模可控、质量可维护。
- 同批轨迹两次利用（策略更新、规则更新）提高数据效率；可与LoRA等参数高效微调结合，降低训练资源开销。
谜中谜：测试大语言模型与人类的灵活推理
🧭 LLM 推理 vs 模式匹配评估
Princeton University
用“谜中谜”范式揭示LLM擅长模式匹配而非灵活推理，在需字面理解时仍过度使用创意策略
📌 工作参考价值（4 点）
- 在构建需要灵活推理的 Agent（如电商导购机器人）时，LLM 可能因输入表面形式（如比喻、对仗）而错误触发“创意模式”，可仿照“谜中谜”构造对抗测试集，评估 Agent 能否根据内容切换推理策略。
- 当用 LLM 做查询理解或推荐文案生成时，若输入带有谜语式结构，模型可能过度解读，建议在 prompt 中明确要求按字面理解，或提供 few-shot 示例引导正确推理。
- 该范式提示：评估 LLM 推理能力不能只看标准基准，应设计能区分记忆检索与灵活推理的测试，对依赖 LLM 做决策的推荐系统尤为重要。
- 人类倾向字面解读，LLM 倾向过度创意，可在人机协作中结合两者优势，如让 LLM 生成候选，人类过滤过度创意结果，提升推理准确性。