字节开源的长时程超级智能体编排框架，支持子代理、记忆、沙箱、技能和消息网关。
基于Python和Node.js，DeerFlow 2.0全新重写。它编排子代理、记忆和沙箱来处理从几分钟到几小时的复杂任务。提供消息网关，支持扩展技能，并可通过LLM Space进行调试和性能分析。
Python agent-harnessmulti-agentlong-horizonorchestration
📌 借鉴价值（3 点）
- 可借鉴其多层子代理编排架构，将电商推荐拆分为意图理解、候选召回、排序、解释等多个协作代理。
- 直接复用其沙箱隔离机制，安全执行商品数据抓取、策略测试等长时任务。
- 可扩展的技能系统，用于快速接入商品库、用户画像等自定义工具。
腾讯云团队级Agent记忆中枢，将对话、文档、代码转为可共享的四种记忆资产。
基于TypeScript，提供memory-core、memory-hub和proxy三个服务。它能将非结构化对话、文档和代码提取为Chat Memory、Skill、LLM-Wiki和Code-Graph四种记忆资产，并支持跨Agent和框架共享与治理。
TypeScript agent-memorymemory-hubknowledge-graphteam-sharing
📌 借鉴价值（3 点）
- 可直接使用其记忆提取管道，构建电商场景下的用户长期偏好画像和商品知识库。
- 借鉴其团队级记忆共享机制，让多个推荐Agent（如搜索、广告、客服）共享同一用户上下文。
- 复用记忆治理方案，实现记忆版本控制和审计，保证推荐决策可追溯。
用穴居人式精简语言让AI代理减少65% token，降低LLM调用成本。
Go实现的skill和proxy，兼容30+编码代理。通过将提示和输出转为精简电报体，实测输入token减少33.2%，单次测试运行token从397降到76。有blocks代码模式保证代码精确保留。
Go token-reductioncost-optimizationagent-skillllm-proxy
📌 借鉴价值（3 点）
- 可直接将caveman proxy集成到Agent的LLM调用层，大幅降低商品文案生成、批量推理等场景的token费用。
- 借鉴其压缩格式设计，对非关键文本输出（如日志、中间推理）采用精简模板。
- 其A/B测试表明在多个模型上可保持准确率，可验证成本优化是否影响推荐质量。
为AI代理提供最快浏览器自动化，共享登录态且不打扰用户。
基于JavaScript/Node，提供桌面应用。它允许AI代理（如Codex、Claude Code）使用用户真实浏览器登录状态执行网页自动化，零成本零配置。
JavaScript browser-automationlogin-state-sharinge-commerceagent-tool
📌 借鉴价值（3 点）
- 可直接集成到电商Agent中，使用用户登录态完成价格监控、库存检查、自动比价等操作。
- 借鉴其浏览器状态共享机制，避免频繁登录和验证码，提升自动化效率。
- 可用于构建基于真实用户行为的交互式推荐验证环境。
基于基因表达编程的AI代理自进化引擎，提供可审计的进化资产。
Node.js实现，利用GEP让Agent自动进化其基因、胶囊和事件。提供可审计的进化过程，并支持自定义进化策略。
JavaScript self-evolvinggepagent-evolutionauditability
📌 借鉴价值（3 点）
- 可借鉴其自进化机制，让推荐策略Agent根据实时反馈自动调整规则和参数。
- 其可审计的进化资产设计，可用于构建推荐系统策略的版本管理和回溯。
- 复用其基因表达编程思路，进行推荐策略空间的自动搜索和优化。
将想法、计划或代码库转化为可交互的HTML图表，支持Agent调用。
JavaScript实现，提供Web界面和Agent skill。可生成旅行路线、学习地图、复杂系统图等交互式可视化，并支持自定义和分享。
JavaScript diagram-generationinteractive-visualizationagent-skillexplainability
📌 借鉴价值（3 点）
- 可直接用于生成推荐系统的解释性可视化，如用户决策路径、商品关系图谱。
- 借鉴其从Agent描述到交互式图表的转换流程，提升推荐结果的可解释性。
- 可作为团队沟通工具，自动将推荐系统架构或数据流转化为图表。
世界最大的开源AI提示词库，支持自托管，适用于多种大语言模型。
MDX格式收集社区高质量prompts，提供网站和HuggingFace数据集。支持自托管，保护组织数据隐私。
MDX prompt-libraryllmtemplatesself-hosted
📌 借鉴价值（3 点）
- 直接获取大量电商场景的提示词模板，如商品描述生成、用户意图分类、客服对话等。
- 借鉴其prompt组织和评估方式，构建内部专用提示词库。
- 自托管能力可保证用户数据和提示词不泄露。
事件驱动的自动化Agent框架，可监控事件并触发行动，支持LLM集成。
Ruby on Rails构建，Agent通过消费和产生事件在有向图中传递。支持抓取网页、监控RSS/邮箱/Webhook，可与OpenAI兼容API集成进行摘要、分类、翻译等。
Ruby event-drivenautomationagent-frameworkmonitoring
📌 借鉴价值（3 点）
- 可借鉴其事件驱动架构，构建实时监控价格、库存变化并触发推荐更新的管道。
- 直接使用其Webhook和MQTT支持，接入电商平台和用户行为事件流。
- 其自定义逻辑能力（JavaScript, jq等）可用于快速开发轻量级推荐触发器。
ZeroGR：生成式推荐的过滤优先约束解码系统
🧭 生成式推荐 · SID 约束解码 ★ 深度解读
The University of Hong Kong · Peking University · Kuaishou Technology · Huazhong University of Science and Technology
提出过滤优先的 GPU 约束解码系统，先滤除非法 SID 再算 logits，召回与先打分几乎一致且延迟最高降 9.9×
📌 工作参考价值（4 点）
- 生成式推荐/搜索里如果采用 SID 或树约束解码，建议把 filtering 前置到 projection 之前：先查有效 next tokens，再只对有效 token 计算 logits。论文在 MovieLens-1M 上验证先过滤与先打分返回物品重叠 99.90%，召回一致，但投影计算量可下降 85%–99.95%。这基本可以无痛迁移到线上解码器，先上线 A/B 验证质量即可。
- 过滤索引按解码步切片，并按各步有效候选密度混用稀疏/稠密表示：早期 dense 对齐 token 列，后期 sparse 只存有效 SID，且用 entry position 隐式表示 successor state，省掉 successor 数组和 item id 存储。对显存敏感、目录亿级 item 的场景可显著减少 GPU 索引占用。
- 执行层用“共享候选槽位 + hybrid projection”：每个 beam 固定槽位，过滤/打分/选择直接读写同一槽位，避免动态 prefix sum；每步用 warm-up 在 full 与 selective projection 之间选最快，避免稀疏步不规则 kernel 反而拖慢。适合在 CUDA/Triton 实现 SID 解码时复用。
- 索引重建采用两遍 CPU 布局引导并行填充 + 双缓冲 pinned memory 异步 H2D 流式搬运，把重建延迟压到更新窗口内，且不与在线推理抢 GPU/带宽。电商 item 目录频繁更新时可直接借鉴。
ARLoop：带注意力残差的完全开源预训练循环 Transformer
🧭 高效 LLM 预训练 · 循环 Transformer ★ 深度解读
The Ohio State University · Saarland University
提出 ARLoop，用滑动窗口深度注意力改进循环 Transformer，1.2B/0.5T 模型超过 Huginn-3.5B 并接近 Qwen3.5-2B
📌 工作参考价值（4 点）
- 循环 Transformer 是低成本 LLM 基座的可选路线：如果你的业务要用 LLM 做 Agent/生成式推荐，但 GPU 预算有限，ARLoop 这种「共享层 + 多次 recurrence」的架构可以显著降低参数量，同时保留较深的有效计算图；尤其数学/代码类推理任务收益明显。
- 滑动窗口深度注意力是可直接复用的 trick：在循环结构中，每个子层只用 embedding + 最近 3 个 residual block 做深度注意力，比全量历史更省显存/带宽，吞吐损失约 10%，但效果不降反升；这适合你自研深层共享模型时直接套用。
- 固定 recurrence 训练，推理时不要超过训练最大值：论文发现动态 recurrence 不如固定值；推理时 recurrences 超过训练最大值也无法继续涨点。线上 serving 时可以把最大 recurrences 固定到训练值，避免无效计算。
- Value residuals 对深层循环模型稳定性很重要：尤其搭配 Sandwich Norm 时，没有 value residuals 会出现表示坍塌、训练失败；如果你自己训练很深的共享层模型，可以加入 gated token embedding 注入来稳定训练。
DualEvolve：推荐系统机制与编排的双层级自演化
🧭 LLM Agent 自进化推荐 · 双层优化 ★ 深度解读
Independent Researcher · Meituan
同时演化推荐模型代码和 Agent 编排，用过程质量反馈与 Thompson 采样在 64 个比较中全部优于现有自演化方法
📌 工作参考价值（4 点）
- 将「任务指标」和「过程质量」分离：模型晋升只依赖固定验证分数和噪声/成本门控，Agent 编排更新只看过程质量（决策质量、实验严谨性、分析深度、新颖性），避免只追最终分数导致的过拟合或错误方向。
- 推荐模型 AutoML 或 LLM 自动调参中，采用两档 fidelity screening：低预算粗筛候选，高预算再验证，配合 noise floor 和 cost coefficient 决定是否晋升，能明显降低 full-budget 训练次数。
- 外层编排动作选择用 Thompson sampling 从 KEEP / EDIT HARNESS / EDIT SKILL 中采样，下一轮过程 reward 残差更新后验；比确定性 argmax 更能保持探索，实现简单、可复用。
- 把任务特定经验（inside wiki）与外部论文先验（outside wiki）解耦，迁移时只搬 evolved harness/skill rules，不搬原始日志，便于跨业务/数据集复用；同时固定评估器和晋升规则，防止 LLM agent 搜索时篡改评估逻辑或利用捷径。
HARP：面向 LLM 推荐的训练-free 双画像 Agent 通信
🧭 LLM Agent 推荐 · 双 Profile 通信 ★ 深度解读
Harbin Institute of Technology, Shenzhen · Great Bay University · Shenzhen Loop Area Institute
将 LLM 推荐重构为用户-物品双 Profile 通信，用检索侧同质性门控和反思更新提升推荐准确率
📌 工作参考价值（4 点）
- 将用户与物品建成 schema 对齐的双 Profile（用户：interests/quality_bar/context/behavior，物品：serves/quality_signal/context/audience），物品侧用规则抽取零额外 LLM 调用，降低大规模 item 画像成本
- 把 profile 相似度作为检索阶段的门控因子（BaseScore * (α+(1-α)H)）重排序候选，而不是拼进 reranker prompt，避免 context 带宽被挤占，实测是最大收益来源
- 用户画像更新采用单次 reflective pass + 确定性 critic 门控：基于最近 hit/miss 案例生成候选画像，只接受覆盖度更高的提案，防止无梯度更新造成画像漂移
- 通道分解设计（pairwise disjoint + 线性加权）让 homophily 分数按通道可加性独立归因，便于线上 debug 和分通道调权
JHiMA-WebRL：长程网页任务的联合分层多智能体强化学习框架
🧭 多智能体分层RL训练网页Agent ★ 深度解读
Center for Advanced AI, Accenture
教师生成子任务监督，分层GRPO联合训练7B规划器与7B执行器，WebArena-Lite-v2达37.2%，超32B RL基线13.2个百分点
📌 工作参考价值（4 点）
- 用强模型从已有轨迹自动蒸馏 subtask 监督，人工零标注构建规划训练集：电商/搜索 Agent 可以拿历史会话或操作日志让 GPT-5 级模型生成高阶子任务，训练轻量 decomposer，降低对闭源大模型推理依赖。
- 角色分离 + 各自优势的 GRPO 扩展值得复用：actor 固定同一 plan 比较 rollout，decomposer 按 plan 平均 reward 比较候选 plan，避免规划与执行 credit assignment 混在一起；工程上只用 terminal success，不需要 dense process reward。
- 小模型分工成本效益明显：7B decomposer + 7B actor 超过 32B 单体 RL agent，适合电商/推荐场景里 QPS 敏感或需要私有化部署的 Agent 系统。
- 当前 decomposer 是一次性 open-loop planning，不能根据执行偏差 replan；业务里可加异步重规划或 subgoal 完成检测，作为后续优化点。
你不需要长上下文：频繁压缩支持短上下文智能体
🧭 Agent 长上下文压缩与语义状态 ★ 深度解读
NVIDIA
频繁上下文压缩与选择性读取，使长程/长输入任务无需长上下文，准确率基本持平且成本大降
📌 工作参考价值（4 点）
- 在电商推荐/搜索 Agent 的工作流中，将用户会话状态压缩为一段自然语言「semantic state」，每次调用大模型只携带任务描述 + 当前状态，不保留全量对话历史；线上可显著节省 KV cache 和 decode 成本，适合需要多轮筛选/比价的购物助手。
- 对长用户历史、商品详情、评论、规则文档等长输入，用工具化 selective reading：把长文档落在文件系统或检索索引，通过 grep/sed/head 或向量检索按需取证据，避免全量入上下文；可结合 RAG 实现“按需读”，比直接塞 100K 文档更可控。
- 采用 EoCC 式阈值压缩：设定上下文阈值（参考 12K–36K），触发时让模型只保留硬约束、用户偏好、未完成动作和已发现证据，重启新对话；压缩提示要约束长度并聚焦决策相关信息，防止信息丢失。
- 在评测 Agent 时增加效率指标：不只报准确率，同时统计 peak context length、total tokens、每任务成本；可以尝试 single-action compaction，把长程任务建模为状态转移，验证在业务场景是否同样成立。
数据受限稠密检索的缩放律与算力分配
🧭 数据受限 Dense Retrieval 的 scaling law ★ 深度解读
Tsinghua Shenzhen International Graduate School · Xi'an Jiaotong University
提出 MAEL 作为数据受限微调的稳定目标，拟合乘法 scaling law 并量化模型规模相对数据规模的计算效率优势
📌 工作参考价值（4 点）
- 在标注/点击数据受限且重复多 epoch 的检索召回微调中，用 MAEL（训练期间最低 eval loss）替代固定 step 的 eval loss 做模型选择与资源分配；它对学习率不敏感，且与 MRR@10、Recall@100 等线上指标高度相关（Pearson ≤ -0.985），适合小规模网格外推。
- 学习率主要改变到达 MAEL 的步数而非最终最低 loss：scaled step = step × lr / (2e-5) 可对齐曲线。工程上可以先小网络扫学习率确定收敛速度，不必为每个配置重跑大搜索。
- 资源分配：在 5K-320K 唯一样本、BERT-Tiny→Base 的数据受限 regime 下，增加预训练模型大小比增加唯一 in-domain 标注数据约 1.46 倍更 fine-tuning compute 高效；若模型容量受线上延迟/部署限制，再补唯一数据。
- Weight decay 调参：不要固定 λ，改用 EMA timescale τ_epoch = B / (η λ U) 作为不变尺度；数据减半时 weight decay 翻倍，常能降低 MAEL 并提升 in-domain 与 BEIR OOD 检索指标。
τ-Rec-Books：控制需求披露的智能推荐系统需求诱导基准
🧭 Agentic RecSys 评测 · 需求诱导 ★ 深度解读
Independent Researcher · Princeton University
提出控制需求披露时机的书籍推荐评测基准，揭示隐藏需求下智能体成功率从 0.975 跌至 0.283
📌 工作参考价值（4 点）
- 在电商对话推荐 Agent 中，应内置“先问全字段再推荐”的 check：mixed 失败几乎都因不主动询问，显式要求 ask 能让所有模型 mixed 成功率从最低 0.419 拉到 ≥0.931。可在 prompt 或状态机里把关键硬约束字段逐一询问后再进入检索。
- 对隐藏偏好/未说需求，不要只把 reject 当失败信号；维护一个“可能隐藏约束”集合，被拒绝商品满足的候选约束都删掉，优先推荐覆盖剩余约束最多的候选。该 eliminating 策略在 hidden 任务上是 0.956 vs 0.622，远超 popularity。
- 给 Agent 的工具接口优先做结构化过滤（类目、品牌、价格区间、格式等），而不是只给 top-k 关键词搜索；硬约束场景下 structured search 平均 +7.1 分，且目录变大时几乎不掉点。
- 用规则化用户 + 目录元数据校验可低成本复现 disclosure-controlled 评测，无需 LLM judge；在 prompt 或版本迭代时，可先跑这种可验证 benchmark 再上人类评估，特别关注 hidden NVR 的弃权与 untested recommendation 比例。
通过隐式品牌注入刻画对抗性生成引擎优化
🧭 生成式搜索对抗攻击 · 隐式品牌注入 ★ 深度解读
Indian Institute of Science · University of Illinois Urbana-Champaign
提出多代理框架IBI，通过单句隐式品牌注入提升生成式搜索中的品牌可见度，并构建IBIBench基准
📌 工作参考价值（4 点）
- 多代理分工实现最小扰动内容注入：IBI将插入任务拆分为位置规划、句子重写、验证和选择四个子任务，每个代理只负责一部分约束，最终通过确定性校验保证单句修改和品牌出现一次。这套流程可直接迁移到电商商品描述优化、广告文案嵌入或UGC内容改造，确保语义保持和自然度。
- 合成品牌+受控RAG管道评估攻击：使用不存在的品牌避免模型先验偏差，固定文章-品牌配对，严格控制检索和生成参数，这种评估范式可用于在自家系统中测试内容操纵对搜索结果或推荐的影响，提前暴露风险。
- 单一非促销提及即可显著影响生成式搜索：实验显示仅一句话的品牌提及在文章条件查询下Hit@10可达82.2%，下游品牌提及率最高62.7%。这提醒平台需警惕第三方内容中的隐性品牌植入，防御上可考虑来源隔离、多源佐证或对陌生实体降权。
- 区分检索暴露与下游传播的度量体系：论文提出Hit@k、MRR、BMR、BRR和条件传播CP等指标，将攻击效果分解为检索阶段和生成阶段，便于定位瓶颈。从业者可借鉴该分解思路，对生成式推荐链路进行分层监控和优化。
ToolSpace：以工具为中心的长程智能体环境合成框架
🧭 Agent 工具组合与环境合成 ★ 深度解读
Renmin University of China · Fudan University · Shanghai Jiao Tong University
用真实执行轨迹构建加权工具组合图，按需合成环境并生成可回放验证的长程跨域任务
📌 工作参考价值（4 点）
- 用真实调用日志构建工具/服务关系图：在电商/搜索/推荐内部，可将搜索、推荐、商品详情、购物车、优惠券、订单、客服等 API 的相邻调用关系，按 data/state/retry 三类规则确定性挖掘，避免 LLM 主观判断带来的幻觉连接，得到可执行的跨域工作流骨架。
- 长程 Agent 训练数据合成：借鉴 state-aware random walk + rollback，从真实日志图采样跨域工具链，只保留可重放、断言验证通过的 task；可用于生成「搜索→推荐→加购→下单→售后」等多步购物助手任务，保证可执行性和状态一致性。
- 按需环境落地，节省仿真成本：对只读/无状态工具（如商品查询、搜索、推荐）复用录制返回值或缓存，不必为每个环境合成完整数据库；论文显示文件合成量减少 55.3%，适合内部多业务系统大量只读 API 的场景。
- 可验证奖励用于 Agent RL：将断言验证结果作为二元执行奖励，配合 GRPO 做 on-policy RL，可提升长程工具编排；验证脚本同时能防止 SFT 数据污染测试集。
Axion 1.0：简化的开放智能体基础模型
🧭 Agent 基础模型 · 三阶段极简训练 ★ 深度解读
Duke University · ByteDance · University of Maryland, College Park · University at Buffalo
用两阶段 SFT 加 RL 的极简 recipe，构建可复现的开放 Agent 基础模型，在多项 agentic 基准上达到前沿水平
📌 工作参考价值（4 点）
- 模型感知的数据增强：Stage I 用基座模型能否解出作为难度筛选器，只对能解出的题目做组合、参数化、范围移位、分情况讨论等对抗式改写，让数据难度贴合模型能力边界。电商场景中构造训练数据时，可以先用线上模型筛选出“太简单”的样本，再做变体改写，从而提升训练集的信息密度。
- 可验证工具任务生成：Stage II 的 filter-select-compute-verbalize 流水线把结构化商品/内容库转化为需要检索+计算的问答，答案由确定性程序预计算，支持自动验证。对于电商搜索、比价、选品等 agent 任务，可以类似地从商品数据库抽取属性，设计需要多步工具调用和计算的题，自动获得带 ground-truth 的服务数据。
- RL 奖励设计：对未解出的轨迹给部分信用，公式 max(0, 0.3P - 0.1(1-A)) 鼓励中间步骤正确但最终未提交的探索，同时惩罚无终态的输出。在业务 RL 中，长链路 agent 任务（如导购对话）往往最终转化稀疏，引入可验证中间目标（如识别的实体、检索到的属性）能有效缓解奖励稀疏。
- 训练-推理一致性工程：TITO 直接传递 token ID 避免 message re-tokenize 导致的数据漂移；R3 重放 MoE expert routing 降低 rollout 与训练 logprob 偏差。电商推荐系统若使用 MoE 大模型做 agent 微调，可参考这两项工程实践，减少离线-在线性能 gap。
LeanGuard：面向工具调用智能体的 Lean 验证护栏
🧭 LLM Agent 形式化护栏与自动修复 ★ 深度解读
Case Western Reserve University · UT Austin
在 LLM 智能体与工具之间嵌入 Lean 4 策略运行时，以形式化证明保证每次工具调用合规，并支持反馈或证明引导修复
📌 工作参考价值（4 点）
- 在电商导购/售后 Agent 的写操作（改订单、退款、发券）上，可借鉴“外部策略运行时 + 可信证据”架构：把业务规则写成 permits/requirements/forbids，所有工具调用先做 fail-closed 校验；关键点是不信 LLM 输出的文本，只信后端快照和监控日志，用户确认绑定到具体提案和状态版本，防止注入礼品卡/收款账户等越权操作。
- 将拒绝从“调用未执行”改为“失败规则 + 修复提示”，可减少重复试错并提高恢复率；论文中反馈使阻塞调用从 983 降到 719，恢复动作从 34 增至 48。售后场景可返回具体缺失条件（如需先读订单、需用户确认）而非笼统拒绝。
- 证明引导修复对参数值类违规很实用：当金额超预算、支付方式不合规、选错券时，可在规则引擎中预计算最近合规参数并随拒绝返回，或直接替换；论文在 252 个参数值拒绝中证明修复 88 个，中位 2ms，表明部分修复不必让模型重试。
- 若业务涉及支付、退款、隐私等强保障环节，可考虑用可验证语言编写核心策略，并检查证明无 sorry/非标准公理；但维护成本高，适合核心高风险写操作而非全量策略。
Recursa：迈向递归自改进的基础模型系统
🧭 Agent 多智体递归自改进 ★ 深度解读
Alibaba Research
构建知识仓库引导的多智能体递归自改进系统，无更强模型下将法律领域任务全对率最高提升至 55.0%
📌 工作参考价值（4 点）
- 可复用 harness 设计：给搜索/推荐/广告 Agent 使用 persistent Python REPL + append-only event log。召回、排序、筛选等中间结果留在 Python 变量，只把最终证据回传模型，长链路追踪不必全量进 context；故障诊断时按地址检索历史轨迹，避免上下文爆窗。
- 把领域知识沉淀为可加载 skills：电商新类目冷启动可以先构建类似导航结构，把类目规则、商家文档、商品属性约束浓缩为可加载技能包；每次任务后反思失败案例，将“该找什么证据”和“怎么判断证据是否充分”写成可叠加的 memory/skill，而不是每次从头探索。
- 多 learner 按失败模式拆分优化：不要用一个全局 prompt 大修。按类目、意图、失败原因或技能子集拆分任务，并行做局部改进后合并验证；合并后必须抽样回归已通过任务，避免新编辑造成退化。单 learner 很容易过拟合训练集，生产上推荐拆分+合并+回归。
- 利用无权重更新做快速迭代：在无法频繁微调推荐/搜索模型时，先通过文本化知识仓库快速迭代领域规则与策略，积累到一定程度再作为后续模型训练数据，这与生成式推荐里先沉淀 Semantic ID 或知识卡片再训练模型的路径一致。
SWE-Trail：历史引导的编程 Agent 轨迹采集
🧭 Agent 轨迹采集 · 历史引导分配 ★ 深度解读
University of Connecticut · Ant Group
用历史轨迹引导采集资源分配但不进入 agent 上下文，训练收益提升 2.33/1.60 pp
📌 工作参考价值（4 点）
- 可直接迁移到电商/导购/搜索 Agent 的轨迹采集：为每个 task 维护 prior trajectories bank，但不要把这些历史塞进 agent context；用历史作为 collector 侧信号，让 agent 从普通上下文生成动作，避免模型在测试时依赖不存在的外部 advice。
- 做分支对比采样：在历史检测到的关键状态，从同一 checkpoint 并行短执行两个候选动作，用环境反馈/奖励/测试信号选择路线；保留 agent 原始 reasoning/actions，删除未选分支和 collector 私有事件，保证训练轨迹为连续且无外部信息的单条 rollout。
- 优先在 mixed histories 上投入采集：成功/失败都有的任务最值得多做分支比较，stable-solved 和 never-solved 收益有限；历史规模 5 条 prior attempts 已接近饱和，继续加到 10 条 token 成本增加 66% 但收益很小。
- 评估数据采集方案时，值得做 H0 和随机化消融：H0 控制采集管线本身，random detection/random retention 分别检验“在哪里比较”和“保留哪条路线”，能避免把 resolved 轨迹数量误当成下游训练价值。
DAMI：双轴记忆初始化增强门控线性注意力长上下文检索
🧭 门控线性注意力 · 记忆初始化 ★ 深度解读
SpeedAI · Beihang University
联合配置头时间尺度与层输入敏感度，在不增加参数的情况下提升五种线性注意力架构的长上下文检索准确率
📌 工作参考价值（4 点）
- 用户长期行为序列建模：若用 Mamba/GDN/RWKV 等线性注意力处理用户长 session，可将多个 head 的衰减时间尺度几何分布（如 1~4096），让不同 head 分别捕捉近期点击与长期偏好；避免统一衰减导致远期信号被遗忘或近期噪声过拟合。
- 分层表征初始化先验：低-高-低输入敏感度可迁移到推荐/Ads 塔：浅层 embedding/low-level 层保持低敏感性求稳定，中间交叉层高敏感捕捉动态，深层汇总层再低敏感防止稀有关联消失；配合无梯度校准，只需少量业务激活即可完成初始化。
- 工程可插拔且零推理成本：DAMI 仅改变衰减侧初始化，不增加参数与推理开销；适合作为现有 SSM/线性注意力推荐模型的 baseline 增强，尤其当业务数据分布迁移或长上下文需求提升时，可低成本重校准。
- 长上下文检索能力：若模型需要从长会话/长文档中检索相关信息（例如客服历史、详情页关联），可参考 RULER 风格评估，并利用该初始化改善远距离依赖命中。
训练无关 MoE 专家剪枝中的替换算子与路由语义
🧭 MoE 专家剪枝 · 替换算子与路由语义 ★ 深度解读
School of Electrical Engineering and Computer Science (SEECS), National University of Sciences and Technology (NUST) · Deep Learning Laboratory, National Center of Artificial Intelligence (NCAI), NUST
固定剪枝掩码，系统比较 MoE 专家替换算子与门控尺度，提出倾斜新手算子并揭示 trained-scale rule
📌 工作参考价值（4 点）
- 部署 MoE 推荐/Agent 模型时，剪枝后不要默认 renormalize 幸存者 gate；先检查原模型 router 是否在训练时做了 top-k renormalization，保留与其一致的 gate scale（trained-scale rule），否则可能掉 0.8–8.5 个点，甚至反转 rerouting 是否优于均值常数。
- 若要对剪掉的专家做廉价替代，可用 tilted novice：只存一个低秩输入映射（rank-32 甚至 rank-8），参数增加约 1.2–1.8%，在多项选择和生成任务上稳定优于均值常数，且对 3/4-bit 量化鲁棒；比保留更多专家更省参数。
- 评估剪枝模型不能只看 MCQ；务必加入 GSM8K、代码生成等推理/生成任务，因为 25% 剪枝时 MCQ 可保留 92–97%，但 GSM8K 仅 5–65%、代码 0–17%，结论可能反转。
- 校准数据域对剪枝 mask 影响很大（4–9 倍于重采样），推荐/Agent 场景应使用与线上分布一致的校准数据，并报告不同校准切片的结果；仅用通用文本可能掩盖领域退化。
路由任意：通用AI系统模型与策略路由研究
🧭 模型路由 · 多模态质量成本权衡
National University of Singapore, HPC-AI Lab · InfRec, Cardinal AI Lab · University of California, Berkeley · Hong Kong University of Science and Technology
构建覆盖25个基准374k轨迹的omni-modal路由框架，证明学习路由器超最佳固定候选并提升效率8.82倍
📌 工作参考价值（4 点）
- 在推荐/搜索系统中维护多个候选模型（如轻量双塔、深度交叉、LLM排序器），训练一个轻量路由器（小型MLP或XGBoost）基于用户/物品特征、上下文及模型置信度动态选择，论文证明输入信息充分时学习路由器接近oracle上限，同时平均效率提升8.82倍。
- 搭建离线路由评估流程：对历史流量样本离线运行全部候选模型，记录质量分与延迟/成本，形成trajectory matrix，再训练路由器，可安全评估新模型加入后的整体收益，避免直接全量替换风险。
- 将路由用于Agent工具/策略选择：在电商对话助手中，根据用户query意图、语义和上下文路由到不同工具链或生成策略，降低昂贵LLM调用次数同时保持质量。
- 关注路由器输入特征设计：理论表明路由器可获得的信息决定可达性能，实用中可加入模型预测分布熵、历史表现等信号，而不只是原始输入特征。
视频生成背后：Kling 多模态理解的观察与洞察
🧭 多模态理解 · 视频生成可控性
从数据-条件-对齐-评估链剖析多模态理解如何提升可控视频生成质量
📌 工作参考价值（4 点）
- Captioning 作为语义契约：在电商多模态内容（商品图/短视频）理解中，可借鉴「描述密度最大化」思路，把 caption 从简单标签升级为细粒度语义描述，提升后续生成/匹配的上限。
- Prompt enhancement 的 RL 在环设计：将用户 query 翻译到高质量描述分布，用文本级 RL 和生成器在环 RL 迭代优化，可直接迁移到推荐系统的 query 改写、广告文案生成，避免只靠 LLM 静态改写。
- 候选从文本单独筛选：训练多模态生成模型前先用文本特征筛选候选，节省端到端训练成本；在商品短视频生成或创意素材筛选中，可先用文本描述打分快速过滤低质候选。
- 奖励模型解耦通用与决策：通用 reward model 做可解释局部批评，决策 reward model 做快速多维评分，可作为电商内容审核、素材优选的双层打分架构参考。
SpecPilot：投机解码的自主算法发现与系统优化
🧭 投机解码 · 自主 Agent 优化
University of California, Berkeley · Princeton University · Stanford University · NVIDIA
用自治 Agent 循环自动发现投机解码的算法与系统优化，单请求加速比提升 2.4 倍、批处理提升 2 倍
📌 工作参考价值（4 点）
- 用 cost model 定位部署瓶颈：在电商/推荐 LLM 推理服务中，单请求 vs 批处理、不同 GPU 上的优化重点不同，可先构建理论 ceiling 模型，自动识别当前系统最大可优化 gap，避免盲目调优。
- Token forcing 防 reward hacking：在自主优化或自动调参时，逐 token 对比基线输出确保无损，可借鉴到在线模型自动更新、推理参数搜索等场景，防止质量劣化。
- 批量场景的分级验证与合并机制：论文发现的两级验证和三种 batching 机制可迁移到多租户推荐请求合并处理，降低 per-request overhead，提升吞吐。
- 12-bit 无损权重格式：如果验证可行，可直接应用于部署中的大模型量化，在保证输出质量前提下节省显存、加速 decoding。
ParetoSaddler：面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择，用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值（4 点）
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分：电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本，中间迭代可先接受任一维度的可信提升，避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤：LLM 评估噪声大，只保留跨 run 有稳定增益的 harness 候选，能减少线上实验浪费；可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦，保留 Pareto 前沿而非单一 best：便于业务按实时的成本/质量约束从前沿选配置，例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索：固定模型权重，只优化 prompts/tools/control logic，通过重复执行与 Pareto 提升做低成本多目标迭代。
序数在策略蒸馏：只学教师 Top-K 排序
🧭 LLM 知识蒸馏 · 序数监督
University of Memphis · University of Missouri
O3PD 在策略蒸馏中只复现教师 top-K token 排序，不拟合概率值，对温度不变并在数学推理上全面优于 OPD
📌 工作参考价值（4 点）
- 在蒸馏 LLM 到线上小模型时，不要强制小模型拟合教师 soft probabilities 的绝对数值，尤其当教师温度需要搜索时；改用 top-K 排序监督（如 ListMLE、RankNet）可省去温度调参，训练更稳定。
- 生成式推荐/query 生成的 on-policy 蒸馏中，教师概率值混杂其自身校准与置信度，小容量学生难以复现；只保留序数信息能降低容量要求，让模型专注学习候选 token 的相对好坏，适合电商 query 推荐、广告文案生成、推荐理由生成等场景。
- 若已有 OPD 流水线，可将 loss 替换为对 teacher top-K logits 的 ranking loss，保留 on-policy 生成模式；数学推理任务上的 +2.9 平均分提升说明该 trick 在复杂生成任务上可能有效。
- 对 Agent 策略蒸馏的启示：当学生策略模型容量有限时，教师动作分布的序数偏好可能比概率值更重要，可以在策略优化中借鉴序数监督。
EvoTeam：通过演化团队实现多智能体协作
🧭 多智能体团队演化与协作优化
Jilin University · Nanjing University of Science and Technology · Shanghai AI Lab
提出协作中心的多智能体演化框架，联合演化团队组织、交互规则与个体技能
📌 工作参考价值（4 点）
- 团队库 + 任务路由：在电商多 Agent 系统中，可按 query 类型或场景维护可复用团队模板（如搜索意图理解团队、推荐策略团队），根据任务相似度选择或新建团队，避免每次从零组队。
- 团队特定交互规则：不要全局统一 Agent 通信协议，针对不同协作上下文定义 team-specific interaction rules，例如广告投放中的“预算控制 → 出价 → 创意”顺序与约束可随经验动态调整，避免规则跨场景污染。
- 个体技能跨团队复用：将每个 Agent 的提示词/技能封装为可插拔模块，允许同一 Agent 在不同团队中使用，降低重复开发；团队级经验只在兼容上下文中积累，防止跨任务负迁移。
- 演化机制可离线沙盒回放：在搜推任务中利用历史 session 作为反馈，对团队组织与交互规则做进化搜索，在线只保留最优团队配置，降低试错成本。
MoLRSI：用于分子发现的递归自改进AI智能体
🧭 Agent 递归自改进搜索策略
MoLRSI通过工作流/架构优化与跨任务记忆递归改进搜索策略，抗生素命中率15.9%超专家流程
📌 工作参考价值（4 点）
- 把推荐/搜索策略搜索本身视为可优化的 workflow，用 execution feedback 和历史任务结果更新策略生成器，做 recursive self-improvement，而不是只自动化固定流程。
- 建立跨任务记忆：记录不同 campaign 的 workflow 性能与 refinement 结果，作为 few-shot exemplars 或偏好数据蒸馏到 meta-policy，帮助新任务冷启动。
- 多目标权衡：显式把 CTR、覆盖率、新颖性等竞争目标转成多目标 scorer，并在每一轮根据线上/离线反馈调整权重，避免固定单目标导致策略退化。
- 对 Agent 开发：将“设计和调优 workflow”变成可递归优化的环节，LLM 提出 workflow，执行器返回 score + failure trace，再用 trace finetune/更新 prompt 或 policy，可迁移到 GenRec 的 Semantic ID 搜索等场景。
Mage-VL-Cowork：从进化式 Harness 学习混合计算机使用的完整训练配方
🧭 计算机使用智能体 · 多阶段课程训练
Microsoft Mage Team
4B混合计算机使用智能体，通过五阶段课程与技能化数据生成，在OSWorld-Verified达66.0%同尺寸SOTA
📌 工作参考价值（4 点）
- 技能条件化数据生成可迁移：用「技能定义 + 可复用工作流 + 应用特定 preparer」替代逐任务构造，在电商 GUI 智能体（购物车、下单、订单查询等）中可显著降低合成数据成本，并规模化覆盖长尾技能。
- 五阶段课程（midtraining → SFT → RL）值得借鉴：先做通用多模态对齐，再注入任务完成能力，最后用 RL 优化决策质量；对训练面向搜索/推荐业务的 Agent 策略有直接参考价值。
- 进化式教师 harness 提供高质量监督信号：不直接蒸馏默认大模型，而是为不同训练阶段定制教师策略，有助于提升小模型轨迹质量，可复用于蒸馏电商场景的 4B/7B 级端侧助手。
- 小参数模型也能逼近前沿性能：4B 在 OSWorld-Verified 达 66.0%，说明数据与课程设计比单纯堆参数更关键，对需要在端上部署低成本 Agent 的业务是积极信号。
多智能体接力思考框架
🧭 多智能体接力协作优化
Zhejiang University · Nanyang Technological University · The University of Hong Kong
提出置信度引导的多智能体接力协作框架 MACR，动态转移推理权，在保持精度下大幅降低 token 开销
📌 工作参考价值（4 点）
- 在电商 Agent 工作流中，可以将多步推理任务（如商品卖点提炼、广告文案生成、query 意图改写）从“多 Agent 并行讨论再聚合”改为“接力式串行 refinement”，每个节点基于置信度决定是否继续、由哪个专职 Agent 接手，能显著降低 token 消耗，适合高并发在线服务。
- 借鉴 MACR 的 bidding 机制：为不同能力 Agent 设置轻量置信度打分器，在推理阶段动态选择下一步执行者，而不是固定 pipeline，这能提升异构模型组合的鲁棒性。
- 置信度引导的 relay triggering 可用于推荐解释生成或搜索排序后文案生成：当当前生成结果置信度低于阈值时再触发下一轮精炼，避免无意义重写，节省 LLM 调用成本。
- 主要学术贡献在于多智能体拓扑结构与协作效率，业务迁移时需注意：置信度估计本身可能引入额外开销，建议在关键高价值链路（如广告创意生成）而非全链路铺开。
裁决学习：验证器引导的多智能体电商相关性推理
🧭 多智能体协作相关性判定 ★ 深度解读
Tsinghua Shenzhen International Graduate School, Tsinghua University · Alibaba International Digital Commerce Group
提出 CADRE 框架，用冻结三专家加可训练 Verifier 做选择性辩论，并以成功经验回放 GRPO 优化后蒸馏到轻量学生模型
📌 工作参考价值（4 点）
- 多智能体架构可迁移：将商品属性、用户意图、平台规则拆成独立 expert，共享冻结 LLM backbone，只训练 Verifier 做证据裁决。相比 all-in-one CoT 避免单一上下文冲突，训练成本低，适合相关性审核、广告质量分等复杂判定。
- 选择性辩论控制成本：只在三专家第一轮 label 不全体一致时触发 Verifier 提问和专家修订；一致时直接采用 initial adjudication。离线/在线都能大幅降低多轮交互开销，尤其适合高 QPS 场景。
- Successful-experience replay：把 terminal label 正确的轨迹存 pool，每个 input 保留最多 8 条，Replay-GRPO 时每个 input 加 2 条 replay 轨迹与 8 条 fresh rollouts 混合算 group advantage。可在有限 rollout budget 下稳定 RL、提升长尾难例。该 trick 可复用到 RLHF/多轮 agent 训练。
- CoT latent distillation：多智能体 teacher 生成 CoT，用 frozen BGE-M3 编码成 embedding，学生 mBERT 加 cosine loss + CE，推理时只过学生模型。线上 A/B RPM +1.69%、CTR +0.76%，RS +0.3pp，说明 reasoning signal 蒸馏到轻量交叉编码器是低成本落地路径。
CoworkOS：面向现实自动化的可扩展智能体同事框架
🧭 通用 Agent 运行时与多智能体协作 ★ 深度解读
Renmin University of China · Fudan University
提出三层架构（Main、Coordinator、Subagents）的通用长时程智能体运行时，支持人机共享工件与持久状态，多个基准上超越主流框架
📌 工作参考价值（4 点）
- 职责分离与异步委派：借鉴 Main-Agent 保留全局上下文、Subagents 隔离执行长任务，通过 Coordinator 的 durable queue/inbox 实现同步/异步委派，避免长上下文爆炸；可用于搜索推荐多 Agent 系统中的深度调研、批量数据分析、实验监控。
- 持久工作区与语义记忆：用 memory.md、task.json、checkpoint 记录目标、决策和未完成任务，支持跨会话恢复和上下文重建；适合电商推荐中跨天 AB 测试跟踪、策略迭代和模型训练监控。
- 共享应用资源与版本控制：人类和 Agent 通过 revision protocol 直接编辑同一 artifact（如 query 规则表、策略配置），冲突检测保证可审计；可用于人工修正搜索 query 模板或推荐策略，让专家反馈直达工作产物。
- 后台 Jobs 与监测机制：长时间训练/构建作为持久 Job，保留日志和状态，模型空闲时可唤醒；可迁移到推荐模型训练流水线、特征工程任务的状态管理，减少重复启动成本。
CUA-Master：开放世界递归改进驱动的计算机使用智能体扩展
🧭 CUA 数据飞轮与递归训练
MMLab, CUHK · THU · HKUST(GZ) · Explore Academy · JD
提出嵌套双循环递归改进框架 CUA-Master，结合开放世界数据与自催化传播，显著提升 GUI 智能体性能。
📌 工作参考价值（4 点）
- 构建双循环数据飞轮：外层利用开放世界语料和模型弱点指导数据迭代，内层从教学视频提取真实工作流作为种子任务，通过视觉-语义双路径重建轨迹，可迁移到电商 RPA/后台自动化数据生产。
- 自催化传播：将种子任务提炼为可重用原语（primitives），可控合成多样、复杂、可验证任务，适合生成大规模 GUI 操作训练集，降低人工采集成本。
- 快照回滚重试机制：在真实环境中通过反馈引导快照与回滚，提升轨迹收集的成功率和可靠性，可用于线上 Agent 执行时的容错与数据回收。
- 结果证明递归迭代可带来持续增益，CUA-Master-27B 在 OSWorld 等 benchmark 达到 80.2，说明中等规模模型配合高质量数据合成可逼近大模型，适合资源有限的业务团队。
电商购物 Agent 的生成式奖励模型 E-GenRM
🧭 生成式奖励模型 · 购物 Agent ★ 深度解读
Taobao & Tmall Group of Alibaba · Technische Universität Wien
从真实购物行为回溯构造评价链，三阶段训练生成式奖励模型，在线提升淘宝购物 Agent 有效协助率与满意度
📌 工作参考价值（4 点）
- 用真实行为回溯构造评估轨迹：从购买结局反向切分 shopping task，将 120+ 行为信号翻译为 Agent 交互历史与候选响应对，能绕过「能力-轨迹反馈环」，持续产出覆盖长尾行为的 reward/eval 数据；适合电商 Agent 搭建数据飞轮。
- 评价链 + 三阶段训练可迁移：SFT 学动态加权 rubric 和证据支撑的 criterion-level 判断；RL 用 outcome reward + factual reward 给每个 criterion 部分信用，提供更密集训练信号；再用 teacher disagreement 和 utility margin 筛 hard negatives 提升个性化偏好敏感度。
- 主动证据检索：用 retrieval-need label 和 tool-use reward 对齐检索决策，只在上下文缺 decisive evidence 时调用工具；调用率从 95.84% 降到 22.12%，精度反而略升，适合线上成本敏感场景。
- 用 E-GenRM 后训练淘宝购物 Agent，14 天 A/B 有效协助率 +1.39pp、满意度 +2.33pp、P99 延迟 -17.88%，可直接作为生成式 RM 替代或校准 expert judge 的业务参考。
DR Pixel：视觉语言模型驱动的页面原生深度研究智能体
🧭 页面原生视觉深度研究智能体
NYU Shanghai · University of California, Berkeley · Rational Dynamics · Toyota Technological Institute at Chicago · New York University
首个开源端到端多模态深度研究代理，直接检索渲染页面图像并引入反事实信用重加权训练，超越 OCR 基线
📌 工作参考价值（4 点）
- 对商品详情页、广告落地页等富视觉文档，可直接用页面截图作为检索与推理单元，替代 OCR 文本化，保留表格、价格、图片、规格等结构化信号，适合多模态 LLM 在电商搜索/推荐中做页面级召回与问答。
- 在 agentic 搜索/推荐流程中，减少中间 OCR 和文本转换步骤，可显著降低工具调用次数与延迟；页面原生检索对含促销规则、对比表、图表的复杂页面更鲁棒，可用于营销活动页理解和智能导购。
- 训练 Agent 轨迹时，teacher trajectory 噪声大；可借鉴 counterfactual credit reweighting，按每个步骤对最终转化的反事实贡献做加权，提升 SFT 数据质量，而非简单过滤失败轨迹。
- 构建评测时，面向文档中混合文本、表格、图像、公式等多模态证据设计问题，比纯文本问答更能反映真实业务中商品详情、广告素材、规则文档的理解能力。
多样教师在线策略蒸馏用于生成式推荐
🧭 生成式推荐 · On-Policy Distillation 消偏 ★ 深度解读
University of Science and Technology of China · National University of Singapore · Alibaba Group
提出 HERO，通过异构教师路由和多样性物品 rollout 缓解生成式推荐中 on-policy distillation 的流行度偏差
📌 工作参考价值（4 点）
- 在生成式推荐做蒸馏时，不要用单一教师，可以按物品流行度分组训练两个专家教师（head/tail），训练样本根据 ground-truth item 的流行度路由到对应教师，能有效缓解头部偏差。
- 在 on-policy 训练中，学生生成的路径容易偏向头部物品，导致冷门 SID 路径很少被监督。可额外将冷门物品的真实 SID 前缀加入蒸馏损失（tail-path GT-KL），提高尾部路径的覆盖率。
- 该方法只更新学生模型，教师冻结，推理时仅用学生，不增加在线推理成本，工程实现简单，适合快速上线验证。
- 评估生成式推荐时不要只看整体 Hit，应同时关注 DTR（需求-曝光比）和 ORR（头部重复推荐占比），避免准确率提升掩盖流行度偏差的加剧。
基于猜想与反驳的 LLM Agent 动作预执行验证
🧭 Agent 动作预执行验证 · 猜想与反驳 ★ 深度解读
Pohang University of Science and Technology · National AI Research Lab
提出 BLACKSWAN：对每个会改变环境的动作，先预测效果、再生成可测试的怀疑并验证，执行前主动寻找反驳证据
📌 工作参考价值（4 点）
- 对电商/广告/搜索推荐中的高危不可逆操作（下单、发送营销 push、修改商品价格、删除广告计划）可引入“预期-怀疑-测试”三阶段 guard：在执行前让模型先写清预期效果，再列出可证伪的具体担忧，最后用只读 API 查询验证；任一担忧被证实即拦截并重写动作。
- 把验证逻辑从“找支持证据”改为“找反驳证据”，并将怀疑预先注册、固定后再去测试，能避免模型先看到证据再反向修正假设，可复用到工具调用安全校验与 Agent 风控中；实现时让怀疑绑定到具体代码元素（变量、API 参数），否则容易产生无关担忧。
- 只对 state-mutating API 启用该机制，read-only 操作直接放行，能平衡安全与 token 成本；论文中 BLACKSWAN 的代价约为 1.5–9.4 倍 ReAct，弱模型收益更大，适合中小参数模型在关键路径上的兜底。
- 零样本/少样本条件下依然有效，说明不需要大量 in-context 演示即可迁移；如果业务中已有手工规则或 pre-defined 检查，可以替换为 LLM 生成反驳假设 + 环境验证的软校验，减少硬编码漏报。
每个子句都算数：将指令拆成可回答小问题做零样本重排
🧭 搜索重排 · 指令拆分逐项打分
United International University · Islamic University of Technology
把带指令查询拆为主题与多个类型化子句，逐项用小型 judge 输出概率并相乘，零样本提升指令遵循重排效果
📌 工作参考价值（4 点）
- 电商搜索/广告精排可复用：将带约束 query（如“官方旗舰店”“适合新手”“西班牙语”）拆成主商品意图 + 多个类型化 clause，每个 clause 用轻量 judge 问“候选是否满足 X？”，用 P(yes) 乘到相关性分上；不需要重训线上模型，直接用于 top-K 精排或 RAG rerank。
- 不要把复杂指令塞进单个 LLM prompt。论文显示同 judge 下拆句重排把 WISE 从 32.9 提升到 47.6。多条件筛选场景（价格段+品牌+适用人群）越细，越应独立判分再融合，降低指令遗漏。
- 原始概率乘积在跨查询比较时不稳定，导致 SICR 失真。若要做坏 case 阈值或准出判断，建议用 rank-based 融合或对分项概率做对数加和/校准，而不是直接拿原始分跨 query 设阈值；候选内排序可以用 product/rank，但跨流量控制要谨慎。
- 成本可控：小模型可做零样本 judge，全维打分约 $10。线上可对高频指令用规则/属性过滤替代，只对长尾复杂指令调用 LLM clause 判断，并做并行与缓存。
面向 LLM 推荐的多教师推理蒸馏与自探索框架 MUSE
🧭 推理增强推荐 · 多教师蒸馏 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
MUSE 构建多教师+学生自探索候选池，用 Rank-Gain 效用筛选并对比蒸馏，让 LLM 推荐器学到真正有益的偏好推理
📌 工作参考价值（4 点）
- 用下游排名收益做无标注推理筛选：RGUA 直接以 ground-truth item 的全库排名提升作为推理轨迹效用，避免人工标注，很适合电商/广告中大量交互日志。工程上只需轻量 encoder 算候选 rank，不必引入 LLM evaluator，成本低。
- 多教师 + 学生自探索的候选池设计：先让多个 teacher LLM 生成候选，再随训练逐步增加学生采样数量，让模型逐渐摆脱 teacher 知识上限。业务中可对重要用户/类目建立多 LLM 候选池，用 ranking 指标筛选后再蒸馏。
- 双对比损失解耦“生成”和“利用”：ConDistill 让 generator 拉开高/低效用推理的 likelihood；ConUtil 让 encoder 强制在好推理下比坏推理更接近目标 item，防止模型只依赖历史行为而忽略推理信号。该思路可迁移到多任务推荐排序中，用对比目标强化特征利用。
- 训练与推理效率可复用：teacher 推理预生成并缓存，推理时只需 student 单次生成，vLLM 延迟与 R2ec 相当；业务可离线跑多教师，在线保持轻量。
PACERec：基于协同证据的 LLM 物品嵌入渐进自适应用于推荐
🧭 LLM 表征适应 · 长尾序列推荐 ★ 深度解读
Northeastern University · Ant Group
用 flow matching 学共享速度场，将静态 LLM 物品嵌入渐进适配前序行为目标，实现无 ID 长尾序列推荐
📌 工作参考价值（4 点）
- 电商冷启动 / 长尾 item 可直接复用无 ID 思路：用 frozen LLM embedding 对商品标题/描述编码，经两层 MLP 降维到推荐主模型维度，PCA 初始化投影层保留语义几何；新商品只要有过文本属性就能拿到有效表示，避免长尾 ID embedding 欠训。
- 离线构造行为目标成本低且有效：对每个 item，取训练序列中它前面 L 步内的前驱 item 初始语义向量，按 recency 指数加权平均 + norm matching + clip，生成固定的 behavior target；这相当于给每个 item 一个“用户接下来会买什么”的监督信号，可以离线一次算好，训练时直接当 flow matching 的 target。
- 只对频繁 item 监督、共享速度场推断长尾：设置频次阈值 κ，只让 c_i≥κ 的 item 参与 flow matching，loss 用 sqrt(c_i/(c_i+c0)) 做 confidence weighting；学到的 velocity field 以 item semantic source 为条件，长尾甚至零交互 item 也能直接过 flow 得到行为适应表示。工程上可离线缓存全量 adapted embeddings 供后续双塔/序列模型使用。
- 排序层加参数无关语义相似度旁路：在 frozen LLM 空间对用户最近 history 加权池化得到 semantic query，与候选 item cosine 相似度做 per-user z-score 标准化，再和 preference score 加权融合。这个旁路对 tail 指标提升明显，权重用 validation 上固定值选择即可，不需要可学习参数，部署简单。
RecRSI：机制引导的推荐算法自动发现
🧭 自动推荐算法发现 · 机制假设 ★ 深度解读
Shanghai Jiao Tong University · Fudan University · Meituan
用机制假设组织推荐算法搜索，在16个设置上平均NDCG@5相对初始模型提升8.48%
📌 工作参考价值（4 点）
- 在推荐模型自动迭代或人工算法迭代中，把每次实验从“改一个候选程序”升级为“机制假设”：记录 reference design、changed/unchanged mechanisms、rationale、expected observation 和实际结果。失败实验可以不丢弃成功设计，而是把失败转化为下一个假设，例如 MoRec 搜索中 pairwise margin 回归后恢复 BCE+pairwise 并测试 cosine-temperature scoring，最终 NDCG@5 从 0.3438 提升到 0.4097。
- 为排序/召回模型建立可组合的 MechSpace：把模型拆成 scoring、objective、representation、architecture、sampling 等原语，并约束 composition rules 和 effect path。这样 LLM 生成的改动更易落地和校验，避免无效候选；自动生成 space 在该文实验中比人工设计 space 的最终 NDCG@5 高 19.65%。
- 在 LLM agent 搜索中采用固定角色覆盖和 stable tie-breaking 的 proposal 选择策略，避免早期过度偏向某一类 proposal；同时保留继续搜索而非 restart 的预算，该文 continuation 在 24 次评估中比两个 12 次 restarts 在多个 block 上更高，且后段仍能发现新的 scoring+objective 组合。
- 对排序模型，显式共享 training 和 ranking 的 scores 是有效干预点，例如 cosine-temperature scoring 与 label smoothing 组合，或 margin-based pairwise objective 与 focal weighting 的替换；业务中可优先搜索 scoring-objective 兼容组合。
SHq：面向 LLM 权重量化的可学习网格
🧭 LLM 权重量化 · 可学习查找表网格 ★ 深度解读
ETH Zürich · Rhoa Research · Institute of Science and Technology Austria (ISTA)
用两参数 sinh 压缩网格替代固定查找表，端到端 KL 搜索参数，3-4bit 量化误差显著低于 NF/BOF/INT
📌 工作参考价值（4 点）
- 若业务中需以 4-bit/3-bit 低比特部署 LLM（如 query 改写、商品文案生成、广告标题生成、Agent 推理），可将 SHq 作为 NF4/INT4/NVFP4 的 drop-in 替换：只改 lookup table 内容，不改变存储与解码，实测 KL 更低且下游精度更好。
- 量化 grid 的选择不应只看权重 MSE 或 reconstruction error，而应在端到端目标（如生成 query 的分布偏移、业务代理指标）上搜索；SHq 直接以 calibration KL divergence 扫描参数，这个思路可迁移到量化、蒸馏或压缩方案的选择。
- 在 block-scaled LUT 格式中，E4M3 block scale 的 sign bit 通常闲置；可引入不对称 grid 或 offset，用 sign bit 在 grid 与 mirror 间切换，零成本增加有效码本大小，对 2-bit/3-bit 极低比特部署尤其有价值。
- 对 MoE 稀疏大模型（电商/广告推荐中常见）同样有效；联合使用 SHq 与 per-layer bit allocation（如 RCO）可进一步压缩，且 SHq 在各 bit-width 下保持最低 KL，适合做统一量化格式。
Strategist：用元智能体进化推理策略并跨任务积累
🧭 Agent 推理策略自动搜索与库积累 ★ 深度解读
Princeton University · Meta
将推理策略写成可复用蓝图并跨任务搜索积累，在 30 个基准上以 39% 更低成本匹配最强基线
📌 工作参考价值（4 点）
- 电商/推荐 Agent 工作流可把「意图识别→召回→精排→解释/文案」抽象成 Blueprint 库，让 LLM 按小样本和成本约束自动搜索、组合策略，而不是每个场景人工写 prompt/agent；只换任务化 prompt，结构跨场景复用。
- 借鉴多层级路由：Amazon-Rec 的发现策略只在「偏好漂移」用户上触发 multi-agent debate，其他用户走 cheap profile/signal path。业务上可对高价值或高不确定性 case 单独路由到强模型/复杂流程，避免全局高成本。
- 评测与上线选择：用 train/validation/hidden/test 四段隔离防止策略搜索过拟合；最终选择规则要求 accuracy 或 cost 至少一个显著改善且另一个不恶化，否则回退 BL。可作为内部 Agent 策略自动筛选标准。
- 跨模型迁移：在 Qwen3 上搜索到的策略不改代码迁移到 GPT-5/Gemini 仍有效，说明搜的是任务结构而非后端特性。业务可用廉价模型搜索工作流，再迁移到更强商业模型，降低搜索与试错成本。
微调数据预处理选择对LLM推荐效用与人口统计敏感性的影响
🧭 生成式推荐 · 数据预处理与公平性
Istanbul Technical University
系统评估微调预处理对LLM生成式推荐效用与公平性的影响，并验证目录约束解码与提示增强的有效性
📌 工作参考价值（4 点）
- 采用 catalog-constrained decoding（基于合法商品/标题集合约束解码）可从根本上避免 LLM 生成不存在的商品或标题，并保证固定长度输出；对电商推荐落地非常关键。
- 微调数据中 item-title 表示显著影响效用：优先保留原始商品标题而非清洗/简化文本。该研究显示原始标题使 HR@10 从 10.67% 提升到 12.47%，Coverage@10 从 41.36% 提升到 47.88%。
- prompt augmentation（补充用户/商品上下文模板）可提升 prompt 一致性与推荐效用，适合作为低成本数据增强/正则化手段。
- 人口统计平衡具有属性依赖性：年龄平衡和知识增强可在不损失效用下缩小部分群体差异，但性别平衡可能损害效用且不改善性别指标；业务中不要盲目平衡所有敏感属性，应分属性评估。
效用感知生成式推荐：融合效用语义编码与效用引导解码
🧭 生成式推荐 · 效用感知 SID 与解码 ★ 深度解读
Kuaishou Technology · Peking University
将多目标效用写入SID末级并引导beam search，降低高价值候选被剪枝
📌 工作参考价值（3 点）
- UE-SID 思路可直接迁移到电商/广告的 Semantic ID 体系：前几级保持语义量化不变，只在末级用 LFQ 释放弱判别 semantic bits，替换为 GMV、转化率、客单价、时长等 utility bucket。新商品上线或爆款衰减时只更新 utility bits，不重训 generator/tokenizer，适配目录高频变化。
- UGD 的工程实现很适合低风险上线：复用 decoder 隐状态 + stop-gradient，只训练轻量共享 MLP 和行为专用 token head；beam search 打分用 logp + λ Σ w_m Norm(q_m)，无需额外 backbone 前向，QPS 几乎不降。多目标权重配置化，可随时切换不同业务目标。
- 对比 RL 和 post-rerank：UGD 在每一步 prefix 剪枝时估计 utility，避免 GRPO 只在完整 sequence 上优化而无法顾及中间剪枝；也比后排序更能保留已剪掉的高价值候选。做生成式召回/query 生成时可优先考虑这种 decode 端 utility 引导，而不是加重训练端 RL。