微调数据预处理选择对LLM推荐效用与人口统计敏感性的影响
🧭 生成式推荐 · 数据预处理与公平性
Istanbul Technical University
系统评估微调预处理对LLM生成式推荐效用与公平性的影响，并验证目录约束解码与提示增强的有效性
📌 工作参考价值（4 点）
- 采用 catalog-constrained decoding（基于合法商品/标题集合约束解码）可从根本上避免 LLM 生成不存在的商品或标题，并保证固定长度输出；对电商推荐落地非常关键。
- 微调数据中 item-title 表示显著影响效用：优先保留原始商品标题而非清洗/简化文本。该研究显示原始标题使 HR@10 从 10.67% 提升到 12.47%，Coverage@10 从 41.36% 提升到 47.88%。
- prompt augmentation（补充用户/商品上下文模板）可提升 prompt 一致性与推荐效用，适合作为低成本数据增强/正则化手段。
- 人口统计平衡具有属性依赖性：年龄平衡和知识增强可在不损失效用下缩小部分群体差异，但性别平衡可能损害效用且不改善性别指标；业务中不要盲目平衡所有敏感属性，应分属性评估。
效用感知生成式推荐：融合效用语义编码与效用引导解码
🧭 生成式推荐 · 效用感知 SID 与解码 ★ 深度解读
Kuaishou Technology · Peking University
将多目标效用写入SID末级并引导beam search，降低高价值候选被剪枝
📌 工作参考价值（3 点）
- UE-SID 思路可直接迁移到电商/广告的 Semantic ID 体系：前几级保持语义量化不变，只在末级用 LFQ 释放弱判别 semantic bits，替换为 GMV、转化率、客单价、时长等 utility bucket。新商品上线或爆款衰减时只更新 utility bits，不重训 generator/tokenizer，适配目录高频变化。
- UGD 的工程实现很适合低风险上线：复用 decoder 隐状态 + stop-gradient，只训练轻量共享 MLP 和行为专用 token head；beam search 打分用 logp + λ Σ w_m Norm(q_m)，无需额外 backbone 前向，QPS 几乎不降。多目标权重配置化，可随时切换不同业务目标。
- 对比 RL 和 post-rerank：UGD 在每一步 prefix 剪枝时估计 utility，避免 GRPO 只在完整 sequence 上优化而无法顾及中间剪枝；也比后排序更能保留已剪掉的高价值候选。做生成式召回/query 生成时可优先考虑这种 decode 端 utility 引导，而不是加重训练端 RL。
学生前缀教师适应：让教师适应学生生成前缀以提升在线策略蒸馏
🧭 On-policy 蒸馏·教师前缀适配 ★ 深度解读
Beijing Jiaotong University · Weixin AI, Tencent
在蒸馏前用学生前缀 RLVR 微调教师，提升其对学生在策略轨迹的监督可靠性，无需改变蒸馏目标
📌 工作参考价值（3 点）
- 在模型轻量化部署（如大模型蒸馏到线上小模型）时，除标准蒸馏外，先收集学生 rollout 截断为前缀，用可验证奖励（如最终答案/转化标签正确性）微调教师，使教师能“从学生所在状态继续”，可显著改善 token 级监督质量。实现时只对 continuation 部分做 RL，前缀作为 context，不模仿学生错误。
- 评估教师蒸馏能力应增加前缀条件恢复率（prefix-conditioned recovery accuracy），即给定学生常见前缀下教师正确完成的概率。该指标比独立准确率更能预测蒸馏增益；若教师在前缀上优势几乎消失，标准 OPD 可能停滞。
- 随机截断学生 rollout 作为前缀训练集，无需标注错误位置，是低成本构建教师故障恢复数据的方法。在电商文案/搜索 query 改写等任务中，可用类似方案让教师适应小模型的实际输出，并周期性从最新学生采集前缀以追踪分布漂移。
Axion 1.0：简化的开放智能体基础模型
🧭 Agent 基础模型 · 三阶段极简训练 ★ 深度解读
Duke University · ByteDance · University of Maryland, College Park · University at Buffalo
用两阶段 SFT 加 RL 的极简 recipe，构建可复现的开放 Agent 基础模型，在多项 agentic 基准上达到前沿水平
📌 工作参考价值（4 点）
- 模型感知的数据增强：Stage I 用基座模型能否解出作为难度筛选器，只对能解出的题目做组合、参数化、范围移位、分情况讨论等对抗式改写，让数据难度贴合模型能力边界。电商场景中构造训练数据时，可以先用线上模型筛选出“太简单”的样本，再做变体改写，从而提升训练集的信息密度。
- 可验证工具任务生成：Stage II 的 filter-select-compute-verbalize 流水线把结构化商品/内容库转化为需要检索+计算的问答，答案由确定性程序预计算，支持自动验证。对于电商搜索、比价、选品等 agent 任务，可以类似地从商品数据库抽取属性，设计需要多步工具调用和计算的题，自动获得带 ground-truth 的服务数据。
- RL 奖励设计：对未解出的轨迹给部分信用，公式 max(0, 0.3P - 0.1(1-A)) 鼓励中间步骤正确但最终未提交的探索，同时惩罚无终态的输出。在业务 RL 中，长链路 agent 任务（如导购对话）往往最终转化稀疏，引入可验证中间目标（如识别的实体、检索到的属性）能有效缓解奖励稀疏。
- 训练-推理一致性工程：TITO 直接传递 token ID 避免 message re-tokenize 导致的数据漂移；R3 重放 MoE expert routing 降低 rollout 与训练 logprob 偏差。电商推荐系统若使用 MoE 大模型做 agent 微调，可参考这两项工程实践，减少离线-在线性能 gap。
CREDO：面向时序推理智能体的证据条件化信用重分配
🧭 时序知识图谱问答 · 强化学习信用分配
Nanjing University of Aeronautics and Astronautics · Tsinghua University · 360 Security Capability Center, Qihoo 360
CREDO 用中间证据恢复局部监督，改进 GRPO 在时序知识图谱问答中的信用分配，提升 MultiTQ/TimelineKGQA 准确率
📌 工作参考价值（4 点）
- 在 LLM Agent 强化学习（GRPO）中，不要只依赖最终转化/成交信号。对同一 query 的多个 rollout 互相比较，利用中间状态（如检索命中、候选覆盖、证据留存比例）构造阶段级奖励，能区分“证据找对了但后续没接住”的失败样本。
- 全失败批次也可以训练：采用中间证据质量或答案重叠作为“机会”代理，把一部分 outcome-policy 权重分配到推理/回答阶段，避免全 0 奖励导致无梯度；这在多跳搜索推荐 Agent、多轮对话推荐等稀疏奖励场景尤其有效。
- 工程上可保持终端 reward 和 trajectory-level advantage 不变，仅对阶段奖励做权重再分配且保证总权重守恒，降低新增超参风险；适合用于商品知识图谱问答、带检索/过滤步骤的 Agent 训练。
- 若业务中有“检索到关键属性但最终没转化”的日志，可用于离线构造证据条件化奖励，指导 Agent 改写查询或重新排序。
EvoRec：统一自进化智能体推荐与动态反思树
🧭 Agentic 推荐 · 反思树自进化 ★ 深度解读
Kuaishou
提出统一 agentic 推荐框架，通过动态反思树定位失败并生成可复用修复策略，实现无参数更新的自进化推荐
📌 工作参考价值（4 点）
- 离散化 Agent 决策空间：Planning Agent 只从 {0.1,...,0.9} 中选择检索预算比例和融合权重，而不是任意连续值。这既降低 LLM 输出不确定性，又便于在线校验和回退，适合直接迁移到需要稳定性的广告/推荐系统。
- 可验证的反思树 + 工作记忆：失败被定位到 ERROR-NEED / ERROR-PLAN / ERROR-MEMORY 三类，修复策略必须通过 replay 验证后才进入 working memory，避免错误经验污染后续决策。业务上可借鉴这一闭环：只对高意图用户（有搜索/咨询行为）做反思，控制成本并提升反馈质量。
- 近线生成、在线竞争架构：LLM 推理完全离线，预计算需求、计划和 query 向量，候选人异步发布到 Kafka，与现有召回通道并列进入统一排序。用户侧与物品侧独立刷新，索引更新后无需重跑 LLM。这种架构可让 Agent 决策不阻塞实时请求，适合工业落地。
- 策略抽象为“调参指令”而非具体 item：修复策略只规定调整方向、条件和大致的数值范围（如提高 Need Satisfaction 预算），不推荐具体物品，避免退化为记忆个别反馈，能跨用户复用。推荐系统做反思时宜采用这种参数化修复，而非实例级记忆。
LeanGuard：面向工具调用智能体的 Lean 验证护栏
🧭 LLM Agent 形式化护栏与自动修复 ★ 深度解读
Case Western Reserve University · UT Austin
在 LLM 智能体与工具之间嵌入 Lean 4 策略运行时，以形式化证明保证每次工具调用合规，并支持反馈或证明引导修复
📌 工作参考价值（4 点）
- 在电商导购/售后 Agent 的写操作（改订单、退款、发券）上，可借鉴“外部策略运行时 + 可信证据”架构：把业务规则写成 permits/requirements/forbids，所有工具调用先做 fail-closed 校验；关键点是不信 LLM 输出的文本，只信后端快照和监控日志，用户确认绑定到具体提案和状态版本，防止注入礼品卡/收款账户等越权操作。
- 将拒绝从“调用未执行”改为“失败规则 + 修复提示”，可减少重复试错并提高恢复率；论文中反馈使阻塞调用从 983 降到 719，恢复动作从 34 增至 48。售后场景可返回具体缺失条件（如需先读订单、需用户确认）而非笼统拒绝。
- 证明引导修复对参数值类违规很实用：当金额超预算、支付方式不合规、选错券时，可在规则引擎中预计算最近合规参数并随拒绝返回，或直接替换；论文在 252 个参数值拒绝中证明修复 88 个，中位 2ms，表明部分修复不必让模型重试。
- 若业务涉及支付、退款、隐私等强保障环节，可考虑用可验证语言编写核心策略，并检查证明无 sorry/非标准公理；但维护成本高，适合核心高风险写操作而非全量策略。
Recursa：迈向递归自改进的基础模型系统
🧭 Agent 多智体递归自改进 ★ 深度解读
Alibaba Research
构建知识仓库引导的多智能体递归自改进系统，无更强模型下将法律领域任务全对率最高提升至 55.0%
📌 工作参考价值（4 点）
- 可复用 harness 设计：给搜索/推荐/广告 Agent 使用 persistent Python REPL + append-only event log。召回、排序、筛选等中间结果留在 Python 变量，只把最终证据回传模型，长链路追踪不必全量进 context；故障诊断时按地址检索历史轨迹，避免上下文爆窗。
- 把领域知识沉淀为可加载 skills：电商新类目冷启动可以先构建类似导航结构，把类目规则、商家文档、商品属性约束浓缩为可加载技能包；每次任务后反思失败案例，将“该找什么证据”和“怎么判断证据是否充分”写成可叠加的 memory/skill，而不是每次从头探索。
- 多 learner 按失败模式拆分优化：不要用一个全局 prompt 大修。按类目、意图、失败原因或技能子集拆分任务，并行做局部改进后合并验证；合并后必须抽样回归已通过任务，避免新编辑造成退化。单 learner 很容易过拟合训练集，生产上推荐拆分+合并+回归。
- 利用无权重更新做快速迭代：在无法频繁微调推荐/搜索模型时，先通过文本化知识仓库快速迭代领域规则与策略，积累到一定程度再作为后续模型训练数据，这与生成式推荐里先沉淀 Semantic ID 或知识卡片再训练模型的路径一致。
生成式 AI 搜索随机实验中的用户成功度量：解读良好放弃
🧭 搜索随机实验 · 用户成功度量 ★ 深度解读
Microsoft · Simplex AI
提出 Session Success Rate (SSR)，用人类标注会话训练可解释模型区分点击与放弃中的成功/失败，在线实验灵敏度约为 Sessions per User 的 2.5 倍
📌 工作参考价值（4 点）
- 在电商/推荐场景不要单看点击/无点击：点击集合中有约 6.5% 失败，无点击集合中约 53.2% 是成功（论文样本）。因此应构建区分点击与放弃内部异质性的度量，而非直接把 CTR 当成功。
- SSR 的可解释决策树结构可以迁移：把 query/session 按 clicked/abandoned 分支，分别用下游互动时长、页面浏览/滚动深度、语义改写（struggling reformulation）等组合条件判断成功，避免长 dwell 被一概视为正向。
- 采用 human-labeled ground truth 做离线评估，报告中用 balanced accuracy 而非原始准确率，因为成功样本占多数；采样时对困难 session（多 query、移动端）过采样，线上按 inverse sampling weight 恢复人群率。
- 在线实验平台可借鉴 SSR 提高指标灵敏度：在约 4000 个生产实验中，SSR 的 binary sensitivity 是 Sessions per User 的 2.5 倍，可在固定流量预算下降低单实验流量、提高实验吞吐；但上线前要设置 coverage checks，当 treatment 改变页面/语义输入时 fallback。
SpecPilot：投机解码的自主算法发现与系统优化
🧭 投机解码 · 自主 Agent 优化
University of California, Berkeley · Princeton University · Stanford University · NVIDIA
用自治 Agent 循环自动发现投机解码的算法与系统优化，单请求加速比提升 2.4 倍、批处理提升 2 倍
📌 工作参考价值（4 点）
- 用 cost model 定位部署瓶颈：在电商/推荐 LLM 推理服务中，单请求 vs 批处理、不同 GPU 上的优化重点不同，可先构建理论 ceiling 模型，自动识别当前系统最大可优化 gap，避免盲目调优。
- Token forcing 防 reward hacking：在自主优化或自动调参时，逐 token 对比基线输出确保无损，可借鉴到在线模型自动更新、推理参数搜索等场景，防止质量劣化。
- 批量场景的分级验证与合并机制：论文发现的两级验证和三种 batching 机制可迁移到多租户推荐请求合并处理，降低 per-request overhead，提升吞吐。
- 12-bit 无损权重格式：如果验证可行，可直接应用于部署中的大模型量化，在保证输出质量前提下节省显存、加速 decoding。
相同轨迹，不同知识：面向搜索 Agent 的信息状态感知 On-Policy 蒸馏
🧭 搜索 Agent 的 on-policy 蒸馏与过程监督 ★ 深度解读
Beijing Institute of Technology · Huawei
提出 ISA-Distill，按学生状态的事实可恢复性加权 fact-use 与 evidence-seeking 双视图反馈，纠正 teacher 特权信息偏差
📌 工作参考价值（4 点）
- 在电商搜索/推荐 Agent 的 RL 过程监督中，不要把 gold answer 或完整 evidence 直接塞给 teacher；可增加一个“学生侧事实可恢复性”估计：用 frozen policy 对 value-masked probe 采样 32 次，算 mean token NLL，再校准为 k∈[0,1]。按 k 加权“已知事实利用”和“缺失证据获取”两个 teacher 视图，训练期仅增加约 4.3% 开销，就能缓解多跳商品问答中的 search 不足与过早作答。
- 对多跳商品属性问答、活动规则查询、商品对比/导购等任务，可按 recoverability 动态分配 search budget：事实已知时少搜，事实缺失时多搜；论文经验是单跳调用 -7.21%、多跳 +2.94%，整体 calls 更省且准确率提升。
- 过程监督无需覆盖全轨迹 token：只对 <search> tag + query、<conclusion> tag + factual assertion 等关键 span 做有界 local correction，监督 token 仅约 11.32% 也能获得稳定提升，适合预算受限的在线训练链路。
- 若发现蒸馏后的推荐/搜索 Agent 搜索次数不足或过早停止，可做 paired evidence utility 诊断：给 teacher 加 gold fact，观察其对 search token score 的变化；positive-utility search 被大幅降分即存在 information-state mismatch，可引入 recoverability-aware 修正。
证据引导的自适应图检索 EAGR
🧭 RAG · 证据引导的隐式图多跳检索 ★ 深度解读
IBM
用 VectorDB 元数据中的语义描述符构成隐式图，以积累证据动态选择检索方向，无需显式图或查询改写
📌 工作参考价值（4 点）
- 商品/内容知识库可离线用 LLM 抽取商品属性、卖点、适用人群、实体等作为 metadata 存入现有向量库；共享同一 descriptor 即形成隐式连边，无需构建商品知识图谱或专用 GraphDB。descriptor 必须 grounding 到原文，并做同义/人名归一，能低成本获得图遍历能力。
- 会话式导购/多跳商品搜索中，用「accumulated evidence」选择下一步要扩展的属性或关系，而不是重写整个 query 或遍历所有关联属性：让 LLM 基于已确认的用户约束和商品信息，从当前候选 descriptor 里只挑几个最可能补全信息缺口的方向，可显著节省检索预算。
- 回答/推荐理由生成前增加「充分性校验 + 证据链填空」：让 LLM 写出 (entity, attribute, value) 链，并强制每个 value 必须出现在已检索内容中，能拦截模型用参数记忆胡编，适合电商 QA、卖点解释和售后理由。
- 多跳检索结果按证据链重排，而非仅按 query 相似度：通过关系/属性间接命中的商品或内容，应优先展示能支撑最终结论的节点，可提升 RAG 上下文质量和推荐理由的可信度。
NorthCUA：通过大规模经验飞轮加速计算机使用代理
🧭 Agent 经验飞轮与强化学习
Shanghai Qiji Zhifeng Co., Ltd.
用经验飞轮、分级学习与桌面-网页联合强化学习，训练出开源SOTA的计算机使用代理模型族
📌 工作参考价值（4 点）
- 借鉴经验飞轮机制：在电商/搜索推荐 agent 中，将用户交互轨迹作为经验，通过结果校验（转化、点击、任务完成）筛选高质量轨迹，持续扩充训练数据，形成数据闭环。
- 对未成功任务采用递归自改进：保存已验证的里程碑，让后续尝试在已有进展上继续。适合长程多轮推荐/导购场景，避免每次从零开始，提升任务完成率。
- 分级学习策略：先 mid-training 注入 grounding 数据（如商品/页面结构化信息）建立基础能力，再 long-horizon SFT 学习完整任务轨迹，最后用在线 RL 在真实环境中闭环优化。可复用为：领域继续预训练 → 人工标注 SFT → 在线策略迭代。
- Ultrafast 的思路：直接动作选择与开放生成结合，在低延迟场景（实时推荐、搜索响应）可用混合解码策略，牺牲少量质量换取显著响应速度。
ParetoSaddler：面向质量与成本的智能体 Harness 帕累托优化
🧭 Agent 系统调优 · 多目标优化
University College London · Pohang University of Science and Technology · Southern University of Science and Technology · Southeast University · Microsoft
分离中间候选提升与最终部署选择，用 Bayesian bootstrap Pareto 支持联合优化 Agent 质量与成本
📌 工作参考价值（4 点）
- 在 Agent/RAG 优化流程里引入 Pareto 支持度而非单目标打分：电商搜索/推荐 Agent 常需同时优化答案质量与 token/API 成本，中间迭代可先接受任一维度的可信提升，避免高质量但高成本的中间方案被过早丢弃。
- 用 Bayesian bootstrap 对多次执行结果做显著性过滤：LLM 评估噪声大，只保留跨 run 有稳定增益的 harness 候选，能减少线上实验浪费；可直接用于 prompt、tool 选择、中间件参数的 A/B 调优。
- 将候选提升与部署选择解耦，保留 Pareto 前沿而非单一 best：便于业务按实时的成本/质量约束从前沿选配置，例如大促期选低成本兜底、高价值用户选高质量方案。
- 可迁移到推荐 Agent 的 harness 搜索：固定模型权重，只优化 prompts/tools/control logic，通过重复执行与 Pareto 提升做低成本多目标迭代。
SWE-Trail：历史引导的编程 Agent 轨迹采集
🧭 Agent 轨迹采集 · 历史引导分配 ★ 深度解读
University of Connecticut · Ant Group
用历史轨迹引导采集资源分配但不进入 agent 上下文，训练收益提升 2.33/1.60 pp
📌 工作参考价值（4 点）
- 可直接迁移到电商/导购/搜索 Agent 的轨迹采集：为每个 task 维护 prior trajectories bank，但不要把这些历史塞进 agent context；用历史作为 collector 侧信号，让 agent 从普通上下文生成动作，避免模型在测试时依赖不存在的外部 advice。
- 做分支对比采样：在历史检测到的关键状态，从同一 checkpoint 并行短执行两个候选动作，用环境反馈/奖励/测试信号选择路线；保留 agent 原始 reasoning/actions，删除未选分支和 collector 私有事件，保证训练轨迹为连续且无外部信息的单条 rollout。
- 优先在 mixed histories 上投入采集：成功/失败都有的任务最值得多做分支比较，stable-solved 和 never-solved 收益有限；历史规模 5 条 prior attempts 已接近饱和，继续加到 10 条 token 成本增加 66% 但收益很小。
- 评估数据采集方案时，值得做 H0 和随机化消融：H0 控制采集管线本身，random detection/random retention 分别检验“在哪里比较”和“保留哪条路线”，能避免把 resolved 轨迹数量误当成下游训练价值。