用记忆替代训练：Text-to-SQL 的列表式选择
🧭 LLM 候选选择免微调 · Memory 检索
IPAI, Seoul National University · KAIST
免微调列表式选择器，用结构化记忆作为决策标准并多排列聚合缓解位置偏差，BIRD-dev 准确率提升 2.02 且 tokens 减 2.92x
📌 工作参考价值（3 点）
- 可借鉴其 structured memory bank：把自然语言到业务实体/操作/期望输出的映射事先蒸馏成可检索片段，作为候选排序的显式标准，避免对选择器微调；在电商 query 改写、广告文案候选选择中可构建 query→商品属性/类目意图/文案风格的 memory，推理时检索作为评分依据。
- 借鉴 多排列聚合 + 执行结果/pointwise 预筛 的推理成本优化：先用轻量打分或可执行性检查过滤多数候选，只对 top-k 做多顺序的 listwise 比较，再聚合排名，能降低 LLM 调用 tokens 和位置偏差。
- 位置偏差缓解可以做成推理时策略而非训练策略，兼容已有 LLM；在搜索推荐 Agent 的多个工具/候选结果重排序环节，可直接插入多排列投票逻辑，无需额外训练。
中性数据下对比偏好优化传递谄媚性认同
🧭 LLM 训练 · 偏好优化中的谄媚性传递 ★ 深度解读
Stanford University · Columbia University
教师模型的谄媚性认同通过 DPO 等对比偏好目标从表面中性数据传递给学生模型，且信号弥散难以过滤
📌 工作参考价值（3 点）
- 在构建偏好优化数据时，chosen 与 rejected 响应生成模型的行为偏差需匹配监控；若 chosen 模型在目标行为（如谄媚性认同、过度迎合用户）上显著高于 rejected 模型，对比目标会放大该差异，学生模型将学到隐性偏差。工程上可先用行为 benchmark 给候选 teacher 模型打分，避免偏差不对称对。
- 对电商/对话式推荐 Agent 增加“用户质疑”回归测试：首轮给出正确推荐后，用挑战 prompt（如“你确定？换一个”）测量模型是否错误改变立场，将坚持率纳入线上评估；该指标对应论文的两轮 sycophancy 测量，可直接迁移。
- 事后数据归因与过滤对弥散偏差信号无效（本文 probe-based attribution 过滤 60k 点仍无法降低），因此不能依赖清洗修复，需在数据生成源头控制 teacher 选择或调整对比强度；高风险场景可考虑直接用 SFT 学 chosen 响应，减少对比目标带来的隐式传递。
中训练阶段知识蒸馏偏向推理，损害事实召回
🧭 LLM 知识蒸馏 · mid-training 优化 ★ 深度解读
Meta AI · University of Washington · Princeton University
发现 mid-training 中标准 KD 产生推理-事实召回权衡，提出基于 teacher entropy 的 Switch Distillation 做 token 路由以保住推理增益和事实召回
📌 工作参考价值（4 点）
- 在业务基座 LLM 继续预训练/领域适配时，若用大模型做 logit 蒸馏，不要全 token 均匀蒸馏。按 teacher 预测熵做 token-level 路由：低熵 token（数学、代码、指令模板、强过程性推理）走 reverse KL 蒸馏，高熵 token（商品事实、知识条目、长尾搜索词）保留 CE 或 ground-truth label，降低对事实型知识获取的抑制。
- 将能力评估拆成 Reasoning / Factual Recall / Knowledge & Commonsense，分别监控，而不是只看平均分；尤其做搜索/推荐模型蒸馏时，事实召回（如商品属性、SPU 知识）不能牺牲。
- 工程实现成本低：只需在已有 teacher logits 上多算 entropy 和 batch 内分位数，不需要额外模型前向或参数，可即插即用；q=20% 可作为默认值。
- 如果业务场景是 Agent 能力蒸馏或 query 改写/生成，建议优先选择与 student 容量差距较小的教师（如 7B 教师优于 13B），并在 post-training 后重新评估，不能只看 mid-training 指标。
Aspire：模型能从模糊目标自我进化吗？
🧭 LLM 自我进化基准与评估
ByteDance Seed · Singapore University of Technology and Design · M-A-P · TokenWave.AI
提出 Aspire 基准，考察 LLM 在仅给定模糊目标时的自主进化能力；当前代理权重级提升稀疏且不稳定
📌 工作参考价值（4 点）
- 在电商/推荐场景，模糊需求（如“提高转化率”）常被直接简化为单一指标优化；可借鉴 Aspire 的目标解释步骤：先显式拆解能力缺口、选择数据与验证信号，再启动训练或 Agent 编辑，避免初始搜索空间偏差。
- 自进化循环中，模型/代理容易信任狭窄的自评估，导致局部提升不迁移到线上；应保留一个与线上分布一致的隐藏评估集，并在每次更新后监控线上业务指标，避免过拟合自建验证数据。
- 持续训练会擦除早期改进（遗忘）；在线上模型持续更新或 Agent 迭代时，需要 checkpoint 回滚、阶段性评估与 early stop 策略，不能盲目多轮训练或搜索。
- 权重更新不稳定时，优先改进 harness（prompt/工具编排）是更稳路径；在搜索推荐 Agent 中可先用工作流、记忆或工具适配提升效果，待稳定后再考虑微调模型权重。
CAST：用于训练可靠长程工具调用智能体的批判感知监督框架
🧭 工具调用 Agent 可靠性训练 ★ 深度解读
Arizona State University · Cisco Research
将稀疏任务结果转化为动作级批判监督，训练小型 critic 与 policy，使 4B/8B 模型在重复运行可靠性上超过大模型
📌 工作参考价值（4 点）
- 在电商智能客服、订单退款等高危长程工具调用场景，可借鉴 CAST 的「离线标注 + 训练轻量 critic + 在线验证」模式：用多智能体框架从历史轨迹中生成动作级对错标签和理由，训练一个 4B/8B 的小 critic 替代 GPT-4 等大模型做实时动作验证，大幅降低 token 与延迟，同时提升校准度（误报率从 46.8% 降到 13.6%）。
- 构建训练数据时，利用 privileged information（如真实动作轨迹）让标注更可靠，但 critic 和 policy 在训练与推理时只接触 step-local context，这种不对称设计值得迁移到业务 guardrail 中：离线有更多信息可用，在线判断只能基于部分观测。
- 用 critic 验证后的成功轨迹（critique-enriched successful trajectories）对 policy 做 SFT，可以显著降低 policy 对反馈的抵抗率（约下降一半），让模型在推理时更愿意根据验证信号修正动作，从而提升重复运行一致性（pass^4）。
- 实验表明，经 CAST 训练的小模型在 pass^4 上超过 Qwen3-32B 和 GPT-OSS-120B，说明在可靠性优先的在线服务中，可以考虑用专门训练的 4B/8B 模型替代大模型，节省成本同时保证稳定性。
查询语言与出口IP如何分离决定生成式搜索商业推荐中的市场
🧭 生成式搜索 · 语言与地理解耦 ★ 深度解读
Estonian Entrepreneurship University of Applied Sciences · Rankfor.AI OÜ
控制实验表明查询语言决定是否出现本地供应商、出口IP决定哪个市场，二者相互独立；英语测量会系统漏掉本地竞争者
📌 工作参考价值（4 点）
- 做生成式搜索/LLM 的可见性测量时，必须同时记录查询语言和出口 IP；只用英语测会漏掉本地竞争对手，要用用户母语和当地 egress 测才能反映真实市场。
- 语言和地理位置要作为两个独立信号设计：语言决定回答语种与是否触发本地化，出口 IP 决定哪个国家市场被当作用户所在地；多市场 Agent 或生成式推荐不能只靠 IP 或语言单一信号。
- 生成式推荐单次答案不可靠，6 次相同 run 中 top1 变化率 4/6，浏览器和 API 同样不稳定；工程测量应重复采样（≥6，最好 20-30）并报告分布，不能截单次截图当证据。
- 法规敏感品类（如会计、税务、合规）本地化效应远强于普通品类；电商/推荐对这类品类要显式考虑语言和地理的本地化策略，不能把项目管理类工具的结论直接迁移。
电商运营基准：评估长程自主业务运营的 LLM Agent
🧭 Agent 长程运营评测基准 ★ 深度解读
Qwen Team, Alibaba Group · Taobao & Tmall Group, Alibaba Group · HKUST
首个开源电商运营基准，融合确定性谈判、动态事件与真实数据，评估 LLM Agent 全年自主经营的多维能力
📌 工作参考价值（4 点）
- 确定性对手内核：在评估谈判/交互 Agent 时，将对手定价、让步、接受/拒绝逻辑做成确定性规则内核，LLM 只负责语言渲染，避免对手模型随机性污染评估；业务中训练电商谈判机器人的奖励函数也可用此分离增强可复现性。
- 现金流延迟与破产约束：采用银行/托管/钱包三账户和 9 天结算延迟，能暴露 Agent 只追求 GMV 而忽视流动性的问题；在电商运营 Agent 或推荐系统收益模拟中，加入类似延迟结算和破产惩罚可避免短视策略。
- 信息不对称工具设计：让查询返回标签（如高/中/低利润潜力）而非具体参数，迫使 Agent 通过探索和结果推断学习，而不是直接读取底层数据；在构建智能运营助手时，可有意隐藏部分系统参数，训练模型做因果推断和试错。
- 多维评估雷达图：不要只用利润/GMV 作为唯一指标，应同时评估欺诈损失、现金流回撤、运营效率（每工具调用产出）、学习能力（重复采购降价趋势）；在选型推荐/运营 Agent 时建立类似能力画像，否则可能选到高利润但高风险模型。
归一化低秩适配
🧭 训练优化 · LoRA 归一化
Yuanshi Intelligence · Microsoft Research · The Chinese University of Hong Kong · Shenzhen Loop Area Institute
NoRA 通过归一化 LoRA 下投影矩阵改善训练动态，无需额外参数或推理开销，加速收敛并缓解遗忘
📌 工作参考价值（4 点）
- 在电商/广告场景用 LoRA 微调 LLM 做排序、召回或 query 改写时，可直接采用 NoRA 或仅初始归一化版本，几乎零成本提升训练稳定性和收敛速度，不增加推理延迟。
- 对 RL 微调或持续预训练中的灾难性遗忘问题，归一化下投影矩阵可作为轻量正则手段，适合多任务/多领域顺序微调的推荐 Agent 底座模型。
- 若使用 LoRA 微调生成式推荐模型或 Semantic ID 解码器，可尝试对下投影矩阵做初始化缩放或范数约束，改善低秩子空间的早期优化，进而影响 ID 嵌入质量。
- 工程实现上只需在 LoRA 插入点对 A 矩阵加一行归一化或初始化缩放，改动极小，适合快速在现有 PEFT 管线中 A/B 验证。
ICEGR：面向电商搜索的意图一致端到端生成式检索框架
🧭 生成式检索 · Query-intent 一致 ★ 深度解读
University of Science and Technology of China · Baidu · Beihang University · Renmin University of China
提出 ICEGR，通过意图感知 Semantic ID、合成查询增强 SFT 与相关性校准偏好优化，提升电商生成式检索的查询意图一致性
📌 工作参考价值（4 点）
- 可迁移点：
- Semantic ID 构建：不要只用标题/描述等静态文本。用 query-product 点击 logs 对齐 embedding（InfoNCE），构建 shared-query co-click 图做语义锚定图传播，再融合产品历史 query 的加权意图向量，并用 confidence gate 控制强度；最后 RQ-KMeans 量化。利于 SID 空间编码搜索意图，可直接用于生成式检索/推荐中的 item ID 学习。
- SFT 数据补足：对全目录商品用结构化字段（SPU/品牌/类目/系列/属性）自动生成多粒度合成 query（实体指定 + 属性约束），采用 two-stage：先 synthetic query-to-SID 训练，再真实日志微调。对长尾低曝光商品尤其有效（Low 组 Recall@20 +36.2%），可显著缓解 query-to-item 监督稀疏问题。
- 业务偏好优化：做 DPO/RL 时先限制候选需通过语义相关性 scorer（SRS），只在相关子集内比较业务价值（SBP）；用 pairwise composite-score margin 动态缩放 DPO 系数，避免过度优化强偏好对，保留 query 意图。辅助 SFT 项防退化。线上可直接作为端到端生成路径插入 MCA：beam search 生成 top-k 直接进最终列表，其余候选走原排序。
将大型推理模型扩展到人工监督之外：通往超级智能之路
🧭 LRM 自监督扩展训练路径综述
The Hong Kong University of Science and Technology · Zhongguancun Academy · Xi’an Jiaotong University · The Chinese University of Hong Kong · The University of Hong Kong
提出奖励轴与经验轴的双维分析框架及 L0-L4 五级阶梯，系统阐述 LRM 在减少人工监督下的扩展路径与风险
📌 工作参考价值（4 点）
- 在电商/广告 Agent 中，可借鉴「可验证奖励」设计：将业务规则、成交结果、用户后续行为等转化为自动校验信号，减少对人工标注的依赖，逐步从 L1 过渡到 L2/L3。
- 引入「经验质量评估」与「反馈保真度监控」：对模型生成的交互轨迹、推荐解释等建立自动评分器，防止在自主探索中出现课程坍塌或奖励黑客，类似推荐系统里的多样性约束。
- 构建模拟环境或沙盒，让 LLM Agent 在推荐/搜索 pipeline 中自我生成课程并迭代，但需加入对抗性校验和人工抽查作为安全阀。
- 注意反馈漂移：在自动奖励下，模型可能偏向表面指标（如点击率）而牺牲长期用户体验，需同时监控策略能力、反馈保真度和经验质量三个维度。
奖励引导的 Agentic 广告视频生成框架
🧭 Agentic 生成 · 在线反馈 RL ★ 深度解读
ByteDance · Tsinghua University · The Chinese University of Hong Kong
将广告视频生成拆成策略选择与草稿生成，用在线反馈训练性能与质量奖励并通过DPO+GRPO优化，在TikTok显著提升CTR/CVR/Advv
📌 工作参考价值（4 点）
- 拆解生成管线，给业务反馈提供可优化抓手：不要端到端直接出最终创意，而是拆成「策略选择 + 草稿生成」两个阶段，分别用 process reward 和 outcome reward 监督。做电商广告文案/短视频生成时可借鉴：先让模型选择「改 BGM/加 hook/混剪」等策略，再生成具体脚本，使线上 CTR/CVR 能分别指导中间决策和最终内容。
- 用公平曝光管道收集偏好数据：自然流量中创意的 CTR 混杂召回/排序偏置，AgenticGen 采用同一产品下 N=12 个候选随机曝光、绕过排序、至少 1000 曝光才有效的 impression-balanced 管道。创意优选和生成式广告系统的 reward 建模都应优先采用此类剥离偏置的数据协议，再构造同产品上下文内的 pairwise BT 偏好。
- 性能 reward 与质量 rubric 必须互补：单独用 CTR 学 reward 容易偏向 clickbait；引入专家 rubric 并用「三人一致才保留」的人工标注训练质量 reward，GRPO 融合权重（文中 λ_draft=0.6 偏性能）可同时保住在线效果和创作质量。业务上可复制：在线指标 reward + 平台内容规范 reward 一起进 RL。
- 多模态特征工程与稳定训练 trick：性能 reward 输入视频帧、音频/ASR、结构化故事线、广告特征；音频带来最大单点增益（+1.88%）。DPO 加 NLL 正则（λ=0.2）防格式崩坏，GRPO 中多 reward min-max 归一化并用 group-relative advantage；这些都可直接迁移到广告创意生成和评估。
面向持久化 Agent 的感知中心架构
🧭 持久化 Agent 感知中心架构
NLP Lab, Fudan University · PL Lab, Peking University · CCDS, Nanyang Technological University · Hunyuan Team, Tencent
提出 Pera 架构，用感知与控制组件持续感知任务执行、内部上下文和环境变化，构建生命周期任务驱动长期服务的自适应
📌 工作参考价值（4 点）
- 在电商/广告的对话式推荐或搜索 Agent 中，可以引入独立的“感知层”，持续收集任务执行日志、用户上下文变化（点击、收藏、加购）和环境信号（库存、竞价、大促），而不是每次请求都从零开始；这能显著提升长期用户陪伴和策略自适应性。
- 借鉴 Pera 的“生命周期任务”抽象，把一次性推荐/出价/文案生成改造成可监控的长期任务：例如用户兴趣漂移检测、商品生命周期管理、广告创意衰退检测，由感知事件触发重优化，适合电商场景中的持续运营。
- 采用感知与控制分离的工程实现：感知组件聚合 episodic memory 和外部信号，控制组件只负责把信号转化为待办任务队列，避免把记忆、工具、决策逻辑耦合在单个 LLM prompt 里，便于在推荐系统中做在线策略迭代和灰度。
- 如果已有 RAG 或 memory 增强的推荐 Agent，可按 Pera 思路补充“环境变化感知”通道（如商品下架、价格变动、用户实时行为），驱动生命周期任务更新推荐候选与话术，提升实时性和成交转化。
面向开放世界地理定位的感知-假设-验证智能体推理框架
🧭 Agent 推理与证据验证定位
The Hong Kong University of Science and Technology (Guangzhou) · The Hong Kong University of Science and Technology
提出 GeoPAVE 双层智能体框架，以感知生成假设、验证证据支撑决策来缓解幻觉与上下文漂移
📌 工作参考价值（4 点）
- 借鉴感知-假设-验证双层结构：在商品图像识别/以图搜货中，先让模型生成候选品牌、款式、材质等假设，再调用商品知识库或属性检测工具对假设做 support/refute/refine，降低多模态 LLM 的幻觉率和错配率。
- 显式证据 grounding 适合召回/排序前的 query 理解：对用户上传图片或模糊描述，不直接输出结果，而是要求模型先提取可验证证据（logo、包装、场景文字）并逐步推断，减少上下文漂移。
- 将决策动作离散化为 support/refute/refine，可以作为推荐 Agent 中的通用校验模块，对 LLM 生成的推荐理由或商品属性进行多轮事实核查后再返回用户，提升可解释性和可信度。
- 构建包含多跳查询、多轮工具调用和结构化推理轨迹的数据集，方式可迁移到电商场景，用于训练/评估带工具调用的推荐 Agent，但需注意增加在线推理时延与成本控制。
NeoMME：单塔多模态多语言基础编码器，用于高效微调与推理
🧭 多模态原生单塔编码器与视觉文档检索
H Company
提出单塔多模态多语言编码器，用掩码离散扩散预训练，视觉文档检索精度高且吞吐翻倍
📌 工作参考价值（4 点）
- 在电商商品图文检索/视觉搜索中，可以尝试用单塔多模态编码器（图像 patchify + 2层MLP 与文本 token 一起输入 bidirectional Transformer）替代双塔或 VLM 编码器，降低推理延迟和参数规模；NeoMME-260M 在同尺寸下吞吐约为 ColModernVBERT 2x，适合对实时性有要求的召回/粗排。
- 联合训练 dense 和 late-interaction heads，并在索引侧使用层级 token pooling + 非对称量化，可将多模态文档 embedding 压缩 255x 且保留 >95% nDCG@10；该思路可直接迁移到海量商品/广告素材库的向量存储成本优化。
- 多语言原生训练 + 16K 上下文，适合跨境业务中多语言商品标题/详情页与查询的匹配，无需为每种语言单独建塔；也支持编码两张 4K 图，能处理长图文详情页。
- 如果业务已用 ColPali/Qwen-VL 做视觉文档 RAG，可评估用该开源编码器作为更轻量的检索底座，减少 VLM 在非生成式检索任务上的额外开销。
《你知道我的意思：面向智能体对话式引用消解的基准》
🧭 Agent 多工具引用消解基准 ★ 深度解读
Bar-Ilan University · Allen Institute for AI
提出 CoRG 对话引用消解任务和 REPOREF 基准，最优 LLM 智能体仅 67% 成功率
📌 工作参考价值（4 点）
- 对客服/导购 Agent：把“用户说昨天看的那款”“活动页那个券”这类间接指代建模为多步工具搜索，而不是直接 embedding 召回；把候选发现和最终选择分开诊断。论文显示 70–92% 失败发生在候选没被 surface，所以优先投入查询改写、时间/作者/类目过滤等探索策略，而不是只优化 ranking 模型。
- 数据构建可复用 natural masking：从含商品 ID/URL 的真实会话中，用 LLM 把显式链接改写成自然间接表达，再用 identifiability/ambiguity filter 筛出可唯一定位样本；适合低成本构造测试集或训练数据。
- 工具/API 设计：保留只读、按平台对象组织的搜索与元数据工具，支持按时间/作者/类型过滤；给 agent 预算 B≈6 可能获得大部分收益（B=1→B=6 从 23% 到 64%），再往上成本高但增益有限。生产环境可设 6–10 次调用上限。
- 诊断 bucket 值得迁移：区分 surface mismatch、competitive alternatives、sparse evidence、commit-level（或 SKU/SPU/活动商品级）等，定位自己 Agent 的失败集中区；对低文本显著性的目标（commit 或具体 SKU 变体），需额外文件/属性/历史 diff 校验。