针对翻译微调LLM：通用遗忘缓解不保护MT特定指令遵循
🧭 LLM 微调与灾难性遗忘缓解
AppTek GmbH, Aachen, Germany · Machine Learning and Human Language Technology, RWTH Aachen University, Germany · Applied Science Private University, Amman, Jordan
比较微调中的遗忘缓解方法，发现EWC保留通用能力最好，但只有混合控制任务数据可保留MT特定指令遵循，且泛化有限
📌 工作参考价值（3 点）
- 在电商/推荐场景微调LLM（如生成推荐文案、query改写、对话Agent）时，建议添加EWC正则化：实现简单，能显著减缓通用基准能力下降（本文8B模型仅降1.7分 vs 标准微调11.0），同时不影响领域任务性能。
- 若需要保留多种控制能力（如文案语气、长度、格式），仅靠通用遗忘缓解不够，应在微调数据中混合少量控制任务示例，但需注意对未见过的指令模板泛化有限，因此要持续扩充控制任务的数据多样性。
- 评估微调模型时必须同时监控通用能力和任务特定指令遵循，不能只看单一指标，因为通用能力保留不代表特定控制能力保留。
支持编译特征折叠：跨表格基础模型以更低内存获取更多证据
🧭 表格基础模型 · 特征折叠推理优化
Ant Group · Independent Researcher
训练免推理框架 SCFF 将宽表二次特征交互转为线性宽度工作，内存降低且精度提升
📌 工作参考价值（4 点）
- 面对电商/广告场景的高基数特征宽表（用户/商品/上下文特征可达数千列），可借鉴 SCFF 的「support-ranked + bounded leaves」：先按特征对任务的支持度排序，再分批送入同一冻结编码器，避免全量列成对交叉带来的 Θ(TD²) 显存峰值；线上推理可把峰值显存压到可部署边界，同时保留更多证据，而不是做 hard 特征选择。
- 将「节省的显存预算重新投回特征证据」用于特征裁剪或特征工程：先设定峰值显存上限，按 support 排序动态保留更多高支持特征，能比固定宽度单批获得明显精度提升；适合需要长期维护且不便重训的大表模型。
- 训练免、不改骨干的合并推理模式对业务友好：冻结的大规模表格/多模态模型升级时，只改 inference routing 和 message merging，不需要重训或新增参数，降低工程风险；可作为线上 AB 的轻量优化。
- 有界 working set 和 single contextual prediction 的做法可用于 serverless/批推理：避免 ensemble 多次预测，减少 QPS 成本，同时用 merging 保证单次上下文预测质量。
直接问Jev：强化学习校准决策作为零样本AI对齐失败检测器
🧭 AI对齐失败检测与基准评估
Griffith University · Nanyang Technological University · UNSW · Deakin University · George Mason University
提出RLCDAlignBench，证明RLCD训练的Jev单次调用零样本检测十类对齐失败，中位AUROC 0.886，成本比LLM judge低63倍
📌 工作参考价值（4 点）
- 借鉴Jev的单次多问题校准概率输出，在内容安全审核或商品合规检测中，用一个轻量判别模型替代LLM judge，一次前向同时输出多个风险标签及置信度，成本降低数十倍，适合在线实时过滤。
- 将“问什么”与“看什么”分离：设计通用问题模板，通过变化输入字段（如商品标题、描述、用户评论、上下文）快速构建零样本评估器，无需为每个业务场景单独标注数据。
- 利用校准概率作为触发人工复核的阈值信号，对低置信预测进行抽检，可提前发现标注噪声或数据缺陷，改善训练数据质量。
- 在Agent安全评估中，采用类似RLCD对齐检测思路，对模型输出进行多维度失败检测（如幻觉、泄露隐私、越权），作为上线前的自动化闸门。
智能体编辑世界模型：为LLM智能体重新思考世界建模
🧭 Agent 世界模型 · 决策状态编辑 ★ 深度解读
中国人民大学高瓴人工智能学院
提出AEWM，将世界模型从预测环境观测转为编辑智能体状态，缓解任务状态污染并提升长程智能体表现
📌 工作参考价值（4 点）
- 在电商/搜索 Agent 场景，不要花大力气预测高熵搜索结果或工具返回，而是训练一个动作效应判别器（critical / exploratory / noisy），在真实执行前截断 noisy 决策，直接编辑 reasoning+action 再执行，能减少无效检索和错误假设累积。
- 三分类（critical / exploratory / noisy）比二元好坏更实用：保留信息收集类探索动作，避免过度剪枝；可用于 query 选择、页面抓取、工具调用门控等环节。
- 用修正后的轨迹做 rejection sampling fine-tuning（AEWM-RFT），可将在线干预能力蒸馏回小 agent，线上无需额外世界模型，适合部署受限场景；类似把 verifier / controller 蒸馏进策略模型。
- 数据合成可复用：用强模型标注成功轨迹中每步贡献类型，将被判为 noisy 的步作为 revision 训练样本，并依据后续真实执行是否取得实质进展过滤，能获得高质量的状态纠正数据。
Agensh：将组织智能扩展至1024个智能体
🧭 多智能体自组织协作扩展 ★ 深度解读
Microsoft Research
去中心化自组织多智能体框架，无中心协调者扩展到1024 agents，长程重建任务成功率随agent数量提升且更快达标
📌 工作参考价值（4 点）
- 去中心化任务自组织：在选品、搜索 query 挖掘、商品知识库构建等需要大量并行探索的场景中，用 shared context 中的 CLAIM + 类型化记录替代中心 planner，能避免单点瓶颈；尤其 FAIL 记录可以防止多个 worker 重复尝试无效方案。
- 用成熟组件搭 multi-agent 基础设施：Git / Gitea 做 workspace，Mattermost 做消息，append-only board 做共享记忆，工程成本低且原生支持并发合并与冲突检测；电商 Agent 并发修改商品文案、活动页时可直接借用。
- 消息分级与 mid-turn 注入：对冲突或依赖用 direct message 在当前 turn 送达，普通公告在下一回合开始处理，能显著降低协调延迟；适合实时广告调价、大促实时选品等对延迟敏感的业务。
- 规模化带来“更快达到同一效果”：如果业务任务有硬时间预算，增加并发 worker 数不仅提升最终质量，还能缩短达到给定质量的时间；可尝试从少量 Agent 扩展到 100+ 做长程生成式任务。
AI辅导与人类专家在GRE学习增益上等效
🧭 对话式AI教学效果评估与基准
StudentBench平台证明AI辅导在GRE学习增益上等效于人类专家，成本低918倍
📌 工作参考价值（4 点）
- 在电商/搜索推荐系统的对话式Agent评估中，借鉴统计等效性检验（而非单纯显著性差异）来验证AI方案与人工方案的效果对等，可降低上线风险。
- 将成本效率作为核心指标：计算单位用户行为增益（如点击率提升、转化增量）的AI调用成本，对标人工运营成本，为技术选型提供量化依据。
- 响应速度与用户互动深度正相关（论文中速度→消息数→正确练习→学习增益），推荐系统Agent应优先优化首响延迟和流式生成速度，可能直接提升用户参与度和转化。
- 构建公开评测平台收集大规模真实用户-Agent交互数据，用于横向对比不同模型/策略，加速迭代；电商场景可搭建类似Benchmark，统一评估多Agent的推荐对话质量。
测量的是服务栈而非模型：本地工具调用评估的隐藏混淆
🧭 LLM 评估 · Tool-Use 服务栈混淆
Northeastern University, Seattle
本地 Tool-Use 评估中 serving stack 的协议差异会系统性污染模型工具调用保真度测量结果
📌 工作参考价值（4 点）
- 在自建 LLM Agent 评估时，把 serving 层返回码、rejection、retry exhaustion 作为结构化字段写入轨迹；否则模型未调用与 HTTP 400/重试耗尽会被混为 0% 工具调用保真度。
- 对齐不同推理栈（Ollama/llama.cpp/vLLM/SGLang）对 tools= 请求的处理：先用同一批请求做 cross-stack probe，确认返回的是 native tool_calls 还是文本，避免把服务栈行为当成模型差异。
- 对需要文本工具列表的模型，采用“保留 native 通道 + 额外文本 tool list”的协议可能恢复测量保真度；不要对所有模型强制统一 text protocol，Llama-3.2 等原生工具调用模型反而会下降。
- 指标口径避免 turn-pooled 与 per-instance 混用，二者可差约 55 个点；constrained decoding 能压缩解析失败，但要监控非终止与长尾延迟。
超越重复采样：学习用于LLM推理的搜索策略
🧭 LLM推理 · 可训练搜索策略 ★ 深度解读
Meta FAIR · Université Paris-Saclay · Inria · CNRS · NYU Courant Institute and CDS
用RL训练小型概念生成器作为大模型推理的搜索策略，在hard数学问题上pass@128翻倍并跨模型迁移
📌 工作参考价值（4 点）
- 推理时多样性不要只调 temperature/top-p，可以在 prompt 层注入多个高层概念、策略或意图，并用单轨迹批量生成，避免近重复采样；对应推荐/广告中可对同一 query 生成多个语义方向再分别生成候选文案或推荐理由。
- 训练小型 orchestrator/概念生成器作为黑盒或闭源大模型的搜索策略，RL 奖励直接来自下游大模型的 pass@k；max-of-mean 比 max-of-max 信息量更大、更稳定，适合作为奖励聚合方式。
- 训练成本主要在下游大模型 rollout 和 judge，可以用固定 judge 复用并离线采样；在业务中训练轻量 agent 来引导重模型探索，不必微调大模型，且学习到的策略可跨模型家族迁移。
- 实验设计要公平：基线必须使用高温度、高 top-p 的探索性解码，否则概念引导或策略提升的效果可能虚高；报告 pass@k 时要匹配相同的 answer generation 预算。
离线策略评估中序列标注预算的最优分配方法
🧭 离线策略评估 · 标注预算优化
University of Southern California · University of California, Berkeley · University of Washington, Seattle
在离线评估中，用有限标注预算优化序列标注概率以最小化方差，结合双重稳健处理缺失标签
📌 工作参考价值（4 点）
- 在电商搜索推荐场景中，构建离线评估集时往往需要人工标注或付费获取真实点击/转化数据。该方法提供了一种方差最优的标注采样策略：根据样本对评估方差的影响程度分配标注预算，而不是随机采样，可以在相同预算下显著降低策略价值估计的 RMSE（论文中降低 34-68%）。
- 面对 LLM-as-a-judge 存在的未知偏差，可采用论文中的双重稳健 OPE 框架：将 LLM 标注作为缺失奖励的插补模型，结合少量专家标注进行校正，既降低成本又控制偏差。
- 序列推荐/会话评估中，论文提出的前向单调标注协议很有借鉴意义：只标注序列中当前及之后的关键状态点，避免回溯标注成本过高，适合在线动态标注场景。
- 批量自适应实现思路可迁移：在推荐系统 A/B 测试模拟中，先基于历史数据估计每个 context 的潜在方差，再动态调整后续批次的标注概率，逐步逼近最优分配，工程上容易落地。
CliffCompaction：面向长程编码智能体的高成本效率上下文压缩
🧭 Agent 长程上下文压缩与成本优化
Carnegie Mellon University · Bosch Center for AI
一种只截断/丢弃、不重写原文的自动压缩法，在受限上下文下最多降低50%成本并保持或提升编码Agent性能
📌 工作参考价值（4 点）
- 在需要长会话/多轮 Agent 的场景（如导购、客服、推荐解释）中，上下文压缩优先采用“只截断/丢弃原始内容、不重写”，避免摘要改写引入信息偏差，可显著降低 API 成本且保持质量。
- 强制“绝不压缩已压缩内容”，每轮压缩都基于原始会话/文档，防止跨轮次的上下文漂移累积，适合超过百万 token 的持续学习/多轮交互。
- 将压缩逻辑做成 API proxy，不改动现有 agent scaffold 即可接入 Claude Code、Codex 等，业务侧可快速对现有推荐/广告 Agent 工作流做成本优化和 A/B 测试。
- 用相同预算做 test-time scaling（如并行采样多个推荐解释/策略）时，压缩带来的 per-rollout 节省让更多采样成为可能，可能以更低成本获得性能提升。
从已解机制生成可验证隐藏动态的智能体RL环境
🧭 Agentic RL 环境生成与策略训练 ★ 深度解读
Georgia Institute of Technology · Alibaba Token Foundry, Alibaba Group
先求解运筹模型再渲染为有状态工具环境，用同一参考解固定奖励，低成本生成可验证的Agentic RL训练环境
📌 工作参考价值（4 点）
- 借鉴机制优先构建：在电商/供应链场景，可用库存控制、路径规划、调度等运筹模型作为底层机制，用求解器预先算出最优值和默认策略值，生成可执行环境并归一化奖励（r=(u-u0)/(u*-u0)），避免人工标注或 LLM judge，获得可靠训练信号。
- 通过语料库 grounding 让同类机制产生多样场景：从商品文案、物流文档、活动规则等真实语料采样，让 LLM setter 生成具体工具、数据库和玩家指令，低成本扩增训练环境（每条约 $0.01–$0.03）；可迁移到电商长周期店铺运营、库存补货、多仓履约等 Agent 训练。
- 设计信息不对称接口训练主动信息获取：将需求、库存、价格等关键参数设为隐藏，要求 Agent 通过 probe 工具查询后再决策；论文显示同一模型 written-out 分数 0.962 但 agentic 仅 0.204，说明有状态交互是主要短板，训练后提升至 0.815；可在对话式导购、动态定价、客服工单处理中应用。
- 使用 GRPO 对同一环境的多条 rollout 做组内对比，配合 admission 检查（可执行性、默认奖励区间、最优解一致性）保证环境质量；同时实验表明冻结 35B setter 即可生成有效环境，无需前沿模型，可降低工程门槛。
EmbodiedSWE：编码智能体用于长时程灵巧机器人及策略监督
🧭 编码智能体与机器人策略数据生成
ByteDance Seed · Yale University · Princeton University · Carnegie Mellon University · Stanford University
提出 EmbodiedSWE 基准与 EmbodiedSWE-Gen 流水线，用编码智能体解决机器人任务并生成大规模训练数据以提升 VLA 策略
📌 工作参考价值（4 点）
- 借鉴 EmbodiedSWE-Gen 的思路：让 LLM coding agent 在仿真/沙盒中生成任务解决方案（如推荐策略、用户模拟器或 query 改写规则），再通过参数扰动、初始状态随机化、对象属性变化等方式扩充为大规模多样化交互轨迹，用于训练排序/策略模型，降低人工标注成本并提升长尾场景泛化。
- 为 coding agent 封装可验证的工具 API 与奖励函数（例如模拟用户反馈、转化率仿真器、线上策略回放），使 agent 能迭代 refine 策略；业务上可将验证通过的 agent 方案蒸馏进轻量模型部署，避免线上实时调用的高延迟。
- 利用“单方案/单轨迹→多样轨迹”的扩增方法：在推荐系统中，将一条成功用户轨迹或一个高质量策略通过环境扰动、反事实操作、行为模拟生成大量多样训练样本，缓解数据稀疏和冷启动问题。
- 注意 agent 生成方案需要大量迭代交互且易任务特化，落地时优先离线用于高价值场景（如大促机制设计、自动化营销策略生成），并设置验证门槛以减少无效探索。
FIRE：面向可靠语言模型智能体的失败知情运行时工程
🧭 LLM Agent 可靠性运行时策略
Failproof AI
通过运行时注入定向指令与动作拒绝，不改权重与用户提示，显著提升代理重复成功率
📌 工作参考价值（4 点）
- 对购物导购/搜索推荐 Agent，可记录失败轨迹中失败前的状态（如即将执行危险 shell 命令或改写 query 前），在此状态注入简短定向自然语言纠正，并可选拒绝特定动作，不改模型权重或系统提示，作为低成本可靠性补丁
- 评估 Agent 可靠性时引入 pass^2（两次尝试均成功）而非只看 best-of-2；在电商场景如自动选品/广告文案 Agent，更贴近“稳定交付”要求，能暴露“偶尔成功但不可依赖”的问题
- 用低 tier 模型 + 失败知情策略可逼近甚至超过高 tier 模型裸跑，同时成本约一半；在预算有限的推荐 Agent 场景，可优先做运行时工程而非升级模型
- 做对照实验时用 timing-matched sham 和 generic verification 排除“额外提示/更多思考”的混淆，确认是定向纠正行为在起作用；业务团队可借鉴该 RCT 设计来验证策略有效性
FLEET：从 logits 熵到文本生成中的增强轨迹
🧭 LLM 推理时采样优化
Kharkiv National University of Radio Electronics, Kharkiv, Ukraine
通过记录高熵 token 轨迹并调整 logits，在相同预算下提升采样效率与复杂任务准确率
📌 工作参考价值（4 点）
- 替代重复采样做集成：在生成 query、文案、搜索结果标题等场景中，常用 temperature sampling 生成多个候选再投票/打分。FLEET 的记忆机制可减少重复候选，提升预算利用率，相同精度下速度提升 3 倍。
- 轻量级 logits 调整模块：FLEET 只需根据 token 熵阈值记录轨迹并调整 logits，对现有 LLM pipeline 改动小，易于嵌到在线生成服务中，尤其适合需要控制延迟和成本的电商推荐系统。
- 确定性贪心解码可选：论文在贪心解码下实现确定性输出，适合对可复现性有要求的 A/B 测试或生产环境；用一次校准 pass 自动确定超参数，降低调参成本。
- 面向 Agent 的复杂任务提升：在 LiveCodeBench 等复杂编码任务上大幅提升 Pass@32，说明该方法对多步推理和 agentic 任务有效，可用于电商导购 Agent 的多步规划与执行。
高维潜在表征的可扩散性分析
🧭 扩散模型latent几何与参数化选择
Cornell University · Adobe · Virginia Tech · University of Washington · University of Maryland
发现微调重构编码器会降低latent有效维度并使velocity prediction低效，改用x0-prediction可一致提升text-to-image生成
📌 工作参考价值（4 点）
- 生成式推荐/搜索中若使用latent diffusion在商品或用户表征上做生成，若编码器经过重构微调，应优先采用x0-prediction而非velocity prediction，可避开拟合流形外噪声方向，提升生成稳定性和收敛效率。
- 设计item/user表征autoencoder时，不要只看重构质量；重构微调可能降低有效维度、改变几何结构，需监控latent的intrinsic dimension与流形紧致度，避免下游扩散模型被迫学习大量无效方向。
- 工程实现上，flow matching的velocity目标在高维稀疏latent上常包含大量流形外分量，可在训练时快速对比x0-prediction与velocity prediction的收敛曲线，低成本验证该trick对业务生成任务的收益。
- 对使用CLIP等多模态embedding做文案/图片生成的场景，若对编码器做过重构微调，务必检查其latent几何变化，x0-prediction可能是更稳健的参数化选项。