提示级蒸馏：非参数替代微调的高效推理方法
🧭 提示蒸馏 · 高效推理
Google
将教师模型的推理模式蒸馏为结构化的系统提示，让小模型零微调、低延迟达到前沿推理性能
📌 工作参考价值（4 点）
- 实时推理场景降本：在电商搜索意图理解、推荐理由生成等需要多步推理的任务中，可将大模型的 CoT 推理模板提炼为系统提示注入小模型，延时几乎不增加，推理成本大幅降低。
- Agent 决策加速：在 Multi‑Agent 任务规划中，复杂 CoT 可蒸馏为精简指令，使 Agent 用 4B 模型即可完成原本需要大模型才能做的逻辑推理，适合高并发在线服务。
- 可解释性与合规：提炼出的显式推理步骤天然透明，便于风控、内容审核、推荐解释等场景实现人工校验，满足强监管行业需求。
- 工程快速迭代：无需微调、不改变模型权重，只需更新系统提示即可迁移推理能力，适合 A/B 测试和快速部署至边缘设备。
Token Budgets：63起LLM Agent预算超支事件实证目录与Rust仿射类型缓解
🧭 Agent 预算控制与类型安全
构建63起LLM Agent预算超支事件分类目录，并利用Rust仿射类型实现编译时防超支的token-budgets库
📌 工作参考价值（4 点）
- 编译时防止预算误操作：借鉴Rust仿射类型，将预算设计为不可克隆、不可别名、用后即焚（affine ownership），在编译期杜绝克隆、双重花费、use-after-delegation等错误。在Python/TypeScript等无所有权机制的语言中，可通过类型系统模拟（如unique指针、移动语义）或运行时静态分析，减少因operator误用导致的预算泄漏。
- 多Agent委托场景的预算安全：多个Agent委托任务时，预算传递若用简单计数器，并发下易重复扣除。直接迁移Rust的借用检查思想，对budget对象采用编译时唯一引用传递，避免运行时race condition。若不能换语言，可在框架层面实现类似“移动语义”的wrapper，确保同一时刻只有一个owner持有budget。
- 事件分类指导防御手段设计：论文给出八类预算超支故障模式（如retry-loop无限重试、无上限API调用、并发委托导致重复扣除等），可直接用于电商或推荐系统中Agent链路的审计清单，针对不同模式提前设置编译器检查或runtime guard。
- 轻量级实现可嵌入现有Agent框架：1,180行Rust代码（无unsafe）可作为库引入，或者将其理念转化为Lua/Python等胶水语言的类型约束层，为预算敏感场景提供零成本保证。
通用 Agent 能否自动化数据策展？
🧭 Agent 自动化数据策展评估 ★ 深度解读
Virginia Tech · University of Illinois Urbana-Champaign · University of Wisconsin-Madison · University of California, Berkeley
引入 CURATION-BENCH 基准，发现通用 Agent 能执行数据策展但探索窄，方法适应支架可引导突破
📌 工作参考价值（4 点）
- 在推荐数据管道中引入 method-adaptation scaffold：强制 Agent 每轮迭代引用、适配一项已有方法，可避免陷入局部超参（如域权重）调整，驱动真正的新策略探索。
- 将 迭代式数据策展 作为新的计算维度：当数据预算固定时，将额外算力投入搜索更优的数据子集或重写策略，可能优于直接训练更多数据，这在电商推荐中可用于高效利用有限交互样本。
- CURATION-BENCH 的 数据隔离 + 污染审计 + 轨迹诊断 设计，可直接迁移到构建推荐数据选择 Agent 的测试框架，确保可比性与可审查性。
- 轻量策略列表（源平衡、质量过滤、多样性采样等） 可帮助 Agent 快速生成候选，但需配合约束性协议（如强制证据锚定）才能真正改变执行行为，避免“vibe optimization”。
推理的影子价格：经济视角的LLM最优预算分配
🧭 LLM推理预算优化
Zhejiang University · Tencent HY Team · Peking University
用影子价格模型实现LLM推理预算的全局优化，显著提升资源稀缺时的准确率，最高3倍于均匀分配。
📌 工作参考价值（3 点）
- 借鉴CLEAR的边际效用均衡分配思想，对线上LLM调用做动态算力配额：优先将预算分配给接近「涌现阈值」的可解query，放弃无解query，避免算力浪费，适用于推荐系统中的解释生成、对话Agent等高频LLM场景。
- 利用shifted-surge效用函数刻画每个query的推理收益曲线，为生成式推荐中不同物品的推理深度决策提供可量化的成本-收益模型。
- 全局影子价格概念可拓展到多Agent或RAG系统，统一协调各子模块的计算资源，实现端到端最优分配，而非各模块独立优化。
小模型天然为GRPO提供策略级多样性
🧭 GRPO训练中策略级探索增强 ★ 深度解读
Tsinghua University · Shanghai AI Laboratory · The Chinese University of Hong Kong · City University of Hong Kong
利用同家族小模型的策略级多样性替代token噪声，通过渐进退火实现大模型训练加速与性能提升
📌 工作参考价值（3 点）
- 在推荐/Agent场景中，可借鉴用能力较弱但行为更多样的模型（如蒸馏小模型）生成候选离线样本，训练更强的决策模型，实现低成本探索。
- 渐进退火策略：训练早期多用小模型rollout保证多样性，后期逐步切换至大模型on-policy，避免分布偏移导致性能退化，这一机制可直接用于离线强化学习或推荐系统的A/B策略优化。
- 利用同一模型家族内天然存在的策略差异（通过蒸馏带来的参数级扰动）作为多样性源，比粗暴提高采样温度更稳定、生成的序列更具逻辑连贯性，对需要保持文本质量的电商文案生成等多步推理任务有参考价值。
小RL控制器驱动大语言模型：RL引导的自适应采样实现测试时扩展
🧭 测试时扩展 · 强化学习自适应采样 ★ 深度解读
University of North Carolina at Chapel Hill · University of Maryland, College Park · Washington University in St. Louis
将自适应采样建模为MDP，用4层MLP的RL控制器仅依赖答案统计联合优化正确率、延迟与计算量。
📌 工作参考价值（4 点）
- 动态资源分配MDP化：将推理预算分配形式化为MDP的思路可直接迁移到电商推荐系统的召回、排序阶段，用轻量RL控制器动态决定何时停止多路召回或特征计算，平衡延迟与效果。
- 仅依赖轻量统计状态：状态仅需top-K答案计数、总样本数和熵，无需模型内部logits或置信度，部署极简，适合在线服务场景。类似地，在推荐系统中可以仅用候选集统计特征（如多样性、得分分布）做决策。
- 跨模型泛化能力：控制器在不同LLM和数据集间可迁移，暗示训练一个通用预算分配器可行。在Agent或多智体场景中，可先基于低成本模型训练协调器，再无损迁移到昂贵模型上使用。
- Lagrangian视角提供约束优化理论支撑：将延迟/计算约束通过拉格朗日对偶显式引入奖励函数，便于在业务中直接设定成本上限并寻优，可启发多目标推荐系统的在线预算控制。
用 LLM Agent 打通时间序列预测的最后一公里
🧭 LLM Agent · 预测修正与业务落地 ★ 深度解读
Trip.com Group
提出以 LLM agent 对统计基线预测进行可溯、约束化的业务修正，将上下文信息转化为结构化修订动作。
📌 工作参考价值（4 点）
- 预测修正的工程化模式：将统计基线预测与业务修正解耦，把修正动作封装为可审计的操作（范围缩放、点位覆写），可直接用于电商需求计划、促销备货等场景，把运营经验结构化地注入到预测中。
- Agent 工作区设计：共享的表格式工作区（历史值、基线预测、可编辑修订值）保证历史与基线不可变，所有修订仅作用于 y_final，避免模型幻觉污染原始信号，这种“受控编辑”的思路可复用于推荐系统中的打分后调整或多策略融合。
- 长时预测的 map-reduce 分解：将长预测区间拆分为事件窗口并行推理，再通过统一动作接口合并，适合电商大促期的多活动多时段调优，提升推理效率且保持可审查性。
- 基于记忆的自我改进闭环：在真实值出现后生成校准反思，存为结构化记忆，后续预测时优先检索历史修正错误，避免重复犯错，该机制可直接用于推荐系统的 A/B 后评估与在线参数的自适应调整。
AdaCodec：面向视频 MLLM 的预测性视觉编码
🧭 多模态大模型 · 视频压缩编码
Shanghai Jiao Tong University · Shanghai Innovation Institute · JD.com
将视频帧编码为自适应 I/P 帧：高预测代价的参考帧保留全量 tokens，中间帧压缩为紧凑 P-tokens，在 1/7 视觉 token 预算下保持甚至超越基线准确率，并大幅降低延迟。
📌 工作参考价值（4 点）
- 对于多模态购物推荐或直播商品理解场景，可借鉴自适应 I/P 帧选择机制，对关键帧保留全量视觉 token，非关键帧仅传输变化信息，大幅降低视频 token 开销，减少推理时延和成本。
- P-tokenizer 将运动向量和残差编码为紧凑 token 的思路，可复用于商品视频的理解前端，在不损失太多有效信息的前提下压缩 token 序列长度，提升多模态模型的吞吐。
- 基于预测代价的自适应 GOP 构造策略，可推广至其他序列建模任务（如用户行为序列），用动态关键点替代均匀采样，平衡信息密度与计算预算。
- 整体方案提供了一种视频 MLLM 的视觉接口设计范式，类似视频压缩中的 I/P 帧思想，可直接用于 Agent 或 RAG 场景中对长视频的实时理解与检索。
ClawHub 安全信号：当 VirusTotal、静态分析与 SkillSpector 产生分歧
🧭 Agent 技能安全与扫描器分歧研究
OpenClaw Foundation · NVIDIA
揭示 Agent 技能安全扫描器间高度分歧，提倡分层治理而非依赖单一扫描器放行/拦截
📌 工作参考价值（4 点）
- 在电商 Agent 集成社区技能时，切勿依赖单一安全扫描器（如 Virustotal）做放行/拦截决策；应组合病毒扫描、静态分析、语义风险扫描等多维度信号，并预期扫描器间高质量分歧。
- 设计分层安全治理：将自动化扫描作为信号输入，而非黑白判定；对打包可执行代码技能侧重恶意代码检测，对纯指令/工具调用技能侧重语义风险检测（如越权、提示注入）。
- 若自建 Agent 技能市场或注册表，参考该数据集的分歧模式，构建「扫描结果 → 风险分 → 人工审核」的分诊流程，避免因单一扫描器漏报而引入恶意技能。
- 可直接利用此公开的脱敏数据集训练面向技能安全分类的专用模型，作为电商 Agent 技能上线审核的辅助工具。
抵抗智能体重识别的LLM匿名化框架
🧭 Agent 智能体对抗性隐私保护
Northeastern University
提出掩码-重建的匿名化方法，通过自适应隐私范围平衡抗智能体重识别与文本实用性
📌 工作参考价值（4 点）
- 处理用户评论文本或客服对话时，可借鉴掩码-重建流水线：先用LLM定位敏感上下文并遮蔽，再由另一个LLM生成保留语义的非敏感替代表述，既防重识别又保留分析价值。
- 引入对抗隐私检查环节：模拟网络搜索代理尝试重识别，可作为内部隐私测试工具，确保发布数据前充分抵御真实威胁。
- 设计多维实用性评估：不仅看语义相似度，还考量事实一致性、上下文连贯性等，对评估匿名化后文本在下游任务（如意图分类、查询理解）中的可用性有参考。
- 自适应隐私范围调节：根据数据用途动态调整遮蔽强度（如个性化分析保留更多细节，聚合统计可严格匿名），为业务中动态平衡合规与效用提供工程思路。
电商产品搜索中的语义检索：两阶段 Siamese LLM 训练与相对几率对齐
🧭 电商语义检索 · 两阶段训练与偏好对齐 ★ 深度解读
Flipkart, India
通过对比学习与分级偏好对齐两阶段训练，让 LLM 双塔在电商搜索中实现细粒度相关性排序，A/B 实验提升 CTR/加购/下单
📌 工作参考价值（4 点）
- 两阶段训练可直接用于电商双塔：先用大量行为+标注数据做对比学习，再引入偏好对齐（ROAR）对多级相关性（完全匹配 > 替代品 > 互补品 > 无关）进行精排，离线 MAP@8 提升 5.57 个百分点，在线 CTR/加购/订单均有显著提升。
- 假阴性掩码解决同一商品多规格问题：在对比学习时，如果批次内存在相似商品（如不同尺码），传统负采样会错误地惩罚它们，使用 margin mask（cos(q, d_i) - cos(q, d_pos) < 0.1）自动排除假阴性，可在电商推荐的双塔训练中直接复用。
- ROAR 对齐目标可推广到任意级数：该目标基于条件几率比，支持每组 2～7 个产品，通过连续 odds-ratio 边际实现分级偏好排序，不需要固定标签数，适合电商中“完全匹配 > 替代 > 互补 > 无关”等多级信号。
- 数据增强策略值得借鉴：利用 LLM 做同义词扩展、对抗性拼写扰动、多语言音译，以及从推荐系统的共点击信号和 session 改写中构建替代品监督，可有效提升长尾查询的召回，尤其是品牌、型号等特定词汇的语义泛化。
多领域RL中跨域干扰与恢复的局部扰动理论
🧭 LLM多领域RL训练干扰机理与恢复
TJUNLP Lab, College of Intelligence and Computing, Tianjin University · Baidu Inc.
揭示多领域RL顺序训练的稀疏共享冲突子空间，通过refresh即可高效恢复旧领域性能
📌 工作参考价值（4 点）
- 顺序微调LLM多个任务时，可通过简短的“刷新”步骤（用极少量旧域数据再训练几步）以极小代价恢复受损域性能，避免昂贵联合训练。
- 干扰集中于低维冲突子空间，可在线监测模型顶部稀疏神经元的梯度方向重叠或参数变化冲突，提前预警新任务训练对旧能力的损害。
- 训练免回滚方法揭示了冲突坐标集的存在，可对已部署模型做选择性参数回退，精准修复特定指标退化而无需全量回滚。
- 对于电商多技能Agent，不同能力微调可采用LoRA等稀疏适配，冲突时仅需刷新对应适配器，大幅降低跨域干扰风险。
多智能体计算机使用：用 DAG 分解与并行执行提升长程 GUI 任务
🧭 Multi-Agent 计算机使用 · DAG 任务分解 ★ 深度解读
Carnegie Mellon University
提出多智能体计算机使用框架 MACU，通过 DAG 子任务分解、并行子代理和持续重规划，在桌面和网页导航基准上大幅超越串行单一代理
📌 工作参考价值（4 点）
- 借鉴 DAG 分解与重规划范式：对电商自动化任务（如多源比价、竞品监控、跨店铺信息收集）可构建 manager-worker 架构，用 LLM 将复杂任务拆成有向无环图，根据中间结果动态增减/重写节点，避免单一串行 Agent 陷入死胡同。
- 利用并行子 Agent 加速长周期任务：对需要同时查询多个商品页、不同平台价格的任务，可派发同类 GUI 子 Agent 并行执行，收集结果后由 manager 汇总，显著降低端到端耗时（论文中 Odysseys 任务墙钟时间减少约 1.5 倍）。
- 部分可观测状态管理技巧：通过虚拟机快照、文件系统 diff 和截图传递保留关键中间状态，解决 web/GUI 环境中下游子任务无法重新观测状态的难题，可直接用于需要跨页面保持登录态、购物车状态的电商场景。
- 推理预算灵活分配：发现多智能体系统的成功率和行动数呈更好的 scaling 趋势，在复杂任务上允许更多并行/重试能解锁串行 Agent 无法解决的任务，可指导电商自动化系统的资源调度策略。
几何潜在推理诱导LLM生成更短输出
🧭 潜在推理 · 几何嵌入路径近似
Idiap Research Institute · EPFL · BUT
将潜在推理形式化为嵌入空间路径近似，出现压缩推理长度的涌现现象
📌 工作参考价值（4 点）
- 在电商对话Agent或推荐解释生成中，可借鉴GLR在embedding空间连续推进的轻量设计，将早期推理步骤替换为潜在向量更新，显著缩短显式生成长度，降低API调用成本和延迟。
- 对于多步Agent任务（如订单查询、售后协商），可训练一个小型transition head预测思维转向，实现紧凑的中间状态表征，既保留推理能力又减少tokens消耗，适合高并发场景。
- GLR不修改主模型权重、仅添加可训练的过渡头，工程实现简单，可直接作为即插即用模块嵌入现有LLM服务，提升推理吞吐。
- 涌现性的长度压缩现象提示：通过调整潜在步数（computation budget），可在不牺牲精度的前提下灵活控制输出冗长度，这对生成式推荐中控制解释文本长度具有启发意义。
LayerRoute: 通过 LoRA 微调实现输入条件自适应层跳过
🧭 Agent 推理加速 · 自适应层跳过 ★ 深度解读
Accenture
用 1.1M 参数教会 0.5B 模型按步型跳层：工具调用省 15.2% FLOPs，规划几乎不跳，质量不降反升。
📌 工作参考价值（4 点）
- Agent 推理系统加速：在工具调用占比高的场景（如电商客服中的查订单、查库存），可对 LLM 使用 LayerRoute 适配，保持规划能力同时大幅降低工具步驟计算量，直接提升吞吐。
- 不同请求类型动态深度分配：推荐/Agent 场景中，简单确定性请求与复杂推理请求可复用本方法——用极少量参数为每层配路由器 + LoRA，按输入类型动态跳过若干层，实现“按需深度”。
- 偏置初始化的工程技巧：对分层路由任务，有意识将中间层初始化为“跳过”状态（bias 负值），可打破对称，让梯度信号快速区分层的重要性，避免所有门控全开。
- 门正则化防止平凡解：任何可学习门控机制（如多分支动态路由、MoE 专家选择）都应加入类似正则项，否则模型倾向于保持所有通路开启，丧失动态选择能力。