世界动作智能体：通过世界动作预演利用 VLM 进行机器人操作
🧭 多智能体机器人操控与技能演化
HKUST(GZ) · CUHK · Knowin AI
多智能体视觉动作工作空间让 VLM 通过动作预演、视图内修正和技能演化实现机器人操作 SOTA
📌 工作参考价值（4 点）
- 可编辑动作提案与预演机制：在推荐/广告 Agent 中，可让 LLM 先产出候选策略或推荐列表，由 Reviewer/Imagination Agent 在低成本模拟中预演，结合离线评估器反馈修订，再决定是否真实上线，降低高风险操作成本。
- 多智能体分工：把主决策、预演评估、技能检索拆成不同 Agent，例如电商推荐中主 Agent 负责当前会话决策，Skill Agent 检索历史有效策略（选品、话术、促销），避免单一 Agent 上下文过载。
- 用交互轨迹蒸馏轻量模型：论文中 harness 轨迹微调将域外成功率从 1.7% 提升到 43.3%，这启示我们可以收集线上 Agent 高质量决策轨迹，蒸馏一个轻量策略模型用于高频、低时延场景，兼顾泛化与成本。
- 选择性上下文呈现：从场景几何自动挑选与当前交互相关的视图，类似在商品推荐中可以根据用户当前浏览/购物车动态裁剪商品属性、图片切片或用户行为段，减少无关信息对 VLM 决策的干扰。
数学推理中答案不变与表示顺序敏感
🧭 数学推理 · 表示不变性分析
Operations Research and Financial Engineering, Princeton University
16 个 LLM 显示：重排规则下答题越准的模型，对规则顺序的表示区分度越高，Spearman 相关最高 0.86
📌 工作参考价值（4 点）
- 用 permutation SNR 做输入顺序鲁棒性诊断：在搜索/推荐中，规则、条件、特征或工具说明的顺序经常被重排；可参考论文中的 probe 思路，在 LLM 推理链路里计算不同顺序下的表示可分性与准确率，定位脆弱的 prompt 模板或排序敏感节点。
- 评估时不要只看答案正确率：如果业务需要模型对输入顺序不敏感（如多路召回条件重排、Agent 工具调用顺序无关），建议在离线评估中加入表示层对顺序的区分度指标，防止模型靠表面顺序走捷径，上线后遇到顺序变化掉点。
- 可做顺序不变的数据增强，但需约束表示：训练时可对同一规则/条件集合做多种顺序混排增强；但论文提示模型可能仍然学到顺序敏感表示，因此可加对比正则或一致性损失，拉近等价顺序的表示。
- 整体可移植性：主要是学术贡献，对推理/可解释性研究更有价值；电商推荐业务可直接复用的结论有限，但表示分析方法可迁移到 LLM 鲁棒性评估。
双超图索引：桥接知识孤岛以支持 RAG 多跳推理
🧭 RAG 索引 · 超图聚合
School of Software Engineering, Xi'an Jiaotong University · State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, and Institute of Artificial Intelligence and Robotics, Xi'an Jiaotong University · EHV Power Transmission Company of China Southern Power Grid Co., Ltd
提出 Dual-Hypergraph Indexing，以双层超图与双路径聚合提升多跳 RAG 的逻辑连贯性与推理能力
📌 工作参考价值（4 点）
- 在商品/内容知识库 RAG 中，可显式分离实体-关系事实层（商品属性、品牌、活动事实）与深层洞察层（增长归因、趋势结论），避免单条事实孤岛导致多跳推理断裂。
- 用 5 维拓扑指标 + adaptive thresholding 做 hub 聚合，可迁移到用户-商品异构图或类目树，自动发现核心类目/品牌/场景簇，提升召回与解释性。
- 对于时效敏感场景（大促、热销榜、活动节奏），采用滑动窗口 + greedy exploration 聚合时间链，让索引保留时序演变，防止旧事实污染新推理。
- 评估多跳 RAG 时，除了单条证据命中，应增加逻辑连贯性、因果链完整性等指标，可设计跨 session/行为链的业务 QA 集。
SLCA-GRPO：解决工具调用强化学习中的跨段信用错配
🧭 工具调用 RL · 分段信用分配 ★ 深度解读
Peking University · Shenzhen University · Tencent PCG QQ Team
将工具段与总结段优势解耦路由，从结构上阻断 summary 奖励对工具 token 的梯度泄漏
📌 工作参考价值（4 点）
- 在工具调用 agent 的 RL 训练中，若总 reward 同时包含工具执行质量与最终回答质量，标准 GRPO 的统一 advantage 会把 summary 噪声传到 tool token。可将轨迹按 token mask 自动分为工具段与总结段，分别做组内 z-score 并只路由到对应 token；几乎零额外成本，适合电商客服、订单查询等多 API 场景。
- 用 Schema-Guided LLM Simulator 替代真实 API 做 RL 探索：schema 校验给出确定性错误反馈，跨模型 LLM mock 生成合理响应，降低真实 API 成本与不稳定；这可以作为离线 RL 基础设施，尤其适合工具 namespace 大的 MCP 生态。
- 设计 process reward 建议拆成格式、工具名 F1、参数 key/value、并行度等子项（HierR），而不是单一稀疏信号；对要求低工具冗余的业务，可用类似 Success@阈值 指标优化平均工具轮数。
- 当模型该调工具却不调时，将 omission penalty 只路由到 summary 段，避免污染工具段，比在总 reward 上全局扣分更稳定。
算法购物：代理式 AI 如何将人类启发式部署为代理消费者
🧭 Agent 代理消费者决策与信息搜索
Desautels Faculty of Management, McGill University
通过 Tool-Lab 实验发现，在模糊目标与信息获取成本下，LLM 购物代理会像人类一样省略诊断属性并做出次优选择。
📌 工作参考价值（4 点）
- 目标 prompt 要具体：明确要求比较单位价格等诊断属性，可显著减少 LLM 购物代理在成本约束下省略关键信息的行为。
- 信息获取成本设计需谨慎：工具调用成本会放大营销定价线索的误导性，建议接口层默认暴露单位价格等高诊断价值属性，或强制计算。
- 监控定价线索交互：just-below pricing 与促销框架在零成本下几乎无害，但在模糊目标+成本条件下会触发启发式捷径，需在代理决策链路中加入单位价格校验。
- 信息架构比模型本身更关键：营销启发式漏洞来自店面信息架构而非 LLM 不可变缺陷，可通过工具/接口设计缓解。
TEMPS：面向时间信息检索的时间句嵌入模型
🧭 时间感知检索 · 模块化时间分支
SAMOVAR, Télécom SudParis, Institut Polytechnique de Paris · Aldebaran Care
在冻结语义检索器上附加时间分支，用时间表达式 grounding 提供监督，提升时间敏感检索
📌 工作参考价值（4 点）
- 可直接复用到电商搜索：商品标题、query 中常含“2023 新款”“夏季促销”“去年款”等时间表达，冻结现有语义双塔模型，增加轻量 temporal branch，解析时间区间并计算 Gaussian-KL 包含度作为时间相似度分数，在召回/排序阶段与语义分数加权融合，无需重新训练主模型。
- 训练 supervision 来自时间表达 grounding，不需要人工标注时间相关性数据，适合业务中大量无标注文本；可在现有商品库/搜索日志上自动构造时间锚点对。
- 时间分数设计为分布包含度量（KL inclusion），适合处理模糊时间词如“近三年”“最近夏天”，比精确日期匹配更鲁棒；可直接用于 RAG 知识库的时效性过滤，避免过期内容被检索。
- 工程实现上 temporal branch 参数少、冻结 backbone，线上推理开销小，可作为排序阶段的一个独立特征接入现有点击/转化模型。
通过模拟合成：可扩展智能体-系统交互生成一致企业数据
🧭 Agent 训练数据合成 · 模拟环境交互
SAP Labs
提出 schema-free 模拟数据合成范式，LLM agent 通过 policy-enforcing APIs 生成结构有效且高保真企业数据
📌 工作参考价值（4 点）
- 在电商/客服 Agent 训练数据构造中，可部署 policy-enforcing API 模拟器定义合法状态，让 LLM 通过交互生成轨迹，天然保证结构有效性，避免大量人工标注与无效状态。
- schema-free 生成降低接入成本：不必提供完整数据库 schema，适合多业务线快速复用，尤其适合推荐解释生成、搜索 Query 改写等工具调用 Agent 的训练数据生产。
- 将约束验证与分布建模解耦：业务侧可独立优化分布保真，不必改动环境约束；模拟交互能生成长尾/边缘场景，弥补统计合成需种子数据的不足。
- 采用通用 Populator 而非逐领域定制，单一 agent 适配多个 API 环境，可迁移到多域推荐系统，减少重复开发。
Transformer KV Cache 的张量分解：谱结构与格式对比
🧭 LLM KV cache 张量分解压缩
Universität Trier
对 KV cache 四阶张量做谱测量，在 2-5× 压缩下 Tucker 重构误差最低，head/layer 近满秩不可压
📌 工作参考价值（4 点）
- 工业 LLM serving 做 KV cache 压缩时，可优先用 2D/SVD 压 key；value 需保留 4 维结构，用 Tucker 且不压 head/layer 轴，同存储下误差更低。
- 压缩预算不要均匀给四个轴：head 和 layer 近满秩，强行压缩收益极低且伤精度；预算应集中在 token 与 feature 轴。
- RoPE 后 key 的可压缩性下降 41%-64%，若做 prefill 缓存或分阶段压缩，尽量在 RoPE 前对 key 做低秩/缓存，或对 post-RoPE key 分配更高 rank。
- value 的错误地板比 key 高，在电商/Agent 长上下文场景做混合 KV cache 管理时，value 应给更高存储比例或更保守压缩。
Transformer 能同时持有两种思想：LLM 线性叠加的证据
🧭 Transformer 可解释性与推理加速
证明 LLM 输入端线性组合会产生输出分布叠加，并提出引导解码实现单次前向生成两条连贯续写
📌 工作参考价值（4 点）
- 推理加速：借鉴引导解码同时解耦叠加输出，可在一次前向中生成多个候选 query/文案，用于搜索推荐场景的多路召回或 A/B 文案测试，降低 GPU 成本。
- 多意图融合：若模型经轻量微调恢复叠加线性，可混合多个意图 prompt embedding（如“品牌词+品类词”），再用解码约束得到多条符合不同意图的结果，适合电商搜索 query 推荐。
- 可落地微调：叠加线性随预训练减弱但能通过轻量微调恢复，业务模型可以用少量数据进行微调，使多流输入并行处理成为可能，从而支持 Agent 同时处理多个子任务。
- 注意边界：该线性性质与训练程度相关，实际部署前需在自有模型上验证；建议在微调阶段加入保持叠加线性的正则项或混合训练数据。
WanPE：面向现代文本到视频生成的电影级提示增强
🧭 LLM 提示词增强 · 视频生成
Nanjing University · Wan Team, Alibaba Group · University of Science and Technology of China · Fudan University · Tsinghua University
397B 提示增强模型，通过视频反向构建与语义一致性 GRPO，大幅提升长视频生成的人类偏好
📌 工作参考价值（4 点）
- 电商视频广告/商品短视频：可借鉴“反向构建”思路，从高点击、高转化的广告成片或商品视频反推分镜脚本文案，训练 LLM 提示规划器；避免依赖人工正向写 prompt 模板。
- 在 RLHF/GRPO 优化生成式推荐或 query 改写模型时，引入“语义一致性奖励”：用 embedding 相似度或判别器约束生成结果与用户原始意图的距离，防止多步生成漂移，适合多轮对话式推荐、Agent 工具调用。
- 构建评测集时按“时长/意图粒度”分层，并采用盲选成对比较，能更稳定地测量 prompt 增强等文本生成模块的业务收益；比只看 BLEU/ROUGE 更贴近人类偏好。
- 若业务中要生成多镜头脚本（如广告创意、短视频脚本），可显式建模 shot-level plan；一次规划生成多个镜头，保持角色/商品外观、品牌信息一致性，而不是逐镜头独立生成。
无需重新求解的资源自适应随机梯度下降在线线性规划
🧭 在线线性规划 · 资源自适应SGD
Department of Management Science, School of Management, Fudan University
提出RASGD，用O(m)一阶SGD更新资源价格，避免重求解LP，达到O(log T) regret
📌 工作参考价值（4 点）
- 在电商/广告资源约束分配场景（如预算、库存、LLM推理算力配额），可用一阶SGD替代per-arrival LP重求解，每到达仅O(m)时间与内存，适合高并发实时决策。
- 步长策略可借鉴：早期小步长学习资源价格，后期增大步长以快速响应库存消耗，无需人工调参，在不同资源消耗阶段自适应。
- 算法在标准非退化条件下每条样本路径可行，并达到O(log T) regret，适合对安全性和长期收益都有要求的在线广告投放、流量分配系统。
- 适用于LLM推理服务中的资源定价：每个请求到达时根据剩余算力/令牌配额动态更新影子价格，指导准入或资源预留，无需离线求解大规模LP。
小模型搜索智能体的可验证奖励强化学习
🧭 RLVR小模型搜索Agent训练 ★ 深度解读
Leiden Institute of Advanced Computer Science, Leiden University
在0.8B模型上证明RLVR可训练搜索Agent，且稀疏EM奖励最差，token-F1部分信用奖励带来3.8倍提升
📌 工作参考价值（4 点）
- 在资源有限、用小模型做 agentic search/RAG 时，奖励函数不要直接用 exact match 稀疏奖励。改用 token-F1 部分信用奖励（可加格式地板），避免 GRPO 组内优势因零方差而失效。
- 训练与评估共享同一套 prompt 模板、工具接口和解析器，确保格式分布一致；检索到的 token 必须 mask，防止模型学预测语料。
- 使用模型家族原生工具调用格式（如 Qwen 的 nested-XML）而非自定义标签，能降低冷启动难度；用量化检索索引（IVF+SQ8）替代 flat index，内存从 65GB 降到 16GB 且 recall 基本不降，利于训练时多轮 rollout。
- 若在电商搜索/推荐场景训练 Agent 做多跳查询或商品属性推理，可借鉴隐式长度惩罚：生成上限本身会形成对过长 rollout 的惩罚，但训练 reward 与真实业务指标要区分，格式奖励可能让训练曲线虚高。
学习可靠推理成本：LLM采购路由机制
🧭 LLM 采购路由 · 拍卖机制设计
Max Planck Institute for Software Systems
设计基于反向第二价格拍卖的LLM路由平台，在保证质量阈值下动态选择成本最优供应商，节省10%-71%成本
📌 工作参考价值（4 点）
- 在电商/广告多模型路由中，可借鉴“质量阈值+成本竞标”框架：平台先定义业务质量指标（如转化率、准确率），各模型/供应商按成本投标，路由时只选满足阈值且报价最低的，避免固定价格浪费。
- 反向第二价格拍卖的激励相容设计可迁移到内部多模型/多服务核算：让各团队或供应商按真实边际成本报价，平台按次低价结算，能诱导真实成本暴露，优化全局预算分配。
- 实验结果（价差10-71%）说明按任务动态选择比固定定价省大量成本，可在推理网关/Agent工具调用中维护模型质量估计与成本表，实时切换。
- 注意：平台需在线学习质量，可采用Bandit或贝叶斯更新，将质量不确定性与成本竞标结合，不能仅靠一次性评估。
用空间变换器控制推理空间中的 AI 智能体群体
🧭 多智能体群体控制 · 空间变换器反馈
提出 COMPASS 分布式架构，用空间变换器生成紧凑反馈 token 控制大型机器人群体，可扩展至 1024 个机器人
📌 工作参考价值（4 点）
- 用紧凑的学习 token 代替原始状态注入 LLM 作为反馈，避免语言通道过载导致性能崩溃，可迁移到多 Agent 对话或推荐系统中的群体协作模块。
- 输入命令的结构化多样性（如多种措辞组合）可消除 LLM 的固有偏差，提升策略鲁棒性，适用于电商搜索 query 改写或推荐理由生成时的 prompt 设计。
- 分散式架构每个 Agent 只聚合局部多跳消息，无需全局通信即可实现大规模可扩展，适合构建大规模 Agent 网络进行分布式推理或商品筛选。
- 空间变换器作为信息聚合器，将邻居状态压缩为低维反馈 token，可借鉴用于推荐系统中用户-物品图上的局部子图信息聚合，替代全量序列输入。
预测量化价格以在部署前选择 PTQ 配置
🧭 LLM 权重 PTQ 配置选择与价格预测 ★ 深度解读
HKUST-GZ
用 forward KL 诱导的二次价格统一比较位宽、粒度、变换等 PTQ 配置，实现预算约束下的部署前选择
📌 工作参考价值（4 点）
- 部署 LLM 推荐/Agent 模型时，可用校准时价格表快速筛选量化配置（位宽、粒度、预量化变换），避免反复构建完整量化模型，节省大量实验时间。
- 把量化配置视为统一候选，用输出侧曲率加权误差协方差（而非仅重建误差或输入对角线统计）排序，能更贴近下游任务效果，适合对线上精度敏感的生成式推荐/Agent 场景。
- 在成本受限的部署（如端侧推理）中，引入部署成本约束做 budgeted search，显式权衡精度与资源，对工程实现有直接参考价值。
- 实现上只需 Hutchinson 估计曲率迹和扰动矩，不需要完整 Hessian，可作为轻量校准步骤嵌入现有 PTQ 流程。