#Scheduling

4 篇

EnvSched: Environment-Aware Scheduling for Rollout-Efficient Agent Reinforcement Learning

环境感知调度：提升智能体强化学习采样效率

🧭 Agent RL 环境感知调度与批采样优化

PKU · XJTU · THU · Samsung Research · CASIA

通过环境感知调度任务与环境的 rollout 批次，提升 Agent 强化学习样本效率

📌 工作参考价值（3 点）

在电商 Agent（导购、客服）的 RL/偏好训练中，不同任务环境（交易流程、工具 API、校验逻辑）成本与难度差异大，可借鉴 EnvSched 思路：用历史 rollout 的 reward 方差/不确定性做任务调度，优先采样能拉大策略差异的样本，节省昂贵交互。
构建任务-环境图：企业内部可复用工具、状态定义和验证器关系，构建图并用节点相似度传播统计量，预测信息量，无需额外 pilot 采样即可冷启动调度。
通过 environment quota + similarity penalty 控制 batch 多样性，避免重复观察相似任务，提升每步梯度信息密度；该机制可直接迁移到多场景推荐/对话策略联合训练。

Training | 2026-10-27 | cs.LG | score 7/10

TAO：面向LLM Agent服务的工具感知联合调度框架

🧭 Agent 服务调度优化

Shanghai Jiao Tong University · Stanford University

提出工具感知联合调度框架TAO，融合工具就绪度、缓存信用与token占用进行动态规划调度，显著降低延迟和TTFT

📌 工作参考价值（4 点）

在 LLM Agent 服务中，工具调用（如商品检索、数据库查询、API 调用）会使 GPU 推理可中断，调度时需将「工具返回就绪时间」纳入准入/放置决策，避免 GPU 空转和资源浪费。
借鉴 TAO 的 value interface：组合「近期工具就绪度 + 节点级缓存信用（时间衰减）+ token footprint」来评估一个 session 的调度价值，而不是只看队列长度或显存。
动态规划联合选择等待中的 sessions 并放置到 GPU 节点，在容量约束下最大化整体收益，比启发式 admission/placement 更优；可实现在线调度器，在 GPU 空闲或工具返回事件时触发。
如果推荐/搜索 Agent 涉及多步工具调用（如商品召回、属性查询、库存检查），可以对工具返回时间做预测或标记，并结合 prefix cache 命中（例如共享 system prompt 或工具 schema）优先调度相似 session 以提高 decode throughput。

Agent | 2026-10-26 | HF Daily | score 7/10

LazyTrain：有限资源下大模型训练的零浪费产出优化

🧭 LLM 训练资源调度优化

IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.

将checkpoint选择、激活放置、重计算与CPU-GPU-NVMe通信重叠建模为混合整数调度，并耦合混合8-bit算子提升单卡训练效率

📌 工作参考价值（4 点）

层流式执行器上将 checkpoint 选择、激活 offload、重计算与 PCIe/NVMe 传输显式建模为混合整数调度问题，避免通信暴露在关键路径；自研微调平台或单卡多卡调度时可把“何时 offload/重计算”做成可求解策略而非硬编码规则。
8-bit 优化器状态与快速梯度裁剪耦合为混合算子，压缩优化器状态省显存，同时用快速裁剪掩盖 CPU 端更新延迟；适合 LoRA/QLoRA 或全参微调中优化器状态占显存大、需单卡大 batch 的场景。
消费级 GPU（RTX 3090）上最大可行 batch size 各模型规模可增加 1，能直接服务推荐/CTR/CVR 模型 LLM backbone 的对比学习、多任务微调，降低单卡试错成本。
离线求解调度策略、训练时执行的思想可迁移到推荐系统训练中，把 embedding offload、参数服务器通信、数据搬运也显式建模为调度问题，提升 GPU 利用率。

Training | 2026-08-12 | cs.CL | score 7/10

面向延迟优化的 Web Agent 规划与调度的 Agent JIT 编译

🧭 Agent 规划调度优化 ★ 深度解读

Stanford University

通过 JIT 编译、不变式强制工具协议和代价优化规划/调度，将 Web Agent 延迟降低 10.4 倍且准确率提升 28%。

📌 工作参考价值（4 点）

工具协议的设计（pre/post conditions）：在电商自动化操作中，可以为每个动作（如添加购物车、结算）定义前置页面状态与后置预期状态，编译时即做状态流校验，大幅减少点击错误元素等失误（实验中该类错误从 59% 降至 25%）。
代价优化的规划策略：同时生成多个任务计划（代码形式），通过静态检查与代价模型（惩罚 LLM 调用和循环）选出最低成本计划。在电商场景可用来减少不必要的 LLM 推理，将大量纯代码操作替代昂贵模型调用。
自适应调度（串行/并行/对冲）：根据历史延迟分布做蒙特卡洛估计，为每个任务选择最优策略。当电商操作中某些元素交互方差大（如查找特定商品按钮）时自动采用对冲（同时多路执行取最早成功），可有效控制尾延迟。
缓存与工具代码复用：将成功执行 trace 合成为可缓存工具，后续任务直接调用代码而非每步推理，显著降低延迟并将 LLM 调用次数降至接近零。类似做法可直接用于重复性电商流程（如批量比价、多店铺信息抓取）。

Agent | 2026-05-20 | cs.LG | score 8/10