一次性字幕,按需取帧:预算感知的智能体长视频理解视觉需求路由
🧭 预算感知的长视频理解 Agent 路由
Queen Mary University of London · Independent Researcher · Durham University · Imperial College London · Huawei
提出边云协同的 CFD 框架,用双轨叙事索引和视觉需求路由器按需取帧,显著降低长视频在线视觉处理成本
📌 工作参考价值(4 点)
- 借鉴双轨索引思想:在电商直播/商品视频理解中,离线生成事件级叙事骨架 + 片段级细节日志,将长视频转化为可复用索引,后续 query 只查索引不重跑 captioning,降低线上 token 与耗时。
- 将 Visual-Need Router 改造成多模态 RAG/Agent 中的“证据门槛”:根据 query 是否涉及外观、OCR、属性判别,决定是否检索原图/帧;时序、流程类问题直接走文本 memory,从而控制每 query 的多模态检索成本。
- 边云预算分离:让边缘端承担一次性离线 captioning 与索引缓存,云端按 query 拉取有界关键帧,适合直播回放、素材审核、商品视频 QA 等预算敏感场景,避免逐 query 全量视频重灌模型。
- “按 query 封顶视觉证据数,与内容长度无关”可以迁移到搜索推荐 Agent 的工具调用:为商品主图、评论、卖点等证据源设置 budget,只有 router 认为必要时才触发额外检索,防止长文档/长视频 query 的成本爆炸。
更智能验证,更深远进化:通过行为感知验证实现高效 Harness 进化
🧭 Agent 自进化 · 行为感知验证 ★ 深度解读
School of Data Science, Fudan University · Shanghai Key Laboratory of Data Science · College of Computer Science and Artificial Intelligence, Fudan University
提出预算感知的 HARNESSLENS 框架,用行为相关任务和可归因证据门控筛选候选修改,显著提升 harness 进化样本效率
📌 工作参考价值(4 点)
- 评估候选修改时,不要用固定验证集评估所有候选;根据候选意图选择相关任务(supporting trajectories + 相关目标/工具),使信号不被无关任务稀释,回归检测更敏感。
- 采用可归因证据门控:要求观察到的改进能归因到具体行为变化(如 recovered / stable success),仅聚合指标提升不足以接受修改,避免噪声导致接受有害修改。
- 预算感知控制器:设定总交互预算,每次迭代前检查是否能覆盖完整验证+确认轮次,否则停止,避免评估不充分。
- 轨迹诊断与经验复用:把每次 rollout 轨迹转化为可复用经验和缺陷,支持后续候选生成和验证,提高样本效率。
智能体思维链转向:高效可控的 LLM 推理框架
🧭 LLM 推理控制 · 预算自适应策略转向 ★ 深度解读
University of California San Diego · Intuit AI Research
将推理过程建模为马尔可夫决策过程,用可训练的控制器代理在推理过程中动态选择策略和转向短语,实现预算感知的高效思维链转向
📌 工作参考价值(4 点)
- 分步导向的推理控制可迁移到多步业务任务:电商场景中的复杂客服、多轮谈判、商品对比推荐等需要长链推理的任务,可以采用类似的控制器-推理器架构,将推理过程分解为可引导的步骤(理解、规划、执行、检查、总结),在每一轮通过轻量级控制器选择最优策略短语,在保持答案质量的同时大幅降低 token 开销。
- 预算条件奖励塑形设计可控制生成长度与成本:论文提出的非对称奖励函数(正确但超预算降分,错误但未用尽预算加重惩罚)可直接用于推荐系统中的生成式文案或解释生成,通过设定 token 预算实现质量与成本的精细权衡,避免长而不实的输出或过早截断导致错误。
- 异步控制器-推理器部署架构降低延迟:将控制器与推理器部署为独立的 SGLang 服务器并通过异步 HTTP 通信,可以实现与直接批量推理相仿的吞吐量,这一架构可借鉴到在线推荐系统的多智能体编排中,以低延迟实现复杂的多步决策。
- 可解释的节省来源分解支持精准优化:论文将 token 节省区分为缩短正确答案、挽救错误尝试、提前终止错误路径等类型,业务系统可借鉴这种分类来定位推理环节的冗余部分,有针对性地优化推理策略,如减少不必要的验证轮次。