TRIAGE: Three-level Routing and Intelligent Agent Guidance for Efficient Execution
TRIAGE：三级路由与轨迹复用实现高效 Agent 执行
🧭 LLM Agent 轨迹复用与三级路由降本 ★ 深度解读
China Telecom Cloud, Beijing, China
用历史执行轨迹做语义路由与技能化复用，在 1007 条查询上降低 62.3% token 消耗
📌 工作参考价值（4 点）
- 把高频参数化查询做成 0 token 的 Skill 复用：对电商 BI、客服诊断、广告投放 Agent 里反复出现的“改参数不换结构”查询，可以用 embedding 阈值 + 参数抽取 + 模板替换，绕过 LLM 生成 SQL/工具调用；本质是带参数替换的语义 cache，比 GPTCache 更细粒度。
- 路由策略要看 overhead / execution cost 比值：文中 ablation 很直接：LLM router 每条约 224 token 的路由开销，导致整体反而 -37.3% savings；在单条 SQL 生成成本约 197 token 时，zero-cost 阈值路由完胜。迁移到业务时，若单次 Agent 任务成本很高（长上下文、多步工具编排），才值得上 LLM router；低成本的 query 类场景千万不要用 LLM 做路由。
- 用 LLM feedback 自举参数抽取规则：L2 参数替换时，遇到轻量归一化无法解释的差异，再调一次 LLM 判定是否是参数变化，并把结果注册成正则规则；后续同类参数可以 0 token 处理。这个机制很适合商品名、类目、时间窗口等高频可变参数的电商 query。
- 在线冷启动路径可以直接抄：无预训练、无人工标注，前 100 条 query 内 L2 命中从 0 到 57%；适合内部 dashboard、监控告警、运营取数 Agent 上线。但要注意文中提到的 error propagation，自动提取的 Skill 需要加正确性校验或执行后验证，不能直接推全量。