Design Docs Are All You Need: An AI-native Machine-Learning Performance Tool
设计文档即一切:AI 原生的机器学习性能建模工具
🧭 Agent 驱动代码生成 · 设计文档化
Google DeepMind · MIT · Stanford · Google
用设计文档作为唯一持久化工件,让 AI 编码代理按需重新生成性能建模库代码
📌 工作参考价值(4 点)
- 借鉴“文档即代码”的范式:将推荐/搜索系统中最易变的模块(如召回粗排、性能预算模型)用结构化自然语言设计文档描述,并让 AI 编码代理根据文档自动生成实现,减少因架构频繁变动带来的维护成本。
- 使用逐步工作示例(worked examples)作为设计文档的一部分,充当生成代理的 in-context demonstrations,提高代码生成准确率;在业务中编写复杂策略文档时可附带典型输入输出样例。
- 构建符号化成本表达式(如 SymPy)对推荐系统推理链路进行性能建模,支持快速解析化扫描不同候选集大小、模型结构、硬件配置,辅助容量规划和架构选型。
- 定义最小递归算子 IR 来表达计算图,将粗粒度汇总与细粒度调度分离,可用于优化在线推理的资源分配与调度策略。