Naive Prompt Optimization: Rethinking the Need for Complex Prompt Search
朴素提示词优化：重新思考复杂提示词搜索的必要性
🧭 提示词优化 · 教师-学生轻量迭代 ★ 深度解读
Purdue University
提出单谱系迭代的提示词优化方法NPO，用强教师模型结合轨迹反馈，以更少rollout达到或超越复杂搜索方法GEPA
📌 工作参考价值（5 点）
- 提示词工程做减法：NPO 证明在固定 student 模型下，用单谱系 + 滑动窗口轨迹反馈 + 强教师（如 GPT-5.5）就能达到甚至超过 GEPA 等复杂搜索方法；在电商/广告 agent 中可直接套用此简单框架，避免维护多个候选 prompt 池和 Pareto 选择，节省工程复杂度。
- 公平评测技巧：使用共享伪随机种子生成环境实例，让不同方法在完全相同的问题分布上比较，降低环境噪声；在业务 AB 测试或策略对比时，若环境可 seed，可借鉴此设计提高对比的统计可靠性。
- 约束解码隔离格式错误：用 token-level trie 约束模型输出合法动作（如 JSON 字段、合法选项），使性能评估专注决策质量而非格式好坏；在电商推荐/搜索等结构化输出场景（如生成 query、商品属性）可显著减少不必要的失败，同时保留 reasoning 自由。
- 跨模型迁移 prompt：在便宜小模型上优化出的 prompt 可直接迁移到同家族大模型且收益保持（如 Qwen3-8B 优化后迁移到 Qwen3-32B），跨家族也有正向收益；实际工作中可先在小模型上迭代 prompt，再部署到线上大模型，避免重复优化成本。
- 防泄漏监控：对比优化 prompt 与训练/验证集答案的重叠度，发现主要积累训练集信息而验证集几乎不泄漏；业务中做 prompt 自动优化时也应监控此类污染，避免上线后效果虚高。