AI4AI at Test-Time: Strong-to-Weak Capability Transfer via Harnesses
推理期脚手架实现强模型到弱模型的能力迁移
🧭 强模型构建推理期脚手架 ★ 深度解读
Salesforce AI Research · University of Illinois Urbana-Champaign
强模型不更新弱模型参数，仅靠推理期脚手架将弱模型ToM平均准确率从0.49提至0.91
📌 工作参考价值（4 点）
- 业务中用小模型/弱模型做 query 改写、意图分类、商品属性解析、Push 文案生成时，可先让强模型离线构造推理期脚手架：严格输出格式校验、greedy decoding、按任务子类型路由；把正则/规则/策略计算等确定性逻辑外置到代码，不让小模型做脆弱的符号推理。
- 用 5% 左右验证集做脚手架迭代即可，best validation 与 held-out 相关性极高（r=0.96）；跑 2-3 个 scaffold 选验证集最优、取上界，比反复加验证采样更划算。
- 把 builder 的 inference budget 投在深层任务分析而非多次验证上：builder reasoning effort 单调提升效果，而 validation iterations 几乎无关。具体到推荐/Agent pipeline，让强模型写出任务分解、状态提取、分支规则和 fallback，成本低但增益大。
- Headroom law：只对“弱模型有大量可纠正错误”的环节做脚手架；对已接近饱和的强模型或子任务，过度 prompt/rule 可能把原来对的答案改坏（strong target 在 Hi-ToM/MuMA 上出现负增益）。建议按子任务 headroom 做灰度和回退开关。