Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability
高效推理训练不总损害 CoT 忠实度与可监控性
🧭 推理训练 · CoT 忠实度与监控性
School of Computer Science, University of Sheffield · AstraZeneca
系统评估三种长度压力训练方法，发现压缩 CoT 会降低忠实度但监控性较鲁棒
📌 工作参考价值（4 点）
- 在电商/搜索推荐 Agent 中，若为降低推理成本对 CoT 做长度压缩（如固定 token 预算或长度奖励），不要只看任务准确率；需补充评估 CoT 忠实度与模型一致性，否则可能引入“解释不可信”风险，影响事后归因和策略审计。
- 若 CoT 主要用于监控（例如检测输入扰动、prompt 注入或特征变化是否改变推荐结果），短 CoT 仍能保留较好的可监控性，可以继续将压缩后的 CoT 作为低成本的线上异常信号，而不必强依赖长推理。
- 方法借鉴：长度压力机制选择上，倾向使用组相对长度奖励而非全局固定预算，并在训练后同时报告忠实度和一致性指标；对于需要向用户展示推理过程或解释推荐理由的场景，应谨慎压缩，或对关键路径保留更长 CoT。
- 可在业务中用干预实验评估可监控性：改变用户历史、商品属性或上下文特征，观察压缩后的 CoT 是否仍能暴露输出变化，用于决定哪些链路可以启用短推理。