Every Ablation Is a Dose: Counterweights and the Semblance of Self-Repair
消融即剂量：抵消权重与自修复的假象
🧭 模型可解释性 · 自修复机制
Lexsi Labs
提出自修复源于消融前已有的反事实增益，组件响应服从仿射定律并可由固定权重预测
📌 工作参考价值（3 点）
- 在 LLM 推荐 / Agent 的模块消融中，不要只看“删掉某个 LoRA / 记忆模块后指标变化很小”就认为该模块不重要；自修复会掩盖因果贡献。可把干预强度连续化（如缩放隐藏状态 λ），拟合 E_r(λ)=own_r+γ_rλ，用斜率而非二进制消融判断真实作用。
- 若你的业务要对 LLM 中的风险 / 偏见子模块做 unlearning 或 circuit 剪枝，先测量下游单元的 γ_r 符号与幅度；固定权重可预估哪些单元会抵消删除信号，避免越高删、下游补偿越大。
- 对于 Agent 多模块 pipeline，当移除某工具 / 检索模块后整体效果“没掉”，要区分是模块没用还是其他模块在补偿；建议用多档剂量干预（0, 0.25, 0.5, 1, 2 等）替代单点消融，找出剂量 - 响应曲线，定位真实瓶颈。