Interpretable sparse fine-tuning with TopKLoRA enables faithful circuit discovery
可解释稀疏微调 TopKLoRA 实现忠实电路发现
🧭 稀疏 LoRA 微调与电路可解释性
University of Oxford · University of Cambridge · Neuralk-AI
提出 TopKLoRA 稀疏 LoRA 变体，仅激活 k 个最大 latents，用于定位并精准移除后门电路
📌 工作参考价值（4 点）
- 在业务 LLM 微调中引入 TopKLoRA 稀疏激活，可大幅减少 adapter 参数量和推理开销，同时保留性能，适合部署多个轻量适配器进行 A/B 测试或个性化微调。
- 利用 TopKLoRA 的稀疏电路发现能力，对电商/广告场景中涉及内容生成、推荐解释的模型进行行为审计：定位哪些 latent 维度对应特定输出（如生成违规文案、偏见推荐），实现精准裁剪而不影响整体指令遵循。
- 当模型可能在开放数据或用户反馈上微调时，可借鉴该方法构建“模型 organism”并搜索后门电路，建立安全检测流程，防止恶意数据投毒导致推荐或对话策略被操纵。
- 对于 Agent 与 LLM 结合的多模块系统，可将 TopKLoRA 用于各子模型的适配器部分，通过梯度路由构造局部化电路，便于诊断单点故障或恶意行为在链路中的传播。