Balanced LoRA: Removing Parameter Invariance to Accelerate Convergence
平衡 LoRA：消除参数不变性加速收敛
🧭 LoRA 优化 · 平衡投影 ★ 深度解读
École Normale Supérieure PSL · CNRS · Apple
提出 BaLoRA，通过投影到平衡流形改善 LoRA 条件数，实现更快收敛且几乎无额外开销。
📌 工作参考价值（4 点）
- 在生成式推荐或 Agent 微调中，用 BaLoRA 替代标准 LoRA：每步优化后加一次极分解+SVD 投影（复杂度 O((a+b)r²)），收敛更快且不增加显存。
- 高秩微调场景（如复杂多模态推荐、大规模 Agent 模型）下，BaLoRA 在高 rank（64、128）优势显著，可避免条件数恶化。
- BaLoRA 对学习率和初始化缩放更鲁棒，降低超参搜索成本，适合业务中快速迭代。
- 投影保持乘积 AB 不变，无伤融入现有 LoRA 流水线，可即插即用。