Fine-Tuning LLMs for Translation: General Forgetting Mitigation Does Not Preserve MT-Specific Instruction Following
针对翻译微调LLM：通用遗忘缓解不保护MT特定指令遵循
🧭 LLM 微调与灾难性遗忘缓解
AppTek GmbH, Aachen, Germany · Machine Learning and Human Language Technology, RWTH Aachen University, Germany · Applied Science Private University, Amman, Jordan
比较微调中的遗忘缓解方法，发现EWC保留通用能力最好，但只有混合控制任务数据可保留MT特定指令遵循，且泛化有限
📌 工作参考价值（3 点）
- 在电商/推荐场景微调LLM（如生成推荐文案、query改写、对话Agent）时，建议添加EWC正则化：实现简单，能显著减缓通用基准能力下降（本文8B模型仅降1.7分 vs 标准微调11.0），同时不影响领域任务性能。
- 若需要保留多种控制能力（如文案语气、长度、格式），仅靠通用遗忘缓解不够，应在微调数据中混合少量控制任务示例，但需注意对未见过的指令模板泛化有限，因此要持续扩充控制任务的数据多样性。
- 评估微调模型时必须同时监控通用能力和任务特定指令遵循，不能只看单一指标，因为通用能力保留不代表特定控制能力保留。