#QLoRA

6 篇

Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage

开源大语言模型临床分诊偏差的反事实审计

🧭 LLM 反事实公平性审计

Virginia Tech · University of Washington and Seattle Children's Hospital · Children's National Hospital

反事实审计10个开源LLM的临床分诊偏差，发现敏感性与模型规模/医疗预训练非单调，QLoRA微调版本最低

📌 工作参考价值（4 点）

在生成式推荐/Agent 决策中，可复用成对反事实审计：仅改变用户画像中的性别、会员等级、设备、地区或商品价格带等单一敏感属性，固定其他上下文，统计输出列表/排序变化，低成本发现模型对敏感特征的依赖。
不要只看 aggregate shift 率：要按敏感属性分组，分别观察方向性（类似 overtriage/undertriage），例如是否系统性打压某类用户或过度曝光某类商品，否则聚合指标会掩盖局部严重偏差。
QLoRA 微调可能降低总体敏感性，但不一定消除方向性偏差甚至引入新偏差；微调后必须重新跑反事实评估和分层分析，不能只测总体准确率。
选 LLM 做排序/决策支持时，更大模型或领域预训练不自动更公平；建议对候选模型统一跑反事实测试集，结合真实与合成样本，作为选型和上线前评估的一部分。

Eval | 2026-10-01 | cs.CL | score 6/10

No Model Required: Text Entropy Rate Filtering Mitigates Iterative Fine-Tuning Collapse

无需模型：文本熵率过滤缓解迭代微调崩溃

🧭 迭代微调多样性维护与数据过滤

Adelaide Data Science Centre, University of Adelaide · School of Mathematical Sciences, University of Adelaide

提出基于 Kontoyiannis 熵率估计器的纯文本过滤器，在不访问模型的情况下有效提升迭代微调多样性

📌 工作参考价值（4 点）

合成数据微调管道可直接引入熵率过滤：在生成式商品描述、搜索 query 或广告文案的迭代训练中，用 Kontoyiannis 熵率估计器对合成样本打分，过滤低多样性样本，避免模型输出重复化；无需调用模型 API 或持有 logprob，工程开销低，适合无模型推理权限的场景。
多 Agent 系统多样性监控：将文本熵率作为多智能体生成内容的实时监控指标，当熵率持续下降时触发干预（如提高采样温度或注入新提示），防止 Agent 间输出趋同。
替代传统 logprob-based 过滤：论文显示 logprob 过滤在该任务上无显著收益，业务中若已使用 perplexity 等模型依赖的过滤，可尝试替换为纯文本熵率过滤，可能获得更好的多样性且更轻量。
少样本验证结论：熵率估计器跨域适用，可作为生成式推荐模型微调时的通用质量代理，用于快速评估数据集的多样性是否充足。

Training | 2026-10-01 | stat.ML | score 7/10

Model Collapse Entropy Rate Data Filtering Iterative Fine-Tuning QLoRA Diversity

A Verifier-Guided Explainable Reasoning Framework with Gold-Anchored QLoRA, Task-Aware Mixture-of-Experts, and Group-Relative RLVR

验证器引导的可解释推理框架：金答案锚定QLoRA与组相对RLVR

🧭 神经符号推理 · RLVR 可解释性

University of Information Technology (UIT), Ho Chi Minh City, Vietnam · Ho Chi Minh City University of Technology (HCMUT), Vietnam · Vietnam National University, Ho Chi Minh City, Vietnam · University of Economics Ho Chi Minh City (UEH), Vietnam · Viet Nam – The Netherlands Programme (VNP), Vietnam

结合金答案锚定QLoRA、任务感知符号路由和组相对RLVR，在保持答案正确率的同时大幅提升推理可解释性

📌 工作参考价值（4 点）

可借鉴「符号验证器 + 模型自一致性」的双层校验：在电商 Agent 中，对价格计算、优惠规则等可形式化任务部署轻量符号求解器，对 LLM 候选输出做系统级修正，可在不改变模型参数的情况下提升可靠性。
RLVR 中的多维奖励设计可迁移：将奖励分为答案正确性、证据一致性、推理深度/可解释性三类，能单独优化推理结构而不牺牲准确率；在推荐解释生成、Agent 决策理由生成等场景可借鉴。
任务感知路由：用轻量路由器将问题分发给不同专家（符号求解器 vs 神经模型），减少不必要计算并提高针对性；在电商多任务 Agent 中可按意图分流到不同工具或验证模块。
QLoRA 微调时锚定权威答案（gold-anchored）可减少幻觉；在构建商品知识问答或客服 Agent 时，用结构化知识库答案做监督信号，提升生成内容的可靠性。

Reasoning | 2026-09-04 | cs.LG | score 6/10

RLVR QLoRA Mixture-of-Experts Neuro-Symbolic Reasoning Explainable AI Self-Consistency

The Parts Are Greater Than the Sum: Automated Task Sequencing for Efficient Training of Multi-Policy LLMs

自动任务排序实现多策略 LLM 高效训练

🧭 参数高效微调 · 任务分组与排序

The Alan Turing Institute · University of Southampton · King’s College London

提出自动化任务分组与排序框架，用独立 QLoRA 解耦优化路径，在固定参数预算下提升异构任务微调性能

📌 工作参考价值（4 点）

多任务微调的任务组织：面对电商搜索、推荐等异构任务（如语义相关性、点击率预估、不良内容检测），可借鉴任务分组与排序策略，将相容任务归入同一适配路径，减少梯度干扰和灾难性遗忘。
多 LoRA 替代单一大适配器：使用多个小型 QLoRA 替代一个共享适配器，每个策略只服务一组相容任务，既控制总参数量又提升表达能力，适合需同时维护多个小模型的业务场景（如多国、多站点推荐）。
自动化任务路径组织：在固定参数预算下，通过自动分组和排序决定适配器分配，避免人工经验试错，该流程可直接迁移到 Agent 工具调用或意图识别等多能力微调中。
工程实现简洁：每个任务组对应一个 QLoRA 模块，推理时按路由加载，与 LoRA 生态兼容，便于在已有 PEFT 框架上扩展，适合快速实验和部署。

Training | 2026-07-31 | cs.LG | score 7/10

PEFT LoRA Task Sequencing Multi-Policy Catastrophic Forgetting QLoRA

Long-Context Fine-Tuning with Limited VRAM

有限显存下的长上下文微调：结合分层全局注意力与分段反向传播

🧭 长文本微调显存优化

BMW Group

用分层全局注意力、分段反向传播和分级KV缓存，在16GB显卡上将可训练上下文长度从2K扩展到16K，评估时支持131K tokens

📌 工作参考价值（4 点）

在电商推荐场景中，用户长期行为序列或长商品描述经常超过2K tokens，本方法可直接用于消费级GPU（16GB）上微调长上下文模型，大幅降低硬件门槛。
分段反向传播与历史KV转存RAM/NVMe的策略，可以借鉴到其它长序列训练中（如序列推荐模型），将不可微历史状态移出显存，只保留当前段可训练，节省显存。
HGA通过为每个查询块加载有限的历史token，保持每个token的关注量近似恒定，训练速度随上下文长度线性增长，而密集注意力是二次增长，这一特性可在在线学习或增量训练Agent时提升效率。
训练得到的适配器可与标准密集注意力生成框架兼容，这意味着可以将高效的HGA训练与成熟的推理引擎结合，在保证模型质量的同时让推理也受益于长上下文。

Training | 2026-07-16 | cs.AI | score 7/10

QLoRA Hierarchical Global Attention long-context VRAM-efficient attention KV-cache

Beyond Generative Decoding: Discriminative Hidden-State Readout from a Native Omni-Modal LLM for Multimodal Sentiment Analysis

基于原生全模态LLM的判别式隐藏状态读出用于多模态情感分析

🧭 判别式读出 · 多模态情感回归 ★ 深度解读

School of Computer Sciences, Universiti Sains Malaysia

用判别式隐藏状态回归替代生成式解码，在连续情感分析中精度更高、更可靠、推理更快

📌 工作参考价值（4 点）

连续值输出的LLM应用首选判别式头：当需要预测连续值（评分、概率、强度）时，不要用生成字符串再解析，直接从最后一token隐藏状态接轻量MLP回归，避免格式错误和精度损失，同时大幅降低推理延迟。
QLoRA + 动态帧采样降低多模态LLM硬件门槛：在单张32GB消费显卡上跑通7B全模态模型，LoRA rank=32，仅训练1.14%参数，该配方可直接迁移到电商视频评论理解、直播情感监控等任务。
可控读出对比可作为模型诊断工具：固定骨干、数据和适配方案，只改变读出方式，能定量评估生成式解码的额外误差和不可靠性，类似思路可用于推荐系统中LLM输出评分/理由时选择最优读出策略。
音频预处理合理提点：用轻量去噪（如DeepFilterNet）清理音频通道，可改善细粒度回归指标，这在金融举报音频、客服录音等场景下值得尝试。

LLM | 2026-06-04 | cs.MM | score 8/10

Multimodal Sentiment Analysis Discriminative Readout Generative Readout Qwen2.5-Omni QLoRA Hidden-State Regression