Frozen Models, Evolving Expertise: Model-Agnostic Learning from Deployment Experience for Multimodal Medical AI
冻结模型,进化专长:从部署经验中做模型无关的多模态医学AI学习
🧭 冻结模型外部经验持续学习 ★ 深度解读
University of Maryland, College Park · NVIDIA
提出参数无关外部专长框架,让冻结LLM/VLM从部署经验中持续提升并跨模型迁移
📌 工作参考价值(4 点)
- 在线 Agent/导购/客服:用 LLM optimizer 从成功/失败轨迹重写 Skill 文档而非 append,控制长度、消解冲突规则;候选 Skill 上线前用「下一批新流量 + 历史代表性 buffer」联合验证,接受条件为新样本平均收益>0、历史平均收益≥0、且 win>=loss,防止 prompt 过拟合固定验证集。可套用于搜索 query 改写策略、导购话术策略。
- 商品/内容多模态:维护 MMKB 式视觉记忆库,保存商品图+已知结论(类目、属性、违规、点击/转化标签),检索后用明确 prompt 让模型比较参考图证据与当前图的差异/缺失/矛盾,而不是只把图塞进上下文。实验显示同样 references,仅当上下文会让视觉任务分数下降,加比较分析后才转正;可迁移到商品图质检、主图优选、属性抽取。
- 知识与事实记忆:把可靠事实以「证据+适用条件」存入外部 Knowledge Memory,查询时先检索再检查是否直接回答且适用;只有多案例支持或有可信外部来源才入库。可做电商规则库、广告合规知识、平台政策问答的持续更新。
- 经验外置可无缝迁移到新基座/新模型版本,冷启动成本低;换 LLM 供应商或升级模型时,无需重训,直接复用 Skill/Memory/MMKB,对正在 A/B 不同底座或多租户模型选型的团队有用。