Co-LMLM: Continuous-Query Limited Memory Language Models
连续查询有限记忆语言模型
🧭 连续向量查询 + 外部可读知识库
Cornell University
用连续向量查询替代关系型查询，从可读知识库检索知识，提升语言模型事实精度与数据效率
📌 工作参考价值（4 点）
- 在电商推荐理由生成中，可将商品知识（属性、卖点、用户评价）存入可读知识库，用连续向量查询实时检索，保证生成事实正确且可归因，知识可动态更新无需重训模型。
- 连续查询方式免去设计结构化查询模板的成本，模型自动学习如何表达信息需求，适配搜索、推荐中的多样化上下文。
- 提出的自由文本事实标注流程可迁移到业务语料上，自动构建知识库条目，降低人工维护负担。
- 模型在数据效率上的优势（360M 规模仅用 1/40 数据即超越基线）对资源受限的垂域推荐微调有参考价值，可减少对大规模预训练数据的依赖。