#adapter

3 篇

Compile by Training: Turning Natural-Language Specifications into Local Neural Functions

通过训练将自然语言规范编译为本地神经函数

🧭 自然语言规范编译为本地神经函数

University of Waterloo · Harvard University

通过教师模型生成示例并训练小适配器，将自然语言规范编译为可本地运行、可组合的神经函数

📌 工作参考价值（4 点）

在搜索/推荐/广告的高频文本规则场景（如 query 意图分诊、广告文案合规、商品标题清洗），可把 LLM 编译成轻量本地函数，替代每次远程调用；尤其适合高 QPS 或低延迟要求的在线链路，能显著降低 token 成本和尾延迟。
将自然语言规则视为可编译的"源"，用教师模型生成标注样本并训练小 adapter，使规则以模型权重形式版本化、可组合、可回滚；这比直接维护 prompt 或外部 LLM 调用更可控，也便于嵌入 ML pipeline 和 Agent 工具链。
编译时间约 1 分钟，准确率 83.6% 且语义匹配容错，适合作为模糊规则引擎的中间层；对关键业务可结合规则兜底或人工校验边界，避免在硬约束场景直接依赖。
该思路可推广到电商 Agent：把多个子任务自然语言描述分别编译成小函数，供 Agent 按需调用，减少对单一远程大模型的依赖，提升响应稳定性和可审计性。

Training | 2026-09-03 | cs.LG | score 7/10

LatentPress：超越文本与视觉的上下文压缩

🧭 LLM 上下文压缩 · 连续 soft tokens

Cornell University · Iowa State University

将对话历史与长文档压缩为连续 memory tokens，直接输入冻结解码器，无需文本重建，4-16倍压缩且性能优于文本摘要与OCR压缩

📌 工作参考价值（4 点）

可借鉴的架构：用一个小 writer 将长对话历史、行为序列、工具调用记录压缩成 continuous memory tokens，作为 frozen LLM 的输入 embedding 直接读取，省去文本重建和检索排序，适合电商对话助手/Agent 的记忆模块。
训练成本极低：只训练 4.2M-26.2M 参数的 adapter（约 decoder 0.1%），frozen decoder，可快速迭代，适合业务场景频繁更新。
压缩比选择：4-8 倍压缩在 QA 上可匹配或超过 raw context，16 倍明显退化；在线 Agent 历史压缩建议先用 4-8 倍，在时延与精度间取平衡。
写入耗时 43ms/对话，读取快 5-9 倍，比文本摘要或 OCR 重建快一个数量级，能满足在线低延迟要求；零样本跨域迁移表现说明 soft tokens 有潜力作为通用行为表征。

LLM | 2026-08-31 | HF Daily | score 7/10

DIVE：通过自限制梯度更新实现嵌入压缩

🧭 嵌入压缩 · 自限制梯度更新

University of Washington Tacoma

通过自限制 hinge triplet 损失和多头对比学习，在小样本下稳定压缩高维嵌入，全面超越现有适配器

📌 工作参考价值（4 点）

小样本场景下微调嵌入压缩模型常过拟合，可借鉴自限制 hinge triplet loss：一旦 triplet 满足 margin 约束即停止梯度，安全地限制对预训练空间的扰动，稳定训练过程。
利用多头投影构造隐式视角，对每个嵌入计算 NT-Xent 对比损失，为稀疏的 triplet 信号提供密集的自监督梯度。在推荐系统标注数据稀少时，此技巧能显著提升压缩表示质量。
采用轻量 residual adapter 实现维度压缩（仅 14M 参数），无需改动预训练 LLM 骨干，可直接嵌入线上向量检索链路，降低存储与计算成本。
在电商搜索或推荐中，当需要将高维商品/用户 embedding 压缩以加速检索时，DIVE 的损失设计可作为微调范式，避免压缩比例增大时性能断崖下跌。

RecSys | 2026-05-20 | cs.IR | score 7/10