Gradient-free Task-Conditioned Retrieval for On-Device In-Context Learning
面向端侧上下文学习的无梯度任务条件检索
🧭 输出条件化的无梯度检索对齐
City University of Hong Kong · Institute of Automation Chinese Academy of Sciences
CoRA 利用输出信息构建条件空间，无需微调即可将冻结编码器转为任务导向检索器，支持端侧多模态示例选择
📌 工作参考价值（4 点）
- 无梯度任务适配：在推荐或搜索中，可用少量任务样本（如高转化 item 的标题或图像）构建条件空间，将已有编码器快速适配为任务专用检索器，无需重新训练或反向传播，适合快速 A/B 测试。
- 端侧高效检索：低秩压缩将检索索引缩小至原始表示的 1/50~1/100，且查询时仅需输入编码和预计算索引，适合移动端或边缘设备的实时个性化推荐。
- 多模态扩展：可将商品图、详情描述等视觉特征纳入条件空间，直接检索多模态示例，为图文推荐或广告创意优选提供轻量方案。
- 离线构造与双通流式处理：采用闭式岭回归和双通算法避免储存完整拟合矩阵，可处理百万级候选集，适合大规模电商场景下构建任务条件索引。