UEmbed: Unified Sparse and Dense Multimodal Embeddings
UEmbed：统一稀疏与密集的多模态解码器嵌入模型
🧭 多模态嵌入 · 统一稀疏密集检索 ★ 深度解读
CASIA · Alibaba Group · University of Chinese Academy of Sciences · Yale University
首次在纯因果解码器架构中同时产出稀疏词汇表示与密集语义向量，统一多模态检索。
📌 工作参考价值（4 点）
- 稀疏-密集统一表示：单一 MLLM 前向可同时获得稀疏词袋与密集向量，无需额外模型，可直接用于召回-排序联合优化，降低延迟。
- 因果模型兼容 vLLM 等高效推理框架：由于保持纯因果注意力，稀疏向量的生成可直接融入现有自回归服务栈，降低工程迁移成本。
- k-means 词汇划分与 FLOPS 正则：该方法中的词表分割策略可迁移至电商商品标题或描述的关键词扩展，提升查询与商品的词汇匹配粒度；FLOPS 正则保证稀疏激活可控，避免膨胀。
- Agent 搜索成本节约：在 deep research 类场景中，稀疏表示让 Agent 用更少的搜索轮次达成相近召回，直接降低工具调用开销，可参考用于导购 Agent 的关键词检索。