ABACUS: Adapting Unified Foundation Model for Bridging Image Count Understanding and Generation
ABACUS:统一基础模型适配以实现图像计数理解与生成
🧭 视觉语言模型统一理解与生成
University of Surrey · Simon Fraser University
提出统一视觉语言模型 ABACUS,无需基准特定训练即可在多种计数任务和计数忠实图像生成上取得 SOTA
📌 工作参考价值(4 点)
- 对于需要生成特定数量商品的电商场景(如促销图“5 件装”),可直接迁移 ABACUS 的计数忠实生成能力,确保图像内容与文案严格对齐。
- 统一模型多任务设计思路可借鉴到推荐系统:用一个模型同时处理点击率预估、转化率预估、商品文案生成等任务,减少独立训练成本。
- 循环一致性 GRPO 策略(理解分支自我批评生成结果)无需外部标注,可应用于推荐系统的生成式对话 agent 中,通过自我纠错提升回复事实性。
- 自适应缩放与物体性图的局部感知机制,可类比到多模态召回,对 query 区域重点建模,提高细粒度检索准确率。