PreView: Enhancing GUI Grounding with Preprocessed Views and Cues
PreView:通过预处理视图和提示增强 GUI 定位
🧭 GUI 视觉定位 · 输入预处理增强冻结模型
Independent Researcher
提出轻量辅助预处理器 PreView,为冻结 GUI 定位模型生成局部放大视图与候选特定视觉/文本提示,无需微调提升定位准确率。
📌 工作参考价值(4 点)
- 在电商/广告领域的 Agent 自动化(如 RPA、后台操作、广告审核)中,面对高分辨率复杂界面,可借鉴 PreView 的轻量辅助模型预测候选中心、裁剪放大局部视图,显著降低 VLM 输入分辨率和 token 成本,同时提升小控件点击准确率。
- 候选特定 cue 设计可直接复用:用红圈标记 + 位置提示(如“在左上角附近”)作为视觉 cue,结合候选身份/功能的简短文本描述(如“这是一个‘立即购买’按钮”),消除多控件密集布局下的歧义,这对商品详情页、广告落地页元素定位与合规检测尤其有用。
- 冻结主干模型、仅训练轻量预处理模块的范式适合业务快速迭代:无需重训或微调现有 VLM/grounding 模型,可快速适配不同界面风格和业务场景;中心细化机制可借鉴为 coarse-to-fine 定位策略。
- 注意视觉输入预算管理:论文分析了视觉输入 budgets,启示在部署时可根据目标控件数量动态调整裁剪视图数量与分辨率,平衡准确率与推理成本。