Gryphon-v2: One Model in Place of a Cascade - Generate-and-Rank Recommender with Rollout Distillation
Gryphon-v2：用蒸馏统一生成与排序的单模型级联替代方案
🧭 生成式推荐 · Semantic ID · 蒸馏统一级联 ★ 深度解读
Yandex
通过Rollout Distillation将高成本排序教师蒸馏到生成式推荐 Ranking 模块，单一模型替代多阶段级联并获在线收益
📌 工作参考价值（5 点）
- ## 可借鉴点
- 用蒸馏替代强化学习注入精排信号：将高成本但离线可计算的 Teacher Ranker 作为监督信号，通过 MAE 蒸馏到轻量 Ranking Module，避免 RL 的不稳定，适合稳定上线的电商/广告场景。可借鉴 Rollout Distillation：用当前 beam search 生成的候选 + 曝光日志候选双源蒸馏，对齐服务时分布。
- 统一生成与排序的共享编码器架构：用户历史编码一次，既用于 SID 候选生成，也用于 item 级排序，大幅减少推理延迟。在电商推荐中，可复刻此设计：用轻量 cross-attention Ranking Module 对生成候选打分，完全省去独立精排模型。
- 候选预算与 beam 截断策略：生成 SID 候选后通过碰撞类扩展，并用 item 预算（如 1200）截断低分 beam 候选；该机制在保证召回的同时严格控制精排候选集大小，适合在线延迟敏感的业务。
- Teacher Ranker 可按需扩大容量：Teacher 模型可上线级不可用（如 8000 事件长历史），但蒸馏后可用 2048 事件 student 实现 4 倍吞吐，节省 GPU；电商业务可训练一个超大排序模型作为 teacher，蒸馏到线上轻量模块。