UniRank: Benchmarking Ranking Models for Unified Sequential Modeling and Feature Interaction
UniRank：统一序列建模与特征交互的排序模型基准
🧭 统一排序模型基准测试 ★ 深度解读
Anhui University · University of Science and Technology of China · Tencent Inc.
首个面向 Token 化统一排序模型的开放基准，标准化多任务点式自回归评估并降低训练成本
📌 工作参考价值（4 点）
- Tokenization 策略选择：Field 保留语义边界、Auto 学习全局交互、Chunk/Random 引入高熵分组表征，应根据特征场数量与交互需求选取；电商场景下 Auto 通常更稳，Chunk 在特征较多时可能带来多样性增益。
- 注意力激活函数：GeLU 和 SiLU 作为注意力 logits 激活在两个数据集上平均 AUC 提升最显著（KuaiRand +0.51, MerRec +0.38），优于传统 Softmax；Sigmoid 对点赞等稀疏任务有利，可针对不同目标 task 单独配置。
- 即插即用的 AttGate：在注意力后加一个可学习的 sigmoid 门控，是所有实验中唯一在两个数据集的所有任务上都有提升的组件（KuaiRand 平均 AUC +0.88, MerRec +0.99），可作为通用即插即用模块嵌入现有排序模型。
- 优化器与缩放定律：稠密参数优化器 AdamW 并非最优，LaProp、SOAP、Muon 在不同数据集上分别带来 0.6~1.9 个点的平均 AUC 提升；缩放时栈式模型提升 token 维度即可，层式模型需同时增加序列长度和深度，架构决定了有效扩展方向，不能只看 FLOPs。