QQWorld: Quantile-Quantile Matching for World Model Regularization
QQWorld:基于分位数-分位数匹配的世界模型正则化
🧭 世界模型潜在空间正则化 · QQ匹配
Xi’an Jiaotong University
用分位数-分位数匹配替代Epps-Pulley检验,解决世界模型潜在表示重尾控制失效问题
📌 工作参考价值(4 点)
- 若推荐模型(如VAE、扩散模型)需要隐空间服从高斯先验,可用QQ匹配替代KL散度,强制尾部对齐,可能增强生成多样性和分布外泛化。
- 跨批次QQ的内存库机制与推荐系统中动量对比学习(如MoCo)或历史嵌入缓存类似,能以低开销扩大样本池改善分布估计,值得在用户表征训练中尝试。
- 监控隐向量的QQ图(而非单一分布距离)可更早发现训练中的尾部问题,适用于大模型调优。
- 在涉及多步序列决策的推荐场景(如交互模拟),该正则化可提升世界模型稳定性,减少误差累积。