OneReason Technical Report
OneReason:面向生成式推荐的感知-认知推理模型
🧭 生成式推荐 · Semantic ID · 推理增强 ★ 深度解读
Kuaishou
通过多粒度预训练、层次化 CoT SFT 和“先专后统”RL,首次在生成式推荐中让思考模式稳定超越非思考模式
📌 工作参考价值(4 点)
- 多粒度预训练数据设计:将推荐语料构建成 token→item→relational→user 四个层次,其中 token 级构造组合语义预测、item 级做容量感知的caption粗粒化、relational 级生成兴趣流转解释、user 级混入跨域时间线与text替换。电商/短视频场景可直接复用这种分层来强化物品语义表示和用户理解。
- 推荐 CoT 模板与监督:定义 R0(感知)→R1(推导)→R2(演化)→R3(推荐)的层次化 SFT,每条 CoT 先压缩用户历史为兴趣状态,再基于状态推理下一交互。实际业务中,可以参照该模板用 LLM 为历史序列打标兴趣点,构建带推理痕迹的训练数据,提升模型的解释性与准确率。
- “先专后统”RL 策略:在多模块推荐场景中,先在每个单域做 RL 解锁思考模式增益,再通过拒绝采样微调或多教师蒸馏跨域平衡。对于电商/广告/直播等多业务线融合训练,可避免域间干扰,稳定提升整体收益。
- CoT 监督向非思考模式的迁移:论文发现将 CoT 推荐数据混入训练,可以提升非思考直接生成的性能。对于线上延迟敏感、无法实时推理的场景,可在训练阶段使用 CoT 数据,推理时丢弃思考过程,既保持低延迟又获得效果提升。