TLive-Omni: An Omni-Modal Understanding Model for E-Commerce Live Streaming
TLive-Omni：面向电商直播的全模态理解模型
🧭 多模态大模型 · 电商直播理解
Taobao & Tmall Group of Alibaba
面向电商直播的全模态理解模型，通过三阶段监督训练和 Faithful-RFT 强化微调，实现长时多模态流的准确实时理解
📌 工作参考价值（4 点）
- 直播场景中商品信息分散在语音、视频帧、商品图、叠加文字和用户 query，可借鉴 Per-vGrid 时间戳 token 组织：将视频 grid 与对应的音频段放在显式边界 token 内，强化时序对齐，适合长视频理解任务。
- Faithful-RFT 强化微调思路值得迁移：直接对最终答案使用任务可验证反馈打分，而不在 rollout 过程中优化推理式探索，能平衡答案忠实度与实时响应，对电商推荐/客服等延迟敏感场景有参考价值。
- 数据生产引擎将直播音视频流自动转为 ASR、说话人分析、视觉 grounding、OCR、时序 grounding、dense caption、全模态 QA 等原子能力训练信号，可复用到电商内容理解、商品属性抽取与标注。
- 工程实现上，同步长度分组采样减少 padding 且保持多 worker 负载均衡，轻量动态采样保持 GRPO 相对优势，对大规模多模态训练有实用参考。