An Event is Worth One Token: Event Tokenization for Industrial-scale LLM Recommendation
事件即一Token：面向工业级LLM推荐的事件Token化
🧭 事件Token化提升LLM推荐快照分辨率 ★ 深度解读
AI at Meta
将每个用户交互事件压缩为单个Event Token并异步缓存，在不增加在线特征物化成本的前提下提升LLM推荐的快照分辨率
📌 工作参考价值（4 点）
- 异步Event Token缓存：将用户历史事件（曝光/点击/转化等）在离线阶段用轻量Encoder压缩成固定维度向量，在线推理时只读取缓存Token，避免实时拉取和解析上百个稀疏/稠密特征，大幅降低特征服务与GPU计算压力。
- 统一Tokenizer + 特征Mask：一个共享Encoder通过二进制mask区分不同角色（用户/物品/上下文/标签），同时服务排序和检索任务，实现跨实体正迁移，减少多套编码器的维护成本。
- 表示漂移缓解：高频重训会导致缓存Token与旧版本不兼容，采用DANN+EMA对齐新旧Encoder输出空间，保持缓存可复用，避免每次更新后全量刷新用户序列。
- 存储压缩技巧：Matryoshka Dropout支持训练一次后灵活截断维度，量化感知训练实现INT4下8倍存储压缩，适合海量用户历史Token的存储需求。