AI Papers Daily

#Context-Aware

4 篇

MoME: Mixture-of-Memory Embeddings for Context-Aware Sparse Lookup

MoME：上下文感知稀疏查找的混合记忆嵌入

🧭 上下文感知稀疏记忆嵌入

University of British Columbia · Vector Institute for AI · Canada CIFAR AI Chair · NSERC CRC Chair

MoME 用上下文门控选择 M 个记忆槽的混合，取代单一行记忆，在 iso 参数/FLOP 下优于现有稀疏记忆基线，并改善 scaling 趋势。

📌 工作参考价值（4 点）

• 在 LLM4Rec / Query 推荐等场景，可将类目、品牌、高频 query 模板等静态知识注入 token 级条件记忆：用 MoME 式混合门控取代固定 embedding lookup，按上下文选择多个 slot，能区分“苹果”手机与水果等多义 token，提升下游意图理解。
• 在线 serving 需要低延迟稀疏查找时，条件记忆比 MoE 更便宜；MoME 的推理开销接近简单 embedding lookup，适合在推荐/搜索模型里增加轻量领域记忆，而无需承担 expert 路由与全激活成本。
• 对于搜索 query 生成/改写，可借鉴其多槽分离机制，将同一 surface token 的多种语义分开存储，由 learned gate 自动识别意图；定性结果显示路由具有可解释性，有助于后续分析或人工干预。
• 工程实现上注意 slot 数 M 与训练 FLOP 的平衡：MoME 在 sub-billion 规模下 memory-size scaling 趋势更优，说明在中小规模模型上增加记忆容量比扩大 dense 参数更具性价比。

Training | 2026-09-13 | HF Daily | score 7/10

Mixture-of-MemorySparse MemoryContext-AwareLLM PretrainingMemory EmbeddingsScaling

Profiling What Matters: Context-Aware Item Profiles from Large-Scale Metadata for LLM Recommenders

上下文感知物品画像：从大规模元数据提炼 LLM 重排关键信息

🧭 LLM 重排 · 物品画像 ★ 深度解读

Korea University · KT Corporation

CAIRO 将物品元数据与评论结构化为客观特征和主观特质，用轻量选择器按用户上下文生成个性化画像，显著提升 LLM 重排效果

📌 工作参考价值（4 点）

• 在 LLM 重排/生成式推荐中，不要直接注入全量商品元数据或仅用标题；先离线把 metadata + reviews 结构化为「客观特征 + 主观特质」字典，再按用户上下文挑选，可避免 +Feat 变体反而掉点。
• 用户相关属性选择不必每次调用 LLM：用小型 controller 网络基于协同信号学习 feature importance，在线只做 softmax + top-k 池化，离线存储 embedding，可将单用户画像耗时压到 0.2s 级，远低于 agentic RAG 的数百秒，适合在线 serving。
• 主观特质不要做成单一 summary；从评论中生成 3-7 个不同 facet 的 trait（如功能、品牌、使用场景），选择时用 user profile embedding 做 cosine 相似度，能覆盖同一商品对不同用户的不同卖点。
• 若要对生成画像做优化，可构造 proxy task（next-item 预测错误案例）让 LLM 诊断 trait 缺陷，并强制用客观属性 grounding 后修订，提升 profile 质量且更不易幻觉。

RecSys | 2026-08-21 | cs.IR | score 9/10

LLM RecommendersItem ProfilingRerankingContext-AwareFeature SelectionSubjective Traits

Toward User Preference Alignment in LLM Recommendation via Explicit Context Feedback

通过显式上下文反馈实现LLM推荐中的用户偏好对齐

🧭 LLM推荐 · 显式反馈整合 ★ 深度解读

University of Illinois Chicago · Meta

论证将评论文本等显式反馈深度融入LLM推荐流程，以实现细粒度偏好对齐、提升多样性与可解释性

📌 工作参考价值（4 点）

• 评论驱动标签系统：从用户评论中抽取出结构化偏好标签（如 #LightWeightPhone、#NoJumpScares），作为召回过滤信号或重排特征。电商场景下可将标签异步生成并接入实时排序管线，低延迟融合语义理解。
• 负面信号图谱构建：将用户明确批评的属性构造成负面偏好图，避免推荐触发用户厌恶的商品（如“电池差”“太甜”），既能减少无效曝光，又能提升信任度。
• 用户属性跨域复用：利用用户自述的身份标签（素食主义者、专业摄影师）在不同业务线间传递稳定的偏好约束，实现从商品推荐到内容推荐的跨域对齐。
• 可解释性提升：在推荐理由中引用用户的原话或提炼的偏好点（如“因为您提到不喜欢跳跃惊吓，我们避免推荐此类影片”），增强推荐透明度和用户控制感。

RecSys | 2026-05-27 | cs.IR | score 10/10

LLMRecommendationExplicit FeedbackPreference AlignmentContext-AwareUser Profile

LATERN: Test-Time Context-Aware Explainable Video Anomaly Detection

LATERN：测试时上下文感知可解释视频异常检测

🧭 视频异常检测 · 上下文感知VLM

University of Iowa

通过上下文感知评分与递归证据聚合，使冻结VLM在测试时能生成连贯的事件级异常解释。

📌 工作参考价值（4 点）

• 图像扎根的记忆机制：根据帧多样性和视觉-文本对齐选择性保留历史帧作为上下文，可借鉴到多模态推荐中的时序行为建模，动态保留关键交互帧以增强长期兴趣理解。
• 递归证据聚合：分层聚合片段分数形成事件级决策，类似于 Agent 的多轮推理或层次化决策，可用于电商直播中的违规行为检测，从连续帧中逐步确认违规事件。
• 冻结 VLM 的测试时增强：不微调模型，仅通过外部记忆和聚合提升性能，适用于难以快速微调的大模型，可在商品描述异常检测或虚假评论识别中叠加类似轻量上下文模块。
• 解释一致性优化：显式要求事件级解释需跨段时间一致，对电商客服 Agent 的多轮对话摘要或推荐理由生成有参考价值，避免片段式、前后矛盾的输出。

Multimodal | 2026-05-14 | cs.CV | score 6/10

Video Anomaly DetectionVision-Language ModelsContext-AwareTest-TimeEvidence AggregationExplainability