当记忆接受梯度：面向智能体推荐系统的协同向量记忆
🧭 Agent 记忆设计 · 协同向量记忆 ★ 深度解读
Shenzhen Technology University
用 LightGCN 协同状态作为 LLM Agent 持久记忆，通过对比对齐和掩码 listwise 协同训练让模型学会读取向量记忆，在 4 个指令推荐基准上超过文本记忆 Agent 且零额外维护调用
📌 工作参考价值（4 点）
- 把 Agent 的用户记忆从“文本叙事”拆成“轻量文本画像 + 冻结协同向量记忆”。电商/推荐场景可复用已有的 LightGCN、SASRec、SVD++ 等用户与物品 embedding 作为记忆库，避免每次交互后调用 LLM 重写，省去大量 token 与串行延迟。
- 采用 candidate-conditioned retrieval：用当前候选集 embedding 质心去用户历史里检索 top-K 最相关物品状态，而不是取最近 K 个；这对排序/推荐 Agent 在线推理便宜且与当前决策相关。
- 不要只把 embedding 塞进 prompt。需要 gated projector + 低秩 LoRA 构成可训练的 memory reader，并用“候选 title 随机 mask + listwise margin loss”强制模型依赖协同 token；否则 LLM 会走文本捷径，向量 token 反而干扰。
- 推理阶段用 pointwise yes/no logit 打分并并行请求，避免 listwise 生成排序的解析失败；指令位置可以用只基于训练集统计量的零样本规则卡选择，避免验证集泄漏。
LLM 增强多图学习与对比对齐的 POI 推荐
🧭 多图对比学习 · LLM 语义增强 ★ 深度解读
Institute for Digital Transformation - University of Applied Sciences Ravensburg-Weingarten, Germany
用 LLM 生成语义图和地理图扩展 LightGCN，通过跨视图对比对齐缓解 POI 冷启动
📌 工作参考价值（4 点）
- LLM 生成 item 语义图：对 item 的多模态信息（图/文/元数据）用 LLM 生成 photo summary + keywords，再用 sentence transformer（如 all-MiniLM-L6-v2）编码后做 top-k 相似度建图。电商/本地生活可直接对商品标题、详情、图片生成摘要，构建商品语义邻接图，冷启动 item 也能获得邻居信号。
- 地理邻近性建模：用 Haversine 距离 + top-k（k=10）构建地理 item-item 图，权重取 1/(1+distance)，与语义相似度权重同尺度，归一化后做 LightGCN 传播。本地生活/门店推荐可直接复用，电商可扩展到配送范围、仓储邻近等空间关系。
- 跨视图对比对齐很关键：将 collaborative embedding 与 semantic/geographic embedding 做双向 InfoNCE，仅对 batch 内正样本计算，τ=0.2，λ=0.05 作为正则化项。消融显示该对齐是主要收益来源，去掉后 Recall@20 下降 22.9%。建议在多路召回或表示融合场景中，用对比损失强制行为表示与内容/空间表示一致。
- 工程实现简单有效：所有视图共享 item embedding 矩阵，多图传播后直接 additive fusion 相加，不引入额外参数。这种轻量设计适合线上快速迭代，后续可替换为可学习加权融合。
TRACER：平衡 LLM 增强持续推荐的稳定性-可塑性-认知性三元悖论
🧭 LLM 增强的持续推荐 · SPC 权衡 ★ 深度解读
Pohang University of Science and Technology · University of Illinois Urbana-Champaign · Korea University
提出 TRACER，通过 Procrustes 初始化、置信门控+LoRA 推理、梯度同步 guidance，在 LLM 增强持续推荐中同时缓解遗忘、适应与语义偏置
📌 工作参考价值（4 点）
- 在持续推荐/流式更新中引入 LLM 语义 embedding 时，不要无脑 concat 或全量微调 adapter：建议按初始化/推理/损失三处分别设计约束。冷启动 item/user 可用正交 Procrustes 将语义 embedding 旋转到已有 ID 协同空间，再做局部邻居校准，避免语义空间与协同空间坐标系不一致。
- 线上 serving 用 LLM 语义特征时，可加 confidence gating + LoRA 低秩更新 adapter。按曝光频率门控：高冷实体更多注入语义，热门实体更多信任 ID 协同；跨 stage merge LoRA residual、冻结 bias，防止语义主导 ID 学习。
- 训练目标里做语义对齐时，先计算 rec loss 与 semantic guide loss 的实体级梯度 cosine；同向才开启 semantic guide，反向则切换为对上一轮参数的 retrospective regularization（已有实体）或直接只学 rec（新实体）。这比固定权重蒸馏更能保护历史和新兴趣。
- 评估 LLM 增强持续推荐时别只看整体 NDCG；建议补 BWT/TRG/SRT 类指标，分别监控历史遗忘、新兴趣适应、语义先验贡献，避免出现 KAR/LLM-ESR 式语义过拟合而 TRG 很低的问题。