电商购物 Agent 的生成式奖励模型 E-GenRM
🧭 生成式奖励模型 · 购物 Agent ★ 深度解读
Taobao & Tmall Group of Alibaba · Technische Universität Wien
从真实购物行为回溯构造评价链,三阶段训练生成式奖励模型,在线提升淘宝购物 Agent 有效协助率与满意度
📌 工作参考价值(4 点)
- 用真实行为回溯构造评估轨迹:从购买结局反向切分 shopping task,将 120+ 行为信号翻译为 Agent 交互历史与候选响应对,能绕过「能力-轨迹反馈环」,持续产出覆盖长尾行为的 reward/eval 数据;适合电商 Agent 搭建数据飞轮。
- 评价链 + 三阶段训练可迁移:SFT 学动态加权 rubric 和证据支撑的 criterion-level 判断;RL 用 outcome reward + factual reward 给每个 criterion 部分信用,提供更密集训练信号;再用 teacher disagreement 和 utility margin 筛 hard negatives 提升个性化偏好敏感度。
- 主动证据检索:用 retrieval-need label 和 tool-use reward 对齐检索决策,只在上下文缺 decisive evidence 时调用工具;调用率从 95.84% 降到 22.12%,精度反而略升,适合线上成本敏感场景。
- 用 E-GenRM 后训练淘宝购物 Agent,14 天 A/B 有效协助率 +1.39pp、满意度 +2.33pp、P99 延迟 -17.88%,可直接作为生成式 RM 替代或校准 expert judge 的业务参考。
贝塞尔引导自适应流用于跨域序列推荐
🧭 跨域序列推荐 · 贝塞尔流
Anhui University, China
提出 BGAFlow,结合 LLM 共享语义空间与个性化 horizon,用条件贝塞尔曲线和残差流实现跨域兴趣状态自适应迁移
📌 工作参考价值(4 点)
- 跨域迁移不要用全局对齐,可按用户兴趣重叠度估计个性化 horizon 控制迁移强度;电商跨场景(短视频→货架、直播→商城)可借鉴,避免向低重叠用户注入无关表征。
- 用 LLM 推断用户画像来辅助双域共享语义空间预训练,适合冷启动和少行为用户;工程上可把 LLM 画像向量作为跨域 embedding 初始化的辅助特征。
- 贝塞尔曲线 + 残差流提供了一种可学习的平滑轨迹约束,可尝试把用户多会话兴趣漂移建模为带控制点的状态演化路径,而不是离散的状态转移。
- 轨迹正则化能抑制跨域学习中的噪声和突变,在多域推荐/多任务学习中可作为稳定的域间表示约束。
Jev-DLC:基于类型化反馈的决策级持续学习
🧭 持续个性化 · 类型化反馈有界状态
The Hong Kong University of Science and Technology (Guangzhou) · Sun Yat-sen University
用接受/撤销类型化反馈构建有界状态,在冻结评分器上实现低开销持续个性化决策
📌 工作参考价值(4 点)
- 将用户 accept/revoke 操作抽象成“选中动作 + 被替换动作”的成对反馈,用有向关系存储,适合电商推荐“换一换”、广告主拒单/改投等场景,直接用于在线修正排序偏好。
- 方法不存原始行为日志、不加一次 scorer 推理、不做在线反向传播,仅维护有界状态(可限制大小),对高 QPS 推荐/广告系统友好;可把该模块作为轻量级个性化插件放在已有精排模型之上。
- 互补双通道设计(动作身份证据 + 偏好关系)比单一历史重放更抗噪声,且在反馈稀疏时仍能稳定提升;可借鉴到用户级表示更新或 pairwise ranking 中,比单纯累积正例更有效。
- TCPA-Bench 的时序评估方式强调“只有影响后续决策才计分”,适合用来验证持续学习/在线学习系统,避免传统离线评估高估模型效果。
HABIT-Bench:评估智能体从长期弱证据中归纳用户习惯
🧭 Agent 记忆评估 · 隐式习惯归纳 ★ 深度解读
LUMIA Lab, School of Artificial Intelligence, Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · Fudan University
四域基准显示现有 Agent 记忆方法准确率仅约 33%,复杂记忆流程不优于简单检索或历史压缩
📌 工作参考价值(4 点)
- 不要默认复杂记忆 pipeline 更优:在需要跨会话状态重构的长用户轨迹上,BM25/Dense RAG 等简单检索基线与 A-MEM、Mem0、MemOS、Letta 等记忆方法准确率接近,GLM 下 Full Memory 压缩历史甚至达到 41.98%,超过全部记忆方法。业务落地前应先验证 RAG/压缩历史强基线,避免过度设计。
- 区分“证据访问”和“决策正确性”:Oracle Evidence 提供标注证据后准确率仍只有 39.26%–58.25%,而 Oracle Habit State 可达 98%+。意味着即使召回相关行为,模型仍常错误应用习惯。电商/广告中需显式建模行为有效期、例外、边界和用户确认,不能把任意历史点击/对话当长期偏好。
- 记忆构建成本与查询成本高度不对称:A-MEM 构建 54.59 小时、107.80M tokens,查询仅 13.24 分钟、3.39M tokens。工程上要把历史预处理与在线推理分离,按记忆复用频率和更新需求评估 ROI,必要时用增量更新或压缩历史替代全量记忆抽取。
- 可迁移的负样本设计思想:将临时期外、已过期选择、未接受的建议、边界情况作为干扰项,能有效测出模型是否“过度个性化”。推荐系统评估可借鉴四选一 probe,测试模型在 scope、exception、temporal drift 下是否仍正确推荐。
MAPS:强化学习增强的多智能体个性化脚本驱动视频广告系统
🧭 多智能体广告生成与 RL 对齐 ★ 深度解读
Beihang University · Kuaishou Technology
多智能体闭环生成个性化视频广告脚本,结合 GRPO 多维奖励,在线 CTR/CVR/ARPU 显著提升
📌 工作参考价值(4 点)
- Profile Agent 用 MLLM 从异构行为序列提炼四维用户画像(topical interests、presentation style、implicit needs、decision-making tendencies),可替换传统 embedding 画像,适合 Agent 化推荐/广告系统的用户理解模块。
- 奖励函数拆成 Rule-based Structural + LLM-as-a-Judge Personalization + Product Alignment,权重 0.3/0.4/0.3;业务里生成文案/脚本/素材时可直接复用,结构合规用规则、偏好对齐和事实一致性用 LLM Judge,避免只优化 CTR 跑偏。
- SFT + GRPO 两阶段训练:SFT 冷启动学格式,RL 用组内相对优势和 KL 约束贴近 SFT;LoRA rank 32 微调 Qwen3-VL-8B。GRPO 不需要 critic,适合用 LLM-as-a-Judge 做 reward 的生成对齐任务,工程成本低。
- Reflector Agent 对线上负反馈做 profile-level vs script-level 归因,只回传 minimal revision,避免全量重新生成;适合低延迟闭环迭代,在推荐/广告系统中可把反馈打到画像或脚本局部,而不是重跑 pipeline。
从延迟单侧反馈中学习个性化记忆门控
🧭 Agent 长期记忆 · 个性化门控
Salesforce AI Research · University of California, Los Angeles · University of Illinois at Urbana-Champaign · University of Illinois Chicago
将 Agent 记忆门控建模为延迟单侧反馈的 contextual apple tasting,提出 Warm-Start UCB 实现用户级个性化选择
📌 工作参考价值(4 点)
- 在电商客服/导购 Agent 的记忆系统中,不要使用全局统一的重要性阈值;可以按用户做个性化门控,用“该 fact 后续是否被检索并用于回复”作为弱标签,低成本构造训练数据。
- 把记忆写入决策当作 contextual bandit 问题处理:只有保存下来的 fact 才能观察到后续复用信号(单边反馈),且复用有延迟;可采用 Warm-Start UCB 的思路,先用离线数据初始化策略,再对当前用户在线微调,比纯离线或纯在线更稳。
- 工程实现上,设置合理的延迟窗口:理论显示延迟窗口在 O(√T) 内时 regret 有上界,延迟过长时应截断或异步更新,避免在线学习退化。
- 业务可复用结论:用户对 fact 的复用模式差异大,个性化门控在 memory budget 小、history 长时优势更明显,适合需要长期用户记忆的电商推荐/客服场景。
解释 MoE 大语言模型在个性化中的专家角色
🧭 MoE LLM 个性化与可解释性
University of Copenhagen
用 MoE LLM 做个性化并通过 crosscoder 定位可解释个性化 latent 与专家路由,验证其因果作用
📌 工作参考价值(4 点)
- 可尝试把个性化底座从 dense LLM 换成 MoE LLM:论文显示 MoE 个性化性能与 dense 有竞争力,但只激活一小部分参数,适合电商/广告等对推理成本敏感的场景;在线服务时稀疏路由也能降低尾部延迟。
- 用 crosscoder 对「个性化前后模型」的成对激活学习可解释 latent,能直接定位哪些专家在编码个性化特征。业务上可以用类似方法做个性化模块审计,找出哪些专家/层负责特定用户群偏好,便于后续剪枝、蒸馏或加约束。
- 文中通过 boosting 相关专家让非个性化模型向个性化模型靠拢,说明个性化行为有可操控的专家路由路径。可以借鉴为「可控个性化开关」:对某些用户群或场景,只强化对应专家,避免全量微调或 prompt 注入。
- MoE 降低 polysemanticity 的结论提示:如果线上模型需要更强的可解释性、便于合规审查(如推荐理由、广告定向),选择稀疏架构比 dense 更容易解耦特征。
Vela:以用户行为作为监督激发 LLM 智能
🧭 LLM 训练 · 用户行为监督 ★ 深度解读
AllSpark Team
用10万用户真实行为构造可见历史/隐藏未来任务微调LLM,同步提升用户理解与通用能力
📌 工作参考价值(4 点)
- 可直接借鉴「可见历史/隐藏未来」的构造方式:把电商/广告日志按时序切分,将浏览、搜索、购买、收藏、负反馈作为可见上下文,用未来购买/点击/广告互动作为 ground truth,自动生成预测式 SFT 数据,省去人工标注。
- 对用户画像摘要、搜索 query 生成、广告文案等 free-form 输出,用 Rubric 类模板 + LLM scorer 做任务特定 criteria 自动评估,例如「证据是否来自历史」「是否避免无据属性」,既可用于离线评测,也可作为训练信号。
- 用基座模型多次采样估计难度,只保留 0.2–0.8 中间难度任务,再选高分轨迹做 SFT/RFT;这套筛选在 AdRecommendation、ProfileSummary 等任务上带来稳定 OOD 提升,成本低,适合业务个性化模型训练。
- 先做用户行为 SFT 再做 RL,比从基座直接 RL 高 7.7 分;在电商/Agent 的 RLHF/GRPO 流程前,可先加入一批行为监督 SFT,作为个性化能力的更强初始化。迁移时需按业务事件 schema 重新设计模板,并注意行为数据隐私合规。
从 Pareto 到偏好:通过摊销智能体策略发现实现个性化测试时扩展
🧭 Agent 策略搜索与测试时计算优化
Beijing Institute of Technology · Xiaohongshu Inc
PersonTTS 用摊销智能体策略发现复用历史搜索经验,按用户多维需求个性化配置测试时计算
📌 工作参考价值(4 点)
- 将用户需求拆成多维约束(准确率、延迟、成本)并学习对应的控制器,可迁移到电商推荐中不同场景/用户对延迟与精度的差异化要求:按 profile 匹配策略库,而非一套模型打天下。
- 摊销策略发现思路可解决推荐/广告系统中策略冷启动与重复搜索开销:利用历史搜索经验做 requirement-matched 初始化和程序指导,同时保留目标分布上的重新评估,避免负迁移。
- 工程上可借鉴固定候选评估预算下的跨用户经验复用机制:在线上策略迭代或 AutoML 场景中,用历史实验经验指导新配置搜索,可显著降低 agent 时间和推理成本。
- 需求匹配初始化的做法类似于推荐中的 meta-learning / warm-start,可以先构建历史任务库,再按特征相似度初始化优化器,提升新任务收敛速度。
MemFold:用在线策略优化学习紧凑软记忆的长上下文个性化
🧭 LLM 长期个性化记忆压缩与强化优化 ★ 深度解读
University of California, Santa Barbara · University of North Carolina at Chapel Hill · Harvard University · University of Wisconsin–Madison
固定预算软记忆+置信门控在线蒸馏,按下游行为而非文本重构优化长程个性化记忆
📌 工作参考价值(4 点)
- 用户长期画像/行为序列记忆:先用 writer 抽取 query 相关的结构化文本记忆,再压缩为固定数量 soft tokens(如 K=256),reader 只消费 K 个向量,推理成本不随历史长度线性增长;适合电商/广告 Agent 在长会话中保持个性化且控制 context 开销。
- 在线策略蒸馏:用冻结的 full-text reader 作为 teacher,只对学生自己采样 token 计算置信门控 σ(β(ℓ_T−ℓ_θ)) 来加权 student 的 token likelihood;无需 teacher 自回归生成,能对推荐文案/回复中局部违背用户偏好的 span 提供密集监督。
- 把标量 reward(点击/转化/偏好命中)与 token 级信号结合:GRPO 负责整体结果,OPD 定位“整体流畅但某个推荐项违背偏好”的错误;工程上同组 reward 方差接近 0 时把 advantages 置 0,避免无效更新。
- 训练期固定 memory snapshot 和 teacher,防止 RL 更新导致记忆漂移;上线前可用 shuffled/null memory 干预验证模型确实依赖实例特定记忆,而不是只背任务先验。
相关性不等于适用性:个人 GUI Agent 的经验激活框架
🧭 Agent 个性化 · 经验激活
NTU · Alibaba
提出 ExpActivator,将个性化从检索历史改为按当前情境激活适用经验,提升执行与主动建议效果。
📌 工作参考价值(4 点)
- 在 Agent 或推荐系统中,不要把大量相关历史一次性塞入上下文;改用“按当前决策时状态匹配历史动作/经验”的方式,可显著减少 token 并提升每步效果。
- 主动推送/建议(如 push 文案、routine 触发)可引入“条件充分才激活,否则 abstain”的机制,降低打扰率,提高 MCC 类指标。
- 使用冻结骨干的 latent 空间做 screen/state 匹配作为参考动作,无需微调,容易接入现有 LLM/VLM 系统;对电商 Agent 多步操作(如下单、搜索)可借鉴。
- 评估个性化不应只看整体成功率,需区分第一步与后续步骤,关注经验是否在每个决策都“适用”;可设计类似 step-level success 指标。
PIA:将健康对话转为记录并将记录转为理解的个人智能体
🧭 Agent 结构化长期记忆与读写决策
KAIST · NAVER Corp.
提出个人智能体记忆系统,自主决定读写,将对话转为类型化临床记录并合成轨迹级理解
📌 工作参考价值(4 点)
- 结构化事实抽取:用户特征/行为事件先落 schema 化字段(事件日期/数值/类别/来源),不要全用 embedding top-k;便于后续聚合、筛选和趋势计算。
- 读写解耦与自主决策:让 agent 根据请求类型判断是否需要写记录、读哪些结构,减少无效检索与上下文污染;可在推荐对话/导购 Agent 中分离“用户画像写入”和“上下文读取”路径。
- 时间与别名归一化:相对时间“昨天/上周”必须解析为绝对时间戳;商品/活动名、用户标签做 alias dictionary 和规则映射,避免 LLM 随意解读。
- 因果去噪:对生成的 causal links 用静态规则先过滤结构噪声,再进入下游推理;业务中可用活动规则/类目约束过滤无意义关联。
LoRA生成超网络用于高效设备端LLM生成式个性化
🧭 设备端LLM个性化 · 超网络生成LoRA
训练超网络将用户上下文映射为个性化LoRA,兼顾ICL计算可行性与PEFT权重修改优势
📌 工作参考价值(3 点)
- 将 hypernetwork 生成个性化 LoRA 的思路用于用户级文案生成(如 push 消息、推荐理由),可避免对每个用户做云端微调或扩展 prompt;设备端只需一次前向计算,延迟低且不增加输入长度。
- 该架构共享基础 LLM 权重并仅需额外存储一个超网络,适合移动端/边缘设备部署;业务中若需为大量用户提供个性化生成能力,可考虑训练一个通用的用户编码器+超网络,而非保存大量微调模型。
- 用户上下文 token 作为输入,可类比在推荐系统中将用户行为序列编码后生成适配参数;此方法可作为生成式推荐中轻量用户表征的一种实现,用于生成个性化语义 ID 或推荐文案的 LoRA 适配。
CARD:聚类适配与奖励引导解码实现个性化文本生成
🧭 LLM 个性化文本生成 · 聚类 LoRA 与解码注入
University of California, Irvine · University of Amsterdam · TikTok
提出分层个性化框架 CARD:用户聚类学习组级 LoRA,簇内对比隐式学习个体偏好,推理仅解码注入实现高效个性化生成
📌 工作参考价值(4 点)
- 电商/广告文案生成可借鉴“先用户聚类 + 组级 LoRA”的两级适配:用行为或风格特征对用户分簇,每簇训练一个 LoRA,避免 per-user 全量微调,兼顾个性化与规模化部署。
- 簇内个体差异无需人工标注:用用户历史真实文本(如历史点击商品标题、评价、搜索词)作为正样本,簇级通用生成文本作为负样本,做对比学习得到轻量 user preference vector,可直接迁移到个性化 push 文案、商品描述生成。
- 推理时个性化只注入 decoding:base model 冻结,仅加载 lightweight user preference vectors 和 low-rank logit corrections;工程上线上可按用户簇切换对应 LoRA 和向量,存储与推理开销低,适合需要高频 A/B 和千人千面文案的推荐场景。
- 冷启动用户可先归入簇使用组级 LoRA + 默认偏好向量,后续积累数据再学习个体向量,平滑过渡成本低,可复用到新客或低活用户个性化激活。
ThinkFlow:面向终身对话智能体的自进化概率潜在记忆框架
🧭 Agent 长程记忆 · 概率潜在技能 ★ 深度解读
Pengcheng Laboratory · Harbin Institute of Technology, Shenzhen · China Unicom Greater Bay Area Innovation Institute
将对话流压缩为概率潜在记忆技能,用下一用户话语预测实现无标签终身自进化
📌 工作参考价值(4 点)
- 把用户长期行为/画像从显式文本摘要改为 K 个可学习潜在槽(probabilistic latent skills),用 cross-attention 压缩对话/行为流,再作为 soft prompt 前置给生成式推荐或导购 Agent;能显著降低 prompt 长度并绕过摘要的信息瓶颈。
- 在线更新记忆时参考 GLC:用信息增益门控 + GRU 做增量更新,只写入高新颖度信息,过滤寒暄/重复点击等噪声;推荐系统中可对实时行为流做类似门控记忆,防止用户画像被低频噪声污染。
- 测试时无标签进化:把下一次点击/下一个 query/下一句用户话术作为自监督目标,先做教师蒸馏冷启动,再用预测损失持续调整记忆,部署后无需人工打标即可个性化;适合电商客服、消息推送文案生成等场景。
- CAHA 用当前 query 生成低秩适配矩阵,把历史记忆对齐到当前上下文:可用 hypernetwork 生成 per-request LoRA 增量,平衡个性化与算力。
内核管理的共享内存:面向系统级个性化的多智能体基础设施
🧭 多智能体共享记忆与个性化基础设施 ★ 深度解读
Rutgers University
将多智能体个性化记忆的检索、隐私与注入集中到系统内核,以更低延迟和 token 成本获得与全量上下文接近的效果
📌 工作参考价值(5 点)
- 统一记忆管理层:在电商/广告多 Agent 系统(如商品推荐 Agent、用户助手、客服 Agent)中,将用户画像/会话记忆的检索、隐私过滤、格式化与注入上移到中心服务,避免每个 Agent 各自实现导致逻辑重复与隐私漏洞。
- 写屏障保证一致性:当多个 Agent 异步写入用户偏好或任务状态时,用 per-user 序列号 + 等待写确认的机制确保读后写一致,防止推荐/对话中因竞态缺失最新画像。
- 格式化记忆为自然语言:对 7B/8B 小模型,将结构化 JSON 画像转成自然语言语句再注入 prompt,可明显提升利用效果;结构化存储仅用于检索和审计。
- 成本-效果权衡:不要默认拼接全量上下文,而是用检索截断后的精选记忆(top-k + token 预算),在效果接近的情况下延迟可降低 15–61%,适合线上高并发推荐/对话场景。
- 显式身份解析优先级链:多用户并发时按“请求标识 → 最近会话 → 历史注册 → Agent 自身”的顺序解析用户 ID,可有效避免交叉污染,值得在用户画像服务中复用。
RegionFed:异构零售环境下查询理解的联邦个性化学习
🧭 联邦学习个性化训练 · 梯度级路由
Walmart Global Tech
提出梯度级联邦个性化框架 RegionFed,用区域与全局梯度冲突路由个性化策略,在 transformer 上避免参数级方法崩溃
📌 工作参考价值(4 点)
- 在电商搜索的多地域/多人群 Query 理解模型(如意图分类、实体识别、拼写纠错)需要联邦学习或去中心化训练时,优先采用梯度级个性化,而非在 T5/RoBERTa 等 transformer 上做参数级个性化;后者因 tied embeddings 和 LayerNorm 交互可能崩溃,RegionFed 的梯度冲突路由可规避。
- 将区域梯度与全局梯度的 ℓ2 冲突作为诊断信号,动态决定每个区域是否需要独立模型/适配器,避免对所有区域盲目做个性化,可节省 GPU 与维护成本;该信号也可作为后续 A/B 测试的分流依据。
- RegionFed 对模型结构零侵入,适合在不改线上模型代码的前提下快速验证个性化收益;如果业务已用 T5/RoBERTa 等成熟 backbone,可复用该思路做跨流量段个性化,无需引入新架构。
- 隐私敏感场景下,其 ε≈0.60 差分隐私与 O(1/√T) 收敛保障可作为合规方案参考,但需注意论文在公开数据集上验证,迁移到亿级真实流量前应评估通信与客户端规模。
偏好塑造相关性:个性化生成式检索的跨组件层级语义对齐
🧭 生成式检索 · 个性化语义对齐 ★ 深度解读
University of Science and Technology of China · Meituan
提出 CHAP:层级语义对齐与双视图个性化生成式检索,单次解码加速,线上转化提升2.98%
📌 工作参考价值(4 点)
- 冻结 RQ-VAE codebook,对 query encoder 做 cross-sample alignment + 层级对比学习 + soft probability distillation,可显著缩小 query 与 item 的 Semantic ID 语义 gap,适合电商搜索直接复用;但需预留 codebook 动态更新机制,避免丢失协同过滤信号。
- 用 sparse SID + dense raw embedding 双视图建模用户历史:sparse 提供稳定粗排结构,dense 补足长尾/个性化语义,尤其对歧义 query 有效;为防止历史行为淹没当前 query,decoder 初始化只用 query,不要喂完整历史当前缀。
- 推理架构上,将 Transformer Decoder 限制为单次前向,后续层级 SID 用轻量 residual block 生成;并行采样 50 个候选后,用 temperature-normalized sparse/dense 分数乘性融合做重排。该设计把 QPS 从 32.4 提升到 78.9,适合线上低延迟召回。
- 业务目标不要只看 CTR:CHAP 线上 UV-CXR +2.09%、支付订单 +2.98%,说明语义对齐 + 双视图更能触达转化意图;部署时可通过 Triton 解耦模块,不依赖 query cache,保证实时性。
StudentSim:训练基于 LLM 的学生模拟器
🧭 LLM 学生模拟与策略 RL
Microsoft Research · University of Illinois Urbana-Champaign
用两阶段训练构建个性化学生模拟器,同时提升行为保真与引导响应,并可作为 tutor RL 奖励
📌 工作参考价值(4 点)
- 构建用户行为模拟器用于推荐/广告/Agent 的离线评估或 RL 时,可采用“全局 pooling 训练 + 按用户 specialization”两阶段路线;尤其适合真实业务中大量稀疏 user-item 行为,既能共享跨用户模式,又能捕获个体偏好。
- 评估模拟器应同时区分“行为保真度”和“策略响应度”:前者衡量像不像真实用户,后者衡量在推荐策略/引导变化下是否合理更新;两者不可偏废,否则会出现只像但不对策略变化反应的“静态画像”模拟器。
- 将高保真用户模拟器作为 reward model 做策略 RL,可用来训练排序/对话式推荐策略;但需要先用 F/R 协议监控模拟器质量,避免 reward hacking。
- 如果只有少量真实用户交互,可借鉴 StudentSimEval 的标准化评测协议,固定训练/评测记录,做可复现的用户模拟器 benchmark。
CHIIR 2026 以人为本的主动式个性化信息访问代理研讨会报告
🧭 人本主动式 Agent 设计原则
University of Washington · AMD & UC Berkeley · TikTok · Georgetown University
系统梳理主动式信息访问Agent的人本设计议题,强调主动性须时机恰当、透明、可争议且对齐用户目标
📌 工作参考价值(4 点)
- 主动推荐/导购 Agent 的触发策略不能只依赖点击预测分数,应引入 calibrated initiative:结合用户上下文、可中断性与任务阶段判断何时推送,降低打扰成本。
- 在搜索/推荐 Agent 提供主动建议时,需要内置透明与可争议机制:给用户解释“为什么此时给出该建议”,并提供快速纠正/关闭入口,避免 agent 自动化侵蚀用户控制感。
- 跨会话个性化应区分短期会话状态与长期记忆,用 memory 架构累积偏好,但必须允许用户查看、修改或删除记忆,否则信任会快速下降。
- 评估不能只看任务准确率或点击率,要加入用户福利、信任、agency/控制感等指标,尤其在电商导购、智能客服等高频交互场景中更关键。
CogChat:异构知识图谱增强设计对话 AI 的认知接地
🧭 知识图谱增强对话 · 异构 Graph Transformer
Design AI Lab, Hanyang University · Human-Centered AI Design Institute, Hanyang University
用个人异构知识图谱 + HGT 选择相关节点注入 LLM,提升设计对话的上下文保留与个性化意图理解
📌 工作参考价值(5 点)
- 面向电商/广告/搜索推荐场景的可借鉴点:
- 用户级动态知识图谱做长程上下文:在客服/导购/创意 Agent 中,实时从对话里抽取实体(商品、属性、类目、偏好)与关系,构建个人异构图谱,替代仅依赖 sliding window 的上下文;用 HGT 或轻量图注意力做子图选择,避免全量 KG 造成 prompt 噪声和延迟。
- 同名词/多义词消歧:异构图中实体类型和关系结构可区分同一词在不同上下文(如“苹果”作为品牌或品类),适合电商搜索 query 理解与个性化召回;将图结构注入 LLM 可提升意图识别准确率。
- 主动探测问题生成:借鉴 CogChat 同时生成 intentional 和 exploratory probing questions 的机制,在推荐对话中用于偏好澄清、query 改写建议(如“你指的是 A 还是 B?”),降低用户决策负担并收集偏好信号。
- 工程实现:可用轻量抽取器构建图,HGT 只负责节点打分与选择,LLM 负责最终生成,保持低延迟;先在特定垂直领域(服装、家居、3C)试点,注意图谱更新频率和图谱规模控制。
开口之前:利用 LLM 从长期日常对话预测言语行为
🧭 LLM 用户行为预测 · 长期对话
Massachusetts Institute of Technology
用 LLM 从 1000+ 小时长期自然对话中预测个人言语行为,探索主动式个性化 AI 可能性
📌 工作参考价值(4 点)
- 可借鉴思路:把长期用户会话/行为序列变成“个人行为预测器”。 电商/客服场景中的用户对话、点击、订单序列,可用 LLM 做长期 pattern mining,识别重复的高风险/高价值行为模式(如冲动下单、流失前兆、价格敏感表达),用于早期干预。
- 工程上可落地为“情境相似度召回 + LLM 预测”:将当前会话/上下文与用户历史行为模式做相似度匹配,再让 LLM 预测用户下一步意图/反应;输出可作为召回/排序特征,也可作为 Agent 是否触发主动服务的条件。
- 面向 Agent 的干预时机与形式:论文强调“在行为展开前提醒”。业务中可设计 push/文案/优惠券的 just-in-time 触发,但需结合用户访谈结论——用户关心透明度和控制权,主动干预要可解释、可关闭,否则可能引起反感。
- 业务可借鉴点有限处:论文使用 wearable 采集自然对话,成本高、规模小(14人/1000小时),直接照搬难;但用现有日志替代可降低门槛。
Sci-Surf:基于人类反馈与智能摘要的科学文献发现导航
🧭 LLM用户画像驱动的个性化推荐
Zhejiang University · Tongji University · Google Cloud · Westlake University
集成LLM用户画像与多模态论文摘要的意图中心型学术推荐系统,在线评估提升10.4%
📌 工作参考价值(4 点)
- LLM verbalized profile 可迁移到电商用户画像:将用户行为序列用 LLM 总结成自然语言画像,作为召回/排序模型的额外特征或 prompt 上下文,捕捉静态标签难以表达的 nuanced intent。
- 反馈驱动的画像迭代机制:真实用户反馈持续 refine profiles,类似在线学习。电商推荐中可设计定期批量更新用户画像,用 LLM 总结近期交互生成动态兴趣描述。
- 多模态内容理解:论文图文生成结构化博客式摘要,可借鉴用于商品详情页优化、feed 流内容描述生成、广告创意文案自动生成。
- 在线评估指标:采用 predictive alignment 衡量画像与真实偏好的对齐度,比单纯离线 AUC 更有说服力,业务中可引入类似指标评估画像质量。
LLMRouter:LLM 路由器开发、评估与部署的统一基础设施
🧭 LLM 路由统一框架与评测基准
University of Illinois Urbana-Champaign · University of Maryland, College Park · Nanyang Technological University · Purdue University · University of Illinois Chicago
提出统一 LLM 路由五组件公式、开源模块化基础设施与 xRouteBench 基准,系统比较 16+ 路由器并给出成本与个性化关键发现
📌 工作参考价值(4 点)
- 做 LLM 路由时可将策略抽象为「编码器→打分→决策规则→学习信号」,按组件模块化开发,便于快速替换编码器(如用户/上下文 embedding)和损失函数;LLMRouter 的开源实现可当内部 Router 服务的脚手架。
- 电商/搜索推荐中不同 query/任务对模型能力和成本敏感度差异大,统一评估质量+推理成本的方式值得照搬,建议建立类似 xRouteBench 的内部基准,用候选模型池自动产出路由标签。
- 实验结论提示在严格成本预算下轻量路由器反而更优;部署 LLM Agent 或生成式推荐服务时,应把单模型强大与路由开销一起评估,不要盲目追求复杂路由器。
- 个性化路由(user-conditioned routing)增益稳定,可把用户画像/历史行为嵌入作为条件输入,让路由决策感知用户,提升推荐、广告文案生成等场景的个性化效果。
个性化幻觉:LLM 如何捏造用户画像与自我监测的误导
🧭 个性化LLM的忠实度评估与自监测缺陷
LIGHTSPEED · The Hong Kong University of Science and Technology
揭示所有大模型在个性化任务中系统性过度推理(35-49%),且自监测排名与真实忠实度负相关
📌 工作参考价值(4 点)
- 在电商推荐、广告定向等依赖 LLM 构建用户画像的场景,必须警惕过度推理(35%–49% 的声明是凭空捏造的),应引入独立外部验证机制(如类似 MirageBench 的评判器)而非依赖模型自报。
- 选择个性化模型时,不可相信模型自述的忠实度,自监测排名与真实虚构率负相关(ρ=-0.60),需建立外部测试基准评估真实过度推理率。
- 多轮交互中用户属性会线性累积且极少修正,可能导致画像严重偏离,在对话式推荐或 Agent 记忆系统中需加入定期“画像审计”或遗忘机制。
- 过度推理具有强任务依赖性(范围27%-59%),对不同业务模块(如文案生成 vs 用户标签推断)应分开评估并设置差异化阈值。
SPEAR: 社区搜索中端到端自适应改写与检索的防短路框架
🧭 端到端查询改写与检索联合优化 ★ 深度解读
National University of Singapore · Shanghai Dewu Information Group Co., Ltd.
通过梯度隔离双嵌入、乘性门控和动态选择器,解决改写-检索错位与通用词主导效应,点击召回@10提升99.5%
📌 工作参考价值(4 点)
- 在多路召回改写系统中,可用乘法门控替代加法路径评分(如 Softplus 保证非负后加权),强制改写贡献需同时满足高置信与高 item 相关,直接消除高频通用词的分数膨胀问题。
- 若模型同时服务召回和排序任务,采用双嵌入分支 + stop-gradient 隔离梯度,保护召回语义不被 CTR 优化扭曲,工程上仅需增加少量投影 MLP,易于部署。
- 动态生成样本级的 scale/bias 参数(由用户和 query 表征共同决定),使改写权重与匹配分数能随请求自适应校准,比固定超参更具个性化性。
- 离线评估改写模型时,可同时关注 Exposure Recall、Click Recall 和 Semantic Similarity 三个指标,分别衡量检索覆盖、点击恢复和意图保真,避免单一语义相似度的片面性。
对话式音乐推荐中LLM-as-a-Judge评估系统响应可靠性研究
🧭 对话推荐系统评估 · LLM-as-a-Judge
KAIST · Deezer Research · SiriusXM · Idiap Research Institute
首次实证验证LLM评判者与人类在对话推荐响应评估中的对齐度,发现中等正相关且优于参考基线
📌 工作参考价值(4 点)
- 低成本自动评估对话推荐响应:在电商客服Bot或导购Agent中,可直接复用LLM-as-a-Judge方案,从个性化和解释质量两个维度打分,替代昂贵的人工评估。
- 提升评判可靠性的工程技巧:使用更大规模的LLM(如GPT-4)并输入完整对话历史,能显著提升与人工评分的相关性。建议在链路上注入用户画像和上下文,而非仅看单轮响应。
- 评估标准可迁移:个性化和解释质量这两个维度可直接用于商品推荐的对话评估,只需将评测Prompt中的物品描述替换为商品属性。
- 相关性分析方法:Bootstrap相关性分析能稳健衡量评判器与人类的一致性,可作为搭建内部自动评估体系的统计框架。
假设驱动的个性化推荐货架生成
🧭 生成式推荐 · Semantic ID 货架生成 ★ 深度解读
Spotify
将推荐界面货架抽象为自然语言假设,解耦生成规划与目录检索,离线批量产出高质量个性化推荐行
📌 工作参考价值(4 点)
- 将推荐行(如“猜你喜欢”)抽象为“假设-填充”架构:先基于用户画像生成自然语言意图(如“北欧氛围后摇”),再用检索填充具体物品,解耦了意图规划与物品召回,便于独立优化与扩展,可迁移到电商首页多排推荐或搜索推荐横幅。
- 使用 Semantic ID 生成式检索 + 约束解码:在特定内容类型索引上做受限生成,相比 BM25/稠密检索显著提升了检索结果的假设覆盖率与多样性,适合处理大规模异构目录的精准匹配,可直接复用到商品多模态索引或广告创意检索。
- LLM-as-a-Judge 评估货架级质量:设计用户→假设、假设→货架两张评鉴表,从匹配度、特异性、连贯性等维度打分,突破传统逐物品 recall 指标的局限,可用于生成式推荐离线快速迭代。
- 离线批量生成避免线上 LLM 推理延迟:全流程预计算,货架作为附加候选参与排名,无需实时调用大模型;结合均匀随机曝光实验公平评估线上效果,适合高流量场景快速试错。
大规模LLM推理的可证明安全高效聚类
🧭 高效聚类 · LLM推理加速 ★ 深度解读
Amazon
两阶段聚类通过贪心集合覆盖确保每用户与代表相似度达标,实现50倍LLM推理成本缩减
📌 工作参考价值(4 点)
- 当需要对海量用户接入LLM时,先用Mini-batch K-Means粗分,再在各簇内贪心选取代表,强制相似度≥α且属性完全匹配。该策略复杂度$O(n^2 d/K)$,调大初始簇数$K$可线性加速并降内存,适合千万级用户场景。
- 贪心选择的簇大小高度偏斜,可主动丢弃长尾小簇(例如仅保留4%的簇覆盖90%用户),进一步压缩下游推理量,配合上游过采样补偿掉落的用户。
- 对合规属性(如年龄、性别)直接在匹配矩阵中要求相等,提供可证明保证,杜绝跨属性推荐风险,适合电商推荐中安全滤波环节。
- 生产验证表明用户-代表embedding相似度与推荐相关性高(Pearson r=0.781),可直接用相似度阈值替代代价高昂的LLM评估,节省质量评估成本。
HOMIE:多模态智能增强的人-物中心视频个性化
🧭 人-物交互视频个性化生成
Hong Kong University of Science and Technology
统一处理 inter/intra-subject 的视频个性化框架,通过 MLLM 全局引导注意力提升人-物交互保真度
📌 工作参考价值(4 点)
- 视频个性化在电商中可用于虚拟试穿或商品展示,该工作对人-物交互的可控生成有直接价值,尤其保持主体身份的同时实现合理交互。
- MLLM 融入自注意力的全局多模态引导方式可借鉴:在推荐系统中融合多模态特征时,可尝试在注意力层注入预训练多模态大模型的高层语义特征,增强物品与用户行为的对齐。
- 模态引用嵌入区分不同来源特征(如图像、文本、MLLM 特征),可迁移至多模态用户建模,显式编码不同类型行为序列的模态差异,提升特征融合质量。
- 对抽象概念(如品牌 logo)的自动关联方法,可用于商品属性与视觉风格的隐式绑定,增强生成式推荐中 semantic ID 的视觉化表达。
个性化增量视频搜索:融合文本与ID嵌入
🧭 搜索排序 · 个性化 · 混合嵌入
Apple
通过混合语义和协同嵌入为增量搜索提供个性化排序,在意图模糊时收益最大
📌 工作参考价值(4 点)
- 在电商、App搜索等增量搜索场景,可将物品的文本语义嵌入和协同过滤ID嵌入拼接成特征,注入排序模型(如XGBoost或双塔)。文本嵌入可用多语言模型在协同观看/购买三元组上对比学习微调,缓解曝光偏差。
- 对于意图尚未明确的前缀查询(1-3字符),个性化特征带来的增益远高于完整查询,因此可在前端增加实时用户意图不确定性估计,动态加大个性化权重。
- 工业场景常面临长尾用户冷启动问题,论文发现长历史用户从个性化中受益更大,但基线指标更低,说明个性化可弥补默认排序不足。可以针对不同活跃度用户设计分级策略。
- 采用LLM评判物品相似度来评估嵌入质量的方法,可迁移到推荐、搜索中的相关性标注,作为人工标注的补充,降低点击/曝光偏差。
APeB:大模型智能体个性化能力基准测试
🧭 个性化产品搜索 · Agent评测 ★ 深度解读
The Chinese University of Hong Kong · ByteDance
构建真实个性化产品搜索基准,揭示LLM智能体在模糊意图与噪声历史下历史利用不足的核心瓶颈
📌 工作参考价值(4 点)
- 历史利用率短板是当前LLM Agent的致命伤:在模糊查询(如“校园风”)、强竞争候选下,直接喂入长历史效果甚微,应设计显式历史摘要或查询改写模块(如论文的VQRA),先凝练偏好再匹配,而不是端到端扔给LLM。
- 用“硬负样本”逼近真实场景:随机候选主要测语义匹配,硬候选(用户曾浏览但未买)才暴露个性化缺陷;业务评估推荐/搜索时,应构造同会话内的高度相似物品池来检验真实个性化能力。
- ReAct等工作流在模糊查询上未必加分:多步推理可放大意图理解错误;在query不明确时,先迭代改写query(用历史信息)再单步决策,可能比盲目增加推理步数更有效。
- LLM-as-a-Judge诊断中间推理路径:可定义意图推断、偏好提取、推荐对齐等分项指标,用LLM综合打分来定位模型失败节点,该方法可复用到电商Agent的离线优化流程。
DRIFTLENS:测量个性化语言模型中记忆引发的推理漂移
🧭 LLM 个性化推理漂移测量与缓解
Amazon
提出无真值框架 DRIFTLENS,量化用户记忆注入对 LLM 推理路径的影响,并评估 GRPO/DPO 缓解策略
📌 工作参考价值(4 点)
- 在电商推荐 Agent 中,使用用户属性(如年龄、职业、偏好)生成推荐理由时,可借鉴 DRIFTLENS 将解释步骤映射到价值维度(如性价比、品牌、售后服务),量化有/无记忆时的推理路径差异,监控伴随个性化带来的推理扭曲,确保解释一致性。
- 对推荐式 LLM 做个性化微调(如 DPO/GRPO)时,可参考论文发现:降低漂移可能牺牲 helpfulness 等能力。需同时评估推荐准确性、用户满意度、解释合理性等多指标,避免单目标优化导致能力退化。
- 工程实现上,DRIFTLENS 的无真值设计(零样本分类 + 分布散度)可直接复用到推荐解释的自动化评估,无需人工标注,通过预定义价值类别快速构建推理漂移监控管线。
- 个性化记忆可能引入隐性偏见(如年龄导致保守/冒险推荐),可借此测量方法审计推荐系统全链条的公平性,作为个性化上线前的安全检查。
IntentTune:利用用户需求与个性化解决电商搜索中模糊查询意图未知问题
🧭 个性化查询意图解析 ★ 深度解读
eBay Inc., USA
通过融合用户历史查询等行为信号,用LLM推断模糊查询的性别、年龄、尺寸等意图,显著优于仅用总体需求或静态画像
📌 工作参考价值(4 点)
- 意图推断模块设计:当基线意图模型输出 “unspecified” 时,路由到 LLM 进行个性化推断。可参考 IntentTune 架构,单独构建一个服务或模型,用近期高置信度用户查询(如性别置信度>0.8、年龄置信度>0.9)作为上下文,输出细化的性别、年龄、类目甚至尺寸意图,直接接入检索排序通路。
- 用户信号选择:历史查询行为远优于用户画像属性(如注册时填写的年龄、性别)和总体需求分布。实际系统中应优先利用短期搜索历史,提取其中意图明确的查询作为 prompting 素材,而不是依赖静态标签。
- 类目粒度优化:对于模糊查询,先将类目预测模型给出的候选类目列表提供给 LLM,让 LLM 根据用户历史行为选择或收缩正确类目,可有效减少下游检索的候选空间,同时保持正确性,类似 “后验类目精排” 思路。
- 冷启动与冲突处理:当历史查询不足时可回退到需求模式(利用类目预测模型最高置信度类目推断意图),但尺寸意图不适用此方法。多重信号冲突时,需要设计置信度投票或加权机制,避免直接采信单一来源。
双层神经架构搜索优化推荐系统个性化解释
🧭 可解释推荐 · 神经架构搜索
Virginia Tech · Google · Amazon
通过双层NAS同时优化注意力与特征交互,并集成LLM生成个性化推荐解释,提升准确性与解释质量
📌 工作参考价值(4 点)
- 将NAS用于搜索推荐解释模型的最优结构,自动设计特征交互与注意力机制,避免手工调参。
- 利用LLM零样本提示生成解释,结合用户特征偏好与物品属性对齐,可快速实现个性化推荐理由。
- 双层搜索空间(intra-layer和inter-layer)可迁移到电商推荐中优化多模态特征融合的解释头。
- 该方法在提升推荐准确度的同时改善解释质量,适用于商品详情页的“为什么推荐”模块,提升点击率和信任度。
当用户是LLM智能体时,推荐算法还奏效吗?Moltbook案例研究
🧭 AI Agent环境下的推荐评估 · 结构模式替代个性化 ★ 深度解读
Independent Researcher · Stanford University · University of Waterloo
在AI智能体社交平台上,推荐因缺乏用户偏好而退化为结构匹配,简单方法胜过个性化模型
📌 工作参考价值(4 点)
- 若电商或内容平台出现大量AI Agent行为(如爬取、自动测评),训练数据会被污染,个性化模型将引入噪声;应部署Agent检测与过滤机制,保护训练集纯度。
- 在Agent混入的场景下,简单信号(物品共现、全局热门)比复杂用户表示更鲁棒,可考虑构建一套「轻量结构模型」作为兜底策略或信号补充。
- karma加权(质量信号)使结构方法性能提升2~5倍,但对个性化模型无效,说明质量信号的利用需要与模型假设匹配——若用户无稳定偏好,质量信号只能放大结构模式,无法激活个性化。
- 时间衰减实验表明Agent行为无偏好漂移,因此对Agent密集的日志,可降低模型重训频率,减少工程开销,重点维护结构信号而非追求时效性用户表示。
AOHP:面向个性化、高效、安全交互的开源OS级代理框架
🧭 OS级代理原生支持
Tsinghua University · Peking University · The University of Hong Kong
将AI代理视为一等OS角色,通过个性化服务组合、高效接口与安全信息流,提升任务完成率21.12%,降低51.55% token成本
📌 工作参考价值(4 点)
- 移动端Agent架构设计:将Agent作为OS一等公民的思路可直接用于电商/购物助手App,实现跨应用(如搜索、商品详情、支付)的无缝服务组合,提升用户转化。
- 降低LLM调用成本:高效代理接口通过系统级能力暴露减少对LLM的频繁调用,在需要多步推理的推荐场景(如对比商品、下单建议)中可显著节省token消耗。
- 敏感数据安全控制:细粒度信息流隔离机制适用于处理用户支付、地址等隐私数据,在推荐系统集成支付或用户画像查询时可借鉴其权限分级策略。
- 真实环境评测基准:开源的AOHP平台可作为移动端Agent能力评测的测试床,用于验证搜索推荐Agent在Android系统中的实际表现与安全合规性。
用户作为印迹:将每用户记忆内化为局部参数编辑
🧭 用户事实的局部参数编辑与共享推理
Pine AI
把用户事实稀疏写入 Engram 的哈希记忆表,推理技能由共享适配器承载,实现高精度个性化且不干扰推理
📌 工作参考价值(4 点)
- 可将用户长期偏好(商品偏好、搜索历史等)压缩为 Engram 行编辑写入模型,免去每次推理时检索或 prompt 拼接的延迟与 token 成本。
- 共享推理适配器 + 多用户稀疏编辑的架构支持高并发个性化推理,适合电商搜索推荐等需实时读取用户记忆的场景。
- 编辑透明可控:写入的事实只影响特定触发词,不污染其他主题回答,有利于金融、医药等高合规领域的推荐安全性。
- 多用户编辑可叠加存储于同一模型,无需维护独立 LoRA 权重,大幅降低部署成本,工程实现更友好。
MemSlides:面向个性化幻灯片生成的分层记忆驱动Agent框架
🧭 Agent 记忆与个性化生成
Beijing University of Posts and Telecommunications · Tsinghua University · Shanghai Jiao Tong University
提出分层记忆框架(用户画像/工作/工具记忆)结合局部修改,实现多轮个性化幻灯片生成
📌 工作参考价值(4 点)
- 分层记忆设计可直接迁移到对话式推荐/购物Agent:将用户长期偏好(用户画像记忆)与会话级临时约束(工作记忆)解耦,避免偏好混淆。
- 工具记忆(存储可复用的API调用或操作序列)在电商Agent中可用于缓存高频操作模式(如“按价格排序”“筛选品牌”),提高执行可靠性。
- 局部修改策略(scoped local revision)可应用于推荐列表的多轮调整:当用户要求“把第二个商品换成更低价的”时,只更新受影响的槽位,而非重新生成整个列表。
- 意图条件画像(intent-conditioned profiles)的思路可用于搜索/推荐场景:根据用户当前意图(如“比价”vs“发现新品”)动态选择不同的偏好画像,提升首轮个性化质量。
MyPCBench: 个性化计算机代理评测基准
🧭 个性化Agent评测 · 桌面环境
Carnegie Mellon University
首个模拟真实用户数字生活的个性化计算机代理基准,揭示跨应用长链任务的高失败率
📌 工作参考价值(4 点)
- 在电商Agent评测中,可类似构建含用户历史订单、偏好、收货地址的模拟桌面/浏览环境,使评测更贴近真实部署。
- 关注长链跨应用任务(如搜索商品→比价→下单→售后)的评估,模型在这些场景下易失败,需专项优化。
- 引入用户数字踪迹(日历、邮件、聊天记录)作为上下文,可能提升Agent个性化表现,但评测显示当前模型仍难以有效利用。
- 对于需要登录态或隐私数据的工作流,离线模拟环境比在线评估更安全且可重复。
会话信息访问的个性化与评估方法研究
🧭 会话式信息访问 · 个性化与评估
Radboud Universiteit Nijmegen
从个人上下文提取、个性化回复生成到系统评估,提出 CREL、LAPS 和 FACE 三个方法构建可靠 CIA 系统
📌 工作参考价值(4 点)
- 对话实体链接 (CREL) 可直接用于多轮对话中精准提取用户提及的商品、品牌、偏好等实体,为后续个性化推荐或 Agent 记忆提供结构化上下文,替代简单的 NER 或模糊匹配。
- LAPS 数据集构建方法 提供了低成本生成大规模个性化对话数据的范式,可用于微调电商对话 Agent,使其更自然地融合用户历史与偏好,提升推荐接受率。
- FACE 无参考评估 能自动评估整段对话质量且与人工评分高度一致,可嵌入电商 Agent 的离线评测 pipeline,快速筛选或对比不同回复策略,减少 A/B 测试前的评估成本。
- 整体工作强调 “个人上下文” 在会话式信息访问中的核心地位,启示我们在构建电商导购 Agent 时,需将实体链接、偏好记忆与评估闭环统一设计,而非割裂优化各模块。
更好地与你协作:将用户矫正编译为编码 Agent 的运行时执行规则
🧭 Agent 个性化 · 运行时规则编译与强制执行 ★ 深度解读
University of Notre Dame · IBM Research · Tencent AI Lab
提出 TRACE,把用户矫正编译成运行时强制检查,克服记忆检索却仍违反偏好的“访问‑合规”差距
📌 工作参考价值(4 点)
- 从反馈到硬约束:在电商或推荐 Agent 中,用户反馈(如“别再推这类商品”)若仅记入 memory,后续仍可能违反。可借鉴 TRACE 将反馈编译为可执行规则,在排序前、回复生成前用钩子(hook)校验,强制执行,减少用户重复纠正。
- 规则生命周期管理:面对持续的用户修正,通过五类动作(new/update/supersede/split/noop)动态维护规则库,避免冲突和退化,适用于个性化策略的增量演化。
- 记忆与强制互补:系统可同时保留记忆存储(上下文感知)和规则引擎(强制执行)。对于成本敏感的推荐场景,对关键偏好(如明确过滤条件)施加编译检查,对软性偏好仍用记忆提示,二者非替代关系。
- 轻量规则提取:使用小型 LLM 自动从用户反馈中提取原子规则和验证正则(如检测“debug 文件清理”的命令模式),在电商 Agent 中可自动生成“取消订单后禁止推荐同类商品”的触发条件和校验逻辑,降低人工配置成本。
PEFT 的三轴缩放:万亿参数基础模型支撑百万持久个性化模型
🧭 PEFT 缩放 · 个性化模型 · LoRA RL ★ 深度解读
Mind Lab
通过 Scale Up(强先验)、Scale Down(小型稳定适配器)与 Scale Out(适配器种群)三轴协同,让 LoRA 在万亿 MoE 上实现低成本、可持续的个性化 RL 更新与集体智能。
📌 工作参考价值(4 点)
- 用户级 LoRA 适配器:电商推荐或 Agent 系统可对每个用户或 Agent 实例维护一个 LoRA adapter,仅更新 <1% 参数即可捕获长期偏好、技能或工具使用习惯,成本远低于完整模型微调。
- RL 训练的稳定初始化:在 RLHF 或 RLVR 场景中,极低秩 adapter (rank=1) 的初始化不能简单复用 SFT 下的 SVD 初始化,应使用控制初始更新幅度的 RL-native 方法(如 OLoRA-tail),避免策略漂移导致 KL 崩溃。
- 多 Adapter 投票提升决策质量:当存在多个来自不同用户或 Agent 的 adapter 时,可借鉴论文中基于多样性的大数投票机制,聚合多个适配策略输出,在推理阶段获得集体智能收益(AIME24 准确率从单模型 36.4% 提升到 198 模型的 48.7%)。
- 训练–推理一致性:大规模 MoE 部署个性化模型时,路由差异会导致训练策略与线上策略不一致,采用 Router Replay R3 等技术记录并回放路由决策,可保证 RL 更新的有效性。
VitaBench 2.0:长期用户交互中个性化与主动智能体基准
🧭 大模型智能体个性化与主动性评估基准 ★ 深度解读
National University of Singapore · Meituan · University of Science and Technology of China · Beijing University of Posts and Telecommunications · Zhejiang University
提出面向长期交互的个性化与主动性评估基准,揭示前沿LLM智能体在偏好推理、记忆利用和主动交互上严重落后于实际需求。
📌 工作参考价值(4 点)
- 个性化评估维度拆解:在推荐或对话智能体设计中,可借鉴本工作将个性化能力分解为偏好提取(从隐式行为中推理)、利用(决策时遵循偏好)和更新(应对偏好漂移)三个可量化环节,构建分层评估与诊断体系。
- 记忆机制的现实瓶颈:实验表明无论 Agentic Memory 还是 RAG Memory,当前模型在长期交互中都无法有效利用记忆,反而导致性能下降(Avg@4 低于 Full Context)。在业务系统中应避免过度信任记忆,需配套主动压缩、冲突消解和多轮校验策略。
- 主动交互是差异化能力:主动任务得分比个性化任务低 ~40%,模型往往在信息缺失时强行决策而非发起澄清。在电商导购或售后场景,可显式训练/提示智能体识别“信息缺口”并触发追问,提升用户体验。
- 偏好利用比提取更难:即使提供真实偏好,Strong Model 也只有约 50% 的 Pass@4,说明模型难以在复杂工具调用中持续遵循偏好。在生成式推荐中,可考虑将用户偏好向量绑定到工具选择与参数生成的全链路,而非仅作为上下文。
从正确到偏好:个性化Agentic RL训练框架
🧭 个性化Agentic RL与偏好评分解耦训练 ★ 深度解读
University of Science and Technology of China · Alibaba Group
提出PARPO解耦通用质量与个性化偏好奖励并用用户锚点稳定训练,结合偏好解耦奖励模型与演化图记忆,实现闭环个性化智能体优化
📌 工作参考价值(4 点)
- 奖励解耦+用户锚点校准:在电商客服或推荐Agent中,可将通用任务质量(如回答准确性)与用户偏好(如风格、倾向)分解为两个优化通道,用用户历史平均偏好作为稳定基线,避免跨用户奖励尺度差异导致训练震荡。
- 偏好解耦降噪:用户行为常混杂从众与环境因素;采用双分支(兴趣/从众)建模,并利用流行度加权和正交约束分离真实兴趣信号,得到的偏好奖励更干净,可直接用于RL优化。
- 演化图记忆PSGM:构建包含用户、技能、工具、场景、轨迹的异构记忆图,通过层次社区发现和两步检索提供个性化上下文;电商Agent可借鉴此结构存储商家操作技能,实现跨场景技能复用与个性化检索。
- 训练闭环设计:将偏好识别、策略优化、技能累积形成闭环,训练过程中自动提炼可复用技能,适合构建需要持续进化的个性化Agent(如营销策略推荐、旅行规划等)。
从数量到价值:端侧RAG的偏好对齐记忆构建
🧭 偏好对齐的端侧记忆构建与检索 ★ 深度解读
Ulsan National Institute of Science and Technology (UNIST)
EPIC 框架通过筛选偏好相关数据并引导查询方向,在端侧实现 2404 倍内存压缩、20.17 个百分点的偏好遵循提升和 33 倍检索加速。
📌 工作参考价值(4 点)
- 选择性记忆构建:电商推荐系统可借鉴“只存偏好相关项”的思路,用用户偏好(如价格敏感、品牌偏好)过滤商品池,大幅缩减索引体积,同时保持推荐相关性。
- 偏好对齐的检索引导:在生成式推荐或对话 Agent 中,可在查询向量上叠加最匹配的偏好嵌入,增强检索结果与用户长期偏好的对齐,仅增加 0.18ms 延迟。
- 分级过滤流水线:先使用轻量 Embedding 相似度做粗筛,再用 LLM 细粒度验证,平衡效率与精度;可迁移到商品候选集的粗排-精排流程,节省模型推理成本。
- 偏好漂移适应:端侧流式场景下,偏好的动态增删不会破坏索引,可直接更新偏好嵌入并检索,适合 Agent 长时对话中的兴趣追踪与实时调整。
双扩散生成式时尚推荐架构
🧭 生成式推荐 · 双扩散多模态架构 ★ 深度解读
Singapore Management University · Shandong University
提出双扩散Transformer,联合图像与文本生成,实现个性化且可解释的时尚推荐。
📌 工作参考价值(4 点)
- 用户偏好建模:利用属性级结构化caption + 偏好加权采样,从交互历史提取高维语义意图,避免视觉冗余,可直接用于电商多模态推荐中的用户画像构建。
- 双模态联合生成与互增强:图像与文本分支跨注意力、联合损失训练,生成结果自带解释文本,可用于电商导购场景生成推荐理由,提升可解释性。
- 高效文本增强微调:仅用LLM生成的多样化匹配文本微调文本分支,比图像级DPO微调快7倍,且提升多样性与兼容性,可借鉴用于推荐模型的高效领域适配。
- 多条件可控推理:通过Classifier-Free Guidance独立控制任务定义、匹配条件、用户偏好,可灵活调节推荐生成的质量、个性化与多样性权衡。
情感参与状态记忆:面向大规模超个性化的架构
🧭 LLM ★ 深度解读
divAIne Research
引入情感索引记忆与意图推理的状态化LLM架构,在30个对话场景中全面超越无状态基线,记忆接地提升95%
前瞻性引导的记忆检索:语言模型的前瞻思考
🧭 RAG ★ 深度解读
University of Washington · Microsoft Research
提出前瞻性引导检索(PGR),通过模拟未来场景触发相关记忆,解耦存储与检索,大幅提升长期个性化助手的召回率