SFT冲突与RL共存：LLM多任务学习理论实证分析
🧭 多任务RL训练的解耦与并行化 ★ 深度解读
中国科学院自动化研究所 · 中国科学院大学 · 清华大学
多任务SFT导致性能崩溃，RL因梯度近似正交而共存，基于此提出Parallel-RL解耦并行训练
📌 工作参考价值（4 点）
- 多任务RL解耦训练：利用RL更新稀疏且近似正交，可对搜索/推荐的不同目标（如相关性、CTR、多样性）单独训练RL模型，再通过参数求和或平均合并，避免多阶段SFT带来的灾难性遗忘。
- 具体合并方法：先独立用GRPO训练各任务得到ΔW，合并时首选简单求和或平均；若存在干扰，采用TIES方法稀疏化合并，消除参数冲突；最后用少量混合数据（5%）快速适应，可进一步提升整体性能。
- 模块化能力注入：当需要向现有模型添加新能力（如新业务域）时，可对新任务进行RL微调，然后将ΔW合并入主模型，无需重训整个系统，且不影响原有任务表现。
- 训练范式选择指导：SFT更新范数大、任务间重叠高，不适合多阶段或并行训练；推荐系统中若需微调LLM，应优先使用RL，并在多任务设定下避免多阶段SFT，以保持旧任务性能。
Skill-Use: LLM 在 Agent 框架中真的能使用技能吗？
🧭 Agent 能力评估 · 渐进式技能使用 ★ 深度解读
East China Normal University · Hong Kong University of Science and Technology · Fudan University · Tencent Hunyuan
提出 Skill-Use 基准，从触发、合规、边界三维度评估 LLM Agent 在渐进式披露下自主检索并遵循技能的能力，发现最高 SU 仅 0.613，触发与合规是独立瓶颈，排名依赖框架。
📌 工作参考价值（4 点）
- 技能触发是首要瓶颈，强化名称与描述的区分度：在 Agent 技能库中，技能名和简短描述直接影响触发率。电商/推荐场景下设计技能时，应使用精确、无歧义的元数据，避免与通用话题重叠，降低“不触发”失败。
- 预加载关键步骤可提升触发，但不宜直接暴露全过程：实验表明预加载技能全文可大幅提高触发，但执行合规性改善有限。工程上可对高价值技能预先在 System Message 中隐式注入其执行约束或决策规则，而不必展示全部 SOP，平衡触发与技能保密性。
- 技能库规模影响以“不调用”为主，而非错误调用：增加技能库容量主要导致 Agent 完全放弃调用技能，而非选错技能。因此监控“技能未被触发”比检测“选错技能”更有价值，可设置兜底策略或主动提示。
- 技能合规性与业务结果非线性相关，需设定最低 SU 阈值：任务完成得分在 SU > 0.5 后才转为正向增益，半吊子遵循反而损害结果。实际部署中应设定内部合规门槛，低于此阈值的技能调用可关闭技能库或回退无技能基线。
SkillZip：面向可扩展 Agent 技能库的契约保持图压缩
🧭 Agent 技能库压缩与检索
UNSW · CSIRO
执行感知的 section-level 图压缩：用可逆端口化宏保持契约，压缩比 3.46x，效果最高 +12.2 点
📌 工作参考价值（4 点）
- 将推荐/广告 agent 的 SOP（如商品信息清洗→类目映射→创意生成→合规校验）拆成 section-level procedural graph，而不是整段文本 skill；检索与缓存单位对齐到子流程，能显著降低 LLM context 占用并提高跨任务复用。
- 借鉴契约保持压缩：压缩时显式保留流程“边界签名 + 依赖闭包 + verifier 可达性”，可保证压缩后流程仍可执行、可校验、可回滚；适合做线上推荐策略 / 审核流程的版本化与安全压缩。
- 宏按需展开（hydrate 紧凑依赖闭包，执行到才展开 macro）可以落地为 Agent 工具编排中的 lazy loading 与按需注入上下文，减少首轮 token 与延迟。
- ReZip 的“执行证据修订 risky macros”可借鉴为 skill 库 / prompt 库的在线增量更新与回滚机制：用线上执行失败信号触发局部重压缩，而不是全库重训。
StreamArena：面向连续交互的长时流式视频理解基准与双层架构
🧭 长时间流式视频理解Agent架构
The Hong Kong University of Science and Technology · Xiaohongshu Inc. · The University of Hong Kong · The Chinese University of Hong Kong
提出小时级流式视频理解基准StreamArena和双层架构StreamMind，解耦实时交互与长期多模态记忆
📌 工作参考价值（4 点）
- 异步记忆与实时交互解耦：前后端分离架构可借鉴到电商直播监控中，前端快速响应实时关键词检测、用户提问，后端异步构建直播长时记忆并支持历史事件搜索，避免阻塞交互。
- 多模态持久状态复用：后端构建持久化的多模态记忆（非纯文本），保留视觉证据，降低重复压缩损失，可用于长时间直播流的商品出现记录、主播话术回溯等场景，减少重复计算。
- 主动干预能力：StreamMind的主动监控模块可迁移至直播推荐系统，在检测到预设事件（如商品展示、主播口播优惠）时主动向用户推送提示卡片，提升互动转化。
- 外部工具集成：架构支持按需调用外部搜索，可应用于实时查询商品详情、比价等，增强Agent在电商场景中的实时信息获取与回答准确率。
缩放内建可解释性语言模型
🧭 可解释性内置训练的 LLM 缩放
Guide Labs
将可解释性作为训练约束与语言建模联合优化，实现与规模同步提升的内建可解释性
📌 工作参考价值（4 点）
- 在推荐模型训练中加入概念瓶颈层，强制用户/物品表示与预定义业务概念（类目、品牌、意图）对齐，实现原生可解释的 embedding，用于召回或排序解释。
- 利用归因与训练数据溯源能力，快速诊断推荐结果：定位影响当前推荐的用户历史行为或训练样本，通过移除/增强对应概念快速调试策略，无需重新训练。
- 扩散语言模型 + 概念转向的思路可迁移至生成式推荐（如语义 ID 生成），在生成物品序列时直接通过概念向量控制推荐属性（多样性、新品偏好等）。
- 可解释性随规模改善的缩放律意味着，在大规模推荐模型（如多模态 Transformer）中实验此类训练约束风险更低，可放心追求能力与可解释性双赢。
WatchLens：可配置的在线视频推荐实验平台
🧭 在线实验平台与日志规范
Yonsei University
开源模块化平台，解耦 UI/内容/策略并绑定推荐上下文到行为日志，支持可控在线实验
📌 工作参考价值（4 点）
- 模块化实验架构可复用到电商推荐 A/B 平台：将 UI、内容池、推荐策略独立配置，策略可分别注入推荐流与商品详情页，适合首页猜你喜欢与详情页关联推荐的效果隔离实验。
- 事件级推荐上下文绑定：日志在记录时直接附上策略名与排序位置，避免后续离线拼接，对电商用户行为归因分析（点击、加购、转化是否由具体策略/坑位导致）有直接工程参考价值。
- 单服务器可部署：降低在线实验搭建成本，适合团队快速搭建可控的端到端推荐效果验证环境，用于孵化新策略的商业指标检验。
- 会话级对比分析方法：固定界面与内容池，仅变单一环节策略，可精确测量推荐变更对用户后续行为链的影响，可直接移植到直播电商的“直播间推荐卡”或详情页推荐槽位的效果评估。
音乐推荐中流行度校准的鲁棒性与用户感知价值：用户研究
🧭 流行度校准的用户感知与鲁棒性
Johannes Kepler University Linz · Jönköping University · Know-Center GmbH · University of Graz · Graz University of Technology
用户能感知推荐列表的流行度差异，但并不明显偏好校准列表，离线流行度校准指标与用户感知弱相关
📌 工作参考价值（4 点）
- 电商推荐中慎用流行度校准：用户并不能明确感知或偏好流行度分布匹配其历史消费的列表，单纯优化离线校准指标（如JSD）可能无法提升体验，反而浪费资源。
- 评估离线指标的鲁棒性边界：研究发现JSD与用户感知流行的关联受物品熟悉度、列表组成和历史长度影响，业务中若依赖此类指标，需验证其在用户历史稀疏、新老客差异等场景下的稳定性。
- 熟悉度是调节变量：用户对热门/冷门物品的感知受自身熟悉度制约，推荐系统可考虑在流行度调控中引入用户熟悉度信号，避免“冷门”推荐被误判为低质。
- 计算流行度 ≠ 用户眼中的流行度：平台计算的流行度标签与用户的主观判断存在弱对齐，在需要用户感知流行的场景（如解释、打标）中，应结合用户研究校准流行度定义。
直播多目标排序：平衡新鲜与延迟信号的分段定向优化
🧭 直播推荐 · 延迟信号与MMoE
Twitch Interactive · Amazon Prime Video
通过延迟窗口、双模混合新鲜/延迟信号与MMoE，实现直播推荐多目标平衡及用户分群定向，DAV+0.09%
📌 工作参考价值（4 点）
- 延迟窗口建模转化：电商中购买、加购等行为常有延迟，可借鉴延迟窗口，用历史曝光样本延迟的正负标签更新模型，与实时信号模型融合，平衡即时兴趣与长期转化。
- 用户分段独立优化：将用户按生命周期或活跃度划分（如新客户、沉睡客户、高价值客户），为不同段单独训练或微调模型分支/偏差项，或调整不同目标的融合权重，实现定向提升（如促活、提频、提客单）。
- MMoE 多目标共享参数：当需要同时优化点击、转化、收藏等多个目标时，采用 MMoE 共享底层专家，减少模型数量和维护成本，通过门控做任务特化，尤其适合多个有相关性的目标。
- 移动端 feed 场景验证：方法在移动端信息流推荐中也有效（互动提升 1.12%），说明跨场景可迁移，电商首页、猜你喜欢等 feed 类场景可尝试类似多模型、分段定向方案。
ATLAS：多源域泛化零样本推荐框架，无需目标域适配
🧭 多源推荐域泛化 · 零样本检索 ★ 深度解读
Sony Research India
通过对抗对齐 + Gromov-Wasserstein 对齐 + 残差矢量量化，在不接触目标域的条件下实现零样本推荐。
📌 工作参考价值（4 点）
- item 侧领域混淆：用对抗训练 + 梯度反转层让 item 投影后的表示无法被线性分类器区分来源域，工程上可直接用于多业务线 item embedding 统一，无需额外对齐模块。
- 用户交互几何对齐：引入 Gromov-Wasserstein 下界损失匹配不同域内用户间距离分布，无需用户重叠，适合迁移用户冷启动场景——新域用户仅凭少量交互历史就能获得合理表示。
- 离散码本作为信息瓶颈：残差矢量量化（RVQ）层次化码本强制丢弃域特有变化，实验表明使用码本重建向量比连续投影提升零样本 HR 平均 45%，可作为推荐模型轻量化或跨域迁移的通用技巧。
- 源域多样性是关键：实验证实源域数量从 2 扩到 5 时零样本性能单调上升，提示实际业务中应尽可能聚合异构场景（如不同品类、国家）联合训练，而不是只依赖单一主域。
持续技能基准：评估LLM智能体能否真正进化其能力
🧭 Agent连续技能学习评估 ★ 深度解读
Institute for Artificial Intelligence, Peking University · Beijing Institute for General Artificial Intelligence
构建动态评估框架，揭示顺序执行提升性能但技能库维护未显著超越纯上下文学习，技能泛化仍难
📌 工作参考价值（4 点）
- 纯上下文学习可替代复杂技能库：在电商Agent的工作流中，对于简单的顺序任务（如用户意图识别→商品推荐→生成文案），直接利用对话历史和反馈的上下文学习表现与维护显式技能库相当，可以简化系统设计，避免技能库膨胀。
- 警惕技能碎片化：弱模型容易生成大量任务特定技能且复用率低，导致检索负担加重。可以设计技能合并策略（如定期聚类相似技能并泛化）或设置技能池容量限制，通过淘汰低频技能来维持效率。
- 任务流设计需注入技能依赖结构：通过构建任务依赖图并按拓扑排序安排任务顺序（难度递进 + 技能复用），能显著提高技能覆盖率和转移机会，这在推荐系统的多阶段流程（召回→粗排→精排→策略）中可借鉴，使上游产出的特征或知识能被下游利用。
- 评估指标可移植：任务重用率和核心技能覆盖率可作为量化连续学习环境质量的指标，用于检测推荐序列中是否存在有效的知识迁移路径。
多智体协同过滤中连接性对攻击与防御的影响研究
🧭 多智体协同过滤 · 连接性安全评估 ★ 深度解读
University of Oxford · Amazon
系统揭示候选数与目录集中度如何不对称地调制攻击与防御效能，发现语义攻击更持久，静态图度量可预估风险
📌 工作参考价值（5 点）
- 系统设计时监控连接度两极分化：每轮推荐候选数 k 和物品目录重叠度 ρ 对攻击传播的影响呈角色不对称性。增加 k 会加速隐私提取的早期泄漏，但几乎不推高稳态泄露率；增大 ρ 则推高物品侧污染，对用户侧影响非单调。在调整召回策略或扩量时，建议分用户/物品侧分别评估安全指标，避免单侧失守。
- 红队测试优先采用语义攻击：记忆更新步骤（LLM 重写摘要）会自然修正词法扰动，但完整保留语义注入。因此像 DrunkAgent（注入语义概念到物品记忆）比 RecTextAttack（词法扰动）存活率更高。内部安全测试应重点检验语义注入的耐久性，而非仅防御提示词级别的扰动。
- 防御部署需考虑角色隔离：G-Safeguard 等 GNN 检测防御在用户侧有效，但在物品侧稀疏时失效 (ρ 小时毫无安全增益)。建议对不同角色训练独立的异常检测模型，或为物品 Agent 设计无监督 (如 BlindGuard) 但针对度数不对称性优化的编码器。
- 用静态图指标替代昂贵模拟做初步风险评估：论文尝试用基于 SIS 模型的恢复感知一阶连接度预测器 (R_U, R_I) 来排序不同配置的风险，虽相关有限但节省资源。在工程上可先计算类似 \(1-(1-α_I)^k / ((1-α_I)·k·γ+r)\) 的静态分数，快速筛查高危配置后再进行小规模攻击仿真。
- 选用对齐良好的 LLM 并保留反思步骤：较新模型 (Claude 4.5) 因丰富世界知识和安全对齐，在良性交互中能自我纠正记忆污染，降低攻击持久性。建议在 Agent CF 中保留记忆更新后的反思/摘要步骤，并优先使用最新对齐 LLM 作为 Agent 大脑。
FocusMem：因子化 GUI Agent 潜在记忆的内容、读出与信任
🧭 Agent记忆因子化与选择性读出
School of Computer Science, Peking University · Key Lab of High Confidence Software Technologies, Peking University · Institute of Information Engineering, Chinese Academy of Sciences · Department of Computer Science and Technology, Tsinghua University
在潜在记忆中因子化内容保留、状态条件读出和信任门控，解决 GUI Agent 记忆压缩损失与无关干扰问题
📌 工作参考价值（4 点）
- 构建对话式推荐 Agent 或任务助手时，可将情景记忆（用户长期偏好）与工作记忆（当前会话状态）分开存储并利用角色感知读出，提升多轮交互一致性。
- 状态条件读出机制可迁移至用户序列建模，根据当前推荐场景动态聚焦历史行为，增强推荐上下文的个性化与相关性。
- 信任门作为轻量过滤器，可集成到 RAG 管道中，抑制检索到的无关商品描述或历史交互，减少噪声，提高推理准确性。
- 记忆模块独立训练、策略模型冻结的架构，是一种低风险、易迭代的工程方案，适合业务中快速实验与部署。
个性化幻觉：LLM 如何捏造用户画像与自我监测的误导
🧭 个性化LLM的忠实度评估与自监测缺陷
LIGHTSPEED · The Hong Kong University of Science and Technology
揭示所有大模型在个性化任务中系统性过度推理（35-49%），且自监测排名与真实忠实度负相关
📌 工作参考价值（4 点）
- 在电商推荐、广告定向等依赖 LLM 构建用户画像的场景，必须警惕过度推理（35%–49% 的声明是凭空捏造的），应引入独立外部验证机制（如类似 MirageBench 的评判器）而非依赖模型自报。
- 选择个性化模型时，不可相信模型自述的忠实度，自监测排名与真实虚构率负相关（ρ=-0.60），需建立外部测试基准评估真实过度推理率。
- 多轮交互中用户属性会线性累积且极少修正，可能导致画像严重偏离，在对话式推荐或 Agent 记忆系统中需加入定期“画像审计”或遗忘机制。
- 过度推理具有强任务依赖性（范围27%-59%），对不同业务模块（如文案生成 vs 用户标签推断）应分开评估并设置差异化阈值。
教Nemotron希腊语：专业领域现代希腊语RAG全流程构建
🧭 低资源语言RAG全栈适配 · 领域检索增强生成
Sophea AI, KIEFER SA, Athens, Greece
为低资源语言从头搭建检索增强生成系统，合成监督、微调嵌入与重排、适配生成，并发布基准HERA。
📌 工作参考价值（4 点）
- 不要迷信多语言密集检索：在特定领域（如电商商品描述、客服文档），先跑一个BM25作为基线，很可能强过通用多语言嵌入模型，尤其在低资源语言场景。
- 小规模领域检索对微调有大收益：仅用6.5万合成希腊语检索对微调1B嵌入模型，nDCG@10从0.362涨到0.835。在电商垂直领域，可以自动构建（query, 商品/文档）对来微调嵌入模型，成本低但效果显著。
- 重排器也需要领域适配：现成跨编码器重排器在不同领域表现不一致，用领域数据微调后能变成稳定增益。构建RAG系统时，别忽略重排环节的定制训练。
- LoRA微调MoE阅读器大幅提升答案质量：仅LoRA调优30B-A3B的MoE模型，答案正确率从29.4%升至66.9%，且忠实性和引用质量显著改善。对于需要从长文档中提取证据的场景（如电商说明书、政策文档），用LoRA高效地让大模型接地气。
K-EXAONE 2.0 技术报告
🧭 大规模MoE语言模型
LG AI Research
开源750B MoE多语言模型，通过upcycling和难度聚焦训练提升智能体编码与长上下文能力
📌 工作参考价值（4 点）
- MoE 稀疏激活：在推荐召回或排序大模型中可借鉴，用稀疏专家降低推理成本，尤其适合高吞吐线上服务。
- 长上下文训练：256K 上下文窗口可处理超长用户行为序列或会话历史，直接用于电商搜索中的 query 上下文理解或推荐中的序列建模。
- 多语言能力：10 种语言覆盖，对跨境电商或海外广告场景可直接使用或微调，减少多语言模型部署成本。
- 安全对齐：基于韩语社会文化背景的安全训练，可迁移到内容安全过滤、生成式推荐的合规性审查，定制化安全策略。