RiskChainBench：混淆平台消息恢复与证据支撑的网页调查基准
🧭 风险内容检测基准 · Web Agent 调查
Baidu · SmartFlowAI · People’s Public Security University of China · Tsinghua University · JD Technology
提出配对混淆消息恢复与本地网页调查的基准，评估模型恢复风险指令并执行证据引证网页调查的能力
📌 工作参考价值（4 点）
- 混淆文本恢复技巧可迁移至电商内容审核与 query 清洗：论文针对 emoji、谐音、字符拆分、冗余符号的恢复流程，可直接用于处理电商平台中规避风控的违禁商品描述、广告文案或搜索 query 变体，提升召回与安全性。
- Agent 系统瓶颈定位方法值得借鉴：将任务拆解为消息恢复（入口预测）与网页调查（证据获取）并离线 gate 组合，清晰分离模型在不同子任务上的表现；可复用于搜索推荐 Agent 的评估，定位是 query 理解错误还是后续执行不稳定。
- 证据引证报告设计可增强推荐理由可信度：强制模型输出带证据引用的风险报告并设计 faithfulness/sufficiency/completeness/consistency 多维度裁判，在电商推荐解释、广告合规审查中可要求 Agent 提供可追溯依据，减少幻觉。
- 工程实现中优先强化稳定探索和工具调用鲁棒性：研究发现执行失败占网页运行 31.9%，而决策后类型错误仅 0.9%，提示在构建多步 Agent 时，应优先优化重试机制、页面解析容错和状态恢复，而非过度微调决策模型。
三思而后行：利用内部归因信号的事实性解码
🧭 LLM 事实性解码 · 内部归因信号
Chung-Ang University, Department of Artificial Intelligence · Chung-Ang University, Graduate School of Advanced Imaging Sciences, Multimedia and Film
提出 DescaPE，在推理时用内部归因信号对候选续写打分，抑制幻觉易发路径，提升事实性
📌 工作参考价值（3 点）
- 推理时轻量探针监控内部归因信号，可集成到电商商品文案、搜索回答或推荐理由生成中，在 beam search / top-p 解码时对候选打分，实时过滤容易出错的属性、价格、活动规则等事实错误，无需重训大模型。
- 滑动窗口 MLP 消融定位事实显著层的方法可复用：业务中可对自有 LLM 做类似层重要性扫描，找出监控事实性的关键层作为线上干预点，降低全量 probing 成本。
- 探针只需单次前向传播近似信号，延迟仅 1.10×，适合在线生成场景；可结合业务知识库构建正负样本训练领域定制探针，与 RAG 互补，防止检索到错误信息后继续编造。
ScienceBuddy：交互式科学智能体的递归自改进
🧭 科学智能体 · 递归自改进
发布 ScienceBuddy 科学工作空间，以递归内外双循环耦合 harness 演化与模型强化学习
📌 工作参考价值（4 点）
- 将用户反馈转化为训练任务与评估 rubrics：电商/推荐 Agent 可借鉴，把用户点击、拒绝、改写等交互行为和执行结果自动转成带评分的训练样本，持续优化推荐策略，而非只靠离线日志。
- 内外双循环解耦模型与工具链迭代：内层固定模型优化工具/harness，外层在改进后的 harness 下训练模型。业务上可先完善 Agent 的工具调用、API 接口、记忆管理等，再逐步 RL 训练模型，降低同时改动带来的不稳定。
- 多模态工作空间 + 模块化工具集成：ScienceBuddy 的 224 tools / 22 modules 架构启示电商 Agent 平台可将商品图、评论、表格、用户序列等不同模态数据统一接入，按任务模块化编排工具，支持快速扩展。
- 执行证据纳入持续学习：把 Agent 执行过程中的中间步骤、失败信号作为训练经验，可用于改进搜索推荐 Agent 的 query 改写、商品对比、决策链路，提升可解释性与可靠性。
生成式推荐的自进化记忆框架 LION
🧭 生成式推荐 · 持续学习与记忆隔离 ★ 深度解读
National University of Singapore · Meta AI
用稀疏 KV 记忆层隔离不同用户行为模式的梯度，缓解生成式推荐持续进化中的进化冲突
📌 工作参考价值（4 点）
- 在持续更新生成式推荐或 LLM4Rec 模型时，不要直接全参 fine-tune；可以插一个固定大小的稀疏 KV 记忆层，用 Top-K 激活按用户行为模式路由，隔离头部/长尾梯度冲突，避免高频用户主导模型更新。
- 想强化长尾或低频行为，可加 consolidation loss：对记忆增强后的用户表示直接预测 next item；注意该 loss 必须加在“隔离后的表示”上，直接加在共享 backbone 反而会引入额外梯度冲突。
- 做用户长期偏好建模可用“全序列 query + 近期窗口计算”的非对称设计：仅用完整历史去激活记忆 slot，主 Transformer 仍只消费最近几条交互；既能捕捉长期行为模式，又不增加推理序列长度。
- 稀疏 KV 记忆参数固定为 2Nd，不随用户规模增长；实验表明 N=4096,K=32 与 N=65536,K=8 性能几乎一致，工程上可大幅压缩参数，替代 per-user embedding 或 LoRA，降低部署成本。
生成探索、选择利用：对齐 LLM 标题生成与个性化推荐
🧭 生成式推荐 · 个性化标题生成 ★ 深度解读
Baidu Inc., Beijing, China
用 GSPO 训练 LLM 一次生成多样标题候选，再由实时反馈选择器做个性化利用，CTR 提升 2.57%
📌 工作参考价值（4 点）
- 把“生成”与“选择”解耦：不要让 LLM 做最终排序，而是让它生成 5-10 条语义多样的候选标题/文案；再用轻量实时 ranker 根据用户即时行为、兴趣标签、上下文选择最优。这种架构能有效对抗用户画像噪声与 LLM 模式坍塌，电商标题、广告文案、push 文案均可复用。
- 用 GSPO 组内相对优势替代 DPO/PPO 的绝对奖励：组内归一化迫使候选差异化，避免生成重复安全文案；同时可让 LLM 单次推理生成整个候选集，显著降低推理成本。若在业务中做生成式推荐，可优先考虑组内对比训练，而非简单 SFT 或逐样本 RLHF。
- 分层奖励设计：把 CTR 预测、faithfulness（质量模型/NLI）、novelty（编辑距离）、set diversity（IoU）拆开加权。质量护栏防止 reward hacking 生成 clickbait；电商内容信任度要求高，这点尤其关键，建议显式加入事实一致性与安全约束。
- 在线冷启动用 Confidence-Aware Thompson Sampling + 统计终止：给新候选 Beta 先验，只有在小样本或高置信时才继续探索，并设置 τ_max 安全预算；成熟后切到深度 ranker 融合用户画像、实时兴趣标签和语义嵌入，兼顾探索效率与长期收益。
Stellar Colosseum：面向数学与理论计算机科学长程研究的多智能体协作框架
🧭 多智能体长程推理编排 ★ 深度解读
Google Research · Carnegie Mellon University
多智能体编排系统，用策略探索、反证与树聚合组织长程研究，在TCS-Bench达71.0%、Codeforces 218/222
📌 工作参考价值（4 点）
- 借鉴“就绪门”控制：将长流程显式分为策略探索、就绪判定、分解、局部求解、全局验证，适合电商/Agent 中的复杂多步任务（如营销策略生成、多跳 query 解析、自动实验设计），避免过早定型或无限探索。
- 树聚合保留批判：候选生成后做定向反证，聚合时保留 objections 而非简单投票。可用于多路召回/排序模型集成、多 Agent 辩论，防止共享错误被多数票掩盖；尤其适合需要证据链的 RAG 与生成式推荐评估。
- 依赖图分解与局部重试：把大文档/大任务拆成 DAG 子问题，依赖完成才执行，失败只重试局部。推荐 pipeline 中可将检索、粗排、精排、重排解耦，线上某环节退化时只回滚/重跑局部，不改全局。
- 共享知识目录：跨轮保存定理、失败路径、引用与观察，避免重复踩坑。在推荐用户画像、搜索 query 策略、Agent memory 中可维护历史尝试与用户反馈，形成可复用的结构化记忆。
通过中训练接种学习新词以隔离不安全泛化
🧭 LLM 安全对齐 · 选择性泛化
Geodesic Research · OpenAI · UK AI Security Institute
在midtraining引入<quarantine_token>新词将不安全行为绑定到特定上下文，post-training后在上下文外抑制不安全泛化并保留良性属性
📌 工作参考价值（4 点）
- 可借鉴的上下文隔离思路：引入特殊token（如<brand_safe>或<quarantine>）作为行为开关，在微调时将不希望泛化的数据（如竞品文案、负向偏好）限定在该token上下文内，推理时不使用该token，可减少污染主行为；但需注意边界泄漏，严格评估附近上下文线索的影响。
- 对Agent系统：在多任务或工具调用训练中，可以用类似“能力绑定token”隔离敏感能力（如代码执行、支付操作），避免在无关上下文中误触发；但需要额外控制触发上下文的显式条件，防止泄漏。
- 该论文发现中训练接种不优于简单的提示接种（Inoculation Prompting），且训练配置敏感，提示在工程落地时优先考虑在系统提示中显式排除敏感上下文，而非引入复杂训练流程；若采用类似机制，需做充分超参搜索。
- 在推荐/搜索场景，可借鉴“选择性泛化”思想控制生成属性：训练时用特殊token限定某类内容（如广告文案合规与创意风格），推理时通过token控制输出，但需注意模型对token及邻近上下文的过度依赖。
Top-K 不是混合检索的预算
🧭 RAG 混合检索预算优化
Southwest Jiaotong University
DiBud 以访问预算为输入，增量认证 RRF 排名精确前缀，用更少访问量保留混合检索质量
📌 工作参考价值（4 点）
- 将访问预算作为第一输入替代固定 Top-K 截断：在电商搜索/推荐混合召回中，向量与倒排融合常固定取前 L 条，但长尾查询成本波动大。可借鉴 DiBud，对每次请求设定硬访问预算（如最多读取多少候选），通过选择性访问动态决定每个通道的读取深度，保持延迟稳定。
- 增量认证与预算停止：DiBud 不会一次性计算完整融合，而是逐步输出已确定顺序的 RRF 前缀，预算耗尽即停止。推荐系统可据此实现流式/增量融合，优先保证已认证 top 项的正确性，并设置强制停止点，降低线上最坏延迟。
- 质量保留校准：用 held-out 查询校准预算参数，在满足 95% nDCG 保留的前提下大幅减少访问。可以按不同流量桶/查询类型离线校准预算，线上按查询特征动态选择预算，替代全局统一 Top-K，实现成本与质量的最优折中。
- 长尾成本意识：论文显示完成精确 Top-20 的访问分布长尾，少量高成本查询拖累系统。应监控访问成本分布，对异常高成本查询设置兜底预算。
文本嵌入模型的后训练量化失效图谱：四个模型家族的实测研究
🧭 模型量化与检索嵌入压缩
ThakiCloud
在检索嵌入模型上系统验证量化启发式建议，发现嵌入表保护和模块敏感度排序均不可迁移，蒸馏学生模型在极端量化下更优
📌 工作参考价值（4 点）
- 量化检索 embedding 模型时不要直接套用 LLM 量化经验：embedding table 并不总是需要最高优先保护，INT4/g16 下各模块独立量化损失差异不足 1 个 NDCG 点，均匀量化即可，无需复杂的混合精度分配。
- 在 INT3 及以下位宽，模块敏感度排序因模型家族而异（Qwen 中 FFN 最敏感，BGE-M3 和 E5 中 attention 最敏感），需要针对自有模型重新测量，不能依赖通用排序。
- 重建误差代理可用于筛选全局位宽，但不可用于选择具体保护哪些 tensor，因为其跨位宽的强预测力是 range-extension 伪影；实际选型应在目标检索任务上做 per-query bootstrap 检验。
- 若需 INT3/INT2 极端压缩，可考虑训练一个更小的蒸馏学生模型并量化，可能比直接量化大模型更优（文中 109M 学生 INT3 在 68.4 MB 下 NDCG@10 达 78.04，优于 0.6B 教师量化版本的 64.46 / 297.9 MB），但注意这种优势仅限蒸馏任务内。
置信源于经验：LLM 与 Agent 的体验式置信度估计
🧭 经验驱动 LLM 置信度校准 ★ 深度解读
University of Cambridge · Google DeepMind
用模型自己的历史验证样本构建经验库，检索相似任务与置信度，校准 LLM 输出置信度，以 1/10 成本匹敌 10 次采样一致性
📌 工作参考价值（4 点）
- 在 LLM 生成商品标题/广告文案/搜索改写等任务中，收集每次生成时的模型自评、置信度和最终效果（点击、转化或人工审核），构建经验库；上线时检索相似任务与相似置信度的历史，看实际成功率，用于决定自动发布还是人工审核。
- 用 task embedding + 模型自报置信度作为检索键，代替仅靠语义相似度；用历史结果标签微调度量空间（如重加权）可以让检索到“失败原因相似”的案例，而不仅是主题相似。
- 反思阶段把历史失败教训读给模型，让模型先说出自己的 recurring failure mode 再重估置信度，比单纯让其内省更校准；最终将统计成功率与反思置信度做 0.5/0.5 等权平均。
- 经验库需要独立于模型自身判断的结果标签（如用户反馈、人工审核、真实转化），不能用模型自己判断的 label，否则会在模型自信但错误的地方失效；且 lesson 要隔离，避免后见之明。
Atria Dawn：智能体超级智能的黎明
🧭 智能体基础模型与可验证经验训练
Atria Team · Fudan University
推出 Atria Dawn Preview：基于可验证经验管道训练的智能体基础模型，16个基准中5个达最高分，并揭示人机协作转向项目级伙伴关系
📌 工作参考价值（4 点）
- 可验证经验管道：在电商/推荐 Agent 场景中，可以把模型输出接入可执行环境（线上沙箱、模拟器、规则引擎）或外部验证信号（转化、GMV、AB 实验结果），将工具调用、策略生成转化为可验证经验，减少不可执行动作和幻觉。
- 人机协作模式：让 Agent 频繁提出方法和实现修改，人类保留最终决策与反馈，适合电商 Agent 工作流（选品、出价、文案生成）中设置 human-in-the-loop 决策门，提升效率且保持风险可控。
- 任务记录分析：借鉴其 769 条任务记录的量化方法，用 Agent 日志评估哪些环节“无 AI 不可行”，识别高杠杆场景，指导资源分配。
- 适用边界：论文聚焦科研与工程 Agent，非直接推荐系统；但可复用“可执行验证 + 工具交互”的建模思路到生成式推荐或策略 Agent，强化外部奖励闭环。
并非所有提示都同等重要：面向多模态强化后训练的探索引导式提示脚手架
🧭 多模态 RL 后训练 · 提示脚手架
Alibaba Cloud Computing · Shanghai Jiao Tong University · Fudan University · Xi’an Jiaotong University
提出基于探索潜力评分的动态提示脚手架框架，自适应调整多模态LLM RL后训练的提示分布，提升域内外性能
📌 工作参考价值（4 点）
- 动态训练采样策略：在 LLM 推荐/Agent 的 RL 后训练中，不要均匀采样 prompt 或 trajectory。可借鉴 EPS 思想，用在线 rollouts 的 reward 方差、优势差异等轻量统计量估计样本信息量，对低方差高成功率（饱和）或极低成功率（过难）的样本降低采样权重或触发重写，节省算力。
- 难样本重写而非丢弃：业务中收集到的用户指令/交互轨迹质量参差，直接过滤会损失信息。可以用 teacher LLM 对过难或过易的 prompt 做 scaffolded rewriting，保留意图（如商品查询、任务目标）同时调整难度，提升训练数据利用率。
- KL 约束可转化为数据选择启发式：EPS 从 KL-regularized policy improvement 导出，无需额外模型，只用 rollout 统计量即可实现，适合集成到现有 PPO/GRPO 训练循环，对多模态 Agent 和生成式推荐模型的 RL 后训练有直接参考价值。
- 监控 prompt 级效用并动态调整 batch 构成：类似课程学习，在训练过程中周期性评估每个 prompt 的 utility，动态改变训练分布，能在不增加总预算的情况下提升域内和 OOD 泛化。
当智能体减速：通过每 token Elo 分析理解 LLM 智能体的测试时策略
🧭 Agent 测试时计算缩放分析
UC Berkeley · University of Washington · Princeton University · Bespoke Labs
提出 Elo-per-token 分析量化 LLM Agent 测试时计算缩放，发现边际收益递减且拆分并行预算更优
📌 工作参考价值（4 点）
- 对搜索/推荐 Agent 的多步推理或工具调用，可以用 Elo-per-token 曲线监控 token 投入的边际收益，而不是只看最终指标；在边际收益低于独立采样参考线时及时停止或调整策略。
- 独立采样参考线是简单有效的 baseline：如果 Agent 的规划、反思、工具调用不能稳定跑赢重复采样，说明额外复杂度没有带来 token 效率，可考虑简化 Agent 流程或增加采样并行度。
- 利用 scaling inflection point 分配长任务预算：将总 token 预算拆成多个并行 sessions 可能比一个超长 session 获得更高 Elo，对线上高并发 Agent 服务的请求拆分和成本控制有直接指导意义。
- Bradley-Terry 聚合跨任务分数排序的方法可以迁移到电商多指标评估，处理不同 reward 尺度下的成对比较，适合离线评测 Agent 生成物品文案、搜索 query 等开放任务。
Dream-RSI：通过演化世界实现递归自我改进的探索框架
🧭 Agent 探索策略递归自改进
Google · University of Maryland, College Park · Google Deepmind · University of Virginia
用历史发现树构建重放模拟器，以离线低成本反馈迭代优化探索策略，降低发现成本并提升质量
📌 工作参考价值（4 点）
- 把探索策略从底层 coding agent 中拆出，做成可编程 orchestration layer；业务中的 Agent 搜索/推荐策略也可分离“生成/排序核心”与“探索策略”，便于低成本切换和迭代。
- 利用已积累的发现树/用户交互轨迹构建 replay simulator，进行 off-policy 评估，避免每次探索策略变更都跑线上长链路；对电商搜索、推荐 Agent 的策略选型、prompt/工具调用组合优化尤其划算。
- 采用 log replay + dreaming 方式生成即时低延迟反馈，适合需要大量策略试错的场景（如广告出价、商品推荐 query 生成），可降低在线 A/B 成本。
- 自改进 loop 中将新发现不断并入 simulator pool，形成持续扩大的离线评估环境；对应业务可把每次线上实验数据沉淀为可复用的策略仿真器。
发现基础模型：走向开放式发现智能
🧭 基础模型 · 开放式发现智能
PhAI Labs
提出 Discovery Foundation Models 框架，让基础模型从解题升级为参与新知识的创建、验证与修订
📌 工作参考价值（4 点）
- 将推荐/广告策略迭代重构成“可修订研究状态”闭环：把每个召回或排序改动视为 intervention，用离线评估、A/B 实验或线上指标作为 evidence gating，自动更新策略状态，减少人工排期和主观判断。
- 在生成式推荐或 query 推荐中引入外部证据校验：对 LLM 生成的 Semantic ID、推荐理由或搜索词，不只依赖模型自评，而要接入商品属性、用户行为、库存等外部 grounding，通过 gate 过滤低置信输出，提升可信度。
- 跨场景的 Discovery Skill 抽取与复用：将问题定义、假设生成、实验设计等子能力模块化，在多个品类或场景间持续微调，让 Agent 在新业务冷启动时快速迁移已有发现能力。
- 采用过程为中心的评估：除了最终 CTR/GMV 等指标，也量化中间步骤质量（如假设覆盖率、证据充分度、实验设计的可验证性），用于诊断 Agent 系统的瓶颈，引导迭代优化。