Switch-Reasoner：强化学习驱动多模态LLM自适应选择推理模式
🧭 自适应推理模式选择 · 强化学习
Wuhan University · Xiaomi Inc · Wuhan University of Technology · Nanyang Technological University · The Hong Kong University of Science and Technology
通过GRPO与双层正则化，让多模态LLM学会何时直接回答、何时显式推理，在异构任务中兼顾精度与效率
📌 工作参考价值（4 点）
- Agent 自适应开销控制：在搜索推荐 Agent 中，对简单用户意图直接调用推荐 API，复杂意图才触发链式推理，降低 Token 与延迟成本。
- RL 训练稳定性借鉴：双级正则（全局模式占比约束 + 样本级收益监督）可防止策略坍缩为“始终详细解释”或“始终简单回复”，适用于对话推荐策略的 RL 微调。
- 虚拟工具抽象：将“思考”视为工具调用，可与现有的检索、推荐、排序等工具统一管理，便于在 Agent 框架中插拔式扩展推理能力。
- 推理效率优化：在多任务推荐系统（如商品描述生成、问答推荐）中，可训练模型判断问题难度，仅对必要样本进行深层推理，显著节省推理算力。
Token-Flow 防火墙：持久化 AI Agent 的语义运行时审计
🧭 Agent 运行时安全审计 · Token 流防火墙
State Key Laboratory of AI Safety · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
针对持久化 AI Agent，通过 token 流语义防火墙实现全覆盖预执行审计，将攻击成功率压至 12.5%
📌 工作参考价值（4 点）
- 在构建持久化推荐 / 客服 Agent 时，可对记忆更新、工具参数、检索文件等自然语言 token 流嵌入边界感知审计节点，阻止不安全指令传播到执行器。
- 采用 轻量级本地检查 + 分级仲裁 架构：绝大多数 benign 请求用本地规则快速放行（仅 0.69s 延迟），仅对模糊高风险案例才调用远端大模型裁决，实现安全与效率平衡。
- 借鉴 source‑sink 审计记录的设计，为 Agent 数据流（尤其是来自外部工具的返回值）建立可追溯的语义日志，便于事后分析攻击路径。
- 当系统中 Agent 可调用敏感 API（如商品上下架、价格修改）时，可利用类似机制在工具调用前进行语义拦截，避免 prompt 注入导致的误操作。
通过激活聚合进行提示压缩
🧭 LLM 推理效率 · 激活压缩与重用
Freie Universität Berlin
将固定指令提示压缩为单个激活向量并注入 LLM 早期层，准确率下降小于 2%
📌 工作参考价值（4 点）
- 在电商搜索、推荐场景中，常用固定指令模板（如意图分类、商品属性抽取）可预计算压缩向量，跳过重复的 token 处理，显著降低线上推理延迟与计算成本。
- 多步 Agent 系统若共享同一系统提示，可将其压缩后注入各子任务，加速整体响应。
- 压缩器训练离线完成，不影响在线推理，且 patch 维度可调，便于在精度与效率之间做工程权衡。
- 方法依赖对目标 LLM 中间层激活的加权求和，需冻结模型并在特定任务上微调压缩器，适合指令固定、调用量大的场景。
通过模型合并提升对话检索中的即席搜索有效性
🧭 对话式检索 · 模型合并
University of Toulouse, IRIT
无需微调，通过参数合并融合即席与对话检索能力，零样本NDCG@3提升最高15%
📌 工作参考价值（4 点）
- 当电商搜索需要同时支持多轮对话与常规即席查询时，可直接合并对话微调模型与基础检索模型，避免重新训练和灾难性遗忘，节省大量资源。
- 使用线性（Model Soup）或球面插值（Slerp）两种合并策略，工程实现简单，可作为多任务模型部署的轻量级方案。
- 在零样本场景下，合并模型对未见过的查询表现出更好泛化性，适合快速应对新领域或冷启动的检索需求。
- 该方法提供了一种模型能力组合的思路，可借鉴用于融合不同业务场景（如推荐与搜索）下的微调模型，提升单一模型的综合表现。
UltraX: 大规模自适应程序化编辑精炼预训练数据
🧭 预训练数据精炼 · 程序化编辑
Peking University · ModelBest Inc. · Tsinghua University · Shanghai Jiao Tong University
提出函数调用式程序编辑框架，以插入/删除/修改实现细粒度数据精炼，提升预训练数据效率与质量
📌 工作参考价值（4 点）
- 可将数据清洗定义为插入、删除、修改的程序操作，用小型模型（0.6B）学习执行，在推荐系统的大规模预训练语料上实现快速、高质量的精炼，比纯规则或LLM方法更平衡效率与效果。
- 构造监督数据的方法（专家LLM生成精炼文本 → 行对齐 → 编辑操作序列）可直接迁移到商品描述优化、搜索词纠错等业务场景，低成本获取结构化编辑信号。
- 滑动窗口预测与全局操作聚合的推理策略增强了长序列编辑的稳定性，可用于推荐系统中超长行为序列的规范化处理。
- 低置信度过滤与基于操作组合的比例采样，可借鉴用于提升推荐模型微调的数据质量与训练分布稳定性。
WebSwarm：面向深度和广度网络搜索的递归多智能体编排
🧭 递归多智能体编排优化深度与广度搜索 ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · Kuaishou Technology
通过动态递归委派将任务分解与四种搜索模式结合，并用网页结构探测和经验复用提升多智能体搜索的深度与覆盖度
📌 工作参考价值（4 点）
- 递归分解与模式化协作：将复杂查询递归分解为搜索节点，每个节点根据本地目标选择协作模式（精确查证、迭代验证、并行宽搜、集合枚举），可迁移到电商属性补全、多条件商品筛选、榜单构建等场景，避免固定流程的僵化。
- 网页结构探测：先轻量探测目标信息在站内的组织方式（按类目/品牌/属性聚合还是分散），再决定并行扩展的粒度，可减少搜索/爬虫调用量（实验中工具调用降低40%以上），适合电商中动态决定是遍历类目还是直接查聚合页。
- 同胞节点经验复用：在批量处理同质商品（如补全不同品牌的商品属性）时，先用少量样本抽取出有效的搜索模式、可靠数据源和失败路径，再注入后续节点，可显著提升“宽搜”的准确率，降低重复试错。
- 模式化的搜索节点设计：atom、deep、wide、entity_collect 四种模式对应了搜索系统中“精准查询、链式推理、宽表填充、开放集合召回”的典型需求，可为构建可编排的搜索代理提供工程化参考。
无需训练的宽松投机解码实用研究
🧭 LLM推理加速 · 投机解码优化
Imperial College London · Graphcore
统一宽松投机解码框架，实证发现放松保真度需仔细能力评估，且依赖强草稿模型
📌 工作参考价值（4 点）
- 在电商搜索自动补全、对话推荐等延迟敏感场景，可尝试放松标准投机解码的无损约束以榨取更多加速，但必须针对具体任务（如Query推荐准确率、CVR）设计能力评估，在线灰度实验必不可少。
- 草稿模型必须是一个足够好的语言模型（如原LLM的压缩版或同架构小模型），不宜使用纯为多token预测设计的轻量专用草稿器，否则加速但质量崩坏。
- 统一框架中，Top‑k与Top‑p结合的接受准则在权衡中表现较鲁棒，可作为工程落地的起点，无需额外训练。
- 当线上主模型与草稿模型输出分布差异大时，放松策略可能引入难以察觉的降质，建议在离线多维度评测（困惑度、任务指标、人工评估）中模拟长尾请求，避免“平均加速好看但头尾体验分化”。
异构架构下学习率调度策略的系统评估
🧭 训练超参数：学习率调度策略评估
Computer Vision Lab, CAIDAS & IFI, University of Würzburg, Germany
大规模实验表明 CosineAnnealingWarmRestarts 与 CyclicLR 普遍优于基础衰减，调度选择高度依赖架构
📌 工作参考价值（4 点）
- 训练深度推荐模型（如 CTR 预估、双塔召回）时，可直接用 CosineAnnealingWarmRestarts 或 CyclicLR 作为默认调度，替代阶梯衰减，以提升收敛速度与泛化能力
- 调度器选择应与模型架构绑定：不同结构（DNN、Transformer、DeepFM）对调度敏感度差异大，建议针对具体架构做小规模网格搜索
- 在大规模超参优化中，将学习率调度视为一级超参数，联合基础学习率与调度配置进行自动搜索，可能带来显著收益
- 对于强化学习 Agent 训练，周期性重启学习率（如 CosineAnnealingWarmRestarts）有助于跳出局部最优，可尝试引入到策略梯度或 Q-learning 训练中
重采样还是重路由？LLM测试时模型选择的预算分配策略
🧭 测试时模型选择与预算分配
提出在线策略 RoR，在单查询成本预算下动态分配重采样与重路由，最大化正确性。
📌 工作参考价值（4 点）
- 电商搜索/推荐场景中若调用多尺寸 LLM，可借鉴 RoR 动态分配预算：对简单查询用廉价模型多次采样求一致，对困难查询路由到强模型，避免固定级联或 Best-of-K 的浪费。
- 使用边际正确性增益估计驱动在线决策，比静态规则更能适应查询难度分布的变化，适合后台异步或实时生成广告文案、商品摘要等场景。
- 验证器质量是关键：文中用一致性投票或弱验证器仍有效，提示我们可以用业务指标（点击率、转化率）离线训练轻量级验证器来指导在线分配，但验证器退化时收益消失，需持续监控。
- 工程上可利用已有模型池和多路采样，实现一个 meta-controller 层，对每条请求在重采样次数与路由目标间做动态决策，提升整体成本-质量帕累托前沿。
注意你的代码补全：恶意补全溯源框架
🧭 LLM 后门·溯源
University of Louisville · University of North Texas
提出 CodeTracer，仅凭微调语料和误补全事件即可将恶意代码补全追溯到具体的后门训练数据
📌 工作参考价值（4 点）
- 恶意行为溯源思路可迁移到推荐模型：当线上模型出现异常推荐（如恶意商品置顶），借鉴 CodeTracer 的指纹提取和语义搜索，从微调数据中定位投毒样本，适合大促前数据审计。
- 无需模型内部参数：仅用微调语料和误补全日志即可归因，适用于黑盒发布后的推荐系统安全调查，不依赖训练框架。
- 指纹结构化方法可复用：将异常推荐内容拆解为（上下文，关键行为，威胁类型）三元组，用 LLM 推理匹配可疑训练样本，可用于构建推荐系统的数据污染检测流水线。
- 防御视角：了解攻击者如何通过微调植入后门，反向提醒我们在使用第三方微调数据或用户反馈数据训练推荐模型时，需设计类似触发词过滤和语义一致性校验的防御措施。
自利智能体社会中的市场稳定形式化机制：市场模拟研究
🧭 多智能体博弈 · 市场机制设计
DSO National Laboratories · National University of Singapore
在 LLM 驱动的市场仿真中，调解机制能有效抵御对抗攻击，维持多智能体合作稳定
📌 工作参考价值（4 点）
- 电商平台存在大量自利卖家与买家 agent（如自动调价、自动选品），借鉴调解（Mediation）机制设计平台的治理层，在出现恶意行为时维持交易生态稳定。
- 构造对抗性红队测试流程可用于压力测试推荐系统或 Agent 编排中的协调策略，用 LLM 驱动的攻击者迭代优化攻击 Prompt，发现系统软肋。
- 将生产互补性与社交网络约束引入 Agent 市场模拟，可建模推荐生态中的双边匹配与信息传播，用于模拟 UGC 社区、直播带货等场景的协同演化。
- 面临不可完全消除恶意行为时，系统设计应追求“可弯不可折”（bent but not broken）的弹性目标：允许局部效用下降，但保持整体不崩溃的恢复能力。
自引导测试时训练：提升长上下文LLM推理的简单方法
🧭 长文本测试时自适应训练
Meta AI · University of Virginia
模型自适应前先自选相关证据片段，只在选中的片段上做测试时训练，长上下文推理最高提升15%
📌 工作参考价值（4 点）
- 在长上下文任务（如长用户行为序列建模、长文档问答）中，可借鉴自引导TTT：对每条测试样本，先用模型识别出与当前query/任务最相关的证据片段，仅在这些片段上进行语言模型微调，以低计算成本实现实例自适应。
- 工程上，S-TTT的稀疏训练只更新少量token，适合在线延迟敏感场景，例如搜索query改写、个性化推荐理由生成时的实时自适应。
- 借鉴“自选择证据”思想，在构建Agent的记忆或RAG模块时，可设计一个轻量级证据选择器，从长上下文历史中检索关键信息，再对此进行微调或提示增强，有效过滤噪声。
- 该方法无需额外标注，利用模型自身输出作为监督信号，可在电商评论聚合、广告文案生成等长文本应用中以无监督方式提升证据利用率。
Agon: 竞争式跨模型强化学习，隐式对手评分提升推理能力
🧭 Agent 竞争训练增强推理
Independent Researcher · thinkdense.ai
让两个模型互为评分者，通过竞争性RL隐式判断推理质量，无需过程标签，大幅超越GRPO
📌 工作参考价值（4 点）
- 多模型互为评分的训练范式可直接用于对话Agent或推荐解释生成：用一个模型生成，另一个模型评估，交替优化，无需人工标注过程质量。
- 在搜索推荐场景，可让生成式推荐模型与排序模型互相竞争，前者生成item，后者判断合理性，奖励机制为是否比对方更准，潜在提升推理链的实用价值。
- 训练时形成的两阶段级联可直接部署：推荐系统可让轻量模型快速草稿再由精排模型修正，兼顾效率与质量。
- 竞争双方仅需相当实力且行为差异，无需完全对称，启发我们用不同架构或偏好模型进行对抗训练，避免单模型自举的偏差放大。
CausalDS：评估数据科学智能体因果推理的合成基准
🧭 因果推理基准 · 数据科学Agent评估
Department of Statistics, University of Michigan
提出通过合成结构因果模型与真实背景故事评估LLM在数据科学管线中的因果推理、工具使用与弃权能力
📌 工作参考价值（4 点）
- 在电商搜索推荐中，可借鉴其合成SCM+观测噪声生成评估数据的方法，构建针对因果推断类A/B测试分析、归因模型的离线评测集，避免使用线上真实数据时的数据泄露与鹦鹉风险。
- 弃权作为第一类评分结果的设计可直接迁移到Agent辅助的数据分析产品中：当置信度不足或信息缺失时，要求Agent主动声明“无法回答”，提升输出可靠性，尤其适用于策略归因、指标异动分析等易出错的场景。
- 联合评估因果推理+编码+工具使用的框架，能用于筛选适合数据科学Agent的LLM，确保其在推荐系统复杂分析（如效果评估、特征因果效应）中既能写出正确的分析代码（如do-calculus实现），又能正确调用pandas、因果库等工具。
- 故事与数据成对生成、覆盖Pearl三层问题的方法，可以启发设计多层级因果问答的评测体系，检验Agent在描述性、预测性、反事实任务上的表现，避免仅关注预测准确率而忽略因果推理深度。
长周期终端基准：密集奖励检验长任务智能体极限
🧭 长程终端智能体评估 · 密集奖励
Tencent HY LLM Frontier · University of Maryland, College Park · University of Georgia · Indiana University · Lehigh University
提出长周期终端基准LHTB，细粒度子任务与密集奖励评估智能体长程能力，最强模型仅15.2% pass@1
📌 工作参考价值（4 点）
- 子任务分解与密集奖励：在构建多步自动化 Agent（如广告优化、商品文案测试）时，可借鉴将复杂任务拆解为可评分的子任务，设计中间奖励信号，支持逐步改进和部分成功。
- 长上下文与记忆管理：任务平均消耗9.9M tokens，提示在实际Agent中需要处理超长上下文，可引入检索增强（RAG）或层次化记忆，避免关键信息遗忘。
- 迭代调试与容错机制：论文发现Agent失败多因环境错误和调试不足，业务系统应加入自动重试、错误恢复和环境状态检查，提升长流程稳定性。
- 过程性评估：从只看最终结果转向细粒度过程评估，帮助定位Agent瓶颈，适合用于评估复杂推荐或运营Agent的中间决策质量。