国家标准文档规则密集型审查的LLM基准与多智能体增强
🧭 文档审查基准与多智能体增强
School of Computer Science, South China Normal University, Guangzhou, China · School of Artificial Intelligence, Shanghai Jiao Tong University, Shanghai, China · China National Institute of Standardization, Beijing, China
构建首个国家标准文档审查基准GB/T-Bench与多智能体GB/T-Reviewer，将最佳CMCS从0.3280提升至0.5094
📌 工作参考价值（3 点）
- 多智能体架构可将文档审查知识模块化为专门技能（全局检查、目标诊断、规则扫描、结果验证），适合电商商品信息合规审核、广告文案规则检查等场景，直接复用“技能分工+结果验证”协作模式。
- 可控反例生成机制（确定性规则+约束LLM重写）能低成本构造带细粒度错误标签的数据集，可迁移至推荐系统、对话系统等领域的负面测试用例构建。
- 诊断型评估协议（精确匹配错误位置、审查维度和错误类型）提供了一种细粒度能力评估范式，可用于定位推荐理由生成或内容审核模型的薄弱环节。
基于多智能体法医推理的可泛化深度伪造视频检测
🧭 多智体协同法医推理
Beijing Jiaotong University · Tsinghua University · Ant Group
提出多专家Agent分别分析纹理、光照、运动、物理伪造线索，以小型开源MLLM超越GPT和Gemini
📌 工作参考价值（4 点）
- 多专家Agent分工架构：可借鉴到推荐系统的多信号融合——设计多个Agent分别专注商品视觉、文本描述、用户行为等不同特征，再由协调Agent融合决策，提升系统鲁棒性。
- Judge Agent的冲突解决机制：类似推荐的多路召回融合排序，可设计一个元Agent来处理各专家意见分歧，结合置信度加权或投票策略，提高最终决策质量。
- 小型开源MLLM的多Agent组合超越单一大模型：在资源受限的业务场景（如移动端推荐助手），可通过多个小模型协同达到不逊色于闭源大模型的性能，降低推理成本。
- 自动化标注流水线：多模型聚合与冲突解决自动生成细粒度图文注释，可用于电商评论分析、商品描述增强等任务，提升数据标注效率。
基于Schema引导的生成式AI层次化信息抽取与语义评估
🧭 LLM 结构化信息抽取与评估
Utrecht University · Utrecht Institute for Pharmaceutical Sciences
用单一生成式模型零样本抽取嵌套属性，并通过路径语义匹配与分级评估实现自动化高精度信息提取
📌 工作参考价值（4 点）
- 在电商商品描述、搜索增强等场景中，可借鉴Schema定义信息模型，用单次LLM调用直接从非结构化文本（如商品详情页、用户评论）提取层次化属性（如规格、适用人群），实现零样本结构化，替代传统多模型流水线。
- 提出的路径语义匹配算法能处理提取结果中嵌套、重复、变长属性与金标准的对齐，适用于自动校验LLM输出的结构化数据，例如在商品知识图谱自动构建中，比对提取的属性值与已有库。
- 引入的“精确/语义/有用/不匹配”多级评估量表，为业务场景提供了灵活的质量判断准则，例如在商品信息补全或用户生成内容挖掘中，可允许语义相近的匹配视为有用，提高覆盖率。
- 框架跨模型、跨领域、跨语言的可迁移性验证，表明在电商多语言环境（如不同站点）下，可能无需为每种语言单独设计抽取器，降低维护成本。
基于图骨架证据支撑的个性化深度研究查询细化
🧭 个性化查询细化 · 意图引出图 · 澄清策略
Yonsei University
利用意图引出图学习澄清策略，在平衡目标覆盖与证据成本下生成个性化查询，用户提问减少三分之二
📌 工作参考价值（4 点）
- 在对话式推荐/搜索中，可借鉴意图引出图建模用户意图间的依赖关系，自动决定何时澄清、调用用户画像或记忆，避免低效反问。
- 澄清策略训练可基于图结构轨迹，模拟不同依赖与证据条件，学习最优的问询次数与顺序，平衡个性化增益与交互成本。
- 对于黑盒生成式 Agent（如商品文案、搜索 query 改写），可通过优化输入 query 实现个性化，无需侵入内部 pipeline，降低工程耦合。
- 证据条件判断（已有上下文是否足够）可直接用于多轮对话中判断是否需要召回外部知识或用户历史，减少无效检索。
可逆不可学习样本：面向深度学习时代的版权保护
🧭 数据版权保护 · 不可学习扰动
通过互信息最小化生成不可学习扰动并解耦水印提取，同时防御非法模型训练与数据泄露
📌 工作参考价值（3 点）
- 业务可借鉴点有限，主要学术贡献，但数据扰动思路可迁移：对用户行为序列或 embeddings 添加微弱扰动，防止黑盒提取模型做未授权训练
- 双提取器解耦思想可应用于需要同时嵌入可逆水印与扰动防御的场景，如推荐结果中隐藏追踪标识且不影响正常服务
- 互信息最小化技巧可作为防御模型窃取的备选方案：在输出 logits 或中间表示上注入最小化互信息的噪声，降低攻击者模拟能力
零样本视觉-语言控制中的视觉接地评估与守护
🧭 VLM视觉接地评估与选择性辅助守护
BARCELONA Supercomputing Center · Universidad Pontificia Comillas · University of Florida · University of Illinois Urbana-Champaign · LUXEMBOURG Institute of Science and Technology
输入消融实验揭示VLM零样本控制普遍缺乏视觉接地，对称共识守护者实现可靠危险检测。
📌 工作参考价值（3 点）
- 对称一致性守卫：利用原始与反射视图的预测一致性筛选可靠模型，此法可迁移至多模态推荐——对商品图片做水平翻转等增广，检查模型预测是否对称，剔除不一致的弱模型，提升鲁棒性。
- 输入消融诊断：盲图、重复帧、反射对照组能暴露模型是否真正利用视觉信息。可仿照设计线上诊断流程，排查推荐模型中的模态依赖假象。
- 选择性弃权策略：在低置信度时弃权，牺牲少量覆盖换取大幅精度提升，适合电商风控或内容审核等高风险场景，结合阈值动态开关辅助决策。
LLMRouter：LLM 路由器开发、评估与部署的统一基础设施
🧭 LLM 路由统一框架与评测基准
University of Illinois Urbana-Champaign · University of Maryland, College Park · Nanyang Technological University · Purdue University · University of Illinois Chicago
提出统一 LLM 路由五组件公式、开源模块化基础设施与 xRouteBench 基准，系统比较 16+ 路由器并给出成本与个性化关键发现
📌 工作参考价值（4 点）
- 做 LLM 路由时可将策略抽象为「编码器→打分→决策规则→学习信号」，按组件模块化开发，便于快速替换编码器（如用户/上下文 embedding）和损失函数；LLMRouter 的开源实现可当内部 Router 服务的脚手架。
- 电商/搜索推荐中不同 query/任务对模型能力和成本敏感度差异大，统一评估质量+推理成本的方式值得照搬，建议建立类似 xRouteBench 的内部基准，用候选模型池自动产出路由标签。
- 实验结论提示在严格成本预算下轻量路由器反而更优；部署 LLM Agent 或生成式推荐服务时，应把单模型强大与路由开销一起评估，不要盲目追求复杂路由器。
- 个性化路由（user-conditioned routing）增益稳定，可把用户画像/历史行为嵌入作为条件输入，让路由决策感知用户，提升推荐、广告文案生成等场景的个性化效果。
路由在最需要时最难学：Web Agent 表征路由的界限
🧭 Agent 表征路由与成本优化
University College London · Holistic AI · UCL Centre for Artificial Intelligence
多观察模式的路由收益被重运行噪声夸大，弱智能体因标签不足难以学习路由
📌 工作参考价值（4 点）
- 多表征系统（如文本+图像+融合）可借鉴路由思路：按任务特征动态选择最优表征，但需注意重运行噪声（12-14%）会夸大收益，评估时务必用足够重复实验校准。
- 当基础智能体成功率低时，路由训练样本极少（路由标签源自智能体自身成败），此时应先提升智能体核心能力再引入路由，避免“鸡生蛋”困境。
- 成本-质量权衡策略可直接复用：仅将基础模式无法解决的任务发送到最强模式，可在不降低成功率前提下节省 9.5-30.6% 成本，适合电商 Agent 多级调用（如廉价 KV cache vs 完整生成）。
- 任务文本作为零成本路由规则（如关键词过滤）效果有限且脆弱，建议谨慎使用，优先构建基于置信度的级联路由。
M³Prune：面向多模态多智能体 RAG 的分层通信剪枝
🧭 多智能体协作效率优化 ★ 深度解读
Hefei University of Technology · East China Normal University · China University of Petroleum · Guangdong University of Finance and Economics · Alibaba Group
通过分层学习稀疏通信拓扑剪枝多智能体冗余交互，在提升多模态 RAG 准确率的同时大幅降低 token 开销
📌 工作参考价值（4 点）
- 在多智能体推荐或对话系统中，可直接引入可学习的软邻接矩阵（Gumbel-Softmax）对 Agent 间的通信权重建模，用策略梯度在训练时自动发现关键通信链路，替代固定拓扑。
- 分层剪枝策略（先剪模态内冗余，再剪模态间冗余）可迁移至多源信息（如商品图文、评论）的智能体协作，减少跨模态噪声，提升决策效率。
- 渐进式剪枝中的退化剪枝率 \(p^{(t)} = p^{(t-1)} \cdot \exp(-t/T)\) 和核范数正则项可作为通信成本控制模板，直接用于生产级多 Agent 系统的持续优化，避免一次性剪枝带来的不稳定。
- 模态对齐损失 \(L_{align}\) 可借鉴于推荐中多模态特征融合的对齐训练，显式保持图文 Agent 间语义一致性，防止因剪枝导致的协同失效。
MACRO：基于马尔可夫链的Transformer层路由
🧭 动态层路由优化推理
Heinrich Heine University Düsseldorf · Jagiellonian University · IDEAS Research Institute
不修改模型参数，通过马尔可夫链学习任务特定层路由，精度+5.0%，搜索时间降低9.4倍
📌 工作参考价值（4 点）
- 动态层路由可作为在线模型服务的推理加速手段，根据查询或上下文的复杂度自适应选择执行层数，在搜索推荐系统中平衡延迟与效果。
- 路由策略以马尔可夫链形式外挂于预训练模型，无需修改原始权重，便于在已有LLM上快速实验与部署。
- 利用top-k Viterbi解码生成高概率候选路径，可借鉴用于Agent多步推理中对执行路径的规划与剪枝。
- 将计算预算分阶段建模，可控制推理成本，适合在流量波动下动态调整资源分配，如大促时保障核心服务。
孟德尔·哥德尔机：基于比较进化的递归自改进编码代理
🧭 自改进编码Agent · 比较进化 ★ 深度解读
University of Electronic Science and Technology of China · Ludwig Maximilian University of Munich · Munich Center for Machine Learning
引入反应范型突变和跨谱系杂交，利用存档中多任务、多谱系比较证据提升自改进编码代理的性能与泛化性
📌 工作参考价值（4 点）
- 反应范型突变的迁移：在电商搜索推荐Agent中，同一Agent往往同时服务于搜索、推荐、广告等多个场景。可以借鉴MGM的思路，比较该Agent在不同场景下的成功/失败轨迹，识别跨场景的通用缺陷（如检索总召回不足、融合逻辑缺陷），从而进行针对性修复，而非孤立地针对单个场景调优。
- 跨谱系杂交的应用：在A/B实验或多策略线上共存时，可以将表现更好的Agent视为参照，将其在相同任务（如同一query、同一用户）上的成功轨迹作为对比信号，指导表现较差的Agent自我改写，实现策略能力的定向迁移，避免从头探索。
- 失败任务池的加权采样：维护一个全局的“高信息量失败任务池”，在评估Agent时优先采样这些任务，可以更高效地暴露弱点、促成跨Agent对比。这可以应用于构建在线评估流量的分层采样策略，用更少的流量诊断出Agent的真正短板。
- 存档式自改进框架：将Agent谱系树与评估轨迹统一存储，用Thompson采样在评估与扩展之间动态分配预算，既保证探索又利用高潜力节点。这种框架可以直接用于自动化优化推荐系统的推理链、工具调用等工作流，通过代码层面的自修改实现持续进化。
面向Agent图像编辑的领域约束候选选择：阴影去除案例
🧭 Agent驱动的约束式生成编辑
Stony Brook University · UNC Charlotte
将阴影物理先验注入Agent候选生成-评估-筛选流程，显著减少幻觉并提升编辑可靠性
📌 工作参考价值（4 点）
- 借鉴 Agent 多轮候选生成-评估-筛选流程，用于自动生成商品图文描述或广告文案：先让 LLM 生成若干候选，再用领域评估器（基于规则或轻量分类器）过滤并选择最佳，提升内容质量。
- 将业务先验（如商品属性准确性、合规性）固化为提示与评估准则，约束生成模型，减少幻觉，类似论文中用物理先验界定“阴影是光照效果”的做法。
- 引入重试机制与快速失败检测：评估器发现明显违规（如描述与图片不符）时立即重新生成，避免低质输出流入下游。
- 评估器可采用轻量级方案（如关键词匹配、属性校验）替代复杂模型，在候选筛选阶段快速剔除明显错误，降低整体审核成本。
面向成本高效的文档字段提取的预推理路由
🧭 模型推理成本优化 · 预推理路由
Independent Researcher
提出预推理路由：在文档提取前预测难度，动态选择廉价或强模型，成本降低31-77%且质量损失≤0.02 F1
📌 工作参考价值（4 点）
- 模型级联成本优化通用范式：在推荐、问答或 Agent 流水线中，先用轻量模型处理简单流量（如高频、低风险 query），对复杂流量（长尾、歧义 query）再调用大模型。核心前提：廉价模型要「有足够失败率」且「失败可预测」——从日志统计廉价模型在各分段上的质量，若某段失败率低则没必要路由。
- 用极少标注试点验证路由可行性：不必全量标注或复杂实现，先用 100-200 条样本评估廉价模型在该业务的 F1 或准确率，看是否满足「足够失败」条件；再提取简单特征（如文本长度、信息熵、图像清晰度）用逻辑回归拟合，看路由后 Pareto 前沿是否改善——成本节约 30% 以上且质量损失可接受时才工程化。
- 路由器特征从业务可观测信号入手：论文发现 BOW 路由器和人工特征效果接近，说明业务侧不必过度设计特征，直接用文本/结构化元数据（如订单金额、商品数量、历史点击率）作为特征就能工作；可解释特征（如布局复杂度、缺失值比例）能帮助评估路由效果上限。
- 路由器需按场景独立训练：论文指出路由器不能跨数据集迁移，即业务上每个产品线（如搜索、推荐、客服）需维护自身路由策略，即使底层模型一致；可定期用新数据 retrain 路由器，避免分布漂移失效。
免训练的Token级引导框架：大模型个性化协同写作
🧭 训练免token级引导 · 个性化写作
Tsinghua University · Fuyao University of Science and Technology · Henan Provincial People’s Hospital
提出免训练的token级引导方法，在小数据集上实时控制LLM生成，显著降低人工编辑量
📌 工作参考价值（4 点）
- 在商品标题/广告文案生成中，可借鉴 token 级引导快速适配专业领域，无需频繁微调大模型，降低算力与维护成本
- 针对小样本商品类目（如新品），该框架基于小数据集构建引导，能有效捕捉细分用语风格，提升个性化文案质量
- 工程上可将领域知识（如商品属性、组合搭配）编码为 token 偏置，作为轻量插件接入现有文本生成流程
- 方法不依赖梯度更新，适合在频繁变化的电商环境中实时注入最新促销信息、季节热词等
模块化测试时训练：将 TTT 重新思考为可组合模块
🧭 序列建模 · TTT 框架
Shanghai Jiao Tong University · Shanghai Innovation Institute · ByteDance Seed
提出模块化 TTT 框架，将内部学习器建模为有向无环图，系统消融组件并发现关键设计原则
📌 工作参考价值（4 点）
- 可尝试用 TTT 替代 Transformer 做用户行为序列建模，受益于其在线学习特性，可能更高效处理长序列。
- 模块化设计思想可借鉴到推荐系统的特征交互或模型组件，将学习率、损失函数等也作为可配置模块，便于消融和新设计。
- 消融结论直接可用：使用单层非线性快权重网络，避免深度网络和归一化，采用小学习率初始化与权重衰减，可减少实现踩坑。
- 业务中若需轻量、增量更新的序列模型，TTT 的 fast-weight 机制可能比 Transformer 更节省 inference 开销，适合实时推荐场景。