训练推理模型生成多样化科学创意
🧭 LLM 创意生成 · 集合级 RL 多样性
New York University · Stony Brook University · Salesforce AI Research
用集合级强化学习奖励多样性,训练 8B 模型一次生成 K 张高质量且互异的科学创意卡
📌 工作参考价值(4 点)
- 生成多个候选时用距离加权奖励:在推荐理由、广告文案、搜索 query 建议等场景,要求模型一次生成 K 个候选,并在强化学习/偏好优化中把每个候选的质量分数乘以其与已生成候选的语义距离(如 embedding 相似度的倒数),可显著减少重复、提升集内多样性。
- 结构化卡片输出:让模型输出类似 idea card 的结构化 JSON(标题、卖点、理由、证据),便于后续用规则或模型做联合评分、去重与排序;电商可生成“商品卖点卡”或“用户兴趣标签卡”。
- 集合级联合评分替代逐条采样:在 RL/GRPO 中直接对一组 K 个候选做 group-level reward,而不是逐条独立采样打分,能更好平衡质量与覆盖,工程上可用一个 LLM judge 或业务指标作为奖励。
- 执行反馈作为最终验证:借鉴用 coding agent 跑实验验证想法可执行性,在业务中可让生成内容进入仿真或小流量评测,用真实业务指标(CTR、转化)作为 success 信号,避免只靠 LLM 自评。
MG-Thinker:多图像推理定位的双轴自反思框架
🧭 多模态推理定位 · RL 后训练
Huazhong University of Science and Technology · Tsinghua University
提出MG-Thinker后训练RL框架,通过层次化推理与双轴优势分解提升多图像推理定位性能
📌 工作参考价值(4 点)
- BiA-DAPO 优势分解可借鉴到多任务/多场景推荐 RL 训练:将 rollout 优势沿组内信号轴和组间能力轴分解,能缓解不同任务难度、不同用户群体样本分布异质带来的优势估计偏差,适合电商推荐中不同品类、不同活跃度用户的差异化建模。
- 任务自适应 CoT 可迁移到 Agent 规划与复杂查询理解:根据任务难度动态调整思维链粒度——简单 query 直接生成、复杂 query 多步推理,能节省 token 并提升推理效率,可用于搜索广告中的 query 改写或商品推荐理由生成。
- 候选池稳定组级统计的方法值得工程实现借鉴:在 RL 训练中维护候选池以获得稳定的组级统计量,可迁移到推荐模型的在线学习或 A/B 测试分桶中,减少小样本波动对策略更新的影响。
- 层次化推理范式可复用于多模态商品理解:从粗到细定位(先全局场景后局部细节)的思路,适合电商中多角度商品图、视频帧的细粒度视觉定位任务,如自动识别商品瑕疵或关键属性区域。
LLaDA-UI:将分块扩散引入视觉语言GUI智能体
🧭 Agent · 分块扩散多模态模型
AGI Research Center, Inclusion AI · Venus Team · Westlake University
提出16.7B MoE分块扩散视觉语言GUI智能体,在多个GUI基准上超越Qwen2.5-VL-7B并在4/6基准上超过Qwen3-VL-8B
📌 工作参考价值(4 点)
- 分块扩散解码的并行性可降低端到端延迟,适合需要实时感知屏幕并快速决策的 Agent 场景(如自动操作商品后台、客服工单处理、广告账户管理);可在小规模任务中替换自回归解码验证扩散解码的加速效果。
- 两阶段训练策略(通用多模态预训练 + 领域 SFT)可复用于训练电商多模态 Agent:先对齐视觉与语言,再用业务 GUI 数据微调,无需从零构建视觉语言模型。
- 原生分辨率视觉编码器对细粒度 UI 元素定位重要;电商场景中商品图、广告素材上的小文字/按钮/价格可能被降采样丢失,采用原生或高分辨率编码可提升 grounding 精度。
- MoE 架构使 16.7B 总参数在多个 GUI 基准上超过同量级/更大稠密模型,在可控激活成本下保持性能,对需要并发处理大量 Agent 请求的业务有成本优势。
LEDGERMIND:基于结构化证据账本的溯源约束多模态智能推理
🧭 溯源约束的多模态Agent推理框架
The Hong Kong University of Science and Technology (Guangzhou) · The University of Hong Kong · Tsinghua University · University of Sussex
将多模态Agent轨迹构建为溯源约束状态机,用结构化证据账本限制推理,提升准确性与轨迹忠实度
📌 工作参考价值(4 点)
- 在电商商品问答或推荐解释等场景中,可借鉴结构化证据账本约束Agent的推理链:要求每条中间论断必须引用来自工具调用(如商品数据库、图像识别)的确定证据,防止产生“幻象接地”式的错误推荐理由。
- 自适应双路分发器根据查询复杂度动态选择推理深度,可迁移至搜索/推荐系统中的多模态查询处理:简单意图走轻量路径,避免过度调用昂贵模型,兼顾效率与准确性。
- 事件触发验证与修复引擎可应用于实时纠错:当监测到推理过程中的证据不一致时,仅允许基于已有账本条目的修复操作,杜绝凭空捏造信息,保障推荐理由的事后可审计性。
- 三层接地协议(实体级、数值级等校验)可直接用于商品属性抽取与校验,确保生成的商品描述或推荐文案中实体名称、数值参数等与原始多模态信息严格一致,降低事实性错误。
CLBench-V:多模态上下文学习能力基准,从定位到知识获取
🧭 多模态上下文学习基准与能力分析
Shanghai Jiao Tong University · Zhongguancun Academy · Shanghai Innovation Institute
首个多模态上下文学习基准,解耦上下文定位、信息应用与知识学习三维度,揭示模型严重不足
📌 工作参考价值(4 点)
- 多模态RAG与Agent的评估方法论:可借鉴三维度分类(上下文定位、新信息应用、新知识学习)来诊断Agent在电商商品详情页、广告落地页等多模态上下文中的能力瓶颈,比单纯端到端准确率更细粒度。
- 自动构建评估任务的低成本流水线:论文的自动构造+过滤方法可直接用于生成商品描述理解、图文手册合规性检查等领域的评测数据,降低人工标注成本。
- 模型选型参考:InternVL 3.5 在上下文定位和知识学习上更强,Qwen3.5-Plus 擅长信息应用,指导选型:若业务强依赖从图中提取新规则(如活动规则解读),宜选前者;若侧重直接应用给定信息(如表格问答),后者更优。
- 长多文上下文评估启示:论文分析了上下文长度、图片数量对性能的影响,可启示在商品详情页多图、长文档检索场景下,需针对性优化模型的长上下文窗口和跨图推理。
SAGA:面向智能体 Text-to-SPARQL 的模式感知接地框架
🧭 Agent 交互式 SPARQL 生成 · 模式感知接地
The University of Tokyo · National Institute for Materials Science · RIKEN Center for Advanced Intelligence Project
提出 SAGA 训练无关框架,通过模式约束接地解决智能体 SPARQL 生成中的类型盲问题,显著提升 KBQA 性能并消除空查询。
📌 工作参考价值(4 点)
- 在电商搜推场景中,若利用 LLM Agent 与商品知识图谱交互生成推荐理由或查询,可引入类型约束(如商品类别、属性域/范围)过滤不可能的属性,避免返回空结果。
- 借鉴 SAGA 的双向类型状态(bidirectional type state)机制,在 agent 每一步推理后即时更新实体与属性的类型兼容性,缩小后续接地搜索空间。
- 以紧凑的模式注释格式(schema-annotated format)向 LLM 展示剩余合法属性,减少 token 开销并提升生成准确率。
- 对图谱中缺失的模式信息,可结合历史轨迹局部证据和经验统计宽容处理,适应真实业务图谱的不完整性。
不完整图谱证据下的LLM推理接地理论
🧭 LLM推理接地 · 不完整图谱证据
Tianjin Normal University · Harbin Institute of Technology
证明不完整图谱下硬约束无法同时保证拒假和保真,提出KL正则化软接地框架并给出稳定性边界
📌 工作参考价值(4 点)
- 电商知识图谱的软接地:商品关系图谱常不完备,应避免硬性剪枝。采用KL正则化软约束,保留未被观察但非矛盾的推理路径,防止丢弃正确的长尾关联。
- GraphRAG检索策略:在检索增强生成中,不必强制LLM完全忠实于检索到的子图。允许有限松弛可提高对缺失边的鲁棒性,避免因召回不足而拒真。
- Agent多跳推理的稳定性设计:当Agent基于动态图证据进行多步推理时,可利用稳定性边界评估证据扰动的影响,指导高频更新下的容错机制。
- 区分事实与声明:将图谱相容性视为“声明支持”而非事实真理,在广告文案生成或推荐解释中,可避免因信源不完整而误判正确输出。
解耦搜索与推理:LLM Agent 的供应商无关的接地架构
🧭 Agent 搜索接地解耦与成本控制 ★ 深度解读
DoorDash, Inc.
将搜索接地从模型内部移出为可配置的 MCP 网关,在 Prompt 合规、成本、缓存和提供商选择上获得显式控制
📌 工作参考价值(4 点)
- 将搜索定义为显式工具边界,而非模型内置功能:在电商 agent 中,把搜索(如商品检索、Query 理解时的外部知识查询)做成独立工具,通过 MCP 协议标准化输入输出,可避免 Prompt 中严格的输出格式被 native search 的冗长解释破坏,尤其适合需解析 JSON/实体/分类标签的流水线。
- 使用提供商注册表 + 回退链实现搜索路由:在推荐/搜索系统中,可以按成本、新鲜度、覆盖场景动态选择搜索提供商(如 Serper、BrightData),并配置超时回退,保证可用性同时大幅降低搜索 API 开销(实验中成本降低 91%–98%)。
- 利用精确+语义缓存减少重复检索:对电商中高频查询(如热门商品、常见长尾意图),引入基于 embedding 的语义缓存,可达到 99.4% 的缓存命中率,将延迟降低 68% 并接近零边际搜索成本,适合大规模 Agent 场景。
- 将搜索成本、深度、延迟作为可调旋钮:通过调整 max_results(检索结果数)在准确率和成本之间 trade-off(如 SimpleQA 从 2 条增至 6 条后准确率快速上升,之后饱和),让接地层像推荐系统中的召回预算一样可配置,团队可按业务需求调优。
上下文感知RL:用辅助选择损失增强长序列与多模态证据接地
🧭 上下文感知强化学习 · 多模态与Agent ★ 深度解读
Princeton University · UC Davis
在 GRPO 中增加对比上下文选择辅助损失,显著提升 Agent 与多模态 LLM 的证据接地能力
📌 工作参考价值(4 点)
- 辅助上下文选择损失:在现有 RL(如 GRPO)训练中,同时训练一条「给定 query-answer,从一对相似但结论相反的上下文中选出支持该答案的正确上下文」的辅助任务,可作为轻量插件提升模型对关键证据的敏感度。
- 构造对比上下文对的工程方法:Agent 场景用轨迹过滤(同仓库、同文件、同函数、不同 issue + 答案掩码)构造 1k 高质量对,多模态用生成编辑+相似检索构造 7k 对,避免人工标注。业务中可类似挖掘正负用户行为序列、对比商品图文等。
- 避免将对比数据简单用于 SFT 或混入 RL 奖励:实验表明,用对比数据做 SFT 会严重破坏长序列策略(编码 Agent 任务 resolve rate 从 28% 跌至 1.3%),单纯作为二元奖励加入 RL 几乎无效;只有设计为辅助 logit 级损失并配合 GRPO 的 clip/KL 约束,才能稳定获益。
- 长序列推荐/Agent 的场景直接复用:在用户长行为序列、商品描述、多模态推荐中,可通过构造「仅关键一步不同」的正负上下文对,用相同辅助损失强化模型抓取关键信息,提升长程一致性和抗噪声能力。
感知还是偏见:多模态大模型能否超越人格第一印象?
🧭 多模态大模型人格推理评估
The University of Tokyo · Shanda AI Research Tokyo · Dalian University of Technology
发现MLLM人格评分准确率与证据接地率严重脱节,51%正确评分非基于证据,提出接地人格推理基准揭示偏见差距。
📌 工作参考价值(4 点)
- 借鉴接地评估范式:在推荐或Agent用户建模中,不仅要评估预测准确率,还应强制模型提供行为证据,检查预测是否基于真实线索而非表面统计相关,避免模型学到虚假关联。
- 多智能体+人工验证数据构建:本文使用多智能体管道生成带时间戳行为观察和证据分析的数据集,可复用于电商评论分析或Agent行为理解的训练数据构建,确保证据对齐。
- 失败模式诊断指标:偏见率、虚构率、整合失败率等指标可直接迁移到推荐解释或Agent决策可解释性评估中,监控模型是否在“猜对答案却用错理由”,提升系统可信度。
- 接地型推理链设计:评分→推理→接地的链条可嵌入推荐理由生成或Agent的决策解释模块,要求模型关联具体行为证据,缓解幻觉和刻板印象。