WeVisDoc：从覆盖到能力的鲁棒端到端文档解析
🧭 文档解析 · 数据为中心
WeChat Vision, Tencent Inc.
两阶段数据为中心框架用残差聚类诊断定向补强，在多个文档解析基准上领先
📌 工作参考价值（4 点）
- 残差聚类驱动难例挖掘：Stage II 对 Stage I 解析器的错误在固定视觉-结构簇内做聚类统计，再定向构造或重分配数据预算。推荐/搜索场景可借鉴该思路，将线上 bad case 按用户意图、query 类型、页面模板等维度聚簇，定位系统化薄弱点后定向补训练数据或调采样权重。
- 结构保持的退化合成：通过保持文档结构不变、只合成图像退化（模糊、噪声、透视变形等）来扩展训练分布。在电商场景中，可对商品图、用户上传的实拍图做类似退化增强，提升模型对低质输入（如暗光、遮挡、压缩噪声）的鲁棒性，尤其适合作图质量不稳定的 UGC 内容。
- target-token 预算重分配：根据诊断结果把有限训练 token 从已饱和区域转移到薄弱区域. 对应到推荐系统训练，可根据验证集分片表现动态调整各数据源的采样比例或训练步数，避免在简单样本上浪费算力。
- 两阶段数据迭代范式：Stage I 广覆盖，Stage II 精准补强，形成可复用的数据飞轮。工程上可落地为：先全量构造基线数据, 再通过定期离线评估识别性能洼地，并用自动化诊断报告指导下一轮数据标注与增强，比盲目扩大数据量更高效。
SnapBench：面向移动交互的拍问式多模态检索鲁棒性基准
🧭 多模态检索鲁棒性基准与模态校准
The Hong Kong University of Science and Technology (Guangzhou) · Tencent Yuanbao · Tsinghua University · ARC Lab, Tencent · The University of Hong Kong
首个配对的拍问式多模态检索鲁棒性基准，覆盖 1145 条查询、9085 个候选项和 53 种受控扰动，并提出自适应融合方法 MOOR。
📌 工作参考价值（4 点）
- 在电商以图搜物/拍照问答场景，线上输入普遍存在图像模糊、短文本或拼写错误；可将 SnapBench 的 53 种受控 corruption 方案作为离线鲁棒性评估模板，覆盖 blur/crop/low-light/typo/short query 等退化模式，用于回归测试检索模型。
- 论文发现干净图像单独检索常优于图文联合检索，说明噪声输入下粗糙文本会拖累联合 embedding；工程上可引入输入质量信号（图像清晰度、文本长度、OCR 置信度）做 modality gating，低质量文本时自动回退到图像检索。
- MOOR 提供简单可复用的融合 trick：对单模态相似度分布做 outlier-aware 标准化，再按可靠性做最优加权；可直接叠加到现有多模态召回/排序的 score fusion 层，提升 noisy 输入下的鲁棒性。
- 图像 corruption 是主要性能瓶颈，文本 corruption 对联合检索影响有限；在资源有限时，优先投入图像质量检测与增强，而不是复杂的文本纠错。
AnTrap：评估Android GUI Agent对运行时异常的鲁棒性基准
🧭 GUI Agent 鲁棒性评估与对抗训练
Zhejiang University · Yale University · Tongji University · University of Chinese Academy of Sciences
提出AnTrap基准系统注入动态对抗扰动，揭示GUI Agent普遍脆弱并区分可学习与推理瓶颈异常
📌 工作参考价值（4 点）
- 将线上 Agent 可能遇到的弹窗、误操作、状态死锁等异常抽象为分层陷阱（State/Thinking/Action/Round），在部署前构建对抗测试集做压测，提前暴露脆弱环节。
- 用 GRPO 在含陷阱环境中训练可修复大部分单步状态/动作层异常，适合作为上线前的鲁棒性微调步骤；但状态死锁等深层上下文陷阱无法仅靠环境训练解决，需要额外引入记忆、回溯或规则兜底机制。
- 借鉴其“保持任务可解”的扰动构造管道：在业务环境中注入异常时保留原始任务可达性，避免测试集失真，从而准确度量鲁棒性而非任务难度。
- 对电商推荐 Agent，可将广告弹窗、支付中断、页面跳转异常等作为 State 层扰动，将模型选错工具或遗漏步骤作为 Thinking/Action 层陷阱，系统化定位故障来源。
多模态学习的自适应层次表征联盟
🧭 多模态分层共享-私有专家框架
Fudan University · University of Southern California · Cornell University · University of New South Wales · Peking University
提出AHRA分层共享-私有专家框架，缓解跨模态语义粒度错配并提升噪音与缺失鲁棒性
📌 工作参考价值（4 点）
- 多模态商品理解中，不要默认各模态在最终层对齐；用 layer-wise CKA 识别语义深度差异：商品文本/标题往往需深层抽象，商品图/短视频帧的视觉证据在浅中层就可判别，可在对应层级做 shared 对齐，减少浅层视觉信息被 flatten。
- 共享/私有专家分解 + private decorrelation 可迁移到多通道用户/物品表示：跨场景共享专家建模共性，场景或模态专属专家保留细粒度信号，避免搜索/推荐/广告多域数据互相干扰。
- sparsity-controlled soft-gating（foreground exam）适合多模态 item tower 的 token/feature 选择：对缺失或噪声模态自动降权，增强 task-relevant private token，提升线上缺图/缺描述时的鲁棒性。
- 层次 co-fusion 的 intra-level coordination + inter-level semantic selection 可用于多尺度融合商品图文与用户行为序列，动态选择最有利的语义层级，而非固定 concat/attention。
多模态序列推荐的顺序模态丢弃鲁棒性方法
🧭 多模态序列推荐鲁棒性
Stevens Institute of Technology
训练时整段历史独立擦除单模态，让多模态序列推荐在模态缺失时保持 HR@10 精度
📌 工作参考价值（4 点）
- 电商多模态序列模型（如商品图+标题描述）常遇到无图/无文本；可直接将 SMD 作为训练时模态 dropout：对每个 batch，以概率 p 对某模态在整条用户序列上置 0/掩码，让模型不依赖单一模态，实现仅需数行。
- 线上部署前用 retention 指标评估模态缺失下 HR@10 的保留比例，而非只看全模态准确率；设定服务等级，例如文本缺失时至少保留 90% 才允许上线。
- 若主模型为简单加和融合（additive backbone），可额外加 cross-modal reconstruction loss，把极端缺失下的 retention 从 90% 提升到 98%；对于复杂交互融合模型也可尝试但需验证。
- 生产数据中物品缺失比例高（如 Beauty 类文本缺失 48%），应模拟训练时高缺失率（p=0.9+）以贴近真实；SMD 在 95% per-item missing 下仍保留 61% HR@10，而未做仅 22%。
DeepStress：深度搜索代理的压力测试
🧭 搜索代理鲁棒性评估与压力测试
Orange Research · Aix-Marseille Univ. · CNRS
提出DeepStress框架，通过控制检索证据的可信度、相关性和事实性来测试搜索代理对低质量信息的鲁棒性
📌 工作参考价值（4 点）
- 搜索/推荐Agent评估中，可构建类似DeepStress的合成检索环境，注入不同比例的不可靠文档（如虚假产品描述、无关广告），提前暴露模型脆弱点
- 评估指标不应仅看最终答案/推荐准确率，需引入指标量化参数知识与检索知识的冲突情况，区分“被误导”与“合理拒绝”
- 在电商Agent中，可借鉴三个扰动维度：可信度（用户评论真实性）、相关性（搜索召回噪声）、事实性（商品属性错误），针对性设计鲁棒性提升策略
- 对于生成式推荐（如Semantic ID），当检索到的item表示被污染时，可模仿本文方法测试生成结果的偏离程度，指导训练或后处理逻辑
知识与视觉问答基准的陷阱识别与修复：审计、修正与增强
🧭 知识增强多模态评测审计与修正
Rensselaer Polytechnic Institute · AT&T Chief Data Office
系统审计KB-VQA基准，揭示答案可推导性、问题约束和视觉设定上的缺陷，并引入修复与多实体增强协议，纠正模型评价偏差。
📌 工作参考价值（4 点）
- 在电商多模态知识增强场景（如商品问答、属性校验）中，应审计知识库覆盖率与答案可推导性，避免模型利用图像或语言捷径获得高准确率。
- 引入多实体同框的视觉歧义样本（如多商品对比图），迫使模型执行显式的视觉-知识对齐，而非简单匹配单个显著实体。
- 评估指标不能仅依赖端到端答案匹配，需设计中间过程验证（如检索证据、推理步骤）来衡量真实推理能力，模仿“审计-修复”流程。
- 构建知识增强推荐或Agent时，用受控的困难样本集进行诊断测试，发现模型在通道、推理上的薄弱环节。
验证的边界：编码智能体奖励没有万能解
🧭 Agent奖励设计 · 验证信号共同演化
Qwen Team
论证验证信号需兼具可扩展性、忠实性与鲁棒性，四种奖励构建实验指出验证必须与生成器协同演化
📌 工作参考价值（4 点）
- 在推荐/广告排序模型优化中，离线代理指标（如CTR预估）常偏离真实业务目标，可借鉴可扩展–忠实–鲁棒三维框架，定期用用户直接反馈（类似论文“用户作为验证器”）校准奖励，防止过拟合代理指标。
- 生成式推荐（如Semantic ID生成）场景，生成器与验证器应联合迭代更新，防止固定验证标准导致的奖励黑客；可引入自动渐进验证器，随生成能力提升动态调整评估维度。
- 多智能体协作推荐中，对开放意图的用户Query，可采用类“rubric verifier”思路，将模糊需求分解为多个可自动检查的子指标（如多样性、时效性、相关性），提升验证信号鲁棒性。
- 长周期购物助手Agent任务中，可设计自动化验证Agent监控并分段评估推荐链路的中间步骤，降低人工评估成本，同时保持信号忠实性。
HLL：多模态智能体能否跨越人类验证的最后一道防线
🧭 多模态Agent · 验证边界与交互鲁棒性评估 ★ 深度解读
上海交通大学 · 山东大学 · 同济大学
构建CAPTCHA交互基准，分层评估多模态智能体在验证边界上的感知、动作与过程一致性。
📌 工作参考价值（4 点）
- 电商Agent评估应引入分层现实性压力（页面干扰、难度、动态验证），暴露定位与动作精度短板，而非仅看最终结果。
- 借鉴动态验证机制（轨迹连续性、目标中心一致性、重复错误检测），可在订单提交等工作流中确保Agent的操作过程合法，防止“猜对答案”式的成功。
- 失败模式分类（感知解码、目标定位、动作校准、状态跟踪）可直接用于诊断电商Agent在表单填写、按钮点击等场景中的具体瓶颈，指导模型迭代。
- 通过注入弹窗、广告等干扰元素进行压力测试，可提升Agent在真实杂乱电商网页上的抗干扰能力，类似HLL的干扰轴设计可复用到自建评估集。
解耦残差量化：诊断与构建鲁棒推荐语义ID
🧭 生成式推荐 · Semantic ID 鲁棒性诊断与解耦量化 ★ 深度解读
Shopee
提出期望重叠率与有效码本容量框架诊断语义ID退化，并展示解耦残差量化（DRQ）分离连续表示学习与离散分配
📌 工作参考价值（4 点）
- 解耦设计可分别优化连续表示和离散分配：在电商物品语义ID构建中，先训练一个良好对齐与均匀分布的连续VAE隐空间（融合多模态内容+行为对比学习），再冻结后进行层次K-Means聚类，能避免STE梯度带来的几何坍缩与码本欠训练。
- 诊断框架直接用于评估现有tokenizer：利用期望重叠率Oπ与有效码本大小Keff，可以量化分布惩罚（码使用Gini/熵）与几何惩罚（码向量间距）。若Keff远小于名义K，说明码本大量浪费，应及时调整码本大小或增加EMA等分布平滑策略。
- RQP-VAE的EMA+死码复活是解决索引坍塌的廉价工程trick：当遇到热门物品挤占码本时，可借鉴RQP-VAE，用指数移动平均更新码心并定期重置低利用码，使码使用接近均匀，无需改动整体架构。
- 多指标选型避免单一维度陷阱：实验中重构保真（DRQ-VAE最强）、符号鲁棒性（RQP-VAE最强）、软语义匹配（DRQ-VAE+CL最强）存在互斥，做tokenizer选型时需根据下游任务（精确检索vs.语义召回）权衡，不能只看重建误差或碰撞率。
大模型时代可信推荐：机遇与挑战综述
🧭 LLM增强推荐的可信性综述 ★ 深度解读
Zhejiang University · Leiden University · University of Science and Technology of China · National University of Singapore
系统梳理LLM推荐在鲁棒性、公平性、可解释性等六维度的13项机遇与18项挑战，揭示其双刃剑效应
📌 工作参考价值（4 点）
- 冷启动与数据增强：可借鉴LLM生成合成交互（如ColdLLM、LLM-search）或提取语义嵌入（MoRec）来缓解新物品/新用户冷启动，电商上新时直接调用LLM生成高质量伪样本辅助训练。
- 攻击防御策略：在Agent推荐系统中，警惕记忆污染攻击（如DrunkAgent）；可部署LLM驱动的防御模块（如LoRec）做恶意用户检测，或利用语义一致性检测伪造文本（P-Scanner）。
- 偏见缓解工程：微调推荐LLM会放大流行度偏见，可结合逆倾向加权（IPS）或DPO框架（如SPRec）做解耦训练；推理时通过随机打乱候选集多次生成并聚合结果（STELLA、RecRanker）缓解位置偏见。
- 可解释性落地：利用LLM生成个性化自然语言解释直接提升用户信任（如Chat-REC），但需用人类反馈或奖励模型对齐；在评估阶段，可直接用LLM作为可解释质量的多维度自动评测器，降低人工成本。
噪声环境下行动学习：通过带噪交互增强智能体鲁棒性
🧭 Agent 鲁棒训练 · 噪声注入与课程调度 ★ 深度解读
National University of Singapore · Meituan · Tsinghua University · Tianjin University · University of Science and Technology of China
在 Agent RL 训练中模拟用户与工具侧噪声，结合混合轨迹与课程调度，显著提升现实噪声下的性能与泛化能力。
📌 工作参考价值（4 点）
- 在训练电商客服或推荐 Agent 时，可人工构造模糊/不一致/冗余的用户指令，以及工具返回错误、不完整或误导信息，让模型在训练中就接触真实噪声模式。
- 采用混合轨迹训练：每 batch 中保留一部分干净轨迹，部分加入噪声，并在组内分别归一化优势，避免噪声样本主导梯度更新。
- 按性能差距（∆）动态调整噪声：当模型在噪声与干净环境下的成功率差低于阈值时，增大噪声比例与难度，形成平稳的课程学习，防止初期训练崩溃。
- 即使最终只关心干净环境下的表现，这种训练仍可作为隐式数据增强，提升 Agent 的泛化推理与纠错能力，在标准 benchmark 上也能获得稳定增益。
视觉退化下空间智能评测基准 SpaceDG
🧭 多模态大模型空间推理鲁棒性评测
Shanghai Jiao Tong University · Shanghai Artificial Intelligence Laboratory · University of Electronic Science and Technology of China · Chongqing University · The University of Tokyo
首次大规模评测多模态模型在真实视觉退化下的空间推理鲁棒性，并证明退化感知训练可超越人类
📌 工作参考价值（4 点）
- 退化数据增强提升 Agent 鲁棒性：在训练电商搜索、虚拟试穿等多模态 Agent 时，可直接引入 SpaceDG 的退化合成引擎（基于 3DGS）生成逼真的运动模糊、低光照、JPEG 压缩等图像，能显著提升模型对真实世界图像质量的鲁棒性，且不损害干净图像性能。
- 空间推理任务的迁移：SpaceDG-Bench 定义的三类空间任务（相机中心、相机-物体、物体中心）可改造为商品陈列合理性判断、家具摆放推荐等电商场景的评测，检验模型对空间关系（如“笔记本相对显示器在左边”）的理解。
- 退化下的多模态 fallback 策略：评测发现纯文本基线（GPT-5.4 无图像）在严重退化时准确度居然超过某些视觉模型，提示 Agent 设计时可在图像质量过低时自动切换至纯文本推理模式，避免错误空间决策。
- 训练效率启示：在 SpaceDG 退化数据上微调后，8B 模型即可超越人类退化条件下的表现，说明小模型通过针对性数据增强也能获得强鲁棒性，适合电商侧轻量部署。
文本引导的视觉表征学习：电商多模态推荐中稳健应对促销遮挡
🧭 生成式推荐 · 多模态表征 · 双流视觉连接器 ★ 深度解读
Tsinghua University · JD.COM
用结构化元数据引导视觉 token 提取，双流解耦并门控校准，显著提升海报式商品图的检索鲁棒性。
📌 工作参考价值（4 点）
- 双流视觉解耦 + 可靠性门控：将视觉证据分为元数据锚定流和探索流，并通过 cSigmoid 门控进行通道级校准，可迁移到任何多模态商品 embedding 的视觉侧，解决营销图像干扰问题。
- 用标题信号衡量图文一致性：利用 CLIP 全局嵌入计算 image–title 余弦相似度作为门控输入，无需额外标注，可直接用于电商场景的视觉质量判定和自适应融合。
- 冗余缩减正则鼓励互补性：对双流输出做跨流同维去相关，避免两路学到冗余信号，增强联合表征的信息量，适合在对比学习框架下提升检索泛化。
- MLRM 范式优于端到端 MLLM：同等视觉编码器下，轻量连接器 + 检索优化 LLM backbone 的推理 FLOPs 仅需 35G，比 2-4B MLLM 低 8-20 倍，而 Hit Rate 高出 3-5 个绝对点，为工业 I2I 召回提供高性价比方案。