VideoChat3:全开源高效通用视频多模态大模型
🧭 高效通用视频多模态大模型
Nanjing University · Shanghai AI Laboratory · Nanyang Technological University · Peking University
提出膨胀3D ViT与自适应帧分辨率,结合三阶段合成数据,4B参数即超越更大模型,实现高效通用视频理解。
📌 工作参考价值(4 点)
- 视频特征提取效率:I3D-ViT 将 2D ViT 权重直接膨胀到 3D,无需重新训练时空融合模块,可直接迁移到商品视频表征、直播切片理解等场景,大幅降低训练成本。
- 流式处理设计:自适应帧分辨率(Adaptive Frame Resolution)根据视频动态调整抽帧策略,适合电商直播实时分析、监控流式视频中的行为事件,提升吞吐且保持精度。
- 多领域数据合成流水线:通过结构化提示合成多样视频问答对(通用、长视频、流式),可借鉴为推荐系统生成多模态训练数据,例如为商品视频生成属性描述、使用教程等指令微调数据,缓解标注稀缺。
- 全开放生态:模型权重、代码、数据全开源的策略,方便团队快速复现并适配垂直业务,降低自研视频理解模型的门槛,尤其适合需要定制化视觉问答或视频审核的电商场景。
我们能操控黑箱吗?面向推荐系统可控性的协同智能体评估框架
🧭 推荐系统可控性评估 · 多智体协同
Institute of Information Engineering, Chinese Academy of Sciences · School of Cyber Security, University of Chinese Academy of Sciences
首个多智能体协同可控性评估框架CtrlBench-Rec,量化推荐系统在目标发现、画像塑造、偏见缓解上的可引导性,揭示长尾内容顽固抵抗
📌 工作参考价值(4 点)
- 多智能体协作的评估范式可直接复用到电商推荐,用Agent模拟用户下达明确指令(如“推荐更多登山装备”),量化系统对显式意图的响应能力,构建内部可控性测试集。
- 三大评估任务(目标内容发现、兴趣画像塑造、流行度偏差缓解)可作为新增CTR/AUC之外的离线评测维度,尤其适合检验推荐结果是否被热门头部绑架,与长尾新品冷启、ESG目标对齐。
- 框架暴露长尾内容极难被引导,提示业务侧在召回层设计时必须引入显式引导通道(如query介入或主动探索模块),而不能仅靠隐式反馈。
- 可将CtrlBench-Rec改造为审计工具,连续监测推荐系统在特定类目(如合规限制类目)上的可控性,为监管自查提供自动化手段。
训练后方法如何影响推理置信度:SFT、RL、OPD三阶段校准分析
🧭 LLM推理校准与后训练方法相互作用
Eastern Institute of Technology, Ningbo · The Hong Kong Polytechnic University
揭示SFT、RL、OPD在推理前/中/后校准特性迥异,并提出位置感知置信度PosConf大幅提升聚合与早停性能。
📌 工作参考价值(4 点)
- 多路径推理置信度投票:在Agent或RAG系统生成多个推理路径时,可借鉴RL模型的trace-level置信度进行加权投票,并仅在“路径承诺”后的可靠位置提取置信度,避免前期噪声,提升最终答案聚合准确率。
- 推理早停控制:对强延迟约束的在线推荐场景,可利用SFT模型的在线置信度信号做early stopping,动态终止低可能性生成,节省token消耗;OPD模型的早期置信度可用于难度预估,直接放弃高难度请求,进一步降低成本。
- 位置感知置信度使用:通用原则——不从推理全程提取置信度,而是针对不同训练策略识别可靠区间(如OPD仅用前段,RL用后段),可提升置信度的校准性和决策有效性,适用于生成式推荐的理由生成、对话Agent的多轮规划等。
- 后训练方式选择依据:若业务侧重推理前难度预估(如请求过滤),优先OPD;若需在线中断低质生成,优先SFT;若需高可靠的多路聚合,优先RL。
用于代理强化学习的自我演化在线策略蒸馏
🧭 自我演化技能蒸馏 · 代理强化学习
Tsinghua University · Zhejiang University · The Chinese University of Hong Kong · Nanyang Technological University · Tongji University
SEED通过从在线轨迹提取后见之明技能并蒸馏为密集token级信号,弥补了结果奖励与token策略之间的监督鸿沟
📌 工作参考价值(4 点)
- 在训练对话式推荐或工具使用 Agent 时,可从在线轨迹自动提取成功模式/失败规则,蒸馏回策略,缓解稀疏奖励问题
- 用当前策略作为技能分析器实现自我演化,辅助监督与策略分布同步更新,避免离线方案中的分布偏移
- 技能增强的分数重计算(概率偏移)作为密集的 token 级蒸馏信号,可与 RL 损失联合优化,无需额外人工标注
- 提升模型在未见场景的泛化能力,对搜索推荐 Agent 处理长尾查询或复杂对话有一定参考价值
用于实时广告排序的长历史用户Transformer
🧭 序列推荐 · 离线-在线分离架构 ★ 深度解读
Yandex · Applied AI Institute
异步离线编码全量历史+轻量在线编码近期事件,在实时广告排序中恢复72–80%全历史模型质量,生产指标提升超2%
📌 工作参考价值(5 点)
- 离线-在线分裂架构可迁移:对于用户长行为序列建模的延迟瓶颈,可借鉴“离线大模型编码全量历史生成固定向量并缓存,在线轻量模型仅处理最近事件”的模式,适用于电商搜索/推荐/广告的精排或重排阶段。
- 训练时模拟特征滞后:在训练中人为引入两天的数据截止,使模型适应生产环境中用户Embedding的更新延迟,能防止在线效果退化;电商特征存储同样存在更新延迟,可直接复用这一策略。
- 接收域设计与延迟权衡:在线编码器使用窗口注意力,总接收域 = 层数 × 窗口大小,通过调节层数和窗口宽能在质量和延迟之间做显式权衡;电商场景可按延迟预算配置在线序列长度。
- 多表面预训练 + 单表面微调:利用跨场景(搜索、推荐、广告)交互日志做自回归预训练(CTR预测+下一事件检索),再针对目标场景微调,能显著提升目标场景效果;电商多业务线(如首页推荐、搜索、促销页)可复用该迁移学习范式。
- 位置去偏技巧:训练时输入真实历史位置,推理时固定位置为1来预测位置无关CTR,可减少位置偏差,提升排序校准度;电商排序模型同样受位置偏差影响,可直接采用。
自进化Agent Harness框架:基于语义质量多样性的可信增益
🧭 Agent自进化 · 质量多样性搜索 ★ 深度解读
EverMind AI · Shanda Group
将修改提议与可信度评估分离,通过统计检验和质量多样性归档实现harness稳健演化,跨七领域密封测试增益+9~+15.5pp
📌 工作参考价值(4 点)
- 可信的Harness优化闭环:把提示、知识注入、控制流等harness编辑的评估从模型自身剥离,用配对2σ显著性检验在密封测试集上判定增益,部署时可杜绝“幻觉式改进”,适合要求严苛的电商/搜索Agent运维。
- 病理学驱动的归档(GSME):按*(where×why)*(编辑位置×失败原因)维护精英补丁库,支持跨细胞重组,防止搜索坍缩到安全提示微调。在搜索推荐Agent开发中,可借鉴此结构持续积累针对特定失败模式(如过早结束、空 turn)的修复方案。
- 诊断与信用分离模式:强模型负责诊断和提出补丁,确定性代码负责采样、门控和统计检验,这降低了模型错误判断的风险,适合在Agent pipeline中构建自动化的自我改进模块。
- 跨模型病理-补丁匹配规律:发现harness增益高度依赖模型自身的失败分布,同一病理可能跨模型家族重现。在多模型部署场景下,可复用*诊断-信用*循环,快速为不同基座模型定制harness,而不是盲搬同一套配置。
自治商务中的动态可验证多智体人类代理忠诚循环(DVM-HALL)模型与净人类-代理评分(NHAS)
🧭 多智体协作 · 自治商务忠诚度模型 ★ 深度解读
School of Technology, Woxsen University, Hyderabad, Telangana 502345, India · Universitat de Girona, 17004 Girona, Spain
提出多智体忠诚模型与可审计指标,将人类情绪、机器效用、信任、委托与链上执行风险联合建模品牌选择
📌 工作参考价值(4 点)
- 在构建面向代理执行的推荐或广告系统时,可将品牌选择拆解为人类情绪效用(情感资产、满意度、价值感知)与代理机器效用(API可用性、延迟、交付可靠度)的加权融合,通过动态信任和委托系数控制代理自主权。
- 对涉及链上交易或可验证执行的场景,可引入 gas 成本、滑点、MEV 暴露、预言机风险、智能合约漏洞等变量作为代理偏好的负向预测因子,量化执行风险对最终选择的影响。
- NHAS 可以作为在线评估人与代理对齐程度的审计指标:组合偏好对齐、经济效率、执行可靠性和解释质量,结合用户反馈与执行日志,用于代理行为的 post-hoc 监控或奖励信号,区分微小次优决策与关键失败(如超支)。
- 动态信任更新公式(基于对齐、执行质量、解释质量、损失等递归更新)可直接部署于代理系统,实现“过度信任→惩罚→降低委托”的自动校准,避免代理失控。
AgentCompass:解耦式统一 Agent 评估基础设施
🧭 Agent 评测基础设施 · 解耦式架构 ★ 深度解读
Shanghai AI Laboratory
通过解耦 Benchmark、Harness、Environment,实现灵活组合、故障容忍与细粒度轨迹分析的 Agent 评测框架
📌 工作参考价值(4 点)
- 解耦设计复用:将任务定义(Benchmark)、Agent 交互逻辑(Harness)、执行环境(Environment)分离,业务中可组合不同策略与环境进行 A/B 测试,避免重复开发。
- 异步容错流水线:参考其任务分发、并发控制与增量恢复机制,构建长周期 Agent 评估的高效流水线,减少资源浪费。
- 细粒度轨迹诊断:不仅看最终得分,还要记录工具调用、延迟、异常模式,建立分类分析器检测 reward‑hacking、重复循环等缺陷,指导 Agent 迭代。
- 统一模型协议:制定内部标准 API 与数据格式,方便接入不同 LLM 或 Agent 框架进行公平对比,降低评估集成成本。
AI Agent 能否判断任务简单性?面向复杂度感知的推理与执行
🧭 Agent 复杂度感知执行优化
提出 E3 框架让 Agent 先估算任务难度,最小化执行,仅在验证失败时扩展,减少认知冗余
📌 工作参考价值(4 点)
- 最小充分执行原则:在构建推荐系统的多步 Agent(如数据分析、代码调试)时,先尝试用最少步骤完成任务,失败后再逐步扩展上下文,可避免过度检索或调用,显著降低 token 消耗。
- 复杂度感知调度:为 Agent 增加任务难度估算模块,根据任务复杂程度动态分配上下文长度和工具调用次数,防止简单任务消耗过多资源,适合电商场景中大批量轻量查询的自动化处理。
- 冗余度监控:引入类似 ACRR(Agent 认知冗余比)的指标来度量 Agent 执行中的不必要操作,优化工作流设计,帮助我们识别并剪除重复的文件读取或无效推理环节。
- 适应性验证机制:E3 的「先执行、后验证、必要时扩展」策略可直接用于 Agent 驱动的搜索推荐调试、自动 A/B 测试分析等流程,在保证成功率的前提下大幅压缩执行成本。
不仅限于NTP:扩展生成式推荐的训练信号覆盖
🧭 生成式推荐 · 训练信号优化
提出NONTP框架,通过时序对比学习和跨域学习增强NTP训练信号,提升生成式推荐效果
📌 工作参考价值(4 点)
- 训练信号增强可即插即用:TCL和TDL作为辅助任务,只增加训练开销,推理零成本,可直接嵌入现有基于NTP的生成式推荐模型,无需改动推理架构。
- 时序对比学习TCL:采用BYOL风格EMA教师和InfoNCE损失,将隐藏状态与未来K步轨迹对齐,能捕捉长程行为结构,适合电商用户长期兴趣建模,可尝试替代或补充传统序列建模。
- 跨域学习TDL:通过跨域隐藏状态池化后经共享预测头,无额外参数开启第二条梯度通路,有效融合多域行为,适合电商多场景联合训练(如搜索、推荐、广告序列混合)。
- 梯度冲突分析:论文发现辅助任务间可能存在梯度冲突,实际部署时需监控梯度余弦相似度,考虑动态调整任务权重或应用PCGrad等策略。
离散扩散模型:从分词到生成的统一框架
🧭 离散扩散模型的设计空间统一化
McGill University · Mila - Quebec AI Institute · MBZUAI · University of Cambridge · Salesforce
提出将离散扩散模型视为离散状态空间构建问题的统一框架,揭示设计权衡与未来方向
📌 工作参考价值(4 点)
- 离散扩散模型的并行生成特性可大幅降低推荐列表的推理延迟,适合对实时性要求高的搜索/推荐场景。
- 框架强调的状态空间设计(分词方案、词汇拓扑)直接影响生成质量:在生成式推荐中,物品ID的离散表示方式(如Semantic ID)可类比为“分词”,其设计应仔细考虑语义连续性与扩散过程中的噪声注入方式。
- 统一视角提示了训练目标与推理算法的多种组合(如转移矩阵、掩码状态),从业者可以在物品生成任务中尝试不同配置,以平衡生成多样性与保真度。
- 该框架对扩展性和系统优化的讨论,为大规模推荐系统下离散扩散模型的工程化提供了参考,如KV缓存、批处理策略等。
从成功流中追溯代理失败:无监督失败归因方法
🧭 Agent 失败归因 · 无监督异常检测
仅用成功轨迹训练,通过神经控制微分方程建模动态,高效定位代理失败步骤。
📌 工作参考价值(4 点)
- 对于电商搜索推荐Agent系统调试:可借鉴仅用少量成功轨迹(如100条)训练失败识别模型,避免人工标注错误步骤,大幅降低成本。
- 在A/B实验或在线诊断时,快速定位Agent链中哪一步引入错误(如query改写、召回、排序等子模块),提高迭代效率。
- 方法基于动态建模(神经CDE),能捕捉步骤间时序依赖,适合多步Agent链路(如多轮对话推荐、多阶段广告竞价)。
- 推理速度极快(比基于LLM的提示方法快200-5000倍),适合实时在线异常报警和批量离线分析。
递归推理隐兴趣的序列推荐
🧭 序列推荐 · 隐兴趣递归推理
解耦推理与预测,用兴趣压缩和递归推理模块在隐空间逐步精炼,深度可调且无需RL
📌 工作参考价值(4 点)
- Context Compressor 将用户序列压缩为多个隐兴趣向量,配合 Interest Diversity Regularizer 迫使各兴趣捕获不同行为侧面,可直接作为电商多兴趣召回或用户理解模块
- Recursive Reasoner 在独立的隐空间对兴趣进行递归式精炼,这种“逐步思考”的范式可用于带货直播、购物车序列等长序列场景,捕捉演化意图
- 推理深度可动态调节:线上可根据 latency 预算自由选择递归步数,浅层做低延迟预测,深层提升准确率,无需重新训练模型
- 框架完全监督化,无 RL 训练负担,工程实现简单;解耦的设计让 Backbone、Compressor、Reasoner 可单独替换或蒸馏,便于在已有推荐系统上增量叠加推理能力
多头潜在控制:LLM Agent推理决策的统一接口
🧭 Agent 推理时控制接口与多模型路由 ★ 深度解读
University of Alberta · Huawei Technologies Canada Co., Ltd.
通过读取冻结LLM的隐状态轨迹,轻量控制头在推理时做出模型选择与干预决策,大幅降低大模型调用成本。
📌 工作参考价值(4 点)
- 在推荐系统的多模型级联(小模型→大模型)中,可借鉴 Capability Head,从生成隐状态预测小模型是否足够,仅必要时调用大模型,节省成本;特别适合基座模型频繁换代的环境,无需重训基座。
- 对于涉及工具调用的推荐 Agent(如实时查询商品价格、库存),可用 Resolution Head 决定调用时机,减少不必要的工具调用,同时避免遗漏关键调用,提升决策准确率。
- 该轻量控制层只需要冻结基座模型的隐状态,训练成本低(单卡一日内完成),适合业务快速实验和部署;训练数据混合多任务、多模态,使控制信号泛化性更强。
- 前缀预测实验表明,仅用部分生成轨迹即可提前判断模型能力,可在生成早期就决定是否升级模型,进一步降低延迟和计算浪费。
多域检索中无标签逐域污染控制及共形风险保证
🧭 共形风险控制 · 多域检索污染保证
Electric Power Research Institute (EPRI)
提出 C3R,一种即插即用的共形控制层,无标签情况下逐域认证污染预算,在最难域上保证污染降低。
📌 工作参考价值(4 点)
- 无标签域污染控制:无需查询时域标注,仅用推断的域后验即可逐域设定污染预算,适合电商多源检索(商品、评价、攻略)中低成本抑制错误域文档。
- 可认证的风险保证:提供有限样本下逐域污染上界的严格证书,且在最差域上保证污染降低而非仅边际平均,适合对权威性/安全性要求高的金融、法规等场景。
- 软降级优于硬级联:软降级策略在相同认证污染水平下比传统校准级联保留更多召回,可直接作为检索后安全层,不破坏原有排序。
- 堆栈冻结与重排器无关:C3R 作为外挂控制层,不改动现有检索和重排模型,迁移成本极低,适合现有搜索推荐系统快速落地。